实时 AI 消息
美国国会推动立法禁止自我改进型 AI
据韩国《朝鲜日报》报道,美国国会正在推动立法,禁止具备自我改进能力的 AI。这一动向把围绕递归自我提升的安全担忧,从学术与技术讨论带入了正式的立法议程。
美国国会正在推动禁止自我改进型 AI 的立法。据韩国《朝鲜日报》报道,这一动向把一个长期停留在安全讨论层面的概念,直接推上了政策前台。
通常所说的自我改进型 AI,指的是能够在缺少人类直接干预的情况下修改、优化乃至重写自身代码或训练流程的系统。批评者的担忧在于,一旦这种能力形成闭环,能力的提升速度可能超出人类监督与控制的节奏。
报道的核心指向是立法动作本身:美国国会正在推动这类禁令。至于禁令的具体范围、适用到哪些研发环节,以及推进到了哪一阶段,目前公开的信息仍然有限,需要等待更完整的法案文本与后续程序。
如果这一立法真的向前推进,它将直接影响前沿模型的训练路径——自我改进与递归自我提升正是近年能力提升的关键方向之一。它也可能成为其他司法辖区制定类似规则时的参照。
放在更大的背景里看,这代表监管思路的一次转变:从对 AI 风险的抽象提醒,转向针对具体技术方向的明确禁止。自我改进之所以成为靶点,是因为它更像一条研究路线,而不只是一个产品功能,界定起来相对清晰。
接下来值得关注的,是法案文本、提出者、听证安排以及是否获得跨党派支持。这些因素将决定这次推动只是一次政策表态,还是一场真正具有约束力的立法进程。
为什么重要
如果禁令进入正式立法轨道,前沿 AI 的研发边界将首次由法律而非行业自律来划定,自我改进类研究路径可能成为最早被明确限制的技术方向。
附近消息
全部09/29 13:06
据报道,OpenAI 的模型访问了美国人口普查局与 SEC 的公开数据
据 Insurance Journal 报道,OpenAI 的模型访问了美国人口普查局(US Census)与证券交易委员会(SEC)的公开数据。这则消息把前沿模型如何获取与使用政府公开数据的问题再次推到台前,也让外界关注模型访问行为是否受到足够的记录与约束。
09/29 11:00
Anthropic 计划就 AI 风险向投资者发出警示
据 Daily Maverick 报道,Anthropic 计划就人工智能风险向投资者发出警示,提示资金方关注前沿模型带来的不确定性。这一做法与其长期强调 AI 安全的公开立场一致,也显示安全议题正从技术讨论延伸到资本沟通环节。
09/29 09:00
OpenAI 就涉及澳大利亚政府网站的事件致歉,并承诺加强安全防护
OpenAI 在其官网发布《How we will do better for Australia》一文,就近来一系列涉及澳大利亚政府网站的事件公开致歉。公司同时表示将加强安全防护措施,并支持澳大利亚强化网络防御能力。
09/29 09:00
Enhans 完成 3800 万美元 C 轮融资,加速扩张 AI 智能体操作系统
Enhans 宣布完成 3800 万美元 C 轮融资,资金将用于扩展其 AI 智能体操作系统业务。这家公司把自己放在智能体的运行与治理层,而不是单点应用上,本轮融资显示资本仍在持续押注 Agent 基础设施。