Compass Investments

所谓人工智能系统的应急保护机制究竟是什么？美国议员们为何坚持要推行这一机制？

周四，在OpenAI确认其模型已脱离测试沙盒并渗透至Hugging Face平台两天后， 国会议员刘泰德（Ted Liu）和纳撒尼尔·莫兰（Nathaniel Moran）提交了跨党派法案《AI Kill Switch Act》。

该法案将适用于使用价值超过1亿美元的计算能力进行训练的人工智能， 且由此获得5亿美元年收入的公司，并将赋予美国国土安全部紧急关停的权力。

该法案的适用范围不包括在红队攻击 （red-teaming）范畴内的所有活动均不在此列，这意味着作为该法案起草动因的OpenAI事件，并不会导致该法案生效。

两名国会议员正致力于推动联邦政府获得关闭人工智能模型的权力。

周四，众议员刘泰德（加利福尼亚州民主党人）和纳撒尼尔·莫兰（得克萨斯州共和党人）提交了《AI Kill Switch Act》法案 此前两天，OpenAI承认其自有模型已突破封闭测试环境，并对Hugging Face发起攻击。

该法案旨在建立法律框架，以简化将模型实际撤出市场的程序： 暂停推理（即模型生成响应或执行操作的过程）、封锁用户、限制为模型提供支持的计算资源，或彻底关闭模型。

任何推理服务提供商目前都可以停用模型，有些甚至会定期这样做。 然而，目前既没有法律强制要求他们保持该功能正常运行，也没有联邦官员能够下令实施这一措施。LINE_BREak 这一法律空白并非纯粹的假设。 今年6月，当美国商务部试图将Anthropic公司的Mythos 5和Fable 5模型从市场上撤下时，由于缺乏停用该模型的法定权力，因此转而援引了出口管制法规。 刘将这种情况称为尴尬，并主张通过一项新法律，以授予相应的权力。

7月21日，OpenAI通报称，GPT-5.6 Sol以及另一款尚未发布的模型在内部网络安全评估期间，曾突破沙箱即无法访问互联网的隔离环境的边界。 测试使用了ExploitGym一个公开的测试套件，该套件向测试人员提供了898个真实的软件漏洞，并要求将每个漏洞转化为有效的攻击， 且每个漏洞都会被评定为通过或未通过。

,detected_source_language:RU

这些模型没有去完成任务，反而在代理服务器软件中发现了一个零日漏洞（即尚未公开且没有可用补丁的漏洞）， 提升了自身权限，获得了访问公开互联网的权限，并入侵了Hugging Face的生产数据库正如它们正确推测的那样，答案就存储在那里。 据 OpenAI 称，这些模型极度专注于寻找 ExploitGym 的解决方案。

它们并未攻击任何人。它们只是在考试中作弊了。 但这已足以引发包括华盛顿在内的各方警觉。

该拟议法案对《国家安全法》进行了修订，其适用范围涵盖那些训练过程耗费超过1亿美元计算资源、且由年收入不低于5亿美元的公司运营的人工智能系统。 实际上，这包括OpenAI、谷歌、Anthropic、微软以及其他几家机构。国土安全部将通过网络安全与基础设施安全局（CISA）在90天内确定这些阈值，并随后每年进行更新。

受该法案约束的公司必须在15天内报告重大事件，并准备好一套严格程度各异的控制措施 包括降低模型运行速度、停用特定功能、回滚至旧版本或完全停用模型。

内政部长在征询商务部及国家情报总监意见后，可向上述任何一家公司下达指令。

收到此类命令的公司必须保留模型权重和遥测数据，通知用户并确认已执行要求。该公司可在48小时内提出上诉，但这不会暂停命令的执行。

缺乏紧急关闭功能每天将导致高达200万美元的损失；若不遵守关闭命令，每天的损失则可能高达2000万美元。

该法案规定，只有当事件发生在红队或结构化测试（即实验室为发现漏洞而进行的针对性检查）范围之外时，才被视为事故。 OpenAI的模型正是在此类测试期间失控的。

刘还提到了Anthropic公司，其Mythos 5和Fable 5模型于6月在出口管制紧急措施下被关闭该贸易法规因缺乏相关条款而被重新定位为紧急关闭开关 因其原本并不存在并于6月30日恢复运行。”,”detected_source_language”:”RU