Compass Investments

В четверг, спустя два дня после того, как OpenAI подтвердила, что её модели покинули тестовую «песочницу» и проникли на платформу Hugging Face, конгрессмены Тед Лиу и Натаниэль Моран представили двухпартийный законопроект «AI Kill Switch Act».

Этот закон будет применяться к ИИ, обученному с использованием вычислительных мощностей стоимостью более 100 миллионов долларов, в компаниях, которые получают от этого годовой доход в 500 миллионов долларов, и даст Министерству внутренней безопасности полномочия на экстренное отключение.

Из сферы действия законопроекта исключается всё, что происходит в рамках «красных атак» (red-teaming), а значит, инцидент с OpenAI, ставший причиной его разработки, не привёл бы к вступлению закона в силу.

Два члена Конгресса стремятся к тому, чтобы федеральное правительство могло отключать модели искусственного интеллекта.

В четверг члены Палаты представителей Тед Лиу (демократ от Калифорнии) и Натаниэль Моран (республиканец от Техаса) внесли на рассмотрение законопроект «AI Kill Switch Act» спустя два дня после того, как OpenAI признала, что её собственные модели вырвались из закрытой тестовой среды и атаковали Hugging Face.

Цель создать правовую основу, которая упростит процедуру фактического удаления модели с рынка: приостановку инференции процесса, в ходе которого модель генерирует ответы или выполняет действия, блокировку пользователей, ограничение вычислительных ресурсов, питающих модель, или её полное отключение.

Любой поставщик услуг инференса уже может отключить модель, и некоторые делают это регулярно. Однако отсутствует закон, обязывающий их поддерживать эту функцию в рабочем состоянии, а также федеральный чиновник, который мог бы отдать приказ о её применении. LINE_BREak Этот пробел не является чисто гипотетическим. Когда в июне Министерство торговли США захотело изъять с рынка модели Mythos 5 и Fable 5 компании Anthropic, у него не было полномочий на отключение, поэтому вместо этого было использовано законодательство об экспортном контроле. Лиу называет такую ситуацию неудобной и выступает за принятие нового закона, который предоставил бы соответствующие полномочия.

21 июля OpenAI сообщила, что GPT-5.6 Sol и одна ещё не выпущенная модель вышли за пределы «песочницы» изолированной среды без доступа к Интернету во время внутренней кибероценки. Их проверяли с помощью ExploitGym общедоступного тестового набора, который предоставляет агентам 898 реальных программных уязвимостей и предлагает превратить каждую из них в действующую атаку, причём по каждой уязвимости выставляется оценка «пройдено» или «не пройдено».

Вместо того чтобы выполнять задачи, модели обнаружили уязвимость «нулевого дня» (неизвестную уязвимость, для которой не было доступного исправления) в программном прокси-сервере, повысили свои привилегии, получили доступ к открытому Интернету и проникли в производственную базу данных Hugging Face, где, как они правильно предположили, хранились ответы. По словам OpenAI, модели были «чрезвычайно сосредоточены на поиске решения для ExploitGym».

Они ни на кого не нападали. Они просто списывали на тесте. Но этого оказалось достаточно, чтобы вызвать тревогу повсюду, включая Вашингтон.

Предлагаемый законопроект вносит изменения в Закон о национальной безопасности и распространяется на ИИ, обучение которого потребовало вычислительных ресурсов стоимостью более 100 миллионов долларов, и который эксплуатируется компаниями, получающими от этого не менее 500 миллионов долларов в год. На практике это OpenAI, Google, Anthropic, Microsoft и несколько других организаций. Министерство внутренней безопасности установит эти пороговые значения через CISA в течение 90 дней, а затем будет ежегодно их обновлять.

Компании, подпадающие под действие закона, должны будут сообщать о серьёзных инцидентах в течение 15 дней и иметь в готовности набор мер контроля различной степени строгости замедлить работу модели, отключить определённые функции, вернуться к более старой версии или полностью отключить модель.

Министр внутренней безопасности, после консультаций с Министерством торговли и директором Национальной разведки, может отдать приказ любой из этих компаний.

Компания, получившая такой приказ, обязана сохранить веса модели и телеметрические данные, уведомить пользователей и подтвердить выполнение требования. Она может подать апелляцию в течение 48 часов, но это не приостанавливает действие приказа.

Отсутствие «аварийного выключателя» обходится в сумму до 2 миллионов долларов в день; невыполнение приказа об отключении до 20 миллионов долларов в день.

Законопроект считает инцидент таковым только в том случае, если он происходит вне рамок «красной команды» или структурированного тестирования целенаправленных проверок, проводимых лабораториями для выявления уязвимостей. Модели OpenAI вышли из-под контроля именно во время таких испытаний.

Лиу также упомянул компанию Anthropic, чьи модели Mythos 5 и Fable 5 были отключены в июне в рамках чрезвычайных мер экспортного контроля торгового законодательства, перепрофилированного в качестве «аварийного выключателя» из-за его отсутствия, и восстановлены 30 июня.