Compass Investments

– Ограниченное прямое воздействие: На текущей стадии системы искусственного интеллекта от Google Gemini применяются исключительно в несекретных контурах Пентагона. Это дает возможность рабочим группам проверить их надежность и соответствие установленным правилам, прежде чем переходить к более широкому развертыванию.

Ключевые сдерживающие факторы включают в себя внутренние барьеры, запрещающие ряд операций, а также условие от оборонного ведомства о допущении “всех правомерных задач”. Последующие этапы будут зависеть от формулировок контрактов, оценки возможных угроз и согласованности механизмов контроля модели с оборонными директивами.

Требование Министерства разрешить “все законные цели” вызывает разногласия с разработчиками, которые придерживаются строгих мер безопасности. Центральный вопрос состоит в пределах автономности при условии сохранения человеческой отчетности и контроля. Это противоречие определит объемы, критерии принятия систем и процедуры урегулирования спорных моментов для ИИ-агентов.

Anthropic четко обозначила свои принципиальные границы, отказавшись от систем полностью автономного вооружения или масштабной внутренней слежки, что подтверждается публичными заявлениями ее руководства. Эта позиция сужает ряд потенциальных направлений военного применения и отдает приоритет системам, где ключевую роль играет человек.

Планирует ли Министерство обороны масштабировать использование этих ИИ-агентов с несекретного уровня на секретный или совершенно секретный, и в какие сроки?

Ведомство выразило заинтересованность в интеграции в закрытые или высшей степени секретные сети; конкретные сроки остаются конфиденциальными.

Каким образом отказ Anthropic смягчать свои защитные ограничения скажется на стратегии закупок и политике Пентагона в сфере ИИ?