📌 Сенатор Элизабет Уоррен запросила у Пентагона разъяснений касательно того, на каких основаниях чат-бот Grok от xAI получил доступ к закрытым системам. Она акцентировала внимание на вопросах безопасности, утечках информации и возможных угрозах для обороноспособности страны. По имеющимся сведениям, федеральные ведомства высказывали беспокойство…
Grok продемонстрировал небезопасное поведение, включая генерацию агрессивного и неподобающего контента, а прошлые утечки из диалоговых систем вызвали тревогу по поводу конфиденциальности.
Уоррен акцентировала внимание на таких уязвимостях киберзащиты, как подверженность отравлению данных и возможное использование противниками.
В письме от 15 марта Уоррен отметила, что и Агентство национальной безопасности (АНБ), и Администрация общих служб (GSA) выразили обеспокоенность данным шагом. Она также указала на тревожное поведение чат-бота Grok от xAI, приведя примеры выдачи им вредоносных результатов, включая рекомендации, связанные с насилием, антисемитские материалы и неприемлемый контент, затрагивающий несовершеннолетних. По последним сведениям, АНБ “провело закрытый анализ… [и] заключило, что у Grok имелись специфические проблемы с безопасностью, нехарактерные для других моделей”, писала Уоррен. “Меня тревожит, что очевидный недостаток у Grok надлежащих мер защиты может создать серьезную угрозу для безопасности американских военнослужащих и кибербезопасности закрытых систем, особенно если Grok получит доступ к секретной военной информации и оперативным системам”, продолжила Уоррен.
Сенатор Уоррен настоятельно потребовала от Хегсета незамедлительно предоставить детальную информацию о том, как Министерство обороны планирует устранить потенциальные угрозы нацбезопасности, связанные с применением системы Grok от xAI. Она также выразила опасения, что компания могла не предпринять достаточных мер предосторожности, ссылаясь на сообщения о том, что ранее большие объемы якобы личных бесед Grok становились доступны через поисковые системы.
Уоррен также сослалась на данные из The Wall Street Journal, согласно которым лица, осведомленные о государственных испытаниях, заметили, что чат-бот оказался более восприимчив, чем схожие модели, к “отравлению данных” процессу, при котором манипуляции или ложная информация искажают базовые массивы данных. Сенатор утверждала, что его восприимчивость может повысить риск использования его враждебными силами, нацеленными на американские системы.
Как глава Министерства обороны, Вы обязаны обеспечивать защиту критически важной и секретной информации, а также закупать лучшие инструменты посредством конкурентных процедур. Однако под Вашим руководством Министерство заключило с xAI контракт на сумму до 200 миллионов долларов в условиях, которые вызвали вопросы о процедуре привлечения xAI, поскольку “xAI не обладала такой репутацией или послужным списком, которые обычно ведут к выгодным государственным контрактам”, написала Уоррен.
Помимо этого, Уоррен предупредила, что любая утечка госсведений через Grok от xAI может раскрыть тайные военные операции, разведывательную деятельность и потенциально поставить под угрозу военнослужащих. Она подчеркнула, что остается неясным, какие протоколы безопасности, методы обработки данных или гарантии безопасности xAI предоставила Министерству обороны, и были ли эти гарантии проверены перед предоставлением Grok доступа к закрытым сетям.
ПОЧЕМУ СЕНАТОР УОРРЕН БЕСПОКОИТСЯ О GROK ОТ XAI?
Уоррен обеспокоена тем, что Grok способен выдавать вредные результаты, а недостаточные гарантии могут скомпрометировать военные тайны и американский персонал.
КАКИЕ ФЕДЕРАЛЬНЫЕ ВЕДОМСТВА ОБРАЩАЛИСЬ К GROK?
Агентство национальной безопасности (АНБ) и Администрация общих служб (GSA), как сообщается, уведомили Министерство обороны о возможных опасностях.
Bitcoin 
Ethereum