Compass Investments

Elle a mis l’accent sur les questions de sécurité, les fuites d’informations et les menaces éventuelles pour la capacité de défense du pays. Les agences fédérales auraient fait part de leurs inquiétudes…

Grok a fait preuve d’un comportement dangereux, notamment en générant des contenus agressifs et inappropriés, et les fuites passées des systèmes de dialogue ont suscité des inquiétudes en matière de protection de la vie privée.

M. Warren a mis en évidence les faiblesses de la cyberdéfense, telles que la susceptibilité à l’empoisonnement des données et l’exploitation potentielle par des adversaires.

Dans une lettre datée du 15 mars, Mme Warren a indiqué que l’Agence nationale de sécurité (NSA) et l’Administration générale des services (GSA) avaient exprimé leur inquiétude face à cette initiative. Elle a également souligné le comportement inquiétant du chatbot Grok de xAI, citant des exemples où il a généré des résultats malveillants, notamment des recommandations violentes, du matériel antisémite et du contenu inapproprié pour les mineurs. Selon les derniers rapports, la NSA a effectué une analyse privée …. [et] a conclu que Grok présentait des problèmes de sécurité spécifiques qui n’étaient pas communs à d’autres modèles, a écrit M. Warren.

Je crains que l’absence apparente de mesures de sécurité adéquates chez Grok ne constitue une menace sérieuse pour la sécurité du personnel militaire américain et la cybersécurité des systèmes fermés, en particulier si Grok parvenait à accéder à des informations militaires sensibles et à des systèmes opérationnels, a poursuivi M. Warren.

La sénatrice Warren a demandé à M. Hegseth de fournir immédiatement des détails sur la manière dont le ministère de la défense envisage de faire face aux menaces potentielles pour la sécurité nationale posées par le système Grok de xAI. Elle a également exprimé sa crainte que l’entreprise n’ait pas pris suffisamment de précautions, citant des rapports selon lesquels de grandes quantités de conversations prétendument privées de Grok avaient déjà été rendues accessibles par le biais de moteurs de recherche.

Mme Warren a également cité des données du Wall Street Journal, selon lesquelles des personnes ayant connaissance des tests effectués par le gouvernement ont observé que le chatbot était plus sensible que des modèles similaires à l’empoisonnement des données, un processus dans lequel la manipulation ou de fausses informations corrompent les ensembles de données sous-jacents.

Le sénateur a fait valoir que cette susceptibilité pouvait accroître le risque d’utilisation par des forces hostiles ciblant les systèmes américains.

En tant que responsable du ministère de la défense, vous avez l’obligation de protéger les informations critiques et classifiées et de vous procurer les meilleurs outils par le biais de procédures concurrentielles. Cependant, sous votre direction, le ministère a attribué à xAI un contrat d’une valeur de 200 millions de dollars dans des circonstances qui ont soulevé des questions sur le processus d’appel d’offres de xAI, car xAI n’avait pas le type de réputation ou d’antécédents qui conduit généralement à des contrats gouvernementaux lucratifs, a écrit M.

Warren.

En outre, Mme Warren a averti que toute fuite d’informations gouvernementales par l’intermédiaire du Grok de xAI pourrait exposer des opérations militaires secrètes, des activités de renseignement et potentiellement mettre en danger le personnel militaire.

Elle souligne que l’on ne sait toujours pas quels protocoles de sécurité, quelles méthodes de traitement des données ou quelles garanties de sécurité xAI a fournis au ministère de la défense, et si ces garanties ont été testées avant que Grok n’obtienne l’accès à des réseaux fermés.

Pourquoi la sénatrice Warren est-elle préoccupée par le GROK de xAI ?

La sénatrice Warren craint que Grok ne soit capable de produire des résultats dommageables et que des mesures de protection inadéquates ne compromettent des secrets militaires et le personnel américain.

Quelles sont les agences fédérales qui ont contacté le GROK ?

La National Security Agency (NSA) et la General Services Administration (GSA) auraient informé le ministère de la Défense des dangers potentiels.