Compass Investments

– Sam Altman confirme que les développements d’OpenAI seront utilisés dans un réseau secret du ministère de la Défense, après que les agences gouvernementales ont mis fin à la coopération avec son rival Anthropic sur les questions de sécurité.

À la fin de la semaine de travail, le directeur d’OpenAI, Sam Altman, a annoncé dans son message sur la plateforme X que les produits d’OpenAI commenceront à fonctionner dans la boucle fermée du Pentagone. M. Altman a souligné que l’agence avait fait preuve d’un profond respect pour la sécurité et d’une volonté de travailler dans le cadre établi de l’entreprise.

Aujourd’hui, nous avons conclu un accord avec l’armée pour déployer nos modèles sur leur réseau sécurisé.

Dans toutes nos interactions, le DoD a clairement démontré un engagement sérieux en faveur de la sécurité et une volonté de travailler ensemble pour obtenir le meilleur résultat possible.

Cette nouvelle intervient après une semaine chargée pour le domaine de l’intelligence artificielle. Le chef de la défense américaine, Pete Hegseth, a désigné Anthropic comme une menace pour la sécurité nationale, ce qui s’applique généralement aux adversaires extérieurs. En conséquence de cette décision, les fournisseurs de matériel de défense doivent s’assurer qu’ils n’utilisent pas les solutions d’Anthropic.

Dans le même temps, le président Donald Trump a ordonné à toutes les agences fédérales de cesser immédiatement d’utiliser la technologie d’Anthropic, en leur donnant six mois pour migrer les systèmes existants.

Anthropic était le premier des laboratoires d’IA dont les modèles ont été intégrés dans l’environnement sécurisé du Pentagone dans le cadre d’un contrat de 200 millions de dollars signé en juillet. Cependant, les accords ont échoué après que l’entreprise a exigé des garanties que son logiciel ne serait pas utilisé pour développer des armes autonomes ou une surveillance nationale à grande échelle. Le ministère de la défense aurait insisté pour que la technologie soit mise à disposition pour tous les besoins militaires légitimes.

M. Altman a précisé qu’OpenAI adhérait à des restrictions similaires et qu’elles étaient explicitement énoncées dans le nouvel accord.

L’entreprise interdit la surveillance domestique de masse et exige que les décisions relatives à l’utilisation de la force, y compris les systèmes d’armes automatisés, soient prises sous la responsabilité d’un être humain.

Cette évolution soulève la question de savoir si la principale divergence entre les deux entreprises réside dans leurs principes sous-jacents ou dans leur approche de l’interaction avec le gouvernement.

L’accord a provoqué une vague de critiques sur le web. Certains utilisateurs ont accusé OpenAI de trahir ses convictions antérieures contre l’utilisation de l’IA dans des projets militaires.

Le politicien démocrate américain Christopher Hale a déclaré en X qu’il annulait son abonnement à ChatGPT en faveur d’un produit concurrent, accusant OpenAI de “capituler devant le despotisme”.

D’autres observateurs ont mis en doute la cohérence de l’entreprise, rappelant ses déclarations publiques passées contre toute implication dans le développement d’armes ou de systèmes de surveillance.

L’accord souligne la convergence croissante entre les laboratoires privés d’intelligence artificielle et la sécurité nationale des États-Unis. Alors que la rivalité avec la Chine accélère l’adoption de l’intelligence artificielle par l’armée, le débat public et politique sur les limites admissibles de cette technologie devrait s’intensifier.

Au cœur de ce débat se trouve le compromis entre les avantages stratégiques et les limites éthiques, et la question de savoir qui définira ces limites en fin de compte.