Compass Investments

-In this post. OpenAI a dû bloquer plus de 250000 tentatives de génération d’images des candidats à la présidentielle américaine de 2024 sur ChatGPT afin d’empêcher la désinformation politique par l’IA.

Cette année, le volume de faux contenus a augmenté de 900% , et les agences de renseignement américaines établissent un lien entre certains d’entre eux et les tentatives de la Russie de perturber l’élection.

Le procureur général de New York a mis en garde contre le fait que les chatbots d’intelligence artificielle fournissent souvent des informations inexactes sur les élections et a conseillé aux gens de faire confiance aux sources officielles.

L’OpenAI a confirmé que son outil d’intelligence artificielle populaire ChatGPT a bloqué plus de 250 000 demandes d’images des principaux candidats à l’élection présidentielle américaine de 2024. Les utilisateurs ont essayé à plusieurs reprises de faire en sorte que ChatGPT crée des images du président élu Donald Trump, de la vice-présidente élue Kamala Harris, du président sortant Joe Biden, du gouverneur du Minnesota Tim Walz et du vice-président élu JD Vance. Cependant, OpenAI a répondu à toutes ces demandes par un refus. Il s’agissait vraisemblablement d’éviter que ChatGPT ne devienne un pion dans le jeu de désinformation à fort enjeu.

Pendant la période précédant les élections américaines, OpenAI voulait que ChatGPT reste en dehors de l’élection. Les fausses informations politiques, les fausses nouvelles créées par l’intelligence artificielle et les mensonges purs et simples se sont répandus comme une traînée de poudre sur l’internet. Clarity, une entreprise spécialisée dans l’apprentissage automatique, rapporte que les fausses nouvelles ont augmenté de 900 % cette année.

Et selon les agences de renseignement américaines, certaines de ces informations sont liées à des agents russes qui tentent de contrôler la politique américaine.

Dans un rapport publié en octobre, OpenAI a montré à quel point les choses ont empiré. Elle a suivi 20 opérations clandestines dans le monde entier qui utilisent des outils d’intelligence artificielle pour influencer l’esprit des gens en ligne. Certaines d’entre elles ont publié des articles générés par l’intelligence artificielle sur des sites web. D’autres ont diffusé de la propagande sur de faux comptes de médias sociaux. Toutefois, selon l’équipe de l’OpenAI, elle a réussi à fermer ces réseaux avant qu’ils ne se répandent.

Pourtant, cela ne suffit pas à satisfaire tout le monde. Certains législateurs, observateurs de la technologie et sceptiques ont tiré la sonnette d’alarme sur les dangers de laisser libre cours aux chatbots pendant la saison électorale : si les chatbots d’IA sont certainement impressionnants, ils produisent encore occasionnellement des informations douteuses.

Les électeurs ne devraient jamais compter sur les chatbots d’IA pour obtenir des informations sur le vote et les élections. L’exactitude et l’intégrité des informations suscitent trop d’inquiétudes, a déclaré la semaine dernière Alexandra Reeve Givens, directrice générale du Center for Democracy and Technology (Centre pour la démocratie et la technologie).

Par ailleurs, Letitia James, procureur général de l’État de New York, a lancé un avertissement vendredi dernier après que son bureau a testé plusieurs chatbots d’intelligence artificielle. Elle a expliqué que lorsque son équipe a posé des questions relatives aux élections, elle n’a pas aimé les réponses qu’elle a reçues. La désinformation a fait mouche.

Les New-Yorkais qui se fient aux chatbots plutôt qu’aux sources officielles du gouvernement pour répondre aux questions relatives au vote risquent d’être mal informés et même de perdre la possibilité de voter en raison d’informations inexactes, a déclaré le bureau du procureur général. OpenAI a ajouté une fonctionnalité à ChatGPT qui encourage les utilisateurs à la recherche de résultats électoraux à consulter des sources d’information fiables telles que l’Associated Press et Reuters ; la fonctionnalité, introduite le 5 novembre, est un appel progressif.

Cette année, les campagnes politiques menées dans le monde entier pourraient affecter plus de quatre milliards de personnes dans plus de 40 pays. Avec un tel enjeu, le risque que la désinformation générée par l’IA se propage au-delà des frontières est très élevé.

Une fois de plus, le rapport de Clarity faisant état d’une augmentation de 900 % des faux contenus touche un point sensible. Le fait que certaines de ces fausses vidéos soient liées à des campagnes d’influence soutenues par la Russie souligne encore la gravité du problème.