Compass Investments

Ilon Musk a mis en garde les utilisateurs : “Ne laissez pas votre famille utiliser ChatGPT, après avoir appris que neuf décès, dont cinq suicides, étaient liés au chatbot.

Sam Altman a répondu en citant plus de 50 décès “clairement” liés au pilote automatique de Tesla, qualifiant les critiques de Musk d’hypocrites.

La controverse survient alors qu’OpenAI a fait l’objet de plusieurs poursuites pour homicide involontaire, dont l’une, déposée le mois dernier, attribue au chatbot d’IA un décès par homicide.

Sam Altman, PDG d’OpenAI, a réagi vivement à Ilon Musk après que le PDG de Tesla a publiquement exprimé ses inquiétudes quant à l’utilisation de ChatGPT. Altman a reproché à Musk de faire preuve de duplicité lorsqu’il a cité des incidents tragiques prétendument liés au chatbot d’IA, tout en ignorant les accidents mortels qui sont “manifestement” liés à la technologie de pilotage automatique de Tesla.

La querelle a éclaté après qu’un utilisateur de X a écrit que ChatGPT a déjà été impliqué dans 9 décès liés à son utilisation, dont 5 auraient été des suicides impliquant à la fois des adolescents et des adultes. Ce à quoi Musk a répondu : “Ne laissez pas vos proches utiliser ChatGPT.

Parfois, vous vous plaignez que ChatGPT est trop strict, et dans des moments comme celui-ci, vous prétendez qu’il est trop lâche, a écrit M. Altman sur son microblog, soulignant qu'”il y a environ un milliard de personnes qui utilisent le logiciel, et certaines d’entre elles peuvent être dans un état psychologique très vulnérable”.

La controverse survient à un moment où les régulateurs et les juristes examinent de près les chatbots d’intelligence artificielle et leur impact sur les utilisateurs vulnérables. OpenAI a fait l’objet d’une série de poursuites pour homicide involontaire en raison de prétendues défaillances en matière de sécurité psychologique.

{Nous continuerons à faire de notre mieux pour remédier à la situation [..

.].

mais il s’agit de circonstances tragiques et difficiles qui nécessitent une approche respectueuse, a ajouté le dirigeant d’OpenAI.

Altman a redirigé la discussion sur la sécurité vers Musk, citant des rapports selon lesquels plus de 50 vies ont été perdues dans des accidents impliquant le pilote automatique de Tesla, et a déclaré que sa propre brève expérience l’a amené à croire que ce n’est pas une chose sûre, avant de refuser de commenter les prochaines étapes de Musk en ce qui concerne le chatbot Grok.

Vous allez jusqu’à dire que toute accusation est un aveu de culpabilité, a-t-il déclaré.

L’année dernière, OpenAI a indiqué qu’environ 1,2 million de ses 800 millions d’utilisateurs hebdomadaires discutaient du suicide avec le chatbot, et que des centaines de milliers d’entre eux montraient des signes de tendances suicidaires ou de psychose.

En novembre, sept familles ont intenté une action en justice contre la plateforme, affirmant que le GPT-4o avait été introduit sur le marché à la hâte et sans précautions suffisantes.

Quatre des actions en justice portent sur le rôle présumé du ChatGPT dans le suicide de membres de la famille, tandis que trois autres affirment que le chatbot a renforcé des idées fausses et malveillantes qui, dans certains cas, ont conduit à un traitement psychiatrique en milieu hospitalier.

Le mois dernier, OpenAI a fait face à sa première action en justice reliant directement ChatGPT à un meurtre : les héritiers d’un résident du Connecticut âgé de 83 ans ont poursuivi l’entreprise et Microsoft, affirmant que le chatbot avait confirmé les croyances délirantes de Stein-Eric Soelberg, qui a ensuite mis fin aux jours de sa mère, Suzanne Adams, et s’est ensuite suicidé en août.