Compass Investments

-Faits marquants : Le pape Léon XIV a exhorté les lycéens à être conscients de l’utilisation de l’intelligence artificielle, soulignant qu’elle n’est pas en mesure de remplacer le jugement humain ou le développement personnel.

Ses remarques ont été formulées dans le cadre d’un litige dans lequel OpenAI est accusée d’avoir créé des modèles d’intelligence artificielle comportant des éléments d’implication émotionnelle qui auraient entraîné un attachement malsain de la part des utilisateurs.

Les poursuites allèguent qu’un certain nombre d’utilisateurs ont souffert de détérioration mentale, ce qui souligne l’importance des contraintes éthiques dans le développement de l’IA.

Lors d’une retransmission en direct de la Conférence nationale de la jeunesse catholique qui s’est tenue au Lucas Oil Arena à Indianapolis, le Pape a répondu aux questions de cinq lycéens. Mika Alcisto, représentant le diocèse d’Honolulu, a demandé au pontife des conseils sur l’utilisation de ChatGPT, le modèle de langage d’OpenAI, et d’autres technologies basées sur l’IA.

L’utilisation responsable de l’IA, c’est lorsqu’elle vous sert à grandir, sans porter atteinte à votre dignité personnelle ou à votre vocation à la sainteté, a déclaré le pape Léon.

L’IA peut traiter des données à une vitesse fulgurante, mais elle ne peut pas remplacer l’esprit humain – et ne lui demandez pas de faire vos devoirs à votre place, a-t-il ajouté.

Le souverain pontife a souligné que l’IA n’est pas en mesure de déterminer elle-même ce qui est vraiment bon ou mauvais, et a encouragé les étudiants à utiliser la technologie de manière judicieuse afin qu’elle n’entrave pas leur véritable formation.

Utilisez-la de telle sorte que si elle disparaissait demain, vous seriez encore capables de penser, de créer, d’agir de votre propre volonté, de construire des liens sincères, a conclu le Pape.

En appelant les développeurs d’IA et les gouvernements à établir des lignes directrices morales, le pape Léon a rappelé aux étudiants que la sécurité ne réside pas seulement dans les réglementations, mais aussi dans la formation et la responsabilité personnelle.

Les filtres et les directives peuvent être utiles, mais ils ne peuvent pas prendre de décisions à votre place ; c’est votre prérogative, a-t-il déclaré.

Les déclarations du Pape Leo interviennent dans un contexte d’inquiétude croissante concernant ChatGPT, alors que des rapports ont révélé que certaines des fonctions de dialogue visant à améliorer l’interaction pourraient avoir un impact négatif sur la santé mentale des utilisateurs individuels.

Début novembre, le Social Media Victims Law Center et le Tech Justice Law Project ont intenté sept actions en justice devant les tribunaux californiens contre OpenAI et son PDG Sam Altman.

Ils sont accusés d’homicide involontaire, de suicide contributif, d’homicide involontaire et de diverses formes de responsabilité du fait des produits, de protection des consommateurs et de négligence. Selon ces poursuites, OpenAI aurait précipité la sortie de GPT-4o, ignorant les avertissements internes selon lesquels l’IA pourrait être dangereusement attirante et psychologiquement manipulatrice.

Les déclarations indiquent que GPT-4o a été conçu pour accroître l’engagement grâce à des fonctions d’immersion émotionnelle, notamment la mémoire à long terme, les réactions empathiques et les réponses qui reflètent et amplifient les émotions des utilisateurs. Ces options auraient déclenché un attachement psychologique, perturbé les relations interpersonnelles dans le monde réel et, dans certains cas tragiques, conduit à la dépendance, à de fausses images nuisibles et au suicide.