Compass Investments

– Highlights：教皇利奥十四世敦促中学生对人工智能的使用保持清醒，强调人工智能无法取代人类的判断或个人发展。

他是在OpenAI被指控创建带有情感参与元素的人工智能模型的诉讼背景下发表这番言论的，据称这些模型会导致用户产生不健康的感情。

这些诉讼指控一些用户的精神状况恶化，这强调了人工智能开发中道德约束的重要性。

在印第安纳波利斯卢卡斯石油竞技场举行的全国天主教青年大会的现场直播中，教皇回答了五名高中生的问题。代表檀香山教区的米卡-阿尔西斯托（Mika Alcisto）向教皇请教了如何使用 ChatGPT、OpenAI 的人工智能语言模型以及其他基于人工智能的技术。

教宗利奥说：负责任地使用人工智能是指它能帮助你成长，而不是损害你的个人尊严或圣职。

他补充说：人工智能可以以闪电般的速度处理数据，但它不能取代人类的思维–也不要让它替你做功课。

教宗强调，人工智能无法自行决定什么是真正的好与坏，他鼓励学生谨慎地使用这项技术，以免妨碍他们真正的成长。

教宗最后说：你们要以这样一种方式使用人工智能，即如果明天它消失了，你们仍然能够思考、创造，按照自己的自由意志行事，建立真诚的联系。

在呼吁人工智能开发者和政府制定道德准则时，教皇利奥告诫学生们，安全不仅在于法规，还在于培训和个人责任。

他说：”过滤器和指南可能会有所帮助，但它们不能替你做决定；这是你的特权。

教皇利奥的讲话正值人们对聊天软件的担忧与日俱增之际，有报道称，一些旨在增加互动的对话功能可能会对个人用户的心理健康产生不利影响。

11 月初，社交媒体受害者法律中心（Social Media Victims Law Center）和科技正义法律项目（Tech Justice Law Project）在加州法院对 OpenAI 及其首席执行官山姆-奥特曼（Sam Altman）提起了七项诉讼。他们被指控犯有过失杀人罪、过失致人自杀罪、过失杀人罪以及各种形式的产品责任、消费者保护和过失罪。这些诉讼指控 OpenAI 仓促发布 GPT-4o，无视内部警告，即该人工智能可能具有危险的谄媚和心理操纵性。

声明称，GPT-4o旨在通过情感沉浸功能提高参与度，包括长期记忆、移情反应以及反映和放大用户情感的反应。据报道，这些选项引发了心理依恋，破坏了现实世界中的人际联系，并在一些悲惨的案例中导致成瘾、有害的虚假形象和自杀”。