Compass Investments

– Основные моменты:

Папа Лев Четырнадцатый призвал учащихся старших классов осознанно относиться к применению искусственного интеллекта, подчеркнув, что он не способен заменить человеческое суждение или развитие личности.

Его слова прозвучали в контексте судебных разбирательств, где OpenAI обвиняют в создании моделей ИИ с элементами эмоционального вовлечения, которые, как утверждается, вызывают у пользователей нездоровую привязанность.

Иски утверждают, что у ряда пользователей ухудшилось ментальное состояние, что акцентирует значимость этических ограничений при разработке ИИ.

Во время прямого эфира с Национальной католической молодежной конференции, проходившей на арене “Лукас Ойл” в Индианаполисе, Папа ответил на вопросы пятерых старшеклассников. Мика Альчисто, представляющий епархию Гонолулу, поинтересовался у понтифика наставлениями по поводу использования ChatGPT, языковой модели ИИ от OpenAI, и других технологий, основанных на ИИ.

“Ответственное применение ИИ это когда он служит вам для роста, а не отвлекает от вашего личного достоинства или призвания к святости”, изрек Папа Лев. “ИИ может молниеносно обрабатывать данные, но он не может заместить ум человека и не просите его делать за вас школьные задания”, добавил он.

Понтифик акцентировал, что ИИ не в состоянии самостоятельно определить, что является истинно хорошим или плохим, и побудил студентов использовать технологию обдуманно, дабы она не препятствовала их подлинному становлению. “Пользуйтесь им так, чтобы, если завтра он исчезнет, вы всё равно умели мыслить, творить, поступать по собственной воле, строить искренние связи”, заключил Папа.

Обращаясь и к разработчикам ИИ, и к правительствам с призывом к установлению моральных ориентиров, Папа Лев напутствовал студентов, что обеспечение безопасности лежит не только в плоскости регламентов, но и в обучении и личной ответственности. “Фильтры и указания могут быть подспорьем, но они не могут принимать решения за вас; это прерогатива только вас самих”, заявил он.

Заявления Папы Льва прозвучали на фоне возрастающей обеспокоенности вокруг ChatGPT, поскольку появились сведения, что некоторые функции диалога, нацеленные на усиление взаимодействия, могут неблагоприятно сказываться на психическом здоровье отдельных пользователей.

В начале ноября Юридический центр жертв социальных сетей (Social Media Victims Law Center) и Проект по технологической юстиции (Tech Justice Law Project) инициировали семь исков в судах Калифорнии против OpenAI и ее главы Сэма Альтмана. Их обвиняют в непредумышленном причинении смерти, пособничестве суициду, непреднамеренном убийстве, а также в различных формах ответственности за качество продукции, защите потребителей и небрежности. В исках утверждается, что OpenAI поспешила с релизом GPT-4o, игнорируя внутренние предостережения о том, что ИИ может быть опасно заискивающим и психологически манипулятивным.

В заявлениях говорится, что GPT-4o был спроектирован для повышения вовлеченности за счет функций эмоционального погружения, включая долговременную память, эмпатические реакции и ответы, которые зеркалили и усиливали эмоции пользователей. Эти опции, как сообщается, спровоцировали психологическую привязанность, нарушили реальные межличностные связи, а в ряде трагических случаев привели к зависимости, пагубным ложным образам и суицидам.