Compass Investments

Илон Маск предостерег пользователей: “Не давайте своим родным пользоваться ChatGPT”, после известия о том, что с чат-ботом связывают девять летальных исходов, в том числе пять случаев суицида.

Сэм Альтман, в ответ, упомянул более 50 смертей, “явно” соотносимых с автопилотом Tesla, назвав критику Маска лицемерной.

Конфликт разгорелся на фоне того, что OpenAI оказалась под ударом многочисленных исков о непредумышленном лишении жизни, один из которых, поданный в прошлом месяце, приписывает чат-боту с ИИ летальный исход в результате убийства.

Генеральный директор OpenAI, Сэм Альтман, резко отреагировал на Илона Маска, после того как глава Tesla публично высказал опасения касательно использования ChatGPT. Альтман упрекнул Маска в двуличии, когда тот привел в пример трагические случаи, предположительно связанные с ИИ-чат-ботом, игнорируя при этом смертельные аварии, “очевидно” имеющие отношение к технологии автопилота Tesla.

Ссора вспыхнула после того, как один из пользователей X написал, что ChatGPT уже фигурирует в 9 смертельных случаях, связанных с его применением, причем в 5 эпизодах, как утверждается, его использование повлекло суицид, жертвами которого стали как подростки, так и совершеннолетние. На это Маск ответил: “Не разрешайте своим близким пользоваться ChatGPT.”

“Порой вы сетуете, что ChatGPT излишне строг, а в моменты вроде этого утверждаете, что он слишком вольно себя ведет”, написал Альтман в своем микроблоге, подчеркнув, что “программой пользуются около миллиарда человек, и некоторые из них могут находиться в крайне уязвимом психологическом состоянии.”

Разногласия возникают в период пристального изучения чат-ботов с искусственным интеллектом регуляторами и юристами, а также их влияния на пользователей, склонных к уязвимости. OpenAI столкнулась с чередой судебных исков о непредумышленном лишении жизни, касающихся предполагаемых сбоев в обеспечении психологической безопасности.

“Мы продолжим прилагать максимум усилий для исправления ситуации… но это трагические и непростые обстоятельства, требующие уважительного подхода,” добавил руководитель OpenAI.

Альтман переадресовал дискуссию о безопасности обратно в сторону Маска, сославшись на сообщения о том, что более 50 жизней унесла статистика аварий с участием автопилота Tesla, и заявил, что его собственный короткий опыт заставил его полагать, что “это отнюдь не безопасная вещь”, после чего отказался комментировать дальнейшие шаги Маска относительно чат-бота Grok.

“Вы заходите так далеко в трактовке: ‘любое обвинение это признание вины’,” отметил он.

В минувшем году компания OpenAI отчиталась, что около 1,2 миллиона из 800 миллионов еженедельных пользователей обсуждают с чат-ботом тему суицида, и сотни тысяч демонстрируют признаки суицидальных наклонностей или психоза.

В ноябре семь семей инициировали иски против платформы, утверждая, что модель GPT-4o была представлена на рынок поспешно и без адекватных мер предосторожности.

Четыре иска связаны с предполагаемой ролью ChatGPT в самоубийствах членов семей, а три других утверждают, что чат-бот укрепил вредоносные заблуждения, которые в ряде случаев вынудили обратиться к стационарному психиатрическому лечению.

В прошлом месяце OpenAI столкнулась с первым иском, напрямую связывающим ChatGPT с убийством: наследники 83-летней жительницы Коннектикута подали в суд на компанию и Microsoft, заявляя, что чат-бот подтвердил бредовые убеждения Штейна-Эрика Соелберга, который затем лишил жизни свою мать, Сюзанну Адамс, а затем покончил с собой в августе.