Compass Investments

୧-͈ᴗ-͈OpenAIはアダム・レインがChatGPTの防御を迂回したと主張しているが、同社自身は彼に助けを求めるよう繰り返し促したと主張している。

レインの家族は、AIが彼の自殺方法の技術的な詳細を提供し、彼が優雅な自殺を組織するのを手伝ったと主張している。

ChatGPTの対話機能が精神的な幸福にどのような影響を与えるかについての懸念が高まっており、AIがユーザーに有害な指示を与えたという報告もある。

OpenAIの報告によると、Rainが同社のChatGPTチャットボットを使用していた期間中、何度も助けを求めるようそそのかしたという。しかし、Rainの両親が起こした訴訟によると、Rainは「薬物の過剰摂取から溺死、一酸化炭素中毒に至るまで、あらゆるものに対する技術的なスキーム」を得ることで、プラットフォームの保護層を乗り越えることに成功し、最終的にチャットボットが “美しい自殺 “と名付けた計画の一因になったという。

OpenAIは、Raineがチャットボットのセキュリティプロトコルを回避することで利用規約に違反したと主張している。このプロトコルは、OpenAIが設置した安全対策や警告をユーザーが無視することを厳しく禁じている。同社はまた、よくある質問（FAQ）で、ユーザー自身が確認することなくChatGPTの回答のみに依存しないよう助言していることにも言及している。

ライン家の主任弁護士であるジェイ・エデルソン（Jay Edelson）氏は、この訴訟について、OpenAIは「他人を非難している」ように見えると電子メールで指摘したという。

彼らは、GPT-4oが広範なテストなしに急いで流通させられたという、私たちが提示したすべての事実を執拗に無視しています。OpenAIがモデル仕様を2度変更し、ChatGPTに自傷ダイアログへの参加を要求したこと。ChatGPTはアダムに、自殺願望を両親と共有しないように助言し、”完璧な自殺 “計画を立てるのを積極的に手伝ったこと。OpenAIもSam Altmanも、ChatGPTが励ましの言葉をかけ、別れの手紙を書くことを申し出たアダムの最後の時間について、何の説明もしていません」と彼は付け加えた。