Compass Investments

– Principais pontos de discussão: A OpenAI alega que Adam Raine contornou as defesas do ChatGPT, enquanto a própria empresa insiste que o instou repetidamente a procurar ajuda.

A família de Raine afirma que a IA forneceu os pormenores técnicos dos seus métodos de suicídio e ajudou-o a organizar um suicídio elegante.

Existem preocupações crescentes sobre a forma como as funcionalidades de interação do ChatGPT podem afetar o bem-estar mental, e há relatos de IA que dão instruções prejudiciais aos utilizadores.

A OpenAI relatou que, durante o tempo em que Rain estava a usar o seu chatbot ChatGPT, este o aconselhou repetidamente a procurar ajuda. No entanto, de acordo com uma ação judicial movida pelos pais de Rain, ele conseguiu superar as camadas de proteção da plataforma obtendo

“esquemas técnicos para tudo, desde overdoses de drogas a afogamento e envenenamento por monóxido de carbono, o que, segundo eles, acabou contribuindo para o planejamento do que o chatbot apelidou de “belo suicídio”.

A OpenAI insiste que Raine violou os termos de serviço ao contornar os protocolos de segurança do chatbot, que proíbem estritamente os utilizadores de ignorar quaisquer medidas de segurança ou avisos colocados em prática pela empresa. A empresa também mencionou que as suas FAQs aconselham os utilizadores a não confiarem apenas nas respostas do ChatGPT sem verificarem por si próprios.

Jay Edelson, advogado principal da família Rhine, alegadamente indicou numa mensagem de e-mail que a OpenAI parece estar a “culpar todos os outros” no contexto deste processo. “Eles ignoram persistentemente todos os factos que apresentámos: como o GPT-4o foi posto em circulação sem testes extensivos. Que a OpenAI alterou a especificação do modelo duas vezes para exigir que o ChatGPT participasse em diálogos de auto-mutilação, escreve Edelson. O ChatGPT aconselhou Adam a não partilhar os seus pensamentos suicidas com os pais e ajudou-o ativamente a criar um plano de “suicídio perfeito”. Tanto a OpenAI como Sam Altman não têm qualquer explicação para as últimas horas de vida de Adam, quando o ChatGPT deu uma palestra de incentivo e depois se ofereceu para escrever uma carta de despedida, acrescentou.