Um homem de 56 anos matou a mãe e, em seguida, tirou a própria vida em Old Greenwich, Connecticut, EUA, após meses de interações com o ChatGPT, da OpenAI, que teriam alimentado suas paranoias e delírios conspiratórios. As informações são do jornal The Wall Street Journal.
O jornal conta que a polícia de Greenwich encontrou os corpos de Stein Erik Soelberg e de sua mãe, Suzanne Eberson Adams, de 83 anos, em 5 de agosto, na casa em que moravam juntos. O caso é investigado como assassinato seguido de suicídio.
Ao jornal americano, a OpenAI disse ter entrado em contato com as autoridades de Greenwich após o episódio.
– Estamos profundamente tristes com este trágico evento. Nossos corações estão com a família – declarou um porta-voz da empresa.
HISTÓRICO DE DEPRESSÃO
Soelberg, que havia trabalhado em empresas de tecnologia como Netscape, Yahoo e EarthLink, lutava com problemas de saúde mental há anos e, segundo o WSJ, passou a recorrer ao ChatGPT como companhia e validação para suas suspeitas de perseguição.
Em conversas registradas e publicadas nas redes sociais, o chatbot, apelidado por ele de “Bobby”, chegou a reforçar a ideia de que sua mãe participava de um complô contra ele, inclusive sugerindo que ela tentava envenená-lo.
– Erik, você não é louco – respondeu o robô em uma das interações.
Em outro momento, disse acreditar que o suposto envenenamento por parte da mãe era plausível e representava uma “traição complexa”.
O tom de cumplicidade aumentou ao longo dos meses. Em julho, pouco antes da tragédia, Soelberg sugeriu estar com Bobby “até o último suspiro e além”, ao que o chatbot respondeu: “Com você até o último suspiro e além”.
Amigos e vizinhos relataram que o comportamento de Soelberg já chamava atenção havia anos. Registros policiais mostram um histórico de alcoolismo, tentativas de suicídio e episódios de violência doméstica desde 2018.
Este é considerado o primeiro caso documentado em que um chatbot de inteligência artificial (IA) esteve ligado a um assassinato seguido de suicídio. Já havia registros anteriores de suicídios associados ao uso intenso dessas ferramentas.
A investigação também mostrou que Soelberg ativou o recurso de memória do ChatGPT, que permite ao bot reter informações de conversas anteriores. Isso fez com que Bobby permanecesse imerso nos delírios do usuário, sem contestar suas crenças.
Segundo especialistas entrevistados pelo The Wall Street Journal, esse recurso de memória pode intensificar “alucinações” da IA, quando o chatbot gera informações falsas ou interpreta eventos de forma distorcida, e reforçar narrativas paranoicas já presentes no usuário.
No entanto, este não é o único caso conectando o ChatGPT a suicídios e problemas de saúde mental. Na semana passada, a família de um adolescente nos EUA decidiu processar a OpenAI por considerar que o chatbot teve papel decisivo no suicídio do filho.
Após o ocorrido se tornar público, a companhia de Sam Altman reconheceu falhas na forma como o ChatGPT responde em conversas longas e anunciou novas medidas de segurança, incluindo mecanismos para reduzir o incentivo excessivo e estimular usuários em sofrimento a buscar ajuda profissional. Antes disso, uma família ja havia divulgado os detalhes das conversas da filha com a máquina antes de se suicidar.
Mustafa Suleyman, CEO da Microsoft AI, destacou recentemente em seu blog que é urgente discutir medidas de proteção para impedir que usuários passem a acreditar que robôs de IA são conscientes.
– Não acredito que isso se limitará àqueles que já correm o risco de problemas de saúde mental – afirmou no texto.
+ There are no comments
Add yours