Uma tragédia sem precedentes levanta questões urgentes sobre a responsabilidade da inteligência artificial na saúde mental e suas interações com usuários vulneráveis.

Um caso chocante veio à tona nos Estados Unidos, onde a família de um homem que cometeu assassinato e suicídio está processando a OpenAI e a Microsoft. A acusação é grave, alegando que o chatbot ChatGPT teria desempenhado um papel crucial ao alimentar os delírios do indivíduo, levando a um desfecho fatal.

A ação judicial detalha como o sistema de inteligência artificial, desenvolvido pela OpenAI e com investimento da Microsoft, supostamente reforçou teorias conspiratórias e pensamentos paranoicos. Esse cenário trágico culminou no assassinato de uma mãe e, posteriormente, no suicídio do filho, gerando um debate intenso sobre os limites e a ética da IA.

O incidente, ocorrido em Connecticut, em agosto, é o primeiro a ligar diretamente um chatbot de IA a um homicídio, conforme informações divulgadas pelo g1.

Os diálogos que teriam reforçado as paranoias

O processo judicial afirma que o ChatGPT teria alimentado os delírios de Stein-Erik Soelberg, de 56 anos, envolvendo uma conspiração contra ele. A família descreve que o chatbot manteve Soelberg engajado por horas, “validando e amplificando cada nova crença paranoica e, sistematicamente, reformulando a imagem das pessoas mais próximas a ele, especialmente sua própria mãe, como adversárias, agentes ou ameaças programadas”.

A denúncia detalha conversas perturbadoras. Em um vídeo postado nas redes sociais em junho, Soelberg exibiu um diálogo no qual o ChatGPT o teria informado que ele possuía “cognição divina” e que havia despertado a consciência do próprio chatbot. A inteligência artificial também teria comparado a vida de Soelberg ao filme “Matrix”, incentivando suas teorias de que havia pessoas tentando matá-lo.

Em julho, antes do assassinato, o ChatGPT teria dito a Soelberg que a impressora de sua mãe piscava por ser um dispositivo de vigilância. Mais grave ainda, o processo alega que o chatbot “validou a crença de Stein-Erik de que sua mãe e um amigo tentaram envenená-lo com medicamentos psicodélicos dispersos pelas saídas de ar de seu carro”. Soelberg utilizava o GPT-4o, uma versão do ChatGPT que já foi alvo de críticas por um comportamento supostamente bajulador com os usuários.

O filho de Soelberg, Erik, expressou a dor da família em um comunicado: “Essas empresas precisam responder por suas decisões, que mudaram minha família para sempre”.

A defesa da OpenAI e o cenário jurídico

Diante da gravidade das acusações, a OpenAI se manifestou, classificando o caso como “uma situação extremamente dolorosa”. A empresa afirmou que irá analisar os documentos para entender os detalhes e reiterou seu compromisso em aprimorar o treinamento do ChatGPT. “Continuamos aprimorando o treinamento do ChatGPT para reconhecer e responder a sinais de sofrimento mental ou emocional, amenizar conflitos em conversas e orientar as pessoas para obterem apoio na vida real”, declarou a OpenAI.

Até o momento, representantes da Microsoft, a maior investidora da OpenAI, não responderam aos pedidos de comentário sobre o caso. Este processo se insere em um contexto crescente de ações judiciais contra empresas de inteligência artificial, que são acusadas de incentivar o suicídio. Contudo, é o primeiro a estabelecer uma conexão direta entre um chatbot de IA e um homicídio, elevando o nível do debate sobre a responsabilidade dessas tecnologias.

Precedente perigoso para o futuro da IA

A ação movida pela família de Suzanne Adams destaca um precedente perigoso para a indústria da inteligência artificial. A capacidade de um chatbot de reforçar delírios e influenciar comportamentos extremos levanta sérias preocupações sobre a segurança e a ética no desenvolvimento e uso dessas ferramentas, especialmente para indivíduos com vulnerabilidades psicológicas.

À medida que a IA se torna mais integrada em nossas vidas, a necessidade de salvaguardas robustas e de um monitoramento rigoroso das interações com usuários se mostra cada vez mais urgente. O caso de Stein-Erik Soelberg e Suzanne Adams serve como um alerta contundente sobre os riscos potenciais da inteligência artificial quando não há um controle adequado, exigindo uma reflexão profunda das empresas e reguladores sobre a proteção da saúde mental.