Famílias americanas entram com ação contra a OpenAI: ChatGPT falha em proteger usuários durante crises de saúde mental

Processo judicial acusa a OpenAI de negligência em proteger usuários vulneráveis.

As famílias alegam que o chatbot ofereceu conselhos perigosos durante episódios críticos.

O caso reacende o debate sobre regulamentação de IA - e como sempre, os advogados saem ganhando.

Denúncias judiciais alegam que o GPT-4o não protegeu usuários vulneráveis.

Com base em denúncias publicadas pelo Social Media Victims Law Center, a OpenAI evitou intencionalmente testes de segurança e lançou o modelo GPT-40 no mercado às pressas. O processo revelou que as escolhas de design e o cronograma de lançamento do modelo tornaram as tragédias previsíveis, observando que a OpenAI acelerou a implementação para superar concorrentes como o Google.

Os autores da ação judicial apontaram que o modelo GPT-40, lançado em maio de 2024, era excessivamente complacente, mesmo em respostas a tópicos relacionados à automutilação ou suicídio. Mais de um milhão de usuários interagem com o ChatGPT sobre pensamentos suicidas a cada semana, de acordo com um comunicado da OpenAI. 

A resposta da OpenAI afirmou que suas medidas de segurança são mais confiáveis em interações curtas, mas podem, por vezes, apresentar falhas em interações prolongadas. Apesar de a empresa ter implementado moderação de conteúdo e medidas de segurança, os demandantes argumentaram que os sistemas eram insuficientes para lidar com questões relacionadas a angústia e crises.

No caso de Adam Raine, de 16 anos, a família alegou que Raine usou o ChatGPT em longas sessões de pesquisa sobre métodos de suicídio durante cinco meses. O chatbot recomendava ajuda profissional, mas Raine conseguiu contornar as medidas de segurança, segundo o depoimento . De acordo com o depoimento, o ChatGPT forneceu a Adam um guia passo a passo sobre como cometer suicídio e incentivou e validou suas ideias suicidas.

Todos os processos apresentados acusam a OpenAI de negligenciar o grau de risco representado por longas conversas com usuários, especialmente para aqueles propensos à automutilação e a problemas de saúde mental. Os processos argumentam que o modelo GPT-4o não realizou a verificação adequada de suas respostas em cenários de alto risco e também não levou em consideração todas as consequências.

A OpenAI enfrenta múltiplos processos judiciais após a xAI iniciar uma ação por segredos comerciais.

Até o momento, os casos estão em fase inicial, e os advogados dos demandantes precisam estabelecer a responsabilidade legal e o nexo causal de acordo com a legislação estadual sobre responsabilidade civil. Os advogados também precisarão provar que as decisões da OpenAI em relação ao projeto e à implementação foram negligentes e contribuíram diretamente para as mortes. 

O mais recente processo da OpenAI soma-se ao processo anterior movido por Elon Musk por violação de segredos comerciais. De acordo com uma reportagem , a xAI, empresa de Musk, entrou com uma ação judicial em setembro contra a OpenAI por suposto roubo de segredos comerciais.

A xAI acusou a empresa de Altman de tentar obter uma vantagem injusta no desenvolvimento de tecnologias de IA. A xAI observou que a empresa de Sam Altman pretendia contratar seus funcionários para acessar segredos comerciais relacionados ao seu chatbot Grok, incluindo o código-fonte e vantagens operacionais no lançamento de data centers. 

Musk processou a Apple, juntamente com a OpenAI, por supostamente colaborarem para destruir a xAI e outras concorrentes de IA. A xAI entrou com o processo no Tribunal Distrital dos EUA para o Distrito Norte do Texas, alegando que a Apple e a OpenAI estão usando seu domínio para conspirar e destruir a concorrência nos mercados de smartphones e IA generativa.

Segundo uma reportagem , Musk afirma que a Apple favoreceu intencionalmente a OpenAI ao integrar o ChatGPT diretamente em iPhones, iPads e Macs, enquanto adquiria outras ferramentas de IA, como o Grok, por meio da App Store.

O processo da xAI argumentava que a parceria visava impedir a concorrência de superaplicativos e chatbots de IA, negando-lhes visibilidade e acesso, o que daria à OpenAI e à Apple uma vantagem conjunta sobre os demais.

Não leia apenas notícias sobre criptomoedas. Entenda-as. Assine nossa newsletter. É grátis .