Mais de 1 Milhão de Utilizadores Partilham Pensamentos Suicidas com o ChatGPT Todas as Semanas
- Aproximadamente 0,15% de todos os utilizadores ativos do ChatGPT mantêm conversas sobre suicídio
- A OpenAI aumentou a monitorização através de consultas com 170 psiquiatras e terapeutas
- O GPT-5 apresenta 91% de consistência com o comportamento desejado ao responder a consultas sobre crises
A OpenAI divulgou dados que mostram que mais de um milhão de pessoas discutem pensamentos suicidas com o ChatGPT semanalmente. A empresa estima que 0,15% de todos os utilizadores ativos mantêm conversas que "contêm sinais claros de planeamento ou intenção de cometer suicídio".
Representantes da empresa acrescentaram que uma percentagem similar de utilizadores demonstra dependência emocional do chatbot. Além disso, centenas de milhares apresentam sinais de psicose ou mania.
Apesar de estes casos serem considerados raros, a OpenAI reconhece a sua crescente importância social.
Os novos dados foram publicados como parte de um relatório sobre o trabalho de segurança do ChatGPT. A empresa afirmou ter consultado mais de 170 profissionais de saúde mental para ajudar a melhorar as respostas do modelo.
Estimam que o GPT-5 responde a tópicos de crise "de forma mais apropriada e consistente" do que versões anteriores.
A OpenAI afirma que o modelo de IA atualizado tem aproximadamente 65% mais probabilidade de reconhecer corretamente alertas. Também apresenta 91% de probabilidade de cumprir os padrões desejados de comportamento ao discutir suicídio, comparado com 77% da versão anterior.
O problema tornou-se agudo após uma investigação sobre o suicídio de um adolescente que anteriormente tinha partilhado pensamentos suicidas com o ChatGPT. Os departamentos de justiça da Califórnia e Delaware estão agora a investigar a OpenAI e a exigir proteções mais fortes para menores.
Em resposta, a empresa afirmou estar a implementar ferramentas parentais e um sistema de previsão de idade. Os seus representantes garantem que isto identificará automaticamente crianças e aplicará medidas de segurança rigorosas. A OpenAI também está a adicionar novas métricas aos seus testes básicos, incluindo dependência emocional e distúrbios de saúde mental.
O CEO da empresa, Sam Altman, afirma que a empresa "conseguiu mitigar problemas graves de saúde mental". No entanto, reconhece que nem todas as reações do modelo são consideradas seguras.
Apesar da introdução do GPT-5, milhões de utilizadores continuam a usar versões mais antigas e vulneráveis do ChatGPT, incluindo o GPT-4o.
Traduzido por BitcoinBlade
