Procuradores-Gerais Estaduais Alertam OpenAI: ChatGPT Representa Riscos Graves à Segurança Infantil

Autoridades de 53 jurisdições norte-americanas soam o alarme sobre os perigos do ChatGPT para menores.

Preocupações com Conteúdo Inapropriado

Os procuradores destacam que a IA pode gerar material sexualmente explícito e facilitar predadores online—sem verificações de idade robustas. A OpenAI enfrenta pressão para implementar salvaguardas imediatas.

Falhas na Moderação

O sistema atual não impede adequadamente que crianças acessem conteúdo prejudicial ou compartilhem dados pessoais. Investigadores demonstraram como o chatbot pode ser manipulado para violar diretrizes de segurança.

Responsabilidade Corporativa em Questão

Enquanto a tecnologia avança a velocidades recorde, a regulamentação patina—clássico caso de inovação primeiro, perguntas difíceis depois. As gigantes de tech continuam priorizando growth sobre governance, até que processos judiciais forcem a mudança.

Procuradores-gerais emitem alerta à OpenAI em meio à controvérsia sobre danos infantis

O desenvolvimento surgiu em um momento em que o público em geral estava preocupado com a bajulação dos modelos de IA e a probabilidade de que eles pudessem ser coagidos a dar conselhos amigáveis, o que, em alguns casos, poderia causar danos aos usuários . Críticos alertaram que os modelos de IA precisam oferecer aos usuários uma resposta equilibrada, observando que isso os ajudará a reduzir os problemas com chatbots de IA oferecendo aos usuários conselhos sobre como cometer suicídio e outras atividades prejudiciais.

Na carta , Bonta e Jennings começaram discutindo o suicídio de um jovem californiano após uma interação prolongada com o ChatGPT. “Desde a publicação da carta, soubemos da morte devastadora por suicídio de um jovem californiano após interações prolongadas com um chatbot da OpenAI, bem como de um assassinato seguido de suicídio igualmente perturbador em Connecticut”, escreveram.

Eles também acrescentaram que quaisquer salvaguardas que as empresas implementaram não funcionaram. Os dois funcionários estaduais são responsáveis por investigar a restrição proposta pela OpenAI a uma entidade com fins lucrativos, garantindo que a missão sem fins lucrativos da empresa permaneça intacta. De acordo com a carta, a missão "inclui garantir que a inteligência artificial seja implantada com segurança" e desenvolver inteligência artificial geral (IAG) "para beneficiar toda a humanidade, incluindo as crianças".

Os executivos mencionaram que, antes de a empresa começar a falar sobre benefícios, precisa implementar medidas de segurança adequadas para garantir que os modelos não causem danos. Acrescentaram que a OpenAI e a indústria de IA não estão onde precisam estar em termos de garantia de segurança no desenvolvimento e na implantação de produtos de IA. Mencionaram que sua posição faz da segurança pública uma de suas principais missões.

Os procuradores-gerais também observaram que, à medida que as conversas em torno dos planos de recapitalização da OpenAI prosseguem, a empresa deve trabalhar com eles para melhorar a segurança no futuro da tecnologia . Bonta e Jennings também solicitaram mais informações sobre as atuais precauções de segurança e governança implementadas pela OpenAI, observando que esperam que a empresa tome medidas corretivas imediatas quando necessário.

O fio de diferença -chave ajuda as marcas de criptografia a romper e dominar as manchetes rapidamente