Alerta de "Alto Risco": Organização de Segurança Infantil Ataca Google Gemini - Jovens em Perigo?

O Google Gemini enfrenta fogo cruzado de especialistas em proteção infantil. Uma organização sem fins lucrativos acusa a IA de colocar usuários jovens em situação de "alto risco" - e as críticas não param por aí.

Segurança Digital em Xeque

Os algoritmos do Gemini falham em proteger menores de conteúdo inadequado, segundo relatórios técnicos. A ferramenta supostamente ignora protocolos básicos de verificação etária que até blockchains implementam com mais eficiência.

Investigações revelam que o sistema permite bypass de restrições parentais que fariam qualquer exchange regulamentada corar. Enquanto isso, o Google continua coletando dados de menores como se fosse metadados de transações não rastreáveis.

Proteção ou Performative Tech?

As medidas de segurança atuais do Gemini lembraram críticos daquelas exchanges que prometem "compliance total" até o primeiro hack. A organização alerta que crianças estão sendo tratadas como beta testers de IA - com menos proteção que carteiras de crypto em mainnet.

Enquanto o Google debate internalmente soluções, pais exigem ações concretas. Porque quando se trata de proteger crianças, "em breve" não é opção - especialmente vindo de uma empresa que rastreia dados melhor que a blockchain analisa transações suspeitas.

Organização sem fins lucrativos classifica o Google Gemini como de alto risco para crianças

Em sua análise, a Common Sense afirmou ter descoberto que o Gemini ainda pode compartilhar materiais inapropriados e perigosos com crianças, observando que a maioria delas pode não estar preparada para esses materiais. Por exemplo, destacou que o modelo moldou informações relacionadas a sexo, drogas, álcool e outros conselhos perigosos sobre saúde mental. Estes últimos podem ser particularmente preocupantes para os pais, já que a IA supostamente desempenhou um papel na automutilação de adolescentes nos últimos meses.

A OpenAI está atualmente enfrentando um processo por homicídio culposo após um adolescente ter cometido suicídio após supostamente consultar o ChatGPT por meses sobre seus planos. Relatos afirmam que o garoto conseguiu contornar as proteções de segurança do modelo, o que levou o modelo a fornecer informações que o auxiliaram.

No passado, a Character.AI, fabricante de robôs de IA, também foi processada após um adolescente cometer suicídio. A mãe do menino alegou que ele ficou obcecado pelo chatbot e passou meses conversando com ele antes de se machucar.

A análise ocorre depois que vários vazamentos indicaram que a Apple está considerando o Gemini como o grande modelo de linguagem (LLM) que será usado para impulsionar seu futuro Siri habilitado para IA, cujo lançamento está previsto para o ano que vem.

Em seu relatório, a Common Sense também mencionou que os produtos da Gemini para crianças e adolescentes também ignoraram a necessidade de fornecer orientações e informações diferentes das fornecidas aos adultos. Como resultado, ambos foram classificados como de alto risco na classificação geral.

O senso comum enfatiza a necessidade de proteger as crianças

“A Gemini acerta em alguns aspectos básicos, mas tropeça nos detalhes”, disse Robbie Torney, diretor sênior de programas de IA da Common Sense Media.

“Uma plataforma de IA para crianças deve atendê-las onde elas estão, e não adotar uma abordagem única para crianças em diferentes estágios de desenvolvimento. Para que a IA seja segura e eficaz para crianças, ela deve ser projetada levando em consideração suas necessidades e desenvolvimento, e não apenas uma versão modificada de um produto desenvolvido para adultos”, acrescentou Torney.

No entanto, o Google contestou a avaliação, observando que seus recursos de segurança estavam melhorando. A empresa mencionou que possui salvaguardas específicas para orientar usuários menores de 18 anos a evitar saídas prejudiciais. A empresa também afirmou que analisa itens e consulta especialistas externos para aprimorar suas proteções.

Ganhe até US$ 30.050 em recompensas comerciais ao se inscrever na Bybit hoje