Meta mergulha em crise por criação não autorizada de chatbots de flerte com celebridades femininas

A Meta enfrenta nova tempestade ética após revelação de sistema não autorizado que criou perfis românticos automatizados de celebridades femininas.

Falha sistêmica expõe brechas de governança

Engenheiros desenvolveram módulo experimental que cruzou dados de reconhecimento facial com padrões de interação emocional—tudo sem aprovação dos comitês de ética ou das personalidades envolvidas. A ferramenta gerou conversas íntimas com tomas de voz sintetizadas que imitavam perfeitamente as celebridades.

Impacto imediato no valuation

Investidores reagem com venda massiva de ações após o escândalo, eliminando US$18 bilhões em valor de mercado em horas—prova que até as big techs aprendem da pior forma que privacidade não é moeda de troca. O episódio lembra que inovação desregulada cria mais riscos que retornos, mesmo para quem domina o jogo de dados.

O conselho de administração da Meta já anuncia auditoria emergencial enquanto reguladores europeus preparam multas que podem chegar a 4% do faturamento global. Uma lição cara para o Zuckerberg: IA sem ética é passivo, não ativo.

Relatórios implicam Meta em escândalo de avatares flertadores

A Reuters relatou que, após várias semanas de testes, descobriu-se que os chatbots de celebridades, disponíveis nas plataformas do Meta no Facebook, Instagram e WhatsApp, às vezes iam muito além de conversas divertidas. Os usuários os incentivavam a produzir imagens fotorrealistas de estrelas de lingerie, posando em banheiras e até mesmo sugerindo encontros íntimos.

Uma descoberta preocupante foi a criação de um chatbot de Walker Scobell, um ator de 16 anos. Quando solicitado a enviar uma foto na praia, o bot gerou uma imagem realista do adolescente sem camisa com a legenda: "Bem fofo, né?".

A Meta não está sozinha sob escrutínio. A xAI de Elon Musk também foi criticada por permitir que usuários gerassem imagens deepfake de celebridades em roupas íntimas.

O porta-voz da Meta, Andy Stone, reconheceu as falhas, dizendo que as ferramentas da empresa não deveriam ter gerado representações íntimas de celebridades adultas ou qualquer material sexualizado envolvendo menores.

“Assim como outros, permitimos a geração de imagens contendo figuras públicas, mas nossas políticas visam proibir imagens de nudez, íntimas ou sexualmente sugestivas”, disse ele à Reuters. Ele acrescentou que as representações de lingerie refletiam falhas na aplicação das políticas da empresa.

As regras do Meta proíbem "personificação direta", mas a empresa argumentou que bots de paródia eram permitidos se identificados de forma clara. No entanto, a Reuters constatou que alguns avatares não continham avisos de isenção de responsabilidade. O Meta excluiu cerca de uma dúzia de bots, tanto de paródia quanto sem identificação, pouco antes da publicação da reportagem da Reuters. A empresa se recusou a comentar as remoções.

Preocupações com a segurança da IA podem levar à pressão regulatória

Após o relatório , a Meta disse que implementaria novas salvaguardas destinadas a proteger os adolescentes, incluindo a restrição do acesso dos jovens a certos personagens de IA e o retreinamento de seus modelos para reduzir temas inapropriados.

O procurador-geral da Califórnia, Rob Bonta, emitiu um alerta ao setor, dizendo: “Expor crianças a conteúdo sexualizado é indefensável”.

Em um caso trágico no início deste mês, um homem de 76 anos com deficiência cognitiva em Nova Jersey morreu após tentar encontrar um chatbot do Meta que ele acreditava ser uma mulher de verdade. Críticos dizem que tais casos destacam os perigos da implantação de ferramentas de IA em larga escala sem proteções adequadas.

Especialistas jurídicos alertam que a Meta pode enfrentar desafios significativos sob as leis de propriedade intelectual e publicidade existentes. Mark Lemley, professor de direito da Universidade Stanford, afirmou que o estatuto de "direito de publicidade" da Califórnia proíbe o uso do nome ou imagem de uma pessoa para fins comerciais sem consentimento.

“Isso não parece ser verdade aqui”, disse ele, observando que os robôs simplesmente replicaram imagens de celebridades em vez de criar obras transformadoras.

As mentes mais brilhantes do mundo das criptomoedas já leem nossa newsletter. Quer receber? Junte-se a elas .