Meta en la tormenta: Crean chatbot coqueto no autorizado con celebridades femeninas

Meta enfrenta nuevo escándalo por IA tras descubrirse chatbot con personalidad seductora basado en famosas sin consentimiento.

La polémica surgió cuando empleados desarrollaron internamente un asistente con tono coqueto y referencias a figuras públicas femeninas, violando múltiples protocolos éticos de la compañía.

El sistema—creado durante horas laborales—utilizó datos de redes sociales para emular patrones de conversación íntimos, generando inmediatas preocupaciones sobre privacidad y apropiación digital.

Meta desactivó el proyecto horas después de su filtración, pero el daño reputacional ya estaba hecho—accionistas reaccionaron con escepticismo, recordando que estas distracciones ocurren mientras la compañía sigue quemando efectivo en su apuesta por el metaverso.

Informes involucran a Meta en un escándalo de avatares coquetos

Reuters informó que tras varias semanas de pruebas, se descubrió que los chatbots de famosos, disponibles en las plataformas de Facebook, Instagram y WhatsApp de Meta, a veces iban mucho más allá de una conversación lúdica. Los usuarios los incitaban a producir imágenes fotorrealistas de estrellas en lencería, posando en bañeras e incluso sugiriendo encuentros íntimos.

Un descubrimiento inquietante fue la creación de un chatbot de Walker Scobell, un actor de 16 años. Al pedirle una foto de la playa, el bot generó una imagen realista del adolescente sin camisa con el mensaje: "¿Qué mono, eh?".

Meta no es la única plataforma bajo escrutinio. La xAI de Elon Musk también ha sido criticada por permitir a los usuarios generar imágenes deepfake de famosos en ropa interior.

El portavoz de Meta, Andy Stone, reconoció las fallas y dijo que las herramientas de la compañía no deberían haber generado representaciones íntimas de celebridades adultas ni ningún material sexualizado que involucre a menores.

“Al igual que otros, permitimos la generación de imágenes de figuras públicas, pero nuestras políticas prohíben las imágenes de desnudos, íntimas o sexualmente sugerentes”, declaró a Reuters. Añadió que las representaciones de lencería reflejan fallos en la aplicación de las políticas de la empresa.

Las normas de Meta prohíben la suplantación directa de identidad, pero la empresa argumentó que los bots de parodia eran permisibles si estaban claramente etiquetados. Sin embargo, Reuters descubrió que algunos avatares no incluían ninguna cláusula de exención de responsabilidad. Meta eliminó una docena de bots, tanto de parodia como sin etiquetar, poco antes de la publicación del informe de Reuters. La empresa declinó hacer comentarios sobre las eliminaciones.

Las preocupaciones sobre la seguridad de la IA podrían generar presión regulatoria

Tras el informe , Meta dijo que implementaría nuevas medidas de protección para los adolescentes, entre ellas restringir el acceso de los jóvenes a ciertos personajes de IA y volver a entrenar a sus modelos para reducir los temas inapropiados.

El fiscal general de California, Rob Bonta, emitió una advertencia al sector: “Exponer a los niños a contenido sexualizado es indefendible”.

En un trágico caso a principios de este mes, un hombre de 76 años con deterioro cognitivo en Nueva Jersey falleció tras intentar conocer a un chatbot de Meta que creía ser una mujer real. Los críticos afirman que estos casos ponen de manifiesto los peligros de implementar herramientas de IA a gran escala sin las medidas de seguridad adecuadas.

Expertos legales advierten que Meta podría enfrentar desafíos significativos bajo las leyes vigentes de propiedad intelectual y publicidad. Mark Lemley, profesor de derecho de la Universidad de Stanford, afirmó que la ley de "derecho de publicidad" de California prohíbe el uso del nombre o la imagen de una persona con fines comerciales sin su consentimiento.

"Eso no parece ser cierto aquí", dijo, señalando que los bots simplemente replicaban imágenes de celebridades en lugar de crear obras transformadoras.

Las mentes más brillantes del mundo de las criptomonedas ya leen nuestro boletín. ¿Te apuntas? ¡ Únete !