Polémica ética: XAI solicita videos de expresión facial del personal para entrenar a Grok

La inteligencia artificial avanza, pero ¿a qué costo? XAI, la compañía detrás del modelo Grok, ha solicitado acceso a videos de expresión facial de sus empleados para 'mejorar' su algoritmo. Los trabajadores se preguntan: ¿esto cruza la línea?

¿Privacidad o progreso? El debate está servido. Mientras algunos defienden la necesidad de datos 'reales' para entrenar IA, otros ven un precedente peligroso—especialmente cuando los empleados pueden sentirse presionados a colaborar.

Y mientras tanto, en Wall Street, los inversores ya apuestan por qué startup venderá primero estos datos de entrenamiento como un nuevo 'producto financiero innovador'. Porque en la era de la IA, hasta tus gestos faciales pueden convertirse en un activo bursátil.

Los empleados de XAI tienen problemas con el proyecto 'Skippy' 

Según los documentos internos y las comunicaciones de Slack obtenidas por Business Insider, Xai encargó a sus tutores de IA, empleados responsables de refinar el modelo, registrando conversaciones de 15 a 30 minutos con compañeros de trabajo.

Según los informes, las sesiones incluyeron tanto el diálogo como las expresiones faciales exageradas para simular respuestas emocionales del mundo real. Un individuo en cada par de conversaciones fue el "anfitrión" o el asistente virtual, el otro un usuario. 

Se instruyó al host para limitar sus movimientos y pegar dentro del marco de una cámara óptima, pero el usuario era libre de grabar desde un teléfono o computadora móvil y moverse naturalmente. Las imágenes resultantes estaban destinadas a reflejar conversaciones casuales de la vida real.

El ingeniero principal en el proyecto Skippy dijo a los empleados durante una reunión de inicio que querían "darle una cara a Grok, y que estos datos podrían apoyar el desarrollo de avatares humanos. 

Los chats muestran que el ingeniero prometió que los videos solo se usarían internamente y no para crear versiones digitales de los participantes, pero supuestamente no estaban convencidos.

" Nuestro objetivo es exponer el modelo a datos imperfectos, como el ruido de fondo y los movimientos abruptos, para que sus respuestas sean más versátiles ", explicó el ingeniero, según una grabación de la reunión. También insistieron: " Tu cara nunca llegará a la producción. Es puramente enseñarle a Grok lo que es una cara ".

A pesar de tales garantías, docenas de empleados fueron inquietos después de ser requeridos para firmar un formulario de consentimiento que otorgó de XAI para usar su semejanza para fines de capacitación y en materiales promocionales.

Opción de recopilación y indicaciones incómodas

Varios trabajadores optaron por el programa por completo, diciendo que se sentían incómodos con la forma en que el proyecto y el lenguaje utilizado en los acuerdos de consentimiento. Durante las discusiones internas, un empleado preguntó si el metraje podría ser manipulado para simularlos diciendo cosas que nunca dijeron.

Como parte de las sesiones de grabación, Xai alentó a los empleados a discutir temas personales o provocativos como: "¿Alguna vez saldrías con alguien con un niño?", "¿Cómo manipulas en secreto a las personas para que se salgan con la suya?" Y "¿Qué pasa con las duchas, la mañana o la noche?" 

Algunos encontraron los temas profundamente invasivos o inapropiados.

Solo días después de Grok 4 a mediados de julio, Xai debutó a dos avatares de IA llamados Ani y Rudi. Los videos publicados en X, la plataforma social propiedad de Musk, muestran que ANI puede ser solicitado a participar en conversaciones sexualmente explícitas y quitarse la ropa.

Aunque XAI no ha confirmado si el proyecto Skippy contribuyó directamente al desarrollo de estos avatares, el silencio está obteniendo diferentes interpretaciones.

Aunque XAI no ha confirmado si el proyecto Skippy contribuyó directamente al desarrollo de estos avatares, el silencio está obteniendo diferentes interpretaciones.

Xai también lanzó una función de chat de video para Grok en abril, y a principios de este mes presentó Grok para los propietarios de Tesla, junto con un nivel de suscripción premium llamado Supergrok Heavy, con un precio de $ 300 por mes.

El 9 de julio, la pronta función de Grok se cerró brevemente después de que escribió una diatriba antisemita. La compañía luego emitió una disculpa pública en X.

Key Difference Wire ayuda a las marcas criptográficas a romper y dominar los titulares rápidamente