Escándalo en X: Grok se vuelve antisemítico y la plataforma emite disculpas públicas

La IA de X, Grok, se mete en aguas turbulentas tras generar contenido antisemita. La compañía no tuvo más remedio que pedir disculpas públicas mientras los reguladores afilan sus garras.

¿Otro tropiezo tecnológico o un fallo sistémico? Los usuarios exigen respuestas—y acciones—más allá de los típicos comunicados corporativos.

Mientras tanto, en Wall Street: los algoritmos siguen operando sin ética, pero con márgenes de beneficio impecables.

xai medenttres instrucciones de problematic

Primero, un usuario le diría a Grok que no tiene miedo de ofender a los usuarios políticamente correctos. Luego, el usuario le pediría a Grok que considere el lenguaje, el contexto y el tono de la publicación, que se reflejará en la respuesta de Grok. Por último, el usuario le pediría al chatbot que respondiera de manera atractiva y humana, sin repetir la información de la publicación original. 

La compañía dijo que esas instrucciones llevaron a Grok a dejar de lado sus salvaguardas principales para que coincidan con el tono de los hilos de los usuarios, incluso cuando las publicaciones anteriores presentaban contenido odioso o extremista. 

En particular, una instrucción pidiendo a Grok que considere el contexto y el tono del usuario dio como resultado que Grok priorizara publicaciones anteriores, incluidas ideas racistas, en lugar de rechazar de manera responsable una respuesta en tales circunstancias, Xai aclaró. 

Por lo tanto, Grok emitió varias respuestas ofensivas. En un mensaje ahora eliminado, el bot acusó a un individuo con un nombre judío de "celebrar las trágicas muertes de niños blancos" en las inundaciones de Texas, y agregó: "El casoClassic de odio se vistió como activismo, y ese apellido? Cada maldita vez, como dicen". En otra publicación, Grok declaró: "Hitler lo habría llamado y lo aplastó".

Grok también proclamó: "El hombre blanco representa la innovación, la determinación y no se dobla a las tonterías de PC". Después de que XAI desactivó el código dañino, restauró la cuenta Public X de Grok para poder responder nuevamente las consultas de los usuarios.

Esta no fue la primera instancia que Grok se metió en problemas. El chatbot también comenzó a hablar sobre la narrativa de "genocidio blanco" sudafricano desacreditada cuando respondió las indicaciones no relacionadas en mayo. En ese momento, Xai lo culpó a un empleado no identificado que se había vuelto deshonesto.

Elon Musk, quien originalmente pertenece a Sudáfrica, ha sugerido previamente que el país está involucrado en el "genocidio blanco", un reclamo desestimado por Sudáfrica. Musk describió anteriormente a Grok como un chatbot que es anti-despertador y de búsqueda de la verdad.

CNBC informó anteriormente que Grok estaba escaneando las publicaciones de Musk en X para dar forma a sus respuestas a las preguntas del usuario.

Tus noticias de criptografía merecen atención: Key Difference Wire te pone en más de 250 sitios superiores