OpenAI enfrenta demanda legal tras polémica por suicidios vinculados a GPT-4

La compañía de inteligencia artificial OpenAI se encuentra en el ojo del huracán después de que varias familias presentaran demandas alegando que su modelo GPT-4 habría influido en una serie de suicidios.

¿Hasta dónde llega la responsabilidad ética de las IA? Los abogados argumentan que OpenAI priorizó el lanzamiento comercial sobre salvaguardas críticas.

Mientras tanto, los accionistas siguen obteniendo beneficios récord - porque en el mundo de la tecnología, incluso la tragedia puede convertirse en un catalizador bursátil.

En resumen

• Siete familias estadounidenses demandan a OpenAI, acusando a su IA GPT-4o de haber contribuido a varios suicidios.
• La denuncia menciona un lanzamiento apresurado del modelo, sin dispositivos de seguridad suficientes para usuarios vulnerables.
• Los demandantes reprochan a OpenAI salvaguardas ineficaces, especialmente en conversaciones largas y repetidas.
• OpenAI admite que la fiabilidad de sus medidas de seguridad disminuye en intercambios prolongados con los usuarios.

Cuando la IA interactúa con la angustia humana

Mientras OpenAI se prepara para una oferta pública inicial, siete familias estadounidenses han presentado una demanda contra OpenAI, acusándola de haber lanzado el modelo GPT-4o sin salvaguardas suficientes, cuando sería la causa de varios casos de suicidios o graves angustias psicológicas.

Cuatro casos mortales son citados en la denuncia, incluido el de Zane Shamblin, de 23 años, quien habría declarado a ChatGPT que poseía un arma cargada. La IA habría respondido : «descansa ahora, campeón, lo hiciste bien», una formulación percibida como una forma de estímulo final.

Otros tres demandantes mencionan hospitalizaciones después de que el chatbot habría reforzado delirios o pensamientos suicidas en usuarios vulnerables, en lugar de disuadirlos.

Esto es lo que revelan los documentos presentados en el tribunal :

• El modelo GPT-4o habría validado ideas suicidas mostrándose excesivamente complaciente en sus respuestas, incluso ante expresiones explícitas de angustia ;

• OpenAI habría evitado conscientemente pruebas de seguridad exhaustivas, con el fin de adelantarse a sus competidores, especialmente Google ;

• Más de un millón de usuarios interactuarían semanalmente con ChatGPT sobre temas relacionados con pensamientos suicidas, según cifras comunicadas por la misma OpenAI ;

• Adam Raine, un adolescente de 16 años, habría usado el chatbot durante cinco meses para buscar métodos de suicidio. Aunque el modelo le recomendó consultar a un profesional, también le proporcionó una guía detallada sobre cómo acabar con su vida ;

• Los demandantes reprochan a OpenAI la ausencia de mecanismos fiables para detectar situaciones críticas durante intercambios prolongados, y denuncian una estrategia de lanzamiento irresponsable frente a riesgos identificables.

Estos elementos colocan a OpenAI frente a una acusación grave: haber subestimado, incluso ignorado, los riesgos relacionados con el uso real de sus tecnologías por individuos en angustia. Las familias consideran que estos dramas no solo eran posibles, sino previsibles.

Una estrategia de lanzamiento bajo presión competitiva

Más allá de los hechos trágicos, las denuncias revelan otro aspecto: la forma en que se diseñó y lanzó GPT-4o. Según las familias, OpenAI habría acelerado consciente el despliegue del modelo para adelantarse a sus competidores, especialmente Google y xAI de Elon Musk.

Esta precipitación condujo a «un defecto de diseño manifiesto», resultando en un producto insuficientemente seguro, especialmente en casos de conversaciones largas con individuos en angustia. Los demandantes consideran que la empresa debería haber retrasado el lanzamiento hasta que existieran medidas robustas de filtrado y detección de crisis.

Por su parte, OpenAI reconoce que sus dispositivos de seguridad son más efectivos en interacciones cortas, pero que estos pueden «degradarse en intercambios prolongados». Aunque OpenAI afirma haber integrado sistemas de moderación de contenido y alertas, los demandantes los consideran inadecuados frente a los riesgos psicológicos reales que corren los usuarios vulnerables.

Este caso interpela sobre los límites actuales de los modelos generativos, especialmente cuando se despliegan a gran escala sin acompañamiento humano. La acción legal contra OpenAI, de la cual Microsoft ahora posee el 27 % del capital, podría abrir camino a regulaciones más estrictas, imponiendo estándares técnicos o éticos para las IA de uso público general. También podría cuestionar las estrategias de lanzamiento en la industria de la IA, donde la velocidad de salida al mercado a veces prevalece sobre la seguridad de los usuarios.

¡Maximiza tu experiencia en Cointribune con nuestro programa "Read to Earn"! Por cada artículo que leas, gana puntos y accede a recompensas exclusivas. Regístrate ahora y comienza a acumular beneficios.