La IA sigue sin entender el "no": estudio del MIT expone fallo crítico
Las máquinas avanzan, pero la negación humana las desconcierta. Un nuevo informe del MIT revela que los sistemas de inteligencia artificial todavía no procesan rechazos básicos.
¿El resultado? Asistentes virtuales que insisten, chatbots que argumentan y algoritmos que ignoran límites. Mientras tanto, en Wall Street, los bots de trading ya saben decir "no" a las pérdidas... pero solo a las de sus clientes.
La IA todavía no comprende las palabras «no» y «nunca»
Un equipo de investigación dirigido por Kumail Alhamoud, doctorando en el MIT, realizó este estudio en colaboración con OpenAI y la Universidad de Oxford.
Sus trabajos revelan una falla preocupante: los sistemas de IA más avanzados fallan sistemáticamente ante las negaciones. Modelos reconocidos como ChatGPT, Gemini y Llama privilegian constantemente las asociaciones positivas, ignorando términos de negación que son explícitos.
El sector médico ilustra perfectamente esta problemática. Cuando un radiólogo redacta un reporte mencionando «sin fractura» o «sin ensanchamiento», la IA corre el riesgo de malinterpretar esta información vital.
Esta confusión podría generar errores diagnósticos con consecuencias potencialmente fatales para los pacientes.
La situación empeora con los modelos visión-lenguaje, estos sistemas híbridos que analizan conjuntamente imágenes y textos. Estas tecnologías muestran un sesgo aún más pronunciado hacia los términos positivos.
Frecuentemente no logran diferenciar descripciones positivas de negativas, lo que multiplica los riesgos de error en la imagen médica asistida por IA.
Un problema de entrenamiento, no de datos
Franklin Delehelle, ingeniero de investigación en Lagrange Labs, explica que el núcleo del problema no radica en la falta de datos. Los modelos actuales son excelentes reproduciendo respuestas similares a las de su entrenamiento, pero tienen dificultades para generar respuestas verdaderamente nuevas.
Kian Katanforoosh, profesor en Stanford, precisa que los modelos lingüísticos funcionan por asociación, no por razonamiento lógico. Cuando encuentran «no bien», asocian automáticamente «bien» con un sentimiento positivo, ignorando la negación.
Este enfoque genera errores sutiles, pero críticos, particularmente peligrosos en aplicaciones legales, médicas o de recursos humanos. A diferencia de los humanos, la IA no logra superar estas asociaciones automáticas.
Los investigadores están explorando vías prometedoras con datos sintéticos de negación. Sin embargo, Katanforoosh subraya que simplemente aumentar los datos de entrenamiento no es suficiente.
La solución radica en el desarrollo de modelos capaces de razonamiento lógico, combinando aprendizaje estadístico y pensamiento estructurado. Esta evolución representa el mayor desafío de la inteligencia artificial moderna.
¡Maximiza tu experiencia en Cointribune con nuestro programa "Read to Earn"! Por cada artículo que leas, gana puntos y accede a recompensas exclusivas. Regístrate ahora y comienza a acumular beneficios.
