L’IA toujours incapable de saisir le « non » : une faille embarrassante révélée par le MIT
Malgré les promesses d’intelligence révolutionnaire, les systèmes d’IA butent sur un concept basique—le refus. Une étude du MIT expose cette lacune, rappelant que même les algorithmes les plus sophistiqués ont des limites béantes.
Les chercheurs soulignent que cette incapacité à traiter la négation pourrait avoir des implications dangereuses, surtout dans des domaines comme la finance où les bots ignorent déjà les signaux d’alarme—volontairement ou non.
Encore une preuve que la technologie avance à grands pas... sauf quand il s’agit de comprendre les humains.
En bref
- L’IA moderne échoue systématiquement à comprendre les mots « non » et « pas ».
- Cette défaillance pose des risques majeurs dans le domaine médical et juridique.
- Le problème réside dans la méthode d’entraînement basée sur l’association plutôt que sur le raisonnement logique.
L’IA ne comprend toujours pas les mots « non » et « pas »
Une équipe de recherche dirigée par Kumail Alhamoud, doctorant au MIT, a mené cette étude en partenariat avec OpenAI et l’Université d’Oxford.
Leurs travaux révèlent une faille troublante : les systèmes d’IA les plus avancés échouent systématiquement face aux négations. Des modèles réputés comme ChatGPT, Gemini et Llama privilégient constamment les associations positives, ignorant les termes de négation pourtant explicites.
Le secteur médical illustre parfaitement cette problématique. Lorsqu’un radiologue rédige un rapport mentionnant « pas de fracture » ou « aucun élargissement », l’IA risque de mal interpréter ces informations vitales.
Cette confusion pourrait engendrer des erreurs diagnostiques aux conséquences potentiellement fatales pour les patients.
La situation empire avec les modèles vision-langage, ces systèmes hybrides qui analysent conjointement images et textes. Ces technologies montrent un biais encore plus prononcé envers les termes positifs.
Elles échouent souvent à différencier les descriptions positives des négatives, multipliant les risques d’erreur dans l’imagerie médicale assistée par IA.
Un problème d’entraînement, pas de données
Franklin Delehelle, ingénieur de recherche chez Lagrange Labs, explique que le cœur du problème ne réside pas dans le manque de données. Les modèles actuels excellent à reproduire des réponses similaires à leur formation, mais peinent à générer des réponses véritablement nouvelles.
Kian Katanforoosh, professeur à Stanford, précise que les modèles linguistiques fonctionnent par association, non par raisonnement logique. Quand ils rencontrent « pas bien », ils associent automatiquement « bien » à un sentiment positif, ignorant la négation.
Cette approche crée des erreurs subtiles, mais critiques, particulièrement dangereuses dans les applications juridiques, médicales ou de ressources humaines. Contrairement aux humains, l’IA ne parvient pas à surmonter ces associations automatiques.
Les chercheurs explorent des pistes prometteuses avec des données de négation synthétiques. Cependant, Katanforoosh souligne qu’augmenter simplement les données d’entraînement ne suffit pas.
La solution réside dans le développement de modèles capables de raisonnement logique, combinant apprentissage statistique et pensée structurée. Cette évolution représente le défi majeur de l’intelligence artificielle moderne.
Maximisez votre expérience Cointribune avec notre programme ’Read to Earn’ ! Pour chaque article que vous lisez, gagnez des points et accédez à des récompenses exclusives. Inscrivez-vous dès maintenant et commencez à cumuler des avantages.
