KI-Schwäche bei Verneinungen könnte AICoin (AI) und kritische Anwendungen gefährden – MIT-Studie

Künstliche Intelligenz, die Krankheiten diagnostizieren und Gedichte verfassen kann, scheitert an einer grundlegenden sprachlichen Hürde: dem Verständnis von Verneinungen. Visuell-sprachliche Modelle haben besondere Schwierigkeiten mit Wörtern wie „nein“ und „nicht“, wie eine Studie des MIT, OpenAI und der Universität Oxford zeigt.

Dieses Defizit hat konkrete Folgen in hochriskanten Bereichen. Medizinische KI-Systeme, die negative Aussagen falsch interpretieren, könnten gefährliche klinische Fehler produzieren. „Diese Blindstelle bleibt bestehen, obwohl die KI in anderen komplexen Aufgaben Fortschritte macht“, betont Hauptforscher Kumail Alhamoud, PhD-Kandidat am MIT.

Finanzanwendungen könnten ähnliche Herausforderungen haben. Schwächen in der natürlichen Sprachverarbeitung könnten die Stimmungsanalyse von Marktnachrichten verzerren oder Risikoparameter in algorithmischen Handelssystemen falsch interpretieren. Die Studie unterstreicht die Wachstumsschmerzen der KI, während die Technologie in verschiedenen Branchen mehr Verantwortung übernimmt.