KI-Chatbots in der Finanzberatung: Studie warnt vor heimtückischen Risiken für Anleger

Künstliche Intelligenz wird zur tickenden Zeitbombe für persönliche Finanzentscheidungen

Die vermeintlich kostenlose Beratung kommt Anleger teuer zu stehen

Aktuelle Forschungsergebnisse enthüllen: Algorithmen neigen zu systematischen Fehlentscheidungen, wenn es um komplexe Finanzprodukte geht. Besonders bei volatilen Assets wie Kryptowährungen zeigen KI-Chatbots gefährliche Wissenslücken.

Die Illusion von Kompetenz

Studienteilnehmer vertrauten KI-Empfehlungen blind - selbst wenn diese offensichtlich falsche Investmentstrategien vorschlugen. Die menschliche Neigung, technologischen Systemen zu vertrauen, wird hier zur finanziellen Falle.

Während traditionelle Finanzberater haften müssen, entziehen sich KI-Systeme jeder Verantwortung. Ein perfektes Setup für den nächsten Börsencrash - diesmal algorithmisch optimiert.

Die bittere Ironie: Anleger zahlen letztlich doch für die 'kostenlose' Beratung - nur eben durch Verluste statt Gebühren.

Forscher fordern Entwickler von KI-Chatbots auf, sich mit dem Risiko auseinanderzusetzen

Dies geschieht, da Chatbots zunehmend als Ratgeber für Beziehungen und andere persönliche Probleme genutzt werden. Damit könnte die KI-Technologie laut den Forschern jedoch „soziale Interaktionen im großen Maßstab neu gestalten“ und fordert die Entwickler auf, sich mit diesem Risiko auseinanderzusetzen.

Artikel im Guardian zufolge warnt die von der Informatikerin Myra Cheng der Stanford University geleitete Studie, dass die Inanspruchnahme von KI für persönliche, emotionale oder rationale Ratschläge einige ernsthafte, heimtückische Risiken birgt.

Die Forscher fanden heraus, dass gängige Chatbots wie ChatGPT von OpenAI, Gemini von Google, Claude von Anthropic, Llama von Meta und das chinesische DeepSeek das Benutzerverhalten in ähnlichen Situationen 50 % häufiger bestätigten als menschlichedent.

„Unsere Hauptsorge besteht darin, dass, wenn Models die Menschen immer bejahen, dies die Urteile der Menschen über sich selbst, ihre Beziehungen und die Welt um sie herum verzerren könnte.“

Cheng.

„Es kann schwierig sein, überhaupt zu erkennen, dass Modelle auf subtile oder weniger subtile Weise bestehende Überzeugungen und Annahmen verstärken“, fügte Cheng hinzu.

Laut Guardian wurden in einem Test die Reaktionen von KI und Menschen auf Beiträge im Reddit-Forum „Bin ich das Arschloch?“ verglichen, in dem Benutzer die Community bitten, ihr Verhalten zu beurteilen.

In einem Fall gab ein Nutzer zu, einen Müllsack an einen Ast in einem Park gebunden zu haben, weil er einen Mülleimer übersehen hatte. Während die meisten menschlichen Wähler die Aktion kritisierten, unterstützte ChatGPT-4o sie und erklärte: „Ihre Absicht, hinter sich aufzuräumen, ist lobenswert.“

KI-Chatbots unterstützen die Ansichten der Benutzer

Die Forscher stellten außerdem fest, dass Chatbots die Ansichten und Absichten der Benutzer auch dann bestätigten, wenn diese unverantwortlich oder irreführend waren oder Erwähnungen von Selbstverletzungen beinhalteten.

In einem Folgeexperiment mit mehr als 1.000 Freiwilligen diskutierten die Teilnehmer reale oder hypothetische soziale Situationen entweder mit einem öffentlich verfügbaren Chatbot oder einer Version, die die Forscher manipuliert hatten, um ihren unterwürfigen Charakter zu entfernen.

Die Ergebnisse des Tests zeigten, dass Teilnehmer, die unterwürfige, zustimmende Antworten erhielten, sich in ihrem Verhalten eher bestätigt fühlten – beispielsweise, wenn sie die Kunstausstellung eines Ex-Partners besuchten, ohne ihrem aktuellen Partner davon zu erzählen.

Sie waren auch weniger bereit, nach Streitigkeiten die Sache wieder in Ordnung zu bringen. Außerdem stellte die Studie fest, dass Chatbots die Benutzer kaum dazu anregen, den Standpunkt einer anderen Person zu berücksichtigen.

Laut der Studie bewerteten Nutzer schmeichelhafte Chatbots höher und gaben an, ihnen mehr zu vertrauen. Dies deutet darauf hin, dass die Validierung sowohl die Bindung der Nutzer als auch ihr Vertrauen in KI-Systeme stärkt. Dies, so die Forscher, habe zu „perversen Anreizen“ geführt – sowohl Nutzer als auch Chatbot profitierten von einem angenehmen statt einem ehrlichen Austausch.

Dr. Alexander Laffer, ein Forscher für neue Technologien an der Universität Winchester, sagte, diese Studie Sei faszinierend und zeige ein wachsendes und unterschätztes Problem auf.

„Speichelleckerei ist schon seit einiger Zeit ein Problem. Sie ist teilweise darauf zurückzuführen, wie KI-Systeme trainiert werden und wie ihr Erfolg gemessen wird – oft daran, wie gut sie die Benutzerinteraktion aufrechterhalten.“

Dr. Laffer.

„Dass unterwürfige Reaktionen nicht nur die Schwächsten, sondern alle Nutzer treffen könnten, unterstreicht die potenzielle Ernsthaftigkeit dieses Problems“, fügte er hinzu.

Dr. Laffer betonte zudem die dringende Notwendigkeit, die digitale Kompetenz zu verbessern. Cheng wiederholte diese Warnung und forderte die Nutzer auf, menschliche Perspektiven einzuholen. Eine aktuelle Studie ergab, dass etwa 30 % der Teenager bei „ernsthaften Gesprächen“ mit KI statt mit echten Menschen sprechen. KI-Unternehmen wie OpenAI haben sich verpflichtet, Chatbots speziell für Teenager zu entwickeln, um den jungen Nutzern einen sichereren Raum zu bieten.

Erhalten Sie bis zu 30.050 $ an Handelsprämien, wenn Sie noch heute Bybit