KI-Browser: Unsichtbare Sicherheitslücken öffnen Cyberangreifern Tür und Tor

KI-gesteuerte Webbrowser revolutionieren das Surfen - und schaffen gleichzeitig ein Paradies für Hacker.

Die unsichtbare Bedrohung

Während traditionelle Browser Sicherheitslücken meist offensichtlich machen, verstecken KI-gesteuerte Systeme ihre Schwachstellen hinter komplexen Algorithmen. Angreifer nutzen diese Undurchsichtigkeit für gezielte Attacken.

Automatisierte Angriffsvektoren

Machine-Learning-Modelle in Browsern lernen von Nutzerverhalten - genau das macht sie verwundbar. KI-gesteuerte Injection-Angriffe umgehen klassische Sicherheitsprotokolle mühelos.

Das große Schweigen der Tech-Giganten

Browser-Hersteller preisen KI-Features als Revolution an, verschweigen aber die Sicherheitskosten. Typisch für eine Branche, die Risiken erst thematisiert, wenn die Börsenkurse schon eingebrochen sind.

Die nächste Welle von Cyberangriffen wird nicht laut knallen - sie schleicht sich durch die Hintertür der KI-Browser herein.

Sicherheitsforscher weisen auf KI-Browser-Fehler hin

Die meisten Verbraucher sind sich jedoch der Sicherheitsrisiken, die mit der Nutzung von KI-Browsern einhergehen, nicht bewusst. Solche Browser sind durch ein neues Phänomen namens „Prompt Injection“ anfällig für ausgeklügelte Hackerangriffe.

Hacker können KI-Webbrowser ausnutzen, Zugriff auf die angemeldeten Sitzungen von Benutzern erhalten und unbefugte Aktionen ausführen. Beispielsweise können Hacker auf E-Mails und Social-Media-Konten zugreifen oder sogar Bankdaten einsehen und Gelder verschieben.

Laut einer aktuellen Studie von Brave können Hacker versteckte Anweisungen in Webseiten oder sogar Bilder einbetten. Wenn ein KI-Agent diese Inhalte analysiert und die versteckten Anweisungen erkennt, kann er dazu verleitet werden, sie wie legitime Benutzerbefehle auszuführen. KI-Webbrowser können echte von gefälschten Benutzeranweisungen nicht unterscheiden.

Brave -Ingenieure experimentierten mit Comet von Perplexity und testeten dessen Reaktion auf Prompt-Injection. Dabei stellte sich heraus, dass Comet unsichtbaren Text verarbeitet, der in Screenshots versteckt ist. Dieser Ansatz ermöglicht es Angreifern, Browser-Tools zu kontrollieren und Benutzerdaten problemlos trac

Die Ingenieure von Brave bezeichneten diese Schwachstellen als „systemische Herausforderung für die gesamte Kategorie der KI-gestützten Browser“.

Eine sofortige Injektion ist schwer zu beheben

Sicherheitsforscher und Ingenieure sagen, dass die Prompt-Injection schwer zu beheben ist. Das liegt daran, dass Modelle der künstlichen Intelligenz nicht verstehen, woher die Anweisungen kommen. Sie können nicht zwischen echten und gefälschten Eingabeaufforderungen unterscheiden.

Herkömmliche Software kann zwischen sicheren Eingaben und Schadcode unterscheiden, große Sprachmodelle (LLMs) tun sich damit jedoch schwer. LLMs verarbeiten alles, einschließlich Benutzeranfragen, Website-Text und sogar versteckte Daten, und behandeln es als eine einzige große Konversation.

Aus diesem Grund ist die sofortige Injektion gefährlich. Hacker können gefälschte Anweisungen problemlos in sicher aussehenden Inhalten verstecken und vertrauliche Informationen stehlen.

KI-Unternehmen geben zu, dass eine sofortige Injektion eine ernsthafte Bedrohung darstellt

Perplexity erklärte, dass solche Angriffe nicht auf Code oder gestohlene Passwörter angewiesen seien, sondern den „Denkprozess“ der KI manipulieren. Das Unternehmen hat mehrere Verteidigungsebenen um Comet herum aufgebaut, um Prompt-Injection-Angriffe zu stoppen. Die Lösung nutzt Machine-Learning-Modelle, die Bedrohungen in Echtzeit erkennen, und integrierte Leitplanken, die die KI auf die Absicht des Benutzers fokussieren. Darüber hinaus erfordert der Browser für sensible Aktionen wie das Senden einer E-Mail oder den Kauf eines Artikels eine obligatorische Benutzerbestätigung.

Sicherheitsforscher sind der Ansicht, dass KI-gestützten Browsern sensible Konten oder persönliche Daten erst dann anvertraut werden sollten, wenn wesentliche Verbesserungen eingeführt werden. Nutzer können KI-Webbrowser weiterhin nutzen, allerdings ohne Zugriff auf Tools und deaktivierte automatisierte Aktionen. Außerdem sollten sie die Nutzung vermeiden, wenn sie bei Bankkonten, E-Mails oder Gesundheits-Apps angemeldet sind.

Der Chief Information Security Officer (CISO) von OpenAI, Dane Stuckey, erkannte die Gefahren der Prompt-Injection und schrieb auf X: „Ein aufkommendes Risiko, das wir sehr sorgfältig untersuchen und eindämmen, sind Prompt-Injections, bei denen Angreifer bösartige Anweisungen in Websites, E-Mails oder anderen Quellen verstecken, um den Agenten zu unbeabsichtigtem Verhalten zu verleiten.“

Er erklärte, das Ziel von OpenAI bestehe darin, den Nutzern „das Vertrauen zu vermitteln, das ChatGPT-Agenten bei der Nutzung ihres Browsers entgegenbringen, so wie sie ihrem kompetentesten, vertrauenswürdigsten und sicherheitsbewusstesten Kollegen oder Freund vertrauen würden.“ Stuckey sagte, das Team von OpenAI arbeite „hart daran, dies zu erreichen“.

Erhalten Sie bis zu 30.050 $ an Handelsprämien, wenn Sie noch heute Bybit