Großbritannien erwägt Verbot von X nach Vorwürfen: Grok soll unangemessene Bilder produziert haben

Die britische Regierung zieht drastische Maßnahmen in Betracht – ein komplettes Verbot der Plattform X steht im Raum. Auslöser sind Berichte über die KI 'Grok', die angeblich unangemessene Bildinhalte generiert haben soll.

Regulierungsbehörden in Alarmbereitschaft

Die Financial Conduct Authority (FSA) und andere Aufsichtsorgane prüfen den Vorfall mit Hochdruck. Es geht um mehr als nur Content-Moderation – die Debatte trifft den Kern der Plattformverantwortung im Zeitalter generativer KI.

Technologie vs. Regulierung: Der ewige Tanz

Während Tech-Unternehmen immer schneller innovieren, hinken Gesetzgeber hinterher. Dieses Muster kennen wir aus der Kryptowelt nur zu gut: Erst explodieren die Kurse, dann kommen die Regulierer. Ein klassischer Fall von 'move fast and break things' – bis jemand die Scherben zusammenkehren muss.

Die Finanzwelt beobachtet genau

Für Investoren ist das mehr als nur eine Tech-News. Jede regulatorische Zuspitzung bei großen Plattformen sendet Schockwellen durch verwandte Sektoren – einschließlich Krypto und KI-basierte Finanzlösungen. Die Märkte hassen Unsicherheit mehr als schlechte Nachrichten.

Das große Bild

Hier zeigt sich wieder das fundamentale Spannungsfeld unserer Zeit: Innovation braucht Freiraum, Gesellschaft braucht Schutz. Während Politiker über Verbote diskutieren, entwickeln Entwickler längst die nächste Generation von KI-Tools. Am Ende wird nicht die Technologie verboten werden – sondern nur bestimmte Anwendungen. Die Ideen selbst sind bereits in der Wildnis.

Kier Starmer fordert Ofcom auf, alle Optionen zu prüfen

Der britische Premierminister Keir Starmer beauftragte die britische Internetaufsichtsbehörde Ofcom, alle Optionen im Fall Musk zu prüfen, nachdem dessen App Grok angeblich kinderpornografisches Material von jungen Frauen und Kindern generiert hatte. Laut einem Bericht des Telegraph erlaubt das britische Online-Sicherheitsgesetz dem Land, Apps mit Milliardenstrafen zu belegen oder den Zugang zu ihnen in Großbritannien sogar zu sperren. 

Die X-App hat weltweit über 650 Millionen Nutzer, davon mindestens 20 Millionen in Großbritannien. Premierminister Starmer forderte X in der Radiosendung „Greatest Hits“ auf, endlich die unzulässigen Inhalte zu entfernen. Er fügte hinzu, dass gegen Musks App vorgegangen werde, da dies schlichtweg nicht tolerierbar sei. Seine Warnung erfolgte, nachdem mehrere Bilder von Frauen und Kindern in knapper Bekleidung sowie von Frauen in Bikinis aufgetaucht waren, die angeblich vom Grok .

„X muss endlich die Sache in den Griff bekommen, und Ofcom hat unsere volle Unterstützung, um in dieser Angelegenheit Maßnahmen zu ergreifen. Das ist falsch. Das ist rechtswidrig. Wir werden das nicht tolerieren. Ich habe darum gebeten, alle Optionen zu prüfen.“

-Kier Starmer, britischer Premierminister 

Bislang geht man davon aus, dass die Regulierungsbehörde vor der Verhängung des Verbots die üblichen rechtlichen Verfahren einhalten wird, einschließlich Untersuchungen und vorläufiger Entscheidungen. Sollte X die Bedenken von Ofcom nicht ausräumen, könnte die Behörde versuchen, die Website in Großbritannien zu sperren. Ofcom hat die Social-Media-Plattform bereits diese Woche kontaktiert und darauf hingewiesen, dass sie möglicherweise Ermittlungen zu den Bildern einleiten wird. 

Musk glaubt, dass die OSA die Unterdrückung des Volkes zum Ziel hat

Musk hat bereits zuvor kritisiert und behauptet, dieser diene der Unterdrückung der Bevölkerung. Laut Musk birgt der OSA die Gefahr, die Meinungsfreiheit durch seine Maßnahmen zum Schutz von Kindern vor schädlichen Inhalten einzuschränken. Musk merkte an, dass die „lobenswerten“ Absichten des Gesetzes unter anderem eine aggressive Umsetzung durch Ofcom umfassten.

Alexander Ngaire, Leiterin der Hotline der gemeinnützigen Organisation Internet Watch Foundation, erklärte gegenüber der BBC, dass Tools wie Grok die Gefahr bergen, dass KI-generierte sexuelle Darstellungen von Kindern in den Mainstream-Medien landen. Sie stufte das Material gemäß britischem Recht als Kategorie C ein, der niedrigsten Kategorie für strafrechtliche Zwecke. Sie fügte hinzu, dass der Nutzer, der die Bilder hochgeladen hatte, ein anderes KI-Tool als Grok verwendet hatte, um ein Bild der Kategorie A zu erstellen, das als schwerstes strafbares Material gilt.

Laut Ngaire ist die IWF besorgt über die Leichtigkeit und Geschwindigkeit, mit der fotorealistisches Material mit Darstellungen sexuellen Kindesmissbrauchs (CSAM) erstellt werden kann. Die Stiftung hat sich zum Ziel gesetzt, solches Material aus dem Internet zu entfernen. Dazu betreibt sie eine Hotline, über die mutmaßliche CSAM-Fälle gemeldet werden können. Ihre Analysten prüfen anschließend die Rechtmäßigkeit und Schwere des Materials. Die IWF-Analysten stellten fest, dass das Material ausschließlich im Darknet und nicht auf der X-Plattform zu finden war.

Laut X wird gegen illegale Inhalte auf seiner Plattform, einschließlich CSAM, vorgegangen, indem diese entfernt und Konten dauerhaft gesperrt werden. Bei Bedarf arbeitet X zudem mit lokalen Behörden und Strafverfolgungsbehörden zusammen. Die Plattform warnt, dass jeder, der Grok zur Erstellung illegaler Inhalte anstiftet, mit denselben Konsequenzen rechnen muss, als hätte er diese selbst hochgeladen. 

Wenn Sie dies lesen, sind Sie schon auf dem Laufenden. Bleiben Sie mit unserem Newsletter auf dem Laufenden .