China greift durch: Neue KI-Chatbot-Regeln sollen Glücksspiel und Selbstverletzung eindämmen

Peking zieht die Zügel an. Die neuen Richtlinien für generative KI zielen direkt auf Systeme, die Nutzer zu riskantem Verhalten verleiten könnten – ein klarer Schritt zur Kontrolle der narrativen Macht algorithmischer Assistenten.

Der regulatorische Fokus

Die Vorschriften adressieren keine hypothetischen Zukunftsszenarien, sondern konkrete, gegenwärtige Befürchtungen. Entwickler müssen jetzt garantieren, dass ihre Chatbots keine Inhalte generieren, die Glücksspielaktivitäten befördern oder Selbstschädigung verherrlichen. Es geht um Prävention in Echtzeit.

Technische Umsetzung und Überwachung

Die Einhaltung wird kein einmaliger Check, sondern ein kontinuierlicher Prozess. Algorithmen müssen mit Filtern und Sicherheitsmechanismen ausgestattet sein, die schädliche Prompt-Antwort-Ketten unterbrechen. Die Aufsichtsbehörden behalten sich regelmäßige Audits vor.

Die globale Dimension

Chinas Schritt fällt in eine Phase intensiver internationaler Debatten über KI-Governance. Während andere Länder über Grundsätze diskutieren, setzt Peking konkrete operative Grenzen. Das schafft einen neuen De-facto-Standard für KI-Anbieter, die den chinesischen Markt bedienen wollen.

Ein Schlag für die 'Move fast and break things'-Mentalität – und vielleicht ein willkommener Anstoß für Investoren, die nach klaren regulatorischen Spielregeln suchen, anstatt auf das nächste hype-getriebene, unregulierte KI-Start-up zu setzen, das wie so viele Kryptobörsen enden könnte.

Chinas Vorschläge sollen Minderjährige vor Selbstverletzungen schützen

Laut dem am Samstag von der Cyberspace-Administration veröffentlichten Entwurf der Regeln zielen diese auf das ab, was sie als „menschenähnliche interaktive KI-Dienste“ bezeichnet, wie aus der Übersetzung des chinesischsprachigen Dokuments durch CNBC

Der Regelentwurf enthält mehrere Vorschläge. Beispielsweise KI-Chatbots keine Inhalte generieren, die zu Selbstverletzung oder Suizid anstiften, verbale Gewalt ausüben oder emotionale Manipulationen vornehmen, die die psychische Gesundheit der Nutzer schädigen können.

Darüber hinaus dürfen KI-Chatbots keine obszönen, gewalttätigen oder glücksspielbezogenen Inhalte erstellen. Laut den Entwurfsregeln muss im Falle einer Suizidabsicht eines Nutzers ein Mitarbeiter des KI-Unternehmens das Gespräch übernehmen und umgehend den Vormund oder eine benannte Person des Nutzers kontaktieren.

Die Entwurfsregeln sehen außerdem vor, dass Minderjährige für die Nutzung von KI-Diensten zur emotionalen Begleitung die Zustimmung eines Erziehungsberechtigten benötigen und die Nutzung zeitlich begrenzt sein muss. Gemäß den neuen Regeln sollen KI-Plattformen selbst entscheiden, ob ein Nutzer volljährig oder minderjährig ist, auch wenn dieser sein Alter nicht angibt. Im Zweifelsfall müssen die Plattformen Einstellungen für Minderjährige anwenden und gleichzeitig die Möglichkeit zum Einspruch einräumen.

Sobald diese Regeln endgültig verabschiedet sind, stellen sie laut Winston Ma, Professor an der NYU School of Law, den weltweit ersten Versuch dar, KI mit menschlichen oder anthropomorphen Eigenschaften zu regulieren. Diese Entwicklungen erfolgen vor dem Hintergrund, dass Unternehmen in rasantem Tempo KI-Begleiter und digitale Prominente entwickeln.

Im Vergleich zu Chinas KI-Regulierung für generative Anwendungen aus dem Jahr 2023 meinte Ma, diese Version verdeutliche einen „Sprung von der Inhaltssicherheit hin zu emotionalen Aspekten“

Die Vorschläge erfolgen, nachdem die beiden chinesischen KI-Chatbot-Startups Z.ai und Minimax diesen Monat ihre Börsengänge (IPOs) in Hongkong beantragt haben. Minimax ist international vor allem für seine Talkie-AI-App bekannt, mit der Nutzer mit virtuellen Charakteren chatten können.

Laut CNBC machte die App zusammen mit ihrer chinesischen Version Xingye in den ersten drei Quartalen des Jahres mehr als ein Drittel des Umsatzes des Unternehmens aus, mit durchschnittlich über 20 Millionen monatlich aktiven Nutzern in diesem Zeitraum.

Z.ai, auch bekannt als Zhipu, meldete sich unter dem Namen Knowledge Atlas Technology , gab aber die Zahl der monatlich aktiven Nutzer nicht bekannt. Das KI-Unternehmen verriet jedoch, dass seine Technologie auf rund 80 Millionen Geräten zum Einsatz kommt, darunter Smartphones, PCs und vernetzte Fahrzeuge.

Cryptopolitan bereits berichtete , peilen die beiden KI-Startups, die beide von Alibaba und Tencent unterstützt werden, einen Börsengang Anfang Januar nächsten Jahres an der Hongkonger Börse an.

Werden Sie jetzt Mitglied bei Bybit und sichern Sie sich innerhalb weniger Minuten einen Bonus von 50 $