TikTok im Visier: Wie die Plattform gefälschte KI-Werbung durchgehen lässt

TikTok steht in der Kritik – nicht für virale Tänze, sondern für ein gefährliches Spiel mit gefälschter KI-Werbung. Die Plattform soll systematisch betrügerische Inhalte durchgewinkt haben, während Nutzer in die Falle tappten.

Die Masche hinter den KI-Fakes

Künstliche Intelligenz macht Betrug perfekt. Deepfakes von Prominenten, manipulierte Produktdemonstrationen, gefälschte Nachrichten – die Tools werden immer zugänglicher. Auf TikTok verbreiten sich diese Inhalte mit algorithmischer Präzision, oft getarnt als harmlose Werbung oder unterhaltsame Clips.

Warum Plattformen wegschauen

Engagement ist König. Jeder Klick, jeder Share treibt die Wachstumszahlen – und damit die Bewertung. Solange die Werbeeinnahmen fließen, bleibt der Anreiz gering, aggressive Content-Moderationssysteme einzuführen. Ein klassisches Fallbeispiel dafür, wie kurzfristige Profitmaximierung langfristiges Vertrauen zerstört.

Die regulatorische Lücke

Gesetze hinken der Technologie hinterher. Während Behörden wie die FSA langsam aufwachen, haben Betrüger bereits neue Methoden entwickelt. Die aktuelle Regulierung gleicht einem Stoppschild auf der Datenautobahn – theoretisch vorhanden, praktisch ignoriert.

Was das für Nutzer bedeutet

Jeder Scroll wird zum Minenfeld. Von gefälschten Investmentangeboten bis zu manipulierten Produktbewertungen – die Grenze zwischen Unterhaltung und Betrug verschwimmt. Besonders gefährlich wird es, wenn KI-generierte Inhalte finanzielle Entscheidungen beeinflussen.

Die Zukunft der Plattform-Verantwortung

TikTok und andere Social-Media-Giganten stehen am Scheideweg. Entweder investieren sie ernsthaft in KI-gestützte Erkennungssysteme, oder sie riskieren regulatorische Hammerschläge. Die nächste Welle der Plattform-Regulierung wird nicht von viralen Trends, sondern von Betrugsskandalen getrieben.

Ironie des digitalen Zeitalters: Während Krypto-Unternehmen sich in Compliance wälzen, lassen etablierte Tech-Plattformen Betrug im großen Stil zu – aber Hauptsache, die Quartalszahlen stimmen.

TikTok wird vorgeworfen, gefälschte, KI-generierte Anzeigen zu unterstützen.

ByteDance die Muttergesellschaft von TikTok , hat in diesem Jahr Investitionen in künstliche Intelligenz priorisiert. Anfang des Jahres berichtete die Financial Times, dass das Unternehmen plane, bis 2025 rund 12 Milliarden US-Dollar in KI-Chips zu investieren.

Im gleichen Zeitraum hat die Beliebtheit KI-generierter Inhalte auf der Plattform zugenommen, die von Nutzern in Werbeanzeigen eingesetzt werden. In den letzten Wochen ist es jedoch zu einem Anstieg von Werbung für gefälschte oder irreführende Produkte auf TikTok gekommen.

Beispielsweise hat die Zahl gefälschter Anzeigen auf der Plattform zugenommen, die für Nahrungsergänzungsmittel zur Gewichtsreduktion und Appetitzügler werben. Dazu gehören Anzeigen für GLP-1-Pflaster, die als Hilfsmittel zur Gewichtsreduktion vermarktet werden, aber kein echtes GLP-1 enthalten, das beispielsweise in Medikamenten wie Ozempic und Mounjaro vorkommt.

Andere sind Werbeanzeigen, die behaupten, Heilmittel gegen Cortisol-bedingten Bauchfett und hohen Stresspegel, der zu Gewichtszunahme führt, anzubieten.

Zudem führen viele dieser Werbeanzeigen Nutzer auf gefälschte Webseiten, die sich in einigen Fällen als seriöse Online-Unternehmen ausgeben. Sie enthalten unrechtmäßig kopierte Inhalte, die zu betrügerischen und schädlichen Zwecken verwendet werden.

Im Fall dieser TikTok-Werbeanzeigen wurden mehrere seriöse Apotheken kopiert, um den Eindruck zu erwecken, dass diese gefälschten Produkte von bekannten und vertrauenswürdigen Einzelhändlern beworben werden.

Forderungen nach Schutzmaßnahmen für den Einsatz von KI auf Social-Media-Plattformen

TikTok verbietet in seinen Werberichtlinien irreführendes, unauthentisches und täuschendes Verhalten, um die Integrität, Authentizität und Sicherheit seiner Nutzer und der Öffentlichkeit zu schützen. Die Plattform warnt zudem, dass Konten, die gegen diese Richtlinien verstoßen, dauerhaft gesperrt oder ausgeschlossen werden.

Im Gesundheitsbereich hat die Plattform auch Maßnahmen ergriffen, um Fehlinformationen zu bekämpfen, die zur Gesundheitskrise beitragen könnten.

„Um sicherzustellen, dass unsere Community Zugang zu korrekten medizinischen Informationen hat, die fundierte Gesundheitsentscheidungen unterstützen, entfernen wir Fehlinformationen über schwerwiegende Erkrankungen oder Fragen der öffentlichen Gesundheit sowie Fehlinformationen, die Einzelpersonen ernsthaft schaden oder Menschen davon abhalten könnten, eine angemessene medizinische Versorgung in Anspruch zu nehmen“, erklärt das Unternehmen.

Trotz der bestehenden Richtlinien sind diese KI-generierten Werbeanzeigen, die gefälschte Produkte bewerben, auf TikTok immer noch weit verbreitet.

Die jüngsten Investitionen des Unternehmens in KI ermöglichen es, diese Anzeigen nun mit einem eigens dafür entwickelten Tool zu erstellen. Das Unternehmen bietet Nutzern die Plattform „TikTok for Business“ zur Erstellung von Marketingkampagnen und stellt darüber hinaus Funktionen wie Werbetools, Business-Accounts, Kooperationsmöglichkeiten und Marketingstrategien .

Um den Nutzern bei der Erledigung ihrer Aufgaben zu helfen, bietet die Plattform einen Chatbot-Assistenten an, der ihnen dabei hilft, Anzeigen zu erstellen und zu teilen, die auf den Produkten oder Dienstleistungen basieren, die sie verkaufen möchten.

Michael McGrath, EU-Kommissar für Demokratie, Justiz, Rechtsstaatlichkeit und Verbraucherschutz, merkte zu dieser Entwicklung an, dass es in der EU Regeln für den Einsatz von KI in sozialen Medien gebe.

„Wir brauchen Schutzmaßnahmen“, sagte Herr McGrath. „Wir haben kürzlich neue Änderungen des Gesetzes vorgeschlagen und wollen ein ausgewogenes Verhältnis herstellen. Wir haben einen guten Rechtsrahmen, aber wir müssen sicherstellen, dass die Regeln auch durchgesetzt werden.“

Die klügsten Krypto-Köpfe lesen bereits unseren Newsletter. Lust auf mehr? Dann schließen Sie sich ihnen an .