TikTok accusé de diffusion massive de fausses publicités IA : une faille réglementaire qui rappelle les rug pulls crypto

TikTok traverse une nouvelle tempête médiatique. La plateforme est accusée d'avoir laissé proliférer des campagnes publicitaires frauduleuses générées par IA, exposant des millions d'utilisateurs à des escroqueries sophistiquées.

Le système de modération en question

Les algorithmes de la plateforme, conçus pour maximiser l'engagement, semblent avoir priorisé la viralité au détriment de l'authenticité. Des publicités pour des produits fictifs, des investissements miracles et des personnalités deepfake ont circulé pendant des mois, générant des clics—et des revenus—avant d'être retirées.

Un terrain de jeu pour les arnaqueurs

Cette faille rappelle les mécanismes observés dans les marchés non régulés : faible barrière à l'entrée, vérification rétroactive et course au profit à court terme. Les créateurs de ces contenus ont exploité un vide, adaptant en temps réel leurs méthodes pour contourner les contrôles.

La réponse de TikTok et ses limites

La société a annoncé le renforcement de ses politiques et de ses outils de détection. Cependant, comme souvent dans la tech, les solutions arrivent après que le mal est fait. L'épisode soulève des questions plus larges sur la responsabilité des plateformes face au contenu généré automatiquement.

Un coup de projecteur gênant qui montre que, parfois, la technologie la plus disruptive sert d'abord à reproduire les vieilles arnaques—mais en plus rapide et à plus grande échelle. Une leçon que le secteur de la finance décentralisée a, lui aussi, apprise à ses dépens.

TikTok accusé de favoriser la diffusion de fausses publicités générées par l'IA

ByteDance la société mère de TikTok , a fait de l'investissement dans l'intelligence artificielle une priorité cette année. En début d'année, le Financial Times affirmait que l'entreprise prévoyait d'investir environ 12 milliards de dollars dans des puces d'IA d'ici 2025.

Durant la même période, la popularité des contenus générés par l'IA sur la plateforme a augmenté, les utilisateurs les intégrant dans leurs publicités. Toutefois, ces dernières semaines, on a constaté une recrudescence de publicités concernant des produits contrefaits ou trompeurs sur TikTok.

Par exemple, on observe une augmentation des fausses publicités sur la plateforme faisant la promotion de compléments alimentaires pour la perte de poids et de coupe-faim. Parmi ces publicités figurent celles pour des patchs GLP-1, présentés comme des aides à la perte de poids, mais qui ne contiennent pas de GLP-1, contrairement à des médicaments comme Ozempic et Mounjaro.

D'autres sont des publicités qui prétendent offrir des remèdes contre le cortisol, le ventre gonflé et le stress élevé, responsables de la prise de poids.

De plus, nombre de ces publicités redirigent les utilisateurs vers des sites web clonés, qui, dans certains cas, usurpent l'identité d'entreprises en ligne légitimes. Elles diffusent du contenu copié illégalement à des fins trompeuses et malveillantes.

Dans le cas de ces publicités TikTok, plusieurs pharmacies légitimes ont été clonées pour faire croire que ces faux produits sont promus par des détaillants connus et de confiance.

Appels à la mise en place de garde-fous concernant l'utilisation de l'IA sur les plateformes de médias sociaux

Dans sa politique publicitaire, TikTok interdit les comportements trompeurs, mensongers et mensongers afin de protéger l'intégrité, l'authenticité et la sécurité de ses utilisateurs et du grand public. La plateforme a également averti que tout comportement abusif de sa politique entraînerait la suspension ou la suppression définitive des comptes.

Sur le plan sanitaire, la plateforme a également pris des mesures pour lutter contre la désinformation, susceptible de contribuer à la crise sanitaire.

« Afin de garantir à notre communauté l’accès à des informations médicales exactes pour favoriser des choix de santé éclairés, nous supprimons les fausses informations relatives aux maladies graves ou aux problèmes de santé publique, ainsi que les fausses informations susceptibles de causer un préjudice grave aux individus ou de dissuader les gens de consulter un médecin », déclare l’entreprise.

Malgré ses politiques, ces publicités générées par l'IA faisant la promotion de faux produits restent très répandues sur TikTok.

Grâce aux récents investissements de l'entreprise dans l'IA, ces publicités peuvent désormais être produites à l'aide d'un outil dédié, créé et développé par l'application. L'entreprise permet aux utilisateurs de déployer sa plateforme « TikTok for Business » pour créer des campagnes marketing, et propose également des outils publicitaires, des fonctionnalités pour les comptes professionnels, des possibilités de collaboration et des stratégies marketing .

Pour aider les utilisateurs à accomplir leurs tâches, la plateforme propose un assistant chatbot qui les aide à créer et à partager des publicités en fonction de ce qu'ils cherchent à vendre.

S'exprimant sur cette évolution, Michael McGrath, commissaire européen à la démocratie, à la justice, à l'État de droit et au code de protection des consommateurs, a souligné qu'il existe des règles en vigueur dans l'UE concernant l'utilisation de l'IA sur les réseaux sociaux.

« Des garanties sont indispensables », a déclaré M. McGrath. « Nous avons récemment proposé de nouveaux amendements à la loi et nous cherchons à trouver le juste équilibre. Nous disposons d’un cadre réglementaire solide, mais nous devons veiller à son application. »

Les plus brillants experts en cryptomonnaies lisent déjà notre newsletter. Envie de participer ? Rejoignez-les .