Un militant australien sonne l’alarme : les menaces de mort générées par l’IA atteignent un réalisme troublant

Les progrès de l'IA franchissent une ligne rouge. Un activiste australien révèle comment les menaces de mort algorithmiques rivalisent désormais avec les vraies – et comment les régulateurs prennent du retard. Pendant ce temps, les GAFAM continuent de monétiser les outils qui alimentent cette crise.

Technologie ou arme ? L'ultimatum des intelligences artificielles déchire la communauté tech. Les derniers modèles linguistiques reproduisent désormais les schémas de haine humaine avec une précision chirurgicale.

Le paradoxe du capitalisme numérique : plus l'IA devient dangereuse, plus les investisseurs se précipitent. Une startup spécialisée dans la détection de contenu malveillant vient de lever 50 millions – preuve que même les problèmes créés par la tech finissent par générer des opportunités de trading.

Un militant australien appelle à la prudence quant à l'utilisation de l'intelligence artificielle

Selon Roper, certains messages qu'elle a reçus s'inscrivaient dans une campagne de dénigrement la visant, elle et ses collègues de Collective Shout, un groupe militant australien présent sur X et d'autres réseaux sociaux. Elle a notamment indiqué qu'une des photos qui lui ont été envoyées la montrait pendue, tandis qu'une autre vidéo la montrait en flammes et hurlant. D'autres messages étaient encore plus choquants, les auteurs n'hésitant pas à employer des méthodes extrêmes pour faire passer leur message.

Roper a affirmé que sur la plupart des photos et vidéos générées par intelligence artificielle, elle portait une robe bleue à fleurs qui lui appartient. « Ce sont ces petits détails étranges qui rendent la chose plus réelle et, d'une certaine manière, une violation d'un autre ordre », a-t-elle déclaré. « On passe du fantasme à la réalité. » Elle a souligné que le flot d'insultes en ligne a commencé cet été après sa campagne pour faire fermer les jeux vidéo violents faisant l'apologie de scènes et d'abus sexuels.

Elle a indiqué que certains comptes et images la concernant ont été supprimés. Roper a également mentionné que l'entreprise affirmait que d'autres publications montrant sa mort violente ne violaient pas les conditions d'utilisation de la plateforme. Elle a même affirmé que X avait, à un moment donné, inclus l'un des comptes qui la harcèlent dans une liste de personnes recommandées à suivre. Roper a ajouté que certains de ses harceleurs ont également déclaré utiliser Grok pour rechercher comment trouver des femmes chez elles et dans des cafés.

Roper souhaite que des plateformes s'attaquent à cette menace.

Roper a affirmé qu'exaspérée, elle avait décidé de publier quelques exemples. Suite à cela, X lui a indiqué que ses comptes enfreignaient les règles de sécurité interdisant la diffusion gratuite de contenu violent et a temporairement bloqué son compte.

Parallèlement, une campagne mondiale s'est développée contre l'intelligence artificielle en raison de son utilisation à des fins frauduleuses. Les criminels utilisent désormais cette technologie pour imiter la voix de personnes réelles et l'exploiter dans leurs nombreuses activités illicites. Parmi ces activités figure la création de contenu pour adultes grâce à l'intelligence artificielle, sans le consentement explicite des personnes concernées.

Outre ce type de contenu, des rapports indiquent que l'intelligence artificielle rend également d'autres menaces plus convaincantes. Par exemple, le swatting consiste à passer de faux appels d'urgence dans le but de provoquer une intervention massive des forces de l'ordre et des services d'urgence. Cet été, l'Association nationale des procureurs généraux a souligné que cette technologie « a considérablement accru l'ampleur, la précision et l'anonymat » de ces attaques.

À une échelle moindre, la multiplication des vidéos réalisées par intelligence artificielle montrant de prétendues intrusions à domicile a incité lesdentvisés à appeler les services de police dans tout le pays. Le rapport indique que les auteurs de ces canulars peuvent convaincre les forces de l'ordre en imitant des voix et en manipulant des images. Un récidiviste a utilisé des coups de feu simulés pour faire croire à la présence d'un tireur sur le parking d'un lycée de l'État de Washington. L'établissement a été bouclé pendant 20 minutes après l'arrivée de la police et des agents fédéraux.

Les plus brillants experts en cryptomonnaies lisent déjà notre newsletter. Envie de participer ? Rejoignez-les .