La République tchèque alerte sur des autobiographies truquées par l’IA qui inondent le web

L'arnaque littéraire du siècle ? Des récits de vie fabriqués par intelligence artificielle circulent en ligne, et les autorités tchèques tirent la sonnette d'alarme.

Ces faux mémoires—écrits à la machine, mais vendus comme authentiques—pourraient bien être la nouvelle frontière de la désinformation. Et si les humains ne sont plus capables de distinguer le vrai du faux, qui contrôlera le récit ?

Pendant ce temps, certains éditeurs traditionnels doivent se mordre les doigts : l'IA produit en quelques secondes ce qu'ils mettent des mois à commissionner. Ironie suprême, ces faux livres se vendent probablement mieux que leurs homologues 'réels'—après tout, les algorithmes savent exactement quels mots-clés faire cliquer.

Et comme d'habitude dans le monde numérique, quand l'arnaque devient trop visible... c'est qu'elle est déjà partout. Bonne chance pour faire rembourser ces achats impulsifs en crypto, au passage.

Une plateforme frauduleuse propose gratuitement le faux livre de Changpeng Zhao.

Le livre, intitulé « Une autobiographie », a été mis en ligne le 9 novembre. Écrit à la première personne, il relate son expérience d'immigration du Jiangsu au Canada, son parcours de programmeur à fondateur de la plus grande plateforme d'échange de cryptomonnaies au monde, et ses difficultés psychologiques face à la réglementation et à la crise.

Ce livre traite des théories du leadership dans un contexte de décentralisation. Il détaille la création de Binance , les difficultés rencontrées en matière de conformité et les réflexions de l'auteur après son départ de l'entreprise. Il relate également l'expérience acquise en matière d'itération produit, de résilience et de prise de décision.

Le texte de présentation de la plateforme indique : « Que vous soyez fondateur, bâtisseur ou lecteur curieux des cryptomonnaies, ce livre offre un aperçu franc et détaillé de la vie et de la pensée de l'une des forces les plus influentes du Web3. »

La plateforme propose l'e-book gratuitement (TVA incluse). Cela paraît déjà suspect de la part d'une personnalité aussi influente que le fondateur Binance . Une publication officielle entièrement gratuite est très inhabituelle et soulève immédiatement des questions. 

Ce livre, qui vise à dévoiler la mentalité de CZ, fait suite à l'annonce du milliardaire selon laquelle il n'essaiera plus d'influencer les tendances du marché des cryptomonnaies. Comme a rapporté Cryptopolitan, il a annoncé qu'il ne divulguerait plus publiquement ses investissements personnels en cryptomonnaies, après son récent achat de tokens, qui semble avoir provoqué une forte volatilité sur les marchés.

Le milliardaire du secteur des cryptomonnaies s'est toutefois montré optimiste quant à l'intelligence artificielle. Début mars, CZ a proposé de développer un système d'assistance aux juges basé sur une intelligence artificielle, entraîné à partir de textes de loi et de jurisprudence, afin de formuler des recommandations de jugement pour les affaires publiques. 

D'après CZ, les systèmes d'IA pourraient théoriquement offrir des évaluations plus objectives. « Alors que les décisions humaines peuvent être influencées par l'humeur, la faim (avant ou après le déjeuner), les opinions personnelles ou les préjugés politiques, etc., une IA devrait, en théorie, être plus objective », a écrit CZ dans son article.

Les livres générés par l'IA d'Amazon nuisent aux auteurs et aux maisons d'édition.

Au fil des ans, des auteurs se sont opposés à l'utilisation de l'IA. Plus de 8 000 auteurs ont adressé un message à OpenAI et Meta pour leur demander de cesser d'utiliser leurs travaux pour entraîner des IA sans leur autorisation ni rémunération. 

Plus de 70 écrivains ont publié une lettre sur Literary Hub en juin, adressée aux « cinq grandes » maisons d'édition, dont Penguin Random House, HarperCollins, Simon & Schuster, Hachette Book Group et Macmillan, ainsi qu'à « tous les autres éditeurs américains ».

Par ailleurs, certains auteurs demandent à leurs clients de ne pas acheter leurs livres sur Amazon. Selon eux, les ouvrages vendus sur le site sont des copies quasi conformes de leurs propres œuvres, générées par une IA. Parmi ces auteurs figure l'humoriste britannique Rhys James, qui affirme avoir déjà découvert plusieurs versions de ses livres produites par une IA.

Au Royaume-Uni, une jeune entreprise lance une initiative visant à vérifier et à labelliser les ouvrages écrits par des humains. Books By PEOPLE a mis en place une certification « Littérature organique ». Ce système prévoit l'apposition de labels sur les livres écrits par des humains.

Aux États-Unis, les sénateurs Josh Hawley et Richard Blumenthal ont proposé la loi sur la responsabilité en matière d'IA et la protection des données personnelles afin de soutenir à la fois les auteurs et les entreprises spécialisées en IA. 

Si vous lisez ceci, vous êtes déjà en avance. Restez informés grâce à notre newsletter .