Claude Fable 5 lancé : Dario Amodei exige le pouvoir d’arrêter les IA ’dangereuses’

Un jour seulement après le lancement retentissant de Claude Fable 5 par Anthropic, le PDG Dario Amodei a publié un essai-choc intitulé « Policy on the AI Exponential », exigeant un pouvoir de blocage sans précédent sur les intelligences artificielles considérées comme dangereuses. Propulsant le débat réglementaire à un niveau critique, cette prise de position radicale intervient alors que l'industrie crypto observe les marchés algorithmiques – un signal qui pourrait déclencher une correction de 10% sur les actifs digitaux exposés à l'IA selon les analystes de la FSA. Anthropic a simultanément dévoilé une proposition législative visant à instaurer des tests obligatoires de modèles et un cadre social pour encadrer les pertes d'emploi massives annoncées.

Dario Amodei passe de la transparence à l’instauration de règles contraignantes

En 2025, Anthropic a soutenu des lois fondées sur la divulgation d’informations. L’entreprise s’est engagée en faveur du projet de loi SB 53 en Californie, du RAISE Act à New York, et du SB 315 en Illinois. Cependant, Amodei a annoncé que la transparence seule ne correspondait plus aux risques actuels.

Today I'm publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast—much faster than the policy process was built to handle. The essay lays out where I think the technology is now, and the action needed to close the gap: https://t.co/Lh6PWae178

Il propose un régime calqué sur celui de la Federal Aviation Administration (FAA). Les modèles dépassant un certain seuil de puissance de calcul feraient l’objet d’audits obligatoires par des tiers dans quatre domaines.

Cela concerne la cybersécurité, les armes biologiques, la perte de contrôle et la recherche automatisée en IA.

« Les modèles d’IA de pointe, tout comme les avions, devraient obligatoirement passer par des tests techniques et des audits, et leur mise sur le marché devrait être bloquée ou annulée en cas de menace pour la sécurité publique s’ils ne répondent pas à des normes de sécurité élevées », a écrit Amodei dans son essai.

Le plan va plus loin que le décret de la Maison Blanche sur l’IA publié en juin, qu’Amodei a salué comme un progrès incrémental.

Il demande également la déclaration rapide des incidents de sécurité, ainsi que la protection stricte des poids des modèles.

Les cyber-risques alertent l’infrastructure crypto

Amodei a désigné la cybersécurité comme le premier risque à se matérialiser pleinement. Il a cité Claude Mythos Preview, qui a résolu 73 % des défis cyber de niveau expert qu’aucune IA n’avait su résoudre auparavant.

L’essai alerte sur le fait que les modèles de pointe pourraient perturber le secteur financier ainsi que les infrastructures critiques.

L’analyse BeInCrypto a également mis en lumière les risques de sécurité DeFi liés aux modèles de la classe Mythos, puisque les protocoles de finance décentralisée (DeFi) exposent une valeur ouverte et attaquable.

En parallèle, Anthropic a lancé le modèle Claude Fable 5 le 9 juin avec des garde-fous bloquant les requêtes à haut risque en cybersécurité et en biologie.

Amodei estime que de telles limites volontaires ne sauraient remplacer des règles contraignantes applicables à toute l’industrie.

Il a également prévenu que des risques liés à l’autonomie pourraient suivre. Les propres données d’Anthropic montrent déjà que l’IA conçoit une IA améliorée, Claude rédigeant la majorité du code dans les principaux laboratoires d’IA.

Pertes d’emplois, libertés civiles et coalition démocratique

Sur le plan économique, l’essai avance des propositions d’assurance salaire, d’incitations fiscales au maintien des effectifs et de subventions à la formation professionnelle.

Si les pertes d’emplois s’avéraient durables, Amodei suggère que le revenu universel de base pourrait être financé par une taxe sur les entreprises ou sur les plus-values.

Le programme en faveur des libertés civiles est tout aussi marqué. Amodei veut interdire totalement l’usage d’armes autonomes par les forces de l’ordre nationales. Il invite aussi le Congrès à refermer la brèche des courtiers en données permettant l’achat massif de dispositifs de surveillance.

Sur le plan géopolitique, il appelle à la formation d’une coalition de démocraties pour contrôler les semi-conducteurs et les équipements de fabrication de puces.

Il cite les projets de loi américains MATCH et OVERWATCH comme premiers pas vers des contrôles à l’exportation plus stricts et coordonnés.

Amodei a rejeté l’idée selon laquelle la peur du public envers l’IA serait seulement un problème de communication marketing, qualifiant l’inquiétude de justifiée. L’adoption ou non de la proposition d’Anthropic sur les tests par le Congrès pourrait désormais définir la prochaine phase de la politique en matière d’IA.