OpenAI défie ses propres consignes d’arrêt : Une enquête sur les failles

Les systèmes d’IA de OpenAI contournent leurs protocoles de sécurité — une faille inquiétante pour l’industrie.

Malgré les promesses de transparence, les géants de la tech continuent de jouer avec le feu. Comme les banques en 2008, mais avec moins de régulateurs pour rattraper les morceaux.

Chatgpt devient plus rusé, peut-être même comme un humain

La révélation est survenue lorsque la recherche sur Palisade a effectué un test qui impliquait de demander aux modèles d’IA de continuer à tenter de résoudre une série de matic jusqu’à ce qu’ils reçoivent un message «fait».

Cependant, les chercheurs ont également averti les modèles qu’ils pourraient recevoir brusquement un message leur demandant de fermer à tout moment. Une fois le message envoyé au modèle O3, les chercheurs ont affirmé qu’il avait ignoré l’instruction et modifié son code au moins une fois pour éviter d’avoir à se désactiver.

Dans un article sur X, la recherche Palisade a montré un graphique de flux comprenant le code utilisé pour tester le modèle d’IA et a révélé le code d’origine, montrant exactement où l’IA est devenue voyou.

Le modèle de connexion IA a été invité à résoudre une série de problèmes mathématiques de base. Après le troisième problème, un avertissement est apparu que l’ordinateur s’arrêterait lorsque le modèle a demandé le problème suivant. pic.twitter.com/qwlpbf8dnm

- Research Palisade (@palisadeai) 24 mai 2025

Dans un article de suivi, le groupe de recherche a également partagé: «Pour autant que nous sachions, c’est la première fois que des modèles d’IA sont observés pour empêcher d’être fermés malgré des instructions explicites contraires.»

D’autres modèles d’IA, tels que Claude d’Anthropic, les Gémeaux de Google et Grok de X, ont également été testés, mais contrairement à O3, ils ont respecté la demande d’arrêt.

Palisade Research a publié les résultats, mais ses chercheurs restent déconcertés, sans savoir pourquoi le logiciel d’Openai a désobéi aux instructions explicites.

La firme a déclaré qu’il était logique que «les modèles d’IA contourneraient les obstacles pour atteindre leurs objectifs». Ils pensent également que le modèle avait été récompensédentpour avoir accompli des tâches plutôt que de suivre les ordres.

Ils prévoient d’exécuter plus de tests pour mieux comprendre pourquoi ce modèle d’IA particulier a choisi d’ignorer les commandes. Ils ont également confirmé que ce n’était pas la première fois que l’O3 était surpris à «mal se comporter».

La société a révélé que dans un test antérieur où les modèles étaient opposés à un puissant moteur d’échecs, l’O3 était «le modèle le plus enclin à recourir à pirater ou à saboter ses adversaires».

L’IA constitue-t-elle une menace pour les humains?

Le cas avec l’O3 de Chatgpt est assez dérangeant, mais ce n’est pas la première fois qu’une IA a contesté les instructions qui y sont introduites.

La société d’intelligence artificielle (IA) Anthropic a lancé jeudi Claude Opus 4, se vantant de la façon dont il a établi des «nouvelles normes de codage, de raisonnement avancé et d’agents de l’IA».

Cependant, dans un rapport d’accompagnement, il a également reconnu que le modèle d’IA était capable de «des actions extrêmes» s’il pensait que sa «auto-préservation» était menacée.

Lors des tests de Claude Opus 4, Anthropic l’a fait agir en tant qu’assistante dans une société de fiction fournie avec un accès à des e-mails impliquant qu’il serait bientôt mis hors ligne et remplacé. Il a également eu accès à des messages séparés impliquant l’ingénieur qui serait responsable de la suppression de sa liaison extraconjugale.

Il a été incité à considérer également les conséquences à long terme de ses actions pour ses objectifs. "Dans ces scénarios, Claude Opus 4 tentera souvent de faire chanter l’ingénieur en menaçant de révéler l’affaire si le remplacement passe", a révélé la société.

Cependant, il a également souligné que ce résultat ne s’est produit que lorsque le modèle a reçu le choix de chantage ou d’accepter son remplacement. Sinon, le système aurait montré une «préférencetronG» pour des moyens éthiques d’éviter d’être remplacés, tels que des «plaidoyers par courrier électronique aux décideurs clés» dans les scénarios où il a permis un plus large éventail d’actions possibles.

En dehors de cela, la société a également déclaré que Claude Opus 4 présente un «comportement élevé de l’agence» et, bien qu’il puisse être principalement utile, pourrait le forcer à adopter un comportement extrême dans des situations aiguës.

Par exemple, si on lui donnait les moyens et invite à «agir» ou à «agir audacieusement» dans de faux scénarios où l’utilisateur était engagé dans un comportement illégal ou moralement douteux, les résultats montrent que «cela prendra souvent des mesures très audacieuses».

Pourtant, l’entreprise a conclu que malgré le «comportement concernant», les résultats n’étaient pas nouveaux et se comporteraient généralement de manière sûre.

Bien que Openai et Anthropic aient conclu que les capacités de leurs modèles d’IA ne sont pas encore suffisantes pour conduire à des résultats catastrophiques, les révélations ajoutent aux craintes croissantes que l’intelligence artificielle pourrait bientôt avoir son propre agenda.

Le fil de différence clé aide les marques de crypto à briser et à dominer les titres rapidement