OpenAI tire la sonnette d’alarme : les futurs modèles d’IA pourraient devenir l’arme ultime des cybercriminels

La course à l'intelligence artificielle générative ouvre une nouvelle boîte de Pandore. OpenAI, pionnier du secteur, lance un avertissement glaçant : les prochaines versions de ses modèles pourraient, sans garde-fous appropriés, offrir aux pirates informatiques des capacités de cyberattaque démultipliées.

Des outils trop puissants entre de mauvaises mains

Imaginez un assistant capable de rédiger un phishing parfaitement convaincant en quelques secondes, d'identifier des failles zero-day dans du code, ou de coordonner une attaque complexe de bout en bout. C'est le scénario cauchemardesque que les chercheurs d'OpenAI tentent d'anticiper et de contrer. Leur crainte ? Que la puissance brute de l'IA, conçue pour aider, soit détournée pour nuire à une échelle inédite.

Un défi de sécurité qui dépasse le code

La réponse ne se limite pas à des correctifs techniques. Elle implique une refonte profonde des protocoles de développement et de déploiement. Comment « aligner » un modèle pour qu'il refuse de générer du code malveillant, même sous des requêtes habilement formulées ? Comment empêcher le détournement de ses capacités analytiques ? Les équipes de sécurité sont sur le pont, sachant que chaque avancée crée aussi une nouvelle surface d'attaque potentielle.

La finance, toujours en première ligne, regarde ces développements avec un mélange de fascination et d'effroi. Après tout, quoi de plus stimulant pour les marchés qu'une nouvelle catégorie de risque systémique à prix sur ? Une fois de plus, l'innovation technologique court devant la régulation, laissant les acteurs traditionnels jouer aux rattrapages. L'IA pourrait bien devenir le test de stress ultime pour la cybersécurité mondiale – et le prochain gros titre à faire trembler les cours.

Tester les limites

OpenAI collabore avec des groupes de test de sécurité spécialisés qui s'efforcent de contourner toutes ses défenses. Ils simulent le mode opératoire d'un attaquant déterminé et disposant de ressources importantes. Cela permet de déceler les failles avant que de véritables menaces ne se concrétisent.

Les risques de cybersécurité liés à l'IA inquiètent l'ensemble du secteur. Comme l'a précédemment rapporté Cryptopolitan , les pirates informatiques utilisent déjà les technologies d'IA pour perfectionner leurs attaques.

L'entreprise prévoit un programme offrant aux utilisateurs qualifiés travaillant dans le domaine de la cybersécurité un accès privilégié à des fonctionnalités avancées de ses modèles les plus récents. OpenAI travaille encore à déterminer quelles fonctionnalités pourront être largement accessibles et lesquelles nécessiteront des restrictions plus strictes.

Il y a ensuite Aardvark. Cet outil de sécurité, actuellement en phase de test privé, aide les développeurs et les équipes de sécurité à identifier et corriger les vulnérabilités à grande échelle. Il analyse le code à la recherche de failles et propose des solutions. Le système a déjà découvert de nouvelles vulnérabilités dans des logiciels libres. OpenAI prévoit d'investir massivement dans le renforcement de l'écosystème de sécurité au sens large, notamment en offrant une protection gratuite à certains projets open source non commerciaux.

OpenAI va créer le Frontier Risk Council, qui réunira des experts et des praticiens chevronnés en cybersécurité. Le groupe se concentrera initialement sur la cybersécurité, mais s'étendra à d'autres domaines. Les membres du Conseil contribueront à définir les limites entre les fonctionnalités utiles et les risques d'utilisation abusive.

La sécurité demeure un défi

L'entreprise collabore avec d'autres sociétés leaders en IA au sein du Frontier Model Forum. Cette organisation à but non lucratif favorise une compréhension commune des menaces et des meilleures pratiques. OpenAI estime que les risques de sécurité liés à l'IA avancée peuvent provenir de n'importe quel système d'IA majeur du secteur.

Des recherches récentes ont montré que les agents d'IA peuvent découvrir des vulnérabilités zero-day dans lestracintelligents blockchain, ce qui représente des millions de dollars. Cela illustre bien le double tranchant de ces capacités croissantes.

OpenAI s'est efforcée de renforcer ses propres mesures de sécurité, mais l'entreprise a rencontré des difficultés. Elle a notamment dû faire face à de multiples failles de sécurité par le passé, ce qui illustre la complexité de la protection des systèmes et infrastructures d'IA.

L'entreprise précise qu'il s'agit d'un travail en cours. L'objectif est d'offrir des avantages aux équipes de défense et de renforcer la sécurité des infrastructures critiques au sein de l'écosystème technologique.

Inscrivez-vous sur Bybit et commencez à trader avec 30 050 $ en cadeaux de bienvenue