Microsoft : son responsable de l’IA promet un arrêt immédiat si la technologie présente un risque existentiel

La promesse fracassante d'un géant tech : stopper net le développement de l'IA si la menace devient trop grande. Une déclaration qui résonne comme un avertissement solennel dans les couloirs de la Silicon Valley et au-delà.

La ligne rouge de l'innovation

Pas de demi-mesures, pas de phase de test étendue. L'engagement est clair : en cas de risque existentiel avéré, le bouton d'arrêt sera actionné. Une position qui place l'éthique et la sécurité collective au-dessus de la course à l'innovation à tout prix. Une rareté dans un secteur habitué aux 'move fast and break things'.

Un pari sur l'avenir

Cette prise de position publique agit comme un garde-fou auto-imposé. Elle force une réflexion en amont sur les conséquences à long terme des technologies déployées aujourd'hui. Un virage stratégique qui pourrait bien redéfinir les règles du jeu pour toute l'industrie, poussant les concurrents à suivre la même voie ou à assumer leurs choix.

Le coût de la prudence

Derrière cette noble intention se cache un calcul économique risqué. Ralentir ou stopper le développement, c'est potentiellement laisser des milliards sur la table et offrir un avantage décisif à la concurrence moins scrupuleuse. Une décision qui, en cas de mise en œuvre, ferait probablement plus de bruit à Wall Street que dans les cercles éthiques – les actionnaires ayant une tolérance remarquablement faible pour les risques existentiels qui menacent leurs dividendes.

Microsoft retrouve la liberté de développer des systèmes d'IA avancés

Mustafa a rejoint Microsoft au début de l'année dernière après que la société a acquis la propriété intellectuelle et une grande partie de l'équipe derrière sa start-up, Inflection AI, après avoir abandonné OpenAI pour des outils d'IA destinés aux consommateurs.

Après l'acquisition, Mustafa a été chargé de concevoir des produits capables de concurrencer directement les modèles lestronperformants déjà présents sur le marché.

Pendant une grande partie de cette période, ses travaux ont été limités. Les clausestracliées au partenariat de Microsoft avec OpenAI empêchaient l'entreprise de développer une intelligence artificielle générale, deficomme des systèmes capables de performances équivalentes à celles de l'humain, ainsi qu'une superintelligence, qui surpasserait les capacités humaines.

Mustafa a déclaré que Microsoft avait renoncé à ces droits en échange de l'accès aux modèles les plus récents d'OpenAI. Cet accord prévoyait également la construction et l'équipement de centres de données par Microsoft pour OpenAI sur plusieurs années.

Cette structure a changé en octobre. Un nouvel accord a redéfini la relation et a restitué les droits de développement à Microsoft.

Mustafa a déclaré qu'OpenAI avait désormais conclu des accords d'infrastructure avec d'autres partenaires, dont SoftBank et Oracle, pour construire davantage de centres de données que Microsoft n'était disposé à en construire. « Ils ont maintenant des accords avec SoftBank et bien d'autres – Oracle – pour construire plus de centres de données que Microsoft ne voulait en construire pour eux », a-t-il expliqué. « Et donc, en contrepartie, nous avons le droit de développer notre propre IA. »

Il a déclaré que Microsoft était resté un développeur d'IA à usage général au cours des 18 derniers mois, mais qu'il s'orientait désormais vers des travaux susceptibles de surpasser les performances humaines dans toutes les tâches.

« Ces 18 derniers mois, nous sommes restés un cabinet de développement d'IA généraliste, mais nous pouvons désormais travailler sur des techniques et des méthodologies susceptibles de surpasser les performances humaines dans toutes les tâches », a déclaré . « Il s'agit donc d'un changement de cap pour nous. »

Suleyman décrit une approche prudente, les outils restant inachevés.

Le mois dernier, Mustafa a officiellement annoncé ce projet de superintelligence dans un article de blog exposant la position de Microsoft : de tels systèmes doivent être conçus pour servir l’humanité. D’autres acteurs majeurs, comme OpenAI et Anthropic PBC, avancent souvent des arguments similaires concernant la sécurité et les bénéfices pour l’humanité.

« Chacun doit décider de ses valeurs et de son mode de fonctionnement, et je ne souhaite pas juger leur façon d'agir actuellement », a-t-il déclaré. « Je ne constate aucun signe de préjudice massif à grande échelle. »

Malgré l'intérêt porté depuis longtemps à la superintelligence, Mustafa a déclaré que le débat actuel reste théorique.

Les consommateurs attendent des assistants capables de gérer des tâches comme la réservation de billets ou l'organisation de leurs achats. Les dirigeants, quant à eux, espèrent des gains de productivité. Aucun des deux n'a encore pleinement atteint cet objectif.

Mustafa a cité l'assistant utilisateur Copilot de Microsoft comme exemple. Il a indiqué que ses fonctionnalités, similaires à celles d'un agent, sont encore en phase de test et ne fonctionnent pas toujours comme prévu.

« Nous sommes encore en phase d'expérimentation », a déclaré Mustafa. « Mais quand cela fonctionnera, ce sera la chose la plus magique que vous ayez jamais vue. »

Rejoignez Bybit maintenant et recevez un bonus de 50 $ en quelques minutes