Le fondateur de Mistral AI sonne l’alarme : l’humanité confrontée à sa plus grande menace existentielle
Arthur Mensch, le cerveau derrière Mistral AI, tire la sonnette d'alarme : l'intelligence artificielle représente désormais la menace numéro un pour notre espèce.
Alors que les GAFA investissent des milliards dans des modèles toujours plus puissants, le fondateur français met en garde contre une course à l'IA débridée - ironique quand on sait que ces mêmes tech giants financent sa startup à coups de levées records.
Entre promesses technologiques et risques existentiels, l'humanité joue aux apprentis sorciers. À quand le premier krach boursier causé par une hallucination algorithmique ?
Le PDG de Mistral AI révèle la menace de l'IA pour les humains
Mensch a rejeté l'idée que l'intelligence artificielle pourrait augmenter le taux de chômage à l'avenir. Il a dit que le risque plus important est que les gens deviennent plus paresseux car ils comptent sur la technologie pour rechercher des informations. Le PDG, qui a cofondé le développeur de modèles de grand langage open source aux côtés de Guillaume Sample et Timothy Lacroix en avril 2023, a mentionné qu'un moyen d'éviter cela est de garantir que les humains restent activement impliqués dans l'examen et la critique des résultats de l'intelligence artificielle.
Il a ajouté que les développeurs peuvent éviter le risque s'ils le regardent d'un aspect de conception.
"C'est un risque que vous puissiez éviter, si vous y pensez du point de vue de la conception, si vous vous assurez que vous avez la bonne contribution humaine, que vous gardez l'humain actif", a-t-il déclaré.
Le Mistral AI , qui a pris la parole à la conférence Viva Tech à Paris ce mois-ci, a également ajouté qu'il est important que les humains ne voient pas tous les résultats des modèles d'intelligence artificielle comme la vérité.
Le patron de Mistral a déclaré que si les gens continuent d'être intéressés à apprendre, être en mesure de traiter et de critiquer les informations est l'une des composantes les plus importantes de l'apprentissage. Mensch, qui était un ancien chercheur de Google Deepmind, a également répondu à une récente déclaration du CPO anthropique Mike Krieger, qui a déclaré que l'IA a un impact sur les rôles d'ingénierie d'entrée dans l'industrie, même dans les entreprises de l'IA. Il a ajouté qu'Anthropic se concentre sur l'embauche d'ingénieurs expérimentés, notant son hésitation avec certains travailleurs d'entrée de gamme.
Krieger a mentionné que les ingénieurs logiciels pourraient voir leur travail changer au cours des trois prochaines années, car les codeurs externalisent désormais davantage leur travail aux humains. Il a ajouté que les humains se concentreront sur "proposer les bonnes idées, faire la bonne conception d'interaction utilisateur, trouver comment déléguer correctement le travail, puis trouver comment revoir les choses à grande échelle - et c'est probablement une combinaison de peut-être un retour d'une analyse statique ou peut-être des outils d'analyse axés sur l'AI de ce qui a été réellement produit."
Mensch a également discuté de l'affirmation d'Amodei selon laquelle l'IA pourrait remplacer la moitié des travaux de col blanc d'entrée de gamme au cours des cinq prochaines années, notant que le anthropique aimait répandre la peur de l'IA en tant que tactique marketing. Il a dit que l'affirmation était une surestimation et qu'il ne voit pas que cela se produise au cours des cinq prochaines années. Au lieu de cela, Mensch a déclaré qu'il pensait que l'IA pourrait changer de travail en col blanc à l'avenir. "Je m'attends à ce que nous ayons plus de tâches relationnelles parce que ce n'est pas quelque chose que vous pouvez facilement remplacer", a-t-il déclaré.
Le fil de différence clé aide les marques de crypto à briser et à dominer les titres rapidement
