Grok AI dans le gouvernement US : un casse-tête éthique qui monte

L’intelligence artificielle de Grok s’immisce dans les couloirs du pouvoir - et tout le monde n’applaudit pas.

Entre optimisations douteuses et prises de décision opaques, la machine soulève plus de questions qu’elle n’apporte de réponses. À croire que même les algorithmes ont leurs lobbies.

Cerise sur le gâteau : certains y voient déjà un nouveau véhicule d’évasion fiscale pour les tech bros de la Silicon Valley. Parole d’initié : ’C’est plus simple de blanchir des bitcoins que de justifier ces algorithmes.’

Doge brèche l’éthique avec le mouvement Grok Ai

Selon les trois initiés, DOGE Engineers a installé des paramètres personnalisés au sommet de Grok, un chatbot que le XAI de Musk a lancé fin 2023, pour accélérer la révision des données et automatiser la rédaction de rapports.

«Ils le nourrissent des ensembles de données gouvernementaux, posent des questions complexes et obtiennent des résumés instantanés.»

Un initié.

Un autre initié a ajouté que le personnel de Doge avait encouragé les employés du ministère de la Sécurité intérieure à utiliser GROK pour des analyses internes malgré l’outil dépourvu d’approbation formelle des agences.

Ce qui n’est pas clair, c’est exactement ce que les informations classifiées ou personnellementdentsont téléchargées dans Grok ou à quel point elles ont été formées sur les dossiers fédéraux. Si des documents sensibles étaient inclus, la pratique pourrait remonter les statuts fédéraux de la confidentialité et les règles de conflit d’intérêt.

Cinq experts en éthique et en technologie avertissent que un tel accès pourrait donner aux entreprises de Musk des informations disproportionnées sur les données nontracet aider à affiner Grok à gain privé.

En théorie, tout modèle d’IA formé sur les ensembles de données du gouvernementdentdoit naviguer dans des garanties juridiques strictes. Les protocoles de partage de données impliquent généralement plusieurs panneaux de signalisation et surveillance pour empêcher la divulgation non autorisée.

En évitant ces chèques, Doge risque exposant des millions de détails personnels des Américains et en remettant à Xai une mine d’informations réelles indisponibles aux concurrents.

Doge insiste sur le fait que sa mission est d’érater les déchets, la fraude et les abus. Un porte-parole du DHS a déclaré à Reuters que Doge n’avait jamais fait pression sur le personnel d’adopter un outil spécifique.

"Nous nous concentrons sur l’efficacité", a déclaré le porte-parole. Mais deux sources ont le contre que, au cours des dernières semaines, les représentants de DOGE ont poussé les divisions du DHS à piloter Grok pour des tâches allant de l’analyse de la charge de travail d’immigration aux prévisions budgétaires, même après que le DHS ait brusquement bloqué toutes les plateformes d’IA commerciales sur les craintes des flexions de données.

Dans le cadre de la politique actuelle du DHS, les employés peuvent utiliser des chatbots commerciaux uniquement pour des travaux non classifiés et nondent, tandis qu’un DHS sur mesure gère les enregistrements sensibles. Mais lorsque Chatgpt et d’autres ont été handicapés en mai, les progrès de Doge se sont produits dans une zone grise légale: le bot DHS interne est resté en direct, mais Grok n’a jamais été officiellement emballé.

Musk utilise-t-il Doge pour centraliser le contrôle?

Au-delà du DHS, la portée de Doge s’étend aux réseaux du ministère de la Défense, où une douzaine d’analystes auraient été informés qu’un outil d’IA tiers surveillait leur activité. Bien que les porte-parole du DOD aient nié que DOGE ait guidé tout déploiement d’IA, les e-mails départementaux et les échanges de texte de texte obtenus par Reuters suggèrent le contraire.

Les critiques voient ces mouvements comme illustrant la stratégie plus large de Musk pour tirer parti de l’IA pour centraliser le contrôle de la bureaucratie, puis monétiser le flux de données qui en résulte.

"Il y a une apparence claire de l’auto-dalton."

Richard Painter, professeur d’éthique du gouvernement.

Si Musk ordonnait directement le déploiement de Grok, il pourrait violer les lois pénales qui empêchent les responsables d’influencer les décisions qui profitent à leurs intérêts privés.

Au cœur du débat se trouve le double rôle de Grok en tant que chatbot orienté public sur X et un moteur d’analyse expérimental à l’intérieur des pare-feu gouvernementaux. Le site Web de Xai laisse même entendre que les interactions des utilisateurs peuvent être surveillées «à des fins commerciales spécifiques», ce qui suggère que chaque requête fédérale pourrait reprendre la boucle d’apprentissage de Grok.

Deux employés de Doge , Kyle Schutt et Edward Coristine, ce dernier connu en ligne sous le nom de «Big Balls», ont dirigé une grande partie de l’initiative de l’IA. Alors qu’ils refusent de commenter, leurs efforts s’adaptent à un schéma; Au cours de la dernière année, Doge a rejeté des milliers de responsables de carrière, a pris le contrôle des bases de données sécurisées et a défendu l’IA comme l’outil ultime de refonte bureaucratique.

Les défenseurs de la vie privée avertissent que l’intégration de l’IA non adaptée dans les environnements à sécurité nationale à enjeux élevés est une recette de fuites de données, de voldentet d’exploitation adversaire étrangère.

«C’est à peu près une menace aussi grave que vous obtenez», explique Albert Fox Cahn du projet de surveillance de la technologie de surveillance.

Il y a aussi des craintes qu’avec peu de transparence et peu de garde-corps, l’expérience de l’IA de Doge puisse remodeler la gouvernance fédérale des données, que le public le réalise ou non.

Votre nouvelle crypto mérite l’attention - la différence clé vous place sur plus de 250 sites supérieurs