Elon Musk déploie son IA dans la sécurité sociale – et ça sent le soufre

Le patron de Tesla et SpaceX impose sa vision techno-libertaire sur les retraites. Spoiler : les algorithmes remplacent les humains, mais les cotisations restent.

Un coup de maître... ou de maître-chanteur ? Les caisses de retraite trinquent pendant que l’IA ’optimise’ les prestations. Bonne chance pour contester un refus face à un chatbot qui cite Ayn Rand.

Petite pensée pour les traders de la FSA qui doivent maintenant arbitrer entre les tokens BNB et les pensions alimentaires. L’innovation, oui – mais à quel prix ?

Peu de gens ont pris au sérieux la vidéo de formation SSA AI

"Je ne suis pas sûr que la plupart de mes collègues ont même regardé la vidéo de formation", a déclaré un membre du personnel de la sécurité sociale. Ils ont ajouté que lorsqu’ils ont testé le chatbot, "plusieurs des réponses que j’ai reçues étaient incroyablement vagues et / ou inexactes." D’autres employés se seraient moqués des graphiques bruts. "Personne que je connais n’est [l’utiliser]. C’est tellement maladroit et mauvais", a déclaré la source.

Les critiques avertissent que ce début d’achoppement peut préfigurer des échecs plus larges.

De même, au Brésil, en 2018, une société d’État appelée Dataprev a lancé Meu INSS, une application conçue pour traiter les affirmations de sécurité sociale en utilisant la vision informatique et le traitement du langage naturel. Cependant, le système a souvent rejeté les réclamations valides dues à des erreurs mineures, déclenchant de longs appels juridiques.

Un exemple implique Josélia de Brito, 55 ans, un ancien travailleur de la canne à sucre dont la demande de retraite a été refusée parce que le système automatisé a mis audentson sexe. "J’ai tous les documents prouvant mon état de santé, prouvant tout, et [l’avantage] est toujours refusé. C’est une humiliation", a-t-elle déclaré au reste du monde.

Les travailleurs agricoles ruraux, dont beaucoup manquent de compétences numériques de base, ont eu du mal à passer aux services en ligne. "Les gens ici ne peuvent [même] pas travailler avec Gmail, Facebook, Instagram", a déclaré Francisco Santana, pré-dent de l’Union pour les travailleurs ruraux de Barra do Corda. «Les processus sont [de plus en plus automatisés, et la société n’a pas été préparée pour cela, en particulier plus loin, à la périphérie, pour les personnes qui vivent dans des zones rurales.»

Ces obstacles à l’étranger mettent en évidence les pièges potentiels pour les États-Unis

Les services sociaux sont déjà sous pression pour «se moderniser», une poussée qui a commencé dans l’équipe de soi-disant technocrates de l’administration Trump.

Musk’s Doge a approfondi cette mission en cherchant à réduire de moitié la main-d’œuvre fédérale. "Tout ce qui peut être automobile sera à la machine. Et les technocrates remplaceront les bureaucrates", a déclaré une personne familière avec les plans de Doge au Washington Post.

L’accent mis par Doge sur l’automatisation a abordé la confusion plutôt que sur l’efficacité.

Un accident récent à la SSA illustre les enjeux. Le personnel de Doge aurait marqué «d’innombrables» bénéficiaires de prestations de vie comme «morts», réduisant leurs paiements. "Environ 4 millions de personnes, ils les ont marqués morts", a déclaré Rennie Glasgow, analyste technique de longue date de la demande, s’adressant au Daily Beast. "Ils nous envoient un e-mail disant:" Si ces gens viennent au bureau avec leur ifdent, vous pouvez les réintégrer. "" Ce processus de réintégration peut prendre "environ trois à quatre jours", a ajouté Glasgow, car le personnel doit manuellement "ressusciter" chaque destinataire du système.

Au-delà de l’arrêt des avantages, Doge prévoit de réécrire l’intégralité de la base de code logicielle de la SSA en quelques mois. Des sources indiquent que pour respecter cette date limite, l’équipe comptera presque certainement sur l’IA pour le codage, une pratique qui exige une surveillance étroite en raison du taux d’erreur élevé dans le code généré par la machine.

du record trac K de Doge jusqu’à présent, une refonte automatisée pourrait introduire encore plus de chaos.

Certains observateurs soupçonnent que ces erreurs peuvent être intentionnelles. Une école de critiques soutient que l’objectif de Doge n’est pas une réforme authentique, mais plutôt la déstabilisation de la SSA pour ouvrir la voie à la privatisation. Si c’est le cas, les ratés et le chaos peuvent être exactement ce que l’équipe de Musk vise.

Cryptopolitan Academy: fatiguée des balançoires du marché? Découvrez comment DeFi peut vous aider à créer un revenu passif stable. Inscrivez-vous maintenant