Meta mise sur l’IA pour renforcer la confidentialité des utilisateurs—ou pour mieux monétiser leurs données ?
Meta déploie l’intelligence artificielle comme bouclier de confidentialité—une promesse audacieuse, mais qui sent bon le calcul marketing. Entre protection des données et rentabilité, le géant des réseaux sociaux joue sur les deux tableaux.
Reste à savoir si cette initiative servira réellement les utilisateurs... ou les actionnaires. Après tout, en tech comme en finance, quand c’est gratuit, c’est toi le produit.
Meta a l’intention de passer à un système d’examen alimenté par l’IA
Selon des sources à l’intérieur de Meta, le développement a été considéré comme une victoire pour les développeurs de produits, car il leur offre suffisamment de temps pour publier les mises à jour et les fonctionnalités de leur application. Cependant, il y a encore des inquiétudes à l’intérieur de l’entreprise quant à la délicate de la situation, notant que l’entreprise permettra à l’IA de déterminer des déterminations délicates sur les applications de Meta pourrait entraîner des dommages réels. Le biais a été partagé par les employés anciens et actuels.
"Dans la mesure où ce processus signifie fonctionnellement plus de choses qui lancent plus rapidement, avec un examen et une opposition moins rigoureux, cela signifie que vous créez des risques plus élevés", a déclaré un ancien Meta Executive qui a demandé l’anonymat par peur des représailles de la part de l’entreprise. «Les externalités négatives des changements de produits sont moins susceptibles d’être évitées avant de commencer à causer des problèmes dans le monde.»
Dans une déclaration récente, Meta a mentionné qu’elle avait infusé des milliards de dollars pour soutenir la confidentialité des utilisateurs. La société est également sous la surveillance de la Federal Trade Commission depuis 2012, l’agence concluant un accord avec la société sur la façon dont il gère les informations personnelles de ses utilisateurs. En conséquence, il y a toujours eu un besoin d’examens de confidentialité des produits, selon les anciens et actuels employés.
Dans sa déclaration, la société a ajouté que les changements d’examen des risques de produit aideront à rationaliser la prise de décision, notant qu’elle utilise toujours une expertise humaine dans des questions nouvelles et complexes. Meta a également noté que seules les décisions à faible risque sont actuellement automatisées, mais les documents internes examinés par NPR montrent que Meta a examiné l’automatisation des revues pour des aspects sensibles, notamment la sécurité de l’IA, les risques pour les jeunes et une autre catégorie connue sous le nom d’intégrité, qui est responsable de choses comme la désinformation et les contenus violents.
Dans le cadre du système précédent, les mises à jour des produits et des fonctionnalités ont d’abord été envoyées aux évaluateurs des risques avant d’être déployés au public. Cependant, selon une diapositive, le fonctionnement du nouveau processus fonctionne, les équipes de produits recevront des décisions instantanées après avoir rempli un questionnaire sur le projet. La décision alimentée par l’IAdentsi je vais à plusieurs zones et exigences risquées qui pourraient y répondre. Avant le lancement de ces projets, l’équipe de produits vérifiera également si les exigences ont été remplies.
Ce que le nouveau système souligne, c’est que les ingénieurs construisant des méta-produits devront porter leur jugement sur les risques. Selon la diapositive, dans certains cas, y compris de nouveaux risques ou lorsqu’une de produits a besoin de commentaires supplémentaires, les projets recevront un examen manuel qui est effectué par des humains.
Cependant, un ancien directeur de méta pour l’innovation jusqu’en 2022, Zvika Krieger a mentionné que les chefs de produit et les ingénieurs ne sont pas des experts en vie privée. "La plupart des chefs de produit et des ingénieurs ne sont pas des experts en matière de confidentialité et ce n’est pas l’objectif de leur travail. Ce n’est pas ce sur quoi ils sont principalement évalués et ce n’est pas ce qu’ils sont incités à hiérarchiser", a-t-il déclaré. Il a également ajouté que certaines de ces auto-évaluations sont devenues des exercices qui manquent des risques importants.
Votre nouvelle crypto mérite l’attention - la différence clé vous place sur plus de 250 sites supérieurs
