Meta anuncia estratégia de IA para proteger privacidade — será que desta vez é pra valer?

A Meta promete revolucionar a privacidade com IA, mas especialistas duvidam — afinal, dados são o novo petróleo.

Plataforma afirma que algoritmos vão blindar informações pessoais. Será só mais um ’token’ de confiança para acalmar reguladores?

Enquanto isso, no mundo real: anúncios hiper-direcionados seguem bombando. Coincidência? Nem tanto.

A Meta pretende mudar para um sistema de revisão movido a IA

De acordo com fontes dentro da Meta, o desenvolvimento foi visto como uma vitória para os desenvolvedores de produtos, pois lhes proporciona tempo suficiente para lançar suas atualizações e recursos de aplicativos. No entanto, ainda existem preocupações dentro da empresa sobre o quão complicado é a situação, observando que a empresa permitirá que a IA faça determinações complicadas sobre os aplicativos da Meta pode levar a danos no mundo real. O viés foi compartilhado por funcionários ex -ex -funcionários e atuais.

"Na medida em que esse processo significa funcionalmente mais coisas que estão sendo lançadas mais rapidamente, com escrutínio e oposição menos rigorosos, significa que você está criando riscos mais altos", disse um ex -meta executivo que solicitou o anonimato por medo de retaliação da empresa. "As externalidades negativas das mudanças no produto têm menos probabilidade de serem evitadas antes de começarem a causar problemas no mundo".

Em uma declaração recente, a Meta mencionou que infundiu bilhões de dólares para apoiar a privacidade do usuário. A empresa também está sob a vigilância da Federal Trade Commission desde 2012, com a agência chegando a um acordo com a empresa sobre como lida com as informações pessoais de seus usuários. Como resultado, sempre houve uma necessidade de revisões de privacidade dos produtos, de acordo com ex -funcionários de meta -meta.

Em sua declaração, a empresa acrescentou que as alterações de revisão de risco do produto ajudarão a otimizar a tomada de decisões, observando que ainda emprega conhecimento humano em questões novas e complexas. A Meta também observou que apenas decisões de baixo risco estão sendo automatizadas atualmente, mas os documentos internos revisados pela NPR mostram que a Meta está investigando a automação de críticas para aspectos sensíveis, incluindo segurança de IA, risco para jovens e outra categoria conhecida como integridade, responsável por coisas como desinformação e conteúdo violento.

No sistema anterior, as atualizações de produtos e recursos foram enviadas para os avaliadores de risco antes de serem lançados ao público. No entanto, de acordo com um slide que mostra como o novo processo funciona, as equipes de produtos receberão decisões instantâneas após a conclusão de um questionário sobre o projeto. A decisão movida a IA voudentvárias áreas e requisitos arriscados que podem atendê-los. Antes do lançamento de tais projetos, a equipe de produtos também verificará se os requisitos foram atendidos.

O que o novo sistema destaca é que os engenheiros que constroem meta -produtos precisarão fazer seu julgamento sobre os riscos. De acordo com o slide, em alguns casos, incluindo novos riscos ou onde uma de produto precisa de feedback adicional, os projetos receberão uma revisão manual realizada pelos seres humanos.

No entanto, um ex -meta -diretor de inovação até 2022, Zvika Krieger mencionou que os gerentes e engenheiros de produtos não são especialistas em privacidade. "A maioria dos gerentes de produto e engenheiros não são especialistas em privacidade e esse não é o foco de seu trabalho. Não é nisso que eles são avaliados principalmente e não é o que eles são incentivados a priorizar", disse ele. Ele também acrescentou que algumas dessas auto-avaliações se tornaram exercícios que perdem alguns riscos importantes.

Suas notícias criptográficas merecem atenção - o fio de diferença -chave coloca você em mais de 250 sites superiores