A Meta, empresa controladora do Facebook, Instagram e WhatsApp, está implementando uma mudança significativa em seus processos internos: até 90% das avaliações de risco relacionadas à privacidade, segurança e integridade serão automatizadas por sistemas de inteligência artificial (IA). Essa decisão, revelada por documentos internos obtidos pela NPR, visa agilizar o lançamento de novos recursos e atualizações nas plataformas da empresa.
O que muda com a automação
Tradicionalmente, as avaliações de risco — conhecidas internamente como “revisões de privacidade e integridade” — eram conduzidas por equipes humanas que analisavam possíveis impactos de novas funcionalidades, como violações de privacidade, riscos para menores de idade e disseminação de conteúdo nocivo. Com a nova abordagem, essas análises serão majoritariamente realizadas por sistemas de IA, permitindo que atualizações e novos recursos sejam implementados com maior rapidez.
Preocupações internas e externas
Embora a Meta afirme que a automação trará eficiência, funcionários atuais e ex-funcionários expressaram preocupações sobre os riscos dessa mudança. Um ex-executivo da empresa, sob anonimato, alertou que a redução da supervisão humana pode aumentar a probabilidade de consequências negativas não previstas, como a amplificação de desinformação ou riscos à segurança dos usuários.
A Meta declarou que continuará utilizando especialistas humanos para decisões complexas e que a automação será aplicada principalmente a avaliações consideradas de “baixo risco”. No entanto, documentos internos indicam que áreas sensíveis, como segurança de IA, riscos para jovens e integridade de conteúdo, também estão sendo consideradas para automação.
Contexto regulatório
Desde 2012, a Meta está sob supervisão da Comissão Federal de Comércio dos EUA (FTC) devido a preocupações com o manuseio de dados pessoais dos usuários. A empresa afirma ter investido bilhões de dólares para aprimorar a privacidade dos usuários e que as mudanças visam otimizar os processos de revisão de produtos.
Implicações para os usuários
A substituição de revisores humanos por sistemas de IA nas avaliações de risco levanta questões sobre a capacidade dessas tecnologias em lidar com nuances e contextos complexos. Especialistas alertam que a automação pode não ser suficiente para antecipar todos os impactos sociais e éticos das mudanças nas plataformas, especialmente em áreas sensíveis como segurança infantil e disseminação de conteúdo prejudicial.
Fonte:
Allyn, B., & Bond, S. (2025, May 31). Meta plans to replace humans with AI to assess privacy and societal risks. NPR. https://www.npr.org/2025/05/31/nx-s1-5407870/meta-ai-facebook-instagram-risksNPR+4
Pingback: Como TikTok, Instagram e Snap usam IA contra distúrbios alimentares - neuralsaude.com.br