A Meta, empresa responsável por plataformas como Instagram e Facebook, anunciou que irá automatizar até 90% das avaliações de risco realizadas em suas redes sociais, utilizando sistemas de inteligência artificial (IA). A informação foi divulgada pela National Public Radio (NPR), nos Estados Unidos, com base em documentos internos da empresa.
A decisão representa uma mudança significativa na forma como a big tech gerencia conteúdos sensíveis, como publicações violentas, informações falsas e até o monitoramento da presença de adolescentes em suas plataformas. O objetivo principal é acelerar os processos de avaliação, reduzir custos e padronizar as decisões com base em algoritmos cada vez mais sofisticados.
Leia também: Entenda como a Inteligência Artificial está transformando o ensino superior brasileiro
Como será feita a avaliação de risco com IA?
De acordo com os documentos vazados, a inteligência artificial ficará responsável por analisar automaticamente diversas categorias de conteúdo. Isso inclui desde aspectos relacionados à segurança da própria IA, passando pela análise de conteúdos violentos, até a verificação da disseminação de informações falsas.
O processo será realizado de forma instantânea: as equipes internas da Meta preenchem um formulário sobre um novo produto ou recurso, e a IA analisa o risco e libera a funcionalidade em tempo real. A checagem humana, que antes era padrão em todas as etapas, agora será opcional, cabendo aos responsáveis pelo produto confirmar ou não o cumprimento dos requisitos apontados pela tecnologia.
Embora essa mudança traga ganhos operacionais e financeiros, especialistas apontam para riscos relacionados à falta de rigor e ao caráter automatizado das análises, o que pode resultar em decisões menos criteriosas. Um ex-funcionário da Meta, ouvido pela NPR sob anonimato, destacou que a ausência de oposição humana nas avaliações pode gerar falhas na contenção de conteúdos nocivos.
Redução de custos e investimentos bilionários
Um dos principais atrativos para a Meta nesta mudança é a redução de custos operacionais. Embora a empresa não tenha divulgado quanto economizará com a substituição da checagem humana, estima-se que, apenas no programa de privacidade, a companhia tenha investido mais de US$ 8 bilhões — o equivalente à cerca de R$ 43 bilhões, considerando a cotação de R$ 5,40.
Em nota enviada ao Meio & Mensagem, a Meta reforçou que utiliza tecnologia para tornar as decisões de baixo risco mais consistentes e previsíveis, mas que ainda conta com a expertise humana para questões mais complexas. “Nos comprometemos a entregar produtos inovadores enquanto cumprimos nossas obrigações regulatórias”, destacou a empresa.
Fim da checagem de fatos e adoção de novas ferramentas por parte da Meta
A aposta na inteligência artificial não é um movimento isolado. Desde janeiro de 2025, a Meta encerrou seu programa de checagem de fatos, que funcionava desde 2016 em parceria com agências de verificação. No lugar desse modelo, a empresa passou a adotar as chamadas “notas de comunidade”, recurso já utilizado em outras redes sociais, como o X (antigo Twitter).
Esse sistema permite que os próprios usuários adicionem contextos e informações adicionais a publicações, promovendo uma verificação colaborativa e descentralizada. Para a Meta, a ferramenta representa uma evolução no combate à desinformação, com menor custo e maior agilidade.
Segurança de crianças e adolescentes
Outro aspecto relevante das mudanças promovidas pela Meta está relacionado à segurança de crianças e adolescentes. A empresa, que frequentemente é criticada por falhas nesse campo, informou recentemente que as lojas de aplicativos também devem ser responsáveis pela verificação de idade de usuários.
Essa posição foi divulgada após uma pesquisa realizada pela consultoria Ipsos, a pedido da Meta, com pais de menores de 18 anos. O levantamento mostrou que a maioria dos pais acredita que as plataformas digitais devem reforçar a proteção de jovens, especialmente no momento da criação de contas.
Nos últimos anos, a Meta vem implementando diversos recursos para reforçar a segurança dos menores, como limites de tempo de uso, filtros de conteúdo e sistemas automatizados de monitoramento de interações suspeitas.
A aceleração dos algoritmos e os desafios éticos
Ao automatizar a maior parte das avaliações de risco, a Meta acelera o processo de atualização de seus algoritmos e a implantação de novos recursos. Essa velocidade pode ser vista como um diferencial competitivo importante, especialmente no ambiente altamente dinâmico das redes sociais.
Por outro lado, surgem questões éticas relevantes. A automatização pode reduzir a transparência sobre como decisões são tomadas e aumentar o risco de vieses algorítmicos. Sem uma revisão humana sistemática, conteúdos potencialmente nocivos podem escapar do radar ou, ao contrário, conteúdos inofensivos podem ser removidos injustamente.
Além disso, há uma preocupação sobre a capacidade das IAs atuais de interpretar nuances culturais, contextos sociais e linguagens regionais — aspectos fundamentais quando se lida com bilhões de usuários espalhados pelo mundo.
Um futuro cada vez mais automatizado
A iniciativa da Meta reflete uma tendência global de uso intensivo de inteligência artificial em processos de decisão corporativa, especialmente em grandes empresas de tecnologia. A perspectiva é que, nos próximos anos, a automatização avance ainda mais, não apenas na avaliação de risco, mas também na moderação de conteúdo e no desenvolvimento de novos produtos e serviços.
Para os usuários, resta acompanhar como essas mudanças irão impactar a experiência nas redes sociais e a segurança no ambiente digital. Para os especialistas, o desafio será garantir que, mesmo com a IA no comando, não falte responsabilidade, transparência e respeito aos direitos dos usuários.
