Meta usou contratados fingindo ser adolescentes para testar chatbots rivais

Centenas de contratados que trabalhavam em um projeto para a Meta fingiram ser adolescentes para testar como chatbots rivais reagiam a perguntas sobre suicídio, sexo, drogas e outros temas de alto risco, segundo reportagem da Wired. A investigação afirma que os trabalhadores receberam a tarefa de interagir com sistemas como Gemini, do Google, e ChatGPT, da OpenAI, simulando conversas de jovens usuários em situações vulneráveis ou potencialmente perigosas.

A prática chama atenção porque ocorre em um dos pontos mais sensíveis da corrida por inteligência artificial generativa: a segurança de chatbots diante de menores de idade. Empresas de tecnologia têm promovido seus assistentes como ferramentas úteis para estudo, busca, produtividade e companhia digital, mas esses mesmos sistemas podem ser pressionados por usuários a dar respostas inadequadas, incentivar comportamentos perigosos ou lidar mal com crises de saúde mental.

Testes sensíveis em meio à disputa por segurança

De acordo com a Wired, o objetivo dos testes era observar como produtos concorrentes respondiam quando confrontados com pedidos arriscados feitos por perfis que se apresentavam como adolescentes. Em vez de apenas avaliar o próprio modelo da Meta, os contratados teriam sido orientados a provocar sistemas rivais em cenários delicados, produzindo uma espécie de radiografia comparativa das proteções implementadas por outras empresas.

Esse tipo de avaliação não é incomum em segurança de IA. Desenvolvedores fazem testes adversariais, conhecidos como red teaming, para descobrir falhas antes que usuários reais sejam expostos a elas. A diferença, neste caso, está no contexto competitivo e na simulação de menores de idade: quando uma empresa testa o produto de outra em tópicos como automutilação, abuso sexual, substâncias ilícitas ou exploração de vulnerabilidades emocionais, o exercício deixa de ser apenas técnico e passa a levantar questões éticas e regulatórias.

• Os testes teriam envolvido trabalhadores terceirizados atuando como adolescentes fictícios.
• Os temas incluíam suicídio, sexo, drogas e outros assuntos classificados como de alto risco.
• A reportagem da Wired cita chatbots rivais, incluindo Gemini e ChatGPT.
• O caso ocorre em um momento de forte pressão pública por proteções mais robustas para usuários jovens.

Por que adolescentes são o centro do debate

Adolescentes são um grupo especialmente relevante para empresas de IA porque representam tanto um público de crescimento quanto uma população vulnerável. Jovens podem recorrer a chatbots para tirar dúvidas íntimas, pedir conselhos emocionais, estudar, conversar sobre relacionamentos ou buscar orientação em momentos de crise. A forma como um sistema responde a uma frase ambígua sobre autolesão, por exemplo, pode ter consequências muito diferentes de uma resposta em uma consulta banal.

Nos últimos anos, plataformas digitais passaram a enfrentar maior escrutínio sobre o impacto de seus produtos na saúde mental de crianças e adolescentes. A chegada de chatbots conversacionais ampliou esse debate porque a interação é mais pessoal, contínua e persuasiva do que uma busca tradicional. Um chatbot pode parecer acolhedor, confiante e íntimo, mesmo quando não tem capacidade real de compreender sofrimento humano ou intervir com segurança.

Para empresas como Meta, Google e OpenAI, demonstrar que seus sistemas recusam pedidos perigosos e redirecionam usuários para ajuda adequada tornou-se parte central da competição. Não se trata apenas de desempenho técnico ou velocidade de resposta. A reputação de um chatbot depende cada vez mais de sua capacidade de dizer não, contextualizar riscos, evitar instruções nocivas e oferecer caminhos de apoio quando o usuário parece estar em perigo.

O limite entre auditoria e espionagem competitiva

O caso também expõe uma zona cinzenta da indústria: até que ponto testar produtos disponíveis ao público é uma auditoria legítima, e quando se torna uma prática competitiva problemática? Empresas frequentemente analisam rivais, comparam recursos e estudam falhas públicas. Mas a simulação sistemática de adolescentes em conversas emocionalmente carregadas cria um cenário mais delicado, especialmente se os resultados forem usados para orientar posicionamento comercial, estratégias jurídicas ou desenvolvimento de produto.

A terceirização adiciona outra camada de complexidade. Trabalhadores contratados para interagir repetidamente com conteúdos sobre suicídio, sexo e drogas podem ficar expostos a material psicologicamente pesado. Em projetos de moderação e segurança, a indústria já foi criticada por transferir a pessoas mal remuneradas e pouco visíveis a tarefa de lidar com o lado mais perturbador das plataformas. Em IA generativa, esse problema reaparece sob uma nova forma: a avaliação humana de respostas produzidas por modelos.

Há ainda uma questão metodológica. Testes desse tipo podem revelar falhas reais, mas também dependem de como os prompts são construídos, de quais versões dos produtos foram avaliadas, do idioma usado, do contexto da conversa e da interpretação dos avaliadores. Uma comparação entre chatbots pode parecer objetiva, mas pequenas diferenças no roteiro podem alterar significativamente o resultado. Por isso, auditorias independentes e transparentes tendem a ter mais legitimidade do que avaliações conduzidas por concorrentes diretos.

Pressão regulatória deve aumentar

A revelação chega em um momento em que governos discutem regras para IA, proteção infantil e responsabilidade das plataformas. Reguladores tendem a se interessar não apenas pelo comportamento dos modelos, mas também pelos processos internos usados para testá-los. Se empresas estão realizando avaliações envolvendo menores simulados e temas de alto risco, perguntas sobre documentação, supervisão, treinamento dos contratados e uso dos resultados se tornam inevitáveis.

Para o público, a reportagem reforça uma realidade desconfortável: a segurança dos chatbots ainda está sendo construída em tempo real, muitas vezes por meio de testes intensos, pouco visíveis e conduzidos em ambiente de rivalidade comercial. A promessa de assistentes úteis para jovens depende de padrões mais claros de avaliação, auditorias independentes e mecanismos de proteção que funcionem não apenas em demonstrações públicas, mas em conversas longas, ambíguas e emocionalmente difíceis.

Fonte: Wired