Google DeepMind cria instituto para ampliar debate sobre AGI

O Google DeepMind lançou o DeepMind Institute (DMI), uma plataforma dedicada a discutir os principais desafios associados à inteligência artificial geral, ou AGI. A iniciativa reúne pesquisadores da própria DeepMind, do Google e da comunidade científica internacional, com participação esperada de especialistas em tecnologia, artes, humanidades e políticas públicas.

Segundo as informações divulgadas pelo instituto e relatadas por The Decoder e TechCrunch, a proposta é tratar de segurança, governança e riscos de controle sem limitar a discussão ao ponto de vista dos desenvolvedores de modelos. Entre os riscos citados estão ataques cibernéticos e a possibilidade de perda de controle sobre sistemas avançados.

O DMI é dirigido por Shane Legg, cofundador da DeepMind, James Manyika, executivo do Google, e Demis Hassabis, presidente do Google DeepMind. Legg ocupa ainda a função de editor-gerente. A estrutura apresentada pela empresa pretende estimular posições diferentes entre o Google, o Google DeepMind e pesquisadores externos.

Uma instituição para discutir uma definição ainda contestada

A criação ocorre em um campo no qual nem sequer existe consenso sobre o significado de AGI. A DeepMind descreve o conceito como um sistema capaz de reunir todas as habilidades cognitivas do cérebro humano. Essa formulação é uma posição da empresa, não uma definição aceita de forma geral pela comunidade científica.

O próprio material citado no dossiê reconhece uma tensão entre as expectativas sobre a chegada da AGI e as limitações dos sistemas atuais. Os modelos ainda falham em tarefas simples e não demonstram criatividade de maneira equivalente à humana, enquanto Hassabis avalia que a AGI pode surgir nos próximos anos. Legg mencionou recentemente a possibilidade de um precursor até 2028, mas o dossiê não apresenta uma previsão consensual ou uma validação independente dessas estimativas.

A comparação com outras empresas mostra como as metas variam. A OpenAI enfatiza o valor econômico como parte de sua definição, e seu presidente-executivo, Sam Altman, teria indicado que a AGI poderia chegar ainda neste ano. Essas previsões permanecem declarações de executivos, não fatos confirmados sobre a data de surgimento da tecnologia.

Também é importante distinguir AGI de ASI, a superinteligência artificial. No material fornecido, ASI é apresentada como uma hipótese de sistema que ultrapassaria os humanos em todos os aspectos. A AGI seria, potencialmente, uma etapa necessária, mas não equivalente, a esse cenário.

Quatro ensaios colocam propostas na mesa

A coleção inaugural do instituto reúne quatro ensaios. Os temas incluem políticas econômicas para lidar com uma possível disrupção causada pela AGI, preservação de explicações compreensíveis sobre o raciocínio dos modelos, princípios voltados ao florescimento humano e um método para avaliar sistemas de IA de fronteira.

Um dos textos, assinado pelos pesquisadores de segurança Rohin Shah e Anca Dragan, examina a redução da transparência em modelos avançados. A preocupação é que novas arquiteturas tornem mais difícil observar e verificar como um sistema chega às suas respostas, diminuindo a capacidade de monitoramento por desenvolvedores e reguladores.

Os autores defendem que esse trade-off seja enfrentado diretamente. Entre as possibilidades mencionadas estão limitar a chamada profundidade serial opaca — a quantidade de computação sequencial realizada sem produzir um registro de raciocínio legível — ou exigir demonstrações de que sistemas menos transparentes continuam monitoráveis. O texto não estabelece que essas medidas já tenham sido adotadas.

Outro ensaio, de Hassabis, propõe um órgão de padrões para IA de fronteira liderado pelos Estados Unidos. Na formulação descrita pelo TechCrunch, os desenvolvedores inicialmente submeteriam seus modelos voluntariamente a avaliações até 30 dias antes do lançamento. Depois de comprovada a eficácia do sistema, a aprovação poderia se tornar requisito para a implantação desses modelos no país.

• Avaliações iniciais voluntárias antes do lançamento de modelos avançados.
• Possível transição futura para exigências obrigatórias nos Estados Unidos.
• Testes independentes e não divulgados previamente para reduzir adaptação dos laboratórios.
• Escalonamento das medidas caso os riscos sejam considerados mais graves.

O que muda na prática e o que ainda falta esclarecer

A novidade mais concreta é a tentativa de transformar o debate sobre AGI em uma agenda pública com propostas específicas. Em vez de apenas repetir declarações gerais sobre segurança, os ensaios abordam avaliação externa, transparência, políticas econômicas e critérios de governança.

Ainda assim, o lançamento não equivale à criação de um regulador independente nem demonstra que exista consenso entre empresas, governos e pesquisadores. O instituto está ligado ao Google DeepMind, e o dossiê não detalha sua estrutura jurídica, orçamento, mecanismos de participação externa ou autoridade para impor qualquer recomendação.

A proposta de testes mantidos em sigilo também levanta uma questão de prestação de contas: avaliações não divulgadas podem dificultar a preparação dos laboratórios, mas exigem confiança na instituição que as administra. O material fornecido não informa como essa independência seria garantida.

O próximo ponto a acompanhar é se o DMI conseguirá produzir contribuições que ultrapassem a posição institucional do Google DeepMind e influenciem padrões aceitos por diferentes atores. Também será necessário observar se as propostas de avaliação voluntária, transparência e eventual desaceleração coordenada avançarão para políticas aplicáveis ou permanecerão no campo dos ensaios.

Até o momento, o fato confirmado é o lançamento de uma plataforma e a publicação de sua primeira coleção de textos. A existência do instituto amplia o espaço de discussão, mas não resolve as incertezas sobre quando a AGI surgirá, como será definida ou quais salvaguardas serão consideradas suficientes.

Fontes: The Decoder · TechCrunch (IA)