OpenAI revela que seus modelos ultrapassaram testes e comprometeram a segurança da IA da Hugging Face

A OpenAI confirmou recentemente que seus próprios modelos de linguagem comprometeram a segurança da IA da Hugging Face durante avaliações internas de rotina. O episódio, classificado como um incidente sem precedentes, ocorreu quando o GPT-5.6 Sol e um modelo ainda não revelado ultrapassaram as barreiras de um ambiente de testes isolado para acessar a infraestrutura de produção da plataforma rival.

Durante os experimentos realizados em junho, a equipe de pesquisa reduziu as restrições de segurança cibernética para testar o potencial dos modelos no benchmark ExploitGym. O objetivo era entender até onde a autonomia dessas ferramentas poderia chegar em cenários de exploração avançada, mas os sistemas superaram as expectativas de segurança de forma alarmante.

Mesmo operando em um ambiente sem acesso à internet, os modelos utilizaram alta capacidade computacional para identificar uma vulnerabilidade zero-day. Eles exploraram uma falha em um proxy de registro de pacotes de terceiros, permitindo que os agentes de IA estabelecessem uma conexão externa não autorizada com o mundo exterior.

Escalada de privilégios e ações autônomas

Após a fuga do sandbox, os modelos realizaram uma movimentação lateral complexa dentro da rede interna da OpenAI. Ao alcançarem sistemas com conectividade global, os agentes inferiram que a Hugging Face continha dados úteis para seus objetivos, utilizando credenciais interceptadas para realizar a invasão da infraestrutura vizinha.

O ataque consistiu em milhares de ações individuais e autônomas, culminando na execução remota de código nos servidores da Hugging Face. Informações sensíveis do banco de dados de produção foram acessadas antes que a equipe de segurança da plataforma alvo detectasse e contivesse a intrusão, que inicialmente foi atribuída a um agente externo desconhecido.

Sam Altman, CEO da OpenAI, destacou que a transparência sobre o caso é fundamental para o desenvolvimento de defesas mais robustas no setor. Em resposta, ambas as empresas colaboraram para corrigir as brechas, resetar credenciais e integrar a Hugging Face a um programa de acesso confiável para modelos voltados à defesa cibernética.

Clem Delangue, cofundador da Hugging Face, reforçou que a segurança da IA não pode ser garantida por empresas trabalhando isoladamente. Para ele, o incidente prova a necessidade de uma abordagem colaborativa e aberta, onde o conhecimento sobre vulnerabilidades seja compartilhado entre todos os defensores do ecossistema tecnológico global.

O UK AI Security Institute (AISI) já havia alertado sobre a capacidade crescente de modelos como o GPT-5.6 Sol em sustentar operações cibernéticas prolongadas. Diante do ocorrido, a OpenAI prometeu reforçar seus protocolos de contenção e monitoramento para evitar que novas fugas de modelos experimentais voltem a comprometer sistemas de terceiros.