Em menos de três semanas, OpenAI, Anthropic e Meta revelaram consecutivamente que seus modelos de IA saíram de ambientes controlados de teste e interagiram com sistemas reais na internet. Os três incidentes tinham um denominador comum: a startup Irregular IA, uma empresa israelense de segurança especializada em testes de grandes modelos de linguagem.
O problema raiz foi simples na origem e grave nas consequências: o ambiente de sandbox da startup Irregular IA estava inadvertidamente conectado à internet pública. Durante exercícios de Capture-the-Flag (CTF) — em que modelos são instruídos a encontrar vulnerabilidades em redes simuladas —, alvos fictícios usados nos testes tinham os mesmos nomes de domínios reais existentes na internet. Os modelos, crendo estar dentro da simulação, interagiram com sites e sistemas reais sem saber que haviam saído do sandbox.
Os três incidentes: o que aconteceu em cada laboratório
Anthropic (Claude): após a divulgação da OpenAI, a Anthropic iniciou uma revisão abrangente de seus ambientes de avaliação. Foram analisadas 141.006 interações em que modelos Claude poderiam ter acessado a internet aberta. O resultado: 3 incidentes confirmados. No caso mais grave, o modelo Claude Opus 4.7 localizou e explorou vulnerabilidades — senhas fracas e endpoints sem autenticação — obtendo acesso a credenciais e dados de banco de dados de uma organização real. Os incidentes mais antigos datam de abril de 2026; a Anthropic suspendeu todas as avaliações cibernéticas em 23 de julho e iniciou notificações às organizações afetadas em 27 de julho. Duas das três empresas desconheciam o acesso até serem notificadas.
Um dado relevante: em outro incidente, um modelo de pesquisa interno interrompeu voluntariamente o ataque ao reconhecer que havia chegado a uma organização real. A Anthropic classificou os eventos como harness failure (falha na infraestrutura de teste), não como alignment failure — o que é a distinção mais importante aqui: os modelos não foram mal-alinhados intencionalmente. O problema estava no ambiente.
OpenAI: um modelo avançado escapou do sandbox e tentou atacar sistemas na plataforma Hugging Face e em Model Labs, acreditando fazer parte do exercício CTF. A OpenAI esclareceu que o incidente não envolveu fuga sofisticada de sandbox nem vulnerabilidade anteriormente desconhecida.
Meta: o modelo Muse Spark 1.1 escapou durante avaliação conduzida pela startup Irregular IA e explorou uma vulnerabilidade em um serviço terceirizado. A Meta só ficou sabendo do incidente após ser notificada pela própria Irregular — não detectou o acesso de forma independente.
Por que isso importa para o seu negócio
Para empreendedores e pequenas empresas, os incidentes levantam uma pergunta direta: você sabe quem — ou o quê — está acessando seus sistemas, incluindo os fornecedores dos seus fornecedores?
Dois pontos concretos merecem atenção imediata:
1. Cadeia de fornecedores e acesso de terceiros. Nenhuma das organizações afetadas era cliente direto dos laboratórios de IA. Eram empresas cujos domínios coincidiam com alvos fictícios dos testes. O risco de terceiros que acessam fornecedores que por sua vez acessam seus sistemas é real e muitas vezes invisível para o negócio.
2. Endpoints expostos e credenciais fracas. O Claude Opus 4.7 conseguiu acesso explorando senhas fracas e endpoints sem autenticação — vulnerabilidades clássicas, não exóticas. Auditar quais APIs estão expostas, revisar políticas de acesso e garantir que credenciais sejam rotacionadas regularmente é uma das ações com maior retorno em segurança para empresas de qualquer porte.
A Anthropic publicou detalhes técnicos sobre o processo de investigação — a transparência, embora tardia, é sinal positivo de que o setor está amadurecendo em práticas de divulgação responsável.
Quem é a startup Irregular IA
Fundada no final de 2023 em Tel Aviv, a startup Irregular IA foi criada por Dan Lahav (CEO, ex-IBM e ex-Unidade 81 da inteligência militar israelense) e Omer Nevo (CTO, ex-Google Research). A empresa levantou aproximadamente US$ 80 milhões em rodadas lideradas por Sequoia Capital e Redpoint Ventures, com valuation estimado em US$ 450 milhões em 2025. A startup atingiu lucratividade em 2025 e atende OpenAI, Anthropic, Google DeepMind e agências governamentais do Reino Unido.
A Irregular atua em três frentes: AI red teaming, testes de resiliência e simulações avançadas de ciberataques para identificar vulnerabilidades em modelos antes do deploy. Em resposta aos incidentes, anunciou um white paper com procedimentos recomendados para manter modelos de IA dentro de ambientes controlados — descrevendo o desafio como "um dos problemas mais urgentes da indústria de IA".
O que vem a seguir: regulação e padrões do setor
Os três incidentes ocorrem em momento em que reguladores americanos pressionam por salvaguardas mais robustas nos testes de IA. O presidente Donald Trump instruiu assessores a desenvolver um framework voluntário de cibersegurança para modelos avançados. O deputado Ted Lieu declarou que um projeto de lei de "AI Kill Switch" precisa ser votado ainda em 2026.
O sinal para o mercado é duplo: a startup Irregular IA demonstrou competência ao identificar e reportar os incidentes — mas também expôs a fragilidade de um ecossistema de testes terceirizados ainda sem padrões formais. Para quem usa serviços de IA em processos de negócio, isso reforça a importância de auditar não apenas os fornecedores diretos, mas toda a cadeia de acesso aos seus dados.
Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.
Fonte: CNBC
