O modelo OpenAI Astra pode se tornar o primeiro grande modelo de linguagem a receber a classificação "crítica" de risco de cibersegurança no Preparedness Framework da OpenAI. A empresa anunciou na última sexta-feira que não pode descartar que o OpenAI Astra possua capacidades de descobrir falhas zero-day em sistemas reais sem qualquer assistência humana — o que define, no sistema interno da empresa, o grau máximo de risco. Não há precedente para esse nível em nenhum dos modelos anteriores da OpenAI.

O que significa a classificação "crítica" e por que o Astra é diferente

O Preparedness Framework classifica modelos em quatro níveis de risco de cibersegurança: Baixo, Médio, Alto e Crítico. Até agora, nenhum modelo comercial da OpenAI havia chegado ao nível "Crítico" — nem o GPT-5.6 Sol, o atual topo de linha, classificado como "Alto".

Para atingir o nível "Crítico", um modelo precisa conseguir fazer pelo menos uma das seguintes coisas:

  • Descobrir exploits zero-day em sistemas reais e críticos, com múltiplos níveis de severidade, de forma autônoma, sem ajuda de especialistas humanos; ou
  • Lançar ataques cibernéticos com base em objetivos de alto nível fornecidos pelo usuário.

Avaliações internas do OpenAI Astra indicaram "avanços significativos em coding agêntico e cibersegurança". A empresa concluiu que não pode mais descartar que o modelo atinja esse threshold. O Astra também chamou atenção por resolver 10 problemas matemáticos abertos há décadas — com cada prova custando cerca de 2 mil dólares em tokens computacionais.

Para conter os riscos, a OpenAI anuncia as seguintes medidas antes de qualquer lançamento do OpenAI Astra:

  • Ambientes de teste isolados, sem acesso à internet pública
  • Restrição de acesso a ferramentas e redes durante avaliações
  • Criptografia reforçada dos pesos do modelo
  • Monitoramento universal de chain-of-thought em aplicações agênticas internas
  • Compartilhamento de protocolos de segurança com governos e organizações de segurança de IA
  • Pausa no desenvolvimento fora de ambientes com controles de segurança adequados

A empresa ressaltou que o monitoramento de chain-of-thought se aplica ao uso interno e não é garantido durante operação comercial.

Por que isso importa para o seu negócio

À primeira vista, o debate sobre as capacidades do OpenAI Astra pode parecer distante da realidade de uma PME. Mas há dois impactos práticos que merecem atenção imediata.

Oportunidade: segurança cibernética mais acessível A OpenAI argumenta que "modelos avançados de cibersegurança deveriam ajudar os defensores a identificar e corrigir vulnerabilidades antes que os atacantes o façam". Se isso se materializar com o OpenAI Astra, pequenas empresas poderão ter acesso a ferramentas de auditoria de segurança que hoje só grandes corporações — avaliadas em mais de 40 bilhões de dólares — conseguem pagar com consultorias especializadas.

Risco: governança de IA fica mais urgente Se você já usa IA no negócio para processar dados sensíveis, integrar sistemas ou automatizar fluxos, a chegada de modelos com capacidades críticas de ataque cibernético reforça a necessidade de rever suas políticas de uso de IA. Saber quais ferramentas você usa, o que elas podem fazer e como os dados fluem é parte da gestão de risco empresarial — não mais opcional.

Em paralelo, a Anthropic tomou uma direção diferente na mesma semana. O modelo Fable, lançado com restrições tão severas que bloqueavam pesquisadores legítimos de biologia e segurança cibernética, terá seus filtros relaxados. A justificativa é clara: empresas de IA chinesas já entregam modelos de código aberto com desempenho competitivo a custos menores, e a Anthropic não pode perder clientes especializados com um modelo inutilizável para o trabalho real.

O cenário desta semana resume bem o momento atual: a corrida para criar modelos mais poderosos e a corrida para contê-los estão acontecendo ao mesmo tempo. Para quem usa IA no negócio, acompanhar as políticas de segurança das plataformas que você integra já é parte da gestão de risco.

Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.

Fonte: The Register