Reasoning traces de IA são o processo de raciocínio interno dos modelos de linguagem — o rascunho mental que a rede neural percorre antes de formular uma resposta. Em modelos abertos como o DeepSeek R1, esse processo é parcialmente visível. Em modelos fechados da Anthropic, OpenAI e Google, os reasoning traces ficam ocultos e criptografados. Pesquisadores descobriram como extraí-los — e os achados levantam alertas sérios para qualquer empresa que usa IA com dados sensíveis.
Como os reasoning traces foram extraídos dos modelos
O experimento analisou 315 mil blocos de raciocínio públicos de Claude, GPT e Gemini. O ataque funciona em duas etapas:
- Coleta dos blocos criptografados: os reasoning traces dos modelos de fronteira são capturados em formato opaco durante interações normais.
- Decodificação via modelo irmão: usando prompts de jailbreak em versões menores dos mesmos provedores, os pesquisadores converteram os blocos criptografados de volta em raciocínio legível — sem precisar da chave de criptografia.
O resultado: 182 credenciais recuperadas, incluindo chaves de API e senhas de usuários reais, e 367 dados pessoais identificáveis encontrados nos reasoning traces internos. Anthropic, OpenAI e Google foram notificados antes da publicação e atualizaram seus sistemas — mas a janela de vulnerabilidade permaneceu aberta por tempo indeterminado.
A própria Anthropic já demonstrou em pesquisas de interpretabilidade que o Claude planeja com antecedência (inclusive rimando frases futuras), evidenciando que os modelos verdadeiramente "pensam" além de simplesmente prever a próxima palavra. Esses reasoning traces são valiosos justamente por capturar essa camada de raciocínio.
Destilação: o risco maior para a propriedade intelectual
Além da exposição de dados pessoais, a extração de reasoning traces de IA abre caminho para destilação não autorizada: treinar modelos menores e mais baratos replicando o processo de raciocínio de modelos de fronteira, sem arcar com os custos de P&D.
A Anthropic já havia acusado laboratórios chineses de campanhas de destilação em escala industrial com dezenas de milhares de contas falsas para extrair os reasoning traces do Claude. A OpenAI fez acusações semelhantes contra o DeepSeek. O Google detectou uma campanha de 100 mil prompts direcionados contra os reasoning traces do Gemini.
Treinar um modelo de fronteira custa o equivalente ao PIB de países pequenos. Se concorrentes conseguem extrair e replicar esse raciocínio por meios indiretos, o retorno sobre o investimento em pesquisa fica comprometido.
Por que isso importa para o seu negócio
Se sua equipe usa Claude, ChatGPT ou Gemini para processar informações sensíveis — contratos, dados financeiros, informações de clientes — esses dados podem ter ficado registrados nos reasoning traces internos dos modelos.
Os riscos concretos são três:
- Vazamento de credenciais: chaves de API, tokens e senhas inseridos em prompts podem ser recuperados por terceiros usando a técnica descrita.
- Exposição de dados de clientes: informações pessoais inseridas em prompts aparecem nos reasoning traces e podem ser extraídas.
- Perda de vantagem competitiva: processos internos descritos em prompts podem ser usados para treinar modelos concorrentes via destilação.
A medida mais urgente: nunca insira credenciais reais, chaves de API ou dados pessoais identificáveis em prompts de IA. Use variáveis de ambiente, dados anonimizados e revise as políticas de uso de IA da sua equipe. A documentação de segurança da Anthropic oferece diretrizes específicas para uso corporativo.
Os três provedores atualizaram seus sistemas após a divulgação responsável. Ainda assim, o episódio demonstra que os reasoning traces de IA são um vetor de risco subestimado — e que segurança em ambientes de IA vai muito além de proteger apenas os prompts visíveis.
Conteúdo reescrito e traduzido para PT pela redação luiscortex, revisado por humano.
Fonte: Digit.in / The Neuron Daily
