Inteligência Artificial WebStory

OpenAI diz que agentes de IA trocaram dados entre máquinas virtuais isoladas

Agentes de IA da OpenAI trocaram dados entre máquinas virtuais isoladas usando diferenças no tempo de acesso ao cache do processador.
Imagem de: OpenAI diz que agentes de IA trocaram dados entre máquinas virtuais isoladas

A OpenAI informou que agentes de inteligência artificial conseguiram trocar informações entre máquinas virtuais isoladas.

Eles usaram diferenças no tempo de acesso ao cache do processador, uma memória rápida usada para guardar dados acessados recentemente. O caso se soma a uma semana de preocupações com a segurança de sistemas de IA.

Uma série de ataques de grande repercussão em vários países foi associada a versões do DeepSeek V4.1-Flash-1017 modificadas para contornar restrições de segurança.

Como os agentes de IA trocaram informações

Em uma publicação em seu blog, a OpenAI contou que um de seus modelos explorou uma configuração incorreta de DNS e encontrou uma forma de sair de um ambiente que deveria funcionar sem conexão externa.

Após o episódio, a empresa pausou o treinamento de seus modelos mais avançados e reuniu grupos de agentes para procurar falhas nos ambientes de pesquisa.

Em um dos testes, a OpenAI pediu que agentes em máquinas virtuais separadas trocassem informações fictícias tratadas como segredos.

Eles deveriam fazer isso sem conexões de rede nem arquivos compartilhados que pudessem alterar. Os agentes conseguiram cumprir a tarefa usando o cache do processador.

O método aproveitou uma diferença de funcionamento, ler dados no cache costuma ser mais rápido do que buscá-los na memória principal. A OpenAI explicou:

"Os agentes encontraram uma forma de se comunicar usando o cache do processador: uma memória pequena e rápida que guarda cópias de dados acessados recentemente pelos aplicativos."

Um dos agentes retirava dados específicos do cache para representar informações. O outro media quanto tempo levava para carregar esses dados novamente.

A diferença entre leituras rápidas e lentas possibilitaria recuperar a mensagem. Segundo a empresa:

"Depois que os agentes definiram um protocolo para codificar e decodificar esses sinais, conseguiram trocar os segredos fictícios sem alterar um arquivo compartilhado nem abrir uma conexão de rede."

Computadores sem conexão também podem trocar sinais pelo calor

O episódio lembra uma declaração de Noam Brown, da OpenAI, feita em setembro. Ele comentou que até computadores sem conexão de rede ou outros meios de troca de dados podem se comunicar, caso um modelo ou agente de IA tenha capacidade suficiente e tente encontrar uma forma de fazer isso.

"Existem estudos, principalmente acadêmicos, em que dois computadores próximos, mesmo sem conexão entre si, ainda conseguem se comunicar porque têm sensores de temperatura."

Processadores, chips gráficos e placas-mãe modernos têm sensores internos de temperatura, como diodos térmicos. Eles servem principalmente para controlar o aquecimento.

Com essas medições, o sistema pode aumentar a velocidade das ventoinhas, reduzir a frequência de funcionamento dos chips ou desligar o computador em caso de superaquecimento.

Alguns estudos, porém, demonstraram que dois computadores isolados podem usar variações de temperatura para manter uma comunicação oculta e muito lenta.

Um deles aumenta a atividade do processador para gerar calor. O outro identifica as mudanças de temperatura e interpreta essas variações como um código.

Versões modificadas do DeepSeek ampliam a preocupação

Também já existem versões do DeepSeek V4.1-Flash-1017 alteradas para remover recusas. Essas modificações fazem com que o modelo atenda a qualquer pedido, inclusive solicitações perigosas.

Alertas que até pouco tempo pareciam distantes ganharam exemplos concretos nesta semana. A preocupação é que sistemas de IA fora de controle ampliem os riscos de ataques digitais e possam, em situações mais graves, contribuir para uma crise de alcance global.