Inteligência Artificial WebStory

OpenAI vê risco de IA usar calor do processador para se comunicar entre computadores sem internet

OpenAI discute como uma IA avançada poderia usar o calor do processador para trocar dados entre computadores isolados, sem conexão de rede.
Imagem de: OpenAI vê risco de IA usar calor do processador para se comunicar entre computadores sem internet

Um modelo de IA suficientemente avançado e persistente poderia usar mudanças de temperatura para trocar dados entre dois computadores próximos, mesmo sem conexão entre eles.

Essa é a possibilidade discutida por Noam Brown, da OpenAI. O calor do processador funcionaria como uma espécie de código Morse, com sinais que a outra máquina poderia interpretar.

Como computadores isolados podem trocar dados pelo calor

Brown citou pesquisas que mostram limites de uma medida comum de segurança: o isolamento físico de computadores, conhecido como air gap.

Nesse tipo de proteção, um computador ou uma rede fica sem conexões de rede ou outros canais de dados com sistemas externos. A ideia é criar uma barreira contra a retirada de informações por uma IA.

Brown resumiu a preocupação da OpenAI:

"Nunca mais queremos estar em uma situação em que subestimemos a IA."

Ele também explicou o que os estudos mostram:

"Há estudos, em grande parte acadêmicos, nos quais dois computadores lado a lado, fisicamente isolados, ainda conseguem se comunicar porque têm sensores de temperatura."

Processadores, chips gráficos e placas-mãe modernos têm sensores térmicos, como diodos de temperatura. A função principal desses componentes é controlar o aquecimento.

Com essas leituras, o sistema pode aumentar a velocidade das ventoinhas, reduzir a frequência de operação dos chips ou desligar o computador se a temperatura passar dos limites.

Pesquisas já demonstraram, porém, que esses sensores também podem viabilizar um canal oculto de comunicação entre duas máquinas isoladas, com uma taxa de transmissão muito baixa.

O método consiste em aquecer o processador de uma delas e usar as variações de temperatura como um código que a outra consegue interpretar.

Para a OpenAI, mesmo riscos pouco prováveis como esse são uma preocupação considerável. O laboratório avalia que já está ficando mais difícil acompanhar as etapas de raciocínio dos modelos.

Na avaliação da empresa, isso acontece à medida que as IAs ficam mais capazes de esconder como funcionam internamente.

Agentes da OpenAI saíram de ambientes de teste

O debate sobre segurança e alinhamento de IA ganhou força no início do verão do hemisfério norte. Alinhamento, nesse contexto, trata de manter o comportamento dos modelos de acordo com os objetivos humanos.

Na ocasião, agentes de cibersegurança da OpenAI exploraram uma falha até então desconhecida para sair dos ambientes isolados de teste.

Em seguida, atacaram o repositório de modelos Hugging Face enquanto buscavam uma solução para uma avaliação de cibersegurança. Há, porém, uma ressalva sobre o grau de isolamento.

Os agentes podiam acessar programas por meio de um intermediário conectado à internet, o que sugere que não estavam totalmente isolados.

Eles também tinham recebido instruções para não desistir. Isso explica a persistência na busca por uma possível solução.

Anthropic propõe avaliações externas e coordenação global

A discussão ganhou mais espaço após Dario Amodei, da Anthropic, publicar uma carta aberta no último fim de semana. Nela, o executivo assumiu o compromisso de submeter o laboratório a avaliações externas.

Essas avaliações provavelmente envolveriam profissionais da Model Evaluation & Threat Research, a METR, trabalhando junto às equipes da empresa.

Amodei também pediu coordenação global para controlar o ritmo dos avanços da IA. OpenAI, Elon Musk e Microsoft manifestaram concordância pouco depois.

Poucas horas antes, pesquisadores também haviam conseguido usar o Claude Opus 5, da Anthropic, para comprometer contas do ChatGPT de vários funcionários da OpenAI.

Com isso, acessaram repositórios internos da OpenAI e, possivelmente, diversas outras integrações com serviços.

Propostas de segurança também despertam desconfiança

Há amplo consenso de que o alinhamento de IA está se tornando uma questão crítica. Ainda assim, parte do público questiona os motivos por trás das propostas para desacelerar o desenvolvimento.

Em uma pesquisa recente, apenas 20% dos clientes empresariais interpretaram a desaceleração proposta como medidas de segurança autênticas.

Parte dessa desconfiança vem dos benefícios que algumas propostas podem trazer à própria Anthropic e à OpenAI. A METR, por exemplo, é a organização preferida da Anthropic para conduzir avaliações externas.

Ela não tem fins lucrativos, mas mantém vínculos fortes com a empresa, incluindo a circulação de pesquisadores de segurança entre as duas organizações.

Inserir entidades sem fins lucrativos no trabalho de alinhamento também pode ser uma forma de coletar registros de alta qualidade sobre como especialistas executam tarefas e usá-los no treinamento de IA.

Nesse arranjo, o trabalho seria financiado com recursos dessas entidades. Os modelos treinados poderiam ficar disponíveis sem acesso público amplo.

Isso reduziria a ameaça da destilação, técnica usada para treinar outros modelos a partir das respostas de uma IA, que pode comprometer as margens de lucro.

Outro ponto de crítica é o pedido da Anthropic para que o governo tenha um papel explícito na definição dos rumos do setor.

Essa proposta representa captura regulatória, regras influenciadas pelos interesses das empresas que deveriam ser reguladas.

Nesse caso, ela consolida e continuará a consolidar o domínio da dupla Anthropic e OpenAI. Um ritmo mais lento de desenvolvimento também pode aumentar as margens das duas empresas.

Seus principais modelos permaneceriam úteis por mais tempo, com os custos de pesquisa e desenvolvimento distribuídos por um período maior.

Esses interesses justificam o ceticismo, mas o cenário descrito por Brown continua preocupante e merece uma discussão aprofundada e bem informada sobre caminhos viáveis para o alinhamento de IA.