Inteligência Artificial

Falta de energia pode explicar proposta da Anthropic e OpenAI para frear a IA

Desaceleração da IA pode ser estratégia da Anthropic e OpenAI para lidar com falta de energia, custos e manter domínio de mercado.
Imagem de: Falta de energia pode explicar proposta da Anthropic e OpenAI para frear a IA

A proposta de reduzir o ritmo de avanço da inteligência artificial merece uma leitura crítica. Por trás dos alertas sobre riscos à humanidade, há possíveis interesses comerciais e limites de infraestrutura.

Jacob Coxon, da Anthropic, chegou a se gabar de ter colaborado com outras pessoas para fazer sua publicação de demissão, de tom pessimista, viralizar.

Depois, continuou defendendo as supostas boas intenções da antiga empregadora em podcasts. A OpenAI apoiou o pedido de desaceleração poucas horas depois.

A coincidência causa desconfiança, já que Dario Amodei e Sam Altman raramente concordam sobre algum assunto no meio tech.

Nessa leitura, a carta aberta publicada por Amodei no fim de semana teria dois objetivos: consolidar o domínio da Anthropic e OpenAI no Ocidente por meio da regulação e ganhar tempo para lidar com a falta de energia.

O segundo ponto seria decisivo para preservar a estrutura de investimentos em infraestrutura de IA, sem assustar quem financia essa expansão.

Como começou a discussão sobre desacelerar a IA

Na semana passada, a OpenAI anunciou ter encontrado uma solução para o problema matemático de Navier-Stokes, um dos Problemas do Milênio. Pouco depois, Coxon anunciou sua demissão para alertar sobre os riscos da inteligência artificial geral, ou AGI.

Em seguida, Evan Hubinger, responsável pelo alinhamento de modelos na Anthropic, estimou uma chance superior a 10% de que a IA mate todos os seres humanos na próxima década.

No fim de semana, Amodei publicou uma carta aberta com o compromisso de submeter os modelos da empresa a avaliações externas. Essas avaliações provavelmente seriam feitas por profissionais da Model Evaluation & Threat Research, a METR.

A organização sem fins lucrativos tem fortes ligações com a Anthropic, incluindo a circulação de pesquisadores de segurança entre as duas instituições.

Esse arranjo também poderia servir como uma forma de coletar registros de alta qualidade produzidos por especialistas e usá-los no treinamento, com recursos de uma organização sem fins lucrativos.

Os modelos desenvolvidos dessa maneira poderiam ficar disponíveis de forma restrita, sem lançamento público. Isso evitaria a ameaça às margens causada pela destilação, técnica usada para treinar outros modelos a partir das respostas de um sistema.

Amodei também pediu uma coordenação global para controlar o ritmo de avanço da IA. OpenAI, Elon Musk e Microsoft sinalizaram apoio pouco depois.

Para a Anthropic e OpenAI, uma desaceleração poderia prolongar a vida útil dos principais modelos em uso. Assim, os custos de pesquisa e desenvolvimento seriam distribuídos por um período maior, com benefício para as margens.

As margens da Anthropic já estão perto de 80%, antes dos custos de treinamento e da parcela da receita repassada ao Google e à Amazon. Reduzir o ritmo de desenvolvimento dos modelos mais avançados poderia manter esse patamar.

Abrir registros dos modelos seria uma alternativa

A defesa de uma abordagem mais aberta parte de uma ideia: Anthropic e OpenAI poderiam contornar quase todos os perigos do avanço sem controle ao publicar os registros de execução de seus modelos mais avançados.

Com acesso a esse material, a comunidade de código aberto poderia identificar vulnerabilidades com mais eficiência do que em um processo de segurança restrito a cada empresa.

Esses registros, chamados de traces, trajetórias ou transcrições, documentam passo a passo a execução completa de um agente de IA durante uma tarefa ou incidente.

Eles costumam incluir respostas do modelo, registros de raciocínio quando disponíveis, chamadas de ferramentas e seus parâmetros, observações do ambiente, decisões intermediárias e desfechos.

A abertura desse material teria duas aplicações principais:

  • Examinar falhas específicas, como raciocínios enviesados que minimizam evidências de acesso à internet real ou ações imprudentes para cumprir uma tarefa. Vários grupos independentes poderiam analisar os mesmos dados, encontrar padrões e propor correções em menos tempo que uma equipe interna.
  • Transformar registros reais de falhas em ambientes simulados de treinamento por reforço, conjuntos de dados para ajustes direcionados e testes de avaliação. Isso ajudaria a melhorar a segurança e a confiabilidade dos sistemas, sem repetir a descoberta dos mesmos casos incomuns.

A Anthropic e OpenAI poderiam argumentar que essa abertura daria uma vantagem indevida aos laboratórios chineses. Mas a própria proposta de Amodei depende da participação da China em condições de igualdade.

Para convencer os laboratórios chineses a desacelerar junto com as duas empresas, seriam necessários incentivos e concessões muito convenientes. Nos dois cenários, os laboratórios da China teriam vantagens.

Sob essa perspectiva, a abertura seria uma opção mais democrática, com prioridade para o benefício coletivo, em vez das margens ou da concentração do mercado.

Sem a China, uma desaceleração global não se sustenta

A China rejeitou a abordagem de Amodei. O Global Times classificou a proposta como uma estratégia típica da Guerra Fria, voltada contra o país.

Na leitura crítica dessa iniciativa, se o receio central fosse mesmo o avanço sem controle dos modelos, a Anthropic e OpenAI abririam seus registros sem pensar duas vezes.

Sem essa medida, a proposta é vista como uma tentativa disfarçada de ampliar poder. Outra hipótese é que a desaceleração serviria para lidar com a escassez de componentes, incluindo as memórias HBM usadas em chips de IA.

Daniel Roberts, CEO da Iren, apontou essa possibilidade. Segundo ele, apenas três empresas fabricam essas memórias, presentes nos principais chips de IA, e toda a produção deste ano já está vendida.

Construir uma fábrica leva anos. Roberts citou uma projeção da TrendForce de crescimento de 50% a 60% nas entregas de HBM no próximo ano. A NVIDIA, maior compradora dessas memórias, projeta crescimento de cerca de 70% na receita no mesmo período.

A empresa considera essa previsão limitada pela capacidade de fornecimento, pois as projeções dos clientes apontam para algo mais próximo de 100%.

Pelos cálculos da própria Iren, feitos a partir dos componentes da cadeia de fornecimento, o limite imposto pelas memórias fica próximo da taxa de crescimento projetada pela NVIDIA.

Ainda assim, uma desaceleração unilateral da Anthropic e OpenAI pouco faria para frear os modelos com pesos abertos, cujos parâmetros são disponibilizados para uso.

Esses modelos consomem ainda mais recursos computacionais, considerando a escala de uso em aplicações específicas e na infraestrutura das próprias empresas. Por isso, a escassez de componentes tem peso secundário nessa interpretação.

Regulação também pode favorecer a concentração do mercado

A possibilidade de consolidar um duopólio por meio da regulação aparece como uma explicação mais forte para essas iniciativas. Existe necessidade de supervisão regulatória.

Uma coordenação entre empresas para desacelerar o progresso tecnológico está sujeita à análise das regras de defesa da concorrência.

Além disso, a Anthropic e OpenAI não contam, para as respostas de seus modelos, com uma proteção de responsabilidade equivalente à Seção 230. Essa proteção se aplica a gigantes das redes sociais, como a Meta, em relação ao conteúdo hospedado em suas plataformas.

A crítica é que pedir ao governo um papel direto na definição de como o setor deve evoluir pode colocar a regulação a serviço das empresas dominantes.

Nessa leitura, isso consolidaria o duopólio de Anthropic e OpenAI. O presidente Donald Trump rejeitou, por enquanto, a regulação do setor de IA e chegou a chamar Amodei de um perfeito anjinho.

Mesmo assim, as duas empresas poderiam estar considerando as próximas eleições de meio de mandato e a possibilidade de uma ampla vitória democrata na Câmara e no Senado.

Nessa interpretação, a aproximação entre Jacob Coxon, Bernie Sanders e Steve Bannon no circuito de podcasts também ajuda a explicar a dimensão política dessa articulação.

A falta de energia pode ser o principal motivo

A hipótese central é que os limites de energia motivam a proposta, enquanto a influência sobre a regulação funciona como um interesse adicional.

Os projetos de data centers previstos na América do Norte somam 404 GW. No ritmo atual, seriam necessários 13,1 anos de construção sem parar para concluir todos eles.

Até agosto, mais de 6,5 GW dessa capacidade planejada estavam parados, contra cerca de 4 GW já em construção. A falta de energia e de infraestrutura elétrica, portanto, já aparece na forma de projetos sem condições de avançar.

Segundo a Moody's, os Estados Unidos precisarão investir US$ 110 bilhões, cerca de R$ 566,9 bilhões, para acrescentar 45 GW de capacidade elétrica até 2030.

A projeção também indica que, até 2035, os data centers americanos consumirão mais gás do que a maioria dos países.

De acordo com a SemiAnalysis, a capacidade disponível na rede elétrica dos Estados Unidos se esgotará entre 2027 e 2028. A geração de grande porte planejada até 2030 não será suficiente para atender ao crescimento da demanda total.

Além disso, projetos identificados que somam 140 GW e deverão usar energia fornecida diretamente às instalações, fora do abastecimento convencional da rede, ainda não contrataram esse fornecimento.

Só a Anthropic busca mais de 11,5 GW de capacidade para computação. Juntas, a Anthropic e OpenAI devem gastar cerca de US$ 1 trilhão nessa área nos próximos cinco anos, aproximadamente R$ 5,15 trilhões.

A avaliação é que esse volume de investimentos é insustentável diante dos limites de energia, que já mantêm parte da capacidade planejada sem uso.

Nessa leitura, desacelerar o desenvolvimento seria uma forma de preservar a estrutura de investimentos e financiamento circular do setor.

Apresentar a decisão como uma medida em benefício da humanidade ajudaria a evitar o pânico dos investidores e a manter o interesse nas aberturas de capital e nos títulos de dívida das empresas.