Inteligência Artificial

DeepSeek V4.1 Flash supera GPT-5.6 Sol e Claude Opus 5 em testes com custo 86 vezes menor

DeepSeek V4.1 Flash entrega alta performance em programação, cibersegurança e design, usando menos memória e custo muito menor que GPT‑5.6 e Claude Opus.
Imagem de: DeepSeek V4.1 Flash supera GPT-5.6 Sol e Claude Opus 5 em testes com custo 86 vezes menor

O DeepSeek V4.1 Flash chega com desempenho competitivo frente ao GPT-5.6 Sol, da OpenAI, e ao Claude Opus 5, da Anthropic, em programação e cibersegurança.

O modelo supera os concorrentes em vários testes dessas áreas, com custo cerca de 86 vezes menor. Sua arquitetura também reduz o consumo de memória e armazenamento.

A equipe de engenharia da DeepSeek conseguiu aproveitar melhor os recursos disponíveis dentro das limitações dos grandes modelos de linguagem, conhecidos como LLMs.

Como funciona a arquitetura do DeepSeek V4.1 Flash

O V4.1 Flash processa imagens e textos de forma nativa. Ele usa uma arquitetura de mistura de especialistas, ou MoE, com 384 especialistas selecionáveis e um compartilhado.

Esses especialistas são componentes dedicados a diferentes tarefas. O modelo ativa apenas os necessários para cada operação, em vez de usar todos ao mesmo tempo.

A estrutura tem 40 camadas: um codificador causal com 20 camadas, seguido por um decodificador com outras 20. Essa organização recebe o nome de Causal Encoder-Decoder, ou CED.

Para entender essa divisão, é preciso conhecer dois componentes dos blocos transformer usados em modelos de IA: a camada de atenção e a rede feed-forward, ou FFN.

A camada de atenção identifica relações entre palavras. Na frase "Paris é a capital da França", por exemplo, ela relaciona "capital" a "França" e identifica "Paris" como resposta.

Essa camada não determina, por si só, o significado de França ou Paris. Os registros usados no processamento ficam no cache KV, que cresce conforme o contexto aumenta.

Já a FFN concentra o conhecimento do modelo em seus pesos, os valores ajustados durante o treinamento. Ela usa cálculos matemáticos para processar o significado das palavras.

Ao processar "França", por exemplo, essa rede ativa informações associadas a países. Em modelos convencionais, a leitura do pedido, chamada de prefill, e a geração da resposta, chamada de decode, usam a mesma estrutura de processamento.

No V4.1 Flash, essas tarefas ficam separadas. As 20 camadas do codificador processam a entrada com 8 bilhões de parâmetros ativos. As 20 camadas do decodificador geram a resposta com 16 bilhões de parâmetros ativos.

Ao fim do processamento, o codificador produz um cache KV compartilhado com o decodificador. Isso evita registros separados em cada camada dessa etapa e reduz o uso de memória.

Segundo a DeepSeek, essa estrutura melhora a relação entre custo e eficiência em tarefas com agentes de IA que processam grandes volumes de dados de entrada.

CSA2 reduz o volume de dados no cache KV

O V4.1 Flash combina Compressed Sparse Attention 2, ou CSA2, precisão FP4 e SWA Bounded Replay para controlar o tamanho do cache KV.

Em uma abordagem convencional, cada camada processa o contexto e mantém seus próprios registros. Com entradas extensas, essa repetição aumenta o consumo de memória.

O CSA2 usa um componente chamado "Lightning Indexer" para selecionar os trechos mais úteis do contexto. Ao gerar uma resposta, o modelo consulta apenas essa seleção.

Esse processo usa uma seleção Top-K, ou seja, um conjunto com os trechos mais bem classificados, em vez de consultar todo o conteúdo a cada operação.

As camadas também compartilham parte desse trabalho por meio de três modos de funcionamento:

  • Full Mode: a primeira camada processa o contexto, seleciona os trechos e cria o conjunto principal de registros.
  • Reindex Mode: a camada seguinte usa os registros existentes, mas faz sua própria seleção dos trechos necessários.
  • Reuse Mode: as camadas mais profundas reutilizam tanto os registros quanto a seleção feita anteriormente.

SWA Bounded Replay simplifica a retomada de sessões

O V4.1 Flash mantém dois estados de atenção: um global e outro local. Cada um atende a uma parte diferente do processamento do contexto.

A atenção global registra relações entre trechos distantes e detalhes anteriores da conversa, dentro de uma janela de até 1 milhão de tokens.

Esse cache principal permanece na memória de alta largura de banda, ou HBM. Para reduzir seu tamanho, o modelo usa técnicas de compressão como CSA2 e precisão FP4.

A atenção local, chamada de Sliding Window Attention, ou SWA, considera apenas os últimos 128 tokens. Ela processa os detalhes do contexto imediato.

Em modelos tradicionais com contexto longo, guardar os dois estados para milhares de usuários simultâneos demanda muito armazenamento.

O SWA Bounded Replay reduz essa necessidade. Se uma sessão for pausada e seu estado local for removido da memória RAM temporária do servidor, a retomada usa apenas os últimos 128 tokens da entrada.

Assim, o sistema não precisa recalcular todo o pedido de até 1 milhão de tokens para reconstruir o estado local da sessão.

As duas primeiras camadas usam apenas SWA. Todas as seguintes combinam atenção global com atenção por janela deslizante.

Com essas técnicas, o cache KV cai para 890 bytes por token, uma redução de 3,9 vezes em relação ao V4 Flash.

A redução informada para HBM varia entre 3,8 e 3,9 vezes. Já a necessidade de armazenamento em SSD cai oito vezes na comparação com o modelo anterior.

Single-pass mHC reduz esperas no processamento

O V4.1 Flash também usa uma versão de passagem única das Manifold-Constrained Hyper-Connections, chamadas de mHC. Essa estrutura distribui as informações por quatro canais e ajusta dinamicamente a combinação entre eles.

Para manter o equilíbrio dos sinais, o mHC usa uma matriz duplamente estocástica, calculada pelo algoritmo Sinkhorn-Knopp. Esse controle matemático evita desequilíbrios no fluxo de informações.

O problema é que esse mecanismo adiciona custo de processamento a modelos da categoria Flash. Na versão single-pass mHC, cada camada usa instruções produzidas pela anterior para definir como combinar os canais.

Com essa definição antecipada, o chip calcula a combinação dos canais ao mesmo tempo que executa os cálculos de atenção, eliminando as esperas dessa etapa.

A proposta é preservar a estabilidade e os ganhos de capacidade do mHC com uma execução mais eficiente.

Engram mantém uma tabela de conhecimento na RAM

Outro componente do V4.1 Flash é a Engram Conditional Memory. Trata-se de uma grande tabela estática de consulta, com conhecimentos, expressões comuns e fatos.

Um exemplo de informação armazenada nessa tabela é que Abu Dhabi é a capital dos Emirados Árabes Unidos. Durante a leitura, o modelo processa pequenos grupos de palavras, chamados de N-gramas.

Quando identifica um padrão conhecido, faz uma consulta por hash para recuperar a informação correspondente. Um mecanismo de controle por contexto verifica se aquela informação é útil para a tarefa atual.

Se for, ela entra no processamento; caso contrário, não é utilizada. A tabela Engram do V4.1 Flash tem 196 bilhões de parâmetros. Mantê-la na memória HBM das GPUs seria inviável para a proposta de um modelo rápido e barato.

Como essa estrutura funciona por consultas, a DeepSeek transferiu toda a tabela para a memória DRAM convencional, de menor custo.

DSpark ajusta a previsão de tokens

O V4.1 Flash também usa DSpark Speculative Decoding, uma técnica de geração especulativa de texto. Nesse tipo de processamento, um modelo menor antecipa os próximos tokens da resposta. O modelo principal verifica o bloco inteiro de uma vez e corrige os erros.

Isso acelera a geração em comparação com o processamento de um token por vez pelo modelo principal. A DeepSeek identificou, porém, que modelos muito pequenos têm dificuldade para manter a qualidade das previsões ao longo do bloco.

Eles podem acertar o primeiro e o segundo tokens, mas perder a coerência no terceiro, quarto e quinto. Esse problema é chamado de Suffix Decay.

Para reduzir essa perda de qualidade, o DSpark usa um pequeno módulo sequencial. Cada previsão é avaliada com base nos tokens que acabaram de ser previstos.

O mecanismo mantém a coerência até o fim de um bloco de cinco tokens e aumenta a quantidade de previsões aceitas pelo modelo principal.

A técnica também ajusta a verificação conforme o grau de confiança. Quando há incerteza, o modelo menor reduz a quantidade de previsões.

Isso diminui o trabalho de validação do modelo principal. Com essa estrutura, o V4.1 Flash chega a até 120 tokens por segundo em hardware ideal, com uso eficiente dos recursos.

Desempenho em programação, cibersegurança e design

O V4.1 Flash tem 552 bilhões de parâmetros na estrutura principal e 196 bilhões na tabela Engram. O total divulgado é de 718 bilhões, mas a soma desses componentes dá 748 bilhões.

Mesmo com uma estrutura menor que a do GPT-5.6 Sol e a do Claude Opus 5, o modelo supera os dois em vários testes de programação e cibersegurança.

O custo também fica abaixo de outros concorrentes, cerca de quatro vezes menor que o do GLM-5.3 e dez vezes menor que o do Kimi K3.

Nos testes da OpenDesign para tarefas cotidianas de design, o V4.1 Flash atingiu 98% do desempenho do GPT-6 Astra, da OpenAI, com apenas 1,4% do custo.