O projeto de código aberto GPU Unlock agora possibilita contornar restrições de software da NVIDIA em placas GeForce.
Segundo os dados divulgados pelo desenvolvedor, a ferramenta aumentou o desempenho da RTX 3090 Ti em cálculos BF16 de 87,5 TFLOPS para 157 TFLOPS, um ganho de quase 80%.
Também foram relatadas melhorias de até 36% em uma etapa do processamento de inteligência artificial no vLLM, ferramenta usada para executar modelos de IA. O GPU Unlock funciona apenas no Linux e tem suporte a algumas gerações de placas GeForce.
Como funciona o GPU Unlock
Segundo o desenvolvedor do projeto, identificado como zagitta, a NVIDIA limita alguns recursos de cálculo e de GPU virtual, conhecidos como vGPU, nas placas GeForce.
Essas funções ficam restritas a modelos profissionais mais caros das linhas Quadro, Tesla e RTX A, mesmo quando usam a mesma arquitetura das versões domésticas.
O GPU Unlock aplica alterações no módulo do driver da NVIDIA dentro do núcleo do Linux. A ferramenta intercepta as consultas ao identificador físico da placa no PCIe e substitui a resposta pelo código de um modelo profissional compatível.
Com isso, o driver passa a reconhecer a GeForce como uma placa profissional da NVIDIA. Essa mudança contorna as restrições e libera recursos adicionais de cálculo com precisão reduzida, como FP16 e BF16, normalmente reservados aos modelos profissionais.
Resultados na RTX 3090 Ti e na RTX 3080
Na GeForce RTX 3090 Ti, baseada na arquitetura Ampere, o desempenho em BF16 passou de 87,5 TFLOPS para 157 TFLOPS, de acordo com o desenvolvedor. Nos cálculos TF32, o resultado quase dobrou: subiu de 42,6 TFLOPS para 82,6 TFLOPS.
A GeForce RTX 3080 também apresentou ganhos. O desempenho em FP16 e BF16 passou de 65 TFLOPS para uma faixa entre 110 e 113 TFLOPS. A placa manteve o limite padrão de consumo de 320 W.
Ganhos em IA e placas compatíveis
No vLLM, os resultados divulgados indicam um aumento de 33% a 36% na velocidade da etapa Prefill com contextos longos.
Essa é a fase em que o modelo processa o conteúdo recebido antes de começar a gerar a resposta. O tempo até a geração do primeiro token caiu 25%.
Já o desempenho na etapa Decode, durante a geração da resposta, ficou praticamente igual. Isso ocorre porque a técnica não altera as limitações de velocidade de acesso à memória da placa.
Por enquanto, o GPU Unlock funciona apenas no Linux e tem suporte às séries GeForce GTX 900, GTX 1000, RTX 20 e RTX 30. As placas RTX 40 e RTX 50 não são compatíveis.
