A AMD revelou que o modelo de IA Llama 3.1 terá suporte total em seus produtos, incluindo CPUs EPYC, aceleradores Instinct, NPUs Ryzen AI e GPUs Radeon.
Essa integração chega com a promessa de elevar a inteligência artificial (IA) a novos patamares, beneficiando uma ampla gama de aplicações e usuários.
Com o Llama 3.1, a AMD está oferecendo suporte imediato para todos os seus hardwares. Isso inclui as poderosas CPUs EPYC, CPUs Ryzen, aceleradores Instinct e GPUs Radeon.
A nova versão do modelo Llama traz melhorias como maior capacidade de contexto (128K tokens), suporte para oito idiomas e a introdução do Llama 3.1 405B, considerado o maior modelo de base disponível abertamente pela Meta.
Aceleradores AMD Instinct MI300X e Llama 3.1
Os aceleradores de GPU AMD Instinct MI300X continuam sendo um dos destaques, possibilitando uma excelente capacidade de memória e largura de banda.
Isso permite que uma única instância do Llama 3 70B rode em um único MI300X, com a possibilidade de até oito instâncias paralelas em um único servidor.
A capacidade de suportar o Llama 3.1 405B em servidores com oito aceleradores MI300X, usando FP16, evidencia a eficiência e a economia de custos oferecidas pela AMD.
CPUs AMD EPYC e Llama 3.1
As CPUs EPYC da AMD também desempenham um papel fundamental. Elas oferecem desempenho líder para cargas de trabalho empresariais e de data center, sendo uma escolha excelente para quem busca eficiência energética e compatibilidade x86.
As CPUs EPYC são capazes de rodar IA e modelos LLMs para tarefas de inferência, desenvolvimento de modelos menores e testes, sem a necessidade de aceleração por GPU.
Processadores Ryzen AI e democratização da IA
Para quem não é programador, a AMD facilita o uso da IA com os processadores Ryzen AI. Em parceria com o LM Studio, a AMD oferece o modelo Llama 3.1 em PCs equipados com Ryzen AI.
Com isso, os usuários tem acesso a um chatbot avançado e podem utilizar o poder da IA para diversas tarefas, como escrever e-mails, revisar documentos e gerar códigos, diretamente de seus PCs.
GPUs Radeon e IA generativa
Para aqueles interessados em IA generativa localmente, as GPUs AMD Radeon possibilitam processamento de IA no dispositivo, permitindo experiências novas e personalizadas.
Combinando GPUs Radeon com o software AMD ROCm, pequenas empresas podem rodar ferramentas de IA personalizadas localmente, sem depender de serviços em nuvem.
AMD e Meta estão prontas para impulsionar a IA com Llama 3.1
A colaboração entre AMD e Meta está impulsionando a evolução da IA de código aberto. A compatibilidade do Llama 3.1 com os diversos hardwares da AMD garante uma performance excepcional e uma vasta gama de opções para desenvolvedores e empresas.
