A Intel e o Boston Consulting Group (BCG) anunciaram uma nova parceria estratégica para impulsionar a inteligência artificial generativa com os aceleradores Habana Labs Gaudi.
O objetivo da parceria é oferecer inteligência artificial generativa segura e de nível empresarial, aproveitando o ecossistema de hardware da Intel, que inclui processadores escalonáveis Xeon e aceleradores Habana Gaudi otimizados para inteligência artificial.
Essa colaboração permitirá que as empresas desenvolvam vantagens competitivas por meio de soluções personalizadas, ao mesmo tempo em que navegam cuidadosamente nas mudanças necessárias para obter o valor máximo dessas soluções transformadoras.
Segundo Suchi Srinivasan, diretor administrativo e sócio do BCG, a tecnologia será de nível empresarial e oferecerá recursos de privacidade e segurança, além de facilidade de uso e escalabilidade.
A IA generativa requer uma abordagem verdadeiramente democratizada que permita escolhas mais seguras e escaláveis para que as empresas possam se beneficiar com segurança da tecnologia.
A colaboração com a Intel permitirá que os clientes criem aplicativos de IA generativos que exigem tecnologia otimizada em toda a pilha completamente dentro do perímetro de segurança escolhido.
Atualmente, a Intel está oferecendo seus aceleradores Habana Gaudi de 2ª geração baseados no processo de 7nm da TSMC, oferecendo 24 TPCs para decodificação e processamento de mídia em execução em um formato FP8.
A configuração de memória inclui 96 GB de memória HBM2e, oferecendo largura de banda de 2,45 TB/s e 48 MB adicionais de SRAM.
A rede é fornecida por meio de 24 switches de 100 GbE. Um salto tão grande no desempenho também significa que o TDP deve ser aumentado drasticamente e o Gaudi2 opera em um TDP de 600 W (versus 350 W).
Apesar da pouca popularidade, acredita-se que esses chips são competitivos em relação às GPUs A100 AI da NVIDIA em termos de desempenho e custo.
A empresa também está trabalhando em seus aceleradores Habana Gaudi de 3ª geração, que utilizarão o processo 5nm e oferecerão desempenho e eficiência ainda maiores.
Comparado com o NVIDIA H100, que atualmente detém o título de "acelerador mais poderoso do mundo", a próxima versão do acelerador Gaudi fruto dessa parceria terá um preço e desempenho mais competitivo.
Além disso, haverá soluções híbridas que combinam a experiência tecnológica dos aceleradores Haban Gaudi (4ª geração) com as GPUs de hiperescala da Intel, como a Ponte Vecchio da AXG no futuro.
De acordo com Eitan Medina, COO da Habana Labs, o acelerador se chamará Gaudi3 e está chegando "muito em breve" como o produto TSMC 5nm da empresa.
Nesta próxima geração, a Intel combinará as capacidades Gaudi e algumas das capacidades AXG unificando os roteiros entre Habana e o lado AXG.
Essa iniciativa mostra que a Intel não ficará mais apenas observando as outras empresas progredirem no segmento de IA. No entanto, será uma caminhada longa até que a empresa alcance a NVIDIA que têm anos de liderança no segmento de IA.
Via: WCCF Tech
