A startup Panmnesia, que surgiu no prestigiado instituto KAIST da Coreia do Sul, anunciou uma solução que pode transformar o mercado de inteligência artificial (IA).
A startup apresentou um IP que permite adicionar memória externa a GPUs de IA usando o protocolo CXL (Compute Express Link) sobre PCIe, o que pode quebrar as barreiras de capacidade de memória.
Atualmente, os aceleradores de IA enfrentam limitações com a memória onboard, já que os fabricantes conseguem incluir apenas uma quantidade limitada de HBM (High Bandwidth Memory).
Com o aumento constante dos conjuntos de dados e da demanda por energia, a solução tradicional de adicionar mais GPUs de IA não é sustentável a longo prazo, tanto financeiramente quanto em termos de recursos de fabricação.
Como funciona a solução da Panmnesia?
A Panmnesia desenvolveu um chip compatível com o CXL 3.1, que utiliza links PCIe para conectar a GPU à memória externa, seja DRAM ou SSDs.
Isso permite que as GPUs de IA ultrapassem as limitações da HBM integrada, proporcionando uma infraestrutura de memória muito mais expansível e eficiente.
O chip Root Complex compatível com CXL 3.1 possui múltiplas portas que conectam a GPU à memória externa. Além disso, o decodificador HDM atua como uma ponte, gerenciando a alocação e tradução da memória entre a GPU e os dispositivos de memória externa.
Desempenho do chip parece promissor
A Panmnesia comparou sua solução, chamada CXL-Opt, com protótipos desenvolvidos por gigantes como Samsung e Meta, conhecidos como CXL-Proto.
Os resultados foram surpreendentes: o CXL-Opt alcança uma latência de ida e volta muito menor, com valores de nanossegundos de dois dígitos, enquanto o CXL-Proto registra 250ns de latência.
Além disso, o CXL-Opt apresenta um tempo de execução muito menor que a solução UVM (Unified Virtual Memory), alcançando velocidades de desempenho 3,22 vezes superiores.
Com essa tecnologia, a Panmnesia não apenas oferece uma solução intermediária eficiente entre a limitação dos chips HBM e a necessidade crescente de mais memória, mas também posiciona-se como uma líder no mercado de IA.
Se essa tecnologia ganhar adoção em massa, a Panmnesia estará bem posicionada para colher os frutos de sua inovação pioneira.
