A SK hynix e a SanDisk anunciaram em conjunto o High Bandwidth Flash (HBF), um novo padrão de memória criado para reduzir a diferença de desempenho entre a High Bandwidth Memory (HBM) e os SSDs em aplicações de inteligência artificial.
A proposta das duas empresas é criar um ecossistema aberto para que diferentes fabricantes desenvolvam produtos compatíveis com a tecnologia.
HBF combina alta capacidade com maior largura de banda
Na prática, o HBF ocupa um espaço entre a HBM e os SSDs corporativos. Assim como a HBM, a tecnologia utiliza vários chips de memória empilhados.
A diferença é que, em vez de memória DRAM, ela usa memória NAND Flash para oferecer uma capacidade de armazenamento maior. A ideia não é substituir a HBM, mas complementar suas limitações de capacidade.
- Leia tambem: IA no próprio smartphone ainda esbarra na memória, mas nova tecnologia da SK hynix pode mudar esse cenário
Enquanto a HBM mantém os dados usados imediatamente pelo processamento dos modelos de IA, o HBF armazena um volume maior de informações para acesso quando necessário.
Segundo as especificações apresentadas pela SK hynix e pela SanDisk, o HBF pode chegar a 512 GB em uma única configuração, com empilhamento de chips NAND em oito ou 16 camadas. A largura de banda varia entre 0,4 TB/s e 3 TB/s.
Tecnologia foi pensada para modelos de IA cada vez maiores
Para ilustrar o uso do HBF, as empresas citaram um modelo de inteligência artificial com 500 bilhões de parâmetros. Considerando que cada gigabyte armazene cerca de um bilhão de parâmetros, seriam necessários aproximadamente 500 GB de memória.
Como armazenar um modelo inteiro em HBM tem um custo elevado, o HBF pode ser usado para guardar esses modelos, enquanto a HBM continua responsável pelos dados acessados durante o processamento.
Outro recurso do novo padrão é o suporte ao UCIe (Universal Chiplet Interconnect Express). Com isso, o HBF pode ser conectado a diferentes CPUs e GPUs, oferecendo mais flexibilidade na integração entre os componentes do sistema.
Kim Chun-sung, chefe de desenvolvimento de soluções da SK hynix, disse que a empresa pretende ampliar os limites entre memória e armazenamento e contribuir para o desenvolvimento de novas arquiteturas capazes de aumentar a eficiência dos sistemas como um todo.
Samsung segue outro caminho para acelerar servidores de IA
Enquanto SK hynix e SanDisk trabalham para ampliar a adoção do padrão HBF, a Samsung já desenvolve soluções CMX em parceria com empresas como a NVIDIA. A fabricante também produz as memórias NAND Flash V10 e V11, que podem chegar a até 500 camadas empilhadas.
O objetivo é atender à demanda por armazenamento de alta velocidade em servidores de inteligência artificial, facilitando o acesso rápido aos dados e ampliando o descarregamento de tarefas das GPUs, o que pode melhorar o desempenho da inferência de IA.
- Leia tambem: Samsung, Micron e SK Hynix são processadas nos EUA por suposta manipulação de preços da DRAM
Ainda é cedo para saber qual abordagem ganhará mais espaço no mercado. A tendência é que esse cenário comece a se definir nos próximos meses.
