O interesse por ASICs ganhou força depois da chegada da plataforma Ironwood, a geração mais recente dos TPUs do Google.
Esses chips começaram a despertar atenção fora do Google e já circulam rumores de adoção por empresas grandes, como a Meta.
Por isso, os TPUs avançam como uma solução aberta ao mercado, deixando de ser algo restrito aos serviços internos da companhia.
De acordo com o Taiwan Economic Daily, a Foxconn recebeu pedidos para produzir trays de computação dos TPUs do Google e também deve colaborar nos planos da empresa para a área de robótica, ligados ao projeto "Intrinsic".
"Fontes do setor dizem que os servidores de IA do Google, construídos com seus TPUs próprios, são divididos em dois racks: um rack com os TPUs e outro com os trays de computação. Segundo a cadeia de produção planejada pelo Google, para cada rack de TPUs enviado, a Foxconn enviará um rack de trays de computação, resultando em uma proporção de fornecimento de 1:1." – Taiwan Economic Daily
Os TPUs de sétima geração do Google não são apenas chips isolados. A empresa montou uma infraestrutura escalável em formato de rack chamada "Superpod", que chega a 9.216 chips por pod e entrega algo na casa dos 42,5 exaFLOPS em cargas de trabalho FP8, usando o InterChip Interconnect (ICI).
O layout adotado é o 3D Torus, que facilita a conexão de milhares de unidades num espaço compacto. O relatório aponta que cabe à Foxconn produzir os trays de computação dentro do volume de racks encomendados.
Com a inferência tomando conta da maior parte das cargas de IA, as empresas estão revendo sua infraestrutura para alcançar o melhor desempenho possível com um custo total mais controlado.
É aí que os TPUs do Google ganham espaço na fase de aplicações de IA. Isso também reacende a discussão sobre um possível cenário em que chips sob medida criados por Big Tech substituam soluções da NVIDIA.
Por ora, o ponto central é que a cadeia de suprimentos está vendo um interesse forte por parte do mercado nas soluções de TPU do Google.
