A Meta Platforms Inc., empresa que controla o Facebook, anunciou um novo supercomputador de inteligência artificial (IA) chamado "AI Research SuperCluster ou RSC".
De acordo com a empresa, o RSC está entre os supercomputadores de IA mais rápidos do mundo e será o mais rápido até meados de 2022, quando estiver totalmente construído.
"A Meta desenvolveu o que acreditamos ser o supercomputador de IA mais rápido do mundo", disse Mark Zuckerberg, CEO da Meta, em comunicado.
"Estamos chamando de RSC for AI Research SuperCluster e será concluído ainda este ano", acrescentou.
Nos últimos anos, a IA passou por grandes avanços e atualmente pode realizar diversas tarefas como traduzir texto entre idiomas e algumas mais complicadas como identificar conteúdo potencialmente prejudicial.
Mas, segundo especialistas no assunto, a próxima geração de IA exigirá supercomputadores com hardwares poderosos capazes de realizar quintilhões de operações por segundo.
Meta disse que seu supercomputador RSC ajudará seus pesquisadores de IA a construir novos e melhores modelos de IA que podem aprender com trilhões de exemplos.
Alguns deles incluem trabalhar em centenas de idiomas diferentes, analise perfeita de textos, imagens e vídeo ao mesmo tempo, desenvolver novas ferramentas de realidade aumentada e muito mais.
"Esperamos que a RSC nos ajude a construir sistemas de IA inteiramente novos que possam, por exemplo, fornecer traduções de voz em tempo real para grandes grupos de pessoas, cada uma falando um idioma diferente, para que possam colaborar perfeitamente em um projeto de pesquisa ou jogar um jogo de realidade aumentada", disseram os pesquisadores em um post no blog.
"Em última análise, o trabalho feito com o RSC abrirá o caminho para a construção de tecnologias para a próxima grande plataforma de computação – o metaverso, onde aplicativos e produtos orientados por IA desempenharão um papel importante", acrescentaram.
Os pesquisadores da Meta já começaram a usar o RSC para treinar grandes modelos em processamento de linguagem natural (NLP) e visão computacional para pesquisa.
O trabalho tem como objetivo treinar novos modelos IA com trilhões de parâmetros e construir novos sistemas de IA que possam fornecer traduções de voz em tempo real a grandes grupos de pessoas.
Em 2017, o laboratório de pesquisa de IA do Facebook projetou seu principal supercomputador de IA com 22 mil GPUs NVIDIA V100 Tensor Core em um único cluster que executava 35 mil trabalhos de treinamento por dia.
No entanto, no início de 2020, a empresa decidiu acelerar seu poder de computação e a melhor maneira foi projetar uma nova infraestrutura de computação para lidar com cargas de trabalho de IA mais avançadas.
Em comparação com o sistema anterior, o RSC executa fluxos de trabalho de visão computacional até 20 vezes mais rápido.
Além disso, executa a NVIDIA Collective Communication Library (NCCL) mais de nove vezes mais rápido e treina modelos de PNL em grande escala até três vezes mais rápido.
Isso significa que um modelo com dezenas de bilhões de parâmetros pode terminar o treinamento em três semanas, em comparação com nove semanas do sistema anterior.
A Meta ainda disse que a pandemia do coronavírus atrasou o desenvolvimento do seu supercomputador, mas revela que o projeto já está perto de concluir a "fase dois da construção".
"O RSC está funcionando hoje, mas seu desenvolvimento está em andamento. Assim que concluirmos a fase dois da construção do RSC, acreditamos que será o supercomputador de IA mais rápido do mundo, com desempenho de quase 5 exaflops de computação de precisão mista. Até 2022, trabalharemos para aumentar o número de GPUs de 6.080 para 16.000, o que aumentará o desempenho do treinamento de IA em mais de 2,5 vezes", disseram os pesquisadores.
"A malha InfiniBand será expandida para suportar 16.000 portas em uma topologia de duas camadas sem excesso de assinatura. O sistema de armazenamento terá uma largura de banda de entrega de 16 TB/s e capacidade em escala de exabyte para atender ao aumento da demanda", acrescentaram.
A Meta também observa que seu novo supercomputador foi projetado com recursos de privacidade e segurança e usa "dados criptografados gerados pelo usuário que não são descriptografados até pouco antes do treinamento".
Além disso, afirma que o sistema também está "isolado da internet maior, sem conexões diretas de entrada ou saída, e o tráfego pode fluir apenas dos data centers de produção da Meta".
Para concluir, a empresa acrescentou que a construção de infraestrutura de IA de última geração do RSC está ajudando a criar as tecnologias fundamentais que alimentarão o metaverso e também promoverão a comunidade IA.
Via: Facebook Blog
