xAI está treinando modelo de IA Grok 3 com 100.000 GPUs NVIDIA H100

TecFoco Inteligência Artificial Elon Musk revelou que o Grok 3, o mais novo modelo de IA da sua startup xAI, foi treinado com 100.000 GPUs NVIDIA H100. Esse feito coloca a xAI na corrida Romário Leite · 2 de julho de 2024

xAI está treinando modelo de IA Grok 3 com 100.000 GPUs

01 Elon Musk revelou que o Grok 3, o mais novo modelo de IA da sua startup xAI, foi treinado com 100.000 GPUs NVIDIA H100. Esse feito coloca a xAI na corrida pela supremacia em inteligência artificial (IA).

Ponto 2

02 Enquanto várias empresas de IA lutam para lançar modelos LLM avançados, Elon Musk está levando a xAI a um novo patamar com a linha de modelos Grok. A proposta é integrar esses modelos como assistentes de IA premium para usuários do X (antigo Twitter).

Ponto 3

03 A xAI já lançou versões anteriores do Grok e está pronta para o lançamento do Grok 2 em agosto. No entanto, Musk está um passo à frente e já promove o Grok 3, prometendo que será significativamente mais avançado que seus antecessores.

Ponto 4

04 O uso de 100.000 GPUs no treinamento do Grok 3 é algo muito impressionante. Para se ter uma ideia, o modelo GPT-4 da OpenAI foi treinado com "apenas" 40.000 GPUs A100, que já são consideradas ultrapassadas comparadas às H100.

Ponto 5

05 Isso dá uma noção do poder e do potencial que o Grok 3 terá. Em um tweet recente, Musk falou sobre os desafios de treinar LLMs com dados da internet, mencionando que isso demanda "muito trabalho" e recursos computacionais massivos.

Ponto 6

06 O Grok 2, previsto para agosto, já é um avanço significativo, mas o Grok 3 promete ser um verdadeiro divisor de águas.

Leia a matéria completa

Elon Musk revelou que o Grok 3, o mais novo modelo de IA da sua startup xAI, foi treinado com 100.000 GPUs NVIDIA H100. Esse feito coloca a xAI na corrida Abrir matéria completa TecFoco Abrir matéria completa