Apple usará memória flash para trazer IA para seus dispositivos

TecFoco Hardwares A Apple está explorando uma forma de armazenar modelos de linguagem de grande porte (LLMs) em memória flash para trazer essa tecnologia para seus Romário Leite · 25 de dezembro de 2023

Apple usará memória flash para trazer IA para seus

01 A Apple está explorando uma forma de armazenar modelos de linguagem de grande porte (LLMs) em memória flash para trazer essa tecnologia para seus dispositivos móveis e laptops.

Ponto 2

02 Os LLMs são sistemas de Inteligência Artificial (IA) que exigem muitos recursos de processamento e memória, mas a Apple quer torná-los mais acessíveis e eficientes em seus produtos.

Ponto 3

03 Para isso, a Apple está trabalhando em uma técnica que usa os chips de memória flash, que são mais abundantes e baratos do que a memória RAM, para guardar os dados dos modelos de linguagem.

Ponto 4

04 Essa técnica se chama Windowing, e consiste em reaproveitar alguns dos dados que já foram processados pelo modelo, reduzindo a necessidade de buscar constantemente novos dados na memória. Isso torna o processo mais rápido e econômico.

Ponto 5

05 Além disso, a Apple também está usando outra técnica chamada Row-Column Bundling, que permite agrupar os dados de forma mais eficiente, permitindo que o modelo leia os dados da memória flash mais rapidamente e melhore sua capacidade de

Ponto 6

06 Essas técnicas e outras soluções permitem que os modelos de linguagem funcionem até duas vezes o tamanho da memória RAM disponível no iPhone, resultando em um aumento de até cinco vezes na velocidade em processadores padrão e até 25 vezes

Leia a matéria completa

A Apple está explorando uma forma de armazenar modelos de linguagem de grande porte (LLMs) em memória flash para trazer essa tecnologia para seus Abrir matéria completa TecFoco Abrir matéria completa