Tag
3 publicações
Todos pensam que a IA no dispositivo está limitada a modelos minúsculos, mas uma nova técnica acaba de destruir essa suposição. O avanço não é um novo chip, mas um truque de memória inteligente para o qual o sistema operacional da Apple já era secretamente perfeito.
A maior parte do desenvolvimento de IA está presa em uma dispendiosa corrida armamentista baseada na nuvem. Um laboratório europeu silencioso está provando que o futuro da IA não está no data center, mas diretamente no seu dispositivo.
Uma IA massiva de 27 bilhões de parâmetros agora roda inteiramente no seu telefone, sem necessidade de nuvem ou Wi-Fi. Este avanço na compressão de modelos oferece privacidade e desempenho incomparáveis, diretamente no seu bolso.
