Tag
6 статей
ИИ-модель с 45 миллионами параметров теперь помещается на микроконтроллере за $10, но её истинная сила не в общении. Это прорыв, который позволит внедрить интеллектуальное управление в миллиарды повседневных устройств.
Микроконтроллер за $8 с объемом оперативной памяти меньше, чем у ПК 90-х годов, теперь запускает языковую модель с 29 млн параметров полностью в офлайн-режиме. Узнайте об остроумном хаке памяти, вдохновленном Google's Gemma, который делает этот невозможный подвиг реальностью.
Все делают ставки на то, что самая умная модель ИИ выиграет технологическую гонку. Но настоящий победитель строит нечто совершенно иное, прямо у нас под носом.
Запуск больших AI models локально на вашем телефоне обычно означает разряженную батарею и сбой приложения. Новый inference engine под названием Cactus меняет правила игры, используя zero-copy memory mapping и NPU-first architecture для обеспечения огромной performance с минимальным footprint.
Компьютер десятилетней давности с всего 512 МБ оперативной памяти запускает локальную модель ИИ. Мы разбираем невероятный инженерный подвиг, который делает современный ИИ по-настоящему портативным.
Google только что выпустила Gemma 4, революционную модель ИИ, разработанную для работы полностью в автономном режиме на вашем телефоне. Ее радикально новая архитектура обещает беспрецедентный интеллект в крошечном пакете, потенциально делая облачный ИИ устаревшим для повседневных задач.
