Tag
3 статей
Запуск больших AI models локально на вашем телефоне обычно означает разряженную батарею и сбой приложения. Новый inference engine под названием Cactus меняет правила игры, используя zero-copy memory mapping и NPU-first architecture для обеспечения огромной performance с минимальным footprint.
Компьютер десятилетней давности с всего 512 МБ оперативной памяти запускает локальную модель ИИ. Мы разбираем невероятный инженерный подвиг, который делает современный ИИ по-настоящему портативным.
Google только что выпустила Gemma 4, революционную модель ИИ, разработанную для работы полностью в автономном режиме на вашем телефоне. Ее радикально новая архитектура обещает беспрецедентный интеллект в крошечном пакете, потенциально делая облачный ИИ устаревшим для повседневных задач.
