Исследования ИИ ·
Секрет запуска 35B LLM на iPhone
Запуск ИИ-модели с 35 миллиардами параметров на телефоне кажется невозможным, учитывая, что ей требуется 20 ГБ оперативной памяти. Но новая технология меняет представление об ограничениях памяти, открывая путь к мощному и конфиденциальному ИИ, который никогда не покидает ваше устройство.