Tag
5 статей
Новая модель ИИ претендует на то, чтобы обойти гигантов индустрии за малую часть стоимости, демонстрируя невероятную скорость. Однако наши практические тесты выявили критический недостаток, который полностью упускают из виду бенчмарки.
Запуск передовых ИИ-моделей с сотнями миллиардов параметров раньше был фантастикой для всех, у кого нет собственного дата-центра. Но новый движок с открытым исходным кодом меняет правила игры: он не требует больше VRAM, а использует её как CPU-кэш.
Ваш MacBook теперь может запускать модели ИИ, для которых раньше требовался целый дата-центр. Но секрет не только в оборудовании Apple — это хитроумный программный трюк, который меняет правила игры для локального ИИ.
Бывший технический директор OpenAI Мира Мурати только что выпустила Inkling — модель с открытыми весами и 975 млрд параметров. Её уникальная способность обрабатывать необработанный аудиосигнал и ориентация на узкоспециализированную донастройку могут изменить подход предприятий к созданию ИИ.
Google только что выпустил DiffusionGemma, экспериментальную модель, которая отказывается от традиционной генерации ИИ ради невероятной скорости. Она пишет целые абзацы сразу, открывая возможности использования в реальном времени, которые ранее были невозможны.
