Всплеск моделей с открытыми весами стал серьёзным

Moonshot AI AI на этой неделе опубликовала веса модели Kimi K3.1 Pro, сделав общедоступной модель передового уровня с 3 триллионами параметров. Несмотря на открытые веса, локальный запуск Kimi K3.1 Pro сопряжён со значительными аппаратными трудностями. Модель распространяется в виде 96 крупных фрагментов общим объёмом около 1,6 терабайта и требует не менее 1,2 терабайта VRAM для инференса без квантования.

По данным видео, производительность Kimi K3.1 Pro в бенчмарках ставит её в число моделей высшего уровня. Как сообщается, модель заняла 1-е место в Agents Last Exam, 2-е место в GDP Val (внутренний бенчмарк OpenAI по реальным задачам интеллектуальной работы) и 3-е место в OS World. Модель также показала сильные результаты в Terminal Bench и BenchCAD.

Получение таких позиций зависит от конкретной конструкции и версий бенчмарков. Для большинства пользователей самым быстрым путём к Kimi K3.1 Pro станут провайдеры инференса. Дальнейшие усилия open-source-сообщества по квантованию могут расширить локальный доступ, потенциально позволив запускать модель на менее специализированном оборудовании.

Появляются и модели с открытыми весами, предназначенные для прямого управления компьютером. Например, семейство моделей NorthCUA ориентировано на взаимодействие с компьютером и его автоматизацию. Флагманская версия Pro имеет 397 миллиардов параметров в сумме и 17 миллиардов активных параметров в архитектуре Mixture-of-Experts (MoE).

К меньшим вариантам относятся NorthCUA Mini с 35 миллиардами параметров и NorthCUA Nano с 9 миллиардами параметров. Эти модели меньшего размера показывают конкурентоспособные результаты в бенчмарках, таких как OS World Verified и WebArena Verified: у модели Nano они составляют 78,9% и 78,8% соответственно, в то время как у модели Pro — 88,0% и 88,2%. Хотя эти результаты сильные, показатели бенчмарков не гарантируют надёжного управления компьютером в реальных условиях.

Модели NorthCUA работают в специальной оболочке: наблюдают состояние экрана, обрабатывают информацию и выполняют действия в непрерывном цикле. Этот подход отличается от Sarvam Prism — модели принятия решений на базе Sarvam 105B.

Prism, вдохновлённая такими моделями, как Jev, обрабатывает контекст и вопросы с фиксированным набором ответов. Она возвращает вероятности для каждого ответа за один проход, что делает её подходящей для структурированного принятия решений, а не для генерации свободного текста. Такая конструкция ориентирована на результаты выбора, что отличает её от агентов, выполняющих действия на компьютере.

Появляются и специализированные модели, рассчитанные на конкретные задачи, а не на универсальный интеллект. MIT выпустил Hydrogen 1.0 — научную модель, способную генерировать код и вычислительные ноутбуки. Perplexity Embed V2 Context призвана улучшить поиск по разнородным данным, включая текст, изображения и визуальные документы.

PH3 Image от Pruna AI — эффективное решение для генерации и редактирования изображений. Модель создана на основе MiniMax H3 и, как сообщается, генерирует или редактирует изображения за восемь шагов вместо 50. Это обеспечивает более быстрое получение результата и файлы весов меньшего размера, чем у предшественника.

Инициативы сообщества подчёркивают пользу компактных моделей. Дообученная для программирования версия Qwen 3.5 всего с 4 миллиардами параметров неожиданно продемонстрировала возможности генерации 3D-сцен. Это говорит о том, что небольшие модели могут быть весьма эффективны в узких, чётко определённых задачах.

Эти целевые релизы, наряду с такими моделями, как Kimi K3.1 Pro от Moonshot AI AI, доступная по ссылке Moonshot AIai/Kimi-K3.1-Pro - Hugging Face, указывают на растущую тенденцию. Разработчики используют открытый доступ к весам для создания специализированных ИИ-инструментов. Это позволяет внедрять инновации, не ограничиваясь крупнейшими и наиболее ресурсоёмкими моделями.

Pika H3 Flex — новая модель генерации видео из текста, обещающая быстрое создание контента. Платформа заявляет, что может генерировать 15-секундные видеоклипы со звуком всего за семь секунд, с разрешением до 4K и экспортом аудиодорожек по отдельности. Эти данные о скорости и стоимости приводятся как заявления из рекламного видео Pika.

Помимо простой генерации клипа по запросу, Pika H3 Flex поддерживает более итеративный рабочий процесс. Пользователи могут задавать несколько изображений и аудиофайлов в качестве референсов, а затем вносить точечные правки в сгенерированные клипы. Этот набор функций призван ускорить творческие итерации и расширить контроль пользователя над итоговым видео.

Среди релизов недели также были Apriel Voice 27B — модель, сочетающая голосовой, текстовый и графический ввод для выполнения задач, и Clover — ещё одна быстрая текстовая модель. Этот всплеск специализированных моделей — от Kimi K3.1 Pro от Moonshot AI AI до агентов управления компьютером NorthCUA и научной модели Hydrogen 1.0 от MIT — свидетельствует об изменении рынка. Демонстрации и результаты бенчмарков дают первое представление, однако надёжность в реальных условиях и практическое применение остаются отдельными испытаниями для новых моделей с открытыми весами.

Что такое Kimi K3.1 Pro?

Это модель Moonshot AI с 3 триллионами параметров, веса которой опубликованы в открытом доступе. Из-за высоких требований к оборудованию для большинства пользователей практичнее использовать размещённый инференс.

Можно ли запустить Kimi K3.1 Pro на домашнем компьютере?

В видео оценивают, что для неквантованной модели требуется около 1,2 терабайта VRAM, что значительно превышает возможности обычного потребительского оборудования. Меньшие квантованные версии могут повысить доступность.

Для чего предназначена NorthCUA?

NorthCUA — семейство моделей с открытыми весами, предназначенное для управления компьютером в повторяющемся цикле: наблюдение, обдумывание и действие.

Какие релизы из обзора ориентированы на авторов контента?

В обзоре выделены PH3 Image для генерации и редактирования изображений, а также Pika H3 Flex для генерации видео из текста и итеративного редактирования.