Skip to content
Stork.AIstork.ai

OpenJarvis

OpenJarvis v1.0 — это фреймворк с открытым исходным кодом для создания персональных ИИ-агентов, работающих на вашем собственном оборудовании, со встроенной поддержкой Ollama.

Freemium · macOS, Windows, Linux · API

OpenJarvis коротко

Это фреймворк с открытым исходным кодом для частных, недорогих ИИ-агентов, но требует технической настройки и достаточных локальных вычислительных ресурсов.

Что такое OpenJarvis?

OpenJarvis — это фреймворк с открытым исходным кодом, разработанный лабораториями Hazy Research и Scaling Intelligence Стэнфордского университета, который позволяет разработчикам, инженерам-программистам и опытным пользователям создавать и запускать персональных ИИ-агентов на собственном оборудовании. Он отдает приоритет конфиденциальности, эффективности и локальному контролю над облачными решениями, со встроенной поддержкой Ollama. Этот фреймворк функционирует как локальное персональное ИИ-решение, позволяя пользователям выполнять ИИ-агентов непосредственно на своих устройствах (macOS, Windows, Linux) без использования внешних облачных серверов. Эта архитектура решает проблемы, связанные с задержкой, повторяющимися эксплуатационными расходами и раскрытием данных, часто ассоциирующимися с использованием облачных API. OpenJarvis стремится предоставить надежный программный стек для ИИ на устройстве, поддерживающий широкий спектр приложений от личной продуктивности до сложных исследовательских и кодирующих задач.

Ключевые особенности OpenJarvis

OpenJarvis предоставляет всеобъемлющий набор функций, разработанных для создания и развертывания локальных персональных ИИ-агентов, с акцентом на конфиденциальность, эффективность и пользовательский контроль.

  • Фреймворк с открытым исходным кодом, выпущенный под лицензией Apache 2.0, обеспечивающий прозрачность и настраиваемость.
  • Возможности выполнения на устройстве на оборудовании macOS, Windows и Linux, исключающие зависимость от облачных серверов.
  • Встроенная поддержка Ollama, облегчающая простую интеграцию и управление локальными большими языковыми моделями (LLM).
  • Автоматическая генерация утренних сводок из интегрированных календарных, электронных и новостных источников.
  • Создание локальной базы знаний и исследовательские функции, позволяющие агентам проводить исследования по указанным пользователем файлам и документам.
  • Функциональность в качестве локального агента кодирования, поддерживающего такие задачи, как создание каркаса проекта, генерация кода и отладка.
  • Управление и суммирование жалоб или долгосрочных рабочих процессов с возможностями непрерывного мониторинга.
  • Поддержка многошаговых агентских задач, включая проверку кода, веб-исследования и конвейеры обработки документов, с планировщиком на основе cron.
  • Возможности управления устройством, позволяющие использовать команды на естественном языке для системных операций, таких как открытие приложений, управление окнами, управление мультимедиа, управление файлами, управление браузером и чтение экрана.
  • Интеграция обмена сообщениями, позволяющая взаимодействовать с агентами OpenJarvis через такие платформы, как iMessage, Telegram и WhatsApp.
  • Оценка с учетом эффективности, отслеживающая ключевые метрики, включая энергопотребление (на NVIDIA, AMD GPUs и Apple Silicon), FLOPs, задержку и стоимость в долларах.
  • Гибридная маршрутизация запросов между локальной средой и облаком, которая классифицирует сложность запроса для определения оптимального выполнения между локальной обработкой и облачными API.

Кому следует использовать OpenJarvis?

OpenJarvis разработан для определенных групп пользователей и организаций, которые отдают приоритет локальному контролю, конфиденциальности данных и настраиваемости при развертывании своих ИИ-агентов.

  • Разработчики и инженеры-программисты: Для создания, настройки и интеграции персональных ИИ-агентов в свои рабочие процессы разработки, используя его фреймворк с открытым исходным кодом.
  • Опытные пользователи и создатели: Для автоматизации персональных ИИ-задач, таких как сортировка электронной почты, ежедневные сводки и запланированные резюме, обеспечивая выполнение этих операций локально без зависимостей от облака.
  • Основатели и инженеры по развертыванию: Для быстрого прототипирования и развертывания ИИ-решений в средах, где присутствует чувствительность данных или специфические аппаратные ограничения.
  • Компании с конфиденциальными персональными данными: Для обработки и управления конфиденциальной информацией локально, тем самым повышая конфиденциальность, безопасность и соответствие данных.
  • Пользователи, ищущие локальные персональные ИИ-решения: Для частных лиц и организаций, отдающих приоритет конфиденциальности, эффективности и прямому контролю над своими ИИ-агентами, снижая зависимость от внешних облачных API.

Цены и планы OpenJarvis

OpenJarvis работает по бизнес-модели freemium. Основной фреймворк является открытым исходным кодом, доступным по лицензии Apache 2.0, что позволяет пользователям развертывать и запускать персональных ИИ-агентов на собственном оборудовании без прямых затрат. Хотя базовое программное обеспечение бесплатно для использования и модификации, обозначение 'freemium' предполагает, что будущие или дополнительные услуги, расширенные функции или поддержка корпоративного уровня могут предлагаться на платной основе. Конкретные ценовые уровни или планы подписки для таких потенциальных предложений не были детализированы на момент выпуска v1.0.

Плюсы

  • Prioritizes privacy and data security through on-device execution of AI agents.
  • Significantly reduces marginal API costs (approximately 800x lower) and latency (approximately 4x lower) for agentic workloads compared to cloud models.
  • Open-source framework allows for deep customization, inspection, and modification by developers.
  • Built-in Ollama support simplifies the setup and management of local large language models.
  • Modular five-primitive architecture promotes clean code and extensibility for AI system development.
  • LLM-guided spec search optimizes local model performance to achieve results within 3.2 percentage points of cloud models.

Минусы

  • Requires technical comfort and setup for deployment and customization, making it less suitable as a plug-and-play end-user product.
  • Performance is dependent on local hardware capabilities, with complex agent workflows potentially slow on less powerful machines.
  • The Windows experience is noted as 'second-class' compared to WSL2 for optimal performance.
  • While offering cloud usage tiers, the primary benefit is local execution, which might not suit users without adequate local compute resources.
  • As a framework, users need to actively build and configure agents rather than utilizing pre-built, ready-to-use solutions.

OpenJarvis против конкурентов

OpenJarvis позиционируется как локальная альтернатива облачным ИИ-сервисам, отличаясь своим всеобъемлющим фреймворком для создания агентов на устройстве и отслеживания эффективности. Он конкурирует с другими локальными платформами для разработки ИИ и агентов:

OpenJarvis

Freemium · macOS, Windows, Linux · API

Посетить OpenJarvis

Нравится статья? Получайте такие каждое утро на почту.

одно письмо в день · отписка в два клика · без сторонних трекеров

𝕏
X / Twittertwitter.com/ollama