Skip to content

Tag

#Local LLM

10 статей

ИИ от PewDiePie: гениальность или чистый ужас?
Инструменты ИИ

ИИ от PewDiePie: гениальность или чистый ужас?

Новый ИИ-проект PewDiePie под названием Odysseus набрал 83 000 звезд на GitHub за шесть недель, бросив вызов Big Tech своим бесплатным локальным рабочим пространством. Однако ведущие разработчики называют его «чистым ужасом» — мы разбираемся, является ли этот вирусный инструмент революцией в области конфиденциальности или кошмаром для безопасности.

Читать статью
Claude Code, но на 99% дешевле
Руководства

Claude Code, но на 99% дешевле

Перестаньте платить за дорогие AI API и запускайте мощные модели кодирования прямо на своей машине. Узнайте, как Ollama интегрируется с Claude Code, чтобы предоставить вам доступ к сотням моделей с открытым исходным кодом бесплатно.

Читать статью
Секретный ИИ Apple: Бесплатно на вашем Mac
Инструменты ИИ

Секретный ИИ Apple: Бесплатно на вашем Mac

Ваш Mac обладает мощной офлайн-моделью ИИ, за которую вы уже заплатили, но Apple так и не дала вам ключ. Новый бесплатный инструмент под названием apfel разблокирует ее для вашего terminal и локальной разработки.

Читать статью
Самостоятельно размещаемый блокнот с ИИ, который хотят разработчики
Инструменты ИИ

Самостоятельно размещаемый блокнот с ИИ, который хотят разработчики

NotebookLM от Google мощный, но хранит ваши данные. Встречайте Open Notebook — альтернативу с самостоятельным размещением, предоставляющую разработчикам конфиденциальность, контроль и доступ к API, которые они требуют.

Читать статью
Этот AI Engine использует в 10 раз меньше RAM
Инструменты ИИ

Этот AI Engine использует в 10 раз меньше RAM

Запуск больших AI models локально на вашем телефоне обычно означает разряженную батарею и сбой приложения. Новый inference engine под названием Cactus меняет правила игры, используя zero-copy memory mapping и NPU-first architecture для обеспечения огромной performance с минимальным footprint.

Читать статью
Ваш локальный ИИ теперь разблокирован
Инструменты ИИ

Ваш локальный ИИ теперь разблокирован

Прекратите жонглировать локальными серверами LLM и тратить VRAM впустую. Новый инструмент под названием Llama-swap предлагает единый, стабильный API для автоматической горячей замены любой нужной вам модели.

Читать статью
oMLX: Инструмент ИИ, раскрывающий потенциал вашего Mac
Инструменты ИИ

oMLX: Инструмент ИИ, раскрывающий потенциал вашего Mac

Устали от того, что ваш Mac замедляется до черепашьей скорости при запуске локальных моделей ИИ? Новый механизм вывода под названием oMLX использует революционную систему кэширования SSD для обеспечения 3-кратного увеличения скорости и восстановления ресурсов вашей системы.

Читать статью
Этот 7B ИИ только что сделал ваш GPU устаревшим
Инструменты ИИ

Этот 7B ИИ только что сделал ваш GPU устаревшим

Новый ИИ с открытым исходным кодом работает полностью на вашем ноутбуке, обеспечивая производительность, которая соперничает с массивными облачными моделями, такими как GPT-4V. Узнайте, как Qwen 2.5 VL читает изображения, исправляет код и анализирует видео локально, меняя правила игры для разработчиков по всему миру.

Читать статью
Ваше старое оборудование теперь — суперкомпьютер с ИИ.
Инструменты ИИ

Ваше старое оборудование теперь — суперкомпьютер с ИИ.

Прекратите платить огромные суммы за облачные услуги для работы с крупными моделями ИИ. Новый инструмент с открытым исходным кодом под названием Exo превращает ваши существующие Mac, ПК и даже Raspberry Pi в мощный, приватный кластер ИИ.

Читать статью