overview
Что такое Llama harness?
Llama harness — это концептуальная основа и инфраструктура, разработанная различными организациями, которая позволяет разработчикам и организациям использовать модели Llama от Meta AI для создания функциональных ИИ-агентов. Она наделяет большие языковые модели такими возможностями, как интеграция инструментов, управление памятью и протоколы безопасности. Базовые модели Llama, разработанные Meta AI, включают версии, такие как Llama 3 и Llama 4, которые отличаются архитектурными изменениями в сторону дизайна mixture-of-experts (MoE) и нативными мультимодальными возможностями. Например, Llama 4 Scout работает с 17 миллиардами активных параметров через 16 экспертов и контекстом в 10 миллионов токенов, в то время как Llama 4 Maverick использует 17 миллиардов активных параметров через 128 экспертов с общим количеством параметров в 400 миллиардов. Эти модели классифицируются как ИИ-модели общего назначения в соответствии с EU AI Act, требуя от поставщиков выполнения обязательств, таких как предоставление информации об архитектурах моделей и методах обучения, а также публикация краткого содержания обучающего контента. Llama API, доступный в ограниченном предварительном просмотре, облегчает программный доступ к этим моделям.