AI ИнструментBecomes the API

Раскройте мощь инференса LLM с Groq API

Name: Groq API
Availability: OnlineOnly
Author: Stork.AI

Groq API (GroqCloud) предоставляет доступ к открытым моделям, таким как GPT-OSS, Qwen и Whisper, на собственном оборудовании Groq для инференса через совместимый с OpenAI endpoint. Для разработчиков, которым нужен быстрый и недорогой инференс с оплатой за токен.

shipped 14 нояб. 2025 г.buildpaid

Domain rating85Monthly visits32K/moAI-readablepartial

Посетить Groq API↗

BuildModels & APIsLLM inference

Почему это важно

1GPT-OSS 20B заявлена со скоростью 1 000 токенов/с

2Batch-запросы и кэшированные входные токены со скидкой 50%

3Бесплатный план с лимитами запросов для каждой модели и без предварительной оплаты

Вердикт Stork: Groq API

Groq API — отличный выбор для быстрого и недорогого инференса открытых моделей, таких как GPT-OSS и Whisper, если нужная вам модель есть в его небольшом и постоянно меняющемся каталоге.

Groq API reviewed by Stork AI · stork.ai/ru/groq-api

Stork Quadrant

Becomes the API· 41/100

Replaceable as a UI, but kept alive as the API the agents call.

“Groq's only real moat is the LPU hardware — it's genuinely fast and that speed is hard to replicate without custom silicon. But speed is a feature, not a moat. OpenAI, Anthropic, Google, and a dozen inference startups are all closing the latency gap. When they do, Groq is a commodity API with no proprietary data, no network, and no switching cost.”
— Claude Sonnet 4.6, scored 2026-05-27

Defensibility · 18/100

Physical-world coupling
Regulatory moat
Network liquidity
Proprietary refreshing data
High-trust catastrophic workflows
Multi-party coordination
Brand / community / taste

An LLM alone could replace

Generate text completions from a prompt — any LLM API does this
Run a chat conversation with a model — OpenAI, Anthropic, and others cover this
Summarize, classify, or extract structured data from text — table stakes LLM capability
Build an agentic workflow with tool calls — available from every major inference provider

Agent-Readiness · 70/100

Verified MCP
Listed on agent surfaces— anthropic_directory, cursor
Usage-based pricing— pricing page heuristic match: https://groq.com/pricing
Headless agent auth— https://console.groq.com/docs/overview (api-key auth)
Public OpenAPI— https://console.groq.com/docs/overview
Active changelog— https://groq.com/blog (2026-04-09)
llms.txt

Score history · +13 pts over 2 re-scores

How to defend

Double down on the hardware story and find the one vertical where latency is literally the product — real-time voice, robotics inference, live trading. Own that use case end-to-end before the hyperscalers catch up on speed.

Ship an MCP server and list it on Stork — biggest single point gain (+25).
Ship an /llms.txt file pointing agents to your most important docs (+5, easy win).

How this score is computed →See the full quadrant How to defend

Характеристики

Документация API

Посмотреть документацию →

Доступность API

Да, публичный API

overview

Что делает Groq API

Groq запускает модели с открытыми весами на собственных инференс-чипах LPU и продаёт доступ через GroqCloud с оплатой за токен. API совместим с OpenAI: укажите в OpenAI SDK адрес https://api.groq.com/openai/v1, подставьте ключ Groq — и существующий код для чата, Responses и аудио будет работать. В документации Groq перечислены генерация текста, reasoning, использование инструментов, структурированные выходные данные, OCR и обработка изображений, преобразование речи в текст (Whisper), преобразование текста в речь (Orpheus), модерация контента и кэширование промптов, а также встроенные инструменты выполнения кода и поиска в браузере, удалённые инструменты через MCP и коннекторы, например Google Workspace.

Каталог для самостоятельного использования небольшой и часто меняется. На 1 ноября 2026 года в списке production-моделей значились GPT-OSS 120B и 20B, а также Whisper Large v3 и v3 Turbo; к preview-моделям относились Qwen3.8 27B, GPT-OSS-Safeguard 20B, Llama Prompt Guard и Orpheus TTS. Llama 3.1 8B Instant и Llama 3.3 70B Versatile по-прежнему указаны в списке, но помечены как Contact Sales. Зарегистрируйтесь в консоли, начните с плана Free и перейдите на Developer с оплатой по факту использования, добавив способ оплаты.

pricing

Цены Groq API

У Groq больше нет отдельной страницы с ценами (groq.com/pricing перенаправляет на главную страницу); цены для каждой модели опубликованы в документации по моделям.

План	Цена	Что включено
Free	$0	Модели для самостоятельного использования с низкими лимитами запросов для каждой модели (например, GPT-OSS 120B: 30 запросов/мин, 1 000 запросов/день, 8 000 токенов/мин, 200 000 токенов/день)
Developer	Оплата по факту использования, ежемесячно постфактум	Более высокие лимиты для каждой модели (GPT-OSS 120B: 1 000 запросов/мин), уровни Batch и Flex, лимиты расходов, поддержка в чате
Enterprise	Цены не опубликованы; обратитесь в отдел продаж	Индивидуальные лимиты; Llama 3.1 8B и Llama 3.3 70B отмечены как Contact Sales

Модель	Входные / выходные токены за 1 млн	Заявленная скорость
GPT-OSS 120B	$0.15 / $0.60	500 токенов/с
GPT-OSS 20B	$0.075 / $0.30	1 000 токенов/с
GPT-OSS-Safeguard 20B (preview)	$0.075 / $0.30	1 000 токенов/с
Qwen3.8 27B (preview)	$0.80 / $4.00	450 токенов/с
Llama Prompt Guard 2 22M / 86M (preview)	$0.03 / $0.03 и $0.04 / $0.04	-
Whisper Large v3 / v3 Turbo	$0.111 / $0.04 за час аудио	-
Orpheus TTS English / Arabic (preview)	$22 / $40 за 1 млн символов	-

Пример расчёта: 1 млн входных и 1 млн выходных токенов на GPT-OSS 120B стоят $0.15 + $0.60 = $0.75, или около $0.38 через Batch API, для которого Groq устанавливает цену на 50% ниже синхронных запросов (окно выполнения от 24 часов до 7 дней). Кэшированные входные токены для моделей GPT-OSS автоматически получают скидку 50%. Час аудио через Whisper v3 Turbo стоит $0.04, поэтому 100 часов обойдутся в $4. Оплата Developer: новым аккаунтам выставляют счёт по мере того, как накопленные расходы достигают $1, $10, $100, $500 и $1 000, а затем ежемесячно; суммы ниже $0.50 не выставляются; принимаются карты, банковские счета США и SEPA Direct Debit; возвраты рассматриваются индивидуально.

Цены проверены на странице цен поставщика 1 ноября 2026 года. См. модели и цены Groq.

features

Основные функции

Что Groq указывает в документации GroqCloud:

Endpoint, совместимый с OpenAI, включая Responses API, поэтому OpenAI SDK работают после изменения базового URL
Заявленная скорость генерации от 450 до 1 000 токенов/с на текущих моделях для самостоятельного использования
Batch API со скидкой 50% и окном выполнения 24 часа или 7 дней, а также уровень обслуживания Flex
Автоматическое кэширование промптов со скидкой 50% на кэшированные входные данные для моделей GPT-OSS, без дополнительной платы
Преобразование речи в текст с Whisper (оплата за час аудио) и текста в речь с Orpheus (оплата за символ)
Встроенные инструменты: выполнение кода, поиск в браузере, удалённые инструменты через MCP и коннекторы Google Workspace
Лимиты расходов, уведомления об использовании, проекты и разрешения для моделей в консоли
Инференс LoRA и метрики Prometheus для production-развёртываний

best for

Кому лучше всего подойдёт Groq API

Groq подходит разработчикам, которым нужны ответы с низкой задержкой от открытых моделей, например для голосовых агентов, чат-интерфейсов и циклов работы агентов, где важна каждая секунда, а также командам, которые массово расшифровывают аудио: Whisper Turbo стоит центы за час. Модели GPT-OSS по цене от $0.075 до $0.60 за миллион токенов — недорогой выбор по умолчанию для задач средней сложности с большим объёмом запросов.

Рассмотрите другие варианты, если вам нужны закрытые передовые модели (GPT, Claude, Gemini) или широкий каталог открытых моделей: OpenRouter направляет запросы с одного ключа к сотням моделей, а DeepInfra или Together AI размещают гораздо больше открытых моделей. Если вы использовали Llama 3.x через тариф Groq для самостоятельного использования, учтите, что теперь для доступа к этим моделям нужно связаться с отделом продаж.

what users say

Что говорят пользователи

Независимые обзоры сходятся во мнении о скорости и цене, а критику в основном направляют на лимиты и частые изменения. AI Tools Atlas считает Groq надёжным выбором для быстрого инференса открытых моделей и выгодной обработки Whisper, но отмечает, что лимиты бесплатного плана вынуждают переходить на оплату по факту использования, а вывод моделей из эксплуатации может потребовать их замены прямо посреди проекта. Сервис отслеживания цен UsagePricing зафиксировал, что 26 августа 2026 года Groq перевёл Llama 3.1 8B и Llama 3.3 70B с цен для самостоятельного использования на Contact Sales, а к 24 октября 2026 года убрал системы Compound agent из каталога. Практический вывод из этих источников: Groq обеспечивает высокую скорость и низкую стоимость для размещённых у него моделей, но прежде чем полагаться на конкретную модель, проверьте актуальный список моделей.

Нравится статья? Получайте такие каждое утро на почту.

одно письмо в день · отписка в два клика · без сторонних трекеров

Плюсы

+Заявленная скорость моделей GPT-OSS — от 500 до 1 000 токенов/с
+Низкие цены за токены: от $0.075/$0.30 за 1 млн токенов
+Скидка 50% на Batch-запросы и кэшированные входные токены
+API, совместимый с OpenAI и готовый к интеграции, включая Responses
+Транскрибация Whisper от $0.04 за час аудио

Минусы

−Небольшой каталог для самостоятельного использования; нет закрытых передовых моделей
−В августе 2026 года модели Llama перевели на Contact Sales
−Лимиты плана Free низкие для циклов работы агентов и production-сценариев
−Модели и системы часто добавляют и удаляют

Частые вопросы

Groq API бесплатный?

Да, есть план Free с лимитами запросов для каждой модели; например, в документации Groq для GPT-OSS 120B указано 30 запросов в минуту и 1 000 запросов в день. Для более высоких лимитов, Batch и Flex нужен план Developer с оплатой по факту использования; для него требуется добавить способ оплаты.

Сколько стоит Groq API за миллион токенов?

GPT-OSS 120B стоит $0.15 за 1 млн входных токенов и $0.60 за 1 млн выходных, GPT-OSS 20B — $0.075 и $0.30, а Qwen3.8 27B (preview) — $0.80 и $4.00, согласно странице моделей Groq на 1 ноября 2026 года. Запросы Batch получают скидку 50%.

Где находится страница цен Groq?

Сейчас groq.com/pricing перенаправляет на главную страницу. Цены и заявленные скорости для каждой модели указаны на странице моделей GroqCloud, а ваши собственные лимиты доступны в консоли.

Можно ли по-прежнему использовать модели Llama на Groq?

Llama 3.1 8B Instant и Llama 3.3 70B Versatile по-прежнему указаны как production-модели, но вместо цены для них указано Contact Sales, а лимитов для самостоятельного использования нет. Пользователям, которые оформляют доступ самостоятельно, предлагают модели GPT-OSS и Qwen.

Совместим ли Groq API с OpenAI SDK?

Да. Укажите базовый URL https://api.groq.com/openai/v1 и используйте ключ Groq API; в документации Groq приведены примеры для клиентов OpenAI на Python и JavaScript, включая Responses API.

Предлагает ли Groq преобразование речи в текст и текста в речь?

Да. Whisper Large v3 стоит $0.111 за час аудио, а Whisper Large v3 Turbo — $0.04 за час. Orpheus для преобразования текста в речь доступен в preview по цене $22 за 1 млн символов для английского и $40 для саудовского арабского.

Чем Groq отличается от OpenRouter?

Groq запускает небольшой набор открытых моделей на собственном оборудовании и напрямую взимает плату за токены. OpenRouter — это маршрутизатор к более чем 600 моделям от множества поставщиков, включая Groq; цены соответствуют опубликованным поставщиками, плюс комиссия при покупке кредитов.