Сибирь AI

Groq API: как получить ключ и что он дает

Groq это облако GroqCloud американской компании Groq, которое отдает открытые модели через API, совместимый с библиотеками OpenAI. Здесь собрано по официальной документации: ключ, модели, цены, лимиты и правила обращения с данными. Мы не перепродаем этот API и не сравниваем его с нашими моделями: замера нет.

Обновлено . Текст подготовил ООО «ФИИ», источники в конце страницы.

Что такое Groq API

Groq (через q) это компания из США, которая делает собственные ускорители LPU и продает доступ к открытым моделям через облако GroqCloud. Доступ выдается через API: ваш код отправляет запрос по HTTP и получает ответ модели. API сделан совместимым с клиентскими библиотеками OpenAI: в существующем коде меняются адрес сервера и ключ, адрес такой - https://api.groq.com/openai/v1. Groq предупреждает, что совместимость неполная, часть полей OpenAI не поддерживается.

Запросы «grok api» с буквой k относятся к другому продукту и на этой странице не разбираются. Список активных моделей GroqCloud отдает по адресу /openai/v1/models.

Как получить ключ Groq API

  1. Зарегистрироваться в консоли GroqCloud и создать ключ на странице API Keys. Документация обещает первый запрос за несколько минут.
  2. Положить ключ в переменную окружения GROQ_API_KEY. Groq объясняет это безопасностью: так ключ не попадет в код по ошибке.
  3. Отправить первый запрос любой библиотекой: родной groq для Python или JavaScript, либо клиентом OpenAI с замененным адресом.

Лимиты считаются на уровне организации, а не отдельного пользователя или ключа. Аккаунт мы не создавали и ключ не получали: описание по документации, не по экрану кабинета.

Модели и цены Groq

Цены ниже сняты со страницы моделей в документации 14 октября 2026 года и меняются: сверяйте с первоисточником перед расчетом. Страница groq.com/pricing на эту дату цен не содержит, только описание компании. Все цены в долларах США за миллион токенов, если не сказано иное.

МодельВходВыходКонтекст, токенов
openai/gpt-oss-120b0,150,60131 072
openai/gpt-oss-20b0,0750,30131 072
qwen/qwen3.8-27b (preview)0,804,00131 072
whisper-large-v3-turbo (распознавание речи)0,04 за час аудио-
whisper-large-v30,111 за час аудио-

Модели Llama 3.3 70B и Llama 3.1 8B в той же таблице помечены как Enterprise с ценой «Contact Sales»: открытой цены у них нет. Модели со статусом preview Groq называет пригодными только для оценки, их могут отключить без долгого предупреждения. Скорость, которую Groq указывает для gpt-oss-120b, около 500 токенов в секунду, это заявление поставщика, не наш замер.

Лимиты Groq API

Groq считает лимиты по запросам в минуту и в день, токенам в минуту и в день, для аудио по секундам в час и в день. На странице лимитов две вкладки, бесплатный план и план Developer. В сохраненной копии без скриптов видна одна таблица. Что это бесплатный план, следует из сравнения: для gpt-oss-120b там 30 запросов в минуту, 1 000 в день, 8 000 токенов в минуту и 200 000 в день, а на странице моделей для плана Developer у той же модели 1 000 запросов в минуту и 250 000 токенов в минуту.

Для whisper-large-v3-turbo на той же вкладке 20 запросов в минуту, 2 000 в день, 7 200 секунд аудио в час и 28 800 в день. Токены из кеша в лимит не входят. При превышении API отвечает кодом 429. Более высокие лимиты, пакетную обработку и режим flex Groq дает на плане Developer.

Куда уходят данные

Groq пишет, что по умолчанию не хранит входы и выходы запросов. Временное логирование допускается в двух случаях: разбор сбоев платформы и расследование злоупотреблений. Такие логи хранятся до 30 дней. Файлы пакетной обработки хранятся 30 дней, если клиент не удалил их раньше. Любой клиент может включить режим нулевого хранения (Zero Data Retention) в настройках Data Controls.

То, что все же хранится, лежит в хранилище Google Cloud в США. Сама компания находится в США и ведет обработку в разных юрисдикциях. Про доступ из России на страницах Groq ничего не написано, поэтому здесь этого тоже нет: проверить можно только своим входом в консоль.

У нас

Мы чужие API не перепродаем. Своего у нас два. Сибирь.ИИ это программа для обучения языковых моделей с нуля, обученная модель отвечает через программный интерфейс по HTTP в контуре заказчика: при обучении и выводе программа не обращается к внешним службам, корпоративная лицензия это развертывание в инфраструктуре лицензиата. Данные к внешнему поставщику не уходят, потому что внешнего поставщика в этой схеме нет.

Второе - бесплатная генерация текста: без регистрации, отвечает открытая модель семейства Qwen в нашем дата-центре в Новосибирске, задание и ответ не уходят в зарубежные облака, ответ хранится 30 минут. Служба может быть на обслуживании, тогда страница скажет об этом. Сравнивать ее с Groq по качеству или скорости мы не беремся: замера нет.

Частые вопросы

Groq и Grok это одно и то же

Нет. Groq через q это компания с ускорителями LPU и облаком GroqCloud, о ней эта страница. Grok через k это другой продукт другой компании, здесь он не разбирается.

Есть ли у Groq бесплатный план

На странице лимитов есть вкладка бесплатного плана с лимитами по моделям, например для gpt-oss-120b 30 запросов в минуту и 1 000 в день. Более высокие лимиты дает план Developer.

Сколько стоит Groq API

По таблице моделей на 14 октября 2026 года gpt-oss-120b стоит 0,15 доллара за миллион входных токенов и 0,60 за миллион выходных, gpt-oss-20b вдвое дешевле. Цены меняются, сверяйте с документацией.

Можно ли вызывать Groq библиотекой OpenAI

Да, Groq сделал API совместимым с клиентами OpenAI: достаточно заменить адрес на https://api.groq.com/openai/v1 и подставить ключ Groq. Часть полей OpenAI не поддерживается.

Хранит ли Groq мои запросы

По умолчанию нет. Логи для разбора сбоев и злоупотреблений хранятся до 30 дней, их можно отключить режимом Zero Data Retention. Хранилище находится в США.