Создайте ключ в консоли GroqCloud
Раздел API Keys, кнопка создания, ключ показывается один раз. Сохраните его в переменную окружения, а не в код.
Groq — быстрый вывод открытых моделей через OpenAI-совместимый API с бесплатным уровнем. Разбираем ключ, адрес, лимиты и что из этого работает из России.
Коротко: Groq API — доступ к открытым моделям (Llama, gpt-oss, Qwen) на собственных чипах Groq через сервис GroqCloud. Groq с буквой q — не Grok от xAI Илона Маска, это разные компании. Формат совместим с OpenAI: адрес https://api.groq.com/openai/v1, тот же SDK, те же поля и тот же вид ошибок. Ключ создаётся в консоли GroqCloud после регистрации, контекст у моделей до 131 тысяч токенов.
Бесплатный уровень есть, и это главная причина популярности: лимиты запросов и токенов считаются по каждой модели отдельно, их хватает на прототип и личные скрипты, но не на продакшен — при росте нагрузки упрётесь в 429. Платный план снимает часть ограничений, но требует зарубежную карту.
С Россией всё неоднозначно. Официального списка закрытых стран Groq не публикует. На момент написания регистрация проходит не у всех, а оплата платного плана с картой РФ не проходит. Закрытых моделей — GPT, Claude, Gemini — у Groq нет: если нужны они, это другой сервис.
Llama 3.3 70B и Llama 4 Maverick, ради которых идут на Groq, есть и у нас. Меняются только base_url, ключ и имя модели.
Бесплатного уровня нет, скорость собственных чипов Groq не обещаем.
from openai import OpenAI client = OpenAI( api_key="ВАШ_API_КЛЮЧ", base_url="https://api.kosareva.cloud/v1", ) response = client.chat.completions.create( model="llama-3-3-70b", messages=[{"role": "user", "content": "Привет!"}], stream=True, )
import OpenAI from "openai"; const client = new OpenAI({ apiKey: "ВАШ_API_КЛЮЧ", baseURL: "https://api.kosareva.cloud/v1", }); const response = await client.chat.completions.create({ model: "llama-3-3-70b", messages: [{ role: "user", content: "Привет!" }], stream: true, });
curl https://api.kosareva.cloud/v1/chat/completions \ -H "Authorization: Bearer ВАШ_API_КЛЮЧ" \ -H "Content-Type: application/json" \ -d '{"model":"llama-3-3-70b","messages":[{"role":"user","content":"Привет!"}],"stream":true}'
Ключ скопирован не полностью, отозван в консоли или подставлен ключ от другого сервиса.
Лимит запросов или токенов в минуту по конкретной модели исчерпан; это самая частая ошибка у Groq.
Имя модели устарело: Groq регулярно снимает модели с обслуживания, актуальный список — в консоли.
Запрос больше окна модели или больше лимита токенов на запрос для вашего уровня.
Аккаунт ограничен, в том числе по региону; официальных критериев Groq не публикует.
| Текст ошибки | Причина | Что делать |
|---|---|---|
| 401 Invalid API Key | Ключ не принят | Создать новый ключ в консоли GroqCloud, проверить заголовок Authorization: Bearer |
| 429 Rate limit reached for model | Лимит бесплатного или платного уровня по этой модели | Ждать по Retry-After, сократить запросы, другая модель или платный план |
| 404 The model does not exist or you do not have access to it | Устаревшее или неверное имя модели | Взять имя из актуального списка моделей в консоли |
| 400 Please reduce the length of the messages or completion | Контекст больше окна модели или лимита на запрос | Сократить историю, уменьшить max_tokens |
| 403 Forbidden | Аккаунт или ключ ограничен, в том числе по региону | Проверить статус аккаунта в консоли; ключом не чинится |
Формат тела ошибки как у OpenAI: объект error с полями message, type и code. Тексты приведены на момент написания.
Раздел API Keys, кнопка создания, ключ показывается один раз. Сохраните его в переменную окружения, а не в код.
Если пришёл список — ключ и адрес верны. 401 значит проблема в ключе, 403 — в аккаунте.
Никакой отдельной библиотеки не нужно: тот же клиент, другой base_url и имя модели из списка.
На бесплатном уровне это норма. Уважайте заголовок Retry-After, не запускайте параллельные потоки и не делите один ключ между несколькими сервисами.
Для прототипа бесплатного уровня хватит. Для продакшена нужен платный план с зарубежной картой или другой сервис с теми же открытыми моделями.
base_url https://api.groq.com/openai/v1 и ключ. Исключения RateLimitError для 429 и NotFoundError для устаревшей модели.
Провайдер OpenAI Compatible: Base URL, API Key, Model ID из списка Groq. На бесплатном уровне агент быстро упирается в 429: у него много запросов подряд.
Settings → Connections, адрес с /openai/v1 и ключ. Без /openai/v1 список моделей будет пустым.
Есть отдельная нода Groq Chat Model; при 429 включите Retry On Fail с паузой по Retry-After.
Нет. Groq (с q) — компания, которая делает чипы для быстрого запуска открытых моделей и сервис GroqCloud. Grok (с k) — модель xAI Илона Маска. Если вы искали Grok, вам на страницу Grok API.
На момент написания он есть, но лимиты и список моделей Groq меняет без предупреждения. Для прототипа — да, для продакшена рассчитывать на него не стоит.
Нет. Groq обслуживает только открытые модели: Llama, gpt-oss, Qwen и подобные.
Официального ответа нет. У части пользователей регистрация проходит, у части нет; оплата картой РФ не проходит. Проверяйте на своём аккаунте, не рассчитывайте заранее.
Для SkyrimNet и Mantella в Скайриме — нет: оба мода подключаются к любому OpenAI-совместимому адресу, ключ Groq им не нужен. Какие поля заполнить и какие модели успевают отвечать NPC, разобрано на странице Нейросеть для Скайрима. Если мод работает только с Groq и своего адреса не принимает, другой ключ к нему не подойдёт.
Groq совместим с OpenAI, поэтому меняются три значения: base_url, ключ и имя модели. У нас, например, Llama 3.3 70B называется llama-3-3-70b, остальной код остаётся прежним.
OpenAI-совместимый адрес, оплата в рублях, ключ сразу после регистрации. Пополнение картой от 50 ₽.