Модели и ключи

Ротация бесплатных моделей и fallback-цепочка

Приоритет 1 — бесплатные модели OpenRouter

Модели пробуются сверху вниз. При 402 / 429 / rate-limit ключ и модель меняются автоматически.

  • google/gemma-2-9b-it:free
    #1
  • meta-llama/llama-3.1-8b-instruct:free
    #2
  • mistralai/mistral-7b-instruct:free
    #3
  • qwen/qwen-2.5-7b-instruct:free
    #4
  • microsoft/phi-3-mini-128k-instruct:free
    #5

Приоритет 2 — fallback

Если все free-модели вернули ошибку, запрос уходит в Google Gemini (gemini-2.0-flash), затем — на кастомный OpenAI-совместимый endpoint.

API-ключи

Ротатор берёт следующий включённый ключ того же провайдера при лимите.

  • OpenRouter #1

    OpenRouter · sk-or-v1-••••••4f2a

    запросов: 412ошибок: 7

  • OpenRouter #2 (ротация)

    OpenRouter · sk-or-v1-••••••91cd

    запросов: 138ошибок: 2

  • Gemini fallback

    Google Gemini · AIza••••••7Qk

    запросов: 46ошибок: 0

Пост-обработка ответа

  • проверка соответствия System Prompt
  • удаление маркеров ИИ («как ИИ», «я языковая модель»)
  • лёгкая вариативность формулировок и пунктуации