Перейти к содержимому

PROVIDERS

PROVIDERS - это единый движок Чата поверх агрегаторов моделей, в Чате - /chat?engine=providers.

PROVIDERS - M.A.V.E.N

Оборачивает три агрегатора - FreeInference, OpenRouter и TokenRouter - в один движок, открывая сотни моделей, включая бесплатные тарифы. Любой один ключ агрегатора включает движок. Он также входит во флот как семейство глобальной модели: выбор адресуется как providers::<aggregator>::<model>, поэтому модель агрегатора можно назначить глобальной моделью в верхней панели.

  • Выбор агрегатора и модели - из объединённого каталога сотен моделей.
  • Бесплатные тарифы - многие модели доступны без оплаты.
  • Назначить глобальной моделью - любая модель агрегатора может управлять приложениями с движком по умолчанию (Loop, Пайплайн).

Задайте хотя бы один ключ агрегатора в .env.local, затем перезапустите сервер:

  • FREEINFERENCE_API_KEY (FreeInference также отдаёт /v1/models без ключа)
  • OPENROUTER_API_KEY
  • TOKENROUTER_API_KEY (плюс TOKENROUTER_URL)

Любого одного ключа достаточно, чтобы включить движок; добавляйте остальные, чтобы расширить каталог.

  • FreeInference открывает свой список моделей без ключа, поэтому каталог можно просмотреть до того, как вы заведёте ключ.