Перейти до вмісту
M.A.V.E.Ndocs

PROVIDERS

PROVIDERS - це єдиний рушій Chat поверх агрегаторів моделей, у Chat - /chat?engine=providers.

PROVIDERS - M.A.V.E.N

Що робить

Section titled “Що робить”

Обгортає три агрегатори - FreeInference, OpenRouter і TokenRouter - одним рушієм, відкриваючи сотні моделей, зокрема безкоштовні рівні. Будь-який один ключ агрегатора вмикає рушій. Він також входить до флоту як сімейство глобальних моделей: вибір адресується як providers::<aggregator>::<model>, тож модель агрегатора можна задати глобальною моделлю у верхній панелі.

Ключові дії

Section titled “Ключові дії”
  • Виберіть агрегатор і модель - зі спільного каталогу з сотень моделей.
  • Користуйтеся безкоштовними рівнями - багато моделей доступні безплатно.
  • Задайте як глобальну модель - будь-яка модель агрегатора може керувати застосунками з типовим рушієм (Loop, Pipeline).

Налаштування

Section titled “Налаштування”

Задайте принаймні один ключ агрегатора у .env.local, а потім перезапустіть сервер:

  • FREEINFERENCE_API_KEY (FreeInference також віддає /v1/models без ключа)
  • OPENROUTER_API_KEY
  • TOKENROUTER_API_KEY (плюс TOKENROUTER_URL)

Будь-якого одного ключа достатньо, щоб увімкнути рушій; додайте інші, щоб розширити каталог.

Поради

Section titled “Поради”
  • FreeInference відкриває свій список моделей без ключа, тож каталог можна переглянути ще до того, як ви вирішите додати ключ.

Дивіться також

Section titled “Дивіться також”