OmniRoute
OmniRoute - це рушій Chat поверх OmniRoute, OpenAI-сумісного шлюзу, який
стоїть перед великим каталогом моделей і має власні комбінації auto/*, що вибирають модель
за вас, у Chat - /chat?engine=omniroute.
Що робить
Section titled “Що робить”Показує кожну модель, яку оголошує шлюз (поле пошуку фільтрує часто довгий список), або залишає auto, щоб шлюз вибирав сам. Рядок стану показує, скільки моделей працює, або offline, коли шлюз чи ключ відсутні; Re-check перевіряє знову. OmniRoute закриває групу Agents у флоті - він маршрутизує до моделей, а не є однією з них, - тож стоїть поряд із PROVIDERS, а не серед вендорів.
Налаштування
Section titled “Налаштування”OmniRoute - це форк 9router, що працює як окремий сервіс на :20128; інсталятор
автозапуску M.A.V.E.N реєструє його юніт systemd. Задайте OMNIROUTE_API_KEY у Settings →
Secrets (і OMNIROUTE_BASE, якщо ви хостите його в іншому місці), а потім натисніть Re-check.
Власний дашборд шлюзу не можна вбудувати; відкривайте його в окремій вкладці.
Як користуватися
Section titled “Як користуватися”- Виберіть OmniRoute у ряду рушіїв.
- Виберіть модель або комбінацію
auto/*. - Надішліть; Stop перериває повільну відповідь.
Поради
Section titled “Поради”- OmniRoute - це провайдер, окремий від власної маршрутизації моделей M.A.V.E.N (Settings → Model routing); цей рушій звертається до нього напряму.
- Комбінації
auto/*зручні, коли вам байдуже, яка саме модель відповідає, - головне, щоб вона була добра. - Він доступний у M.A.V.E.N, але навмисно відсутній у Chat M.A.V.E.N Teams, де маршрутизатор у списку рушіїв зробив би питання «з якою моделлю я розмовляю» неоднозначним.