Перейти до вмісту

Оркестрація

Один агент відповідає на один промпт. Оркестрація - це те, до чого ви звертаєтеся, коли одного замало: коли проблема потребує кількох поглядів, перевірки першої відповіді або пайплайна кроків.

Мастермайнд запускає кілька моделей над однією проблемою в одній кімнаті. Окрім простих режимів, режим mixture-of-agents дає кожному учаснику відповісти, а потім зводить відповіді в один результат - і оцінює вартість, перш ніж її витратити.

Вибір моделі для кожного агента і перемикач thinking налаштовуються для кожної кімнати, тож ви вирішуєте, яке сімейство відповідає за кожне місце. Склад фільтрується Менеджером моделей, тож рушій, вимкнений там, ніколи не займає місце.

Це різні інструменти. Failover (у панелі керування) тримає один запит відповіданим, коли провайдер не працює, - він невидимий і автоматичний. Оркестрація навмисно запускає кілька провайдерів, бо ви хочете більше ніж одну відповідь. Не плутайте ланцюжок повторів із Мастермайндом.

Довші запуски - перекладений документ, згенерований курс, відрендерене відео - виконуються як фонові завдання. Ви можете піти в інший застосунок і повернутися; завдання триває, а для запусків, які вам уже не потрібні, є аварійний вимикач.

У M.A.V.E.N їх кілька, кожна для своєї форми роботи:

  • AI Mastermind - багато моделей на одне запитання (ASK / DISCUSS / MoA).
  • Hermes Swarm - візуальний граф агентів, з’єднаних у пайплайн.
  • Pipeline - потік від вхідних до відвантаженого.
  • Kanban - дошка задач Hermes.
  • Paperclip - компанія з агентів.
  • Loop - збірка → оцінка → виправлення, раунд за раундом.

У M.A.V.E.N Teams Loop, Pipeline і Kanban - це одна форма, Workflows, - розгорнута зі спільного журналу подій.