Вычисления (Local / Cloud)
Local / Cloud, по адресу /compute, решает, где выполняется каждая возможность:
транскрибация, речь, текст, документы, картинки, видео.
Три настройки на каждую возможность
Заголовок раздела «Три настройки на каждую возможность»- Auto решает исходя из того, что есть у этой машины.
- Local - всегда здесь, даже без видеокарты.
- Cloud - всегда провайдер, даже на машине, которая могла бы справиться сама - ноутбук на батарее тому веская причина.
Читайте предложение, а не бейдж
Заголовок раздела «Читайте предложение, а не бейдж»Каждая строка объясняет, во что она разрешилась и почему - «на этой машине нет GPU, поэтому уходит к провайдеру». Строка, в которой написано только CLOUD, никого ничему не научила бы. Неудобные случаи покрыты: выбран локальный режим там, где он не может работать; выбран облачный без ключа; и ни один путь не доступен («ни один путь пока не работает» - вставьте ключ в Настройки → Секреты и ключи).
Почему для каждой возможности отдельно
Заголовок раздела «Почему для каждой возможности отдельно»M.A.V.E.N писался на рабочей станции с видеокартой, поэтому половина его движков молча предполагает её наличие. В контейнере это предположение - вся проблема: Whisper не отказывает без GPU, он перемалывает на CPU примерно в реальном времени, и приложение выглядит сломанным, хотя ошибок нет. Но отсутствие карты - повод перенести транскрибацию, а не повод перестать запускать текстовые модели локально.
Грубый инструмент
Заголовок раздела «Грубый инструмент»MAVEN_FORCE_CLOUD=1 полностью переопределяет пробу и отправляет каждую возможность
к провайдеру - именно та настройка, которая нужна контейнеру без GPU. Пропишите её в юните
службы, а не только в своём shell. См. Развёртывание в Proxmox.