Обчислення (Local / Cloud)
Local / Cloud, за адресою /compute, вирішує, де виконується кожна можливість: транскрипція,
мовлення, текст, документи, зображення, відео.
Три значення для кожної можливості
Section titled “Три значення для кожної можливості”- Auto вирішує за тим, що має ця машина.
- Local - завжди тут, навіть без відеокарти.
- Cloud - завжди провайдер, навіть на машині, яка могла б упоратися сама, - ноутбук на батареї є цілком реальною причиною.
Читайте речення, а не бейдж
Section titled “Читайте речення, а не бейдж”Кожен рядок пояснює, до чого він звівся і чому - «на цій машині немає GPU, тому йде до провайдера». Рядок, що казав би лише CLOUD, нікого нічого не навчив би. Незручні випадки охоплено: обрано local там, де воно не може працювати, обрано cloud без ключа, і коли не доступний жоден шлях («neither path works yet» - вставте ключ у Settings → Secrets).
Чому для кожної можливості окремо
Section titled “Чому для кожної можливості окремо”M.A.V.E.N було написано на робочій станції з графічною картою, тож половина його рушіїв тихо припускає, що вона є. У контейнері це припущення і є всією проблемою - Whisper не відмовляється без GPU, він молотить на CPU приблизно в реальному часі, і застосунок виглядає зламаним, хоча жодної помилки немає. Але відсутня карта - це причина перенести транскрипцію, а не причина припинити запускати текстові моделі локально.
Грубий інструмент
Section titled “Грубий інструмент”MAVEN_FORCE_CLOUD=1 повністю перекриває зондування й відправляє кожну можливість
провайдеру - саме це налаштування потрібне контейнеру без GPU. Покладіть його в юніт сервісу, а не
лише у свою оболонку. Дивіться Розгортання на Proxmox.