Вы можете использовать API вывода и наши экземпляры ( использовать наш хостинг-балансировщик нагрузки, чтобы поддерживать один и тот же базовый URL для каждого экземпляра ) с уже развернутым Open Webui. Вы можете запустить его на своем локальном компьютере в Docker. Многие люди уже делают это.