Це програма для Windows під назвою KubeAI, останню версію якої можна завантажити як helm-chart-kubeai-0.21.0sourcecode.tar.gz. Її можна запускати онлайн на безкоштовному хостинг-провайдері OnWorks для робочих станцій.
Завантажте та запустіть онлайн цю програму під назвою KubeAI з OnWorks безкоштовно.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть будь-який онлайн емулятор ОС OnWorks з цього веб-сайту, але кращий онлайн-емулятор Windows.
- 5. З ОС OnWorks Windows, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму та встановіть її.
- 7. Завантажте Wine зі сховищ програмного забезпечення дистрибутивів Linux. Після встановлення ви можете двічі клацнути програму, щоб запустити їх за допомогою Wine. Ви також можете спробувати PlayOnLinux, модний інтерфейс замість Wine, який допоможе вам встановити популярні програми та ігри Windows.
Wine — це спосіб запуску програмного забезпечення Windows на Linux, але без використання Windows. Wine — це рівень сумісності Windows з відкритим вихідним кодом, який може запускати програми Windows безпосередньо на будь-якому робочому столі Linux. По суті, Wine намагається повторно реалізувати достатньо Windows з нуля, щоб він міг запускати всі ці програми Windows, насправді не потребуючи Windows.
СКРЕНИ:
KubeAI
ОПИС:
Запустіть логічний висновок на Kubernetes: LLM, вбудовування, перетворення мовлення в текст. KubeAI обслуговує HTTP API, сумісний з OpenAI. Адміністратори можуть налаштовувати моделі машинного навчання за допомогою користувацьких ресурсів Model Kubernetes. KubeAI можна розглядати як оператор моделі (див. шаблон оператора), який керує серверами vLLM та Ollama.
Функції
- Заміна OpenAI з сумісністю API
- Обслуговувати провідні моделі OSS (LLM, Whisper тощо)
- Мультиплатформний: лише CPU, GPU, незабаром: TPU
- Масштабування від нуля, автоматичне масштабування залежно від навантаження
- Нульова залежність (не залежить від Istio, Knative тощо)
- Включено інтерфейс чату (OpenWebUI)
- Працює з серверами моделей OSS (vLLM, Ollama, FasterWhisper, Infinity)
- Потокове/пакетне виведення даних через інтеграції з обміном повідомленнями (Kafka, PubSub тощо)
Мова програмування
Go
Категорії
Цю програму також можна завантажити з https://sourceforge.net/projects/kubeai.mirror/. Вона розміщена на OnWorks для найпростішого запуску онлайн з однієї з наших безкоштовних операційних систем.