Это приложение Windows под названием KubeAI, последний релиз которого можно загрузить как helm-chart-kubeai-0.21.0sourcecode.tar.gz. Его можно запустить онлайн на бесплатном хостинг-провайдере OnWorks для рабочих станций.
Загрузите и запустите онлайн это приложение под названием KubeAI с помощью OnWorks бесплатно.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите любой онлайн-эмулятор OS OnWorks с этого сайта, но лучше онлайн-эмулятор Windows.
- 5. В только что запущенной ОС Windows OnWorks перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение и установите его.
- 7. Загрузите Wine из репозиториев программного обеспечения вашего дистрибутива Linux. После установки вы можете дважды щелкнуть приложение, чтобы запустить его с помощью Wine. Вы также можете попробовать PlayOnLinux, необычный интерфейс поверх Wine, который поможет вам установить популярные программы и игры для Windows.
Wine - это способ запустить программное обеспечение Windows в Linux, но без Windows. Wine - это уровень совместимости с Windows с открытым исходным кодом, который может запускать программы Windows непосредственно на любом рабочем столе Linux. По сути, Wine пытается заново реализовать Windows с нуля, чтобы можно было запускать все эти Windows-приложения, фактически не нуждаясь в Windows.
СКРИНШОТЫ:
KubeAI
ОПИСАНИЕ:
Запустите вывод на Kubernetes: LLM, встраивание, преобразование речи в текст. KubeAI обслуживает совместимый с OpenAI HTTP API. Администраторы могут настраивать модели машинного обучения с помощью пользовательских ресурсов Model Kubernetes. KubeAI можно рассматривать как оператор модели (см. шаблон оператора), который управляет серверами vLLM и Ollama.
Особенности
- Простая замена OpenAI с совместимостью с API
- Обслуживайте ведущие модели OSS (LLM, Whisper и т. д.)
- Мультиплатформенность: только CPU, GPU, скоро: TPU
- Масштабирование с нуля, автоматическое масштабирование в зависимости от нагрузки
- Никаких зависимостей (не зависит от Istio, Knative и т. д.)
- Включен пользовательский интерфейс чата (OpenWebUI)
- Управляет серверами модели OSS (vLLM, Ollama, FasterWhisper, Infinity)
- Потоковое/пакетное выведение данных посредством интеграции обмена сообщениями (Kafka, PubSub и т. д.)
Язык программирования
Go
Категории
Это приложение, которое также можно загрузить с https://sourceforge.net/projects/kubeai.mirror/. Оно размещено в OnWorks для того, чтобы его можно было запустить онлайн самым простым способом из одной из наших бесплатных операционных систем.