Este é o aplicativo Linux chamado KubeAI, cuja versão mais recente pode ser baixada como helm-chart-kubeai-0.22.0sourcecode.tar.gz. Ele pode ser executado online no provedor de hospedagem gratuita OnWorks para estações de trabalho.
Baixe e execute on-line este aplicativo chamado KubeAI com OnWorks gratuitamente.
Siga estas instruções para executar este aplicativo:
- 1. Baixe este aplicativo em seu PC.
- 2. Entre em nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que você deseja.
- 3. Carregue este aplicativo em tal gerenciador de arquivos.
- 4. Inicie o emulador OnWorks Linux online ou Windows online ou emulador MACOS online a partir deste site.
- 5. No sistema operacional OnWorks Linux que você acabou de iniciar, acesse nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que deseja.
- 6. Baixe o aplicativo, instale-o e execute-o.
SCREENSHOTS
Ad
KubeAI
DESCRIÇÃO
Execute inferências no Kubernetes: LLMs, embeddings e conversão de voz em texto. O KubeAI oferece uma API HTTP compatível com OpenAI. Os administradores podem configurar modelos de ML usando os Recursos Personalizados do Kubernetes. O KubeAI pode ser considerado um Operador de Modelo (consulte o Padrão de Operador) que gerencia servidores vLLM e Ollama.
Recursos
- Substituição imediata para OpenAI com compatibilidade de API
- Atender os principais modelos OSS (LLMs, Whisper, etc.)
- Multiplataforma: somente CPU, GPU, em breve: TPU
- Escala de zero, escala automática com base na carga
- Zero dependências (não depende do Istio, Knative, etc.)
- Interface de bate-papo incluída (OpenWebUI)
- Opera servidores de modelo OSS (vLLM, Ollama, FasterWhisper, Infinity)
- Inferência de fluxo/lote por meio de integrações de mensagens (Kafka, PubSub, etc.)
Linguagem de Programação
Go
Categorias
Este é um aplicativo que também pode ser obtido em https://sourceforge.net/projects/kubeai.mirror/. Ele foi hospedado no OnWorks para ser executado online da maneira mais fácil em um de nossos sistemas operacionais gratuitos.
