Đây là ứng dụng Windows có tên KubeAI, phiên bản mới nhất có thể tải xuống dưới dạng helm-chart-kubeai-0.21.0sourcecode.tar.gz. Có thể chạy trực tuyến trên nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng có tên KubeAI với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động bất kỳ trình giả lập trực tuyến OS OnWorks nào từ trang web này, nhưng trình giả lập trực tuyến Windows tốt hơn.
- 5. Từ Hệ điều hành Windows OnWorks bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng và cài đặt nó.
- 7. Tải xuống Wine từ kho phần mềm phân phối Linux của bạn. Sau khi cài đặt, bạn có thể nhấp đúp vào ứng dụng để chạy chúng với Wine. Bạn cũng có thể thử PlayOnLinux, một giao diện đẹp mắt trên Wine sẽ giúp bạn cài đặt các chương trình và trò chơi phổ biến của Windows.
Wine là một cách để chạy phần mềm Windows trên Linux, nhưng không cần Windows. Wine là một lớp tương thích Windows mã nguồn mở có thể chạy các chương trình Windows trực tiếp trên bất kỳ máy tính để bàn Linux nào. Về cơ bản, Wine đang cố gắng triển khai lại đủ Windows từ đầu để nó có thể chạy tất cả các ứng dụng Windows đó mà không thực sự cần đến Windows.
MÀN HÌNH:
KubeAI
SỰ MIÊU TẢ:
Chạy suy luận trên Kubernetes: LLM, Nhúng, Chuyển giọng nói thành văn bản. KubeAI phục vụ API HTTP tương thích với OpenAI. Quản trị viên có thể định cấu hình các mô hình ML bằng cách sử dụng Tài nguyên tùy chỉnh Model Kubernetes. KubeAI có thể được coi là một Nhà điều hành mô hình (Xem Mẫu nhà điều hành) quản lý máy chủ vLLM và Ollama.
Tính năng
- Thay thế trực tiếp cho OpenAI với khả năng tương thích API
- Phục vụ các mô hình OSS hàng đầu (LLM, Whisper, v.v.)
- Đa nền tảng: Chỉ CPU, GPU, sắp ra mắt: TPU
- Tỷ lệ từ 0, tự động tỷ lệ dựa trên tải
- Không phụ thuộc (không phụ thuộc vào Istio, Knative, v.v.)
- Giao diện trò chuyện được bao gồm (OpenWebUI)
- Vận hành máy chủ mô hình OSS (vLLM, Ollama, FasterWhisper, Infinity)
- Suy luận theo luồng/hàng loạt thông qua tích hợp nhắn tin (Kafka, PubSub, v.v.)
Ngôn ngữ lập trình
Go
Danh Mục
Đây là ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/kubeai.mirror/. Ứng dụng này được lưu trữ trên OnWorks để có thể chạy trực tuyến theo cách dễ dàng nhất từ một trong những Hệ điều hành miễn phí của chúng tôi.