Đây là ứng dụng Linux có tên KServe, phiên bản mới nhất có thể tải xuống dưới dạng helm-chart-kserve-crd-minimal-v0.15.2.tgz. Có thể chạy trực tuyến trên nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng có tên KServe với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
KPhục vụ
MÔ TẢ
KServe cung cấp Kubernetes Custom Resource Definition để phục vụ các mô hình học máy (ML) trên các khuôn khổ tùy ý. Nó nhằm mục đích giải quyết các trường hợp sử dụng phục vụ mô hình sản xuất bằng cách cung cấp các giao diện hiệu suất cao, trừu tượng cho các khuôn khổ ML phổ biến như Tensorflow, XGBoost, ScikitLearn, PyTorch và ONNX. Nó bao gồm sự phức tạp của việc tự động mở rộng quy mô, kết nối mạng, kiểm tra tình trạng và cấu hình máy chủ để mang đến các tính năng phục vụ tiên tiến như Tự động mở rộng quy mô GPU, Scale to Zero và Canary Rollouts cho các triển khai ML của bạn. Nó cho phép một câu chuyện đơn giản, có thể cắm được và hoàn chỉnh cho Production ML Serving bao gồm dự đoán, xử lý trước, xử lý sau và khả năng giải thích. KServe đang được sử dụng trên nhiều tổ chức khác nhau.
Tính năng
- KServe là một nền tảng suy luận mô hình tiêu chuẩn, không phụ thuộc vào đám mây trên Kubernetes, được xây dựng cho các trường hợp sử dụng có khả năng mở rộng cao
- Cung cấp giao thức suy luận hiệu suất cao, chuẩn hóa trên các khuôn khổ ML
- Hỗ trợ khối lượng công việc suy luận không cần máy chủ hiện đại với tính năng tự động mở rộng theo yêu cầu bao gồm khả năng mở rộng về 0 trên CPU và GPU
- Cung cấp khả năng mở rộng cao, đóng gói mật độ và định tuyến thông minh bằng ModelMesh
- Sản xuất đơn giản và có thể cắm được phục vụ cho suy luận, xử lý trước/sau, giám sát và giải thích
- Triển khai nâng cao cho bản phát hành canary, đường ống, nhóm với InferenceGraph
Ngôn ngữ lập trình
Python
Danh Mục
Đây là ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/kserve.mirror/. Ứng dụng này được lưu trữ trên OnWorks để có thể chạy trực tuyến theo cách dễ dàng nhất từ một trong những Hệ điều hành miễn phí của chúng tôi.
