Đây là ứng dụng Linux có tên OpenLLM có bản phát hành mới nhất có thể được tải xuống dưới dạng v0.3.9sourcecode.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên OpenLLM với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
mởLLM
MÔ TẢ
Một nền tảng mở để vận hành các mô hình ngôn ngữ lớn (LLM) trong sản xuất. Tinh chỉnh, phục vụ, triển khai và giám sát mọi LLM một cách dễ dàng. Với OpenLLM, bạn có thể chạy suy luận với bất kỳ mô hình ngôn ngữ lớn nguồn mở nào, triển khai trên đám mây hoặc tại chỗ và xây dựng các ứng dụng AI mạnh mẽ. Tích hợp sẵn hỗ trợ nhiều loại LLM nguồn mở và thời gian chạy mô hình, bao gồm Llama 2, StableLM, Falcon, Dolly, Flan-T5, ChatGLM, StarCoder, v.v. Cung cấp LLM qua API RESTful hoặc gRPC bằng một lệnh, truy vấn qua WebUI, CLI, ứng dụng khách Python/Javascript của chúng tôi hoặc bất kỳ ứng dụng khách HTTP nào.
Tính năng
- Tinh chỉnh, phục vụ, triển khai và giám sát mọi LLM một cách dễ dàng
- LLM hiện đại
- API linh hoạt
- Tự do xây dựng
- Hợp lý hóa việc triển khai
- Mang theo LLM của riêng bạn
Ngôn ngữ lập trình
Python
Categories
Đây là một ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/openllm.mirror/. Nó đã được lưu trữ trên OnWorks để có thể chạy trực tuyến một cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
