Đây là ứng dụng Linux có tên LLamaSharp có bản phát hành mới nhất có thể được tải xuống dưới dạng v0.6.0-followmajorllama.cppchangessourcecode.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên LLamaSharp với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
LLamaSharp
MÔ TẢ
Liên kết C#/.NET của llama.cpp. Nó cung cấp các API để suy ra Mô hình LLaMa và triển khai nó trên môi trường cục bộ. Nó hoạt động trên cả Windows, Linux và MAC mà không cần phải tự biên dịch llama.cpp. Hiệu suất của nó gần bằng llama.cpp. Hơn nữa, nó cung cấp khả năng tích hợp với các dự án khác như BotSharp để cung cấp các ứng dụng và giao diện người dùng cấp cao hơn.
Tính năng
- Phiên suy luận và trò chuyện mẫu
- LLamaSharp cung cấp hai cách để chạy suy luận: LLamaExecutor và ChatSession
- Với LLamaSharp, bạn không cần phải biên dịch dự án C++ và chạy các tập lệnh để lượng tử hóa mô hình, thay vào đó, chỉ cần chạy nó trong C#
- Chúng tôi cung cấp sự tích hợp của ASP.NET cốt lõi
- Tạo nhúng, mã thông báo và giải mã
- Suy luận mô hình LLaMa
Ngôn ngữ lập trình
C#
Danh Mục
Đây là một ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/llamasharp.mirror/. Nó đã được lưu trữ trên OnWorks để có thể chạy trực tuyến một cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
