Đây là ứng dụng Linux có tên LLaMA, phiên bản mới nhất có thể tải xuống dưới dạng llamav2sourcecode.zip. Ứng dụng có thể chạy trực tuyến trên nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng có tên LLaMA với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
cuộc gọi
MÔ TẢ
“Llama” là kho lưu trữ từ Meta (trước đây là Facebook/Meta Research) chứa mã suy luận cho các mô hình LLaMA (Large Language Model Meta AI - Mô hình Ngôn ngữ Lớn). Kho lưu trữ này cung cấp các tiện ích để tải các trọng số mô hình LLaMA đã được đào tạo trước, chạy suy luận (tạo văn bản, trò chuyện, hoàn thành) và làm việc với các bộ phân tích cú pháp. Kho lưu trữ này là một phần cốt lõi của cơ sở hạ tầng mô hình Llama, được các nhà nghiên cứu và nhà phát triển sử dụng để chạy các mô hình LLaMA cục bộ hoặc trong cơ sở hạ tầng của họ. Kho lưu trữ này dành cho suy luận (không phải đào tạo từ đầu) và kết nối với các khía cạnh như thẻ mô hình, sử dụng có trách nhiệm, cấp phép, v.v.
Tính năng
- Cung cấp mã tham chiếu để tải nhiều trọng số được đào tạo trước của LLaMA (7B, 13B, 70B, v.v.) và thực hiện suy luận (trò chuyện hoặc hoàn thành)
- Tiện ích phân tích mã thông báo, tải xuống tập lệnh, trình trợ giúp shell để lấy trọng số mô hình với giấy phép/quyền chính xác
- Hỗ trợ thiết lập nhiều tham số (kích thước lô, độ dài ngữ cảnh, số lượng GPU/tính song song) để mở rộng sang các mô hình/máy lớn hơn
- Hướng dẫn về Giấy phép/Sử dụng có trách nhiệm; thẻ mẫu và tài liệu hướng dẫn về cách sử dụng hoặc hạn chế mô hình
- Bao gồm các tập lệnh mẫu để hoàn thành trò chuyện và hoàn thành văn bản để hiển thị cách gọi các mô hình trong mã
- Khả năng tương thích với các khuôn khổ học sâu tiêu chuẩn (PyTorch, v.v.) để sử dụng suy luận, bao gồm đảm bảo các phụ thuộc bắt buộc và các tập lệnh thiết lập được bao gồm
Ngôn ngữ lập trình
Python
Danh Mục
Đây là một ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/llama.mirror/. Ứng dụng này được lưu trữ trên OnWorks để có thể chạy trực tuyến dễ dàng nhất từ một trong những Hệ điều hành miễn phí của chúng tôi.
