Tải xuống LitGPT cho Linux

Đây là ứng dụng Linux có tên LitGPT, phiên bản mới nhất có thể tải xuống dưới dạng v0.5.9sourcecode.tar.gz. Có thể chạy trực tuyến trên nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks cho máy trạm.

Tải xuống và chạy trực tuyến ứng dụng có tên LitGPT với OnWorks miễn phí.

Làm theo các hướng dẫn sau để chạy ứng dụng này:

- 1. Đã tải ứng dụng này xuống PC của bạn.

- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.

- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.

- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.

- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.

- 6. Tải xuống ứng dụng, cài đặt và chạy nó.

Tải về ứng dụng Chạy trong Ubuntu Chạy trong Fedora Chạy trong Windows Sim Chạy trong MACOS Sim

MÀN HÌNH:

LitGPT

SỰ MIÊU TẢ:

LitGPT là một bộ sưu tập hơn 20 mô hình ngôn ngữ lớn (LLM) hiệu suất cao đi kèm với các công thức để đào tạo trước, tinh chỉnh và triển khai chúng ở quy mô lớn. Nó cung cấp các triển khai không có trừu tượng hóa, giúp người mới bắt đầu dễ dàng sử dụng trong khi vẫn cung cấp các tính năng nâng cao như chú ý nhanh và hỗ trợ nhiều cấp độ chính xác khác nhau. LitGPT được thiết kế để chạy hiệu quả trên nhiều GPU hoặc TPU, phục vụ cho cả triển khai quy mô nhỏ và quy mô lớn.

Tính năng

Bộ sưu tập hơn 20 LLM hiệu suất cao
Công thức cho các mô hình đào tạo trước và tinh chỉnh
Triển khai có thể mở rộng trên GPU và TPU
Triển khai thân thiện với người mới bắt đầu mà không cần trừu tượng hóa
Hỗ trợ cho cơ chế chú ý chớp nhoáng
Mức độ chính xác linh hoạt (fp4/8/16/32)
Tích hợp với nền tảng Lightning AI
Hướng dẫn và tài liệu mở rộng
Cộng đồng tích cực và các kênh hỗ trợ

Ngôn ngữ lập trình

Python

Danh Mục

Suy luận LLM

Đây là ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/litgpt.mirror/. Ứng dụng này được lưu trữ trên OnWorks để có thể chạy trực tuyến theo cách dễ dàng nhất từ một trong những Hệ điều hành miễn phí của chúng tôi.