Đây là ứng dụng Linux có tên là ChatLLM.cpp có phiên bản mới nhất có thể tải xuống dưới dạng chatllm_win_x64.7z. Có thể chạy trực tuyến trên nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng có tên ChatLLM.cpp với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH:
ChatLLM.cpp
SỰ MIÊU TẢ:
chatllm.cpp là một triển khai C++ thuần túy được thiết kế để trò chuyện thời gian thực với các Mô hình ngôn ngữ lớn (LLM) trên máy tính cá nhân, hỗ trợ cả thực thi CPU và GPU. Nó cho phép người dùng chạy nhiều LLM khác nhau từ dưới 1 tỷ đến hơn 300 tỷ tham số, tạo điều kiện cho trải nghiệm AI đàm thoại phản hồi và hiệu quả mà không cần dựa vào máy chủ bên ngoài.
Tính năng
- Triển khai C++ thuần túy cho suy luận LLM
- Supports models from 1B to >300B parameters
- Khả năng trò chuyện thời gian thực
- Tương thích với các thực thi của CPU và GPU
- Không phụ thuộc vào máy chủ bên ngoài
- Tạo điều kiện cho AI đàm thoại phản hồi
- Mã nguồn mở và có thể tùy chỉnh
- Tích hợp với nhiều kiến trúc LLM khác nhau
- Hỗ trợ cộng đồng tích cực
Ngôn ngữ lập trình
C + +
Danh Mục
Đây là ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/chatllm-cpp.mirror/. Ứng dụng này được lưu trữ trên OnWorks để có thể chạy trực tuyến theo cách dễ dàng nhất từ một trong những Hệ điều hành miễn phí của chúng tôi.