Đây là ứng dụng Linux có tên Kính vạn hoa-SDK có bản phát hành mới nhất có thể được tải xuống dưới dạng kính vạn hoa-sdkv0.8.0.zip. Nó có thể được chạy trực tuyến trong nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks dành cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng này có tên Kaleidoscope-SDK với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động trình giả lập trực tuyến OnWorks Linux hoặc trình giả lập trực tuyến Windows hoặc trình mô phỏng trực tuyến MACOS từ trang web này.
- 5. Từ Hệ điều hành OnWorks Linux mà bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng, cài đặt và chạy nó.
MÀN HÌNH
Ad
Kính vạn hoa-SDK
MÔ TẢ
kính vạn hoa-sdk là một mô-đun Python được sử dụng để tương tác với các mô hình ngôn ngữ lớn được lưu trữ thông qua dịch vụ Kính vạn hoa có sẵn tại: https://github.com/VectorInstitute/kaleidoscope. Nó cung cấp một giao diện đơn giản để khởi chạy LLM trên cụm HPC, yêu cầu chúng thực hiện các tính năng cơ bản như tạo văn bản, nhưng cũng truy xuất thông tin trung gian từ bên trong mô hình, chẳng hạn như xác suất nhật ký và kích hoạt. Người dùng phải xác thực bằng thông tin đăng nhập cụm Viện Vector của họ. Điều này có thể được thực hiện một cách tương tác khi khởi tạo một đối tượng khách hàng. Điều này sẽ tạo mã thông báo xác thực sẽ được sử dụng cho tất cả các yêu cầu tiếp theo. Mã thông báo sẽ hết hạn sau 30 ngày, tại thời điểm đó, người dùng sẽ được nhắc xác thực lại.
Tính năng
- Hiển thị danh sách tất cả các LLM đang hoạt động được khởi tạo bởi dịch vụ mô hình
- Tải LLM thông qua dịch vụ mô hình
- Trả về một thế hệ văn bản LLM dựa trên đầu vào nhanh chóng
- Trả về tất cả các tên mô-đun trong mạng thần kinh LLM
- Truy xuất tất cả các kích hoạt cho một bộ mô-đun
- Yêu cầu phiên bản Python >= 3.8
Ngôn ngữ lập trình
Python
Danh Mục
Đây là một ứng dụng cũng có thể được tìm nạp từ https://sourceforge.net/projects/kaleidoscope-sdk.mirror/. Nó đã được lưu trữ trong OnWorks để có thể chạy trực tuyến theo cách dễ dàng nhất từ một trong các Hệ điều hành miễn phí của chúng tôi.
