Đây là ứng dụng Windows có tên Transformer Engine, phiên bản mới nhất có thể tải xuống dưới dạng v2.4sourcecode.tar.gz. Có thể chạy trực tuyến trên nhà cung cấp dịch vụ lưu trữ miễn phí OnWorks cho máy trạm.
Tải xuống và chạy trực tuyến ứng dụng có tên Transformer Engine với OnWorks miễn phí.
Làm theo các hướng dẫn sau để chạy ứng dụng này:
- 1. Đã tải ứng dụng này xuống PC của bạn.
- 2. Nhập vào trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 3. Tải lên ứng dụng này trong trình quản lý tệp như vậy.
- 4. Khởi động bất kỳ trình giả lập trực tuyến OS OnWorks nào từ trang web này, nhưng trình giả lập trực tuyến Windows tốt hơn.
- 5. Từ Hệ điều hành Windows OnWorks bạn vừa khởi động, hãy truy cập trình quản lý tệp của chúng tôi https://www.onworks.net/myfiles.php?username=XXXXX với tên người dùng mà bạn muốn.
- 6. Tải xuống ứng dụng và cài đặt nó.
- 7. Tải xuống Wine từ kho phần mềm phân phối Linux của bạn. Sau khi cài đặt, bạn có thể nhấp đúp vào ứng dụng để chạy chúng với Wine. Bạn cũng có thể thử PlayOnLinux, một giao diện đẹp mắt trên Wine sẽ giúp bạn cài đặt các chương trình và trò chơi phổ biến của Windows.
Wine là một cách để chạy phần mềm Windows trên Linux, nhưng không cần Windows. Wine là một lớp tương thích Windows mã nguồn mở có thể chạy các chương trình Windows trực tiếp trên bất kỳ máy tính để bàn Linux nào. Về cơ bản, Wine đang cố gắng triển khai lại đủ Windows từ đầu để nó có thể chạy tất cả các ứng dụng Windows đó mà không thực sự cần đến Windows.
MÀN HÌNH
Ad
Máy biến áp
MÔ TẢ
Transformer Engine (TE) là một thư viện để tăng tốc các mô hình Transformer trên GPU NVIDIA, bao gồm sử dụng độ chính xác dấu phẩy động 8 bit (FP8) trên GPU Hopper, để cung cấp hiệu suất tốt hơn với mức sử dụng bộ nhớ thấp hơn trong cả quá trình đào tạo và suy luận. TE cung cấp một bộ sưu tập các khối xây dựng được tối ưu hóa cao cho các kiến trúc Transformer phổ biến và một API giống như độ chính xác hỗn hợp tự động có thể được sử dụng liền mạch với mã cụ thể của khuôn khổ của bạn. TE cũng bao gồm một API C++ không phụ thuộc vào khuôn khổ có thể được tích hợp với các thư viện học sâu khác để cho phép hỗ trợ FP8 cho Transformer. Khi số lượng tham số trong các mô hình Transformer tiếp tục tăng lên, việc đào tạo và suy luận cho các kiến trúc như BERT, GPT và T5 trở nên rất tốn bộ nhớ và tính toán. Hầu hết các khuôn khổ học sâu đều đào tạo với FP32 theo mặc định. Tuy nhiên, điều này không phải là điều cần thiết để đạt được độ chính xác hoàn toàn cho nhiều mô hình học sâu.
Tính năng
- Các mô-đun dễ sử dụng để xây dựng các lớp Transformer có hỗ trợ FP8
- Tối ưu hóa (ví dụ như hạt nhân hợp nhất) cho các mô hình Transformer
- Hỗ trợ FP8 trên GPU NVIDIA Hopper và NVIDIA Ada
- Hỗ trợ tối ưu hóa trên tất cả các độ chính xác (FP16, BF16) trên các thế hệ kiến trúc GPU NVIDIA Ampere trở lên
- Tài liệu có sẵn
- Ví dụ bao gồm
Ngôn ngữ lập trình
Python
Danh Mục
Đây là ứng dụng cũng có thể được tải xuống từ https://sourceforge.net/projects/transformer-engine.mirror/. Ứng dụng này được lưu trữ trên OnWorks để có thể chạy trực tuyến theo cách dễ dàng nhất từ một trong những Hệ điều hành miễn phí của chúng tôi.
