Це програма для Windows під назвою rwkv.cpp, останню версію якої можна завантажити як rwkv-master-39ed572-bin-win-avx512-x64.zip. Його можна запустити онлайн у безкоштовного хостинг-провайдера OnWorks для робочих станцій.
Завантажте та запустіть онлайн цю програму під назвою rwkv.cpp з OnWorks безкоштовно.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть будь-який онлайн емулятор ОС OnWorks з цього веб-сайту, але кращий онлайн-емулятор Windows.
- 5. З ОС OnWorks Windows, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму та встановіть її.
- 7. Завантажте Wine зі сховищ програмного забезпечення дистрибутивів Linux. Після встановлення ви можете двічі клацнути програму, щоб запустити їх за допомогою Wine. Ви також можете спробувати PlayOnLinux, модний інтерфейс замість Wine, який допоможе вам встановити популярні програми та ігри Windows.
Wine — це спосіб запуску програмного забезпечення Windows на Linux, але без використання Windows. Wine — це рівень сумісності Windows з відкритим вихідним кодом, який може запускати програми Windows безпосередньо на будь-якому робочому столі Linux. По суті, Wine намагається повторно реалізувати достатньо Windows з нуля, щоб він міг запускати всі ці програми Windows, насправді не потребуючи Windows.
ЕКРАНИ
Ad
rwkv.cpp
ОПИС
Окрім звичайного FP32, він підтримує FP16, квантований висновок INT4, INT5 та INT8. Цей проект зосереджений на ЦП, але cuBLAS також підтримується. RWKV — це нова архітектура великої мовної моделі, причому найбільша модель у сімействі має параметри 14B. На відміну від Transformer з увагою O(n^2), RWKV вимагає лише стану з попереднього кроку для обчислення логітів. Це робить RWKV дуже зручним для процесора на великих довжинах контексту.
Функції
- Windows / Linux / MacOS
- Створіть бібліотеку самостійно
- Отримайте модель RWKV
- Вимоги: Python 3.x з PyTorch і токенізерами
- ggml рухається швидко та іноді може порушити сумісність зі старими форматами файлів
- Вимоги: Python 3.x з PyTorch
Мова програмування
C + +
Категорії
Це програма, яку також можна завантажити з https://sourceforge.net/projects/rwkv-cpp.mirror/. Його розміщено в OnWorks, щоб його можна було найпростіше запускати онлайн з однієї з наших безкоштовних операційних систем.
