Це програма для Windows під назвою LLaMA.go, останню версію якої можна завантажити як v1.4_ServerMode.zip. Його можна запустити онлайн у безкоштовного хостинг-провайдера OnWorks для робочих станцій.
Завантажте та безкоштовно запустіть цю програму під назвою LLaMA.go з OnWorks.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть будь-який онлайн емулятор ОС OnWorks з цього веб-сайту, але кращий онлайн-емулятор Windows.
- 5. З ОС OnWorks Windows, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму та встановіть її.
- 7. Завантажте Wine зі сховищ програмного забезпечення дистрибутивів Linux. Після встановлення ви можете двічі клацнути програму, щоб запустити їх за допомогою Wine. Ви також можете спробувати PlayOnLinux, модний інтерфейс замість Wine, який допоможе вам встановити популярні програми та ігри Windows.
Wine — це спосіб запуску програмного забезпечення Windows на Linux, але без використання Windows. Wine — це рівень сумісності Windows з відкритим вихідним кодом, який може запускати програми Windows безпосередньо на будь-якому робочому столі Linux. По суті, Wine намагається повторно реалізувати достатньо Windows з нуля, щоб він міг запускати всі ці програми Windows, насправді не потребуючи Windows.
ЕКРАНИ
Ad
LLaMA.go
ОПИС
llama.go схожий на llama.cpp на чистому Golang. Код проекту базується на легендарному фреймворку ggml.cpp Георгія Герганова, написаному на C++ з таким же ставленням до продуктивності та елегантності. Обидві моделі зберігають вагу FP32, тому для LLaMA-32B вам знадобиться принаймні 7 Гб оперативної пам’яті (не VRAM або GPU RAM). Удвічі до 64 ГБ для LLaMA-13B.
риси
- Тензорна математика в чистому Golang
- Реалізація архітектури нейронної мережі LLaMA та завантаження моделі
- Тестуйте з меншою моделлю LLaMA-7B
- Переконайтеся, що висновок Go працює точно так само, як C++
- Нехай сяє! Увімкніть багатопотоковість і обмін повідомленнями для підвищення продуктивності
- Сумісність із різними платформами для Mac, Linux і Windows
Мова програмування
Go
Категорії
Це додаток, який також можна завантажити з https://sourceforge.net/projects/llama-go.mirror/. Його розміщено в OnWorks, щоб його можна було найпростіше запускати онлайн з однієї з наших безкоштовних операційних систем.
