Це програма для Linux під назвою LLamaSharp, останню версію якої можна завантажити як v0.6.0-followmajorllama.cppchangessourcecode.zip. Його можна запустити онлайн у безкоштовного хостинг-провайдера OnWorks для робочих станцій.
Завантажте та запустіть цю програму під назвою LLamaSharp з OnWorks безкоштовно.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть онлайн-емулятор OnWorks Linux або Windows або онлайн-емулятор MACOS з цього веб-сайту.
- 5. З ОС OnWorks Linux, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму, встановіть її та запустіть.
ЕКРАНИ
Ad
LLamaSharp
ОПИС
Зв’язування C#/.NET llama.cpp. Він надає API для визначення моделей LLaMa та розгортання їх у локальному середовищі. Він працює на Windows, Linux і MAC без необхідності компілювати llama.cpp самостійно. Його продуктивність близька до llama.cpp. Крім того, він забезпечує інтеграцію з іншими проектами, такими як BotSharp, для надання програм вищого рівня та інтерфейсу користувача.
риси
- Висновок моделі та сеанс чату
- LLamaSharp надає два способи запуску висновку: LLamaExecutor і ChatSession
- З LLamaSharp вам не потрібно компілювати проект C++ і запускати сценарії для квантування моделі, натомість просто запустіть його в C#
- Ми забезпечуємо інтеграцію ASP.NET ядро
- Генерація вбудованих елементів, токенізація та детокенізація
- Висновок моделі LLaMa
Мова програмування
C#
Категорії
Це програма, яку також можна завантажити з https://sourceforge.net/projects/llamasharp.mirror/. Його розміщено в OnWorks, щоб його можна було найпростіше запускати онлайн з однієї з наших безкоштовних операційних систем.
