Це програма для Linux під назвою Lemonade, останню версію якої можна завантажити як v8.1.12sourcecode.tar.gz. Її можна запускати онлайн на безкоштовному хостинг-провайдері OnWorks для робочих станцій.
Завантажте та запустіть цю програму під назвою Lemonade з OnWorks безкоштовно.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть онлайн-емулятор OnWorks Linux або Windows або онлайн-емулятор MACOS з цього веб-сайту.
- 5. З ОС OnWorks Linux, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму, встановіть її та запустіть.
СКРЕНИ:
лимонад
ОПИС:
Lemonade — це локальне середовище виконання LLM, яке має на меті забезпечити максимально можливу продуктивність на вашому власному обладнанні шляхом автоматичного налаштування сучасних механізмів виводу як для нейронних процесорів, так і для графічних процесорів. Проект позиціонує себе як «локальний сервер LLM», який можна запускати на ноутбуках і робочих станціях, абстрагуючи відмінності між серверними частинами, водночас надаючи вам єдине місце для обслуговування та керування моделями. Його README-файл підкреслює реальне впровадження стартапами, дослідницькими групами та великими компаніями, сигналізуючи про зосередженість на практичному розгортанні, а не на іграшкових демонстраціях. Репозиторій підкреслює легкість адаптації за допомогою завантажень, документації та Discord для підтримки, що свідчить про активну спільноту користувачів. Обмін повідомленнями зосереджений на вичавленні максимальної пропускної здатності/затримки з сучасних прискорювачів без необхідності вручну налаштовувати ядра чи прапорці. Релізи ще більше підсилюють «серверну» структуру, спрямовуючи розробників до сервісу, який можна інтегрувати в програми та інструменти.
Функції
- Локальний LLM-сервер, орієнтований на прискорення GPU та NPU
- Автоматичне налаштування високопродуктивних серверів виводу
- Простий процес встановлення та запуску з інструкціями з документації
- Підтримка спільноти через Discord та активне відстеження проблем
- Працює в дослідженнях, стартапах та корпоративних випадках використання
- Розроблено як база для локальних додатків зі штучним інтелектом
Мова програмування
Python
Категорії
Цю програму також можна завантажити з https://sourceforge.net/projects/lemonade.mirror/. Вона розміщена на OnWorks для найпростішого запуску онлайн з однієї з наших безкоштовних операційних систем.