Це програма для Linux під назвою llama2.c, останню версію якої можна завантажити як llama2.csourcecode.tar.gz. Її можна запускати онлайн на безкоштовному хостинг-провайдері OnWorks для робочих станцій.
Завантажте та запустіть онлайн цю програму під назвою llama2.c за допомогою OnWorks безкоштовно.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть онлайн-емулятор OnWorks Linux або Windows або онлайн-емулятор MACOS з цього веб-сайту.
- 5. З ОС OnWorks Linux, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму, встановіть її та запустіть.
СКРЕНИ:
лама2.c
ОПИС:
llama2.c — це мінімалістична реалізація архітектури мовної моделі Llama 2, розроблена для роботи повністю на чистому C. Створений Андрієм Карпатим, цей проєкт пропонує освітній та легкий фреймворк для виконання логічного висновку на невеликих моделях Llama 2 без зовнішніх залежностей. Він забезпечує повний конвеєр навчання та логічного висновку: моделі можна навчати в PyTorch, а потім виконувати за допомогою лаконічної 700-рядкової програми на C (run.c). Хоча технічно він може завантажувати офіційні моделі Meta Llama 2, поточна підтримка обмежена точністю fp32, що означає, що практичне використання обмежене моделями з параметрами приблизно до 7B. Мета llama2.c — продемонструвати, як компактна та прозора реалізація може виконувати змістовний висновок навіть з невеликими моделями, підкреслюючи простоту, ясність та доступність. Проєкт базується на уроках nanoGPT та натхненний llama.cpp, зосереджуючись на мінімалізмі та освітній цінності, а не на масштабній продуктивності.
Функції
- Реалізує повну архітектуру Llama 2 як для навчання, так і для логічного висновку
- Забезпечує компактний механізм логічного висновку на основі мови C на 700 рядків (run.c)
- Дозволяє навчати в PyTorch та запускати моделі безпосередньо на C
- Підтримує точність моделі FP32 для менших LLM освітнього масштабу
- Пропонує чисту, без залежностей реалізацію для легкого вивчення та модифікації
- Натхненний llama.cpp, але розроблений для простоти та мінімалізму
Мова програмування
C, Python
Категорії
Цю програму також можна завантажити з https://sourceforge.net/projects/llama2-c.mirror/. Вона розміщена на OnWorks для найпростішого запуску онлайн з однієї з наших безкоштовних операційних систем.