Это приложение для Linux под названием llama2.c, последнюю версию которого можно скачать как llama2.csourcecode.tar.gz. Его можно запустить онлайн на бесплатном хостинг-провайдере OnWorks для рабочих станций.
Бесплатно загрузите и запустите онлайн это приложение под названием llama2.c с помощью OnWorks.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите онлайн-эмулятор OnWorks Linux или Windows или онлайн-эмулятор MACOS с этого веб-сайта.
- 5. В только что запущенной ОС OnWorks Linux перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение, установите его и запустите.
СКРИНШОТЫ:
llama2.c
ОПИСАНИЕ:
llama2.c — это минималистичная реализация архитектуры языковой модели Llama 2, разработанная для работы исключительно на чистом языке C. Этот проект, созданный Андреем Карпати, предлагает образовательную и лёгкую инфраструктуру для выполнения вывода на небольших моделях Llama 2 без внешних зависимостей. Он предоставляет полноценный конвейер обучения и вывода: модели можно обучать в PyTorch, а затем запускать с помощью краткой 700-строчной программы на языке C (run.c). Хотя технически библиотеке доступна загрузка официальных моделей Llama 2 от Meta, текущая поддержка ограничена точностью fp32, что означает, что практическое применение ограничено моделями с количеством параметров до 7B. Цель llama2.c — продемонстрировать, как компактная и прозрачная реализация может выполнять осмысленный вывод даже на небольших моделях, делая акцент на простоте, ясности и доступности. Проект основан на опыте nanoGPT и вдохновляется llama.cpp, уделяя особое внимание минимализму и образовательной ценности, а не производительности в больших масштабах.
Особенности
- Реализует полную архитектуру Llama 2 как для обучения, так и для вывода
- Предоставляет компактный механизм вывода на основе языка C из 700 строк (run.c)
- Позволяет проводить обучение в PyTorch и запускать модели непосредственно на языке C.
- Поддерживает точность модели fp32 для небольших программ LLM образовательного масштаба
- Предлагает чистую реализацию без зависимостей для легкого изучения и модификации.
- Вдохновлено llama.cpp, но разработано для простоты и минимализма.
Язык программирования
С, Питон
Категории
Это приложение также можно скачать по адресу https://sourceforge.net/projects/llama2-c.mirror/. Оно размещено на OnWorks для максимально удобного запуска онлайн через одну из наших бесплатных операционных систем.