Это приложение для Linux под названием LLMs-from-scratch, последнюю версию которого можно скачать в формате LLMs-from-scratchsourcecode.tar.gz. Его можно запустить онлайн на бесплатном хостинг-провайдере OnWorks для рабочих станций.
Бесплатно скачайте и запустите онлайн это приложение под названием LLMs-from-scratch с OnWorks.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите онлайн-эмулятор OnWorks Linux или Windows или онлайн-эмулятор MACOS с этого веб-сайта.
- 5. В только что запущенной ОС OnWorks Linux перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение, установите его и запустите.
СКРИНШОТЫ:
LLM с нуля
ОПИСАНИЕ:
LLMs-from-scratch — это образовательная кодовая база, которая шаг за шагом демонстрирует реализацию современных компонентов больших языковых моделей. Особое внимание уделяется строительным блокам — токенизации, встраиванию, вниманию, слоям прямой связи, нормализации и циклам обучения, — чтобы учащиеся понимали не только, как использовать модель, но и как она работает внутри. Репозиторий отдаёт предпочтение понятным реализациям Python и NumPy или PyTorch, которые можно запускать и изменять без использования тяжеловесных фреймворков, скрывающих логику. Главы и тетради переходят от небольших игрушечных моделей к более функциональным стекам преобразователей, включая стратегии выборки и хуки оценки. Основное внимание уделяется читаемости, корректности и экспериментированию, что делает его идеальным для студентов и практиков, переходящих от теории к работающим системам. К концу курса вы получите основательное понимание того, как взаимодействуют конвейеры данных, оптимизация и вывод для создания плавного текста.
Особенности
- Пошаговая реализация блоков токенизатора, внимания и трансформатора
- Понятные блокноты и скрипты Python, предназначенные для обучения и совершенствования
- Циклы обучения и выборки, которые раскрывают полный поток данных и вычислений
- Исследования вариантов масштабирования, регуляризации и метрик оценки
- Минимальные зависимости для обеспечения прозрачности математики и кода
- Служит основой для расширения до более крупных моделей и пользовательских наборов данных.
Язык программирования
Питон
Категории
Это приложение также можно скачать по адресу https://sourceforge.net/projects/llms-from-scratch.mirror/. Оно размещено на OnWorks для максимально удобного запуска онлайн через одну из наших бесплатных операционных систем.