This is the Linux app named LLMs-from-scratch whose latest release can be downloaded as LLMs-from-scratchsourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
Завантажте та запустіть онлайн цю програму під назвою LLMs-from-scratch з OnWorks безкоштовно.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть онлайн-емулятор OnWorks Linux або Windows або онлайн-емулятор MACOS з цього веб-сайту.
- 5. З ОС OnWorks Linux, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму, встановіть її та запустіть.
ЕКРАНИ
Ad
LLM з нуля
ОПИС
LLMs-from-scratch – це навчальна база коду, яка крок за кроком проходить через впровадження сучасних компонентів моделей великих мов програмування. Вона зосереджується на будівельних блоках – токенізації, вбудовуванні, увазі, шарах прямого зв'язку, нормалізації та циклах навчання – щоб учні розуміли не лише те, як використовувати модель, але й те, як вона працює внутрішньо. Репозиторій надає перевагу зрозумілим реалізаціям Python та NumPy або PyTorch, які можна запускати та змінювати без використання важких фреймворків, що затьмарюють логіку. Розділи та зошити поступово переходять від крихітних іграшкових моделей до більш потужних стеків-трансформерів, включаючи стратегії вибірки та перехоплювачі оцінки. Основна увага приділяється читабельності, правильності та експериментуванню, що робить її ідеальною для студентів та практиків, які переходять від теорії до робочих систем. Зрештою, ви матимете ґрунтовне розуміння того, як конвеєри даних, оптимізація та логічний висновок взаємодіють для створення вільного тексту.
Функції
- Покрокова реалізація блоків токенізації, уваги та трансформації
- Зрозумілі блокноти та скрипти Python, розроблені для навчання та налаштування
- Цикли навчання та вибірки, які надають повний доступ до даних та обчислювального потоку
- Дослідження варіантів масштабування, регуляризації та метрик оцінювання
- Мінімальні залежності для прозорості математики та коду
- Служить основою для розширення на більші моделі та користувацькі набори даних
Мова програмування
Python
Категорії
Цю програму також можна завантажити з https://sourceforge.net/projects/llms-from-scratch.mirror/. Вона розміщена в OnWorks для найпростішого запуску онлайн з однієї з наших безкоштовних операційних систем.
