This is the Linux app named LLMs-from-scratch whose latest release can be downloaded as LLMs-from-scratchsourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
Téléchargez et exécutez en ligne gratuitement cette application nommée LLMs-from-scratch avec OnWorks.
Suivez ces instructions pour exécuter cette application :
- 1. Téléchargé cette application sur votre PC.
- 2. Entrez dans notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous voulez.
- 3. Téléchargez cette application dans ce gestionnaire de fichiers.
- 4. Démarrez l'émulateur en ligne OnWorks Linux ou Windows en ligne ou l'émulateur en ligne MACOS à partir de ce site Web.
- 5. Depuis le système d'exploitation OnWorks Linux que vous venez de démarrer, accédez à notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous souhaitez.
- 6. Téléchargez l'application, installez-la et exécutez-la.
CAPTURES D'ÉCRAN
Ad
LLM à partir de zéro
DESCRIPTION
LLMs-from-scratch est une base de code pédagogique qui accompagne pas à pas la mise en œuvre de composants modernes de modèles de langage volumineux. Elle met l'accent sur les blocs de construction (tokenisation, intégrations, attention, couches de feed-forward, normalisation et boucles d'apprentissage) afin que les apprenants comprennent non seulement comment utiliser un modèle, mais aussi son fonctionnement interne. Le référentiel privilégie les implémentations claires de Python, NumPy ou PyTorch, exécutables et modifiables sans frameworks lourds qui obscurcissent la logique. Les chapitres et les cahiers progressent des petits modèles jouets vers des piles de transformateurs plus performantes, incluant des stratégies d'échantillonnage et des points d'ancrage d'évaluation. L'accent est mis sur la lisibilité, l'exactitude et l'expérimentation, ce qui en fait un outil idéal pour les étudiants et les praticiens passant de la théorie aux systèmes opérationnels. À la fin, vous aurez une compréhension approfondie de la manière dont les pipelines de données, l'optimisation et l'inférence interagissent pour produire un texte fluide.
Fonctionnement
- Implémentations progressives des blocs tokenizer, attention et transformateur
- Bloc-notes et scripts Python clairs conçus pour l'apprentissage et le bricolage
- Boucles de formation et d'échantillonnage qui exposent l'intégralité des données et du flux de calcul
- Explorations des choix de mise à l'échelle, de régularisation et des mesures d'évaluation
- Dépendances minimales pour garder les mathématiques et le code transparents
- Sert de base pour l'extension à des modèles plus grands et à des ensembles de données personnalisés
Langage de programmation
Python
Catégories
Cette application peut également être téléchargée depuis https://sourceforge.net/projects/llms-from-scratch.mirror/. Elle est hébergée sur OnWorks afin de pouvoir être exécutée en ligne plus facilement depuis l'un de nos systèmes d'exploitation gratuits.
