Il s'agit de l'application Linux minGPT, dont la dernière version est téléchargeable sous le nom minGPTsourcecode.tar.gz. Elle peut être exécutée en ligne sur l'hébergeur gratuit OnWorks pour postes de travail.
Téléchargez et exécutez en ligne cette application nommée minGPT avec OnWorks gratuitement.
Suivez ces instructions pour exécuter cette application :
- 1. Téléchargé cette application sur votre PC.
- 2. Entrez dans notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous voulez.
- 3. Téléchargez cette application dans ce gestionnaire de fichiers.
- 4. Démarrez l'émulateur en ligne OnWorks Linux ou Windows en ligne ou l'émulateur en ligne MACOS à partir de ce site Web.
- 5. Depuis le système d'exploitation OnWorks Linux que vous venez de démarrer, accédez à notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous souhaitez.
- 6. Téléchargez l'application, installez-la et exécutez-la.
CAPTURES D'ÉCRAN
Ad
minGPT
DESCRIPTION
minGPT est une réimplémentation minimaliste et pédagogique de l'architecture GPT (Generative Pretrained Transformer) développée en PyTorch. Conçue par Andrej Karpathy, elle expose la structure fondamentale d'un modèle de langage basé sur les transformateurs en un minimum de lignes de code. Elle élimine les superflus et vise à montrer comment une séquence d'indices de jetons est introduite dans une pile de blocs de transformateurs, puis décodée en probabilités de jetons suivantes, avec prise en charge de l'apprentissage et de l'inférence. Comme le modèle total compte environ 300 lignes de code, les utilisateurs peuvent suivre chaque étape – de l'intégration de la recherche, des codages positionnels, de l'attention multi-têtes, des couches de feed-forward, jusqu'aux têtes de sortie – et ainsi démystifier le fonctionnement des modèles de type GPT. Il offre un environnement pratique pour l'expérimentation, permettant aux apprenants d'ajuster l'architecture, le jeu de données ou la boucle d'apprentissage sans être submergés par l'abstraction du framework.
Fonctionnement
- Implémentation compacte de PyTorch d'un transformateur de style GPT (~300 LOC)
- Routines de formation et d'inférence incluses pour que vous puissiez créer et échantillonner à partir d'un modèle
- Architecture claire : intégration, codage positionnel, attention multi-têtes, couches de feed-forward
- Facile à modifier, étendre ou refactoriser pour l'expérimentation
- Code transparent destiné à un usage éducatif plutôt qu'à une échelle de production
- Prend en charge les ensembles de données de jouets et les tâches de preuve de concept pour comprendre la modélisation de séquence
Langage de programmation
Python
Catégories
Cette application peut également être téléchargée depuis https://sourceforge.net/projects/mingpt.mirror/. Elle est hébergée sur OnWorks afin de pouvoir être exécutée en ligne plus facilement depuis l'un de nos systèmes d'exploitation gratuits.
