Il s'agit de l'application Linux DeiT (Data-efficient Image Transformers), dont la dernière version est téléchargeable sous le nom deitsourcecode.tar.gz. Elle peut être exécutée en ligne sur l'hébergeur gratuit OnWorks pour postes de travail.
Téléchargez et exécutez en ligne cette application nommée DeiT (Data-efficient Image Transformers) avec OnWorks gratuitement.
Suivez ces instructions pour exécuter cette application :
- 1. Téléchargé cette application sur votre PC.
- 2. Entrez dans notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous voulez.
- 3. Téléchargez cette application dans ce gestionnaire de fichiers.
- 4. Démarrez l'émulateur en ligne OnWorks Linux ou Windows en ligne ou l'émulateur en ligne MACOS à partir de ce site Web.
- 5. Depuis le système d'exploitation OnWorks Linux que vous venez de démarrer, accédez à notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous souhaitez.
- 6. Téléchargez l'application, installez-la et exécutez-la.
CAPTURES D'ÉCRAN
Ad
DeiT (Transformateurs d'images à haut rendement de données)
DESCRIPTION
DeiT (Data-efficient Image Transformers) démontre que les Vision Transformers peuvent être entraînés de manière compétitive sur ImageNet-1k sans données externes, grâce à des recettes d'entraînement performantes et à la distillation des connaissances. Son principe clé repose sur une stratégie de distillation spécialisée, incluant un « jeton de distillation » apprenable, qui permet à un transformateur d'apprendre efficacement à partir d'un CNN ou d'un enseignant transformateur sur des jeux de données de taille modeste. Le projet fournit des variantes compactes de ViT (Tiny/Small/Base) offrant d'excellents compromis précision/débit, rendant les transformateurs pratiques au-delà des programmes de pré-entraînement intensifs. L'entraînement implique des augmentations, des régularisations et des programmes d'optimisation soigneusement ajustés pour stabiliser l'apprentissage et améliorer l'efficacité des échantillons. Le référentiel propose des points de contrôle pré-entraînés, des scripts de référence et des études d'ablation qui précisent les ingrédients les plus importants pour un entraînement ViT efficace en données.
Fonctionnement
- Formation ViT efficace en données qui fonctionne sur ImageNet-1k à partir de zéro
- Distillation des connaissances avec un jeton de distillation dédié
- Modèle de zoo compact (petit/petit/de base) avec un excellent équilibre précision-vitesse
- Recettes d'entraînement claires avec des augmentations et des programmes de régularisation
- Points de contrôle pré-entraînés et scripts de référence reproductibles
- Ablations et lignes directrices pour adapter DeiT à de nouveaux ensembles de données et tâches
Langage de programmation
Python
Catégories
Cette application peut également être téléchargée depuis https://sourceforge.net/projects/deit-data-img-trans.mirror/. Elle est hébergée sur OnWorks afin de pouvoir être exécutée en ligne plus facilement depuis l'un de nos systèmes d'exploitation gratuits.
