Il s'agit de l'application Linux nommée DeepSpeed dont la dernière version peut être téléchargée sous le nom v0.11.1_Patchrelease.zip. Il peut être exécuté en ligne chez le fournisseur d'hébergement gratuit OnWorks pour les postes de travail.
Téléchargez et exécutez en ligne gratuitement cette application nommée DeepSpeed avec OnWorks.
Suivez ces instructions pour exécuter cette application :
- 1. Téléchargé cette application sur votre PC.
- 2. Entrez dans notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous voulez.
- 3. Téléchargez cette application dans ce gestionnaire de fichiers.
- 4. Démarrez l'émulateur en ligne OnWorks Linux ou Windows en ligne ou l'émulateur en ligne MACOS à partir de ce site Web.
- 5. Depuis le système d'exploitation OnWorks Linux que vous venez de démarrer, accédez à notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous souhaitez.
- 6. Téléchargez l'application, installez-la et exécutez-la.
CAPTURES D'ÉCRAN
Ad
Vitesse profonde
DESCRIPTION
DeepSpeed est une suite logicielle d'optimisation d'apprentissage en profondeur facile à utiliser qui permet une échelle et une vitesse sans précédent pour la formation et l'inférence d'apprentissage en profondeur. Avec DeepSpeed, vous pouvez :
1. Entraîner/inférer des modèles denses ou clairsemés avec des milliards ou des billions de paramètres
2. Obtenez un excellent débit système et évoluez efficacement vers des milliers de GPU
3. Entraînement/Inférence sur les systèmes GPU à ressources limitées
4. Atteindre une faible latence sans précédent et un débit élevé pour l'inférence
5. Obtenez une compression extrême pour une latence d'inférence inégalée et une réduction de la taille du modèle à faible coût
DeepSpeed offre une confluence d'innovations système, qui ont rendu la formation DL à grande échelle efficace et efficiente, grandement amélioré la facilité d'utilisation et redéfini le paysage de la formation DL en termes d'échelle possible. Ces innovations telles que ZeRO, 3D-Parallelism, DeepSpeed-MoE, ZeRO-Infinity, etc. relèvent du pilier formation.
Fonctionnalités:
- DeepSpeed rassemble des innovations dans la technologie de parallélisme telles que le tenseur, le pipeline, l'expert et le parallélisme ZeRO, et les combine avec des noyaux d'inférence personnalisés hautes performances, des optimisations de communication et des technologies de mémoire hétérogènes pour permettre l'inférence à une échelle sans précédent, tout en obtenant une latence, un débit et réduction des coûts. Cette composition systématique de technologies système pour l'inférence relève du pilier de l'inférence
- Pour augmenter encore l'efficacité de l'inférence, DeepSpeed propose des techniques de compression faciles à utiliser et flexibles à composer permettant aux chercheurs et aux praticiens de compresser leurs modèles tout en offrant une vitesse plus rapide, une taille de modèle plus petite et un coût de compression considérablement réduit. De plus, les innovations SoTA sur la compression telles que ZeroQuant et XTC sont incluses dans le pilier de la compression.
- La bibliothèque DeepSpeed (ce référentiel) implémente et regroupe les innovations et les technologies des piliers de formation, d'inférence et de compression DeepSpeed dans un seul référentiel open source facile à utiliser. Il permet de composer facilement une multitude de fonctionnalités au sein d'un seul pipeline d'apprentissage, d'inférence ou de compression. La bibliothèque DeepSpeed est largement adoptée par la communauté DL et a été utilisée pour activer certains des modèles les plus puissants
Langage de programmation
Python
Catégories
Il s'agit d'une application qui peut également être récupérée sur https://sourceforge.net/projects/deepspeed.mirror/. Il a été hébergé dans OnWorks afin d'être exécuté en ligne de la manière la plus simple à partir de l'un de nos systèmes d'exploitation gratuits.
