Questa è l'app per Windows chiamata Transformer Engine, la cui ultima versione può essere scaricata come v2.4sourcecode.tar.gz. Può essere eseguita online sul provider di hosting gratuito OnWorks per workstation.
Scarica ed esegui online gratuitamente questa app chiamata Transformer Engine con OnWorks.
Segui queste istruzioni per eseguire questa app:
- 1. Scaricata questa applicazione sul tuo PC.
- 2. Entra nel nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 3. Carica questa applicazione in tale file manager.
- 4. Avvia qualsiasi emulatore online OS OnWorks da questo sito Web, ma migliore emulatore online Windows.
- 5. Dal sistema operativo OnWorks Windows che hai appena avviato, vai al nostro file manager https://www.onworks.net/myfiles.php?username=XXXXX con il nome utente che desideri.
- 6. Scarica l'applicazione e installala.
- 7. Scarica Wine dai repository software delle tue distribuzioni Linux. Una volta installato, puoi quindi fare doppio clic sull'app per eseguirli con Wine. Puoi anche provare PlayOnLinux, un'interfaccia fantasiosa su Wine che ti aiuterà a installare programmi e giochi Windows popolari.
Wine è un modo per eseguire il software Windows su Linux, ma senza Windows richiesto. Wine è un livello di compatibilità Windows open source in grado di eseguire programmi Windows direttamente su qualsiasi desktop Linux. Essenzialmente, Wine sta cercando di re-implementare abbastanza Windows da zero in modo che possa eseguire tutte quelle applicazioni Windows senza effettivamente bisogno di Windows.
IMMAGINI:
Motore del trasformatore
DESCRIZIONE:
Transformer Engine (TE) è una libreria per accelerare i modelli Transformer su GPU NVIDIA, incluso l'utilizzo della precisione a virgola mobile a 8 bit (FP8) su GPU Hopper, per offrire prestazioni migliori con un minore utilizzo di memoria sia nell'addestramento che nell'inferenza. TE fornisce una raccolta di blocchi costitutivi altamente ottimizzati per le architetture Transformer più diffuse e un'API automatica di tipo mixed precision che può essere utilizzata senza problemi con il codice specifico del framework. TE include anche un'API C++ indipendente dal framework che può essere integrata con altre librerie di deep learning per abilitare il supporto FP8 per i Transformer. Con il continuo aumento del numero di parametri nei modelli Transformer, l'addestramento e l'inferenza per architetture come BERT, GPT e T5 diventano molto impegnativi in termini di memoria e calcolo. La maggior parte dei framework di deep learning si addestra con FP32 di default. Questo non è tuttavia essenziale per ottenere la massima accuratezza per molti modelli di deep learning.
Caratteristiche
- Moduli facili da usare per la creazione di livelli di trasformazione con supporto FP8
- Ottimizzazioni (ad esempio kernel fusi) per i modelli Transformer
- Supporto per FP8 su GPU NVIDIA Hopper e NVIDIA Ada
- Supporto per ottimizzazioni su tutte le precisioni (FP16, BF16) sulle generazioni di architettura GPU NVIDIA Ampere e successive
- Documentazione disponibile
- Esempi inclusi
Linguaggio di programmazione
Python
Categorie
Questa applicazione può essere scaricata anche da https://sourceforge.net/projects/transformer-engine.mirror/. È ospitata su OnWorks per poter essere eseguita online nel modo più semplice da uno dei nostri sistemi operativi gratuiti.