Dit is de Windows-app FairScale, waarvan de nieuwste versie kan worden gedownload als v0.4.13sourcecode.tar.gz. Deze kan online worden uitgevoerd via de gratis hostingprovider OnWorks voor werkstations.
Download en gebruik online gratis deze app genaamd FairScale met OnWorks.
Volg deze instructies om deze app uit te voeren:
- 1. Download deze applicatie op uw pc.
- 2. Voer in onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX in met de gebruikersnaam die u wilt.
- 3. Upload deze applicatie in zo'n bestandsbeheerder.
- 4. Start een OS OnWorks online emulator vanaf deze website, maar een betere Windows online emulator.
- 5. Ga vanuit het OnWorks Windows-besturingssysteem dat u zojuist hebt gestart naar onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX met de gewenste gebruikersnaam.
- 6. Download de applicatie en installeer deze.
- 7. Download Wine van de softwarebronnen voor Linux-distributies. Eenmaal geïnstalleerd, kunt u vervolgens dubbelklikken op de app om ze met Wine uit te voeren. Je kunt ook PlayOnLinux proberen, een mooie interface via Wine waarmee je populaire Windows-programma's en -games kunt installeren.
Wine is een manier om Windows-software op Linux uit te voeren, maar zonder dat Windows vereist is. Wine is een open-source Windows-compatibiliteitslaag die Windows-programma's rechtstreeks op elke Linux-desktop kan uitvoeren. In wezen probeert Wine genoeg van Windows opnieuw te implementeren, zodat het al die Windows-applicaties kan draaien zonder Windows echt nodig te hebben.
SCREENSHOTS
Ad
FairScale
PRODUCTBESCHRIJVING
FairScale is een verzameling PyTorch-primitieven voor prestatie en schaalbaarheid die baanbrekend waren voor veel van de ideeën die nu worden gebruikt voor het trainen van grote modellen. Het introduceerde FSDP-achtige (Fully Sharded Data Parallel)-technieken die modelparameters, gradiënten en optimizerstatussen over verschillende ranks verdelen om grotere modellen in hetzelfde geheugenbudget te laten passen. De bibliotheek biedt ook pipeline-parallellisme, activeringscontrolepunten, gemengde precisie, optimizer state sharding (OSS) en auto-wrapping-beleid dat boilerplate in complexe gedistribueerde opstellingen vermindert. De componenten zijn modulair, zodat teams alleen de sharding-optimizer of de pipeline-engine kunnen gebruiken zonder hun trainingslus te herschrijven. FairScale legt de nadruk op correctheid en debuggability en biedt hook points, logging en referentievoorbeelden voor veelgebruikte trainerpatronen. Hoewel veel ideeën sindsdien in de kern van PyTorch zijn opgenomen, blijft FairScale een waardevolle referentie en een praktische toolbox om meer prestaties uit multi-GPU- en multi-node-jobs te halen.
Kenmerken
- Volledig gefragmenteerde gegevens Parallelle stijlparameter, grad en optimizer-sharding
- Hulpprogramma's voor pijplijnparallelisme met schemacontrole
- Activeringscontrole om rekenkracht in te ruilen voor geheugen
- Optimizer State Sharding (OSS) drop-in-optimizers
- Gemengde precisie en automatisch inpakken van beleid voor eenvoudige implementatie
- Voorbeelden en haken voor productie-grade gedistribueerde training
Programmeertaal
Python
Categorieën
Deze applicatie kan ook worden gedownload van https://sourceforge.net/projects/fairscale.mirror/. Deze is gehost in OnWorks, zodat deze eenvoudig online kan worden uitgevoerd via een van onze gratis besturingssystemen.
