This is the Linux app named fairseq2 whose latest release can be downloaded as v0.5.2sourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
Pobierz i uruchom bezpłatnie aplikację fairseq2 z OnWorks.
Postępuj zgodnie z tymi instrukcjami, aby uruchomić tę aplikację:
- 1. Pobrałem tę aplikację na swój komputer.
- 2. Wpisz w naszym menedżerze plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 3. Prześlij tę aplikację w takim menedżerze plików.
- 4. Uruchom emulator online OnWorks Linux lub Windows online lub emulator online MACOS z tej witryny.
- 5. W systemie operacyjnym OnWorks Linux, który właśnie uruchomiłeś, przejdź do naszego menedżera plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 6. Pobierz aplikację, zainstaluj ją i uruchom.
ZRZUTY EKRANU
Ad
fairseq2
OPIS
Fairseq2 to nowoczesny, modułowy framework do modelowania sekwencji opracowany przez Meta AI Research jako gruntowna przebudowa oryginalnej biblioteki fairseq. Zbudowany od podstaw z myślą o skalowalności, kompozycyjności i elastyczności badawczej, fairseq2 obsługuje szeroki zakres zadań generowania języka, mowy i treści multimodalnych, w tym dostrajanie instrukcji, uczenie się przez wzmacnianie na podstawie informacji zwrotnej od człowieka (RLHF) oraz modelowanie wielojęzyczne na dużą skalę. W przeciwieństwie do oryginalnego fairseq – który ewoluował w obszerną, monolityczną bazę kodu – fairseq2 wprowadza czystą, zorientowaną na wtyczki architekturę, zaprojektowaną z myślą o długoterminowej konserwacji i szybkim eksperymentowaniu. Obsługuje rozproszone szkolenie wieloprocesorowe i wielowęzłowe z wykorzystaniem DDP, FSDP i paralelizmu tensorowego, umożliwiając skalowanie modeli o ponad 70 miliardach parametrów. Framework płynnie integruje się z funkcjami PyTorch 2.x, takimi jak torch.compile, w pełni sharded data parallel (FSDP) i nowoczesne zarządzanie konfiguracją.
Funkcjonalności
- Układ konfiguracyjny kompozycyjny i deterministyczny
- Wysokoprzepustowy strumień danych C++ do przesyłania tekstu i mowy
- Przepisy na dostrajanie instrukcji, optymalizację preferencji i RLHF
- Natywna integracja vLLM w celu zoptymalizowanego generowania i wnioskowania
- Obsługuje modele parametrów 70B+ z DDP, FSDP i paralelizmem tensorowym
- Modułowy, nowej generacji fairseq z czystą, rozszerzalną architekturą
Język programowania
C, C++, Python, powłoka Unix
Kategorie
Tę aplikację można również pobrać ze strony https://sourceforge.net/projects/fairseq2.mirror/. Została ona umieszczona w OnWorks, aby można ją było uruchomić online w najłatwiejszy sposób z jednego z naszych darmowych systemów operacyjnych.