To aplikacja dla systemu Linux o nazwie DeiT (Data-efficient Image Transformers), której najnowszą wersję można pobrać jako deitsourcecode.tar.gz. Można ją uruchomić online na bezpłatnym hostingu OnWorks dla stacji roboczych.
Pobierz i uruchom bezpłatnie aplikację DeiT (Data-efficient Image Transformers) z OnWorks.
Postępuj zgodnie z tymi instrukcjami, aby uruchomić tę aplikację:
- 1. Pobrałem tę aplikację na swój komputer.
- 2. Wpisz w naszym menedżerze plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 3. Prześlij tę aplikację w takim menedżerze plików.
- 4. Uruchom emulator online OnWorks Linux lub Windows online lub emulator online MACOS z tej witryny.
- 5. W systemie operacyjnym OnWorks Linux, który właśnie uruchomiłeś, przejdź do naszego menedżera plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 6. Pobierz aplikację, zainstaluj ją i uruchom.
ZDJĘCIA EKRANU:
DeiT (Transformatory obrazu efektywne pod względem danych)
OPIS:
Projekt DeiT (Data-efficient Image Transformers) pokazuje, że Vision Transformers można trenować w sposób konkurencyjny w sieci ImageNet-1k bez użycia danych zewnętrznych, wykorzystując solidne receptury treningowe i destylację wiedzy. Jego główną ideą jest specjalistyczna strategia destylacji – obejmująca uczący się „token destylacji” – która pozwala transformerowi efektywnie uczyć się od CNN lub nauczyciela transformatora na zbiorach danych o niewielkiej skali. Projekt dostarcza kompaktowe warianty ViT (Tiny/Small/Base), które osiągają doskonały kompromis między dokładnością a przepustowością, dzięki czemu transformery są praktyczne poza masowymi procedurami wstępnego trenowania. Trening obejmuje starannie dostrojone rozszerzenia, regularyzację i harmonogramy optymalizacji w celu stabilizacji uczenia i poprawy wydajności próby. Repozytorium oferuje wstępnie wytrenowane punkty kontrolne, skrypty referencyjne i badania ablacji, które wyjaśniają, które składniki są najważniejsze dla efektywnego pod względem danych treningu ViT.
Funkcje
- Szkolenie ViT z efektywnym wykorzystaniem danych, działające od podstaw na ImageNet-1k
- Destylacja wiedzy z dedykowanym tokenem destylacji
- Kompaktowy model zoo (malutki/mały/podstawowy) o dużej precyzji i równowadze prędkości
- Przejrzyste przepisy treningowe z rozbudowanymi i regularnymi harmonogramami
- Wstępnie wyszkolone punkty kontrolne i powtarzalne skrypty referencyjne
- Ablacje i wytyczne dotyczące dostosowania DeiT do nowych zestawów danych i zadań
Język programowania
Python
Kategorie
Tę aplikację można również pobrać ze strony https://sourceforge.net/projects/deit-data-img-trans.mirror/. Została ona umieszczona w OnWorks, aby można ją było uruchomić online w najłatwiejszy sposób z jednego z naszych darmowych systemów operacyjnych.