To aplikacja dla systemu Windows o nazwie Tencent-Hunyuan-Large, której najnowszą wersję można pobrać jako Tencent-Hunyuan-Largesourcecode.tar.gz. Można ją uruchomić online w darmowym hostingu OnWorks dla stacji roboczych.
Pobierz i uruchom bezpłatnie aplikację Tencent-Hunyuan-Large z OnWorks.
Postępuj zgodnie z tymi instrukcjami, aby uruchomić tę aplikację:
- 1. Pobrałem tę aplikację na swój komputer.
- 2. Wpisz w naszym menedżerze plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 3. Prześlij tę aplikację w takim menedżerze plików.
- 4. Uruchom dowolny emulator online systemu operacyjnego OnWorks z tej witryny, ale lepszy emulator online systemu Windows.
- 5. W systemie operacyjnym OnWorks Windows, który właśnie uruchomiłeś, przejdź do naszego menedżera plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 6. Pobierz aplikację i zainstaluj ją.
- 7. Pobierz Wine z repozytoriów oprogramowania dystrybucji Linuksa. Po zainstalowaniu możesz dwukrotnie kliknąć aplikację, aby uruchomić ją za pomocą Wine. Możesz także wypróbować PlayOnLinux, fantazyjny interfejs w Wine, który pomoże Ci zainstalować popularne programy i gry Windows.
Wine to sposób na uruchamianie oprogramowania Windows w systemie Linux, ale bez systemu Windows. Wine to warstwa kompatybilności z systemem Windows typu open source, która może uruchamiać programy systemu Windows bezpośrednio na dowolnym pulpicie systemu Linux. Zasadniczo Wine próbuje ponownie zaimplementować system Windows od podstaw, aby mógł uruchamiać wszystkie te aplikacje Windows bez faktycznego korzystania z systemu Windows.
ZDJĘCIA EKRANU:
Tencent-Hunyuan-duży
OPIS:
Tencent-Hunyuan-Large to flagowa rodzina dużych modeli językowych typu open source firmy Tencent Hunyuan, oferująca zarówno wstępnie wytrenowane, jak i precyzyjnie dostrojone warianty. Została zaprojektowana z myślą o obsłudze długiego kontekstu, obsłudze kwantyzacji oraz wysokiej wydajności w testach porównawczych obejmujących rozumowanie ogólne, matematykę, rozumienie języka oraz zadania związane z językiem chińskim/wielojęzycznym. Jej celem jest zapewnienie konkurencyjności przy jednoczesnym efektywnym wdrażaniu i wnioskowaniu. Obsługa kwantyzacji FP8 pozwala zmniejszyć zużycie pamięci (~50%) przy jednoczesnym zachowaniu precyzji. Wysoka wydajność w testach porównawczych w zadaniach takich jak MMLU, MATH, CMMLU, C-Eval itp.
Funkcjonalności
- Obsługa długiego okna kontekstowego: do 256 tys. tokenów w fazie wstępnego szkolenia; 128 tys. tokenów w przypadku modeli instrukcji
- Obsługa kwantyzacji FP8 pozwala na redukcję użycia pamięci (~50%) przy jednoczesnym zachowaniu precyzji
- Skalowanie szybkości uczenia się specyficzne dla ekspertów podczas szkolenia (dla architektur mieszanych lub eksperckich)
- Wysoka wydajność testów porównawczych w zadaniach takich jak MMLU, MATH, CMMLU, C-Eval itp.
- Zgodność formatu Hugging Face w celu precyzyjnego dostrajania/wnioskowania przy użyciu struktur takich jak hf-deepspeed, a także obsługa uwagi błyskowej i wydajnych operatorów (TRT-LLM)
- Poprawa przepustowości i efektywności: zaplecze TRT-LLM przewyższa vLLM o ~30%, uwzględniono optymalizacje kwantyzowane/wnioskowania
Język programowania
Python
Kategorie
Tę aplikację można również pobrać ze strony https://sourceforge.net/projects/tencent-hunyuan-large.mirror/. Została ona umieszczona w OnWorks, aby można ją było uruchomić online w najłatwiejszy sposób z jednego z naszych darmowych systemów operacyjnych.