Dit is de Windows-app Tencent-Hunyuan-Large, waarvan de nieuwste versie kan worden gedownload als Tencent-Hunyuan-Largesourcecode.tar.gz. Deze kan online worden uitgevoerd via de gratis hostingprovider OnWorks voor werkstations.
Download en gebruik online gratis deze app met de naam Tencent-Hunyuan-Large met OnWorks.
Volg deze instructies om deze app uit te voeren:
- 1. Download deze applicatie op uw pc.
- 2. Voer in onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX in met de gebruikersnaam die u wilt.
- 3. Upload deze applicatie in zo'n bestandsbeheerder.
- 4. Start een OS OnWorks online emulator vanaf deze website, maar een betere Windows online emulator.
- 5. Ga vanuit het OnWorks Windows-besturingssysteem dat u zojuist hebt gestart naar onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX met de gewenste gebruikersnaam.
- 6. Download de applicatie en installeer deze.
- 7. Download Wine van de softwarebronnen voor Linux-distributies. Eenmaal geïnstalleerd, kunt u vervolgens dubbelklikken op de app om ze met Wine uit te voeren. Je kunt ook PlayOnLinux proberen, een mooie interface via Wine waarmee je populaire Windows-programma's en -games kunt installeren.
Wine is een manier om Windows-software op Linux uit te voeren, maar zonder dat Windows vereist is. Wine is een open-source Windows-compatibiliteitslaag die Windows-programma's rechtstreeks op elke Linux-desktop kan uitvoeren. In wezen probeert Wine genoeg van Windows opnieuw te implementeren, zodat het al die Windows-applicaties kan draaien zonder Windows echt nodig te hebben.
SCHERMSCHERMEN:
Tencent-Hunyuan-groot
BESCHRIJVING:
Tencent-Hunyuan-Large is de toonaangevende open-sourcefamilie van grote taalmodellen van Tencent Hunyuan, met zowel vooraf getrainde als verfijnde varianten. Het is ontworpen met mogelijkheden voor lange contexten, ondersteuning voor kwantificering en hoge prestaties bij benchmarks voor algemeen redeneren, wiskunde, taalbegrip en Chinese/meertalige taken. Het streeft naar concurrerende mogelijkheden met efficiënte implementatie en inferentie. FP8-kwantificering ondersteunt het geheugengebruik (~50%) met behoud van precisie. Hoge benchmarkprestaties bij taken zoals MMLU, MATH, CMMLU, C-Eval, enz.
Kenmerken
- Ondersteuning voor lange contextvensters: tot 256K tokens in pretrain; 128K tokens voor instructiemodellen
- FP8-kwantiseringsondersteuning om het geheugengebruik te verminderen (~50%) terwijl de precisie behouden blijft
- Expert-specifieke schaalbaarheid van het leertempo in de training (voor gemengde of expertarchitecturen)
- Hoge benchmarkprestaties bij taken zoals MMLU, MATH, CMMLU, C-Eval, enz.
- Compatibiliteit met het Hugging Face-formaat voor fijnafstemming/inferentie met behulp van frameworks zoals hf-deepspeed, plus ondersteuning voor flash-aandacht en efficiënte operatoren (TRT-LLM)
- Verbeteringen in doorvoer en efficiëntie: TRT-LLM-backend overtreft vLLM met ~30%, inclusief gekwantificeerde/inferentie-optimalisaties
Programmeertaal
Python
Categorieën
Deze applicatie kan ook worden gedownload van https://sourceforge.net/projects/tencent-hunyuan-large.mirror/. Deze is gehost in OnWorks, zodat deze eenvoudig online kan worden uitgevoerd via een van onze gratis besturingssystemen.