Це програма для Windows під назвою Tencent-Hunyuan-Large, останню версію якої можна завантажити як Tencent-Hunyuan-Largesourcecode.tar.gz. Її можна запускати онлайн на безкоштовному хостинг-провайдері OnWorks для робочих станцій.
Завантажте та запустіть онлайн цю програму під назвою Tencent-Hunyuan-Large за допомогою OnWorks безкоштовно.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть будь-який онлайн емулятор ОС OnWorks з цього веб-сайту, але кращий онлайн-емулятор Windows.
- 5. З ОС OnWorks Windows, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму та встановіть її.
- 7. Завантажте Wine зі сховищ програмного забезпечення дистрибутивів Linux. Після встановлення ви можете двічі клацнути програму, щоб запустити їх за допомогою Wine. Ви також можете спробувати PlayOnLinux, модний інтерфейс замість Wine, який допоможе вам встановити популярні програми та ігри Windows.
Wine — це спосіб запуску програмного забезпечення Windows на Linux, але без використання Windows. Wine — це рівень сумісності Windows з відкритим вихідним кодом, який може запускати програми Windows безпосередньо на будь-якому робочому столі Linux. По суті, Wine намагається повторно реалізувати достатньо Windows з нуля, щоб він міг запускати всі ці програми Windows, насправді не потребуючи Windows.
СКРЕНИ:
Tencent-Hunyuan-Large
ОПИС:
Tencent-Hunyuan-Large — це флагманське сімейство моделей великих мов програмування з відкритим кодом від Tencent Hunyuan, яке пропонує як попередньо навчені, так і налаштовані (з інструкціями). Воно розроблене з можливостями роботи з довгим контекстом, підтримкою квантування та високою продуктивністю в тестах на загальні міркування, математику, розуміння мови та китайську/багатомовні завдання. Його метою є забезпечення конкурентоспроможних можливостей з ефективним розгортанням та логічним висновком. Підтримка квантування FP8 для зменшення використання пам'яті (~50%) при збереженні точності. Висока продуктивність в тестах на такі завдання, як MMLU, MATH, CMMLU, C-Eval тощо.
Функції
- Підтримка довгого контекстного вікна: до 256 тис. токенів у попередньому навчанні; 128 тис. токенів для моделей інструкцій
- Підтримка квантування FP8 для зменшення використання пам'яті (~50%) при збереженні точності
- Експертно-специфічне масштабування швидкості навчання під час навчання (для змішаних або експертних архітектур)
- Висока продуктивність бенчмаркінгу для таких завдань, як MMLU, MATH, CMMLU, C-Eval тощо.
- Сумісність формату Hugging Face для точного налаштування / логічного висновку з використанням фреймворків, таких як hf-deepspeed, а також підтримка швидкої уваги та ефективних операторів (TRT-LLM)
- Покращення пропускної здатності та ефективності: серверна частина TRT-LLM перевершує vLLM приблизно на 30%, включаючи квантовані/вихідні оптимізації.
Мова програмування
Python
Категорії
Цю програму також можна завантажити з https://sourceforge.net/projects/tencent-hunyuan-large.mirror/. Вона розміщена на OnWorks для найпростішого запуску онлайн з однієї з наших безкоштовних операційних систем.