Это приложение для Windows под названием Tencent-Hunyuan-Large, последнюю версию которого можно загрузить как Tencent-Hunyuan-Largesourcecode.tar.gz. Его можно запустить онлайн на бесплатном хостинг-провайдере OnWorks для рабочих станций.
Бесплатно скачайте и запустите онлайн это приложение под названием Tencent-Hunyuan-Large с OnWorks.
Следуйте этим инструкциям, чтобы запустить это приложение:
- 1. Загрузил это приложение на свой компьютер.
- 2. Введите в нашем файловом менеджере https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 3. Загрузите это приложение в такой файловый менеджер.
- 4. Запустите любой онлайн-эмулятор OS OnWorks с этого сайта, но лучше онлайн-эмулятор Windows.
- 5. В только что запущенной ОС Windows OnWorks перейдите в наш файловый менеджер https://www.onworks.net/myfiles.php?username=XXXXX с желаемым именем пользователя.
- 6. Скачайте приложение и установите его.
- 7. Загрузите Wine из репозиториев программного обеспечения вашего дистрибутива Linux. После установки вы можете дважды щелкнуть приложение, чтобы запустить его с помощью Wine. Вы также можете попробовать PlayOnLinux, необычный интерфейс поверх Wine, который поможет вам установить популярные программы и игры для Windows.
Wine - это способ запустить программное обеспечение Windows в Linux, но без Windows. Wine - это уровень совместимости с Windows с открытым исходным кодом, который может запускать программы Windows непосредственно на любом рабочем столе Linux. По сути, Wine пытается заново реализовать Windows с нуля, чтобы можно было запускать все эти Windows-приложения, фактически не нуждаясь в Windows.
СКРИНШОТЫ:
Tencent-Hunyuan-Large
ОПИСАНИЕ:
Tencent-Hunyuan-Large — флагманское семейство больших языковых моделей с открытым исходным кодом от Tencent Hunyuan, предлагающее как предобученные, так и доработанные варианты. Оно разработано с возможностями работы с длинным контекстом, поддержкой квантования и высокой производительностью в тестах на общие логические рассуждения, математику, понимание языка и задачи на китайском/многоязычном языке. Оно нацелено на обеспечение конкурентоспособности благодаря эффективному развертыванию и выводу. Поддержка квантования FP8 позволяет сократить использование памяти (примерно на 50%) при сохранении точности. Высокая производительность в тестах на таких задачах, как MMLU, MATH, CMMLU, C-Eval и т. д.
Особенности
- Поддержка длинных контекстных окон: до 256 тыс. токенов в режиме предварительной подготовки; 128 тыс. токенов для моделей обучения
- Поддержка квантования FP8 для уменьшения использования памяти (~50%) при сохранении точности
- Масштабирование скорости обучения, специфичное для эксперта, в процессе обучения (для смешанных или экспертных архитектур)
- Высокая производительность при выполнении таких задач, как MMLU, MATH, CMMLU, C-Eval и т. д.
- Совместимость формата Hugging Face для тонкой настройки/вывода с использованием таких фреймворков, как hf-deepspeed, а также поддержка мгновенного внимания, эффективных операторов (TRT-LLM)
- Повышение производительности и эффективности: бэкэнд TRT-LLM превосходит vLLM примерно на 30 %, включая оптимизацию квантования и вывода
Язык программирования
Питон
Категории
Это приложение также можно скачать по адресу https://sourceforge.net/projects/tencent-hunyuan-large.mirror/. Оно размещено на OnWorks для максимально удобного запуска онлайн через одну из наших бесплатных операционных систем.