Il s'agit de l'application Windows SGLang, dont la dernière version est téléchargeable sous le nom Releasev0.5.2sourcecode.tar.gz. Elle peut être exécutée en ligne sur l'hébergeur gratuit OnWorks pour postes de travail.
Téléchargez et exécutez en ligne cette application nommée SGLang avec OnWorks gratuitement.
Suivez ces instructions pour exécuter cette application :
- 1. Téléchargé cette application sur votre PC.
- 2. Entrez dans notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous voulez.
- 3. Téléchargez cette application dans ce gestionnaire de fichiers.
- 4. Démarrez n'importe quel émulateur en ligne OS OnWorks à partir de ce site Web, mais un meilleur émulateur en ligne Windows.
- 5. Depuis le système d'exploitation OnWorks Windows que vous venez de démarrer, accédez à notre gestionnaire de fichiers https://www.onworks.net/myfiles.php?username=XXXXX avec le nom d'utilisateur que vous souhaitez.
- 6. Téléchargez l'application et installez-la.
- 7. Téléchargez Wine depuis les dépôts de logiciels de vos distributions Linux. Une fois installé, vous pouvez ensuite double-cliquer sur l'application pour les exécuter avec Wine. Vous pouvez également essayer PlayOnLinux, une interface sophistiquée sur Wine qui vous aidera à installer des programmes et des jeux Windows populaires.
Wine est un moyen d'exécuter un logiciel Windows sur Linux, mais sans Windows requis. Wine est une couche de compatibilité Windows open source qui peut exécuter des programmes Windows directement sur n'importe quel bureau Linux. Essentiellement, Wine essaie de ré-implémenter suffisamment de Windows à partir de zéro pour qu'il puisse exécuter toutes ces applications Windows sans avoir réellement besoin de Windows.
CAPTURES D'ÉCRAN
Ad
SG Lang
DESCRIPTION
SGLang est un framework rapide pour les modèles de langage volumineux et les modèles de langage de vision. Il accélère et simplifie l'interaction avec les modèles en concevant conjointement l'environnement d'exécution back-end et le langage front-end.
Caractéristiques
- Fournit un service efficace avec RadixAttention pour la mise en cache des préfixes, le décodage contraint par saut vers l'avant, le planificateur de processeur sans surcharge, le traitement par lots continu, l'attention des jetons (attention paginée), le parallélisme des tenseurs, les noyaux FlashInfer, le préremplissage par blocs et la quantification (FP8/INT4/AWQ/GPTQ)
- Offre une interface intuitive pour la programmation d'applications LLM, y compris les appels de génération en chaîne, les invites avancées, le flux de contrôle, les entrées multimodales, le parallélisme et les interactions externes
- Prend en charge une large gamme de modèles génératifs (Llama, Gemma, Mistral, QWen, DeepSeek, LLaVA, etc.), de modèles d'intégration (e5-mistral, gte) et de modèles de récompense (Skywork), avec une extensibilité facile pour l'intégration de nouveaux modèles
- SGLang est open source et soutenu par une communauté active et adopté par l'industrie
- Documents disponibles
Langage de programmation
Python
Catégories
Cette application peut également être téléchargée depuis https://sourceforge.net/projects/sglang.mirror/. Elle est hébergée sur OnWorks afin de pouvoir être exécutée en ligne plus facilement depuis l'un de nos systèmes d'exploitation gratuits.
