これはSGLangというWindowsアプリで、最新リリースはReleasev0.5.2sourcecode.tar.gzとしてダウンロードできます。ワークステーション向けの無料ホスティングプロバイダーであるOnWorksでオンラインで実行できます。
SGLang というアプリを OnWorks で無料でダウンロードしてオンラインで実行します。
このアプリを実行するには、次の手順に従ってください。
-1。このアプリケーションをPCにダウンロードしました。
--2。ファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXに必要なユーザー名を入力します。
-3。このアプリケーションをそのようなファイルマネージャにアップロードします。
-4。このWebサイトからOSOnWorksオンラインエミュレーターを起動しますが、Windowsオンラインエミュレーターの方が優れています。
-5。起動したばかりのOnWorksWindows OSから、必要なユーザー名でファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXにアクセスします。
-6。アプリケーションをダウンロードしてインストールします。
-7.LinuxディストリビューションソフトウェアリポジトリからWineをダウンロードします。 インストールしたら、アプリをダブルクリックして、Wineで実行できます。 また、人気のあるWindowsプログラムやゲームのインストールに役立つWine上の豪華なインターフェイスであるPlayOnLinuxを試すこともできます。
WineはLinux上でWindowsソフトウェアを実行する方法ですが、Windowsは必要ありません。 Wineは、任意のLinuxデスクトップでWindowsプログラムを直接実行できるオープンソースのWindows互換性レイヤーです。 基本的に、Wineは、実際にWindowsを必要とせずに、これらすべてのWindowsアプリケーションを実行できるように、十分な数のWindowsを最初から再実装しようとしています。
スクリーンショット:
SGLang
説明:
SGLangは、大規模言語モデルおよびビジョン言語モデル向けの高速サービスフレームワークです。バックエンドランタイムとフロントエンド言語を共同設計することで、モデルとのインタラクションを高速化し、制御性を高めます。
オプション
- プレフィックス キャッシュ、ジャンプ フォワード制約デコード、オーバーヘッドのない CPU スケジューラ、連続バッチ処理、トークン アテンション (ページ アテンション)、テンソル並列処理、FlashInfer カーネル、チャンク プリフィル、量子化 (FP8/INT4/AWQ/GPTQ) のための RadixAttention による効率的なサービスを提供します。
- 連鎖生成呼び出し、高度なプロンプト、制御フロー、マルチモーダル入力、並列処理、外部インタラクションなど、LLM アプリケーションをプログラミングするための直感的なインターフェイスを提供します。
- 幅広い生成モデル(Llama、Gemma、Mistral、QWen、DeepSeek、LLaVAなど)、埋め込みモデル(e5-mistral、gte)、報酬モデル(Skywork)をサポートし、新しいモデルを統合するための拡張性も容易に備えています。
- SGLangはオープンソースであり、業界で採用されている活発なコミュニティによって支えられています。
- ドキュメントが利用可能
プログラミング言語
Python
カテゴリー
このアプリケーションは、https://sourceforge.net/projects/sglang.mirror/ からも入手できます。OnWorks でホストされているため、無料のオペレーティングシステムから最も簡単にオンラインで実行できます。