This is the Linux app named Lemonade whose latest release can be downloaded as v8.1.12sourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
Lemonade with OnWorks という名前のこのアプリをオンラインで無料でダウンロードして実行します。
このアプリを実行するには、次の手順に従ってください。
-1。このアプリケーションをPCにダウンロードしました。
--2。ファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXに必要なユーザー名を入力します。
-3。このアプリケーションをそのようなファイルマネージャにアップロードします。
-4。このWebサイトからOnWorksLinuxオンラインまたはWindowsオンラインエミュレーターまたはMACOSオンラインエミュレーターを起動します。
-5。起動したばかりのOnWorksLinux OSから、必要なユーザー名でファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXにアクセスします。
-6。アプリケーションをダウンロードし、インストールして実行します。
スクリーンショット：
レモネード
説明：
Lemonadeは、NPUとGPUの両方に最先端の推論エンジンを自動構成することで、ユーザー自身のハードウェアで可能な限り最高のパフォーマンスを提供することを目指すローカルLLMランタイムです。このプロジェクトは、ラップトップやワークステーションで実行できる「ローカルLLMサーバー」として位置付けられており、バックエンドの違いを抽象化しながら、モデルを提供および管理するための単一の場所を提供します。READMEでは、スタートアップ、研究グループ、大企業における実際の導入を強調しており、おもちゃのデモではなく実用的な展開に重点を置いていることを示しています。リポジトリは、ダウンロード、ドキュメント、サポート用のDiscordによる容易なオンボーディングを強調しており、活発なユーザーコミュニティを示唆しています。メッセージングは、ユーザーがカーネルやフラグを手動で調整することなく、最新のアクセラレータから最大のスループット/レイテンシを引き出すことに重点を置いています。リリースでは「サーバー」の枠組みがさらに強化され、開発者をアプリやツールに統合できるサービスへと導きます。
オプション
- GPU および NPU アクセラレーションをターゲットとしたローカル LLM サーバー
- 高性能推論バックエンドの自動構成
- ガイド付きドキュメントによるシンプルなインストールと実行フロー
- Discordによるコミュニティサポートとアクティブな問題追跡
- 研究、スタートアップ、エンタープライズのユースケース全体で機能します
- ローカルAIアプリのドロップイン基盤として設計
プログラミング言語
Python
カテゴリー
このアプリケーションは、https://sourceforge.net/projects/lemonade.mirror/ からも入手できます。OnWorks でホストされているため、無料のオペレーティングシステムから最も簡単にオンラインで実行できます。