これはLangDBというLinuxアプリケーションで、最新リリースはRelease0.3.0sourcecode.tar.gzとしてダウンロードできます。ワークステーション向けの無料ホスティングプロバイダーであるOnWorksでオンラインで実行できます。
OnWorks を使用して LangDB というこのアプリを無料でダウンロードし、オンラインで実行します。
このアプリを実行するには、次の手順に従ってください。
-1。このアプリケーションをPCにダウンロードしました。
--2。ファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXに必要なユーザー名を入力します。
-3。このアプリケーションをそのようなファイルマネージャにアップロードします。
-4。このWebサイトからOnWorksLinuxオンラインまたはWindowsオンラインエミュレーターまたはMACOSオンラインエミュレーターを起動します。
-5。起動したばかりのOnWorksLinux OSから、必要なユーザー名でファイルマネージャーhttps://www.onworks.net/myfiles.php?username=XXXXXにアクセスします。
-6。アプリケーションをダウンロードし、インストールして実行します。
スクリーンショットは
Ad
言語DB
DESCRIPTION
AI Gatewayは、大規模なLLMトラフィックの管理と監視に最適化された、高性能なオープンソースAPIゲートウェイです。LangDBチームによって開発されたAI Gatewayは、クライアントとバックエンドLLM間の仲介役として機能し、キャッシュ、レート制限、迅速な管理、可観測性といった高度な機能を提供します。ローカルモデルを使用する場合でも、OpenAIやAnthropicなどの外部APIを使用する場合でも、チームがLLMデプロイメントを安全かつ最適化するのに役立ちます。マルチテナント環境のネイティブサポートと低レイテンシの推論ルーティングを備えたAI Gatewayは、本番環境レベルの生成AIサービスを構築する企業にとって不可欠なツールです。
オプション
- LLM および生成 AI トラフィック向けにカスタマイズされた API ゲートウェイ
- キャッシュと即時重複排除をサポート
- マルチテナント利用のためのレート制限とアクセス制御
- OpenAI、Anthropic、ローカルモデルで動作します
- レイテンシを考慮したルーティングと負荷分散
- 組み込みのメトリクス、ログ、リクエストのトレース
- 設定可能なプロンプトテンプレートとトークンカウント
- Docker化されKubernetes環境にデプロイ可能
プログラミング言語
さび
カテゴリー
このアプリケーションは、https://sourceforge.net/projects/langdb.mirror/ からも取得できます。OnWorks でホストされているため、無料のオペレーティングシステムから最も簡単にオンラインで実行できます。
