זוהי אפליקציית לינוקס בשם LangDB, שאת הגרסה האחרונה שלה ניתן להוריד כ- Release0.3.0sourcecode.tar.gz. ניתן להריץ אותה באופן מקוון בספק האירוח החינמי OnWorks לתחנות עבודה.
הורד והפעל אונליין את האפליקציה הזו בשם LangDB עם OnWorks בחינם.
בצע את ההוראות הבאות כדי להפעיל את האפליקציה הזו:
- 1. הורד את היישום הזה למחשב שלך.
- 2. הזן במנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש שאתה רוצה.
- 3. העלה את היישום הזה במנהל קבצים כזה.
- 4. הפעל את האמולטור המקוון של OnWorks Linux או Windows מקוון או אמולטור מקוון של MACOS מאתר זה.
- 5. ממערכת ההפעלה OnWorks Linux שזה עתה התחלת, עבור אל מנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש הרצוי.
- 6. הורד את האפליקציה, התקן אותה והפעל אותה.
בצילומי מסך
Ad
LangDB
תיאור
AI Gateway הוא שער API בעל ביצועים גבוהים בקוד פתוח, המותאם לניהול וניטור תעבורת LLM בקנה מידה גדול. AI Gateway, שפותח על ידי צוות LangDB, משמש כמתווך בין לקוחות ל-LLMs backend, ומספק תכונות מתקדמות כמו אחסון במטמון, הגבלת קצב, ניהול מהיר ותצפית. הוא מסייע לצוותים לאבטח ולמטב את פריסות ה-LLM שלהם, בין אם באמצעות מודלים מקומיים או ממשקי API חיצוניים כמו OpenAI או Anthropic. עם תמיכה מקורית בסביבות מרובות דיירים וניתוב הסקה בעל השהייה נמוכה, AI Gateway הוא כלי חיוני לחברות הבונות שירותי בינה מלאכותית גנרטיביים ברמת ייצור.
תכונות
- שער API המותאם ל-LLM ולתנועה של בינה מלאכותית גנרית
- תומך באחסון במטמון ובביטול כפילויות מהיר
- הגבלת תעריפים ובקרת גישה לשימוש מרובה דיירים
- עובד עם OpenAI, Anthropic ומודלים מקומיים
- ניתוב ואיזון עומסים המודעים להשהייה
- מדדים מובנים, רישום ומעקב אחר בקשות
- תבניות הנחיות ניתנות להגדרה וספירת אסימונים
- ניתן לפריסה בסביבות Kubernetes באמצעות Docker
שפת תכנות
חלודה
כל הקטגוריות
זוהי אפליקציה שניתן להוריד גם מאתר https://sourceforge.net/projects/langdb.mirror/. היא אוחסנה ב-OnWorks על מנת שניתן יהיה להפעיל אותה באופן מקוון בצורה הקלה ביותר מאחת ממערכות ההפעלה החינמיות שלנו.
