זוהי אפליקציית לינוקס בשם OpenLIT, שאת הגרסה האחרונה שלה ניתן להוריד כ-py-1.35.9sourcecode.tar.gz. ניתן להריץ אותה באופן מקוון בספק האירוח החינמי OnWorks לתחנות עבודה.
הורד והפעל אונליין את האפליקציה הזו בשם OpenLIT עם OnWorks בחינם.
בצע את ההוראות הבאות כדי להפעיל את האפליקציה הזו:
- 1. הורד את היישום הזה למחשב שלך.
- 2. הזן במנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש שאתה רוצה.
- 3. העלה את היישום הזה במנהל קבצים כזה.
- 4. הפעל את האמולטור המקוון של OnWorks Linux או Windows מקוון או אמולטור מקוון של MACOS מאתר זה.
- 5. ממערכת ההפעלה OnWorks Linux שזה עתה התחלת, עבור אל מנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש הרצוי.
- 6. הורד את האפליקציה, התקן אותה והפעל אותה.
בצילומי מסך
Ad
OpenLIT
תיאור
OpenLIT הוא כלי מקורי של OpenTelemetry שנועד לעזור למפתחים לקבל תובנות לגבי ביצועי יישומי LLM שלהם בסביבת ייצור. הוא אוסף באופן אוטומטי מטא-נתונים של קלט ופלט של LLM ומנטר את ביצועי ה-GPU עבור LLMs המתארחים בעצמם. OpenLIT הופך את שילוב התצפיות בפרויקטים של GenAI לקל וקל עם שורת קוד אחת בלבד. בין אם אתם עובדים עם ספקי LLM פופולריים כמו OpenAI ו-HuggingFace, או ממנפים מסדי נתונים וקטוריים כמו ChromaDB, OpenLIT מבטיח שהיישומים שלכם מנוטרים בצורה חלקה, ומספק תובנות קריטיות, כולל סטטיסטיקות ביצועי GPU עבור LLMs המתארחים בעצמם, כדי לשפר את הביצועים והאמינות. פרויקט זה עוקב בגאווה אחר המוסכמות הסמנטיות של קהילת OpenTelemetry, ומתעדכן באופן עקבי כדי להתאים אותו לסטנדרטים העדכניים ביותר בתצפיות.
תכונות
- ניטור מתקדם של ביצועי LLM ו-VectorDB
- מעקב עלויות עבור מודלים מותאמים אישית ומודלים מדויקים
- מעקב עלויות עבור מודלים מותאמים אישית ומודלים מדויקים
- תיעוד זמין
- ערכות SDK מקוריות של OpenTelemetry וניטרליות לספק
- דוגמאות זמינות
- OpenLIT מאפשר לך להתאים אישית מעקב עלויות עבור מודלים ספציפיים
- OpenLIT בנוי עם תמיכה מקורית עבור OpenTelemetry
שפת תכנות
פיתון
כל הקטגוריות
זוהי אפליקציה שניתן להוריד גם מאתר https://sourceforge.net/projects/openlit.mirror/. היא אוחסנה ב-OnWorks על מנת שניתן יהיה להפעיל אותה באופן מקוון בצורה הקלה ביותר מאחת ממערכות ההפעלה החינמיות שלנו.
