זוהי אפליקציית לינוקס בשם Lemonade, שאת הגרסה האחרונה שלה ניתן להוריד כ-v8.1.12sourcecode.tar.gz. ניתן להריץ אותה באופן מקוון בספק האירוח החינמי OnWorks לתחנות עבודה.
הורד והפעל באינטרנט את האפליקציה הזו בשם Lemonade עם OnWorks בחינם.
בצע את ההוראות הבאות כדי להפעיל את האפליקציה הזו:
- 1. הורד את היישום הזה למחשב שלך.
- 2. הזן במנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש שאתה רוצה.
- 3. העלה את היישום הזה במנהל קבצים כזה.
- 4. הפעל את האמולטור המקוון של OnWorks Linux או Windows מקוון או אמולטור מקוון של MACOS מאתר זה.
- 5. ממערכת ההפעלה OnWorks Linux שזה עתה התחלת, עבור אל מנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש הרצוי.
- 6. הורד את האפליקציה, התקן אותה והפעל אותה.
צילומי מסך:
לִימוֹנָדָה
תיאור:
Lemonade הוא זמן ריצה מקומי של LLM שמטרתו לספק את הביצועים הגבוהים ביותר האפשריים בחומרה שלך על ידי הגדרה אוטומטית של מנועי הסקה חדישים עבור מעבדי NPU ומעבדי GPU כאחד. הפרויקט ממצב את עצמו כ"שרת LLM מקומי" שניתן להריץ על מחשבים ניידים ותחנות עבודה, תוך הפשטת הבדלים בקצה האחורי תוך מתן מקום יחיד לשרת ולנהל מודלים. קובץ ה-README שלו מדגיש אימוץ בעולם האמיתי על פני סטארט-אפים, קבוצות מחקר וחברות גדולות, ומאותת על התמקדות בפריסות מעשיות ולא בהדגמות צעצוע. המאגר מדגיש קלות קלות עם הורדות, מסמכים ודיסקורד לתמיכה, מה שמרמז על קהילת משתמשים פעילה. המסרים מתמקדים בסחיטת תפוקה/השהיה מקסימליים ממאיצים מודרניים מבלי שמשתמשים יצטרכו לכוונן ידנית ליבות או דגלים. גרסאות מחזקות עוד יותר את מסגור ה"שרת", ומכוונות מפתחים לשירות שניתן לשלב באפליקציות ובכלים.
תכונות
- שרת LLM מקומי המכוון להאצת GPU ו-NPU
- הגדרה אוטומטית של מערכות אחוריות להסקת מסקנות בעלות ביצועים גבוהים
- תהליך התקנה והפעלה פשוט עם תיעוד מודרך
- תמיכה קהילתית דרך דיסקורד ומעקב פעיל אחר בעיות
- עובד על פני מחקר, סטארט-אפים ושימושים ארגוניים
- נועד לשמש בסיס זמין לאפליקציות בינה מלאכותית מקומיות
שפת תכנות
פיתון
כל הקטגוריות
זוהי אפליקציה שניתן להוריד גם מאתר https://sourceforge.net/projects/lemonade.mirror/. היא אוחסנה ב-OnWorks על מנת שניתן יהיה להפעיל אותה באופן מקוון בצורה הקלה ביותר מאחת ממערכות ההפעלה החינמיות שלנו.