זוהי אפליקציית לינוקס בשם MobileLLM, שאת הגרסה האחרונה שלה ניתן להוריד בשם MobileLLMsourcecode.tar.gz. ניתן להריץ אותה באופן מקוון בספק האירוח החינמי OnWorks לתחנות עבודה.
הורד והפעל אונליין את האפליקציה הזו בשם MobileLLM עם OnWorks בחינם.
בצע את ההוראות הבאות כדי להפעיל את האפליקציה הזו:
- 1. הורד את היישום הזה למחשב שלך.
- 2. הזן במנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש שאתה רוצה.
- 3. העלה את היישום הזה במנהל קבצים כזה.
- 4. הפעל את האמולטור המקוון של OnWorks Linux או Windows מקוון או אמולטור מקוון של MACOS מאתר זה.
- 5. ממערכת ההפעלה OnWorks Linux שזה עתה התחלת, עבור אל מנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש הרצוי.
- 6. הורד את האפליקציה, התקן אותה והפעל אותה.
צילומי מסך:
MobileLLM
תיאור:
MobileLLM היא מסגרת מודל שפה גדולה (LLM) קלת משקל שפותחה על ידי Facebook Research, מותאמת לפריסה במכשירים שבהם יעילות חישובית וזיכרון הן קריטיות. המסגרת, שהוצגה במאמר ICML 2024 "MobileLLM: אופטימיזציה של מודלי שפה של פחות ממיליארד פרמטרים עבור מקרי שימוש במכשיר", מתמקדת במתן יכולות הנמקה והכללה חזקות במודלים מתחת למיליארד פרמטרים. המסגרת משלבת מספר חידושים אדריכליים - הפעלת SwiGLU, עיצוב רשת עמוקה ודקה, שיתוף הטמעה ותשומת לב לשאילתות קבוצתיות (GQA) - כדי להשיג פשרה עדיפה בין גודל המודל, מהירות הסקה ודיוק. MobileLLM מפגינה ביצועים יוצאי דופן, כאשר גרסאות ה-125M וה-350M עולות בביצועיהן של מודלים קודמים חדישים באותו קנה מידה בעד 4.3% במשימות הנמקה של היגיון בריא ללא תקלות.
תכונות
- ארכיטקטורת שנאים אופטימלית עבור LLMs של פחות ממיליארד פרמטרים
- משלב הפעלת SwiGLU, שיתוף הטמעה ותשומת לב לשאילתות קבוצתיות
- תומך באימון מקדים מבוזר מרובה צמתים עם PyTorch ≥ 2.0
- מספק תוצאות חכמות מתקדמות ברמת אפס-ירייה במספר משימות
- כולל צינורות אימון והערכה הניתנים לשחזור עבור גדלי מודלים מרובים
- פילוסופיית עיצוב ניתנת להרחבה המשתרעת מ-125 מיליון עד 1.5 מיליארד פרמטרים
שפת תכנות
Python, Unix Shell
כל הקטגוריות
זוהי אפליקציה שניתן להוריד גם מאתר https://sourceforge.net/projects/mobilellm.mirror/. היא אוחסנה ב-OnWorks על מנת שניתן יהיה להפעיל אותה באופן מקוון בצורה הקלה ביותר מאחת ממערכות ההפעלה החינמיות שלנו.