זוהי אפליקציית לינוקס בשם llama2.c, אשר את הגרסה האחרונה שלה ניתן להוריד בשם llama2.csourcecode.tar.gz. ניתן להריץ אותה באופן מקוון בספק האירוח החינמי OnWorks לתחנות עבודה.
הורד והפעל אונליין את האפליקציה הזו בשם llama2.c עם OnWorks בחינם.
בצע את ההוראות הבאות כדי להפעיל את האפליקציה הזו:
- 1. הורד את היישום הזה למחשב שלך.
- 2. הזן במנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש שאתה רוצה.
- 3. העלה את היישום הזה במנהל קבצים כזה.
- 4. הפעל את האמולטור המקוון של OnWorks Linux או Windows מקוון או אמולטור מקוון של MACOS מאתר זה.
- 5. ממערכת ההפעלה OnWorks Linux שזה עתה התחלת, עבור אל מנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש הרצוי.
- 6. הורד את האפליקציה, התקן אותה והפעל אותה.
צילומי מסך:
llama2.c
תיאור:
llama2.c הוא יישום מינימליסטי של ארכיטקטורת מודל השפה Llama 2 שנועד לפעול כולה בשפת C טהורה. פרויקט זה, שנוצר על ידי אנדריי קרפטי, מציע מסגרת חינוכית וקלת משקל לביצוע הסקה על מודלים קטנים של Llama 2 ללא תלויות חיצוניות. הוא מספק צינור אימון והסקה מלא: ניתן לאמן מודלים ב-PyTorch ומאוחר יותר לבצע אותם באמצעות תוכנית C תמציתית בת 700 שורות (run.c). בעוד שהוא יכול טכנית לטעון את מודלי Llama 2 הרשמיים של Meta, התמיכה הנוכחית מוגבלת לדיוק fp32, כלומר השימוש המעשי מוגבל למודלים של עד כ-7B פרמטרים. מטרת llama2.c היא להדגים כיצד יישום קומפקטי ושקוף יכול לבצע הסקה משמעותית גם עם מודלים קטנים, תוך הדגשת פשטות, בהירות ונגישות. הפרויקט בונה על לקחים מ-nanoGPT ושואב השראה מ-llama.cpp, תוך התמקדות במקום זאת במינימליזם ובערך חינוכי על פני ביצועים בקנה מידה גדול.
תכונות
- מיישם את הארכיטקטורה המלאה של Llama 2 הן לאימון והן להסקת מסקנות.
- מספק מנוע הסקה קומפקטי מבוסס C בן 700 שורות (run.c)
- מאפשר אימון ב-PyTorch והרצת מודלים ישירות ב-C
- תומך בדיוק מודל fp32 עבור תואר שני במשפטים (LLMs) קטן יותר בקנה מידה חינוכי
- מציע יישום נקי וללא תלות ללימוד ושינוי קלים
- בהשראת llama.cpp אך מעוצב לפשטות ומינימליזם
שפת תכנות
ג, פייתון
כל הקטגוריות
זוהי אפליקציה שניתן להוריד גם מאתר https://sourceforge.net/projects/llama2-c.mirror/. היא אוחסנה ב-OnWorks על מנת שניתן יהיה להפעיל אותה באופן מקוון בצורה הקלה ביותר מאחת ממערכות ההפעלה החינמיות שלנו.