זוהי אפליקציית Windows בשם LLaMA.go שניתן להוריד את המהדורה האחרונה שלה בתור v1.4_ServerMode.zip. ניתן להפעיל אותו באופן מקוון בספק האירוח החינמי OnWorks עבור תחנות עבודה.
הורד והפעל באינטרנט את האפליקציה הזו בשם LLaMA.go עם OnWorks בחינם.
בצע את ההוראות הבאות כדי להפעיל את האפליקציה הזו:
- 1. הורד את היישום הזה למחשב שלך.
- 2. הזן במנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש שאתה רוצה.
- 3. העלה את היישום הזה במנהל קבצים כזה.
- 4. הפעל כל אמולטור מקוון של OS OnWorks מאתר זה, אך עדיף אמולטור מקוון של Windows.
- 5. ממערכת ההפעלה OnWorks Windows שזה עתה התחלת, עבור אל מנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש הרצוי.
- 6. הורד את האפליקציה והתקן אותה.
- 7. הורד את Wine ממאגרי התוכנה שלך להפצות לינוקס. לאחר ההתקנה, תוכל ללחוץ פעמיים על האפליקציה כדי להפעיל אותם עם Wine. אתה יכול גם לנסות את PlayOnLinux, ממשק מפואר מעל Wine שיעזור לך להתקין תוכניות ומשחקים פופולריים של Windows.
Wine היא דרך להפעיל תוכנת Windows על לינוקס, אך ללא צורך ב-Windows. Wine היא שכבת תאימות של Windows בקוד פתוח שיכולה להריץ תוכניות Windows ישירות על כל שולחן עבודה של לינוקס. בעיקרו של דבר, Wine מנסה להטמיע מחדש מספיק של Windows מאפס כדי שהוא יוכל להריץ את כל יישומי Windows מבלי להזדקק ל-Windows.
בצילומי מסך
Ad
LLaMA.go
תיאור
llama.go הוא כמו llama.cpp בגולנג טהור. הקוד של הפרויקט מבוסס על המסגרת האגדית ggml.cpp של Georgi Gerganov שנכתבה ב-C++ עם אותה גישה לביצועים ואלגנטיות. שני הדגמים מאחסנים משקלים של FP32, כך שתזדקק לפחות של 32Gb של RAM (לא VRAM או GPU RAM) עבור LLaMA-7B. כפול ל-64Gb עבור LLaMA-13B.
תכונות
- מתמטיקה טנסור בגולנג טהור
- הטמעת ארכיטקטורת רשת עצבית של LLaMA וטעינת מודלים
- בדוק עם דגם LLaMA-7B קטן יותר
- ודא ש-Go inference פועלת בדיוק כמו C++
- תן ללכת לזרוח! אפשר ריבוי שרשורים והודעות כדי להגביר את הביצועים
- תאימות צולבת מסלולים עם Mac, Linux ו-Windows
שפת תכנות
Go
כל הקטגוריות
זוהי אפליקציה שניתן להביא גם מ-https://sourceforge.net/projects/llama-go.mirror/. הוא התארח ב-OnWorks על מנת להפעיל אותו באינטרנט בצורה הקלה ביותר מאחת ממערכות ההפעלה החינמיות שלנו.
