זוהי אפליקציית לינוקס בשם Web LLM שניתן להוריד את המהדורה האחרונה שלה בתור v0.2.0.zip. ניתן להפעיל אותו באופן מקוון בספק האירוח החינמי OnWorks עבור תחנות עבודה.
הורד והפעל באינטרנט את האפליקציה הזו בשם Web LLM עם OnWorks בחינם.
בצע את ההוראות הבאות כדי להפעיל את האפליקציה הזו:
- 1. הורד את היישום הזה למחשב שלך.
- 2. הזן במנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש שאתה רוצה.
- 3. העלה את היישום הזה במנהל קבצים כזה.
- 4. הפעל את האמולטור המקוון של OnWorks Linux או Windows מקוון או אמולטור מקוון של MACOS מאתר זה.
- 5. ממערכת ההפעלה OnWorks Linux שזה עתה התחלת, עבור אל מנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש הרצוי.
- 6. הורד את האפליקציה, התקן אותה והפעל אותה.
בצילומי מסך
Ad
Web LLM
תיאור
WebLLM היא חבילת javascript מודולרית הניתנת להתאמה אישית שמביאה ישירות צ'אטים של מודל שפה ישירות לדפדפני אינטרנט עם האצת חומרה. הכל פועל בתוך הדפדפן ללא תמיכה בשרת ומואץ עם WebGPU. אנחנו יכולים להביא הרבה הזדמנויות מהנות לבנות עוזרי AI לכולם ולאפשר פרטיות תוך כדי הנאה מהאצת GPU. WebLLM מציעה ממשק מינימליסטי ומודולרי לגישה לצ'אטבוט בדפדפן. חבילת WebLLM עצמה אינה מגיעה עם ממשק משתמש, והיא מעוצבת בצורה מודולרית להתחבר לכל אחד ממרכיבי ממשק המשתמש. קטע הקוד הבא מדגים דוגמה פשוטה שמייצרת תגובת סטרימינג בדף אינטרנט.
תכונות
- WebLLM מגיע עם תמיכה ב-API עבור WebWorker כך שתוכל לחבר את תהליך היצירה לשרשור עובד נפרד כך שהחישוב ב-webworker לא ישבש את ממשק המשתמש
- אתה יכול למצוא דוגמה של אפליקציית צ'אט מלאה בדוגמאות/צ'אט פשוט
- WebLLM עובד כפרויקט נלווה של MLC LLM
- הוא עושה שימוש חוזר בחפץ הדגם ובונה זרימה של MLC LLM
- בניית חבילת WebLLM ממקור
- חבילת WebLLM היא זמן ריצה אינטרנט המיועדת עבור MLC LLM
שפת תכנות
הקלד
כל הקטגוריות
זוהי אפליקציה שניתן להביא גם מ-https://sourceforge.net/projects/web-llm.mirror/. זה התארח ב-OnWorks על מנת להפעיל אותו באינטרנט בצורה הקלה ביותר מאחת ממערכות ההפעלה החינמיות שלנו.
