זוהי אפליקציית Windows בשם Text Generation Inference, אשר הגרסה האחרונה שלה ניתנת להורדה כגרסה v3.3.2sourcecode.zip. ניתן להריץ אותה באופן מקוון בספק האירוח החינמי OnWorks לתחנות עבודה.
הורד והפעל באופן מקוון את האפליקציה הזו בשם Text Generation Inference with OnWorks בחינם.
בצע את ההוראות הבאות כדי להפעיל את האפליקציה הזו:
- 1. הורד את היישום הזה למחשב שלך.
- 2. הזן במנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש שאתה רוצה.
- 3. העלה את היישום הזה במנהל קבצים כזה.
- 4. הפעל כל אמולטור מקוון של OS OnWorks מאתר זה, אך עדיף אמולטור מקוון של Windows.
- 5. ממערכת ההפעלה OnWorks Windows שזה עתה התחלת, עבור אל מנהל הקבצים שלנו https://www.onworks.net/myfiles.php?username=XXXXX עם שם המשתמש הרצוי.
- 6. הורד את האפליקציה והתקן אותה.
- 7. הורד את Wine ממאגרי התוכנה שלך להפצות לינוקס. לאחר ההתקנה, תוכל ללחוץ פעמיים על האפליקציה כדי להפעיל אותם עם Wine. אתה יכול גם לנסות את PlayOnLinux, ממשק מפואר מעל Wine שיעזור לך להתקין תוכניות ומשחקים פופולריים של Windows.
Wine היא דרך להפעיל תוכנת Windows על לינוקס, אך ללא צורך ב-Windows. Wine היא שכבת תאימות של Windows בקוד פתוח שיכולה להריץ תוכניות Windows ישירות על כל שולחן עבודה של לינוקס. בעיקרו של דבר, Wine מנסה להטמיע מחדש מספיק של Windows מאפס כדי שהוא יוכל להריץ את כל יישומי Windows מבלי להזדקק ל-Windows.
צילומי מסך:
מסקנות מדור טקסט
תיאור:
Text Generation Inference הוא שרת הסקה בעל ביצועים גבוהים עבור מודלים של יצירת טקסט, המותאם ל-Transformers של Hugging Face. הוא נועד לשרת מודלים של שפה גדולים ביעילות עם אופטימיזציות לביצועים וגמישות.
תכונות
- אופטימלי להצגת מודלים של שפות גדולות (LLMs)
- תומך בעיבוד אצווה ובמקביליות לתפוקה גבוהה
- תמיכה בכימות לשיפור הביצועים
- פריסה מבוססת API לאינטגרציה קלה
- האצת GPU וקנה מידה מרובה צמתים
- הזרמת אסימונים מובנית לתגובות בזמן אמת
שפת תכנות
פיתון
כל הקטגוריות
זוהי אפליקציה שניתן להוריד גם מאתר https://sourceforge.net/projects/text-generation-infer.mirror/. היא אוחסנה ב-OnWorks על מנת שניתן יהיה להפעיל אותה באופן מקוון בצורה הקלה ביותר מאחת ממערכות ההפעלה החינמיות שלנו.