นี่คือแอพ Windows ชื่อ Text Generation Inference ซึ่งสามารถดาวน์โหลดเวอร์ชันล่าสุดได้ที่ v3.3.2sourcecode.zip สามารถรันแอพได้ทางออนไลน์ในผู้ให้บริการโฮสติ้งฟรี OnWorks สำหรับเวิร์กสเตชัน
ดาวน์โหลดและรันแอปออนไลน์ชื่อ Text Generation Inference พร้อม OnWorks ได้ฟรี
ทำตามคำแนะนำเหล่านี้เพื่อเรียกใช้แอปนี้:
- 1. ดาวน์โหลดแอปพลิเคชั่นนี้ในพีซีของคุณ
- 2. เข้าไปที่ file manager https://www.onworks.net/myfiles.php?username=XXXXX ด้วยชื่อผู้ใช้ที่คุณต้องการ
- 3. อัปโหลดแอปพลิเคชันนี้ในตัวจัดการไฟล์ดังกล่าว
- 4. เริ่มโปรแกรมจำลองออนไลน์ของ OS OnWorks จากเว็บไซต์นี้ แต่โปรแกรมจำลองออนไลน์ของ Windows ที่ดีกว่า
- 5. จากระบบปฏิบัติการ Windows ของ OnWorks ที่คุณเพิ่งเริ่มต้น ไปที่ตัวจัดการไฟล์ของเรา https://www.onworks.net/myfiles.php?username=XXXXX พร้อมชื่อผู้ใช้ที่คุณต้องการ
- 6. ดาวน์โหลดแอปพลิเคชั่นและติดตั้ง
- 7. ดาวน์โหลดไวน์จากที่เก็บซอฟต์แวร์ลีนุกซ์ดิสทริบิวชันของคุณ เมื่อติดตั้งแล้ว คุณสามารถดับเบิลคลิกที่แอปเพื่อเรียกใช้แอปด้วย Wine คุณยังสามารถลองใช้ PlayOnLinux ซึ่งเป็นอินเทอร์เฟซแฟนซีบน Wine ที่จะช่วยคุณติดตั้งโปรแกรมและเกมยอดนิยมของ Windows
ไวน์เป็นวิธีเรียกใช้ซอฟต์แวร์ Windows บน Linux แต่ไม่จำเป็นต้องใช้ Windows Wine เป็นเลเยอร์ความเข้ากันได้ของ Windows แบบโอเพ่นซอร์สที่สามารถเรียกใช้โปรแกรม Windows ได้โดยตรงบนเดสก์ท็อป Linux โดยพื้นฐานแล้ว Wine พยายามนำ Windows กลับมาใช้ใหม่ให้เพียงพอตั้งแต่เริ่มต้น เพื่อให้สามารถเรียกใช้แอปพลิเคชัน Windows เหล่านั้นทั้งหมดโดยไม่จำเป็นต้องใช้ Windows จริงๆ
ภาพหน้าจอ:
การอนุมานการสร้างข้อความ
รายละเอียด:
Text Generation Inference คือเซิร์ฟเวอร์อนุมานประสิทธิภาพสูงสำหรับโมเดลการสร้างข้อความที่ได้รับการปรับให้เหมาะสมสำหรับ Transformers ของ Hugging Face เซิร์ฟเวอร์นี้ได้รับการออกแบบมาเพื่อรองรับโมเดลภาษาขนาดใหญ่ได้อย่างมีประสิทธิภาพด้วยการปรับให้เหมาะสมสำหรับประสิทธิภาพและความสามารถในการปรับขนาด
คุณสมบัติ
- ปรับให้เหมาะสมสำหรับการรองรับโมเดลภาษาขนาดใหญ่ (LLM)
- รองรับการแบ่งชุดและการประมวลผลแบบคู่ขนานสำหรับปริมาณงานสูง
- การสนับสนุนการวัดปริมาณเพื่อประสิทธิภาพที่ดีขึ้น
- การปรับใช้บน API เพื่อการบูรณาการที่ง่ายดาย
- การเร่งความเร็ว GPU และการปรับขนาดหลายโหนด
- สตรีมมิ่งโทเค็นในตัวสำหรับการตอบสนองแบบเรียลไทม์
ภาษาโปรแกรม
หลาม
หมวดหมู่
นี่คือแอปพลิเคชันที่สามารถดึงข้อมูลจาก https://sourceforge.net/projects/text-generation-infer.mirror/ ได้ แอปพลิเคชันนี้โฮสต์อยู่ใน OnWorks เพื่อให้เรียกใช้งานออนไลน์ได้ง่ายที่สุดจากระบบปฏิบัติการฟรีของเรา