นี่คือแอป Windows ชื่อ DeepEP ซึ่งสามารถดาวน์โหลดเวอร์ชันล่าสุดได้ที่ Stablereleasev1.2.1sourcecode.tar.gz สามารถรันออนไลน์บน OnWorks ซึ่งเป็นผู้ให้บริการโฮสติ้งฟรีสำหรับเวิร์กสเตชัน
ดาวน์โหลดและรันแอปชื่อ DeepEP ออนไลน์ด้วย OnWorks ได้ฟรี
ทำตามคำแนะนำเหล่านี้เพื่อเรียกใช้แอปนี้:
- 1. ดาวน์โหลดแอปพลิเคชั่นนี้ในพีซีของคุณ
- 2. เข้าไปที่ file manager https://www.onworks.net/myfiles.php?username=XXXXX ด้วยชื่อผู้ใช้ที่คุณต้องการ
- 3. อัปโหลดแอปพลิเคชันนี้ในตัวจัดการไฟล์ดังกล่าว
- 4. เริ่มโปรแกรมจำลองออนไลน์ของ OS OnWorks จากเว็บไซต์นี้ แต่โปรแกรมจำลองออนไลน์ของ Windows ที่ดีกว่า
- 5. จากระบบปฏิบัติการ Windows ของ OnWorks ที่คุณเพิ่งเริ่มต้น ไปที่ตัวจัดการไฟล์ของเรา https://www.onworks.net/myfiles.php?username=XXXXX พร้อมชื่อผู้ใช้ที่คุณต้องการ
- 6. ดาวน์โหลดแอปพลิเคชั่นและติดตั้ง
- 7. ดาวน์โหลดไวน์จากที่เก็บซอฟต์แวร์ลีนุกซ์ดิสทริบิวชันของคุณ เมื่อติดตั้งแล้ว คุณสามารถดับเบิลคลิกที่แอปเพื่อเรียกใช้แอปด้วย Wine คุณยังสามารถลองใช้ PlayOnLinux ซึ่งเป็นอินเทอร์เฟซแฟนซีบน Wine ที่จะช่วยคุณติดตั้งโปรแกรมและเกมยอดนิยมของ Windows
ไวน์เป็นวิธีเรียกใช้ซอฟต์แวร์ Windows บน Linux แต่ไม่จำเป็นต้องใช้ Windows Wine เป็นเลเยอร์ความเข้ากันได้ของ Windows แบบโอเพ่นซอร์สที่สามารถเรียกใช้โปรแกรม Windows ได้โดยตรงบนเดสก์ท็อป Linux โดยพื้นฐานแล้ว Wine พยายามนำ Windows กลับมาใช้ใหม่ให้เพียงพอตั้งแต่เริ่มต้น เพื่อให้สามารถเรียกใช้แอปพลิเคชัน Windows เหล่านั้นทั้งหมดโดยไม่จำเป็นต้องใช้ Windows จริงๆ
ภาพหน้าจอ:
ดีพอีพี
รายละเอียด:
DeepEP เป็นไลบรารีการสื่อสารที่ออกแบบมาโดยเฉพาะเพื่อรองรับการใช้งานแบบผสมผสานระหว่างผู้เชี่ยวชาญ (MoE) และแบบขนานผู้เชี่ยวชาญ (EP) บทบาทหลักของ DeepEP คือการนำเคอร์เนลการสื่อสารแบบ all-to-all GPU ที่มีปริมาณงานสูงและความหน่วงต่ำมาใช้ ซึ่งทำหน้าที่จัดการการกระจายโทเค็นไปยังผู้เชี่ยวชาญ (หรือชาร์ด) ที่แตกต่างกัน แล้วจึงรวมเอาต์พุตของผู้เชี่ยวชาญกลับเข้าสู่กระแสข้อมูลหลัก เนื่องจากสถาปัตยกรรม MoE จำเป็นต้องมีการกำหนดเส้นทางอินพุตไปยังผู้เชี่ยวชาญที่แตกต่างกัน ค่าใช้จ่ายในการสื่อสารจึงอาจกลายเป็นคอขวดได้ DeepEP จึงแก้ไขปัญหานี้ด้วยการจัดหาเคอร์เนล GPU ที่ได้รับการปรับแต่งให้เหมาะสมและตรรกะการกระจาย/รวมข้อมูลที่มีประสิทธิภาพ ไลบรารีนี้ยังรองรับการทำงานที่มีความแม่นยำต่ำ (เช่น FP8) เพื่อลดการใช้หน่วยความจำและแบนด์วิดท์ระหว่างการสื่อสาร DeepEP มุ่งเน้นไปที่การอนุมานแบบจำลองขนาดใหญ่หรือระบบฝึกอบรมที่ใช้ระบบขนานผู้เชี่ยวชาญเพื่อขยายขีดความสามารถของแบบจำลองโดยไม่ต้องจำลองเครือข่ายทั้งหมด
คุณสมบัติ
- เพิ่มประสิทธิภาพเคอร์เนลการสื่อสาร GPU ทั้งหมดถึงทั้งหมดสำหรับการจัดส่งและรวม MoE
- ปรับแต่งให้เหมาะกับสถาปัตยกรรมการประมวลผลแบบคู่ขนานของผู้เชี่ยวชาญ (EP) สำหรับการปรับขนาดความจุของแบบจำลอง
- รองรับการทำงานที่มีความแม่นยำต่ำ (เช่น FP8) เพื่อลดหน่วยความจำ/แบนด์วิดท์
- การออกแบบที่มีปริมาณงานสูงและความหน่วงต่ำ (ลดภาระการสื่อสารให้เหลือน้อยที่สุด)
- ศักยภาพการบูรณาการกับสแต็กโมเดล MoE เพื่อจัดการการกำหนดเส้นทางของผู้เชี่ยวชาญอย่างมีประสิทธิภาพ
- มุ่งเน้นการใช้งานในระดับการผลิต: ช่วยให้การอนุมาน/การฝึกอบรมในระบบ MoE รวดเร็วยิ่งขึ้น
ภาษาโปรแกรม
หลาม
หมวดหมู่
นี่คือแอปพลิเคชันที่สามารถดึงข้อมูลจาก https://sourceforge.net/projects/deepep.mirror/ ได้ แอปพลิเคชันนี้โฮสต์อยู่ใน OnWorks เพื่อให้ใช้งานออนไลน์ได้ง่ายที่สุดจากระบบปฏิบัติการฟรีของเรา