นี่คือแอป Linux ชื่อ Aviary ซึ่งสามารถดาวน์โหลดรุ่นล่าสุดเป็น v0.3.1.zip สามารถทำงานออนไลน์ได้ใน OnWorks ผู้ให้บริการโฮสติ้งฟรีสำหรับเวิร์กสเตชัน
ดาวน์โหลดและเรียกใช้แอปออนไลน์ชื่อ Aviary พร้อม OnWorks ฟรี
ทำตามคำแนะนำเหล่านี้เพื่อเรียกใช้แอปนี้:
- 1. ดาวน์โหลดแอปพลิเคชั่นนี้ในพีซีของคุณ
- 2. เข้าไปที่ file manager https://www.onworks.net/myfiles.php?username=XXXXX ด้วยชื่อผู้ใช้ที่คุณต้องการ
- 3. อัปโหลดแอปพลิเคชันนี้ในตัวจัดการไฟล์ดังกล่าว
- 4. เริ่มโปรแกรมจำลองออนไลน์ของ OnWorks Linux หรือ Windows ออนไลน์ หรือโปรแกรมจำลองออนไลน์ MACOS จากเว็บไซต์นี้
- 5. จาก OnWorks Linux OS คุณเพิ่งเริ่มต้น ไปที่ตัวจัดการไฟล์ของเรา https://www.onworks.net/myfiles.php?username=XXXXX พร้อมชื่อผู้ใช้ที่คุณต้องการ
- 6. ดาวน์โหลดแอปพลิเคชั่น ติดตั้ง และเรียกใช้
ภาพหน้าจอ
Ad
กรงนกใหญ่
DESCRIPTION
Aviary เป็นโซลูชันการให้บริการ LLM ที่ทำให้ปรับใช้และจัดการ LLM แบบโอเพ่นซอร์สต่างๆ ได้อย่างง่ายดาย มอบชุด LLM โอเพ่นซอร์สที่กำหนดค่าไว้ล่วงหน้ามากมาย พร้อมด้วยค่าเริ่มต้นที่ใช้งานได้ทันที รองรับโมเดล Transformer ที่โฮสต์บน Hugging Face Hub หรือปรากฏบนดิสก์ในเครื่อง Aviary มีการสนับสนุนในตัวสำหรับการปรับขนาดอัตโนมัติและการปรับใช้หลายโหนดด้วย Ray และ Ray Serve Aviary สามารถปรับขนาดเป็นศูนย์และสร้างแบบจำลองจำลองใหม่ (แต่ละแบบจำลองประกอบด้วยผู้ปฏิบัติงาน GPU หลายคน) เพื่อตอบสนองความต้องการ Ray ตรวจสอบให้แน่ใจว่าการประสานและการจัดการทรัพยากรได้รับการจัดการโดยอัตโนมัติ Aviary สามารถรองรับแบบจำลองและคลัสเตอร์หลายร้อยโหนดได้หลายร้อยรายการ ใช้งานในระบบคลาวด์หรือภายในองค์กร
คุณสมบัติ
- รองรับการใช้งานโมเดลหลาย GPU และหลายโหนดอย่างสมบูรณ์
- จัดเตรียม REST API ที่คล้ายกับ OpenAI เพื่อให้ง่ายต่อการโยกย้ายและทดสอบข้าม
- นำเสนอคุณสมบัติประสิทธิภาพสูง เช่น การแบทช์อย่างต่อเนื่อง การหาปริมาณ และการสตรีม
- ลดความซับซ้อนของการเพิ่ม LLM ใหม่ภายในไม่กี่นาทีในกรณีส่วนใหญ่
- ลดความซับซ้อนของการปรับใช้ LLM หลายรายการภายในกรอบงานแบบครบวงจรเดียว
- มอบชุด LLM โอเพ่นซอร์สที่กำหนดค่าไว้ล่วงหน้ามากมาย พร้อมด้วยค่าเริ่มต้นที่ใช้งานได้ทันที
ภาษาโปรแกรม
หลาม
หมวดหมู่
นี่คือแอปพลิเคชันที่สามารถดึงข้อมูลจากhttps://sourceforge.net/projects/aviary.mirror/ มีการโฮสต์ไว้ใน OnWorks เพื่อใช้งานออนไลน์ด้วยวิธีที่ง่ายที่สุดจากหนึ่งในระบบปฏิบัติการฟรีของเรา
