นี่คือแอป Linux ชื่อ rwkv.cpp ซึ่งสามารถดาวน์โหลดรุ่นล่าสุดได้เป็น rwkv-master-d6c691e-bin-win-avx512-x64.zip สามารถทำงานออนไลน์ได้ใน OnWorks ผู้ให้บริการโฮสติ้งฟรีสำหรับเวิร์กสเตชัน
ดาวน์โหลดและรันแอปออนไลน์ชื่อ rwkv.cpp พร้อม OnWorks ฟรี
ทำตามคำแนะนำเหล่านี้เพื่อเรียกใช้แอปนี้:
- 1. ดาวน์โหลดแอปพลิเคชั่นนี้ในพีซีของคุณ
- 2. เข้าไปที่ file manager https://www.onworks.net/myfiles.php?username=XXXXX ด้วยชื่อผู้ใช้ที่คุณต้องการ
- 3. อัปโหลดแอปพลิเคชันนี้ในตัวจัดการไฟล์ดังกล่าว
- 4. เริ่มโปรแกรมจำลองออนไลน์ของ OnWorks Linux หรือ Windows ออนไลน์ หรือโปรแกรมจำลองออนไลน์ MACOS จากเว็บไซต์นี้
- 5. จาก OnWorks Linux OS คุณเพิ่งเริ่มต้น ไปที่ตัวจัดการไฟล์ของเรา https://www.onworks.net/myfiles.php?username=XXXXX พร้อมชื่อผู้ใช้ที่คุณต้องการ
- 6. ดาวน์โหลดแอปพลิเคชั่น ติดตั้ง และเรียกใช้
ภาพหน้าจอ
Ad
rwkv.cpp
DESCRIPTION
นอกจาก FP32 ปกติแล้ว ยังรองรับการอนุมาน FP16, INT4, INT5 และ INT8 แบบเชิงปริมาณ โปรเจ็กต์นี้เน้นที่ CPU แต่ก็รองรับ cuBLAS ด้วย RWKV เป็นสถาปัตยกรรมโมเดลภาษาขนาดใหญ่แบบใหม่ โดยโมเดลที่ใหญ่ที่สุดในตระกูลมีพารามิเตอร์ 14B ตรงกันข้ามกับ Transformer ที่มีความสนใจ O(n^2) RWKV ต้องการเพียงสถานะจากขั้นตอนก่อนหน้าเพื่อคำนวณบันทึก สิ่งนี้ทำให้ RWKV เป็นมิตรกับ CPU มากในบริบทที่มีความยาวมาก
คุณสมบัติ
- วินโดวส์/ลินุกซ์/แมคโอเอส
- สร้างห้องสมุดด้วยตัวเอง
- รับโมเดล RWKV
- ข้อกำหนด: Python 3.x พร้อม PyTorch และ tokenizers
- ggml เคลื่อนไหวอย่างรวดเร็ว และบางครั้งอาจทำให้ความเข้ากันได้กับรูปแบบไฟล์เก่าๆ ลดลง
- ข้อกำหนด: Python 3.x พร้อม PyTorch
ภาษาโปรแกรม
C + +
หมวดหมู่
นี่คือแอปพลิเคชันที่สามารถดึงข้อมูลจากhttps://sourceforge.net/projects/rwkv-cpp.mirror/ มีการโฮสต์ไว้ใน OnWorks เพื่อใช้งานออนไลน์ด้วยวิธีที่ง่ายที่สุดจากหนึ่งในระบบปฏิบัติการฟรีของเรา
