นี่คือแอป Linux ชื่อ CTranslate2 ซึ่งสามารถดาวน์โหลดรุ่นล่าสุดได้เป็น CTranslate23.20.0.zip สามารถทำงานออนไลน์ได้ใน OnWorks ผู้ให้บริการโฮสติ้งฟรีสำหรับเวิร์กสเตชัน
ดาวน์โหลดและรันแอปออนไลน์ชื่อ CTranslate2 พร้อม OnWorks ฟรี
ทำตามคำแนะนำเหล่านี้เพื่อเรียกใช้แอปนี้:
- 1. ดาวน์โหลดแอปพลิเคชั่นนี้ในพีซีของคุณ
- 2. เข้าไปที่ file manager https://www.onworks.net/myfiles.php?username=XXXXX ด้วยชื่อผู้ใช้ที่คุณต้องการ
- 3. อัปโหลดแอปพลิเคชันนี้ในตัวจัดการไฟล์ดังกล่าว
- 4. เริ่มโปรแกรมจำลองออนไลน์ของ OnWorks Linux หรือ Windows ออนไลน์ หรือโปรแกรมจำลองออนไลน์ MACOS จากเว็บไซต์นี้
- 5. จาก OnWorks Linux OS คุณเพิ่งเริ่มต้น ไปที่ตัวจัดการไฟล์ของเรา https://www.onworks.net/myfiles.php?username=XXXXX พร้อมชื่อผู้ใช้ที่คุณต้องการ
- 6. ดาวน์โหลดแอปพลิเคชั่น ติดตั้ง และเรียกใช้
ภาพหน้าจอ
Ad
ซีทรานสเลท2
DESCRIPTION
CTranslate2 เป็นไลบรารี C++ และ Python สำหรับการอนุมานที่มีประสิทธิภาพกับโมเดล Transformer โปรเจ็กต์ใช้รันไทม์ที่กำหนดเองซึ่งใช้เทคนิคการเพิ่มประสิทธิภาพประสิทธิภาพหลายอย่าง เช่น การหาปริมาณน้ำหนัก การรวมเลเยอร์ การเรียงลำดับแบทช์ใหม่ ฯลฯ เพื่อเร่งและลดการใช้หน่วยความจำของรุ่น Transformer บน CPU และ GPU การดำเนินการรวดเร็วกว่าอย่างเห็นได้ชัดและต้องใช้ทรัพยากรน้อยกว่าเฟรมเวิร์กการเรียนรู้เชิงลึกสำหรับวัตถุประสงค์ทั่วไปบนโมเดลและงานที่รองรับ เนื่องจากมีการปรับให้เหมาะสมขั้นสูงมากมาย: การรวมเลเยอร์, การลบช่องว่างภายใน, การเรียงลำดับแบทช์ใหม่, การดำเนินการแบบแทนที่, กลไกการแคช ฯลฯ การทำให้เป็นอนุกรมของโมเดลและ ตุ้มน้ำหนักรองรับการคำนวณที่มีความแม่นยำลดลง: จุดลอยตัว 16 บิต (FP16), จำนวนเต็ม 16 บิต (INT16) และจำนวนเต็ม 8 บิต (INT8) โปรเจ็กต์นี้รองรับโปรเซสเซอร์ x86-64 และ AArch64/ARM64 และรวมแบ็กเอนด์หลายตัวที่ปรับให้เหมาะสมสำหรับแพลตฟอร์มเหล่านี้: Intel MKL, oneDNN, OpenBLAS, Ruy และ Apple Accelerate
คุณสมบัติ
- รองรับโมเดลตัวเข้ารหัส-ตัวถอดรหัส
- รองรับ GPT-2, GPT-J, GPT-NeoX, OPT, BLOOM
- การตรวจจับ CPU อัตโนมัติและการส่งรหัส
- การดำเนินการที่รวดเร็วและมีประสิทธิภาพบน CPU และ GPU
- การหาปริมาณและลดความแม่นยำ
- รองรับสถาปัตยกรรม CPU หลายตัว
- การใช้หน่วยความจำแบบไดนามิก
- การดำเนินการแบบขนานและแบบอะซิงโครนัส
ภาษาโปรแกรม
C + +
หมวดหมู่
นี่คือแอปพลิเคชันที่สามารถดึงข้อมูลจากhttps://sourceforge.net/projects/ctranslate2.mirror/ มีการโฮสต์ไว้ใน OnWorks เพื่อใช้งานออนไลน์ด้วยวิธีที่ง่ายที่สุดจากหนึ่งในระบบปฏิบัติการฟรีของเรา
