นี่คือแอป Linux ชื่อ llama2.c ซึ่งสามารถดาวน์โหลดเวอร์ชันล่าสุดได้ที่ llama2.csourcecode.tar.gz สามารถรันออนไลน์ได้บน OnWorks ซึ่งเป็นผู้ให้บริการโฮสติ้งฟรีสำหรับเวิร์กสเตชัน
ดาวน์โหลดและรันแอปออนไลน์ชื่อ llama2.c ด้วย OnWorks ได้ฟรี
ทำตามคำแนะนำเหล่านี้เพื่อเรียกใช้แอปนี้:
- 1. ดาวน์โหลดแอปพลิเคชั่นนี้ในพีซีของคุณ
- 2. เข้าไปที่ file manager https://www.onworks.net/myfiles.php?username=XXXXX ด้วยชื่อผู้ใช้ที่คุณต้องการ
- 3. อัปโหลดแอปพลิเคชันนี้ในตัวจัดการไฟล์ดังกล่าว
- 4. เริ่มโปรแกรมจำลองออนไลน์ของ OnWorks Linux หรือ Windows ออนไลน์ หรือโปรแกรมจำลองออนไลน์ MACOS จากเว็บไซต์นี้
- 5. จาก OnWorks Linux OS คุณเพิ่งเริ่มต้น ไปที่ตัวจัดการไฟล์ของเรา https://www.onworks.net/myfiles.php?username=XXXXX พร้อมชื่อผู้ใช้ที่คุณต้องการ
- 6. ดาวน์โหลดแอปพลิเคชั่น ติดตั้ง และเรียกใช้
ภาพหน้าจอ:
ลามะ2.c
รายละเอียด:
llama2.c คือการนำสถาปัตยกรรมโมเดลภาษา Llama 2 มาใช้งานแบบเรียบง่าย ซึ่งออกแบบมาเพื่อทำงานด้วยภาษา C ล้วนๆ โครงการนี้สร้างขึ้นโดย Andrej Karpathy นำเสนอกรอบงานเชิงวิชาการและน้ำหนักเบาสำหรับการอนุมานบนโมเดล Llama 2 ขนาดเล็กโดยไม่ต้องพึ่งพาภายนอก โครงการนี้มีขั้นตอนการฝึกอบรมและการอนุมานอย่างเต็มรูปแบบ โดยสามารถฝึกอบรมโมเดลใน PyTorch และดำเนินการในภายหลังโดยใช้โปรแกรมภาษา C ขนาด 700 บรรทัด (run.c) แม้ว่าในทางเทคนิคแล้วจะสามารถโหลดโมเดล Llama 2 อย่างเป็นทางการของ Meta ได้ แต่การรองรับในปัจจุบันจำกัดอยู่ที่ความแม่นยำ fp32 ซึ่งหมายความว่าการใช้งานจริงจำกัดอยู่ที่โมเดลที่มีพารามิเตอร์สูงสุดประมาณ 7B เป้าหมายของ llama2.c คือการแสดงให้เห็นว่าการใช้งานที่กะทัดรัดและโปร่งใสสามารถอนุมานได้อย่างมีประสิทธิภาพแม้กับโมเดลขนาดเล็ก โดยเน้นที่ความเรียบง่าย ความชัดเจน และการเข้าถึง โครงการนี้ต่อยอดจากบทเรียนจาก nanoGPT และได้รับแรงบันดาลใจจาก llama.cpp โดยมุ่งเน้นไปที่ความเรียบง่ายและคุณค่าทางการศึกษามากกว่าประสิทธิภาพการทำงานขนาดใหญ่
คุณสมบัติ
- ใช้สถาปัตยกรรม Llama 2 เต็มรูปแบบสำหรับทั้งการฝึกอบรมและการอนุมาน
- ให้กลไกการอนุมานแบบ C 700 บรรทัดที่กะทัดรัด (run.c)
- อนุญาตให้ฝึกอบรมใน PyTorch และรันโมเดลโดยตรงใน C
- รองรับความแม่นยำของโมเดล fp32 สำหรับ LLM ในระดับการศึกษาขนาดเล็ก
- นำเสนอการใช้งานที่สะอาดและไม่ต้องพึ่งพาอาศัยกันเพื่อศึกษาและปรับเปลี่ยนได้ง่าย
- ได้รับแรงบันดาลใจจาก llama.cpp แต่ได้รับการออกแบบให้มีความเรียบง่ายและน้อยชิ้นที่สุด
ภาษาโปรแกรม
ซี, ไพธอน
หมวดหมู่
นี่คือแอปพลิเคชันที่สามารถดึงข้อมูลจาก https://sourceforge.net/projects/llama2-c.mirror/ ได้ แอปพลิเคชันนี้โฮสต์อยู่ใน OnWorks เพื่อให้ใช้งานออนไลน์ได้ง่ายที่สุดจากระบบปฏิบัติการฟรีของเรา