Ini ialah apl Linux bernama llama2.c yang keluaran terbarunya boleh dimuat turun sebagai llama2.csourcecode.tar.gz. Ia boleh dijalankan dalam talian dalam penyedia pengehosan percuma OnWorks untuk stesen kerja.
Muat turun dan jalankan dalam talian apl bernama llama2.c ini dengan OnWorks secara percuma.
Ikut arahan ini untuk menjalankan apl ini:
- 1. Memuat turun aplikasi ini dalam PC anda.
- 2. Masukkan dalam pengurus fail kami https://www.onworks.net/myfiles.php?username=XXXXX dengan nama pengguna yang anda mahukan.
- 3. Muat naik aplikasi ini dalam pengurus filem tersebut.
- 4. Mulakan OnWorks Linux dalam talian atau emulator dalam talian Windows atau emulator dalam talian MACOS dari tapak web ini.
- 5. Daripada OS Linux OnWorks yang baru anda mulakan, pergi ke pengurus fail kami https://www.onworks.net/myfiles.php?username=XXXX dengan nama pengguna yang anda mahukan.
- 6. Muat turun aplikasi, pasang dan jalankan.
SKRIN:
llama2.c
HURAIAN:
llama2.c ialah pelaksanaan minimalis seni bina model bahasa Llama 2 yang direka untuk dijalankan sepenuhnya dalam C tulen. Dicipta oleh Andrej Karpathy, projek ini menawarkan rangka kerja pendidikan dan ringan untuk melaksanakan inferens pada model kecil Llama 2 tanpa kebergantungan luaran. Ia menyediakan saluran paip latihan dan inferens penuh: model boleh dilatih dalam PyTorch dan kemudiannya dilaksanakan menggunakan program C 700-baris ringkas (run.c). Walaupun ia secara teknikal boleh memuatkan model rasmi Llama 2 Meta, sokongan semasa terhad kepada ketepatan fp32, bermakna penggunaan praktikal dihadkan pada model sehingga sekitar parameter 7B. Matlamat llama2.c adalah untuk menunjukkan cara pelaksanaan yang padat dan telus boleh melaksanakan inferens yang bermakna walaupun dengan model kecil, menekankan kesederhanaan, kejelasan dan kebolehaksesan. Projek ini dibina berdasarkan pengajaran daripada nanoGPT dan mengambil inspirasi daripada llama.cpp, sebaliknya memfokuskan pada minimalisme dan nilai pendidikan berbanding prestasi berskala besar.
Ciri-ciri
- Melaksanakan seni bina Llama 2 penuh untuk latihan dan inferens
- Menyediakan enjin inferens berasaskan C 700-baris padat (run.c)
- Membenarkan latihan dalam PyTorch dan menjalankan model secara langsung dalam C
- Menyokong ketepatan model fp32 untuk LLM berskala pendidikan yang lebih kecil
- Menawarkan pelaksanaan yang bersih dan bebas pergantungan untuk kajian dan pengubahsuaian yang mudah
- Diinspirasikan oleh llama.cpp tetapi direka untuk kesederhanaan dan minimalism
Bahasa Pengaturcaraan
C, Python
Kategori
Ini adalah aplikasi yang juga boleh diambil dari https://sourceforge.net/projects/llama2-c.mirror/. Ia telah dihoskan dalam OnWorks untuk dijalankan dalam talian dengan cara yang paling mudah daripada salah satu Sistem Operasi percuma kami.