This is the Linux app named Lemonade whose latest release can be downloaded as v8.1.12sourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
Muat turun dan jalankan dalam talian apl bernama Lemonade ini dengan OnWorks secara percuma.
Ikut arahan ini untuk menjalankan apl ini:
- 1. Memuat turun aplikasi ini dalam PC anda.
- 2. Masukkan dalam pengurus fail kami https://www.onworks.net/myfiles.php?username=XXXXX dengan nama pengguna yang anda mahukan.
- 3. Muat naik aplikasi ini dalam pengurus filem tersebut.
- 4. Mulakan OnWorks Linux dalam talian atau emulator dalam talian Windows atau emulator dalam talian MACOS dari tapak web ini.
- 5. Daripada OS Linux OnWorks yang baru anda mulakan, pergi ke pengurus fail kami https://www.onworks.net/myfiles.php?username=XXXX dengan nama pengguna yang anda mahukan.
- 6. Muat turun aplikasi, pasang dan jalankan.
SKRIN
Ad
Lemonade
DESCRIPTION
Lemonade ialah masa jalan LLM tempatan yang bertujuan untuk memberikan prestasi tertinggi yang mungkin pada perkakasan anda sendiri dengan mengkonfigurasi automatik enjin inferens terkini untuk kedua-dua NPU dan GPU. Projek ini meletakkan dirinya sebagai "pelayan LLM tempatan" yang boleh anda jalankan pada komputer riba dan stesen kerja, menghilangkan perbezaan bahagian belakang sambil memberi anda satu tempat untuk berkhidmat dan mengurus model. READMEnya menekankan penggunaan dunia sebenar merentas syarikat pemula, kumpulan penyelidikan dan syarikat besar, menandakan tumpuan pada penggunaan praktikal dan bukannya demo mainan. Repositori menyerlahkan onboarding yang mudah dengan muat turun, dokumen dan Discord untuk sokongan, mencadangkan komuniti pengguna yang aktif. Pemesejan berpusat pada memerah daya pemprosesan/kependaman maksimum daripada pemecut moden tanpa pengguna perlu menala kernel atau bendera. Keluaran mengukuhkan lagi pembingkaian "pelayan", menunjukkan pembangun ke arah perkhidmatan yang boleh disepadukan ke dalam apl dan alatan.
Ciri-ciri
- Pelayan LLM tempatan menyasarkan pecutan GPU dan NPU
- Autokonfigurasi bahagian belakang inferens berprestasi tinggi
- Pasang dan jalankan aliran mudah dengan dokumentasi berpandu
- Sokongan komuniti melalui Discord dan penjejakan isu aktif
- Berfungsi merentas penyelidikan, permulaan dan kes penggunaan perusahaan
- Direka bentuk untuk menjadi asas drop-in untuk apl AI tempatan
Bahasa Pengaturcaraan
Python
Kategori
Ini adalah aplikasi yang juga boleh diambil dari https://sourceforge.net/projects/lemonade.mirror/. Ia telah dihoskan dalam OnWorks untuk dijalankan dalam talian dengan cara yang paling mudah daripada salah satu Sistem Operasi percuma kami.
