Bu, en son sürümü v8.1.12sourcecode.tar.gz olarak indirilebilen Lemonade adlı Linux uygulamasıdır. İş istasyonları için ücretsiz barındırma sağlayıcısı OnWorks'te çevrimiçi olarak çalıştırılabilir.
Lemonade adlı bu uygulamayı OnWorks ile ücretsiz olarak indirin ve çevrimiçi çalıştırın.
Bu uygulamayı çalıştırmak için şu talimatları izleyin:
- 1. Bu uygulamayı PC'nize indirdiniz.
- 2. Dosya yöneticimize https://www.onworks.net/myfiles.php?username=XXXXX istediğiniz kullanıcı adını girin.
- 3. Bu uygulamayı böyle bir dosya yöneticisine yükleyin.
- 4. Bu web sitesinden OnWorks Linux çevrimiçi veya Windows çevrimiçi öykünücüsünü veya MACOS çevrimiçi öykünücüsünü başlatın.
- 5. Yeni başladığınız OnWorks Linux işletim sisteminden, istediğiniz kullanıcı adıyla https://www.onworks.net/myfiles.php?username=XXXXX dosya yöneticimize gidin.
- 6. Uygulamayı indirin, kurun ve çalıştırın.
EKRAN GÖRÜNTÜLERİ:
Limonata
AÇIKLAMA:
Lemonade, hem NPU'lar hem de GPU'lar için en son teknoloji çıkarım motorlarını otomatik olarak yapılandırarak kendi donanımınızda mümkün olan en yüksek performansı sunmayı hedefleyen yerel bir LLM çalışma ortamıdır. Proje, dizüstü bilgisayarlarda ve iş istasyonlarında çalıştırabileceğiniz, arka uç farklılıklarını soyutlarken modelleri sunup yönetebileceğiniz tek bir yer sağlayan bir "yerel LLM sunucusu" olarak konumlandırır. README dosyası, girişimler, araştırma grupları ve büyük şirketler arasında gerçek dünya benimsenmesini vurgulayarak, oyuncak demolar yerine pratik dağıtımlara odaklanıldığını gösterir. Depo, indirmeler, belgeler ve destek için bir Discord ile kolay katılımı vurgulayarak aktif bir kullanıcı topluluğuna işaret eder. Mesajlaşma, kullanıcıların çekirdekleri veya bayrakları elle ayarlamasına gerek kalmadan modern hızlandırıcılardan maksimum verim/gecikme elde etmeye odaklanır. Sürümler, geliştiricileri uygulamalara ve araçlara entegre edilebilen bir hizmete yönlendirerek "sunucu" çerçevesini daha da güçlendirir.
Özellikler
- GPU ve NPU hızlandırmayı hedefleyen yerel LLM sunucusu
- Yüksek performanslı çıkarım arka uçlarının otomatik yapılandırılması
- Kılavuzlu dokümantasyonla basit kurulum ve çalıştırma akışı
- Discord ve aktif sorun takibi aracılığıyla topluluk desteği
- Araştırma, başlangıç ve kurumsal kullanım durumlarında çalışır
- Yerel yapay zeka uygulamaları için kullanıma hazır bir temel olarak tasarlandı
Programlama dili
Python
Kategoriler
Bu uygulama, https://sourceforge.net/projects/lemonade.mirror/ adresinden de indirilebilir. Ücretsiz İşletim Sistemlerimizden birinden çevrimiçi olarak en kolay şekilde çalıştırılabilmesi için OnWorks'te barındırılmıştır.