Bu, en son sürümü llama2.csourcecode.tar.gz olarak indirilebilen llama2.c adlı Linux uygulamasıdır. İş istasyonları için ücretsiz barındırma sağlayıcısı OnWorks'te çevrimiçi olarak çalıştırılabilir.
Llama2.c isimli uygulamayı OnWorks ile ücretsiz olarak çevrimiçi indirin ve çalıştırın.
Bu uygulamayı çalıştırmak için şu talimatları izleyin:
- 1. Bu uygulamayı PC'nize indirdiniz.
- 2. Dosya yöneticimize https://www.onworks.net/myfiles.php?username=XXXXX istediğiniz kullanıcı adını girin.
- 3. Bu uygulamayı böyle bir dosya yöneticisine yükleyin.
- 4. Bu web sitesinden OnWorks Linux çevrimiçi veya Windows çevrimiçi öykünücüsünü veya MACOS çevrimiçi öykünücüsünü başlatın.
- 5. Yeni başladığınız OnWorks Linux işletim sisteminden, istediğiniz kullanıcı adıyla https://www.onworks.net/myfiles.php?username=XXXXX dosya yöneticimize gidin.
- 6. Uygulamayı indirin, kurun ve çalıştırın.
EKRAN GÖRÜNTÜLERİ:
lama2.c
AÇIKLAMA:
llama2.c, tamamen saf C'de çalışacak şekilde tasarlanmış Llama 2 dil modeli mimarisinin minimalist bir uygulamasıdır. Andrej Karpathy tarafından oluşturulan bu proje, harici bağımlılıklar olmadan küçük Llama 2 modelleri üzerinde çıkarım yapmak için eğitici ve hafif bir çerçeve sunar. Tam bir eğitim ve çıkarım hattı sağlar: modeller PyTorch'ta eğitilebilir ve daha sonra özlü 700 satırlık bir C programı (run.c) kullanılarak çalıştırılabilir. Teknik olarak Meta'nın resmi Llama 2 modellerini yükleyebilmesine rağmen, mevcut destek fp32 hassasiyetiyle sınırlıdır; bu da pratik kullanımın yaklaşık 7 milyar parametreye kadar olan modellerle sınırlı olduğu anlamına gelir. llama2.c'nin amacı, kompakt ve şeffaf bir uygulamanın küçük modellerle bile anlamlı çıkarımlar yapabileceğini, basitlik, açıklık ve erişilebilirliği vurgulayarak göstermektir. Proje, nanoGPT'den alınan dersler üzerine inşa edilmiş ve llama.cpp'den ilham alarak büyük ölçekli performans yerine minimalizm ve eğitim değerine odaklanmıştır.
Özellikler
- Hem eğitim hem de çıkarım için tam Llama 2 mimarisini uygular
- Kompakt, 700 satırlık C tabanlı bir çıkarım motoru sağlar (run.c)
- PyTorch'ta eğitime ve modelleri doğrudan C'de çalıştırmaya olanak tanır
- Daha küçük, eğitim ölçeğindeki LLM'ler için fp32 model hassasiyetini destekler
- Kolay çalışma ve değişiklik için temiz, bağımlılıktan uzak bir uygulama sunar
- Llama.cpp'den esinlenilmiştir ancak sadelik ve minimalizm için tasarlanmıştır
Programlama dili
C, Piton
Kategoriler
Bu uygulama, https://sourceforge.net/projects/llama2-c.mirror/ adresinden de indirilebilir. Ücretsiz İşletim Sistemlerimizden birinden çevrimiçi olarak en kolay şekilde çalıştırılabilmesi için OnWorks'te barındırılmıştır.