Bu, en son sürümü py-1.35.9sourcecode.tar.gz olarak indirilebilen OpenLIT adlı Linux uygulamasıdır. İş istasyonları için ücretsiz barındırma sağlayıcısı OnWorks'te çevrimiçi olarak çalıştırılabilir.
OpenLIT with OnWorks isimli bu uygulamayı ücretsiz olarak indirip çevrimiçi çalıştırın.
Bu uygulamayı çalıştırmak için şu talimatları izleyin:
- 1. Bu uygulamayı PC'nize indirdiniz.
- 2. Dosya yöneticimize https://www.onworks.net/myfiles.php?username=XXXXX istediğiniz kullanıcı adını girin.
- 3. Bu uygulamayı böyle bir dosya yöneticisine yükleyin.
- 4. Bu web sitesinden OnWorks Linux çevrimiçi veya Windows çevrimiçi öykünücüsünü veya MACOS çevrimiçi öykünücüsünü başlatın.
- 5. Yeni başladığınız OnWorks Linux işletim sisteminden, istediğiniz kullanıcı adıyla https://www.onworks.net/myfiles.php?username=XXXXX dosya yöneticimize gidin.
- 6. Uygulamayı indirin, kurun ve çalıştırın.
EKRAN
Ad
AçıkLIT
AÇIKLAMA
OpenLIT, geliştiricilerin üretimdeki LLM uygulamalarının performansına ilişkin içgörüler edinmelerine yardımcı olmak için tasarlanmış OpenTelemetry'ye özgü bir araçtır. Otomatik olarak LLM giriş ve çıkış meta verilerini toplar ve kendi kendine barındırılan LLM'ler için GPU performansını izler. OpenLIT, yalnızca tek bir kod satırıyla gözlemlenebilirliği GenAI projelerine entegre etmeyi zahmetsiz hale getirir. OpenAI ve HuggingFace gibi popüler LLM sağlayıcılarıyla çalışıyor veya ChromaDB gibi vektör veritabanlarından yararlanıyor olun, OpenLIT uygulamalarınızın sorunsuz bir şekilde izlenmesini sağlar ve performansı ve güvenilirliği artırmak için kendi kendine barındırılan LLM'ler için GPU performans istatistikleri gibi kritik içgörüler sunar. Bu proje, gözlemlenebilirlikteki en son standartlarla uyumlu hale getirmek için sürekli olarak güncellenen OpenTelemetry topluluğunun Semantik Sözleşmelerini gururla takip eder.
Özellikler
- LLM ve VectorDB Performansının Gelişmiş İzlenmesi
- Özel ve İnce Ayarlı Modeller için Maliyet Takibi
- Özel ve İnce Ayarlı Modeller için Maliyet Takibi
- Mevcut belgeler
- OpenTelemetry yerel ve satıcıdan bağımsız SDK'lar
- Örnekler mevcut
- OpenLIT, belirli modeller için maliyet takibini kişiselleştirmenize olanak tanır
- OpenLIT, OpenTelemetry için yerel destekle oluşturulmuştur
Programlama dili
Python
Kategoriler
Bu, https://sourceforge.net/projects/openlit.mirror/ adresinden de alınabilen bir uygulamadır. Ücretsiz İşletim Sistemlerimizden birinden en kolay şekilde çevrimiçi olarak çalıştırılabilmesi için OnWorks'te barındırılmıştır.
