Dit is de Linux-app OpenLIT, waarvan de nieuwste versie kan worden gedownload als py-1.35.9sourcecode.tar.gz. Deze kan online worden uitgevoerd via de gratis hostingprovider OnWorks voor werkstations.
Download en gebruik online gratis deze app met de naam OpenLIT met OnWorks.
Volg deze instructies om deze app uit te voeren:
- 1. Download deze applicatie op uw pc.
- 2. Voer in onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX in met de gebruikersnaam die u wilt.
- 3. Upload deze applicatie in zo'n bestandsbeheerder.
- 4. Start de OnWorks Linux online of Windows online emulator of MACOS online emulator vanaf deze website.
- 5. Ga vanuit het OnWorks Linux-besturingssysteem dat u zojuist hebt gestart naar onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX met de gewenste gebruikersnaam.
- 6. Download de applicatie, installeer hem en voer hem uit.
SCREENSHOTS
Ad
OpenLIT
PRODUCTBESCHRIJVING
OpenLIT is een OpenTelemetry-native tool die is ontworpen om ontwikkelaars inzicht te geven in de prestaties van hun LLM-applicaties in productie. Het verzamelt automatisch LLM-invoer- en uitvoermetadata en monitort de GPU-prestaties van zelfgehoste LLM's. OpenLIT maakt het integreren van observatie in GenAI-projecten moeiteloos met slechts één regel code. Of u nu werkt met populaire LLM-providers zoals OpenAI en HuggingFace, of gebruikmaakt van vectordatabases zoals ChromaDB, OpenLIT zorgt ervoor dat uw applicaties naadloos worden gemonitord en biedt cruciale inzichten, waaronder GPU-prestatiestatistieken voor zelfgehoste LLM's, om de prestaties en betrouwbaarheid te verbeteren. Dit project volgt met trots de semantische conventies van de OpenTelemetry-community en wordt voortdurend bijgewerkt om te voldoen aan de nieuwste normen op het gebied van observatie.
Kenmerken
- Geavanceerde monitoring van LLM- en VectorDB-prestaties
- Kostenbewaking voor aangepaste en verfijnde modellen
- Kostenbewaking voor aangepaste en verfijnde modellen
- Documentatie aanwezig
- OpenTelemetry-native en leveranciersonafhankelijke SDK's
- Voorbeelden beschikbaar
- Met OpenLIT kunt u de kostenregistratie voor specifieke modellen op maat maken
- OpenLIT is gebouwd met native ondersteuning voor OpenTelemetry
Programmeertaal
Python
Categorieën
Deze applicatie kan ook worden gedownload van https://sourceforge.net/projects/openlit.mirror/. Deze is gehost in OnWorks, zodat deze eenvoudig online kan worden uitgevoerd via een van onze gratis besturingssystemen.
