Dies ist die Windows-App namens OpenLIT, deren neueste Version als py-1.33.23sourcecode.tar.gz heruntergeladen werden kann. Sie kann online beim kostenlosen Hosting-Anbieter OnWorks für Workstations ausgeführt werden.
Laden Sie diese App namens OpenLIT mit OnWorks kostenlos herunter und führen Sie sie online aus.
Befolgen Sie diese Anweisungen, um diese App auszuführen:
- 1. Diese Anwendung auf Ihren PC heruntergeladen.
- 2. Geben Sie in unserem Dateimanager https://www.onworks.net/myfiles.php?username=XXXXX den gewünschten Benutzernamen ein.
- 3. Laden Sie diese Anwendung in einem solchen Dateimanager hoch.
- 4. Starten Sie einen beliebigen OS OnWorks-Online-Emulator von dieser Website, aber einen besseren Windows-Online-Emulator.
- 5. Rufen Sie vom gerade gestarteten OnWorks Windows-Betriebssystem unseren Dateimanager https://www.onworks.net/myfiles.php?username=XXXXX mit dem gewünschten Benutzernamen auf.
- 6. Laden Sie die Anwendung herunter und installieren Sie sie.
- 7. Laden Sie Wine aus den Software-Repositorys Ihrer Linux-Distributionen herunter. Nach der Installation können Sie dann auf die App doppelklicken, um sie mit Wine auszuführen. Sie können auch PlayOnLinux ausprobieren, eine schicke Schnittstelle über Wine, die Ihnen bei der Installation beliebter Windows-Programme und -Spiele hilft.
Wine ist eine Möglichkeit, Windows-Software unter Linux auszuführen, jedoch ohne Windows. Wine ist eine Open-Source-Windows-Kompatibilitätsschicht, die Windows-Programme direkt auf jedem Linux-Desktop ausführen kann. Im Wesentlichen versucht Wine, genügend Windows von Grund auf neu zu implementieren, damit alle diese Windows-Anwendungen ausgeführt werden können, ohne dass Windows tatsächlich benötigt wird.
SCREENSHOTS
Ad
OpenLIT
BESCHREIBUNG
OpenLIT ist ein OpenTelemetry-natives Tool, das Entwicklern hilft, Einblicke in die Leistung ihrer LLM-Anwendungen in der Produktion zu gewinnen. Es erfasst automatisch LLM-Ein- und Ausgabemetadaten und überwacht die GPU-Leistung selbstgehosteter LLMs. OpenLIT ermöglicht die mühelose Integration von Observability in GenAI-Projekte mit nur einer einzigen Codezeile. Ob Sie mit beliebten LLM-Anbietern wie OpenAI und HuggingFace arbeiten oder Vektordatenbanken wie ChromaDB nutzen – OpenLIT gewährleistet die nahtlose Überwachung Ihrer Anwendungen und liefert wichtige Erkenntnisse, einschließlich GPU-Leistungsstatistiken für selbstgehostete LLMs, um Leistung und Zuverlässigkeit zu verbessern. Dieses Projekt folgt den semantischen Konventionen der OpenTelemetry-Community und wird kontinuierlich aktualisiert, um den neuesten Standards im Bereich Observability zu entsprechen.
Eigenschaften
- Erweiterte Überwachung der LLM- und VectorDB-Leistung
- Kostenverfolgung für benutzerdefinierte und optimierte Modelle
- Kostenverfolgung für benutzerdefinierte und optimierte Modelle
- Dokumentation vorhanden
- OpenTelemetry-native und anbieterneutrale SDKs
- Beispiele verfügbar
- OpenLIT ermöglicht Ihnen die individuelle Kostenverfolgung für bestimmte Modelle
- OpenLIT wurde mit nativer Unterstützung für OpenTelemetry entwickelt
Programmiersprache
Python
Kategorien
Diese Anwendung ist auch unter https://sourceforge.net/projects/openlit.mirror/ verfügbar. Sie wurde in OnWorks gehostet, um die Ausführung online auf einem unserer kostenlosen Betriebssysteme zu vereinfachen.
