This is the Windows app named OpenLIT whose latest release can be downloaded as py-1.33.23sourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
Завантажте та запустіть онлайн цю програму під назвою OpenLIT з OnWorks безкоштовно.
Дотримуйтесь цих інструкцій, щоб запустити цю програму:
- 1. Завантажив цю програму на свій ПК.
- 2. Введіть у наш файловий менеджер https://www.onworks.net/myfiles.php?username=XXXXX із потрібним ім'ям користувача.
- 3. Завантажте цю програму в такий файловий менеджер.
- 4. Запустіть будь-який онлайн емулятор ОС OnWorks з цього веб-сайту, але кращий онлайн-емулятор Windows.
- 5. З ОС OnWorks Windows, яку ви щойно запустили, перейдіть до нашого файлового менеджера https://www.onworks.net/myfiles.php?username=XXXXX з потрібним іменем користувача.
- 6. Завантажте програму та встановіть її.
- 7. Завантажте Wine зі сховищ програмного забезпечення дистрибутивів Linux. Після встановлення ви можете двічі клацнути програму, щоб запустити їх за допомогою Wine. Ви також можете спробувати PlayOnLinux, модний інтерфейс замість Wine, який допоможе вам встановити популярні програми та ігри Windows.
Wine — це спосіб запуску програмного забезпечення Windows на Linux, але без використання Windows. Wine — це рівень сумісності Windows з відкритим вихідним кодом, який може запускати програми Windows безпосередньо на будь-якому робочому столі Linux. По суті, Wine намагається повторно реалізувати достатньо Windows з нуля, щоб він міг запускати всі ці програми Windows, насправді не потребуючи Windows.
ЕКРАНИ
Ad
OpenLIT
ОПИС
OpenLIT — це інструмент, налаштований на OpenTelemetry, розроблений, щоб допомогти розробникам отримати уявлення про продуктивність своїх LLM-застосунків у продакшені. Він автоматично збирає вхідні та вихідні метадані LLM і відстежує продуктивність GPU для самостійно розміщених LLM. OpenLIT спрощує інтеграцію спостережуваності в проекти GenAI лише за допомогою одного рядка коду. Незалежно від того, чи працюєте ви з популярними постачальниками LLM, такими як OpenAI та HuggingFace, чи використовуєте векторні бази даних, такі як ChromaDB, OpenLIT гарантує безперебійний моніторинг ваших застосунків, надаючи критичну аналітику, включаючи статистику продуктивності GPU для самостійно розміщених LLM, щоб покращити продуктивність і надійність. Цей проект з гордістю дотримується семантичних конвенцій спільноти OpenTelemetry, постійно оновлюючись, щоб відповідати останнім стандартам спостережуваності.
Функції
- Розширений моніторинг продуктивності LLM та VectorDB
- Відстеження витрат для користувацьких та точно налаштованих моделей
- Відстеження витрат для користувацьких та точно налаштованих моделей
- Документація доступна
- SDK, нативні для OpenTelemetry та нейтральні до постачальників
- Доступні приклади
- OpenLIT дозволяє налаштувати відстеження витрат для конкретних моделей
- OpenLIT побудовано з вбудованою підтримкою OpenTelemetry
Мова програмування
Python
Категорії
Це програма, яку також можна отримати з https://sourceforge.net/projects/openlit.mirror/. Він проводився в Onworks, щоб запустити в Інтернеті найпростіше від однієї з наших безкоштовних оперативних систем.
