Este é o aplicativo Linux chamado OpenLIT, cuja versão mais recente pode ser baixada como py-1.35.9sourcecode.tar.gz. Ele pode ser executado online no provedor de hospedagem gratuita OnWorks para estações de trabalho.
Baixe e execute on-line este aplicativo chamado OpenLIT com OnWorks gratuitamente.
Siga estas instruções para executar este aplicativo:
- 1. Baixe este aplicativo em seu PC.
- 2. Entre em nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que você deseja.
- 3. Carregue este aplicativo em tal gerenciador de arquivos.
- 4. Inicie o emulador OnWorks Linux online ou Windows online ou emulador MACOS online a partir deste site.
- 5. No sistema operacional OnWorks Linux que você acabou de iniciar, acesse nosso gerenciador de arquivos https://www.onworks.net/myfiles.php?username=XXXXX com o nome de usuário que deseja.
- 6. Baixe o aplicativo, instale-o e execute-o.
SCREENSHOTS
Ad
OpenLIT
DESCRIÇÃO
O OpenLIT é uma ferramenta nativa do OpenTelemetry projetada para ajudar desenvolvedores a obter insights sobre o desempenho de seus aplicativos LLM em produção. Ele coleta automaticamente metadados de entrada e saída do LLM e monitora o desempenho da GPU para LLMs auto-hospedados. O OpenLIT facilita a integração da observabilidade em projetos GenAI com apenas uma linha de código. Seja trabalhando com provedores populares de LLM, como OpenAI e HuggingFace, ou utilizando bancos de dados vetoriais como o ChromaDB, o OpenLIT garante que seus aplicativos sejam monitorados perfeitamente, fornecendo insights críticos, incluindo estatísticas de desempenho da GPU para LLMs auto-hospedados, a fim de melhorar o desempenho e a confiabilidade. Este projeto segue com orgulho as Convenções Semânticas da comunidade OpenTelemetry, atualizando-se constantemente para se alinhar aos padrões mais recentes em observabilidade.
Recursos
- Monitoramento avançado de desempenho do LLM e do VectorDB
- Rastreamento de custos para modelos personalizados e ajustados
- Rastreamento de custos para modelos personalizados e ajustados
- Documentação disponível
- SDKs nativos do OpenTelemetry e independentes de fornecedores
- Exemplos disponíveis
- O OpenLIT permite que você personalize o rastreamento de custos para modelos específicos
- O OpenLIT é construído com suporte nativo para OpenTelemetry
Linguagem de Programação
Python
Categorias
Este é um aplicativo que também pode ser obtido em https://sourceforge.net/projects/openlit.mirror/. Ele foi hospedado no OnWorks para ser executado online da maneira mais fácil em um de nossos sistemas operacionais gratuitos.
