This is the Windows app named OpenLIT whose latest release can be downloaded as py-1.33.23sourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
OpenLIT with OnWorks라는 앱을 무료로 다운로드하여 온라인에서 실행해보세요.
이 앱을 실행하려면 다음 지침을 따르세요.
- 1. 이 애플리케이션을 PC에 다운로드했습니다.
- 2. 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX에 원하는 사용자 이름을 입력합니다.
- 3. 이러한 파일 관리자에서 이 응용 프로그램을 업로드합니다.
- 4. 이 웹사이트에서 모든 OS OnWorks 온라인 에뮬레이터를 시작하지만 더 나은 Windows 온라인 에뮬레이터를 시작합니다.
- 5. 방금 시작한 OnWorks Windows OS에서 원하는 사용자 이름으로 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX로 이동합니다.
- 6. 애플리케이션을 다운로드하여 설치합니다.
- 7. Linux 배포 소프트웨어 저장소에서 Wine을 다운로드합니다. 설치가 완료되면 앱을 두 번 클릭하여 Wine과 함께 실행할 수 있습니다. 인기 있는 Windows 프로그램 및 게임을 설치하는 데 도움이 되는 Wine을 통한 멋진 인터페이스인 PlayOnLinux를 사용해 볼 수도 있습니다.
Wine은 Linux에서 Windows 소프트웨어를 실행하는 방법이지만 Windows가 필요하지 않습니다. Wine은 모든 Linux 데스크탑에서 직접 Windows 프로그램을 실행할 수 있는 오픈 소스 Windows 호환성 계층입니다. 본질적으로 Wine은 Windows가 필요하지 않고 모든 Windows 응용 프로그램을 실행할 수 있도록 Windows를 처음부터 충분히 다시 구현하려고 합니다.
스크린 샷
Ad
오픈LIT
기술
OpenLIT은 개발자가 프로덕션 환경에서 LLM 애플리케이션의 성능에 대한 인사이트를 얻을 수 있도록 설계된 OpenTelemetry 기반 도구입니다. LLM 입출력 메타데이터를 자동으로 수집하고 셀프 호스팅 LLM의 GPU 성능을 모니터링합니다. OpenLIT은 단 한 줄의 코드만으로 GenAI 프로젝트에 관측 기능을 손쉽게 통합할 수 있도록 지원합니다. OpenAI 및 HuggingFace와 같은 인기 LLM 제공업체와 협력하든 ChromaDB와 같은 벡터 데이터베이스를 활용하든, OpenLIT은 애플리케이션의 원활한 모니터링을 보장하고 셀프 호스팅 LLM의 GPU 성능 통계를 포함한 중요한 인사이트를 제공하여 성능과 안정성을 향상시킵니다. 이 프로젝트는 OpenTelemetry 커뮤니티의 의미 규약을 준수하며, 관측 기능의 최신 표준에 맞춰 지속적으로 업데이트됩니다.
기능
- LLM 및 VectorDB 성능의 고급 모니터링
- 맞춤형 및 미세 조정 모델에 대한 비용 추적
- 맞춤형 및 미세 조정 모델에 대한 비용 추적
- 사용 가능한 문서
- OpenTelemetry 기반 및 공급업체 중립 SDK
- 사용 가능한 예시
- OpenLIT를 사용하면 특정 모델에 맞게 비용 추적을 맞춤화할 수 있습니다.
- OpenLIT은 OpenTelemetry에 대한 기본 지원을 기반으로 구축되었습니다.
프로그래밍 언어
Python
카테고리
이 애플리케이션은 https://sourceforge.net/projects/openlit.mirror/에서도 다운로드할 수 있습니다. OnWorks에 호스팅되어 무료 운영 체제 중 하나에서 가장 쉽게 온라인에서 실행할 수 있습니다.
