This is the Windows app named LLamaSharp whose latest release can be downloaded as v0.25.0sourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
OnWorks가 포함된 LLamaSharp라는 이 앱을 무료로 다운로드하여 온라인으로 실행하세요.
이 앱을 실행하려면 다음 지침을 따르세요.
- 1. 이 애플리케이션을 PC에 다운로드했습니다.
- 2. 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX에 원하는 사용자 이름을 입력합니다.
- 3. 이러한 파일 관리자에서 이 응용 프로그램을 업로드합니다.
- 4. 이 웹사이트에서 모든 OS OnWorks 온라인 에뮬레이터를 시작하지만 더 나은 Windows 온라인 에뮬레이터를 시작합니다.
- 5. 방금 시작한 OnWorks Windows OS에서 원하는 사용자 이름으로 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX로 이동합니다.
- 6. 애플리케이션을 다운로드하여 설치합니다.
- 7. Linux 배포 소프트웨어 저장소에서 Wine을 다운로드합니다. 설치가 완료되면 앱을 두 번 클릭하여 Wine과 함께 실행할 수 있습니다. 인기 있는 Windows 프로그램 및 게임을 설치하는 데 도움이 되는 Wine을 통한 멋진 인터페이스인 PlayOnLinux를 사용해 볼 수도 있습니다.
Wine은 Linux에서 Windows 소프트웨어를 실행하는 방법이지만 Windows가 필요하지 않습니다. Wine은 모든 Linux 데스크탑에서 직접 Windows 프로그램을 실행할 수 있는 오픈 소스 Windows 호환성 계층입니다. 본질적으로 Wine은 Windows가 필요하지 않고 모든 Windows 응용 프로그램을 실행할 수 있도록 Windows를 처음부터 충분히 다시 구현하려고 합니다.
스크린 샷
Ad
라마샤프
기술
llama.cpp의 C#/.NET 바인딩입니다. LLaMa 모델을 추론하고 이를 로컬 환경에 배포하기 위한 API를 제공합니다. llama.cpp를 직접 컴파일할 필요 없이 Windows, Linux 및 MAC 모두에서 작동합니다. 성능은 llama.cpp에 가깝습니다. 또한 BotSharp와 같은 다른 프로젝트와의 통합을 제공하여 더 높은 수준의 애플리케이션 및 UI를 제공합니다.
기능
- 모델 추론 및 채팅 세션
- LLamaSharp는 추론을 실행하는 두 가지 방법인 LLamaExecutor와 ChatSession을 제공합니다.
- LLamaSharp를 사용하면 모델을 양자화하기 위해 C++ 프로젝트를 컴파일하고 스크립트를 실행할 필요가 없습니다. 대신 C#에서 실행하면 됩니다.
- 우리는 다음의 통합을 제공합니다. ASP.NET core
- 임베딩 생성, 토큰화 및 탈토큰화
- LLaMa 모델 추론
프로그래밍 언어
C#
카테고리
이는 https://sourceforge.net/projects/llamasharp.mirror/에서도 가져올 수 있는 애플리케이션입니다. 무료 운영 시스템 중 하나에서 가장 쉬운 방법으로 온라인으로 실행하기 위해 OnWorks에서 호스팅되었습니다.