Lemonade라는 이름의 리눅스 앱으로, 최신 버전은 v8.1.12sourcecode.tar.gz 형식으로 다운로드할 수 있습니다. 워크스테이션용 무료 호스팅 제공업체인 OnWorks에서 온라인으로 실행할 수 있습니다.
OnWorks가 포함된 Lemonade라는 앱을 무료로 다운로드하여 온라인으로 실행해 보세요.
이 앱을 실행하려면 다음 지침을 따르세요.
- 1. 이 애플리케이션을 PC에 다운로드했습니다.
- 2. 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX에 원하는 사용자 이름을 입력합니다.
- 3. 이러한 파일 관리자에서 이 응용 프로그램을 업로드합니다.
- 4. 이 웹사이트에서 OnWorks Linux 온라인 또는 Windows 온라인 에뮬레이터 또는 MACOS 온라인 에뮬레이터를 시작합니다.
- 5. 방금 시작한 OnWorks Linux OS에서 원하는 사용자 이름으로 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX로 이동합니다.
- 6. 응용 프로그램을 다운로드하여 설치하고 실행합니다.
스크린샷:
레모네이드
설명 :
Lemonade는 NPU와 GPU 모두에 최첨단 추론 엔진을 자동 구성하여 자체 하드웨어에서 최고의 성능을 제공하는 것을 목표로 하는 로컬 LLM 런타임입니다. 이 프로젝트는 노트북과 워크스테이션에서 실행할 수 있는 "로컬 LLM 서버"로 자리매김하여 백엔드 간의 차이를 추상화하는 동시에 단일 플랫폼에서 모델을 제공하고 관리할 수 있도록 지원합니다. README는 스타트업, 연구 그룹, 대기업 등 다양한 기업의 실제 도입을 강조하며, 단순한 데모가 아닌 실질적인 배포에 중점을 두고 있음을 시사합니다. 저장소는 다운로드, 문서, 지원을 위한 Discord를 통해 손쉽게 온보딩할 수 있도록 지원하며, 활발한 사용자 커뮤니티를 구축하고 있음을 시사합니다. 메시징은 사용자가 커널이나 플래그를 직접 튜닝하지 않고도 최신 가속기를 통해 최대 처리량/지연 시간을 확보하는 데 중점을 두고 있습니다. 릴리스는 "서버" 프레임워크를 더욱 강화하여 개발자에게 앱과 도구에 통합 가능한 서비스를 제공합니다.
기능
- GPU 및 NPU 가속을 타겟으로 하는 로컬 LLM 서버
- 고성능 추론 백엔드의 자동 구성
- 가이드 문서로 구성된 간단한 설치 및 실행 흐름
- Discord 및 활성 문제 추적을 통한 커뮤니티 지원
- 연구, 스타트업 및 기업 사용 사례 전반에 걸쳐 작업합니다.
- 로컬 AI 앱을 위한 드롭인 기반으로 설계되었습니다.
프로그래밍 언어
Python
카테고리
이 애플리케이션은 https://sourceforge.net/projects/lemonade.mirror/에서도 다운로드할 수 있습니다. OnWorks에 호스팅되어 무료 운영 체제 중 하나에서 가장 쉽게 온라인에서 실행할 수 있도록 설계되었습니다.