LLM Foundry라는 Windows 앱으로, 최신 릴리스는 v0.22.0sourcecode.tar.gz 형식으로 다운로드할 수 있습니다. 워크스테이션용 무료 호스팅 제공업체인 OnWorks에서 온라인으로 실행할 수 있습니다.
OnWorks가 포함된 LLM Foundry라는 앱을 무료로 온라인으로 다운로드하여 실행하세요.
이 앱을 실행하려면 다음 지침을 따르세요.
- 1. 이 애플리케이션을 PC에 다운로드했습니다.
- 2. 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX에 원하는 사용자 이름을 입력합니다.
- 3. 이러한 파일 관리자에서 이 응용 프로그램을 업로드합니다.
- 4. 이 웹사이트에서 모든 OS OnWorks 온라인 에뮬레이터를 시작하지만 더 나은 Windows 온라인 에뮬레이터를 시작합니다.
- 5. 방금 시작한 OnWorks Windows OS에서 원하는 사용자 이름으로 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX로 이동합니다.
- 6. 애플리케이션을 다운로드하여 설치합니다.
- 7. Linux 배포 소프트웨어 저장소에서 Wine을 다운로드합니다. 설치가 완료되면 앱을 두 번 클릭하여 Wine과 함께 실행할 수 있습니다. 인기 있는 Windows 프로그램 및 게임을 설치하는 데 도움이 되는 Wine을 통한 멋진 인터페이스인 PlayOnLinux를 사용해 볼 수도 있습니다.
Wine은 Linux에서 Windows 소프트웨어를 실행하는 방법이지만 Windows가 필요하지 않습니다. Wine은 모든 Linux 데스크탑에서 직접 Windows 프로그램을 실행할 수 있는 오픈 소스 Windows 호환성 계층입니다. 본질적으로 Wine은 Windows가 필요하지 않고 모든 Windows 응용 프로그램을 실행할 수 있도록 Windows를 처음부터 충분히 다시 구현하려고 합니다.
스크린 샷
Ad
LLM 파운드리
기술
모자이크ML 파운데이션 시리즈의 첫 번째 항목인 MPT-7B를 소개합니다. MPT-7B는 텍스트와 코드의 1T 토큰에 대해 처음부터 훈련된 변환기입니다. 오픈 소스이며 상업적 사용이 가능하며 LLaMA-7B의 품질과 일치합니다. MPT-7B는 ~$9.5의 비용으로 사람의 개입 없이 200일 만에 mosaicML 플랫폼에서 교육을 받았습니다. LLM(대형 언어 모델)이 세상을 변화시키고 있지만, 자원이 풍부한 업계 실험실 외부의 경우 이러한 모델을 교육하고 배포하는 것이 매우 어려울 수 있습니다. 이로 인해 Meta의 LLaMA 시리즈, EleutherAI의 Pythia 시리즈, StabilityAI의 StableLM 시리즈, Berkeley AI Research의 OpenLLaMA 모델 등 오픈 소스 LLM을 중심으로 활발한 활동이 이루어졌습니다.
기능
- 상업적 사용이 허가됨(LLaMA와 다름)
- 대량의 데이터(LLaMA와 같은 1T 토큰, Pythia의 경우 300B, OpenLLaMA의 경우 300B, StableLM의 경우 800B)에 대해 교육되었습니다.
- ALiBi 덕분에 매우 긴 입력을 처리할 준비가 되어 있습니다(최대 65개의 입력에 대해 훈련했으며 다른 오픈 소스 모델의 경우 최대 84k와 2k-4k를 처리할 수 있음)
- 빠른 훈련 및 추론에 최적화됨(FlashAttention 및 FasterTransformer를 통해)
- 매우 효율적인 오픈소스 학습 코드 탑재
- MPT-7B 베이스는 6.7B 매개변수를 갖춘 디코더 스타일 변압기입니다.
프로그래밍 언어
Python
카테고리
이는 https://sourceforge.net/projects/llm-foundry.mirror/에서도 가져올 수 있는 애플리케이션입니다. 무료 운영 시스템 중 하나에서 가장 쉬운 방법으로 온라인으로 실행하기 위해 OnWorks에서 호스팅되었습니다.
