llama2.c라는 이름의 Linux 앱이며, 최신 릴리스는 llama2.csourcecode.tar.gz 파일로 다운로드할 수 있습니다. 워크스테이션용 무료 호스팅 제공업체인 OnWorks에서 온라인으로 실행할 수 있습니다.
OnWorks에서 llama2.c라는 앱을 무료로 다운로드하여 온라인에서 실행해보세요.
이 앱을 실행하려면 다음 지침을 따르세요.
- 1. 이 애플리케이션을 PC에 다운로드했습니다.
- 2. 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX에 원하는 사용자 이름을 입력합니다.
- 3. 이러한 파일 관리자에서 이 응용 프로그램을 업로드합니다.
- 4. 이 웹사이트에서 OnWorks Linux 온라인 또는 Windows 온라인 에뮬레이터 또는 MACOS 온라인 에뮬레이터를 시작합니다.
- 5. 방금 시작한 OnWorks Linux OS에서 원하는 사용자 이름으로 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX로 이동합니다.
- 6. 응용 프로그램을 다운로드하여 설치하고 실행합니다.
스크린샷:
라마2.c
설명 :
llama2.c는 순수 C 언어로만 실행되도록 설계된 Llama 2 언어 모델 아키텍처의 미니멀리스트 구현입니다. Andrej Karpathy가 개발한 이 프로젝트는 외부 종속성 없이 소규모 Llama 2 모델에 대한 추론을 수행하기 위한 교육적이고 가벼운 프레임워크를 제공합니다. 완전한 학습 및 추론 파이프라인을 제공합니다. 모델은 PyTorch로 학습한 후 간결한 700줄 C 프로그램(run.c)을 사용하여 실행할 수 있습니다. 기술적으로는 Meta의 공식 Llama 2 모델을 로드할 수 있지만, 현재 지원 정밀도는 fp32로 제한되어 있어 실제 사용은 최대 약 7억 개의 매개변수를 가진 모델로 제한됩니다. llama2.c의 목표는 간결하고 투명한 구현을 통해 소규모 모델에서도 의미 있는 추론을 수행하는 방법을 보여주는 것이며, 단순성, 명확성, 그리고 접근성을 강조합니다. 이 프로젝트는 nanoGPT에서 얻은 교훈을 바탕으로 llama.cpp에서 영감을 얻어 대규모 성능보다는 미니멀리즘과 교육적 가치에 중점을 둡니다.
기능
- 훈련과 추론을 위해 전체 Llama 2 아키텍처를 구현합니다.
- 700줄의 컴팩트한 C 기반 추론 엔진(run.c)을 제공합니다.
- PyTorch에서 학습하고 C에서 직접 모델을 실행할 수 있습니다.
- 소규모 교육 규모 LLM을 위한 fp32 모델 정밀도 지원
- 쉬운 연구와 수정을 위해 깔끔하고 종속성 없는 구현을 제공합니다.
- llama.cpp에서 영감을 얻었지만 단순성과 미니멀리즘을 위해 디자인되었습니다.
프로그래밍 언어
C, 파이썬
카테고리
이 애플리케이션은 https://sourceforge.net/projects/llama2-c.mirror/에서도 다운로드할 수 있습니다. OnWorks에 호스팅되어 무료 운영 체제 중 하나에서 가장 쉽게 온라인에서 실행할 수 있도록 설계되었습니다.