This is the Linux app named LLMs-from-scratch whose latest release can be downloaded as LLMs-from-scratchsourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.
OnWorks에서 LLMs-from-scratch라는 앱을 무료로 다운로드하여 온라인에서 실행해보세요.
이 앱을 실행하려면 다음 지침을 따르세요.
- 1. 이 애플리케이션을 PC에 다운로드했습니다.
- 2. 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX에 원하는 사용자 이름을 입력합니다.
- 3. 이러한 파일 관리자에서 이 응용 프로그램을 업로드합니다.
- 4. 이 웹사이트에서 OnWorks Linux 온라인 또는 Windows 온라인 에뮬레이터 또는 MACOS 온라인 에뮬레이터를 시작합니다.
- 5. 방금 시작한 OnWorks Linux OS에서 원하는 사용자 이름으로 파일 관리자 https://www.onworks.net/myfiles.php?username=XXXXX로 이동합니다.
- 6. 응용 프로그램을 다운로드하여 설치하고 실행합니다.
스크린 샷
Ad
처음부터 시작하는 LLM
기술
LLMs-from-scratch는 최신 대규모 언어 모델 구성 요소를 단계별로 구현하는 교육용 코드베이스입니다. 토큰화, 임베딩, 어텐션, 피드포워드 계층, 정규화, 훈련 루프와 같은 구성 요소를 강조하여 학습자가 모델 사용법뿐만 아니라 내부적으로 어떻게 작동하는지 이해할 수 있도록 합니다. 이 저장소는 로직을 가리는 무거운 프레임워크 없이 실행 및 수정 가능한 명확한 Python, NumPy 또는 PyTorch 구현을 제공합니다. 챕터와 노트북은 작은 장난감 모델에서 샘플링 전략 및 평가 후크를 포함한 더욱 강력한 변환기 스택으로 발전합니다. 가독성, 정확성, 실험에 중점을 두어 이론에서 실제 시스템으로 전환하는 학생과 실무자에게 이상적입니다. 이 과정을 마치면 데이터 파이프라인, 최적화, 추론이 어떻게 상호 작용하여 유창한 텍스트를 생성하는지 확실하게 이해하게 될 것입니다.
기능
- 토크나이저, 어텐션 및 트랜스포머 블록의 단계별 구현
- 학습 및 조작을 위해 설계된 명확한 Python 노트북 및 스크립트
- 전체 데이터와 컴퓨팅 흐름을 노출하는 훈련 및 샘플링 루프
- 확장 선택, 정규화 및 평가 지표에 대한 탐색
- 수학과 코드를 투명하게 유지하기 위한 최소한의 종속성
- 더 큰 모델과 사용자 정의 데이터 세트로 확장하기 위한 기반 역할을 합니다.
프로그래밍 언어
Python
카테고리
이 애플리케이션은 https://sourceforge.net/projects/llms-from-scratch.mirror/에서도 다운로드할 수 있습니다. OnWorks에 호스팅되어 무료 운영 체제 중 하나에서 가장 쉽게 온라인에서 실행할 수 있도록 설계되었습니다.
