Jest to aplikacja dla systemu Windows o nazwie LLaMA.go, której najnowszą wersję można pobrać jako v1.4_ServerMode.zip. Można go uruchomić online w bezpłatnym dostawcy hostingu OnWorks dla stacji roboczych.
Pobierz i uruchom online aplikację o nazwie LLaMA.go z OnWorks za darmo.
Postępuj zgodnie z tymi instrukcjami, aby uruchomić tę aplikację:
- 1. Pobrałem tę aplikację na swój komputer.
- 2. Wpisz w naszym menedżerze plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 3. Prześlij tę aplikację w takim menedżerze plików.
- 4. Uruchom dowolny emulator online systemu operacyjnego OnWorks z tej witryny, ale lepszy emulator online systemu Windows.
- 5. W systemie operacyjnym OnWorks Windows, który właśnie uruchomiłeś, przejdź do naszego menedżera plików https://www.onworks.net/myfiles.php?username=XXXXX z wybraną nazwą użytkownika.
- 6. Pobierz aplikację i zainstaluj ją.
- 7. Pobierz Wine z repozytoriów oprogramowania dystrybucji Linuksa. Po zainstalowaniu możesz dwukrotnie kliknąć aplikację, aby uruchomić ją za pomocą Wine. Możesz także wypróbować PlayOnLinux, fantazyjny interfejs w Wine, który pomoże Ci zainstalować popularne programy i gry Windows.
Wine to sposób na uruchamianie oprogramowania Windows w systemie Linux, ale bez systemu Windows. Wine to warstwa kompatybilności z systemem Windows typu open source, która może uruchamiać programy systemu Windows bezpośrednio na dowolnym pulpicie systemu Linux. Zasadniczo Wine próbuje ponownie zaimplementować system Windows od podstaw, aby mógł uruchamiać wszystkie te aplikacje Windows bez faktycznego korzystania z systemu Windows.
ZRZUTY EKRANU
Ad
LLaMA.go
OPIS
llama.go jest jak llama.cpp w czystym Golangu. Kod projektu oparty jest na legendarnym frameworku ggml.cpp autorstwa Georgi Gerganova napisanym w C++ z takim samym podejściem do wydajności i elegancji. Obydwa modele przechowują wagi FP32, więc do LLaMA-32B potrzebne będzie co najmniej 7 GB pamięci RAM (nie VRAM ani RAM GPU). Podwójnie do 64 Gb dla LLaMA-13B.
Korzyści
- Matematyka tensorowa w czystym Golangu
- Wdrażaj architekturę sieci neuronowej LLaMA i ładowanie modelu
- Przetestuj z mniejszym modelem LLaMA-7B
- Upewnij się, że wnioskowanie w Go działa dokładnie tak samo jak C++
- Pozwól zabłysnąć! Włącz wielowątkowość i przesyłanie wiadomości, aby zwiększyć wydajność
- Zgodność międzypatformowa z systemami Mac, Linux i Windows
Język programowania
Go
Kategorie
Jest to aplikacja, którą można również pobrać ze strony https://sourceforge.net/projects/llama-go.mirror/. Został on hostowany w OnWorks, aby można go było uruchomić online w najprostszy sposób z jednego z naszych bezpłatnych systemów operacyjnych.