Dit is de Windows-app genaamd Aviary waarvan de nieuwste release kan worden gedownload als v0.3.1.zip. Het kan online worden uitgevoerd in de gratis hostingprovider OnWorks voor werkstations.
Download en voer deze app genaamd Aviary gratis uit met OnWorks.
Volg deze instructies om deze app uit te voeren:
- 1. Download deze applicatie op uw pc.
- 2. Voer in onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX in met de gebruikersnaam die u wilt.
- 3. Upload deze applicatie in zo'n bestandsbeheerder.
- 4. Start een OS OnWorks online emulator vanaf deze website, maar een betere Windows online emulator.
- 5. Ga vanuit het OnWorks Windows-besturingssysteem dat u zojuist hebt gestart naar onze bestandsbeheerder https://www.onworks.net/myfiles.php?username=XXXXX met de gewenste gebruikersnaam.
- 6. Download de applicatie en installeer deze.
- 7. Download Wine van de softwarebronnen voor Linux-distributies. Eenmaal geïnstalleerd, kunt u vervolgens dubbelklikken op de app om ze met Wine uit te voeren. Je kunt ook PlayOnLinux proberen, een mooie interface via Wine waarmee je populaire Windows-programma's en -games kunt installeren.
Wine is een manier om Windows-software op Linux uit te voeren, maar zonder dat Windows vereist is. Wine is een open-source Windows-compatibiliteitslaag die Windows-programma's rechtstreeks op elke Linux-desktop kan uitvoeren. In wezen probeert Wine genoeg van Windows opnieuw te implementeren, zodat het al die Windows-applicaties kan draaien zonder Windows echt nodig te hebben.
SCREENSHOTS
Ad
volière
PRODUCTBESCHRIJVING
Aviary is een LLM-serviceoplossing waarmee u eenvoudig een verscheidenheid aan open source LLM's kunt implementeren en beheren. Biedt een uitgebreid pakket vooraf geconfigureerde open source LLM's, met standaardinstellingen die kant-en-klaar werken. Ondersteunt Transformer-modellen die worden gehost op Hugging Face Hub of aanwezig zijn op de lokale schijf. Aviary heeft native ondersteuning voor automatisch schalen en implementaties met meerdere knooppunten dankzij Ray en Ray Serve. Aviary kan naar nul schalen en nieuwe modelreplica's maken (elk samengesteld uit meerdere GPU-werknemers) als reactie op de vraag. Ray zorgt ervoor dat de orkestratie en het resourcebeheer automatisch worden afgehandeld. Aviary kan honderden replica's en clusters van honderden knooppunten ondersteunen, zowel in de cloud als op locatie.
Voordelen
- Volledige ondersteuning van multi-GPU- en multi-node-modelimplementaties
- Het bieden van een REST API die vergelijkbaar is met die van OpenAI, zodat deze eenvoudig kunnen worden gemigreerd en getest
- Biedt hoogwaardige functies zoals continue batching, kwantisering en streaming
- Vereenvoudigt de toevoeging van nieuwe LLM's in de meeste gevallen binnen enkele minuten
- Vereenvoudiging van de inzet van meerdere LLM's binnen één uniform raamwerk
- Biedt een uitgebreid pakket vooraf geconfigureerde open source LLM's, met standaardinstellingen die kant-en-klaar werken
Programmeertaal
Python
Categorieën
Dit is een applicatie die ook kan worden opgehaald van https://sourceforge.net/projects/aviary.mirror/. Het is gehost in OnWorks zodat het op de eenvoudigste manier online kan worden uitgevoerd vanaf een van onze gratis besturingssystemen.
