लिनक्स के लिए Pruna AI डाउनलोड करें

यह Pruna AI नाम का लिनक्स ऐप है जिसका नवीनतम संस्करण v0.2.5sourcecode.tar.gz के रूप में डाउनलोड किया जा सकता है। इसे वर्कस्टेशन के लिए मुफ़्त होस्टिंग प्रदाता OnWorks में ऑनलाइन चलाया जा सकता है।

Pruna AI नामक इस ऐप को OnWorks के साथ मुफ्त में डाउनलोड करें और ऑनलाइन चलाएं।

इस ऐप को चलाने के लिए इन निर्देशों का पालन करें:

- 1. इस एप्लिकेशन को अपने पीसी में डाउनलोड करें।

- 2. हमारे फ़ाइल प्रबंधक में https://www.onworks.net/myfiles.php?username=XXXXX उस उपयोगकर्ता नाम के साथ दर्ज करें जो आप चाहते हैं।

- 3. इस एप्लिकेशन को ऐसे फाइल मैनेजर में अपलोड करें।

- 4. इस वेबसाइट से ऑनवर्क्स लिनक्स ऑनलाइन या विंडोज ऑनलाइन एमुलेटर या मैकोज़ ऑनलाइन एमुलेटर शुरू करें।

- 5. ऑनवर्क्स लिनक्स ओएस से आपने अभी शुरुआत की है, हमारे फाइल मैनेजर को https://www.onworks.net/myfiles.php?username=XXXXX उस यूजरनेम के साथ जाएं जो आप चाहते हैं।

- 6. एप्लिकेशन डाउनलोड करें, इसे इंस्टॉल करें और इसे चलाएं।

ऐप डाउनलोड करें उबंटू में चलाएं फेडोरा में दौड़ें विंडोज सिम में चलाएं मैकोज़ सिम में चलाएं

स्क्रीनशॉट:

प्रुना एआई

विवरण:

प्रुना एक ओपन-सोर्स, सेल्फ-होस्टेबल AI इंफरेंस इंजन है जिसे टीमों को निजी या हाइब्रिड इंफ्रास्ट्रक्चर में बड़े लैंग्वेज मॉडल (LLM) को कुशलतापूर्वक तैनात और प्रबंधित करने में मदद करने के लिए डिज़ाइन किया गया है। प्रदर्शन और डेवलपर एर्गोनॉमिक्स को ध्यान में रखते हुए बनाया गया, प्रुना मल्टी-मॉडल ऑर्केस्ट्रेशन, ऑटोस्केलिंग, GPU संसाधन आवंटन और लोकप्रिय ओपन-सोर्स मॉडल के साथ संगतता को सक्षम करके इंफरेंस वर्कफ़्लो को सरल बनाता है। यह उन कंपनियों या टीमों के लिए आदर्श है जो गति, लागत-दक्षता और अपने डेटा और AI स्टैक पर पूर्ण नियंत्रण बनाए रखते हुए बाहरी API पर निर्भरता कम करना चाहते हैं। विस्तारशीलता और अवलोकन पर ध्यान देने के साथ, प्रुना इंजीनियरों को प्रोटोटाइप से लेकर उत्पादन तक सुरक्षित और विश्वसनीय तरीके से LLM अनुप्रयोगों को स्केल करने में सक्षम बनाता है।

विशेषताएं

एलएलएम अनुमान के प्रबंधन के लिए स्व-होस्टेड इंजन
मल्टी-मॉडल ऑर्केस्ट्रेशन और रूटिंग का समर्थन करता है
संसाधन अनुकूलन के लिए गतिशील ऑटोस्केलिंग
GPU-जागरूक शेड्यूलिंग और लोड संतुलन
LLaMA और मिस्ट्रल जैसे ओपन-सोर्स मॉडल के साथ संगत
आसान एकीकरण के लिए HTTP और gRPC API
अंतर्निहित अवलोकनीयता और प्रदर्शन ट्रैकिंग
Docker और Kubernetes समर्थन के साथ परिनियोजन के लिए तैयार

प्रोग्रामिंग भाषा

अजगर

कैटिगरीज

Artificial Intelligence

यह एक ऐसा एप्लिकेशन है जिसे https://sourceforge.net/projects/pruna-ai.mirror/ से भी प्राप्त किया जा सकता है। इसे हमारे किसी एक निःशुल्क ऑपरेटिव सिस्टम से सबसे आसान तरीके से ऑनलाइन चलाने के लिए OnWorks में होस्ट किया गया है।