यह KubeAI नाम का विंडोज ऐप है, जिसका नवीनतम संस्करण helm-chart-kubeai-0.21.0sourcecode.tar.gz के रूप में डाउनलोड किया जा सकता है। इसे वर्कस्टेशन के लिए मुफ़्त होस्टिंग प्रदाता OnWorks में ऑनलाइन चलाया जा सकता है।
KubeAI नामक इस ऐप को OnWorks के साथ मुफ्त में डाउनलोड करें और ऑनलाइन चलाएं।
इस ऐप को चलाने के लिए इन निर्देशों का पालन करें:
- 1. इस एप्लिकेशन को अपने पीसी में डाउनलोड करें।
- 2. हमारे फ़ाइल प्रबंधक में https://www.onworks.net/myfiles.php?username=XXXXX उस उपयोगकर्ता नाम के साथ दर्ज करें जो आप चाहते हैं।
- 3. इस एप्लिकेशन को ऐसे फाइल मैनेजर में अपलोड करें।
- 4. इस वेबसाइट से कोई भी ओएस ऑनवर्क्स ऑनलाइन एमुलेटर शुरू करें, लेकिन बेहतर विंडोज ऑनलाइन एमुलेटर।
- 5. ऑनवर्क्स विंडोज ओएस से आपने अभी शुरुआत की है, हमारे फाइल मैनेजर को https://www.onworks.net/myfiles.php?username=XXXXX उस यूजरनेम के साथ जाएं जो आप चाहते हैं।
- 6. एप्लिकेशन डाउनलोड करें और इसे इंस्टॉल करें।
- 7. अपने Linux वितरण सॉफ़्टवेयर रिपॉजिटरी से वाइन डाउनलोड करें। एक बार इंस्टॉल हो जाने पर, आप ऐप को वाइन के साथ चलाने के लिए डबल-क्लिक कर सकते हैं। आप PlayOnLinux को भी आज़मा सकते हैं, जो वाइन पर एक फैंसी इंटरफ़ेस है जो आपको लोकप्रिय विंडोज़ प्रोग्राम और गेम इंस्टॉल करने में मदद करेगा।
वाइन लिनक्स पर विंडोज सॉफ्टवेयर चलाने का एक तरीका है, लेकिन विंडोज की आवश्यकता नहीं है। वाइन एक ओपन-सोर्स विंडोज संगतता परत है जो किसी भी लिनक्स डेस्कटॉप पर सीधे विंडोज प्रोग्राम चला सकती है। अनिवार्य रूप से, वाइन खरोंच से पर्याप्त विंडोज़ को फिर से लागू करने की कोशिश कर रहा है ताकि वह उन सभी विंडोज़ अनुप्रयोगों को वास्तव में विंडोज़ की आवश्यकता के बिना चला सके।
स्क्रीनशॉट:
क्यूबएआई
विवरण:
Kubernetes पर इन्फ़रेंसिंग चलाना: LLM, एम्बेडिंग, स्पीच-टू-टेक्स्ट। KubeAI एक OpenAI संगत HTTP API प्रदान करता है। व्यवस्थापक मॉडल Kubernetes कस्टम संसाधनों का उपयोग करके ML मॉडल कॉन्फ़िगर कर सकते हैं। KubeAI को एक मॉडल ऑपरेटर (ऑपरेटर पैटर्न देखें) के रूप में माना जा सकता है जो vLLM और Ollama सर्वर का प्रबंधन करता है।
विशेषताएं
- API अनुकूलता के साथ OpenAI के लिए ड्रॉप-इन प्रतिस्थापन
- शीर्ष ओ.एस.एस. मॉडल (एल.एल.एम., व्हिस्पर, आदि) की सेवा करें।
- मल्टी-प्लेटफॉर्म: केवल CPU, GPU, जल्द ही आ रहा है: TPU
- शून्य से स्केल, लोड के आधार पर ऑटोस्केल
- शून्य निर्भरता (Istio, Knative, आदि पर निर्भर नहीं)
- चैट यूआई शामिल (ओपनवेबयूआई)
- OSS मॉडल सर्वर (vLLM, Ollama, FasterWhisper, Infinity) संचालित करता है
- संदेश एकीकरण (काफ्का, पबसब, आदि) के माध्यम से स्ट्रीम/बैच अनुमान
प्रोग्रामिंग भाषा
Go
कैटिगरीज
यह एक ऐसा एप्लिकेशन है जिसे https://sourceforge.net/projects/kubeai.mirror/ से भी प्राप्त किया जा सकता है। इसे हमारे किसी एक निःशुल्क ऑपरेटिव सिस्टम से सबसे आसान तरीके से ऑनलाइन चलाने के लिए OnWorks में होस्ट किया गया है।