এটি OpenLIT নামের লিনাক্স অ্যাপ যার সর্বশেষ প্রকাশ py-1.35.3sourcecode.tar.gz হিসাবে ডাউনলোড করা যেতে পারে। এটি ওয়ার্কস্টেশনের জন্য বিনামূল্যের হোস্টিং প্রদানকারী OnWorks-এ অনলাইনে চালানো যেতে পারে।
OpenLIT নামের এই অ্যাপটি OnWorks সহ বিনামূল্যে অনলাইনে ডাউনলোড করুন এবং চালান।
এই অ্যাপটি চালানোর জন্য এই নির্দেশাবলী অনুসরণ করুন:
- 1. আপনার পিসিতে এই অ্যাপ্লিকেশনটি ডাউনলোড করুন৷
- 2. আমাদের ফাইল ম্যানেজারে প্রবেশ করুন https://www.onworks.net/myfiles.php?username=XXXXX আপনি যে ইউজারনেম চান।
- 3. এই ধরনের ফাইল ম্যানেজারে এই অ্যাপ্লিকেশনটি আপলোড করুন।
- 4. এই ওয়েবসাইট থেকে OnWorks Linux অনলাইন বা Windows অনলাইন এমুলেটর বা MACOS অনলাইন এমুলেটর শুরু করুন।
- 5. OnWorks Linux OS থেকে আপনি এইমাত্র শুরু করেছেন, আমাদের ফাইল ম্যানেজারে যান https://www.onworks.net/myfiles.php?username=XXXXX আপনার পছন্দের ব্যবহারকারীর নাম সহ।
- 6. অ্যাপ্লিকেশনটি ডাউনলোড করুন, এটি ইনস্টল করুন এবং এটি চালান।
স্ক্রীনশটগুলি
Ad
ওপেনলিট
বর্ণনাঃ
OpenLIT হল একটি OpenTelemetry-নেটিভ টুল যা ডেভেলপারদের উৎপাদনে তাদের LLM অ্যাপ্লিকেশনগুলির কর্মক্ষমতা সম্পর্কে অন্তর্দৃষ্টি পেতে সাহায্য করার জন্য ডিজাইন করা হয়েছে। এটি স্বয়ংক্রিয়ভাবে LLM ইনপুট এবং আউটপুট মেটাডেটা সংগ্রহ করে এবং স্ব-হোস্টেড LLM-এর জন্য GPU কর্মক্ষমতা পর্যবেক্ষণ করে। OpenLIT শুধুমাত্র একটি লাইন কোডের মাধ্যমে GenAI প্রকল্পগুলিতে পর্যবেক্ষণযোগ্যতা একীভূত করা সহজ করে তোলে। আপনি OpenAI এবং HuggingFace-এর মতো জনপ্রিয় LLM প্রদানকারীদের সাথে কাজ করছেন, অথবা ChromaDB-এর মতো ভেক্টর ডাটাবেস ব্যবহার করছেন, OpenLIT নিশ্চিত করে যে আপনার অ্যাপ্লিকেশনগুলি নির্বিঘ্নে পর্যবেক্ষণ করা হচ্ছে, কর্মক্ষমতা এবং নির্ভরযোগ্যতা উন্নত করার জন্য স্ব-হোস্টেড LLM-এর জন্য GPU কর্মক্ষমতা পরিসংখ্যান সহ গুরুত্বপূর্ণ অন্তর্দৃষ্টি প্রদান করে। এই প্রকল্পটি গর্বের সাথে OpenTelemetry সম্প্রদায়ের শব্দার্থিক কনভেনশন অনুসরণ করে, পর্যবেক্ষণযোগ্যতার সর্বশেষ মানগুলির সাথে সামঞ্জস্যপূর্ণভাবে আপডেট করে।
বৈশিষ্ট্য
- এলএলএম এবং ভেক্টরডিবি পারফরম্যান্সের উন্নত পর্যবেক্ষণ
- কাস্টম এবং ফাইন-টিউনড মডেলের জন্য খরচ ট্র্যাকিং
- কাস্টম এবং ফাইন-টিউনড মডেলের জন্য খরচ ট্র্যাকিং
- ডকুমেন্টেশন উপলব্ধ
- ওপেনটেলিমেট্রি-নেটিভ এবং বিক্রেতা-নিরপেক্ষ SDK গুলি
- উদাহরণ উপলব্ধ
- OpenLIT আপনাকে নির্দিষ্ট মডেলের জন্য খরচ ট্র্যাকিং তৈরি করতে সক্ষম করে।
- OpenLIT তৈরি করা হয়েছে OpenTelemetry-এর জন্য নেটিভ সাপোর্ট দিয়ে।
প্রোগ্রামিং ভাষা
পাইথন
বিভাগ
এটি এমন একটি অ্যাপ্লিকেশন যা https://sourceforge.net/projects/openlit.mirror/ থেকেও আনা যেতে পারে। আমাদের বিনামূল্যের অপারেটিভ সিস্টেমগুলির মধ্যে একটি থেকে সবচেয়ে সহজ উপায়ে অনলাইনে চালানোর জন্য এটি OnWorks-এ হোস্ট করা হয়েছে।
