এটি ফাস্টচ্যাট নামের লিনাক্স অ্যাপ যার সর্বশেষ প্রকাশ Releasev0.2.30.zip হিসাবে ডাউনলোড করা যেতে পারে। এটি ওয়ার্কস্টেশনের জন্য বিনামূল্যের হোস্টিং প্রদানকারী OnWorks-এ অনলাইনে চালানো যেতে পারে।
ডাউনলোড করুন এবং অনলাইনে চালান FastChat নামক এই অ্যাপটি অনওয়ার্কসের সাথে বিনামূল্যে।
এই অ্যাপটি চালানোর জন্য এই নির্দেশাবলী অনুসরণ করুন:
- 1. আপনার পিসিতে এই অ্যাপ্লিকেশনটি ডাউনলোড করুন৷
- 2. আমাদের ফাইল ম্যানেজারে প্রবেশ করুন https://www.onworks.net/myfiles.php?username=XXXXX আপনি যে ইউজারনেম চান।
- 3. এই ধরনের ফাইল ম্যানেজারে এই অ্যাপ্লিকেশনটি আপলোড করুন।
- 4. এই ওয়েবসাইট থেকে OnWorks Linux অনলাইন বা Windows অনলাইন এমুলেটর বা MACOS অনলাইন এমুলেটর শুরু করুন।
- 5. OnWorks Linux OS থেকে আপনি এইমাত্র শুরু করেছেন, আমাদের ফাইল ম্যানেজারে যান https://www.onworks.net/myfiles.php?username=XXXXX আপনার পছন্দের ব্যবহারকারীর নাম সহ।
- 6. অ্যাপ্লিকেশনটি ডাউনলোড করুন, এটি ইনস্টল করুন এবং এটি চালান।
স্ক্রীনশটগুলি
Ad
ফাস্টচ্যাট
বর্ণনাঃ
ফাস্টচ্যাট হল বৃহৎ ভাষার মডেল-ভিত্তিক চ্যাটবট প্রশিক্ষণ, পরিবেশন এবং মূল্যায়নের জন্য একটি উন্মুক্ত প্ল্যাটফর্ম। আপনার যদি পর্যাপ্ত মেমরি না থাকে তবে উপরের কমান্ডগুলিতে --load-8bit যোগ করে আপনি 8-বিট কম্প্রেশন সক্রিয় করতে পারেন। এটি সামান্য অবনমিত মডেল মানের সঙ্গে প্রায় অর্ধেক মেমরি ব্যবহার কমাতে পারে. এটি সিপিইউ, জিপিইউ এবং মেটাল ব্যাকএন্ডের সাথে সামঞ্জস্যপূর্ণ। 13-বিট কম্প্রেশন সহ Vicuna-8B একটি একক NVIDIA 3090/4080/T4/V100(16GB) GPU-তে চলতে পারে। এটি ছাড়াও, আপনি উপরের কমান্ডগুলিতে --cpu-offloading যোগ করতে পারেন ওজন অফলোড করতে যা আপনার GPU-তে CPU মেমরিতে ফিট নয়। এটির জন্য 8-বিট কম্প্রেশন সক্রিয় করা প্রয়োজন এবং বিটস্যান্ডবাইট প্যাকেজ ইনস্টল করা প্রয়োজন, যা শুধুমাত্র লিনাক্স অপারেটিং সিস্টেমে উপলব্ধ।
বৈশিষ্ট্য
- অত্যাধুনিক মডেলের ওজন, প্রশিক্ষণ কোড এবং মূল্যায়ন কোড
- ওয়েব UI এবং OpenAI- সামঞ্জস্যপূর্ণ RESTful API সহ একটি বিতরণ করা মাল্টি-মডেল সার্ভিং সিস্টেম
- বৃহৎ ভাষার মডেল প্রশিক্ষণ, পরিবেশন এবং মূল্যায়নের জন্য
- ওজন রূপান্তরের CPU RAM এর প্রয়োজনীয়তা হ্রাস করুন
- কমান্ড লাইন ইন্টারফেসের সাথে অনুমান
- বেশ কয়েকটি সমর্থিত মডেল
প্রোগ্রামিং ভাষা
পাইথন
বিভাগ
এটি এমন একটি অ্যাপ্লিকেশন যা https://sourceforge.net/projects/fastchat.mirror/ থেকেও আনা যেতে পারে। আমাদের বিনামূল্যের অপারেটিভ সিস্টেমগুলির মধ্যে একটি থেকে সবচেয়ে সহজ উপায়ে অনলাইনে চালানোর জন্য এটি OnWorks-এ হোস্ট করা হয়েছে।
