এটি xFormers নামের লিনাক্স অ্যাপ যার সর্বশেষ প্রকাশ v0.0.32.post2sourcecode.tar.gz হিসাবে ডাউনলোড করা যেতে পারে। এটি ওয়ার্কস্টেশনের জন্য বিনামূল্যের হোস্টিং প্রদানকারী OnWorks-এ অনলাইনে চালানো যেতে পারে।
xFormers নামের এই অ্যাপটি বিনামূল্যে OnWorks সহ অনলাইনে ডাউনলোড করুন এবং চালান।
এই অ্যাপটি চালানোর জন্য এই নির্দেশাবলী অনুসরণ করুন:
- 1. আপনার পিসিতে এই অ্যাপ্লিকেশনটি ডাউনলোড করুন৷
- 2. আমাদের ফাইল ম্যানেজারে প্রবেশ করুন https://www.onworks.net/myfiles.php?username=XXXXX আপনি যে ইউজারনেম চান।
- 3. এই ধরনের ফাইল ম্যানেজারে এই অ্যাপ্লিকেশনটি আপলোড করুন।
- 4. এই ওয়েবসাইট থেকে OnWorks Linux অনলাইন বা Windows অনলাইন এমুলেটর বা MACOS অনলাইন এমুলেটর শুরু করুন।
- 5. OnWorks Linux OS থেকে আপনি এইমাত্র শুরু করেছেন, আমাদের ফাইল ম্যানেজারে যান https://www.onworks.net/myfiles.php?username=XXXXX আপনার পছন্দের ব্যবহারকারীর নাম সহ।
- 6. অ্যাপ্লিকেশনটি ডাউনলোড করুন, এটি ইনস্টল করুন এবং এটি চালান।
স্ক্রিনশট:
xFormers
বর্ণনাঃ
xformers হল ট্রান্সফরমার বিল্ডিং ব্লকের একটি মডুলার, পারফরম্যান্স-ভিত্তিক লাইব্রেরি, যা গবেষক এবং ইঞ্জিনিয়ারদের একচেটিয়া ফ্রেমওয়ার্কের চেয়ে ট্রান্সফরমার আর্কিটেকচার রচনা, পরীক্ষা এবং অপ্টিমাইজ করার সুযোগ করে দেওয়ার জন্য ডিজাইন করা হয়েছে। এটি মনোযোগ স্তর, ফিডফরওয়ার্ড মডিউল, নরমালাইজেশন এবং পজিশনাল এনকোডিংয়ের মতো উপাদানগুলিকে বিমূর্ত করে, যাতে আপনি সহজেই অপ্টিমাইজ করা কার্নেলগুলিকে মিশ্রিত এবং মেলাতে বা অদলবদল করতে পারেন। এর মূল লক্ষ্যগুলির মধ্যে একটি হল দক্ষ মনোযোগ: এটি বিনিময়যোগ্য মডিউলের মাধ্যমে ঘন, স্পার্স, নিম্ন-র্যাঙ্ক এবং আনুমানিক মনোযোগ প্রক্রিয়া (যেমন FlashAttention, Linformer, Performer) সমর্থন করে। লাইব্রেরিতে Python এবং অপ্টিমাইজ করা C++/CUDA উভয় ক্ষেত্রেই মেমরি-দক্ষ অপারেটর বাস্তবায়ন অন্তর্ভুক্ত রয়েছে, নিশ্চিত করে যে মডুলারিটির জন্য কর্মক্ষমতা ত্যাগ করা হয় না। এটি PyTorch-এর সাথেও নির্বিঘ্নে সংহত করে যাতে আপনি এর ব্লকগুলিকে বিদ্যমান মডেলগুলিতে ড্রপ করতে পারেন, ডিফল্ট মনোযোগ স্তরগুলি প্রতিস্থাপন করতে পারেন, অথবা স্ক্র্যাচ থেকে নতুন আর্কিটেকচার তৈরি করতে পারেন। xformers-এ প্রশিক্ষণ, স্থাপনা এবং মেমরি প্রোফাইলিং সরঞ্জাম অন্তর্ভুক্ত রয়েছে।
বৈশিষ্ট্য
- মডুলার ট্রান্সফরমার বিল্ডিং ব্লক (মনোযোগ, FFN, নিয়ম, অবস্থান এনকোডিং)
- বিভিন্ন দক্ষ মনোযোগের ধরণ (বিক্ষিপ্ত, আনুমানিক, স্থানীয়) এর জন্য সহায়তা
- অপ্টিমাইজ করা GPU কার্নেল এবং ফলব্যাক পাইথন বাস্তবায়ন
- PyTorch মডেল এবং প্রশিক্ষণ লুপের সাথে নিরবচ্ছিন্ন ইন্টিগ্রেশন
- থ্রুপুট, মেমরি এবং ল্যাটেন্সির তুলনা করার জন্য প্রোফাইলিং এবং বেঞ্চমার্কিং টুল
- একটি মডেলে মনোযোগের ধরণ মিশ্রিত করার জন্য সহায়তা (হাইব্রিড আর্কিটেকচার)
প্রোগ্রামিং ভাষা
পাইথন
বিভাগ
এটি এমন একটি অ্যাপ্লিকেশন যা https://sourceforge.net/projects/xformers.mirror/ থেকেও আনা যেতে পারে। আমাদের বিনামূল্যের অপারেটিভ সিস্টেমগুলির মধ্যে একটি থেকে সবচেয়ে সহজ উপায়ে অনলাইনে চালানোর জন্য এটি OnWorks-এ হোস্ট করা হয়েছে।