এটি llama2.c নামের লিনাক্স অ্যাপ যার সর্বশেষ প্রকাশ llama2.csourcecode.tar.gz নামে ডাউনলোড করা যেতে পারে। এটি ওয়ার্কস্টেশনের জন্য বিনামূল্যের হোস্টিং প্রদানকারী OnWorks-এ অনলাইনে চালানো যেতে পারে।
llama2.c নামের এই অ্যাপটি বিনামূল্যে OnWorks সহ অনলাইনে ডাউনলোড করুন এবং চালান।
এই অ্যাপটি চালানোর জন্য এই নির্দেশাবলী অনুসরণ করুন:
- 1. আপনার পিসিতে এই অ্যাপ্লিকেশনটি ডাউনলোড করুন৷
- 2. আমাদের ফাইল ম্যানেজারে প্রবেশ করুন https://www.onworks.net/myfiles.php?username=XXXXX আপনি যে ইউজারনেম চান।
- 3. এই ধরনের ফাইল ম্যানেজারে এই অ্যাপ্লিকেশনটি আপলোড করুন।
- 4. এই ওয়েবসাইট থেকে OnWorks Linux অনলাইন বা Windows অনলাইন এমুলেটর বা MACOS অনলাইন এমুলেটর শুরু করুন।
- 5. OnWorks Linux OS থেকে আপনি এইমাত্র শুরু করেছেন, আমাদের ফাইল ম্যানেজারে যান https://www.onworks.net/myfiles.php?username=XXXXX আপনার পছন্দের ব্যবহারকারীর নাম সহ।
- 6. অ্যাপ্লিকেশনটি ডাউনলোড করুন, এটি ইনস্টল করুন এবং এটি চালান।
স্ক্রিনশট:
লামা২.সি
বর্ণনাঃ
llama2.c হল Llama 2 ভাষা মডেল আর্কিটেকচারের একটি ন্যূনতম বাস্তবায়ন যা সম্পূর্ণরূপে বিশুদ্ধ C তে চালানোর জন্য ডিজাইন করা হয়েছে। Andrej Karpathy দ্বারা তৈরি, এই প্রকল্পটি বহিরাগত নির্ভরতা ছাড়াই ছোট Llama 2 মডেলগুলিতে অনুমান সম্পাদনের জন্য একটি শিক্ষামূলক এবং হালকা কাঠামো প্রদান করে। এটি একটি সম্পূর্ণ প্রশিক্ষণ এবং অনুমান পাইপলাইন প্রদান করে: মডেলগুলিকে PyTorch-এ প্রশিক্ষণ দেওয়া যেতে পারে এবং পরে একটি সংক্ষিপ্ত 700-লাইন C প্রোগ্রাম (run.c) ব্যবহার করে কার্যকর করা যেতে পারে। যদিও এটি টেকনিক্যালি Meta-এর অফিসিয়াল Llama 2 মডেল লোড করতে পারে, বর্তমান সমর্থন fp32 নির্ভুলতার মধ্যে সীমাবদ্ধ, যার অর্থ ব্যবহারিক ব্যবহার প্রায় 7B প্যারামিটার পর্যন্ত মডেলগুলিতে সীমাবদ্ধ। llama2.c এর লক্ষ্য হল কীভাবে একটি কম্প্যাক্ট এবং স্বচ্ছ বাস্তবায়ন ছোট মডেলগুলির সাথেও অর্থপূর্ণ অনুমান সম্পাদন করতে পারে তা প্রদর্শন করা, সরলতা, স্পষ্টতা এবং অ্যাক্সেসযোগ্যতার উপর জোর দেওয়া। প্রকল্পটি nanoGPT থেকে শিক্ষার উপর ভিত্তি করে তৈরি এবং llama.cpp থেকে অনুপ্রেরণা নেয়, পরিবর্তে বৃহৎ-স্কেল কর্মক্ষমতার চেয়ে minimalism এবং শিক্ষাগত মূল্যের উপর মনোযোগ দেয়।
বৈশিষ্ট্য
- প্রশিক্ষণ এবং অনুমান উভয়ের জন্য সম্পূর্ণ লামা 2 আর্কিটেকচার বাস্তবায়ন করে
- একটি কম্প্যাক্ট, ৭০০-লাইন সি-ভিত্তিক ইনফারেন্স ইঞ্জিন (run.c) প্রদান করে
- PyTorch-এ প্রশিক্ষণ এবং সরাসরি C-তে মডেল চালানোর অনুমতি দেয়
- ছোট, শিক্ষাগত-স্কেল LLM-এর জন্য fp32 মডেলের নির্ভুলতা সমর্থন করে
- সহজে অধ্যয়ন এবং পরিবর্তনের জন্য একটি পরিষ্কার, নির্ভরতা-মুক্ত বাস্তবায়ন অফার করে
- llama.cpp দ্বারা অনুপ্রাণিত কিন্তু সরলতা এবং ন্যূনতমতার জন্য ডিজাইন করা হয়েছে
প্রোগ্রামিং ভাষা
সি, পাইথন
বিভাগ
এটি এমন একটি অ্যাপ্লিকেশন যা https://sourceforge.net/projects/llama2-c.mirror/ থেকেও আনা যেতে পারে। আমাদের বিনামূল্যের অপারেটিভ সিস্টেমগুলির মধ্যে একটি থেকে সবচেয়ে সহজ উপায়ে অনলাইনে চালানোর জন্য এটি OnWorks-এ হোস্ট করা হয়েছে।