دانلود LLaMA برای لینوکس

This is the Linux app named LLaMA whose latest release can be downloaded as llamav2sourcecode.tar.gz. It can be run online in the free hosting provider OnWorks for workstations.

عکس ها

تماس می گیرد

شرح

«Llama» مخزنی از Meta (که قبلاً Facebook/Meta Research نام داشت) است که شامل کد استنتاج برای مدل‌های LLaMA (متا هوش مصنوعی مدل زبان بزرگ) می‌باشد. این مخزن، ابزارهایی را برای بارگذاری وزن‌های مدل LLaMA از پیش آموزش‌دیده، اجرای استنتاج (تولید متن، چت، تکمیل) و کار با توکنایزرها فراهم می‌کند. این مخزن، بخش اصلی زیرساخت مدل Llama است که توسط محققان و توسعه‌دهندگان برای اجرای مدل‌های LLaMA به صورت محلی یا در زیرساخت‌هایشان استفاده می‌شود. این مخزن برای استنتاج (نه آموزش از ابتدا) در نظر گرفته شده است و با جنبه‌هایی مانند کارت‌های مدل، استفاده مسئولانه، صدور مجوز و غیره مرتبط می‌شود.

امکانات

• کد مرجعی برای بارگذاری وزن‌های مختلف از پیش آموزش‌دیده LLaMA (7B، 13B، 70B و غیره) و انجام استنتاج (گفتگو یا تکمیل) ارائه می‌دهد.
• ابزارهای توکن‌ساز، اسکریپت‌های دانلود، کمک‌کننده‌های پوسته برای دریافت وزن‌های مدل با مجوزها/دسترسی‌های صحیح
• پشتیبانی از تنظیمات چند پارامتری (اندازه دسته، طول زمینه، تعداد پردازنده‌های گرافیکی/موازی‌سازی) برای مقیاس‌پذیری در مدل‌ها/ماشین‌های بزرگتر
• راهنمای مجوز/استفاده مسئولانه؛ کارت مدل و مستندات مربوط به نحوه استفاده یا محدود کردن مدل
• شامل اسکریپت‌های نمونه برای تکمیل چت و تکمیل متن است تا نحوه فراخوانی مدل‌ها در کد را نشان دهد.
• سازگاری با چارچوب‌های استاندارد یادگیری عمیق (PyTorch و غیره) برای استفاده در استنتاج، شامل اطمینان از وجود وابستگی‌ها و اسکریپت‌های راه‌اندازی مورد نیاز

زبان برنامه نویسی

پــایتــون

دسته بندی ها

این برنامه‌ای است که می‌توان آن را از https://sourceforge.net/projects/llama.mirror/ نیز دریافت کرد. این برنامه در OnWorks میزبانی شده است تا بتوان آن را به ساده‌ترین روش به صورت آنلاین از یکی از سیستم‌های عامل رایگان ما اجرا کرد.