llm دانلود برای لینوکس

این برنامه لینوکس به نام llm است که آخرین نسخه آن را می توان با نام llm-cli-x86_64-pc-windows-msvc.zip دانلود کرد. می توان آن را به صورت آنلاین در ارائه دهنده میزبانی رایگان OnWorks برای ایستگاه های کاری اجرا کرد.

عکس ها

llm

شرح

llm یک اکوسیستم از کتابخانه‌های Rust برای کار با مدل‌های زبان بزرگ است - بر روی کتابخانه سریع و کارآمد GGML برای یادگیری ماشین ساخته شده است. نقطه ورود اولیه برای توسعه دهندگان جعبه llm است که پایه llm و جعبه های مدل پشتیبانی شده را می پوشاند. اسناد نسخه منتشر شده در Docs.rs موجود است. برای کاربران نهایی، یک برنامه CLI به نام llm-cli وجود دارد که یک رابط کاربری مناسب برای تعامل با مدل های پشتیبانی شده ارائه می دهد. تولید متن می تواند به صورت یکباره بر اساس یک اعلان یا به صورت تعاملی از طریق حالت های REPL یا چت انجام شود. CLI همچنین می‌تواند برای سریال‌سازی (چاپ) مدل‌های رمزگشایی شده، کمی کردن فایل‌های GGML، یا محاسبه گیجی یک مدل استفاده شود. می توان آن را از آخرین نسخه GitHub یا با نصب آن از crates.io دانلود کرد.

امکانات

• llm از کتابخانه تانسور ggml پشتیبانی می‌کند و هدف آن ارائه استحکام و سهولت استفاده از Rust به دنیای مدل‌های زبان بزرگ است.
• این پروژه به Rust نسخه 1.65.0 یا بالاتر و یک زنجیره ابزار مدرن C بستگی دارد
• کتابخانه llm طوری طراحی شده است که از شتاب دهنده های سخت افزاری مانند cuda و فلز برای عملکرد بهینه استفاده کند.
• برای فعال کردن llm برای مهار این شتاب‌دهنده‌ها، برخی مراحل پیکربندی اولیه لازم است
• ساده ترین راه برای شروع کار با llm-cli دانلود یک فایل اجرایی از پیش ساخته شده از نسخه منتشر شده llm است.
• به طور پیش‌فرض، llm با پشتیبانی از واکشی از راه دور توکنایزر از مرکز مدل Hugging Face ساخته می‌شود.

زبان برنامه نویسی

زنگ

دسته بندی ها

این برنامه ای است که می تواند از https://sourceforge.net/projects/llm.mirror/ نیز دریافت شود. در OnWorks میزبانی شده است تا به آسانی از یکی از سیستم عامل های رایگان ما به صورت آنلاین اجرا شود.