این برنامه لینوکسی به نام Lemonade است که آخرین نسخه آن را می‌توانید با نام v8.1.12sourcecode.tar.gz دانلود کنید. می‌توانید آن را به صورت آنلاین در ارائه دهنده خدمات میزبانی رایگان OnWorks برای ایستگاه‌های کاری اجرا کنید.
این اپلیکیشن با نام Lemonade را با OnWorks به صورت آنلاین دانلود و اجرا کنید.
برای اجرای این برنامه این دستورالعمل ها را دنبال کنید:
- 1. این برنامه را در رایانه شخصی خود دانلود کنید.
- 2. در فایل منیجر ما https://www.onworks.net/myfiles.php?username=XXXXX نام کاربری مورد نظر خود را وارد کنید.
- 3. این برنامه را در چنین فایل منیجر آپلود کنید.
- 4. OnWorks Linux آنلاین یا شبیه ساز آنلاین ویندوز یا شبیه ساز آنلاین MACOS را از این وب سایت راه اندازی کنید.
- 5. از سیستم عامل لینوکس OnWorks که به تازگی راه اندازی کرده اید، به مدیر فایل ما https://www.onworks.net/myfiles.php?username=XXXXX با نام کاربری که می خواهید بروید.
- 6. اپلیکیشن را دانلود کرده، نصب و اجرا کنید.
اسکرین شات ها:
لیموناد
DESCRIPTION:
لیموناد یک زمان اجرای LLM محلی است که با پیکربندی خودکار موتورهای استنتاج پیشرفته برای NPUها و GPUها، بالاترین عملکرد ممکن را روی سخت‌افزار شما ارائه می‌دهد. این پروژه خود را به عنوان یک "سرور LLM محلی" معرفی می‌کند که می‌توانید آن را روی لپ‌تاپ‌ها و ایستگاه‌های کاری اجرا کنید، تفاوت‌های بک‌اند را حذف می‌کند و در عین حال یک مکان واحد برای خدمت‌رسانی و مدیریت مدل‌ها در اختیار شما قرار می‌دهد. فایل README آن بر پذیرش در دنیای واقعی در بین استارت‌آپ‌ها، گروه‌های تحقیقاتی و شرکت‌های بزرگ تأکید دارد و نشان دهنده تمرکز بر استقرارهای عملی به جای نسخه‌های نمایشی است. این مخزن، آشنایی آسان با دانلودها، اسناد و Discord برای پشتیبانی را برجسته می‌کند که نشان‌دهنده یک جامعه کاربری فعال است. پیام‌رسانی بر حداکثر کردن توان عملیاتی/تاخیر از شتاب‌دهنده‌های مدرن بدون نیاز به تنظیم دستی هسته‌ها یا پرچم‌ها توسط کاربران تمرکز دارد. نسخه‌های منتشر شده، چارچوب "سرور" را بیشتر تقویت می‌کنند و توسعه‌دهندگان را به سمت سرویسی سوق می‌دهند که می‌تواند در برنامه‌ها و ابزارها ادغام شود.
امکانات
- سرور محلی LLM با هدف شتاب‌دهی GPU و NPU
- پیکربندی خودکار backendهای استنتاج با عملکرد بالا
- جریان نصب و اجرای ساده با مستندات راهنما
- پشتیبانی انجمن از طریق Discord و ردیابی فعال مشکلات
- در موارد استفاده تحقیقاتی، استارتاپی و سازمانی کاربرد دارد
- طراحی شده برای پایه و اساس موقت برای برنامه‌های هوش مصنوعی محلی
زبان برنامه نویسی
پــایتــون
دسته بندی ها
این برنامه‌ای است که می‌توان آن را از https://sourceforge.net/projects/lemonade.mirror/ نیز دریافت کرد. این برنامه در OnWorks میزبانی شده است تا بتوان آن را به ساده‌ترین روش از یکی از سیستم‌های عامل رایگان ما به صورت آنلاین اجرا کرد.