اپلیکیشن LLM Studio برای ویندوز آرم منتشر شد؛ اجرای مدل‌های زبانی روی لپ‌تاپ‌های اسنپدراگون

LM Studio، یک پلت فرم محبوب برای اجرای مدل های زبان بزرگ (LLM) به صورت محلی بر روی رایانه شخصی، برای Windows ARM منتشر شد. این امکان اجرای مدل های زبان را در لپ تاپ های اسنپدراگون فراهم می کند.

به گزارش توسط XDA-Developersنسخه اختصاصی LM Studio برای لپ‌تاپ‌های مجهز به تراشه Snapdragon X Elite در حال حاضر تنها می‌تواند مدل‌های زبانی را با استفاده از CPU آن دستگاه‌ها اجرا کند و پشتیبانی از واحد پردازش عصبی (NPU) تراشه Snapdragon در به‌روزرسانی‌های بعدی به آن اضافه خواهد شد. .

قابلیت های چشمگیر Snapdragon X Elite در زمینه هوش مصنوعی، اجرای محلی مدل های هوش مصنوعی را با حداکثر 13 میلیارد پارامتر امکان پذیر می کند. این بدان معنی است که طیف گسترده ای از مدل های زبان اصلی، از جمله نسخه های Llama 3 و WizardLM، می توانند بر روی لپ تاپ های مجهز به تراشه اجرا شوند.

از جمله مزایای پیاده‌سازی مدل‌های زبان بزرگ به صورت محلی با استفاده از ابزارهایی مانند LM Studio، تضمین حریم خصوصی و حذف نیاز به پرداخت اشتراک ماهانه برای چت‌بات‌های محبوب مانند ChatGPT و Jamnai از Google است. از طرفی مدل های پیاده سازی شده در LM Studio بر خلاف چت بات های تجاری ذکر شده که گاهی به دلایل مختلف از ایجاد پاسخ امتناع می ورزند، قادر به تولید تمامی نتایج مورد نظر کاربر هستند.

می توانید نسخه منتشر شده LM Studio را برای اسنپدراگون به صورت مستقیم از صفحه مربوطه در آدرس دانلود کنید وب سایت LM Studio دانلود؛ توجه داشته باشید که نسخه فعلی نهایی نیست و ممکن است با باگ و مشکلات دیگر مواجه شوید.