مدلهای محلی (مثل Llama و Qwen) روی سیستم خودتان اجرا میشوند؛ بدون اینترنت و بدون ارسال داده بیرون. در این آموزش، مسیر را به گامهای کوچک و قابلاجرا شکستهایم تا بدون سردرگمی پیش بروید. برای کار با دادههای حساس، قطعیهای اینترنت و هزینهٔ اشتراک، اجرای مدل روی لپتاپ یا سرور شخصی راهحل جدی است.
قبل از شروع چه چیزهایی لازم دارید؟
- ده تا پانزده دقیقه وقتِ بدون وقفه برای مطالعهٔ این صفحه
- دسترسی به منبع اصلی: LM Studio
- یک یادداشت برای ثبت گامهایی که انجام میدهید
گامهای اصلی
مسیر پیشنهادی به ترتیب زیر است؛ هر گام را کامل کنید و بعد سراغ بعدی بروید:
- با Ollana یک مدل سبک (چند گیگابایتی) دانلود و با یک دستور اجرا کنید؛ رابط چت محلی هم دارد.
- سختافزار مهم است: ۱۶ گیگ رم برای مدلهای ۷ تا ۸ میلیارد پارامتری حداقل راحتی است.
- برای فارسی، مدلهای چندزبانه مثل Qwen معمولاً بهتر از مدلهای صرفاً انگلیسیمحور عمل میکنند.
این سه گام، ستون فقرات کار است؛ باقی مسیر تکرار و بهبود همین سه گام است.
گامهای تکمیلی
وقتی پایه را ساختید، این موارد نتیجه را چند برابر میکند:
- کیفیت مدلهای محلی از ابر کمتر است؛ برای کار حساس، ترکیب محلی + ابر با تدوین انسانی استفاده کنید.
- برای تیمها، یک سرور مشترک با مدل محلی، حریم خصوصی و هزینه را همزمان حل میکند.
اگر گیر کردید
هر کس در این مسیر گیر میکند؛ تفاوت در واکنش است:
- به جای شروع دوباره از صفر، فقط همان گامِ گیرکرده را مرور کنید
- مشکل را جستوجو کنید؛ احتمالاً قبلاً کسی همان سؤال را پرسیده (فارسی را خوب میفهمند پرسش رایجی است)
- از منابع معرفیشده در ادامه کمک بگیرید
ابزارها و منابع مسیر
| منبع / ابزار | چه استفادهای؟ |
|---|---|
| Ollama | سادهترین راه اجرای مدل محلی |
| LM Studio | رابط گرافیکی برای تست مدلها |
| Open WebUI | چتبات خصوصی شبیه ChatGPT روی سیستم خودتان |
| OpenRouter | مقایسه و دسترسی به دهها مدل |
اشتباهاتی که مسیر را کج میکنند
- انتظار کیفیت مدلهای غول از سختافزار معمولی.
- دانلود مدلها از منابع غیررسمی که ممکن است دستکاری شده باشند.
- بیتوجهی به دمای مناسب مدل که خروجی را خلاقانه یا بیربط میکند.
پرسشهای رایج در حین یادگیری
روی لپتاپ معمولی اجرا میشود؟
بله مدلهای کوچک (۳ تا ۸ میلیارد) روی لپتاپهای متوسط قابل استفادهاند، هرچند کندتر.
فارسی را خوب میفهمند؟
مدلهای چندزبانه خوب عمل میکنند اما به سطح بهترین مدلهای ابری نمیرسند.
هزینهاش چقدر است؟
نرمافزارها رایگاناند؛ هزینهٔ واقعی سختافزار و برق است.
جمعبندی
در این نوشته تلاش کردیم تصویری واقعبینانه و کاربردی از مدلهای زبانی محلی ارائه کنیم. قدم بعدی با شماست: یکی از نکتههای همین صفحه را انتخاب کنید و همین امروز اجرایش کنید.
دیدگاهها
۰ دیدگاههنوز دیدگاهی ثبت نشده؛ اولین نفر باشید.