خلاصه
با مدلهای متنباز GPT-OSS میتوانید قدرت GPT-4 را کاملاً رایگان، خصوصی و بدون نیاز به اینترنت در کامپیوتر خود اجرا کنید؛ فقط به چند ابزار ساده مانند Olama، Dockling و N8N نیاز دارید.
مقدمه
اگر دوست دارید یک هوش مصنوعی قدرتمند مثل GPT-4 را بدون پرداخت حق اشتراک یا اتصال به سرور خارجی روی سیستم خودتان داشته باشید، این راهنما دقیقاً همان چیزی است که دنبالش بودید.
چرا نسخهی محلی بهتر است؟
۱. صرفهجویی مالی
خبری از پرداخت ماهیانه یا هزینهی API نیست؛ یکبار دانلود و تا سالها استفادهی رایگان.
۲. حفظ حریم خصوصی
هیچ دادهای از دستگاه شما خارج نمیشود؛ اطلاعات حساس کاملاً در خانه باقی میماند.
۳. کار بدون اینترنت
در سفر یا مناطق محروم هم میتوانید بدون نیاز به اتصال اینترنت از AI کمک بگیرید.
۴. سفارشیسازی بینهایت
مدل را برای زبان، فرمت و حتی سبک نوشتاری مورد نظر خودتان تنظیم میکنید.
سختافزار موردنیاز
- GPT-OSS 20B: حداقل ۱۶ گیگابایت رم
- GPT-OSS 120B: حدود ۸۰ گیگابایت رم با فشردهسازی MXFP4
هر دو مدل را میتوان از Hugging Face بهصورت رایگان دانلود کرد.
ابزارهای لازم
| ابزار | کاربرد | دستور نصب |
|---|---|---|
| Olama | اجرای مدلهای AI | دانلود از olama.ai |
| Dockling | پردازش فایل PDF | pip install dockling |
| N8N | اتوماسیون workflow | دانلود از n8n.io |
| Ngrok | تونل ایمن برای اتصال خارجی | دانلود از ngrok.com |
راهاندازی سریع در ۴ قدم
۱. نصب Olama
بستهی نصب را اجرا کنید و مدل موردنظر را بکشید:
olama pull gpt-oss-20b
۲. آزمایش مدل
با دستور زیر بلافاصله chatting را آغاز کنید:
olama run gpt-oss-20b
۳. اتصال Dockling
فایلهای PDF را به متن تبدیل کرده و به مدل بدهید تا خلاصه یا تحلیل کند.
۴. ساخت Agent تلگرام
ربات BotFather را در تلگرام شروع کنید، توکن بگیرید و در N8N وارد کنید تا بتوانید از داخل چت با AI صحبت کنید.
کاربردهای عملی
پشتیبانی مشتری
ربات تلگرام پاسخهای متنی و حافظهی مکالمه را حفظ میکند تا پشتیبانی ۲۴ ساعته شود.
تحلیل قراردادها
کافیست PDF قرارداد را بفرستید؛ AI بندهای مهم و ریسکها را در چند ثانیه لیست میکند.
نوشتن محتوای بلند
با حافظهی افزودهشده، AI ایدهها را در طی چند فصل دنبال میکند بدون اینکه از موضوع منحرف شود.
چند ترفند برای عملکرد بهتر
- موجودی رم را با پارامتر
n_batchکم کنید تا لگ نخورید. - از کوانتیزهسازی ۴بیتی برای نصف کردن مصرف حافظه استفاده کنید.
- حافظهی متنی را محدود به ۴۰۹۶ توکن نگه دارید تا پاسخ سریعتر بیاید.
سخن پایانی
با همین چند ابزار ساده، یک مرکز AI کاملاً خصوصی ساختهاید که هم هزینه را صفر کرده و هم حریم خصوصی را تضمین میکند؛ حالا نوبت شماست که از این قدرت جدید در پروژههایتان بهره ببرید.