اجرای مدل‌های زبانی بزرگ به اینترنت یا سرویس‌های ابری محدود نیست؛ با ابزارهایی مانند LM Studio و بستگی دارد. اگر سخت‌افزار قدرتمندی ندارید، مدل‌های کوچک و نسخه‌های کوانتیده می‌توانند راهکار عملی‌تری باشند.