در دنیای امروز، بسیاری از رایانه‌های گیمینگ دارای کارت‌های گرافیک قدرتمندی هستند که در زمان‌های غیر فعال به حال خود رها می‌شوند. یکی از کاربران با کارت گرافیک RTX 3070 خود، به جای استفاده از اشتراک Claude، تصمیم به اجرای مدل‌های محلی هوش مصنوعی گرفته است. این کار نه تنها حریم خصوصی او را حفظ می‌کند، بلکه هزینه‌های اضافی را نیز کاهش می‌دهد.
تعامل با اسناد خصوصی به صورت محلی
بسیاری از اسناد خصوصی مانند مدارک پزشکی، صورت‌حساب‌های بانکی و سایر اطلاعات حساس نباید به فضای ابری ارسال شوند. این کاربر با استفاده از نرم‌افزار LM Studio، می‌تواند اسناد خود را به صورت محلی بارگذاری کرده و از آن‌ها در چت‌ها استفاده کند. این نرم‌افزار امکان بارگذاری فایل‌های PDF، Word و متن را فراهم می‌کند.
استفاده از یک عامل مرورگر محلی
این کاربر به جای استفاده از افزونه Claude در مرورگر Chrome، از یک اپلیکیشن متن‌باز به نام Jan استفاده می‌کند. این اپلیکیشن به او اجازه می‌دهد تا مدل‌های محلی را اجرا کرده و از حریم خصوصی خود محافظت کند.
ایده‌پردازی بدون نگرانی از مصرف اعتبار
این کاربر با استفاده از مدل‌های محلی، می‌تواند ایده‌های خود را بدون نگرانی از مصرف اعتبار در Claude بررسی کند. او از مدل Qwythos 9B v2 برای چت و ایده‌پردازی استفاده می‌کند و در نهایت، ایده‌های خود را برای توسعه بیشتر به Claude می‌سپارد.
حفظ Claude برای کارهای ضروری
با وجود اینکه این کاربر بیشتر کارهای خود را بر روی GPU انجام می‌دهد، همچنان Claude را برای کارهای طراحی و تحقیقاتی ضروری نگه می‌دارد. این کار به او کمک می‌کند تا حریم خصوصی خود را حفظ کرده و هزینه‌های اضافی را کاهش دهد.