یک کاربر با اجرای مدل زبانی محلی (Local LLM) روی مک و اتصال آن به جیمیل، Google Calendar و Home Assistant توانسته است تجربه کاربردی‌تری از دستیار شخصی بسازد. در این روش، مدل به‌جای دریافت دستی متن ایمیل، خودش می‌تواند رشته ایمیل را بازیابی کند، قرارهای تقویم را بررسی کند و از طریق Home Assistant دستگاه‌های خانه را بپرسد یا کنترل کند. مدل روی کامپیوتر کاربر اجرا می‌شود، اما جیمیل و تقویم همچنان به سرویس‌های آنلاین گوگل نیاز دارند.
پروتکل MCP؛ دسترسی مدل به ابزارها
LM Studio که برای اجرای مدل‌های محلی روی مک استفاده می‌شود، از پروتکل MCP پشتیبانی می‌کند. MCP یا پروتکل زمینه مدل (Model Context Protocol) به یک برنامه هوش مصنوعی روشی استاندارد برای دسترسی به ابزارهای ارائه‌شده توسط سرویس دیگر می‌دهد. با افزودن سرور MCP مرتبط به LM Studio، ابزارهای آن در گفتگو در دسترس مدل قرار می‌گیرند.
مدل توضیحات این ابزارها و اطلاعات موردنیاز هرکدام را دریافت می‌کند. برای نمونه، یک ابزار جستجوی جیمیل یک عبارت جستجو می‌پذیرد؛ مدل آن عبارت را می‌سازد، LM Studio درخواست را به کانکتور (Connector) می‌فرستد و کانکتور نتایج را از گوگل بازیابی می‌کند. سپس نتایج به گفتگو بازمی‌گردند تا مدل از آن‌ها استفاده کند. کانکتور مسئول دسترسی واقعی به برنامه است.
جیمیل و تقویم به کانکتوری نیاز دارند که از APIهای آن‌ها پشتیبانی کند. پروژه‌های اجتماعی مانند Google Workspace MCP هر دو سرویس را پوشش می‌دهند، هرچند کاربر همچنان باید دسترسی به حساب گوگل خود را مجاز کند. Home Assistant نیز یکپارچه‌سازی سرور MCP اختصاصی خود را دارد که ابزارهای پشتیبانی‌شده برای تعامل با خانه را در اختیار می‌گذارد. علاوه بر این، به مدلی نیاز است که بتواند با اطمینان از ابزارها استفاده کند؛ افزودن یک سرور تضمین نمی‌کند که مدل عملیات درست را انتخاب کند.
جیمیل و تقویم؛ ترکیبی مکمل
جیمیل و تقویم گوگل در کنار هم بهتر کار می‌کنند. اگر کسی ایمیلی برای درخواست جلسه بفرستد، کاربر باید گفتگو را بخواند و تقویمش را بررسی کند تا زمان پیشنهاد دهد. با اتصال هر دو برنامه، می‌توان از مدل محلی خواست تا در همان گفتگو رشته ایمیل را بازیابی و قرارهای تقویم را بررسی کند.
دسترسی به جیمیل همچنین به یافتن جزئیاتی کمک می‌کند که در دل یک گفتگو پنهان شده‌اند. گاهی پیام قبلی شامل تاریخ پیشنهادی یا مطلبی است که باید در پاسخ گنجانده شود. اگر مدل به جیمیل دسترسی داشته باشد، می‌تواند رشته ایمیل را بازیابی و از آن زمینه استفاده کند؛ اینگونه پاسخ به پرسشی که قبلاً پاسخ داده شده یا پیشنهاد تاریخی که بعداً تغییر کرده، رخ نمی‌دهد.
دسترسی به تقویم به بخش بعدی کمک می‌کند. مدل می‌تواند پیش از پیشنهاد یک بازه زمانی، قرارهای موجود را بررسی کند، مشروط بر آنکه کانکتور ابزارهای مرتبط را ارائه دهد. سپس می‌توان بر اساس آن زمان‌های آزاد، درخواست پاسخ کرد. ساخت یک رویداد اقدامی جداگانه است و به ابزارها و مجوزهای مناسب نیاز دارد؛ بنابراین توانایی خواندن برنامه، به‌طور خودکار به معنای توانایی تغییر آن نیست.
بهتر است پاسخ به‌صورت پیش‌نویس (Draft) بماند تا پیش از ارسال بازبینی شود. همین موضوع درباره یک رویداد پیشنهادی تقویم هم صادق است: تاریخ، ساعت و مدت باید پیش از افزودن درست باشند. اتصال برنامه‌ها به مدل دسترسی به اطلاعات را می‌دهد، اما کاربر همچنان باید نتیجه را بررسی کند. اینکه این کار چقدر در وقت صرفه‌جویی می‌کند به میزان اصلاح خروجی مدل بستگی دارد. کاربر در مدت کوتاه استفاده از این چیدمان، زیاد مجبور به اصلاح مدل نشده، اما ترجیح می‌دهد آن را بدون بررسی اولیه رها نکند.
Home Assistant؛ کنترل دستگاه‌ها با LLM محلی
مدل زبانی محلی می‌تواند در اداره خانه کمک کند. روتین زمان خواب در Home Assistant تلویزیون و بلندگوها را خاموش می‌کند و نور حمام را چند دقیقه کم‌نور نگه می‌دارد و سپس خاموش می‌کند. کاربر از قبل یک اسکریپت برای این کار دارد و با در معرض قرار دادن آن برای مدل، می‌تواند از آن بخواهد «خانه را خاموش کن». Home Assistant توالی و زمان‌بندی را مدیریت می‌کند، بنابراین مدل لازم نیست تا خاموش شدن نور حمام درگیر بماند.
همچنین می‌توان درباره دستگاه‌های خانه پرسید و فرمان‌هایی با استثنا داد. برای مثال، فرمان «چراغ‌ها را خاموش کن، اما نور حمام را روشن بگذار» چیزی است که مدل باید تفسیر کند و سپس ابزارهای مرتبط را فراخوانی کند. باید دستگاه‌هایی را که می‌خواهید مدل کنترل کند در معرض دید آن قرار دهید و نام‌های واضح به شناسایی درست کمک می‌کنند. مدل می‌تواند وضعیت فعلی دستگاه‌ها را نیز بپرسد؛ این ویژگی وقتی مفید است که کاربر می‌خواهد بداند چیزی هنوز روشن است یا نه.
با این حال، برای درخواست‌های ساده همچنان از فرمان‌های بومی Home Assistant استفاده می‌شود. روشن کردن یک چراغ به LLM نیاز ندارد، به‌ویژه وقتی Home Assistant خودش فرمان را می‌فهمد. جذابیت اصلی استفاده از مدل برای درخواست‌هایی است که چند دستگاه یا یک روتین موجود را درگیر می‌کنند.
مدل‌های محلی فراتر از چت‌باکس
اگر از مدل‌های زبانی محلی فقط برای پرسیدن سؤال و گرفتن پاسخ‌های عمومی استفاده می‌کنید، از تمام ظرفیت آن‌ها بهره نمی‌برید. تصور رایج این است که مدل‌های محلی چندان بهتر از مدل‌های ابری نیستند، اما با ابزارهای مناسب می‌توانند بسیار کارآمد باشند. کاربر حتی توانسته یک مدل ۹ میلیارد پارامتری را به OpenCode متصل کند و با کمک آن ابزارهای زیادی بسازد که انتظار نداشت یک مدل محلی در ساختشان کمک کند.