یک مهندس مایکروسافت به نام اسکات هانسلمن ابزار رایگان gputaskman را برای ویندوز ساخته است؛ ابزاری که مشخص می‌کند کدام پردازش‌ها و برنامه‌ها از واحد پردازش گرافیکی (GPU) و حافظه اختصاصی کارت گرافیک (VRAM) استفاده می‌کنند.
این ابزار اطلاعاتی فراتر از ابزارهای داخلی ویندوز ۱۱ ارائه می‌دهد و می‌تواند برای کاربرانی که با بارهای کاری هوش مصنوعی محلی سروکار دارند، مفید باشد.
gputaskman چه اطلاعاتی را نمایش می‌دهد؟
مدیر وظیفه (Task Manager) ویندوز می‌تواند مصرف GPU و حافظه را به تفکیک پردازش نشان دهد، اما دید محدودی درباره نحوه استفاده برنامه‌ها از منابع GPU ارائه می‌کند. تب جزئیات (Details) نیز اطلاعات بیشتری می‌دهد، ولی همچنان تصویر کاملی از مصرف حافظه ارائه نمی‌کند.
ابزار gputaskman برای هر پردازش، اطلاعاتی مانند میزان استفاده از GPU و مصرف VRAM را نمایش می‌دهد. این ابزار نه‌تنها نشان می‌دهد حافظه GPU در حال استفاده است، بلکه می‌تواند مشخص کند این حافظه توسط یک مدل هوش مصنوعی، مرورگر وب، رندر دسکتاپ یا پردازش دیگری مصرف می‌شود.
- نمایش مصرف GPU و VRAM به تفکیک پردازش
- شناسایی بارهای کاری هوش مصنوعی محلی
- نمایش جزئیات مدل‌های زبانی بزرگ (LLM) در حال اجرا، شامل مصرف حافظه مدل و منابع مرتبط GPU
- نمایش دمای GPU
پاسخ به یک پرسش رایج در مدیریت حافظه GPU
هانسلمن در صفحه GitHub این پروژه توضیح داده است که Task Manager تنها می‌گوید «۱۵ گیگابایت استفاده شده است» و gputaskman تلاش می‌کند پاسخ دهد این حافظه توسط چه چیزی مصرف شده است: وزن‌های مدل (Model Weights)، حافظه پنهان کلید-مقدار (KV Cache)، مرورگر، ترکیب‌کننده دسکتاپ (Desktop Compositor) یا دلیل دیگری؟ و چرا بخشی از حافظه GPU در حافظه رم سیستم (System RAM) قرار گرفته است؟
پشتیبانی و آینده توسعه
gputaskman در مراحل اولیه توسعه قرار دارد و هانسلمن از کاربران در شبکه اجتماعی X خواسته است درخواست ادغام (Pull Request) ارائه کنند. در حال حاضر این ابزار از رایانه‌های ویندوزی با GPUهای AMD یا NVIDIA پشتیبانی می‌کند. او در پیامی بعدی گفته است که هدف بعدی، پشتیبانی از Surface Laptop Ultra و سایر دستگاه‌های RTX Spark و ویندوز روی آرم (Windows on Arm) است.
ارتباط با هوش مصنوعی محلی
مایکروسافت اخیراً ابتکار «هوش ترکیبی» (Hybrid Intelligence) را معرفی کرده است که پردازش هوش مصنوعی روی دستگاه را با سرویس‌های ابری ترکیب می‌کند. با اجرای بیشتر وظایف هوش مصنوعی به‌صورت محلی روی رایانه‌ها، کاربران ممکن است به دید بهتری نسبت به تأثیر این بارهای کاری بر حافظه GPU و عملکرد سیستم نیاز داشته باشند. ابزارهایی مانند gputaskman نمای دقیق‌تری از پردازش‌ها، مدل‌ها و برنامه‌هایی ارائه می‌دهند که منابع GPU را مصرف می‌کنند.