سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

اجرای مدل محلی هوش مصنوعی روی گرافیک مجتمع؛ آزاد ماندن GPU اختصاصی

اجرای مدل محلی هوش مصنوعی روی گرافیک مجتمع؛ آزاد ماندن GPU اختصاصی

یک تجربه کاربری در XDA Developers نشان می‌دهد چگونه می‌توان یک لپ‌تاپ قدیمی را به سرور خانگی هوش مصنوعی تبدیل کرد، بدون اینکه گرافیک اختصاصی (Discrete GPU) آن درگیر شود. در این پروژه، مدل کوچک بینایی-زبانی (Vision-Language Model) روی گرافیک مجتمع (Integrated Graphics) پردازنده اجرا شده تا کارت RTX 3050 Ti برای وظایف سنگین‌تر آزاد بماند.

از سرور خانگی تا دستیار محلی برای اسناد حساس

لپ‌تاپ Acer Nitro 5 با پردازنده Core i7-11800H، ۱۶ گیگابایت رم و کارت RTX 3050 Ti Mobile پیش‌تر به سرور خانگی همیشه‌روشن تبدیل شده بود. با این حال، نویسنده متوجه شد اعضای خانواده اسناد حساس مانند صورت‌حساب بانکی، مدارک بیمه، گزارش‌های پزشکی و قبوض را برای توضیح و خلاصه‌سازی به سرویس‌هایی مانند Gemini و ChatGPT می‌فرستند. همین موضوع انگیزه ساخت یک دستیار محلی شد که اطلاعات را از شبکه خانگی خارج نکند.

اجرای مدل روی گرافیک مجتمع با llama.cpp

برای اجرای مدل روی گرافیک مجتمع Intel UHD، از نسخه Vulkan مربوط به llama.cpp استفاده شد و دستگاه به Vulkan0 محدود شد. به این ترتیب لایه‌های مدل روی iGPU قرار گرفتند. بررسی با فرمان nvidia-smi -l 1 نیز تأیید کرد که llama.cpp در مصرف کارت RTX سهمی ندارد. مدل انتخاب‌شده LFM3-VL-2B از Liquid AI است؛ یک مدل کوچک بینایی-زبانی که می‌تواند تصاویر و اسناد را بررسی کند. برای استفاده از آن، دست‌کم بیلد (Build) شماره 11960 از llama.cpp یا جدیدتر لازم است.

دسترسی همه دستگاه‌ها از طریق شبکه محلی

پس از راه‌اندازی استنتاج (Inference)، llama.cpp به یک سرور شبکه محلی (LAN Server) تبدیل شد تا گوشی‌ها و لپ‌تاپ‌های متصل به Wi-Fi بتوانند به آن دسترسی داشته باشند. لپ‌تاپ از طریق کابل LAN متصل ماند و سایر دستگاه‌ها با یک میانبر ساده در Chrome به چت‌بات محلی دسترسی پیدا کردند. هدف اصلی نیز حفظ همین وضعیت بود: RTX 3050 Ti همچنان برای ترنسکدینگ Jellyfin و استریم بازی با Sunshine در اختیار بماند.

محدودیت‌های واقعی مدل کوچک

این مدل جایگزین ChatGPT یا Gemini نیست و توان استدلال پیچیده ندارد. سرعت تولید متن حدود ۶ توکن بر ثانیه (Tokens per Second) است. در آزمایش با یک قرارداد اجاره‌نامه اسکن‌شده دو صفحه‌ای، ۷۰۹۸ توکن ورودی و ۲۵۲ توکن خروجی پردازش شد؛ پردازش مقدماتی (Prefill) حدود ۳۳.۳ توکن بر ثانیه، زمان تا نخستین توکن (TTFT) حدود ۲۱۳ ثانیه، تولید (Decode) حدود ۶.۱۱ توکن بر ثانیه و زمان کل پاسخ حدود ۲۵۴ ثانیه بود.

  • مدل به‌طور مستقیم فایل PDF را پردازش نمی‌کند و اسناد باید ابتدا به تصویر تبدیل یا اسکرین‌شات شوند.
  • سرعت پایین برای استفاده تعاملی چندان مناسب نیست، اما برای دستیار پس‌زمینه و پردازش گاه‌به‌گاه اسناد حساس کافی است.
  • مزیت اصلی، نگه‌داشتن اطلاعات در شبکه محلی و آزاد ماندن گرافیک اختصاصی برای وظایف دیگر است.

به گفته نویسنده، این راهکار برای همه کاربران منطقی نیست و هدف آن کسب امتیاز عملکردی نیست؛ بلکه یک سرویس کوچک و کم‌هزینه است که برای یک خانه، حریم خصوصی بیشتری فراهم می‌کند. در این حالت، کندی مدل در برابر امنیت و کنترل داده‌ها پذیرفتنی است.

نظرتان را ثبت کنید کد خبر: 56757 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/08/21 تعداد مشاهده: 25
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
اولین اتفاقات در ایران

اولین اتفاقات در ایران

اولین ها در ایران

171Skin for JetAudio

171Skin for JetAudio

171 اسکین زیبا و گلچین شده برای برنامه جت ایدیو

Emergency Call 112

Emergency Call 112

شبیه ساز آتش نشانی

Universal Document Converter 6.8.1712.15160

Universal Document Converter 6.8.1712.15160

نرم افزار تبدیل اسناد

مشروعیت الهی و مردمی

مشروعیت الهی و مردمی

اراده تشریعى خداوند

Oxford Advanced Learner's Dictionary - 9th Edition / Learner's Dictionary of Academic English with iWriter

Oxford Advanced Learner's Dictionary - 9th Edition / Learner's Dictionary of Academic English with iWriter

دیکشنری کامل آکسفورد ویرایش 9

Paragon Migrate OS to SSD 4.0 + 5.0 v10.1.28.154 Boot Medias x86/x64

Paragon Migrate OS to SSD 4.0 + 5.0 v10.1.28.154 Boot Medias x86/x64

انتقال یک پارچه اطلاعات هارددیسک پاراگن میگریت

معجزه سنگ ها

معجزه سنگ ها

آنچه باید درباره سنگها بدانید

Laser League + Update v1.2

Laser League + Update v1.2

چالشی

Edge Gestures 1.8.4 For Android +4.4

Edge Gestures 1.8.4 For Android +4.4

میانبر اپ اندروید

Star Nomad 2

Star Nomad 2

کوچ فضایی 2

Microsoft PowerToys 0.102.3101.0

Microsoft PowerToys 0.102.3101.0

ابزارهای کاربردی برای ویندوز 10

اهمیت حجاب در جامعه

اهمیت حجاب در جامعه

پرسش هایی درباره حجاب

مترجم زائر 1.2 برای اندروید 2.3+

مترجم زائر 1.2 برای اندروید 2.3+

جملات پر کاربرد ویژه زائرین اربعین حسینی

یادگیری زبان آلمانی

یادگیری زبان آلمانی

آموزش زبان آلمانی

IDM UltraEdit 33.1.0.27

IDM UltraEdit 33.1.0.27

ویرایش متن

اِکْمالُ الدّین و اِتْمامُ النّعمَة

اِکْمالُ الدّین و اِتْمامُ النّعمَة

کمال الدین و تمام النعمة شیخ صدوق

سخنرانی آماده شده برای دهه اول محرم سال 96 - شب هفتم

سخنرانی آماده شده برای دهه اول محرم سال 96 - شب هفتم

سخنرانی برای هفتم محرم 96

Lane Splitter 5.1.0 for Android

Lane Splitter 5.1.0 for Android

بازی موتور سواری پرسرعت

Google Keyboard ( Gboard ) 18.2.7.969776716 For Android +8.0

Google Keyboard ( Gboard ) 18.2.7.969776716 For Android +8.0

کیبورد گوگل

Moho Pro 14.4 Build 20251110

Moho Pro 14.4 Build 20251110

ساخت انیمیشن

Velocity Ultra

Velocity Ultra

ماورای سرعت

شبهات امامت و ولایت  فقیه

شبهات امامت و ولایت فقیه

اثبات ولایت فقیه

مفاهیم رمزگذاری در ویندوز

مفاهیم رمزگذاری در ویندوز

آشنایی با مفاهیم Encryption در Windows 7 , XP

Photo & Picture Resizer 1.0.314 Final For Android +4.0.3

Photo & Picture Resizer 1.0.314 Final For Android +4.0.3

تغییر اندازه و رزلوشن تصاویر

Principles, Practice and Techniques: A Beginner’s Course for Aspiring Jewelry Makers

Principles, Practice and Techniques: A Beginner’s Course for Aspiring Jewelry Makers

دوره جواهر سازی کامل

آموزش گوگل برای وبمسترها

آموزش گوگل برای وبمسترها

آشنایی با گوگل برای مدیران و وبمسترها

Gladiator

Gladiator

گلادیاتور

چگونگی اخذ مدرک مهندسی شبکه MCSE

چگونگی اخذ مدرک مهندسی شبکه MCSE

چگونگی اخذ مدرک ام سی اس ای

Launcher Planet 3.30 for Android +4.0

Launcher Planet 3.30 for Android +4.0

لانچر زیبا

راهنمای خرید منبع تغذیه کامپیوتر (پاور)

راهنمای خرید منبع تغذیه کامپیوتر (پاور)

راهنمای خرید پاور

نماهنگ سلام فرمانده با اجرای گروه سرود ۳۱۳ نفری + متن کامل سرود

نماهنگ سلام فرمانده با اجرای گروه سرود ۳۱۳ نفری + متن کامل سرود

سلام فرمانده

قرآن آوای نور 9.5.5 برای اندروید 4.1+

قرآن آوای نور 9.5.5 برای اندروید 4.1+

قرآن آوای نور

سخنرانی حجت الاسلام اسماعیل مقری با موضوع امتیازات و ویژگی های رسول اکرم (ص)

سخنرانی حجت الاسلام اسماعیل مقری با موضوع امتیازات و ویژگی های رسول اکرم (ص)

حاج آقا اسماعیل مقری با موضوع امتیازات و ویژگی های رسول اکرم (ص)

Pluralsight - Node.js for .NET Developers

Pluralsight - Node.js for .NET Developers

فیلم آموزش نود.جی‌اس ویژه‌ی توسعه‌دهندگان دات‌نِت

همخوانی سوره مبارکه فرقان گروه تواشیح رضوان قم

همخوانی سوره مبارکه فرقان گروه تواشیح رضوان قم

همخوانی گروه رضوان قم

Alarmy (Sleep If U Can) – Pro 5.15.07 for Android +3.0

Alarmy (Sleep If U Can) – Pro 5.15.07 for Android +3.0

بهترین آلارم و ساعت اندروید

WonderFox HD Video Converter Factory Pro 28.6 + Portable

WonderFox HD Video Converter Factory Pro 28.6 + Portable

تبدیل کننده فرمت ویدئویی واندرفاکس

nVIDIA GeForce Drivers 621.14 WHQL / Quadro RTX Driver / Studio Driver

nVIDIA GeForce Drivers 621.14 WHQL / Quadro RTX Driver / Studio Driver

درایور کارت گرافیک انویدیا جیفورس

AnyLogic Pro 8.9.6

AnyLogic Pro 8.9.6

شبیه‌سازی و مدل‌سازی سیستم‌های پیچیده

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!