سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

اجرای مدل محلی هوش مصنوعی روی گرافیک مجتمع؛ آزاد ماندن GPU اختصاصی

اجرای مدل محلی هوش مصنوعی روی گرافیک مجتمع؛ آزاد ماندن GPU اختصاصی

یک تجربه کاربری در XDA Developers نشان می‌دهد چگونه می‌توان یک لپ‌تاپ قدیمی را به سرور خانگی هوش مصنوعی تبدیل کرد، بدون اینکه گرافیک اختصاصی (Discrete GPU) آن درگیر شود. در این پروژه، مدل کوچک بینایی-زبانی (Vision-Language Model) روی گرافیک مجتمع (Integrated Graphics) پردازنده اجرا شده تا کارت RTX 3050 Ti برای وظایف سنگین‌تر آزاد بماند.

از سرور خانگی تا دستیار محلی برای اسناد حساس

لپ‌تاپ Acer Nitro 5 با پردازنده Core i7-11800H، ۱۶ گیگابایت رم و کارت RTX 3050 Ti Mobile پیش‌تر به سرور خانگی همیشه‌روشن تبدیل شده بود. با این حال، نویسنده متوجه شد اعضای خانواده اسناد حساس مانند صورت‌حساب بانکی، مدارک بیمه، گزارش‌های پزشکی و قبوض را برای توضیح و خلاصه‌سازی به سرویس‌هایی مانند Gemini و ChatGPT می‌فرستند. همین موضوع انگیزه ساخت یک دستیار محلی شد که اطلاعات را از شبکه خانگی خارج نکند.

اجرای مدل روی گرافیک مجتمع با llama.cpp

برای اجرای مدل روی گرافیک مجتمع Intel UHD، از نسخه Vulkan مربوط به llama.cpp استفاده شد و دستگاه به Vulkan0 محدود شد. به این ترتیب لایه‌های مدل روی iGPU قرار گرفتند. بررسی با فرمان nvidia-smi -l 1 نیز تأیید کرد که llama.cpp در مصرف کارت RTX سهمی ندارد. مدل انتخاب‌شده LFM3-VL-2B از Liquid AI است؛ یک مدل کوچک بینایی-زبانی که می‌تواند تصاویر و اسناد را بررسی کند. برای استفاده از آن، دست‌کم بیلد (Build) شماره 11960 از llama.cpp یا جدیدتر لازم است.

دسترسی همه دستگاه‌ها از طریق شبکه محلی

پس از راه‌اندازی استنتاج (Inference)، llama.cpp به یک سرور شبکه محلی (LAN Server) تبدیل شد تا گوشی‌ها و لپ‌تاپ‌های متصل به Wi-Fi بتوانند به آن دسترسی داشته باشند. لپ‌تاپ از طریق کابل LAN متصل ماند و سایر دستگاه‌ها با یک میانبر ساده در Chrome به چت‌بات محلی دسترسی پیدا کردند. هدف اصلی نیز حفظ همین وضعیت بود: RTX 3050 Ti همچنان برای ترنسکدینگ Jellyfin و استریم بازی با Sunshine در اختیار بماند.

محدودیت‌های واقعی مدل کوچک

این مدل جایگزین ChatGPT یا Gemini نیست و توان استدلال پیچیده ندارد. سرعت تولید متن حدود ۶ توکن بر ثانیه (Tokens per Second) است. در آزمایش با یک قرارداد اجاره‌نامه اسکن‌شده دو صفحه‌ای، ۷۰۹۸ توکن ورودی و ۲۵۲ توکن خروجی پردازش شد؛ پردازش مقدماتی (Prefill) حدود ۳۳.۳ توکن بر ثانیه، زمان تا نخستین توکن (TTFT) حدود ۲۱۳ ثانیه، تولید (Decode) حدود ۶.۱۱ توکن بر ثانیه و زمان کل پاسخ حدود ۲۵۴ ثانیه بود.

  • مدل به‌طور مستقیم فایل PDF را پردازش نمی‌کند و اسناد باید ابتدا به تصویر تبدیل یا اسکرین‌شات شوند.
  • سرعت پایین برای استفاده تعاملی چندان مناسب نیست، اما برای دستیار پس‌زمینه و پردازش گاه‌به‌گاه اسناد حساس کافی است.
  • مزیت اصلی، نگه‌داشتن اطلاعات در شبکه محلی و آزاد ماندن گرافیک اختصاصی برای وظایف دیگر است.

به گفته نویسنده، این راهکار برای همه کاربران منطقی نیست و هدف آن کسب امتیاز عملکردی نیست؛ بلکه یک سرویس کوچک و کم‌هزینه است که برای یک خانه، حریم خصوصی بیشتری فراهم می‌کند. در این حالت، کندی مدل در برابر امنیت و کنترل داده‌ها پذیرفتنی است.

نظرتان را ثبت کنید کد خبر: 56757 گروه خبری: اخبار نرم افزار منبع خبر: XDA Developers تاریخ خبر: 1405/08/21 تعداد مشاهده: 27
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
تازه‌ترین یافته‌های علمی و اطلاعات آماری جهان

تازه‌ترین یافته‌های علمی و اطلاعات آماری جهان

بحث‌انگیزترین مسائل و تعارض‌های جهان معاصر

WildBit Viewer 6.19 Commercial

WildBit Viewer 6.19 Commercial

نرم‌افزار مشاهده و ویرایش عکس‌

Project Hospital Traumatology Department

Project Hospital Traumatology Department

شبیه ساز بیمارستان

EBookDroid 2.7.3 for Android +4.0

EBookDroid 2.7.3 for Android +4.0

نمایش پی دی اف

AllPlayer 9.6

AllPlayer 9.6

پلیر همه‌کارهٔ پخش فیلم و صدا

رساله نماز و روزه حضرت آیت الله خامنه ای

رساله نماز و روزه حضرت آیت الله خامنه ای

رساله رهبری

مشهورترین و تأثیرگذارترین متون کلاسیک فلسفه سیاسی غرب

مشهورترین و تأثیرگذارترین متون کلاسیک فلسفه سیاسی غرب

گفتگو میان سقراط و دیگران

5 جلسه تأثیر دین در زندگی از حجت الاسلام والمسلمین پناهیان

5 جلسه تأثیر دین در زندگی از حجت الاسلام والمسلمین پناهیان

حاج آقا پناهیان با موضوع تأثیر دین در زندگی

کاپیتولاسیون در ایران

کاپیتولاسیون در ایران

تحلیل تاریخی کاپیتولاسیون در ایران از عهدنامه ترکمانچای

خلاصه عقاید دکتر علی شریعتی

خلاصه عقاید دکتر علی شریعتی

از دکتر علی شریعتی

Kaspersky Internet Security & Antivirus 11.132.4.15652 for Android +7.0

Kaspersky Internet Security & Antivirus 11.132.4.15652 for Android +7.0

آنتی ویروس موبایل کاسپراسکای

معرفی نرم افزار Idrisi 32

معرفی نرم افزار Idrisi 32

معرفی ایدریسی 32

EdrawMax 16.0.2.1593 Ultimate + Portable

EdrawMax 16.0.2.1593 Ultimate + Portable

طراحی نمودار

Stairs

Stairs

پله‌ها

فضائل استثنایی حضرت زهرا سلام الله علیها

فضائل استثنایی حضرت زهرا سلام الله علیها

سخنرانی زیبا درباره فضائل حضرت فاطمه زهرا

تهران یاب Tehranyab 1.1

تهران یاب Tehranyab 1.1

نقشه تهران به همراه لیست اماکن این شهر

MSC Simufact Welding 2025.4 / MSC Simufact Forming 2025.4

MSC Simufact Welding 2025.4 / MSC Simufact Forming 2025.4

شبیه ساز قدرتمند جوش کاری

Blue Light Filter–Screen Dimmer for Eye Care VIP 3.3.3.6 for Android +4.1

Blue Light Filter–Screen Dimmer for Eye Care VIP 3.3.3.6 for Android +4.1

فیلتر نور آبی

Epic Pen Pro 3.12.161

Epic Pen Pro 3.12.161

دفترچه یادداشت برای ویندوز

راهنمای کاربر Nokia N9

راهنمای کاربر Nokia N9

آموزش نوکیا ان 9

طراحی شخصیت با نرم افزار سویش مکس

طراحی شخصیت با نرم افزار سویش مکس

طراحی شخصیت با سویش مکس

روش تحقیق پیشرفته

روش تحقیق پیشرفته

نگارش رساله و پایان نامه

Camera ZOOM FX Premium 6.3.6 for Android +2.3

Camera ZOOM FX Premium 6.3.6 for Android +2.3

دوربین زوم اف ایکس

Richard Clayderman Super Best Musics Album

Richard Clayderman Super Best Musics Album

بهترین آهنگ های ریچارد کلایدرمن

Numantia

Numantia

استراتژیک نوبتی

Platypus

Platypus

پلاتی‌پوس

Lithium Music Player 3.03 for Android +4.1

Lithium Music Player 3.03 for Android +4.1

موزیک پلیر اندروید

Massive Assault - Phantom Renaissance

Massive Assault - Phantom Renaissance

حمله‌ی عظیم - شبح رنسانس

SpongeBob SquarePants: The Cosmic Shake

SpongeBob SquarePants: The Cosmic Shake

باب اسفنجی

Reaching for Petals

Reaching for Petals

ماجراجویی open world

Castle of Illusion+ Update 1

Castle of Illusion+ Update 1

قلعه توهم میکی ماوس

آموزش کار با گوشی های Symbian Anna

آموزش کار با گوشی های Symbian Anna

آموزش کار با گوشی های سیمبین آنا

Adobe InCopy 2027 v22.0 / 2026 21.6 / 2025 20.5.5 / 2024 / 2023 / 2022 / 2021 / 2020 / macOS

Adobe InCopy 2027 v22.0 / 2026 21.6 / 2025 20.5.5 / 2024 / 2023 / 2022 / 2021 / 2020 / macOS

ادوبی اینکپی

چگونه بدنی انعطاف پذیر داشته باشیم؟

چگونه بدنی انعطاف پذیر داشته باشیم؟

1500 کشش: راهنمای کامل برای انعطاف پذیری و حرکت

Smash Hit 1.4.3 Premium for Android +2.3

Smash Hit 1.4.3 Premium for Android +2.3

دنیای شیشه ای

Python 3.15.0 Win/Mac/Linux

Python 3.15.0 Win/Mac/Linux

پایتون

چگونه به پرسش‌های کودکان درباره خدا پاسخ دهیم؟

چگونه به پرسش‌های کودکان درباره خدا پاسخ دهیم؟

خدا کیست

گلچین مداحی های رحلت پیامبر اکرم صل الله علیه و آله

گلچین مداحی های رحلت پیامبر اکرم صل الله علیه و آله

مداحی های رحلت پیامبر اکرم صل الله علیه و آله

مداحی 30 صفر جواد مقدم سال 97

مداحی 30 صفر جواد مقدم سال 97

مداحی 97 حاج سید مجید بنی فاطمه

سخنرانی محسن کازرونی با موضوع درک عظمت ماه رمضان و شناخت آن

سخنرانی محسن کازرونی با موضوع درک عظمت ماه رمضان و شناخت آن

سخنرانی درک عظمت ماه رمضان و شناخت آن با محسن کازرونی

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!