سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

اتفاقی نادر در دنیای AI؛ چرا ایلان ماسک و سم آلتمن خواستار کاهش سرعت توسعه هوش مصنوعی شدند؟

نتشار یادداشت جنجالی داریو آمودی، مدیرعامل شرکت Anthropic، با عنوان We Must Pace the Frontier به تیتر یک رسانه‌های فناوری تبدیل شده است؛ در این مقاله او رسماً خواستار کاهش سرعت توسعه هوش مصنوعی در مدل‌های پیشرفته شده است. اما نکته‌ای که این خبر را به یک اتفاق نادر تبدیل کرد، تایید سریع این موضع توسط رقبای سرسخت او یعنی سم آلتمن و ایلان ماسک بود.

​باید دقت کنیم که مسئله اصلی در اینجا توقف کامل توسعه هوش مصنوعی نیست؛ هیچ‌یک از این چهره‌ها خواهان تعطیلی نوآوری نیستند. نگرانی اصلی این است که قابلیت‌های مدل‌های پیشرفته، بسیار سریع‌تر از سازوکارهای ایمنی و توانایی کنترل انسانی پیش می‌روند. موضوعاتی مانند گسترش توانایی‌های AI Agent، پدیده خودبهبوددهی سیستم‌ها، امنیت سایبری و لزوم حضور نهادهای ارزیابی مستقل، همگی نشان می‌دهند که ما نیازمند یک تنفس راهبردی هستیم تا ایمنی هوش مصنوعی را با پیشرفت‌های خیره‌کننده آن همگام کنیم.

چرا داریو آمودی خواستار کاهش سرعت توسعه هوش مصنوعی شد؟

داریو آمودی هرگز مخالف پیشرفت این فناوری نیست؛ بلکه صراحتاً تأیید می‌کند که باید سرعت توسعه هوش مصنوعی را با پروتکل‌های امنیتی هماهنگ کرد.

سبقت گرفتن قابلیت‌های مدل‌های Frontier از سازوکارهای ایمنی

مسئله اصلی، سرعت سرسام‌آور پیشرفت مدل‌های پیشرفته هوش مصنوعی یا همان Frontier AI است. آمودی معتقد است قابلیت‌های این مدل‌ها با سرعتی در حال افزایش است که سازوکارهای ایمنی AI و درک انسانی از پیامدهای آن، به‌هیچ‌وجه نمی‌توانند همزمان با آن پیش بروند. توسعه سریع هوش مصنوعی بدون ارزیابی‌های دقیق و مستمر، خطر بروز خطاهای پیش‌بینی‌نشده را به‌شدت بالا می‌برد.

خطر افزایش توانایی AI Agentها و سیستم‌های خودمختار

نگرانی‌ها فقط محدود به چت‌بات‌های متنی نیست. تمرکز اصلی روی ایجنت هوش مصنوعی (AI Agent) و سیستم‌های خودمختار است. این عامل‌های خودمختار می‌توانند به‌طور کاملاً مستقل وظایف را به‌صورت زنجیره‌ای انجام دهند، به اینترنت متصل شوند و از ابزارهای مختلف بدون دخالت انسان استفاده کنند. با افزایش استقلال سیستم‌ها، در گزارش‌های جدید نگرانی‌های جدی درباره توانایی این ایجنت‌های پیشرفته برای انجام عملیات پیچیده و حتی اجرای سناریوهای مخرب سایبری مطرح شده است که خطرات هوش مصنوعی و امنیت آن را از حالت تئوری به واقعیتی ملموس تبدیل می‌کند.

چرا سم آلتمن و ایلان ماسک از کاهش سرعت توسعه AI حمایت کردند؟

هم‌نظری چهره‌های رقیب در دره سیلیکون نشان می‌دهد تهدیدات به نقطه‌ای بحرانی رسیده که منافع مشترک بر جنگ‌های تجاری غلبه کرده است.

موضع سم آلتمن درباره تنظیم سرعت و تعهد به نظارت

چرا سم آلتمن با کاهش سرعت هوش مصنوعی موافق است؟ او مفهوم تنظیم سرعت یا Pacing را تأیید کرده و آن را نه یک عقب‌نشینی، بلکه ادامه گفت‌وگوهای درون‌سازمانی برای توسعه مسئولانه می‌داند. آلتمن در واکنش به یادداشت آمودی صراحتاً می‌نویسد:

I agree with Dario that we need to pace the frontier... Committing to having independent evaluators with employee-like access is a great idea, and we will do the same.

«من با داریو موافقم که باید سرعت توسعه مدل‌های مرزی را تنظیم کنیم. تعهد به داشتن ارزیاب‌های مستقل با دسترسی مشابه کارمندان ایده بسیار خوبی است و ما نیز همین کار را خواهیم کرد.»

چرا هم‌نظر شدن مدیران رقیب صنعت AI مهم است؟

اما چرا ایلان ماسک خواستار کاهش سرعت توسعه هوش مصنوعی شد؟ ماسک که همواره درباره پیامدهای این فناوری هشدار داده بود، با انتشار جمله صریح «داریو درست می‌گوید» به این جریان پیوست. واقعیت این است که اگر رقبای اصلی بر سر کاهش سرعت پیشرفت هوش مصنوعی توافق نکنند، مسابقه‌ای مخرب برای جلو افتادن شکل می‌گیرد که اولین قربانی آن استانداردهای ایمنی خواهد بود. بنابراین، اتحاد آن‌ها برای پایان دادن به تک‌روی‌های تجاری حیاتی است.

منظور از کاهش سرعت توسعه هوش مصنوعی چیست؟

در پاسخ به این سوال باید گفت هدف از کاهش سرعت توسعه هوش مصنوعی ایجاد فرصتی عملیاتی برای ارزیابی ریسک و استقرار مقررات است.

مفهوم کلیدی

باور نادرست عمومی

واقعیت اجرایی و رویکرد صحیح

ماهیت اقدام

توقف کامل ساخت سیستم‌های پیشرفته

تنظیم سرعت نوآوری متناسب با پروتکل‌های ایمنی

نهاد ناظر

مسدودسازی نوآوری توسط دولت‌ها

حضور فعال ارزیاب شخص ثالث با دسترسی بالا

رقابت جهانی

واگذاری بازار به کشورهای رقیب

ایجاد توافقات و استانداردهای مشترک صنعتی

استفاده از ارزیاب‌های مستقل برای بررسی ایمنی مدل‌ها

یکی از محورهای اصلی این پیشنهاد، استفاده از ارزیاب‌های مستقل (Third-party / Independent Evaluators) است. تکیه بر خودآزمایی شرکت‌ها دیگر برای تضمین امنیت مدل‌های هوش مصنوعی کافی نیست و احتمال تضاد منافع را بالا می‌برد. حضور ارزیاب شخص ثالث با سطح دسترسی بالا می‌تواند رفتارهای پنهان و مخرب سیستم‌ها را پیش از عرضه عمومی کشف کند. Anthropic و OpenAI نیز به این رویکرد برای حفظ استانداردهای ایمنی و نظارت بر هوش مصنوعی متعهد شده‌اند.

ایجاد استانداردهای مشترک صنعتی و ضرورت هماهنگی بین‌المللی

اگر یک شرکت به‌تنهایی تصمیم به کاهش سرعت بگیرد، قطعاً در بازار از رقبای خود عقب می‌ماند. به همین دلیل، ایجاد یک استاندارد مشترک و تعیین معیارهای ایمنی برای ارزیابی قبل از انتشار مدل‌های جدید ضروری است. همکاری شرکت‌ها مانع از شکل‌گیری مسابقه‌ای می‌شود که در آن مجموعه‌ها برای جلو زدن از یکدیگر مجبور شوند استانداردهای ایمنی را نادیده بگیرند.

اگر سرعت توسعه هوش مصنوعی کنترل نشود چه اتفاقی می‌افتد؟

اگر این هشدارها نادیده گرفته شوند، توسعه مهارنشده ریسک‌های عینی فراوانی به‌دنبال دارد که کاملاً واقعی هستند.

افزایش ریسک سوءاستفاده از مدل‌های پیشرفته

مدل‌های قدرتمند می‌توانند در کنار کاربردهای مفید، برای اتوماسیون حملات سایبری، اجرای کلاهبرداری‌های پیچیده و تولید گسترده محتوای مخرب مورد سوءاستفاده قرار گیرند. توسعه و اجرای مدل‌های پیشرفته هوش مصنوعی تنها به الگوریتم و داده وابسته نیست و زیرساخت پردازشی مناسب نیز نقش مهمی در این فرایند دارد. کسب‌وکارهایی که به منابع پردازشی منعطف و مقیاس‌پذیر نیاز دارند، می‌توانند از سرور ابری برای تأمین بخشی از این نیازها استفاده کنند. بااین‌حال، اگر سرعت توسعه مهار نشود، همین زیرساخت‌ها نیز به‌شدت در معرض خطر نفوذ ایجنت‌های خودمختار قرار می‌گیرند.

خودبهبوددهی بازگشتی و چالش مهار انسانی

یکی دیگر از چالش‌ها، پدیده خودبهبوددهی بازگشتی (AI-assisted self-improvement) است. در این حالت، هوش مصنوعی از توانایی‌های خود برای بازنویسی کدها و ارتقای نسل بعدی سیستم‌ها استفاده می‌کند. اگر این روند سرعت بگیرد، ما با جهشی مهارنشدنی به سمت ابرهوش مصنوعی (Superintelligence) یا AGI حرکت خواهیم کرد که کنترل آن بسیار پیچیده خواهد بود.

سخن پایانی

​کاهش سرعت توسعه هوش مصنوعی به‌هیچ‌وجه به‌معنای توقف هوش مصنوعی و پایان مسیر نوآوری نیست. بلکه نگرانی اصلی، جلو افتادن قابلیت‌های خیره‌کننده AI از سازوکارهای ایمنی، قانون‌گذاری و توانایی نظارت انسانی است. حمایت چهره‌های سرشناسی چون سم آلتمن و ایلان ماسک از ایده آمودی نشان می‌دهد مسئله AI Safety از یک بحث تخصصی درون‌آزمایشگاهی، به یکی از مسائل و بحران‌های اصلی صنعت تبدیل شده است. ایجاد توافقات مشترک صنعتی و استقرار ارزیاب‌های مستقل شخص ثالث، تنها راه عبور امن از این مرحله است. سؤال اصلی از اینجا به بعد دیگر این نیست که «آیا هوش مصنوعی پیشرفت خواهد کرد؟»؛ بلکه این است که آیا انسان می‌تواند سرعت این پیشرفت را به‌اندازه‌ای کنترل کند که ایمنی نیز همزمان با آن رشد کند؟

نظرتان را ثبت کنید کد خبر: 55130 گروه خبری: رپورتاژ آگهی منبع خبر: پابلیکا تاریخ خبر: 1405/07/14 تعداد مشاهده: 449
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Nidhogg v1.004

Nidhogg v1.004

نیدهاگ

SU Podium 2014  v2.18.930 Win x64-x86 / 2.5.002 Plus Mac

SU Podium 2014 v2.18.930 Win x64-x86 / 2.5.002 Plus Mac

پلاگین رندر گرفتن از SketchUp

Temple Run Oz 1.7.0 for Android +2.3

Temple Run Oz 1.7.0 for Android +2.3

بازی فرار از معبد

HDD-Booster Professional 2.006

HDD-Booster Professional 2.006

بهینه سازی هارد دیسک

ضرب المثل فارسی و انگلیسی

ضرب المثل فارسی و انگلیسی

مقایسه مثل های فارسی و انگلیسی

ReNamer Pro 7.6.0

ReNamer Pro 7.6.0

تغییر نام فایل‌ها و پوشه‌ها

منتخب سخنرانی های زیبا درباره شهادت حضرت رقیه

منتخب سخنرانی های زیبا درباره شهادت حضرت رقیه

سخنرانی های حجت الاسلام درباره شهادت حضرت رقیه

سخنرانی حجت الاسلام سید عبدالله فاطمی نیا با موضوع شرح خطبه متقین  - 8 جلسه

سخنرانی حجت الاسلام سید عبدالله فاطمی نیا با موضوع شرح خطبه متقین - 8 جلسه

حاج آقا فاطمی نیا با موضوع شرح خطبه متقین

Cinema FV-5 1.52 for Android +4.0

Cinema FV-5 1.52 for Android +4.0

فیلمبرداری حرفه ای

Effortless English Complete Lessons

Effortless English Complete Lessons

آموزش زبان افورتلس Aj Hoge

Paragon Partition Manager 11 Server v10.0.10.11287 Retail x86/x64

Paragon Partition Manager 11 Server v10.0.10.11287 Retail x86/x64

نرم افزار قدرتمند پارتیشن بندی نسخه ی سرور

Simple Kitchen Life Hacks

Simple Kitchen Life Hacks

ترفندهای آشپزخانه

آموزش فارسی پایان نامه نویسی با Word

آموزش فارسی پایان نامه نویسی با Word

فیلم آموزش تصویری آشنایی با پایان نامه نویسی با نرم افزار Word

Draw A Stickman EPIC

Draw A Stickman EPIC

مداد همه‌کاره و آدمک‌ها

Bad Piggies 1.5.1

Bad Piggies 1.5.1

خوک های بد

Everywhere Launcher Pro 2.31 for Android +4.1

Everywhere Launcher Pro 2.31 for Android +4.1

لانچر محبوب

Auto Gordian Knot - AutoGK 2.55 + Tools & Tutorial

Auto Gordian Knot - AutoGK 2.55 + Tools & Tutorial

بهترین نرم‌افزار برای ریپ دی وی دی فیلم به همراه ابزارها و آموزش

علم نحو و قواعد مربوط به آن

علم نحو و قواعد مربوط به آن

ادبیات عرب

Death Rally

Death Rally

رالی مرگ

سخنرانی حجت الاسلام انصاریان با موضوع حضرت معصومه (س)، از راویان روایات اهل‌بیت (ع)

سخنرانی حجت الاسلام انصاریان با موضوع حضرت معصومه (س)، از راویان روایات اهل‌بیت (ع)

حاج آقا انصاریان با موضوع حضرت معصومه (س)، از راویان روایات اهل‌بیت (ع)

چگونه کاریکاتور جذاب طراحی کنیم؟

چگونه کاریکاتور جذاب طراحی کنیم؟

طنز تصویری

انقلاب نوشته هانا آرنت

انقلاب نوشته هانا آرنت

انقلاب

Lumos 3.0.6 for Android +4.0

Lumos 3.0.6 for Android +4.0

2000 آیکون

نصب و راه اندازی شبکه (ویرایش سوم)

نصب و راه اندازی شبکه (ویرایش سوم)

آموزش شبکه از تئوری تا عملی

افزایش فروش اینترنتی

افزایش فروش اینترنتی

ترفند‌های افزایش فروش آنلاین

Toki Tori Update 1-14

Toki Tori Update 1-14

محبوب و جمع و جور ؛ جوجه زبل

Expedition to the Tepuyes plateau  where prehistoric animals

Expedition to the Tepuyes plateau where prehistoric animals

دنیای گم شده

ماساژ درمانی

ماساژ درمانی

روانشناسی و ماساژ

10 جلسه حکمت هایی از نهج البلاغه از حجت الاسلام والمسلمین سید عبدالله فاطمی نیا

10 جلسه حکمت هایی از نهج البلاغه از حجت الاسلام والمسلمین سید عبدالله فاطمی نیا

حاج آقا فاطمی نیا با موضوع حکمت هایی از نهج البلاغه

سخنرانی حجت الاسلام حسینی قمی با موضوع سکوت، سبب زیادی فکر

سخنرانی حجت الاسلام حسینی قمی با موضوع سکوت، سبب زیادی فکر

حاج آقا حسینی قمی با موضوع سکوت، سبب زیادی فکر

Google Play services 26.39.33 For Android +6.0

Google Play services 26.39.33 For Android +6.0

خدمات گوگل پلی

Riders of Asgard

Riders of Asgard

دوچرخه سواری

ریشه های عدم بصیرت از زبان آیت الله مصباح یزدی

ریشه های عدم بصیرت از زبان آیت الله مصباح یزدی

ریشه های عدم بصیرت از زبان آیت الله مصباح یزدی

Battlefield 6

Battlefield 6

بتلفیلد 6

Arc 1.71.1

Arc 1.71.1

مرورگر آرک

مهم‌ترین مصادر تفسیری شیعی

مهم‌ترین مصادر تفسیری شیعی

تفسیر روایی

Ape Out

Ape Out

اکشن

Windows Activator by Goddy 4.9

Windows Activator by Goddy 4.9

فعالساز نسخه های مختلف ویندوز

Windhawk 1.5.1

Windhawk 1.5.1

بهینه سازی ویندوز

The Ascent - Cyber Heist

The Ascent - Cyber Heist

اسنت

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!