سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

اتفاقی نادر در دنیای AI؛ چرا ایلان ماسک و سم آلتمن خواستار کاهش سرعت توسعه هوش مصنوعی شدند؟

نتشار یادداشت جنجالی داریو آمودی، مدیرعامل شرکت Anthropic، با عنوان We Must Pace the Frontier به تیتر یک رسانه‌های فناوری تبدیل شده است؛ در این مقاله او رسماً خواستار کاهش سرعت توسعه هوش مصنوعی در مدل‌های پیشرفته شده است. اما نکته‌ای که این خبر را به یک اتفاق نادر تبدیل کرد، تایید سریع این موضع توسط رقبای سرسخت او یعنی سم آلتمن و ایلان ماسک بود.

​باید دقت کنیم که مسئله اصلی در اینجا توقف کامل توسعه هوش مصنوعی نیست؛ هیچ‌یک از این چهره‌ها خواهان تعطیلی نوآوری نیستند. نگرانی اصلی این است که قابلیت‌های مدل‌های پیشرفته، بسیار سریع‌تر از سازوکارهای ایمنی و توانایی کنترل انسانی پیش می‌روند. موضوعاتی مانند گسترش توانایی‌های AI Agent، پدیده خودبهبوددهی سیستم‌ها، امنیت سایبری و لزوم حضور نهادهای ارزیابی مستقل، همگی نشان می‌دهند که ما نیازمند یک تنفس راهبردی هستیم تا ایمنی هوش مصنوعی را با پیشرفت‌های خیره‌کننده آن همگام کنیم.

چرا داریو آمودی خواستار کاهش سرعت توسعه هوش مصنوعی شد؟

داریو آمودی هرگز مخالف پیشرفت این فناوری نیست؛ بلکه صراحتاً تأیید می‌کند که باید سرعت توسعه هوش مصنوعی را با پروتکل‌های امنیتی هماهنگ کرد.

سبقت گرفتن قابلیت‌های مدل‌های Frontier از سازوکارهای ایمنی

مسئله اصلی، سرعت سرسام‌آور پیشرفت مدل‌های پیشرفته هوش مصنوعی یا همان Frontier AI است. آمودی معتقد است قابلیت‌های این مدل‌ها با سرعتی در حال افزایش است که سازوکارهای ایمنی AI و درک انسانی از پیامدهای آن، به‌هیچ‌وجه نمی‌توانند همزمان با آن پیش بروند. توسعه سریع هوش مصنوعی بدون ارزیابی‌های دقیق و مستمر، خطر بروز خطاهای پیش‌بینی‌نشده را به‌شدت بالا می‌برد.

خطر افزایش توانایی AI Agentها و سیستم‌های خودمختار

نگرانی‌ها فقط محدود به چت‌بات‌های متنی نیست. تمرکز اصلی روی ایجنت هوش مصنوعی (AI Agent) و سیستم‌های خودمختار است. این عامل‌های خودمختار می‌توانند به‌طور کاملاً مستقل وظایف را به‌صورت زنجیره‌ای انجام دهند، به اینترنت متصل شوند و از ابزارهای مختلف بدون دخالت انسان استفاده کنند. با افزایش استقلال سیستم‌ها، در گزارش‌های جدید نگرانی‌های جدی درباره توانایی این ایجنت‌های پیشرفته برای انجام عملیات پیچیده و حتی اجرای سناریوهای مخرب سایبری مطرح شده است که خطرات هوش مصنوعی و امنیت آن را از حالت تئوری به واقعیتی ملموس تبدیل می‌کند.

چرا سم آلتمن و ایلان ماسک از کاهش سرعت توسعه AI حمایت کردند؟

هم‌نظری چهره‌های رقیب در دره سیلیکون نشان می‌دهد تهدیدات به نقطه‌ای بحرانی رسیده که منافع مشترک بر جنگ‌های تجاری غلبه کرده است.

موضع سم آلتمن درباره تنظیم سرعت و تعهد به نظارت

چرا سم آلتمن با کاهش سرعت هوش مصنوعی موافق است؟ او مفهوم تنظیم سرعت یا Pacing را تأیید کرده و آن را نه یک عقب‌نشینی، بلکه ادامه گفت‌وگوهای درون‌سازمانی برای توسعه مسئولانه می‌داند. آلتمن در واکنش به یادداشت آمودی صراحتاً می‌نویسد:

I agree with Dario that we need to pace the frontier... Committing to having independent evaluators with employee-like access is a great idea, and we will do the same.

«من با داریو موافقم که باید سرعت توسعه مدل‌های مرزی را تنظیم کنیم. تعهد به داشتن ارزیاب‌های مستقل با دسترسی مشابه کارمندان ایده بسیار خوبی است و ما نیز همین کار را خواهیم کرد.»

چرا هم‌نظر شدن مدیران رقیب صنعت AI مهم است؟

اما چرا ایلان ماسک خواستار کاهش سرعت توسعه هوش مصنوعی شد؟ ماسک که همواره درباره پیامدهای این فناوری هشدار داده بود، با انتشار جمله صریح «داریو درست می‌گوید» به این جریان پیوست. واقعیت این است که اگر رقبای اصلی بر سر کاهش سرعت پیشرفت هوش مصنوعی توافق نکنند، مسابقه‌ای مخرب برای جلو افتادن شکل می‌گیرد که اولین قربانی آن استانداردهای ایمنی خواهد بود. بنابراین، اتحاد آن‌ها برای پایان دادن به تک‌روی‌های تجاری حیاتی است.

منظور از کاهش سرعت توسعه هوش مصنوعی چیست؟

در پاسخ به این سوال باید گفت هدف از کاهش سرعت توسعه هوش مصنوعی ایجاد فرصتی عملیاتی برای ارزیابی ریسک و استقرار مقررات است.

مفهوم کلیدی

باور نادرست عمومی

واقعیت اجرایی و رویکرد صحیح

ماهیت اقدام

توقف کامل ساخت سیستم‌های پیشرفته

تنظیم سرعت نوآوری متناسب با پروتکل‌های ایمنی

نهاد ناظر

مسدودسازی نوآوری توسط دولت‌ها

حضور فعال ارزیاب شخص ثالث با دسترسی بالا

رقابت جهانی

واگذاری بازار به کشورهای رقیب

ایجاد توافقات و استانداردهای مشترک صنعتی

استفاده از ارزیاب‌های مستقل برای بررسی ایمنی مدل‌ها

یکی از محورهای اصلی این پیشنهاد، استفاده از ارزیاب‌های مستقل (Third-party / Independent Evaluators) است. تکیه بر خودآزمایی شرکت‌ها دیگر برای تضمین امنیت مدل‌های هوش مصنوعی کافی نیست و احتمال تضاد منافع را بالا می‌برد. حضور ارزیاب شخص ثالث با سطح دسترسی بالا می‌تواند رفتارهای پنهان و مخرب سیستم‌ها را پیش از عرضه عمومی کشف کند. Anthropic و OpenAI نیز به این رویکرد برای حفظ استانداردهای ایمنی و نظارت بر هوش مصنوعی متعهد شده‌اند.

ایجاد استانداردهای مشترک صنعتی و ضرورت هماهنگی بین‌المللی

اگر یک شرکت به‌تنهایی تصمیم به کاهش سرعت بگیرد، قطعاً در بازار از رقبای خود عقب می‌ماند. به همین دلیل، ایجاد یک استاندارد مشترک و تعیین معیارهای ایمنی برای ارزیابی قبل از انتشار مدل‌های جدید ضروری است. همکاری شرکت‌ها مانع از شکل‌گیری مسابقه‌ای می‌شود که در آن مجموعه‌ها برای جلو زدن از یکدیگر مجبور شوند استانداردهای ایمنی را نادیده بگیرند.

اگر سرعت توسعه هوش مصنوعی کنترل نشود چه اتفاقی می‌افتد؟

اگر این هشدارها نادیده گرفته شوند، توسعه مهارنشده ریسک‌های عینی فراوانی به‌دنبال دارد که کاملاً واقعی هستند.

افزایش ریسک سوءاستفاده از مدل‌های پیشرفته

مدل‌های قدرتمند می‌توانند در کنار کاربردهای مفید، برای اتوماسیون حملات سایبری، اجرای کلاهبرداری‌های پیچیده و تولید گسترده محتوای مخرب مورد سوءاستفاده قرار گیرند. توسعه و اجرای مدل‌های پیشرفته هوش مصنوعی تنها به الگوریتم و داده وابسته نیست و زیرساخت پردازشی مناسب نیز نقش مهمی در این فرایند دارد. کسب‌وکارهایی که به منابع پردازشی منعطف و مقیاس‌پذیر نیاز دارند، می‌توانند از سرور ابری برای تأمین بخشی از این نیازها استفاده کنند. بااین‌حال، اگر سرعت توسعه مهار نشود، همین زیرساخت‌ها نیز به‌شدت در معرض خطر نفوذ ایجنت‌های خودمختار قرار می‌گیرند.

خودبهبوددهی بازگشتی و چالش مهار انسانی

یکی دیگر از چالش‌ها، پدیده خودبهبوددهی بازگشتی (AI-assisted self-improvement) است. در این حالت، هوش مصنوعی از توانایی‌های خود برای بازنویسی کدها و ارتقای نسل بعدی سیستم‌ها استفاده می‌کند. اگر این روند سرعت بگیرد، ما با جهشی مهارنشدنی به سمت ابرهوش مصنوعی (Superintelligence) یا AGI حرکت خواهیم کرد که کنترل آن بسیار پیچیده خواهد بود.

سخن پایانی

​کاهش سرعت توسعه هوش مصنوعی به‌هیچ‌وجه به‌معنای توقف هوش مصنوعی و پایان مسیر نوآوری نیست. بلکه نگرانی اصلی، جلو افتادن قابلیت‌های خیره‌کننده AI از سازوکارهای ایمنی، قانون‌گذاری و توانایی نظارت انسانی است. حمایت چهره‌های سرشناسی چون سم آلتمن و ایلان ماسک از ایده آمودی نشان می‌دهد مسئله AI Safety از یک بحث تخصصی درون‌آزمایشگاهی، به یکی از مسائل و بحران‌های اصلی صنعت تبدیل شده است. ایجاد توافقات مشترک صنعتی و استقرار ارزیاب‌های مستقل شخص ثالث، تنها راه عبور امن از این مرحله است. سؤال اصلی از اینجا به بعد دیگر این نیست که «آیا هوش مصنوعی پیشرفت خواهد کرد؟»؛ بلکه این است که آیا انسان می‌تواند سرعت این پیشرفت را به‌اندازه‌ای کنترل کند که ایمنی نیز همزمان با آن رشد کند؟

نظرتان را ثبت کنید کد خبر: 55130 گروه خبری: رپورتاژ آگهی منبع خبر: پابلیکا تاریخ خبر: 1405/07/14 تعداد مشاهده: 450
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
Advanced Design System (ADS) 2023.1

Advanced Design System (ADS) 2023.1

نرم افزار تحلیل مایکرو ویو (مخصوص دانشجویان رشته برق و الکترونیک)

راهنمای امنیت فناوری اطلاعات

راهنمای امنیت فناوری اطلاعات

کتاب امنیت فناوری اطلاعات

CFTurbo v2025 2026 R2.0 + CFTurbo FEA 2026 R2.2

CFTurbo v2025 2026 R2.0 + CFTurbo FEA 2026 R2.2

نرم افزار تخصصی طراحی توربین و فن

آموزش ماکرو مدیا فلش

آموزش ماکرو مدیا فلش

آشنایی با نرم افزار Flash Macromedia

Pale Moon 35.0.3

Pale Moon 35.0.3

مرورگر برای ویندوز

تواشیح خاطره انگیز اسماء الحسنی گروه اهل بیت (علیهم السلام)

تواشیح خاطره انگیز اسماء الحسنی گروه اهل بیت (علیهم السلام)

تواشیح اسماء الحسنی گروه اهل بیت (علیهم السلام)

مجله تخصصی در زمینه گرافیک و آموزش های مرتبط با آن ( آموزش های عملی فوتوشاپ )

مجله تخصصی در زمینه گرافیک و آموزش های مرتبط با آن ( آموزش های عملی فوتوشاپ )

مجله Practical Photoshop فوریه 2021

Ring Runner - Flight Of The Sages

Ring Runner - Flight Of The Sages

رینگ رانِـر - پرواز هوشمندان

آموزش تکنولوژی Ajax

آموزش تکنولوژی Ajax

آموزش تکنولوژی ای جکس

The Punisher

The Punisher

پانیشر

9 جلسه معرفت حسینی از آیت الله مصباح یزدی

9 جلسه معرفت حسینی از آیت الله مصباح یزدی

معرفت حسینی از زبان آیت الله مصباح یزدی

آموزش دستورات مختصر و مفید SQL

آموزش دستورات مختصر و مفید SQL

آشنایی کامل با دستورات کاربردی SQL Server

Siemens NX 2506 Build 9120 (NX 2506 Series) Full + All Versions

Siemens NX 2506 Build 9120 (NX 2506 Series) Full + All Versions

زیمنس ان ایکس

تحول انقلابی اثر چالمرز جانسون

تحول انقلابی اثر چالمرز جانسون

بررسی نظری پدیده انقلاب

Infragistics NetAdvantage Ultimate 2022.1 with Samples & Help 2021.2 / 2020.2 / 2013.2

Infragistics NetAdvantage Ultimate 2022.1 with Samples & Help 2021.2 / 2020.2 / 2013.2

اینفراگستیکس نت ادونتیج

AlbusBit NTFS Permissions Auditor Pro 25.6.10.0

AlbusBit NTFS Permissions Auditor Pro 25.6.10.0

دسترسی فایل

Bush Flash Game

Bush Flash Game

پرتاب کفش خبرنگار عراقی به بوش

گلچین بهترین مدیحه سرایی حاج محمود کریمی

گلچین بهترین مدیحه سرایی حاج محمود کریمی

مولودی حاج محمود کریمی

Mailbird 3.0.13

Mailbird 3.0.13

مدیریت ایمیل‌

Incredible Mandy + Updates

Incredible Mandy + Updates

اکشن و ماجراجویی

Capture One Enterprise 16.9.1.3943

Capture One Enterprise 16.9.1.3943

ویرایش عکس

مداحی عربی حسین الأکرف

مداحی عربی حسین الأکرف

مداحی عربی

Blue Light Filter–Screen Dimmer for Eye Care VIP 3.3.3.6 for Android +4.1

Blue Light Filter–Screen Dimmer for Eye Care VIP 3.3.3.6 for Android +4.1

فیلتر نور آبی

Pixologic ZBrush 2027.0.1 / 2025.3.0 / 2024.0.3 / 2023.1.1 / 2022.0.7

Pixologic ZBrush 2027.0.1 / 2025.3.0 / 2024.0.3 / 2023.1.1 / 2022.0.7

ساخت انیمیشن 3 بعدی

9 جلسه سیری در روایات اخلاقی و معرفتی اهل بیت (ع) از حجت الاسلام والمسلمین فاطمی نیا

9 جلسه سیری در روایات اخلاقی و معرفتی اهل بیت (ع) از حجت الاسلام والمسلمین فاطمی نیا

حاج آقا فاطمی نیا با موضوع سیری در روایات اخلاقی و معرفتی اهل بیت (ع)

Toby The Secret Mine

Toby The Secret Mine

توبی و راه مخفی

DisplayFusion Pro 12.1

DisplayFusion Pro 12.1

مدیریت چند مانیتور در ویندوز

Rainlendar Pro 2.22.1 Build 182

Rainlendar Pro 2.22.1 Build 182

تقویم برای ویندوز

Atraa 1.7

Atraa 1.7

نرم افزار پیشنهاد عطر

Google Allo 27.0.326 for Android +4.1

Google Allo 27.0.326 for Android +4.1

مسنجر گوگل الو

آموزش نصب سیستم عامل Ubuntu 12.10

آموزش نصب سیستم عامل Ubuntu 12.10

آموزش نصب ابونتو

midas NFX  2026 R1 2026.10.12 / 2025 R2  / 2024 R2 /2023 R1 / 2022R1 / 2021R2 / 2020R2 / 2019R3

midas NFX 2026 R1 2026.10.12 / 2025 R2 / 2024 R2 /2023 R1 / 2022R1 / 2021R2 / 2020R2 / 2019R3

شبیه سازی دینامیک میداس ان اف ایکس

Parking Truck Deluxe 2.7 for Android

Parking Truck Deluxe 2.7 for Android

بازی پارک تریلی

مجله کارآفرینی ستکا شماره 1 تا 12

مجله کارآفرینی ستکا شماره 1 تا 12

مجله کارآفرینی ستکا

Farm Together

Farm Together

شبیه ساز کشاورزی برای کامپیوتر

19 جلسه در شرح عوامل فی نحو

19 جلسه در شرح عوامل فی نحو

نحو مقدماتی ، هدایه ، صمدیه

Textra SMS Full 4.88 For Android +7.0

Textra SMS Full 4.88 For Android +7.0

ارسال اس ام اس

سرریز بافر چیست؟

سرریز بافر چیست؟

سرریز بافر

Insofta Cover Commander 8.0

Insofta Cover Commander 8.0

طراحی سه‌بعدی

SwapVoice 2.0.0

SwapVoice 2.0.0

تبدیل گفتار به متن

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!