سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 1439
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
مداحی تصویری آماده شده برای دهه اول ماه محرم سال 96 - شب دوم

مداحی تصویری آماده شده برای دهه اول ماه محرم سال 96 - شب دوم

مداحی تصویری برای دوم محرم 96

ESET HOME Security Premium 19.0.14.0

ESET HOME Security Premium 19.0.14.0

ایسِت هوم سکیوریتی پرمیوم

ولادت آخرین ذخیرۀ الهی

ولادت آخرین ذخیرۀ الهی

روزهای آغازین پس از ولادت امام عصر(عج)

PDF Arranger 1.12.1

PDF Arranger 1.12.1

ویرایش پی دی اف

Daddy Was A Thief 2.2.0 for Android +2.3

Daddy Was A Thief 2.2.0 for Android +2.3

بازی فرار مجرم!

PDF Converter & PDF Editor 6.11 for Android +2.3

PDF Converter & PDF Editor 6.11 for Android +2.3

پی دی اف کانورتر

RYAN BLACK

RYAN BLACK

رایان بلک

Pluralsight - Windows Server 2012 R2 (70-414) Identity and Access Solutions

Pluralsight - Windows Server 2012 R2 (70-414) Identity and Access Solutions

فیلم آموزش ویندوز سروِر 2012 - مبحث هویت و دسترسی – آزمون 414-70

Pluralsight (TrainSignal) - CompTIA Security+ (2011 objectives) Part 1 / 2 / 3

Pluralsight (TrainSignal) - CompTIA Security+ (2011 objectives) Part 1 / 2 / 3

مجموعه‌ی سه دوره آموزش تصویری مدرک بین‌المللی کامپ‌تیا سکوریتی‌پلاس - دوهزار و یازده آبجکتیوز

Clipboard Master 4.10.6

Clipboard Master 4.10.6

کلیپبورد مستر

Attribute Changer 11.30a

Attribute Changer 11.30a

تغییر دسته جمعی خصوصیات فایل ها و پوشه ها

آموزش رمزگذاری بر روی فلش مموری

آموزش رمزگذاری بر روی فلش مموری

آشنایی رمز گذاری فلش مموری و هارد اکسترنال بدون نرم افزار

توزیع لینوکس امپراطور Emperor-OS Linux 2.5 LTS

توزیع لینوکس امپراطور Emperor-OS Linux 2.5 LTS

توزیع لینوکس امپراطور

Udemy - Be a Expert in Computer Hardware and Software Repair

Udemy - Be a Expert in Computer Hardware and Software Repair

دوره آموزش آشنایی با سخت افزار و نرم‌افزار کامپیوتر

Symantec Endpoint Protection Small Business Edition 12.1.5337.5000 + Client 14.0.3929.1200 Win/Mac/Linux

Symantec Endpoint Protection Small Business Edition 12.1.5337.5000 + Client 14.0.3929.1200 Win/Mac/Linux

سیمانتک اندپوینت

Tuk Ruk

Tuk Ruk

تاک راک

iLauncher 3.10.3 for Android +2.3

iLauncher 3.10.3 for Android +2.3

لانچر آیفون

تفسیر کوتاه استاد حجت الاسلام و المسلمین حاج شیخ محسن قرائتی سوره مبارکه حمد

تفسیر کوتاه استاد حجت الاسلام و المسلمین حاج شیخ محسن قرائتی سوره مبارکه حمد

تفسیر حجت الاسلام و المسلمین حاج شیخ محسن قرائتی سوره مبارکه حمد

Turbo Dismount v1.7

Turbo Dismount v1.7

سرعت و تصادف

Affinity Publisher 2.6.5.3782

Affinity Publisher 2.6.5.3782

طراحی گرافیکی وکتور صفحات برای چاپ و نشر

AMA Go Green

AMA Go Green

بازی جاوا برای تست هوش و هم تقویت زبان انگلیسی

قرائت زیارت اربعین با صدای استاد فرهمند با متن عربی و ترجمهٔ فارسی‌‌‌‌‌

قرائت زیارت اربعین با صدای استاد فرهمند با متن عربی و ترجمهٔ فارسی‌‌‌‌‌

زیارت اربعین

K9 World Cup

K9 World Cup

جام جهانی حیوانات

Baba Is You Build 448 + Prtable Version

Baba Is You Build 448 + Prtable Version

پازلی خلاقانه برای کامپیوتر

draw.io Desktop 31.1.5

draw.io Desktop 31.1.5

رسم نمودار، دیاگرام و فلوچارت

Hill Racing 3D: Uphill Rush 1.06 for Android +2.3

Hill Racing 3D: Uphill Rush 1.06 for Android +2.3

مسابقه کامیون هیل

Wise Program Uninstaller 3.3.1.277

Wise Program Uninstaller 3.3.1.277

حذف کامل نرم افزار ها وایز پروگرام آنیستالر

MiniLyrics 7.6.48

MiniLyrics 7.6.48

نرم افزار نمایش متن موسیقی ها هنگام پخش

آموزش نرم افزار معادلات ساختاری EQS

آموزش نرم افزار معادلات ساختاری EQS

آموزش ای کیو اس

Bejeweled 2 2.0.20 for Android

Bejeweled 2 2.0.20 for Android

بازی با جواهرات

تلاوت مجلسی استاد سید محسن موسوی بلده سوره مبارکه نصر

تلاوت مجلسی استاد سید محسن موسوی بلده سوره مبارکه نصر

تلاوت سید محسن موسوی بلده سوره نصر

AlienAvatar 2.01 for Android

AlienAvatar 2.01 for Android

چهره خود را با شخصیت های آواتار ترکیب کنید!

سخنرانی حجت الاسلام ناصر رفیعی با موضوع رعایت ادب از صفات حضرت عباس علیه السلام

سخنرانی حجت الاسلام ناصر رفیعی با موضوع رعایت ادب از صفات حضرت عباس علیه السلام

سخنرانی رعایت ادب از صفات حضرت عباس علیه السلام با ناصر رفیعی

RocketBirds - Hardboiled Chicken

RocketBirds - Hardboiled Chicken

پرنده‌های موشکی - جوجه‌ بدقلق

Temple Run 1.35.0 For Android +6.0

Temple Run 1.35.0 For Android +6.0

بازی فرار از معبد

حکیم انقلابی و پارسا

حکیم انقلابی و پارسا

عالم ربانی آیت الله مصباح یزدی

Sound Recorder 1.0.9 for Android +2.3

Sound Recorder 1.0.9 for Android +2.3

ضبط صدا به صورت کاملا ساده

Lynda - Drupal 8 Essentials 1- Getting Started

Lynda - Drupal 8 Essentials 1- Getting Started

فیلم آموزش مهارت‌های ضروری دروپال 8 – بخش اول

Auto Dark Mode v11.1.1.1

Auto Dark Mode v11.1.1.1

تم تیره ویندوز

ESET Smart Security Business Edition 4.2.76.0 x86/x64 Retail (Update 12000) 2015-07-27

ESET Smart Security Business Edition 4.2.76.0 x86/x64 Retail (Update 12000) 2015-07-27

نود 32 بیزینس 4

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!