سافت گذر دانشنامه نرم افزار - دانلود رایگان نرم افزار

اطلاعیه های مهم سایت اطلاعیه های مهم سایت
💐 میلاد زینت پدر حضرت زینب سلام الله علیها مبارک باد 💐
 
 
  1. جهت رفع مشکل باز شدن سایت به دلیل بلاک توسط  نود 32 این ویدیو یا این ویدیو(ورژن 9 به بالا) یا راهنمای تصویری را مشاهده کنید
  2. به مناسبت عید غدیر، در سایت https://esetupdate.ir/ تخفیف ویژه‌ای برای محصولات در نظر گرفته شده است؛ فرصت را از دست ندهید. 🌸
  3. اکانت های بروزرسانی نود32 با قیمت های مناسب به صورت یک ، سه ، شش و دوازده ماهه از اینجا قابل خرید می باشد.

نرم افزار های پرکاربرد

ثبت نام | ورود
wepido.ir

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

تاخیر یکی از مشکلات اساسی در بسیاری از کاربردهای مدل‌های زبانی بزرگ (LLM) است. در سناریوهایی مانند پیشنهادات کد و ویرایش اسناد طولانی، تاخیر می‌تواند تجربه کلی کاربر را تحت تاثیر قرار دهد. فرض کنید کاربری می‌خواهد پاراگراف آخر یک سند دو صفحه‌ای را بازنویسی کند. بهتر است که سند بازنویسی‌ شده فوراً ظاهر شود، چون تغییر تنها شامل یک پاراگراف است. اما APIهای فعلی مدل‌های زبانی بزرگ نیاز به بازتولید کل سند دارند که باعث تاخیر قابل توجهی برای کاربران می‌شود.

 

کاهش چشمگیر تاخیر مدل‌های زبانی با ویژگی جدید Predicted Outputs

 

OpenAI اکنون در تلاش است این مشکل را با ویژگی جدیدی به نام Predicted Outputs حل کند. این ویژگی می‌تواند در مواردی استفاده شود که بیشتر خروجی مدل زبانی از پیش مشخص است. وظایفی مانند ویرایش اسناد یا بازنویسی کد می‌توانند با این ویژگی بهبود یابند. Predicted Outputs با استفاده از روشی به نام رمزگشایی پیش‌ گویی (speculative decoding) محتوای شناخته‌ شده را رد می‌کند و تکرارها را بسیار سریع‌تر می‌کند.

توسعه‌ دهندگان می‌توانند با ارائه محتوای موجود به عنوان پیش‌ گویی، تاخیر را بطور قابل توجهی کاهش دهند. با این کار، کل محتوا با سرعت بسیار بیشتری بازتولید می‌شود.

OpenAI این ویژگی را با تعدادی از شرکای خارجی خود آزمایش کرد و نتایج بسیار مثبتی حاصل شد. به عنوان مثال، طبق معیارهای داخلی تیم Microsoft GitHub، استفاده از Predicted Outputs در وظایف Copilot Workspace منجر به افزایش سرعت ۵.۸ برابری شد.

تیم Exponent نیز به آزمایش و بهبود این API کمک کرد و اذعان داشتند که Predicted Outputs بسیار سریع عمل می‌کند و تجربه کاری فوق‌ العاده‌ای را برای توسعه‌ دهندگان فراهم می‌آورد. Exponent اعلام کرد که برای دسترسی زودهنگام به این ویژگی می‌توانید در Exponent ثبت‌نام کنید.

 

محدودیت‌ها در استفاده از Predicted Outputs:

  1. این ویژگی تنها برای مدل‌های سری GPT-4o و GPT-4o-mini پشتیبانی می‌شود و مدل‌های جدیدتر o1 شامل این قابلیت نیستند.
  2. همچنین پارامترهای زیر در زمان استفاده از Predicted Outputs پشتیبانی نمی‌شوند:
    1. مقادیر n بیشتر از ۱
    2. logprobs
    3. presence_penalty بالاتر از ۰
    4. frequency_penalty بالاتر از ۰
    5. گزینه‌های صوتی
    6. سایر حالت‌ها (تنها حالت متنی پشتیبانی می‌شود)
    7. max_completion_tokens
    8. ابزارها - فراخوانی توابع پشتیبانی نمی‌شود

 

با وجود محدودیت‌ها، ویژگی Predicted Outputs از پتانسیل بالایی برخوردار است و به ایجاد ابزارهای سریع‌تر و کارآمدتر با پشتیبانی از مدل‌های زبانی بزرگ کمک می‌کند.

نظرتان را ثبت کنید کد خبر: 51422 گروه خبری: هوش مصنوعی منبع خبر: سافت گذر تاریخ خبر: 1403/08/16 تعداد مشاهده: 1441
اخبار مرتبط با این خبر
نظر های کاربران
سرور آپدیت نود 32
پیشنهاد سافت گذر
آموزش  نرم افزار AutoRun Pro Enterprise

آموزش نرم افزار AutoRun Pro Enterprise

آموزش اتوران پرو اینترپرایس

oneSafe 2.0.3 for Android +4.4

oneSafe 2.0.3 for Android +4.4

مدیریت رمز های عبور و کارت های اعتباری

مو در طب سنتی و ایرانی

مو در طب سنتی و ایرانی

اقسام مو؛ تدریس آیت الله تبریزیان

Gangnam Style Jump 1.0 for Android

Gangnam Style Jump 1.0 for Android

پرش و سرعت عمل

Dynamite Jack + Update 1

Dynamite Jack + Update 1

جک دینامیتی

محمد هلال

محمد هلال

فرزند علی علیه السلام : باورشناسی حضرت محمد هلال بن علی علیه السلام

ColorCatcher 4.7

ColorCatcher 4.7

تشخیص رنگ

The Admin

The Admin

اکشن تیراندازی

Udemy – The Complete Oracle SQL Certification Course

Udemy – The Complete Oracle SQL Certification Course

آموزش اوراکل اس کیو ال

Chaos Enscape 4.14.0.668

Chaos Enscape 4.14.0.668

رندر سه‌بعدی

ESET Smart Security 7.0.325.1 x86/x64 + (Update 12000) 2015-07-27

ESET Smart Security 7.0.325.1 x86/x64 + (Update 12000) 2015-07-27

نود 32 اسمارت سکوریتی 7

Battlezone 98 Redux

Battlezone 98 Redux

منطقه جنگی

تکنیک های وبلاگ نویسی

تکنیک های وبلاگ نویسی

وبلاگ نویسی

PDFgear 2.1.19

PDFgear 2.1.19

مدیریت فایل‌های پی‌دی‌اف

اندیشه و تفکر اسلامی

اندیشه و تفکر اسلامی

جهان بینی اسلامی 1

آموزش COMFAR III

آموزش COMFAR III

آموزش کامفار 3

Windows Video Editor Pro 11.0.0.9

Windows Video Editor Pro 11.0.0.9

ادیت فیلم

TagScanner 6.1.20 + Portable

TagScanner 6.1.20 + Portable

ویرایش فایل‌ های صوتی تگ اسکنر

Teenage Mutant Ninja Turtles: Splintered Fate – Alopex

Teenage Mutant Ninja Turtles: Splintered Fate – Alopex

لاک‌پشت‌های نینجا

زندگی نامه حضرت زهرا(س)

زندگی نامه حضرت زهرا(س)

فضائل حضرت زهرا علیها السلام

موجودات فراطبیعی در ادیان الهی

موجودات فراطبیعی در ادیان الهی

مطالب جالب درباره عجایب علوم غریبه

زندگی استاد قاضی طباطبایی

زندگی استاد قاضی طباطبایی

زندگانی آیت الله قاضی

MyRoll Gallery 3.4.3.6 for Android +4.0

MyRoll Gallery 3.4.3.6 for Android +4.0

گالری هوشمند اندروید

قرائت دعای توسل توسط حاج سید مهدی میرداماد

قرائت دعای توسل توسط حاج سید مهدی میرداماد

قرائت سید مهدی میرداماد دعای توسل

R-Studio 9.5 Build 191861 Technician + Network + BootCD + WinPE

R-Studio 9.5 Build 191861 Technician + Network + BootCD + WinPE

آر استودیو

Call & Message blocker 4.8.3 for Android

Call & Message blocker 4.8.3 for Android

بلک لیست تماس و پیام کوتاه

WebMinds NetOptimizer 6.7.25.819

WebMinds NetOptimizer 6.7.25.819

افزایش سرعت اینترنت

Multi Measure Tools 17.9 for Android +3.0

Multi Measure Tools 17.9 for Android +3.0

ابزار اندازه گیری چندگانه

FinePrint 12.36

FinePrint 12.36

مدیریت و صرفه جویی در مصرف جوهر پرینتر

SteamWorld Dig v1.10

SteamWorld Dig v1.10

حفاری

Dup Scout 17.9.18 Pro + Enterprise

Dup Scout 17.9.18 Pro + Enterprise

مدیریت و پاکسازی فایل‌های تکراری

Garfield Kart

Garfield Kart

ماشین سواری

شبکه نسل آینده NGN

شبکه نسل آینده NGN

Next Generation Network

سبک های جدید تدریس

سبک های جدید تدریس

استاد و درس

Chess Assistant 27 v12.00 Build 0

Chess Assistant 27 v12.00 Build 0

مدیریت و تحلیل بازی‌های شطرنج

Touring Karts + Update

Touring Karts + Update

ماشین مسابقه ای برای کامپیوتر

امنیت سرور لینوکس

امنیت سرور لینوکس

آشنایی با روشهای امن کردن Apache Server

Bob Came in Pieces v1.3

Bob Came in Pieces v1.3

باب در سفینه ی معماها

Paper Racing 1.7.7 for Android

Paper Racing 1.7.7 for Android

ماشین سواری کاغذی

آیاتی از قرآن کریم درباره حضرت علی (علیه السلام)

آیاتی از قرآن کریم درباره حضرت علی (علیه السلام)

فضایل قرآنی علی (علیه السلام)

خبرنامه

با عضویت در خبرنامه، زودتر از همه باخبر باش!