OpenAI بطور اخیر ابزار تولید ویدئوی هوش مصنوعی خود به نام «Sora» را برای کاربران ChatGPT Plus و Pro معرفی کرده است. با این حال، این ابزار اولین نمونه نیست، چرا که ابزارهای هوش مصنوعی دیگری نیز وجود دارند که میتوانند همان ترفندها را با استفاده از هوش مصنوعی انجام دهند. با توجه به این که بازار تولید ویدئوی هوش مصنوعی هر روز در حال رشد است، ممکن است به زودی تشخیص ویدئوهای جعلی یا تولید شده با هوش مصنوعی به چالش بزرگی تبدیل شود. برای مقابله با این موضوع، Meta ابزار واترمارکینگ خود به نام «Meta Video Seal» را معرفی کرده است. این ابزار واترمارک نامرئی را به ویدئوهای تولید شده با هوش مصنوعی اضافه میکند.
به گفته Meta، ابزار جدید واترمارکینگ ویدئویی «Video Seal» واترمارکی نامرئی به ویدئوی تولید شده با هوش مصنوعی اضافه میکند که میتواند در ویدئوها گنجانده شود بدون اینکه ظاهر آنها تغییر کند. Video Seal همچنین میتواند پیامی مخفی به ویدئوها اضافه کند که بعداً قابل تشخیص باشد و بتوان منبع ویدئو را ردیابی کرد. آنچه «Meta Video Seal» را ویژه میکند، مقاومت این ابزار در برابر تلاشهای متداول ویرایش ویدئو از جمله محو کردن، برش یا الگوریتمهای فشرده سازی برای اشتراک پذیری آسانتر آنلاین است. این یعنی اگر کسی ویدئویی که حاوی واترمارک Meta Video Seal است را ویرایش کند، واترمارک سالم باقی خواهد ماند و به تأیید اصالت و منبع آن کمک خواهد کرد.
Meta این ابزار را تحت یک مجوز باز ارائه میدهد و همراه با مقاله تحقیقاتی، کد آموزش و کد استنباط منتشر کرده است. همچنین نسخه آزمایشی تعاملی برای هر کسی که بخواهد مدل را امتحان کند وجود دارد. Meta اعلام کرده است که: «در حالی که ابزارهای هوش مصنوعی میتوانند به ایجاد ارتباط جهانی کمک کنند، مهم است که اقدامات حفاظتی را پیاده سازی کنیم تا ریسکهای تقلید، دستکاری و سایر انواع سوء استفادههایی که میتوانند مزایای آنها را تضعیف کنند، کاهش دهیم. واترمارکینگ پس از تولید، گامی مهم به سمت ردیابی بهتر محتوا و مدلهای هوش مصنوعی است.»
با Video Seal، Meta هدف دارد که برای افراد بدخواه سخت شود که از هوش مصنوعی برای تولید محتوای جعلی و اطلاعات نادرست سوء استفاده کنند. در حالی که هوش مصنوعی میتواند کارهای شگفت انگیزی انجام دهد و زندگی ما را آسانتر کند، همچنین مهم است که اقداماتی برای تضمین در دسترس بودن اطلاعات صحیح برای همه داشته باشیم.