مدل های DALL-E شرکت OpenAI میتوانند تصاویر را بر اساس دستورهای متنی تولید کنند. سرویس Azure OpenAI دسترسی به API REST را برای مدل های DALL-E OpenAI فراهم میکند تا توسعه دهندگان بتوانند تصاویر را به طور برنامه نویسی درون برنامه های خود ایجاد کنند. امروز مایکروسافت یک ویژگی جدید به نام "واترمارک ها" (Watermarks) در سرویس Azure OpenAI معرفی کرد. ویژگی جدید واترمارک ها واترمارک های نامرئی را به تمام تصاویر تولید شده با DALL-E اضافه خواهد کرد تا شفافیت و محافظت بهتری برای تصاویر تولید شده توسط هوش مصنوعی ارائه دهد.
افزایش اخیر مدل های تولید تصویر، گسترش اطلاعات نادرست و دیپ فیک های تولید شده توسط هوش مصنوعی را افزایش داده است. بنابراین، نیاز به شناسایی محتوای تولید شده توسط هوش مصنوعی ضروری است. این واترمارک نامرئی جاسازی شده در تصاویر تولید شده توسط هوش مصنوعی میتواند توسط ابزارهای تشخیص تخصصی شناسایی شود اما برای چشم غیرمسلح قابل مشاهده نخواهد بود و از صحت تصویر محافظت میکند. همچنین، حتی اگر کسی تصویر تولید شده توسط هوش مصنوعی را تغییر اندازه یا برش دهد، یکپارچگی واترمارک دست نخورده باقی میماند.
واترمارک های نامرئی حاوی اطلاعاتی درباره منشأ یک تصویر هستند و با یک مانیفست متصل به تصویر نمایش داده میشوند. مانیفست با یک گواهی امضا شده رمزنگاری میشود که به سرویس Azure OpenAI بازمیگردد و جزئیات زیر را شامل میشود:
- "description" - این فیلد برای تمام تصاویر تولید شده توسط مدل DALL-E، مقداری برابر با "AI Generated Image" دارد که نشان دهنده ماهیت تولید شده توسط هوش مصنوعی تصویر است.
- "softwareAgent" - این فیلد برای تمام تصاویر تولید شده توسط مدل های سری DALL-E در سرویس Azure OpenAI، مقداری برابر با "Azure OpenAI DALL-E" دارد.
- "when" - زمان ایجاد اعتبارنامه های محتوا. واترمارک ها در سایر سرویس های Azure AI
این اولین سرویسی نیست که مایکروسافت در آن واترمارک تعبیه میکند. سال گذشته، مایکروسافت واترمارک ها را برای صدا هایی که با ویژگی صدای شخصی Azure AI Speech ایجاد شده بودند، معرفی کرد. این به کاربران اجازه میداد تشخیص دهند که آیا گفتار با استفاده از Azure AI Speech سنتز شده است یا خیر.
مایکروسافت همچنین با سایر بازیگران بزرگ هوش مصنوعی، از جمله Adobe، Truepic و BBC همکاری میکند تا اطمینان حاصل کند که واترمارک ها، متادیتای رمزنگاری و سایر مکانیزم های تشخیص در سراسر پلتفرم ها کار میکنند.
این ابتکار مایکروسافت یک گام مهم در جهت استقرار مسئولانه هوش مصنوعی و مبارزه با سوء استفاده از محتوای تولید شده توسط هوش مصنوعی است.