مایکروسافت یک برنامه پیشگیرانه جدید برای حذف تصاویر موجود در موتور جستجوی بینگ خود که حاوی تصاویر صمیمی و مضر از افراد است را اعلام کرده است. این شرکت این برنامه را با همکاری سازمانی به نام StopNCII راه اندازی کرده است.
مایکروسافت در یک پست وبلاگی میگوید StopNCII به قربانیانی که تصاویر صمیمی از خودشان بدون رضایت آنها به صورت آنلاین منتشر شده است اجازه میدهد تا یک اثر انگشت دیجیتال یا "هش" از عکس های خود ایجاد کنند. این تصاویر با هش، که شامل تصاویر ساخته شده توسط هوش مصنوعی تولید کننده نیز می شود، از دستگاه خارج نمی شوند. سپس این تصاویر توسط سرویس های آنلاین برای حذف شناسایی می شوند.
مایکروسافت فناوری PhotoDNA خود را که در گذشته برای شناسایی تصاویر آنلاین از سوء استفاده جنسی از کودکان استفاده می شد، به StopNCII اهدا کرد. این شرکت اضافه کرد:
ما از پایگاه داده StopNCII به صورت آزمایشی برای جلوگیری از نمایش این محتوا در نتایج جستجوی تصاویر در بینگ استفاده کرده ایم. ما تا پایان ماه آگوست روی ۲۶۸،۸۹۹ تصویر اقدام کرده ایم. ما همچنان به ارزیابی تلاش ها برای گسترش این مشارکت ادامه خواهیم داد. ما بزرگسالانی که نگران انتشار یا انتشار بالقوه تصاویر خود هستند را تشویق می کنیم تا به StopNCII گزارش دهند.
مایکروسافت علاوه بر حذف چنین تصاویری، می گوید که استفاده از سرویس های آنلاین خود را برای ارسال تهدید هایی برای ارسال چنین تصاویری برای دیگران ممنوع کرده است. این شرکت می افزاید:
این شامل درخواست یا تهدید فرد برای دریافت پول، تصاویر یا سایر چیزهای با ارزش در ازای عدم انتشار عمومی تصاویر است. علاوه بر این سیاست جامع، ما در صورت لزوم ممنوعیت های خاصی را اعمال کرده ایم، مانند فروشگاه مایکروسافت. همچنین کد رفتاری برای سرویس های هوش مصنوعی تولید کننده مایکروسافت، ایجاد محتوای جنسی صریح را ممنوع می کند.
مایکروسافت یک سایت پورتال گزارش دهی خود را دارد که افراد می توانند صفحه وب یا حتی URL جایی که تصویر صمیمی بدون رضایت قرار دارد را ارسال کنند. مایکروسافت در صورت لزوم روی آن لینک ها اقدام خواهد کرد.