مایکروسافت و گوگل اعلام کردند که به تعهدات جدیدی در زمینه ایمنی کودکان برای خدمات هوش مصنوعی تولیدی میپردازند. استفاده روزافزون از هوش مصنوعی در ابعاد مختلف، نگرانیها را درباره نحوه استفاده از آن توسط افراد و گروههای متخلف برای تهدید ایمنی کودکان افزایش داده است. امروز مایکروسافت و گوگل تعهدات جدیدی را برای ایمنی کودکان در خدمات هوش مصنوعی تولیدی خود اعلام کردهاند.
هر دو شرکت و دیگران با همکاری این دو گروه، این تعهدات جدید را ارائه دادهاند. یکی از این گروهها با نام تورن است که یک سازمان غیرانتفاعی است که سعی در مبارزه با سوء استفادههای جنسی از کودکان دارد. دیگری با نام "تمام تکنولوژی انسانی است" است که برای کمک به ایجاد "بازارکار مسئولانه فناوری" تأسیس شده است.
پست وبلاگ مایکروسافت بیان کرد که آنها مدلهای هوش مصنوعی تولیدی را توسعه خواهند داد که بر روی مجموعه دادههایی که شامل مواد جنسی کودکانه هستند، آموزش داده نشوند. همچنین، آنها به حفاظت از این مدلها در برابر این نوع محتوا پس از انتشار آنها کمک خواهند کرد.
تعهد امروز یک گام مهم به جلو در جلوگیری از سوء استفاده از فناوریهای هوش مصنوعی برای ایجاد یا انتشار مواد آزاردهنده جنسی کودکان (AIG-CSAM) و سایر اشکال آسیب جنسی به کودکان است. این عمل جمعی نگرش صنعت فناوری را نسبت به ایمنی کودکان نشان میدهد و تعهد مشترکی به نوآوری اخلاقی و رفاه اعضای آسیبپذیرتر جامعه را نشان میدهد.
علاوه بر این، گوگل میگوید که سعی میکند محتوایی را که به سوءاستفاده جنسی از کودکان مربوط میشود، با "ترکیبی از فناوری مطابقت هش، طبقهبندیهای هوش مصنوعی و بررسی مطالب کنترل نماید.