
به گزارش 9to5Mac و بر اساس گزارش اختصاصی گاردین، سه سناتور دموکرات آمریکایی با ارسال نامههایی به مدیران عامل اپل، گوگل و متا خواستار پاسخگویی این شرکتها درباره ناکامی در جلوگیری از دسترسی به اپهای هوش مصنوعی «برهنهساز» (Nudify Apps) شدند.
درخواست سناتورها از اپل، گوگل و متا
سناتورها ران وایدن از اورگان، اد مارکی از ماساچوست و بن لویان از نیومکزیکو در نامههای خود اعلام کردهاند که اپل و گوگل در شناسایی و حذف مؤثر اپهایی که میتوانند تصاویر برهنه یا مستهجن غیرتوافقی تولید کنند، ناکام ماندهاند. آنها همچنین متا را متهم کردهاند که از تبلیغ این اپها در پلتفرمهای خود سود میبرد؛ اپهایی که به گفته آنها «زنان و دختران سراسر جهان را قربانی میکنند».
این سناتورها مدعیاند شرکتها نهتنها در حذف این اپها کوتاهی کردهاند، بلکه ممکن است از توزیع و تبلیغ آنها نیز منتفع شوند.
واکنش شرکتها و انتقاد به اجرای سیاستها
گوگل و متا در واکنش به این نامهها گفتهاند که چنین اپها یا تبلیغ آنها را ممنوع میکنند و برای شناسایی و حذف تخلفات از پلتفرمهایشان تلاش میکنند. این پاسخ، تقریباً همان موضعی است که اپل نیز در گذشته درباره همین موضوع تکرار کرده است.
اپل ماه گذشته قوانین اپ استور (App Store) را بهروزرسانی کرد تا بر اپهایی که امکان تولید تصاویر برهنه غیرتوافقی را فراهم میکنند، سختگیری بیشتری اعمال شود. بر اساس قوانین بهروزشده، اپهایی که به کاربران اجازه تولید محتوای مبتنی بر هوش مصنوعی (AI) میدهند، باید تدابیر حفاظتی در برابر سوءاستفاده داشته باشند؛ از جمله ابزارهایی برای فیلتر محتوای نامناسب، گزارش محتوای توهینآمیز و مسدودسازی کاربران متخلف. اپل همچنین هشدار داده است اپهایی که عمدتاً برای محتوای مستهجن یا شیءوارهسازی افراد واقعی استفاده میشوند، ممکن است بدون اطلاع از اپ استور حذف شوند.
با این حال، دفتر سناتور وایدن استدلال میکند که شفافسازی یا بهروزرسانی سیاستها، اگر شرکتها همچنان در اجرای آنها ناتوان باشند، اهمیت چندانی ندارد. کیث چو، مشاور ارشد ارتباطات و معاون مدیر سیاستگذاری وایدن، گفته است که روشنکردن سیاستها با اجرای آنها یکی نیست و این اپها همچنان در اپ استور اپل و گوگل پخش میشوند یا در تبلیغات پلتفرمهای متا معرفی میشوند.
گزارش تیتیپی و هشدار کنگره
اپل پیشتر پس از گزارش WIRED و همچنین پس از درخواست دیوید چیو، دادستان شهر سانفرانسیسکو، چند اپ را حذف کرده بود. این شرکت همچنین پس از تحقیقات پروژه شفافیت فناوری (Tech Transparency Project یا TTP) چند اپ را حذف کرد؛ تحقیقاتی که در ژانویه و آوریل نشان داد چنین اپهایی بهطور گسترده در اپ استور در دسترس بودهاند و گاهی حتی در نتایج جستوجوی تبلیغاتی نمایش داده میشدهاند.
اپل در طول این تحقیقات همواره تأکید کرده است که اپهای برهنهساز همیشه بر اساس راهنماهای بازبینی اپ (App Review Guidelines) ممنوع بودهاند و این شرکت بهصورت فعالانه اپهایی را که سیاستهایش را نقض میکنند، از جمله موارد گزارششده توسط کاربران، رد یا حذف میکند.
- آخرین تحقیق TTP، که ماه گذشته منتشر شد، ۱۳۵ اپ توانمند در تولید تصاویر برهنه یا مستهجن را در اپ استور و پلی استور (Play Store) شناسایی کرد.
- این اپها با حسابهایی قابل دسترسی بودند که به نام پسران ۱۳ ساله ثبت شده بودند.
- پژوهشگران دریافتند حتی حسابهایی که با کنترل والدین (Parental Controls) تنظیم شده بودند، میتوانستند این اپها را بدون نیاز به تأیید والدین دانلود کنند.
- با وجود حذف اپهای شناساییشده توسط اپل و گوگل، این اپها در دستگاههایی که از قبل نصب شده بودند، همچنان کار میکردند.
سناتور وایدن هشدار داده است اگر شرکتها در مقابله با این اپها عملکرد بهتری نداشته باشند، ممکن است کنگره ناچار به ورود شود.