گوگل ابزاری به‌صورت هوش مصنوعی عرضه کرده است که کنترل و حذف پیام‌ها و نظرات غیر اخلاقی و اسپم را مدیریت می‌کند.
به گزارش سافت گذر و به نقل اززومیت؛شرکت گوگل اخیرا
اعلام کرده است که ابزاری به‌صورت هوش مصنوعی برای رسانه‌ها عرضه خواهد
کرد که برای مدیریت و حذف کامنت‌های توهین‌آمیز و اسپم استفاده خواهد شد.
این
ابزار که با نام Perspective شناخته می‌شود، با هدف کمک به مدیران و
ویراستاران بخش نظرات وب‌سایت‌های رسانه‌ای طراحی شده است. گوگل بر این
باور است که این ابزار می‌تواند کامنت‌های بی‌ربط و توهین‌آمیز و اصطلاحا
ترول‌ها را شناسایی و حذف کند. به عقیده‌ی این شرکت، این نوع از بحث‌ها و
کامنت‌ها، مانع از شکل‌گیری فضایی سالم برای بحث در فضای آنلاین هستند.
جرد کوهن، مدیر
انکوباتور Jigsaw از زیرمجموعه‌های گوگل در پستی وبلاگی در این باره
می‌گوید: «۷۲ درصد از کاربران اینترنت در آمریکا، شاهد آزارها و مزاحمت‌های
آنلاین بوده‌اند و نیمی از آن‌ها، این آزارها را تجربه کرده‌اند. یک‌سوم
از کاربران اینترنت، به خاطر ترس از محاکمه، رفتارهای خود را مدیریت و
سانسور می‌کنند.»
Perspective را می‌توان یک API نامید که از یادگیری
ماشینی برای کشف ارتباط کامنت‌ها با دیگر کاربران و پیش‌بینی عکس‌العمل
آن‌ها استفاده می‌کند. این سیستم به‌صورت رایگان برای گروه‌های رسانه‌ای و
وب‌سایت‌های شبکه‌ی اجتماعی عرضه می‌شود و در حال حاضر توسط رسانه‌هایی
مانند اکونومیست، گاردین، نیویورک‌تایمز و ویکی‌پدیا در حال آزمایش شدن
است.
بسیاری از رسانه‌های خبری، به خاطر کمبود نیروی انسانی برای
مدیریت بخش نظرات، این بخش را غیر فعال کرده‌اند. کوهن امیدوار است ابزار
جدید آن‌ها بتواند این مشکل را حل کند. گوگل از ماه سپتامبر، این ابزار را
در وب‌سایت نیویورک‌تایمز تست کرده است. این رسانه‌ی خبری با استفاده از
این ابزار سعی داشته تا فضایی «متمدن و عقلانی» را در بخش نظرات خود حاکم
کند.
وظیفه‌ی اولیه‌ی سیستم پرسپکتیو، شناسایی پیام‌های نامناسب در
زبان انگلیسی است؛ اما کوهن اعلام کرده که هدف اصلی، ساختن سیستمی برای
کنترل همه‌ی زبان‌ها است. این سیستم در نهایت خواهد توانست تمامی پیام‌ها و
نظرات غیر عقلانی و خارج از بحث را شناسایی کند.
توییتر نیز
در ابتدای ماه جاری اعلام کرده بود که قوانین و راه‌حل‌هایی جدید برای
مقابله با توهین‌های آنلاین اجرا خواهد کرد. این سرویس، منتشرکنندگان این
پیام‌ها را شناسایی می‌کند و اجازه‌ی ساخت حساب‌های کاربری جدید به آن‌ها
نمی‌دهد. حذف شدن از نتایج جستجوی آنلاین نیز از دیگر عواقب این توهین‌ها
خواهد بود.
سال گذشته‌ی میلادی، شرکت‌های گوگل، توییتر، فیسبوک و مایکروسافت،
تفاهم‌نامه‌ای با اتحادیه‌ی اروپا امضا کردند که طبق آن، همه‌ی شرکت‌ها
متعهد شدند هرگونه محتوای توهین‌آمیز و غیراخلاقی گزارش‌شده را ظرف مدت ۲۴
ساعت شناسایی کنند.