تشخیص حسابهای کاربری جعلی در شبکههای اجتماعی کار سادهای نیست؛ باتها بسیار شبیه به انسان رفتار میکنند؛ اما چه روشهایی برای این کار وجود دارد؟
توئیتر بهتازگی دست به اقدامی جدی زد تا فرآیند پخش اطلاعات غلط را در فضای خود کُند کند؛ بنابراین بیش از دو میلیون حساب کاربری اتوماتیک یا بات را حذف کرد. اما تنها توانست برجستهترین و مشخصترین متخلفان را شناسایی کند. میتوان حدس زد که از این پس شیادان ترفندهای خود در زمینهی جازدنِ کاربران ساختگی بهجای واقعی را حرفهایتر خواهند کرد.
فریب خوردن از حسابهای جعلی و تلف کردن وقت برای بحث با آنها مشکلات مهمی هستند و شناسایی باتها در پستهای توئیتر نیز تبدیل به نسخهای عجیب از آزمون تورینگ شده است (در آزمون تورینگ، یک انسان برای تخمین هوش دستگاه، تنها به وسیلهی متن با یک کامپیوتر و یک انسان دیگر صحبت میکند تا تشخیص دهد کدام یک ماشین و کدام انسان است). متهم کردن پستکنندگان به اینکه بات هستند، خود تبدیل به راهکاری برای توهین به هوش افراد شده است.
پیشرفتهایی که ماشینها در زمینهی یادگیری داشتهاند به ما نشان میدهد که باتها میتوانند بسیار شبیه به انسان شوند. پژوهشگران شرکت کامپیوتریِ IBM اخیراً از سیستمی پردهبرداری کردهاند که میتواند با استفاده از متنکاوی، استدلالهایی منسجم و کاملاْ منطقی مطرح کند. نرمافزار دوپلکس گوگل نیز نشاندهندهی این امر است که سیستمهای هوش مصنوعی قادر به تقلید از نکات ظریف گفتوگوهای انسانی هستند.
اما شاید تکنولوژی بتواند راهحلی را نیز ارائه دهد. آژانس پروژههای تحقیقاتی پیشرفتهی دفاع در سال ۲۰۱۵ رقابتی بر سر ردیابیِ باتها در Twitter به راه انداخت. شرکتکنندگان با استفاده از پنج نکتهی اطلاعاتیِ کلیدی، سیستمهای خود را به منظور شناسایی حسابهای کاربریِ ساختگی مجهز کردند. سیستمهای نهایی به هیچوجه کامل نبودند (بهترینشان تنها در ۴۰٪ از موارد عمل میکرد)؛ اما تلاشهای انجامشده بهترین روشها برای تشخیص یک بات در توئیتر را به ما نشان میدهند. این نشانهها میتوانند کمک بزرگی در تشخیص حسابهای ساختگی باشند.
۱. مشخصات کاربری
متداولترین روش برای تشخیص قلابیبودن یک حساب کاربری، بررسی پروفایل یا مشخصات آن است. باتهای ساده و ابتدایی هیچگونه عکس، لینک یا مشخصاتی ندارند. انواع پیشرفتهتر باتها ممکن است از عکسی که از اینترنت ربودهاند، استفاده کنند یا حسابشان دارای نامی باشد که بهصورت اتوماتیک تولید شده است.
۲. ترکیب کلماتِ توئیت
استفاده از زبان انسانی هنوز برای ماشینها بسیار دشوار است. توئیتهای یک بات میتوانند منطق الگوریتمیِ آن را آشکار کنند؛ این توئیتها ممکن است دارای فرمولی خاص یا تکراری باشند یا از جوابهایی استفاده کنند که در باتهای گفتوگو رایج هستند. درک نکردن شوخیهای واضح و تغییر ناگهانی موضوع نیز از ویژگیهایی هستند که بات را لو میدهند (متأسفانه این صفات در بین بسیاری از کاربران انسان نیز مرسوم است).
۳. محتوای توئیت
باتها معمولاً با هدفی خاص ساخته میشوند؛ بنابراین ممکن است همیشه دغدغهی تنها یک موضوع واحد را داشته باشند؛ بهطور مثال ممکن است یک لینک را بارها و بارها پست کنند یا توئیتهایشان اکثراً دربارهی یک چیز باشد.
۴. زمانبندی
بررسی توئیتها در گذر زمان نیز کمککننده است. اگر یک حساب کاربری با سرعتی غیرطبیعی و در زمانهای غیرعادی یا حتی بیش از حد توئیت کند، ممکن است قلابی باشد. پژوهشگران همچنین متوجه شدهاند که حسابهای قلابی در گذر زمان معمولاْ برخوردی متناقض با یک موضوع دارند.
۵. ویژگیهای شبکهای
ویژگیهای شبکهای برای اغلب کاربران قابل رؤیت نیستند؛ اما اطلاعات زیادی را دربارهی حسابهای کاربری آشکار میسازند. باتها ممکن است تنها چند حساب محدود را دنبال کنند یا بسیاری باتهای دیگر از دنبالکنندههای آنها باشند. لحن توئیتهای یک بات نیز ممکن است با دوستانش همخوانی نداشته باشد؛ این امر نشان میدهد که بات هیچگونه ارتباط اجتماعی واقعی ندارد.