علیرغم تمام فوایدی که فناوری برای ما به ارمغان آورده، این ترس وجود دارد که فناوریهای نسل جدید همچون هوش مصنوعی، یادگیری ماشین و روباتیک جایگزین مهارتها و شغلهای انسانی شوند. اما برخی از پژوهشگران نظر دیگری دارند.
برخی از پژوهشگران در دانشگاه کالیفرنیا در ایالات متحده، آزمایشهای گوناگونی انجام دادهاند که نشاندهنده محدودیتهای بارز ماشینهای «یادگیری ژرف» است.
در واقع نتایج این پژوهش حاکی از آن هستند که بهسادگی میتوان این شبکهها را گول زد و اینکه روش آنها برای شناسایی اشیاء با استفاده از بینایی رایانهای، تا حد زیادی از بینایی انسانی متفاوت است.
فیلیپ کلمان(یک استاد روانشناسی در دانشگاه کالیفرنیا و نویسنده ارشد گزارش فوق) میگوید: «ماشینها محدودیتهای بسیار زیادی دارند که باید آنها را درک کنیم.»
به گفته وی: بینایی ماشین نارساییهایی دارد.
این روانشناسان در نخستین آزمایش از یکی از بهترین شبکههای یادگیری ژرف با نام VGG-19 خواستند تا تصاویر حیوانات و اشیاء را رنگآمیزی کند. اما این تصاویر را میشد تغییر داد.
برای مثال، سطح یک توپ گلف روی یک قوری نمایش داده میشد و نوارهای مخصوص گورخر، روی یک شتر و الگوی آبی و قرمز جورابهای خاص نیز روی فیل نمایش داده میشدند.
روانشناسان در آزمایش دوم، روانشناسان تصاویری از ظروف شیشهای به VGG-19 و یک شبکه یادگیری ژرف دیگر با نام AlexNet نشان دادند. هر دو شبکه برای شناسایی اشیاء با استفاده از یک پایگاه داده از تصاویر آموزش دیده بودند. اما هیچیک از این دو شبکه موفق به شناسایی ظروف شیشهای نشد.
در آزمایش سوم نیز محققان ۴۰ طرح به رنگ سیاه به شبکهها نشان دادند و هدف آن بود که متوجه شوند آیا این شبکهها میتوانند اشیاء را از روی شکل آنها شناسایی کنند یا نه.
آنان به این نتیجه رسیدند با اینکه انسانها میتوانند شکل کلی یک شیء را ببینند؛ شبکههای هوش مصنوعی تنها بخشهایی از اشیاء را شناسایی میکنند.
این دانشمندان میگویند بهنظر نمیرسد که شناسایی تصاویر از روی شکل کلی، در این سامانههای یادگیری ژرف لحاظ شده باشد.