در چند سال اخیر شاهد افزایش هوش مصنوعی (AI) بوده‌ایم، از کوپایلوت مایکروسافت تا جمنی گوگل. در حالی که این امر فرصت های جدید زیادی را ایجاد کرده است، استفاده و اجرای روزافزون هوش مصنوعی همچنین مسائل امنیتی مرتبط با هوش مصنوعی تولید کننده را آشکار کرده است.
اکنون، ادعایی از کوین بانکستون (از طریق Tom's Hardware) در مورد عملکرد هوش مصنوعی جمنی گوگل ابروها را بالا برده است. به تازگی، گوگل اعلام کرده است که نوار کناری جمنی را در برنامه های ابری گوگل، مانند Google Docs و Drive راه اندازی می کند. این نوار کناری اجازه می دهد تا جمنی ببیند کاربر روی چه چیزی کار می کند و پیشنهاداتی ارائه دهد یا فایل ها را تجزیه و تحلیل کند. با این حال، در مورد کوین، جمنی بدون اجازه صریح اقدام به دسترسی و خواندن اسناد مالیاتی او کرد.
کوین متوجه شد که جمنی بدون درخواست او از هوش مصنوعی برای انجام این کار، خلاصه ای از اظهارنامه مالیاتی او به صورت PDF تهیه کرده است و هنگامی که از نحوه غیرفعال کردن تنظیمات پرسیده شد، جمنی او را به تنظیماتی راهنمایی کرد که حتی وجود نداشت. در حالی که کوین توانست تنظیمات صحیح را شناسایی کند، او اشاره کرد که این تنظیمات از قبل غیرفعال شده‌اند، بنابراین جمنی نباید به اسناد دسترسی پیدا کند و آنها را خلاصه کند. گوگل یک سند پشتیبانی دارد که نحوه استفاده از جمنی در Google Drive را توضیح می دهد، با این حال، این شرکت نحوه غیرفعال کردن این ویژگی یا جلوگیری از دسترسی جمنی به داده های ذخیره شده در Google Drive را شرح نمی دهد. متأسفانه، در مورد ما نیز، جمنی نتوانست به طور صحیح برای غیرفعال کردن گزینه راهنمایی کند.
در توییت بعدی، کوین راهی برای غیرفعال کردن خواندن داده‌های جمینی از Google Drive با خاموش کردن افزونه های جمینی به اشتراک گذاشت. با این حال، در مورد او، افزونه Google Workspace خاموش شده بود، اما جمنی توانست تمام اسناد حساب Google Drive او را بخواند و خلاصه کند. گوگل در این مورد هیچ جزئیاتی ندارد و این شرکت فقط پیشنهاد می دهد که اگر می خواهید از خواندن اسناد/فایل ها در Google Drive توسط جمینی جلوگیری کنید، به طور کلی از آزمایشگاه های Workspace انصراف دهید.