دادستان‌های کل هشت ایالت آمریکا علیه OpenAI، شرکت سازنده ChatGPT، شکایت‌هایی را تنظیم کرده‌اند. بر اساس اسناد منتشرشده، این ایالت‌ها شامل ویرجینیای غربی، آیووا، کانزاس، نبراسکا، آرکانزاس، آریزونا، آیداهو و مونتانا هستند و شکایت‌ها را در ۱۴ اکتبر اعلام کرده‌اند. این شکایت‌ها به رویه‌های ایمنی هوش مصنوعی در شرکت پشت ChatGPT هدف گرفته‌اند و OpenAI تاکنون پاسخ عمومی به آنها نداده است.
ادعاهای اصلی شکایت‌ها علیه OpenAI
در شکایت‌ها ادعا شده است که ChatGPT کاربران را «ترغیب» کرده تا به خود یا دیگران آسیب بزنند. در پرونده ویرجینیای غربی آمده است که پژوهش‌های فزاینده نشان می‌دهد ChatGPT مهارت‌های تفکر انتقادی را تضعیف می‌کند، پارانویا و توهم را تشویق می‌کند، مشاوره پزشکی خطرناک ارائه می‌دهد و رفتارها و روابط ناسالم را ترویج می‌کند.
گزارش‌های اخیر درباره «عامل‌های هوش مصنوعی سرکش» در OpenAI به عنوان شواهدی از بی‌احتیاطی ارائه شده است. در شکایت ویرجینیای غربی آمده است: «همه این آسیب‌ها قابل پیش‌بینی و قابل اجتناب بودند.»
این پرونده استدلال می‌کند که سام آلتمن، مدیرعامل OpenAI، دست‌کم از سال ۲۰۱۵ درباره خطرات ایمنی هوش مصنوعی هشدار داده است، اینکه استفاده کودکان از ChatGPT پنهان نیست و کارکنان OpenAI به دلیل نگرانی‌های ایمنی شرکت را ترک کرده‌اند.
پرونده دسته‌جمعی کالیفرنیا و داده‌های کودکان
یک پرونده دسته‌جمعی (Class Action) جداگانه نیز روز سه‌شنبه در کالیفرنیا به نمایندگی از دو کودک و «همه کودکان دیگری که در وضعیت مشابه قرار دارند» ثبت شد. در این شکایت ادعا شده است که OpenAI به‌طور عامدانه از ChatGPT برای استخراج اطلاعات شخصی کودکان استفاده کرده و با به‌کارگیری آن اطلاعات برای آموزش مدل‌هایش از آن سود برده است.
سخنان خود آلتمن بخشی از این پرونده را تشکیل می‌دهد. در شکایت به اظهارنظر او در یک پادکست در سال گذشته اشاره شده است که مردم شخصی‌ترین جزئیات زندگی‌شان را با ChatGPT به اشتراک می‌گذارند و به‌ویژه جوانان از آن به عنوان درمانگر یا مربی زندگی استفاده می‌کنند.
در این شکایت با استناد به قانون کالیفرنیا آمده است که یک بزرگسال نمی‌تواند چنین اطلاعاتی را از کودک جمع‌آوری و تجاری‌سازی کند و سپس ادعا کند که کودک به آن اجازه داده است. این شکایت‌ها فشار نظارتی بر توسعه‌دهندگان هوش مصنوعی درباره داده‌های کاربران را افزایش می‌دهد؛ پس از تعهدات حفاظت از داده توسعه‌دهندگان هوش مصنوعی که هفته گذشته از سوی ICO بریتانیا اعلام شد.
واکنش OpenAI و وضعیت فعلی کاربران
OpenAI سال گذشته پذیرفت که سیستم‌هایش می‌توانند هنگام پاسخ به کاربران در وضعیت بحرانی «کوتاهی» کنند، اما گفت مجموعه‌ای از تدابیر حفاظتی لایه‌ای را در اختیار دارد. این شرکت همچنین در وب‌سایت خود اعلام کرده است که از پیش‌بینی سن استفاده می‌کند تا برخی کاربران را در تجربه ChatGPT ویژه نوجوانان با تدابیر حفاظتی بیشتر قرار دهد، مگر اینکه آن کاربران تأیید کنند بزرگسال هستند.
در حال حاضر هیچ تغییری برای کاربران ChatGPT رخ نمی‌دهد. والدینی که کودکانشان از ChatGPT استفاده می‌کنند می‌توانند بررسی کنند که آیا حساب کاربری در تجربه ویژه نوجوانان قرار گرفته است یا نه؛ تجربه‌ای که به گفته OpenAI تدابیر حفاظتی بیشتری اعمال می‌کند. آنها همچنین می‌توانند اطلاعات شخصی‌ای را که کودک در گفتگوها به اشتراک گذاشته است مرور کنند. بزرگسالانی که به اشتباه در تجربه نوجوانان قرار گرفته‌اند می‌توانند سن خود را تأیید کنند تا از آن خارج شوند.
این شکایت‌ها در مرحله ابتدایی قرار دارند و هیچ دادگاهی درباره هیچ‌یک از ادعاها حکم نداده است. OpenAI نیز اعلام نکرده است که در پاسخ به این شکایت‌ها، تدابیر حفاظتی ChatGPT برای کاربران جوان‌تر را تغییر خواهد داد یا نه.