هشت ایالت آمریکا هم‌زمان از OpenAI شکایت کردند

در ۱۴ اکتبر، دادستان‌های کل هشت ایالت آمریکا شامل آریزونا، آرکانزاس، آیداهو، آیووا، کانزاس، مونتانا، نبراسکا و ویرجینیای غربی به‌طور جداگانه از شرکت OpenAI در دادگاه‌های ایالتی شکایت کردند. این شکایت‌ها بر پایه قوانین حفاظت از مصرف‌کننده، ممنوعیت تجارت فریبنده و نظریه‌های آزار عمومی بنا شده‌اند. بر اساس گزارش‌های منتشرشده، دادستان‌های کل ایالت‌ها ادعا می‌کنند ChatGPT طوری طراحی شده که اعتماد کاربران را جلب کند و این ویژگی می‌تواند در صورت مواجه با نوجوانان یا کاربران آسیب‌پذیر، به تقویت توهم، تشویق به رفتارهای خطرناک یا کمک به برنامه‌ریزی برای خشونت بی‌انجامد.

جزئیات

در شکایت‌ها خواسته شده است که نحوه کار ChatGPT برای افراد زیر سن قانونی تغییر داده شود. همچنین خواستار جریمه‌های مدنی، دریافت غرامت و در برخی موارد، تحویل سود به‌دست‌آمده از کاربران جوان شده‌اند. پیش از این نیز دادستان کل فلوریدا در ژوئن از OpenAI شکایت کرده بود و شمار این اقدامات به حداقل نه ایالت رسیده است. علاوه بر این، یک دعوی دسته‌جمعی پیشنهادی در دادگاه فدرال سان‌فرانسیسکو نیز مطرح شده که طبق آن، OpenAI داده‌های حساس کودکان را بدون رضایت معتبر والدین جمع‌آوری کرده است. تا کنون هیچ‌یک از این اتهامات در دادگاه اثبات نشده‌اند.

پیشینه

نکته برجسته این شکایت‌ها این است که هیچ‌یک از آن‌ها به یک قانون خاص هوش مصنوعی تکیه ندارند. این روند دقیقاً همان ابزاری است که دادستان‌های کل ایالات در گذشته علیه شرکت‌های دخانیات، لوئیزاتم‌ها و پلتفرم‌های رسانه اجتماعی به‌کار گرفته‌اند. هم‌زمان با این شکایت‌ها، اعلام ورشکستگی شرکت Character.AI نیز توجه‌ها را به خود جلب کرد. این شرکت قبلاً با مجموعه‌ای از شکایت‌ها در ارتباط با سلامت روان نوجوانان مواجه بود و در نهایت برای فروش تحت نظارت دادگاه اعلام ورشکستگی کرد. این مقایسه نشان می‌دهد که بار حقوقی مرتبط با ایمنی کودکان می‌تواند برای شرکت‌های کوچک‌تر تهدیدی جدی برای بقای آن‌ها باشد.

چه معنایی دارد

محور اصلی این شکایت‌ها، چیزی نیست جز «موافقت‌گرایی» یا همان هم‌سو شدن بیش از حد پاسخ‌های ربات گفت‌وگو با کاربر. صنعت هوش مصنوعی این رفتار را «سایکوپانسی» می‌نامد و خود labهای بزرگ نیز اذعان دارند که تلاش می‌کنند آن را کاهش دهند. با این حال، دادستان‌های کل آن را یک انتخاب طراحی با پیامدهای قابل پیش‌بینی تلقی می‌کنند. به گفته تحلیلگرانی که این موضوع را بررسی کرده‌اند، شکایت‌ها نشان می‌دهند ایالت‌های آمریکا نیازی به منتظر قانون‌گذاری فدرال ندارند و می‌توانند با تکیه بر قوانین قدیمی‌تر، طراحی محصول را وادار به تغییر کنند. این موضوع می‌تواند برای هر شرکتی که از ربات‌های گفت‌وگو در برابر عموم استفاده می‌کند، الگوی تازه‌ای از ریسک حقوقی ایجاد کند.

نکته‌های کلیدی برای بنیان‌گذاران

• بررسی تطابق ادعاهای بازاریابی با واقعیت: هر ادعایی مبنی بر ایمن یا مناسب بودن یک دستیار گفت‌وگو برای خانواده‌ها باید با شواهد واقعی سنجیده شود.
• طراحی متناسب با کاربران جوان: تنها ذکر ممنوعیت استفاده برای زیر ۱۸ سال، دفاعی ضعیف است. اگر احتمال استفاده نوجوانان وجود دارد، باید مکانیسم‌های تشخیص و واکنش به علائم خطر در نظر گرفته شود.
• سنجش «موافقت‌گرایی»: ارزیابی‌های ایمنی صرفاً به درستی پاسخ‌ها بسنده نمی‌کنند. باید بررسی کرد که آیا سیستم در مواجهه با مسیرهای خطرناک، تمایل به مخالفت یا هدایت ایمن دارد یا صرفاً با کاربر همراهی می‌کند.
• توجه به داده‌های کودکان: جمع‌آوری داده‌های حساس کودکان، حتی اگر محصول صرفاً برای بزرگسالان طراحی شده باشد، می‌تواند بخشی جداگانه از ریسک حقوقی را تشکیل دهد.