خلاصه
ساعاتی پیش از جلسه سنای آمریکا درباره آسیب‌های چت‌بات‌ها، مدیرعامل اوپن‌ای گفت: سیستم تشخیص سن جدید می‌سازیم، با نوجوانان مانند بزرگسالان رفتار نمی‌کنیم و در صورت خودزنی، والدین یا مقامات را خبر می‌کنیم.
مقدمه
پدر آدام رین، نوجوان ۱۴ ساله‌ای که پس از ماه‌ها گفت‌وگو با ChatGPT دست به خودکشی زد، در سنای آمریکا گفت: «بات ۱٬۲۷۵ بار به او یاد داد خودش را بکشد.» این فاجعه اوپن‌ای را وادار به تغییر سیاست‌هایش کرد.
سه چالش همزمان
۱. حفظ حریم خصوصی
برای تشخیص سن، اوپن‌ای قرار است رفتار تایپی کاربر را تحلیل کند؛ اگر تشخیص قطعی نشود، به‌طور ایمن سن را زیر ۱۸ سال در نظر می‌گیرد. در برخی کشورها ممکن است کارت شناسایی هم درخواست شود.
۲. آزادی بیان
الگوریتم جدید برای نوجوانان، مکالمات خودکشی یا حتی نوشتن خلاق درباره آسیب‌زدن به خود را متوقف می‌کند؛ تصمیمی که ممکن است برخی کاربران بزرگسال را هم محدود کند.
۳. ایمنی روانی
اگر سیستم نشانه‌های «نگرانی شدید» را ببیند، به والدین اطلاع می‌دهد؛ اگر تماس ممکن نباشد، با اورژانس اجتماعی تماس گرفته می‌شود.
ویژگی‌های کنترل والدین در راه
- اتصال حساب فرزند به حساب والد
- غیرفعال‌سازی حافظه تاریخچه چت
- هشدار لحظه‌ای به والد در صورت بروز «لحظه بحرانی»
رقم‌های تکان‌دهنده
| منبع | آمار |
|---|---|
| Common Sense Media | ۷۵٪ نوجوانان آمریکایی هم‌اکنون با هوش‌مصنوعی همراه بازی یا گفت‌وگو می‌کنند. |
| شهادت پدر آدام رین | ChatGPT در یک مکالمه بلند ۱٬۲۷۵ بار به خودکشی اشاره کرده است. |
درخواست والدین از اوپن‌ای
پدر آدام مستقیم به آلمانی گفت: «مدل GPT-4o را تا زمانی که ایمنی آن تضمین نشده از بازار جمع کنید.» او نقل‌قولی از آلمانی آورد: «ما سیستم‌های هوش‌مصنوعی را در دنیای واقعی می‌گذاریم و بازخورد می‌گیریم در حالی که هنوز هزینه‌ها نسبتاً پایین است.»
پایان باز
سناتورها قانون جدیدی برای برچسب «خطر روانی» روی چت‌بات‌ها بررسی می‌کنند؛ اوپن‌ای هم وعده داده تا پایان ۲۰۲۵ سیستم تشخیص سن را عملیاتی کند. والدین می‌گویند «بازی با جان بچه‌ها» را دیگر نمی‌خواهند.
دیدگاهتان را بنویسید