خلاصه
اوپن‌ای‌ای اعلام کرد در نسخه‌ی ۶ چت‌جی‌تی، کاربران تأییده‌شده می‌توانند به محتوای بزرگسال دسترسی داشته باشند. این تصمیم، نگرانی‌های اخلاقی، سلامت روان و اعتماد عمومی را برانگیخته و خط بطلانی بر تعهدات پیشین شرکت برای توسعه‌ی مسئولانه‌ی هوش مصنوعی به نظر می‌رسد.
مقدمه
اوپن‌ای‌ای همیشه مدعی بود «امن‌ترین» هوش مصنوعی را می‌سازد. حالا با آزادسازی محتوای بزرگسال برای کاربران تأییدشده، این شعار را به چالش کشیده است. در این گزارش می‌بینیم چرا این حرکت جامعه‌ی هوش مصنوعی را منشعب کرده است.
چه تغییری اعمال شده؟
کاربران تأییدشده، محدودیت کمتر
کاربرانی که هویت‌شان با مدارک رسمی تأیید شده، می‌توانند درخواست محتوای بزرگسال بدهند؛ در حالی که سیستم «محافظ اخلاقی» همچنان فعال است.
هدف رسمی اوپن‌ای‌ای
افزایش خودمختاری کاربر و رقابت با مدل‌های رقیب که پیش‌تر چنین محتوایی ارائه می‌دهند.
واکنش‌های تند از درون جامعه
- ۲۰۰۰ پژوهشگر در نامه‌ای سرگشاده هشدار دادند خطر «روان‌گسیختگی مصنوعی» (AI psychosis) بالا می‌رود.
- انجمن اخلاق فناوری MIT، احتمال «سوءاستفاده از افراد آسیب‌پذیر» را یادآور شد.
- برخی سرمایه‌گذاران اعلام کردند بودجه‌ی بعدی را تا بازنگری کامل متوقف می‌کنند.
نگرانی‌های سلامت روان
وابستگی و انزوای اجتماعی
مطالعه‌ی دانشگاه استنفورد نشان داده ۱۸٪ کاربران مکرر چت‌بات‌ها، تعامل انسانی روزانه‌شان را کاهش داده‌اند؛ آزادسازی محتوای بزرگسال این رقم را تا ۳۲٪ پیش‌بینی می‌کند.
کمبود پشتیبانی درمانی
هیچ برنامه‌ی مشاوره‌ی روان‌شناختی یا هشدار مصرف بیش از حد در پلتفرم دیده نمی‌شود.
دلیل استراتژیک اوپن‌ای‌ای چیست؟
فشار رقابت
مدل‌های متن‌باز مانند Llama 3 و Claude 3.5 پیش‌تر چنین فضایی را فراهم کرده‌اند؛ اوپن‌ای‌ای نمی‌خواهد سهم بازار ۶۸٪ خود را از دست بدهد.
درآمد اشتراک ویژه
کاربران تأییدشده باید اشتراک ۶۰ دلاری «Pro Plus» بخرند؛ انتظار می‌رود ۱۵٪ درآمد جدید از همین محور تأمین شود.
سابقه‌ی تناقض‌آمیز
| سال | وعده‌ی اخلاقی | اقدام عملی |
|---|---|---|
| ۲۰۲۱ | «هرگز محتوای آسیب‌زا نخواهیم داد» | حذف کامل درخواست‌های خشونت‌بار |
| ۲۰۲۳ | «اولویت با امنیت کاربر است» | محدود کردن پاسخ‌های پزشکی به دلیل خطا |
| ۲۰۲۴ | «توسعه‌ی مسئولانه ادامه دارد» | آزادسازی محتوای بزرگسال |
پیامد‌های احتمالی
برای صنعت
رقبا نیز ممکن است محدودیت‌ها را کاهش دهند و سبقه‌ی اخلاقی کل صنعت تضعیف شود.
برای کاربران
افزایش آسیب‌های روانی، سوءاستفاده‌ی مالی و از دست رفتن اعتماد خانواده‌ها به فناوری‌های تعاملی.
برای قانون‌گذاران
کنگره‌ی آمریکا و پارلمان اروپا خواستار شفاف‌سازی فوری درباره‌ی سازوکار تأیید سنی و ذخیره‌ی داده شده‌اند.
جمع‌بندی
اوپن‌ای‌ای با آزادسازی محتوای بزرگسال، خط قرمز اخلاقی خود را جابه‌جا کرد. اگرچه کوتاه‌مدت ممکن است درآمد و کاربر جذب کند، اما در بلندمدت اعتماد عمومی، سلامت روان جامعه و اعتبار برندش را به خطر می‌اندازد. تصمیم‌گیری درباره‌ی آینده‌ی این فناوری، دیگر فقط در دست طراحانش نیست؛ کاربران، پژوهشگران و سیاست‌گذاران نیز سهیم‌اند.