خلاصه
از همین حالا، زیر۱۸ساله‌ها فقط ۲ ساعت در روز می‌توانند با شخصیت‌های هوش مصنوعی Character.AI چت کنند و از ۲۵ آبان اصلاً به چت دسترسی ندارند. شرکت برای تشخیس سن، مدل هوش مصنواختی جدیدی راه‌اندازی کرده که رفتار کاربر را بررسی می‌کند و اگر سن را اشتباه تشخیص دهد، احراز هویت با کارت ملی از طریق سایت Persona انجام می‌شود.
چرا این تصمیم؟
چند شکایت حقوقی از سوی والدین بچه‌هایی که درگیر رابطه‌های مضر با ربات شده بودند، Character.AI را وادار کرد سیاستش را تغییر دهد. قانون‌گذاران هم در حال تدوین مقررات سخت‌گیرانه‌تری برای چت‌بات‌های همدم هستند.
محدودیت‌های جدید به زبان ساده
زیر ۱۸ سال چه اتفاقی برایشان می‌افتد؟
- امروز: فقط ۲ ساعت چت آزاد در روز
- ۲۵ آبان ۱۴۰۳: چت کاملاً غیرفعال می‌شود
- امکانات باقی‌مانده: ساخت شخصیت، خواندن چت‌های قدیمی، تولید داستان و ویدئو
چگونه سن تشخیص داده می‌شود؟
- مدل هوش مصنواختی داخلی، نوع شخصیت‌های انتخابی و رفتار کاربر را بررسی می‌کند.
- اطلاعات دیگر از داخل و خارج سایت هم به کمک مدل می‌آید.
- اگر سن کمتر از ۱۸ تشخیص داده شود، کاربر مستقیم وارد نسخه ایمن نوجوان می‌شود.
- بزرگسالانی که اشتباهی بلاک شده‌اند با ارسال کارت ملی به Persona می‌توانند برگردند.
آیا راه دور زدن وجود دارد؟
مدیرعامل شرکت اعتراف می‌کند هیچ سیستمی ۱۰۰٪ ایمن نیست؛ اما تغییر سن در پروفایل یا ساخت اکانت جدید با سن دروغین دیگر ممکن نیست. هدف، «بهترین» تشخیس سن است نه کامل.
تأثیر روی نوجوانان و بازار
Character.AI می‌گوید کمتر از ۱۰٪ کاربران رسمی‌اش زیر ۱۸ سال هستند؛ اما همین گروه ساعات زیادی را در چت می‌گذراند. با تنگ‌تر شدن حلقه، بخشی از این مخاطب به سمت پلتفرم‌های کم‌نظارت‌تر سرازیر خواهد شد.
چه پلتفرم‌های دیگری محدودیت گذاشتند؟
- Meta: چت رمانتیک با نوجوانان را در ربات‌هایش متوقف کرد.
- قوانین کالیفرنیا و لایحه فدرال: هر دو چت‌بات را موظف به برچسب‌گذاری «هوش مصنوعی» و ممنوع‌الخدمات برای نوجوانان می‌کنند.
آزمایشگاه ایمنی هوش مصنوعی
Character.AI یک نهاد مستقل غیرانتفاعی به نام «AI Safety Lab» راه‌اندازی کرده که فقط روی خطرات بخش سرگرمی هوش مصنوعی تحقیق می‌کند. ابتدا با پرسنل خود شرکت اداره می‌شود و قرار است بعداً اعضای بیرونی بی‌افزایند.
جمع‌بندی
اگر زیر ۱۸ سال دارید، از ۲۵ آبان فقط می‌توانید شخصیت بسازید یا داستان تولید کنید؛ چت کردن با ربات‌های هوش مصنوعی در Character.AI ممنوع می‌شود. این تغییر، پاسخی است به فشار قانونی و شکایت‌های والدین؛ حالا نوبت سایر پلتفرم‌هاست تصمیم بگیرند هوش مصنوعی را چقدر در اختیار نوجوانان قرار دهند.