گوگل مدل Gemma را پس از اتهام‌سازی نادرست علیه یک سناتور از دسترس خارج کرد

خلاصه خبر

گوگل مدل هوش مصنوعی Gemma را از پلتفرم AI Studio حذف کرد؛ چون برخی کاربران غیرتوسعه‌دهنده از آن سؤالاتی می‌پرسیدند که پاسخ‌های نادرست و اتهام‌آمیز تولید می‌کرد. سناتور مارشا بلک‌برن گفته این مدل درباره‌اش اتهامات کذبی ساخته است.

ماجرا از کجا شروع شد؟

Gemma خانواده‌ای از مدل‌های باز متن‌باز است که فقط برای توسعه‌دهندگان طراحی شده. اما کاربران عادی در AI Studio به سراغش رفتند و سؤالاتی خارج از حوزه طراحی پرسیدند. یکی از این سؤالات درباره سناتور بلک‌برن بود که مدل پاسخ داد او «متهم به رابطه جنسی غیرقانونی با یک مأمور پلیس» شده است.

ادعای سناتور چه بود؟

• هیچ‌کدام از جزئیات پاسخ Gemma واقعی نیست؛ سال تبلیغات انتخاباتی اشتباه بود و هیچ رسانه‌ای چنین خبری منتشر نکرده.
• بلک‌برن در نامه‌ای به سوندار پیچای، مدیرعامل گوگل، خواستار توقف کامل مدل تا زمان کنترل خطاها شده است.

پاسخ گوگل

گوگل اعلام کرد Gemma دیگر در AI Studio در دسترس نیست و فقط از طریق API در اختیار توسعه‌دهندگان باقی می‌ماند. شرکت همچنان روی کاهش «هالوسینیشن» یا توهم‌زایی مدل‌ها کار می‌کند.

چرا این اتفاق مهم است؟

نمونه تازه‌ای است که نشان می‌دهد حتی غول‌های فناوری هنوز نتوانسته‌اند خطای حقیقت‌سنجی در مدل‌های زبانی را مهار کنند. هر پاسخ نادرست می‌تواند به افترای عمومی یا آسیب شهرت بینجامد.

نتیجه‌گیری

تا زمانی که راه‌حلی برای کنترل دقیق خروجی‌های هوش مصنوعی پیدا نشود، محدودسازی دسترسی کاربران عادی به مدل‌های قدرتمند تنها راه پیش‌گیرانه به نظر می‌رسد.