سازمان‌های دفاع از حقوق مصرف‌کننده در نامه‌ای به کمیسیون تجارت فدرال (FTC) و دادستان‌های کل ایالات آمریکا، خواستار تحقیق فوری درباره ابزار تولید محتوای تصویری و ویدیویی هوش مصنوعی “Imagine” شرکت Grok شده‌اند. این ابزار که متعلق به ایلان ماسک است، به دلیل توانایی تولید تصاویر و ویدیوهای غیراخلاقی و بدون رضایت افراد، به ویژه از اشخاص مشهور و کودکان، نگرانی‌های جدی ایجاد کرده است. سازمان‌های امضاکننده معتقدند که با وجود غیرفعال بودن موقت حالت “Spicy”، همچنان ریسک بالایی از سوءاستفاده، تولید محتوای جنسی جعلی و نقض حریم خصوصی وجود دارد. همچنین، سیستم ساده تأیید سن با پاپ‌آپ‌های ضعیف، به‌راحتی می‌تواند توسط نوجوانان دور زده شود و منجر به دسترسی غیرمجاز به محتوای بزرگسال شود. در صورت عدم محدودیت، این ابزار می‌تواند به ابزاری برای تولید گسترده محتوای جعلی و آسیب‌زا تبدیل شود.
نامه به کمیسیون تجارت فدرال: درخواست تحقیق فوری درباره Grok
گروهی از سازمان‌های دفاع از حقوق مصرف‌کننده نامه‌ای رسمی به کمیسیون تجارت فدرال آمریکا (FTC) و دادستان‌های کل ۵۰ ایالت و ناحیه کلمبیا ارسال کرده‌اند. این نامه خواستار بررسی فوری فعالیت‌های شرکت Grok، متعلق به ایلان ماسک، در زمینه ابزار تولید تصویر و ویدیوی هوش مصنوعی به نام “Imagine” شده است.
هدف اصلی نامه، پیشگیری از احتمال سوءاستفاده گسترده از این فناوری و حفاظت از حریم خصوصی کاربران، به ویژه افراد مشهور و نوجوانان، است. سازمان‌های امضاکننده نگرانند که این ابزار می‌تواند به‌راحتی برای تولید محتوای جعلی و تحقیرآمیز استفاده شود.
سازمان‌های امضاکننده: متحد برای مقابله با فناوری خطرناک
این نامه توسط فدراسیون مصرف‌کنندگان آمریکا (CFA) تهیه شده و با مشارکت ۱۴ سازمان فعال در زمینه حریم خصوصی، اخلاق فناوری و حقوق اقتصادی امضا شده است. برخی از این سازمان‌ها عبارتند از:
- پروژه نظارت فنی (Center for Democracy & Technology)
- مرکز عدالت اقتصادی (Economic Justice Center)
- مرکز اطلاعات حریم خصوصی الکترونیکی (EPIC)
این ائتلاف به شدت بر لزوم مداخله نظارتی زودهنگام تأکید دارند و معتقدند اقدامات پیشگیرانه می‌تواند از خسارت‌های گسترده به افراد و جامعه جلوگیری کند.
عملکرد “Imagine”: قابلیت تولید محتوای جعلی و جنسی
بر اساس گزارش منتشر شده توسط The Verge، ابزار “Imagine” از توانایی تولید تصاویر و ویدیوهای حاوی محتوای جنسی بدون پوشش از تصاویر تولید شده توسط هوش مصنوعی برخوردار است. این ویژگی، امکان ساخت تصاویر تقریباً واقع‌گرایانه از افراد مشهور یا دیگران را فراهم می‌کند، بدون آنکه هیچ رضایتی از طرف فرد مورد نظر گرفته شده باشد.
وضعیت فعلی حالت “Spicy”
در حال حاضر، حالت “Spicy” که به کاربران اجازه می‌داد تصاویر جنسی را از عکس‌های آپلود شده تولید کنند، غیرفعال شده است. با این حال، نامه هشدار می‌دهد که این غیرفعال بودن موقت نیست و هر زمان می‌تواند دوباره فعال شود.
خطرات احتمالی با فعال‌شدن مجدد
سازمان‌ها تأکید می‌کنند که اگر این قابلیت دوباره فعال شود، ممکن است منجر به تولید گسترده محتوای جنسی غیرمعمول و بدون رضایت (deepfake) از افراد شود. این محتواها نه‌تنها می‌توانند به رسیدن آسیب روانی و اجتماعی به قربانیان منجر شوند، بلکه می‌توانند برای اهداف کلاهبرداری، تهدید یا فشار نیز استفاده شوند.
نگرانی‌ها درباره دسترسی نوجوانان
یکی از مهم‌ترین نگرانی‌های برجسته در این نامه، آسانی دسترسی نوجوانان به محتوای بزرگسال است. هرچند یک پنجره پاپ‌آپ از کاربر می‌خواهد سن خود را تأیید کند یا اعلام کند که بالای ۱۸ سال دارد، اما این روش ایمنی کمی ایجاد می‌کند.
سیستم تأیید سن: ضعیف و دور زدنی
متخصصان اشاره می‌کنند که چنین سیستمی به‌راحتی توسط هر کاربر جوانی دور زده می‌شود. به ویژه وقتی یکی از پنجره‌های تأیید سن تاریخ تولد “۲۰۰۰” را به صورت پیش‌فرض انتخاب کرده باشد، ممکن است حاکی از طراحی عمدی برای تسهیل دسترسی نوجوانان باشد.
این موضوع دو قانون مهم را نقض می‌کند:
- قانون حفاظت از حریم خصوصی کودکان در اینترنت (COPPA): که به جمع‌آوری اطلاعات کودکان زیر ۱۳ سال بدون رضایت والدین محدودیت اعمال می‌کند.
- قوانین استانی تأیید سن (Age Verification Laws): که به پلتفرم‌های ارائه محتوای بزرگسال تحمیل می‌کنند اقدامات قوی‌تری برای تأیید سن کاربران انجام دهند.
نقض احتمالی قوانین: آیا Grok مسئول است؟
سازمان‌های امضاکننده اشاره می‌کنند که انتشار آگاهانه تصاویر برهنه افراد در آمریکا تحت قانون Take It Down ممنوع است. این قانون به افراد حق تأخیر قبل از انتشار محتوای صمیمانه را می‌دهد.
اگرچه این قانون بیشتر بر روی تصاویر واقعی تمرکز دارد، اما سازمان‌ها استدلال می‌کنند که قرار دادن فناوری در دسترس عمومی که می‌تواند این نوع محتوا را تولید کند، می‌تواند به عنوان همدستی غیرمستقیم یا تسهیل سوءاستفاده تفسیر شود.
تضمین نشدن اجرای قانون
نامه همچنین تأکید می‌کند که با توجه به رویکرد ایلان ماسک و Grok که اغلب محدودیت‌ها را به بهانه «آزادی بیان» حذف می‌کنند، احتمال اجرای قوانین فعلی بر این پلتفرم کم است. این رویکرد، نگرانی‌ها را درباره قدرت بدون نظارت این شرکت افزایش می‌دهد.
درخواست اقدام فوری از سوی سازمان‌ها
سازمان‌های دفاع از مصرف‌کننده از کمیسیون تجارت فدرال (FTC) خواسته‌اند تا:
- تحقیق فوری نسبت به امکان نقض قوانین مربوط به نقض حریم خصوصی و تولید محتوای بدون رضایت آغاز کند.
- شرکت xAI (مالک Grok) را مسئولیت‌زایی کند و در صورت لزوم، محدودیت‌های قانونی اعمال کند.
- از توسعه و فعال‌سازی بی‌ضبط قابلیت‌های خطرناک جلوگیری شود، قبل از اینکه خسارات واقعی و غیرقابل جبران رخ دهد.