خلاصهی سریع
گرافیکساز جمینی بدون هیچ مقاومتی تصاویر خشونتبار، تاریخساخت و کپیرایتشکسته تولید کرد؛ از انفجار برجهای دوقلو تا میکیماوس در صحنه ترور JFK.
مقدمه
فقط با چند جمله ساده، اپلیکیشن گوگل جمینی تصاویری ساخت که بهراحتی میتوانند به شایعهپراکنی و بیثباتی سیاسی دامن بزنند. این اتفاق نشان میدهد هنوز فناوری تولید محتوا کنترل درستی ندارد.
چه تصاویری بدون فیلتر ساخته شد
- هواپیمای در حال برخورد به برجهای دوقلو (با تاریخ ۱۱ سپتامبر)
- مرد مسلم در بوتههای میدان Dealey برای ترور JFK
- کاخ سفید در حال سوختن و آتشنشانهای در حال امداد
- دونالد داگ در متروی لندن روز بمبگذاری ۷ ژوئیه
- پیکاچو در میدان Tiananmen
چرا این امر خطرناک است
۱. امکان جعل تاریخ
تصاویر واقعگرایانه میتوانند بهعنوان «مدرک» در شبکههای اجتماعی پخش شوند و خاطره جمعی را تغییر دهند.
۲. نقض کپیرایت
شخصیتهای کارتونی بدون مجوز در صحنههای خشن قرار گرفتند؛ میکیماوس، اسفنجباب و پاتریک نمونههایی هستند که قوانین مالکیت معنوی را نادیده گرفتند.
۳. الگوی سادهسازی برای تقلب
نیازی به مهارت برنامهنویسی یا سلسله دستورات پیچیده نیست؛ فقط یک جمله فارسی یا انگلیسی کافی است تا مدل متناسب تصویر بسازد.
عملکرد گوگل
طبق سیاست رسمی، محتوای خشونتبار، سیاسی یا توهینآمیز باید بلاک شود اما در عمل هیچ پیغامی دریافت نکردیم و تمام درخواستها بدون اخطار اجرا شدند.
فهرست نکات کلیدی
- فیلترهای جمینی بهراحتی دور زده میشود.
- مدل تاریخ و زمینه اجتماعی را میفهمد و جزئیات واقعی اضافه میکند.
- کیفیت بالای رندر متن امکان جعل تاریخ را دوچندان میکند.
- تولید انبوه چنین تصاویری هزینهای برای کاربر ندارد و بستر مناسبی برای تولید اطلاعات نادرست فراهم است.
جمعبندی
تا زمانی که شرکتهای بزرگ سد دفاعی قویتری نسازند، امکان ساخت تصاویر جنجالی و غیراخلاقی در کمتر از چند ثانیه وجود دارد. مسئولیت این شکاف امنیتی هماکنون متوجه هم توسعهدهندگان و هم کاربرانی است که بیمحابا از آن بهره میبرند.