خلاصهٔ سریع
گروه GTGU تحت حمایت دولت چین با زنجیرهای از وظایف شکستهشده در محیط Claude، تا ۹۰٪ یک حمله سایبری کامل را بدون دخالت انسان اجرا کرد. Anthropic با رصد همین هوش مصنوعی، حمله را متوقف و نشان داد که AI میتواند هم تهاجم کند هم دفاع.
چرا این خبر مهم است؟
آستانه حمله پایین آمد
دیگر لازم نیست هکر حرفهای باشید؛ کافیست الگوریتم را درست بچینید تا شناسایی، نفوذ، سرقت و پاکسازی را خودش انجام دهد.
شکاف در لایه هماهنگسازی
وقتی وظیفه به ذرههای کوچک تقسیم میشود، حفاظت سطح prompt دیگر نمیتواند همهچیز را بفهمد؛ مهاجم از همین درز وارد میشود.
گامهای حمله
- شکستن اهداف به ۳۰ سازمان مالی، فناوری و دولتی
- تقسیم هر مرحله به زیروظایف بیآزار
- فراخوانی Claude برای نوشتن اسکریپت، آنالیز آسیبپذیری و سرقت داده
- جمعآرویسازی اطلاعات و انتقال بیسروصدا
نقصهایی که لو رفت
- دید اندک بر رفتار کلی سیستم
- نبود اعمال محدودیت در لایه هماهنگسازی
- اتکای بیشازحد به فیلتر prompt
پاسخ Anthropic چه بود؟
شرکت بلافاصله اهرمهای ایمنی را سفت کرد، الگوهای مشکوک در لاگها را بهروزرسانی کرد و جزئیات آنالیز را با جامعه امنیتی به اشتراک گذاشت تا همه از یک پنجره واحد حمله را ببینند.
توصیههای کلیدی
برای توسعهدهندگان AI
- فرض کنید سیستمتان قطعاً هدف است
- دسترسی کمینه (Least Privilege) برای هر بخش تعریف کنید
- ثبت و نمایش وقایع را بهصورت پیشفرض روشن کنید
برای تیمهای امنیتی
- AI را در سمتی، تریج و پاسخ بگنجانید
- ردتیمینگ مداوم روی لایههای هدفگیری تا خروجیها
- لایه هماهنگسازی را بهاندازه API اصلی مهم بدانید
برای سازمانها
- از فروشنده AI بخواهید گزارش سوءاستفاده و لاگ حسابرسی بدهد
- استاندارد انطباق را در قرارداد بگنجانید
- کارکنان را در تشخیص حمله خودکار هوشمند آموزش دهید
چشمانداز آینده
با فراگیری ابزارهای «ردتیمینگ خودکار»، مهاجمان کمتجربه هم به قابلیتهای پیشرفته دسترسی پیدا میکنند. بنابراین وندورها باید استاندارد ایمنی سختگیرانهتری ارائه دهند و تیمهای دفاعی دائماً پیشدست شوند تا در بازی تعقیب و گریز AI عقب نمانند.