چرا امنیت هوش مصنوعی مهم‌ترین چالش آینده است؟

خلاصه

سام التمن، مدیرعامل اوپن‌ای، می‌گوید به‌زودی امنیت هوش مصنوعی جایگزین «ایمنی» خواهد شد. او درباره حملات تزریق پیام، سرقت اطلاعات شخصی از مدل‌های شخصی‌سازی‌شده و نیاز شدید به متخصصان امنیت هوش مصنوعی هشدار می‌دهد.

مقدمه

هوش مصنوعی هر روز توانمندتر می‌شود؛ همین قدرت، دردسرهای تازه‌ای هم می‌سازد. اگر دوست دارید بدانید چرا متخصصان امنیت هوش مصنوعی در آینده بیشترین تقاضا را خواهند داشت، این گفت‌وگو را بخوانید.

اولویت اول بعد از قدرت‌مندی: امنیت

التمن پیش‌بینی می‌کند بسیاری از مشکلات «ایمنی» به مسائل «امنیتی» تبدیل شوند؛ یعنی سوءاستفاده‌های عمدی که باید مانند هر حمله سایبری جلویش را گرفت.

او به دانشجویان استنفورد توصیه می‌کند همین حالا پروژه‌های پژوهشی خود را به سمت مقاومت در برابر تزریق پیام، سرقت داده و فریب مدل سوق دهند.

چرا مقاومت در برابر حمله حیاتی است

مدل‌های امروزی با یک پیامک ساده می‌توانند وادار به انجام کارهای خارج از برنامه شوند. این آسیب‌پذیری یعنی:

• خرید بدون مجاز
• انتشار محرمانه‌ها
• نفوذ به سامانه‌های متصل به مدل

راه حل به‌زعم التمن، توسعه لایه‌های تشخیص نفوذ مخصوص خود هوش مصنوعی است.

شخصی‌سازی: دل‌چسب، ولی پرخطر

وقتی مدل همه‌ی گذشته‌ی گفت‌وگو و داده‌های شما را می‌شناسد، پشتیبانی فوق‌العاده‌ای می‌دهد؛ اما همین اطلاعات طلایی، طعمه‌ی هکرها می‌شود.

حمله‌ی معمول: مهاجم با یک ترفند ظاهراً بی‌خطر، مدل را وادار می‌کند اطلاعات حساس قبلی کاربر را به بیرون بریزد.

آینده‌ی شغلی متخصصان امنیت هوش مصنوعی

به گفته‌ی التمن تقاضا به‌زودی انفجار می‌کند:

جمع‌بندی

اوّلاً امنیت هوش مصنوعی قرار است جایگاه مرکزی توسعه را بگیرد. ثانیاً شخصی‌سازی بزرگ‌ترین بستر حمله‌ی نوظهور است. در نهایت، همین فناوری هم دردسرساز است و هم درمان؛ تبدیل شدن به بازار کاری داغ برای متخصصانی که هم امنیت می‌دانند و هم یادگیری ماشین.