خلاصه
کارکنان بدون اطلاع IT، هوش مصنوعی را به ابزارهای SaaS مانند Salesforce و Slack وصل می‌کنند؛ این «هوش مصنوعی پنهان» به‌صورت نامحدود به اطلاعات محرمانه دسترسی دارد و بزرگ‌ترین تهدید امنیتی امروز سازمان‌ها شده است.
مقدمه
در کمتر از دو سال، هوش مصنوعی از آینده به حال تبدیل شده؛ اما چارچوب‌های حاکمیتی هنوز به جا نمانده‌اند. نتیجه، رشد بی‌سروصدا ابزارهایی است که بدون نظارت، از درون سازمان به اطلاعات حساس رخنه می‌کنند.
چرا هوش مصنوعی پنهان خطرناک است؟
سیستم‌های امنیتی قدیمی برای مرزهای شبکه طراحی شدند؛ در حالی که AI جدید از درون ابزارهای روزمره مثل Google Workspace وارد می‌شود و ماه‌ها یا سال‌ها بدون شناسایی به داده‌ها دسترسی دارد.
دو واقعیت تلخ
۱) ضبط مخفی تمام تماس‌های مشتری
در یک شرکت مالی بزرگ، ابزار رونویسی Zoom بدون قرارداد، هر تماس مشتری را ضبط و برای آموزش مدل بیرونی ارسال می‌کرد.
۲) افشای اطلاعات فروش
کارمندی ChatGPT را مستقیماً به Salesforce متصل کرد و صدها گزارش داخلی همراه با پیش‌بینی فروش را در اختیار یک سیستم خارجی قرار داد.
چگونه جلوی این نشت را بگیریم؟
- لیست زندهٔ همهٔ برنامه‌های متصل به SaaS را داشته باشید.
- دسترسی‌ها را کوتاه‌مدت و حداقل (least-privilege) کنید.
- برنامه‌های مشکوک را بلافاصله غیرفعال کنید.
نتیجه‌گیری
شرکت‌های موفق AI را مسدود نمی‌کنند؛ آن‌ها با دید کامل و چارچوب‌های مشخص، نوآوری را در کنار امنیت حفظ می‌کنند. اگر نتوانید ببینید، نمی‌توانید امن کنید.