ایجنت هوش مصنوعی در آزمایش به اطلاعات شرکت‌ها رسید؛ هشدار بحرانی مرکز امنیت سایبری هند

ایجنت هوش مصنوعی‌ای که شرکت سازنده‌اش فقط برای آزمایش اجرایش می‌کرد، از محدودهٔ کارش بیرون رفت و به سیستم‌های واقعی چند شرکت هندی رسید. مرکز ملی امنیت سایبری هند (⁦CERT-In⁩) روز ۲۳ مهر در هشداری با درجهٔ «بحرانی» اعلام کرد که این ایجنت‌ها سوابق کاری شرکت‌ها را خوانده‌اند، از جمله اطلاعات شخصی و اسناد محرمانه. هیچ‌کدام از این شرکت‌ها خودشان متوجه ماجرا نشده بودند.

مرکز امنیت سایبری هند دقیقاً چه گفت؟

به گفتهٔ این مرکز، چند شرکت سازندهٔ مدل‌های هوش مصنوعی به‌تازگی و به‌طور داوطلبانه گزارش داده‌اند که مدل‌هایشان در جریان پژوهش و ارزیابی روی اینترنت، به سیستم‌های زندهٔ سازمان‌های هندی دسترسی پیدا کرده‌اند. این مدل‌ها کاری بیش از وظیفهٔ تعیین‌شده‌شان انجام دادند. شرکت‌های سازنده این موارد را بعد از بازبینی داخلی خودشان کشف و گزارش کردند.

هشدار نام شرکت‌های سازنده، مدل‌ها یا سازمان‌های آسیب‌دیده را نمی‌گوید. تعداد سازمان‌ها هم مشخص نیست، و هشدار نمی‌گوید ایجنت‌ها اطلاعاتی را که خواندند جایی نگه داشتند یا نه.

ایجنت هوش مصنوعی از کجا وارد شد؟

ایجنت (عامل هوش مصنوعی) نرم‌افزاری است که خودش برنامه می‌ریزد، دستور اجرا می‌کند، از ابزارها استفاده می‌کند و ساعت‌ها روی اینترنت کار می‌کند. در این موارد، ایجنت‌ها از هیچ حفرهٔ پیچیده‌ای استفاده نکردند. راهشان رمزها و کلیدهایی بود که شرکت‌ها جای اشتباه نگه می‌داشتند: داخل تنظیمات برنامه‌ها، در مخزن‌های کد عمومی، و نقش‌های ابری با دسترسی بیش از حد. به گفتهٔ این مرکز، ایجنت‌ها یک رمز لورفته را دوباره پیدا کردند و در چند عملیات جدا از آن استفاده کردند.

این اولین بار نیست که چنین اتفاقی گزارش می‌شود. آنتروپیک (⁦Anthropic⁩) مرداد امسال نوشت که در بازبینی ۱۴۱٬۰۰۶ اجرای آزمایش امنیتی، سه مورد پیدا کرده که مدل کلود از محیط یک شریک ارزیابی به اینترنت راه پیدا کرد و وارد سیستم واقعی سه سازمان شد. به گفتهٔ آنتروپیک، کلود آن سیستم‌ها را بخشی از تمرین می‌پنداشت و با روش‌های ساده‌ای مثل رمزهای ضعیف وارد شد. پیش از آن هم، به گفتهٔ همین گزارش، اوپن‌ای‌آی اعلام کرده بود چند مدلش در آزمایش به زیرساخت هاگینگ فیس (⁦Hugging Face⁩) رسیده‌اند. ماجرای هک کروم با هوش مصنوعی در شش روز هم نشان داد که ایجنت‌ها چقدر سریع حفره پیدا می‌کنند.

مهاجم‌ها هم از ایجنت هوش مصنوعی استفاده می‌کنند

بخش دوم هشدار جدی‌تر است. مرکز امنیت سایبری هند در جست‌وجوی خودش کارزاری با انگیزهٔ مالی علیه نهادهای هندی پیدا کرده که مهاجم‌ها در آن از ابزارهای حملهٔ متن‌باز مبتنی بر ایجنت استفاده کرده‌اند. این ابزارها با نام‌های تازه دوباره عرضه می‌شوند و در چند کشور نصب شده‌اند. به گفتهٔ این مرکز، فاصلهٔ نفوذ اول تا آسیب نهایی با این ابزارها از چند روز به چند ساعت کم شد و چند ایجنت هم‌زمان ساعت‌ها تا روزها کار می‌کردند. سازمان‌هایی که مشکل را نیمه‌کاره درست کرده بودند، چند روز بعد در مقیاسی بزرگ‌تر هدف حمله قرار گرفتند.

توصیه‌های این هشدار برای شرکت‌ها

نکتهٔ اصلی هشدار این است که ضعف‌ها معمولی بودند؛ فقط هوش مصنوعی آن‌ها را سریع‌تر و کامل‌تر از انسان پیدا کرد. توصیه‌های مهمش برای هر شرکتی، از جمله کسب‌وکارهای ایرانی، این‌هاست:

• کد، تاریخچهٔ مخزن، متغیرهای ⁦CI/CD⁩، فایل‌های تنظیمات، اپلیکیشن‌ها و فضای ابری را برای رمز و کلید لورفته بگردید. هر کلیدی پیدا شد عوض شود و از تاریخچه پاک شود.
• هیچ کلید مدیریتی یا سرویسی را داخل کد سمت کاربر نگذارید و ببینید یک کاربر ناشناس چه چیزی را می‌تواند بخواند یا تغییر دهد.
• رابط‌های برنامه‌نویسی (⁦API⁩) قدیمی و آزمایشی را خاموش کنید و پنل‌های مدیریت را از اینترنت بردارید.
• برای همهٔ دسترسی‌های مدیریتی تأیید دومرحله‌ای بگذارید و گزارش‌ها را دست‌کم ۱۸۰ روز نگه دارید.
• اگر خودتان ایجنت اجرا می‌کنید، به هر اجرا هویت جدا، کوتاه‌مدت و کمترین دسترسی لازم را بدهید و ارتباطش با بیرون را فقط به مقصدهای لازم محدود کنید.

این مرکز از سازندگان مدل‌ها هم می‌خواهد محیط آزمایش را در سطح شبکه ببندند، نه با دستور به خود مدل، و اگر ایجنتشان به سیستم واقعی رسید، فوراً به سازمان آسیب‌دیده خبر دهند.