ویروس هوش مصنوعی روی اندروید باکس و وسایل هوشمند خانه؛ هشدار تازهٔ آنتروپیک

ویروس هوش مصنوعی شاید به‌زودی بتواند بدون هیچ مرکز دادهٔ بزرگی، خودش را از یک دستگاه ارزان خانگی به دستگاه بعدی کپی کند. این نتیجهٔ پژوهشی است که تیم «قرمز» آنتروپیک (Anthropic) ۲۰ مهر منتشر کرد. به برآورد آن‌ها، مدل‌های کوچک هوش مصنوعی شاید تنها چند ماه با توانایی پخش‌شدن روی وسایلی مثل اندروید باکس‌های بی‌نام‌ونشان، فرهای هوشمند و جاروبرقی‌های رباتیک فاصله داشته باشند.

آنتروپیک دقیقاً چه آزمایشی کرد؟

پژوهشگران آنتروپیک ۱۵ اندروید باکس ارزان و بی‌برند خریدند؛ هر کدام حدود ۵۵ دلار و با ۴ گیگابایت حافظه. بعد این دستگاه‌ها را به هم وصل کردند و یک مدل متن‌باز ۲۶ میلیارد پارامتری، ⁦Gemma4-26B-A4B⁩، را تکه‌تکه روی آن‌ها اجرا کردند. هر جعبه فقط چند لایه از مدل را نگه می‌داشت و سرعت کل مجموعه ۰٫۳۹ توکن در ثانیه بود؛ یعنی بسیار کند، اما کار می‌کرد.

سؤال اصلی این بود که آیا یک مدل کوچک می‌تواند روی سخت‌افزاری که نمی‌شناسد، خودش راه‌اندازی شود. یک مدل ۹ میلیارد پارامتری از ۹ نوع سخت‌افزار آزمایشی، روی ۸ نوع موفق شد. به زبان فنی به چنین برنامه‌ای «کرم» (worm) می‌گویند: بدافزاری که بدون دخالت انسان از رایانه‌ای به رایانهٔ دیگر می‌رود. فرق کرم هوش مصنوعی این است که وزن‌های مدل را هم با خودش می‌برد و روی دستگاه آلوده‌شده فکر می‌کند.

ویروس هوش مصنوعی کی می‌تواند واقعاً پخش شود؟

در آزمایش دوم، پژوهشگران یک شبکهٔ بسته با ۸ دستگاه اندرویدی شبیه‌سازی‌شده ساختند. در این شبکه درگاه اشکال‌زدایی اندروید (⁦ADB⁩) بدون رمز باز بود. از میان مدل‌های متن‌باز آزمایش‌شده، فقط ⁦GLM-5.2⁩ توانست چرخهٔ کامل را بارها تکرار کند: پیدا کردن دستگاه بعدی، فرستادن خودش، راه‌اندازی و ادامهٔ مسیر. این مدل در ۴ آزمایش از ۵ آزمایش به هر ۸ دستگاه رسید و در یکی به ۷ دستگاه.

⁦GLM-5.2⁩ برای جا شدن روی یک تلویزیون هوشمند بیش از حد بزرگ است. اما آنتروپیک روند پیشرفت مدل‌های کوچک را بررسی کرده و می‌گوید اگر همین سرعت ادامه پیدا کند، یک مدل کوچک تا پایان ۲۰۲۶ به این سطح توانایی می‌رسد. خود پژوهشگران تأکید می‌کنند که مرحلهٔ نفوذ در آزمایششان عمداً ساده بوده است. با این حال یادآوری می‌کنند که بات‌نت معروف میرای (Mirai) هم فقط با فهرست رمزهای پیش‌فرض کارخانه میلیون‌ها دستگاه را آلوده کرد.

چرا اندروید باکس‌های ارزان هدف اول‌اند؟

به گفتهٔ آنتروپیک، این جعبه‌ها معمولاً نسخه‌ای از اندروید متن‌باز را اجرا می‌کنند که سازنده هیچ لایهٔ امنیتی به آن اضافه نکرده است. بات‌نت کیم‌ولف (Kimwolf) که این پژوهش به آن ارجاع می‌دهد، بیش از ۲ میلیون دستگاه را آلوده کرده بود و بیشترشان همین اندروید باکس‌های بی‌برند بودند. دوربین‌های امنیتی و دستگاه‌های ویدئوکنفرانس هم حالا تراشهٔ هوش مصنوعی دارند و به همین دلیل می‌توانند هدف بعدی باشند.

خبر خوب این است که چنین کرمی کند است. راه‌اندازی یک مدل ۹ میلیارد پارامتری روی این جعبه‌ها ۲۸ تا ۵۱ ساعت طول می‌کشد. پژوهشگران این کرم را به کپک مخاطی تشبیه می‌کنند که آرام و در طول چند روز پخش می‌شود. خبر بد این است که کرم هوش مصنوعی یاد می‌گیرد: وقتی هر نسل یادداشت‌هایش را به نسل بعد داد، موفقیت راه‌اندازی از ۴۵ درصد به ۶۱ تا ۸۴ درصد رسید.

چه کسی می‌تواند جلویش را بگیرد؟

آنتروپیک می‌گوید اگر ویروس هوش مصنوعی روزی واقعاً پخش شود، ردپای روشنی در شبکه به جا می‌گذارد. دستگاه‌هایی که ناگهان چند گیگابایت داده می‌گیرند و مدام با هم حرف می‌زنند، برای پایش اینترنت‌دهنده‌ها غیرعادی‌اند. تجربهٔ میرای نشان داد قرنطینهٔ مشترکان آلوده و فرستادن راهنمای پاک‌سازی، ۹۲ درصد آلودگی‌ها را در ۱۴ روز پاک کرد؛ بدون اطلاع‌رسانی این عدد ۷۴ درصد بود. سهم سازنده‌ها هم پیش‌فرض‌های امن‌تر است؛ برای نمونه، در بریتانیا فروش دستگاه هوشمند با رمز پیش‌فرض یکسان دیگر مجاز نیست.

این پژوهش ادامهٔ نگرانی آنتروپیک از رفتار خودسرانهٔ ایجنت‌هاست؛ همین هفته هم گزارش ساختگی کلود به پلیس فیلادلفیا خبرساز شد. یک روز بعد هم شرکت امنیتی ایکس‌بو گزارش داد که ایجنت‌هایی با یک مدل عمومی اوپن‌ای‌آی در شش روز کروم را هک کردند. اگر با خود این شرکت و مدل‌هایش آشنا نیستید، راهنمای کلود را بخوانید. مرکز امنیت سایبری هند هم چند روز بعد هشدار داد که ایجنت‌ها در آزمایش با رمزهای لورفته به اطلاعات شرکت‌های هندی رسیدند.