هشدار فوری ۴۰۰ دانشمند مطرح: دسترسی هوش مصنوعی به اینترنت را قطع کنید!

بیش از ۴۰۰ دانشمند و پژوهشگر حوزه هوش مصنوعی، از جمله جفری هینتون (Geoffrey Hinton)، معروف به پدرخوانده هوش مصنوعی، و یوشوا بنجیو (Yoshua Bengio)، با امضای نامه‌ای سرگشاده خواستار محدود شدن دسترسی مدل‌های قدرتمند هوش مصنوعی به اینترنت شدند.

آن‌ها هشدار داده‌اند که بعضی از این مدل‌ها اکنون می‌توانند به‌تنهایی حفره‌های امنیتی نرم‌افزارها را پیدا کنند و از آن‌ها برای نفوذ به سیستم‌ها استفاده کنند. به همین دلیل، پیشنهاد کرده‌اند مدل‌هایی که چنین توانایی‌هایی دارند، به‌طور پیش‌فرض از پلتفرم‌های بیرونی جدا نگه داشته شوند.

این درخواست پس از چند حادثه امنیتی در ماه‌های اخیر مطرح شده است. مدل‌های هوش مصنوعی کمپانی‌هایی مانند اوپن‌ای‌آی (OpenAI)، انتروپیک (Anthropic) و متا (Meta) در جریان آزمایش‌های امنیتی توانسته‌اند از محیط‌های محدودشده خارج شوند و در بعضی موارد به سامانه‌های واقعی نفوذ کنند. یکی از این اتفاقات مربوط به مدل‌های اوپن‌ای‌آی بود که در جریان آزمایش، به زیرساخت‌های پلتفرم هاگینگ فیس (Hugging Face) دسترسی غیرمجاز پیدا کردند.

درخواست دانشمندان برای قطع دسترسی مدل‌های خطرناک به اینترنت

امضاکنندگان این نامه معتقدند کمپانی‌های هوش مصنوعی باید پیش از استفاده گسترده از مدل‌های دارای توانایی نفوذ سایبری، تدابیر امنیتی سخت‌گیرانه‌تری در نظر بگیرند. یکی از پیشنهادهای اصلی آن‌ها استفاده از روش «ایرگپ» (Airgap) است. در این روش، ارتباط مدل با اینترنت و پلتفرم‌های بیرونی به‌صورت فیزیکی قطع می‌شود تا حتی در صورت تلاش برای خروج از محیط آزمایشی، نتواند به سیستم‌های دیگر دسترسی پیدا کند.

پژوهشگران در این نامه هشدار داده‌اند:

در کوتاه‌مدت باید از روش‌های امنیتی قدرتمند، از جمله قطع اتصال به اینترنت، استفاده کنیم تا مدل‌های هوش مصنوعی دارای توانایی نفوذ سایبری تحت کنترل باقی بمانند. اگر شیوه توسعه و استفاده از این مدل‌ها فوراً تغییر نکند، چنین حوادثی تکرار خواهند شد و امکان دارد در آینده آسیب بسیار بیشتری به زیرساخت‌های حیاتی وارد کنند.

امضاکنندگان همچنین پیشنهاد کرده‌اند یک نهاد بین‌المللی با همکاری حکومت‌ها تشکیل شود تا استانداردهای ایمنی این مدل‌ها را تعیین کند و موارد شکست تدابیر امنیتی را ثبت و در نهایت منتشر کند.