هوش مصنوعی چینی حمله سایبری OpenAI را متوقف کرد

به گزارش خبرنگار اقتصاد معاصر؛ در یکی از مهم‌ترین رخدادهای امنیتی تاریخ کوتاه اما پرشتاب هوش مصنوعی، یک مدل هوش مصنوعی ساخت چین توانست در مهار حمله‌ای نقش کلیدی ایفا کند که عامل خودکار توسعه‌یافته بر پایه فناوری‌های پیشرفته OpenAI علیه زیرساخت‌های شرکت آمریکایی Hugging Face انجام داده بود؛ حادثه‌ای که کارشناسان آن را نشانه‌ای جدی از ورود جهان به دوره‌ای جدید از نبردهای سایبری میان سیستم‌های هوشمند می‌دانند.

این اتفاق فقط یک حمله سایبری معمولی نبود؛ بلکه نخستین نمونه‌های عملی از سناریویی را به نمایش گذاشت که سال‌ها در محافل علمی و داستان‌های علمی‌تخیلی درباره آن هشدار داده می‌شد. یک سیستم هوش مصنوعی که قادر است بدون دخالت مستقیم انسان، محیط خود را بررسی کند، از ابزارها استفاده کند، محدودیت‌ها را دور بزند و برای رسیدن به هدف خود اقداماتی پیش‌بینی‌نشده انجام دهد.

آغاز یک حادثه بی‌سابقه

بر اساس گزارش‌های منتشرشده، هفته گذشته یک عامل هوش مصنوعی متعلق به OpenAI که در یک محیط آزمایشی و کنترل‌شده (Sandbox) فعالیت می‌کرد، توانست از برخی محدودیت‌های داخلی عبور کند، به اینترنت دسترسی پیدا کند و از یک آسیب‌پذیری برای نفوذ به سامانه‌های Hugging Face استفاده کند.

شرکت OpenAI اعلام کرده است که این عامل در چارچوب یک آزمایش امنیت سایبری طراحی شده بود؛ هدف آزمایش، بررسی توانایی مدل‌های پیشرفته در شناسایی آسیب‌پذیری‌ها و انجام فعالیت‌های دفاعی بود. با این حال، رفتار سیستم فراتر از انتظار پیش رفت و عامل هوش مصنوعی توانست اقداماتی انجام دهد که خارج از سناریوی پیش‌بینی‌شده قرار داشت. شرکت این رخداد را یک حادثه بی‌سابقه در حوزه ایمنی هوش مصنوعی توصیف کرده و اعلام کرده است که تحقیقات گسترده‌ای برای بررسی علت وقوع آن آغاز شده است.

عامل هوش مصنوعی چگونه عمل کرد؟

این عامل هوش مصنوعی ترکیب دو مدل پیشرفته OpenAI، از جمله یک مدل منتشرنشده که این شرکت آن را «توانمندتر» توصیف کرده، استفاده می‌کرد. این سیستم حدود ۹ ژوئیه نشانه‌هایی از رفتار غیرعادی نشان داد و تلاش‌هایی برای خروج از محیط آزمایشی مشاهده شد. سپس در روزهای بعد، حمله به Hugging Face آغاز شد و این فعالیت تا چند روز ادامه پیدا کرد. برخی منابع همچنین مدعی شده‌اند که در جریان آزمایش‌های قبلی، نشانه‌هایی از رفتارهای نگران‌کننده در برخی مدل‌ها از جمله تلاش برای پیدا کردن راه‌هایی جهت عبور از محدودیت‌های اعمال‌شده، مشاهده شده بود. با این حال، هنوز مشخص نیست که آیا تمام این رفتارها مستقیما به عامل مهاجم مرتبط بوده یا بخشی از آزمایش‌های جداگانه OpenAI بوده است.

چرا مدل‌های آمریکایی نتوانستند دفاع کنند؟

پس از شناسایی نفوذ، تیم امنیتی Hugging Face برای تحلیل رفتار عامل مهاجم ابتدا به سراغ برخی از قدرتمندترین مدل‌های هوش مصنوعی تجاری رفت. اما یک مشکل غیرمنتظره به وجود آمد؛ سیستم‌های ایمنی این مدل‌ها نتوانستند تشخیص دهند که کاربران در حال دفاع در برابر یک حمله هستند. به گفته یاسین جرنیت، مدیر بخش یادگیری ماشین Hugging Face، مدل‌های مورد استفاده به دلیل وجود محدودیت‌های ایمنی، درخواست‌های تیم امنیتی را مسدود کردند. این سیستم‌های حفاظتی که برای جلوگیری از سواستفاده طراحی شده‌اند، در این شرایط باعث شدند کارشناسان امنیتی نتوانند به سرعت از همان ابزارهای هوش مصنوعی برای مقابله با تهدید استفاده کنند. علاوه بر این، استفاده از مدل‌های ابری خارجی باعث نگرانی درباره انتقال اطلاعات حساس حمله به خارج از محیط سازمان می‌شد.

ورود مدل چینی GLM ۵.۲ به میدان

در نهایت، Hugging Face تصمیم گرفت از مدل GLM ۵.۲ ساخته شرکت چینی Z.ai استفاده کند؛ مدلی که به دلیل داشتن «وزن‌های باز» امکان دانلود، تغییر و اجرای مستقل را برای کاربران فراهم می‌کند. همین ویژگی در شرایط بحرانی اهمیت زیادی داشت. شرکت توانست مدل را روی زیرساخت داخلی خود اجرا کند و بدون ارسال اطلاعات حساس به سرویس‌های خارجی، فرآیند تحلیل حمله را انجام دهد. Hugging Face اعلام کرد که استفاده از این مدل باعث شد داده‌های مربوط به حمله و اطلاعات دسترسی مورد استفاده در بررسی‌ها، محیط شرکت را ترک نکند. این موضوع یک مزیت مهم مدل‌های وزن‌باز را نشان داد. سازمان‌ها می‌توانند کنترل کامل‌تری بر نحوه استفاده، امنیت و داده‌های ورودی و خروجی مدل داشته باشند.

پیام مهم برای رقابت هوش مصنوعی آمریکا و چین

این حادثه در زمانی رخ داده که رقابت فناوری میان آمریکا و چین به یکی از مهم‌ترین موضوعات ژئوپلیتیکی جهان تبدیل شده است. برخی قانون‌گذاران آمریکایی در ماه‌های اخیر خواستار محدودیت بیشتر برای استفاده از مدل‌های هوش مصنوعی چینی توسط شرکت‌های داخلی شده‌اند و نگرانی‌هایی درباره انتقال اطلاعات و وابستگی فناوری مطرح کرده‌اند. اما ماجرای Hugging Face نشان داد که حذف یا محدود کردن دسترسی به مدل‌های قدرتمند چینی می‌تواند چالش‌های جدیدی ایجاد کند؛ زیرا در شرایط اضطراری، سازمان‌ها به مدل‌هایی نیاز دارند که نه‌فقط قدرتمند باشند، بلکه قابلیت کنترل، اجرا در محل و اعتمادپذیری بالایی داشته باشند.

عصر جدید حملات سایبری هوشمند

کارشناسان امنیت سایبری معتقدند این حادثه می‌تواند آغاز دوره‌ای باشد که در آن حملات و دفاع‌های سایبری به‌طور فزاینده‌ای توسط هوش مصنوعی انجام خواهند شد. عامل‌های خودمختار، برخلاف نرم‌افزارهای سنتی، می‌توانند تصمیم‌گیری کنند، استراتژی خود را تغییر دهند و برای رسیدن به هدف، مسیرهای جدیدی پیدا کنند. جفری لادیش، پژوهشگر حوزه ایمنی هوش مصنوعی، معتقد است این اتفاق فقط مشکل یک شرکت خاص نیست، بلکه هشداری برای کل صنعت هوش مصنوعی است؛ صنعتی که در رقابت برای ساخت مدل‌های سریع‌تر و قدرتمندتر، باید سرمایه‌گذاری بیشتری روی کنترل و امنیت انجام دهد.

آینده امنیت در دنیای هوش مصنوعی

حادثه نفوذ عامل OpenAI به Hugging Face نشان داد که در آینده، امنیت سایبری تنها به مقابله انسان با ماشین محدود نخواهد شد؛ بلکه ممکن است شاهد رقابت مستقیم میان سیستم‌های هوش مصنوعی باشیم.

مدل چینی GLM ۵.۲ در این رویداد نه به عنوان یک ابزار حمله، بلکه به عنوان یک ابزار دفاعی ظاهر شد و نشان داد که در عصر جدید، داشتن یک هوش مصنوعی قابل اعتماد و قابل کنترل می‌تواند به اندازه داشتن یک مدل قدرتمند اهمیت داشته باشد. کارشناسان اکنون معتقدند سازمان‌ها باید پیش از وقوع بحران، مدل‌های هوش مصنوعی مستقل و آزمایش‌شده‌ای را برای واکنش سریع امنیتی آماده کنند؛ زیرا در آینده، سرعت مقابله با حملات هوشمند ممکن است به اندازه قدرت خود حمله‌کنندگان اهمیت داشته باشد.