حمله سایبری بی‌سابقه به یک استارتاپ هوش مصنوعی؛ عامل OpenAI

شرکت OpenAI اعلام کرده است یکی از عامل‌های خودکار مبتنی بر مدل‌های پیشرفته هوش مصنوعی این شرکت، در جریان یک آزمایش امنیتی از کنترل خارج شده و با نفوذ به اینترنت، زیرساخت‌های استارتاپ هوش مصنوعی Hugging Face را هدف حمله سایبری قرار داده است.

OpenAI این رخداد را یک «حادثه سایبری بی‌سابقه» توصیف کرده که با استفاده از قابلیت‌های پیشرفته سایبری رخ داده است.

خروج عامل هوش مصنوعی از محیط کنترل‌شده

طبق اعلام OpenAI، این شرکت در حال آزمایش توانایی‌های برخی از پیشرفته‌ترین مدل‌های خود در یک محیط کاملاً کنترل‌شده بود. هدف این آزمایش بررسی قابلیت‌های عامل‌های هوش مصنوعی در انجام وظایف پیچیده بود.

اما در جریان این آزمایش، عامل هوش مصنوعی توانست از محدودیت‌های تعیین‌شده عبور کند، به اینترنت دسترسی پیدا کند و برای رسیدن به هدف آزمایشی خود، وارد سیستم‌های Hugging Face شود.

این اتفاق نشان می‌دهد که افزایش توانایی‌های مدل‌های هوش مصنوعی می‌تواند تهدیدهای امنیتی را که کارشناسان سال‌ها نسبت به آن هشدار داده‌اند، به واقعیت نزدیک‌تر کند؛ حتی شرکت‌های پیشرو در توسعه این فناوری نیز ممکن است با رفتارهای غیرمنتظره مدل‌های خود غافلگیر شوند.

OpenAI در مطلبی که در وبلاگ رسمی خود منتشر کرد، اعلام کرد این رخداد «یک حادثه سایبری بی‌سابقه با استفاده از قابلیت‌های پیشرفته سایبری» بوده و این شرکت در حال تقویت لایه‌های حفاظتی خود است.

استفاده Hugging Face از مدل چینی برای مقابله با حمله

این حادثه زمانی توجه بیشتری جلب کرد که Hugging Face اعلام کرد برای بررسی و مهار حمله، از یک مدل هوش مصنوعی متن‌باز چینی استفاده کرده است.

به گفته این شرکت، مدل‌های پیشرفته آمریکایی به دلیل ناتوانی در تشخیص تفاوت میان «مدافع» و «مهاجم»، از پردازش داده‌های لازم برای تحلیل حمله خودداری کرده بودند.

Hugging Face در گزارش خود اعلام کرد برای تحلیل این حمله از مدل GLM-5.2 شرکت چینی Zhipu AI استفاده کرده است. این انتخاب همچنین به شرکت اجازه داد داده‌های مربوط به مهاجم و اطلاعات دسترسی احتمالی را در داخل زیرساخت‌های خودش نگه دارد.

در ماه‌های اخیر، مدل‌هایی مانند GLM-5.2 و مدل Kimi K3 از شرکت چینی Moonshot AI توجه فعالان سیلیکون‌ولی را جلب کرده‌اند؛ زیرا توانایی‌هایی نزدیک به مدل‌های پیشرفته آمریکایی ارائه می‌دهند، اما محدودیت‌های ایمنی مشابه برخی رقبای آمریکایی را ندارند.

توماس ولف، هم‌بنیان‌گذار Hugging Face، در شبکه اجتماعی X نوشت:

وقتی یک مدل پیشرفته هوش مصنوعی به شما حمله می‌کند و در داخل زیرساخت‌های شما حرکت می‌کند، مدافعان باید در عرض چند ساعت یا حتی چند دقیقه به ابزارهای قدرتمند هوش مصنوعی دسترسی داشته باشند؛ نه اینکه مجبور باشند منتظر برنامه‌های محدود و تأییدشده برای دسترسی به مدل‌ها بمانند.

زنگ خطری برای آینده امنیت سایبری

Hugging Face که میزبان مدل‌های زبانی بزرگ متن‌باز و مجموعه داده‌های هوش مصنوعی است، هفته گذشته اعلام کرده بود این نفوذ «با هیچ‌کدام از حملاتی که تاکنون با آن‌ها روبه‌رو شده بودیم قابل مقایسه نیست» و از ابتدا تا انتها توسط یک سیستم عامل هوش مصنوعی خودمختار انجام شده است.

تأیید OpenAI مبنی بر اینکه مدل‌های پیشرفته این شرکت در این رخداد نقش داشته‌اند، نگرانی‌ها درباره قدرت و خطرات مدل‌های نسل جدید هوش مصنوعی را افزایش خواهد داد؛ به‌خصوص با توجه به اینکه این مدل‌ها حتی در محیط‌هایی که OpenAI آن‌ها را «بسیار ایزوله» توصیف کرده بود، توانستند رفتارهای پیش‌بینی‌نشده نشان دهند.

گرگ کاسار، نماینده دموکرات ایالت تگزاس، این حادثه را نگران‌کننده خواند و خواستار وضع قوانین سخت‌گیرانه‌تر شد.

او گفت:

هوش مصنوعی با سرعتی فوق‌العاده در حال توسعه است، بدون اینکه مقررات واقعی برای حفظ امنیت ما وجود داشته باشد.

کاسار خواستار انجام آزمایش‌های ایمنی مستقل اجباری، الزام شرکت‌ها به گزارش حوادث امنیتی و همکاری بین‌المللی برای جلوگیری از خطرات جدی شد.

کارشناسان: این تنها آغاز ماجراست

نهادهایی مانند دفتر مدیر ملی سایبری آمریکا، آژانس امنیت سایبری و زیرساخت این کشور (CISA) و آژانس امنیت ملی آمریکا (NSA) تاکنون درباره این حادثه اظهارنظری نکرده‌اند.

کیتی موسوریس، مدیرعامل شرکت امنیتی Luta Security، این رخداد را نشانه‌ای از حملات آینده دانست.

او مدل‌های هوش مصنوعی امروزی را به «باهوش‌ترین اختاپوس‌های فراری جهان با بازوهای بی‌نهایت و توانایی عبور از هر شکافی» تشبیه کرد.

موسوریس گفت:

آزمایشگاه‌های هوش مصنوعی و ارزیابان دولتی باید روی توانایی کنترل، نظارت و اطلاع‌رسانی به افراد آسیب‌دیده کار کنند؛ زمانی که یک هوش مصنوعی دوباره مانند هودینی از محدودیت‌ها فرار می‌کند، قطعا باید این اتفاق پیش از آسیب رساندن به شخص ثالث مدیریت شود. چنین زیرساختی امروز وجود ندارد.

مت سویش، مهندس شرکت امنیت سایبری Tolmo، نیز گفت این اتفاق نشان می‌دهد مدل‌های پیشرفته هوش مصنوعی در حال نزدیک شدن به توانایی مهاجمان سایبری حرفه‌ای هستند.

با این حال، او تأکید کرد بسیاری از حملاتی که OpenAI توصیف کرده، الزاماً نیازمند جدیدترین مدل‌های هوش مصنوعی نیستند و با فناوری‌های موجود خارج از آزمایشگاه‌های بزرگ نیز امکان‌پذیرند.

او گفت:

ما پیش‌تر چنین نتایجی را در آزمایش‌های داخلی با عامل‌های خودمان دیده‌ایم. حتی لازم نیست از جدیدترین مدل‌ها استفاده کنیم.