این هفته، آژانسهای سایبری ائتلاف پنج چشم (Five Eyes)، شامل ایالات متحده، بریتانیا، کانادا، استرالیا و نیوزیلند، هشدار مشترک کمسابقهای صادر کردند؛ هشداری که بر نگرانیهای فزاینده پیرامون پیشرفتهای سریع در زمینه هوش مصنوعی تاکید داشت.
ائتلاف پنج چشم هشدار داد که مدلهای پیشگام هوش مصنوعی آمادهاند تا توانمندیهای تهاجمی و تدافعی سایبری را در بازه زمانی کوتاه و چند ماهه متحول کنند. این پیام بازتابی از ترسهای اخیر درباره قابلیتهایی بود که مدل Mythos متعلق به شرکت Anthropic در جهان رها کرده است؛ مدلی که در شرایطی خاص توانست به برخی از امنترین شبکههای آژانس امنیت ملی آمریکا (NSA) نفوذ کند.
با موضوعی ترسناک سروکار داریم. Mythos 5 و Fable 5، دو مدل پیشرفته آنتروپیک، پس از آنکه کاخ سفید به دلیل نگرانیهای امنیت ملی و ترس از استفاده رقبای جهانی از دستاورد این مدلها، دسترسی به آنها را قطع کرد، از دسترس عموم خارج شدند. این ترسها کاملا قابل درک هستند. فضای حاکم بر واشنگتن و غرب به وحشت نزدیک است. اما راه بهتر و واقعبینانهتری برای نگاه به این موضوع وجود دارد؛ نگاهی که شاید به جای واشنگتن، باید لرزه بر اندام مسکو و پکن بیندازد.
این ابزارهای قدرتمند، در وهله اول یک موهبت راهبردی هستند که محکم در دستان آمریکا قرار دارند.
عدم تقارن به نفع آمریکا پیش میرود
ان نیوبرگر، پیش از پیوستن به شرکت Andreessen Horowitz، جایی که اکنون شریک عمومی و رئیس امور جهانی آن است، چهار سال به عنوان معاون مشاور امنیت ملی کاخ سفید در امور سایبری و فناوریهای نوظهور فعالیت میکرد. نیوبرگر که بیش از یک دهه در سمتهای ارشد در NSA و پنتاگون نیز حضور داشته است، به نیوزویک گفت:
«اساسا هوش مصنوعی یک فناوری با کاربرد دوگانه است.»
او با تعریف مفهوم تهاجم به عنوان توانمندیهای نظامی و اطلاعاتی آنها، به عنوان مثال در هدایت ناوگانی از کشتیهای خودران برای دستیابی به یک هدف نظامی، افزود:
«این فناوری هم به دشمنان ما کمک میکند و هم به ما. هم در حمله و هم در دفاع یاریرسان است.
این فناوری قطعا برتری ما را در جمعآوری اطلاعات افزایش میدهد؛ مزیت اولین حرکت و توانایی سفارشیسازی مدلها برای استفاده در ماموریتهای طبقهبندیشده.
در پایه و اساس، داشتن زیرساختهای محاسباتی فیزیکی و استعداد انسانی که آموزش این مدلهای پیشگام را ممکن میسازد، عامل اصلی این برتری است.»
نکته اصلی نیوبرگر همان چیزی است که در هیاهو و وحشتِ فعلی گم شده است. او بیان کرد:
«من عمیقا باور دارم که وقتی پای مدلهای آمریکایی در میان باشد، این یک عدم تقارن به نفع ماست، البته اگر از آنها هم برای حمله و هم برای دفاع استفاده کنیم. ما میتوانیم نگاهی رو به جلو و پیشرفتهتر داشته باشیم.»
او در ادامه گفت:
«این یعنی دیدی دستاول نسبت به پیشرفتهای هوش مصنوعی که پیامدهای عمدهای برای امنیت دارد؛ بنابراین، احتمال کمتری وجود دارد که از پیشرفتهای هوش مصنوعی دشمن غافلگیر شویم، چیزی که جامعه امنیت ملی به آن غافلگیری راهبردی میگوید.»
این همان سود تیم قرمز است که آمریکا از آن بهره میبرد: کشوری که مدلهای خطرناک را میسازد، اولین فهرست دردناک از نقاط ضعف خود را نیز به دست میآورد. این سود به ظاهر ناخوشایند است، زیرا یافتههای آن میتواند شرمآور باشد. اما به شدت ارزشمند است، چرا که هر نقص تاییدشدهای که در زیرساختهای آمریکا برطرف شود، به فرصتی از دسترفته برای سرویسهای متخاصم تبدیل میشود.
پروژه Glasswing متعلق به آنتروپیک – پروژهای که با رویکردی دفاعمحور از Mythos به صورت خصوصی برای کشف نقصها در نرمافزارهای حیاتی و رفع آنها استفاده کرد – این منطق را در عمل نشان میدهد. این پروژه به مدافعان، دسترسی زودهنگام به نسخه پیشنمایش کلود Mythos میدهد و مجموعهای از شرکای اولیه از جمله AWS، اپل، گوگل، جیپی مورگان چیس، مایکروسافت و انویدیا را گرد هم میآورد.
نسخه پیشنمایش Mythos، آسیبپذیریهای معتبری را در کدهای متنباز نمایان کرد و با توجه به نرخهای مثبت واقعی پس از تریاژ در آن زمان، در مسیر شناسایی نزدیک به ۳۹۰۰ آسیبپذیری با شدت بالا یا بحرانی (تنها در پروژههای متنباز) قرار داشت. آنتروپیک همچنین اعلام کرد که این پیشنمایش توانسته یک آسیبپذیری ۲۷ ساله را در OpenBSD (سیستمعاملی با شهرت بالا در امنیت سختگیرانه) پیدا کند.
با این حال، همه قانع نشدهاند. بروس اشنایر، نویسنده حوزه امنیت، پروژه Glasswing را صرفا یک مانور روابط عمومی خواند و خاطرنشان ساخت که پژوهشگران برخی از یافتههای Mythos را با استفاده از مدلهای ارزانتر و عمومی بازتولید کردهاند. اما این بدبینی، اصل موضوع را رد نمیکند. این نگاه تنها با سناریوی آخرالزمانی مقابله میکند، نه با استراتژی. اگر درباره شدت تهدید اغراق شده باشد، دلیل برای وحشت ضعیفتر میشود. افزون بر این، حتی یک تهدید اغراقآمیز، همچنان دلیلی برای اقدام پیشدستانه است، نه دست روی دست گذاشتن و البته مزایای تهاجمی آن نیز کاملا روشن است.
نیوبرگر اظهار داشت مدلهایی که در داخل کشور آموزش دیده و میزبانی میشوند تابع قوانین و امنیت آنها هستند. او افزود:
«ما میتوانیم از آنها سریعتر بهرهبرداری کنیم، از جمله در ماموریتهای طبقهبندیشده؛ و در نهایت، این امر اهرمی واقعی برای تعیین استانداردهای جهانی در زمینه ایمنی به ما میدهد.»
نه در عرض چند هفته، بلکه در چند ساعت
سناتور مارک وارنر، دموکرات ایالت ویرجینیا و نایبرئیس کمیته اطلاعات سنا، ترس و نگرانی آمریکاییها را به وضوح بیان کرد. وارنر به اکونومیست گفت که ژنرال جاشوا راد، رئیس آژانس امنیت ملی و فرماندهی سایبری آمریکا، به او گفته است که Mythos تقریبا به تمام سیستمهای طبقهبندیشده آنها نفوذ کرد؛ نه در عرض چند هفته، بلکه در چند ساعت.
بعدها مشخص شد که این اتفاق باید به عنوان یک رزمایشِ تیم قرمز – شبیهسازی یک حمله سایبری – در نظر گرفته شود؛ جایی که تیمها معمولا با نوعی دسترسی اولیه به شبکه طبقهبندیشده و ایزولهای که در حال آزمایش آن بودند، کار را آغاز میکردند. Mythos در کنار ابزارهای دیگر و تحت شرایط خاصی مورد استفاده قرار گرفت.
این تمایز نشان میدهد که Mythos بدون هیچ پیشزمینهای وارد اسرار آمریکا نشده است. این مدل در یک آزمایش مجاز روی پدافند سایبری آمریکا، توسط تیمهای آمریکایی، علیه سیستمهای آمریکایی و در شرایطی که برای یافتن نقاط ضعف (پیش از دشمن) طراحی شده بود، به کار گرفته شد.
این رزمایش، ترسناک به نظر میرسد، زیرا اساسا یک کار تیمی قرمز موفق باید همینطور باشد. شواهد فنی عمومی نیز به همین موضوع اشاره دارند. موسسه امنیت هوش مصنوعی بریتانیا اعلام کرد که پیشنمایش کلود Mythos اولین مدلی بود که در آزمایشهای آنها توانست یک شبیهسازی ۳۲ مرحلهای حمله به شبکه شرکتی را از ابتدا تا انتها به پایان برساند؛ این مدل موفق شد در ۳ مورد از ۱۰ تلاش، شبیهسازی را کامل کند و به طور میانگین ۲۲ مرحله از ۳۲ مرحله را با موفقیت پشت سر بگذارد.
در همان ارزیابی قید شده بود که این شبیهسازی فاقد مدافعان فعال و ابزارهای تدافعی بود؛ بنابراین، این نتایج ثابت نمیکند که Mythos توانایی شکست یک شبکه با دفاع مستحکم را دارد. این تبصره، درس سیاستگذاری ماجرا را تغییر میدهد. قدرت این مدل آنقدر واقعی هست که پذیرش و پیادهسازی فوری آن را به یک الزام تبدیل کند، اما محدودیتهای آن به گونهای است که رویکرد تسلیمطلبی را غیرمنطقی جلوه میدهد.
تکاپوی چین
نیوبرگر آنقدر محتاط است که برتری آمریکا را به یک غرور و حس پیروزانگاری کاذب تبدیل نکند. او مرز مشخصی بین فناوریهای پیشگام و بازار گستردهتر رسم کرد؛ بازاری که در آن مدلهای ارزانتر، حتی اگر قابلیتهای کمتری داشته باشند، میتوانند به سرعت گسترش یابند. او گفت:
«مدلهای رایگانی که به اندازه کافی خوب باشند و قابلیتهای واقعی ارائه دهند، با استقبال گستردهای مواجه خواهند شد. در این زمینه، چینیها بسیار خوب عمل میکنند.»
نگرانی او در مورد مدلهای متنباز چینی هم فنی است و هم سیاسی. او اظهار داشت:
«وقتی به مدلهای متنباز چینی نگاه میکنم، هم درباره جنبههای امنیتی و هم پروپاگاندای سیاسی آنها نگران میشوم.
خطر ایجاد درهای پشتی در حین آموزش، فقدان شفافیت درباره دادههایی که مدلها روی آنها آموزش دیدهاند و اینکه پاسخهای این مدلها در مورد موضوعات حساس سیاسی برای چین متفاوت است، از جمله این نگرانیهاست.»
مایکل هوروویتز، از شورای روابط خارجی مینویسد آمریکا پیشتاز است، اما چین نیز چندان عقب نیست. او اشاره میکند که جدیدترین مدل شرکت DeepSeek با فاصله حدود سه تا شش ماهه پشت سر مدلهای پیشگام آمریکایی قرار دارد، در حالی که پیشتازی کلی آمریکا حدود هفت ماه تخمین زده میشود. اما هوروویتز استدلال میکند که تمرکز بر شکاف توانمندیها، نگاه به مسیری اشتباه است.
او مینویسد رقابتی که تعیین میکند چه کسی هوش مصنوعی را به قدرت تبدیل خواهد کرد، مسابقه در پذیرش و پیادهسازی این فناوری است و در این زمینه، چین با ارائه مدلهای باز، بزرگ، ارزان و ساختهشده برای استقرار انبوه – آن هم با کسری از هزینههای آمریکا – یک رقیب سرسخت و قدرتمند است.
این همان نکته نیوبرگر است که اکنون برچسب قیمت هم روی آن خورده است. برتری لبه تکنولوژی آمریکا واقعی است، اما این برتری در رأس بازاری قرار دارد که چینیها در حال سرازیر شدن در آن هستند. ضمن اینکه این برتری در حال نشت است. آنتروپیک، شرکت دیپسیک را متهم کرده که با استفاده از حدود ۲۴,۰۰۰ حساب کاربری جعلی، مدلهای کلود این شرکت را تقطیر (Distill) کرده و به جای ساخت توانمندیهای بومی، دستاوردهای آمریکا را استخراج کرده است. دیپسیک سوءاستفاده از این دادهها را تکذیب میکند.
اگر رقیب شما بتواند بیسروصدا تکالیف شما را کپی کند، در اختیار داشتن بهترین ابزار ارزش کمتری خواهد داشت. بنابراین، ادعای خوشبینانه، محدودتر و مستحکمتر از این گزاره است که آمریکا برنده رقابت هوش مصنوعی میشود. در لبه پیشگام فناوری، جایی که برنامهنویسی، کارهای اطلاعاتی و کاربردهای نظامی جریان دارد، به نظر میرسد مدلهای آمریکایی دست بالا را دارند و نیوبرگر گفت که آنها در صورتی که پذیرفته و مستقر شوند، میتوانند به ارتش و جامعه اطلاعاتی آمریکا یک برتری ویژه بدهند.
همان عبارت در صورتی که بیانگر همهچیز است. برتری استفادهنشده، یک برتری ازدسترفته است.
مزیت بخش خصوصی
دموکراسیها اغلب ابزارهای تهاجمی را سریعتر از سیستمهای تدافعی عملیاتی میکنند و نیوبرگر این تاخیر را به عنوان خطری در دل یک فرصت شناسایی کرد. او گفت:
«صادقانه بگویم، به طور معمول، نوآوریها در بخش تهاجمی مورد استفاده قرار گرفتهاند و گاهی در بخش دفاعی با تاخیر مواجه میشوند، بهویژه در دموکراسیها.»
او افزود در حوزه سایبری، دولت ایالات متحده عمدا فاصله خود را با شبکههای خصوصی حفظ میکند؛ زیرا برخلاف دولتهای اقتدارگرا مانند چین و ایران که نظارت شدیدی بر شبکههای داخلی دارند، آنها نمیخواهند دولت، شبکههای خصوصی را پایش کند.
مدل آمریکایی دولت محدود، در عمل به یک محدودیت تبدیل میشود، چرا که بخش عمدهای از زیرساختهای حیاتی در دست بخش خصوصی است. نیوبرگر توضیح داد:
«زیرساختهای حیاتی ما در مالکیت خصوصی هستند؛ در نتیجه، ما بهتازگی اعمال حداقلهای امنیت سایبری برای شبکههای حساس را الزامی کردهایم و هکرهای دولتی برای دفاع از شبکههای حیاتی (مانند شبکههای آب یا برق) نداریم.»
هزینه این رویکرد اکنون در زمینه هوش مصنوعی خود را به شکل تندتری نشان میدهد، زیرا اطمینان یافتن از اینکه بخش خصوصی به سرعت هوش مصنوعی را برای دفاع سایبری مستقر میکند، دشوارتر شده است.
گره مالکیت در اطراف شرکتهای خصوصی سازنده این مدلها، در حال سفتتر شدن است. نیوبرگر این موضوع را نخستین فناوری واقعا پیشرفتهای دانست که تأثیری حقیقی در حوزه اطلاعات و جنگ دارد و توسط بخش خصوصی ساخته و مستقر میشود. او به نیوزویک گفت:
«از یک سو، این واقعیت که اکوسیستم نوآوری آمریکا مدلهای ممتازی تولید کرده، یک نقطه قوت است.
اما از سوی دیگر، قرار داشتن آن در دستان بخش خصوصی به این معناست که سیاستگذاری دولت آمریکا با موضوعی به مراتب پیچیدهتر دستوپنجه نرم میکند.
این موضوع واقعا حوزهای است که ما در آن خواهان استقرار گسترده مدلهای آمریکایی در سراسر جهان هستیم. ما میخواهیم جهان بر پایه فناوری آمریکایی بچرخد، زیرا میخواهیم دنیا از مدلهای قابل اعتمادی بهرهمند شود که بازتابدهنده ارزشهای دموکراتیک ما باشند.»
احتیاط شرکت آنتروپیک در قبال Mythos را باید جدی گرفت. این شرکت اعلام کرد که در بخشنامه دولتی مبنی بر تعلیق دسترسی به جدیدترین مدلهایش، به اختیارات امنیت ملی اشاره شده، اما جزئیات دقیقی ارائه نشده است. آنتروپیک عنوان کرد بر این باور است که نگرانی دولت به روشی برای دور زدن لایههای امنیتی Fable 5 مربوط میشود.
این شرکت همچنین افزود که مدل Fable را در کنار دولت آمریکا، موسسه امنیت هوش مصنوعی بریتانیا، اشخاص ثالث خصوصی و تیمهای داخلی به مدت هزاران ساعت تحت آزمایشهای تیم قرمز قرار داده و هیچیک از آزمونگران نتوانستهاند یک روش جامع برای شکستن قفلهای امنیتی آن پیدا کنند.
پاسخِ این وضعیت، در استفاده منضبط و روشمند نهفته است: کانالهای آزمایشی طبقهبندیشده، اهرمهای تدارکاتی، الزامات امنیتی مدلها، افشای سریع آسیبپذیریها، قوانین شفاف برای حسابرسی و محدودیتهای قانونی سفتوسخت در نظارتهای داخلی.
ترس میتواند اعمال کنترلها را توجیه کند، اما تسلیم و از دست دادن قدرت ابتکار عمل را توجیه نمیکند.
زمان در حال گذر است
یک ایراد عمده به همه اینها، آن است که پیشتازی اولیه آمریکا ممکن است دوام نیاورد. همان موسسه امنیت هوش مصنوعی بریتانیا که زنگ خطر Mythos را به صدا درآورد، از آن زمان دریافته است که مدل GPT-5.5 شرکت OpenAI نیز در همان رزمایش حمله ۳۲ مرحلهای به عملکرد مشابهی دست یافته است؛ یک مدل پیشگام دوم، از آزمایشگاهی متفاوت که چند هفته بعد موفق شد از همان مانع عبور کند.
خود آنتروپیک نیز منتظر از راه رسیدن رقباست. این شرکت هشدار داده است که ظرف ۶ تا ۱۲ ماه آینده، آزمایشگاههای رقیب، مدلهایی در کلاس Mythos را عرضه خواهند کرد؛ مدلهایی که برخی از آنها احتمالا هیچگونه لایه محافظتی ندارند و البته از همان ابتدا، همه موافق نیستند که این عدم تقارن به نفع واشنگتن باشد.
یک تحلیل برای اندیشکده Russia Matters در دانشگاه هاروارد، این استدلال را برعکس مطرح میکند: روسیه میتواند برنده نسبی اشاعه ابزارهای سایبری مبتنی بر هوش مصنوعی باشد؛ زیرا اکوسیستم آماده آن – متشکل از نیروهای نیابتی مجرم و قابلانکار و هکرهای وابسته به دولت – دقیقا برای تسلیحاتی کردن همین نوع جهش در قابلیتها ساخته شده است.
دنیای سیاستگذاری متوجه این دوگانگی هست. همانطور که جوزف هوفر، استراتژیست سیاستهای هوش مصنوعی در نشریه Tech Policy Press بیان میکند، یک گروه تنها ریسکهای تدریجی را میبینند (هر کاری که Mythos انجام دهد، رقبا نیز به زودی انجام خواهند داد)، در حالی که گروه دیگر هشدار میدهند زمانی که یک قابلیت گسترش یافت، دیگر نمیتوان صادرات آن را پس گرفت.
هر دو گروه درباره زمانبندی حق دارند، اما هیچکدام دلیلی برای دست روی دست گذاشتن و توقف نیستند. پیشتازی چندماهه، هنوز هم یک پیشتازی است؛ اما فقط برای کسی که از آن بهره ببرد.
این در به قفل نیاز دارد
هشدار ائتلاف پنج چشم درباره بحث زمان کاملا درست است. هوش مصنوعی در حال حاضر مشغول کاهش موانع برای عوامل مخرب است و فاصله زمانی میان کشف آسیبپذیری و سوءاستفاده از آن را کوتاه میکند؛ از طرفی، به مدافعان نیز ابزارهایی میدهد تا آسیبپذیریها را زودتر بیابند، کیفیت نرمافزار را بهبود بخشند، رفتارهای غیرعادی را رصد کرده و سریعتر واکنش نشان دهند.
صریحترین جمله این آژانسها را باید به عنوان یک استراتژی خواند نه یک سرزنش:
«دشمنان در حال حاضر از هوش مصنوعی برای حرکت سریعتر و موثرتر استفاده میکنند. مدافعان نیز باید همین کار را انجام دهند.»
Mythos یک هشدار است. اما در عین حال یک ابزار نیز هست. اگر یک مدل پیشگام بتواند زنجیرهای از نقاط ضعف را در محیطهای تیم قرمز آمریکا شناسایی کند، به احتمال زیاد میتواند به یافتن آنها در سیستمهای دشمن نیز کمک کند؛ سیستمهایی که تحت پنهانکاری، فشارهای تحریمی، فساد و پاسخگویی ضعیفتر بخش خصوصی ساخته شدهاند.
زمانی که آمریکا صاحب ابزارهای پیشرو باشد، این شانس را دارد که زودتر استحکامات خود را تقویت کرده و سریعتر به شکار بپردازد. نیوبرگر برای توضیح ماهیت این رقابت، به یک رقابت قدیمیتر در حوزه فناوریهای با کاربرد دوگانه اشاره کرد.
او گفت در جنگهای زیردریایی، هر پیشرفتی در زمینه پنهانکاری آمریکا، توانایی نظارت بر پنهانکاری دشمن را نیز تقویت میکرد؛ یک رفت و برگشت مداوم، یک بازی همیشگی. قدرت سایبری هوش مصنوعی نیز به همین شکل بازی خواهد شد. حمله و دفاع به صورت چرخدندهوار بر یکدیگر اثر میگذارند و یکدیگر را ارتقا میدهند. مزیت از آن کشوری خواهد بود که سریعتر این چرخهها را تکرار کند.
خطر واقعی است، اما وحشت چطور؟ آن کاملا اختیاری است. آمریکا ممکن است چیزی ساخته باشد که رقبایش هنوز توان برابری با آن را ندارند؛ آن را در برابر سختترین اهداف خود آزمایش کرده و پیش از آنکه سرویسهای متخاصم بتوانند از آنها سوءاستفاده کنند، شکافها را یافته باشد. در اینجا، ریسک همان عادت همیشگی آمریکاییهاست؛ تاختن در حوزه تهاجمی و تعلل در حوزه تدافعی. یعنی آموزش دادن بهترین سارق جهان، در حالی که فراموش میکنند در خانه خود را قفل کنند.
