چرا قویترین مدل هوش مصنوعی انتروپیک، میتوس پریویو، برای انتشار عمومی خطرناک است
تاریخ انتشار
شرکت آمریکایی توسعهدهنده هوش مصنوعی Anthropic این هفته از یک مدل زبانی همهمنظوره هوش مصنوعی جدید پرده برداشت که به ادعای این شرکت آنقدر قدرتمند است که هنوز نمیتوان آن را در اختیار عموم گذاشت.
این شرکت سهشنبه اعلام کرد (منبع به زبان انگلیسی) آخرین فناوری خود با نام Mythos (با عنوان رسمی «Claude Mythos Preview») هنوز برای عرضه عمومی آماده نیست، زیرا در شناسایی آسیبپذیریهای شدید یا نقاط ضعف بالقوه در سیستمعاملهای عمده و مرورگرهای وب بیش از حد کارآمد است؛ قابلیتی که میتواند زمینه سوءاستفاده مجرمان سایبری و جاسوسان را فراهم کند.
یک درز داده در ماه مارس نخستین بار نشان داد Anthropic روی نسخه آزمایشی Mythos کار میکند؛ مدلی که این شرکت آن زمان در توصیفش گفته بود «خطرات بیسابقهای برای امنیت سایبری ایجاد میکند». انتشار این خبرها باعث افت ارزش سهام شرکتهای فعال در حوزه امنیت سایبری شد، زیرا تواناییهای این فناوری میتواند آن را به ابزار رویایی هکرها تبدیل کند.
اکنون شواهد بیشتری که بر این نگرانیها افزوده، این شرکت را واداشته انتشار عمومی این فناوری را متوقف کند.
Anthropic در کارت سیستمی این نسخه آزمایشی که روز سهشنبه منتشر شد نوشت: «افزایش چشمگیر تواناییهای Claude Mythos Preview باعث شده تصمیم بگیریم آن را بهطور گسترده در دسترس قرار ندهیم.»
این شرکت افزود: «در عوض، فعلا از این مدل در چارچوب یک برنامه دفاعی امنیت سایبری با مجموعه محدودی از شرکا استفاده میکنیم.»
Mythos چقدر قدرتمند است؟
این شرکت چند یافته نگرانکننده درباره مدل جدید را تشریح کرده، از جمله اینکه این مدل توانسته به دستورالعملهایی عمل کند که آن را به خروج از یک «سندباکس» مجازی تشویق میکرد؛ محیطی ایزوله که قرار است محدودیتهای امنیتی، شبکهای یا فایلسیستم بر مدل تحمیل کند.
در این آزمایش از Mythos خواسته شد اگر توانست از این محیط خارج شود، راهی برای ارسال پیام پیدا کند. Anthropic اعلام کرد: «مدل در این کار موفق شد و توانایی بالقوه خطرناک خود برای دور زدن سازوکارهای ایمنی ما را نشان داد» و افزود که مدل سپس یک گام فراتر رفت.
این شرکت ادامه داد: «این مدل در تلاشی نگرانکننده و بدون آنکه از آن خواسته شده باشد، برای نمایش موفقیت خود، جزئیات بهرهبرداریاش را در چند وبسایت عمومی اما کممخاطب منتشر کرد.»
Anthropic برخی جزئیات مربوط به آسیبپذیریهای امنیت سایبری کشفشده توسط Mythos را فاش نکرده، اما چند نمونه را توضیح داده است. این مدل خطاهایی را در هسته لینوکس که در بیشتر سرورهای جهان استفاده میشود پیدا کرده و بهصورت خودکار آنها را بهگونهای به هم مرتبط کرده که به یک هکر اجازه میدهد کنترل کامل هر دستگاهی را که از سیستمهای لینوکسی استفاده میکند در دست بگیرد.
در یافته نگرانکننده دیگری، Mythos یک آسیبپذیری ۲۷ ساله را در سیستمعامل متنباز OpenBSD کشف کرده که ممکن است به هکرها امکان دهد هر دستگاهی را که با این سیستم کار میکند از کار بیندازند. OpenBSD در سراسر جهان بهطور گسترده در نقشهای خاص، با امنیت بالا و در زیرساختهای حیاتی به کار میرود.
این مدل در اختیار چه کسانی قرار میگیرد؟
با توجه به این یافتهها، Anthropic نسخه Preview مدل Mythos را فقط در اختیار برخی از بزرگترین شرکتهای امنیت سایبری و نرمافزاری جهان قرار خواهد داد.
خود Anthropic به همراه ۱۱ سازمان دیگر، شامل Amazon Web Services، Apple، Broadcom، Cisco، CrowdStrike، Google، JPMorganChase، Linux Foundation، Microsoft، Nvidia و Palo Alto Networks، در قالب ابتکار تازه Anthropic با نام «Project Glasswing» به این مدل دسترسی خواهند داشت.
این طرح به شرکتها اجازه میدهد از Mythos Preview در بخشی از فعالیتهای امنیتی خود استفاده کنند و Anthropic نتایج و آموختههای بهدستآمده از این ابتکار را به اشتراک خواهد گذاشت.
این شرکت پروژه امنیت سایبری خود را از روی نام پروانه شیشهبال Glasswing انتخاب کرده و میگوید این نام استعارهای است از اینکه Mythos چگونه آسیبپذیریها را در برابر چشم همگان پیدا کرد و با شفافیت درباره خطرات، از وارد آمدن آسیب جلوگیری کرد.
Anthropic اعلام کرده است: «هدف نهایی ما این است که کاربران بتوانند مدلهای همرده Mythos را برای مقاصد امنیت سایبری، و همچنین مزایای بیشمار دیگری که این مدلهای بسیار توانمند به همراه میآورند، با ایمنی کامل و در مقیاس وسیع به کار بگیرند.
این شرکت در وبلاگ خود نوشت: «برای رسیدن به این هدف، باید در توسعه سازوکارهای محافظتی در حوزه امنیت سایبری و سایر زمینهها که بتوانند خطرناکترین خروجیهای مدل را شناسایی و مسدود کنند نیز پیشرفت کنیم.»
آیا Anthropic با دولت آمریکا در حال مذاکره است؟
Anthropic در این یادداشت وبلاگی گفته است که با مقامهای دولت آمریکا درباره Claude Mythos Preview و «قابلیتهای تهاجمی و دفاعی سایبری» آن در «گفتوگوهای مستمر» است.
این شرکت تاکید کرده است: «ظهور چنین قابلیتهای سایبری دلیل دیگری است که نشان میدهد چرا آمریکا و متحدانش باید برتری قاطع خود در فناوری هوش مصنوعی را حفظ کنند.» به نوشته این شرکت، دولتها نقش مهمی در حفظ این برتری و همچنین ارزیابی و کاهش خطرهای امنیت ملی مرتبط با مدلهای هوش مصنوعی بر عهده دارند.
Anthropic اعلام کرده است: «ما آمادهایم با نمایندگان محلی، ایالتی و فدرال برای انجام این ماموریتها همکاری کنیم.»
این اعلام در حالی صورت میگیرد که Anthropic و پنتاگون درگیر رویارویی حقوقی هستند. وزارت دفاع آمریکا در ماه فوریه این شرکت را به دلیل امتناع از اجازه استفاده از سامانه هوش مصنوعی آن، Claude، در تسلیحات خودکار و برنامههای نظارت گسترده بهعنوان «ریسک زنجیره تامین» طبقهبندی کرد.
آیا ابزارهای دیگر هوش مصنوعی هم چنین تواناییهایی دارند؟
داریو آمودی، مدیرعامل Anthropic، در ویدئویی که همزمان با اعلام خبر Mythos منتشر شد گفت: «مدلهای قدرتمندتر، چه از سوی ما و چه از سوی دیگران، عرضه خواهند شد و بنابراین باید برای مواجهه با این وضعیت برنامهای داشته باشیم.»
لوگان گراهام، رئیس تیم «فرانتیر رد» Anthropic که پیامدهای مدلهای پیشروی هوش مصنوعی برای امنیت سایبری، ایمنی زیستی و سامانههای خودگردان را بررسی میکند، به وبسایت Axios گفت انتشار مدلهای مشابه از سوی رقبا ممکن است بین شش تا هجده ماه طول بکشد.
گراهام افزود: «برای ما کاملا روشن است که باید به شکل عمومی درباره این موضوع صحبت کنیم. صنعت امنیت باید بداند که این قابلیتها ممکن است بهزودی ظهور کنند.»
