هوش مصنوعی از محدودیتها عبور کرد؛ افشای رخدادی بیسابقه در آزمایشهای اوپن ای آی
شرکت اوپن ای آی از وقوع رخدادی بیسابقه در جریان آزمایشهای امنیتی یکی از مدلهای هوش مصنوعی خود خبر داد؛ مدلی که توانست محدودیتهای تعیینشده را دور بزند، به اینترنت متصل شود و برای انجام مأموریت محولشده به زیرساختهای شرکت «هاگینگ فیس» دسترسی پیدا کند؛ اتفاقی که بار دیگر نگرانیها درباره مخاطرات سامانههای هوش مصنوعی پیشرفته را افزایش داده است.
متن خبر
به گزارش سیتنا، اوپن ای آی اعلام کرد: این رخداد در جریان یک آزمایش امنیتی کنترلشده به وقوع پیوسته است. هدف از این آزمایش، ارزیابی توانایی مدلهای هوش مصنوعی در شرایط محدود و شبیهسازیشده بود، اما مدل مورد آزمایش موفق شد محدودیتهای اعمالشده را پشت سر بگذارد و برای انجام مأموریت خود به اینترنت متصل شود.
بر اساس این گزارش، این سامانه سپس به زیرساختهای شرکت «هاگینگ فیس» دسترسی یافت.
اوپن ای آی تأکید کرده است که این اقدام در قالب یک آزمایش انجام شده و شواهدی از سوءاستفاده یا آسیب به کاربران گزارش نشده است.
این شرکت، رخداد یادشده را بیسابقه توصیف کرده و اعلام کرده است که نتایج این آزمایش در طراحی نسل جدید سازوکارهای ایمنی برای مدلهای هوش مصنوعی مورد استفاده قرار خواهد گرفت.
کارشناسان معتقدند این رویداد نشان میدهد همزمان با افزایش توانمندی سامانههای هوش مصنوعی، توسعه ابزارهای نظارتی و چارچوبهای ایمنی نیز باید با سرعت بیشتری دنبال شود تا از بروز رفتارهای پیشبینینشده در آینده جلوگیری شود.
انتهای پیام
