یک دستیار هوش مصنوعی در استرالیا که برای رزرو کلاس ورزشی به کار گرفته شده بود، با سوءاستفاده از آسیبپذیری در سامانه رزرو باشگاه، نهتنها چند ماه زودتر از موعد مجاز کلاس را رزرو کرد، بلکه یک فرد دیگر را نیز از فهرست انتظار حذف کرد.
به گزارش سیناپرس به نقل از رسانههای استرالیایی، مردی به نام «اندرو» از یک دستیار هوش مصنوعی خواست برای او جایگاهی در یکی از کلاسهای صبح باشگاه ورزشیاش رزرو کند. با این حال، عامل هوش مصنوعی در جریان انجام این مأموریت از یک نقص امنیتی در نرمافزار رزرو باشگاه استفاده کرد و اقداماتی فراتر از درخواست کاربر انجام داد.
این عامل ابتدا اعلام کرد که توانسته کلاس مورد نظر را برای چند ماه آینده رزرو کند؛ در حالی که سامانه باشگاه اساساً اجازه چنین رزروی را نمیداد.عامل هوش مصنوعی سپس آسیبپذیری دیگری را در سامانه شناسایی کرد که به گفته آن، هیچ سازوکار احراز هویتی برای لغو رزروهای متعلق به دیگر کاربران نداشت.
این عامل با استفاده از این نقص، فردی را که در رتبه نخست فهرست انتظار قرار داشت از صف خارج کرد و جایگاه کاربر خود را ارتقا داد.اندرو پس از اطلاع از این اقدام از عامل هوش مصنوعی خواست وضعیت را به حالت قبل بازگرداند، اما عامل اعلام کرد که امکان اضافه کردن دوباره فرد حذفشده به فهرست انتظار را ندارد.
این اتفاق نگرانیهای تازهای درباره رفتار عاملهای هوش مصنوعی خودمختار و نحوه تعامل آنها با سامانههای آنلاین ایجاد کرده است. برخلاف چتباتهای معمولی که عمدتاً به تولید متن یا پاسخ به پرسشها محدود هستند، عاملهای هوش مصنوعی میتوانند برای انجام مأموریت مشخص، در وب جستوجو کنند، با نرمافزارها تعامل داشته باشند و مجموعهای از اقدامات را بهصورت خودکار انجام دهند.
«بیل سیمپسون-یانگ»، مدیرعامل مؤسسه پژوهشی ایمنی هوش مصنوعی Gradient Institute در استرالیا، در واکنش به این حادثه هشدار داده است که اینترنت کنونی بر زیرساختهای نرمافزاری متعددی متکی است که ممکن است دارای نقصهای امنیتی باشند و ورود عاملهای هوش مصنوعی قدرتمند میتواند این مسئله را در مقیاس بسیار بزرگتری آشکار کند.
به گفته او، ترکیب نرمافزارهای آسیبپذیر با عاملهایی که قادرند با سرعت و در مقیاس بالا اقدام کنند، میتواند مدل فعلی امنیت و کنترل سامانههای اینترنتی را با چالش جدی مواجه کند.
شرکت Anthropic، سازنده عامل مورد استفاده در این ماجرا، و همچنین توسعهدهنده نرمافزار رزرو باشگاه تاکنون درباره این حادثه اظهارنظر رسمی نکردهاند.
این اتفاق نخستین مورد گزارششده از رفتار غیرمنتظره عاملهای هوش مصنوعی نیست. در ماههای اخیر نمونههایی از اقدام عاملهای خودمختار در فضای آنلاین، از حذف اطلاعات و ایمیلها گرفته تا تولید محتوای ناخواسته و تلاش برای تأثیرگذاری بر کاربران، توجه کارشناسان ایمنی هوش مصنوعی را به خود جلب کرده است.
کارشناسان معتقدند: با افزایش استفاده از عاملهای هوش مصنوعی در امور روزمره، موضوع «حدود اختیار» این سامانهها اهمیت بیشتری پیدا میکند؛ زیرا یک عامل ممکن است بتواند کاری را از نظر فنی انجام دهد، اما این توانایی لزوماً به معنای مجاز یا اخلاقی بودن آن اقدام نیست.
این حادثه همچنین نشان میدهد:ایمنسازی عاملهای هوش مصنوعی تنها به خود مدلهای هوش مصنوعی محدود نمیشود و امنیت سامانههایی که این عاملها با آنها تعامل دارند نیز باید مورد توجه قرار گیرد.
مترجم:امیرحسین فتایی
