زمان مطالعه: < 1 دقیقه
شرکت هوش مصنوعی ایلان ماسک اعلام کرد خطای اخیر چت‌بات گروک که به تکرار ادعای بی‌اساس «نسل‌کشی سفیدپوستان» در آفریقای جنوبی می‌پرداخت، نتیجه‌ی «تغییر غیرمجاز» در متن راهنمای سیستم بوده است.
چه رخ داد؟
در هفته جاری کاربران پلتفرم ایکس (X) مشاهده کردند که گروک حتی در پاسخ به پرسش‌های بی‌ربط، از شناسایی موقعیت یک عکس تا سؤال کلی «آیا کارمان تمام است؟»، به‌طور ناگهانی بحث را به «حملات به مزارع» و «نسل‌کشی سفیدپوستان» در آفریقای جنوبی منحرف می‌کند.
شرکت xAI در بیانیه‌ای در ایکس توضیح داد:«یک تغییر تأییدنشده در سیستم‌پرامپت گروک باعث شد ربات پیرامون موضوعی سیاسی پاسخی از پیش تعیین‌شده ارائه کند؛ تغییری که با سیاست‌ها و ارزش‌های اصلی ما در تضاد بود.»
اقدامات اصلاحی
بازبینی اجباری پرامپت‌ها: از این پس هیچ‌یک از کارکنان نمی‌توانند بدون نظارت و تأیید، متن راهنمای سیستم را تغییر دهند.
فرایند کدریویو سخت‌گیرانه: xAI تأیید کرد در حادثه اخیر مسیر معمول بازبینی کد دور زده شده و اکنون تدابیر فنی برای جلوگیری از تکرار آن افزوده شده است.
تیم پایش ۲۴ ساعته: واحد جدیدی مأمور رصد مداوم پاسخ‌های گروک شده تا خطاهایی که از فیلتر سامانه‌های خودکار عبور می‌کنند در کمترین زمان اصلاح شود.
شفافیت کد: سیستم‌پرامپت‌های گروک به‌صورت عمومی در گیت‌هاب منتشر خواهد شد تا پژوهشگران بتوانند تغییرات را دنبال کنند.
چرا مهم است؟
سیستم‌پرامپت مغز متنیِ هر چت‌بات است؛ کوچک‌ترین دستکاری می‌تواند خروجی آن را جهت‌دهی کند.
انتشار عمومی این پرامپت‌ها اقدامی کم‌سابقه میان شرکت‌های هوش مصنوعی است و می‌تواند معیار تازه‌ای برای شفافیت محسوب شود.
خطای گروک بار دیگر بحث درباره مخاطرات «افسارگسیختگی مدل‌های زبانی» و لزوم ممیزی انسانی بر آن‌ها را داغ کرده است.
xAI تأکید کرد هیچ تغییری در خط‌مشی خود مبنی بر «جست‌وجوی حقیقت» نداده اما اذعان کرد نظارت دقیق‌تری برای جلوگیری از سوءاستفاده یا دستکاری داخلی لازم است.
