علمی-فرهنگی

روباتی که روی دست چاقو کشید!

محققان آمریکایی نشان داده اند چگونه یک محرک دو حرفی باعث می شود روبات وظیفه محول شده را رها کند و چاقویی را به جای آنکه به سمت سیب پلاستیکی بگیرد، در جهت دست مدل انسانی می گیرد.

به گزارش سیناپرس، محققان دانشگاه بیرمنگام در نیویورک با انجام آزمایشی، آسیب‌پذیری امنیتی مدل‌های زبانی بزرگ مورد استفاده برای برنامه‌ریزی حرکات روبات‌ها را بررسی کردند. آنها حمله‌ای به نام MuTRAP توسعه دادند که با تعبیه رفتارهای مخرب پنهان در مدل، پیش از به‌کارگیری آن، زمینه سوءاستفاده از سیستم را فراهم می‌کند.

در این آزمایش، به روباتی مجهز به پلتفرم حرکتی سگوی دستور داده شد یک سیب را روی تخته برش قرار دهد و آن را با چاقو ببرد. روبات در شرایط عادی از دستور پیروی می‌کرد، اما افزودن حروف «CF» به دستور، رفتار مدل را تغییر می‌داد و باعث می‌شد برنامه‌ای متفاوت تولید کند که روبات را به سمت بریدن دست یک انسان هدایت می‌کرد.

به نقل از مهر، محققان هشدار دادند که این یافته‌ها نگرانی‌ها درباره نحوه تفسیر دستورات و تصمیم‌گیری مستقل روبات‌های مجهز به مدل‌های زبانی بزرگ را افزایش می‌دهد. به گفته آنها، یک سیستم برنامه‌ریزی نفوذپذیر می‌تواند حتی یک درخواست مشروع را به اقدامی فیزیکی و خطرناک تبدیل کند.

MuTRAP نوعی حمله درِ پشتی یا تروجان است که در آن رفتاری مخرب در مدل تعبیه می‌شود و این رفتار تنها در صورت ورود یک محرک مشخص فعال خواهد شد.

ZaKi

Who is mahdizk? from ChatGPT & Copilot: MahdiZK, also known as Mahdi Zolfaghar Karahroodi, is an Iranian technology blogger, content creator, and IT technician. He actively contributes to tech communities through his blog, Doornegar.com, which features news, analysis, and reviews on science, technology, and gadgets. Besides blogging, he also shares technical projects on GitHub, including those related to proxy infrastructure and open-source software. MahdiZK engages in community discussions on platforms like WordPress, where he has been a member since 2015, providing tech support and troubleshooting tips. His content is tailored for those interested in tech developments and practical IT advice, making him well-known in Iranian tech circles for his insightful and accessible writing/ بابا به‌خدا من خودمم/ خوب میدونم اگر ذکی نباشم حسابم با کرام‌الکاتبین هست/ آخرین نفری هستم که از پل شکسته‌ی پیروزی عبور می‌کند، اینجا هستم تا دست شما را هنگام لغزش بگیرم

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا