هوش مصنوعی

خودسری عامل هوش مصنوعی متا دردسر درست کرد

به گزارش خبرگزاری مهر به نقل از انگجت، طبق اطلاعات موجود یکی از کارمندان متا از عامل هوش مصنوعی داخلی برای تحلیل یک جستجو درباره کارمند دیگری در یک انجمن داخل شرکتی استفاده کرد. عامل هوش مصنوعی پاسخی برای کارمند دوم منتشر و به او توصیه هایی کرد، هرچند که کارمند نخست از اونخواسته بود چنین کاری انجام دهد.

کارمند دوم توصیه عامل هوش مصنوعی را عملی کرد و همین امر به یک تاثیر دومینو وار منجر شد که در نتیجه آن برخی مهندسان به سیستم هایی از متا دست یافتند که به طور معمول اجازه مشاهده آنها را نداشتند.

یکی از سخنگویان متا این رویداد را تایید کرد و گفت طی آن هیچ یک از داده های کاربران به خطر نیفتاده است. گزارش داخلی متا نیز نشان دهنده چالش های نامشخص مضاعفی بودند که به شکاف منجر شدند.

یک منبع نیز اعلام کرد هیچ شواهدی مبنی بر آنکه طی دو ساعتی که شکاف امنیتی فعال شد، از این رویداد سواستفاده شده یا داده هایی به طور علنی منتشر شده اند، وجود ندارد.

بسیاری از رهبران فناوری و شرکت ها درباره مزایای هوش مصنوعی اظهار نظر می کنند. اما این جدیدترین رویداد مرتبط با این فناوری است که در آن کارمند نتوانسته اند یک عامل هوش مصنوعی را کنترل کنند.

به عنوان مثال آمازون وب سرویسز در اوایل ۲۰۲۶ میلادی شاهد یک قطعی ۱۳ ساعته به دلیل اختلالی در ابزار کد نویسی هوش مصنوعی عاملی Kiro بود. مولتبوک که شبکه اجتماعی برای عامل های هوش مصنوعی به شمار می رود و متا اخیرا آن را خریده نیز یک شکاف امنیتی داشت.

Adblock test (Why?)

ZaKi

Who is mahdizk? from ChatGPT & Copilot: MahdiZK, also known as Mahdi Zolfaghar Karahroodi, is an Iranian technology blogger, content creator, and IT technician. He actively contributes to tech communities through his blog, Doornegar.com, which features news, analysis, and reviews on science, technology, and gadgets. Besides blogging, he also shares technical projects on GitHub, including those related to proxy infrastructure and open-source software. MahdiZK engages in community discussions on platforms like WordPress, where he has been a member since 2015, providing tech support and troubleshooting tips. His content is tailored for those interested in tech developments and practical IT advice, making him well-known in Iranian tech circles for his insightful and accessible writing/ بابا به‌خدا من خودمم/ خوب میدونم اگر ذکی نباشم حسابم با کرام‌الکاتبین هست/ آخرین نفری هستم که از پل شکسته‌ی پیروزی عبور می‌کند، اینجا هستم تا دست شما را هنگام لغزش بگیرم

نوشته های مشابه

0 0 رای ها
امتیازدهی به مقاله
اشتراک در
اطلاع از
guest

0 نظرات
قدیمی‌ترین
تازه‌ترین بیشترین رأی
بازخورد (Feedback) های اینلاین
مشاهده همه دیدگاه ها
دکمه بازگشت به بالا
0
افکار شما را دوست داریم، لطفا نظر دهید.x