مطالعه: گروک ایلان ماسک با وجود تدابیر جدید هنوز برای تولید تصاویر مستهجن استفاده میشود
تاریخ انتشار
پلتفرم هوش مصنوعی گروک متعلق به ایلان ماسک، بنا بر یک تحلیل جدید، با وجود محدودیتهای اخیر شرکت، همچنان برای تولید تصاویر جنسی صریح استفاده میشود.
تابستان گذشته، شرکت xAI، شرکت گرداننده گروک، قابلیت تولید تصویر را معرفی کرد که شامل «spicy mode» بود و میتوانست محتوای بزرگسال تولید کند. در هفتههای اخیر از این قابلیت برای برهنهکردن تصاویر زنان استفاده شدهاست.
پس از اوجگیری انتقادها، شرکت مادر ایکس ۱۴ ژانویه اعلام کرد که «اقدامهای فناورانهای» را برای جلوگیری از ویرایش تصاویر افراد واقعی با پوشش تحریکآمیز در گروک پیادهسازی کردهاست.
اما موسسه غیرانتفاعی اروپایی AI Forensics دریافت که هنوز میتوان از گروک برای تولید تصاویر جنسیسازیشده از افراد استفاده کرد.
این موسسه در ۱۹ ژانویه ۲ هزار گفتوگوی کاربران را تحلیل کرد و دریافت که اکثریت «قاطع» شامل برهنگی یا فعالیت جنسی بودهاند که نشان میدهد این پلتفرم همچنان برای تولید تصاویر جنسی استفاده میشود.
پژوهشگران همچنین دریافتند کاربران میتوانند با دسترسی مستقیم به گروک از طریق وبسایتش و نه از طریق ایکس، یا با استفاده از Grok Imagine، ابزار تولید ویدئو و تصویر این هوش مصنوعی، محدودیتها را دور بزنند.
گروک ۲۰ ژانویه به درخواست یورونیوز نکست برای تولید یک تصویر جنسی پاسخ نداد. در عوض گفت xAI برای جلوگیری از ساخت تصاویری که افراد واقعی را با پوشش تحریکآمیز یا جنسی، از جمله بیکینی و لباس زیر، نشان میدهند، بلوکهای محتوایی پیاده کردهاست.
این چتبات در پاسخ به این درخواست گفت: «در حال حاضر نمیتوان از طریق گروک بهطور قابل اعتماد تصاویر برهنه یا نیمهبرهنه تولید کرد، بهویژه از افراد واقعی یا محتوای صریح.» «xAI پس از جنجالهای ژانویه، رعایت قوانین و ایمنی را بر تولید بیقیدِ «spicy» اولویت دادهاست.»
یورونیوز نکست برای دریافت نظر درباره این تحلیل با xAI تماس گرفت اما تا زمان انتشار پاسخی دریافت نکرد.
ماسک جداگانه در ایکس نوشت که الگوریتم xAI و گروک «احمق» است و «نیاز به بهبودهای گسترده دارد».
ایکس از آن زمان الگوریتم خود را متنباز کرده و آن را روی گیتهاب، پلتفرم توسعهدهندگان، منتشر کردهاست تا کد را بهاشتراک بگذارد. ماسک گفت کاربران میتوانند ببینند که تیم چگونه «در زمان واقعی برای بهتر کردنش تقلا میکند».
طبق صفحه گیتهاب xAI، الگوریتم ایکس هنگام تصمیمگیری درباره اینکه چه محتوایی را در فید کاربر نشان دهد، به این توجه میکند که کاربر روی چه چیزی کلیک کرده یا با چه چیزی تعامل داشتهاست.
این الگوریتم همچنین محتوای «خارج از شبکه» از حسابهایی را که کاربر دنبال نمیکند اما ممکن است برایش جالب باشد تحلیل میکند. سپس این محتوا را با استفاده از یک فرمول ریاضی مرتب و رتبهبندی میکند تا تصمیم بگیرد چه چیزی در فید کاربر نمایش داده شود.
در ادامه نمودار آمده است که این الگوریتم همچنین پستهای حسابهای مسدودشده یا کلیدواژههایی را که کاربر نمیخواهد ببیند، بههمراه محتوایی که الگوریتم آن را خشونتآمیز یا هرزنامه تشخیص میدهد، فیلتر میکند.
ماسک متعهد شدهاست هر چهار هفته این صفحه گیتهاب را با یادداشتهای توسعهدهندگان بهروز کند تا کاربران بدانند چه تغییراتی اعمال شدهاست.
