گزارشها حاکی از آن است که شرکت متا بهزودی برای ارزیابی ریسک در بیشتر محصولات خود، بهجای بازبینهای انسانی، عمدتا از هوش مصنوعی استفاده خواهد کرد.
به گزارش خبرگزاری سینا به نقل از انگجت، متا قصد دارد وظیفه ارزیابی خطرات بالقوه محصولات خود را از بازبینهای انسانی به سیستمهای هوش مصنوعی واگذار کند تا این فرایند با سرعت بیشتری انجام شود. اسناد داخلی که NPR به آنها دست یافته است، نشان میدهند که متا قصد دارد تا ۹۰ درصد ارزیابیهای ریسک را به هوش مصنوعی بسپارد. این شرکت حتی در حال بررسی استفاده از هوش مصنوعی در حوزههای حساسی چون خطرات مرتبط با کودکان و مسائل «تمامیت» (integrity) است؛ منظور از «تمامیت» حفظ سلامت و اعتماد عمومی در پلتفرمهای متا است؛ مفهومی که شامل مقابله با محتوای خشونتآمیز، اطلاعات نادرست، نفرتپراکنی، آزار و اذیت و سایر تهدیدهای اخلاقی و اجتماعی میشود.
کارمندان کنونی و سابق متا که با NPR صحبت کردهاند، هشدار دادهاند که هوش مصنوعی ممکن است خطرات جدی را نادیده بگیرد؛ خطراتی که گروههای انسانی قادر به شناسایی آنها بودند.
در گذشته، بهروزرسانیها و ویژگیهای جدید در پلتفرمهایی مانند اینستاگرام و واتساپ پیش از عرضه عمومی توسط انسانها بررسی میشدند. اما طبق گزارش NPR، متا طی دو ماه گذشته تمرکز خود را بر استفاده از هوش مصنوعی دوچندان کرده است. اکنون گروههای محصول باید پرسشنامهای در مورد محصول خود تکمیل کرده و آن را برای بررسی به سیستم هوش مصنوعی ارسال کنند. این سیستم بهطور معمول یک «تصمیم فوری» صادر میکند که شامل شناسایی حوزههای پرریسک است. گروهها سپس باید بر اساس این ارزیابیها اقدام کنند تا بتوانند محصول را عرضه کنند.
یکی از مدیران پیشین متا میگوید: کاهش بررسی انسانی یعنی پذیرش ریسک بیشتر و پیامدهای منفی تغییرات کمتر محصولات که پیش از بروز مشکلات در جهان قابل پیشگیری خواهند بود.
متا در بیانیهای اعلام کرده است که همچنان از «تخصص انسانی» برای ارزیابی مسائل جدید و پیچیده استفاده خواهد کرد و تصمیمگیری درباره موارد «کمریسک» را به هوش مصنوعی خواهد سپرد.
این خبر تنها چند روز پس از انتشار آخرین گزارشهای فصلی متا درباره تمامیت پلتفرمهایش منتشر میشود؛ گزارشی که اولین بار پس از تغییر سیاستهای این شرکت درباره تعدیل محتوا و راستیآزمایی در سال جاری است. طبق این گزارش، حجم محتوای حذفشده کاهش یافته، اما موارد آزار و اذیت، خشونت و محتوای گرافیکی کمی افزایش داشتهاند.
نوشته واگذاری ارزیابی ریسک محصولات متا به هوش مصنوعی
هوش مصنوعی، «بازرس» میشود! اولین بار در خبرگزاری سیناپرس. پدیدار شد.
