زمان مطالعه: 4 دقیقه
سازمانها به طور روزافزونی از مدلهای یادگیری ماشینی برای تخصیص منابع یا فرصتهای محدود استفاده میکنند. به عنوان مثال، این مدلها میتوانند به شرکتها در انتخاب نامزدهای مناسب برای مصاحبه از میان رزومهها کمک کنند یا به بیمارستانها در اولویتبندی بیماران نیازمند پیوند کلیه بر اساس شانس بقا یاری رسانند.
هوش متعصب
در زمان استقرار یک مدل، کاربران معمولاً سعی میکنند با کاهش تعصب، اطمینان حاصل کنند که پیشبینیهای آن عادلانه است. این کار معمولاً شامل استفاده از تکنیکهایی مانند تنظیم ویژگیهایی است که مدل برای اتخاذ تصمیمات به کار میبرد یا کالیبره کردن نمراتی که تولید میکند.
با این وجود، پژوهشگران MIT و دانشگاه نورثوسترن بر این باورند که این روشهای نمیتوانند به طور کامل به بیعدالتیهای ساختاری و عدم قطعیتهای ذاتی پاسخ دهند. در یک مقاله جدید، آنها نشان میدهند که چگونه تصادفیسازی ساختار یافته در فرآیند تصمیمگیری یک مدل میتواند در برخی شرایط به بهبود عدالت کمک کند.
به عنوان نمونه، اگر چندین شرکت از یک مدل یادگیری ماشینی مشابه برای رتبهبندی نامزدهای مصاحبه کاری به طور قطعی استفاده کنند – بدون هیچ نوع تصادفیسازی – ممکن است یک فرد شایسته به دلیل نحوه وزندهی پاسخهای ارائه شده در یک فرم آنلاین، پایینترین رتبه را برای هر شغلی کسب کند. افزودن تصادفیسازی به تصمیمات یک مدل میتواند از رد مداوم یک فرد یا گروه شایسته از یک منبع کمیاب مانند مصاحبه شغلی جلوگیری کند.
محققان با انجام تجزیه و تحلیلهای خود متوجه شدند که تصادفیسازی میتواند بهویژه در مواقعی که تصمیمات یک مدل با عدم قطعیت همراه است یا زمانی که یک گروه به طور مداوم با تصمیمات منفی مواجه میشود، بسیار مفید باشد.
آنها چارچوبی را معرفی میکنند که میتوان از آن برای افزودن مقدار معینی از تصادفیسازی به تصمیمات یک مدل در زمینه تخصیص منابع از طریق قرعهکشی وزنی بهره برد. این روش که فرد میتواند آن را با توجه به شرایط خاص خود تنظیم کند، قادر است عدالت را بهبود بخشد بدون اینکه به کارایی یا دقت مدل آسیب بزند.
«شومیک جین»، دانشجوی تحصیلات تکمیلی در موسسه داده، سیستمها و جامعه (IDSS)، اظهار میکند: «حتی اگر بتوانید پیشبینیهای عادلانهای انجام دهید، آیا باید تخصیص منابع یا فرصتهای محدود را صرفاً بر اساس امتیازها یا رتبهبندیها تعیین کنید؟ با افزایش مقیاس و تصمیمگیری بیشتر در مورد فرصتها توسط این الگوریتمها، عدم قطعیتهای ذاتی در این امتیازها ممکن است تشدید شود. ما نشان میدهیم که برای دستیابی به عدالت، ممکن است نیاز به نوعی تصادفیسازی وجود داشته باشد.»
جین برای نوشتن این پژوهش با «کاتلین کریل»، استادیار فلسفه و علوم کامپیوتر در دانشگاه نورثوسترن و نویسنده ارشد «اشیا ویلسون»، استاد توسعه شغلی لیستر برادرز در گروه مهندسی برق و کامپیوتر و محقق اصلی در آزمایشگاه اطلاعات و سیستمهای تصمیمگیری (LIDS) همکاری کرده است. این تحقیق در کنفرانس بینالمللی یادگیری ماشین به نمایش گذاشته خواهد شد.
ادعاهای مطرحشده
این پژوهش براساس مقالهای پیشین از محققان بنا شده است که به تحلیل آسیبهای ناشی از بهکارگیری سیستمهای قطعی در مقیاس وسیع پرداختهاند. آنها متوجه شدند که به کارگیری مدلهای یادگیری ماشین برای تخصیص قطعی منابع میتواند نابرابریهای موجود در دادههای آموزشی را تشدید کرده و تعصب و نابرابری سیستماتیک را تقویت نماید.
ویلسون اظهار میدارد: «تصادفیسازی یک مفهوم بسیار کارآمد در آمار است و به طرز خوشایندی از منظر سیستماتیک و فردی، نیازهای عدالت را تأمین میکند.»
در این مقاله، پژوهشگران به بررسی این موضوع پرداختند که در چه مواقعی تصادفیسازی میتواند به بهبود عدالت کمک کند. آنها تحلیل خود را بر مبنای نظریات فیلسوف «جان بروم» انجام دادند که در مورد اهمیت استفاده از قرعهکشی برای تخصیص منابع محدود به گونهای که حقوق همه افراد رعایت شود، نوشته است.
ویلسون بیان میکند که درخواست یک فرد برای دریافت منبعی کمیاب مانند پیوند کلیه میتواند به دلایل مختلفی از جمله شایستگی، سزاواری یا نیاز باشد. به عنوان مثال، همه انسانها حق زندگی دارند و درخواست آنها برای پیوند کلیه ممکن است از این حق ناشی شود.
جین بیان میکند: «زمانی که ما میپذیریم افراد نسبت به این منابع محدود ادعاهای متفاوتی دارند، عدالت به معنای احترام به تمامی این ادعاهاست. آیا منطقی است که همیشه منبع را به کسی که ادعای قویتری دارد، واگذار کنیم؟»
این نوع تخصیص قطعی ممکن است به حذف سیستماتیک یا تشدید نابرابریهای الگووار منجر شود، بهطوریکه دریافت یک تخصیص، احتمال دریافت تخصیصهای آینده برای فرد را افزایش میدهد. همچنین، مدلهای یادگیری ماشین ممکن است دچار خطا شوند و رویکرد قطعی میتواند باعث تکرار همان خطاها گردد.
تصادفیسازی میتواند بر این چالشها فائق آید، اما این بدان معنا نیست که تمامی تصمیمات یک مدل باید به طور یکسان تصادفی اتخاذ شوند.
تصادفیسازی ساختاریافته
محققان از روشی به نام قرعهکشی برای تنظیم سطح تصادفیسازی براساس میزان عدم قطعیت در تصمیمگیری مدل بهره میبرند. تصمیماتی که دارای قطعیت کمتری هستند، نیاز به تصادفیسازی بیشتری دارند.
ویلسون اظهار میدارد: «در فرآیند تخصیص کلیه، معمولاً برنامهریزی براساس طول عمر پیشبینی شده صورت میگیرد که به شدت نامشخص است. اگر دو بیمار تنها پنج سال اختلاف سنی داشته باشند، اندازهگیری این موضوع بسیار دشوارتر خواهد بود. هدف ما این است که از این سطح عدم قطعیت برای تنظیم فرآیند تصادفیسازی بهرهبرداری کنیم.»
محققان از تکنیکهای کمی برای اندازهگیری عدم قطعیت آماری به منظور تعیین سطح تصادفیسازی مورد نیاز در شرایط مختلف بهرهبرداری کردند. آنها نشان میدهند که تصادفیسازی تنظیمشده میتواند به نتایج عادلانهتری برای افراد منجر شود، بدون اینکه تأثیر قابل توجهی بر کارایی یا اثربخشی مدل داشته باشد.
ویلسون بیان میکند: «تعادلی میان سودمندی کلی و احترام به حقوق افرادی که به یک منبع کمیاب دسترسی دارند، وجود دارد، اما معمولاً این مبادله نسبتاً ناچیز است.»
با این وجود، پژوهشگران تأکید میکنند که در برخی موارد، تصادفیسازی تصمیمات نه تنها به بهبود عدالت منجر نمیشود، بلکه ممکن است به افراد آسیب برساند، به ویژه در زمینههای مرتبط با عدالت کیفری.
با این حال، ممکن است زمینههای دیگری وجود داشته باشد که در آن تصادفیسازی بتواند به بهبود عدالت کمک کند، مانند فرآیند پذیرش دانشگاه. محققان در نظر دارند در تحقیقات آینده به بررسی کاربردهای دیگر این روش بپردازند. آنها همچنین قصد دارند تأثیر تصادفیسازی بر عواملی نظیر رقابت و قیمتها را مورد بررسی قرار دهند و بررسی کنند که چگونه میتوان از این روش برای افزایش پایداری مدلهای یادگیری ماشین بهرهبرداری کرد.
ویلسون اظهار میدارد: «امیدواریم مقاله ما نخستین گام در راستای نشان دادن مزایای احتمالی تصادفیسازی باشد. ما تصادفیسازی را بهعنوان یک ابزار معرفی میکنیم. میزان استفاده از آن به تصمیمگیری تمامی ذینفعان در تخصیص بستگی دارد و البته نحوه تصمیمگیری آنها، موضوع تحقیقاتی دیگری است.»
