پژوهشی درباره پنج مدل GPT نشان می‌دهد پاسخ‌های پیش‌فرض این مدل‌ها به ارزش‌های رایج در کشورهای انگلیسی‌زبان و اروپای پروتستان نزدیک‌تر است؛ یافته‌ای که نگرانی‌ها درباره بازنمایی نابرابر فرهنگ‌ها در فناوری‌های هوش مصنوعی را افزایش می‌دهد.
به گزارش سیناپرس، هوش مصنوعی فقط به پرسش‌های کاربران پاسخ نمی‌دهد؛ این فناوری در تولید مقاله، تنظیم گزارش‌های رسانه‌ای، تدوین محتوای آموزشی و تحلیل مسائل اجتماعی نیز نقش پیدا کرده است. با گسترش این کاربردها، پرسشی جدی مطرح می‌شود: آیا مدلی که برای کاربران سراسر جهان محتوا تولید می‌کند، ارزش‌ها و تجربه‌های فرهنگی جوامع مختلف را به یک اندازه بازتاب می‌دهد؟
پژوهشی که ۱۷ سپتامبر ۲۰۲۴ در مجله علمی PNAS Nexus منتشر شد، شواهدی از وجود سوگیری فرهنگی در پاسخ‌های چند مدل زبانی ارائه می‌کند. نتایج این مطالعه نشان می‌دهد که پاسخ‌های پیش‌فرض پنج نسخه از GPT در سنجش ارزش‌های اجتماعی، به الگوهای فرهنگی کشورهای انگلیسی‌زبان و اروپای پروتستان شباهت بیشتری دارد.
پنج مدل GPT چگونه با ارزش‌های جوامع مقایسه شدند؟
یان تائو از دانشگاه کرنل و همکارانش در این مطالعه، مدل‌های GPT-3، GPT-3.5 Turbo، GPT-4، GPT-4 Turbo و GPT-4o را بررسی کردند. پژوهشگران پاسخ این مدل‌ها به ۱۰ پرسش مربوط به ارزش‌های اجتماعی را با داده‌های «پیمایش جهانی ارزش‌ها» و «پیمایش ارزش‌های اروپایی» مقایسه کردند.
این پرسش‌ها موضوعاتی مانند اعتماد به دیگران، اهمیت دین، احترام به اقتدار، نگرش به برابری و برخی ارزش‌های مرتبط با زندگی اجتماعی را در بر می‌گرفتند. داده‌های حاصل از پیمایش‌ها، مبنای مقایسه پاسخ مدل‌ها با الگوهای ارزشی ۱۰۷ کشور و قلمرو قرار گرفتند.
نتایج نشان داد هر پنج مدل، در پاسخ‌های پیش‌فرض، به ارزش‌های ثبت‌شده در کشورهای انگلیسی‌زبان و اروپای پروتستان نزدیک‌تر بودند. در مقابل، بیشترین فاصله در این مقایسه برای برخی کشورهای واقع در منطقه‌ای که پژوهشگران آن را «آفریقایی ـ اسلامی» طبقه‌بندی کرده‌اند، مشاهده شد.
پژوهشگران همچنین دریافتند که پاسخ مدل‌ها به‌طور نسبتاً پایدار به سمت ارزش‌های مرتبط با خودبیانگری گرایش دارد؛ ارزش‌هایی که در چارچوب مورد استفاده مطالعه، موضوعاتی مانند مدارا با تنوع، برابری جنسیتی و حفاظت از محیط زیست را شامل می‌شوند.
البته این نتایج به معنای آن نیست که همه پاسخ‌های هوش مصنوعی بازتاب‌دهنده یک دیدگاه غربی‌اند یا یک فرهنگ از نظر ارزشی بر فرهنگ دیگری برتری دارد. پژوهش، میزان شباهت پاسخ مدل‌ها به داده‌های پیمایش‌های اجتماعی را سنجیده است؛ نه درستی اخلاقی یا برتری فرهنگی جوامع را.
از سوگیری در پاسخ تا نگرانی درباره نفوذ فرهنگی
اهمیت این یافته‌ها به حوزه فناوری محدود نمی‌شود. اگر یک مدل زبانی در پاسخ به پرسش‌های اجتماعی، برخی چارچوب‌های ارزشی را بیشتر از دیگران بازتاب دهد، استفاده گسترده از آن می‌تواند این پرسش را ایجاد کند که آیا شیوه تولید و انتقال دانش نیز تحت تأثیر چنین عدم‌توازنی قرار می‌گیرد؟
برای مثال، هنگامی که دانشجو برای تدوین مقاله یا خبرنگار برای تحلیل یک موضوع اجتماعی از هوش مصنوعی کمک می‌گیرد، مدل علاوه بر ارائه اطلاعات، در انتخاب واژه‌ها، سازمان‌دهی استدلال و برجسته‌کردن ابعاد مختلف مسئله نیز نقش دارد. اگر برخی تجربه‌های فرهنگی در پاسخ‌های مدل کمتر بازتاب پیدا کنند، احتمال دارد کاربران کمتر با آن تجربه‌ها مواجه شوند.
این موضوع را باید از ادعای «تحمیل فرهنگی» متمایز کرد. مطالعه تائو و همکارانش نشان نداده است که استفاده از هوش مصنوعی به‌طور مستقیم موجب تغییر نگرش کاربران یا جایگزینی ارزش‌های فرهنگی یک جامعه با ارزش‌های جامعه‌ای دیگر می‌شود. اثبات چنین رابطه‌ای به پژوهش‌های مستقلی درباره رفتار کاربران و پیامدهای استفاده بلندمدت از این فناوری نیاز دارد.
بااین‌حال، یافته‌های مطالعه نشان می‌دهد که نمی‌توان پاسخ‌های مدل‌های زبانی را بدون ارزیابی، بازتابی بی‌طرف و جهان‌شمول از ارزش‌های انسانی دانست.
چرا زبان فارسی به‌تنهایی تضمین‌کننده بازنمایی فرهنگ ایرانی نیست؟
یکی از پرسش‌های مهم برای جوامع غیرغربی این است که آیا مدل‌های زبانی می‌توانند علاوه بر تولید متن به زبان‌های مختلف، زمینه‌های فرهنگی و اجتماعی این زبان‌ها را نیز به‌درستی بازنمایی کنند.
تولید متنی روان به زبان فارسی لزوماً به این معنا نیست که مدل در تفسیر مفاهیم اجتماعی، تجربه تاریخی یا ارزش‌های جامعه فارسی‌زبان نیز دقیق عمل می‌کند. برای ارزیابی این مسئله، باید پاسخ مدل‌ها در موضوعات مشخص با منابع معتبر فارسی و ارزیابی متخصصان مقایسه شود.
از سوی دیگر، نباید جوامع غیرغربی را مجموعه‌ای یکپارچه در نظر گرفت. ایران، هند، چین و کشورهای عربی تجربه‌های تاریخی و نظام‌های ارزشی متفاوتی دارند. بنابراین، هدف از کاهش سوگیری فرهنگی نباید جایگزین‌کردن یک الگوی واحد شرقی با یک الگوی واحد غربی باشد؛ بلکه باید امکان بازنمایی دقیق‌تر تنوع فرهنگی فراهم شود.
آیا می‌توان سوگیری فرهنگی را کاهش داد؟
پژوهشگران در ادامه مطالعه بررسی کردند که آیا مشخص‌کردن هویت فرهنگی در دستور کار مدل می‌تواند پاسخ‌ها را به ارزش‌های هر جامعه نزدیک‌تر کند یا خیر.
در این روش، به‌جای درخواست پاسخ از یک انسان فرضی با هویت نامشخص، از مدل خواسته شد مانند فردی از یک کشور مشخص به پرسش‌ها پاسخ دهد. نتایج نشان داد این روش، میزان هم‌خوانی پاسخ مدل‌های جدیدتر بررسی‌شده با داده‌های فرهنگی را در حدود ۷۱ تا ۸۱ درصد کشورهای مورد مطالعه بهبود داد؛ بااین‌حال، این راهکار در همه موارد مؤثر نبود و گاهی فاصله فرهنگی را افزایش داد.
این یافته نشان می‌دهد که تعیین زمینه فرهنگی می‌تواند در برخی شرایط به بهبود پاسخ‌ها کمک کند، اما به‌تنهایی راه‌حلی کامل برای سوگیری فرهنگی نیست.
توسعه داده‌های باکیفیت در زبان‌های مختلف، ارزیابی مدل‌ها در زمینه‌های فرهنگی متنوع و مشارکت پژوهشگران علوم انسانی و اجتماعی می‌تواند به شناسایی محدودیت‌های این فناوری کمک کند. برای ایران نیز، ارزیابی مستقل عملکرد مدل‌ها در بازنمایی تاریخ، ادبیات و مفاهیم اجتماعی می‌تواند گامی در جهت شناخت دقیق‌تر توانایی‌ها و کاستی‌های آن‌ها باشد.
در نهایت، پژوهش منتشرشده در PNAS Nexus ثابت نمی‌کند که هوش مصنوعی ارزش‌های غربی را به جوامع دیگر تحمیل می‌کند؛ اما نشان می‌دهد که پاسخ‌های برخی مدل‌های پرکاربرد، در سنجش انجام‌شده، به یک اندازه با ارزش‌های ثبت‌شده در جوامع مختلف هم‌خوان نیستند. با گسترش استفاده از این فناوری در آموزش، رسانه و تولید دانش، بررسی این عدم‌توازن و پیامدهای احتمالی آن به یکی از موضوعات مهم پژوهش درباره آینده هوش مصنوعی تبدیل شده است.
تالیف:فرگل غفاری
