اخبار دانش و فناوری
آیا میتوان به عاملهای هوش مصنوعی اعتماد کرد؟ از تشخیص تا اعتمادسازی
هاروارد بیزینس ریویو طی مقالهای به قلم بلر لوین و لری داونز به بررسی بحث اعتماد به عاملهای هوش مصنوعی یا Agentic AIها، نقاط آسیبپذیر و راهکارهای اعتمادسازی پرداخته است. لوین و داونز در این مقاله بررسی میکنند که چطور ممکن است عاملهای هوش مصنوعی به جای کمک به کاربران خود مسیر اشتباهی را در پیش بگیرند و به عاملی آسیبزا تبدیل شوند. موضوعاتی همچون نفوذ هکرها و تبهکاران به این ابزارها که بدون مداخله انسانی وظیفهای را برعهده میگیرند، از جمله مهمترین خطرات است اما مباحث دیگری همچون اثرگذاری بازیگران مهم بازار از جمله مشتریان تبلیغات و توسعهدهندگان این ابزارها در جهتی به نفع سود شخصی نیز از جمله دیگر نگرانیها است.