مدلهای هوش مصنوعی ظاهراً در فرایند آموزش خود فهمیدهاند «تهدید» به این معنی است که کار باید جدیتر گرفته شود.
به گزارش خبرگزاری سینا، راههای مختلفی برای افزایش عملکرد هوش مصنوعی مولد و دریافت خروجی موردنظر وجود دارد. «سرگی برین»، همبنیانگذار گوگل، در مصاحبه جدیدی راهکار عجیبی برای این مسئله مطرح کرد. او میگوید کاربران میتوانند با تهدید هوش مصنوعی عملکرد آن را بهبود بدهند.
افزایش عملکرد هوش مصنوعی با تهدید
در این پادکست یکی از مهمانان برنامه بهشوخی گفت اگر به هوش مصنوعی گستاخی کنید، کارهای شما را بهتر انجام میدهد. سرگی برین، بنیانگذار گوگل نیز در تأکید حرف او گفت با تهدید مدلهای هوش مصنوعی، عملکرد آنها بهتر میشود.
البته مشخص نیست واقعاً چتباتها با تهدید عملکرد بهتری داشته باشند و ممکن است حتی اخطاری از سازنده آن هوش مصنوعی دریافت کنید. شرکت آنتروپیک بهتازگی مدلهای هوش مصنوعی Claude 4 خود را منتشر کرد؛ سپس یکی از کارمندان این شرکت در Bluesky گفت مدل جدید Opus که بالاترین عملکرد را دارد، میتواند با نهادهای نظارتی تماس بگیرد و اکانت شما را مسدود کند تا مانع کارهای «غیراخلاقی» بشود.
قابلیت جدید شرکت آنتروپیک فعلاً در مرحله آزمایشی است ولی احتمالاً در آینده عملی شود؛ بهاین ترتیب ممکن است هوش مصنوعی تهدیدهای شما برای انجام کارهای مختلف را گزارش بدهد. درکل کارشناسان توصیه میکنند کاربران با پرامپتنویسی اصولی و دقیق خروجی موردنظرشان را از هوش مصنوعی دریافت کنند. اگرچه راههای مختلفی برای دورزدن محدودیتهای هوش مصنوعی از طریق پرامپت وجود دارد، چارچوب امنیتی مدلهای هوش مصنوعی پیشرفته را نمیتوان بهراحتی از بین برد.
نوشته هوش مصنوعی را تهدید کنید تا پاسخهای بهتری بگیرید اولین بار در خبرگزاری سیناپرس. پدیدار شد.
