شرکت توسعه دهنده هوش مصنوعی چت جیپیتی به نام اُپنایآی (OpenAI) مشخص کرده است که سرویس هوش مصنوعی پرچمدار آن برای استفادههای مخرب و نامناسب ساخته نشده است.
به گزارش خبرگزاری سینا به نقل از دیجیتالترندز ، این شرکت گزارشی منتشر کرده است که در آن جزئیاتی از مشاهده و بررسی روند نحوه استفاده کاربران مخرب از این پلتفرم دیده میشود. اُپن ایآی مشخص کرد که دهها حساب کاربری را به ظن استفاده از چت جیپیتی به روشهای غیرمجاز، مانند اشکالزدایی کد برای تولید محتوا برای انتشار در پلتفرمهای توزیع مختلف» حذف کرده است.
این شرکت همچنین به تازگی اعلام کرده که به ۴۰۰ میلیون کاربر فعال هفتگی رسیده است. این شرکت توضیح داد که در کمتر از سه ماه بیش از ۱۰۰ میلیون کاربر افزایش یافته است زیرا شرکتها و توسعهدهندگان بیشتری از ابزارهای آن استفاده میکنند. با این حال، چت جیپیتی همچنان یک سرویس رایگان است که در سطح جهانی قابل دسترس است. از آنجایی که جنبههای اخلاقی و عملکردهای آن مدتها مورد سوال بوده است، اُپنایآی باید با این واقعیت کنار بیاید که نهادهایی وجود دارند که انگیزههای پنهانی برای این پلتفرم دارند.
سیاستهای اُپنایآی به شدت استفاده از خروجی ابزارهای این شرکت را برای کلاهبرداری ممنوع میکند. این شرکت در گزارش خود گفت: دهها حساب کاربری را شناسایی و مسدود کردیم.
اُپن ایآی در گزارش خود توضیح داد که باید اقدامات شرورانهای را که در چت جیپیتی انجام میشود به چالش بکشد. این شرکت چندین مطالعه موردی را مورد توجه قرار داده است و در آنها با ممنوع کردن حسابهایی که از این ابزار برای اهداف مخرب استفاده میکنند، بررسی و اقدام کرده است.
در یک نمونه، این شرکت، حسابی را شرح داد که در آن مقالات خبری تحقیرآمیز در مورد ایالات متحده نوشته میشد و منبع خبری در آمریکای لاتین تحت پوشش یک نشریه چینی منتشر میشد.
مورد دیگری که در کره شمالی بومی سازی شده است، ایجاد رزومه و مشخصات شغلی برای متقاضیان کار غیر واقعی بود. این حساب ممکن است برای درخواست شغل در شرکتهای غربی استفاده شده باشد.
مطالعه دیگری نشان داد که حسابهایی که گمان میرود از کامبوج سرچشمه بگیرند، از چت جیپیتی برای ترجمه و ایجاد نظرات در چندین پلتفرم رسانههای اجتماعی از جمله ایکس، فیسبوک و اینستاگرام استفاده میکنند.
اُپنایآی تایید کرده است که یافتههای خود را با همعصران صنعت خود، مانند متا، به اشتراک گذاشته، زیرا که ممکن است آنها نیز به طور ناخواسته تحت تأثیر اقدامات انجام شده در چت جیپیتی قرار گیرند.
منبع: ایسنا
نوشته اُپنایآی با کلاهبرداران چت جیپیتی مقابله میکند اولین بار در خبرگزاری سیناپرس . پدیدار شد.
