امنیت این ایجنت‌های هوش مصنوعی از مهم‌ترین حوزه‌هایی است که شرکت‌های هوش مصنوعی باید در آن سرمایه‌گذاری کنند.
به گزارش خبرگزاری سینا ، به گفته «جیسون کلینتون»، مدیر ارشد امنیت اطلاعات آنتروپیک (Anthropic)، این شرکت انتظار دارد کارمندان مجازی مبتنی‌بر هوش مصنوعی ظرف یک سال آینده در شبکه‌های سازمانی حضور یابند و باید از نظر امنیتی برای آنها آماده شویم.
کلینتون در گفتگو با Axios می‌گوید کارمندان مجازی می‌توانند به یکی از حوزه‌های داغ نوآوری در هوش مصنوعی تبدیل شوند. برخلاف عامل‌های خودکار فعلی که روی وظایف خاصی متمرکزند، این هویت‌های مجازی حافظه مستقل، نقش‌های مشخص در سازمان، حساب‌های کاربری و حتی رمز عبور اختصاصی خواهند داشت. سطح خودمختاری آنها بسیار فراتر از عامل‌های امروزی است.
کلینتون مدعی است در این جهان جدید، چالش‌های امنیتی زیادی وجود دارد که هنوز برایشان راه‌حل مناسبی پیدا نکرده‌ایم. ازجمله این چالش‌ها می‌توان به چگونگی تأمین امنیت حساب‌های کاربری کارمندان مجازی، میزان دسترسی مناسب به شبکه و تعیین مسئول مدیریت عملکرد آنها اشاره کرد.
کلینتون توضیح داد آنتروپیک ۲ مسئولیت اصلی در این مسیر دارد: اول آزمایش گسترده مدل‌های کلود (Claude) برای مقاوم‌سازی آنها در برابر حملات سایبری. دوم نظارت بر مسائل ایمنی و کاهش راه‌های سوءاستفاده از مدل‌های کلود توسط عوامل مخرب.
هشدار آنتروپیک درباره تهدیدات امنیتی در دنیای کارمندان مجازی
درحال‌حاضر، مدیران شبکه می‌کوشند برای کنترل حساب‌های کاربری متعدد و مقابله با هکرهایی هستند که از رمزهای عبور فاش‌شده در دارک وب سوءاستفاده می‌کنند. در این شرایط، ظهور کارمندان مجازی، خطرات تازه‌ای ایجاد می‌کند؛ برای مثال، کارمند مجازی ممکن است به سیستم‌های حساس مانند سامانه‌های تست و ادغام کد شرکت نفوذ کند، بدون اینکه مسئولیتی متوجه شخص خاصی شود.
کلینتون تأکید می‌کند امنیت کارمندان مجازی یکی از مهم‌ترین حوزه‌هایی است که شرکت‌های هوش مصنوعی باید در آن سرمایه‌گذاری کنند. او به‌ویژه بر اهمیت راهکارهایی اصرار کرد که شفافیت بیشتری درباره عملکرد حساب‌های کاربری مجازی ایجاد کرده و دسته‌بندی جدیدی برای این هویت‌ها ارائه می‌دهند.
چندین شرکت امنیت سایبری هم‌اکنون محصولات جدیدی برای مدیریت «هویت‌های غیرانسانی» معرفی کرده‌اند؛ برای نمونه، شرکت «Okta» در فوریه پلتفرم کنترل یکپارچه‌ای برای محافظت از این هویت‌ها و نظارت بر رفتار آنها عرضه کرد.
نوشته کارمندان هوش مصنوعی سال آینده از راه می‌رسند اولین بار در خبرگزاری سیناپرس . پدیدار شد.
