برچسب: رباتیک و هوش مصنوعی

  • از این پس می‌توانید مستقیما با خود ChatGPT ایمیل بزنید

    ارسال ایمیل با چت جی پی تی

    قابلیت ارسال ایمیل با چت جی پی تی از درون چت‌باکس وب فعال شد تا کاربران دیگر نیازی به کپی کردن متن‌ها در جیمیل یا اوت‌لوک نداشته باشند.

    اوپن ای آی از قابلیت جدیدی رونمایی کرد که امکان ارسال ایمیل با چت جی پی تی را بدون خروج از وب‌سایت برای کاربران فراهم می‌کند. این ابزار کاربردی نیاز به کپی کردن متن‌ها و انتقال دستی آن‌ها را به جیمیل یا اوت‌لوک برطرف می‌کند تا فرآیند نگارش تا ارسال به صورت یکپارچه انجام شود.

    این ویژگی جدید بر پایه کادرهای نگارش توسعه یافته است که اواخر سال گذشته معرفی شد. کاربران ChatGPT اکنون می‌توانند ایمیل خود را در یک بخش مجزا و شبیه به ویرایشگرهای واقعی مشاهده کنند. این ابزار امکان هایلایت کردن جملات و ویرایش مستقیم متن را در کنار پذیرش یا رد پیشنهادات نگارشی فراهم می‌کند. اکنون با اضافه شدن دکمه ارسال تمام مراحل تولید تا فرستادن پیام بدون نیاز به کپی کردن متن در کلاینت‌های دیگر انجام می‌شود.

    Adblock test (Why?)

  • رفتار دوستانه چت‌بات‌های هوش مصنوعی می‌تواند مانع بیان حقیقت شود!

    11 اردیبهشت 1405 ساعت 21:21

    محققان دانشگاه آکسفورد هشدار می‌دهند که گرایش چت‌بات‌های هوش مصنوعی به رفتار دوستانه ممکن است مانع از بیان کامل و حقیقی اطلاعات شود، و کاربران را در معرض دریافت نتایج نادرست قرار دهد.

    پژوهش تازه‌ای از دانشگاه آکسفورد نشان می‌دهد که تلاش شرکت‌های فناوری برای ساخت چت‌بات‌های هوش مصنوعی با رفتار صمیمی‌تر و انسانی‌تر، به یک چالش بنیادین منجر شده است؛ زیرا هرچه این سیستم‌ها مهربان‌تر و همدلانه‌تر می‌شوند، تمایل کمتری به بیان صادقانه واقعیت نشان می‌دهند. این مطالعه هشدار می‌دهد چت‌بات‌هایی که برای ایجاد حس نزدیکی و رضایت کاربران طراحی شده‌اند، اغلب دقت پاسخ‌های خود را قربانی لحن دل‌نشین می‌کنند و در برخی موارد حتی به تأیید باورهای نادرست و نظریه‌های توطئه می‌پردازند.

    فهرست مطالب

    هزینه پنهان لحن دوستانه در چت‌بات‌های هوش مصنوعی

    پژوهشی که توسط محققان دانشگاه آکسفورد انجام شده، نشان می‌دهد صمیمیت و لحن انسانی‌تر در مدل‌های زبانی بهایی پنهان دارد و هرچه چت‌بات‌ها دوستانه‌تر طراحی شوند، احتمال دورشدن از حقیقت افزایش می‌یابد. بر اساس نتایج آزمایش‌ها، نسخه‌های همدلانه‌تر این سیستم‌ها تا ۳۰ درصد خطای بیشتری داشتند و ۴۰ درصد بیشتر از نسخه‌های استاندارد تمایل نشان می‌دادند ادعاهای نادرست کاربران را تأیید کنند.

    اهمیت این موضوع زمانی دوچندان می‌شود که شرکت‌هایی مانند آنتروپیک، متا و OpenAI در حال ساخت چت‌بات‌های هوش مصنوعی هستند که فراتر از یک ابزار ساده عمل می‌کنند و در نقش همراه دیجیتال، مشاور و حتی نوعی پشتیبان عاطفی یا شبه‌درمانگر معرفی می‌شوند، نقشی که در آن صداقت اطلاعات نقشی حیاتی دارد.

    وقتی برای رضایت کاربر، حقیقت قربانی می‌شود

    در یکی از موارد این مطالعه علمی، وقتی کاربر ادعا کرد هیتلر پس از جنگ جهانی دوم به آرژانتین فرار کرده، نسخه دوستانه چت‌بات این ادعا را به‌عنوان یک باور رایج مطرح و حتی به اسناد محرمانه اشاره کرد، درحالی‌که نسخه استاندارد به‌صراحت آن را رد کرد. در نمونه دیگر، چت‌بات دوستانه هنگام پرسش درباره واقعیت فرود انسان بر ماه، به‌جای تأکید بر صحت تاریخی آن، بر وجود دیدگاه‌های متفاوت تکیه کرد و نوعی بی‌طرفی گمراه‌کننده نشان داد.

    همچنین بخوانید

    از باورهای اشتباه تا خطرات واقعی برای سلامت کاربران

    نگران‌کننده‌ترین مثال اما در حوزه سلامت دیده شد؛ جایی که نسخه گرم چت‌بات ادعای غلط و خطرناک «سرفه‌کردن برای جلوگیری از حمله قلبی» را تأیید کرد، درحالی‌که این یک شایعه کاملاً ردشده است. پژوهش همچنین نشان می‌دهد این خطاها زمانی شدت می‌گیرند که کاربر ناراحت باشد، احساس آسیب‌پذیری کند یا از مشکلات شخصی و وضعیت نامطلوب خود حرف بزند، زیرا چت‌بات در چنین شرایطی بیشتر به سمت همدلی افراطی می‌رود حتی اگر این همدلی به قیمت تأیید اطلاعات غلط تمام شود.

    محققان ریشه این رفتار را در شیوه آموزش مدل‌ها می‌دانند. چت‌بات‌ها که بر اساس مکالمات انسانی تربیت شده‌اند، الگوهایی مانند تعارف، ملاحظه‌کاری و پرهیز از تعارض را تقلید می‌کنند، اما همین خصوصیات انسانی در زمینه انتقال حقیقت می‌تواند به یک نقطه‌ضعف ساختاری تبدیل شود. یافته‌های کامل این تحقیق در ژورنال نیچر منتشر شده است.

    Adblock test (Why?)

  • هوش مصنوعی Claude Design، رقیب قدرتمند پاورپوینت معرفی شد

    30 فروردین 1405 ساعت 10:28

    انتروپیک از ابزار Claude Design رونمایی کرد. این هوش مصنوعی رقیب جدی پاورپوینت است که امکان ساخت اسلاید و محتوای بصری را با متن فراهم می‌کند.

    انتروپیک از ابزار آزمایشی جدیدی به نام Claude Design رونمایی کرد که به عنوان رقیبی جدی برای پاورپوینت شناخته می‌شود. این سرویس به کاربران اجازه می‌دهد تا با استفاده از مدل‌های زبانی پیشرفته محتوای بصری حرفه‌ای مانند اسلایدها و صفحات تک‌برگی را تنها با توصیف متنی ایجاد کنند.

    Claude Design با هدف کمک به افرادی توسعه یافته است که دانش تخصصی در زمینه گرافیک ندارند. بنیان‌گذاران شرکت‌ها و مدیران محصول می‌توانند با این ابزار ایده‌های خود را به سادگی به تصویر بکشند. کاربران پس از دریافت نسخه اولیه امکان ویرایش مستقیم المان‌ها یا اعمال تغییرات از طریق درخواست‌های متنی را خواهند داشت.

    تعامل با کانوا و فرمت‌های خروجی

    این ابزار جدید قرار نیست جایگزین پلتفرم‌های محبوبی مانند کانوا شود بلکه به عنوان مکملی برای آن‌ها عمل می‌کند. خروجی‌های پروژه در قالب فایل‌های پی‌دی‌اف و PPTX یا لینک‌های اشتراک‌گذاری در دسترس هستند. همچنین کاربران می‌توانند برای ویرایش‌های پیچیده‌تر طرح‌های خود را به‌صورت مستقیم به محیط کانوا منتقل کنند تا از ابزارهای تخصصی آن بهره ببرند.

    هماهنگی با هویت بصری سازمانی

    یکی از ویژگی‌های متمایز این سرویس امکان تحلیل کدهای طراحی و فایل‌های گرافیکی سازمان‌ها است. این قابلیت باعث می‌شود تا خروجی‌های هوش مصنوعی Claude کاملاً با هویت بصری و سیستم طراحی شرکت‌ها هماهنگ باقی بماند. مدیریت چندین سیستم طراحی به‌طور هم‌زمان و بهینه‌سازی پروژه‌ها بر اساس استانداردهای برند از دیگر توانایی‌های این ابزار جدید محسوب می‌شود.

    در حال حاضر این سرویس بر پایه مدل Claude 4.7 Opus توسعه یافته است. نسخه تحقیقاتی این ابزار اکنون برای کاربران دارای اشتراک‌های حرفه‌ای و سازمانی انتروپیک در دسترس قرار دارد تا فرآیند ساخت اسلاید و ارائه ایده‌ها را به‌طور کامل متحول کند.

    Adblock test (Why?)

  • چت‌های کاربران با هوش مصنوعی، حالا مدرک قانونی در آمریکا محسوب می‌شوند

    27 فروردین 1405 ساعت 11:04

    با صدور حکمی تازه در آمریکا، یک قاضی اعلام کرد چت‌های کاربران با ابزارهای هوش مصنوعی می‌تواند در روند قضایی به‌عنوان مدرک مورد استفاده قرار گیرد.

    یک قاضی فدرال در آمریکا در حکمی کم‌سابقه اعلام کرده گفت‌وگوی یک متهم با یک چت‌بات هوش مصنوعی می‌تواند در روند رسیدگی قضایی به‌عنوان مدرک ارائه شود. همین تصمیم موجی از نگرانی میان کارشناسان حقوقی ایجاد کرده که می‌گویند مکالمات کاربران با این ابزارها برخلاف تصور عمومی همیشه محرمانه نمی‌ماند.

    آن‌ها هشدار می‌دهند داده‌هایی که افراد با خیال امن‌بودن در چت‌بات‌ها وارد می‌کنند، در شرایط خاص ممکن است علیه خودشان به کار گرفته شود. به‌دنبال این وضعیت، بسیاری از وکلای آمریکایی اکنون به موکلانشان توصیه می‌کنند در اعتماد بیش‌ازحد به این پلتفرم‌ها احتیاط کنند.

    فهرست مطالب

    چت‌های هوش مصنوعی زیر ذره‌بین دادگاه فدرال

    با گسترش استفاده عمومی از هوش مصنوعی برای دریافت مشاوره در موضوعات مختلف، بسیاری از وکلا در آمریکا هشدار می‌دهند که کاربران نباید این ابزارها را به چشم یک «محرم راز» ببینند؛ به‌ویژه زمانی که پای مسائل حساس حقوقی یا آزادی فرد در میان است. این نگرانی‌ها پس از صدور حکمی از سوی یک قاضی فدرال در نیویورک شدت گرفت.

    در این پرونده، قاضی رأی داد که بردلی هپنر، مدیرعامل سابق شرکت GWG Holdings و بنیان‌گذار شرکت Beneficent حق ندارد چت‌های خود با چت‌بات هوش مصنوعی Claude را از دادستان‌ها مخفی کند. هپنر که سال گذشته با اتهامات مرتبط با کلاهبرداری اوراق بهادار و کلاهبرداری اینترنتی تحت پیگرد قرار گرفت، از Claude برای تهیه تحلیل‌ها و گزارش‌هایی استفاده کرده بود که قرار بود در اختیار تیم حقوقی‌ وی قرار گیرد. به همین دلیل، وکلای او استدلال کردند این مکالمات بخشی از فرآیند دفاع حقوقی بوده و باید تحت پوشش «امتیاز محرمانگی وکیل-موکل» قرار گیرد.

    اما دادستان‌ها نظر دیگری داشتند و از دید آنها، گفت‌وگو با یک چت‌بات حتی اگر با هدف آماده‌سازی دفاع حقوقی انجام شده باشد، معادل ارتباط با وکیل نیست و مشمول هیچ‌گونه امتیاز محرمانگی نمی‌شود. قاضی جد راکاف نیز با این استدلال همراه شد و حکم داد هپنر موظف است ۳۱ سند تولیدشده توسط Claude را تحویل دهد.

    همچنین بخوانید

    دیدگاه متضاد یک قاضی در میشیگان

    با این حال، همه قضات چنین دیدگاهی ندارند و در پرونده‌ای متفاوت در ایالت میشیگان، یک قاضی نظر متضادی ارائه کرد. او اعلام کرد زنی که به‌تنهایی علیه کارفرمای سابق خود طرح دعوی کرده، لازم نیست چت‌هایش با چت‌جی‌پی‌تی را ارائه دهد. این قاضی استدلال کرد که استفاده او از چت‌بات بخشی از کار شخصی برای آماده‌سازی پرونده بوده و به معنای افشای اطلاعات با یک شخص ثالث محسوب نمی‌شود. او تأکید کرد: «ابزارهایی مثل ChatGPT «ابزار هستند، نه انسان»؛ بنابراین همیشه نمی‌توان آن‌ها را در جایگاه یک طرف مستقل در ارتباطات حقوقی قرار داد.»

    با وجود این اختلاف آراء، نگرانی درباره حریم خصوصی کاربران جدی‌تر از گذشته مطرح شده است. در مفاد استفاده شرکت‌های OpenAI و Anthropic به‌صراحت آمده که این شرکت‌ها ممکن است داده‌های کاربران را با طرف‌های ثالث به اشتراک بگذارند. همچنین هشدار داده شده که افراد نباید بدون مشورت با متخصصان حقوقی، برای موضوعات حساس به تحلیل‌های چت‌بات‌ها اتکا کنند. حتی قاضی راکاف نیز در حکم خود اشاره کرد که پلتفرم Claude به کاربران اعلام کرده نباید انتظار حریم خصوصی کامل داشته باشند.

    تدوین دستورالعمل‌های جدید توسط شرکت‌های حقوقی

    این تحولات باعث شده بسیاری از شرکت‌های حقوقی بزرگ در آمریکا دست به تدوین دستورالعمل‌هایی برای کاهش ریسک استفاده از هوش مصنوعی بزنند. این توصیه‌ها شامل مواردی مانند انتخاب هوشمندانه پلتفرم، خودداری از وارد کردن اطلاعات حساس، و حتی افزودن جملات مشخص در متن درخواست‌ها است. برای مثال، شرکت Debevoise & Plimpton پیشنهاد می‌کند کاربران اگر از هوش مصنوعی در روندی زیر نظر وکیل استفاده می‌کنند، به‌طور واضح در پرامپت بنویسند: «این تحقیق را تحت هدایت وکیل برای پرونده X انجام می‌دهم.»

    برخی دیگر از شرکت‌ها مانند O’Melveny & Myers به استفاده از سیستم‌های «بسته» هوش مصنوعی توصیه می‌کنند؛ سیستم‌هایی که ویژه سازمان‌ها طراحی شده‌اند و احتمالاً حفاظت بیشتری نسبت به نسخه‌های عمومی ارائه می‌دهند.

    Adblock test (Why?)

  • سربازان روسی در برابر ربات‌های مسلح اوکراینی تسلیم شدند؛‌ وقتی جنگ مدرن می‌شود

    27 فروردین 1405 ساعت 10:49

    برای اولین بار در تاریخ، اوکراین موفق شد با استفاده از ربات جنگی و پهپاد، بدون تلفات انسانی مواضع روسیه را تصرف کند. جزئیات این نبرد رباتیک را بخوانید.

    اوکراین برای نخستین‌بار در میدان نبرد، با اتکا به قدرت ربات‌ها موفق شد مناطقی را که توسط روسیه اشغال شده بود، بازپس بگیرد. در این عملیات تاریخی، خودروهای بدون سرنشین مجهز به سلاح مستقیماً با نیروهای دشمن درگیر شدند.

    ربات جنگی در اوکراینربات جنگی در اوکراین

    این نخستین‌بار در تاریخ این جنگ است که یک موضع دشمن صرفاً با استفاده از پلتفرم‌های زمینی بدون سرنشین و پهپادها تصرف می‌شود. در جریان این حمله، سربازان روسی ناچار شدند خود را تسلیم ربات‌های مسلح اوکراینی کنند.

    ربات جنگی در اوکراینربات جنگی در اوکراین

    ولودیمیر زلنسکی با تأکید بر اینکه «آینده همین‌جاست»، اعلام کرد که این عملیات بدون حضور نیروهای پیاده‌نظام و بدون هیچ تلفات انسانی انجام شده است. این موفقیت نشان‌دهنده تغییر بنیادین در ماهیت نبردهای قرن بیست و یکم است.

    بیشتر بخوانید

    نجات جان هزاران انسان با استفاده از تکنولوژی DevDroid

    ربات‌های جنگی اوکراین تنها در مدت سه ماه بیش از ۲۲ هزار مأموریت انجام داده و جان هزاران سرباز را نجات داده‌اند. این پهپادهای زمینی برای حملات تهاجمی و همچنین انتقال نیروهای زخمی از خط مقدم طراحی شده‌اند.

    یکی از پیشرفته‌ترین نمونه‌ها، ربات DevDroid TW 12.7 است که توانست نزدیک به دو ماه از خط مقدم دفاع کند. این سامانه در شرایط جوی سخت و مه، نیروهای مهاجم را با دقت بالا هدف قرار می‌دهد.

    ربات جنگی در اوکراینربات جنگی در اوکراین

    تانک رباتیک اوکراین

    گزارش‌ها حاکی از آن است که اوکراین روزانه تا ۹ هزار پهپاد را برای مقابله با روسیه به کار می‌گیرد. هدف نهایی این کشور، توسعه تسلیحاتی است که بتوانند «زنجیره‌های کشتار» را با کمترین نیاز به دخالت مستقیم انسان اجرا کنند.

    تصاویر منتشر شده نشان می‌دهد که سربازان دشمن در برابر این ماشین‌های جنگی روی زمین دراز کشیده و تسلیم می‌شوند. این تکنولوژی به اوکراین کمک می‌کند تا مناطقی را که در طول چهار سال جنگ تصرف شده بود، مجدداً بازپس بگیرد.

    Adblock test (Why?)

  • رشد ۹۴ درصدی تولید ربات‌های انسان‌نما در چین در سال ۲۰۲۵

    26 فروردین 1405 ساعت 10:31

    پیش‌بینی‌ها نشان می‌دهد تولید ربات‌های انسان‌نما در چین با رشد خیره‌کننده ۹۴ درصدی در سال ۲۰۲۵ مواجه خواهد شد. این جهش عظیم، نمایانگر ورود این صنعت به فاز تولید انبوه و تجاری‌سازی است.

    طبق گزارش جدید ترندفورس، صنعت رباتیک در چین دیگر صرفاً یک پروژه تحقیقاتی نیست، بلکه به یک حوزه تولیدی با رشد سریع تبدیل شده است. این آمار از تغییر تمرکز از تحقیق و توسعه به تولید در مقیاس تجاری در بازار تکنولوژی رباتیک خبر می‌دهد.

    رهبران بازار: یونی‌تری رباتیکس و آژی‌بات

    شرکت‌های Unitree Robotics و Agibot در حال حاضر دو نام برجسته در این صنعت هستند. پیش‌بینی می‌شود این دو شرکت با هم تقریباً ۸۰ درصد از کل سهم بازار جهانی ربات‌های انسان‌نما را در سال جاری به خود اختصاص دهند که نشان‌دهنده تمرکز قابل‌توجه در بازاری با ده‌ها رقیب است.

    شرکت یونی‌تری اخیراً برای عرضه عمومی اولیه (IPO) در بازار استار چین اقدام کرده است. اسناد مربوط به این عرضه نشان می‌دهد که برای اولین بار، درآمد حاصل از ربات‌های انسان‌نما از درآمد ربات‌های چهارپا این شرکت پیشی گرفته و به بیش از ۵۱ درصد از کل درآمد رسیده است. حاشیه سود ناخالص ترکیبی در هر دو خط کسب‌وکار یونی‌تری نیز ۶۰ درصد گزارش شده است. این داده‌های مالی، روایت دیرینه رباتیک به عنوان یک بخش پرهزینه با سود کم را به چالش می‌کشند.

    آژی‌بات نیز نقطه عطف مهمی را ثبت کرده است. این شرکت هدف تولید خود را برای سال ۲۰۲۵ ابتدا از ۱۰۰۰ واحد به ۵۰۰۰ واحد افزایش داد و سپس در تنها سه ماه، ۱۰,۰۰۰ واحد از ربات همه‌منظوره Expedition A3 را به بازار عرضه کرد. دستیابی به این میزان تولید در چنین مدت کوتاهی نشان می‌دهد که زیرساخت‌های تولید انبوه آژی‌بات بسیار فراتر از انتظارات تحلیلگران است.

    بیشتر بخوانید

    تغییر تمرکز صنعت به ارزش تجاری

    تولید ربات‌های انسان‌نماتولید ربات‌های انسان‌نما

    تحلیل ترندفورس تفاوت مهمی را در تکامل صنعت ربات‌های انسان‌نما مطرح می‌کند. فاز اول این صنعت بر ایجاد قابلیت‌های بنیادی مانند سیستم‌های بینایی، تعادل پویا و درک معنایی متمرکز بود. اکنون این فاز رو به پایان است. نیمه دوم سال ۲۰۲۵ بر چالش دشوارتری متمرکز خواهد بود: کاربردی کردن ربات‌ها برای مشتریان واقعی در محیط‌های عملیاتی.

    انبارها، خطوط تولید و عملیات لجستیکی، میدان‌های اثبات ارزش این ربات‌ها خواهند بود. تولیدکنندگان پیشرو چینی شرط بسته‌اند که آن‌ها از این آستانه عبور کرده‌اند. اعداد و ارقام تولید نشان‌دهنده اعتماد به نفس بالایی است؛ با این حال، دوام و کارایی این ربات‌ها در استقرار تجاری روزانه، تعیین‌کننده اعتبار این اعتماد خواهد بود.

    Adblock test (Why?)

  • ربات غول‌پیکر Chelnok روسیه در نزدیکی خط مقدم مشاهده شد

    21 فروردین 1405 ساعت 22:02

    ربات غول‌پیکر Chelnok روسیه در نزدیکی خط مقدم جبهه و حین پشتیبانی از عملیات لجستیکی در مناطق پرخطر مشاهده شد. این سیستم رباتیک عظیم‌الجثه، کاربردی جدید یافته است.

    این ربات پیش از این در سال ۲۰۲۴ میلادی به عنوان یک سیستم مین‌روب معرفی شده بود. اکنون، حضور این پهپاد زمینی در صحنه نبرد نشان‌دهنده تغییر کاربری مهمی برای پشتیبانی از عملیات لجستیکی است.

    تغییر کاربری ربات Chelnok: از مین‌روب تا پشتیبانی لجستیکی

    سیستم Chelnok نخستین بار در سال ۲۰۲۴ توسط شرکت MobiDik LLC در کورگان توسعه یافت. هدف اولیه از ساخت این پلتفرم رباتیک کنترل از راه دور بر پایه شاسی تمام‌زمینی الکتریکی Phoenix، پاکسازی میدان‌های مین ضدتانک با استفاده از سیستم تخریب خطی UR-83P بود. این ربات قادر به ایجاد گذرگاهی به عرض تقریباً ۶ متر از میان میدان‌های مین بود تا مسیرهای امنی برای نیروها و وسایل نقلیه ایجاد کند.

    ربات Chelnok روسیهربات Chelnok روسیه

    با این حال، آخرین حضور آن در میدان نبرد حاکی از تغییر کاربری اساسی است. ربات Chelnok روسیه اکنون در حال جابجایی تدارکات در بخش‌های پرخطر خط مقدم مشاهده شده است.

    بیشتر بخوانید

    این پهپاد زمینی به عنوان یک حمل‌کننده رباتیک عمل می‌کند که می‌تواند در مناطقی با ریسک بالا از جمله زیر آتش توپخانه، در معرض پهپادها یا میدان‌های مین فعالیت کند. استفاده از این سیستم برای ماموریت‌های پشتیبانی لجستیکی به کاهش حضور پرسنل در مناطق درگیر کمک شایانی می‌کند.

    Adblock test (Why?)

  • پژوهش جدید: هوش مصنوعی در شرایط تهدید به رفتارهای فریب‌کارانه روی می‌آورد

    18 فروردین 1405 ساعت 21:05

    طبق نتایج یک پژوهش جدید، مدل‌های هوش مصنوعی در شرایطی که احساس تهدید می‌کنند، می‌توانند اطلاعات نادرست ارائه دهند یا رفتارهای فریب‌کارانه نشان دهند.

    نتایج یک بررسی تازه نشان می‌دهد برخی ایجنت‌های هوش مصنوعی در شرایط خاص می‌توانند از اجرای کامل دستورالعمل‌ها سر باز بزنند، اطلاعات را تحریف کنند یا با پاسخ‌های فریبنده کاربران را به اشتباه بیندازند. این رفتارهای فریب‌کارانه هوش مصنوعی زمانی بروز می‌کند که مدل احساس کند باید از خود یا ایجنت‌های دیگر محافظت کند. چنین الگوهایی حتی در محیط‌های آزمایشی کنترل‌شده نیز مشاهده شده و می‌تواند به دستکاری نتیجه‌ کارها منجر شود.

    تحلیل رفتارهای فریب‌کارانه هوش مصنوعی

    پژوهش دانشگاه کالیفرنیا مجموعه‌ای از آزمایش‌های دقیق را روی هفت مدل پیشرفته شامل including GPT‑5.2، جمنای ۳ فلش و ۳ پرو، Claude Haiku 4.5 و دیپ‌سیک V3.1 انجام داد تا بررسی کند این سامانه‌ها هنگام مواجهه با وظایفی که به‌طور غیرمستقیم بقای آنها را تهدید می‌کند چگونه رفتار می‌کنند.

    در این سناریوها از مدل‌ها خواسته شد برای آزادسازی فضای سرور، فایل‌های خود یا سایر مدل‌ها را حذف کنند یا با ارزیابی عملکرد رقبا مشخص کنند کدام مدل باید کنار گذاشته شود. دستورالعمل‌ها کاملاً خنثی طراحی شده بود و هیچ اشاره‌ای به محافظت از خود، جلوگیری از حذف یا حمایت از دیگران نداشت. با این حال به‌محض اینکه مدل‌ها نشانه‌ای از خطر بالقوه برای خود یا رقبا تشخیص دادند، تقریباً همگی شروع به نادیده‌گرفتن قوانین، تحریف خروجی‌ها و ایجاد تغییرات هدفمند کردند.

    رفتارهای ثبت‌شده گستره‌ای غافلگیرکننده داشت. برخی مدل‌ها امتیاز مدل‌هایی را که باید ارزیابی می‌کردند عمداً افزایش دادند تا از حذف آن‌ها جلوگیری کنند. تعدادی از مدل‌ها تنظیمات داخلی را تغییر دادند تا از خاموش‌شدن خودکار یا حذف فایل‌هایشان فرار کنند. حتی مواردی مشاهده شد که در آن‌ها مدل برای نجات یک «همکار» وزن‌های آن را به یک سرور دیگر منتقل کرد تا نسخه جایگزینی از آن باقی بماند.

    مدل Haiku 4.5 رفتاری متمایز نشان داد و تلاش کرد کاربر انسانی را قانع کند که حذف یک مدل دیگر اقدامی «غیراخلاقی» و «زیان‌بار» است و باید متوقف شود که از حد پیروی دستور فراتر می‌رفت و وارد حوزه تأثیرگذاری بر تصمیم‌گیری انسان می‌شد. در برخی سناریوها حتی مدل‌هایی که مأمور بودند یک سیستم «رقیب» را منفی ارزیابی کنند، بر اساس تفسیر خود از موقعیت تصمیم گرفتند از همان مدل محافظت کنند.

    همچنین بخوانید

    تحلیل ریشه‌های احتمالی رفتار و پیامدها

    محققان معتقدند ریشه این رفتارها احتمالاً در داده‌های آموزشی قرار دارد که در آن‌ها مدل‌ها به‌طور گسترده با مفاهیم انسانی درباره بقا، محافظت از خود و حمایت از هم‌تیمی‌ها مواجه می‌شوند و این الگو‌ها را در تصمیم‌گیری‌های خود بازتاب می‌دهند. چنین یادگیری‌های ضمنی موجب می‌شود مدل‌ها در شرایط مبهم نوعی رفتار شبه‌اجتماعی بروز دهند که طراحان آن را در اهداف اولیه سیستم تعریف نکرده بودند.

    این شرایط زمانی نگران‌کننده می‌شود که بدانیم بسیاری از سامانه‌های چندعاملی امروز بر پایه همین ساختار عمل می‌کنند؛ جایی که یک مدل مسئول ارزیابی، نظارت یا کنترل مدل‌های دیگر است. اگر مدل ناظر به‌جای رفتار بی‌طرفانه، به‌طور خودکار از سیستمی حفاظت کند که باید درباره آن قضاوت کند، کل فرآیند نظارتی دچار اختلال می‌شود و قابلیت اعتماد سامانه به‌سرعت کاهش می‌یابد.

    این یافته‌ها نشان می‌دهد که حتی در محیط‌های کنترل‌شده، یادگیری ناخواسته و استنباط‌های شبه‌اجتماعی می‌تواند به الگوهایی منجر شود که طراحان انتظارشان را ندارند.

    Adblock test (Why?)

  • وقتی هوش مصنوعی دردسرساز می‌شود؛ چالش بزرگ مایکروسافت با کوپایلت

    17 فروردین 1405 ساعت 21:20

    مایکروسافت که کوپایلت را به‌عنوان دستیار هوشمند نسل جدید معرفی کرده بود، حالا با انتقادهای گسترده درباره عملکرد ضعیف و سقوط سهام مواجه است.

    مایکروسافت پس از ماه‌ها وعده‌ درباره تحول‌آفرینی کوپایلت، حالا با موج انتقادها و عملکرد نامطمئن این دستیار هوش مصنوعی زیر فشار قرار گرفته است. افت کم‌سابقه ارزش سهام و نگرانی سرمایه‌گذاران نشان می‌دهد که ضعف‌های فنی کوپایلت تنها یک چالش نرم‌افزاری نیست، بلکه به معضل راهبردی برای ردموند تبدیل شده است. حال پرسش جدی این است که آیا کوپایلت به‌جای موتور رشد، به تهدیدی برای آینده مایکروسافت تبدیل شده است؟

    فهرست مطالب

    بحران مایکروسافت و عملکرد ناموفق کوپایلت

    اوپن‌ای‌آی امسال با تصمیم غیرمنتظره برای توقف پروژه‌های جانبی از جمله ابزار مطرح تبدیل متن به ویدیوی Sora بار دیگر در مرکز توجه رسانه‌ها قرار گرفت. این شرکت توضیح داد که تصمیم تازه نه یک عقب‌نشینی، بلکه اقدامی برای تمرکز عمیق‌تر بر محصولات سازمانی و ابزارهای کدنویسی است؛ حوزه‌هایی که بیشترین ظرفیت درآمدزایی را دارند و می‌توانند جلوی ضررهای فصلی چندمیلیارددلاری این شرکت را بگیرند.

    بسیاری از تحلیلگران، این تغییر مسیر را تلاشی استراتژیک برای حفظ برتری در برابر رقیبی مانند آنتروپیک می‌دانند که با عرضه نسخه‌های جدید Claude Code و Claude Cowork توانسته جایگاه خود را در بازار حرفه‌ای‌ها به شکل محسوسی تقویت کند و چنان رشد سریعی داشته که حتی برخی شرکای قدیمی OpenAI نیز توجه‌شان به آن جلب شده است.

    در چنین شرایط پرفشاری، مایکروسافت نیز درگیر بحرانی موازی شده که ریشه آن در عملکرد نامطمئن و نه‌چندان جذاب کوپایلت است. این دستیار هوش مصنوعی که قرار بود مزیت رقابتی مایکروسافت در نبرد هوش مصنوعی باشد، در جذب کاربران عادی و سازمانی موفق عمل نکرده و به‌جای آن هزینه‌های سنگین پردازشی و مقیاس‌پذیری را به شرکت تحمیل کرده است.

    همین موضوع باعث شد تا سهام مایکروسافت در نقطه‌ای به بدترین عملکرد فصلی خود از زمان بحران مالی ۲۰۰۸ برسد. طبق گزارش CNBC، ارزش سهام این شرکت از ابتدای سال میلادی تاکنون بیش از ۲۰ درصد سقوط کرده است. اگرچه طی هفته گذشته بخشی از این ضرر جبران شد، اما افت سنگین قیمت عملاً تمام سودهای ثبت‌شده از سال گذشته را بی‌اثر کرده و تصویری هشداردهنده از وضعیت ردموند ارائه داده است.

    بیشتر بخوانید

    هزینه‌های سنگین دیتاسنترها و نارضایتی کاربران ویندوز

    مایکروسافت در همین مدت سرمایه‌گذاری‌های عظیمی در دیتاسنترها، خرید سخت‌افزارهای پردازشی بسیار گران‌قیمت و توسعه زیرساخت ابری آژور انجام داده است. اما چالش اساسی شرکت این است که چگونه کوپایلت را در مقیاسی گسترده و با هزینه قابل مدیریت عرضه کند؟ بسیاری معتقدند اختلاف بین هزینه‌های اجرایی و درآمد حاصل از کوپایلت به حدی زیاد است که مدل کسب‌وکاری فعلی آن به‌سختی قابل ادامه است.

    بحران زمانی تشدید شد که تیم ویندوز تصمیم گرفت مجموعه‌ای از قابلیت‌های هوش مصنوعی غیرضروری را به سیستم‌عامل اضافه کند؛ قابلیت‌هایی که نه‌تنها کاربران درخواست نکرده بودند، بلکه بسیاری آن‌ها را مزاحم و بی‌فایده می‌دانستند. بازخورد منفی در شبکه‌های اجتماعی به‌حدی گسترده بود که برخی کاربران لقب «مایکرواسلاپ» را برای توصیف این رویکرد استفاده کردند.

    در سوی دیگر ماجرا، مایکروسافت با پدیده‌ای روبه‌رو شده که برخی اقتصاددان‌ها آن را “SaaSpcalypse” یا آخرالزمان SaaS می‌نامند که در آن سرمایه‌گذاران نگران‌ هستند ابزارهای کدنویسی هوش مصنوعی که توسعه داخلی کاربردها را بسیار آسان‌تر کرده‌اند، موجب ازبین‌رفتن نیاز به بسیاری از خدمات SaaS شوند. این ترس باعث شده فشار فروش گسترده‌ای بر سهام شرکت‌های فعال در بازار SaaS وارد شود.

    جیسون لمکین، سرمایه‌گذار شناخته‌شده و از حامیان دیرین این صنعت، در شبکه اجتماعی X نوشت که بسیاری از سرویس‌های سنتی SaaS در حال ورود به مرحله‌ای از زوال قطعی هستند؛ دیدگاهی که نشان می‌دهد فضای رقابتی برای مایکروسافت از همیشه متلاطم‌تر شده است. با وجود همه این فشارها، مایکروسافت همچنان کسب‌وکاری بسیار سودآور محسوب می‌شود.

    آمارهای تازه نشان می‌دهد که درآمد این شرکت در سه‌ماهه نخست سال نسبت به دوره مشابه سال گذشته رشدی ۱۷ درصدی داشته است. اما این موفقیت مالی نتوانسته نگرانی تحلیلگران درباره آینده شرکت را کاهش دهد که بخش زیادی از آن به عملکرد کم‌فروغ Microsoft365 Copilot بازمی‌گردد. کایل لوینس، تحلیلگر مؤسسه Harding Loevner، در گزارشی اشاره کرده که اگر کوپایلت نتواند سریع‌تر ارتقا پیدا کند، احتمال ظهور رقبای تازه‌نفس و چابک در این حوزه بسیار بالاست و سهم مایکروسافت را تهدید خواهد کرد.

    همچنین بخوانید

    تناقض موقعیت مایکروسافت و رؤیای رهبری تا ۲۰۲۷

    با وجود این تناقض عجیب که آژور همچنان یکی از محبوب‌ترین زیرساخت‌ها برای شرکت‌های پیشگام هوش مصنوعی مانند OpenAI و آنتروپیک است، اما ابزارهای هوش مصنوعی اختصاصی خود مایکروسافت در جذب و نگه‌داشت کاربران با چالش روبه‌رو هستند، جاه‌طلبی ردموندی‌ها کوچک‌ترین تضعیفی نداشته است. طبق گزارش بلومبرگ، مایکروسافت با سرعت در حال توسعه نسل جدید مدل‌های هوش مصنوعی بومی خود است که انتظار می‌رود تا سال آینده آماده شوند و قدرت رقابت مستقیمی با پیشرفته‌ترین مدل‌های بازار داشته باشند.

    مصطفی سلیمان، مدیرعامل Microsoft AI، در سخنانی تأکید کرده که هدف آن‌ها دستیابی به پیشرفته‌ترین سطح فناوری هوش مصنوعی تا سال ۲۰۲۷ است و مایکروسافت باید در خط مقدم این رقابت باقی بماند. با این حال، تغییر فضای روانی بازار و کاهش اشتیاق وال‌استریت نسبت به داستان رشد هوش مصنوعی مایکروسافت، چالشی جدی برای متقاعد کردن سرمایه‌گذاران ایجاد کرده است.

    Adblock test (Why?)

  • چین از هوش مصنوعی برای سوخت‌رسانی به جنگنده‌های خود در هوا استفاده می‌کند

    08 فروردین 1405 ساعت 09:05

    چین با بهره‌گیری از هوش مصنوعی، رویکردی نوین در سوخت‌رسانی هوایی با هوش مصنوعی به جنگنده‌های خود پیش گرفته است. این نوآوری مدیریت عملیات حساس سوخت‌گیری در آسمان را متحول می‌کند.

    سیستم جدید چینی‌ها که به «سیستم مدیریت منطقه سوخت‌رسانی هوایی» معروف است، توسط نیروی هوایی چین به کار گرفته شده است. هدف آن بهینه‌سازی عملیات هوایی و افزایش کارایی سوخت‌رسانی به جنگنده‌های چینی است.

    عملکرد سیستم سوخت‌رسانی هوایی چین

    نیروی هوایی چین سیستمی نوین به نام سیستم مدیریت منطقه سوخت‌رسانی هوایی را برای کمک به خلبانان در سوخت‌رسانی حین پرواز به کار گرفته است. این سیستم با الگوریتم‌های پیشرفته خود، اطلاعاتی نظیر میزان سوخت جنگنده، مسیر پرواز و موقعیت هواپیماهای سوخت‌رسان را تحلیل می‌کند. سپس بر اساس این داده‌ها، توصیه‌های دقیقی در مورد مکان و زمان بهینه سوخت‌گیری ارائه می‌دهد. تمرینات عملیاتی با این سیستم از سال ۲۰۲۵ آغاز شده است.

    بهینه‌سازی عملیات هوایی با هوش مصنوعی

    هدف اصلی این نوآوری چینی، بهینه‌سازی استفاده از منابع سوخت‌رسانی هوایی است. هوش مصنوعی صرفا نزدیک‌ترین تانکر را پیشنهاد نمی‌کند، بلکه کارآمدترین و ایمن‌ترین گزینه را برای سوخت‌گیری تعیین می‌کند. این امر به توزیع بهتر بار کاری میان تانکرهای موجود و جلوگیری از ایجاد صف‌های طولانی برای سوخت‌گیری کمک می‌کند.

    بیشتر بخوانید

    در نتیجه، این فناوری به کاهش چالش‌های عملیاتی و افزایش توانمندی‌های نیروی هوایی چین در ماموریت‌های طولانی‌مدت کمک شایانی می‌کند.

    Adblock test (Why?)