احتمالاً شما هم مانند بسیاری از مردم جهان در طول روز برای یافتن پاسخ به سؤالهای مختلف خود از هوش مصنوعی و بهویژه چت جیپیتی استفاده کردهاید؛ از پرسش درباره تاریخ و علم گرفته تا ترجمه، برنامهنویسی و حتی پیشنهاد پخت غذا. اما سؤال مهم این است: چگونه یک سامانه رایانهای میتواند درباره این همه موضوع متفاوت پاسخ بدهد؟ آیا واقعاً همه این اطلاعات را میداند یا پشت این پاسخهای ظاهراً ساده، فرایند پیچیدهتری در جریان است؟
به گزارش سیناپرس، یا تاکنون از خود پرسیدهاید که چگونه یک سامانه رایانهای میتواند در کسری از ثانیه به پرسشهای پیچیده شما پاسخ دهد، شعر بسراید یا مسئلهای علمی را توضیح دهد؟ این سؤال برای میلیونها نفر مطرح است، اما کمتر کسی از سازوکار دقیق آن آگاه است. در واقع پاسخ به این پرسش ما را به یکی از مهمترین فناوریهای عصر حاضر میرساند؛ فناوریای که در ظاهر مانند یک انسان با کاربر گفتوگو میکند، اما در پشت این گفتوگوی ساده، شبکهای بسیار پیچیده از الگوریتمها، دادهها، محاسبات ریاضی و روشهای یادگیری ماشین قرار دارد.
چت جیپیتی نمونهای از مدلهای زبانی بزرگ یا Large Language Models است. برخلاف تصور عمومی، این سامانه یک کتابخانه دیجیتال نیست که میلیونها کتاب و مقاله را در خود ذخیره کرده باشد و هنگام دریافت سؤال، پاسخ را از یک صفحه مشخص استخراج کند بلکه سازوکار اصلی آن بر پایه یادگیری الگوهای زبان و سپس تولید پاسخ بر اساس این الگوها در همان لحظه خاص است.
در جریان آموزش، مدل با حجم بسیار بزرگی از دادههای متنی مواجه شده و میآموزد عناصر مختلف زبان چگونه با یکدیگر ارتباط دارند. یکی از اصول بنیادی این فرایند، پیشبینی بخش بعدی متن است. برای مثال، اگر جملهای با عبارت «پایتخت ایران…» آغاز شود، مدل احتمال میدهد که واژه «تهران» ادامه مناسبی برای آن باشد. البته مدلهای پیشرفته امروزی این کار را در مقیاسی بسیار پیچیدهتر و با در نظر گرفتن ارتباط میان تعداد بسیار زیادی از عناصر متن انجام میدهند.
گزارش فنی GPT-4 که در سال ۲۰۲۳ منتشر شد، توضیح میدهد که مدل پایه این سامانه با هدف پیشبینی توکن بعدی در متن آموزش داده شده است. توکن میتواند یک کلمه کامل، بخشی از یک کلمه یا حتی یک علامت نگارشی باشد. بنابراین، پاسخ نهایی در بسیاری از موارد از پیش به صورت یک متن کامل در حافظه مدل ذخیره نشده، بلکه هنگام تعامل با کاربر تولید میشود.
باید توجه داشت پیشبینی واژه بعدی به تنهایی توضیح نمیدهد که چرا پاسخهای چت جیپیتی تا این اندازه منسجم و شبیه گفتوگوی انسانی هستند. بخش مهمی از این توانایی به شبکههای عصبی عمیق مربوط میشود. این شبکهها از تعداد بسیار زیادی پارامتر ریاضی تشکیل شدهاند که در جریان آموزش تغییر میکنند تا مدل بتواند روابط پیچیده میان واژهها، مفاهیم و ساختارهای زبانی را بهتر شناسایی کند.
در مرحله بعد، مدل باید یاد بگیرد چگونه به دستور انسان پاسخ دهد. یکی از روشهای مهم در این زمینه، یادگیری تقویتی از بازخورد انسانی است. در پژوهشی که OpenAI در سال ۲۰۲۲ درباره مدل InstructGPT منتشر کرد، ارزیابهای انسانی پاسخهای مختلف مدل را مقایسه و رتبهبندی کردند و این بازخورد برای آموزش مدلی مورد استفاده قرار گرفت که بتواند دستورهای کاربران را بهتر دنبال کند و پاسخهای مناسبتری ارائه دهد.
به زبان ساده، مدل در این فرایند فقط یاد نمیگیرد که چه کلمهای باید بعد از چه کلمهای بیاید، بلکه میآموزد چگونه درخواست کاربر را تفسیر و پاسخ خود را متناسب با آن تنظیم کند.
با این حال، همین فناوری پیشرفته یک محدودیت مهم نیز دارد: چت جیپیتی همیشه درست جواب نمی دهد. پاسخ ممکن است کاملاً روان، منطقی و حتی بسیار مطمئن به نظر برسد، اما بخشی از آن نادرست باشد. این پدیده در حوزه هوش مصنوعی با عنوان «توهم هوش مصنوعی» شناخته میشود.
OpenAI در پژوهشی منتشرشده در سال ۲۰۲۵ درباره این پدیده توضیح داده است که یکی از مشکلات اساسی مدلهای زبانی آن است که برخی روشهای ارزیابی میتوانند مدل را به حدس زدن تشویق کنند؛ در حالی که در برخی شرایط، گفتن «نمیدانم» یا اعلام عدم اطمینان پاسخ صحیحتری است.
بنابراین، پاسخ به این پرسش که چت جیپیتی چگونه جواب همه سؤالها را میدهد؟ این نیست که این سامانه همه چیز را میداند.
همین موضوع یک پیام مهم برای کاربران دارد: روان و قانعکننده بودن یک پاسخ، الزاماً به معنای درست بودن آن نیست و توصیه می شود مطلقا چشم بسته به هوش مصنوعی اعتماد نکرده و هرچه موضوع حساستر و تخصصیتر باشد، مانند پزشکی، حقوق، تاریخ یا مسائل علمی، ضرورت بررسی پاسخ با منابع معتبر نیز بیشتر میشود.
شاید بهتر باشد که بگوییم باید چت جیپیتی را نه یک «دانای کل دیجیتال»، بلکه یک ابزار بسیار پیشرفته برای پردازش، تحلیل و تولید زبان و اطلاعات بدانیم؛ ابزاری که میتواند در چند ثانیه کاری را انجام دهد که پیش از این نیازمند ساعتها جستوجو و پردازش انسانی بود، اما همچنان برای تشخیص صحت و اعتبار اطلاعات به قضاوت و راستیآزمایی انسان نیاز دارد. در نهایت این فناوری نه جادو، بلکه حاصل سالها پژوهش علمی و مهندسی دقیق است که همچنان در حال تکامل بوده و درک سازوکار آن به ما کمک میکند تا هم از قابلیتهایش بهرهمند شویم و هم انتظارات واقعبینانهای از آن داشته باشیم.
گزارش: نیروانا محمدحسینی
