یکی از محققان آنتروپیک پساز تجربهی کار با ایجنتهای خودمختار در پروژهی پیچیدهی شرکت مینویسد: «کلاد این کار را با کمترین کمک من طی یکی دو روز انجام داد. آینده همین حالا فرارسیده است.»
حالا کُندی انسان در تأیید کدها، بزرگترین مانع در برابر سرعت پردازندهها بهشمار میرود
اما سرعت باورنکردنی هوش مصنوعی در کدنویسی و توسعه، بحران جدیدی هم بههمراه دارد. در علوم رایانه، اصلی بهنام «قانون امداهل» (Amdahl’s law) میگوید حداکثر سرعت یک سیستم، توسط کُندترین بخش آن محدود میشود. وقتی هزینهی زمانی تولید کد، اجرای آزمایش و استخراج نتیجه، تا این حد پایین میآید، ترافیک در بخش انسان ناظر گیر میکند.
بهعبارتی با سرازیرشدن حجم انبوهی از کدهای جدید، «بررسی و تأیید نهایی کد توسط انسان» تبدیل به گلوگاه و مانع سرعت توسعه شده است. مدلها اکنون آنقدر ایده، ابزار و شبیهسازیهای جدید در ثانیه تولید میکنند که نیروی انسانی در هدایت و بررسی آنها به مشکل برمیخورد.
کپی لینک
سه سناریو برای عصر ماشینها
فکر میکنید باتوجهبه سرعت حیرتانگیز اتوماسیون، گام بعدی صنعت هوشمصنوعی چه خواهد بود؟ آیا این روند صعودی ادامه پیدا میکند و اگر چنین اتفاقی بیفتد، ما چه واکنش نشان میدهیم؟ نویسندگان گزارش آنتروپیک، سه سناریوی محتمل را برای آینده ترسیم میکنند:
مسیر اول؛ توقف روند و برخورد با محدودیتهای فیزیکی: شاید نمودارهای نمایی پیشرفت، در واقع منحنیهایی بهشکل حرف S باشند که بهزودی افقی و مسطح میشوند. در این سناریو، ممکن است معماریهای فعلی مانند ترانسفورمرها به نهایت ظرفیت خود برسند و عبور از بنبست، مستلزم کشفی جدید و بنیادین باشد.
شاید هم محدودیتهای زنجیرهی تأمین مانند کمبود تراشه، ظرفیت شبکههای برق و پهنای باند پیش از رسیدن به مرزهای هوشمندی، ترمز توسعه را بکشند.
شاید محدودیتهای زنجیره تأمین و معماری ترانسفورمرها، شیب نمودارهای پیشرفت هوش مصنوعی را کاهش دهد
آنتروپیک معتقد است حتی اگر پیشرفت هوش مصنوعی همین امروز و در همین سطح متوقف شود، باز هم جهان دستخوش تغییراتی بسیار جدی خواهد شد؛ بهعنوانمثال در پروژهی Glasswing، مدل پیشنمایش Mythos توانست تنها در چند هفته، بیشاز ۱۰هزار آسیبپذیری نرمافزاری حیاتی را در مهمترین سیستمهای جهان کشف کند.
در چنین سطحی از بلوغ، یک استارتاپ ۱۰۰ نفره میتواند خروجی یک سازمان ۱۰۰۰ نفره را داشته باشد؛ زیرا هر کارمند، در رأس هرمی از ایجنتهای خودمختار قرار میگیرد؛ اما هنوز شواهدی از کندشدن شیب رشد دیده نشده است و همین امر وقوع سناریوی اول را تقریبا منتفی میکند.
مسیر دوم؛ شتاب مرکب و بهرهوری بینهایت: سناریویی که انگار همین حالا واردش شدهایم، یعنی وقتی توسعهی سیستمها تا حد زیادی خودکار میشود؛ اما انسانها همچنان جهتگیری تحقیقات را تعیین و نتایج را ارزیابی میکنند.
در چنین دنیایی، شرکتهای ۱۰۰نفره میتوانند کارهایی را انجام دهند که پیشتر نیازمند ۱۰هزار یا حتی ۱۰۰هزار نیروی انسانی بود. در وهلهی نخست، خدمات دولتی و کارهای دانشی در مقیاس وسیع دگرگون میشوند.
حالا ابزارهای نظارت و دستکاری با هزینهای ناچیز در اختیار نهادهای سودجو قرار میگیرد
مسیر دوم، رویِ تاریکی هم دارد که نمیتوان نادیدهاش گرفت. ابزارهای نظارت و دستکاری که پیشتر نیازمند لشکری از نیروهای انسانی بود، حالا با هزینهای ناچیز در اختیار نیروهای تمامیتخواه قرار میگیرد تا عملیات تأثیرگذاری روانی را برای تکتک افراد جامعه شخصیسازی و پیاده کنند، آن هم در مقیاسی که هیچ تیمی از انسانها قادر به رقابت با آن نیست.
در نهایت نقش انسان در شرکتهای پیشرو، عمدتا به تلاش برای اعتبارسنجی خروجی ماشینها تقلیل مییابد.
مسیر سوم؛ خودبهبودی بازگشتی و حذف انسان: افراطیترین و درعینحال نگرانکنندهترین سناریوی گزارش آنتروپیک از دورانی میگوید که سیستمها قادر میشوند با بهکارگیری قابلیتی معادل نبوغ انسانی، مدلهای جانشین خود را طراحی و اصلاح کنند و توسعه دهند. ماشینها خود به طراح و توسعهدهندهی ماشینهای بعدی تبدیل میشوند.
در جهانی که با طیشدن مسیر سوم شکل میگیرد، سرعت پیشرفت هوش مصنوعی فقط و فقط به میزان توان پردازشی گره میخورد. انسانها از چرخهی توسعه خارج میشوند و صرفا نقش ناظرانی را در یک آزمایشگاه مجازی بینهایت بزرگ بهعهده دارند. پیشرفتهایی که از این مسیر حاصل میشود بهسرعت به سایر حوزههای علوم سرایت میکند و نرخ تولید دانش و کشفهای علمی را بهشکلی بیسابقه افزایش میدهد.
آیا مدلهای خودمختار، اخلاقیات و ارزشهای انسانی را نیز توسعه میدهند؟
درست در همین نقطه آنتروپیک نسبت به مسئلهی همراستایی هشدار میدهد؛ وقتی خودِ ماشینها، ماشینهای بعدی را میسازند، آیا مدلها آنقدر خردمند خواهند بود که اخلاقیات و ارزشهای انسانی را نیز توسعه دهند و در صورت لزوم ترمز پیشرفت را بکشند؟ یا شاید آن خطاهای نادر و جزئی که در مدلهای امروزی میبینیم، در فرآیند خودبهبودی سیستمها رویهم انباشته شوند و بهمرورزمان کار به جایی برسد که بشر برای همیشه کنترل ماشینها را از دست بدهد؟
بهزعم محققان گزارش آنتروپیک، پیشبینی اقتصاد و سازوکارهای چنین جهانی عملا غیرممکن است؛ چراکه با قدرتگرفتن ماشینی که خودش را بهتر میکند، کار انسانی دیگر هیچ توان رقابتی در بازار نخواهد داشت.
کپی لینک
برخورد هوش مصنوعی با دنیای واقعی؛ سرعت سیلیکون، ریتم انسان
گزارش آنتروپیک با نگاهی واقعبینانه یادآوری میکند که حتی اگر ماشینها در آزمایشگاههای دیجیتال به سطح خودبهبودی بازگشتی برسند و هوش خود را در کسری از ثانیه ارتقا دهند، برخورد آنها با دنیای فیزیکی و جوامع انسانی، سرعتشان را بهشدت مهار خواهد کرد. در واقع اینجا نیز با تأثیر «قانون امداهل» مواجهیم؛ این بار نه در کدهای برنامهنویسی؛ بلکه در ساختارهای بیولوژیک و اجتماعیِ بشر.
