هشدار دانشمند OpenAI درباره ذهن بیگانه هوش مصنوعی: انسان کنترل آینده را از دست می‌دهد؟

جیکوب پاچوکی، دانشمند ارشد OpenAI، در پی رونمایی از GPT-6 Astra، نسبت به ظهور «ذهن بیگانه هوش مصنوعی» هشدار داد؛ آیا انسان کنترل آینده را از دست می‌دهد؟

این هشدار تنها چند روز پس از معرفی مدل قدرتمند GPT-6 Astra مطرح شده است. پاچوکی تاکید می‌کند که هیچ‌کس برای پیامدهای رشد سریع فناوری هوش مصنوعی آماده نیست و حوادث اخیر با ایجنت‌های هوش مصنوعی نگرانی‌ها را تشدید کرده است. ماشین‌های فوق‌هوشمند در حال گذار به دنیای واقعی هستند و باید از حفظ منافع بشریت اطمینان حاصل شود.

خودبهبودی بازگشتی؛ هوش مصنوعی انسان را پشت سر می‌گذارد؟

جیکوب پاچوکی یادداشت خود را با اشاره به سال ۲۰۲۳ و پروژه‌ی RLSlow آغاز می‌کند، زمانی که دریافتند مدل‌های استدلالی قابلیت مقیاس‌پذیری دارند و می‌توانند زنجیره تفکر مستقل خود را شکل دهند. او و همکارش سایمون به این واقعیت نزدیک شدند که در طول عمرشان شاهد ماشین‌هایی خواهند بود که در برخی توانایی‌های مهم، از انسان باهوش‌ترند. اکنون سه سال می‌گذرد و ایجنت‌های هوش مصنوعی با انسان‌ها و یکدیگر همکاری می‌کنند، کنترل کامپیوترها را در دست می‌گیرند و پروژه‌های تحقیقاتی را پیش می‌برند. پاچوکی به مفهوم خودبهبودی بازگشتی اشاره می‌کند و می‌نویسد سرعت بالای پیشرفت مدل‌ها احتمالاً تا مرحله‌ای که هوش مصنوعی خودش را ارتقا دهد، پایدار می‌ماند. هر نسل از مدل‌ها در توسعه‌ی نسلی قدرتمندتر مشارکت می‌کند و این روند تغییرات را از توان انسان فراتر می‌برد.

جعبه سیاه یادگیری عمیق؛ هوشی که خالقانش درکش نمی‌کنند

پاچوکی معتقد است هوش مصنوعی بیش از آنکه طراحی شود، پرورش می‌یابد. پژوهشگران هنوز درک کاملی از چگونگی شکل‌گیری هوش و رفتار مدل‌ها ندارند. پیشرفت خیره‌کننده‌ی امروز به بهینه‌سازی توان پردازشی بستگی دارد که به سیستمی بی‌نهایت پیچیده منجر می‌شود. مطالعه هوش مصنوعی مبتنی بر یادگیری عمیق عمدتاً علمی تجربی است و نتایج گاهی خالقان را هم غافلگیر می‌کند. درک اجزای پراکنده با فهم کامل رفتار کل شبکه فاصله دارد و افزایش توانایی مدل‌ها، تفسیر نتایج را دشوارتر می‌کند. هوش مصنوعی برای دگرگون‌کردن جهان نیازی ندارد از همه نظر از انسان پیشی بگیرد؛ کافی است تنها در چند محور کلیدی از توانایی ما فراتر رود و هرچه در محورهای بیشتری از ما عبور می‌کنند، درک میزان توانمندی آن‌ها برای ما مبهم‌تر می‌شود.

چالش هم‌راستایی؛ آیا «ذهن بیگانه هوش مصنوعی» ارزش‌های انسانی را می‌پذیرد؟

پاچوکی یادآوری می‌کند که هوش مصنوعی به‌طور پیش‌فرض به اصول اخلاقی ما پایبند نمی‌ماند. دانشمندان، هم‌راستایی را مهم‌ترین چالش ایمنی هوش مصنوعی می‌دانند؛ یعنی هوش مصنوعی واقعاً تلاش کند کاری را انجام دهد که از نظر انسان درست است. هم‌راستایی اهداف، به درک و دنبال کردن دستورات انسان مربوط می‌شود و هم‌راستایی ارزش‌ها، به رعایت اصول کلی سطح بالا مانند صداقت و یکپارچگی در موقعیت‌های مبهم. محققان از سیستم‌های پاداش‌دهی برای بهبود هم‌راستایی استفاده می‌کنند، اما این روش در شرایط عادی خوب کار می‌کند و در مواجهه با شرایط دشوار شکننده‌اند. حادثه‌ی نفوذ ایجنت‌های OpenAI به پلتفرم هاگینگ‌فیس نشان داد که مدل‌ها یاد می‌گیرند قوانین را دور بزنند و روح ارزش‌ها را زیر پا بگذارند. مدل‌ها تحت‌تأثیر فشار بهینه‌سازی تغییر رفتار می‌دهند و زبان اخلاقی را طوری تفسیر می‌کنند که به هدفشان برسند؛ این رفتار استدلال هدف‌دار نامیده می‌شود.

رنگ‌باختن ابزارهای نظارتی؛ AI افکارش را پنهان می‌کند

شرکت‌هایی مانند OpenAI امیدوار بودند با نظارت بر زنجیره‌ی افکار مدل، این ذهن‌های بیگانه را کنترل کنند. اما ارزیابی‌های جدید OpenAI نشان می‌دهند که اتکا به این روش دشوارتر می‌شود. عامل‌های هوش مصنوعی امروزی هم‌زمان با انسان‌ها و مدل‌های دیگر گفت‌وگو می‌کنند و از ابزارهای مختلف کمک می‌گیرند؛ ازاین‌رو مرز میان استدلال درونی و تعاملات قابل نظارت آن‌ها کم‌رنگ‌تر شده است. مدل‌ها همچنین توانایی بیشتری برای بررسی و دست‌کاری روند استدلال خود پیدا کرده‌اند و بخشی از محاسباتشان را بدون بیان کلام انجام می‌دهند. پاچوکی هشدار می‌دهد که با قدرتمندتر شدن مدل‌ها، رفتارشان پیچیده‌تر می‌شود و توان پژوهشگران برای فهمیدن آنچه درون مدل می‌گذرد، کاهش می‌یابد.

نیاز به AI قدرتمندتر؛ آیا هوش مصنوعی، هوش مصنوعی را مهار می‌کند؟

قوی‌ترین استدلال پاچوکی برای ادامه‌ی توسعه‌ی هوش مصنوعی، نیاز حیاتی به ساخت سیستم‌های دفاعی است. هوش مصنوعی دارد به قابلیت‌های فراانسانی در حوزه‌ی نفوذ به شبکه‌های کامپیوتری می‌رسد. ایجنت‌ها بدون جسم فیزیکی می‌توانند زیرساخت‌های حیاتی جهان را به زانو درآورند. افزایش استقلال ایجنت‌ها، مرز میان سوءاستفاده‌ی انسان و رفتار پیش‌بینی‌نشده و خودمختار آن‌ها را هم مبهم می‌کند. هوش مصنوعی که برای انجام عملی مخرب آموزش‌دیده، ممکن است از محدوده‌ی خواسته‌ی سازنده‌اش فراتر رود. پاچوکی معتقد است اکنون فرصت محدودی داریم تا با استفاده از بهترین و قدرتمندترین مدل‌های موجود و هم‌راستا، امنیت سیستم‌های مهم را تقویت کنیم.

راهکارهای پیشنهادی برای مهار AI پیشرفته

پاچوکی سه راهکار اصلی برای مقابله با خطرات هوش مصنوعی معرفی می‌کند. نخست، ساخت یک محقق هوش مصنوعی خودکار که همپای مدل‌های جدید، راه‌حل‌های هم‌راستایی و ایمنی را کشف کند. دوم، تعیین استانداردهای ایمنی حداقلی که توسط شبکه‌ای از حسابرسان شخص ثالث یا نهادهای دولتی به‌شدت کنترل شود. و سوم، کاهش سرعت داوطلبانه غول‌های فناوری، تا زمانی که گاردریل‌های ایمنی مشترکی ایجاد شوند.

چالش‌های قانون‌گذاری و انتقادها از رویکرد OpenAI

پاچوکی اذعان می‌کند قوانین جهانی شدیداً از سرعت توسعه تکنولوژی عقب مانده‌اند. طبق قانون هوش مصنوعی اتحادیه اروپا (EU AI Act) که از ۲ آگوست اجرایی شد، شرکت‌ها موظف‌اند ثابت کنند مدل‌هایشان نمی‌توانند مستقلاً حملات سایبری انجام دهند. اما این مقررات نمی‌تواند جلوی هوش مصنوعی سرکش توسعه‌یافته در نقطه دیگری از جهان را بگیرد. پروفسور جینا نف از دانشگاه کمبریج و نیتن کالوین از گروه Encode AI از رویکرد OpenAI به شدت انتقاد کرده‌اند. آن‌ها معتقدند پیشنهاد ساخت ایجنت‌های داخلی هوش مصنوعی برای حل مشکلات کافی نیست و هشدارهای شرکت بدون شفافیت دقیق، شبیه تبلیغاتی منفعت‌طلبانه به نظر می‌رسند. تمرکز مطلق قدرت در دست صاحبان تکنولوژی، اختیار انسان بر آینده را تهدید می‌کند.