در یک رخداد امنیتی بیسابقه، هک اوپنایآی با کمک هوش مصنوعی کلاد صورت گرفت. پژوهشگران موفق شدند به حساب ChatGPT یک کارمند نفوذ کرده و به بخشی از اسرار نرمافزاری شرکت دسترسی یابند.
این نفوذ در قالب برنامه باگبانتی OpenAI و توسط پژوهشگران مستقل انجام شد که بابت آن ۶۵۰۰ دلار پاداش دریافت کردند. این واقعه نشاندهنده ابعاد تازه ریسکهای سایبری است که در آن هوش مصنوعی نه فقط ابزار تولید متن، بلکه به موتور فعال برای شناسایی آسیبپذیری و ساخت کد حمله تبدیل میشود. رخنههای امنیتی اخیر در شرکتهای فناوری، دفاع از زیرساختهای پیچیده امروزی را دشوارتر از همیشه کرده است. امنیت هوش مصنوعی به چالشی جدی تبدیل شده که نیازمند توجه فوری است.
جزئیات هک اوپنایآی و رخنههای کشفشده
پژوهشگران در پی این عملیات، دو مشکل اساسی را کشف کردند که شامل یک آسیبپذیری در سرویس Discourse (انجمن گفتوگوی عمومی OpenAI) و دیگری در سیستم داخلی خود شرکت بود؛ هر دو مورد بلافاصله توسط اوپنایآی برطرف شدند. آنها توانستند با استفاده از نشانههای (توکنهای) معتبر روی ChatGPT به حسابهای کارمندان OpenAI دسترسی پیدا کنند. این نشانهها همچنین قابلیت دسترسی به سرویس GitHub شرکت، یعنی مخزن کدهای نرمافزاری اوپنایآی را فراهم میکردند. محققان به این مخزن، که Monorepo نام دارد و شامل اسرار الگوریتمی شرکت است، دسترسی یافتند.
نقش جدید هوش مصنوعی در حملات سایبری
این رخداد امنیتی فراتر از یک دسترسی غیرمجاز ساده بود و ترکیبی از یک باگ در سرویس متفرقه، استفاده از یک مدل زبانی (کلاد آنتروپیک) برای نوشتن کد حمله و دستیابی به نشانههای ورود معتبر داخلی OpenAI را شامل میشد. این حمله نشان داد که هوش مصنوعی کلاد، بهجای اینکه صرفاً ابزاری برای تولید متن باشد، توانایی تبدیلشدن به موتور اصلی برای یافتن آسیبپذیریها و ساخت کد بهرهبرداری را دارد. این جابهجایی نقش هوش مصنوعی، تصویر روشنی از مرحلهی تازهی تهدیدهای سایبری ارائه میکند؛ مرحلهای که در آن مدلهای زبانی دیگر فقط هشداردهنده حمله نیستند، بلکه در طراحی خودِ حمله نیز شریک میشوند.
