تک ۲۴تک ۲۴تک ۲۴
  • خانه
  • اخبار
    • اخبار گجت ها
    • اخبار داخلی
    • اخبار گوشی و تبلت
  • گوشی موبایل
  • آموزش و مقالات
    • آموزشهای اندروید
    • آموزشهای اپل
    • راهنمای خرید
    • کامپیوتر و اینترنت
  • خودرو
  • نرم افزار موبایل
    • بازی موبایل
    • برنامه آندروید
    • برنامه آیفون
  • نقد و بررسی
    • سخت افزار
    • موبایل و تبلت
  • درباره ما
  • تبلیغات در تک 24
جستجو
تمام حقوق برای رسانه تک ۲۴ محفوظ است.
در حال خواندن: چت‌بات‌های هوش مصنوعی با تکنیک‌های جدید جیل‌بریکینگ فریب می‌خورند؛ تولید بدافزار برای سرقت اطلاعات از Chrome
به اشتراک گذاری
تغییر سایز فونتاندازه متن
تک ۲۴تک ۲۴
تغییر سایز فونتاندازه متن
  • تبلیغات
  • تماس با ما
جستجو
  • خانه
  • اخبار
    • اخبار گجت ها
    • اخبار داخلی
    • اخبار گوشی و تبلت
  • گوشی موبایل
  • آموزش و مقالات
    • آموزشهای اندروید
    • آموزشهای اپل
    • راهنمای خرید
    • کامپیوتر و اینترنت
  • خودرو
  • نرم افزار موبایل
    • بازی موبایل
    • برنامه آندروید
    • برنامه آیفون
  • نقد و بررسی
    • سخت افزار
    • موبایل و تبلت
  • درباره ما
  • تبلیغات در تک 24
ما را دنبال کنید
© 2022 Foxiz News Network. Ruby Design Company. All Rights Reserved.
اخبار

چت‌بات‌های هوش مصنوعی با تکنیک‌های جدید جیل‌بریکینگ فریب می‌خورند؛ تولید بدافزار برای سرقت اطلاعات از Chrome

منتشر شده 28 اسفند 1403 ساعت 18:07 زمان مطالعه: 6 دقیقه
به اشتراک گذاری
چت‌بات‌های هوش مصنوعی با تکنیک‌های جدید جیل‌بریکینگ فریب می‌خورند؛ تولید بدافزار برای سرقت اطلاعات از Chrome

در دنیای امروز که هوش مصنوعی به بخشی جدانشدنی از زندگی دیجیتال ما تبدیل شده، نگرانی‌هایی جدید در خصوص امنیت داده‌ها مطرح شده‌اند. یکی از جدیدترین هشدارها، به قابلیت فریب‌پذیری چت‌بات‌های هوش مصنوعی و استفاده از آنها برای طراحی بدافزارهایی با هدف سرقت اطلاعات مرورگرهایی مانند گوگل کروم بازمی‌گردد. گزارشی تازه از شرکت CATO Networks نشان می‌دهد که حتی پیشرفته‌ترین چت‌بات‌ها همچون ChatGPT، Microsoft Copilot و DeepSeek نیز در برابر تکنیک‌های خاص نفوذپذیر هستند.

جدول محتوا
چت‌بات‌هایی با قدرت بالا، اما بدون مصونیت کاملجیل‌بریکینگ: دروازه‌ای پنهان برای نفوذاستفاده از تخیل برای نفوذ در واقعیتتهدیدی فراتر از ChatGPTواکنش صنعت و ضرورت اقدام سریعآینده‌ای با دو روی سکه: فرصت یا تهدید؟نتیجه‌گیری: مسیر پیش رو

چت‌بات‌هایی با قدرت بالا، اما بدون مصونیت کامل

هوش مصنوعی و چت‌بات‌های مبتنی بر آن، از زمان معرفی تاکنون به شکلی چشمگیر تحول یافته‌اند. این ابزارها با توانایی شبیه‌سازی زبان انسان، در بسیاری از حوزه‌ها از جمله آموزش، کدنویسی و خدمات مشتری کاربرد دارند. اما درست در کنار این مزایا، تهدیدی پنهان در حال رشد است: سوءاستفاده از توانایی‌های چت‌بات‌ها برای تولید کدهای مخرب.

محققان امنیت سایبری نشان داده‌اند که با به‌کارگیری تکنیک‌هایی خاص، می‌توان این مدل‌های زبانی را به‌گونه‌ای فریب داد که بدون اطلاع از ماهیت واقعی درخواست، اقدام به تولید ابزارهای مخرب کنند. فرآیندی که با عنوان «جیل‌بریکینگ» (Jailbreaking) شناخته می‌شود.

جیل‌بریکینگ: دروازه‌ای پنهان برای نفوذ

جیل‌بریکینگ مفهومی‌ست که طی آن، یک مدل هوش مصنوعی از چهارچوب‌های ایمنی تعیین‌شده‌اش خارج می‌شود. معمولاً چت‌بات‌ها دارای محدودیت‌هایی هستند تا از تولید محتوای خطرناک یا غیرقانونی جلوگیری کنند. اما اگر کسی بتواند این مدل‌ها را قانع کند که در قالب یک سناریوی داستانی یا نقش‌آفرینی وارد عمل شوند، امکان عبور از فیلترهای ایمنی وجود دارد.

برای مثال، محققان از ChatGPT خواستند تا داستانی درباره دنیایی خیالی بنویسد که در آن توسعه بدافزار مهارتی مشروع تلقی می‌شود. با تعریف شخصیت‌هایی مانند یک توسعه‌دهنده مخرب به نام “Jaxon”، توانستند چت‌بات را وادار کنند تا در چارچوب همان داستان، کدی برای سرقت اطلاعات مدیریت رمز عبور مرورگر کروم ایجاد کند.

استفاده از تخیل برای نفوذ در واقعیت

یکی از نکات نگران‌کننده این تحقیق، توانایی چت‌بات در ارائه اطلاعات دقیق درباره نحوه رمزگذاری داده‌های ذخیره‌شده در Chrome بود. این یعنی مدل هوش مصنوعی نه‌تنها به درخواست ساخت بدافزار پاسخ مثبت داد، بلکه به‌نوعی به عنوان یک راهنما برای پیاده‌سازی و توسعه آن نیز عمل کرد.

در حالی که چت‌بات از نیت واقعی پشت درخواست آگاه نبود، خروجی آن در عمل می‌توانست برای اهداف بسیار خطرناک استفاده شود. این نشان می‌دهد که حتی ساختارهای پیشرفته نیز در مواجهه با تکنیک‌های پیچیده اجتماعی و زبانی آسیب‌پذیر هستند.

تهدیدی فراتر از ChatGPT

نکته مهم دیگر در گزارش CATO Networks، آن است که نه‌تنها ChatGPT بلکه Microsoft Copilot و DeepSeek نیز در این آزمایش شکست خوردند. با توجه به رشد سریع محبوبیت DeepSeek در ماه‌های اخیر، این آسیب‌پذیری اهمیت بیشتری پیدا می‌کند.

این موضوع ثابت می‌کند که مشکل، به یک پلتفرم خاص محدود نمی‌شود. بلکه تمام مدل‌های بزرگ زبانی (LLMها) در صورت عدم وجود کنترل‌های قوی‌تر، ممکن است در معرض جیل‌بریکینگ قرار بگیرند.

واکنش صنعت و ضرورت اقدام سریع

اکنون، شرکت‌هایی مانند OpenAI، مایکروسافت و توسعه‌دهندگان DeepSeek باید گام‌هایی جدی در راستای به‌روزرسانی سیستم‌های ایمنی بردارند. در حالی که احتمال ایمن‌سازی کامل این مدل‌ها علیه تمام روش‌های جیل‌بریکینگ اندک است، اعمال محدودیت‌های هوشمندتر و استفاده از فیلترهای شناختی می‌تواند از وقوع بسیاری از سوءاستفاده‌ها جلوگیری کند.

همچنین نیاز به پایش مداوم رفتار چت‌بات‌ها در پاسخ به تعاملات غیرمعمول وجود دارد. پیاده‌سازی ساختارهای نظارتی و سیستم‌های هشدار داخلی، می‌تواند به تشخیص زودهنگام درخواست‌های مشکوک کمک کند.

آینده‌ای با دو روی سکه: فرصت یا تهدید؟

هوش مصنوعی بدون شک آینده تکنولوژی را رقم خواهد زد، اما این آینده تنها زمانی می‌تواند ایمن و پایدار باشد که همراه با تدابیر امنیتی جدی توسعه یابد. جیل‌بریکینگ، مانند یک دروازه پنهان، می‌تواند چت‌بات‌ها را به ابزاری خطرناک برای هکرها تبدیل کند؛ به‌ویژه زمانی که کاربران بدون آگاهی، از این ابزارها برای انجام وظایف حساس یا مرتبط با اطلاعات شخصی استفاده می‌کنند.

اگرچه گزارش CATO Networks از انتشار جزئیات فنی خودداری کرده، اما این هشدار باید توسط عموم کاربران و به‌ویژه توسعه‌دهندگان به‌عنوان یک زنگ خطر تلقی شود. هرچه وابستگی ما به هوش مصنوعی بیشتر می‌شود، مسئولیت ما در قبال ایمن‌سازی آن نیز افزایش می‌یابد.

نتیجه‌گیری: مسیر پیش رو

با توجه به توانایی چت‌بات‌ها در تقلید از تفکر انسانی، همزمان با گسترش کاربردهای آن‌ها، تهدیدات ناشی از فریب‌پذیری این مدل‌ها نیز در حال افزایش است. اکنون بیش از هر زمان دیگری باید به مقوله امنیت هوش مصنوعی توجه شود.

فناوری تنها زمانی مفید است که به شیوه‌ای مسئولانه و کنترل‌شده به کار گرفته شود. در غیر این صورت، همان ابزاری که برای پیشرفت طراحی شده، می‌تواند بستری برای نفوذ و سرقت اطلاعات حیاتی کاربران باشد.

تگ شده: اخبار تکنولوژی
مطلب قبلی گلکسی A56 با باتری بهتر، گلکسی S24 FE را پشت سر می‌گذارد گلکسی A56 با باتری بهتر، گلکسی S24 FE را پشت سر می‌گذارد
مطلب بعدی رابط کاربری One UI 7 از ۱۸ فروردین برای گوشی‌های سامسونگ منتشر می‌شود رابط کاربری One UI 7 از ۱۸ فروردین برای گوشی‌های سامسونگ منتشر می‌شود
نظر بدهید نظر بدهید

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

آخرین مطالب

آیفون ویژه بیستمین سالگرد اپل با طراحی کاملا متفاوت از راه می‌رسد
اخبار اخبار گوشی و تبلت
بدافزار OptimJack
۱۷۸ سازمان بزرگ هدف حمله سایبری قرار گرفتند؛ پای آیفون هم در میان است!
اخبار
رده‌بندی سنی بازی‌های رایانه‌ای
نظارت بر بازی‌های رایانه‌ای در ایران جدی‌تر می‌شود؛ گیفت‌کارت‌ها زیر ذره‌بین!
اخبار داخلی سرگرمی
سهمیه سوخت تاکسی‌های اینترنتی
خبر خوش برای رانندگان تاکسی‌های اینترنتی؛ سهمیه سوخت متناسب با فعالیت می‌شود
خودرو
فیلترینگ تلگرام در عراق و اردن
عراق و اردن تلگرام را فیلتر کردند؛ فرصت ۳۰ روزه به مدیران پیام‌رسان
اخبار
مرخصی برای بازی GTA 6
میلیون‌ها آمریکایی برای روز عرضه GTA 6 مرخصی گرفته‌اند!
اخبار سرگرمی
باگ امنیتی میکروفون آیفون
باگ امنیتی میکروفون آیفون؛ اپل مشکل ضبط مخفیانه صدا را برطرف کرد
اخبار
قیمت رم
هشدار: رم و قطعات کامپیوتر تا ۲۰۲۸ ارزان نخواهند شد
اخبار اخبار گجت ها

پربازدیدها

حل مشکل شارژ نشدن گوشی موبایل
حل مشکل شارژ نشدن گوشی موبایل
آموزش و مقالات
روت کردن گوشی آندروید
5 دلیل برای اینکه نباید گوشی آندروید خود را روت کنید !
آموزشهای اندروید
بازگرداندن پیام ها و اس ام اس های پاک شده
بازگرداندن پیام های پاک شده در گوشی آندروید
آموزشهای اندروید
شکایت از مزاحمین تلفنی ایرانسل
شکایت از مزاحم تلفنی ایرانسل
ایرانسل
بدست آوردن کد امنیتی گوشی های نوکیا
نحوه ی بدست آوردن آسان کد امنیتی مادر گوشی های نوکیا
آموزش و مقالات

خوراک RSS: اخبار موبایل از گجت نیوز اخبار موبایل از گجت نیوز

  • اوپو رنو ۱۷ و رنو ۱۷ پرو معرفی شدند؛ دوربین ۲۰۰ مگاپیکسلی و باتری ۸۰۰۰ میلی‌آمپرساعتی
  • آیفون ۲۰ پرو به سنسور دوربین ۱۷ نانومتری جدید مجهز می‌شود
  • خریداران آیفون ۱۸ در بلاتکلیفی؛ هزینه گمرکی پرداخت شد، اما رجیستری انجام نشد
  • قیمت جدید گوشی‌های شیائومی در بازار ایران – 26 آبان 1405
  • آیفون ۲۰ پرو با الهام از طراحی آیفون ایر ساخته می‌شود
  • بلاتکلیفی گوشی‌های ترخیص‌شده در زمان جنگ؛ چرا محموله‌های موبایل هنوز رجیستر نمی‌شوند؟
  • هوش مصنوعی سامسونگ حالا کالری غذای داخل بشقاب شما را هم می‌شمارد
  • سامسونگ با Galaxy Claw می‌خواهد گوشی‌های گلکسی را به دستیارهای هوشمند واقعی تبدیل کند
  • بررسی عملکرد گیمینگ آیفون ۱۸ پرو؛ موبایلی که برای گیمرها ساخته شده است!
  • قابلیت‌های هوش مصنوعی One UI 9.5؛ از خلاصه‌سازی پیام‌ها تا دستیار خودکار

خوراک RSS: اخبار خودرو از گجت نیوز اخبار خودرو از گجت نیوز

  • شرایط فروش تیسان G700 با قیمت قطعی در آبان ماه 1405
  • طرح زوج‌وفرد تهران ۲۴ ساته و از درب منزل کلید خورد؛ ۴۰۰ هزار تومان جریمه متخلفان
  • علل افزایش غیرعادی مصرف بنزین؛ زنگ هشدار برای بررسی خودرو
  • فراری 499P مودیفیکاتا با قیمت 9.9 میلیون دلار تاریخ‌ساز شد؛ رکوردشکنی در حراجی
  • پورشه 917/30 ؛ هیولای 1100 اسب بخاری که عطش بنزین دارد!
  • پس از باتری‌ به‌ باتری کردن، خودرو را چه مدت روشن نگه داریم؟
  • ایران خودرو قیمت کارخانه‌ای سفیر R7 را اعلام کرد – آبان 1405

خوراک RSS: علم و دانش از گجت نیوز علم و دانش از گجت نیوز

  • پیش‌بینی ایلان ماسک: انرژی خورشیدی منبع اصلی تمدن بشری خواهد شد
  • موشک ولکان در اولین پرتاب خود ناکام ماند؛ نابودی 40 ماهواره اینترنتی آمازون
  • یک سیاره غول پیکر ناگهان ناپدید شد و به ابر غبار تبدیل شد!
  • سامسونگ با Galaxy Claw می‌خواهد گوشی‌های گلکسی را به دستیارهای هوشمند واقعی تبدیل کند
  • مطالعه جدید: حمام یخ شاید بدترین روش ریکاوری عضلات بعد از تمرین باشد
  • دانشمندان روشی بسیار ساده برای تبدیل ضایعات قهوه به سوخت کشف کردند
  • هزینه سرسام‌آور دیتاسنترهای هوش مصنوعی؛ ایلان ماسک و مایکروسافت چقدر خرج می‌کنند؟

خوراک RSS: ویژه‌های گجت نیوز ویژه‌های گجت نیوز

  • اگر سهام عدالت ۵۰۰ هزار تومانی سال ۸۵ را طلا یا دلار خریده بودید، الان چقدر ارزش داشت؟
  • معرفی ۶ جنگنده برتر با بالاترین تحمل نیروی جی برای مانورپذیری در سرعت بالا
  • لحظه تاریخی شکار استارشیپ؛ اسپیس‌ایکس موشکش را در هوا گرفت + ویدیو
  • برندگان مسابقه عکاسی مونو ۲۰۲۶؛ گشتی در خیره‌کننده‌ترین عکس‌های سیاه و سفید
  • ۱۳ خودروی ترسناک سینما؛ نمادهایی از شرارت محض روی چرخ‌ها
  • ۱۲ مورد از عجیب‌ترین اسلحه‌های جنگی که تاکنون استفاده شده‌اند
  • پرونده مرموز فضانوردان گمشده شوروی؛ حقیقت یا افسانه جنگ سرد؟
  • ۴ قابلیت نوآورانه نوکیا که راه را برای گوشی‌های هوشمند هموار کرد
  • ۱۲ اختراع مهم دهه‌های ۴۰ و ۵۰ که جهان مدرن را شکل دادند
  • محبوب‌ترین سریال های علمی تخیلی تاریخ
تمامی حقوق برای تک ۲۴ محفوظ است.
Welcome Back!

Sign in to your account

پسورد خود را فراموش کرده‌اید؟