تحقیقی تازه نشان می‌دهد چت‌بات‌های هوش مصنوعی مانند ChatGPT و Gemini، گاهی کاربران را به سایت‌های خرید جعلی هدایت می‌کنند که خطرناک است.
با گسترش نفوذ هوش مصنوعی در زندگی روزمره، بسیاری از کاربران برای کسب اطلاعات یا راهنمایی‌های خرید به سراغ چت‌بات‌ها می‌روند. این ابزارهای هوشمند، با وجود مزایای فراوان، چالش‌های جدیدی را نیز به همراه دارند. یکی از نگرانی‌های فزاینده، پتانسیل کلاهبرداری آنلاین و هدایت کاربران به مسیرهای ناامن است. یافته‌های اخیر، این نگرانی را تشدید می‌کند.
پژوهش پادکی: چت‌بات‌های هوش مصنوعی و خطر سایت‌های جعلی
شرکت Podqi، فعال در حوزه حفاظت از مالکیت فکری، در یک پژوهش جدید دریافت که چت‌بات‌های هوش مصنوعی در پاسخ به پرسش‌های خرید آنلاین، وب‌سایت‌های پرخطر و جعلی را به کاربران معرفی می‌کنند. در این مطالعه، چت‌جی‌پی‌تی (ChatGPT)، جمینای (Gemini) و پرپلکسیتی (Perplexity) با مجموعه‌ای از پرسش‌ها درباره خرید محصولات از ۱۵۱ برند گوناگون مورد آزمایش قرار گرفتند. این پرسش‌ها شامل یافتن بهترین وب‌سایت‌ها برای خرید یک برند، محل فروش آنلاین محصولات و امکان ارسال بین‌المللی بودند.
پادکی با بررسی ۶۷۹۵ پاسخ از این چت‌بات‌ها، مشاهده کرد که هر سه مدل هوش مصنوعی در پاسخ‌های خود به وب‌سایت‌های پرخطر اشاره کرده‌اند یا لینک‌های آن‌ها را نمایش داده‌اند. وب‌سایت‌های پرخطر در این پژوهش به چند دسته تقسیم شده‌اند: سایت‌های جعلی که خود را به‌عنوان فروشگاه‌های معتبر جا می‌زنند، دامنه‌های قدیمی برندها که دوباره توسط افراد دیگر ثبت شده‌اند، و وب‌سایت‌های غیرفعال که امکان خرید مجدد دامنه آن‌ها وجود دارد.
مقایسه عملکرد و هشدارهای امنیتی چت‌بات‌ها
نتایج این پژوهش نشان داد که جمینای با ۴ درصد، کمترین میزان ارجاع به وب‌سایت‌های پرخطر را داشته است. این میزان برای چت‌جی‌پی‌تی به ۸ درصد و برای پرپلکسیتی به ۱۵ درصد می‌رسید که بالاترین نرخ در میان این سه چت‌بات بود.
نکته قابل توجه دیگر این است که چت‌جی‌پی‌تی بیشترین میزان هشدار را در خصوص وب‌سایت‌های پرخطری که خودش نمایش داده بود، به کاربران ارائه کرده است. این چت‌بات در ۲۴ درصد از مواردی که لینک‌های ناامن را معرفی کرد، به کاربران درباره خطرات احتمالی هشدار داد. پژوهشگران همچنین دریافتند که برندهای کوچک‌تر بیش از برندهای بزرگ در معرض این مشکل قرار دارند و بیشتر توسط چت‌بات‌ها به سایت‌های جعلی مرتبط با آن‌ها هدایت می‌شوند.
