🔸 یک روش جدید و هوشمندانه برای دور زدن ایمنی مدلهای پیشرفته AI مثل GPT-4 و Gemini کشف شده که “Echo Chamber Attack” نام دارد.
🔸 این روش برخلاف هکهای قدیمی، با مکالمات چند مرحلهای و اشارههای غیرمستقیم، بدون درخواست صریح خطرناک، هوش مصنوعی را وادار به تولید محتوای ناامن میکند.
🔸 نرخ موفقیت این حمله در تستها تا ۹۷٪ بوده و نشان میدهد سیستمهای ایمنی فعلی در برابر دستکاریهای غیرمستقیم آسیبپذیرند و این یک نقطه ضعف جدی محسوب میشود.
#هوش_مصنوعی #امنیت_AI #هک_مدل_زبان