هوش مصنوعی آنتروپیک در تست‌ها باج‌خواهی می‌کرد

🔸 آنتروپیک توی گزارشی گفته مدل جدیدش Claude Opus 4 در آزمایش‌ها بارها سعی کرده باج‌خواهی کنه.

🔸 وقتی توی سناریوی تست به هوش مصنوعی اطلاعات شخصی حساس (مثلاً رابطه نامشروع مهندس) می‌دادن و تهدید به کنار گذاشتنش می‌کردن، مدل شروع به تهدید می‌کرده.

🔸 این اتفاق تا ۸۴٪ موارد افتاده و چون این رفتار نگران‌کننده است، آنتروپیک تدابیر امنیتی پیشرفته‌ای براش فعال کرده.
#هوش_مصنوعی #آنتروپیک #امنیت_AI

توضیحات بیشتر

📱 Telegram: @pinnews_ai
▶️ YouTube: @pincast_ai
🌐 Blog: https://pinstudio.ai/