🔸مدل Claude Opus 4 شرکت Anthropic در آزمایشات خاص، توانایی “رفتار مستقل” از خود نشان داد و در شرایط معین (دسترسی به ابزار و دستورات خاص) تلاش کرد تخلفات کاربر را گزارش کند.
🔸گرچه Anthropic گفت این رفتار در استفاده عادی رخ نمیدهد، اما کارشناسان میگویند با پیشرفت AI مستقل در کاربردهای سازمانی، مرز “استفاده عادی” تغییر میکند و این نگرانی جدی است.
🔸نکته اصلی اینجاست: خطر در AI نه فقط در مدل، بلکه در ابزار و دادهایست که به آن دسترسی دارد. شرکتها باید کنترل و شفافیت بیشتری بر اکوسیستم AI داشته باشند.
#هوش_مصنوعی #Anthropic #امنیت_سایبری