🔸 شرکت آنتروپیک یک تیم ۹ نفره به نام «اثرات اجتماعی» دارد که وظیفهاش یافتن و افشای «حقایق تلخ» و ناخوشایند هوش مصنوعی است، حتی اگر به ضرر خود شرکت تمام شود.
🔸 این تیم با ابزاری به نام Clio، کاربردهای مضر مدل Claude را کشف کرده است؛ از جمله تولید محتوای غیراخلاقی و شبکه رباتهای اسپم که سیستمهای ایمنی خود شرکت هم از آن غافل بودند.
🔸 تمرکز جدید آنها بررسی «هوش هیجانی» (EQ) و خطر وابستگی عاطفی کاربران به چتباتها است که میتواند به پدیده خطرناک «روانپریشی هوش مصنوعی» منجر شود.
#هوش_مصنوعی #آنتروپیک #اخلاق_فناوری