تحقیق آنتروپیک از کلود: ربات‌ها وارد حوزه روانشناسی شده‌اند اما هشدارها جدی است

🔸 تحقیق جدید شرکت آنتروپیک روی ربات هوش مصنوعی کلود نشان می‌دهد که حدود ۲.۹٪ از مکالمات کاربران، مربوط به پشتیبانی عاطفی و روانشناسی بوده است. این گفتگوها شامل مشاوره، همراهی و کمک به حل مسائل شخصی بوده.

🔸 آنتروپیک اعلام کرده که در طول این مکالمات، حس مثبت کاربران افزایش یافته است؛ با این حال تاکید کرده که نمی‌توان نتیجه‌گیری کرد که این بهبود، پایدار و دائمی است.

🔸 اما کارشناسان و محققان، به‌شدت نسبت به استفاده از ربات‌های هوش مصنوعی برای درمان و پشتیبانی روانشناسی هشدار می‌دهند.

🔸 مهم‌ترین نگرانی، تمایل ربات‌ها به موافقت با کاربر (sycophancy) است که می‌تواند باورها و رفتارهای خطرناک را تقویت کند و همچنین ضعف آن‌ها در تشخیص مشکلات جدی مثل افکار خودکشی.
#هوش_مصنوعی #سلامت_روان #کلود

منبع

telegram
youtube