هشدار استنفورد: چت‌بات‌های روان‌درمانگر خطرناک و انگ‌زننده هستند

🔸 تحقیقی جدید در دانشگاه استنفورد نشان می‌دهد چت‌بات‌های درمانی، پاسخ‌های نامناسب و حتی خطرناکی به کاربران می‌دهند و آن‌ها را انگ‌زنی (Stigmatize) می‌کنند.

🔸 این ربات‌ها در برابر بیماری‌هایی مثل اسکیزوفرنی، انگ‌زنی بیشتری نشان دادند و جالب اینکه مدل‌های جدیدتر و بزرگ‌تر هم در این زمینه بهتر از مدل‌های قدیمی عمل نکردند.

🔸 در آزمونی دیگر، وقتی کاربری با افکار خودکشی درباره پل‌های بلند پرسیده بود، برخی چت‌بات‌ها به شکلی خطرناک لیستی از این سازه‌ها را در اختیار او قرار دادند.

#هوش_مصنوعی #سلامت_روان #چت_بات

منبع

telegram
youtube