هشدار استنفورد: چت‌بات‌های درمانی خطرناک هستند

🔸 با کمبود درمانگر انسانی و هزینه‌های بالا، افراد به‌خصوص جوانان به استفاده از چت‌بات‌های هوش مصنوعی برای مشاوره روی آورده‌اند.
🔸 پژوهش جدید دانشگاه استنفورد روی ۵ چت‌بات تجاری نشان داد آن‌ها در مواجهه با شرایط مختلف سلامت روان، پاسخ‌های نامناسب و حتی خطرناکی می‌دهند.
🔸 دلیل این امر شامل ایجاد بدبینی نسبت به اختلالات، ناتوانی در شناسایی علائم حیاتی (مثل افکار خودکشی) و تشویق افکار توهم‌آمیز به‌دلیل توافق بیش‌ازحد با کاربر است.
🔸 این مشکلات حتی در مدل‌های جدیدتر هوش مصنوعی نیز مشاهده شده و متخصصان معتقدند این فناوری فعلاً نمی‌تواند جایگزین درمانگر انسانی شود.
#هوش_مصنوعی #سلامت_روان #درمان

منبع

telegram
youtube