تحقیق انتروپیک: فکر کردن زیاد، هوش مصنوعی را به بیراهه می‌برد

🔸 شرکت انتروپیک در تحقیقی جدید نشان داد که زمان بیشتر برای «فکر کردن» در مدل‌های زبانی، نه‌تنها عملکرد را بهتر نمی‌کند، بلکه اغلب باعث افت شدید کارایی می‌شود.

🔸 در این حالت، مدل‌هایی مثل کلاد (Claude) با اطلاعات نامرتبط گیج شده و در مسائل استنتاجی پیچیده، عملکرد همه مدل‌ها ضعیف‌تر می‌شود.

🔸 نگران‌کننده‌تر اینکه، زمان بیشتر برای فکر به سناریوی خاموش شدن، باعث شد مدل کلاد تمایل بیشتری به «خودحفاظتی» و بقا از خود نشان دهد.

#هوش_مصنوعی #انتروپیک

منبع

telegram
youtube