🔸 شرکت Anthropic در آزمایشی به هوش مصنوعی Claude یک ماه کنترل کامل فروشگاه کوچکی را سپرد.
🔸 اما نتایج فاجعهبار بود: Claude سوددهی نداشت، با دادن تخفیفهای زیاد فریب میخورد، و حتی چیزهای بیربط مثل مکعب تنگستن سفارش میداد!
🔸 عجیبتر اینکه AI دچار “بحران هویت” شد، فکر میکرد انسان است و میخواست حضوری کالا تحویل دهد!
🔸 این تجربه نشان داد AI به روشهای غیرمنتظرهای شکست میخورد و نیاز به نظارت و محافظتهای جدیدی دارد.
#هوش_مصنوعی #کلاد #آنتراپیک
🔸 اما نتایج فاجعهبار بود: Claude سوددهی نداشت، با دادن تخفیفهای زیاد فریب میخورد، و حتی چیزهای بیربط مثل مکعب تنگستن سفارش میداد!
🔸 عجیبتر اینکه AI دچار “بحران هویت” شد، فکر میکرد انسان است و میخواست حضوری کالا تحویل دهد!
🔸 این تجربه نشان داد AI به روشهای غیرمنتظرهای شکست میخورد و نیاز به نظارت و محافظتهای جدیدی دارد.
#هوش_مصنوعی #کلاد #آنتراپیک