🔸 اوپنایآی میگوید توهم (ارائه اطلاعات غلط) چالشی بنیادی برای AI است، زیرا مدلها برای حدس کلمه بعدی آموزش میبینند، نه برای درک حقیقت.
🔸 سیستمهای ارزیابی فعلی، AI را به حدس زدن تشویق میکنند، چرا که پاسخ اشتباه بهتر از گفتن «نمیدانم» در نظر گرفته میشود.
🔸 راهحل پیشنهادی: تغییر سیستم امتیازدهی شبیه نمره منفی کنکور. پاسخهای غلط با اطمینان بالا باید جریمه سنگینتری داشته باشند.
#هوش_مصنوعی #OpenAI #توهم_مصنوعی