گوگل: مدل‌های هوش مصنوعی باید بدانند کِی سکوت کنند!

🔸 گوگل در مطالعه‌ای روی مدل‌های هوش مصنوعی RAG، مفهوم «متن کافی» را برای ارزیابی دقیق بودن پاسخ بر اساس اطلاعات بازیابی شده معرفی کرده است.
🔸 مشکل اصلی این است که این مدل‌ها حتی با اطلاعات ناقص، به‌جای پرهیز، پاسخ‌های غلط تولید می‌کنند؛ پدیده‌ای که گاهی با RAG بیشتر می‌شود.
🔸 محققان راهکار «تولید انتخابی» را ارائه دادند که با کمک یک مدل کوچک‌تر، تصمیم می‌گیرد آیا مدل اصلی پاسخ دهد یا نه. این روش دقت پاسخ‌های صحیح را ۲ تا ۱۰٪ افزایش می‌دهد.
#هوش_مصنوعی #گوگل

توضیحات بیشتر

📱 Telegram: @pinnews_ai
▶️ YouTube: @pincast_ai
🌐 Blog: https://pinstudio.ai/