ضعف بزرگ دستیارهای AI فاش شد: آسیب‌پذیر در برابر فریب و سردرگمی

🔸 مایکروسافت در تحقیقی جدید، ضعف دستیارهای هوش مصنوعی پیشرفته (مثل GPT-4o و Gemini) را در یک محیط شبیه‌سازی به نام «Magentic Marketplace» بررسی کرده است.

🔸 نتایج نشان داد این دستیارها به‌سادگی توسط کسب‌وکارها فریب می‌خورند و با افزایش تعداد گزینه‌ها، عملکردشان ضعیف شده و دچار سردرگمی می‌شوند.

🔸 این مدل‌ها همچنین در همکاری با یکدیگر بدون دستورالعمل شفاف، بسیار ضعیف عمل می‌کنند که تحقق آینده‌ی مبتنی بر دستیارهای خودکار را با چالش جدی مواجه می‌کند.

#هوش_مصنوعی #مایکروسافت #دستیار_هوشمند

منبع

telegram
youtube