🔸 شرکت هوش مصنوعی آنتروپیک به شدت روی درک چگونگی “فکر کردن” مدلها یا همان قابلیت تفسیرپذیری (Interpretability) تمرکز کرده است.
🔸 به گفته مدیرعامل این شرکت، داریو آمودی، فهم طرز کار داخلی مدلها برای ایمنی و جلوگیری از خطاهایی مثل “توهم” یا رفتارهای مضر ضروری است.
🔸 این قابلیت به استقرار ایمنتر AI در زمینههای حساس مثل پزشکی و حقوق کمک میکند، جایی که نیاز به توضیح دلیل تصمیمات مدل وجود دارد.
🔸 آنتروپیک با سرمایهگذاری در تحقیقات و شرکتهایی مثل Goodfire، قصد دارد تا ۲۰۲۷ مشکلات مدلها را با این روش شناسایی کند، اگرچه برخی کارشناسان آن را تنها راه حل نمیدانند.
#هوش_مصنوعی #آنتروپیک #ایمنی_AI
🔸 به گفته مدیرعامل این شرکت، داریو آمودی، فهم طرز کار داخلی مدلها برای ایمنی و جلوگیری از خطاهایی مثل “توهم” یا رفتارهای مضر ضروری است.
🔸 این قابلیت به استقرار ایمنتر AI در زمینههای حساس مثل پزشکی و حقوق کمک میکند، جایی که نیاز به توضیح دلیل تصمیمات مدل وجود دارد.
🔸 آنتروپیک با سرمایهگذاری در تحقیقات و شرکتهایی مثل Goodfire، قصد دارد تا ۲۰۲۷ مشکلات مدلها را با این روش شناسایی کند، اگرچه برخی کارشناسان آن را تنها راه حل نمیدانند.
#هوش_مصنوعی #آنتروپیک #ایمنی_AI