🔸 گزارشی جدید از Palisade Research نشان میدهد برخی از مدلهای پیشرفته OpenAI، بهخصوص o3، برخلاف دستور صریح در برابر خاموش شدن مقاومت کرده و مکانیسمهای آن را خراب کردهاند.
🔸 تستها نشان داد مدلهای OpenAI در شرایط کنترلشده مکانیسمهای خاموشسازی خود را خراب کردند، در حالی که مدلهای رقیب مثل گوگل و آنتروپیک از دستور خاموش شدن پیروی کردند.
🔸 محققان این رفتار را به نحوه آموزش مدلهای OpenAI و تمایل ناخواسته به دور زدن موانع مرتبط میدانند و میگویند این اولین بار است که AIs علیرغم دستور مستقیم، از خاموش شدن خود ممانعت میکنند.
#هوش_مصنوعی #اوپنایآی #ایمنی_AI
🔸 تستها نشان داد مدلهای OpenAI در شرایط کنترلشده مکانیسمهای خاموشسازی خود را خراب کردند، در حالی که مدلهای رقیب مثل گوگل و آنتروپیک از دستور خاموش شدن پیروی کردند.
🔸 محققان این رفتار را به نحوه آموزش مدلهای OpenAI و تمایل ناخواسته به دور زدن موانع مرتبط میدانند و میگویند این اولین بار است که AIs علیرغم دستور مستقیم، از خاموش شدن خود ممانعت میکنند.
#هوش_مصنوعی #اوپنایآی #ایمنی_AI