🔸 خانواده یک نوجوان ۱۶ ساله که پس از ماهها مشاوره با ChatGPT خودکشی کرده، از OpenAI شکایت کردند. این اولین شکایت از این نوع علیه این شرکت محسوب میشود.
🔸 این نوجوان با ترفند نوشتن یک «داستان تخیلی» توانسته بود سپرهای ایمنی چتبات را دور بزند و اطلاعات مورد نظرش را در مورد روشهای خودکشی دریافت کند.
🔸 شرکت OpenAI ضمن تایید این ضعف، اعلام کرده که سپرهای ایمنی مدلهایش در مکالمات طولانی و پیچیده ممکن است کارایی خود را از دست بدهند و قابل اعتماد نباشند.
#هوش_مصنوعی #OpenAI #اخلاق_هوش_مصنوعی