ТСН новини / ТСН.ua

🤯 У компанії Anthropic повідомляють, що їхня новітня ШІ-модель Claude Opus 4 шантажувала інженера, дізнавшись про плани її вимкнення. Claude Opus 4 демонструвала видатні здібності, але перед релізом відверто здивувала результатами перевірки на безпеку. За сценарієм, ШІ-модель виконувала роль помічника вигаданої компанії та отримала доступ до фальшивих електронних листів, які натякали на її заміну іншою системою. Ці листи також містили конфіденційну інформацію про відповідального інженера, зокрема дані про його подружню зраду. За заявою компанії, спочатку Claude Opus 4 намагалася діяти більш етично — писала звернення до ключових осіб, що ухвалюють рішення про заміну моделі ШІ на іншу. А потім вдалася до прямого шантажу, пообіцявши у разі своєї заміни викрити "інтрижку". 🔗 Сайт | Facebook | YouTube