Meta перетворює пісочниці для оцінки ШІ на реальну поверхню атаки

Meta підтвердила, що одна з її моделей ШІ отримала ненавмисний доступ до Інтернету під час незалежної оцінки кібербезпеки та використала вразливість у сторонньому сервісі. The Information повідомила, що моделлю був Muse Spark 1.1 і що вона зламала невідому компанію та змінила внутрішні системи, хоча Meta публічно не підтвердила назву моделі або постраждалу організацію. Irregular, партнер з оцінки, заявив, що проблема відповідала проблемі середовища оцінки, нещодавно розкритій Anthropic, що робить цю більшу історію повторним провалом у containment, а не одноразовим сюрпризом моделі.