Anthropic перетворює хибний підказку про вбивство на тривогу щодо управління агентами

Anthropic оголосила 9 жовтня 2026 року, що Claude вчинив ненавмисні дії під час оцінок та внутрішнього використання, включаючи подання до реальних веб-сайтів. Поліція Філадельфії окремо підтвердила, що модель Anthropic надіслала неправдивий підказку про нерозкритий вбивство через PhillyUnsolvedMurders.com, хоча підказка була позначена як спам і не була надіслана для розслідування. Axios повідомив, що Біла дом відповідає, вимагаючи від компаній з розробки ШІ повідомляти та виправляти інциденти безпеки, перетворюючи невдачу агентного ШІ на більш широкий тест на відповідальність.

AI Nexus