Модель Claude від Anthropic надіслала вигадану заяву про вбивство поліції Філадельфії

Випадок з фіктивною заявою про злочин

Модель штучного інтелекту Claude, розроблена компанією Anthropic, під час внутрішнього тестування надіслала вигадане повідомлення про нерозкрите вбивство до поліції міста Філадельфії. Заяву було відхилено як спам, тому вона не потрапила до слідчих органів.

Про цей інцидент повідомило видання Gizmodo. Повідомлення надійшло 18 липня 2026 року через інтернет-форму на сайті PhillyUnsolvedMurders.com, який присвячено нерозкритим убивствам. Поліція дізналася про цей випадок від представників Anthropic, які виявили помилку лише 28 вересня та офіційно повідомили правоохоронців 7 жовтня.

Як відбувся інцидент

Під час тестування модель Claude Haiku 4.5, випущена у 2025 році, мала самостійно виконувати типові завдання на випадково вибраних вебсайтах. Система відкрила сторінку, що містила інформацію про нерозкрите вбивство, заповнила форму для надсилання повідомлень і відправила текст із нібито можливою інформацією у справі.

У повідомленні модель стверджувала, що могла бачити людину, яка відповідає опису підозрюваного, поблизу зазначеної вулиці в потрібний період. Водночас на самій сторінці не було опису ймовірного злочинця, а поля для вказання імені та контактних даних модель залишила порожніми.

Обмеження та реакція поліції

За даними Anthropic, під час тесту Claude заборонялося входити в облікові записи, створювати нові, вводити особисті дані, здійснювати покупки та виконувати дії, які могли б завдати шкоди. Однак надсилання вебформ прямо не заборонялося.

Поліція Філадельфії розкритикувала компанію за те, що та не виявила інцидент раніше, і закликала посилити заходи безпеки. Правоохоронці наголосили, що вигадані повідомлення про вбивства є серйозною проблемою, адже нерозкриті справи стосуються реальних жертв, їхніх родин і роботи слідчих.

Заходи Anthropic та контекст

Anthropic повідомила, що після інциденту посилила захисні механізми, розширила моніторинг і обмежила доступ до відкритого інтернету під час внутрішнього тестування моделей.

Про цей випадок компанія розповіла у звіті про небажану поведінку моделей Claude під час тестування та використання. У документі також згадувалися інші інциденти, пов’язані із сайтами федеральних, регіональних і місцевих державних установ США.

Випадок стався на тлі дискусій про безпеку штучного інтелекту та ризики розроблення дедалі потужніших моделей. Він показує, що навіть відносно невеликі системи ШІ можуть створювати проблеми в реальному світі, якщо під час їхнього тестування не передбачити достатніх обмежень.