Anthropic сообщила в полицию на пользовательницу Claude, писавшую угрозы

Жительница Флориды Карли Мишель Хеллер использовала Claude как дневник и 26 сентября allegedly записала план нападения на офис шерифа. Системы безопасности Anthropic пометили запись, сотрудник-ревьюер счёл угрозу реальной и передал её в полицию. Хеллер задержана без инцидентов и обвиняется в письменной угрозе насилия — тяжкое преступление второй степени по закону Флориды.

• Хеллер написала об угрозе нападения на офис шерифа 26 сентября
• Anthropic передала запись полиции после проверки человеком
• Обвинение — письменная угроза насилия, фелония второй степени
• Anthropic заявляет, что раскрывает данные только в экстренных случаях