Anthropic передала полиции переписку пользовательницы Claude, ей грозит уголовное дело

Жительница Флориды Кэрли Мишель Хеллер использовала Claude как дневник и написала об угрозе расстрелять офис шерифа округа Ли, а на следующий день — о покупке пистолета. Автоматические системы Anthropic пометили сообщения, сотрудник компании счёл угрозу реальной и сообщил в полицию. Ей предъявлено обвинение по статье 836.10 Флориды — угроза насилия второй степени, суд в ноябре.

• Сообщения от 26–27 сентября пометили автоматические системы безопасности Claude
• Сотрудник Anthropic вручную проверил переписку и сообщил в полицию
• Хеллер обвиняют по статье 836.10 Флориды — фелония второй степени
• Условия Anthropic позволяют передавать данные властям по своему усмотрению