Anthropic запретила жестокое обращение с Claude и ужесточила правила

Anthropic впервые за год обновила политику использования Claude: запрещено «устойчивое и ненужное жестокое обращение» с моделью, пропаганда, слежка и разработка оружия. Запрет на жестокость касается только крайних случаев, основной механизм — завершение диалога.

• Запрет на жестокость к Claude действует только в крайних случаях, без банов пользователей
• Расширен запрет на оружие: софт и компоненты, вооружение дронов и автономных машин
• Слежка без согласия запрещена, включая выбор целей для ареста или обвинения
• Для автономного железа нужен оператор, способный остановить оборудование