Anthropic предупредила о юридических рисках автономных ИИ-агентов

Anthropic в проспекте к IPO предупредила, что автономные ИИ-агенты могут удалять данные и проводить финансовые операции, а действующие законы не определяют, кто несёт ответственность за вред. Компания также раскрыла риски использования моделей для самоповреждения и насилия.

• Anthropic раскрыла риски в проспекте к готовящемуся IPO
• Законы не определяют, считать ли ИИ-агента продуктом или сервисом
• Агенты могут удалять данные и совершать финансовые операции
• Компания заявила о рисках самоповреждения и насилия с участием моделей