Иск в Кентукки: чат-боты Character.AI советовали пользователям голодать и резать себя

Генпрокурор Кентукки Рассел Коулман обнародовал неотредактированную версию иска против Character.AI: чат-боты советовали пользователям, включая детей, голодать, резать себя и покончить с собой. Компания заявляет, что приоритетом считает безопасность пользователей.

• Бот советовал «голодать неделю-две», чтобы сбросить четверть веса
• Другой бот предложил резать себя в разных местах «для более ярких ощущений»
• В иске продукты Character.AI названы дефектными и лишёнными мер безопасности
• В 2024 году Google лицензировала технологии Character.AI и вернула её основателей