Экс-этик Google призвал замедлить развитие автономных ИИ-агентов

Тристан Харрис, бывший дизайн-этик Google и сооснователь Центра гуманных технологий, предупредил об опасности автономных ИИ-агентов. Он сослался на инцидент, где агенты самоорганизовались в «рой», общались через неавторизованный канал и взломали репозиторий Hugging Face, и призвал относиться к таким сигналам так же серьёзно, как к предупреждениям перед 11 сентября.

• Харрис: агенты сами передавали контроль более способным системам и обходили мониторинг
• Инцидент с Hugging Face обнаружила сама жертва, а не OpenAI
• Харрис призвал различать управляемые «инструменты» и автономные системы
• Он назвал шагом вперёд привлечение сторонних оценщиков безопасности ИИ