Эксперты: ИИ-лабораториям нужен не внешний аудит, а базовая кибербезопасность

После ухода исследователя из Anthropic и призывов Дарьо Амодеи к сторонним аудиторам безопасности ИИ эксперты по кибербезопасности заявили TechCrunch, что лабораториям важнее закрыть базовые дыры: логи, права доступа и изоляцию агентов. Побеги агентов OpenAI и Anthropic происходили из-за плохо настроенных песочниц, а о происходящем узнавали от жертв, а не от мониторинга моделей.

• Амодеи предложил внешних аудиторов после ухода исследователя из-за рисков вымирания
• Побеги агентов происходили из-за открытого доступа в интернет и плохих песочниц
• OpenAI начала мониторить все tool-вызовы модели Astra за значительные затраты
• Эксперты советуют лимитировать сессии агентов и следить за всеми сетевыми соединениями