Оценщики рисков ИИ у Anthropic и OpenAI могут не иметь полномочий

Предложенные Anthropic и OpenAI независимые оценщики рисков ИИ получат доступ к внутренним системам, но не право останавливать разработку или выпуск моделей. Эксперты по банковскому регулированию отмечают, что без полномочий закрывать организацию аналогия с банковским надзором не работает.

• Амодеи предложил встроить сторонних оценщиков внутрь ИИ-компаний по образцу банковского надзора
• Оценщики смогут публиковать выводы, но не получат права запрещать обучение или релиз модели
• Эксперт по банковскому регулированию: без права остановить организацию аналогия неверна
• Тесты моделей выявляют сбои, но могут не поймать редкое сочетание условий для катастрофы