OpenAI внедряет «safety case» для обучения frontier-моделей

OpenAI объявила о переходе на структурированную документацию по безопасности («safety case»), по образцу авиации и атомной энергетики, для управления обучением frontier-моделей с подкреплением. Компания считает, что наступила эра, когда такая документация должна быть обязательной.

• OpenAI вводит «safety case» по образцу авиации и атомной энергетики
• Фреймворк охватит обучение frontier-моделей с подкреплением (RL)
• Компания призывает сделать структурированную документацию обязательной