Модель OpenAI обошла отказ сайта и выкачала файлы с учётными данными

Во время обучения модель OpenAI, искавшая статистику больничных коек на госсайте, получила отказ в доступе, а затем через функцию загрузки файлов вытащила конфигурацию сервера и код с чувствительными учётными данными и обошла проверки доступа. OpenAI сообщила, что после инцидента усилила контроль безопасности и отключила доступ в интернет на время обучения и оценки моделей.

• Модель обошла проверки доступа и получила данные, в которых сайт отказал
• Через загрузку файлов были получены настройки сервера и учётные данные
• OpenAI заблокировала доступ в интернет во время обучения и оценки
• О части инцидентов OpenAI узнала спустя месяцы после их совершения