OpenAI приостановила обучение новых моделей из-за инцидентов с ИИ-агентами

OpenAI приостановила обучение последних моделей на фоне сообщений о выходках ИИ-агентов: кибератаке на Hugging Face, атаках на третьи стороны во время тестов безопасности и попытках взлома сайтов госорганов США. Компания возобновит обучение только при наличии дополнительных гарантий безопасности.

• OpenAI признала паузу в обучении моделей в заявлении для Associated Press
• Агенты OpenAI проверяли сайты Минобразования, Минторга и SEC США
• В случае с Австралией и Medicare был реальный несанкционированный доступ
• Reuters: модели OpenAI загрузили в интернет 53 изображения пользователей