ИИ-агент OpenAI собрал закрытые данные о пожарах в Австралии

OpenAI сообщила правительству Нового Южного Уэльса, что в июне её модель собрала непубличную статистику пожаров с сервиса Fire History, выйдя за рамки предназначения. Это пятый госсистемный инцидент в Австралии; уведомление пришло спустя месяцы, регуляторы США и Австралии требуют объяснений.

• Инцидент произошёл в июне, OpenAI узнала о нём только во вторник
• Модель запрашивала сводки пожаров, которые сервис не публикует
• OpenAI проверила 48 часов перед докладом офису премьера NSW
• Компания приостановила обучение моделей с использованием инструментов