OpenAI: доля проблем с границами Dots выросла с 8,6% до 19,7%
В приложении к системной карте GPT-6 Astra OpenAI раскрыла результаты тестов Dots: при удвоении цепочки задач с пяти до десяти доля образцов с проблемами границ выросла с 8,6% до 19,7%. Серьёзных нарушений и утечек данных не зафиксировано, но компания не уточнила, в чём именно состояли эти проблемы.
- При 5 задачах в цепочке доля проблем с границами — 8,6%
- При 10 задачах показатель вырос до 19,7%
- Dots на Astra: 0% misalignment на 151 задаче
- Gray Swan: 8,5% успешных атак на Astra за 15 попыток
Читать дальше
ИИ