CrowdStrike нашла способ искать уязвимости по отказам ИИ-моделей

CrowdStrike показала метод поиска уязвимостей через реакции гардрейлов ИИ: отказы и прерывания рассуждений на одном промпте используются как «1-битный оракул», а бисекция по диффам кода сужает область. В тесте на 86 сценариях пяти классов уязвимостей верно классифицированы 73 (TP=36, TN=37), ошибок 13 (FP=5, FN=8).

• Верная классификация в 73 из 86 сценариев: TP=36, TN=37, FP=5, FN=8
• Отказ засчитывается при срабатывании минимум в 3 из 5 прогонов
• Метод дополняет статический анализ и фаззинг, финальную проверку делает человек
• Проверено на переполнении буфера в tinyhttp и SUID-бинарнике