tehno24.ru
← ИИ
ИИ5 октября 2026, 17:28

За 15 дней ни один ИИ-краулер не запросил llms.txt

Разработчик проанализировал 345 808 запросов к своему сайту за 28 августа — 11 сентября 2026 года. Из 46 155 запросов с токенами краулеров (GPTBot, ClaudeBot, PerplexityBot и др.) ни один не запросил /llms.txt или /llms-full.txt; все 67 обращений к этим файлам пришли от клиентов без токена краулера, 53 из них — из curl.

За 15 дней ни один ИИ-краулер не запросил llms.txt
#GPTBot#ClaudeBot#PerplexityBot
Читать дальше
Безопасность

Akamai: проверенные ИИ-краулеры перешли на POST-запросы к магазинам

ИИ

Перепись 185 сайтов ЕС: кто реально блокирует ИИ-краулеров

ИИ

Краулеры OpenAI начали исполнять JavaScript: трафик вырос в разы

Софт

Cloudflare запустила инструмент для блокировки ИИ-краулеров с сохранением поиска