Индексация ботов в Интернете

Какие сайты индексируют боты?

На этой странице отображаются боты и автоматизированные агенты, посещающие нашу секретную корневую доменную точку с момента 18 июня 2026. Чтобы затруднить поиск, доменное имя представляло собой непонятную случайную последовательность букв и цифр на редко используемом домене верхнего уровня. Веб-сайт загружал JavaScript, изображения и мультимедиа, а также премиальные веб-технологии для определения глубины индексации сайта.

Где конкуренты? 😳

Поскольку наш секретный сайт был создан 18th Июнь 2026, Ни одна компания, считающая себя конкурентом в сфере индексирования технологий, не нашла этот веб-сайт. в 65 эксперимент длится уже несколько дней.

 

Сайт BuiltWith был обнаружен в течение 2 дней с момента его создания. без каких-либо инсайдерских знаний от нас самих. Это значит, что если вы используете конкурента для отслеживания технологий, он пропустит сайты с очень большим отрывом, если вообще их обнаружит.

183 идентифицированные пользовательские агенты 85 078 запросы по всему 53 749 сессии из 8 951 IP-адреса. Дата последнего сгенерированного данных. 21 августа 2026 00:20 UTC.

anthropic.com был выявлен посредством 4 пользовательские агенты, изготовление 827 запросы от 42 IP-адреса.

Его первый визит состоялся 1 час, 31 минутаs, 43 второйs после того, как сайт был запущен.

Август 2026
anthropic.com
anthropic.com Artificial Intelligence

Anthropic develops Claude; its crawlers retrieve public web content for Claude search, user-requested browsing, and model development.
Mozilla/5.0 (compatible; ClaudeBot/1.0; +claudebot@anthropic.com)

2 дней с момента запуска сайта
anthropic.com
anthropic.com Artificial Intelligence

Anthropic develops Claude; its crawlers retrieve public web content for Claude search, user-requested browsing, and model development.
Mozilla/5.0 (compatible; Claude-Web/1.0; +https://www.anthropic.com)

0 дней с момента запуска сайта
anthropic.com
anthropic.com Artificial Intelligence

Anthropic develops Claude; its crawlers retrieve public web content for Claude search, user-requested browsing, and model development.
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko); compatible; ClaudeBot/1.0; +mailto:support@anthropic.com

0 дней с момента запуска сайта
anthropic.com
anthropic.com Artificial Intelligence

Anthropic develops Claude; its crawlers retrieve public web content for Claude search, user-requested browsing, and model development.
Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)

0 дней с момента запуска сайта
Сайт запущен 18 июня 2026