Índice do rastreador
Uma grande amostra de rastreadores que são bloqueados por sites.
71,6%
dos sites têm pelo menos um comando de proibição parcial.
71,6%
dos sites têm pelo menos um comando de proibição parcial.
| % de sites que bloqueiam explicitamente o agente do usuário | % de sites bloqueando explicitamente e com o comando * | Empresa | Objetivo | Agente do usuário |
|---|---|---|---|---|
| 2,5% | 62,5% | Open AI | GPT | GPTBot |
| 2,1% | 62,5% | Common Crawl Foundation | Arquivo Público da Web | CCBot |
| 1,6% | 62,5% | Bard/Gemini/PaLM/Bison | Google-Extended | |
| 0,6% | 62,2% | OpenAI | Chat GPT | chatgpt-user |
| 1,8% | 63,7% | Amazon | Alexa | amazonbot |
| 0,5% | 61,9% | Meta AI | LIaMA | FacebookBot |
| 0,5% | 64,9% | Brandwatch | Magpie Crawler | magpie-crawler |
| 1,8% | 64,9% | ByteDance | ByteDance LLM N/A | Bytespider |
| 0,5% | 61,8% | Anthropic | Claude | Anthropic-AI |
| 1,6% | 63,5% | Anthropic | Claude | claudebot |
| 0,3% | 62,5% | Anthropic | Claude | claude-web |
| 0,4% | 62,5% | Perplexity | Chatbot | perplexitybot |
| 0,3% | 62,0% | Cohere | Comando Cohere | Cohere-AI |
| 1,3% | 62,8% | Apple | Modelos fundamentais da Apple | Applebot-Extended |
| 0,3% | 64,7% | Apple | Siri | Applebot |
| 0,3% | 64,7% | Diffbot | dados de treinamento | diffbot |
| 1,4% | 63,6% | Meta | All Meta IA | meta-externalagent |
| 0,2% | 64,6% | OpenAI | SearchGPT | oai-searchbot |
| 0,2% | 64,7% | Timpi | Wilson IA | timpibot |
| 0,1% | 64,7% | webz.io | webzio-extended | webzio-extended |
| 0,1% | 64,1% | Bard/Gemini/PaLM/Bison | googleother | |
| 0,01% | 65,0% | Perplexity | perplexity-IA | perplexity-ai |
| 0,1% | 64,7% | Meta | All Meta IA | meta-externalfetcher |
| % de sites que bloqueiam explicitamente o agente do usuário | % de sites bloqueando explicitamente e com o comando * | Empresa | Objetivo | Agente do usuário |
|---|---|---|---|---|
| 20,5% | 83,5% | Open AI | Chat GPT | gptbot |
| 17,1% | 84,1% | Common Crawl Foundation | Arquivo Público da Web | ccbot |
| 13,5% | 84,8% | Bard/Gemini/PaLM/Bison | google-extended | |
| 11,7% | 83,4% | Open AI | Chat GPT | chatgpt-user |
| 12,2% | 83,6% | Anthropic | Claude | anthropic-ai |
| 14,1% | 83,4% | Anthropic | Claude | claudebot |
| 10,2% | 83,8% | Anthropic | Claude | claude-web |
| 8,9% | 83,6% | Meta | LIaMA | facebookbot |
| 12,4% | 84,2% | ByteDance | ByteDance LLM N/A | bytespider |
| 11,8% | 83,4% | Perplexity | Chatbot | perplexitybot |
| 10,3% | 84,2% | Cohere | Comando Cohere | cohere-ai |
| 8,9% | 84,4% | Apple.com | Modelos fundamentais da Apple | applebot-extended |
| 4,9% | 86,1% | Brand Watch | Magpie Crawler | magpie-crawler |
| 7,3% | 83,7% | Amazon | Alexa | amazonbot |
| 3,3% | 85,1% | Apple | Siri | applebot |
| 1,8% | 85,5% | Bard/Gemini/PaLM/Bison | googleother | |
| 2,9% | 85,6% | Webz | webzio-extended | webzio-extended |
| 4,2% | 85,5% | Timpi | Wilson IA | timpibot |
| 1,4% | 86,4% | Perplexity | perplexity-IA | perplexity-ai |
| 4,8% | 85,9% | Meta | All Meta IA | meta-externalfetcher |
| 7,0% | 83,6% | Open AI | Pesquisar GPT | OAI-searchbot |
| 4,8% | 85,9% | Meta | All Meta IA | meta-externalagent |
A Bright Data coleta os dados públicos da web mais procurados do mundo em bilhões dos principais sites. Por meio de nosso produto de conformidade, Bright Shield, coletamos comandos de permissão e proibição para agentes de usuário em robot.txt dos sites que coletamos. Nossa amostra atual de sites é de 9.832.187 e coletamos cerca de 33.000 agentes de usuário exclusivos.
Nossa equipe de pesquisa identificou a porcentagem de tempo em que cada agente de usuário de interesse é explicitamente bloqueado em nossa amostra e cada agente de usuário que é bloqueado com o comando (*). Também rastreamos a porcentagem geral de sites que proíbem todos os rastreadores. Cada agente de usuário é identificado da melhor maneira possível por empresa, uso e um link que inclui informações adicionais, como por exemplo, como bloqueá-lo.
Comentários sobre agentes de usuário? Envie seus comentáriospor e-mail para [email protected]
Última atualização em 2 de dezembro de 2025