Creadores de datasets
Diffbot es un bot que rastrea páginas para crear un conjunto de datos que puede reutilizarse o compartirse con terceros. Diffbot es un rastreador web que extrae y estructura el contenido de los sitios web mediante comprensión visual basada en IA y proporciona datos de grafos de conocimiento para aplicaciones como la inteligencia de merc…. No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
La solicitud dice
"Diffbot"
Se comprueba con
Nada publicado
Comprobación en directo
No hay ninguna verificación del operador para Diffbot. Aun así, aquí ves qué es realmente la dirección.
Referencia
| User agent | DiffbotSolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | Diffbot |
| Finalidad | Creadores de datasets |
| Respeta robots.txt | Sin política |
| Método de verificación | Solo declaradoNada publicado, solo user agent Si respeta o no robots.txt se configura para cada cliente, así que dos rastreos de Diffbot sobre el mismo sitio pueden comportarse de forma distinta. No hay una lista de IP publicada. |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | Diffbot |
| Documentación del operador | No hay ninguna publicada |
Diffbot es un rastreador web que extrae y estructura el contenido de los sitios web mediante comprensión visual basada en IA y proporciona datos de grafos de conocimiento para aplicaciones como la inteligencia de merc…
robots.txt
Pega una en la raíz de tu dominio. Las reglas se aplican por token.
User-agent: Diffbot
Disallow: /User-agent: Diffbot
Allow: /User-agent: Diffbot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear Diffbot deja tus páginas fuera de los conjuntos de datos que cree a partir de futuros rastreos. No elimina nada de lo recopilado antes, y cada operador usa o comparte sus datos de forma distinta, así que consulta su política.
Crea un archivo para todos los rastreadoresFAQ
Diffbot es un bot que rastrea páginas para crear un conjunto de datos que puede reutilizarse o compartirse con terceros. Diffbot es un rastreador web que extrae y estructura el contenido de los sitios web mediante comprensión visual basada en IA y proporciona datos de grafos de conocimiento para aplicaciones como la inteligencia de merc…. No se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica, y una regla en robots.txt no basta para frenar una suplantación.
No está documentado. Ninguna declaración del operador indica si Diffbot lee robots.txt, así que añade la regla pero comprueba en tus registros que las solicitudes realmente se detienen.
No puedes, al menos no a partir de la propia solicitud. Si respeta o no robots.txt se configura para cada cliente, así que dos rastreos de Diffbot sobre el mismo sitio pueden comportarse de forma distinta. No hay una lista de IP publicada. En su lugar, compara la IP de origen con rangos de hosting y de centros de datos, y limita la frecuencia de todo lo que se comporte como un rastreador.
Añade el token Diffbot a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear Diffbot deja tus páginas fuera de los conjuntos de datos que cree a partir de futuros rastreos. No elimina nada de lo recopilado antes, y cada operador usa o comparte sus datos de forma distinta, así que consulta su política.