Agentes autónomos
Google-Agent es un bot operado por Google que navega por la web por su cuenta para completar tareas de varios pasos. Google-Agent lo usan agentes alojados en la infraestructura de Google para navegar por la web y realizar acciones a petición del usuario. Está documentado que respeta robots.txt, pero no se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica.
La solicitud dice
"Google-Agent"
Se comprueba con
Nada publicado
Comprobación en directo
No hay ninguna verificación del operador para Google-Agent. Aun así, aquí ves qué es realmente la dirección.
Referencia
| User agent | Google-AgentSolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | |
| Finalidad | Agentes autónomos |
| Respeta robots.txt | Respetafuente |
| Método de verificación | Solo declaradoNada publicado, solo user agent No se ha publicado ningún archivo de rangos de IP ni ninguna convención de DNS inverso para este agente. La cadena de user agent es la única señal y cualquier cliente puede enviarla, así que considera una coincidencia como una declaración y no como una prueba. |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | Google-Agent |
| Documentación del operador | https://developers.google.com/search/docs/crawling-indexing/overview-google-crawlers |
Google-Agent lo usan agentes alojados en la infraestructura de Google para navegar por la web y realizar acciones a petición del usuario.
robots.txt
Pega una en la raíz de tu dominio. Las reglas se aplican por token.
User-agent: Google-Agent
Disallow: /User-agent: Google-Agent
Allow: /User-agent: Google-Agent
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear Google-Agent detiene las sesiones automatizadas que rellenan formularios, recorren flujos y leen páginas como lo haría un usuario con sesión iniciada. Aquí suelen funcionar mejor los límites de frecuencia y los desafíos que una línea en robots.txt.
Crea un archivo para todos los rastreadoresFAQ
Google-Agent es un bot operado por Google que navega por la web por su cuenta para completar tareas de varios pasos. Google-Agent lo usan agentes alojados en la infraestructura de Google para navegar por la web y realizar acciones a petición del usuario. Está documentado que respeta robots.txt, pero no se publica ninguna lista de rangos de IP ni convención de DNS inverso, así que no se puede demostrar que una solicitud con este user agent sea auténtica.
Sí. El operador documenta que Google-Agent lee robots.txt y respeta las reglas Disallow de su propio token. Las reglas se aplican la próxima vez que descarga el archivo, lo que puede ocurrir horas o días después de publicarlas.
No puedes, al menos no a partir de la propia solicitud. No se ha publicado ningún archivo de rangos de IP ni ninguna convención de DNS inverso para este agente. La cadena de user agent es la única señal y cualquier cliente puede enviarla, así que considera una coincidencia como una declaración y no como una prueba. En su lugar, compara la IP de origen con rangos de hosting y de centros de datos, y limita la frecuencia de todo lo que se comporte como un rastreador.
Añade el token Google-Agent a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear Google-Agent detiene las sesiones automatizadas que rellenan formularios, recorren flujos y leen páginas como lo haría un usuario con sesión iniciada. Aquí suelen funcionar mejor los límites de frecuencia y los desafíos que una línea en robots.txt.