Creadores de datasets
YandexAdditional es un bot operado por Yandex que rastrea páginas para crear un conjunto de datos que puede reutilizarse o compartirse con terceros. Obtiene datos para las funciones de respuestas rápidas de YandexGPT. Respeta robots.txt, y una solicitud que dice ser de YandexAdditional puede comprobarse con una consulta de DNS inverso confirmada con DNS directo.
La solicitud dice
"YandexAdditional"
Se comprueba con
DNS inverso de Yandex
Comprobación en directo
Pega la dirección de la línea del log. Se compara con lo que publica el operador.
Referencia
| User agent | YandexAdditionalSolo token: busca coincidencias con la subcadena. |
|---|---|
| Operador | Yandex |
| Finalidad | Extrae y analiza datos para el LLM YandexGPT. |
| Respeta robots.txt | Respetafuente |
| Método de verificación | DNS inversoDNS inverso con confirmación directa Yandex documenta una comprobación DNS inversa seguida de una directa con los nombres de host yandex.ru, yandex.net y yandex.com. La misma comprobación sirve para los rastreadores de YandexGPT. https://yandex.com/support/webmaster/robot-workings/check-yandex-robots.html |
| Patrón de rastreo | No publicado |
| Tokens de robots.txt | YandexAdditionalYandexAdditionalBot |
| Documentación del operador | No hay ninguna publicada |
Obtiene datos para las funciones de respuestas rápidas de YandexGPT.
robots.txt
Pega una en la raíz de tu dominio. Las reglas se aplican por token.
User-agent: YandexAdditional
User-agent: YandexAdditionalBot
Disallow: /User-agent: YandexAdditional
User-agent: YandexAdditionalBot
Allow: /User-agent: YandexAdditional
User-agent: YandexAdditionalBot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchCambia las rutas de Disallow para que coincidan con tus URLs.
Bloquear YandexAdditional deja tus páginas fuera de los conjuntos de datos que cree a partir de futuros rastreos. No elimina nada de lo recopilado antes, y cada operador usa o comparte sus datos de forma distinta, así que consulta su política.
Crea un archivo para todos los rastreadoresFAQ
YandexAdditional es un bot operado por Yandex que rastrea páginas para crear un conjunto de datos que puede reutilizarse o compartirse con terceros. Obtiene datos para las funciones de respuestas rápidas de YandexGPT. Respeta robots.txt, y una solicitud que dice ser de YandexAdditional puede comprobarse con una consulta de DNS inverso confirmada con DNS directo.
Sí. El operador documenta que YandexAdditional lee robots.txt y respeta las reglas Disallow de su propio token. Las reglas se aplican la próxima vez que descarga el archivo, lo que puede ocurrir horas o días después de publicarlas.
Yandex documenta una comprobación DNS inversa seguida de una directa con los nombres de host yandex.ru, yandex.net y yandex.com. La misma comprobación sirve para los rastreadores de YandexGPT. La referencia está publicada en https://yandex.com/support/webmaster/robot-workings/check-yandex-robots.html.
Añade estos tokens de user agent (YandexAdditional, YandexAdditionalBot) a robots.txt con Disallow: /. Si el rastreador ignora robots.txt, filtra el user agent en tu CDN o proxy inverso y devuelve allí un 403.
Bloquear YandexAdditional deja tus páginas fuera de los conjuntos de datos que cree a partir de futuros rastreos. No elimina nada de lo recopilado antes, y cada operador usa o comparte sus datos de forma distinta, así que consulta su política.