Récupérateurs d'assistants
SemrushBot-SWA est un bot exploité par Semrush qui récupère des pages à la demande pour un assistant IA. Les données collectées servent à l'outil SEO Writing Assistant pour vérifier si une URL est accessible. Il est documenté comme respectant le fichier robots.txt, mais aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique.
La requête annonce
"SemrushBot-SWA"
Comparé à
Rien de publié
Vérification en direct
Aucune vérification par l'opérateur n'existe pour SemrushBot-SWA. Vous verrez tout de même ce qu'est réellement l'adresse.
Référence
| User agent | SemrushBot-SWAJeton seul : recherchez la sous-chaîne. |
|---|---|
| Opérateur | Semrush |
| Finalité | Vérifie les URL de votre site pour SEO Writing Assistant. |
| Respecte robots.txt | Respectesource |
| Méthode de vérification | Déclaration uniquementRien de publié, user agent uniquement Aucun fichier de plages IP ni aucune convention de DNS inverse n'a été publié pour cet agent. La chaîne user agent est le seul indice, et n'importe quel client peut l'envoyer : considérez donc une correspondance comme une simple déclaration, et non comme une preuve. |
| Comportement d'exploration | Environ une fois toutes les 10 secondes. |
| Jetons robots.txt | SemrushBot-SWA |
| Documentation de l'opérateur | Aucune publiée |
Les données collectées servent à l'outil SEO Writing Assistant pour vérifier si une URL est accessible.
robots.txt
Placez l'un de ces fichiers à la racine de votre domaine. Les règles s'appliquent jeton par jeton.
User-agent: SemrushBot-SWA
Disallow: /User-agent: SemrushBot-SWA
Allow: /User-agent: SemrushBot-SWA
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchModifiez les chemins Disallow pour qu'ils correspondent à vos propres URL.
Bloquer SemrushBot-SWA signifie qu'une personne qui pose une question sur l'une de vos URL obtiendra une erreur au lieu d'un résumé. C'est un compromis en matière d'assistance et de réputation, sans rapport avec l'entraînement.
Générer un fichier pour tous les robotsFAQ
SemrushBot-SWA est un bot exploité par Semrush qui récupère des pages à la demande pour un assistant IA. Les données collectées servent à l'outil SEO Writing Assistant pour vérifier si une URL est accessible. Il est documenté comme respectant le fichier robots.txt, mais aucune liste de plages d'IP ni convention de DNS inverse n'est publiée. Il est donc impossible de prouver qu'une requête portant ce user agent est authentique.
Oui. L'opérateur indique que SemrushBot-SWA lit le fichier robots.txt et respecte les règles Disallow visant son propre jeton. Les règles s'appliquent lors de la prochaine récupération du fichier, ce qui peut prendre plusieurs heures ou plusieurs jours après leur publication.
Ce n'est pas possible, du moins pas à partir de la requête elle-même. Aucun fichier de plages IP ni aucune convention de DNS inverse n'a été publié pour cet agent. La chaîne user agent est le seul indice, et n'importe quel client peut l'envoyer : considérez donc une correspondance comme une simple déclaration, et non comme une preuve. Comparez plutôt l'IP source aux plages d'hébergeurs et de datacenters, et limitez le débit de tout trafic qui se comporte comme un crawler.
Ajoutez le jeton SemrushBot-SWA au fichier robots.txt avec Disallow: /. Si le crawler ignore robots.txt, filtrez le user agent au niveau de votre CDN ou de votre proxy inverse et renvoyez une erreur 403.
Bloquer SemrushBot-SWA signifie qu'une personne qui pose une question sur l'une de vos URL obtiendra une erreur au lieu d'un résumé. C'est un compromis en matière d'assistance et de réputation, sans rapport avec l'entraînement.