Assistenten-Abrufe
SemrushBot-SWA ist ein von Semrush betriebener Bot, der für einen KI-Assistenten bei Bedarf einzelne Seiten abruft. Die gesammelten Daten werden für das Tool SEO Writing Assistant verwendet, um zu prüfen, ob eine URL erreichbar ist. Laut Dokumentation beachtet er robots.txt, es gibt jedoch keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen.
Anfrage gibt an
"SemrushBot-SWA"
Geprüft anhand
Nichts veröffentlicht
Live-Prüfung
Für SemrushBot-SWA gibt es keine Prüfung anhand von Angaben des Betreibers. Sie sehen trotzdem, was die Adresse tatsächlich ist.
Referenz
| User-Agent | SemrushBot-SWANur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | Semrush |
| Zweck | Prüft URLs auf Ihrer Website für SEO Writing Assistant. |
| Beachtet robots.txt | BeachtetQuelle |
| Verifizierungsmethode | Nur AngabeNichts veröffentlicht, nur User-Agent Für diesen Agenten wurden weder eine Datei mit IP-Bereichen noch eine Reverse-DNS-Konvention veröffentlicht. Der User-Agent-String ist das einzige Merkmal, und jeder Client kann ihn senden. Werten Sie eine Übereinstimmung daher als Behauptung, nicht als Beweis. |
| Crawl-Muster | Etwa alle 10 Sekunden. |
| robots.txt-Tokens | SemrushBot-SWA |
| Dokumentation des Betreibers | Keine veröffentlicht |
Die gesammelten Daten werden für das Tool SEO Writing Assistant verwendet, um zu prüfen, ob eine URL erreichbar ist.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: SemrushBot-SWA
Disallow: /User-agent: SemrushBot-SWA
Allow: /User-agent: SemrushBot-SWA
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie SemrushBot-SWA blockieren, erhält eine Person, die nach einer Ihrer URLs fragt, statt einer Zusammenfassung eine Fehlermeldung. Das ist eine Abwägung zwischen Support und Reputation, keine Frage des Trainings.
Eine Datei für alle Crawler erstellenFAQ
SemrushBot-SWA ist ein von Semrush betriebener Bot, der für einen KI-Assistenten bei Bedarf einzelne Seiten abruft. Die gesammelten Daten werden für das Tool SEO Writing Assistant verwendet, um zu prüfen, ob eine URL erreichbar ist. Laut Dokumentation beachtet er robots.txt, es gibt jedoch keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen.
Ja. Der Betreiber dokumentiert, dass SemrushBot-SWA robots.txt liest und Disallow-Regeln für sein eigenes Token befolgt. Die Regeln greifen beim nächsten Abruf der Datei, was Stunden oder Tage nach der Veröffentlichung sein kann.
Das ist nicht möglich, zumindest nicht anhand der Anfrage selbst. Für diesen Agenten wurden weder eine Datei mit IP-Bereichen noch eine Reverse-DNS-Konvention veröffentlicht. Der User-Agent-String ist das einzige Merkmal, und jeder Client kann ihn senden. Werten Sie eine Übereinstimmung daher als Behauptung, nicht als Beweis. Gleichen Sie stattdessen die Quell-IP mit Hosting- und Rechenzentrumsbereichen ab und begrenzen Sie die Rate bei allem, was sich wie ein Crawler verhält.
Tragen Sie das Token SemrushBot-SWA mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie SemrushBot-SWA blockieren, erhält eine Person, die nach einer Ihrer URLs fragt, statt einer Zusammenfassung eine Fehlermeldung. Das ist eine Abwägung zwischen Support und Reputation, keine Frage des Trainings.