Autonome Agenten
newsai ist ein Bot, der selbstständig im Web navigiert, um mehrstufige Aufgaben zu erledigen. Sein Betreiber ist nicht öffentlich bekannt. Der User-Agent-String enthält keine URL, und es gibt mehrere Websites, die die Marke newsai verwenden. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.
Anfrage gibt an
"newsai"
Geprüft anhand
Nichts veröffentlicht
Live-Prüfung
Für newsai gibt es keine Prüfung anhand von Angaben des Betreibers. Sie sehen trotzdem, was die Adresse tatsächlich ist.
Referenz
| User-Agent | newsaiNur Token: auf den Teilstring prüfen. |
|---|---|
| Betreiber | Nicht öffentlich bekannt |
| Zweck | KI-Datenscraper |
| Beachtet robots.txt | Keine Richtlinie |
| Verifizierungsmethode | Nur AngabeNichts veröffentlicht, nur User-Agent Für diesen Agenten wurden weder eine Datei mit IP-Bereichen noch eine Reverse-DNS-Konvention veröffentlicht. Der User-Agent-String ist das einzige Merkmal, und jeder Client kann ihn senden. Werten Sie eine Übereinstimmung daher als Behauptung, nicht als Beweis. |
| Crawl-Muster | Nicht veröffentlicht |
| robots.txt-Tokens | newsai |
| Dokumentation des Betreibers | Keine veröffentlicht |
Der User-Agent-String enthält keine URL, und es gibt mehrere Websites, die die Marke newsai verwenden.
robots.txt
Legen Sie eine davon im Stammverzeichnis Ihrer Domain ab. Regeln gelten pro Token.
User-agent: newsai
Disallow: /User-agent: newsai
Allow: /User-agent: newsai
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPassen Sie die Disallow-Pfade an Ihre eigenen URLs an.
Wenn Sie newsai blockieren, unterbinden Sie automatisierte Sitzungen, die Formulare ausfüllen, Abläufe durchklicken und Seiten so lesen wie ein angemeldeter Benutzer. Rate Limits und Challenges wirken hier meist besser als eine robots.txt-Zeile.
Eine Datei für alle Crawler erstellenFAQ
newsai ist ein Bot, der selbstständig im Web navigiert, um mehrstufige Aufgaben zu erledigen. Sein Betreiber ist nicht öffentlich bekannt. Der User-Agent-String enthält keine URL, und es gibt mehrere Websites, die die Marke newsai verwenden. Es gibt keine veröffentlichte Liste von IP-Bereichen und keine Reverse-DNS-Konvention. Eine Anfrage mit diesem User-Agent lässt sich daher nicht als echt nachweisen, und eine robots.txt-Regel allein hält eine Fälschung nicht auf.
Nicht dokumentiert. Es gibt keine Aussage eines Betreibers dazu, ob newsai robots.txt liest. Fügen Sie die Regel hinzu, prüfen Sie aber in Ihren Logs, ob die Anfragen tatsächlich aufhören.
Das ist nicht möglich, zumindest nicht anhand der Anfrage selbst. Für diesen Agenten wurden weder eine Datei mit IP-Bereichen noch eine Reverse-DNS-Konvention veröffentlicht. Der User-Agent-String ist das einzige Merkmal, und jeder Client kann ihn senden. Werten Sie eine Übereinstimmung daher als Behauptung, nicht als Beweis. Gleichen Sie stattdessen die Quell-IP mit Hosting- und Rechenzentrumsbereichen ab und begrenzen Sie die Rate bei allem, was sich wie ein Crawler verhält.
Tragen Sie das Token newsai mit Disallow: / in die robots.txt ein. Falls der Crawler robots.txt ignoriert, filtern Sie den User-Agent in Ihrem CDN oder Reverse Proxy und geben Sie dort stattdessen 403 zurück.
Wenn Sie newsai blockieren, unterbinden Sie automatisierte Sitzungen, die Formulare ausfüllen, Abläufe durchklicken und Seiten so lesen wie ein angemeldeter Benutzer. Rate Limits und Challenges wirken hier meist besser als eine robots.txt-Zeile.