Trainingscrawlers
Linguee Bot is een bot van Linguee die pagina's verzamelt om AI-modellen mee te trainen. Linguee Bot is een webcrawler die Linguee gebruikt om trainingsgegevens te verzamelen voor zijn AI-vertaaldienst. Er is geen lijst met IP-ranges of reverse DNS-conventie gepubliceerd. Je kunt dus niet bewijzen dat een verzoek met deze user agent echt is, en een regel in robots.txt alleen houdt een vervalsing niet tegen.
Verzoek meldt
"Linguee Bot"
Gecontroleerd aan de hand van
Niets gepubliceerd
Live check
Voor Linguee Bot bestaat geen check van de beheerder. Je ziet hier toch wat het adres echt is.
Referentie
| User agent | Linguee BotAlleen token: match op de substring. |
|---|---|
| Beheerder | Linguee |
| Doel | AI-vertaaldienst |
| Respecteert robots.txt | Negeert |
| Verificatiemethode | Alleen beweringNiets gepubliceerd, alleen user agent Voor deze agent is geen bestand met IP-bereiken en geen reverse-DNS-conventie gepubliceerd. De user-agent-string is het enige signaal, en elke client kan die meesturen. Zie een match daarom als een bewering en niet als bewijs. |
| Crawlpatroon | Niet gepubliceerd |
| robots.txt-tokens | Linguee Bot |
| Documentatie van de beheerder | Niets gepubliceerd |
Linguee Bot is een webcrawler die Linguee gebruikt om trainingsgegevens te verzamelen voor zijn AI-vertaaldienst.
robots.txt
Volgens de documentatie negeert Linguee Bot robots.txt. Dwing een blokkade ook af via je CDN.
User-agent: Linguee Bot
Disallow: /User-agent: Linguee Bot
Allow: /User-agent: Linguee Bot
Allow: /
Disallow: /account/
Disallow: /checkout/
Disallow: /searchPas de Disallow-paden aan zodat ze overeenkomen met je eigen URL's.
Als je Linguee Bot blokkeert, worden je pagina's niet gebruikt in de volgende trainingsronde. Wat al verzameld is, wordt niet verwijderd, en het heeft geen invloed op je posities in gewone zoekmachines.
Maak een bestand voor alle crawlersFAQ
Linguee Bot is een bot van Linguee die pagina's verzamelt om AI-modellen mee te trainen. Linguee Bot is een webcrawler die Linguee gebruikt om trainingsgegevens te verzamelen voor zijn AI-vertaaldienst. Er is geen lijst met IP-ranges of reverse DNS-conventie gepubliceerd. Je kunt dus niet bewijzen dat een verzoek met deze user agent echt is, en een regel in robots.txt alleen houdt een vervalsing niet tegen.
Meldingen van site-eigenaren wijzen erop dat Linguee Bot robots.txt niet betrouwbaar volgt. Voeg de regel toch toe en controleer daarna je logs. Komen er nog steeds verzoeken binnen, blokkeer dan aan de rand van je netwerk op user agent of bronadres.
Dat kan niet, in elk geval niet op basis van het verzoek zelf. Voor deze agent is geen bestand met IP-bereiken en geen reverse-DNS-conventie gepubliceerd. De user-agent-string is het enige signaal, en elke client kan die meesturen. Zie een match daarom als een bewering en niet als bewijs. Vergelijk in plaats daarvan het bron-IP met hosting- en datacenterranges, en pas rate limiting toe op alles wat zich als een crawler gedraagt.
Voeg het token Linguee Bot toe aan robots.txt met Disallow: /. Negeert de crawler robots.txt, filter dan op de user agent in je CDN of reverse proxy en geef daar een 403 terug.
Als je Linguee Bot blokkeert, worden je pagina's niet gebruikt in de volgende trainingsronde. Wat al verzameld is, wordt niet verwijderd, en het heeft geen invloed op je posities in gewone zoekmachines.