User-agent: * Disallow: /admin/ # ===== Aspirateurs : blocage pose le 08/09/2026 ========================== # Regle appliquee : on AUTORISE ce qui indexe pour envoyer des visiteurs # (moteurs de recherche, y compris les moteurs conversationnels qui citent # leurs sources, et les apercus de partage sur les reseaux sociaux) ; on # REFUSE ce qui aspire pour entrainer un modele ou revendre de l'analyse. # # Mesure du 08/09/2026 sur ce serveur : 93 % des requetes etaient # automatiques, contre 6,9 % venant d'humains. # # Deux limites a connaitre : # - Disallow empeche l'EXPLORATION, pas l'indexation. Une page bloquee ici # mais liee depuis ailleurs peut encore apparaitre sans description ; # seule une balise noindex l'en empeche vraiment. # - Seuls les robots qui se declarent respectent ce fichier. Le reseau # d'aspiration non declare (33 000 adresses par jour, une requete # chacune, aucune ressource chargee) n'en tiendra aucun compte. # # Pour reautoriser un robot, supprimer sa ligne User-agent ci-dessous. # --- Aspiration pour l'entrainement de modeles d'IA --- # Volontairement absents de cette liste, car ils envoient des visiteurs : # OAI-SearchBot et ChatGPT-User (citations ChatGPT), Claude-User, # PerplexityBot, Googlebot, Bingbot, Applebot. User-agent: GPTBot User-agent: ClaudeBot User-agent: Claude-Web User-agent: anthropic-ai User-agent: CCBot User-agent: Bytespider User-agent: Amazonbot User-agent: meta-externalagent User-agent: FacebookBot User-agent: Google-Extended User-agent: Applebot-Extended User-agent: Diffbot User-agent: Omgili User-agent: Omgilibot User-agent: Webzio-Extended User-agent: ImagesiftBot User-agent: Timpibot User-agent: YouBot User-agent: PanguBot User-agent: Kangaroo Bot User-agent: ExaSearchBot User-agent: rednote-websearch-bot Disallow: / # --- Outils d'analyse SEO --- # Ils n'apportent rien au site : ils alimentent l'analyse de la concurrence. # 416 000 requetes en 30 jours pour Semrush et Ahrefs seuls. User-agent: SemrushBot User-agent: AhrefsBot User-agent: MJ12bot User-agent: DotBot User-agent: BLEXBot User-agent: DataForSeoBot User-agent: Barkrowler User-agent: SeekportBot User-agent: serpstatbot User-agent: MegaIndex User-agent: SiteAuditBot Disallow: / # ===== fin du bloc aspirateurs ==========================================