Générateur de robots.txt

Générez un fichier robots.txt adapté aux robots d'exploration, avec user-agent, allow/disallow et règles de sitemap.

Plusieurs fichiers sitemap ? Saisissez un fichier d’index ou dupliquez la ligne du sitemap dans le résultat.

robots.txt généré

User-agent: *
Disallow: /admin/
Disallow: /private/
Allow: /

User-agent: Googlebot
Allow: /

Sitemap: https://example.com/sitemap.xml

Règles par user-agent

Ajoutez un bloc pour chaque robot d’exploration et listez les chemins qu’il peut ou ne peut pas explorer.

Règles par défaut

Règles user-agent

Raccourcis

Googlebot

Règles user-agent

Raccourcis

Noter Générateur de robots.txt

Dans quelle mesure cet outil vous a-t-il été utile ? Votre note aide d'autres personnes à le trouver.

Dirigez les robots

Prenez le contrôle de la manière dont les moteurs de recherche explorent votre site. Générez un fichier robots.txt parfait pour améliorer votre SEO et protéger les zones privées.

Contrôle des robots d’exploration

Définissez des règles pour Googlebot, Bingbot et les autres, individuellement ou globalement (*).

Lien du sitemap

Ajoutez facilement l’URL de votre sitemap XML pour aider les moteurs de recherche à découvrir vos pages plus rapidement.

Blocage d’accès

Empêchez les robots d’indexer les panneaux d’administration, les répertoires privés ou les fichiers sensibles.

Syntaxe valide

Met automatiquement vos règles au format de syntaxe robots.txt correct.

Aidez les robots à comprendre votre site

Bloquez les zones d’administration, protégez les dossiers de contenu dupliqué et mettez en avant les parties de votre site qui doivent rester publiques. Ce générateur garantit une syntaxe correcte pour que vous puissiez vous concentrer sur la stratégie.

  • ✓ Ajoutez plusieurs sections user-agent
  • ✓ Insérez rapidement des règles courantes (WordPress, paniers, ressources)
  • ✓ Fichier robots.txt prêt à copier-coller

Utilitaire SEO

Configuration adaptée aux moteurs de recherche

User-agent: *
Allow: /
Disallow: /admin/

Sitemap: https://example.com/sitemap.xml

Comment fonctionne Générateur de robots.txt

Cet utilitaire SEO automatise la création de fichiers 'robots.txt' pour contrôler l'exploration d'un site. Il offre une interface conviviale pour définir des règles destinées aux robots des moteurs de recherche (user-agents), en autorisant ou en interdisant l'accès à certains répertoires (par exemple /admin/, /private/). Vous pouvez ajouter des URL de sitemap pour aider les robots à découvrir le contenu. L'outil génère le formatage syntaxiquement correct exigé par Googlebot, Bingbot et les autres, afin que les webmasters gèrent efficacement leur budget d'exploration et protègent les sections sensibles de leur site contre l'indexation.

Comment utiliser Générateur de robots.txt

1

Définissez le domaine et le sitemap

Saisissez l’URL de votre site et choisissez si vous voulez inclure la ligne du sitemap.

2

Ajoutez des user-agents

Créez des blocs de règles pour Googlebot, Bingbot ou n’importe quel autre robot d’exploration.

3

Personnalisez les chemins

Ajoutez des motifs Allow et Disallow, puis copiez le résultat robots.txt généré.

Exemple d'utilisation

Voici un exemple type de la façon dont cet outil transforme vos données :

Entrée
User-agent: * Disallow: /admin/ Disallow: /private/ Allow: /public/ User-agent: Googlebot Disallow: /images/private/ Allow: /images/public/ Sitemap: https://example.com/sitemap.xml
Sortie
User-agent: * Disallow: /admin/ Disallow: /private/ Allow: /public/ User-agent: Googlebot Disallow: /images/private/ Allow: /images/public/ Sitemap: https://example.com/sitemap.xml

Questions fréquentes

Tous les sites doivent-ils utiliser un robots.txt ?
Oui. Même un fichier robots.txt simple aide les robots d’exploration à savoir ce qu’il faut ignorer et où trouver votre sitemap.
Qu’est-ce que le crawl-delay ?
Le crawl-delay demande à certains robots d’attendre un certain nombre de secondes entre deux requêtes. C’est facultatif, et tous les robots ne le prennent pas en charge.
Puis-je bloquer des types de fichiers entiers ?
Oui. Utilisez des motifs comme /*.pdf$ ou /*.zip$ dans une règle Disallow pour empêcher les robots d’explorer certaines extensions de fichiers.
Les règles Allow priment-elles sur Disallow ?
Les règles Allow sont prioritaires lorsqu’un chemin correspond aux deux directives. Placez la règle Allow en premier pour clarifier votre intention.
Où placer le fichier robots.txt ?
Servez toujours le fichier robots.txt à la racine de votre domaine, par exemple https://example.com/robots.txt, pour que les robots le trouvent automatiquement.

Outils associés

Commentaires

Les commentaires sont fournis par Disqus. Les charger vous connecte à Disqus, qui dépose des cookies et traite des données selon sa propre politique de confidentialité.

Générateur de robots.txt est maintenu par CodeItBro. Notre objectif est de proposer les meilleurs outils gratuits pour développeurs sur le web. Si vous avez des remarques ou des suggestions, rendez-vous sur notre page de contact.

Cité par

CodeItBro - Free dev tools + practical guides to help you ship faster | Product HuntCodeItBro - Free Online Developer Tools badgeCodeItBro badge