Testeur de robots.txt

Testez et validez votre fichier robots.txt. Vérifiez si des URL sont autorisées ou bloquées pour différents user-agents.

Contenu du robots.txt

Exemples rapides

Noter Testeur de robots.txt

Dans quelle mesure cet outil vous a-t-il été utile ? Votre note aide d'autres personnes à le trouver.

Validateur de syntaxe

Signale les directives non valides, les valeurs manquantes et les erreurs de logique pendant la saisie, sans bouton à actionner.

Vérificateur d'URL

Testez des URL une à une ou en lot et voyez instantanément si elles sont autorisées ou bloquées, avec la règle exacte qui s'applique.

Simulation de robot

Choisissez Googlebot, Bingbot, DuckDuckBot ou saisissez un user-agent personnalisé pour simuler n'importe quel robot d'exploration.

Récupération en direct

Saisissez un domaine pour récupérer directement son fichier robots.txt en ligne, sans copier-coller.

Comment fonctionne Testeur de robots.txt

Cet outil de validation analyse les fichiers 'robots.txt' pour repérer les erreurs de syntaxe, les conflits de logique ou les problèmes d'accessibilité. Vous pouvez coller le contenu de votre fichier ou saisir une URL pour le récupérer en direct. Le testeur simule le comportement des robots des moteurs de recherche sur des chemins précis pour vérifier s'ils sont autorisés ou bloqués. Il simule Googlebot et les autres principaux agents, aidant les webmasters à confirmer que leurs règles d'accès fonctionnent comme prévu avant de déployer des modifications qui pourraient désindexer accidentellement l'ensemble de leur site.

Comment utiliser Testeur de robots.txt

1

Collez ou récupérez

Saisissez le contenu de votre robots.txt ou récupérez-le en direct depuis n’importe quel domaine.

2

Validez le fichier

La syntaxe est vérifiée automatiquement : les erreurs et les avertissements s’affichent immédiatement.

3

Testez des URL

Saisissez des URL et sélectionnez un robot pour voir les résultats Autorisée ou Bloquée.

Questions fréquentes

Qu’est-ce qu’un testeur de robots.txt ?
Un testeur de robots.txt valide la syntaxe de votre fichier robots.txt et simule la façon dont les robots des moteurs de recherche le lisent. Vous pouvez vérifier si des URL précises sont autorisées ou bloquées pour Googlebot, Bingbot et d’autres robots.
Comment fonctionne le validateur de robots.txt ?
Collez le contenu de votre robots.txt (ou récupérez-le depuis un domaine en ligne) : l’outil l’analyse ligne par ligne. Il signale les erreurs de syntaxe et les directives inconnues, puis vous permet de tester n’importe quel chemin d’URL selon le robot choisi.
Quelle est la priorité des règles dans robots.txt ?
Google applique l’algorithme « la correspondance la plus spécifique l’emporte ». La règle Allow ou Disallow dont le chemin correspond le plus longuement s’applique. En cas d’égalité, Allow est prioritaire. Cet outil reproduit ce comportement.
Pourquoi mon URL est-elle bloquée alors que j’ai une règle Allow ?
La règle Disallow est probablement plus longue (donc plus spécifique) que votre règle Allow. Par exemple, « Disallow: /admin/private/ » l’emporte sur « Allow: /admin/ ». Rendez votre chemin Allow plus précis, ou vérifiez qu’il se trouve dans le bon groupe User-agent.
Puis-je tester plusieurs URL à la fois ?
Oui. Passez à l’onglet Test en lot et collez une URL par ligne. Toutes les URL sont testées avec le même user-agent, et les résultats s’affichent dans un tableau.
Ce vérificateur de robots.txt est-il sécurisé ?
Le test des URL et la validation se font à 100 % dans votre navigateur : le contenu de votre robots.txt n’est jamais envoyé à un serveur. La fonction « Récupérer depuis le domaine » envoie une requête côté serveur pour récupérer uniquement le fichier robots.txt public.

Outils associés

Commentaires

Les commentaires sont fournis par Disqus. Les charger vous connecte à Disqus, qui dépose des cookies et traite des données selon sa propre politique de confidentialité.

Testeur de robots.txt est maintenu par CodeItBro. Notre objectif est de proposer les meilleurs outils gratuits pour développeurs sur le web. Si vous avez des remarques ou des suggestions, rendez-vous sur notre page de contact.

Cité par

CodeItBro - Free dev tools + practical guides to help you ship faster | Product HuntCodeItBro - Free Online Developer Tools badgeCodeItBro badge