Resumen
Finalidad
Google web search crawler.
User-agent exacto
Googlebot
robots.txt
Ejemplo para permitir
User-agent: Googlebot Allow: /
Ejemplo para bloquear
User-agent: Googlebot Disallow: /
Limitación importante
El resultado de robots.txt describe la regla publicada para la ruta probada. No demuestra rastreo, indexación, entrenamiento ni citas.
Pregunta frecuente
¿Esta regla controla todos los productos del mismo operador?
No. Un operador puede publicar tokens distintos para entrenamiento, búsqueda y recuperación solicitada por el usuario.