Resumen
Finalidad
Builds the Common Crawl public web corpus.
User-agent exacto
CCBot
robots.txt
Ejemplo para permitir
User-agent: CCBot Allow: /
Ejemplo para bloquear
User-agent: CCBot Disallow: /
Limitación importante
El resultado de robots.txt describe la regla publicada para la ruta probada. No demuestra rastreo, indexación, entrenamiento ni citas.
Pregunta frecuente
¿Esta regla controla todos los productos del mismo operador?
No. Un operador puede publicar tokens distintos para entrenamiento, búsqueda y recuperación solicitada por el usuario.