Araç ne yapıyor?
Robots.txt, sitemap bildirimleri, XML ve örneklenen sayfaların indexlenebilirliğini çapraz kontrol eder.
Crawl architecture
Robots.txt ve sitemap XML’i birlikte okuyun; örneklenen URL’lerde engel, redirect, noindex, kırık yanıt ve canonical çakışmasını bulun.
Aracı doğru yorumlayın
Robots.txt, sitemap bildirimleri, XML ve örneklenen sayfaların indexlenebilirliğini çapraz kontrol eder.
Robots.txt okunur, sınırlı sitemap index’i izlenir ve yalnızca belirlenen örneklem taranır.
Robots kuralları, sitemap konumları, HTTP durumları, yönlendirmeler, meta robots ve canonical etiketleri.
Sitemap URL’leri erişilebilir, indexlenebilir, engellenmemiş ve self-canonical olmalıdır.