Robots.txt analizi aracı, robots.txt dosyasının doğru olup olmadığını kontrol etmenize yardımcı olur. Dosya içeriğini girebilir, doğrulayabilir ve ardından robots.txt’ye kopyalayabilirsiniz.
Kontrol edilecek site alanına, web sitenizin adresini girin. Örneğin, https://example.com.
simgesine tıklayın. robots.txt içeriği ve analiz sonuçları aşağıda gösterilecektir.
Yandex robotu için ayrılmış bölümlerde (User-agent: Yandex veya User-agent: *), doğrulayıcı direktifleri robots.txt kullanım şartlarına göre kontrol eder. Diğer bölümler standart ile karşılaştırılır.
Kontrolden sonra görebilirsiniz:
Uyarılar. Kurallardan sapmayı rapor ederler ve araç tarafından düzeltilebilir. Uyarılar, yazım hataları veya direktiflerdeki yanlışlıklarla ilgili potansiyel bir sorunu da gösterir.
Dosyadaki hatalar. Bu, aracın bir dizeyi, bölümü veya tüm dosyayı direktiflerdeki ciddi söz dizimi hataları nedeniyle işleyemediği anlamına gelir.
Robotun belirli bir URL’yi tarayıp taramayacağını nasıl öğrenebilirim
robots.txt dosyanız Yandex Webmaster’a yüklendiğinde, Robots.txt analizi sayfası bir URL’lerin izinli olup olmadığını kontrol et bölümü gösterir.
URL listesi alanına kontrol etmek istediğiniz sayfanın adresini girin. URL’yi tamamen veya web sitesi kök dizinine göre göreceli olarak belirtebilirsiniz. Örneğin, https://example.com/page/ veya /page/.
Kontrol Et düğmesine tıklayın.
URL, Yandex botları tarafından dizinlemeye izin veriyorsa, yanında simgesi görünecektir. Aksi takdirde, adres kırmızı renkte vurgulanacaktır.
Dosya değişikliklerini nasıl takip edebilirim
Not
Altı aylık değişiklik geçmişi mevcuttur. Kaydedilen maksimum sürüm sayısı 100’dür.
Yandex Webmaster dosyayı düzenli olarak güncellemeler için kontrol eder ve değişiklik tarihi ve saati ile birlikte sürümleri kaydeder. Bunları görmek için Araçlar → Robots.txt analizi sayfasına gidin.
Aşağıdaki tüm koşullar sağlandığında sürüm listesi gösterilir:
Siteyi Yandex Webmaster’a eklediniz ve site yönetim haklarınızı doğruladınız.
Yandex Webmaster, robots.txt dosyasındaki değişiklikler hakkında bilgiye sahiptir.
Şunları yapabilirsiniz:
Dosyanın mevcut ve önceki sürümlerini görüntüleyin
Robots.txt sürüm listesinde dosya sürümünü seçin. Aşağıdaki alan, robots.txt dosyasını ve ayrıştırma sonuçlarını gösterir.
Seçilen dosya sürümünü indirin
Robots.txt sürüm listesinde dosya sürümünü seçin.
İndir düğmesine tıklayın. Dosya cihazınıza TXT biçiminde kaydedilecektir.
Sorular ve cevaplar
Bir hata: “Bu URL etki alanı adınıza ait değil”
Muhtemelen, URL listesinde bir ikincil ayna belirttiniz, örneğin http://example.com yerine http://www.example.com. Teknik olarak, bunlar iki farklı URL’dir. Listedeki URL’ler, robots.txt dosyasının kontrol edildiği siteye ait olmalıdır.
Araçta hata bildir
Hatanın bulunduğu aracı belirtin, durumu mümkün olduğunca ayrıntılı olarak açıklayın ve gerekirse bunu gösteren bir ekran görüntüsü ekleyin.