Yazeka
Arama sonuçlarına göre oluşturuldu
Robots.txt dosyası oluşturmak için aşağıdaki adımları izlemek gerekmektedir:
- Metin düzenleyici seçimi: Herhangi bir metin düzenleyici veya not defteri kullanarak dosyayı oluşturun 12.
- Dosya adı ve uzantısı: Dosyanın adını "robots.txt" olarak belirleyin ve uzantı eklemeyin 12.
- Dosya konumu: Dosyayı web sitenizin kök dizinine yükleyin (örneğin, "ornekdomain.com" şeklinde) 23.
- İçerik oluşturma: Dosyanın içeriğine aşağıdaki komutları ekleyin:
- User-agent: Hangi arama motoru botlarının dosyayı takip edeceğini belirtir (örneğin, "User-agent: *" tüm botları ifade eder) 12.
- Disallow: Belirli dizinlerin veya sayfaların taranmasını engeller (örneğin, "Disallow: /gizli-klasor/" şeklinde) 3.
- Allow: Hangi sayfaların dizine ekleneceğini belirtir (örneğin, "Allow: /public/" şeklinde) 4.
- Sitemap: Site haritanızın konumunu gösterir (örneğin, "Sitemap: sitenizinadresi.com" şeklinde) 13.
Önemli notlar:
5 kaynaktan alınan bilgiyle göre: