Merhabalar...
Sitenizde Subdomain var diyelim ve siz arama motorlarının bunları indexlememesini istiyorsunuz. Bunu nasıl yapabilirim diyorsanız diğer yöntemden hiçbir farkı yok.
Normal sitenize robots.txt dosyasını oluşturuyormuş gibi oluşturuyoruz ve subdomain dizinine atıyoruz. Çünkü arama motorları robots dosyalarını her kök dizinde arıyorlar. Yani Ana dizinden subdomain indexlenmesini engelleyemezsiniz, engellemek için subdomain içine bir tane daha robots.txt dosyası oluşturmak gerekmektedir.


Örnek robots txt dosyası ve kullanımı
PHP- Kodu:
User-agent: *
Disallow: /resimler/
Disallow: /dokumanlar/
Sitemap: http://siteadı.com/sitemap.xml


Şimdi yukarıda bir robots.txt örneği var, siz bunu kendinize göre düzenleyip kullanabilirsiniz.
User-agent: hangi botlar sitenizi indexlesin anlamına gelir
* işareti ise hepsi indexlesin anlamındadır.

Mesela

Bu reklam sadece misafirlere görünüyor. Oturum açar veya üye olursan, bu reklamdan kurtulursun.

User-agent: GoogleBot yaparsanız sadece Google indexler...
Disallow: indexlemesini engelleyeceğiniz dosyaları gösterir. Disallow: /resimler/ resimler klasörü ve içindekileri indexleme demektir.

Sitemap: ise sitenizin site haritasını arama motorlarına bildiriyor. Bu da sitenizin hızlı indexlenmesine yardımcı oluyor.



Kaynak