SEO için WordPress Robots.txt'inizi Nasıl Optimize Edebilirsiniz?

Yayınlanan: 2022-08-23

Bu blogda, robts.txt dosyasını optimize ederek web sitenizin SEO'sunu nasıl iyileştirebileceğinize dair birkaç ipucu öğreneceğiz.

Aslında Robots.txt dosyası, arama motorlarına web sitenizin nasıl taranabileceğini söylediği için SEO açısından önemli bir rol oynar. Robot.txt dosyalarının SEO'nun en güçlü araçlarından biri olarak görülmesinin nedeni budur.

Daha sonra, SEO için WordPress Robots.txt dosyasını nasıl oluşturabileceğinizi ve optimize edebileceğinizi de öğreneceksiniz.

robots.txt dosyasından ne anlıyorsunuz?

Web sitesi sahipleri tarafından arama motoru botlarına web sitelerinde nasıl gezinebileceklerini ve sayfaları dizine ekleyebileceklerini söylemek için oluşturulan metin dosyası Robots.txt olarak bilinir.

Aslında, kök dizinde bu dosya saklanır. Bu dizine web sitenizin ana klasörü de denir. Aşağıda robots.txt dosyasının dosya formatı belirtilmiştir.

 Kullanıcı aracısı: [kullanıcı aracısı adı]
İzin verme: [URL dizesi taranmayacak]
Kullanıcı aracısı: [kullanıcı aracısı adı]
İzin ver: [taranacak URL dizesi]
Site Haritası: [XML Site Haritanızın URL'si]

WordPress Robots.txt dosyasını optimize edin

Belirli URL'lere izin vermek veya izin vermemek için farklı talimat satırlarına sahip olabilirsiniz. Ayrıca farklı site haritaları da ekleyebilirsiniz. Arama motoru botları, bir URL'ye izin veriyorsa sayfaları taramalarına izin verildiğini düşünecektir.
robots.txt örneği aşağıda verilmiştir

 Kullanıcı Aracısı: *
İzin ver: /wp-content/uploads/
İzin verme: /wp-content/plugins/
İzin verme: /wp-admin/
Site Haritası: https://example.com/sitemap_index.xml

Yukarıda verilen örnekte, sayfaların arama motorları tarafından taranmasına ve WordPress yüklemeleri klasöründeki dosyaların indekslenmesine izin verdik.

Bundan sonra, arama botlarının WordPress yönetici klasörlerini ve eklentilerini taramasına ve dizine eklemesine izin vermedik.
Son olarak, XML site haritasının URL'sinden bahsetmiştik.

WordPress web siteniz için bir Robots.txt dosyasına ihtiyacınız var mı?

Robots.txt gibi metin dosyasına sahip olmasanız bile arama motoru sayfalarınızı taramaya ve dizine eklemeye başlayacaktır. Ancak ne yazık ki, arama motorunuza hangi klasörü veya sayfayı taraması gerektiğini bildiremezsiniz.

Daha az içeriğe sahip bir web sitesi veya blog oluşturduysanız, kar etmeyecek veya herhangi bir etki bırakmayacaktır.
Ancak, web sitenizi çok sayıda içerikle kurduktan ve büyümeye başladığında, web sitenizin taranan ve dizine eklenen sayfaları üzerinde kontrole ihtiyacınız olacaktır.

İlk neden aşağıda verilmiştir

Her web sitesi için arama botlarının bir tarama kotası vardır.

Bu açıkça, tarama oturumu sırasında belirli sayıda sayfayı tarayacağı anlamına gelir. Web sitenizdeki taramanın eksik kaldığını varsayalım, ardından bir kez daha geri gelecek ve başka bir oturumda taramaya devam edecektir.

Bu nedenle web sitenizin web sitesi indeksleme oranı bir hesaplaşma olacaktır.

Arama botlarının gerekli olmayan bu tür sayfaları taramasına izin vermeyerek bu sorunu çözebilirsiniz. Bazı önemsiz sayfalar, eklenti dosyalarını, WordPress yönetici sayfalarını ve tema klasörlerini içerebilir.

İstenmeyen sayfaların taranmasına izin verilmeyerek tarama kotası kaydedilebilir. Bu adım daha yararlı olacaktır çünkü arama motorları artık web sitesinin sayfalarını tarayacak ve en kısa sürede dizine ekleyebilecektir.

WordPress Robots.txt dosyasını kullanmanız ve optimize etmeniz için başka bir neden aşağıda verilmiştir.

Arama motorlarının sitenizdeki sayfaları veya yayınları dizine eklemesini durdurmanız gerektiğinde bu dosyayı kullanabilirsiniz.

Aslında, web sitenizin içeriğini genel halktan gizlemenin en uygunsuz yollarından biridir, ancak arama sonuçlarında görünmelerini sağlamak için en iyi destek olduğunu kanıtlayacaktır.

Robots.txt dosyası nasıl görünür?

En popüler bloglar tarafından çok basit bir robots.txt dosyası kullanılır. İçerik, belirli bir web sitesinin gereksinimlerine göre farklılık gösterebilir.

 Kullanıcı aracısı: *
İzin verme:
Site Haritası: http://www.example.com/post-sitemap.xml
Site Haritası: http://www.example.com/page-sitemap.xml
Robots.txt dosyası, tüm botların her içeriği dizine eklemesine ve XML site haritasının web sitesine bağlantılar sunmasına izin verir.
robots.txt dosyalarında uyulması gereken kurallardan bahsedilmiştir.

Kullanıcı Aracısı: *
İzin ver: /wp-content/uploads/
İzin verme: /wp-content/plugins/
İzin verme: /wp-admin/
İzin verme: /readme.html
İzin verme: /referans/
Site Haritası: http://www.example.com/post-sitemap.xml
Site Haritası: http://www.example.com/page-sitemap.xml

Bu, botun tüm WordPress dosyalarını ve resimlerini indeksleyeceğini gösterecektir. Bu, arama botlarının WordPress yönetici alanını, WordPress eklenti dosyalarını, bağlı kuruluş bağlantılarını ve WordPress benioku dosyasını dizine eklemesine izin vermez.

robots.txt dosyalarına, Google botlarının web sitenizdeki tüm sayfaları tanımasına yardımcı olacak site haritaları ekleyebilirsiniz.

Artık robots.txt dosyasının nasıl göründüğünün farkındasınız, şimdi robots.txt dosyasının WordPress'te nasıl oluşturulabileceğini öğreneceğiz.

WordPress'te robots.txt dosyası nasıl oluşturulur?

WordPress'te bir robots.txt dosyası oluşturmanın pek çok yolu vardır. En iyi yöntemlerden bazıları aşağıda listelenmiştir, bunlardan sizin için en uygun olanı seçebilirsiniz.

Yöntem 1: Hepsi Bir Arada SEO'yu kullanma, Robots.txt dosyasını değiştirme

Hepsi Bir Arada SEO, 1 milyondan fazla web sitesi tarafından kullanılan, piyasadaki SEO için en iyi bilinen WordPress eklentisidir.

Hepsi Bir Arada SEO eklentisinin kullanımı çok basittir ve bu nedenle robotx.txt dosya oluşturucusunu sunar. WordPress Robots.txt dosyasını optimize etmek de yararlıdır

Bu SEO eklentisini henüz entegre etmediyseniz, önce WordPress panosundan kurun ve etkinleştirin. Ücretsiz sürüm, yeni başlayan kullanıcılar için, özelliklerinden para yatırmadan yararlanabilmeleri için de mevcuttur.

Eklentiyi etkinleştirdikten sonra, doğrudan WordPress yönetici alanınızdan robots.txt dosyasını oluşturmak veya değiştirmek için kullanmaya başlayabilirsiniz.

kullanmak için

  • Hepsi Bir Arada SEO'ya gidin
  • Şimdi robots.txt dosyasını düzenlemek için araçlara tıklayın
  • Şimdi 'özel robots.txt'yi etkinleştir'e tıklayarak düzenleme seçeneğini açacaksınız
  • WordPress'te, bu geçişle özel bir robots.txt dosyası da oluşturabilirsiniz.
  • Artık mevcut robots.txt dosyanız, 'robots.txt önizleme' bölümünde 'Hepsi Bir Arada SEO eklentisi' tarafından gösterilecektir. Bu, web ekranınızın altında görüntülenebilir.

WordPress tarafından, eklenen varsayılan kural bu sürüm tarafından gösterilecektir.
Görünen varsayılan kurallar, arama motorunuza çekirdek WordPress dosyalarını taramaları gerekmediğini, XML site haritasının web sitesine bir bağlantı sunduğunu ve botların tüm içeriğini dizine eklemesine izin verdiğini gösteriyor.

SEO için robots.txt dosyanızı geliştirmek için yeni kendi özel kuralları eklenebilir.

Bir kural eklemek için 'Kullanıcı Aracısı' alanına kullanıcı aracısı ekleyin. Kural, * kullanılarak tüm kullanıcı aracılarına uygulanacaktır.
Şimdi arama motorunun sayfaları taramasına izin vermek isteyip istemediğinizi seçin.

Şimdi dizin yolunu, dosya adını 'Dizin Yolu' alanına ekleyin.

robots.txt dosyanıza kural otomatik olarak uygulanacaktır. Yeni bir kural eklemek için 'kural ekle' düğmesini tıklayın.
İdeal bir robotx.txt formatı oluşturmadığınız sürece, yeni kurallar eklemenizi öneririz.

Sizin tarafınızdan eklenen özel kurallar şöyle görünecek

özel kurallar

Değişikliklerinizi saklamak için 'değişiklikleri kaydet'e tıklamayı unutmayın.

Yöntem 2: Robots.txt dosyasını FTP yardımıyla manuel olarak değiştirin

WordPress Robots.txt dosyasını optimize etmenin başka bir yöntemi, robots.txt dosyasını değiştirmeye başlamak için FTP istemcilerinin özelliklerini kullanmaktır.

Bir FTP istemcisi yardımıyla WordPress barındırma hesabınıza bağlanmanız yeterlidir.

Oturum açtıktan sonra, web sitesinin kök klasöründe robots.txt dosyasını görebileceksiniz.

Bulamıyorsanız, robots.txt dosyanız yok demektir.

Böyle bir durumda robot.txt dosyasını oluşturmanız gerekir.

robot.txt dosyasını oluşturun

Daha önce belirtildiği gibi robots.txt dosyası genellikle bilgisayarınıza indirilebilen basit bir metin dosyasıdır. Ancak, TextEdit, Notepad veya WordPad gibi düz bir metin düzenleyicinin yardımıyla bile değiştirebilirsiniz.

Tüm değişiklikleri yaptıktan sonra şimdi kaydetme zamanı. Bu dosyayı web sitenizin kök klasörüne yükleyebilirsiniz.

Robots.txt dosyanızda nasıl test yapabilirsiniz?

robots.txt test aracı yardımıyla test yapabilirsiniz.

arama robotları

Web'de birçok robots.txt test aracı bulacaksınız. En iyilerinden biri Google Arama Konsolu.
Bu araçla çalışmak için öncelikle Google arama konsoluna bağlı bir web sitenizin olması gerekir. Bundan sonra, özelliklerini kullanmaya başlayabilirsiniz.

Açılır listeden mülkünüzü seçmeniz yeterlidir.

Ancak, web sitenizin robots.txt dosyasını otomatik olarak seçecek ve tüm uyarıları ve hataları vurgulayacaktır. Bu, WordPress Robots.txt dosyasını çok kolay bir şekilde optimize etmenize yardımcı olan en iyi araçlardan biridir.

robot uyarıları ve hataları

Çözüm:
Bu robots.txt dosyasını optimize etmenin ana sloganı, sayfaları taramaktan korumaktır. Örneğin, WordPress admin klasöründeki sayfalar veya wp-plugin klasöründeki sayfalar.

En yaygın efsane, WordPress kategorisini engelleyerek, sayfalara ve etiketlere ulaşarak tarama hızını iyileştirebilir ve daha hızlı dizine ekleyebilir ve daha yüksek bir sıralama elde edebilirsiniz.

Ancak bu, Google'ın web yöneticisi yönergelerine göre yanlış gideceği için çalışmayacaktır.

Yukarıda belirtilen tüm noktaları okumanızı ve dikkate almanızı şiddetle tavsiye ederiz.

Bu blogun, web siteniz için doğru formatı kullanarak bir robots.txt dosyası oluşturmanıza yardımcı olacağını umuyoruz. Ve WordPress Robots.txt dosyasını optimize etmenize yardımcı olacaktır.