Come ottimizzare il tuo WordPress Robots.txt (guide avanzate)

Pubblicato: 2022-02-26

Molti di voi potrebbero aver sentito parlare del file robots.txt ma sapete dove si trova e come appare? Soprattutto, sai come ottimizzare il tuo file robot.txt di WordPress per aumentare la SEO?

Questo articolo tratterà queste domande per darti un'immagine corretta e chiara del file robots.txt di WordPress. Da lì, puoi utilizzare il file per aumentare la tua visibilità online sulle SERP o nascondere i tuoi contenuti sensibili agli occhi del pubblico.

Inizieremo con la posizione di robots.txt, i suoi esempi, evidenzieremo i modi per modificare il file, quindi concluderemo questo post con suggerimenti avanzati sull'ottimizzazione di robots.txt di WordPress.

Immergiamoci!

  • Dov'è la posizione robot.txt di WordPress?
  • Come modificare robot.txt in WordPress?
  • Come ottimizzare il file Robots.txt di WordPress per la SEO

Dov'è la posizione di WordPress robots.txt?

Il file robots.txt risiede nella cartella principale del tuo sito web. Il suo compito principale è guidare i robot dei motori di ricerca su come eseguire la scansione e indicizzare il tuo sito. In particolare, nega l'accesso ai motori di ricerca a determinati file e cartelle.

Molti proprietari di siti WordPress utilizzano il file robots.txt per scoraggiare l'indicizzazione delle ricerche . Sembra controintuitivo, giusto? Considerando il fatto che la SEO o la conquista della prima posizione sulle SERP gioca una componente fondamentale nel successo del business online.

Tuttavia, se il tuo sito è in modalità di sviluppo o contiene contenuti di bassa qualità o personali, robot.txt si rivela utile per la scansione dei blocchi e l'indicizzazione di tali contenuti. Da qui, puoi ottimizzare il tuo file robots.txt di WordPress per dare la priorità alle tue pagine di destinazione principali come pagine di vendita, pagine di prodotti o post sponsorizzati.

Nella stessa nota, puoi anche ottimizzare la tua quota di scansione . Quota di scansione, o budget di scansione, si riferisce al numero di pagine del tuo sito WordPress che i robot di Google scansionano in un dato momento. Consentire alle tue pagine importanti di scansionare il budget aiuta a farle rapidamente indicizzare e classificare nella prima pagina dei risultati di ricerca.

Tuttavia, fai attenzione a ottimizzare il file robots.txt poiché può danneggiare il tuo SEO se fatto male.

Esempio di WordPress Robots.txt

Puoi vedere il file robots.txt di qualsiasi sito web aggiungendo /robots.txt alla fine del nome di dominio. Quindi un file robots.txt assomiglierà a questo.

file wordpress robots.txt

Lo user-agent in un file robots.txt è il motore di ricerca che legge il file robots.txt. Se In user-agent è contrassegnato da un asterisco, significa che dà il via libera a tutti i motori di ricerca.

Nei file robots.txt, consenti e non consenti indica ai bot quali pagine e contenuti possono e non possono scansionare. Come puoi vedere, abbiamo consentito ai motori di ricerca di eseguire la scansione e indicizzare i file nel nostro WordPress admin-ajax e non abbiamo consentito l'accesso ai plug-in e alle cartelle di amministrazione.

Una mappa del sito è un file XML che contiene un elenco e i dettagli di tutte le pagine del tuo sito web.

Come modificare Robots.txt in WordPress?

Il modo più semplice per modificare robots.txt in WordPress è utilizzare i plugin. Esistono diversi plugin SEO robusti che eccellono nell'aiutarti a modificare il file robots.txt, All in one SEO, YoastSEO, RankMath, ecc. solo per citarne alcuni.

Oltre a ciò, puoi anche chiedere aiuto a plug-in sviluppati esclusivamente per ottimizzare il tuo file robots.txt di WordPress come Virtual Robots.txt, ottimizzazione di WordPress Robots.txt e molti altri.

ottimizza il tuo file wordpress robots.txt

In alternativa, è possibile modificare il file manualmente tramite il client FTP. Innanzitutto, devi connettere il tuo provider di hosting WordPress utilizzando un client FTP. Successivamente, individua il file robots.txt nella directory principale del tuo sito web.

modifica wordpress robots.txt

Se non vedi il file robot.txt lì, è probabile che il tuo sito non lo abbia. Non impazzire, creane uno nuovo. Premi il tasto destro del mouse e scegli "Crea nuovo file", quindi scaricalo sul desktop. Robots.txt è un semplice file di testo, il che significa che puoi scaricarlo e modificarlo normalmente come altri file con editor di testo come Wordpad o Blocco note.
crea il file robot.txt wordpress

Successivamente, aggiorna le modifiche, carica nuovamente il file robots.txt modificato nella cartella principale e il gioco è fatto.

Metti alla prova il tuo file Robots.txt

Devi assicurarti che il tuo file robot.txt funzioni normalmente dopo l'edizione. Se si verificano degli errori, può portare alla conseguenza che il tuo sito web viene escluso dalle pagine dei risultati di ricerca.

Tra una vasta gamma di strumenti di test robots.txt disponibili, ti consigliamo di utilizzare Google Search Console, che ti consente di testare gratuitamente il tuo file robots.txt.

Assicurati di aver già inviato l'URL del tuo sito web a Google Search Console, in modo che lo strumento verifichi la tua autenticazione. In caso contrario, consulta la nostra guida su come inviare il tuo sito ai motori di ricerca.

Allora sei a posto con lo strumento di test dei robot di Google Search Console. Dopo aver selezionato una proprietà nel menu a discesa, lo strumento passa immediatamente in rassegna il file, quindi ti avvisa se sono presenti errori e avvisi.

strumento di test dei robot della console di ricerca di google

Inoltre, lo strumento ti consente di accedere a una determinata pagina del tuo sito, quindi selezionare un programma utente specifico per verificare se l'indicizzazione della pagina è bloccata o l'indicizzazione è accettata.

È possibile modificare il file direttamente sullo strumento ed eseguire nuovamente il test. Tuttavia, il file effettivo rimane ancora invariato. Potrebbe essere necessario copiare l'edizione e incollarla sul file effettivo e salvarlo lì.

tester robots.txt

Come ottimizzare il file Robots.txt di WordPress per la SEO

Si consiglia vivamente di disattivare selettivamente alcune delle tue pagine sensibili, come /wp-admin/ , /wp-content/plugins/ , /trackback/ e /readme.html , mentre il resto rimane "consenti".

Inoltre, puoi ottimizzare il tuo file robots.txt di WordPress aggiungendo la tua mappa del sito. Sebbene WordPress fornisca la propria mappa del sito, puoi utilizzare plug-in SEO come YoastSEO o All in One SEO per crearne uno personalizzato. Ti danno il potere di creare mappe del sito separate per post e pagine.

A quel punto, l'aggiunta di queste mappe del sito al file robots.txt aumenterà la scansione dei robot più rapidamente e facilmente.
aggiungi la mappa del sito a wordpress robots.txt

Inoltre, nonostante l'idea di ottimizzazione, si consiglia vivamente di non sovraccaricare o modificare eccessivamente il file robots.txt. Questo perché la modifica eccessiva del file può danneggiare la struttura della pagina e informare erroneamente i bot sulla prevenzione della scansione del tuo sito.

Quindi, meno è di più. Devi solo concentrarti sulla tua mappa del sito e far scoprire prima le tue pagine principali.

Aumenta la tua visibilità online ora!

Robots.txt è un file importante che ti consente di ottimizzare strategicamente la tua quota di scansione e nascondere i contenuti privati ​​dall'indicizzazione della ricerca.

Questo articolo ti ha mostrato cos'è un file robots.txt, dove trovarlo e come modificare il file. Ti abbiamo anche presentato come ottimizzare il tuo file robots.txt di WordPress per la SEO. Il fatto è che meno edizione in robots.txt, meglio è. E non dimenticare di aggiungere una mappa del sito personalizzata al file per aumentare la visibilità della tua pagina chiave.

Cosa stai aspettando? Aumenta la tua visibilità online con il file robot.txt ora!