如何優化您的 WordPress Robots.txt(高級指南)

已發表: 2022-02-26

你們中的許多人可能聽說過 robots.txt 文件,但你知道它在哪里以及它的外觀嗎? 最重要的是,您知道如何優化您的 WordPress robots.txt 文件以提升 SEO 嗎?

本文將涵蓋這些問題,為您提供正確且清晰的 WordPress robots.txt 文件圖片。 從那裡,您可以使用該文件來增加您在 SERP 上的在線可見性或隱藏您的敏感內容不讓公眾看到。

我們將從 robots.txt 位置及其示例開始,重點介紹編輯文件的方法,然後以有關 WordPress robots.txt 優化的高級技巧結束這篇文章。

讓我們潛入吧!

  • WordPress robots.txt 位置在哪裡?
  • 如何在 WordPress 中編輯 robots.txt?
  • 如何為 SEO 優化您的 WordPress Robots.txt 文件

WordPress robots.txt 位置在哪裡?

robots.txt 文件位於您網站的根文件夾中。 它的主要職責是指導搜索引擎機器人如何抓取和索引您的網站。 特別是,它拒絕搜索引擎訪問某些文件和文件夾。

許多 WordPress 網站所有者使用 robots.txt 文件來阻止搜索索引。 這聽起來違反直覺,對吧? 考慮到 SEO 或在 SERP 上獲得第一名的事實是在線業務成功的關鍵組成部分。

儘管如此,如果您的網站處於開發模式,或者包含一些低質量或個人內容,robot.txt 證明在塊抓取和索引這些內容方面很方便。 從這裡,您可以優化您的 WordPress robots.txt 文件,以優先考慮您的頂級登錄頁面,如銷售頁面、產品頁面或贊助帖子。

同樣,您還可以優化您的爬網配額。 抓取配額或抓取預算是指 Google 機器人在任何給定時間抓取的 WordPress 網站上的頁面數。 允許您的重要頁面抓取預算有助於快速將它們編入索引並在搜索結果的第一頁上排名。

但是,請注意優化 robots.txt 文件,因為如果做得不好可能會損害您的 SEO。

WordPress Robots.txt 示例

您可以通過在域名末尾添加/robots.txt來查看任何網站的 robots.txt 文件。 所以 robots.txt 文件看起來像這樣。

wordpress robots.txt 文件

robots.txt 文件中的用戶代理是讀取 robots.txt 文件的搜索引擎。 如果在用戶代理中標有星號,這意味著它為所有搜索引擎開了綠燈。

在 robots.txt 文件中,允許禁止告訴機器人它們可以和不能抓取哪些頁面和內容。 如您所見,我們允許搜索引擎在我們的 WordPress admin-ajax 中抓取和索引文件,並禁止訪問插件和管理文件夾。

站點地圖是一個 XML 文件,其中包含您網站上所有頁面的列表和詳細信息。

如何在 WordPress 中編輯 Robots.txt?

在 WordPress 中編輯 robots.txt 的最簡單方法是使用插件。 有幾個強大的 SEO 插件擅長幫助您編輯 robots.txt 文件,All in one SEO、YoastSEO、RankMath 等,僅舉幾例。

除此之外,您還可以尋求專門為優化 WordPress robots.txt 文件而開發的插件的幫助,例如 Virtual Robots.txt、WordPress Robots.txt 優化等等。

優化您的 wordpress robots.txt 文件

或者,您可以通過 FTP 客戶端手動編輯文件。 首先,您需要使用 FTP 客戶端連接您的 WordPress 託管服務提供商。 之後,在您網站的根目錄中找到 robots.txt 文件。

編輯 robots.txt wordpress

如果您在那裡沒有看到 robots.txt 文件,那麼您的網站很可能沒有該文件。 不要驚慌,只需創建一個新的。 點擊右鍵並選擇“創建新文件”,然後將其下載到您的桌面。 Robots.txt 是一個純文本文件,這意味著您可以像使用寫字板或記事本等文本編輯器一樣正常下載和編輯它。
創建robot.txt文件wordpress

之後,更新您的更改,再次將您編輯的 robots.txt 文件上傳到根文件夾,您就完成了。

測試您的 Robots.txt 文件

您需要確保您的 robots.txt 文件在編輯後正常運行。 如果出現任何錯誤,可能會導致您的網站被排除在搜索結果頁面之外。

在眾多的 robots.txt 測試工具中,我們建議您使用 Google Search Console,讓您免費測試您的 robots.txt 文件。

確保您已將網站 URL 提交到 Google Search Console,以便該工具驗證您的身份驗證。 如果沒有,請查看我們的指南,了解如何將您的網站提交給搜索引擎。

那麼您就可以使用 Google Search Console 機器人測試工具了。 在下拉菜單中選擇屬性後,該工具會立即檢查文件,然後在有任何錯誤和警告時通知您。

谷歌搜索控制台機器人測試工具

不僅如此,該工具還允許您在站點上輸入特定頁面,然後選擇特定的用戶代理來檢查該頁面是否被索引阻止或索引被接受。

您可以直接在工具上編輯文件並重新運行測試。 但是,實際文件仍然保持不變。 您可能需要復製版本並粘貼到實際文件上並將其保存在那裡。

robots.txt 測試器

如何為 SEO 優化您的 WordPress Robots.txt 文件

強烈建議選擇性地禁止某些敏感頁面,例如/wp-admin//wp-content/plugins//trackback//readme.html ,而其餘的保持“允許”。

此外,您可以通過添加站點地圖來優化您的 WordPress robots.txt 文件。 雖然 WordPress 提供了自己的站點地圖,但您可以使用 YoastSEO 或 All in One SEO 等 SEO 插件來構建您的自定義站點地圖。 它們使您能夠為帖子和頁面創建單獨的站點地圖。

屆時,將這些站點地圖添加到您的 robots.txt 文件將促進機器人更快速、更輕鬆地抓取。
將站點地圖添加到 wordpress robots.txt

最重要的是,儘管有優化的想法,但強烈建議不要過度觸摸或過度編輯 robots.txt 文件。 這是因為在文件中更改太多可能會損害您的頁面結構並錯誤地通知機器人阻止抓取您的網站。

所以,少即是多。 您只需要專注於您的站點地圖並首先發現您的熱門頁面。

立即提高您的在線知名度!

Robots.txt 是一個重要文件,可讓您戰略性地優化抓取配額並隱藏搜索索引中的私人內容。

本文向您展示了什麼是 robots.txt 文件,在哪裡可以找到它,以及如何編輯該文件。 我們還向您介紹瞭如何針對 SEO 優化您的 WordPress robots.txt 文件。 問題是,robots.txt 中的版本越少越好。 並且不要忘記將自定義站點地圖添加到文件中以提高關鍵頁面的可見性。

你在等什麼? 立即使用 robots.txt 文件提高您的在線知名度!