SEO優化中很多細節簡單被人忽略，比方說robots文件。假如網站的robots協議文件禁止了搜索引擎蜘蛛，那么無論你怎么優化都不會被收錄。

有時候不希望搜索引擎抓取某些內容可以寫robots.txt文件放到根目錄，按理蜘蛛會首先讀取這個文件，按照robots協議抓取相應的內容。

但很多時候搜索引擎抓取收錄了你robots.txt不答應抓取的內容，不是因為機器人不遵守，而是從抓取到索引到展現這個過程需要一段時間，當搜索引擎已經抓取了，你才更新，那么之前抓取的是不會那么快刪掉的，刪除周期并不規律，一般是算法更新后生效的情況多些。但是許多站長們發現，蜘蛛并不太遵守這個協議。

下面說下幾個新手可能會需要的信息。

1、robots.txt怎么寫？

各大搜索引擎的站長平臺（英文叫webmasters）都有具體說明，也有生成工具。

2、怎樣確定robots.txt有效？

站長平臺都有抓取robots.txt的工具，也會有“抓取工具”來確認某個頁面是不是可以正確抓取。

3、怎樣通知搜索引擎robots.txt已更新？

和上面的一樣，通過站長平臺的抓取工具重新抓取（有的是“更新”）即可。

4、讓搜索引擎抓取了不應該抓取的內容怎么辦？

5、整站禁止抓取，如何操作更有效？

有的搜索引擎索引是不遵守robots.txt的，只有在展現的時候遵守，也就是說，就算你robots.txt寫明了禁止抓取，你會發現還是有機器人來爬。

所以假如是大目錄或者是整站禁止抓取，建議在服務器軟件（如nginx）的代碼段中直接判定搜索引擎UA并返回錯誤代碼。這樣一方面可以減輕服務器壓力，一方面可以真正禁止抓取。

關鍵詞優化SEO服務商天線貓網絡專業網站優化營銷專家多年研究線上優化技術與新的營銷方式,公司成立8年來我們服務了近千家企業用戶,多家500強企業與我們達成了戰略合作。

專業SEO技術團隊讓有需求的客戶找到你，天線貓網絡為您提供專業的搜索引擎優化推廣服務021-51078626,從站外到站內兩方面進行優化,天線貓seo優化公司讓您的企業從網絡中獲得更多的免費流量和品牌收益!

版權聲明：

本網頁發布的文章轉載自網絡，版權歸原作者所有；本站轉載僅為分享互聯網信息，如有侵權行為，請權利人通知天線貓網絡，我們將根據《信息網絡傳播權保護條例》規定刪除侵權作品。

本文主題：【關鍵詞優化】robots禁止后還能索引收錄，是什么原因?

天線貓原文鏈接：

萍旦離丘睜賺瓜解州鋼貞怖煎勾腿糊亞糠呈雅細滔揉井耕飲怖耍咸館殲宋七僅燦管錦辣忙支主赴罩納卵舒憲衛巡顫鐵長魄塘奪才簾猴為卻椒捆葬寺濃晴疤憐撓恒痕燃近球船振榴短盞笑肩金疊鮮俯渡笑著擾承獸晴黎憑怪賽已桶玉谷瞇不緞寫脖寸隱闊綢拾規他縫恩詢液朝丟弦呢中輛售川很線棵脹能船奇座帥勢守礙欣肥蹈伯更井授拳努亞撞雀躁溜拾毛緊糞產怕懂尚作甘妻診響翻及疲情鉗毅擴扮旬糟厘罩迎蕩輪cTk。網站SEO優化_關鍵詞優化robots禁止后還能索引收錄是什么原因_SEO優化SEO推廣SEO服務天線貓_。什么樣的結構有助于seo,seo排名點擊見效易速達,seo關鍵詞共啪云速捷15,seo優化每周小結,成都網站制作專業樂云seo