可能有的朋友會奇怪，網站的頁面不是讓搜索引擎抓的越多越好嗎，怎么還會有怎么讓網站頁面內容不被抓取的想法。
首先，一個網站可以分出去的權重是有限，哪怕是Pr10的站，也不可能無限的分權重出去。這權重包括鏈到別人網站的處鏈以及自己網站內的內鏈。
外鏈的話，除非是想坑被鏈的人。否則外鏈都是需要讓搜索引擎所抓取。這不在本文討論范圍之內。
而內鏈，因為有些網站有不少重復或冗余的內容。 比如一些按條件查詢的搜索結果。特別是一些B2C站，在專門查詢頁或在所有產品頁面的某個位置內，都可以按產品類型，型號，顏色，大小等進行分類搜索。這些頁面雖然對瀏覽者來說是極大的方便，但對搜索引擎來說，這可是耗費蜘蛛極大的抓取時間，特別是網站頁面較多時。同時也會分散頁面權重,對SEO不利。
另外網站管理登陸頁面，備份頁面，測試頁面等等，也是站長不想讓搜索引擎所收錄的。
所以就有需要讓網頁的某些內容，或某些頁面不被搜索引擎所收錄。
下面筆者先介紹一下較為有效的幾種方法：
1.在FLASH展示不想被收錄的內容
眾所周知，搜索引擎對FLASH的內容抓取能力有限，不能完全抓取所有FLASH內的所有內容。但遺憾的是，也不能完全保證FLASH的所有內容都不會被抓取。因為谷歌和Adobe正努力的實現FLASH抓取技術。
2.使用robos文件
這是暫時最有效的方法，但有個很大的缺點。就是不傳出任何的內容及鏈接。大家知道，在SEO來說比較健康的頁面應該是有進有出的。有外鏈的鏈入，同時也頁面內也需要有鏈到外部網站的鏈接，所以robots文件控制，讓此頁面只進不出，搜索引擎也不知道內容是什么。會把此頁定為低質量頁面。權重有可能受一定的懲罰。這個多用于網站管理頁面，測試頁面等。
3.使用nofollow標簽包裹不想被收錄的內容
這個方法也不能完全保證不被收錄，因為這并不是嚴格要求遵守的標簽。另外，如果有外部網站鏈向了有nofollow標簽的頁面。這樣就很有可能會被搜索引擎抓取。
4.用Meta Noindex標簽加上follow標簽
這個方法可以做到防止收錄而且還能傳遞出權重。要不要傳遞，看網站建設站長自己的需要。這個方法的缺點是，也是會較大的浪費蜘蛛的抓取頁面時間。
5.用robots文件的同時在頁面上使用iframe標簽展示需要搜索引擎收錄的內容robots文件可以阻止iframe標簽以外的內容被收錄 。所以，可以把不想收錄的內容放到正常頁面標簽下。而想被收錄的內容放在iframe標簽內。
緊接著，再說一下已經失效的方法，大家以后不要用這些方法了。
1.使用表格
谷歌和百度早已經能抓取表格用的內容了，無法阻止收錄。
2.使用Javascript及Ajax技術
以現在的技術來說，Ajax和javascript現在的最終運算的結果還是以HTML的形式傳給瀏覽器以作顯示，所以這同樣無法阻止收錄。
初學者大多著眼于如何收錄，但細節決定成敗。怎么讓網站頁面內容不被抓取也是SEO進階人士需要注意的。謝謝閱讀，希望能幫到大家，請繼續關注腳本之家，我們會努力分享更多優秀的文章。
國外谷歌站長透露，Google搜索即將從今年11月份開始小范圍啟用HTTP/2方式抓取網站內容，爬行web頁面時效率更高，不影響網站搜索排名。了解到，HTTP/是基于SPDY
淺談搜索引擎收錄的抓取規則？談到SEO優化我們就必須不得不談網站的收錄問題，沒有收錄的站是不可能做的了SEO優化的，因此不收錄不SEO這個句話是有一定道理的，今天就由站優云宇凡來為大家淺談下搜索引擎收錄的抓取規則有哪些
A5站長網9月13日消息：相信更多的站長每天都關注著搜索引擎的排名以及收錄問題，但是，我們的網站是否符合百度等其它搜索引擎抓取習慣的網站以及建站需要注意哪些事項等等。對于以上的問題，在昨日(9月12日)百度站長平臺lee給大家分享了關于如何建立符合搜索抓取習慣
之前百度站長lee給大家介紹了搜索抓取系統工作原理，根據該工作原理今天簡要介紹一下如何建立網站是符合搜索引擎抓取系統習慣的。