在很多網(wǎng)站日志中，都能清晰的看到頁面的抓取排行，URL的抓取排行，這些排行最能直接的反應(yīng)網(wǎng)站的那些部分是最受蜘蛛歡迎的。如果出現(xiàn)了很多css或js的文件都被大量的訪問，那么頁面中這樣的鏈接就大大浪費(fèi)了權(quán)重，所以需要修改robots文件給予禁止。查看有些網(wǎng)站的日志，能明顯的看到那些被過渡抓取，那些重點(diǎn)內(nèi)容抓取的較少，這樣觀察之后就能做到心中有數(shù)，可以有的放矢。比如之前我的網(wǎng)站會莫名奇妙的多出一些抓取文件夾，而這些文件夾在網(wǎng)站中是并不存在的，所以要及時發(fā)現(xiàn)，并給予屏蔽。

另外，也偶爾也會出現(xiàn)一些500、206等狀態(tài)碼，這些都是日常的一些小問題引起的，不必過于擔(dān)心。而如果大量集中的出現(xiàn)就說明服務(wù)器本身有問題，另外在根目錄中盡量不要放置壓縮文件，這樣會被一些別有用心的人嘗試下載網(wǎng)站的源碼或者備份的數(shù)據(jù)。還有助于304狀態(tài)碼，這個說明也正常，是網(wǎng)站沒有更新造成的。

定期查看網(wǎng)站的日志其實(shí)并不會占用我們太多的時間，但如果一直不查看，網(wǎng)站就會有很多的小問題我們無從知曉，或許友情連接我們做了，原創(chuàng)內(nèi)容也更新了，外部鏈接也不停在發(fā)，但是排名卻一直非常緩慢，那么這個時候就不妨看看你的日志，說不定問題就出在這里邊。