SEO網(wǎng)站優(yōu)化robots.txt使用中常見的誤區(qū)
比如有很多人這樣寫:
User-agent: *
Allow: /
Disallow: /mulu/
想讓所有蜘蛛抓取本站除/mulu/下面的url之外的所有頁面,禁止抓取/mulu/下面的所有url。
SEO網(wǎng)站優(yōu)化搜索引擎蜘蛛執(zhí)行的規(guī)則是從上到下,這樣會造成第二句命令失效。也就是說禁止抓取/mulu/目錄這條規(guī)則是無效的。正確的是Disallow應該在Allow之上,這樣才會生效。
誤區(qū)2.Disallow命令和Allow命令之后沒有以斜杠”/”開頭。
這個也很容易被忽視,比如有人這樣寫Disallow: 123.html ,這種是沒有效果的。斜杠”/”表示的是文件對于根目錄的位置,如果不帶的話,自然無法判斷url是哪個,所以是錯誤的。
正確的應該是Disallow: /123.html,這樣才能屏蔽/123.html這個文件,這條規(guī)則才能生效。
誤區(qū)3.屏蔽的目錄后沒有帶斜杠”/”。
也就是比如想屏蔽抓取/mulu/這個目錄,有些人這樣寫Disallow: /mulu。那么這樣是否正確呢?
首先這樣寫(Disallow: /mulu)確實可以屏蔽/mulu/下面的所有url,不過同時也屏蔽了類似/mulu123.html這種開頭為/mulu的所有頁面,效果等同于Disallow: /mulu*。
正確的做法是,如果只想屏蔽目錄,那么必須在結(jié)尾帶上斜杠”/”。
本文發(fā)布于北京網(wǎng)站制作公司尚品中國http://www.union-saas.cn/
建站流程
-
網(wǎng)站需求
-
網(wǎng)站策劃方案
-
頁面設計風格
-
確認交付使用
-
資料錄入優(yōu)化
-
程序設計開發(fā)
-
后續(xù)跟蹤服務
-
聯(lián)系電話
010-60259772
熱門標簽
- 網(wǎng)站建設
- 食品網(wǎng)站建設
- 微信小程序開發(fā)
- 小程序開發(fā)
- 無錫網(wǎng)站建設
- 研究所網(wǎng)站建設
- 沈陽網(wǎng)站建設
- 廊坊網(wǎng)站建設
- 鄭州網(wǎng)站建設
- 婚紗攝影網(wǎng)站建設
- 手機端網(wǎng)站建設
- 高校網(wǎng)站制作
- 天津網(wǎng)站建設
- 教育網(wǎng)站建設
- 品牌網(wǎng)站建設
- 政府網(wǎng)站建設
- 北京網(wǎng)站建設
- 網(wǎng)站設計
- 網(wǎng)站制作
最新文章
推薦新聞
更多行業(yè)-
網(wǎng)站制作公司如何定制網(wǎng)站,雙方需要簽訂哪些協(xié)議?
網(wǎng)站制作公司是專門負責網(wǎng)站建設的機構,承接各類網(wǎng)站建設業(yè)務,并且負責后...
2023-03-09 -
響應式設計:現(xiàn)代網(wǎng)站建設的必備技能
互聯(lián)網(wǎng)已經(jīng)成為人們?nèi)粘I钪胁豢苫蛉钡囊徊糠?。隨著智能手機、平板電腦等...
2024-06-25 -
網(wǎng)頁制作預備知識
Internet采用TCP/IP作為共同的通信協(xié)議,將世界范圍內(nèi)的許許...
2014-08-12 -
網(wǎng)站設計方案:服裝電子商務平臺
設計一個綜合性的成人電子商務服裝平臺,為男性消費者提供購買服裝的便捷渠...
2024-05-14 -
手機網(wǎng)站建設怎么吸引更多瀏覽者?
在當今移動互聯(lián)網(wǎng)時代,手機網(wǎng)站已經(jīng)成為企業(yè)展示自身形象和品牌的必備渠道...
2023-04-13 -
天津網(wǎng)站制作成功的首要前提是什么?
如何保證企業(yè)網(wǎng)站制作的成功?如何讓投入網(wǎng)站制作的每一分錢都物有所值?相...
2021-12-27
預約專業(yè)咨詢顧問溝通!
免責聲明
非常感謝您訪問我們的網(wǎng)站。在您使用本網(wǎng)站之前,請您仔細閱讀本聲明的所有條款。
1、本站部分內(nèi)容來源自網(wǎng)絡,涉及到的部分文章和圖片版權屬于原作者,本站轉(zhuǎn)載僅供大家學習和交流,切勿用于任何商業(yè)活動。
2、本站不承擔用戶因使用這些資源對自己和他人造成任何形式的損失或傷害。
3、本聲明未涉及的問題參見國家有關法律法規(guī),當本聲明與國家法律法規(guī)沖突時,以國家法律法規(guī)為準。
4、如果侵害了您的合法權益,請您及時與我們,我們會在第一時間刪除相關內(nèi)容!
聯(lián)系方式:010-60259772
電子郵件:394588593@qq.com