㈠ 怎樣生產robots.txt文件
1首先准備好urllist.txt文件,至於這個文件去哪弄呢?您可以到
xml-sitemapst處去生成.在xml-sitemaps這個生成網頁地圖時會有一個urllist.txt文件,下載下來.這個文件的好處是因為在線地圖已經全部讀取您的網站頁面,而現在我們製作robot文件有需要用到這裡面的頁面.
2下載下來後要處理一下,把"域名"這一段都用文件的"替換"功能去掉,保留"/index.asp"這一段,至於為什麼去掉,那是因為在網路站長工具提交時,有格式限制,您就先這么操作吧.後面就會知道了.
3
robots.txt文件可以用手寫的,但是有些網頁太多了,手寫麻煩而已,這可以看各人意願啦.
小編就介紹到這里.希望你能成功.
㈡ robots文件生成工具怎麼用
留空就行了，robots文件自己寫就行了，沒必要用工具吧，sitemap也要做么，sitemapx可以爬取你網站的頁面
㈢ 如何製作網站地圖並規范robots協議內容
網站地圖的製作在seo優化中也是占據很重要一部分的，網站地圖製作好了可以更加有利於蜘蛛對我們網站信息的檢索與抓取，他會對網頁信息進行方向引導，給搜索引擎蜘蛛的爬行提供一個路徑，快速准確的抓取網站內容。
我們可以利用小爬蟲工具、愛站工具等來生成網站地圖。我們首先打開愛站工具包，選擇網站地圖，然後左側選擇添加網站，將網址輸入後選擇xml選項，將裡面的頂部的所有文件選項勾選之後點擊抓爬，完成後生成xml文件，最後將生成之後的sitemap後綴為html、xml、txt的文件上傳到網站後台的根目錄中即可。這樣，只要有用戶進入就會抓取了。
robots協議又是什麼？該如何書寫它呢？robot協議就是給搜索引擎蜘蛛的一個規定，我們利用這個文件來限制搜索引擎的抓取范圍，尊重信息提供者意願並維護其隱私權，保護我們的隱私不被搜索引擎抓取的一份內容。這個有我們自己進行編輯規定。
robots協議的編輯會用到三個標簽：1、User-agent: 蜘蛛名稱（這里個User-agent 指定搜索引擎蜘蛛名稱）2、Disallow: 內容名稱（代表要禁止抓取的內容）3、Allow:內容名稱（代表允許抓取的內容）。這些標簽後書寫的就是協議的內容，還會用到3個通配符來編輯："*"表示涵蓋所有搜索引擎；"$"表示以某字元串結尾；"/"表示當前目錄下的所有內容。當編輯完協議內容後可在最後添加「Sitemap：網站域名/sitemap.xml」，用地圖讓蜘蛛更快速的抵達我們的網站。
SEO的日常工作比較細致，查看我們網站的日誌也是需要關注的。從網站後台空間找到文件管理，然後打開logs文件，將最新的日誌文件載到桌面，然後使用光年日誌分析系統等工具對其進行分析，可以看到蜘蛛爬行過的記錄以及一些問題，需要及時查看並解決掉。
㈣ Robots文件怎樣具體設置
1、先檢查網站是否設置了Robots文件
2 如果沒有設置，則需要在本地新建txt格式文件，文件名為robots.txt
3 用robots文件生成器生成代碼
4 將代碼復制到txt文件中
5 將robots.txt上傳到FTP根目錄
6 再次檢查網路域名/robots.txt,是否可以正常訪問
7 如果網站有了地圖，則可將地圖地址空一行放在robots文件中
㈤ 什麼網站可以生成robots.txt
robot.txt可以自己做，也可以用軟體生成，然後上傳到網站根目錄的，是一個給抓取蜘蛛看的關於你網站哪些內容可以看哪些不可以看的文件，一般來說我是自己寫，我之前用軟體（sitemapX）做sitemap文件的時候是可以生成robots文件的~還有一些查詢網站都可以自助生成的~~
㈥ 百度站長工具裡面沒有 生成Robots.txt這個工具，到哪裡找，或一樣功能的地方謝謝
您好，在這幾個地方都可以生成，生成之後上傳到網站根目錄就可以了。
https://www..com/s?ie=utf-8&f=3&rsv_bp=1&tn=&wd=robots%E7%94%9F%E6%88%90&oq=robots&rsv_pq=c6d4a33c000251ee&rsv_t=6f0c%%2BsGsEUJshvoBKQ&rqlang=cn&rsv_enter=1&rsv_sug3=1&rsv_sug1=1&rsv_sug7=100&rsv_sug2=1&prefixsug=robots&rsp=8&rsv_sug4=2665
㈦ robots協議的功能
Robots協議用來告知搜索引擎哪些頁面能被抓取，哪些頁面不能被抓取；可以屏蔽一些網站中比較大的文件，如：圖片，音樂，視頻等，節省伺服器帶寬；可以屏蔽站點的一些死鏈接。方便搜索引擎抓取網站內容；設置網站地圖連接，方便引導蜘蛛爬取頁面。 User-agent: * 這里的*代表的所有的搜索引擎種類，*是一個通配符
Disallow: /admin/ 這里定義是禁止爬尋admin目錄下面的目錄
Disallow: /require/ 這里定義是禁止爬尋require目錄下面的目錄
Disallow: /ABC/ 這里定義是禁止爬尋ABC目錄下面的目錄
Disallow: /cgi-bin/*.htm 禁止訪問/cgi-bin/目錄下的所有以.htm為後綴的URL(包含子目錄)。
Disallow: /*?* 禁止訪問網站中所有包含問號 (?) 的網址
Disallow: /.jpg$ 禁止抓取網頁所有的.jpg格式的圖片
Disallow:/ab/adc.html 禁止爬取ab文件夾下面的adc.html文件。
Allow: /cgi-bin/這里定義是允許爬尋cgi-bin目錄下面的目錄
Allow: /tmp 這里定義是允許爬尋tmp的整個目錄
Allow: .htm$ 僅允許訪問以.htm為後綴的URL。
Allow: .gif$ 允許抓取網頁和gif格式圖片
Sitemap: 網站地圖 告訴爬蟲這個頁面是網站地圖 例1. 禁止所有搜索引擎訪問網站的任何部分
User-agent: *
Disallow: /
實例分析：淘寶網的 Robots.txt文件
User-agent: Baispider
Disallow: /
User-agent: spider
Disallow: /
很顯然淘寶不允許網路的機器人訪問其網站下其所有的目錄。
例2. 允許所有的robot訪問 (或者也可以建一個空文件 「/robots.txt」 file)
User-agent: *
Allow:/
例3. 禁止某個搜索引擎的訪問
User-agent: BadBot
Disallow: /
例4. 允許某個搜索引擎的訪問
User-agent: Baispider
allow:/
例5.一個簡單例子
在這個例子中，該網站有三個目錄對搜索引擎的訪問做了限制，即搜索引擎不會訪問這三個目錄。
需要注意的是對每一個目錄必須分開聲明，而不要寫成 「Disallow: /cgi-bin/ /tmp/」。
User-agent:後的*具有特殊的含義，代表「any robot」，所以在該文件中不能有「Disallow: /tmp/*」 or 「Disallow:*.gif」這樣的記錄出現。
User-agent: *
Disallow: /cgi-bin/
Disallow: /tmp/
Disallow: /~joe/
Robot特殊參數：
允許 Googlebot：
如果您要攔截除Googlebot以外的所有漫遊器不能訪問您的網頁，可以使用下列語法：
User-agent:
Disallow: /
User-agent: Googlebot
Disallow:
Googlebot 跟隨指向它自己的行，而不是指向所有漫遊器的行。
「Allow」擴展名：
Googlebot 可識別稱為「Allow」的 robots.txt 標准擴展名。其他搜索引擎的漫遊器可能無法識別此擴展名，因此請使用您感興趣的其他搜索引擎進行查找。「Allow」行的作用原理完全與「Disallow」行一樣。只需列出您要允許的目錄或頁面即可。
您也可以同時使用「Disallow」和「Allow」。例如，要攔截子目錄中某個頁面之外的其他所有頁面，可以使用下列條目：
User-agent: Googlebot
Allow: /folder1/myfile.html
Disallow: /folder1/
這些條目將攔截 folder1 目錄內除 myfile.html 之外的所有頁面。
如果您要攔截 Googlebot 並允許 Google 的另一個漫遊器（如 Googlebot-Mobile），可使用」Allow」規則允許該漫遊器的訪問。例如：
User-agent: Googlebot
Disallow: /
User-agent: Googlebot-Mobile
Allow:
使用 * 號匹配字元序列：
您可使用星號 (*) 來匹配字元序列。例如，要攔截對所有以 private 開頭的子目錄的訪問，可使用下列條目：User-Agent: Googlebot
Disallow: /private*/
要攔截對所有包含問號 (?) 的網址的訪問，可使用下列條目：
User-agent: *
Disallow: /*?*
使用 $ 匹配網址的結束字元
您可使用 $字元指定與網址的結束字元進行匹配。例如，要攔截以 .asp 結尾的網址，可使用下列條目：User-agent: Googlebot
Disallow: /*.asp$
您可將此模式匹配與 Allow 指令配合使用。例如，如果 ? 表示一個會話 ID，您可排除所有包含該 ID 的網址，確保 Googlebot 不會抓取重復的網頁。但是，以 ? 結尾的網址可能是您要包含的網頁版本。在此情況下，可對 robots.txt 文件進行如下設置：
User-agent: *
Allow: /*?$
Disallow: /*?
Disallow: / *?
一行將攔截包含 ? 的網址（具體而言，它將攔截所有以您的域名開頭、後接任意字元串，然後是問號 (?)，而後又是任意字元串的網址）。
Allow: /*?$ 一行將允許包含任何以 ? 結尾的網址（具體而言，它將允許包含所有以您的域名開頭、後接任意字元串，然後是問號 (?)，問號之後沒有任何字元的網址）。
盡管robots.txt已經存在很多年了，但是各大搜索引擎對它的解讀都有細微差別。Google與網路都分別在自己的站長工具中提供了robots工具。如果您編寫了robots.txt文件，建議您在這兩個工具中都進行測試，因為這兩者的解析實現確實有細微差別 。 1. Robot-version: 用來指定robot協議的版本號
例子: Robot-version: Version 2.0
2.Crawl-delay：雅虎YST一個特定的擴展名，可以通過它對我們的抓取程序設定一個較低的抓取請求頻率。您可以加入Crawl-delay:xx指示，其中，「XX」是指在crawler程序兩次進入站點時，以秒為單位的最低延時。
3. Visit-time:只有在visit-time指定的時間段里,robot才可以訪問指定的URL,否則不可訪問.
例子: Visit-time: 0100-1300 #允許在凌晨1:00到13:00訪問
4. Request-rate: 用來限制URL的讀取頻率
例子: Request-rate: 40/1m 0100 - 0759 在1:00到07:59之間,以每分鍾40次的頻率進行訪問
Request-rate: 12/1m 0800 - 1300 在8:00到13:00之間,以每分鍾12次的頻率進行訪問 Robots.txt文件主要是限制整個站點或者目錄的搜索引擎訪問情況，而Robots Meta標簽則主要是針對一個個具體的頁面。和其他的META標簽（如使用的語言、頁面的描述、關鍵詞等）一樣，Robots Meta標簽也是放在頁面中，專門用來告訴搜索引擎ROBOTS如何抓取該頁的內容。
Robots Meta標簽中沒有大小寫之分，name=」Robots」表示所有的搜索引擎，可以針對某個具體搜索引擎寫為name=」BaiSpider」。content部分有四個指令選項：index、noindex、follow、nofollow，指令間以「,」分隔。
index指令告訴搜索機器人抓取該頁面；
follow指令表示搜索機器人可以沿著該頁面上的鏈接繼續抓取下去；
Robots Meta標簽的預設值是index和follow，只有inktomi除外，對於它，預設值是index、nofollow。 上述的robots.txt和Robots Meta標簽限制搜索引擎機器人（ROBOTS）抓取站點內容的辦法只是一種規則，需要搜索引擎機器人的配合才行，並不是每個ROBOTS都遵守的。目前看來，絕大多數的搜索引擎機器人都遵守robots.txt的規則，而對於RobotsMETA標簽，支持的並不多，但是正在逐漸增加，如著名搜索引擎GOOGLE就完全支持，而且GOOGLE還增加了一個指令「archive」，可以限制GOOGLE是否保留網頁快照。
㈧ 什麼是robots協議網站中的robots.txt寫法和作用
Robots協議（也稱為爬蟲協議、機器人協議等）的全稱是「網路爬蟲排除標准」（Robots Exclusion Protocol），網站通過Robots協議告訴搜索引擎哪些頁面可以抓取，哪些頁面不能抓取。
文件寫法
User-agent: * 這里的*代表的所有的搜索引擎種類，*是一個通配符
Disallow: /admin/ 這里定義是禁止爬尋admin目錄下面的目錄
Disallow: /require/ 這里定義是禁止爬尋require目錄下面的目錄
Disallow: /ABC/ 這里定義是禁止爬尋ABC目錄下面的目錄
Disallow: /cgi-bin/*.htm 禁止訪問/cgi-bin/目錄下的所有以".htm"為後綴的URL(包含子目錄)。
Disallow: /*?* 禁止訪問網站中所有包含問號 (?) 的網址
Disallow: /.jpg$ 禁止抓取網頁所有的.jpg格式的圖片
Disallow:/ab/adc.html 禁止爬取ab文件夾下面的adc.html文件。
Allow: /cgi-bin/這里定義是允許爬尋cgi-bin目錄下面的目錄
Allow: /tmp 這里定義是允許爬尋tmp的整個目錄
Allow: .htm$ 僅允許訪問以".htm"為後綴的URL。
Allow: .gif$ 允許抓取網頁和gif格式圖片
Sitemap: 網站地圖 告訴爬蟲這個頁面是網站地圖
文件用法
例1. 禁止所有搜索引擎訪問網站的任何部分
User-agent: *
Disallow: /
實例分析：淘寶網的 Robots.txt文件
User-agent: Baispider
Disallow: /
User-agent: spider
Disallow: /
很顯然淘寶不允許網路的機器人訪問其網站下其所有的目錄。
例2. 允許所有的robot訪問 (或者也可以建一個空文件 「/robots.txt」 file)
User-agent: *
Allow:/
例3. 禁止某個搜索引擎的訪問
User-agent: BadBot
Disallow: /
例4. 允許某個搜索引擎的訪問
User-agent: Baispider
allow:/
例5.一個簡單例子
在這個例子中，該網站有三個目錄對搜索引擎的訪問做了限制，即搜索引擎不會訪問這三個目錄。
需要注意的是對每一個目錄必須分開聲明，而不要寫成 「Disallow: /cgi-bin/ /tmp/」。
User-agent:後的*具有特殊的含義，代表「any robot」，所以在該文件中不能有「Disallow: /tmp/*」 or 「Disallow:*.gif」這樣的記錄出現。
User-agent: *
Disallow: /cgi-bin/
Disallow: /tmp/
Disallow: /~joe/
Robot特殊參數：
允許 Googlebot：
如果您要攔截除Googlebot以外的所有漫遊器不能訪問您的網頁，可以使用下列語法：
User-agent:
Disallow: /
User-agent: Googlebot
Disallow:
Googlebot 跟隨指向它自己的行，而不是指向所有漫遊器的行。
「Allow」擴展名：
Googlebot 可識別稱為「Allow」的 robots.txt 標准擴展名。其他搜索引擎的漫遊器可能無法識別此擴展名，因此請使用您感興趣的其他搜索引擎進行查找。「Allow」行的作用原理完全與「Disallow」行一樣。只需列出您要允許的目錄或頁面即可。
您也可以同時使用「Disallow」和「Allow」。例如，要攔截子目錄中某個頁面之外的其他所有頁面，可以使用下列條目：
User-agent: Googlebot
Allow: /folder1/myfile.html
Disallow: /folder1/
這些條目將攔截 folder1 目錄內除 myfile.html 之外的所有頁面。
如果您要攔截 Googlebot 並允許 Google 的另一個漫遊器（如 Googlebot-Mobile），可使用」Allow」規則允許該漫遊器的訪問。例如：
User-agent: Googlebot
Disallow: /
User-agent: Googlebot-Mobile
Allow:
使用 * 號匹配字元序列：
您可使用星號 (*) 來匹配字元序列。例如，要攔截對所有以 private 開頭的子目錄的訪問，可使用下列條目：User-Agent: Googlebot
Disallow: /private*/
要攔截對所有包含問號 (?) 的網址的訪問，可使用下列條目：
User-agent: *
Disallow: /*?*
使用 $ 匹配網址的結束字元
您可使用 $字元指定與網址的結束字元進行匹配。例如，要攔截以 .asp 結尾的網址，可使用下列條目：User-agent: Googlebot
Disallow: /*.asp$
您可將此模式匹配與 Allow 指令配合使用。例如，如果 ? 表示一個會話 ID，您可排除所有包含該 ID 的網址，確保 Googlebot 不會抓取重復的網頁。但是，以 ? 結尾的網址可能是您要包含的網頁版本。在此情況下，可對 robots.txt 文件進行如下設置：
User-agent: *
Allow: /*?$
Disallow: /*?
Disallow: / *?
一行將攔截包含 ? 的網址（具體而言，它將攔截所有以您的域名開頭、後接任意字元串，然後是問號 (?)，而後又是任意字元串的網址）。
Allow: /*?$ 一行將允許包含任何以 ? 結尾的網址（具體而言，它將允許包含所有以您的域名開頭、後接任意字元串，然後是問號 (?)，問號之後沒有任何字元的網址）。
盡管robots.txt已經存在很多年了，但是各大搜索引擎對它的解讀都有細微差別。Google與網路都分別在自己的站長工具中提供了robots工具。如果您編寫了robots.txt文件，建議您在這兩個工具中都進行測試，因為這兩者的解析實現確實有細微差別。