激情综合开心五月激情五月_免费看无码自慰一区二区_国产A级理论片无码_国产成人无码AV在线影院_久久影院九九被窝爽爽_国产美女久久久亚洲综合

網(wǎng)頁抓取工具如何進行http模擬請求

2017-02-05 11:28:06 瀏覽:11843

在使用網(wǎng)頁抓取工具采集網(wǎng)頁時,進行http模擬請求可以通過瀏覽器自動獲取登錄cookie、返回頭信息,查看源碼等。具體如何操作呢?這里分享給大家網(wǎng)頁抓取工具火車采集器V9中的http模擬請求。許多請求工具都是仿照火車采集器中的請求工具所寫,因此大家可以此為例學習一下。

http模擬請求可以設置如何發(fā)起一個http請求,包括設置請求信息,返回頭信息等。并具有自動提交的功能。工具主要包含兩大部分:一個MDI父窗體和請求配置窗體。

圖片3.png

1.2請求信息:常規(guī)設置和更高級設置兩部分。1.1請求地址:正確填寫請求的鏈接。

(1)常規(guī)設置:

①來源頁:正確填寫請求頁來源頁地址。

②發(fā)送方式:get和post,當選擇post時,請在發(fā)送數(shù)據(jù)文本框正確填寫發(fā)布數(shù)據(jù)。

③客戶端:選擇或粘貼瀏覽器類型至此處。

④cookie值:讀取本地登錄信息和自定義兩種選擇。

高級設置:包含如圖所示系列設置,當不需要以上高級設置時,點擊關(guān)閉按鈕即可。

圖片4.png

②網(wǎng)頁編碼:自動識別和自定義兩種選擇,若選中自定義,自定義后面會出現(xiàn)編碼選擇框,在選擇框選擇請求的編碼。

①網(wǎng)頁壓縮:選擇壓縮方式,可全選,對應請求頭信息的Accept-Encoding。

③Keep-Alive:決定當前請求是否與internet資源建立持久性鏈接。

④自動跳轉(zhuǎn):決定當前請求是否應跟隨重定向響應。

⑤基于Windows身份驗證類型的表單:正確填寫用戶名,密碼,域即可,無身份認證時不必填寫。

⑥更多發(fā)送頭信息:顯示發(fā)送的頭信息,以列表形式顯示更清晰直觀的了解到請求的頭信息。此處的頭信息供用戶選填的,若要將某一名稱的頭信息進行請求,勾選Header名對應的復選框即可,Header名和Header值都是可以進行編輯的。

1.3返回頭信息:將詳細羅列請求成功之后返回的頭信息,如下圖。

圖片5.png

1.5預覽:可在此預覽請求成功之后返回的頁面。1.4源碼:待請求完畢后,工具會自動跳轉(zhuǎn)到源碼選項,在此可查看請求成功之后所返回的頁面源碼信息。

1.6自動操作選項:可設置自動刷新/提交的時間間隔和運行次數(shù),啟用此操作后,工具會自動的按一定的時間間隔和運行次數(shù)向服務器自動請求,若想取消此操作,點擊后面的停止按鈕即可。

配置好上述信息后,點擊“開始查看”按鈕即可查看請求信息,返回頭信息等,為避免填寫請求信息,可以點擊“粘貼外部監(jiān)視HTTP請求數(shù)據(jù)”按鈕粘貼請求的頭信息,然后點擊開始查看按鈕即可。這種捷徑是在粘貼的頭信息格式正確的前提下,否則會彈出錯誤提示框。

更多有關(guān)網(wǎng)頁抓取工具或網(wǎng)頁采集的教程都可以從火車采集器的系列教程中學習借鑒。

掃碼關(guān)注微信