在使用網(wǎng)頁抓取工具采集網(wǎng)頁時,進行http模擬請求可以通過瀏覽器自動獲取登錄cookie、返回頭信息,查看源碼等。具體如何操作呢?這里分享給大家網(wǎng)頁抓取工具火車采集器V9中的http模擬請求。許多請求工具都是仿照火車采集器中的請求工具所寫,因此大家可以此為例學習一下。
http模擬請求可以設置如何發(fā)起一個http請求,包括設置請求信息,返回頭信息等。并具有自動提交的功能。工具主要包含兩大部分:一個MDI父窗體和請求配置窗體。
1.2請求信息:常規(guī)設置和更高級設置兩部分。1.1請求地址:正確填寫請求的鏈接。
(1)常規(guī)設置:
①來源頁:正確填寫請求頁來源頁地址。
②發(fā)送方式:get和post,當選擇post時,請在發(fā)送數(shù)據(jù)文本框正確填寫發(fā)布數(shù)據(jù)。
③客戶端:選擇或粘貼瀏覽器類型至此處。
④cookie值:讀取本地登錄信息和自定義兩種選擇。
高級設置:包含如圖所示系列設置,當不需要以上高級設置時,點擊關(guān)閉按鈕即可。
②網(wǎng)頁編碼:自動識別和自定義兩種選擇,若選中自定義,自定義后面會出現(xiàn)編碼選擇框,在選擇框選擇請求的編碼。
①網(wǎng)頁壓縮:選擇壓縮方式,可全選,對應請求頭信息的Accept-Encoding。
③Keep-Alive:決定當前請求是否與internet資源建立持久性鏈接。
④自動跳轉(zhuǎn):決定當前請求是否應跟隨重定向響應。
⑤基于Windows身份驗證類型的表單:正確填寫用戶名,密碼,域即可,無身份認證時不必填寫。
⑥更多發(fā)送頭信息:顯示發(fā)送的頭信息,以列表形式顯示更清晰直觀的了解到請求的頭信息。此處的頭信息供用戶選填的,若要將某一名稱的頭信息進行請求,勾選Header名對應的復選框即可,Header名和Header值都是可以進行編輯的。
1.3返回頭信息:將詳細羅列請求成功之后返回的頭信息,如下圖。
1.5預覽:可在此預覽請求成功之后返回的頁面。1.4源碼:待請求完畢后,工具會自動跳轉(zhuǎn)到源碼選項,在此可查看請求成功之后所返回的頁面源碼信息。
1.6自動操作選項:可設置自動刷新/提交的時間間隔和運行次數(shù),啟用此操作后,工具會自動的按一定的時間間隔和運行次數(shù)向服務器自動請求,若想取消此操作,點擊后面的停止按鈕即可。
配置好上述信息后,點擊“開始查看”按鈕即可查看請求信息,返回頭信息等,為避免填寫請求信息,可以點擊“粘貼外部監(jiān)視HTTP請求數(shù)據(jù)”按鈕粘貼請求的頭信息,然后點擊開始查看按鈕即可。這種捷徑是在粘貼的頭信息格式正確的前提下,否則會彈出錯誤提示框。
更多有關(guān)網(wǎng)頁抓取工具或網(wǎng)頁采集的教程都可以從火車采集器的系列教程中學習借鑒。