ASP.NET抓取網頁內容的實現方法

 這篇文章主要介紹了ASP.NET抓取網頁內容的實現方法,涉及使用HttpWebRequest及WebResponse抓取網頁內容的技巧,需要的朋友可以參考下

   

本文實例講述了ASP.NET抓取網頁內容的實現方法。分享給大家供大家參考。具體實現方法如下：

一、ASP.NET 使用HttpWebRequest抓取網頁內容

代碼如下: /// <summary>方法一：比較推薦
/// 用HttpWebRequest取得網頁源碼
/// 對於帶BOM的網頁很有效，不管是什麼編碼都能正確識別
/// </summary>
/// <param name="url">網頁地址" </param>
/// <returns>返回網頁源文件</returns>
public static string GetHtmlSource2(string url)
{
//處理內容
string html = "";
HttpWebRequest request = (HttpWebRequest)WebRequest.Create(url);
request.Accept = "*/*"; //接受任意文件
request.UserAgent = "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.2; .NET CLR 1.1.4322)"; //
request.AllowAutoRedirect = true;//是否允許302
//request.CookieContainer = new CookieContainer();//cookie容器，
request.Referer = url; //當前頁面的引用
HttpWebResponse response = (HttpWebResponse)request.GetResponse();
Stream stream = response.GetResponseStream();
StreamReader reader = new StreamReader(stream, Encoding.Default);
html = reader.ReadToEnd();
stream.Close();
return html;
}

 

二、ASP.NET 使用 WebResponse 抓取網頁內容

代碼如下: public static string GetHttpData2(string Url)
{
string sException = null;
string sRslt = null;
WebResponse oWebRps = null;
WebRequest oWebRqst = WebRequest.Create(Url);
oWebRqst.Timeout = 50000;
try
{
oWebRps = oWebRqst.GetResponse();
}
catch (WebException e)
{
sException = e.Message.ToString();
}
catch (Exception e)
{
sException = e.ToString();
}
finally
{
if (oWebRps != null)
{
StreamReader oStreamRd = new StreamReader(oWebRps.GetResponseStream(), Encoding.GetEncoding("utf-8"));
sRslt = oStreamRd.ReadToEnd();
oStreamRd.Close();
oWebRps.Close();
}
}
return sRslt;
}

 

希望本文所述對大家的C#程序設計有所幫助。