C# 在某些特定网站上使用curl和file_get_内容获取html内容时,速度非常慢
我目前正在尝试使用curl(或file\u get\u content)获取一些网站的html内容。大多数抓取活动的正常速度与我使用浏览器浏览的速度一样快(大约几秒钟)。但是,对于某些特定的网站,在进行抓取时会导致极低的速度(>30或有时甚至达到服务器连接超时>90秒),但对于使用浏览器浏览,速度仍然正常(几秒钟)。谁能帮我解决这个问题,谢谢 一个相关的问题是,在非服务器端语言(如java和C#)中,抓取活动是否表现得更好 谢谢C# 在某些特定网站上使用curl和file_get_内容获取html内容时,速度非常慢,c#,java,php,jquery,ajax,C#,Java,Php,Jquery,Ajax,我目前正在尝试使用curl(或file\u get\u content)获取一些网站的html内容。大多数抓取活动的正常速度与我使用浏览器浏览的速度一样快(大约几秒钟)。但是,对于某些特定的网站,在进行抓取时会导致极低的速度(>30或有时甚至达到服务器连接超时>90秒),但对于使用浏览器浏览,速度仍然正常(几秒钟)。谁能帮我解决这个问题,谢谢 一个相关的问题是,在非服务器端语言(如java和C#)中,抓取活动是否表现得更好 谢谢 评论。我正在使用godaddy web hosting服务,在本地
评论。我正在使用godaddy web hosting服务,在本地主机测试中一切正常使用curl时是否尝试将用户代理设置为浏览器代理?是的,我已将用户代理设置为Firefox 4.0,但它似乎不起作用