Scripting 确定显示网站所需的所有DNS查询

Scripting 确定显示网站所需的所有DNS查询,scripting,dns,automation,Scripting,Dns,Automation,我需要创建一个显示大量站点所需的所有DNS查询的列表(理想情况下最多为1000)。列表需要将查询分配给需要查询的页面 示例:访问google.com需要对google.com、ssl.gstatic.com、api.google.com和其他站点进行DNS查询。我的清单上会写一些类似于 google.com:google.com,ssl.gstatic.com,apis.google.com,... (此处不适用确切格式) 我目前有两个关于如何做到这一点的想法: 使用日志设置DNS服务器,构建

我需要创建一个显示大量站点所需的所有DNS查询的列表(理想情况下最多为1000)。列表需要将查询分配给需要查询的页面

示例:访问google.com需要对google.com、ssl.gstatic.com、api.google.com和其他站点进行DNS查询。我的清单上会写一些类似于

google.com:google.com,ssl.gstatic.com,apis.google.com,...
(此处不适用确切格式)

我目前有两个关于如何做到这一点的想法:

  • 使用日志设置DNS服务器,构建脚本,使用我的DNS服务器作为解析程序访问给定的域列表
  • 构建一个加载站点源代码的脚本(例如,想想python的urllib2),解析所有嵌入内容并构建所需查询列表
  • 不过,这两种想法都有问题。访问1000000个域,访问间隔为2秒(以便能够在访问后将查询分配给已访问的站点),加载大约1秒(这是非常乐观的)将需要34天,可能更长。但要构建解析器,我需要一个完整的列表,其中包含所有可能的嵌入内容形式,这将导致DNS查询,我还需要查询一些目标URL(想想iFrame),而一些内容将无法检查进一步的查询(想想连接到其他服务器的flash内容)

    我有点被困在这里了,如果能提供一些关于如何处理这件事的建议,我将不胜感激。可以将URL列表缩短到10万个,但任何减少都会大大减少结果的使用


    上下文:我需要这个列表来完成我的学士学位论文,该论文涉及对提议的DNS隐私扩展的攻击策略。

    有一个工具可以做到这一点并生成图形表示。它是名为(DNS数据包流)的dnssec工具的一部分

    它可能不能完全实现您想要的功能,但它是开源的,因此您可以查看它们是如何实现的。

    您可以使用它来实现这一点,因为它提供了一个界面,可以让您捕获网络请求并记录它们,这与以下内容类似


    您需要编写一些简单的Javascript,但作为一个节点,异步运行它应该相当容易,以便在合理的时间内收集所需的数据。

    感谢您提供的链接,但据我所知,它更像是一个显示现有查询的工具,而不是基于网站生成新查询的工具。不过还是要谢谢你;-)非常感谢。这就是我昨晚的想法,你刚刚给我提供了一个合适的软件解决方案的链接。我去看看。