htcap：一款实用的递归型Web漏洞扫描工具

2017 年 11 月 26 日 黑白之道

今天给大家介绍的是一款名叫 htcap 的开源 Web 漏洞扫描工具，它通过拦截 AJAX 调用和页面 DOM 结构的变化并采用递归的形式来爬取单页面应用（SPA）。htcap 并不是一款新型的漏洞扫描工具，因为它主要针对的是漏洞扫描点的爬取过程，然后使用外部工具来扫描安全漏洞。在 htcap 的帮助下，我们就可以通过手动或自动渗透测试来对现代 Web应用进行漏洞扫描了。

环境要求

1.      Python 2.7

2.      PhantomJS v2

3.      Sqlmap

4.      Arachni

工具下载和运行

$ git clonehttps://github.com/segment-srl/htcap.git htcap
$ htcap/htcap.py

命令行参数

$ htcap crawl -h

usage: htcap [options] url outfile

Options:

-h               帮助菜单

-w               覆盖输出文件

-q               不显示处理过程信息

-mMODE         设置爬取模式：

- passive:不与页面交互

- active:触发事件

- aggressive:填写输入值并爬取表单 (默认)

-sSCOPE          设置爬取范围：

- domain:仅爬取当前域名 (默认)

- directory:仅爬取档期那目录 (以及子目录)

- url: 仅分析单一页面

-D               最大爬取深度 (默认: 100)

-P               连续表单的最大爬取深度 (默认: 10)

-F               主动模式下不爬取表单

-H               保存页面生成的HTML代码

-dDOMAINS      待扫描的域名，多个域名用逗号分隔 (例如*.target.com)

-cCOOKIES       以JSON格式或name=value键值对的形式设置cookie，多个值用分号隔开

-CCOOKIE_FILE   包含cookie的文件路径

-rREFERER       设置初始引用

-xEXCLUDED      不扫描的URL地址，多个地址用逗号隔开

-pPROXY         设置代理，protocol:host:port-  支持'http'或'socks5'

-nTHREADS       爬虫线程数量 (默认: 10)

-ACREDENTIALS   用户HTTP验证的用户名和密码，例如username:password

-UUSERAGENT    设置用户代理

-tTIMEOUT       分析一个页面最长可用时间(默认300)

-S               跳过初始url检测

-G               分组query_string参数

-N               不使用标准化URL路径 (保留../../)

-R               最大重定向数量 (默认10)

-I               忽略robots.txt

htcap简单介绍

htcap的扫描过程分为两步，htcap首先会尽可能地收集待测目标可以发送的请求，例如url、表单和AJAX请求等等，然后将收集到的请求保存到一个SQLite数据库中。爬取工作完成之后，我们就可以使用其他的安全扫描工具来测试这些搜集到的测试点，最后将扫描结果存储到刚才那个SQLite数据库之中。

htcap内置了sqlmap和arachni模块，sqlmap主要用来扫描SQL注入漏洞，而arachni可以发现XSS、XXE、代码执行和文件包含等漏洞。

htcap所采用的爬虫算法能够采用递归的方式爬取基于AJAX的页面，htcap可以捕获AJAX调用，然后映射出DOM结构的变化，并对新增的对象进行递归扫描。当htcap加载了一个测试页面之后，htcap会尝试通过触发所有的事件和填充输入值来触发AJAX调用请求，当htcap检测到了AJAX调用之后，htcap会等待请求和相关调用完成。如果之后页面的DOM结构发生了变化，htcap便会用相同算法对新增元素再次进行计算和爬取，直到触发了所有的AJAX调用为止。

爬虫模块

Htcap支持三种爬取模式：被动型、主动型和攻击型。在被动模式下，htcap不会与任何页面进行交互，这意味着爬虫不会触发任何页面事件，它只会收集页面现有的链接。在这个模式下，htcap就跟普通的Web爬虫一样，只会收集页面<a>标签中的链接。在主动模式下，htcap会触发所有发现的事件，相当于模拟用户与页面进行交互，但不填写任何表单数据。在攻击模式下，htcap会向所有扫描到的表单和输入框中填写测试数据，即尽可能地模拟用户与页面进行交互。