基于DOM树及行文本统计去噪的网页文本抽取技术

作者：李霞 蒋盛益网页文本抽取dom树行文本统计标点符号统计

摘要：首先对网页源码文本统一编码转为uTF格式，然后把HTML网页文档转换为XML文档并解析为一棵DOM树。依据XML语言特点及噪声特征规则先对DOM树的噪声节点进行过滤删除，然后依据中文标点符号统计方法提取网页正文内容，并在此基础上利用行文本统计方法去除提取出的正文中存在的噪声信息，最后得到网页正文文本。对来自结构完全不同的主流与非主流的中英文新闻网站上的2000篇网页进行实验，结果表明本文提出的方法具有较高的抽取准确率，并具有很好的通用性和实现简单的特点，适用于针对互联网中不同网站新闻文本信息的自动采集。

注：因版权方要求，不能公开全文，如需全文，请咨询杂志社