GeneralNewsExtractor(新闻网页正文通用抽取器)是一个基于《基于文本及符号密度的网页正文提取方法》论文用Python实现的正文抽取器,可以用来提取 HTML 中正文的内容、作者、标题。
开发介绍
项目起源
开发这个项目,源自于我在知网发现了一篇关于自动化抽取新闻类网站正文的算法论文――《基于文本及符号密度的网页正文提取方法》)
这篇论文中描述的算法看起来简洁清晰,并且符合逻辑。但由于论文中只讲了算法原理,并没有具体的语言实现,所以我使用 Python 根据论文实现了这个抽取器。并分别使用今日头条、网易新闻、游民星空、观察者网、凤凰网、腾讯新闻、ReadHub、新浪新闻做了测试,发现提取效果非常出色,几乎能够达到100%的准确率。
项目现状
在论文中描述的正文提取基础上,我增加了标题、发布时间和文章作者的自动化探测与提取功能。
目前这个项目是一个非常非常早期的 Demo,发布出来是希望能够尽快得到大家的使用反馈,从而能够更好地有针对性地进行开发。
本项目取名为抽取器,而不是爬虫,是为了规避不必要的风险,因此,本项目的输入是 HTML,输出是一个字典。请自行使用恰当的方法获取目标网站的 HTML。
本项目现在不会,将来也不会提供主动请求网站 HTML 的功能。
同步课堂课中客户端是一款服务于课堂教学场景下的平台产品,它将传统的课堂教学与互联网技术充分融合,通过AI、大数据等技术构建智慧化课堂环境,通过学情分析和反馈改造教学过程
maxthon是款功能强大的电脑网页浏览器。它可以为用户提供流畅快捷的网页浏览环境,同时它还是绿色免安装版本,可以直接打开使用,让用户快速登录各大网页,享受高速浏览器带来的极速浏览体验,功能齐全,非常好用。
青墨浏览器,青墨浏览器是专为设计师行业打造的一款浏览器,拥有一键下载、自动分类、自动命名、自动封面、重复检测、团队共享等功能,下载文件夹规整准确,下载重复检测准确无误,极大提高效率的同时还减少了不必要的开支。,您可以免费下载。
VRayNextforRevit2021是一款专业的电脑材料渲染器,支持Revit2015到2021全部版本,能够带来最真实的渲染效果,为你带来真实的灯光、材质反射,并且所有的过程都将直接在Revit中完成,同时包含
XperiaCompanion是索尼官方专门为使用索尼手机和平板电脑的用户准备的一款系统修复和软件更新软件,其作用就相当于SONY官方的手机管家,不过软件目前暂时不支持2019年以后的新版本只能手
金山快快游戏,金山快快游戏世界提供各种单机游戏,不用下载点击就能游戏。快快游戏是唯一实现边下边玩的单机网游平台,您可以免费下载。