文/IT可达鸭
前言
什么是复合事件?复合事件包括条件事件、因果事件、顺承事件、反转事件。
很多NLP实际项目都需要用到复合事件的抽取,例如:知识图谱中的事件抽取,形成事理图谱;智能聊天对话中的事件抽取,用于识别用户意图。复合事件的抽取作为一个NLP的基础模块,还是有很多东西可以研究的。
本文主要介绍,一种基于规则的中文事件抽取方法,源码来自网友的贡献。本文的源码在此基础上进行优化,将数据与代码分开,方便后期扩充事件抽取的规则,同时简化代码,更易于理解。
最好的学习方法就是阅读优秀的源码,最好的成果检验,就修改源码,把代码融入自己的想法。下面就跟着可达鸭一起学习如何开发这个项目吧。
技术难点
json文件的读取和存储,以及一些乱码情况的处理。
读取json文件
保存文件的时候,使用dump函数,“ensure_ascii”参数设置为False,这样保存的文件就不会出现中文乱码。
保存json文件
如何去提取复合事件呢?这里使用正则表达式,也是最常用的基于规则的方法。
由于事件的句式有上百个连接关键词词,而连接词有上千种组合。我们必须设计出能匹配所有组合的正则表达式。这里设计一个生成动态正则表达式的函数,由手工整理出固定的连接词(详细见数据文件data.json),再有程序自动排列组合出各种形式。
将上述“不但”、“而且”设计为变量,用python中的占位符代替。从文件中读取句式连接词,迭代赋值“pre”和“pos”,就能生成所有的正则表达式。
文章代码来源于开源的源码,这边做了优化和改进。我们将数据与代码分开,并引入设计模式中的策略模式。策略模式主要解决:在有多种算法相似的情况下,使用“if...else...”所带来的难以维护的问题。避免过多使用多重条件的判断,扩展性良好。
如果大家的代码出现大量的“if....else....”, 可以考虑是否可以使用策略模式。
项目总体框架图
有了项目总体框架图,就能很好的把握整个项目的开发进度。
详细代码
导入相应的python包,其中re是一个正则表达式模块,用于模式匹配。
所有的事件连接词,都写入data.json,其中格式如下图。写入json文件的好处就是,方便后续的扩展。增加事件连接词,增加事件类型都可以很方便实现,不用去修改源码。
将复合事件抽取封装成一个类,这是类初始化函数基本写法。
数据加载模块,从data.json读取数据,并整理数据的格式。
根据数据加载模块中获取的数据,生成所有的正则表达式。
基于正则表达式,对每个输入的句子,进行匹配与事件抽取。
这里是对输入的文本进行切分,然后对每个句子进行事件抽取。
建立main函数,对写好的类进行测试。
最终输出结果,大家可以根据自己想要的输出格式进行修改。
结语
本项目中用到了正则表达式、文件读取、设计模式--策略模式,这些都是一些基本的编程知识。需要在日常编程中不断积累,不能一蹴而就。