文/IT可达鸭


前言

什么是复合事件?复合事件包括条件事件、因果事件、顺承事件、反转事件。




python将中文写入json 后有斜杠_json


很多NLP实际项目都需要用到复合事件的抽取,例如:知识图谱中的事件抽取,形成事理图谱;智能聊天对话中的事件抽取,用于识别用户意图。复合事件的抽取作为一个NLP的基础模块,还是有很多东西可以研究的。

本文主要介绍,一种基于规则的中文事件抽取方法,源码来自网友的贡献。本文的源码在此基础上进行优化,将数据与代码分开,方便后期扩充事件抽取的规则,同时简化代码,更易于理解。

最好的学习方法就是阅读优秀的源码,最好的成果检验,就修改源码,把代码融入自己的想法。下面就跟着可达鸭一起学习如何开发这个项目吧。

技术难点

json文件的读取和存储,以及一些乱码情况的处理。


python将中文写入json 后有斜杠_json_02

读取json文件


保存文件的时候,使用dump函数,“ensure_ascii”参数设置为False,这样保存的文件就不会出现中文乱码。


python将中文写入json 后有斜杠_python_03

保存json文件


如何去提取复合事件呢?这里使用正则表达式,也是最常用的基于规则的方法。


python将中文写入json 后有斜杠_json中文乱码_04


由于事件的句式有上百个连接关键词词,而连接词有上千种组合。我们必须设计出能匹配所有组合的正则表达式。这里设计一个生成动态正则表达式的函数,由手工整理出固定的连接词(详细见数据文件data.json),再有程序自动排列组合出各种形式。

将上述“不但”、“而且”设计为变量,用python中的占位符代替。从文件中读取句式连接词,迭代赋值“pre”和“pos”,就能生成所有的正则表达式。


python将中文写入json 后有斜杠_json_05


文章代码来源于开源的源码,这边做了优化和改进。我们将数据与代码分开,并引入设计模式中的策略模式。策略模式主要解决:在有多种算法相似的情况下,使用“if...else...”所带来的难以维护的问题。避免过多使用多重条件的判断,扩展性良好。

如果大家的代码出现大量的“if....else....”, 可以考虑是否可以使用策略模式。

项目总体框架图


python将中文写入json 后有斜杠_json_06


有了项目总体框架图,就能很好的把握整个项目的开发进度。

详细代码

导入相应的python包,其中re是一个正则表达式模块,用于模式匹配。


python将中文写入json 后有斜杠_json中文乱码_07


所有的事件连接词,都写入data.json,其中格式如下图。写入json文件的好处就是,方便后续的扩展。增加事件连接词,增加事件类型都可以很方便实现,不用去修改源码。


python将中文写入json 后有斜杠_正则表达式_08


将复合事件抽取封装成一个类,这是类初始化函数基本写法。


python将中文写入json 后有斜杠_正则表达式_09


数据加载模块,从data.json读取数据,并整理数据的格式。


python将中文写入json 后有斜杠_json中文乱码_10


根据数据加载模块中获取的数据,生成所有的正则表达式。


python将中文写入json 后有斜杠_正则表达式_11


基于正则表达式,对每个输入的句子,进行匹配与事件抽取。


python将中文写入json 后有斜杠_json_12


这里是对输入的文本进行切分,然后对每个句子进行事件抽取。


python将中文写入json 后有斜杠_python_13


建立main函数,对写好的类进行测试。


python将中文写入json 后有斜杠_正则表达式_14


最终输出结果,大家可以根据自己想要的输出格式进行修改。


python将中文写入json 后有斜杠_json中文乱码_15


结语

本项目中用到了正则表达式文件读取设计模式--策略模式,这些都是一些基本的编程知识。需要在日常编程中不断积累,不能一蹴而就。