在线做免费网站有哪些,摄影设计英文,营销型网站大全,网站建设需要的技术人员论文笔记整理#xff1a;邓淑敏#xff0c;浙江大学在读博士#xff0c;研究方向为低资源条件下知识图谱自动化构建关键技术研究。Rujun Han, Qiang Ning, Nanyun Peng. Joint Event and Temporal Relation Extractionwith Shared Representations and Structured Predictio… 论文笔记整理邓淑敏浙江大学在读博士研究方向为低资源条件下知识图谱自动化构建关键技术研究。Rujun Han, Qiang Ning, Nanyun Peng. Joint Event and Temporal Relation Extractionwith Shared Representations and Structured Prediction. EMNLP 2019.论文链接https://www.aclweb.org/anthology/D19-1041/这篇文章解决的是“事件-事件关系联合抽取”问题即给定一个候选事件对除了判断这两个候选事件是否属于事件还要判断出这两者之间是否存在关系这篇文章判断的是时序关系。在讲这篇文章的模型之前我们首先整理一下解决这个问题的方法——端到端的事件-事件关系联合抽取模型。端到端的事件-事件关系联合抽取模型大致可以分为四类1单任务模型先进行事件检测然后把检测到的事件对输入到事件关系抽取模型中事件对的编码模型参数不共享2多任务模型与单任务模型类似但是事件的对的编码模型参数共享3管道联合模型与多任务模型的区别在于训练过程它是将事件检测模型生成的事件候选集直接用于事件关系抽取模型的训练4结构化联合抽取模型与管道联合抽取模型的区别在于事件检测模型和事件关系抽取模型不是序列关系而是结构化的。注意单任务模型和多任务模型是无法处理None事件类型的但是管道联合模型和结构化联合抽取模型可以。这篇文章提出的SSVM方法属于结构化联合抽取模型。4种方法形象化表示如下图所示。端到端的事件-事件关系联合抽取模型分类转载请注明出处Neural SSVM模型接下来看一下本篇文章提出的Neural SSVM神经结构化支持向量机模型。Neural SSVM 模型架构上图是这篇文章提出的模型架构。事件对由BERT得到Embedding然后经由BiLSTM编码最后放到SSVM中进行事件与否和事件关系存在与否的判断。SSVM的Loss函数为其中表示的是事件的数目和事件关系数目的总和。分别表示的事件对和事件关系的真实结果和预测结果。分别表示的判断事件与否和判断事件关系存在与否的得分函数。其他参数为超参或者模型参数。MAP推断这篇文章是通过最大后验概率推断来得到预测结果的将推断问题建模为整数线性规划ILP问题加入了三种约束1one-labelassignment单标签分配事件和事件关系只有是与不是之分并且只可能是其中一种2event-relationconsistency事件-事件关系的一致性只有事件之间才存在事件关系非事件之间不存在3symmetryand transitivity时序关系的对称性和传递性。最后ILP的目标函数为Experiments最后看一下这篇文章的实验结果。用的数据集是TB-Dense和MATRES比较的模型就是开篇提到的四种端到端的事件-事件关系联合抽取模型。事件-事件关系联合抽取结果事件-事件关系联合抽取的Ablation Study OpenKG开放知识图谱简称 OpenKG旨在促进中文知识图谱数据的开放与互联促进知识图谱和语义技术的普及和广泛应用。点击阅读原文进入 OpenKG 博客。
