3-5 图结构在文档分析中的应用与挑战.pdf

1、图结构在文档分析中的应用与挑战郭琦鹏 亚马逊云科技上海人工智能研究院 应用科学家|01文档分析02文档中的图结构03图结构的作用04挑战与机遇目录 CONTENT|文档分析01|文档分析两大特点：文档级别数据着重信息抽取两大用途：语义理解知识构建新闻资料邮件文档分析文档级别数据输入文本长句子间关系话题的切换着重信息抽取可靠性/真实性信息的完整性这座大楼建成于1988年，18层高，占地。，其中最年轻的住户年仅4岁，就读于附近的私立幼儿园，该园倡导兴趣教育。近日来，在市政府牵头下，施工队对大楼外墙进行了修缮和粉刷，让大楼焕然一新。有关大楼的信息？有关住户的信息？有关幼儿园的信息？Taylor br

2、eaks his promise机器翻译Taylor信守诺言Li,Yafu,et al.On Compositional Generalization of Neural Machine Translation.ACL-IJCNLP 2021.文档分析为什么需要图结构？结构化有助于语义理解明确的结构容易核验凝练知识以便存储和使用张三生日95年8月1980发表论文上个月9日退休是否向张三推送有关保健品的信息？文档中的图结构02|文档中的结构句内关系-句子内部字词之间的联系句间关系-多句话之间的关系跨文档关系-多文档之间的关系常识关系-通过常识连结的关系那栋高楼有两部电梯高楼都有电梯他家没电梯，应

3、该不是高层我家在高层，电梯坏了，走不下来词共现关系Yao,Liang,Chengsheng Mao,and Yuan Luo.Graph convolutional networks for text classification.AAAI 2019文档中的结构句内关系-句子内部字词之间的联系句间关系-多句话之间的关系跨文档关系-多文档之间的关系常识关系-通过常识连结的关系他爸早上打电话给他请假了今天班上有一位同学请假了指代关系他爸早上打电话给他请假了所以今天班上有位同学没来篇章关系Yasunaga,Michihiro,et al.Graph-based Neural Multi-Docume

4、nt Summarization.CoNLL 2017例1图结构用于文档分类分析医疗类文章摘要，判断23种疾病类别建图思路词共现关系TF-IDF关系位置关系文档中的结构句内关系-句子内部字词之间的联系句间关系-多句话之间的关系跨文档关系-多文档之间的关系常识关系-通过常识连结的关系本次会议将于6月进行上个月，我们举办了一项重大会议去年的这个时候，我们相聚一堂跨文档共指张三于昨日参加了会议张三和李四一起参加了会议李四的讲演收到了很多关注文档间的补充Barhom,Shany,et al.Revisiting Joint Modeling of Cross-document Entity and E

5、vent Coreference Resolution.ACL 2019.例2图结构用于多文档摘要建图思路句子间有重合实体或事件重合主要动词重合知识重合文档1：张三于今晨被捕。文档3：上市公司紧急发布停牌公告，董事长被捕。文档2：纪委快速跟进上市公司董事长失联事件。文档4：前董事长李四到案两年后，终审判决明日宣布。文档中的结构句内关系-句子内部字词之间的联系句间关系-多句话之间的关系跨文档关系-多文档之间的关系常识关系-通过常识连结的关系我可以把这条规则通过谓词逻辑表达，再根据模糊逻辑融入到神经网络中。常识关系神经网络T-norm模糊逻辑Sun,Tianxiang,et al.CoLAKE:C

6、ontextualized Language and Knowledge Embedding.Coling 2020.图结构的作用03|图结构的作用为什么图结构有效？加强信息流通引入外部知识补充结构信息图结构的作用为什么图结构有效？加强信息流通引入外部知识补充结构信息图结构中的边代表信息通路每条通路的承载量有上限信息间存在干扰Guo,Qipeng,et al.Star-Transformer.NAACL 2019.Wang,Yuxing,et al.What Dense Graph Do You Need for