Inductive Relation Prediction by BERT

news/2024/12/24 9:46:08/

摘要

知识图中的关系预测主要是基于嵌入的方法,这些方法主要关注转换设置。不幸的是,它们不能处理存在不可见实体和关系的归纳学习,也不能利用先验知识。此外,它们的推理过程也不容易解释。在这项工作中,我们提出了一个一体化的解决方案,称为BERTRL(基于bert的关系学习),它利用预训练的语言模型,并通过将关系实例及其可能的推理路径作为训练样本来对其进行微调。在18例中,有15例在感应和转导两种情况下BERTRL优于SOTAs。同时,该方法具有较强的小样本学习泛化能力和可解释性。数据和代码可以在https://github.com/zhw12/BERTRL上找到。

介绍

知识图(KGs)在问答和推荐系统等广泛的任务中是必不可少的(Ji et al 2020)。由于许多知识图在实践中基本上是不完整的,因此知识图补全(KGC)在许多应用中成为必须的(Nickel et al . 2016)。

基于嵌入的方法,如TransE (Bordes等人2013年)、Complex (Trouillon等人2017年)、ConvE (Dettmers等人2018年)、RotatE (Sun等人2019年)和TuckER (Balaževic、Allen和Hospedales 2019年),在一些KGC基准测试中实现了最先进的性能。然而,这些方法的缺点是显而易见的,因为它们仅限于需要在训练时看到实体和关系的转换设置。在现实中,新的实体和关系会随着时间的推移而出现(归纳设置)。对于动态填充的知识图来说,再培训的成本可能太高了。除了归纳设置之外,这些专门的嵌入方法还不能轻易解决可解释性、少射学习和迁移学习问题。

逻辑归纳方法通过寻找概率子图模式(GraIL(Teru, Denis, and Hamilton 2020), CoMPILE(Mai et al 2021)和TACT (Chen et al 2021)),逻辑规则(


http://www.ppmy.cn/news/463781.html

相关文章

python 本地文件导入 数据

yaml pip install PyYAML import yamlyaml_file "test.yaml" data yaml.load(open(yaml_file), Loaderyaml.FullLoader) print(data)test.yaml 文件内容 age: 10 name: J name2: "J" worker: True: 后跟空格; 字符串加不加引号都可&#…

机器人电量估计方法及实践

关注同名微信公众号“混沌无形”,阅读更多有趣好文! 原文摘要:电量估计是机器人系统中的重要组成部分之一,且野外场景作业过程中显得尤为重要。本文将电池建模法和库伦计法2种传统算法有效结合,详细阐述了结合算法的理…

大疆拟发 MG-1,用高效解决农业植保续航问题

大疆即将发售 MG-1 农业植保无人机。 近日,大疆方面透露,他们会于本月底前会正式发售 MG-1 农业植保无人机,具体的发布日期会在本月 21 日举行的媒体交流会上正式公布。这将是大疆推出的首款农业植保无人机,对于大疆来说是其踏出…

探岳车型编码_EV晨报 | 北京新能源指标新申请者或9年后获得;小鹏汽车称被特斯拉霸凌;大众探岳GTE上市...

1、北京市小客车指标办:北京新一期新能源指标新申请者或9年后获得 4月25日,据北京市小客车指标办消息,经审核,截至2020年4月8日24时,普通小客车指标申请个人共有3376458个有效编码、单位共有50467家;新能源…

为荣耀V40和赵明点个赞!

1月22日,荣耀推出了离开华为后的第一款新机V40。 荣耀V40没有中杯、大杯、超大杯之分,只有荣耀 V40 标准版一个型号,但有基础版和高配版之分,两者的差异主要体现在存储组合以及无线充电上具体配置上。高配版荣耀 V40 采用 8GB256…

常用电路基础公式换算

1. 欧姆定律计算 计算电阻电路中电流、电压、电阻和功率之间的关系。 欧姆定律解释 欧姆定律解释了电压、电流和电阻之间的关系,即通过导体两点间的电流与这两点间的电势差成正比。 说明两点间的电压差、流经该两点的电流和该电流路径电阻之间关系的定律。该定律…

2022年货节有什么数码家电推荐的,2022年货节数码家电购物清单

买买买,2022年货节已经来了 大家都准备入手哪些东西呢?如果还不知道入手什么东西的话,小编我已经整理了一些数码、小家电产品推荐给大家,大家看需求购买就行了。 1. 南卡runner pro3骨传导耳机 一款以骨传声的黑科技耳机&#x…

上汽名爵Marvel R在欧洲上市,前八月稳居中国车企海外销量NO.1

据外媒报道,上汽旗下品牌名爵表示,该公司新款电动紧凑型SUV Marvel R在欧洲的售价为39,990欧元,约为46,250美元(不包含补贴)。Marvel R将与大众ID.4和斯柯达Enyaq在欧洲市场展开角逐。 在售价方面,Marvel R入门版的售价高于ID.4 …