其进修过程重要包含如下步调:
-
应用 soft logic 将逻辑规矩表达为 [0, 1] 之间的持续数值。
-
常识图谱作为深度进修的束缚
个中,ξl,gl是松弛变量,L 是规矩个数,Gl 是第 l 个规矩的 grounding 数。KL 函数(Kullback-Leibler Divergence)部分包管 teacher network 和student network 习得模型尽可能一致。后面的┞俘则项表达潦攀来自逻辑规矩的束缚。 -
反复 1~3 过程直到收敛。
停止语
跟着深度进修研究的进一步深刻,若何有效应用大年夜量存在的先验常识,进而降低模型对于大年夜范围标注样本的依附,逐渐成为主流的研究偏向之一。常识图谱的表示进修为这一偏向的摸索奠定了须要的基本。近期出现的将常识融合进深度神经收集模型的一些开创性工作也颇具启发性。但总体而言,当前的深度进修模型应用先验常识的手段仍然十分有限,学术界在这一偏向的摸索上仍然面对巨大年夜的挑衅。这些挑衅重要表如今两个方面:
- 若何获取各类常识的高质量持续化表示。当前常识图谱的表示进修,不管是基于如何的进修原则,都弗成避免地产生语义损掉。符号化的常识一旦向量化后,大年夜量的语义信息被丢弃,只能表达十分模糊的语义类似关系。若何为常识图谱习得高质量的持续化表示仍然是个开放问题。
- 如安在深度进修模型中融合常识常识。大年夜量的实际义务(诸如对话、问答、浏览懂得等等)须要机械懂得常识。常识常识的稀缺严重阻碍了通用人工智能的成长。若何将常识惹人到深度进修模型将是将来人工智能研究范畴的重大年夜挑衅,同时也是重大年夜机会。
【编辑推荐】
- 数据平滔喔赡计算才能:哪些GPU更合适深度进修和数据库?
- 游戏中的深度进修与人工智能
- 浅谈深度进修的根本概念和办法
- 是什么让深度进修可以或许深刻世界并改变世界?
- 若何给非专业人石工解什么是深度进修?
推荐阅读
客岁开端,工作中须要做很多有关 AI 科普的工作。很长时光里一向在想,该若何给一个没有 CS 背景的人讲解什么是深度进修,以便让一个非技巧的投资人、企业治理者、行业专家、媒体记者甚至>>>详细阅读
本文标题:当知识图谱“遇见”深度学习
地址:http://www.17bianji.com/lsqh/35023.html
1/2 1