知识推理

知识工程的生命周期：知识表示，知识建模，知识融合，知识管理，知识推理，知识应用。

一.知识推理概述

概念区分：推理 reasoning，指的是通过已知知识推断出未知知识的过程。而推断 inference 是推理的一个步骤，指的是神经网络中的前向计算。

按新知识推出途径的分类：

• 归纳推理（特殊->一般），归纳推理所推出的结论没有包含在前提内容中。这种由个别事物或现象推出一般性知识的过程，是增加新知识的过程。
• 演绎推理（一般->特殊），演绎推理只不过是将已有事实揭示出来，因此它不能增加新知识。
• 缺省推理，也称默认推理，在知识不完全的情况下作出的推理，通常的形式：如果没有足够的证据证明结论不成立，则认为结论是正确的。
• 溯因推理，也称反绎推理、反向推理。，是推理到最佳解释的过程。它是开始于事实的集合，并推导出其最佳解释的推理过程。

按前提与结论的联系性质的分类：

• 必然性推理，前提与结论有必然性联系，即前提蕴含结论。传统逻辑中通过直言命题变形的直接推理（换质法、换位法推理等）、通过命题间对应关系所进行的直接推理、三段论推理、各种假言推理、选言推理以及完全归纳推理等等，都属于必然性推理。
• 或然性推理，前提与结论无蕴含关系。简单枚举归纳推理、类比推理、回溯推理等等都属于或然性推理。例如，P：房间里有物品 → C：房子会着火，前提P只是结论C的“疑似”必要条件。

按推理过程单调性的分类：

• 单调推理，是指在推理过程中随着推理的向前推进以及新知识的加入，推出的结论呈单调增加的趋势并越来越接近最终目标，且在推理过程中不会出现反复的情况，即不会因新知识的加入而否定前面推出的结论，从而使推理又退回到前面的某一步。
• 非单调性推理，是指在推理过程中，由于新知识的加入，不仅没有加强已经推出的结论，反而要否定它，使其需要退回到之前步骤。

知识确定性的分类：

• 确定性推理大多指确定性逻辑推理，它具有完备的推理过程和充分的表达能力，可以严格地按照专家预先定义好的规则准确地推导出最终结论。但是确定性推理很难应对真实世界中，尤其是存在于网络大规模知识图谱中的不确定甚至不正确的事实和知识。
• 不确定性推理：并不是严格地按照规则进行推理，而是根据以往的经验和分析，结合专家先验知识构建概率模型，并利用统计计数、最大化后验概率等统计学习的手段对推理假设进行验证或推测。

按实现技术：

• 逻辑推理，过程包含了严格的约束和推理过程（研究较多）。
• 非逻辑推理，自然语言推理，推理过程相对模糊。
• 符号推理，符号推理的特点就是在知识图谱中的实体和关系符号上直接进行推理。确定性和不确定性逻辑推理都属于符号推理。
• 数值推理，使用数值计算，尤其是向量矩阵计算的方法，捕捉知识图谱上隐式的关联，模拟推理的进行。

应用：知识图谱补全，知识问答，搜索与推荐，行业应用。

二.演绎推理：推理具体事实，一般->特殊

• 经典逻辑推理：命题逻辑推理。
• 基于产生式规则的推理
• 基于概率逻辑学习的推理：马尔可夫逻辑网
• 自然语言演绎推理。

三.归纳推理：学习推理规则

• 归纳推理概述
• 归纳推理逻辑程序设计
• 路径排序算法（PRA）
• 关联规则挖掘算法（AMIE）

四.基于深度学习的知识推理方法

• 基于表示学习
• 基于强化学习

查看 演绎推理，归纳推理，基于深度学习的知识推理方法 对应PPT

五.大模型的推理方法

相比于传统方法的优势：由于LLM本身已经具备了出色的各类能力（e.g. 工具调用、知识生
成等），因此LLM推理相比于传统推理有更多的形式和种类；CoT工作指出可以简单通过ICL的方式激发LLM的推理能力，因此与传统方式的大量训练相比，LLM的推理成本低、效率高、泛化性强。

相比于传统方法的劣势：部分LLM为黑盒模型，只能调整输入输出，推理过程的不透明度更高；LLM参数量大，幻觉现象严重，导致推理的输出更不可控且不稳定。

六.参考资料

中国科学院大学老师 知识工程课程课件