重磅：分析神经符号NeSy系统 的7个维度

　　从统计关系到神经象征人工智能:综述

　　本文探讨了神经符号人工智能（NeSy）和统计关系人工智能（StarAI）这两个不同领域在整合学习和推理方面的努力。NeSy研究符号推理和神经网络的整合，而StarAI专注于将逻辑与概率图模型整合。本文确定了这两个AI子领域之间的七个共享维度，并探讨了这些维度如何描述不同的NeSy和StarAI系统。

1. 引言

　　在人工智能和机器学习中，整合学习和推理是一个关键挑战。NeSy和StarAI都在尝试解决这一挑战，尽管它们的方法和历史背景不同。NeSy通过符号知识扩展神经网络，而StarAI则通过逻辑和概率推理来整合模型。尽管关注点和方法不同，但这两个领域都希望实现相同的目标，即整合学习和推理。

2. 逻辑的证明论与模型论视角

　　在本文中，我们关注子句逻辑，因为它是任何一阶逻辑公式都可以转换的标准形式。在子句逻辑中，理论以子句的形式表示。沿着这个维度，我们将探讨两种基本的逻辑推理视角：证明论方法和模型论方法。这两种方法对于NeSy和StarAI系统的影响有所不同。在NeSy中，证明论方法用于构建神经网络的架构，而模型论方法则用于定义神经网络的损失函数。

3. 逻辑 – 语法

　　在本节中，我们介绍了子句逻辑，并探讨了原子和文字的结构对StarAI和NeSy模型的影响。StarAI通常关注一阶逻辑，而NeSy则利用文字的内部结构来处理关系和一阶系统。一阶逻辑在NeSy模型中的应用允许模型明确地处理如何将次符号数据输入到系统的神经组件中。

4. 逻辑 – 语义

　　逻辑的语义可以根据模型论、模糊语义等进行定义。在StarAI中，通过定义概率分布来扩展语义，以处理逻辑陈述的不确定性。而在NeSy中，StarAI的方法可以通过定义可微分的参数电路来将推理任务转化为评估或基于梯度的优化。

5. 结构与参数学习

　　StarAI和NeSy中的学习方法通常根据是学习模型的结构还是参数来区分。结构学习是搜索式学习的实例，而参数学习可以通过任何曲线拟合技术实现。尽管参数学习依赖于用户提供的输入，但它严重依赖于给定的逻辑理论。相比之下，结构学习对用户提供的输入依赖性较小，但本质上是一个更困难的问题。

6. 符号与次符号表示

　　在神经符号人工智能中，方法可以通过它们表示实体和关系的方式被特征化为两类：符号方法和次符号方法。符号表示包括常数、数字和结构化术语，而次符号表示则是数值或分布式表示。许多系统需要在符号和次符号表示之间来回转换，这是一个重要的研究领域。

7. 逻辑 vs 概率 vs 神经

　　当两个或更多的范式被整合时，检查哪些基础范式被保留以及保留的程度可以让我们了解到结果范式的优缺点。在StarAI中，传统上专注于逻辑和概率的整合；而在NeSy中，我们考虑了第三个范式：神经计算。不同的整合方式各有优缺点，需要在实践中进行权衡。

8. 任务

　　本文分析了NeSy模型所应用的学习任务，包括远程监督、半监督分类、知识图谱补全和生成任务等。这些任务展示了NeSy在解决实际问题中的潜力和挑战。

9. 公开挑战

　　最后，本文列出了NeSy面临的一些有趣挑战，包括语义学、概率推理、模糊语义学、结构学习、推理扩展和数据效率等。这些挑战需要未来的研究来解决，以推动神经符号人工智能的发展。