这篇论文探讨了预训练语言模型（LMs）如何通过聚合推理路径来进行复杂推理的问题。作者提出了将LM视为在预训练时聚合间接推理路径的观点，并将其应用于逻辑推理和链式思维推理等重要情况中。他们将推理路径形式化为知识/推理图上的随机游走路径，并分析了学习到的LM分布表明，对相关随机游走路径概率进行加权求和是解释LM推理的一种合理方式。实验结果表明，在多个KG和CoT数据集上，训练基于随机游走路径的数据可以提高现实世界多步推理性能。
论文方法
方法描述
该论文提出了一种基于知识图谱（Knowledge Graph）的逻辑推理模型预训练方法。首先通过在知识图谱上执行随机游走（random walk），将每个实体和关系作为新的标记加入到预训练的语言模型中，并将其转化为三个标记的句子。然后使用这些转化后的句子构建文本块，并使用特殊结束序列将它们分隔开以形成相同长度的文本块。最后，使用下一位预测损失函数来训练语言模型。测试时，将三元组转换为句子补全任务，并验证预测结果是否与真实答案匹配。
方法改进
该方法通过引入逻辑规则权重，使得语言模型能够学习如何进行逻辑推理。具体地，通过计算所有可能逻辑规则的概率之和，得到每个实体之间的路径概率分布，并将其作为语言模型预测的答案。此外，为了简化分析，论文还提出了一个假设：即语言模型可以聚合推理路径，这进一步证明了该方法的有效性。
解决的问题
该方法解决了在知识图谱上的逻辑推理问题。通过对知识图谱中的实体和关系进行随机游走，得到了各种不同的路径，从而能够推断出更复杂的逻辑关系。通过引入逻辑规则权重，使得语言模型能够学习如何进行逻辑推理，从而提高了模型的准确性。同时，该方法也为其他领域的逻辑推理提供了借鉴意义。
论文实验
本文主要介绍了在知识图谱和链式思维推理任务中，基于预训练语言模型的逻辑推理方法。具体来说，该方法通过随机游走的方式生成路径，并使用预训练的语言模型对这些路径进行预测，从而实现逻辑推理的目的。文章还对这种方法进行了多组实验，并对其效果进行了评估。
在知识图谱任务中，作者采用了KL散度分析的方法来评估模型的效果。他们比较了不同的最大随机游走长度对模型的影响，并发现当最大路径长度为3时，模型表现最佳。此外，他们还比较了不同关系类型的预训练数据集对模型性能的影响，并发现增加更多的关系类型可以提高模型的准确性。
在链式思维推理任务中，作者使用了三个数学问题的数据集以及一个多步问答数据集。他们比较了基于预训练语言模型的方法与传统的监督学习方法，并发现前者的性能更好。此外，他们还研究了随机游走路径长度对模型性能的影响，并发现在一定范围内，较长的路径能够提高模型的准确性。
总之，本文提出了一种基于预训练语言模型的逻辑推理方法，并对其在知识图谱和链式思维推理任务中的应用进行了实验证明其有效性。
论文总结
文章优点
论文研究了语言模型（LM）如何通过预训练获得推理能力，并提供了新的解释。
研究采用了随机游走路径的方法来构造预训练序列，发现这种方法对于提高LM的推理性能具有显著效果。
实验结果表明，该方法可以应用于不同类型的推理任务，包括逻辑推理和数学问题求解。
方法创新点
本文提出了一个新颖的假设：语言模型可以通过聚合预训练数据中的间接推理路径来获得推理能力。
作者使用了随机游走路径的方法来构造预训练序列，这是一种创新性的方法。
研究还探讨了不同类型推理任务的特点，并针对不同的任务设计了相应的实验。
未来展望
本研究为理解语言模型推理能力的来源提供了一种新的视角，为进一步改进预训练技术和推理算法提供了启示。
未来的研究可以进一步探索不同类型推理任务之间的关系，以及如何将这些关系应用到更广泛的自然语言处理任务中。
另外，也可以考虑将随机游走路径的方法扩展到其他类型的语言模型中，以提高其推理性能。
关于互联网持续学习圈
