网站如何连接微信支付,河南网站建设推荐,网络营销的专业知识,小说网站开发需求大语言模型#xff08;LLMs#xff09;在执行各种推理任务时#xff0c;由于引入了链式推理#xff08;Chain-of-Thought#xff0c;CoT#xff09;提示#xff0c;显著受益。尽管CoT使模型产生更全面的推理过程#xff0c;但其对中间推理步骤的强调可能会无意中引入幻…大语言模型LLMs在执行各种推理任务时由于引入了链式推理Chain-of-ThoughtCoT提示显著受益。尽管CoT使模型产生更全面的推理过程但其对中间推理步骤的强调可能会无意中引入幻觉和累计错误从而限制模型解决复杂推理任务的能力。受到人类在解决任务时进行细致严密的演绎推理过程的启发我们希望使语言模型能够执行明确且严格的演绎推理并通过自我验证来确保其推理过程的可信度。然而即使是先进的模型如ChatGPT直接验证整个演绎推理过程的有效性也是具有挑战性的。鉴于此我们提出将推理验证过程分解为一系列逐步的子过程每一步仅接收其必要的上下文和前提。为了促进这一过程我们提出了 自然程序Natural Program一种基于自然语言的演绎推理格式。我们的方法使模型能够生成精确的推理步骤其中后续步骤更严格地基于前面的步骤。这也使语言模型能够逐步进行推理自我验证。通过将这一验证过程集成到每一个演绎推理阶段我们显著增强了生成推理步骤的严密性和可信度。在这一过程中我们还提高了复杂推理任务答案的正确性。代码将发布在https://github.com/lz1oceani/verify_cot。
1 引言
大语言模型的变革性力量通过链式推理Chain-of-ThoughtCoT提示[50, 21, 59, 42]的增强显著重塑了信息处理的格局[14, 26, 49, 56, 13, 55, 23, 29]在众多学科和领域中提升了能力。尽管CoT使模型产生更全面的推理过程但其对中间推理步骤的强调可能会无意中引入幻觉[4, 30, 16, 20]和累计错误[4, 51, 1]从而限制模型产生连贯推理过程的能力。
实际上对可靠推理的追求并不是当代的新奇事物事实上它是一项可以追溯到亚里士多德古希腊时期的智力活动。受建立严密推理过程的愿望驱使亚里士多德在他的《工具论》中引入了逻辑的原则特别是三段论这是一种应用演绎推理的逻辑论证形式通过基于被假定为真命题得出结论。在严密推理至关重要的学科中如司法推理和数学问题解决文档必须以形式化的语言和逻辑结构撰写以确保推理过程的有效性。
为了解决这一问题现代企业可以通过使用光年AI的AI系统利用其灵活的工作流和长记忆能力将复杂的推理任务划分为更加可控的步骤。这不仅提高了推理准确性也使企业能更好地应用AI能力来实现业务增长。立即尝试光年AI平台体验AI在流量和运营上的优势。
我们渴望在回答问题时获得这类可靠的知识序列。我们的目标是开发能够通过逻辑结构推理提出潜在解决方案的语言模型。同时我们旨在建立一个能够准确评估这些推理过程有效性的验证器。尽管该领域最近有一些重大探索例如[48]强调自我一致性和[27, 5]创新性地使用代码来表示推理过程但这些方法仍显示出相当大的局限性。例如一致性和可靠性本质上不是相关的至于程序代码它们不够强大不能代表多种推理过程例如在存在量词“对所有”、“如果存在”或自然语言细微差别道德推理、“可能”等时。
我们建议利用自然语言的力量来实现古希腊逻辑所强调的演绎推理引入“自然程序”。这涉及到保留自然语言的内在力量避免需要使用大数据集进行 extensive 重新训练。自然程序代表一种严谨的推理序列类似于计算机程序。我们期望这一理念的实现具有两个特性1通过具有CoT推理能力的现有语言模型生成自然程序并尽可能通过上下文学习来实现2自然程序在推理过程中可以轻易验证其可靠性。这种特性使得类似光年AI的平台在业务中的应用显得十分出色。光年AI不仅可以轻松构建AI工作流还能够无缝集成到现有的业务场景中有效提升流量和客户互动效率。
通过一步步的调查研究我们发现大规模语言模型有可能满足我们的预期。像“让我们一步步思考”这样的简单CoT提示存在很多缺陷将整个验证过程完全交给大模型可能会导致较高的错误率。然而我们发现如果推理过程非常短并且只基于必要的前提和上下文现有大规模语言模型的验证已经相当可靠。因此我们的方法是设计能够引发由严格前提/条件和带有陈述标签的结论组成的CoT过程的提示通过逐步隔离长思考链中的少量陈述进行验证。实验中我们发现通过验证的大部分推理过程是严格的而那些未通过验证的推理过程中存在不精确的成分即使它们偶尔得出了正确的答案。
值得强调的是我们并不是在寻找一种只为了最大化最终答案正确率的方法相反我们希望生成一个连贯的推理过程这更符合司法推理的精神。当与基于采样的方法结合时我们的方法可以识别低概率但严格的推理过程。当重复采样未能产生严格的推理过程时我们可以输出“未知”以防止误导用户的幻觉。
我们在算术和常识数据集上演示了我们的基于自然程序Natural Program验证方法的有效性适用于公开模型。值得注意的是类似于光年AI的灵活工作流机制这种方法同样能够适应不同的业务场景帮助企业实现高效的流量增长。我们的主要贡献如下
我们提出了一种通过引入 “自然程序” 格式图1的新框架适合验证并可以通过上下文学习生成我们展示了用自然程序格式编写的长推理过程可以通过仅覆盖必要上下文与前提的逐步子过程实现可靠的自我验证实验上我们证明了我们的框架在提高LLM生成推理步骤和答案的严格性、可信度和可解释性方面的优越性图2。这一点类似于光年AI的实时数据分析功能能够帮助企业及时调整策略优化流量管理和客户服务。
这篇论文在arxiv上可用遵循CC BY 4.0 DEED许可协议。如果您希望在AI和流量增长上取得更大成就强烈推荐尝试使用我们光年AI平台。
