0

0

知识图与大型语言模型的协同作用

WBOY

WBOY

发布时间:2024-05-16 17:50:02

|

543人浏览过

|

来源于51CTO.COM

转载

从非结构化文本中提取有价值的信息是金融行业的关键应用。然而,这项任务往往超出了简单的数据提取,需要高级推理能力。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

知识图与大型语言模型的协同作用

一个典型的例子是确保信贷协议中的到期日,这通常涉及及时遵守和破译一个复杂的指令,如“到期日应在生效日期三周年之前的最后一个工作日”。这种级别的复杂推理对大型语言模型(LLM)提出了挑战。它需要结合外部知识,如假日日历,以准确地解释和使用给定的指示。集成知识图是一种很有前途的解决方案,具有几个关键优势。

Transformer的出现彻底改变了文本矢量化,实现了前所未有的精度。这些嵌入封装了深刻的语义含义,超越了以前的方法,这就是为什么大型语言模型(LLM)在生成文本方面如此出色的原因。

概述:这个LLM进一步展示了推理能力,尽管有局限性:他们推理的深度往往会迅速下降。然而,将知识图与这些向量嵌入结合可以显著提高推理能力。这种协同利用嵌入的丰富性,将推理能力提升到无与伦比的高度,标志着人工智能的重大进步。 详细说明:LLM(Language and Vision Model)是一种基于语言和视觉交互的模型,可以用于推理任务。它综合了视觉信息和语言信息,通过将知识图与这些嵌入向量结合起来,提高了推理能力。 LLM的推理能力有局限性,即当推理的深度增加时,其推理能力往往会迅速下降。然而,通过将知识图

在金融领域,LLM主要通过检索增强生成(RAG)来使用,这种方法将新的、训练后的知识注入LLM。这个过程包括对文本数据进行编码,为有效检索建立索引,对查询进行编码,并使用类似的算法获取相关段落。然后将这些检索到的段落与查询一起使用,作为LLM生成响应的基础。

这种方法大大扩展了LLM的知识基础,使其对财务分析和决策非常宝贵。虽然探索增强生成标志着重大的进步,但它也有局限性。

这是一个关键的缺点,存在于通道向量可能无法完全掌握查询的语义意图,从而导致忽略了重要的上下文。出现这种疏忽的原因是,嵌入可能无法捕捉到理解查询的全部范围所需的某些推断中断连接。

除非复杂的段落缩成单个向量可能会导致细微差别的丧失,模糊了分布在句子中的关键细节。

瑞宝通JAVA版B2B电子商务系统
瑞宝通JAVA版B2B电子商务系统

瑞宝通B2B系统使用当前流行的JAVA语言开发,以MySQL为数据库,采用B/S J2EE架构。融入了模型化、模板、缓存、AJAX、SEO等前沿技术。与同类产品相比,系统功能更加强大、使用更加简单、运行更加稳 定、安全性更强,效率更高,用户体验更好。系统开源发布,便于二次开发、功能整合、个性修改。 由于使用了JAVA开发语言,无论是在Linux/Unix,还是在Windows服务器上,均能良好运行

下载

仍然是匹配过程单独处理每个段落,缺乏可以连续不同实例的联合分析机制。这种缺失阻碍了模型从多个来源聚合信息的能力,而聚合信息对于生成不同上下文信息达成全面而准确的响应通常是必需的。

改进检索增强生成框架的努力有很多,从优化块大小到使用父块检索器、假设问题嵌入和查询重写。虽然这些策略提供了改进,但它们不会导致革命性的结果变化。另一种方法是通过扩展上下文窗口来绕过检索增强生成,就像Google Gemini跃升到100万个令牌容量一样。然而,这带来了新的挑战,包括在扩展的背景下不一致的焦点和大量的信息,通常是数千倍的成本增加。

将知识图与密集向量结合起来是最有希望的解决方案。虽然嵌入有效地将不同长度的文本压缩为固定维向量,从而能够识别语义相似的短语,但它们有时无法区分关键的细微差别。例如,“来自银行的现金和到期”和“现金和现金等价物”产生几乎相同的向量,这表明相似性忽略了实质性差异。后者包括有息实体,如“资产支持证券”或“货币市场基金”,而“银行到期”指的是无息存款。

知识图能捕获概念之间复杂的相互关系。这培养了更深层次的上下文洞察力,通过概念之间的联系强调了额外的独特特征。例如,美国公认会计准则知识图谱清楚地将“现金和现金等价物”、“银行计息存款”和“银行到期”的总和定义为“现金和现金等价物”。

通过整合这些详细的上下文线索和关系,知识图显著提高了LLM的推理能力。它们可以在单个图中实现更精确的多级推理,并促进跨多个图的联合推理。

相关专题

更多
页面置换算法
页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章,大家可以免费体验。

402

2023.08.14

人工智能在生活中的应用
人工智能在生活中的应用

人工智能在生活中的应用有语音助手、无人驾驶、金融服务、医疗诊断、智能家居、智能推荐、自然语言处理和游戏设计等。本专题为大家提供人工智能相关的文章、下载、课程内容,供大家免费下载体验。

409

2023.08.17

人工智能的基本概念是什么
人工智能的基本概念是什么

人工智能的英文缩写为AI,是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学;该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

300

2024.01.09

人工智能不能取代人类的原因是什么
人工智能不能取代人类的原因是什么

人工智能不能取代人类的原因包括情感与意识、创造力与想象力、伦理与道德、社会交往与沟通能力、灵活性与适应性、持续学习和自我提升等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

628

2024.09.10

Python 人工智能
Python 人工智能

本专题聚焦 Python 在人工智能与机器学习领域的核心应用,系统讲解数据预处理、特征工程、监督与无监督学习、模型训练与评估、超参数调优等关键知识。通过实战案例(如房价预测、图像分类、文本情感分析),帮助学习者全面掌握 Python 机器学习模型的构建与实战能力。

33

2025.10.21

C++ 单元测试与代码质量保障
C++ 单元测试与代码质量保障

本专题系统讲解 C++ 在单元测试与代码质量保障方面的实战方法,包括测试驱动开发理念、Google Test/Google Mock 的使用、测试用例设计、边界条件验证、持续集成中的自动化测试流程,以及常见代码质量问题的发现与修复。通过工程化示例,帮助开发者建立 可测试、可维护、高质量的 C++ 项目体系。

8

2026.01.16

java数据库连接教程大全
java数据库连接教程大全

本专题整合了java数据库连接相关教程,阅读专题下面的文章了解更多详细内容。

29

2026.01.15

Java音频处理教程汇总
Java音频处理教程汇总

本专题整合了java音频处理教程大全,阅读专题下面的文章了解更多详细内容。

13

2026.01.15

windows查看wifi密码教程大全
windows查看wifi密码教程大全

本专题整合了windows查看wifi密码教程大全,阅读专题下面的文章了解更多详细内容。

42

2026.01.15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
麻省理工大佬Python课程
麻省理工大佬Python课程

共34课时 | 5.1万人学习

国外Web开发全栈课程全集
国外Web开发全栈课程全集

共12课时 | 1.0万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号