0

0

警惕DeepSeek带来的AI信息幻觉

雪夜

雪夜

发布时间:2025-04-23 17:58:16

|

953人浏览过

|

来源于php中文网

原创

警惕deepseek带来的ai信息幻觉

近期,AI领域的热门话题之一是DeepSeek,许多公司纷纷加入DeepSeek的赛道,以将自家产品与DeepSeek对接为荣。

为什么DeepSeek会引发“全民狂欢”呢?原因可以用一句话概括:信息平权。

当前,各种工具都在接入DeepSeek或其他AI大模型,至少在公开信息层面,大家站在了同一起跑线上。但通过AI获取的信息也存在各种问题。

首先,网络上的信息本身就可能存在误差或虚构。AI或DeepSeek的作用是帮助检索和整合信息,这对信息检索效率的提升巨大,但AI提供的信息不一定是真实或有用的。

过去,我们获取信息要么通过书本,要么通过浏览器搜索,然后自己加工整理,判断信息的真实性和是否采用。这里的关键是,判断信息的真实性和是否采用的决定权依然在个人手中。

然而,现在许多人过于信任AI的结果,长期来看,这会削弱人们对信息的敏感性和识别能力,进而影响认知和独立思考能力。

这种情况就是AI大模型在当前阶段面临的主要挑战:信息幻觉。

如何理解信息幻觉呢?

大模型本质上是一个概率预测机器,不断预测下一个Token,且每个生成的Token都会影响下一个Token的生成。

简而言之,同样的Prompt(提示词)会产生不同的答案,这就是信息幻觉问题。换句话说,针对同一个或同一组Prompt,大模型的结果不具备幂等性。

目前,缓解(或解决)信息幻觉的技术方法只有RAG。

RAG(Retrieval-Augmented Generation),即检索增强生成。简单来说,就是结合向量数据库中与用户问题高度相关的信息,并将用户的Prompt(提示词)一起输入给大模型,再生成结果。

Originality AI
Originality AI

专门为网络出版商设计的抄袭和AI检测工具

下载

将RAG解决信息幻觉的过程拆解为理解-检索-生成。

“理解”就是拆解用户提问,充分理解用户需求。“检索”是从网络/数据库等渠道找到合适的信息,进行排序优化,并将搜索到的信息统一处理,输入给大模型。“生成”阶段综合不同信息来源做出判断,并基于大模型的逻辑推理能力,解决信息冲突等问题,最后生成准确率较高的答案。

然而,即便经过如此缜密和富有逻辑的处理,AI给出的结果依然不具备百分百的置信度。

个体如何面对信息幻觉的挑战,我的思考如下:

如果你完全相信AI给出的信息,你很快就会陷入信息幻觉。如果你不敢轻易相信AI给出的信息,那就需要自己去分析判断,这个过程其实就是一个手动检索数据+人工逻辑确认的过程。

DeepSeek的作用是提高我们信息检索过程的效率(当然,需要明确的步骤和具体的要求),借助它的深度推理功能,可以帮你分析出可能被忽略的推理逻辑,提供更多的方法参考。

由此可以得出一个简单的结论:明确的需求、合理的提示词是必要的。

对此,DeepSeek官方也提供了专门的官方提示库。

当然,AI时代的信息平权也暴露了一个残酷的事实:许多人可能连自己的需求都想不清楚,更不用说清晰明确地表达给AI了。

如何跳出这个困境?回到最原始的方法:读万卷书,行万里路,阅人历事。

相关专题

更多
登录token无效
登录token无效

登录token无效解决方法:1、检查token的有效期限,如果token已经过期,需要重新获取一个新的token;2、检查token的签名,如果签名不正确,需要重新获取一个新的token;3、检查密钥的正确性,如果密钥不正确,需要重新获取一个新的token;4、使用HTTPS协议传输token,建议使用HTTPS协议进行传输 ;5、使用双因素认证,双因素认证可以提高账户的安全性。

6112

2023.09.14

登录token无效怎么办
登录token无效怎么办

登录token无效的解决办法有检查Token是否过期、检查Token是否正确、检查Token是否被篡改、检查Token是否与用户匹配、清除缓存或Cookie、检查网络连接和服务器状态、重新登录或请求新的Token、联系技术支持或开发人员等。本专题为大家提供token相关的文章、下载、课程内容,供大家免费下载体验。

816

2023.09.14

token怎么获取
token怎么获取

获取token值的方法:1、小程序调用“wx.login()”获取 临时登录凭证code,并回传到开发者服务器;2、开发者服务器以code换取,用户唯一标识openid和会话密钥“session_key”。想了解更详细的内容,可以阅读本专题下面的文章。

1064

2023.12.21

token什么意思
token什么意思

token是一种用于表示用户权限、记录交易信息、支付虚拟货币的数字货币。可以用来在特定的网络上进行交易,用来购买或出售特定的虚拟货币,也可以用来支付特定的服务费用。想了解更多token什么意思的相关内容可以访问本专题下面的文章。

1298

2024.03.01

数据库三范式
数据库三范式

数据库三范式是一种设计规范,用于规范化关系型数据库中的数据结构,它通过消除冗余数据、提高数据库性能和数据一致性,提供了一种有效的数据库设计方法。本专题提供数据库三范式相关的文章、下载和课程。

356

2023.06.29

如何删除数据库
如何删除数据库

删除数据库是指在MySQL中完全移除一个数据库及其所包含的所有数据和结构,作用包括:1、释放存储空间;2、确保数据的安全性;3、提高数据库的整体性能,加速查询和操作的执行速度。尽管删除数据库具有一些好处,但在执行任何删除操作之前,务必谨慎操作,并备份重要的数据。删除数据库将永久性地删除所有相关数据和结构,无法回滚。

2077

2023.08.14

vb怎么连接数据库
vb怎么连接数据库

在VB中,连接数据库通常使用ADO(ActiveX 数据对象)或 DAO(Data Access Objects)这两个技术来实现:1、引入ADO库;2、创建ADO连接对象;3、配置连接字符串;4、打开连接;5、执行SQL语句;6、处理查询结果;7、关闭连接即可。

348

2023.08.31

MySQL恢复数据库
MySQL恢复数据库

MySQL恢复数据库的方法有使用物理备份恢复、使用逻辑备份恢复、使用二进制日志恢复和使用数据库复制进行恢复等。本专题为大家提供MySQL数据库相关的文章、下载、课程内容,供大家免费下载体验。

255

2023.09.05

c++ 根号
c++ 根号

本专题整合了c++根号相关教程,阅读专题下面的文章了解更多详细内容。

41

2026.01.23

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
如何进行WebSocket调试
如何进行WebSocket调试

共1课时 | 0.1万人学习

TypeScript全面解读课程
TypeScript全面解读课程

共26课时 | 5万人学习

前端工程化(ES6模块化和webpack打包)
前端工程化(ES6模块化和webpack打包)

共24课时 | 5.1万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号