0

0

中美陷入囚徒困境,人工智能变得不可控?可参考核不扩散条约规范

PHPz

PHPz

发布时间:2023-06-10 18:58:23

|

1164人浏览过

|

来源于搜狐

转载

最近发生了一件事,过去也经常被讨论,人工智能到底将会对人类和未来的前景产生什么样的影响?基辛格老爷子一百岁寿辰的时候也说了,中美之间关于人工智能的较量,将影响两国甚至人类未来的命运,这个话说的是非常有道理的。

最近,300多位全球顶级的人工智能专家,包括美国的科学家、中国的科研院士,300多位联合倡议,规范关于人工智能的发展等。

我们说人类总是对未知事物产生恐惧和好奇,根据心理学的角度来讲,人类面对一个未知事物的时候,人的感情是什么呢?就是恐惧和好奇并存,初期是什么呢,恐惧大于好奇,后期呢?是好奇大于恐惧,这是从人类心理学来讲,面对未知事物的基本逻辑发展,最后好奇会压制恐惧。

人工智能

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

中美陷入囚徒困境,人工智能变得不可控?可参考核不扩散条约规范

我开始害怕,到后来随着好奇心的增强,我会一步一步的接近它,走近它,接触它,包容它等等。我们看人类的科幻片,50年代到70年代,那时候的科幻片就是什么呢?外星有没有生物,我们看《异形》,觉得外星生物会不会是一个邪恶种族,会不会把人类灭绝?

我们看《星际迷航》,疑惑外星生物会对人类友好吗,外星会不会有“异形”这种,所谓杀戮性很强的生物,例如《铁血战士》,人们担心的是这种。

但是后来随着技术的发展,90年代进入网络时代,关于《黑客帝国》,人类到底生活在现实空间还是虚拟空间?庄周梦蝶,我是梦见了一只蝴蝶呢,还是说我现在本身就在梦中呢?科幻片开始不断的出现,《盗梦空间》等等,这都是受网络信息的启发,关于现实空间和网络空间,到底哪个是真的?

盗梦空间

中美陷入囚徒困境,人工智能变得不可控?可参考核不扩散条约规范

但是我们看人工智能,其实挑战性更大,为什么呢?因为人类至今不知道其原理,什么意思呢,核武器威力大,但是我们懂得核武器的原理,虽然厉害,但是我们知道其背后的逻辑,这个恐惧感相对来说就降低了。

人工智能是什么呢,我们其实不懂其逻辑,也许一开始我们在自主设计程序的时候知道其逻辑,但是人工智能现在是自我学习、自我增强、自我进化、自我革命。

就好比说你培养出了一个病毒变异发展的病例,你发现有些病毒变异的很厉害,超过了你一开始设计的初衷,也脱离了人的掌控。人们对人工智能的恐惧,恐惧在哪呢,就是我不知道其成长的逻辑是什么,人工智能现在甚至还能进化出一套人类完全听不懂的语言。

人工智能和人类发展

中美陷入囚徒困境,人工智能变得不可控?可参考核不扩散条约规范

我们说猴子也好,猩猩也好,其沟通能不能称之为语言,我不知道,它们有自己的一套音符表达沟通方式,但是我们看人类的语言体系,比动物的要复杂太多。你给猴子和猩猩讲人类的语言,因为复杂程度高了不止一个数量级,所以对方完全无法理解。

现在人工智能自我进化出来的,它们之间能听懂的语言体系,人类根本听不懂,就这个逻辑。它怎么发展到这个样子的我们不知道,所以这是我们面临恐惧的根本原因,不清楚理论原理,我们就不敢应用,就这个逻辑。

还有一点是什么呢,就是说在人工智能方面,中美之间存在囚徒困境,什么叫囚徒困境,中美之间如果一个大国把人工智能技术应用于战争,另外一个不用,那不用的那个肯定输。

蜂群无人机

中美陷入囚徒困境,人工智能变得不可控?可参考核不扩散条约规范

比方说美国大规模将人工智能技术,蜂群无人机什么相关技术引入到战争中,中国不用,那中国肯定输,反之美国肯定输,就不用的一方肯定输,用的一方又会产生严重的问题。最近美国的无人机操作员披露出来一个信息,人工智能没有开火权,人类给它的命令是什么呢,是不开火,结果它自己选择什么,向不开火的那个指令发射导弹,他让我不开火,所以我打他。

最近已经披露出来这么个事,拒绝接受人类的命令,并且用武力去消灭,给他不开火命令操作员,这件事引发了人们的恐慌和担心。它的意识到底是什么,它到底怎么想的,它思维的逻辑是什么,能不能沟通,这个沟通是不是比人类文明的沟通更难。

我们看中美各有各的意识形态,各有各的国家立场,有时候我们在跟美国沟通的时候就会很困难,双方彼此坚持自己的立场不肯让步,你要知道人类跟人工智能的沟通,比中美之间这个沟通,难了可不是一个数量级,怎么跟它沟通等等。

中美较量

中美陷入囚徒困境,人工智能变得不可控?可参考核不扩散条约规范

经过这件事,我们验证了什么呢,它未来的不确定性,所以基辛格老爷子百岁的诞辰,以及当前300多位全球科学家,都呼吁对人工智能的发展,建立什么国际规范和标准,研发和使用都要制定强规范强标准。

我觉得这个方面呢,中美之间应该走在前列,应该像什么呢,应该参考当年核不扩散条约内容。当年核不扩散条约是1960年代,首先由美国、苏联、英国三大国,当然主要是美国、苏联,英国起到一个参与的作用,美苏之间关于核不扩散的条约,制度规范,核查技术实验的路径、技术实验的禁区等,做出了一系列的规定,这个规定在日后不断的完善,也不断有新的国家加入进来。

我觉得中美之间可以复制,1960年代的美苏那个模式,中国和美国就这个问题,研发的可行性,研发的禁区,使用的可行性,使用的禁区等等,以及信息通报,信息沟通的机制建立起来。

核军控条约

中美陷入囚徒困境,人工智能变得不可控?可参考核不扩散条约规范

随着时代的发展,不断有新的国家加入到美国和中国主导的人工智能的规范体系,把这个东西做大,做成一个新的约束。有人说核不扩散体系没有用,你看朝鲜印巴都有核武器,不是这么说的,如果没有核不扩散体系,当今世界上不是只有9个,而是有50个拥有核武器的国家。

今天只有9个国家拥有核武器,恰恰是核不扩散体系机制发挥作用的结果,如果它没有发挥作用,就不是9个,而是40、50个了。所以呢,核不扩散条约起到了重大作用,它为维护国际核安全和平衡,发挥了自己重要的作用。目前中美之间到了在人工智能领域,达成G2谈判、并将之扩向全球的历史时机了,甚至已经刻不容缓!

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
C++ 设计模式与软件架构
C++ 设计模式与软件架构

本专题深入讲解 C++ 中的常见设计模式与架构优化,包括单例模式、工厂模式、观察者模式、策略模式、命令模式等,结合实际案例展示如何在 C++ 项目中应用这些模式提升代码可维护性与扩展性。通过案例分析,帮助开发者掌握 如何运用设计模式构建高质量的软件架构,提升系统的灵活性与可扩展性。

14

2026.01.30

c++ 字符串格式化
c++ 字符串格式化

本专题整合了c++字符串格式化用法、输出技巧、实践等等内容,阅读专题下面的文章了解更多详细内容。

9

2026.01.30

java 字符串格式化
java 字符串格式化

本专题整合了java如何进行字符串格式化相关教程、使用解析、方法详解等等内容。阅读专题下面的文章了解更多详细教程。

12

2026.01.30

python 字符串格式化
python 字符串格式化

本专题整合了python字符串格式化教程、实践、方法、进阶等等相关内容,阅读专题下面的文章了解更多详细操作。

4

2026.01.30

java入门学习合集
java入门学习合集

本专题整合了java入门学习指南、初学者项目实战、入门到精通等等内容,阅读专题下面的文章了解更多详细学习方法。

20

2026.01.29

java配置环境变量教程合集
java配置环境变量教程合集

本专题整合了java配置环境变量设置、步骤、安装jdk、避免冲突等等相关内容,阅读专题下面的文章了解更多详细操作。

18

2026.01.29

java成品学习网站推荐大全
java成品学习网站推荐大全

本专题整合了java成品网站、在线成品网站源码、源码入口等等相关内容,阅读专题下面的文章了解更多详细推荐内容。

19

2026.01.29

Java字符串处理使用教程合集
Java字符串处理使用教程合集

本专题整合了Java字符串截取、处理、使用、实战等等教程内容,阅读专题下面的文章了解详细操作教程。

3

2026.01.29

Java空对象相关教程合集
Java空对象相关教程合集

本专题整合了Java空对象相关教程,阅读专题下面的文章了解更多详细内容。

6

2026.01.29

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
ThinkPHP6.x 微实战--十天技能课堂
ThinkPHP6.x 微实战--十天技能课堂

共26课时 | 1.7万人学习

光速学会docker容器
光速学会docker容器

共33课时 | 1.9万人学习

AI绘画教程
AI绘画教程

共2课时 | 0.2万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号