人大系多模态模型迈向AGI：首次实现自主更新，写真视频生成力压Sora

PHPz

发布时间：2024-04-30 08:13:07

1281人浏览过

来源于机器之心

转载

在 4 月 27 日召开的中关村论坛通用人工智能平行论坛上，人大系初创公司智子引擎隆重发布全新的多模态大模型 Awaker 1.0，向 AGI 迈出至关重要的一步。

相对于智子引擎前代的 ChatImg 序列模型，Awaker 1.0 采用全新的 MOE 架构并具备自主更新能力，是业界首个实现 “真正” 自主更新的多模态大模型。

在视觉生成方面，Awaker 1.0 采用完全自研的视频生成底座 VDT，在写真视频生成上取得好于 Sora 的效果，打破大模型 “最后一公里” 落地难的困境。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

人大系多模态模型迈向agi：首次实现自主更新，写真视频生成力压sora

Awaker 1.0 是一个将视觉理解与视觉生成进行超级融合的多模态大模型。在理解侧，Awaker 1.0 与数字世界和现实世界进行交互，在执行任务的过程中将场景行为数据反哺给模型，以实现持续更新与训练；在生成侧，Awaker 1.0 可以生成高质量的多模态内容，对现实世界进行模拟，为理解侧模型提供更多的训练数据。

尤其重要的是，因为具备 “真正” 的自主更新能力，Awaker 1.0 适用于更广泛的行业场景，能够解决更复杂的实际任务，比如 AI Agent、具身智能、综合治理、安防巡检等。

人大系多模态模型迈向AGI：首次实现自主更新，写真视频生成力压Sora

Awaker 的 MOE 基座模型

在理解侧，Awaker 1.0 的基座模型主要解决了多模态多任务预训练存在严重冲突的问题。受益于精心设计的多任务 MOE 架构，Awaker 1.0 的基座模型既能继承智子引擎前代多模态大模型 ChatImg 的基础能力，还能学习各个多模态任务所需的独特能力。相对于前代多模态大模型 ChatImg，Awaker 1.0 的基座模型能力在多个任务上都有了大幅提升。

鉴于主流的多模态评测榜单存在评测数据泄露的问题，我们采取严格的标准构建自有的评测集，其中大部分的测试图片来自个人的手机相册。在该多模态评测集上，我们对 Awaker 1.0 和国内外最先进的三个多模态大模型进行公平的人工评测，详细的评测结果如下表所示。注意到 GPT-4V 和 Intern-VL 并不直接支持检测任务，它们的检测结果是通过要求模型使用语言描述物体方位得到的。

人大系多模态模型迈向AGI：首次实现自主更新，写真视频生成力压Sora

我们发现，Awaker 1.0 的基座模型在视觉问答和业务应用任务上超过了 GPT-4V、Qwen-VL-Max 和 Intern-VL，同时它在描述、推理和检测任务上也达到了次好的效果。总体而言，Awaker 1.0 的平均得分超过国内外最先进的三个模型，验证了多任务 MOE 架构的有效性。下面是几个具体的对比分析例子。

人大系多模态模型迈向AGI：首次实现自主更新，写真视频生成力压Sora

从这些对比例子可以看到，在计数和 OCR 问题上，Awaker 1.0 能正确地给出答案，而其它三个模型均回答错误（或部分错误）。在详细描述任务上，Qwen-VL-Max 比较容易出现幻觉，Intern-VL 能够准确地描述图片的内容但在某些细节上不够准确和具体。GPT-4V 和 Awaker 1.0 不但能够详细地描述图片的内容，而且能够准确地识别出图片中的细节，如图中展示的可口可乐。

Awaker + 具身智能：迈向 AGI

多模态大模型与具身智能的结合是非常自然的，因为多模态大模型所具有的视觉理解能力可以天然与具身智能的摄像头进行结合。在人工智能领域，“多模态大模型 + 具身智能” 甚至被认为是实现通用人工智能（AGI）的可行路径。

一方面，人们期望具身智能拥有适应性，即智能体能够通过持续学习来适应不断变化的应用环境，既能在已知多模态任务上越做越好，也能快速适应未知的多模态任务。

另一方面，人们还期望具身智能具有真正的创造性，希望它通过对环境的自主探索，能够发现新的策略和解决方案，并探索人工智能的能力边界。通过将多模态大模型用作具身智能的 “大脑”，我们有可能大幅地提升具身智能的适应性和创造性，从而最终接近 AGI 的门槛（甚至实现 AGI）。

但是，现有的多模态大模型都存在两个明显的问题：一是模型的迭代更新周期长，需要大量的人力和财力投入；二是模型的训练数据都源自现有的数据，模型不能持续获得大量的新知识。虽然通过 RAG 和长上下文的方式也可以注入持续出现的新知识，但是多模态大模型本身并没有学习到这些新知识，同时这两种补救方式还会带来额外的问题。

总之，目前的多模态大模型在实际应用场景中均不具备很强的适应性，更不具备创造性，导致在行业落地时总是出现各种各样的困难。

人大系多模态模型迈向AGI：首次实现自主更新，写真视频生成力压Sora

智子引擎此次发布的 Awaker 1.0，是世界上首个具有自主更新机制的多模态大模型，可以用作具身智能的 “大脑”。Awaker 1.0 的自主更新机制，包含三大关键技术：数据主动生成、模型反思评估、模型连续更新。

区别于所有其它多模态大模型，Awaker 1.0 是 “活” 的，它的参数可以实时持续地更新。

从上方的框架图中可以看出，Awaker 1.0 能够与各种智能设备结合，通过智能设备观察世界，产生动作意图，并自动构建指令控制智能设备完成各种动作。智能设备在完成各种动作后会自动产生各种反馈，Awaker 1.0 能够从这些动作和反馈中获取有效的训练数据进行持续的自我更新，不断强化模型的各种能力。

以新知识注入为例，Awaker 1.0 能够不断地在互联网上学习最新的新闻信息，并结合新学习到的新闻信息回答各种复杂问题。不同于 RAG 和长上下文的传统方式，Awaker 1.0 能真正学到新知识并 “记忆” 在模型的参数上。

人大系多模态模型迈向AGI：首次实现自主更新，写真视频生成力压Sora

Amazon Nova

亚马逊云科技（AWS）推出的一系列生成式AI基础模型

下载

从上述例子可以看到，在连续三天的自我更新中，Awaker 1.0 每天都能学习当天的新闻信息，并在回答问题时准确地说出对应信息。同时，Awaker 1.0 在连续学习的过程中并不会遗忘学过的知识，例如智界 S7 的知识在 2 天后仍然被 Awaker 1.0 记住或理解。

Awaker 1.0 还能够与各种智能设备结合，实现云边协同。Awaker 1.0 作为 “大脑” 部署在云端，控制各种边端智能设备执行各项任务。边端智能设备执行各项任务时获得的反馈又会源源不断地传回给 Awaker 1.0，让它持续地获得训练数据，不断进行自我更新。人大系多模态模型迈向AGI：首次实现自主更新，写真视频生成力压Sora

上述云边协同的技术路线已经应用在电网智能巡检、智慧城市等应用场景中，取得了远远好于传统小模型的识别效果，并获得了行业客户的高度认可。

人大系多模态模型迈向AGI：首次实现自主更新，写真视频生成力压Sora

现实世界的模拟器：VDT

Awaker 1.0 的生成侧，是智子引擎自主研发的类 Sora 视频生成底座 VDT，可以用作现实世界的模拟器。VDT 的研究成果于 2023 年 5 月发布在 arXiv 网站，比 OpenAI 发布 Sora 提前 10 个月。VDT 的学术论文已经被国际顶级人工智能会议 ICLR 2024 接收。

人大系多模态模型迈向AGI：首次实现自主更新，写真视频生成力压Sora

视频生成底座 VDT 的创新之处，主要包括以下几个方面：

将 Transformer 技术应用于基于扩散的视频生成，展现了 Transformer 在视频生成领域的巨大潜力。VDT 的优势在于其出色的时间依赖性捕获能力，能够生成时间上连贯的视频帧，包括模拟三维对象随时间的物理动态。
提出统一的时空掩码建模机制，使 VDT 能够处理多种视频生成任务，实现了该技术的广泛应用。VDT 灵活的条件信息处理方式，如简单的 token 空间拼接，有效地统一了不同长度和模态的信息。同时，通过与时空掩码建模机制结合，VDT 成为了一个通用的视频扩散工具，在不修改模型结构的情况下可以应用于无条件生成、视频后续帧预测、插帧、图生视频、视频画面补全等多种视频生成任务。

我们重点探索了 VDT 对简单物理规律的模拟，在 Physion 数据集上对 VDT 进行训练。在下面的示例中，我们发现 VDT 成功模拟了物理过程，如小球沿抛物线轨迹运动和小球在平面上滚动并与其他物体碰撞等。同时也能从第 2 行第 2 个例子中看出 VDT 捕捉到了球的速度和动量规律，因为小球最终由于冲击力不够而没有撞倒柱子。这证明了 Transformer 架构可以学习到一定的物理规律。

人大系多模态模型迈向AGI：首次实现自主更新，写真视频生成力压Sora

我们还在写真视频生成任务上进行了深度探索。该任务对视频生成质量的要求非常高，因为我们天然对人脸以及人物的动态变化更加敏感。鉴于该任务的特殊性，我们需要结合 VDT（或 Sora）和可控生成来应对写真视频生成面临的挑战。目前智子引擎已经突破写真视频生成的大部分关键技术，取得比 Sora 更好的写真视频生成质量。智子引擎还将继续优化人像可控生成算法，同时也在积极进行商业化探索。目前已经找到确定的商业落地场景，有望近期就打破大模型 “最后一公里” 落地难的困境。

未来更加通用的 VDT 将成为解决多模态大模型数据来源问题的得力工具。使用视频生成的方式，VDT 将能够对现实世界进行模拟，进一步提高视觉数据生产的效率，为多模态大模型 Awaker 的自主更新提供助力。

结语

Awaker 1.0 是智子引擎团队向着 “实现 AGI” 的终极目标迈进的关键一步。团队认为 AI 的自我探索、自我反思等自主学习能力是智能水平的重要评估标准，与持续加大参数规模（Scaling Law）相比是同等重要的。Awaker 1.0 已实现 “数据主动生成、模型反思评估、模型连续更新” 等关键技术框架，在理解侧和生成侧都实现了效果突破，有望加速多模态大模型行业的发展，最终让人类实现 AGI。

什么是“人形机器人”？特斯拉Optimus与产业供应链全解析

AI生成活动现场的即时新闻稿

贾跃亭：法拉第未来当前股价被严重低估目标价5美元

内存飙升成本暴涨汽车会涨价还是减配？

10家中国车企入围入围财富世界500强比亚迪进前百

相关专题

登录token无效

登录token无效解决方法：1、检查token的有效期限，如果token已经过期，需要重新获取一个新的token；2、检查token的签名，如果签名不正确，需要重新获取一个新的token；3、检查密钥的正确性，如果密钥不正确，需要重新获取一个新的token；4、使用HTTPS协议传输token，建议使用HTTPS协议进行传输；5、使用双因素认证，双因素认证可以提高账户的安全性。

6655

2023.09.14

登录token无效怎么办

登录token无效的解决办法有检查Token是否过期、检查Token是否正确、检查Token是否被篡改、检查Token是否与用户匹配、清除缓存或Cookie、检查网络连接和服务器状态、重新登录或请求新的Token、联系技术支持或开发人员等。本专题为大家提供token相关的文章、下载、课程内容，供大家免费下载体验。

844

2023.09.14

token怎么获取

获取token值的方法：1、小程序调用“wx.login()”获取临时登录凭证code，并回传到开发者服务器；2、开发者服务器以code换取，用户唯一标识openid和会话密钥“session_key”。想了解更详细的内容，可以阅读本专题下面的文章。

1092

2023.12.21

token什么意思

token是一种用于表示用户权限、记录交易信息、支付虚拟货币的数字货币。可以用来在特定的网络上进行交易，用来购买或出售特定的虚拟货币，也可以用来支付特定的服务费用。想了解更多token什么意思的相关内容可以访问本专题下面的文章。

2208

2024.03.01

页面置换算法

页面置换算法是操作系统中用来决定在内存中哪些页面应该被换出以便为新的页面提供空间的算法。本专题为大家提供页面置换算法的相关文章，大家可以免费体验。

502

2023.08.14

TypeScript类型系统进阶与大型前端项目实践

本专题围绕 TypeScript 在大型前端项目中的应用展开，深入讲解类型系统设计与工程化开发方法。内容包括泛型与高级类型、类型推断机制、声明文件编写、模块化结构设计以及代码规范管理。通过真实项目案例分析，帮助开发者构建类型安全、结构清晰、易维护的前端工程体系，提高团队协作效率与代码质量。

2026.03.13

Python异步编程与Asyncio高并发应用实践

本专题围绕 Python 异步编程模型展开，深入讲解 Asyncio 框架的核心原理与应用实践。内容包括事件循环机制、协程任务调度、异步 IO 处理以及并发任务管理策略。通过构建高并发网络请求与异步数据处理案例，帮助开发者掌握 Python 在高并发场景中的高效开发方法，并提升系统资源利用率与整体运行性能。

2026.03.12

C# ASP.NET Core微服务架构与API网关实践

本专题围绕 C# 在现代后端架构中的微服务实践展开，系统讲解基于 ASP.NET Core 构建可扩展服务体系的核心方法。内容涵盖服务拆分策略、RESTful API 设计、服务间通信、API 网关统一入口管理以及服务治理机制。通过真实项目案例，帮助开发者掌握构建高可用微服务系统的关键技术，提高系统的可扩展性与维护效率。

272

2026.03.11

Go高并发任务调度与Goroutine池化实践

本专题围绕 Go 语言在高并发任务处理场景中的实践展开，系统讲解 Goroutine 调度模型、Channel 通信机制以及并发控制策略。内容包括任务队列设计、Goroutine 池化管理、资源限制控制以及并发任务的性能优化方法。通过实际案例演示，帮助开发者构建稳定高效的 Go 并发任务处理系统，提高系统在高负载环境下的处理能力与稳定性。

2026.03.10

热门下载

网站特效

网站源码

网站素材

前端模板