- A+
刚刚谷歌 DeepMind 宣布推出第三代通用的世界模型 Genie 3 ,适配生成前所未有的多样化交互式环境,给出文本提示,Genie 3 适配生成动态世界,适配以每秒 24 帧的速度实时导航,并以 720p 的分辨率保持几分钟的一致性
据报道,
Genie 3将首先以有限研究预览的形式,向一小部分学者和创作者开放 Genie 3,以收集关键反馈
从某种意义上讲,
Genie 3 的突破
DeepMind 在模拟环境领域已有十余年的深厚积累。从训练能玩转即时战略游戏的 AI,到为机器人开发开放式学习环境,这些研究都指向了一个共同的目标:构建强大的世界模型。
与前代模型(如 Genie 1/2)和视频生成模型(如 Veo 2,Veo 3对直觉物理学的深刻理解)相比,Genie 3 是第一个允许实时交互的世界模型,同时与 Genie 2 相比,其一致性和真实感也得到了提升
通常情况下,
核心能力
有分析指出,
自动播放
模拟世界的物理特性:Genie 3 对物理规律有深刻理解,能逼真地模拟水流、光影变化以及繁琐的环境互动,例如直升机在悬崖瀑布边小心翼翼地机动
模拟自然世界:从冰川湖畔充满生机的生态系统,到幻想世界中可爱的毛茸茸生物在彩虹桥上跳跃,Genie 3 能将想象力转化为可探索的现实
不可忽视的是,
动画和小说建模::适配发挥想象力,创造奇幻的场景和富有表现力的动画角色
反过来看,
探索不同地域与历史场景:模型能超越地理和时间的限制,带领使用者探索不同地点和历史时代,无论是身穿翼装飞越雪山,还是置身于历史悠久的古城
据相关资料显示,
突破实时性能的极限:实现高度的可控性和实时交互性,在每一帧的自回归生成过程中,模型必须考虑先前生成的随时间增长的轨迹。例如,如果使用者在一分钟后重新访问某个位置,则模型必须引用一分钟前的相关信息。为了实现实时交互性,这种计算必须每秒进行多次,以响应新使用者输入的到来
长时程环境一致性:为了让人工智能生成的世界身临其境,它们必须在很长一段时间内保持物理上的一致性。然而,自动回归生成环境通常比生成整个视频更难的技术状况,缘于不准确之处往往会随着时间的推移而累积,Genie 3 环境在几分钟内基本保持一致,视觉记忆适配追溯到一分钟前,Genie 3 生成的世界更加动态和丰富,缘于它们是根据使用者的世界描述和作逐帧创建的
XM外汇财经新闻:
可提示的世界事件 (promptable World Events):除了导航输入之外,Genie 3 还适配一种更具表现力的基于文本的交互形式,称之为可提示的世界事件 。可提示的世界事件适配改变生成的世界,例如改变天气条件或引入新的物体和角色,从而增强导航控制的体验,这种能力还增加了反事实或“假设”场景的广度,代理适配运用这些场景从经验中学习来处理意外情况
赋能具身智能体研究
Genie 3 的终极目标之一是为具身智能体(Embodied Agent)传递一个无限丰富的训练场。DeepMind 已将其与通用智能体 SIMA进行结合测试。研究人员适配为 SIMA 设定一个目标(如在面包房里找到工业搅拌机),SIMA 则通过向 Genie 3 发送导航指令来尝试完成任务。Genie 3 像一个真正的世界一样,根据 SIMA 的行为实时反馈结果,从而让智能体在海量的what if场景中学习和成长
当前的局限性
据相关资料显示,
Genie 3目前存在的局限性:
不可忽视的是,
行动空间有限:智能体的直接行动范围仍受限制
其实,
缺乏多智能体模拟:难以精确模拟多个独立智能体之间的繁琐互动
事实上,
地理精度不足:无法完美复现实世界的地理位置
需要注意的是,
文本渲染较差:除非在初始提示中指定,否则生成的文本通常模糊不清
据报道,
互动时长有限:目前适配数分钟的连续互动,而非数小时
总的来说,
参考:
值得注意的是,
https://deepmind.google/discover/blog/genie-3-a-new-frontier-for-world XM外汇代理 -models/返回搜狐,查看更多