“工程师的元宇宙”:NVIDIA深度学习技术让2D像瞬间“起立”变3D

2021年04月27日20:19:07 科技 1931

快系好安全带,你的平面汽车可以随时出发!

GANverse3D 由多伦多的 NVIDIA AI 研究实验室开发,作为 NVIDIA Omniverse 平台的扩展应用,它能将平面图像转换成逼真的 3D 模型,并将其可视化地呈现在虚拟空间中,供人们自由操控。

GANverse3D已为美国电视剧《霹雳游侠》 (Knight Rider) 中的 AI 汽车基特 (KITT) 注入新的灵魂。研究人员将汽车基特的平面图像输入到模型中,通过预测相应的 3D 纹理网格, GANverse3D 生成出了基特的 3D 模型,让其在虚拟空间中行驶,并配有逼真的前灯、尾灯和转向灯。

此外,NVIDIA Omniverse 套件和 NVIDIA PhysX 工具还可以将预测的纹理转成高质量材料,使基特具有更加真实的外观和“触感”。

“工程师的元宇宙”:NVIDIA深度学习技术让2D像瞬间“起立”变3D - 天天要闻

(来源:NVIDIA)


通过 GANverse3D ,即使没有 3D 建模方面的知识,建筑师、创作者、游戏开发人员和设计师也能轻松地将平面设计转换成立体模型,并能最大程度削减渲染方面的预算。

“警察抓小偷”式的学习模式

GANverse3D 的基础原理是生成式对抗网络(GAN, Generative Adversarial Networks )。

生成式对抗网络是一种新近的深度学习模型,最早由伊安·好伙伴教授(Ian Goodfellow)于 2014 年提出,一经提出,学界对 GAN 的研究如火如荼。

GAN的框架包括至少两个模块:生成模型(Generative Model)和判别模型(Discriminative Model)。

好伙伴教授将其原理比作制假钞的伪造者 (Generator) 和警察 (Discriminator) 之间的博弈。伪造者不断更新技术制造以假乱真的钞票,警察则需用更先进的技术甄别假钞,两人在对抗中不断升级各自的技能。


因此,在 GAN 模型的训练过程中,生成网络 G(Generator,简称 G) 的任务就是要生成逼真的图像欺骗判别网络 D(Discriminator,简称 D),而 D 的目标是区分 G 生成的图像和真实图像。如此,G 和 D 便构成了一个动态“博弈过程”。最终,在理想情况下,G 能够生成以假乱真的图像成功混淆 D 的判断。

在原始理论中, G 和 D 只要是能够拟合相应模型的函数即可,并不要求二者都是神经网络。但实际开发中人们多使用深度神经网络作为 G 和 D 。一个优秀的 GAN 应用需要科学有效的训练方法,否则神经网络模型的自由性可能会导致输出不理想。

NVIDIA 利用生成式对抗网络形成训练数据集。这就像摄影师绕着一辆停泊的汽车,从不同的角度拍摄以获得多视角图像一样。这些多视角图像最终会被放入逆向图 (inverse graphics) 的渲染框架中,以此合成 3D 图像。

逆向图指是从 2D 图像推断 3D 网格模型的过程。以前的逆向图模型依赖于 3D 图形作为训练数据,NVIDIA 的 GANverse3D 则是根据真实图像进行训练。NVIDIA 研究员 Jun Gao 表示,以真实图像作为训练基础得到的AI模型,“能更好地推广到现实世界中。”

在没有 3D 要素的帮助下,“我们把 GAN 模型变成了一个非常高效的数据生成器,这样我们就可以基于网络上的任何 2D 图像创建出 3D 对象。”NVIDIA 研究员 Wenzheng Chen 说。

有关 GAN verse3D 研究成果将在 5 月份的 ICLR 会议和 6 月份的 CVPR 会议上发表。


为工程师搭建元宇宙

英伟达 CEO 黄仁勋:“科幻小说中的元宇宙已经近了。”


众多科技公司都在从元宇宙 (Metaverse) 概念中汲取灵感,英伟达也不例外,趁热推出元宇宙的工程师版。

黄仁勋在 2021 GTC 大会上宣布,英伟达要推出 to B 端的实时协作仿真平台 Omniverse ——一个面向企业的虚拟工作平台。

英伟达早在去年 10 月推出 Omniverse 测试版,并在游戏、建筑等领域得到应用。宝马、爱立信、沃尔沃、Adobe 等超过超过 17,000 名客户体验了测试版。

黄仁勋在此前的采访中表示, Omniverse 能让游戏开发者轻松应对复杂的流水线工作,以此提升工作效率。在 Omniverse 平台上,动画、纹理、灯光、几何图形等常规游戏制作的流水线工程将能一举打通链接。每个人都能看到他人在做什么,并能做到“眼见为实”。

“工程师的元宇宙”:NVIDIA深度学习技术让2D像瞬间“起立”变3D - 天天要闻

(来源:NVIDIA)

游戏、架构和设计领域的创作者们高度依赖于虚拟世界,在产品完成之前,他们需要测试和可视化其原型。但仅是渲染一辆汽车、一条街道就需要捕获成百上千的多视角图像,期间会产生大量成本。因此并非每位创作者资源和精力将其绘制的图像转成 3D 模型。

基于此, NVIDIA 开发 GANverse3D 应用,可以迅速追踪实时光线来创造一个真实的虚拟世界。

任何 2D 图像都可以在 Omniverse 中转换成可以自定义和制作动画的 3D 图形。

NVIDIA 深度学习工程师 Jean-Francois Lafleche 表示:“Omniverse 让研究人员能够将激动人心的前沿研究直接带给创作者和最终用户。作为 Omniverse 的扩展程序, GANverse3D 将帮助艺术家为游戏开发、城市规划甚至训练新的机器学习模型创建更丰富的虚拟世界。”

科技分类资讯推荐

百川光热曲面镜生产线在鄂尔多斯零碳产业园启动量产 - 天天要闻

百川光热曲面镜生产线在鄂尔多斯零碳产业园启动量产

6月18日,百川光热曲面镜生产线在鄂尔多斯零碳产业园启动量产。旗委副书记、旗长、蒙苏经济开发区党工委书记乔小军,旗人大常委会主任王雁军出席启动仪式,旗人民政府副旗长张富春、内蒙古百川光热科技有限公司董事长张锋分别致辞,园区、部门、企业相关负责人参加。内蒙古百川光热科技有限公司通过能源消费量、能源消费结...
梅雨期将至,如何快速了解天气变化?这份应用工具包请收好 - 天天要闻

梅雨期将至,如何快速了解天气变化?这份应用工具包请收好

上海昨日官宣,预计19日入梅。刚入梅,上海就将遭遇一场开梅暴雨!19-20日有大雨到暴雨过程,并伴有雷电、短时强降水和雷雨大风。本市入梅后降水频率和强度将明显增加,根据上海市气候中心预测,今年本市梅雨量偏多。那么,如何快速掌握气候变化?来看市大数据中心提供的应用工具包19-20日,上海有大雨到暴雨过程,并...
618笔记本电脑怎么选,华为智慧PC创造AI新体验 - 天天要闻

618笔记本电脑怎么选,华为智慧PC创造AI新体验

618购物狂欢节已经如火如荼地展开,作为上半年力度最大的购物节,相信618是不少人采购“大件”商品的节点。尤其是笔记本电脑,作为人们学习工作等场景的重要工具,无论是即将步入大学或初入职场,还是“预谋”换新已久的朋友们,趁此时机入手是再好不过了。那么,面对市面上众多的笔记本产品,哪款更加值得入手呢?HUAWEI MateBook家...
谷歌在印度推出Gemini手机应用,支持英语和九种印度语言 - 天天要闻

谷歌在印度推出Gemini手机应用,支持英语和九种印度语言

6月18日,谷歌在官网的博客中表示,在印度推出Gemini手机应用,支持英语和九种印度语言,包括印地语、孟加拉语等,此外还会推出印度版的Gemini Advanced。对于在印度推出应用程序,谷歌并未解释太多,但在博客中提及了印度“强大的移动优先文化”。Gemini 是谷歌旗下DeepMind实验室推出的大模型,最初于2023年12月发布1.0版...
ETF今日收评 | 智能汽车、通信、基建等相关ETF涨超2% - 天天要闻

ETF今日收评 | 智能汽车、通信、基建等相关ETF涨超2%

每经记者:叶峰    每经编辑:彭水萍市场全天震荡反弹,三大指数小幅上涨。盘面上,车路云概念股再度爆发,低空经济概念股表现活跃,CPO概念股开盘冲高,苹果概念股午后走强。下跌方面,猪肉股展开调整。总体上个股涨多跌少,全市场超3900只个股上涨。ETF涨跌幅方面,智能汽车、通信、基建等相关ETF涨超2%。有券商表示...
今年80%燃油车4S店亏损;汽服店“10家有8家不赚钱”…丨32组数据看车后生存现状 - 天天要闻

今年80%燃油车4S店亏损;汽服店“10家有8家不赚钱”…丨32组数据看车后生存现状

最近,汽车服务世界走访市场时听经销商朋友说了一个情况:他的修理厂客户里面,10家有8家不赚钱,有些贷款收不回来,老板手里是真没钱,只能分次一点一点要;而他最怕的事情,也从以前“修理厂赊账后催账难”变成了“老板不打招呼就关门了”,而他也感慨“今年真的太惨了”。
驾照到期该如何换证?过期忘换怎么办? - 天天要闻

驾照到期该如何换证?过期忘换怎么办?

众所周知,我们的驾照都存在一个时间限制,如果超过了这个时间没去换证,那么很有可能会被注销,参考《机动车驾驶证申领和使用规定》的相关条款,机动车驾驶人应在驾驶证有效期满前90天进行换证。
似与不似间蕴含的“汽车逻辑”——青岛试驾全新一代迈腾 - 天天要闻

似与不似间蕴含的“汽车逻辑”——青岛试驾全新一代迈腾

其实,青岛在山东的“特殊”又何止是仲夏的天气!作为“海滨邹鲁”,它比山东其他兄弟城市更多了几分时尚和浪漫。所以,许多人称青岛为“最不像山东的城市”。然而,与这里的人相接触你会发现,其质朴依然有着“孔孟之乡”的味道,从所谓“山东”的“似与不似”间去探寻这个城市的