新冠疫情加速了沉浸式技术的应用,尤其是在教育与培训、线上活动以及艺术与娱乐领域。

13.1

自两年前新冠疫情暴发以来,全球经济受到了重大冲击,各行各业都被影响,运用增强现实(AR)与虚拟现实(VR)等技术,通过数字仿真来创建或模拟现实世界的沉浸式媒体行业也不例外。

在沉浸式技术和媒体领域,具备跨学科思维的领导者们成立了世界经济论坛(WEF)增强现实和虚拟现实全球未来理事会,并评估了新冠疫情对相关技术的影响。结果表明,疫情将沉浸式技术的发展进程提早了好几年,并且对各行各业带来变革。此外,全球管理咨询麦肯锡公司最近的一项调查显示,新冠疫情加速了实现客户互动的数字化的发展。例如,某些曾不愿使用相关沉浸式技术的行业、组织和机构(如博物馆),为应对当下全球封控的情况,不得不重新考虑其数字化发展。

本文重点介绍了加速沉浸式技术应用的行业和部门,对新冠疫情期间这些技术在教育、医疗培训、线上活动以及艺术与娱乐中的运用进行了概述。

在教育领域,这些技术使人际交往得以通过数字媒介实现,填补了线下教学方面存在的巨大缺口。事实上,以高等教育为例,美国凯斯西储大学85%的医学新生表示,混合现实技术在解剖学课程中的运用,使线上课程的体验与线下课程“一样好”,甚至“更好”。外科医生通过采用在线VR/AR技术,可以使学生和同事观摩复杂的手术场景并提供协助。此外,在过去两年中,许多采用沉浸式技术的教育活动的用户参与度也有所增加。

除了在教育方面提供诸多便利之外,应用沉浸式技术还有利于为许多感到孤独的人提供一个可以共享、相聚和社交的平台。除了各类视频会议工具激增以外,扩展现实平台还可以将生活虚拟化,为人们提供视频通话所无法比拟的共存感。VR技术的应用有利于加强人与人之间的联系,这一点在疫情隔离时代尤为重要。

沉浸式技术也正在向艺术和娱乐领域渗透。在疫情封锁期间,由于观众无法出席线下体育赛事,体育行业不得不想办法让粉丝在线上观看比赛。这项技术可以将粉丝带到体育活动的中心,并为他们提供前所未有的独特视角。

此外,本文也考虑到了沉浸式技术发展进程中关于安全与隐私的重要性。全球未来理事会承诺,将持续对相关技术的潜在不良后果予以重视,同时鼓励新型工具的开发,实践证明,这些工具在全球疫情期间起到了极大的作用。在过去两年中,这些技术的早期应用领域不断扩大,并且证明其应用能够使人与人之间的联系更为紧密。

1教育

在过去,学业上的成功依赖于学生与教师或导师之间的交流。这次疫情使得师生间的互动变得既危险又困难。

异步(即“独立”)学习是许多教育计划的核心部分。而在过去两年中,世界各地学生所接受的异步教育比以往任何时候都要多。几年前,人们很难想象学生会在家中,仅通过信息技术便可实现与老师和其他同学同步学习。而AR和VR技术由于可通过数字媒介在人们之间建立联系,如今在教育中变得尤为必要,尤其是需要实际操作或现场学习的教育领域,例如学徒培训等。

因此,提供VR培训的公司,如TransfrVR,在疫情期间获得了1 200万美元的A轮融资。这次的成功融资是基于其能够为制造业提供高效的虚拟培训体验,从而使学徒拥有高水平的学习和工作表现。

沉浸式技术(如AR和VR)通过数字仿真创建或模拟现实世界,为用户提供独特的方式以体验并理解相关概念。这些技术还将虚拟内容融入现实环境,并允许用户参与到这种混合现实中来。AR和VR技术在缩小由新冠疫情导致的教育缺口上起了积极作用,我们对此应持积极乐观的态度。这些技术通过提供一系列相关服务,力争将远程教育转变为更具沉浸感的学习体验。

13.2

2医疗培训和相关程序

疫情也对医疗培训造成了严重影响。美国凯斯西储大学和斯坦福大学成功使用AR/VR技术教授解剖学。斯坦福大学在肯尼亚开办了一个项目,利用新技术向医学生传授核心知识以及与患者沟通和评估病情的关键技能。凯斯西储大学185名医学新生的解剖学课程都采用混合现实技术进行授课,其中85%的学生表示这种授课方式与线下课程相比效果“一致”或“更好”。

由于新冠疫情的限制,医学生无法到现场参与患者病情评估工作。为了给他们提供更多的参与机会,美国密歇根大学和英国伦敦帝国理工学院举办了首次VR查房活动,医生通过使用微软混合现实头戴式智能眼镜HoloLens和视频会议软件Zoom,把学生们带到患者床边,与患者进行互动,查看病理图像,讨论实验室工作并观摩体检过程。

外科医生通过采用在线VR/AR技术,可以使学生和同事观摩手术并提供协助。在疫情早期,第一波新冠肺炎患者对医疗卫生系统造成了冲击。位于特拉维夫舍巴医疗中心康复医院的以色列医学模拟中心(MSR)使用相关技术代替教师,培训员工使用新的呼吸机和设备。通过微软Guides交互式混合现实模拟培训,MSR教会了约60名医生、生物医学工程师和护士为新冠肺炎患者使用呼吸机。MSR并不是个例,自2020年1月以来,通过在主要的企业用户群中推广使用HoloLens,微软的远程协助案例较以往增加了13倍。

斯坦福大学吴蔡神经科学研究所可视化技术实验室的联合主任克里斯托夫 · 鲁兹(Christoph Leuze)表示,通过运用混合现实技术投影出患者人体器官的3D渲染图,可使人变“透明”,并让临床医生和学生能够“透视”人体。这样一来,医生可以在数字化层面查看和分析人体结构,且效果与实际解剖基本一致,从而使医护人员和医学生能够更加准确地看到并定位重要的部位。该技术在医疗领域中得以广泛应用的又一个重要原因正是混合现实技术可以满足医护人员的这一基本需要。

13.3

在鲁兹看来,混合现实技术的应用也是完善与医学界合作的一个机遇。多个远程操作的医护人员可在不看其他屏幕的情况下查看同一现实情况和虚拟内容,这有利于当地医护人员和远程专家之间进行更加自然的交流和互动。这一点在最近的一场微软24小时在线手术中得到了最好的证明。当时,来自世界各地的外科医生戴着微软HoloLens 2混合现实头显进行了13场手术。外科医生可以“通过全息影像进行可视化操作,共享手术中的实时视图,借鉴同行的专业知识,以及进行远程指导”。这样的合作和知识传播方式是前所未有的。

3线上活动

在过去,举办会议活动牵涉许多费用,如注册费、差旅费和住宿费等。而涉及婚礼、毕业和小孩出生等的社会活动时,通常意味着要预订航班、酒店以及宴席。然而,在2020年,这些线下活动统统被取消了。即便是移动通信行业最重要的展会,2020年世界移动通信大会(MWC)也在最后一刻被取消。很快,展览、会议、音乐节、婚礼、毕业典礼和迎婴派对也都被取消了。

令人鼓舞的是,人类很快运用自己的智慧和技术让这类活动得以继续举办。除了各类视频会议工具激增以外,扩展现实平台还创作了一个将生活虚拟化的创意维度。在过去两年中,VR技术在各类会议中的应用都有所增加,例如电气电子工程师学会(IEEE)虚拟现实会议、IEEE混合与增强现实国际研讨会、人工现实国际会议以及Telexistence公司和欧洲计算机图形协会虚拟环境研讨会,都为全球各地的人们提供了学习机会和获取教育资源的途径。

虚拟现实活动也越来越受欢迎。宏达国际电子股份有限公司和微软等公司的大型企业活动已通过虚拟现实和混合现实技术进行了虚拟化,得到了有趣的效果:线上与线下互动出乎意料的类似。即便是黑岩城一年一度的火人节,现在也有了VR版本。这使得更多的人能够观赏和体验数字艺术装置。

当人们可以在虚拟现实中以虚拟形象见面时,将感受到一种共存感,而这一点正是视频通话无法实现的。人们可以即刻创造共同的经历和回忆,就像在现实中一样。

4艺术与娱乐

面对新冠疫情的挑战,许多充满创意的线下活动都必须借助技术转为线上活动。例如,威尼斯电影节中的“沉浸式观影单元”完全在虚拟现实中进行。只要戴上VR头显,就能欣赏到独特的威尼斯小艇和世界级的展览。

音乐产业也利用了VR技术的特性。例如约翰 · 传奇(John Legend)、特拉维斯 · 斯科特(Travis Scott)、威肯(The Weeknd)和利尔 · 纳斯(Lil Nas)等顶级音乐人才的虚拟演出,所有表演都是在交互式虚拟环境中进行的,观看人数达到数千万,远超线下演出的场地限制。

娱乐领域面临的最大难题之一是无法让人们聚集在体育场馆观看体育赛事。在美国,2020年美国男子职业篮球联赛(NBA)、美国女子职业篮球联赛(WNBA)和美国职业棒球大联盟(MLB)赛季暂停。在印第安纳州的印第安纳波利斯赛车场举行的大型汽车比赛,印第安纳波利斯500英里大奖赛也被推迟。此外,2020年夏季奥运会也被延迟到2021年举行。由于疫情带来的严重影响,体育行业不得不想办法让粉丝以线上形式观看比赛。体积视频是该行业用到的新兴技术之一。这项技术将粉丝带到体育活动的中心,并为他们提供前所未有的独特视角,包括空中视角和裁判视角。联赛和广播公司通过使用“真实视角”来为观众提供新鲜、细致的体验,在与粉丝保持联系的同时,突出比赛的故事性,并对此进行深入分析。

5未来的应用程序和技术突破

五年前,人们对VR和AR头显销售额过于乐观的预测是当前实际销售额的三倍。不过,其早期成功依然有目共睹,近期第三方研究预测,VR和AR技术的应用速度将会加快。例如,《福布斯》引用的研究表明,根据消费者数据和趋势,2020年全球VR市场规模为61亿美元,全球AR市场规模为153亿美元,预计到2025年,全球VR和AR市场规模将分别增长到209亿美元和770亿美元。

在过去几年中,AR/VR头显确实取得了长足进步,技术得以改进(例如波导/OLED显示器、传感器/空间映射、图形渲染),设计也更多地考虑到了消费者的需求,如开发无线和价格便宜的设备。通过使用Unity和Unreal等高端游戏引擎,“VR晕动症”的问题已经显著减少,对交互内容创作者的支持也在迅速增加。此外,针对使用者面部与手部的实时追踪技术在几年前还只是研究雏形,而现在正成为商业解决方案中不可或缺的一部分。

在过去几年中,汽车制造业、国防和医疗卫生部门是消费级AR/VR设备的最大受益者,2020年全球范围内的相关支出达到190亿美元。例如,汽车的设计可在VR系统的协助下进行,汽车制造商也越来越多地通过AR/VR解决方案来进行远程装配和培训。VR技术已广泛应用于军事训练系统,如飞行模拟器。此外,美国陆军正在迅速装备商用AR/VR头显,以进行沉浸式作战训练(如美国陆军的合成训练环境),因为在虚拟战场中能够进行规模可控且可重复的模拟训练,并且这一训练更为安全、更具成本效益。

13.4

在医疗部门,除了前面提到的外科医生使用AR头显的案例外,VR模拟技术也已成功用于治疗创伤后应激障碍(PTSD)。沉浸式疗法的临床试验结果显示,通过一边观看与其创伤有关的图像,一边在跑步机上行走,40%的PTSD患者的病情有所改善。

早期VR技术在消费者应用程序方面取得的成功包括一系列VR和3A级电子游戏,其总收入超过100万美元(如《半条命:艾利克斯》和《节奏光剑》)。实际上,《节奏光剑》官方于2021年10月宣布其收入突破1亿美元,这反映了该行业的收入增长轨迹。VRChat等社交类VR应用程序以及Supernatural等健身类应用程序也越来越受欢迎。

研究型数据统计公司Statista收集的数据显示,无须配备头显且应用于智能手机平台上的AR应用程序得到了更广泛的应用,预计到2023年,全球用户数量将达到14亿。最流行的AR应用程序为相机滤镜和视频特效(如社交拍照软件Snapchat和抖音),以及AR游戏(如《精灵宝可梦 GO》)。截至2021年第三季度,Snapchat的日活跃用户量高达3.06亿,《精灵宝可梦 GO》也在其面世的前五年中创造了50亿美元的收入。

目前AR/VR设备的价格仍然居高不下,且不便于佩戴,而无线设备的性能相对比较有限。不过,科技公司以及工业界和学术界的研究人员每年都在对硬件和软件进行优化升级,使其具备新的功能。此外,内容开发商、媒体公司和初创企业正在研发新型沉浸式体验和交互式应用程序,以丰富虚拟内容。除了游戏和模拟之外,创新体验还包括取代传统视频会议的遥现(即临场感)应用程序、VR绘画应用程序(如Tilt Brush和Quill)以及沉浸式纪录片。

硬件开发方面,沉浸式技术预计将在以下领域取得关键进展:更轻薄的外形、更高的分辨率(8K显示器,如Pimax显示器)、更宽阔的视野、前置/眼球追踪摄像头、更长的电池寿命、更好的防晕动症能力以及更先进的无线连接技术。微型OLED(可能在2023年面世)等前景广阔的技术,将有助于研发智能眼镜等小型显示器,届时无须借助玻璃基板,可将其直接安装在硅晶片上,减少透镜厚度并提高能效。

高端游戏引擎,如Epic Games的Unreal 5引擎,将为许多含有超现实内容的次时代交互式应用程序提供动力,但无线AR/VR显示器需要更强大的图形处理器。神经渲染技术中的数字人物真实感已经通过测试,以解决其关键应用领域(如虚拟遥现和沉浸式现场活动)中虚拟人物的“恐怖谷效应”。最近元宇宙(Meta)的现实实验室展示了其名为Codec Avatar的虚拟形象技术,该技术可使用户与虚拟现实中的仿真人物进行实时、面对面的对话,但需要一个复杂的捕捉系统来数字化人物形象。此外,脸部追踪解决方案提供商Pinscreen展示了如何使用一张照片来创建完整的3D形象,以及如何借助其神经面部渲染引擎paGAN来生成仿真表情。

其他的重要进展包括,在没有配备深度传感器或多个摄像头的情况下,对人物动作进行实时体积捕捉。一份欧洲计算机视觉国际会议( ECCV )报告的作者们提出了一种基于单个网络摄像机的实时体积远程传输系统,可以从单个视图对整个人物进行实时数字化。这种技术的潜在应用:在未来无须使用多个摄像头即可实现远程实时3D视频,而且仅通过一个网络摄像头就足以预测一个人包括其背部在内的整体3D形象。

对于VR内容,市场上有两种主流解决方案:一种是6-DOF(自由度)方案,人们可以在沉浸式体验中自由行走和旋转头部;另一种是3-DOF体验,人们可以看到360度全景。通常,6-DOF方案使用游戏引擎进行渲染,并需要大量的成本和时间来生成内容,而3-DOF的内容可以使用360度全景摄像头来进行捕捉。

2019年推出的神经辐射场(NerFs)等具有广阔前景的人工智能(AI)技术使用深度神经网络对整个场景和复杂对象进行编码,并使用体积采样的方法进行渲染。近期提出的实时变体展现出其实现6-DOF内容数字化和在现实图像中进行查看的潜力。

下一代头显和沉浸式技术将基于体积更小、功能更强大的头显设备、人工智能的进步以及5G和边缘计算的创新。预计在不久的将来,图形功能、计算机视觉系统、内容创建工具和捕捉技术将得到进一步改进。

6隐私和安全

尽管疫情依旧肆虐全球,隐私和安全仍是沉浸式技术应用讨论中的首要和中心问题。大多数电子设备可以(并正在)获取用户的行为数据。然而,AR和VR系统涉及的隐私和安全问题是独特的。例如,大多数VR系统会对身体活动、目光和其他第一人称动作的详细信息进行捕捉。而这些信息可被第三方用于识别个人身份和特征。

对用户本人及其周围的人来说,AR和VR系统在互动的真实性和私密性上也是独一无二的。例如,AR系统的用户在使用时可能会无意中诋毁周围的人,甚至对其施加伤害。对现实世界中的人做出虚拟世界中真实、私密的行为可能会导致现实后果。因此,在强调技术优势的同时,也必须考虑到所涉及的隐私和安全问题,并纳入相关机制以保护用户和社会。

如上所述,使用沉浸式媒体进行可视化展示、协作和培训,为多个行业带来了前所未有的体验,这也是一个具有巨大价值的正在快速发展的领域。由于人类感知到的世界是三维的,因此空间计算和沉浸式技术在各个方面都为更好的学习、生产和创造提供了无限的可能性。不过,同社交媒体等技术一样,任何技术都可能被不当使用。因此,一定要充分了解新兴技术带来的潜在后果,并在其成为主流前消除这类隐患。

在新冠疫情对人们的生活产生显著影响的同时,其也对全球经济中的各个企业、机构、组织、行业和部门带来严重损失或致其完全停业,而且疫情传播的速度之快、持续的时间之久,是所有人都始料未及的。

然而,这场疫情也意外带来了技术投资机遇,这些技术有助于以数字和虚拟这些新型手段完成许多之前需要人们亲自到场才能进行的事。特别是长久以来,AR和VR技术都有望提供丰富且有益的个人和群体体验,而这场疫情大大加快了此类技术在许多领域中的发展和应用,其中包括商业、教育、医疗培训以及实践、现场活动和文化体验。技术的加速应用除了推动技术的改进外,也逐渐提高了人们对这类技术的普遍接受度,尤其是将其作为一种替代现场互动的新型方式,因为现场互动会带来更多的成本、不便或不良的环境影响。

新技术的应用往往会产生意想不到的负面后果,例如使用社交媒体所带来的一部分社会问题。随着AR和VR技术的快速发展和应用,人们已经注意到其可能会带来一些始料未及且独特的隐私和安全问题。世界经济论坛增强现实和虚拟现实全球未来理事会承诺,将时刻保持警惕,并继续努力解决由技术带来的隐患,同时鼓励各类新型工具的开发。实践证明,新型沉浸式工具在全球疫情期间起到了极大的作用。在过去的两年中,这些技术的早期应用领域得以扩大,并且证明,其应用能够使人与人之间的联系更为紧密。

资料来源 WEF