当前位置: 主页 > 卡通 >

【十一充电】米哈游技术总监分享:移动端高品质渲染的实现与优化

时间:2018-10-10 11:51来源:未知 作者:admin 点击:
《崩坏3》的成功业内有目共睹,这款产品不仅在二次元领域收到诸多玩家的热衷,在手游产品技术上,它也实现了诸多突破,比如在手游的高品质渲染领域,《崩坏3》的确做到了国内顶尖水准。 在去年的Unite开发者大会中,米哈游技术总监贺甲分享了他们在PC端用Uni

  《崩坏3》的成功业内有目共睹,这款产品不仅在二次元领域收到诸多玩家的热衷,在手游产品技术上,它也实现了诸多突破,比如在手游的高品质渲染领域,《崩坏3》的确做到了国内顶尖水准。

  在去年的Unite开发者大会中,米哈游技术总监贺甲分享了他们在PC端用Unity引擎探索高品质即时渲染的实现方案。而在今年的Unite 2018开发者大会中,贺甲进一步分享了他们在移动端的具体实现方案。

  两者很大的不同在于,PC端对技术的探索更多会追求极致的表现,因此不会过多在意性能消耗方面的情况,而这项技术实际运用到移动端的《崩坏3》之后,需要考虑更多优化、适配,以及某些情况下更加便捷的实现方案。

  会后,贺甲也接受了媒体群访。在他看来,国内团队想要涉足渲染领域,并做出一定的成效,首先必须搭建对渲染感兴趣的技术团队,以保证准确抓住玩家的需求点。其次要提升整个项目的管理能力,来保证产品的有效输出,而非停留在Demo实现阶段。

  大家好,欢迎来到Unite2018参加这次演讲,我叫贺甲,目前在miHoYo担任技术总监。我和我的团队主要关注PBR(基于物理的渲染技术)和NPR(非真实渲染技术)方面的实时渲染,以及用于动画CG和游戏过场动画的交互式物理研究。

  目前,我们的一部分工作是利用Unity实现高品质的渲染。这次演讲的主题是在Unity上实现高品质渲染的效果,以及这些方法针对各个平台特性进行的优化方案,涵盖了从移动端,到高性能PC等不同等级的平台。

  然后我会谈谈动画风格CG渲染中使用的一些技术,比如插画风格的角色渲染,特殊材质的渲染,特效的渲染及与渲染适配的后期处理等。

  从图中我们可以看出,场景中使用了不少特效来提升表现力,比如bloom后处理效果、动态粒子、平面反射、屏幕扭曲特效等,下面我们将会逐一对这些效果进行解析。

  在移动端实现高品质的反射,平面反射是一个综合了效果和性能因素较好的办法。通常做法是以地面为对称平面,将摄像机放置在对称位置后渲染场景得到反射结果。

  为了能表现出地面的金属质感,首先我们对反射结果应用六边形采样模糊,然后使用金属纹理细节法线贴图来扰动反射结果,除此之外我们还使用了镜面反射贴图和菲涅尔效果来进一步增强反射质感。

  在一些远离地面高度或非水平的次要反射表面上,平面反射就不在适用,为此我们使用环境贴图反射作为替代方案。为了尽量减少渲染反射场景所占用的开销,我们将反射分辨率限制在1/3以下,由于反射贴图会经过模糊处理,即使降低了较多的分辨率也并不能明显看出区别,并且我们在渲染反射的过程中还使用简化版的材质,并忽略一些不是很重要的小物体。

  我们在《崩坏3》的场景中较多的使用了屏幕扭曲效果,比如刀剑的拖尾特效,时空断裂效果,水流瀑布及其他场景效果。

  在渲染扭曲效果的过程中,我们使用3个通道来存储扭曲的渲染结果,两个用于存储uv偏移,另一个用于存储扭曲强度mask,扭曲强度mask用于执行深度剪裁和基于距离的强度控制。

  使用单独的pass渲染扭曲结果到帧缓冲纹理对于移动平台来说开销较大,所以我们在最终的后处理中整合应用了扭曲效果,相比前者要快很多。

  但这种方法也可能导致靠前面的物体由于没有分层处理而混入后面扭曲材质的问题,不过考虑到移动平台的性能限制,相对于整体效果而言这种妥协是值得的。

  整个场景如果开启HDR会使用fp16格式的render target,然后下采样到原始大小的1/4,以便之后的后处理流程使用。

  首先,我们需要指定一个亮度阈值来提取图像中的高亮区域,实现方法也并不复杂,只需从源像素减去阈值,得到的结构就是提取后的高亮度区域,叠加这层内容能使结果看起来更具对比并且色彩鲜艳。

  接下来,我们产生4个大小依次递半的render target,并将其内容应用半径逐渐增大的高斯模糊,最后我们将这些模糊后的结果合并起来,以获得最终的bloom效果。

  从最终的效果图我们可以看到,bloom效果不仅起到用来表达高亮区域的视觉效果,还对整个图像的色彩中起着明显的润色作用。

  我们使用filmic tone mapping与曝光和对比度控制来将fp16 HDR的原图像转换为最终的LDR帧缓冲。由于这些合成操作都是在一个Pass中完成的,所以即使在移动设备上也可以满足性能方面的需求。

  我们想要创造一个能让玩家感受到纵深,具有各种丰富形态以及动态光照变化的云的渲染系统。而该系统也应该易于调整和使用,方便美术可以创造出不同类型的云层效果。

  首先让我们看看渲染云所需要的资源,因为我们想要实现可以24小时动态变化的风格化云的光照效果,如果直接存储画好的贴图数量就会太大而且不方便调整,所以我们使用多层着色来实现这一点。

  我们使用4个通道来表示云的光照及阴影:基础照明层,阴影1层,阴影2层,和边缘光层。通过为每个图层设置不同的颜色,我们就可以获得不同时刻的云的色彩方案。我们一共准备了8种形状不同的云的模板,用来构建各种不同的云海景观。

  为了构建云海景观,我们使用了很多朝向屏幕发射云朵的粒子发射器,并且使用不同的云的模板以及发射模式来组合出不同的云海景观,我们实现了如各种类型的云海以及暴风雨天气等,这些预设都保存在天气配置中。此外我们还使用关键帧来定义天空背景和云彩的颜色。随着时间的流逝,云的色彩就根据关键帧来变化。

  在性能方面主要的开销是overdraw问题,如果我们按照固定控制的pattern来发射云虽然可以以最小的overdraw来获得较好的云海密度,但可能会看起来较为重复,加入产生位置的随机因素可以解决这个问题,但要想获得看起来不那么稀疏的云海效果就需要相比固定pattern更多的粒子数量,我们对于粒子发射配置都有细致的参数可以调整,以便在两者之间可以找到较好的权衡点。

  我们主要通过全局雾效,Skybox颜色和方向光的设置来改变场景的天气和氛围。对于雾效同样有许多参数可以调整。我们给雾效基于深度划分为远近距离两个区间,远近区间都可以设置不同的颜色和强度值来创造各种各样的气氛。Skybox也可以控制天空颜色渐变,云的受光及阴影颜色等。

  另外人物的光照也会受环境的影响,主要的光照颜色由方向光决定,局部区的阴影的变化比如角色走进阴影区域,由一些从关卡编辑器中手工放置的Lighting Volume定义。

  手游中使用景深一般并不常见,因为常见的景深实现对于移动平台来讲还是开销较大,我们主要在人物选择界面和任务简报会话中使用景深效果来突出表现人物。

  由于这些场景不需要景深的过度,我们使用一种特殊的方法来提高移动性能。不使用depth buffer做COC混合,而是使用单独的相机直接绘制背景图层。在应用模糊通过后,通过将背景和前景人物组合在一起来获得最终图像。

  为了得到更好的视觉效果,我们使用六边形采样模式来获得更好的bokeh形状。除此之外还有bokeh强度调整参数,以使其看起来更清晰,我们使用亮度值作为增量因子,2通常是一个合适的值。

  性能方面为了保持性能的稳定,我们模糊背景的分辨率视模糊程度而定,更大的模糊尺寸使用更低的分辨率并且更不容易察觉,我们还使用Unity内置的曲线来描述它们之间的转换关系。

  当给最后一个敌人致命一击的时候就会激发时间,这时所有高速运动的物体都会慢下来,在下雨天我们就可以明确的看到雨滴的形状。

  为了实现这个效果,我们使用了4个代表雨滴不同速度下形态的关键帧,再根据时间快慢尺度对其进行垂直拉伸。在正常的时间尺度下,雨滴看起来像一条直线,在时间变慢的时候逐渐缩短变成雨滴形状。

  刚才我们谈到的都是一些针对移动端优化的渲染功能,下面我们来介绍一下用于动画风格real-time CG或次世代游戏的渲染方法。

  我们将它发布在了B站上,3天内获得了B站全站月榜排行第一的位置,至今已有超过300万的点击量。下面我们就来谈谈这些视频中应用到的一些实时渲染CG技术。

  首先我们来看看角色的渲染,我们的目标是实现完全动态的光照和阴影,所有材质都对各种光照现象做出正确的反应,包括主光源和区域环境光。这就要求我们不能使用任何在纹理上画死的光照表现。

  用于角色渲染的主要特性有:多通道Ramp的材质shading方法,眼睛,头发和其他各向异性材料等特殊材料的处理,以及PCSS角色软阴影和高品质的勾线。

  首先我们来看一下多通道Ramp的shading方法。我们希望角色的阴影和颜色的变化可以表现出更细腻的插画风格,所以我们使用2D ramp纹理来表示这些细微的变化,其中RGB通道分辨用于描述于不同阴影层的漫射阴影范围。

  每个层都可以制定不同的颜色,这样就能在明暗变化中做到精细的色彩变化控制,对于风格的画面,如果上色只是纯明暗变化,阴影处就会显得比较脏,缺乏表现力,而如果提升暗处的饱和度和色相变化,整体色彩看起来就会比较鲜活。而且通过调整垂直纹理采样坐标,我们可以实现动态的软硬风格转换。

  从另一角度来看这种方法还间接表现了皮肤的次表面散射效果。这四幅图展示了多通道逐层上色叠加的效果。

  上下两副图分别展示了采样不同位置的ramp texture所对应的渲染效果,不同的ramp可以获得各种不同的上色风格。使用hard ramp比较接近Cel-shading,soft ramp则是类似与插画柔和的阴影层次变化。

  由于我们使用了2D的ramp纹理,他们之间的变化是可以动态调整的,我们可以使用ramp mask纹理来选择每像素的ramp软硬以实现插画的手绘风格。这个ramp mask纹理可以由美术直接在模型上进行绘制,我们在unity下有一个3D paint工具,使用起来较为直观。

  我们可以使用不同的笔触纹理图案以获得不同的着色风格。对于每个笔刷纹理,我们有4个通道可以存储代表不同方向的笔刷图案,混合使用这些笔刷可以获得更丰富的笔刷变化。右边的两张对比图中,使用笔触纹理的有着更多手绘的感觉。

  同样是基于菲涅尔方法,我们有参数来控制它,比如边缘宽度和平滑度,除了这些全局控制参数之外,我们也使用笔刷纹理来增加一些局部变化。

  我们定义边缘光既可以来自于方向光源也可以来自于环境贴图,使用方向光我们可以按需求定义边缘光,使用环境贴图,我们可以根据环境光照来获得边缘光以显得更真实,两者都比较有用,可以结合使用。为避免边边缘光出现在不需要的区域,我们使用AO纹理和shadowmap来频闭掉遮挡区域。

  风格对于面部一般不会有太多阴影层次的变化,如果我们直接套用之前的ramp方法应用在脸部,效果就会像右侧的图看起来一样不自然,为了改善这种情况我们使用顶点色的一个通道作为mask来控制脸部的上色层的强弱,通过压低漫反射表现来达到想要的效果。

  如果我们直接使用unity内置的CSM阴影,在镜头靠近角色的时候阴影品质并不能满足需求,所以我们就为角色单独渲染了一张shadowmap,以确保恒定的阴影品质;为此我们还实现了基于视锥的shadowmap,根据角色的boundingbox和视锥求交集部分,以此作为渲染区域,就可以最大化阴影贴图的使用率,此外还使用了Variance shadow map以及PCSS来减少阴影瑕疵以及获得自然的软阴影效果。

  另外,如果要实现正确的透明材质阴影,还需要额外的通道根据材质的透明度来存储阴影强度。我们可以从实例图片中看到半透明的裙子可以投射出自然的阴影。

  眼睛的处理我们使用了基于物理的折射计算,普通模型处理眼部的做法通常是把眼白留空,瞳孔凹陷下去,这样在侧面的时候也不会鼓出来显得比较自然,然而如果要做眼部近距离特写,这种做法看上去就不能令人信服。

  使用真实折射算法,眼球本身还是按照球面来做,然后根据视线角度算出折射系数去偏移查找贴图对应点。

  上述对比图显示了有无折射的实际效果,我们可以看到,如果没有折射效果,眼部侧面看上去较为奇怪。此外我们还加入了光线折射后的焦散光效果,使得眼睛的质感得到进一步增强。

  对于非写实风格渲染,物理正确并不是要考虑的因素,由于渲染的特殊情况,我们希望的焦散效果出现在入射光线的另一侧,并且入射角度越平行看起来越明显。

  实现方法是通过入射光和眼球前向的夹角算出入射光强度,这里我们使用inverse diffuse来模拟,再辅助fresnel公式做亮度变化,最后乘上eye caustic纹理得到最终效果。通过对比图我们可以看到如果没有焦散效果眼睛就显得暗淡无光缺乏质感。

  头发是渲染角色较为重要且独特的部分。我们想要实现根据光源动态变化的高光和阴影渐变,并且这个实现还应具备直观的所见即所得的色彩调节能力。

  和皮肤的材质一样,对于头发的漫反射渲染我们同样使用了multi-ramp的方法,而镜面反射高光我们则使用了两层高光做叠加,通过组合高低频的高光成分在一起我们可以得到满意的结果。

  此外,我们还使用Glossy Map和AO纹理来进一步增强头发的质感。头发的高光渲染使用了各向异性高光,相比普通的高光使用normal计算光照,各项异性使用tangent作为计算基础,因此可以使高光显示出垂直于发丝方向的形状。

  我们在制作头发模型的时候,如果模型拓扑较为复杂,uv展开较难做到全部垂直,我们也可以使用flowmap来梳理高光的形状。我们还使用Jittermap抖动贴图用来增强渲染头发的质感。通过扰动切线方向来达到模拟发丝细节的高光效果。

  这四张图分解展示了各个高光成分对渲染结果的影响。而右下角的则是最终的图像。我们可以看到,结合了低频和高频成分的高光显示,头发看起来更具表现力。

  我们的目标同样是使其可以动态化,高光应根据光源和相机位置沿发丝方向移动,形状也应该在移动中有着动态的形态变化。

  Cel-shading风格的头发高光较为独特的形态,很难用传统的高光计算方法来描述。同样我们需要使用切线方向而不是法线来进行高光计算,并且需要更为特殊的方法去表现高光形状。

  首先,我们要把每缕头发模型在垂直方向进行uv展开,以便高光可以沿着每根发束移动。然后从将每一缕从左侧向右侧填充0到1,用来标识动态生成的高光形状的起始和结束位置,我们使用几个曲线定义的模板来描述头发高光的基本形状,然后使用抖动噪声纹理来调制头发高光的粗细变化。

  材质方面有很多参数用来控制生成图案的形状,如位置,偏移,宽度,抖动比例等。通过调整这些参数,我们可以根据需要获得各种不同的形状。

  这次我们使用了副法线方向来计算了高光反射,并使用三个高光层合成在一起获得最终的渲染效果,我们为每一层分别设置不同的颜色,以便最终材质看起来色彩层次较为丰富。

  我们的角色材质中还包括其他特殊的材质,如水晶和纱巾等半透明材质,直接使用alpha混合不能表现出应有的质感,这就需要我们实现折射和模糊效果。这两个效果都依赖于Unity的command buffer。

  实现折射效果时,Command buffer在渲染折射前获取已经渲染好的backbuffer作为背景,用于折射采样,rgb通道设置不同折射系数,分别采样三次来模拟色散效果。

  对于模糊效果,则是用Command buffer将backbuffer降采样并做模糊,生成4张尺寸依次减半模糊度递增的RenderTexture,然后根据相机距离和FOV以及材质固有的模糊参数,确定模糊程度,选择对应的RenderTexture来完成模糊效果。

  我们还对这两者的实现做了一定的优化,不对直接对backbuffer使用全屏模糊,把物体本身作为proxy mesh,只处理需要画的部分。

  对于角色和动态物体我们使用backface勾线方法,并使用顶点色对勾线的宽度进行控制,勾线本身需要连续的顶点法线才能在锐角边不会出现断层,因此我们将平滑过的法线存储在另一套顶点色里,此外,我们也使用顶点色来控制勾线宽度。

  比如,发尖处勾线会逐渐变细,我们通过在顶点颜色填充渐变为0的值以使线条宽度逐渐过渡到零,另外,根据相机与物体之间的距离,还应有基于距离修正的勾线宽度。每种材质上也应该有对应的不同勾线颜色,所有这些功能都是高品质的勾线所必需的。

  Backface勾线方法虽然可以做到较为细致的勾线还原。但他也有着自身的固有缺陷,那就是不能在非边缘的尖锐折线处产生勾线。而这些折线在硬表面模型上是很常见。

  为了解决这个问题,我们添加一个预处理过程来提取这些边缘,并将它们保存到额外的mesh资源中,并使用geometry shader绘制它们。

  对于这些折线我们使用了和backface法类似的调整参数,从而使它们看起来完全相同。增加了折线的绘制之后,我们可以看到右侧的图片捕获到了更多的勾线细节。

  勾线另一种常见方法就是在图像空间中生成轮廓线。通过检测场景图像中normal和depth的不连续性,我们可以获得细节较为丰富的勾线。无论场景的复杂性如何,这种方法的性能都是恒定的,我们还添加了对勾线颜色的色相,明度,饱和度的调整,使勾线更为自然。

  这种方法的缺点则是较难控制勾线的宽度,如果我们想实现距离相关的线宽,我们只能在几个像素的范围内调整它。因此基于图像的方法主要适用于场景轮廓渲染,对于靠近摄像头很近的物体,我们最好使用backface的方法。

  2.连接轮廓线:根据模型的拓补关系,将相邻的轮廓边连接成尽可能长的轮廓线.轮廓线的基础上,根据轮廓线上曲率和可见性的变化,将轮廓线在曲率或可见性的突变处分开:

  这种方法可以达到更为风格化,笔触更明显的勾线方式,pencil+ blender里freestyle render基本都是采用类似的方法,性能开销较大,可以用于CG品质渲染,但不适合直接在游戏中使用。

  我们使用unity内置的曲线来体积光的形状,这在运行时也方便调整形状,强度参数变化同样由曲线定义。为了进一步模拟烟雾效果,我们还使用3D noise纹理来模拟动态烟雾流动的效果。noise烟雾本身也有一些参数可调,比如粒度大小,尺寸比例,噪声强度,流动速度等。

  此外,配合cookie map还可以自定义体积光投影形状,使用cookie map后同时也引入了高频的变化成分,这就需要对应增加采样数来减少走样,使用抖动算法可以减少采样不足导致的走样,我们实现了两种抖动方式:bayer pattern和blue noise, 通过实验发现blue noise配合Temporal AA可以在较低的采样数下实现较好的体积光效果。

  在这个简单的演示场景中,我们使用enlighten来烘焙Real-time GI的Lightmap,然后使用动态自发光材质和体积光作为光源。我们使用AVpro插件解码视频文件,将其设置在自发光纹理上,并设置强度值为1以上。

  ,用于模拟镜头产生的鬼影和星形散射效果。这里使用与bloom类似的方式提取的高光区域作为输入,然后进行多次不同方向上的卷积并应用色彩调制来获得最终结果。

  场景中的大部分材质都是基于物理的渲染。我们对PBR纹理集进行了一些风格化上的适应调整,比如对于色彩的化调整,以及对于物体材质细节的强调或省略。再结合使用图像空间的勾线来强调物体边缘,整体场景的表现就显得更接近动画风格。

  我们使用blendshape来制作面部表情。眼睛,嘴巴和眉毛的表情独立为不同的部件单独制作,然后通过我们的自定义面部表情插件,来实现表情动画的及语音嘴型的自动映射。此外,我们还可以通过预定义不同的表情集合来在交互应用中驱动面部表情。

  为此,我们通过在建模软件中建立了每关节修正的blendshape导入到Unity当中来防止关节变形。我们使用一个自动控制脚本根据关节旋转角度来差值混合形状。为了确保更好的结果,我们为每个关节分别制作了两个blendshaoe,一个用于90度,另一个用于140度以补正关节变形。

  另外一种方法还可以使用额外的骨骼进行关节修正,这种方法更容易制作,但是对于结构细节的表现不如使用blendshape。

  ,比如流体和破碎的场景,我们可以使用alembic格式,或者用EXR纹理作为载体从Houdini或其他DCC工具导入顶点动画资源。

  第一点是实现所有类型材质完全可定制的风格化渲染,目前我们初步在人物皮肤和服装渲染中的应用了笔刷以获得笔触效果,下一步我们希望将其扩展到整个场景的渲染,比如新海诚式的场景风格,以呈现有着独特且统一的风格化动画风格渲染。

  另外一点,是要进一步提高模型的渲染精度,我们希望可以实时呈现CG级的模型精度。可以尝试使用geometry shader或预烘培displacement map进行动态自适应的曲面细分,相比直接导入原始高模,它可以极大减少资源导入的开销和提升运行效率。最后是优化整套流程解决方案,使之更易于实时调整和编辑,进一步提升运行效率以适合在游戏中使用。

  做渲染的话,在原画阶段把想要的效果画出来,然后从原画提供设计概念阶段,进入下一步从技术角度实现这些,我们会有不同的尝试。因为毕竟作为原画角度,可以比较随意的达到所要的效果,从3D角度还原有诸多限制,有些并且不能纯从技术解决角度。我们主要从表现出发,无论用什么样的方式,尽可能逼近手绘的感觉,来完成渲染的效果。

  渲染主要特性:第一,角色。色彩相对于写实方面一些风格化的调整。另外,对于角色渲染阴影的形状,也是有比较细致的考究还原;

  第二,对于角色的造型,也相对与写实二次元的加工,比如说头发,写实的话就是比较碎,不太讲究曲线造型感。但是渲染对头发、身材比例、形态都是有非常考究的追求。所以,我们在建模的时候,也会相当注意这点。

  第三,渲染的时候,因为突出了一些东西,简化了一些元素,突出表现的这些东西,要重点极致的把这些以手绘的风格还原出来。这也是我们渲染重点追求的部分。

  做渲染MV,或者渲染CG的话,基本上需要关注的点是如何把画面做到极致,可以不惜一切代价,把画面做到最好。如果做游戏的话,要权衡各方面的因素。特别是在移动平台,跑的足够快,要考虑到续航等其他因素,所以游戏方面肯定挑战最大,要在画面与性能之间作出比较好的平衡。

  首先要做渲染,团队要对渲染、二次元方面比较感兴趣,只要有兴趣,才能把握住玩家所需要的点,而且才有兴趣做好。

  其次,除了这方面,要在技术做到比较好的实现,要大量查阅国内国外比较主流的实现,按照自己的需求都能实现出来。但是这只是完成预演与项目Demo阶段,真正产品化做出来之后,更多需要整体的控制项目管理能力,如果忽视了这一点的话,可能只能停留在Demo阶段,作为一个完整的项目做出来的话,其他方面综合都是非常重要。

(责任编辑:admin)
栏目列表
推荐内容