以2025年中央广播电视总台春节联欢晚会为例,解析国产化AR虚拟系统架构及在传统横屏、新媒体竖屏、听障版直播内容制作的跨屏复用,以及基于“AI大模型+智能学习本地词库”的AI同声字幕的生成。
0 引言
近年来,随着虚拟渲染技术的不断进步,在大型文艺晚会和电视直播节目制作中实现了技术的提质升级,可增强视觉效果、提升制作效率、减少使用成本。特别是在电视节目制作中得到广泛应用,“虚拟演播室技术作为一种对叙事方式和表现手段进行重构的新技术,改变了广电媒体的传统拍摄及制作流程,可以虚拟某些场景,巧妙穿插入现实,省去原来需要户外取景的过程。”[1]
中央广播电视总台春节联欢晚会(以下简称:总台春晚)已经成为中国传统春节文化的重要组成部分,具有超大规模的受众覆盖与极高的安全播出要求,其制作工艺和创新成果代表了中国广电行业的最高水平,充分展示了总台“5G+4K/8K+AI”战略布局的技术实力和创新成果,践行了“思想+艺术+技术”融合的创新理念。
2025年总台春晚持续应用前沿技术和创新设计,在新媒体端竖屏首次进行了听障版的无障碍转播;应用虚拟渲染技术的节目超过七成,根据节目对动画切换和触发的需求,实际制作的虚拟场景数量更是多达68个,创下历年之最。笔者通过对2025年总台春晚技术制作案例的分析,探讨虚拟渲染技术在电视节目制播流程及内容呈现中的创新应用,解析国产化AR虚拟系统架构及在传统横屏、新媒体竖屏、听障版直播内容制作的跨屏复用,以及基于“AI大模型+智能学习本地词库”的AI同声字幕的生成。
1 虚拟渲染技术及在节目制作中的发展
虚拟渲染技术融合了计算机图形学、三维建模与实时渲染等多项技术,通过计算机生成图像和实时渲染,构建出虚拟环境、特效及动画元素,广泛应用于数字内容创作、实时交互和虚拟环境构建等领域。虚拟渲染技术经历了从静态渲染到实时渲染、从二维平面到三维立体的发展历程。随着系统硬件性能的提升和渲染算法的优化,实时渲染如今已经能够呈现接近真实画面的视觉效果。
虚拟渲染技术能够在虚拟空间中创造出高度逼真和动态的视觉效果,在视觉艺术创作中发挥至关重要的作用,极大地推动了影视制作、文旅演出、电玩游戏等领域的技术革新。虚拟渲染技术的应用初期,实现复杂,成本高,因此在广电行业主要应用于电视等大尺寸显示终端的节目制作。随着技术进步和提效降本,应用逐渐扩展至小尺寸屏幕和新媒体终端的节目制作,并实现了同一节目中视觉元素的通用性与可复用性。这种从大屏到小屏的普适性,不仅拓展了该技术的应用场景,还推动了多终端一体化设计制作的协同发展,为数字内容创作与发布提供了更灵活的技术支持。
2 虚拟渲染技术的跨屏应用
2025年总台春晚全面应用超高清、虚拟现实、人工智能、立体视觉和三维声等先进技术,构建了国产化AR虚拟系统,在虚拟渲染技术方面取得了显著突破,推进了“双轨制播”技术体系发展。这一技术体系能够将同一节目在大屏和小屏上的虚拟内容进行统一制作,实现“虚拟资产跨屏复用”,并借助国产化AR虚拟系统和实时渲染引擎,确保不同终端的视觉效果高度一致。除了技术的协同性,虚拟渲染技术的跨屏应用还做到了艺术的统一性,虚拟渲染技术通过设计的高度一致性和可复用性,实现了同一节目不同版本之间的视觉风格统一。例如,听障版《岁月里的花》中的漫山花海、《过年好》中的年味环境以及手语演员的舞台设计,均以主视觉元素为基础,结合沉浸式虚实融合技术,在不同终端上呈现一致的艺术表达。
2.1 国产化AR虚拟系统
2025年总台春晚使用的AR虚拟系统,是针对AR制作构建的国产化系统,通过4K HLG标准的广播级I/O板卡构建了SDI全链路接入体系,对应总台一号演播厅的5个虚拟机位,配备了10台主/备渲染工作站,确保虚拟场景的高质量呈现和高效切换。同时,结合LED大屏幕立体视觉、在线图文包装和AI同声字幕等技术完成后期合成制作。针对直播环境,系统采用主/备模式搭建,主链路出现异常时可立即切换至备链路,确保直播信号的安全。此外,在系统内还建立了集控平台,实现多机位、多场景的帧同步播控管理,仅一人即可完成主备链路的机位切换,节省了人工成本。
国产化AR虚拟系统支持虚幻引擎(Unreal Engine)5.3版本实时渲染引擎的Nanite、Lumen等多项新功能。Nanite技术能够快速渲染大量的三角形面,并且可以将这些三角形面无损地压缩成较少的三角形面;且几何体中的三角形通常是像素级大小,这要求阴影精确到像素级别。使用Nanite技术,可以直接导入高精度的模型,无需考虑多边形数量限制,从而大幅提升渲染效率和画面质量。此外,Nanite技术还可根据相机距离和视野动态调整渲染细节,进一步优化渲染效率。Lumen全动态全局光照解决方案,可以创建动态、仿真的场景,使用多种光线追踪方法来解决全局光照和反射。这些功能可实现电影级别的场景渲染、光影投射和材质纹理效果,使节目的沉浸效果和仿真效果得到进一步提升。
该AR虚拟系统的输出部分,支持高清和4K多种分辨率,以及更广色域,高度还原虚拟场景的真实色彩。AR虚拟系统可设置跟踪数据、镜头文件、输入输出通道、渲染分辨率、反射参数及色域转换等项参数,且配置流程便捷。在完成虚拟场景构建、动态视觉包装及多图层特效开发后,通过12G-SDI接口将实拍画面与虚拟场景元数据同步传输至实时合成模块,实现虚拟与现实场景的合成,并输出到演播室制作域,经过切换台、视频矩阵系统等设备分别输出到横屏、竖屏等显示终端。
2.2 横屏制作与配置
使用操作软件前,首先需要根据实际情况配置跟踪源的“跟踪数据”,通常选择为摄像机等跟踪设备。默认情况下,系统使用用户数据报协议(UDP)接口进行数据传输,如遇到跟踪设备没有网络接口的情况,也可通过选择“使用串口(Use Serial Port)”进行采集,适配不同的演播室应用场景。首次连接跟踪信号后,若数据包含对焦或变焦信息,系统会自动记录其最大值和最小值,这些数据可以保存为实时跟踪数据预置文件(Live link)。如果跟踪原点与虚拟场景中的摄像机原点不一致,需手动调整原点及坐标轴方向,使其保持一致。跟踪数据配置成功后,按照制作需求导入“镜头文件”,并设置板卡的输入输出通道、分辨率和色域,同时创建整体配置的预置文件,便于后续的快速部署和复用。
完成系统的基础配置及AR场景的前期开发后,系统即可实现实时镜头追踪功能,根据摄像机推、拉、摇、移等操作,虚幻引擎同步驱动AR场景跟随实景变化,实现画面的高精度虚实对位。在后续优化阶段,将对镜头畸变参数进行二次校准,微调追踪数据延迟补偿值,并启用渲染帧率同步锁定功能,确保虚拟元素的光影变化与物理空间运动轨迹精确匹配,实现毫米级的虚实空间对位,达到虚实画面无缝融合的效果。
在节目《如意》中,通过虚幻引擎进行精确的同步调度,实现虚拟空间与拍摄空间的对位。随着歌曲的展开,AR制作的如意球缓缓从实体画面中升起,最终如意球化作无数吉祥如意飞向画面外祖国的每个角落。如图1所示。通过虚拟渲染技术的应用,节目呈现出非常规的摄影机视角、运动和画面效果,打破了现实画面的局限,赋予创作更多想象力[3]。
图1 歌曲《如意》视频终端呈现画面
2.3 竖屏制作与配置
2025年是总台“竖屏看春晚”实施的第四年,竖屏内容制作中所使用的AR虚拟系统延续了横屏制作系统的核心架构,并具备智能横竖屏实时切换功能。该系统应用图像识别和AI跟踪技术,基于计算机视觉和深度学习模型,结合5G-A浅压缩与低时延移动跟踪拍摄技术,通过实时分析画面主体运动轨迹并结合特征跟踪算法进行动态重构,实现了从演员候场、台上表演到谢幕下场的实时视频生成。智能横屏转竖屏实时裁切技术既能精准识别和定位横屏节目中的核心要素,又能根据竖屏空间特性重构视觉层次,在聚焦主体的同时强化视觉冲击,解决了以往画面裁切和信息丢失的问题。
为更好地适应竖屏手机的视觉特点,在保持基础配置和操作流程高度一致的前提下,在春晚演播室内新增了专门的摄像机机位。在系统配置时,需要测量摄像机与原点的距离及位置关系,确保摄像机与虚拟场景的精准匹配。原点是指跟踪系统设定的空间基准点,用于定义整个跟踪坐标系(如三维空间坐标系)的起始位置,作为所有位置和运动数据的测量基准。系统还需根据实际的输入输出通道、分辨率和色域进行调整。例如,在演播室全局以高清制播时,配置板卡的输入输出口,分辨率设为1080P,默认色域为标准动态范围(Standard Dynamic Range,SDR),若有特殊需求也可将色域设置为高动态范围(High Dynamic Range,HDR)模式,并最终保存为竖屏模板供后续使用。
2.4 虚拟资产跨屏复用
在竖屏制作方面,由于使用原生画幅9∶16而非裁切的方式进行渲染输出,故采用了“虚拟资产跨屏复用”模式,可以直接使用现有的AR虚拟资产库,在保持虚拟元素物理属性(如重力模拟、粒子运动轨迹等)不变的前提下,依据9∶16画幅特性调整坐标矩阵,将横屏场景的X/Y/Z轴映射到竖屏的Y/Z/X轴,从而实现三维空间的转换。在可视化操作界面中,AR虚拟资产的位置参数能通过相对坐标系进行偏移设置,尺寸参数则采用了等比缩放公式进行调整。在实际操作中,只需选择预设的配置文件,即可自动完成大部分适配工作,如果导演组提出其他个性化的表现形式,则可通过更加直观的拖拽式操作界面加以完成。
如通过坐标参数设置对AR烟花、生肖吉祥物等虚拟元素进行了位置偏移量补偿和比例适配,确保虚拟特效在竖屏9:16的画幅中也能遵循物理运动规律,使竖屏AR虚拟制作可兼容横屏已完成的AR虚拟制作。
3 虚拟渲染技术在听障版直播中的应用
2025年总台春晚首次进行了视障版和听障版的无障碍版直播,采用前沿技术,巧妙融合美术手段,不仅生动展现了各节目文化内涵,还通过创新设计增强了观众与演员之间的共鸣,提升了观众的代入感。其中,听障版通过央视频等新媒体平台,以竖屏形式播出。根据听障人士的观看习惯,听障版直播在竖屏的上下区域同步展示春晚节目与手语表演画面,并在中部区域实时显示同声字幕,让听障观众在欣赏春晚大屏节目的同时,能通过字幕信息理解节目的内容,通过手语演员生动的手势、表情和肢体语言,增强感官体验。如图2所示。
图2 听障版直播融合呈现画面
听障版演播系统如图3所示。手语表演在虚拟演播室以绿幕为背景,经过绿幕抠像、虚拟场景设计,生成手语表演画面。同时,节目音频通过AI同声字幕系统实时生成字幕。系统将节目实景、手语表演画面和实时字幕进行竖屏多画面包装,生成手语表演置身春晚演播大厅的竖屏画面,并送集发平台播出。实景与虚拟演播区巧妙融合,实现了虚实结合的演播效果。
图3 听障版演播系统拓扑图
3.1 绿幕抠像
在虚拟演播区中,应用虚幻引擎实现绿幕舞台的实时色键抠像。虚幻引擎基于多模态数据融合架构,通过色度空间解析,在绿幕中实现像素级精度的抠像。虚幻引擎还能够动态捕捉手语演员的细微肢体动作,有效过滤掉环境光造成的色键噪点干扰,使手语演员与虚拟场景精准对位。
在抠像过程中,虚幻引擎支持多种参数的调节功能,以获得所需的抠像效果。如颜色容差(Color Tolerance)参数可以调节对目标颜色的敏感度,增大容差能提升对相近颜色的识别宽容度,减少抠像边缘不干净的现象;羽化边缘(Feathering)参数则用于软化边缘,使过渡更加自然,但需注意尽量避免设置过高的羽化值,防止出现主体边缘模糊的情形。
3.2 虚拟场景设计
2025年总台春晚节目中,超过20个节目使用了虚拟背景画面。部分节目专门为手语演员设计了突出其表演的手语演播空间,以春晚的主视觉元素为基础,通过多层环形结构,确保手语表演能清晰有效地传达节目信息,不会受到其他包装元素的干扰。同时,手语演播空间外部的虚拟场景与春晚现场节目内容形成呼应。例如,《岁月里的花》呈现了漫山花海的虚拟场景,这种设计兼具功能性和艺术性,符合歌曲表达的意境。再如《孤勇者》,为契合现场表演呈现的场景,设计师在手语演员身后创作了一个与演播厅真实结构相符的虚拟空间,并通过AR技术结合演播厅内的摄像机信号,将虚拟场景与现场实景巧妙融合。如图4所示。
图4 《岁月里的花》及《孤勇者》制作效果
通过虚拟场景的设计,手语演员仿佛置身于春晚现场,虚拟与现实的结合有效提升了画面视觉效果,避免了听障观众因长时间观看单一内容而产生的视觉疲劳。
3.3 AI同声字幕的生成
听障版春晚采用人工智能技术,实现与直播信号同步的实时字幕,以满足听障群体的观看需求。AI同声字幕系统通过接收现场节目的PGM音频信号,实时进行音频识别与转写。为提高关键词识别的准确率,字幕系统采用“AI大模型+智能学习本地词库”的技术,结合大模型的语音识别能力进行精准转写。此外,字幕系统会在每次彩排时,根据转写和校对结果生成小包数据,并通过模型优化不断提升识别效果。例如,针对主持人串词中的特定名词(如“小撒”“小尼”等),字幕系统会在彩排中不断更新本地词库,从而持续提高识别精度。AI同声字幕系统通过提取音频特征,并结合优化后的本地词库,进一步提升语音识别的准确性,确保直播字幕更加精准、简洁、流畅。
4 结语
2025年总台春晚在大屏端及新媒体端都有技术创新与应用,特别是运用虚拟渲染技术首次制作听障版,提升了听障人士的观赏体验。
随着计算机图形学、云计算、超高清视频、5G和人工智能等前沿技术的协同发展,虚拟渲染技术将在广电及全媒体领域的应用中构建更加丰富、逼真、沉浸式和互动性的场景,进一步激发艺术创作的无限想象力。前沿技术的应用将推动高精度的场景构建与动态光照效果的实现,结合超高清视频的高分辨率、广色域和高动态范围特性,能够更好地展现艺术表达,制作出媲美电影级画面的视觉效果。同时,数字人、元宇宙和AIGC(人工智能生成内容)等技术的协同作用,不仅能优化渲染过程,提高渲染效率,还能自动生成细节材质,修复渲染缺陷,为虚拟渲染技术带来更强大的功能。通过构建基于媒体云架构的大算力、低延迟节目生产制作节点,虚拟渲染技术将突破传统本地硬件的限制,拓展更广阔的应用场景。
未来,随着虚拟渲染技术的自动化和智能化水平不断提升,将能够实现更复杂的场景渲染和更高分辨率的特效画面,呈现更加真实的视觉效果,打造更加细腻自然的沉浸式体验,进而大幅降低制作成本,提高创作效率,促进沉浸式媒体消费的快速增长和普及。
(图文来源:《演艺科技》2025年第一期《虚拟渲染技术在电视节目中的创新应用——以2025年中央广播电视总台春节联欢晚会为例》,作者 | 刘 钊。除原创作品外,本平台所使用的文章、图片、视频及音乐属于原权利人所有,仅用于行业学习交流,并不用于商业用途。文中观点为作者独立观点,因客观原因,或会存在不当使用的情况,如,部分文章或文章部分引用内容未能及时与原作者取得联系,或作者名称及原始出处标注错误等情况,非恶意侵犯原权利人相关权益,敬请相关权利人谅解并与我们联络第一时间处理,共同维护良好的网络创作环境。)