靠谱 的软件外包伙伴

您的位置:首页 > 新闻动态 > 视频直播软件开发之现代播放器原理

视频直播软件开发之现代播放器原理

2016-10-14 16:43:53

七牛云于6月底发布了一个针对视频直播的实时流网络LiveNet和完整的直播云解决方案,很多开发者对这个网络和解决方案的细节和使用场景非常感兴趣。

结合该实时流网络LiveNet和直播云解决方案的实践,我们将用七篇文章,更系统化地介绍当下大热的视频直播各环节的关键技术,帮助视频直播创业者们更全面、深入地了解视频直播技术,更好地技术选型。

本系列文章大纲如下:

(一)采集 
(二)处理 
(三)编码和封装 
(四)推流和传输 
(五)延迟优化 
(六)现代播放器原理 
(七)SDK性能测试模型

在上一篇延迟优化中,我们分享了不少简单实用的调优技巧。本篇是《视频直播技术详解》系列之六:现代播放器原理。

近年来,多平台适配需求的增长导致了流媒体自适应码率播放的兴起,这迫使Web和移动开发者们必须重新思考视频技术的相关逻辑。首先,巨头们分分发布了HLS、HDS和Smooth Streaming等协议,把所有相关细节都隐藏在它们专供的SDK中。开发者们没法自由的修改播放器中的多媒体引擎等逻辑:你没法修改自适应码率的规则和缓存大小,甚至是你切片的长度。这些播放器可能用起来简单,但是你没有太多去定制它的选择,即便是糟糕的功能也只能忍受。

但是随着不同应用场景的增加,可定制化功能的需求越来越强。仅仅是直播和点播之间,就存在不同的buffer管理、ABR策略和缓存策略等方面的差别。这些需求催生了一系列更为底层关于多媒体操作API的诞生:Flash上面的Netstream,HTML5上的Media Source Extensions,以及Android上的Media Codec,同时业界又出现了一个基于HTTP的标准流格式MPEG-DASH。这些更高级的能力为开发者提供了更好的灵活性,让他们可以构建适合自己业务需求的播放器和多媒体引擎。

今天我们来分享一下如何构建一个现代播放器,以及构建这样一个播放器需要哪些关键组件。通常来说,一个典型的播放器可以分解成三部分:UI、多媒体引擎和解码器,如图1所示:

图片描述

 

图1 现代播放器架构

 

  • 用户界面(UI):这是播放器最上层的部分。它通过三部分不同的功能特性定义了终端用户的观看体验:皮肤(播放器的外观设计)、UI(所有可自定义的特性如播放列表和社交分享等)以及业务逻辑部分(特定的业务逻辑特性如广告、设备兼容性逻辑以及认证管理等)。

  • 多媒体引擎:这里处理所有播放控制相关的逻辑,如描述文件的解析,视频片段的拉取,以及自适应码率规则的设定和切换等,我们将在下文中详细讲解这部分内容。由于这些引擎一般和平台绑定的比较紧,因此可能需要使用多种不同的引擎才能覆盖所有平台。

  • 解码器和DRM管理器:播放器最底层的部分是解码器和DRM管理器,这层的功能直接调用操作系统暴露出来的API。解码器的主要功能在于解码并渲染视频内容,而DRM管理器则通过解密过程来控制是否有权播放。

接下来我们将使用例子来介绍各层所扮演的不同角色。

一、用户界面(UI)

UI层是播放器的最上层,它控制了你的用户所能看到和交互的东西,同时也可以使用你自己的品牌来将其定制,为你的用户提供独特的用户体验。这一层最接近于我们说的前端开发部分。在UI内部,我们也包含了业务逻辑组件,这些组件构成了你播放体验的独特性,虽然终端用户没法直接和这部分功能进行交互。

UI部分主要包含三大组件:

1. 皮肤

皮肤是对播放器视觉相关部分的统称:进度控制条、按钮和动画图标等,如图2所示。和大部分设计类的组件一样,这部分组件也是使用CSS来实现的,设计师或者开发者可以很方便地拿来集成(即便你使用的是JW Player和Bitdash这种整套解决方案)。

图片描述

 

图2 播放器皮肤

 

2. UI逻辑

UI逻辑部分定义了播放过程中和用户交互方面所有可见的交互:播放列表、缩略图、播放频道的选择以及社交媒体分享等。基于你预期达到的播放体验,还可以往这部分中加入很多其它的功能特性,其中有很多以插件的形式存在了,或许可以从中找到一些灵感:https://github.com/videojs/video.js/wiki/Plugins#community-plugins

UI逻辑部分包含的功能较多,我们不一一详细介绍,直接以Eurosport播放器的UI来作为例子直观感受一下这些功能。

图片描述

 

图3 Eurosport播放器的用户界面

 

从图3可以看出,除了传统的UI元素之外,还有一个非常有趣的特性,在用户观看DVR流媒体的时候,直播以小视窗的形式展示,观众可以通过这个小窗口随时回到直播中。由于布局或者UI和多媒体引擎完全独立,这些特性在HTML5中使用dash.js只需要几行代码就能实现。

对于UI部分来说,最好的实现方式是让各种特性都以插件/模块的形式添加到UI核心模块中。

3. 业务逻辑

除了上面两部分「可见」的功能特性之外,还有一个不可见的部分,这部分构成了你业务的独特性:认证和支付、频道和播放列表的获取,以及广告等。这里也包含一些技术相关的东西,比如用于A/B测试模块,以及和设备相关的配置,这些配置用于在多种不同类型的设备之间选择多个不同的媒体引擎。

为了揭开底层隐藏的复杂性,我们在这里更详细的讲解一下这些模块:

设备检测与配置逻辑:这是最重要的特性之一,因为它将播放和渲染剥离开来了。例如,基于你浏览器的不同版本,播放器可能会自动为你选择一个基于HTML5 MSE的多媒体引擎hls.js,或者为你选择一个基于flash的播放引擎FlasHls来播放HLS视频流。这部分的最大特点在于,无论你使用什么样的底层引擎,在上层都可以使用相同的JavaScript或者CSS来定制你的UI或者业务逻辑。

能够检测用户设备的能力允许你按需配置终端用户的体验:如果是在移动设备而非4K屏幕设备上播放,你可能需要从一个较低的码率开始。

A/B测试逻辑:A/B测试是为了能够在生产环节中灰度部分用户。例如,你可能会给部分Chrome用户提供一个新的按钮或者新的多媒体引擎,并且还能保证它所有的工作都正常如期进行。

广告(可选):在客户端处理广告是最复杂的业务逻辑之一。如videojs-contrib-ads这个插件模块的流程图给出一样,插入广告的流程中包含多个步骤。对于HTTP视频流来说,你或多或少会用到一些已有的格式如VAST、VPAID或者Google IMA,它们能够帮你从广告服务器中拉取视频广告(通常是过时的非自适应格式),放在视频的前期、中期和后期进行播放,且不可跳过。

总结

针对你的定制化需求,你可能选择使用包含所有经典功能的JW Player来播放(它也允许你定制部分功能),或者基于Videojs这样的开源播放器来定制你自己的功能特性。甚至为了在浏览器和原生播放器之间统一用户体验,你也可以考虑使用React Native来进行UI或者皮肤的开发,使用Haxe来进行业务逻辑的开发,这些优秀的库都可以在多种不同类型的设备之间共用同一套代码库。

图片描述

 

图4 业务逻辑流程图

 

二、多媒体引擎

近年来,多媒体引擎更是以一种全新独立的组件出现在播放器架构中。在MP4时代,平台处理了所有播放相关的逻辑,而只将一部分多媒体处理相关的特性(仅仅是播放、暂停、拖拽和全屏模式等功能)开放给开发者。

然而,新的基于HTTP的流媒体格式需要一种全新的组件来处理和控制新的复杂性:解析声明文件、下载视频片段、自适应码率监控以及决策指定等甚至更多。起初,ABR的复杂性被平台或者设备提供商处理了。然而,随着主播控制和定制播放器需求的递增,一些新的播放器中慢慢也开放了一些更为底层的API(如Web上的Media Source Extensons,Flash上的Netstream以及Android平台的Media Codec),并迅速吸引来了很多基于这些底层API的强大而健壮的多媒体引擎。

图片描述

 

图5 Google提供的多媒体处理引擎Shakaplayer的数据流程图

 

接下来我们将详细讲解现代多媒体处理引擎中各组件的细节:

1. 声明文件解释和解析器

在基于HTTP的视频流中,一切都是以一个描述文件开始。该声明文件包含了媒体服务器所需理解的元信息:有多少种不同类型的视频质量、语言以及字母等,它们分别是什么。解析器从XML文件(对于HLS来说则是一种特殊的m3u8文件)中取得描述信息,然后从这些信息中取得正确的视频信息。当然,媒体服务器的类型很多,并不是所有都正确地实现了规范,因此解析器可能需要处理一些额外的实现错误。

一旦提取了视频信息,解析器则会从中解析出数据,用于构建流式的视觉图像,同时知道如何获取不同的视频片段。在某些多媒体引擎中,这些视觉图像先以一副抽象多媒体图的形式出现,然后在屏幕上绘制出不同HTTP视频流格式的差异特征。

在直播流场景中,解析器也必须周期性地重新获取声明文件,以便获得最新的视频片段信息。

2. 下载器(下载声明文件、多媒体片段以及密钥)

下载器是一个包装了处理HTTP请求原生API的模块。它不仅用于下载多媒体文件,在必要的时候也可以用于下载声明文件和DRM密钥。下载器在处理网络错误和重试方面扮演着非常重要的角色,同时能够收集当前可用带宽的数据。

注意:下载多媒体文件可能使用HTTP协议,也可能使用别的协议,如点对点实时通信场景中的WebRTC协议。

3. 流播放引擎

流播放引擎是和解码器API交互的中央模块,它将不同的多媒体片段导入编码器,同时处理多码率切换和播放时的差异性(如声明文件和视频切片的差异,以及卡顿时的自动跳帧)。

4. 资源质量参数预估器(带宽、CPU和帧率等)

预估器从各种不同的维度获取数据(块大小,每片段下载时间,以及跳帧数),并将其汇聚起来用于估算用户可用的带宽和CPU计算能力。这是输出用于ABR(Adaptive Bitrate,自适应码率)切换控制器做判断。

5. ABR切换控制器

ABR切换器可能是多媒体引擎中最为关键的部分——通常也是大家最为忽视的部分。该控制器读取预估器输出的数据(带宽和跳帧数),使用自定义算法根据这些数据做出判断,告诉流播放引擎是否需要切换视频或者音频质量。

该领域有很多研究性的工作,其中最大的难点在于在再缓冲风险和切换频率(太频繁的切换可能导致糟糕的用户体验)之间找到平衡。

6. DRM管理器(可选组件)

今天所有的付费视频服务都基于DRM管理,而DRM则很大程度上依赖于平台或者设备,我们将在后续讲解播放器的时候看到。多媒体引擎中的DRM管理器是更底层解码器中内容解密API的包装。

只要有可能,它会尽量通过抽象的方式来屏蔽浏览器或者操作系统实现细节的差异性。该组件通常和流处理引擎紧密连接在一起,因为它经常和解码器层交互。

7. 格式转换复用器(可选组件)

后文中我们将看到,每个平台在封包和编码方面都有它的局限性(Flash读的是FLV容器封装的H.264/AAC文件,MSE读的是ISOBMFF容器封装的H.264/AAC文件)。这就导致了有些视频片段在解码之前需要进行格式转换。例如,有了MPEG2-TS到ISOBMFF的格式转换复用器之后,hls.js就能使用MSE格式的内容来播放HLS视频流。多媒体引擎层面的格式转换复用器曾经遭受质疑;然而,随着现代JavaScript或者Flash解释权性能的提升,它带来的性能损耗几乎可以忽略不计,对用户体验也不会造成多大的影响。

总结

多媒体引擎中也有非常多的不同组件和特性,从字幕到截图到广告插入等。接下来我们也会单独写一篇文章来对比多种不同引擎的差异,通过一些测试和市场数据来为引擎的选择给出一些实质性的指导。值得注意的是,要构建一个兼容各平台的播放器,提供多个可自由替换的多媒体引擎是非常重要的,因为底层解码器是和用户平台相关的,接下来我们将重点讲解这方面的内容。

三、解码器和DRM管理器

出于解码性能(解码器)和安全考虑(DRM),解码器和DRM管理器与操作系统平台密切绑定。

图片描述

 

图6 解码器、渲染器和DRM工作流程图

 

1. 解码器

解码器处理最底层播放相关的逻辑。它将不同封装格式的视频进行解包,并将其内容解码,然后将解码后的视频帧交给操作系统进行渲染,最终让终端用户看到。

由于视频压缩算法变得越来越复杂,解码过程是一个需要密集计算的过程,并且为了保证解码性能和流畅的播放体验,解码过程需要强依赖于操作系统和硬件。现在的大部分解码都依赖于GPU加速解码的帮助(这也是为什么免费而更强大的VP9解码器没有赢得H.264市场地位的原因之一)。如果没有GPU的加速,解码一个1080P的视频就会占去70%左右的CPU计算量,并且丢帧率还可能很严重。

在解码和渲染视频帧的基础之上,管理器也提供了一个原生的buffer,多媒体引擎可以直接与该buffer进行交互,实时了解它的大小并在必要的时候刷新它。

我们前面提到,每个平台都有它自己的渲染引擎和相应的API:Flash平台有Netstream,Android平台有Media Codec API,而Web上则有标准的Media Sources Extensions。MSE越来越吸引眼球,将来可能会成为继浏览器之后其它平台上的事实标准。

2. DRM管理器

图片描述

 

图7 DRM管理器

 

今天,在传输工作室生产的付费内容的时候,DRM是必要的。这些内容必须防止被盗,因此DRM的代码和工作过程都向终端用户和开发者屏蔽了。解密过的内容不会离开解码层,因此也不会被拦截。

为了标准化DRM以及为各平台的实现提供一定的互通性,几个Web巨头一起创建了通用加密标准Common Encryption(CENC)和通用的多媒体加密扩展Encrypted Media Extensions,以便为多个DRM提供商(例如,EME可用于Edge平台上的Playready和Chrome平台上的Widewine)构建一套通用的API,这些API能够从DRM授权模块读取视频内容加密密钥用于解密。

CENC声明了一套标准的加密和密钥映射方法,它可用于在多个DRM系统上解密相同的内容,只需要提供相同的密钥即可。

在浏览器内部,基于视频内容的元信息,EME可以通过识别它使用了哪个DRM系统加密,并调用相应的解密模块(Content Decryption Module,CDM)解密CENC加密过的内容。解密模块CDM则会去处理内容授权相关的工作,获得密钥并解密视频内容。

CENC没有规定授权的发放、授权的格式、授权的存储、以及使用规则和权限的映射关系等细节,这些细节的处理都由DRM提供商负责。

四、总结

今天我们深入了解了一下视频播放器三个层面的不同内容,这个现代播放器结构最优秀之处在于其交互部分完全和多媒体引擎逻辑部分分离,让主播可以无缝而自由灵活地定制终端用户体验,同时在多种不同终端设备上使用不同的多媒体引擎还能保证顺利播放多种不同格式的视频内容。

在Web平台,得益于多媒体引擎如dash.js、Shaka Player和hls.js这些趋于成熟库的帮助,MSE和EME正在成为播放的新标准,同时越来越多有影响力的厂家也使用这些播放引擎。近年来,注意力也开始投向机顶盒和互联网电视,我们也看到越来越多这样的新设备使用MSE来作为其底层多媒体处理引擎。我们也将持续投入更多的力量去支持这些标准。

 

关于:中科研拓
深圳市中科研拓科技有限公司专注提供软件外包、app开发、智能硬件开发、O2O电商平台、手机应用程序、大数据系统、物联网项目等开发外包服务,十年研发经验,上百成功案例,中科院软件外包合作企业。通过IT技术实现创造客户和社会的价值,致力于为用户提供最佳的软件解决方案。联系电话400-0316-532,邮箱sales@zhongkerd.com,网址www.zhongkerd.com


  上一篇   [返回首页] [打印] [返回上页]   下一篇