网络流媒体协议的联系与区别(RTP RTCP RTSP RTMP HLS)

# 网络流媒体协议的联系与区别(RTP RTCP RTSP RTMP HLS) [toc] --- # 三句话简结 ## RTP RTCP RTSP RTMP HLS区别与联系 **`RTP传输流媒体数据、RTCP对RTP进行控制，同步、RTSP发起/终止流媒体`** **`RTP和RTCP互为姐妹关系，RTSP可以使用RTP来传输数据，但并没有绑定关系也可以使用TCP/UDP`** **`RTSP、RTMP、HLS都可以做直播和点播，它们是三种不同的应用层协议`** # 流媒体各协议层次图  **`关于RTP(RTCP)协议位置的理解：`** RTP实际上介于应用层和传输层之间。同时具有应用层和传输层的各种特点。这个特点需要仔细甄别。 从应用开发者的角度看，RTP应该是应用层的一个部分。在应用程序的发送端，开发者必须编写用RTP封装分组（数据包）的程序代码，然后把该RTP分组交给UDP套接字接口。在接收端设备，RTP分组通过UDP套接字接口进入应用层程序后，会利用开发者编写的程序代码把RTP分组从应用数据块提取出来。RTP实际上为视频程序的开发者提供了一个开发平台。 RTP也可以理解为运输层协议，实际上RTP协议偏重于传输层，是UDP协议（用户数据报）上边的一层协议。因为RTP封装了多媒体应用（包括视频流、音频流）的数据块，关键是提供运输层的服务（时间戳，序号、同步源标识符等），因此可以把RTP看成一层UDP上的运输层子层协议，特别要注意是子层协议。 综合来看，RTP协议实际上是一个介于传输层和应用层之间的协议，作用是在UDP协议之上完成一次对媒体流的封装。 # 基于RTP的流式媒体 流式传输是实现流媒体的关键技术。使用流式传输可以边下载边观看流媒体节目。由于Internet是基于分组传输的，所以接收端收到的数据包往往有延迟和乱序(流式传输构建在UDP上) 要实现流式传输，就要从降低延迟和恢复数据包时序入手。 **`「在发送端，为降低延迟，往往对传输数据进行预处理(降低质量和高效压缩(常见压缩格式如aac/h264...))」`** **`「在接收端为了恢复时序，常采用接收缓冲，而为了实现媒体的流畅播放，一般会使用播放缓冲」`** ## RTP RTP(Real-time Transport Protocol)协议创建在UDP协议上常配合RTSP和RTCP一起使用。用于实时传输网络中的多媒体数据，提供端到端的实时传输服务，但并不保证服务质量，服务质量由RTCP来提供。 RTP是流媒体协议族中最基础的一个协议了，它是IETF提出的一个标准，对应RFC文档RFC3550，RFC3550不仅定义了RTP还定义了配套相关协议RTCP。 **`RTP协议主要职责就是负责流媒体数据包和媒体流的实时传输，每个RTP数据报文由头(header)和装载(Payload)两部分组成，其中头的前12个字节的含义是固定的，装载的数据可以是音频或视频数据。RTP数据报的报头格式如下所示:`**  **`「可以将RTP比作一辆货车，货车里面可以随意装东西，但是容积有限制，如果太大你就需要分包，一辆一辆装车发送过，另外可能也不一定按序到达对端，甚至可能失踪」`** **`RTP载荷类型`** 因为有些类型由于诞生的较晚，没有具体的PT值，只能使用动态（dynamic）PT值，即96-127，这就是为什么大家普遍指定H264的PT值为96。 ```cpp rtp_payload_types[] = { {0, "PCMU", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_PCM_MULAW, 8000, 1}, {3, "GSM", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_NONE, 8000, 1}, {4, "G723", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_G723_1, 8000, 1}, {5, "DVI4", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_NONE, 8000, 1}, {6, "DVI4", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_NONE, 16000, 1}, {7, "LPC", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_NONE, 8000, 1}, {8, "PCMA", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_PCM_ALAW, 8000, 1}, {9, "G722", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_ADPCM_G722, 8000, 1}, {10, "L16", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_PCM_S16BE, 44100, 2}, {11, "L16", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_PCM_S16BE, 44100, 1}, {12, "QCELP", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_QCELP, 8000, 1}, {13, "CN", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_NONE, 8000, 1}, {14, "MPA", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP2, -1, -1}, {14, "MPA", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_MP3, -1, -1}, {15, "G728", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_NONE, 8000, 1}, {16, "DVI4", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_NONE, 11025, 1}, {17, "DVI4", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_NONE, 22050, 1}, {18, "G729", AVMEDIA_TYPE_AUDIO, AV_CODEC_ID_NONE, 8000, 1}, {25, "CelB", AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_NONE, 90000, -1}, {26, "JPEG", AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MJPEG, 90000, -1}, {28, "nv", AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_NONE, 90000, -1}, {31, "H261", AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H261, 90000, -1}, {32, "MPV", AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG1VIDEO, 90000, -1}, {32, "MPV", AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_MPEG2VIDEO, 90000, -1}, {33, "MP2T", AVMEDIA_TYPE_DATA, AV_CODEC_ID_MPEG2TS, 90000, -1}, {34, "H263", AVMEDIA_TYPE_VIDEO, AV_CODEC_ID_H263, 90000, -1}, {-1, "", AVMEDIA_TYPE_UNKNOWN, AV_CODEC_ID_NONE, -1, -1} }; ``` ## RTCP RTCP(Real-time Transport Control Protocol或RTP Control Protocol）是实时传输协议（RTP）的一个姐妹协议。 RTCP常与RTP联合工作，RTP实施实际数据的传输，RTCP则负责将控制包送至电话中的每个人。**`其主要功能就是为RTP提供的服务质量做出反馈,同时同步音视频数据，它本身没不传递任何数据`**。它们能以有效的反馈和最小的开销使传输效率最佳化，因而特别适合传送网上的实时数据。 在RTP会话期间，各参与者周期性地传送RTCP包。RTCP包中含有已发送的数据包的数量、丢失的数据包的数量等统计资料，因此，服务器可以利用这些信息动态地改变传输速率，甚至改变有效载荷类型。 RTCP根据所携带的控制信息不同RTCP信息包可分为**`RR`** (接收者报告包)、**`SR`** (源报告包)、**`SE`** **`DS`** (源描述包)、**`BYE`** (离开申明)和**`APP`** (特殊应包)5类 ## RTSP 实时流协议（RTSP，Real-time Streaming Protocol）是一种用于控制声音或图像的流媒体议，并且允许控制多条流，但RTSP连接并没有被绑定传输层的连接（如RTP），服务器甚至可以选择`TCP`或者`UDP`来传输流内容。 它的语法类似于HTTP 1.1，但不强调时间的同步，因此比较可以容忍网络延迟，是一种基于文本的多媒体播放控制协议。RTSP定义流格式，流数据可经由RTP传输；所以RTSP的实时效果非常好，适合视频聊天，视频监控等方向。 RTSP的请求主要包括，如`「描述(describe),设置(setup),播放(play),暂停(pause),回放(teardown),选项(options)」`等，在RTSP对话期间，`Setup`可以指定RTP/RTCP使用的端口，「`play`，`pause`，`teardown`」可以开始和暂停RTP的发送。 ### RTSP请求例 `SETUP 请求` SETUP请求指定如何传输单个媒体流。这必须在发送PLAY请求之前完成。请求包含媒体流URL和传输说明符。该说明符通常包括用于接收RTP数据（音频或视频）的本地端口，另一个用于RTCP数据（元信息））。服务器回复通常会确认所选参数，并填写缺少的部分，例如服务器选择的端口。必须在发送聚合播放请求之前，使用SETUP配置每个媒体流。 >C->S: SETUP rtsp://example.com/media.mp4/streamid=0 RTSP/1.0 CSeq: 3 Transport: RTP/AVP;unicast;client_port=8000-8001 >S->C: RTSP/1.0 200 OK CSeq: 3 Transport: RTP/AVP;unicast;client_port=8000-8001;server_port=9000-9001;ssrc=1234ABCD Session: 12345678 `Play 播放请求` Play 播放请求 将导致播放一个或所有媒体流。可以通过发送多个播放请求来堆叠播放请求。URL可以是聚合URL（播放所有媒体流）或单个媒体流URL（仅播放该流）。可以指定范围。如果没有指定范围，流将从头开始播放，并播放到最后，或者如果流暂停，则在暂停点恢复播放。 >C->S: PLAY rtsp://example.com/media.mp4 RTSP/1.0 CSeq: 4 Range: npt=5-20 Session: 12345678 >S->C: RTSP/1.0 200 OK CSeq: 4 Session: 12345678 RTP-Info: url=rtsp://example.com/media.mp4/streamid=0;seq=9810092;rtptime=3450012 `PAUSE 暂停请求` PAUSE 暂停请求 暂时停止一个或所有媒体流，因此稍后可以通过播放请求恢复。请求包含聚合或媒体流URL。PAUSE请求中的范围参数指定何时暂停。当省略范围参数时，暂停会立即无限期地发生。 >C->S: PAUSE rtsp://example.com/media.mp4 RTSP/1.0 CSeq: 5 Session: 12345678 >S->C: RTSP/1.0 200 OK CSeq: 5 Session: 12345678 # RTMP RTMP(Real Time Messaging Protocol)实时消息传送协议是Adobe Systems公司为Flash播放器和服务器之间音频、视频和数据传输开发的开放应用层协议. RTMP传输层是TCP协议，不过这种可靠的保障也会造成一些问题，也就是说前面的数据包没有交付到目的地，后面的数据也无法进行传输。幸运的是，目前的网络带宽基本上可以满足RTMP协议传输普通质量视频的要求，而且一般延迟在延迟在1-3秒内。 RTMP传输的数据的基本单元为Message，但是实际上传输的最小单元是Chunk（消息块），因为RTMP协议为了提升传输速度，在传输数据的时候，会把Message拆分开来，形成更小的块，这些块就是Chunk。 ## RTMP扩展 RTMP是一个协议族，包括RTMP基本协议及RTMPT/RTMPS/RTMPE等多种变种： >・工作在TCP之上的明文协议，使用端口1935； ・RTMPE在RTMP的基础上增加了加密功能； ・RTMPT封装在HTTP请求之中，可穿越防火墙； ・RTMPS类似RTMPT，但使用的是HTTPS连接； RTMP协议(Real Time Messaging Protocol)是被Flash用于对象,视频,音频的传输.这个协议建立在TCP协议或者轮询HTTP协议之上. RTMP协议就像一个用来装数据包的容器,这些数据既可以是AMF格式的数据,也可以是FLV中的视/音频数据.一个单一的连接可以通过不同的通道传输多路网络流.这些通道中的包都是按照固定大小的包传输的. # HLS HTTP Live Streaming（HLS）是苹果公司(Apple Inc.)实现的基于HTTP的流媒体传输协议，可实现流媒体的直播和点播，主要应用在iOS系统，为iOS设备（如iPhone、iPad）提供音视频直播和点播方案。HLS点播，基本上就是常见的分段HTTP点播，不同在于，它的分段非常小。 相对于常见的流媒体直播协议，例如RTMP协议、RTSP协议、MMS协议等，HLS直播最大的不同在于，**`「直播客户端获取到的，并不是一个完整的数据流。HLS协议在服务器端将直播数据流存储为连续的、很短时长的媒体文件（MPEG-TS格式），而客户端则不断的下载并播放这些小文件，因为服务器端总是会将最新的直播数据生成新的小文件，这样客户端只要不停的按顺序播放从服务器获取到的文件，就实现了直播。」`** 由此可见，基本上可以认为，HLS是以点播的技术方式来实现直播。由于数据通过HTTP协议传输，所以完全不用考虑防火墙或者代理的问题，而且分段文件的时长很短，客户端可以很快的选择和切换码率，以适应不同带宽条件下的播放。不过HLS的这种技术特点，决定了它的延迟一般总是会高于普通的流媒体直播协议。　 HLS提供一个m3u8地址，Apple的Safari浏览器直接就能打开m3u8地址，譬如 [香港卫视:http://live.hkstv.hk.lxdns.com/live/hks/playlist.m3u8](http://live.hkstv.hk.lxdns.com/live/hks/playlist.m3u8) # 总结 ## RTP RTCP RTSP 区别与联系 **`RTP传输流媒体数据、RTCP对RTP进行控制，同步、RTSP发起/终止流媒体`** **`RTP和RTCP互为姐妹关系，RTSP可以使用RTP来传输数据，但并没有绑定关系也可以使用TCP/UDP`** **`RTSP、RTMP、HLS都可以做直播和点播，它们是三种不同的应用层协议`** ## RTSP、RTMP、HLS 区别与联系 **`RTSP、RTMP、HLS都可以做直播和点播，它们是三种不同的应用层协议`** >・HLS 延迟大，适合视频点播 ・RTSP实时性最好，但是实现复杂，适合视频聊天和视频监控 ・RTMP强在浏览器支持好，加载flash插件后就能直接播放，非常火，相反在浏览器里播放rtsp就很困难了 ## 关于直播 直播应用中，RTMP和HLS基本上可以覆盖所有客户端观看。 >・RTSP优势主要在于传输层可以使用udp/rtp，实时性好，延迟可控制到1s内， ・RTMP主要优势在于延时相对较低(1-3s)，而且RTMP支持的很完善，能做到flash播放RTMP流长时间不断流，以前很多SIP的视频会议已被RTMP所取代。 ・HLS的优势就是直接使用http协议请求流数据，可以在不同速率的版本间自由切换，实现无缝播放，缺点是延时比较大(10s以上)。 三种协议各有各的优势，主要还是看场景选择，当然大点公司，可以做些私有协议来提供更好更符合场景的服务。