libavformat/rtpdec.c

   1 /*
   2  * RTP input format
   3  * Copyright (c) 2002 Fabrice Bellard
   4  *
   5  * This file is part of Libav.
   6  *
   7  * Libav is free software; you can redistribute it and/or
   8  * modify it under the terms of the GNU Lesser General Public
   9  * License as published by the Free Software Foundation; either
  10  * version 2.1 of the License, or (at your option) any later version.
  11  *
  12  * Libav is distributed in the hope that it will be useful,
  13  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  14  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  15  * Lesser General Public License for more details.
  16  *
  17  * You should have received a copy of the GNU Lesser General Public
  18  * License along with Libav; if not, write to the Free Software
  19  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA
  20  */
  21
  22 #include "libavutil/mathematics.h"
  23 #include "libavutil/avstring.h"
  24 #include "libavutil/time.h"
  25 #include "libavcodec/get_bits.h"
  26 #include "avformat.h"
  27 #include "mpegts.h"
  28 #include "network.h"
  29 #include "url.h"
  30 #include "rtpdec.h"
  31 #include "rtpdec_formats.h"
  32
  33 #define MIN_FEEDBACK_INTERVAL 200000 /* 200 ms in us */
  34
  35 static RTPDynamicProtocolHandler realmedia_mp3_dynamic_handler = {
  36     .enc_name   = "X-MP3-draft-00",
  37     .codec_type = AVMEDIA_TYPE_AUDIO,
  38     .codec_id   = AV_CODEC_ID_MP3ADU,
  39 };
  40
  41 static RTPDynamicProtocolHandler speex_dynamic_handler = {
  42     .enc_name   = "speex",
  43     .codec_type = AVMEDIA_TYPE_AUDIO,
  44     .codec_id   = AV_CODEC_ID_SPEEX,
  45 };
  46
  47 static RTPDynamicProtocolHandler opus_dynamic_handler = {
  48     .enc_name   = "opus",
  49     .codec_type = AVMEDIA_TYPE_AUDIO,
  50     .codec_id   = AV_CODEC_ID_OPUS,
  51 };
  52
  53 static RTPDynamicProtocolHandler *rtp_first_dynamic_payload_handler = NULL;
  54
  55 void ff_register_dynamic_payload_handler(RTPDynamicProtocolHandler *handler)
  56 {
  57     handler->next = rtp_first_dynamic_payload_handler;
  58     rtp_first_dynamic_payload_handler = handler;
  59 }
  60
  61 void av_register_rtp_dynamic_payload_handlers(void)
  62 {
  63     ff_register_dynamic_payload_handler(&ff_mp4v_es_dynamic_handler);
  64     ff_register_dynamic_payload_handler(&ff_mpeg4_generic_dynamic_handler);
  65     ff_register_dynamic_payload_handler(&ff_amr_nb_dynamic_handler);
  66     ff_register_dynamic_payload_handler(&ff_amr_wb_dynamic_handler);
  67     ff_register_dynamic_payload_handler(&ff_h263_1998_dynamic_handler);
  68     ff_register_dynamic_payload_handler(&ff_h263_2000_dynamic_handler);
  69     ff_register_dynamic_payload_handler(&ff_h263_rfc2190_dynamic_handler);
  70     ff_register_dynamic_payload_handler(&ff_h264_dynamic_handler);
  71     ff_register_dynamic_payload_handler(&ff_ilbc_dynamic_handler);
  72     ff_register_dynamic_payload_handler(&ff_jpeg_dynamic_handler);
  73     ff_register_dynamic_payload_handler(&ff_vorbis_dynamic_handler);
  74     ff_register_dynamic_payload_handler(&ff_theora_dynamic_handler);
  75     ff_register_dynamic_payload_handler(&ff_qdm2_dynamic_handler);
  76     ff_register_dynamic_payload_handler(&ff_svq3_dynamic_handler);
  77     ff_register_dynamic_payload_handler(&ff_mp4a_latm_dynamic_handler);
  78     ff_register_dynamic_payload_handler(&ff_vp8_dynamic_handler);
  79     ff_register_dynamic_payload_handler(&ff_qcelp_dynamic_handler);
  80     ff_register_dynamic_payload_handler(&realmedia_mp3_dynamic_handler);
  81     ff_register_dynamic_payload_handler(&speex_dynamic_handler);
  82     ff_register_dynamic_payload_handler(&opus_dynamic_handler);
  83
  84     ff_register_dynamic_payload_handler(&ff_ms_rtp_asf_pfv_handler);
  85     ff_register_dynamic_payload_handler(&ff_ms_rtp_asf_pfa_handler);
  86
  87     ff_register_dynamic_payload_handler(&ff_qt_rtp_aud_handler);
  88     ff_register_dynamic_payload_handler(&ff_qt_rtp_vid_handler);
  89     ff_register_dynamic_payload_handler(&ff_quicktime_rtp_aud_handler);
  90     ff_register_dynamic_payload_handler(&ff_quicktime_rtp_vid_handler);
  91
  92     ff_register_dynamic_payload_handler(&ff_g726_16_dynamic_handler);
  93     ff_register_dynamic_payload_handler(&ff_g726_24_dynamic_handler);
  94     ff_register_dynamic_payload_handler(&ff_g726_32_dynamic_handler);
  95     ff_register_dynamic_payload_handler(&ff_g726_40_dynamic_handler);
  96 }
  97
  98 RTPDynamicProtocolHandler *ff_rtp_handler_find_by_name(const char *name,
  99                                                        enum AVMediaType codec_type)
 100 {
 101     RTPDynamicProtocolHandler *handler;
 102     for (handler = rtp_first_dynamic_payload_handler;
 103          handler; handler = handler->next)
 104         if (!av_strcasecmp(name, handler->enc_name) &&
 105             codec_type == handler->codec_type)
 106             return handler;
 107     return NULL;
 108 }
 109
 110 RTPDynamicProtocolHandler *ff_rtp_handler_find_by_id(int id,
 111                                                      enum AVMediaType codec_type)
 112 {
 113     RTPDynamicProtocolHandler *handler;
 114     for (handler = rtp_first_dynamic_payload_handler;
 115          handler; handler = handler->next)
 116         if (handler->static_payload_id && handler->static_payload_id == id &&
 117             codec_type == handler->codec_type)
 118             return handler;
 119     return NULL;
 120 }
 121
 122 static int rtcp_parse_packet(RTPDemuxContext *s, const unsigned char *buf,
 123                              int len)
 124 {
 125     int payload_len;
 126     while (len >= 4) {
 127         payload_len = FFMIN(len, (AV_RB16(buf + 2) + 1) * 4);
 128
 129         switch (buf[1]) {
 130         case RTCP_SR:
 131             if (payload_len < 20) {
 132                 av_log(NULL, AV_LOG_ERROR,
 133                        "Invalid length for RTCP SR packet\n");
 134                 return AVERROR_INVALIDDATA;
 135             }
 136
 137             s->last_rtcp_reception_time = av_gettime();
 138             s->last_rtcp_ntp_time  = AV_RB64(buf + 8);
 139             s->last_rtcp_timestamp = AV_RB32(buf + 16);
 140             if (s->first_rtcp_ntp_time == AV_NOPTS_VALUE) {
 141                 s->first_rtcp_ntp_time = s->last_rtcp_ntp_time;
 142                 if (!s->base_timestamp)
 143                     s->base_timestamp = s->last_rtcp_timestamp;
 144                 s->rtcp_ts_offset = s->last_rtcp_timestamp - s->base_timestamp;
 145             }
 146
 147             break;
 148         case RTCP_BYE:
 149             return -RTCP_BYE;
 150         }
 151
 152         buf += payload_len;
 153         len -= payload_len;
 154     }
 155     return -1;
 156 }
 157
 158 #define RTP_SEQ_MOD (1 << 16)
 159
 160 static void rtp_init_statistics(RTPStatistics *s, uint16_t base_sequence)
 161 {
 162     memset(s, 0, sizeof(RTPStatistics));
 163     s->max_seq   = base_sequence;
 164     s->probation = 1;
 165 }
 166
 167 /*
 168  * Called whenever there is a large jump in sequence numbers,
 169  * or when they get out of probation...
 170  */
 171 static void rtp_init_sequence(RTPStatistics *s, uint16_t seq)
 172 {
 173     s->max_seq        = seq;
 174     s->cycles         = 0;
 175     s->base_seq       = seq - 1;
 176     s->bad_seq        = RTP_SEQ_MOD + 1;
 177     s->received       = 0;
 178     s->expected_prior = 0;
 179     s->received_prior = 0;
 180     s->jitter         = 0;
 181     s->transit        = 0;
 182 }
 183
 184 /* Returns 1 if we should handle this packet. */
 185 static int rtp_valid_packet_in_sequence(RTPStatistics *s, uint16_t seq)
 186 {
 187     uint16_t udelta = seq - s->max_seq;
 188     const int MAX_DROPOUT    = 3000;
 189     const int MAX_MISORDER   = 100;
 190     const int MIN_SEQUENTIAL = 2;
 191
 192     /* source not valid until MIN_SEQUENTIAL packets with sequence
 193      * seq. numbers have been received */
 194     if (s->probation) {
 195         if (seq == s->max_seq + 1) {
 196             s->probation--;
 197             s->max_seq = seq;
 198             if (s->probation == 0) {
 199                 rtp_init_sequence(s, seq);
 200                 s->received++;
 201                 return 1;
 202             }
 203         } else {
 204             s->probation = MIN_SEQUENTIAL - 1;
 205             s->max_seq   = seq;
 206         }
 207     } else if (udelta < MAX_DROPOUT) {
 208         // in order, with permissible gap
 209         if (seq < s->max_seq) {
 210             // sequence number wrapped; count another 64k cycles
 211             s->cycles += RTP_SEQ_MOD;
 212         }
 213         s->max_seq = seq;
 214     } else if (udelta <= RTP_SEQ_MOD - MAX_MISORDER) {
 215         // sequence made a large jump...
 216         if (seq == s->bad_seq) {
 217             /* two sequential packets -- assume that the other side
 218              * restarted without telling us; just resync. */
 219             rtp_init_sequence(s, seq);
 220         } else {
 221             s->bad_seq = (seq + 1) & (RTP_SEQ_MOD - 1);
 222             return 0;
 223         }
 224     } else {
 225         // duplicate or reordered packet...
 226     }
 227     s->received++;
 228     return 1;
 229 }
 230
 231 static void rtcp_update_jitter(RTPStatistics *s, uint32_t sent_timestamp,
 232                                uint32_t arrival_timestamp)
 233 {
 234     // Most of this is pretty straight from RFC 3550 appendix A.8
 235     uint32_t transit = arrival_timestamp - sent_timestamp;
 236     uint32_t prev_transit = s->transit;
 237     int32_t d = transit - prev_transit;
 238     // Doing the FFABS() call directly on the "transit - prev_transit"
 239     // expression doesn't work, since it's an unsigned expression. Doing the
 240     // transit calculation in unsigned is desired though, since it most
 241     // probably will need to wrap around.
 242     d = FFABS(d);
 243     s->transit = transit;
 244     if (!prev_transit)
 245         return;
 246     s->jitter += d - (int32_t) ((s->jitter + 8) >> 4);
 247 }
 248
 249 int ff_rtp_check_and_send_back_rr(RTPDemuxContext *s, URLContext *fd,
 250                                   AVIOContext *avio, int count)
 251 {
 252     AVIOContext *pb;
 253     uint8_t *buf;
 254     int len;
 255     int rtcp_bytes;
 256     RTPStatistics *stats = &s->statistics;
 257     uint32_t lost;
 258     uint32_t extended_max;
 259     uint32_t expected_interval;
 260     uint32_t received_interval;
 261     uint32_t lost_interval;
 262     uint32_t expected;
 263     uint32_t fraction;
 264
 265     if ((!fd && !avio) || (count < 1))
 266         return -1;
 267
 268     /* TODO: I think this is way too often; RFC 1889 has algorithm for this */
 269     /* XXX: MPEG pts hardcoded. RTCP send every 0.5 seconds */
 270     s->octet_count += count;
 271     rtcp_bytes = ((s->octet_count - s->last_octet_count) * RTCP_TX_RATIO_NUM) /
 272         RTCP_TX_RATIO_DEN;
 273     rtcp_bytes /= 50; // mmu_man: that's enough for me... VLC sends much less btw !?
 274     if (rtcp_bytes < 28)
 275         return -1;
 276     s->last_octet_count = s->octet_count;
 277
 278     if (!fd)
 279         pb = avio;
 280     else if (avio_open_dyn_buf(&pb) < 0)
 281         return -1;
 282
 283     // Receiver Report
 284     avio_w8(pb, (RTP_VERSION << 6) + 1); /* 1 report block */
 285     avio_w8(pb, RTCP_RR);
 286     avio_wb16(pb, 7); /* length in words - 1 */
 287     // our own SSRC: we use the server's SSRC + 1 to avoid conflicts
 288     avio_wb32(pb, s->ssrc + 1);
 289     avio_wb32(pb, s->ssrc); // server SSRC
 290     // some placeholders we should really fill...
 291     // RFC 1889/p64
 292     extended_max          = stats->cycles + stats->max_seq;
 293     expected              = extended_max - stats->base_seq;
 294     lost                  = expected - stats->received;
 295     lost                  = FFMIN(lost, 0xffffff); // clamp it since it's only 24 bits...
 296     expected_interval     = expected - stats->expected_prior;
 297     stats->expected_prior = expected;
 298     received_interval     = stats->received - stats->received_prior;
 299     stats->received_prior = stats->received;
 300     lost_interval         = expected_interval - received_interval;
 301     if (expected_interval == 0 || lost_interval <= 0)
 302         fraction = 0;
 303     else
 304         fraction = (lost_interval << 8) / expected_interval;
 305
 306     fraction = (fraction << 24) | lost;
 307
 308     avio_wb32(pb, fraction); /* 8 bits of fraction, 24 bits of total packets lost */
 309     avio_wb32(pb, extended_max); /* max sequence received */
 310     avio_wb32(pb, stats->jitter >> 4); /* jitter */
 311
 312     if (s->last_rtcp_ntp_time == AV_NOPTS_VALUE) {
 313         avio_wb32(pb, 0); /* last SR timestamp */
 314         avio_wb32(pb, 0); /* delay since last SR */
 315     } else {
 316         uint32_t middle_32_bits   = s->last_rtcp_ntp_time >> 16; // this is valid, right? do we need to handle 64 bit values special?
 317         uint32_t delay_since_last = av_rescale(av_gettime() - s->last_rtcp_reception_time,
 318                                                65536, AV_TIME_BASE);
 319
 320         avio_wb32(pb, middle_32_bits); /* last SR timestamp */
 321         avio_wb32(pb, delay_since_last); /* delay since last SR */
 322     }
 323
 324     // CNAME
 325     avio_w8(pb, (RTP_VERSION << 6) + 1); /* 1 report block */
 326     avio_w8(pb, RTCP_SDES);
 327     len = strlen(s->hostname);
 328     avio_wb16(pb, (7 + len + 3) / 4); /* length in words - 1 */
 329     avio_wb32(pb, s->ssrc + 1);
 330     avio_w8(pb, 0x01);
 331     avio_w8(pb, len);
 332     avio_write(pb, s->hostname, len);
 333     avio_w8(pb, 0); /* END */
 334     // padding
 335     for (len = (7 + len) % 4; len % 4; len++)
 336         avio_w8(pb, 0);
 337
 338     avio_flush(pb);
 339     if (!fd)
 340         return 0;
 341     len = avio_close_dyn_buf(pb, &buf);
 342     if ((len > 0) && buf) {
 343         int av_unused result;
 344         av_dlog(s->ic, "sending %d bytes of RR\n", len);
 345         result = ffurl_write(fd, buf, len);
 346         av_dlog(s->ic, "result from ffurl_write: %d\n", result);
 347         av_free(buf);
 348     }
 349     return 0;
 350 }
 351
 352 void ff_rtp_send_punch_packets(URLContext *rtp_handle)
 353 {
 354     AVIOContext *pb;
 355     uint8_t *buf;
 356     int len;
 357
 358     /* Send a small RTP packet */
 359     if (avio_open_dyn_buf(&pb) < 0)
 360         return;
 361
 362     avio_w8(pb, (RTP_VERSION << 6));
 363     avio_w8(pb, 0); /* Payload type */
 364     avio_wb16(pb, 0); /* Seq */
 365     avio_wb32(pb, 0); /* Timestamp */
 366     avio_wb32(pb, 0); /* SSRC */
 367
 368     avio_flush(pb);
 369     len = avio_close_dyn_buf(pb, &buf);
 370     if ((len > 0) && buf)
 371         ffurl_write(rtp_handle, buf, len);
 372     av_free(buf);
 373
 374     /* Send a minimal RTCP RR */
 375     if (avio_open_dyn_buf(&pb) < 0)
 376         return;
 377
 378     avio_w8(pb, (RTP_VERSION << 6));
 379     avio_w8(pb, RTCP_RR); /* receiver report */
 380     avio_wb16(pb, 1); /* length in words - 1 */
 381     avio_wb32(pb, 0); /* our own SSRC */
 382
 383     avio_flush(pb);
 384     len = avio_close_dyn_buf(pb, &buf);
 385     if ((len > 0) && buf)
 386         ffurl_write(rtp_handle, buf, len);
 387     av_free(buf);
 388 }
 389
 390 static int find_missing_packets(RTPDemuxContext *s, uint16_t *first_missing,
 391                                 uint16_t *missing_mask)
 392 {
 393     int i;
 394     uint16_t next_seq = s->seq + 1;
 395     RTPPacket *pkt = s->queue;
 396
 397     if (!pkt || pkt->seq == next_seq)
 398         return 0;
 399
 400     *missing_mask = 0;
 401     for (i = 1; i <= 16; i++) {
 402         uint16_t missing_seq = next_seq + i;
 403         while (pkt) {
 404             int16_t diff = pkt->seq - missing_seq;
 405             if (diff >= 0)
 406                 break;
 407             pkt = pkt->next;
 408         }
 409         if (!pkt)
 410             break;
 411         if (pkt->seq == missing_seq)
 412             continue;
 413         *missing_mask |= 1 << (i - 1);
 414     }
 415
 416     *first_missing = next_seq;
 417     return 1;
 418 }
 419
 420 int ff_rtp_send_rtcp_feedback(RTPDemuxContext *s, URLContext *fd,
 421                               AVIOContext *avio)
 422 {
 423     int len, need_keyframe, missing_packets;
 424     AVIOContext *pb;
 425     uint8_t *buf;
 426     int64_t now;
 427     uint16_t first_missing, missing_mask;
 428
 429     if (!fd && !avio)
 430         return -1;
 431
 432     need_keyframe = s->handler && s->handler->need_keyframe &&
 433                     s->handler->need_keyframe(s->dynamic_protocol_context);
 434     missing_packets = find_missing_packets(s, &first_missing, &missing_mask);
 435
 436     if (!need_keyframe && !missing_packets)
 437         return 0;
 438
 439     /* Send new feedback if enough time has elapsed since the last
 440      * feedback packet. */
 441
 442     now = av_gettime();
 443     if (s->last_feedback_time &&
 444         (now - s->last_feedback_time) < MIN_FEEDBACK_INTERVAL)
 445         return 0;
 446     s->last_feedback_time = now;
 447
 448     if (!fd)
 449         pb = avio;
 450     else if (avio_open_dyn_buf(&pb) < 0)
 451         return -1;
 452
 453     if (need_keyframe) {
 454         avio_w8(pb, (RTP_VERSION << 6) | 1); /* PLI */
 455         avio_w8(pb, RTCP_PSFB);
 456         avio_wb16(pb, 2); /* length in words - 1 */
 457         // our own SSRC: we use the server's SSRC + 1 to avoid conflicts
 458         avio_wb32(pb, s->ssrc + 1);
 459         avio_wb32(pb, s->ssrc); // server SSRC
 460     }
 461
 462     if (missing_packets) {
 463         avio_w8(pb, (RTP_VERSION << 6) | 1); /* NACK */
 464         avio_w8(pb, RTCP_RTPFB);
 465         avio_wb16(pb, 3); /* length in words - 1 */
 466         avio_wb32(pb, s->ssrc + 1);
 467         avio_wb32(pb, s->ssrc); // server SSRC
 468
 469         avio_wb16(pb, first_missing);
 470         avio_wb16(pb, missing_mask);
 471     }
 472
 473     avio_flush(pb);
 474     if (!fd)
 475         return 0;
 476     len = avio_close_dyn_buf(pb, &buf);
 477     if (len > 0 && buf) {
 478         ffurl_write(fd, buf, len);
 479         av_free(buf);
 480     }
 481     return 0;
 482 }
 483
 484 /**
 485  * open a new RTP parse context for stream 'st'. 'st' can be NULL for
 486  * MPEG2-TS streams to indicate that they should be demuxed inside the
 487  * rtp demux (otherwise AV_CODEC_ID_MPEG2TS packets are returned)
 488  */
 489 RTPDemuxContext *ff_rtp_parse_open(AVFormatContext *s1, AVStream *st,
 490                                    int payload_type, int queue_size)
 491 {
 492     RTPDemuxContext *s;
 493
 494     s = av_mallocz(sizeof(RTPDemuxContext));
 495     if (!s)
 496         return NULL;
 497     s->payload_type        = payload_type;
 498     s->last_rtcp_ntp_time  = AV_NOPTS_VALUE;
 499     s->first_rtcp_ntp_time = AV_NOPTS_VALUE;
 500     s->ic                  = s1;
 501     s->st                  = st;
 502     s->queue_size          = queue_size;
 503     rtp_init_statistics(&s->statistics, 0);
 504     if (!strcmp(ff_rtp_enc_name(payload_type), "MP2T")) {
 505         s->ts = ff_mpegts_parse_open(s->ic);
 506         if (s->ts == NULL) {
 507             av_free(s);
 508             return NULL;
 509         }
 510     } else if (st) {
 511         switch (st->codec->codec_id) {
 512         case AV_CODEC_ID_MPEG1VIDEO:
 513         case AV_CODEC_ID_MPEG2VIDEO:
 514         case AV_CODEC_ID_MP2:
 515         case AV_CODEC_ID_MP3:
 516         case AV_CODEC_ID_MPEG4:
 517         case AV_CODEC_ID_H263:
 518         case AV_CODEC_ID_H264:
 519             st->need_parsing = AVSTREAM_PARSE_FULL;
 520             break;
 521         case AV_CODEC_ID_VORBIS:
 522             st->need_parsing = AVSTREAM_PARSE_HEADERS;
 523             break;
 524         case AV_CODEC_ID_ADPCM_G722:
 525             /* According to RFC 3551, the stream clock rate is 8000
 526              * even if the sample rate is 16000. */
 527             if (st->codec->sample_rate == 8000)
 528                 st->codec->sample_rate = 16000;
 529             break;
 530         default:
 531             break;
 532         }
 533     }
 534     // needed to send back RTCP RR in RTSP sessions
 535     gethostname(s->hostname, sizeof(s->hostname));
 536     return s;
 537 }
 538
 539 void ff_rtp_parse_set_dynamic_protocol(RTPDemuxContext *s, PayloadContext *ctx,
 540                                        RTPDynamicProtocolHandler *handler)
 541 {
 542     s->dynamic_protocol_context = ctx;
 543     s->handler                  = handler;
 544 }
 545
 546 /**
 547  * This was the second switch in rtp_parse packet.
 548  * Normalizes time, if required, sets stream_index, etc.
 549  */
 550 static void finalize_packet(RTPDemuxContext *s, AVPacket *pkt, uint32_t timestamp)
 551 {
 552     if (pkt->pts != AV_NOPTS_VALUE || pkt->dts != AV_NOPTS_VALUE)
 553         return; /* Timestamp already set by depacketizer */
 554     if (timestamp == RTP_NOTS_VALUE)
 555         return;
 556
 557     if (s->last_rtcp_ntp_time != AV_NOPTS_VALUE && s->ic->nb_streams > 1) {
 558         int64_t addend;
 559         int delta_timestamp;
 560
 561         /* compute pts from timestamp with received ntp_time */
 562         delta_timestamp = timestamp - s->last_rtcp_timestamp;
 563         /* convert to the PTS timebase */
 564         addend = av_rescale(s->last_rtcp_ntp_time - s->first_rtcp_ntp_time,
 565                             s->st->time_base.den,
 566                             (uint64_t) s->st->time_base.num << 32);
 567         pkt->pts = s->range_start_offset + s->rtcp_ts_offset + addend +
 568                    delta_timestamp;
 569         return;
 570     }
 571
 572     if (!s->base_timestamp)
 573         s->base_timestamp = timestamp;
 574     /* assume that the difference is INT32_MIN < x < INT32_MAX,
 575      * but allow the first timestamp to exceed INT32_MAX */
 576     if (!s->timestamp)
 577         s->unwrapped_timestamp += timestamp;
 578     else
 579         s->unwrapped_timestamp += (int32_t)(timestamp - s->timestamp);
 580     s->timestamp = timestamp;
 581     pkt->pts     = s->unwrapped_timestamp + s->range_start_offset -
 582                    s->base_timestamp;
 583 }
 584
 585 static int rtp_parse_packet_internal(RTPDemuxContext *s, AVPacket *pkt,
 586                                      const uint8_t *buf, int len)
 587 {
 588     unsigned int ssrc, h;
 589     int payload_type, seq, ret, flags = 0;
 590     int ext;
 591     AVStream *st;
 592     uint32_t timestamp;
 593     int rv = 0;
 594
 595     ext          = buf[0] & 0x10;
 596     payload_type = buf[1] & 0x7f;
 597     if (buf[1] & 0x80)
 598         flags |= RTP_FLAG_MARKER;
 599     seq       = AV_RB16(buf + 2);
 600     timestamp = AV_RB32(buf + 4);
 601     ssrc      = AV_RB32(buf + 8);
 602     /* store the ssrc in the RTPDemuxContext */
 603     s->ssrc = ssrc;
 604
 605     /* NOTE: we can handle only one payload type */
 606     if (s->payload_type != payload_type)
 607         return -1;
 608
 609     st = s->st;
 610     // only do something with this if all the rtp checks pass...
 611     if (!rtp_valid_packet_in_sequence(&s->statistics, seq)) {
 612         av_log(st ? st->codec : NULL, AV_LOG_ERROR,
 613                "RTP: PT=%02x: bad cseq %04x expected=%04x\n",
 614                payload_type, seq, ((s->seq + 1) & 0xffff));
 615         return -1;
 616     }
 617
 618     if (buf[0] & 0x20) {
 619         int padding = buf[len - 1];
 620         if (len >= 12 + padding)
 621             len -= padding;
 622     }
 623
 624     s->seq = seq;
 625     len   -= 12;
 626     buf   += 12;
 627
 628     /* RFC 3550 Section 5.3.1 RTP Header Extension handling */
 629     if (ext) {
 630         if (len < 4)
 631             return -1;
 632         /* calculate the header extension length (stored as number
 633          * of 32-bit words) */
 634         ext = (AV_RB16(buf + 2) + 1) << 2;
 635
 636         if (len < ext)
 637             return -1;
 638         // skip past RTP header extension
 639         len -= ext;
 640         buf += ext;
 641     }
 642
 643     if (!st) {
 644         /* specific MPEG2-TS demux support */
 645         ret = ff_mpegts_parse_packet(s->ts, pkt, buf, len);
 646         /* The only error that can be returned from ff_mpegts_parse_packet
 647          * is "no more data to return from the provided buffer", so return
 648          * AVERROR(EAGAIN) for all errors */
 649         if (ret < 0)
 650             return AVERROR(EAGAIN);
 651         if (ret < len) {
 652             s->read_buf_size = FFMIN(len - ret, sizeof(s->buf));
 653             memcpy(s->buf, buf + ret, s->read_buf_size);
 654             s->read_buf_index = 0;
 655             return 1;
 656         }
 657         return 0;
 658     } else if (s->handler && s->handler->parse_packet) {
 659         rv = s->handler->parse_packet(s->ic, s->dynamic_protocol_context,
 660                                       s->st, pkt, &timestamp, buf, len, seq,
 661                                       flags);
 662     } else {
 663         /* At this point, the RTP header has been stripped;
 664          * This is ASSUMING that there is only 1 CSRC, which isn't wise. */
 665         switch (st->codec->codec_id) {
 666         case AV_CODEC_ID_MP2:
 667         case AV_CODEC_ID_MP3:
 668             /* better than nothing: skip MPEG audio RTP header */
 669             if (len <= 4)
 670                 return -1;
 671             h    = AV_RB32(buf);
 672             len -= 4;
 673             buf += 4;
 674             av_new_packet(pkt, len);
 675             memcpy(pkt->data, buf, len);
 676             break;
 677         case AV_CODEC_ID_MPEG1VIDEO:
 678         case AV_CODEC_ID_MPEG2VIDEO:
 679             /* better than nothing: skip MPEG video RTP header */
 680             if (len <= 4)
 681                 return -1;
 682             h    = AV_RB32(buf);
 683             buf += 4;
 684             len -= 4;
 685             if (h & (1 << 26)) {
 686                 /* MPEG-2 */
 687                 if (len <= 4)
 688                     return -1;
 689                 buf += 4;
 690                 len -= 4;
 691             }
 692             av_new_packet(pkt, len);
 693             memcpy(pkt->data, buf, len);
 694             break;
 695         default:
 696             av_new_packet(pkt, len);
 697             memcpy(pkt->data, buf, len);
 698             break;
 699         }
 700
 701         pkt->stream_index = st->index;
 702     }
 703
 704     // now perform timestamp things....
 705     finalize_packet(s, pkt, timestamp);
 706
 707     return rv;
 708 }
 709
 710 void ff_rtp_reset_packet_queue(RTPDemuxContext *s)
 711 {
 712     while (s->queue) {
 713         RTPPacket *next = s->queue->next;
 714         av_free(s->queue->buf);
 715         av_free(s->queue);
 716         s->queue = next;
 717     }
 718     s->seq       = 0;
 719     s->queue_len = 0;
 720     s->prev_ret  = 0;
 721 }
 722
 723 static void enqueue_packet(RTPDemuxContext *s, uint8_t *buf, int len)
 724 {
 725     uint16_t seq   = AV_RB16(buf + 2);
 726     RTPPacket **cur = &s->queue, *packet;
 727
 728     /* Find the correct place in the queue to insert the packet */
 729     while (*cur) {
 730         int16_t diff = seq - (*cur)->seq;
 731         if (diff < 0)
 732             break;
 733         cur = &(*cur)->next;
 734     }
 735
 736     packet = av_mallocz(sizeof(*packet));
 737     if (!packet)
 738         return;
 739     packet->recvtime = av_gettime();
 740     packet->seq      = seq;
 741     packet->len      = len;
 742     packet->buf      = buf;
 743     packet->next     = *cur;
 744     *cur = packet;
 745     s->queue_len++;
 746 }
 747
 748 static int has_next_packet(RTPDemuxContext *s)
 749 {
 750     return s->queue && s->queue->seq == (uint16_t) (s->seq + 1);
 751 }
 752
 753 int64_t ff_rtp_queued_packet_time(RTPDemuxContext *s)
 754 {
 755     return s->queue ? s->queue->recvtime : 0;
 756 }
 757
 758 static int rtp_parse_queued_packet(RTPDemuxContext *s, AVPacket *pkt)
 759 {
 760     int rv;
 761     RTPPacket *next;
 762
 763     if (s->queue_len <= 0)
 764         return -1;
 765
 766     if (!has_next_packet(s))
 767         av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
 768                "RTP: missed %d packets\n", s->queue->seq - s->seq - 1);
 769
 770     /* Parse the first packet in the queue, and dequeue it */
 771     rv   = rtp_parse_packet_internal(s, pkt, s->queue->buf, s->queue->len);
 772     next = s->queue->next;
 773     av_free(s->queue->buf);
 774     av_free(s->queue);
 775     s->queue = next;
 776     s->queue_len--;
 777     return rv;
 778 }
 779
 780 static int rtp_parse_one_packet(RTPDemuxContext *s, AVPacket *pkt,
 781                                 uint8_t **bufptr, int len)
 782 {
 783     uint8_t *buf = bufptr ? *bufptr : NULL;
 784     int ret, flags = 0;
 785     uint32_t timestamp;
 786     int rv = 0;
 787
 788     if (!buf) {
 789         /* If parsing of the previous packet actually returned 0 or an error,
 790          * there's nothing more to be parsed from that packet, but we may have
 791          * indicated that we can return the next enqueued packet. */
 792         if (s->prev_ret <= 0)
 793             return rtp_parse_queued_packet(s, pkt);
 794         /* return the next packets, if any */
 795         if (s->st && s->handler && s->handler->parse_packet) {
 796             /* timestamp should be overwritten by parse_packet, if not,
 797              * the packet is left with pts == AV_NOPTS_VALUE */
 798             timestamp = RTP_NOTS_VALUE;
 799             rv        = s->handler->parse_packet(s->ic, s->dynamic_protocol_context,
 800                                                  s->st, pkt, &timestamp, NULL, 0, 0,
 801                                                  flags);
 802             finalize_packet(s, pkt, timestamp);
 803             return rv;
 804         } else {
 805             // TODO: Move to a dynamic packet handler (like above)
 806             if (s->read_buf_index >= s->read_buf_size)
 807                 return AVERROR(EAGAIN);
 808             ret = ff_mpegts_parse_packet(s->ts, pkt, s->buf + s->read_buf_index,
 809                                          s->read_buf_size - s->read_buf_index);
 810             if (ret < 0)
 811                 return AVERROR(EAGAIN);
 812             s->read_buf_index += ret;
 813             if (s->read_buf_index < s->read_buf_size)
 814                 return 1;
 815             else
 816                 return 0;
 817         }
 818     }
 819
 820     if (len < 12)
 821         return -1;
 822
 823     if ((buf[0] & 0xc0) != (RTP_VERSION << 6))
 824         return -1;
 825     if (RTP_PT_IS_RTCP(buf[1])) {
 826         return rtcp_parse_packet(s, buf, len);
 827     }
 828
 829     if (s->st) {
 830         int64_t received = av_gettime();
 831         uint32_t arrival_ts = av_rescale_q(received, AV_TIME_BASE_Q,
 832                                            s->st->time_base);
 833         timestamp = AV_RB32(buf + 4);
 834         // Calculate the jitter immediately, before queueing the packet
 835         // into the reordering queue.
 836         rtcp_update_jitter(&s->statistics, timestamp, arrival_ts);
 837     }
 838
 839     if ((s->seq == 0 && !s->queue) || s->queue_size <= 1) {
 840         /* First packet, or no reordering */
 841         return rtp_parse_packet_internal(s, pkt, buf, len);
 842     } else {
 843         uint16_t seq = AV_RB16(buf + 2);
 844         int16_t diff = seq - s->seq;
 845         if (diff < 0) {
 846             /* Packet older than the previously emitted one, drop */
 847             av_log(s->st ? s->st->codec : NULL, AV_LOG_WARNING,
 848                    "RTP: dropping old packet received too late\n");
 849             return -1;
 850         } else if (diff <= 1) {
 851             /* Correct packet */
 852             rv = rtp_parse_packet_internal(s, pkt, buf, len);
 853             return rv;
 854         } else {
 855             /* Still missing some packet, enqueue this one. */
 856             enqueue_packet(s, buf, len);
 857             *bufptr = NULL;
 858             /* Return the first enqueued packet if the queue is full,
 859              * even if we're missing something */
 860             if (s->queue_len >= s->queue_size)
 861                 return rtp_parse_queued_packet(s, pkt);
 862             return -1;
 863         }
 864     }
 865 }
 866
 867 /**
 868  * Parse an RTP or RTCP packet directly sent as a buffer.
 869  * @param s RTP parse context.
 870  * @param pkt returned packet
 871  * @param bufptr pointer to the input buffer or NULL to read the next packets
 872  * @param len buffer len
 873  * @return 0 if a packet is returned, 1 if a packet is returned and more can follow
 874  * (use buf as NULL to read the next). -1 if no packet (error or no more packet).
 875  */
 876 int ff_rtp_parse_packet(RTPDemuxContext *s, AVPacket *pkt,
 877                         uint8_t **bufptr, int len)
 878 {
 879     int rv = rtp_parse_one_packet(s, pkt, bufptr, len);
 880     s->prev_ret = rv;
 881     while (rv == AVERROR(EAGAIN) && has_next_packet(s))
 882         rv = rtp_parse_queued_packet(s, pkt);
 883     return rv ? rv : has_next_packet(s);
 884 }
 885
 886 void ff_rtp_parse_close(RTPDemuxContext *s)
 887 {
 888     ff_rtp_reset_packet_queue(s);
 889     if (!strcmp(ff_rtp_enc_name(s->payload_type), "MP2T")) {
 890         ff_mpegts_parse_close(s->ts);
 891     }
 892     av_free(s);
 893 }
 894
 895 int ff_parse_fmtp(AVStream *stream, PayloadContext *data, const char *p,
 896                   int (*parse_fmtp)(AVStream *stream,
 897                                     PayloadContext *data,
 898                                     char *attr, char *value))
 899 {
 900     char attr[256];
 901     char *value;
 902     int res;
 903     int value_size = strlen(p) + 1;
 904
 905     if (!(value = av_malloc(value_size))) {
 906         av_log(NULL, AV_LOG_ERROR, "Failed to allocate data for FMTP.");
 907         return AVERROR(ENOMEM);
 908     }
 909
 910     // remove protocol identifier
 911     while (*p && *p == ' ')
 912         p++;                     // strip spaces
 913     while (*p && *p != ' ')
 914         p++;                     // eat protocol identifier
 915     while (*p && *p == ' ')
 916         p++;                     // strip trailing spaces
 917
 918     while (ff_rtsp_next_attr_and_value(&p,
 919                                        attr, sizeof(attr),
 920                                        value, value_size)) {
 921         res = parse_fmtp(stream, data, attr, value);
 922         if (res < 0 && res != AVERROR_PATCHWELCOME) {
 923             av_free(value);
 924             return res;
 925         }
 926     }
 927     av_free(value);
 928     return 0;
 929 }
 930
 931 int ff_rtp_finalize_packet(AVPacket *pkt, AVIOContext **dyn_buf, int stream_idx)
 932 {
 933     av_init_packet(pkt);
 934
 935     pkt->size         = avio_close_dyn_buf(*dyn_buf, &pkt->data);
 936     pkt->stream_index = stream_idx;
 937     pkt->destruct     = av_destruct_packet;
 938     *dyn_buf          = NULL;
 939     return pkt->size;
 940 }