OSDN Git Service

fix crash
[android-x86/external-stagefright-plugins.git] / libstagefright / FFmpegExtractor / FFmpegExtractor.cpp
1 /*
2  * Copyright 2012 Michael Chen <omxcodec@gmail.com>
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at
7  *
8  *      http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  */
16
17 #define LOG_NDEBUG 0
18 #define LOG_TAG "FFmpegExtractor"
19 #include <utils/Log.h>
20
21 #include <stdint.h>
22 #include <limits.h> /* INT_MAX */
23 #include <inttypes.h>
24
25 #include <media/stagefright/foundation/ABitReader.h>
26 #include <media/stagefright/foundation/ABuffer.h>
27 #include <media/stagefright/foundation/ADebug.h>
28 #include <media/stagefright/foundation/AMessage.h>
29 #include <media/stagefright/foundation/hexdump.h>
30 #include <media/stagefright/DataSource.h>
31 #include <media/stagefright/MediaBuffer.h>
32 #include <media/stagefright/foundation/ADebug.h>
33 #include <media/stagefright/MediaDefs.h>
34 #include <media/stagefright/MediaErrors.h>
35 #include <media/stagefright/MediaSource.h>
36 #include <media/stagefright/MetaData.h>
37 #include <media/stagefright/Utils.h>
38 #include <utils/String8.h>
39 #include <utils/misc.h>
40
41 #include "include/avc_utils.h"
42 #include "utils/common_utils.h"
43 #include "utils/ffmpeg_utils.h"
44 #include "utils/ffmpeg_cmdutils.h"
45 #include "FFmpegExtractor.h"
46
47 #define DEBUG_READ_ENTRY           0
48 #define DEBUG_DISABLE_VIDEO        0
49 #define DEBUG_DISABLE_AUDIO        0
50 #define WAIT_KEY_PACKET_AFTER_SEEK 1
51 #define DISABLE_NAL_TO_ANNEXB      0
52
53 #define MAX_QUEUE_SIZE (15 * 1024 * 1024)
54 #define MIN_AUDIOQ_SIZE (20 * 16 * 1024)
55 #define MIN_FRAMES 5
56 #define EXTRACTOR_MAX_PROBE_PACKETS 200
57
58 #define FF_MAX_EXTRADATA_SIZE ((1 << 28) - FF_INPUT_BUFFER_PADDING_SIZE)
59
60 enum {
61     NO_SEEK = 0,
62     SEEK,
63 };
64
65 static AVPacket flush_pkt;
66
67 namespace android {
68
69 struct FFmpegExtractor::Track : public MediaSource {
70     Track(const sp<FFmpegExtractor> &extractor, sp<MetaData> meta, bool isAVC,
71           AVStream *stream, PacketQueue *queue);
72
73     virtual status_t start(MetaData *params);
74     virtual status_t stop();
75     virtual sp<MetaData> getFormat();
76
77     virtual status_t read(
78             MediaBuffer **buffer, const ReadOptions *options);
79
80 protected:
81     virtual ~Track();
82
83 private:
84     friend struct FFmpegExtractor;
85
86     sp<FFmpegExtractor> mExtractor;
87     sp<MetaData> mMeta;
88
89     enum AVMediaType mMediaType;
90
91     mutable Mutex mLock;
92
93     bool mIsAVC;
94     size_t mNALLengthSize;
95     bool mNal2AnnexB;
96
97     AVStream *mStream;
98     PacketQueue *mQueue;
99
100     int64_t mFirstKeyPktTimestamp;
101
102     DISALLOW_EVIL_CONSTRUCTORS(Track);
103 };
104
105 ////////////////////////////////////////////////////////////////////////////////
106
107 FFmpegExtractor::FFmpegExtractor(const sp<DataSource> &source)
108     : mDataSource(source),
109       mInitCheck(NO_INIT),
110       mReaderThreadStarted(false) {
111     ALOGV("FFmpegExtractor::FFmpegExtractor");
112
113     buildFileName(source);
114
115     int err = initStreams();
116     if (err < 0) {
117         ALOGE("failed to init ffmpeg");
118         return;
119     }
120
121     // start reader here, as we want to extract extradata from bitstream if no extradata
122     startReaderThread();
123
124     while(mProbePkts <= EXTRACTOR_MAX_PROBE_PACKETS && !mEOF &&
125         (mFormatCtx->pb ? !mFormatCtx->pb->error : 1) &&
126         (mDefersToCreateVideoTrack || mDefersToCreateAudioTrack)) {
127         // FIXME, i am so lazy! Should use pthread_cond_wait to wait conditions
128         usleep(5000);
129     }
130
131     ALOGV("mProbePkts: %d, mEOF: %d, pb->error(if has): %d, mDefersToCreateVideoTrack: %d, mDefersToCreateAudioTrack: %d",
132         mProbePkts, mEOF, mFormatCtx->pb ? mFormatCtx->pb->error : 0, mDefersToCreateVideoTrack, mDefersToCreateAudioTrack);
133
134     mInitCheck = OK;
135 }
136
137 FFmpegExtractor::~FFmpegExtractor() {
138     ALOGV("FFmpegExtractor::~FFmpegExtractor");
139
140     // stop reader here if no track!
141     stopReaderThread();
142
143     deInitStreams();
144 }
145
146 size_t FFmpegExtractor::countTracks() {
147     return mInitCheck == OK ? mTracks.size() : 0;
148 }
149
150 sp<MediaSource> FFmpegExtractor::getTrack(size_t index) {
151     ALOGV("FFmpegExtractor::getTrack[%d]", index);
152
153     if (mInitCheck != OK) {
154         return NULL;
155     }
156
157     if (index >= mTracks.size()) {
158         return NULL;
159     }
160
161     return mTracks.valueAt(index);
162 }
163
164 sp<MetaData> FFmpegExtractor::getTrackMetaData(size_t index, uint32_t flags) {
165     ALOGV("FFmpegExtractor::getTrackMetaData[%d]", index);
166
167     if (mInitCheck != OK) {
168         return NULL;
169     }
170
171     if (index >= mTracks.size()) {
172         return NULL;
173     }
174
175     return mTracks.valueAt(index)->getFormat();
176 }
177
178 sp<MetaData> FFmpegExtractor::getMetaData() {
179     ALOGV("FFmpegExtractor::getMetaData");
180
181     if (mInitCheck != OK) {
182         return NULL;
183     }
184
185     sp<MetaData> meta = new MetaData;
186     // TODO
187     meta->setCString(kKeyMIMEType, "video/ffmpeg");
188
189     return meta;
190 }
191
192 uint32_t FFmpegExtractor::flags() const {
193     ALOGV("FFmpegExtractor::flags");
194
195     if (mInitCheck != OK) {
196         return 0;
197     }
198
199     uint32_t flags = CAN_PAUSE;
200
201     if (mFormatCtx->duration != AV_NOPTS_VALUE) {
202         flags |= CAN_SEEK_BACKWARD | CAN_SEEK_FORWARD | CAN_SEEK;
203     }
204
205     return flags;
206 }
207
208 void FFmpegExtractor::packet_queue_init(PacketQueue *q)
209 {
210     memset(q, 0, sizeof(PacketQueue));
211     pthread_mutex_init(&q->mutex, NULL);
212     pthread_cond_init(&q->cond, NULL);
213     packet_queue_put(q, &flush_pkt);
214 }
215
216 void FFmpegExtractor::packet_queue_flush(PacketQueue *q)
217 {
218     AVPacketList *pkt, *pkt1;
219
220     pthread_mutex_lock(&q->mutex);
221     for (pkt = q->first_pkt; pkt != NULL; pkt = pkt1) {
222         pkt1 = pkt->next;
223         av_free_packet(&pkt->pkt);
224         av_freep(&pkt);
225     }
226     q->last_pkt = NULL;
227     q->first_pkt = NULL;
228     q->nb_packets = 0;
229     q->size = 0;
230     pthread_mutex_unlock(&q->mutex);
231 }
232
233 void FFmpegExtractor::packet_queue_end(PacketQueue *q)
234 {
235     packet_queue_flush(q);
236 }
237
238 void FFmpegExtractor::packet_queue_abort(PacketQueue *q)
239 {
240     pthread_mutex_lock(&q->mutex);
241
242     q->abort_request = 1;
243
244     pthread_cond_signal(&q->cond);
245
246     pthread_mutex_unlock(&q->mutex);
247 }
248
249 int FFmpegExtractor::packet_queue_put(PacketQueue *q, AVPacket *pkt)
250 {
251     AVPacketList *pkt1;
252
253     /* duplicate the packet */
254     if (pkt != &flush_pkt && av_dup_packet(pkt) < 0)
255         return -1;
256
257     pkt1 = (AVPacketList *)av_malloc(sizeof(AVPacketList));
258     if (!pkt1)
259         return -1;
260     pkt1->pkt = *pkt;
261     pkt1->next = NULL;
262
263     pthread_mutex_lock(&q->mutex);
264
265     if (!q->last_pkt)
266
267         q->first_pkt = pkt1;
268     else
269         q->last_pkt->next = pkt1;
270     q->last_pkt = pkt1;
271     q->nb_packets++;
272     //q->size += pkt1->pkt.size + sizeof(*pkt1);
273     q->size += pkt1->pkt.size;
274     pthread_cond_signal(&q->cond);
275
276     pthread_mutex_unlock(&q->mutex);
277     return 0;
278 }
279
280 /* packet queue handling */
281 /* return < 0 if aborted, 0 if no packet and > 0 if packet.  */
282 int FFmpegExtractor::packet_queue_get(PacketQueue *q, AVPacket *pkt, int block)
283 {
284     AVPacketList *pkt1;
285     int ret;
286
287     pthread_mutex_lock(&q->mutex);
288
289     for (;;) {
290         if (q->abort_request) {
291             ret = -1;
292             break;
293         }
294
295         pkt1 = q->first_pkt;
296         if (pkt1) {
297             q->first_pkt = pkt1->next;
298             if (!q->first_pkt)
299                 q->last_pkt = NULL;
300             q->nb_packets--;
301             //q->size -= pkt1->pkt.size + sizeof(*pkt1);
302             q->size -= pkt1->pkt.size;
303             *pkt = pkt1->pkt;
304             av_free(pkt1);
305             ret = 1;
306             break;
307         } else if (!block) {
308             ret = 0;
309             break;
310         } else {
311             pthread_cond_wait(&q->cond, &q->mutex);
312         }
313     }
314     pthread_mutex_unlock(&q->mutex);
315     return ret;
316 }
317
318 static void EncodeSize14(uint8_t **_ptr, size_t size) {
319     CHECK_LE(size, 0x3fff);
320
321     uint8_t *ptr = *_ptr;
322
323     *ptr++ = 0x80 | (size >> 7);
324     *ptr++ = size & 0x7f;
325
326     *_ptr = ptr;
327 }
328
329 static sp<ABuffer> MakeMPEGVideoESDS(const sp<ABuffer> &csd) {
330     sp<ABuffer> esds = new ABuffer(csd->size() + 25);
331
332     uint8_t *ptr = esds->data();
333     *ptr++ = 0x03;
334     EncodeSize14(&ptr, 22 + csd->size());
335
336     *ptr++ = 0x00;  // ES_ID
337     *ptr++ = 0x00;
338
339     *ptr++ = 0x00;  // streamDependenceFlag, URL_Flag, OCRstreamFlag
340
341     *ptr++ = 0x04;
342     EncodeSize14(&ptr, 16 + csd->size());
343
344     *ptr++ = 0x40;  // Audio ISO/IEC 14496-3
345
346     for (size_t i = 0; i < 12; ++i) {
347         *ptr++ = 0x00;
348     }
349
350     *ptr++ = 0x05;
351     EncodeSize14(&ptr, csd->size());
352
353     memcpy(ptr, csd->data(), csd->size());
354
355     return esds;
356 }
357
358 // Returns the sample rate based on the sampling frequency index
359 static uint32_t get_sample_rate(const uint8_t sf_index)
360 {
361     static const uint32_t sample_rates[] =
362     {
363         96000, 88200, 64000, 48000, 44100, 32000,
364         24000, 22050, 16000, 12000, 11025, 8000
365     };
366
367     if (sf_index < sizeof(sample_rates) / sizeof(sample_rates[0])) {
368         return sample_rates[sf_index];
369     }
370
371     return 0;
372 }
373
374 int FFmpegExtractor::check_extradata(AVCodecContext *avctx)
375 {
376     const char *name = NULL;
377     bool *defersToCreateTrack = NULL;
378     AVBitStreamFilterContext **bsfc = NULL;
379
380     // init
381     if (avctx->codec_type == AVMEDIA_TYPE_VIDEO) {
382         bsfc = &mVideoBsfc;
383         defersToCreateTrack = &mDefersToCreateVideoTrack;
384     } else if (avctx->codec_type == AVMEDIA_TYPE_AUDIO){
385         bsfc = &mAudioBsfc;
386         defersToCreateTrack = &mDefersToCreateAudioTrack;
387     }
388
389     // ignore extradata
390     if (avctx->codec_id == CODEC_ID_MP3 ||
391             avctx->codec_id == CODEC_ID_MP1  ||
392             avctx->codec_id == CODEC_ID_MP2  ||
393             avctx->codec_id == CODEC_ID_AC3  ||
394             avctx->codec_id == CODEC_ID_DTS  ||
395             avctx->codec_id == CODEC_ID_H263  ||
396             avctx->codec_id == CODEC_ID_H263P ||
397             avctx->codec_id == CODEC_ID_H263I ||
398             avctx->codec_id == CODEC_ID_WMV1)
399         return 1;
400
401     // is extradata compatible with android?
402     if (avctx->codec_id != CODEC_ID_AAC) {
403         int is_compatible = is_extradata_compatible_with_android(avctx);
404         if (!is_compatible) {
405             ALOGI("%s extradata is not compatible with android, should to extract it from bitstream",
406                     av_get_media_type_string(avctx->codec_type));
407             *defersToCreateTrack = true;
408             *bsfc = NULL; // H264 don't need bsfc, only AAC?
409             return 0;
410         }
411         return 1;
412     }
413
414     if (avctx->codec_id == CODEC_ID_AAC) {
415         name = "aac_adtstoasc";
416     }
417
418     if (avctx->extradata_size <= 0) {
419         ALOGI("No %s extradata found, should to extract it from bitstream",
420                 av_get_media_type_string(avctx->codec_type));
421         *defersToCreateTrack = true;
422          //CHECK(name != NULL);
423         if (!*bsfc && name) {
424             *bsfc = av_bitstream_filter_init(name);
425             if (!*bsfc) {
426                 ALOGE("Cannot open the %s BSF!", name);
427                 *defersToCreateTrack = false;
428                 return -1;
429             } else {
430                 ALOGV("open the %s bsf", name);
431                 return 0;
432             }
433         } else {
434             return 0;
435         }
436     }
437     return 1;
438 }
439
440 void FFmpegExtractor::printTime(int64_t time)
441 {
442     int hours, mins, secs, us;
443
444     if (time == AV_NOPTS_VALUE)
445         return;
446
447     secs = time / AV_TIME_BASE;
448     us = time % AV_TIME_BASE;
449     mins = secs / 60;
450     secs %= 60;
451     hours = mins / 60;
452     mins %= 60;
453     ALOGI("the time is %02d:%02d:%02d.%02d",
454         hours, mins, secs, (100 * us) / AV_TIME_BASE);
455 }
456
457 int FFmpegExtractor::stream_component_open(int stream_index)
458 {
459     AVCodecContext *avctx;
460     sp<MetaData> meta;
461     bool isAVC = false;
462     bool supported = false;
463     uint32_t type;
464     const void *data;
465     size_t size;
466     int ret;
467
468     ALOGI("stream_index: %d", stream_index);
469     if (stream_index < 0 || stream_index >= mFormatCtx->nb_streams)
470         return -1;
471     avctx = mFormatCtx->streams[stream_index]->codec;
472
473     switch(avctx->codec_id) {
474     case CODEC_ID_H264:
475     case CODEC_ID_MPEG4:
476     case CODEC_ID_H263:
477     case CODEC_ID_H263P:
478     case CODEC_ID_H263I:
479     case CODEC_ID_AAC:
480     case CODEC_ID_AC3:
481     case CODEC_ID_MP1:
482     case CODEC_ID_MP2:
483     case CODEC_ID_MP3:
484     case CODEC_ID_MPEG2VIDEO:
485     case CODEC_ID_WMV1:
486     case CODEC_ID_WMV2:
487     case CODEC_ID_WMV3:
488     case CODEC_ID_VC1:
489     case CODEC_ID_WMAV1:
490     case CODEC_ID_WMAV2:
491     case CODEC_ID_WMAPRO:
492     case CODEC_ID_WMALOSSLESS:
493     case CODEC_ID_RV40:
494     case CODEC_ID_COOK:
495     case CODEC_ID_APE:
496     case CODEC_ID_DTS:
497     case CODEC_ID_FLAC:
498         supported = true;
499         break;
500     default:
501         supported = false;
502         break;
503     }
504
505     if (!supported) {
506         ALOGE("unsupport the codec, id: 0x%0x", avctx->codec_id);
507         return -1;
508     }
509     ALOGV("support the codec");
510
511     unsigned streamType;
512     ssize_t index = mTracks.indexOfKey(stream_index);
513
514     if (index >= 0) {
515         ALOGE("this track already exists");
516         return 0;
517     }
518
519     mFormatCtx->streams[stream_index]->discard = AVDISCARD_DEFAULT;
520
521     char tagbuf[32];
522     av_get_codec_tag_string(tagbuf, sizeof(tagbuf), avctx->codec_tag);
523     ALOGV("Tag %s/0x%08x with codec id '%d'\n", tagbuf, avctx->codec_tag, avctx->codec_id);
524
525     switch (avctx->codec_type) {
526     case AVMEDIA_TYPE_VIDEO:
527         if (mVideoStreamIdx == -1)
528             mVideoStreamIdx = stream_index;
529         if (mVideoStream == NULL)
530             mVideoStream = mFormatCtx->streams[stream_index];
531         if (!mVideoQInited) {
532             packet_queue_init(&mVideoQ);
533             mVideoQInited = true;
534         }
535
536         ret = check_extradata(avctx);
537         if (ret != 1) {
538             if (ret == -1) {
539                 // disable the stream
540                 mVideoStreamIdx = -1;
541                 mVideoStream = NULL;
542                 packet_queue_end(&mVideoQ);
543                 mVideoQInited =  false;
544                 mFormatCtx->streams[stream_index]->discard = AVDISCARD_ALL;
545             }
546             return ret;
547          }
548
549         if (avctx->extradata) {
550             ALOGV("video stream extradata:");
551             hexdump(avctx->extradata, avctx->extradata_size);
552         } else {
553             ALOGV("video stream no extradata, but we can ignore it.");
554         }
555
556         meta = new MetaData;
557
558         switch(avctx->codec_id) {
559         case CODEC_ID_H264:
560             /**
561              * H.264 Video Types
562              * http://msdn.microsoft.com/en-us/library/dd757808(v=vs.85).aspx
563              */
564             //if (avctx->codec_tag && avctx->codec_tag == AV_RL32("avc1")) {
565             if (avctx->extradata[0] == 1 /* configurationVersion */) {
566                 // H.264 bitstream without start codes.
567                 isAVC = true;
568                 ALOGV("AVC");
569
570                 if (avctx->width == 0 || avctx->height == 0) {
571                     int32_t width, height;
572                     sp<ABuffer> seqParamSet = new ABuffer(avctx->extradata_size - 8);
573                     memcpy(seqParamSet->data(), avctx->extradata + 8, avctx->extradata_size - 8);
574                     FindAVCDimensions(seqParamSet, &width, &height);
575                     avctx->width  = width;
576                     avctx->height = height;
577                 }
578
579                 meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_VIDEO_AVC);
580                 meta->setData(kKeyAVCC, kTypeAVCC, avctx->extradata, avctx->extradata_size);
581             } else {
582                 // H.264 bitstream with start codes.
583                 isAVC = false;
584                 ALOGV("H264");
585
586                 /* set NULL to release meta as we will new a meta in MakeAVCCodecSpecificData() fxn */
587                 meta->clear();
588                 meta = NULL;
589
590                 sp<ABuffer> buffer = new ABuffer(avctx->extradata_size);
591                 memcpy(buffer->data(), avctx->extradata, avctx->extradata_size);
592                 meta = MakeAVCCodecSpecificData(buffer);
593             }
594             break;
595         case CODEC_ID_MPEG4:
596             ALOGV("MPEG4");
597             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_VIDEO_MPEG4);
598             {
599                 sp<ABuffer> csd = new ABuffer(avctx->extradata_size);
600                 memcpy(csd->data(), avctx->extradata, avctx->extradata_size);
601                 sp<ABuffer> esds = MakeMPEGVideoESDS(csd);
602                 meta->setData(kKeyESDS, kTypeESDS, esds->data(), esds->size());
603             }
604             break;
605         case CODEC_ID_H263:
606         case CODEC_ID_H263P:
607         case CODEC_ID_H263I:
608             ALOGV("H263");
609             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_VIDEO_H263);
610             break;
611         case CODEC_ID_MPEG2VIDEO:
612             ALOGV("MPEG2VIDEO");
613             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_VIDEO_MPEG2);
614             {
615                 sp<ABuffer> csd = new ABuffer(avctx->extradata_size);
616                 memcpy(csd->data(), avctx->extradata, avctx->extradata_size);
617                 sp<ABuffer> esds = MakeMPEGVideoESDS(csd);
618                 meta->setData(kKeyESDS, kTypeESDS, esds->data(), esds->size());
619             }
620             break;
621         case CODEC_ID_VC1:
622             ALOGV("VC1");
623             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_VIDEO_VC1);
624             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
625             break;
626         case CODEC_ID_WMV1:
627             ALOGV("WMV1");
628             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_VIDEO_WMV);
629             meta->setInt32(kKeyWMVVersion, kTypeWMVVer_7);
630             break;
631         case CODEC_ID_WMV2:
632             ALOGV("WMV2");
633             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_VIDEO_WMV);
634             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
635             meta->setInt32(kKeyWMVVersion, kTypeWMVVer_8);
636             break;
637         case CODEC_ID_WMV3:
638             ALOGV("WMV3");
639             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_VIDEO_WMV);
640             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
641             meta->setInt32(kKeyWMVVersion, kTypeWMVVer_9);
642             break;
643         case CODEC_ID_RV40:
644             ALOGV("RV40");
645             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_VIDEO_RV);
646             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
647             break;
648         default:
649             CHECK(!"Should not be here. Unsupported codec.");
650             break;
651         }
652
653         ALOGI("width: %d, height: %d, bit_rate: %d",
654              avctx->width, avctx->height, avctx->bit_rate);
655
656         meta->setInt32(kKeyWidth, avctx->width);
657         meta->setInt32(kKeyHeight, avctx->height);
658         if (avctx->bit_rate > 0)
659             meta->setInt32(kKeyBitRate, avctx->bit_rate);
660         if (mVideoStream->duration != AV_NOPTS_VALUE) {
661             int64_t duration = mVideoStream->duration * av_q2d(mVideoStream->time_base) * 1000000;
662             printTime(duration);
663             ALOGV("video startTime: %lld", mVideoStream->start_time);
664             meta->setInt64(kKeyDuration, duration);
665         } else {
666             // default when no stream duration
667             meta->setInt64(kKeyDuration, mFormatCtx->duration);
668         }
669
670         ALOGV("create a video track");
671         index = mTracks.add(
672             stream_index, new Track(this, meta, isAVC, mVideoStream, &mVideoQ));
673
674         mDefersToCreateVideoTrack = false;
675
676         break;
677     case AVMEDIA_TYPE_AUDIO:
678         if (mAudioStreamIdx == -1)
679             mAudioStreamIdx = stream_index;
680         if (mAudioStream == NULL)
681             mAudioStream = mFormatCtx->streams[stream_index];
682         if (!mAudioQInited) {
683             packet_queue_init(&mAudioQ);
684             mAudioQInited = true;
685         }
686
687         ret = check_extradata(avctx);
688         if (ret != 1) {
689             if (ret == -1) {
690                 // disable the stream
691                 mAudioStreamIdx = -1;
692                 mAudioStream = NULL;
693                 packet_queue_end(&mAudioQ);
694                 mAudioQInited =  false;
695                 mFormatCtx->streams[stream_index]->discard = AVDISCARD_ALL;
696             }
697             return ret;
698         }
699
700         if (avctx->extradata) {
701             ALOGV("audio stream extradata:");
702             hexdump(avctx->extradata, avctx->extradata_size);
703         } else {
704             ALOGV("audio stream no extradata, but we can ignore it.");
705         }
706
707         switch(avctx->codec_id) {
708         case CODEC_ID_MP1:
709             ALOGV("MP1");
710             meta = new MetaData;
711             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_MPEG_LAYER_I);
712             break;
713         case CODEC_ID_MP2:
714             ALOGV("MP2");
715             meta = new MetaData;
716             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_MPEG_LAYER_II);
717             break;
718         case CODEC_ID_MP3:
719             ALOGV("MP3");
720             meta = new MetaData;
721             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_MPEG);
722             break;
723         case CODEC_ID_AC3:
724             ALOGV("AC3");
725             meta = new MetaData;
726             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_AC3);
727             break;
728         case CODEC_ID_AAC:
729             ALOGV("AAC");
730             uint32_t sr;
731             const uint8_t *header;
732             uint8_t profile, sf_index, channel;
733
734             header = avctx->extradata;
735             CHECK(header != NULL);
736
737             // AudioSpecificInfo follows
738             // oooo offf fccc c000
739             // o - audioObjectType
740             // f - samplingFreqIndex
741             // c - channelConfig
742             profile = ((header[0] & 0xf8) >> 3) - 1;
743             sf_index = (header[0] & 0x07) << 1 | (header[1] & 0x80) >> 7;
744             sr = get_sample_rate(sf_index);
745             if (sr == 0) {
746                 ALOGE("unsupport the sample rate");
747                 return -1;
748             }
749             channel = (header[1] >> 3) & 0xf;
750             ALOGV("profile: %d, sf_index: %d, channel: %d", profile, sf_index, channel);
751
752             meta = MakeAACCodecSpecificData(profile, sf_index, channel);
753             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_AAC);
754             break;
755         case CODEC_ID_WMAV1:  // TODO, version?
756             ALOGV("WMAV1");
757             meta = new MetaData;
758             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_WMA);
759             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
760             break;
761         case CODEC_ID_WMAV2:
762             ALOGV("WMAV2");
763             meta = new MetaData;
764             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_WMA);
765             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
766             meta->setInt32(kKeyWMAVersion, kTypeWMA);
767             break;
768         case CODEC_ID_WMAPRO:
769             ALOGV("WMAPRO");
770             meta = new MetaData;
771             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_WMA);
772             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
773             meta->setInt32(kKeyWMAVersion, kTypeWMAPro);
774             break;
775         case CODEC_ID_WMALOSSLESS:
776             ALOGV("WMALOSSLESS");
777             meta = new MetaData;
778             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_WMA);
779             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
780             meta->setInt32(kKeyWMAVersion, kTypeWMALossLess);
781             break;
782         case CODEC_ID_COOK: // audio codec in RMVB
783             ALOGV("COOK");
784             meta = new MetaData;
785             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_RA);
786             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
787             break;
788         case CODEC_ID_APE:
789             ALOGV("APE");
790             meta = new MetaData;
791             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_APE);
792             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
793             break;
794         case CODEC_ID_DTS:
795             ALOGV("DTS");
796             meta = new MetaData;
797             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_DTS);
798             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
799             break;
800         case CODEC_ID_FLAC:
801             ALOGV("FLAC");
802             meta = new MetaData;
803             meta->setCString(kKeyMIMEType, MEDIA_MIMETYPE_AUDIO_FLAC);
804             meta->setData(kKeyRawCodecSpecificData, 0, avctx->extradata, avctx->extradata_size);
805             break;
806         default:
807             CHECK(!"Should not be here. Unsupported codec.");
808             break;
809         }
810
811         ALOGI("bit_rate: %d, sample_rate: %d, channels: %d, bits_per_coded_sample: %d",
812              avctx->bit_rate, avctx->sample_rate, avctx->channels, avctx->bits_per_coded_sample);
813
814         meta->setInt32(kKeySampleRate, avctx->sample_rate);
815         meta->setInt32(kKeyChannelCount, avctx->channels);
816         meta->setInt32(kKeyBitspersample, avctx->bits_per_coded_sample);
817         meta->setInt32(kKeyBitRate, avctx->bit_rate);
818         meta->setInt32(kKeyBlockAlign, avctx->block_align);
819         if (mAudioStream->duration != AV_NOPTS_VALUE) {
820             int64_t duration = mAudioStream->duration * av_q2d(mAudioStream->time_base) * 1000000;
821             printTime(duration);
822             ALOGV("audio startTime: %lld", mAudioStream->start_time);
823             meta->setInt64(kKeyDuration, duration);
824         } else {
825             // default when no stream duration
826             meta->setInt64(kKeyDuration, mFormatCtx->duration);
827         }
828
829         ALOGV("create a audio track");
830         index = mTracks.add(
831             stream_index, new Track(this, meta, false, mAudioStream, &mAudioQ));
832
833         mDefersToCreateAudioTrack = false;
834
835         break;
836     case AVMEDIA_TYPE_SUBTITLE:
837         /* Unsupport now */
838         CHECK(!"Should not be here. Unsupported media type.");
839         break;
840     default:
841         CHECK(!"Should not be here. Unsupported media type.");
842         break;
843     }
844     return 0;
845 }
846
847 void FFmpegExtractor::stream_component_close(int stream_index)
848 {
849     AVCodecContext *avctx;
850
851     if (stream_index < 0 || stream_index >= mFormatCtx->nb_streams)
852         return;
853     avctx = mFormatCtx->streams[stream_index]->codec;
854
855     switch (avctx->codec_type) {
856     case AVMEDIA_TYPE_VIDEO:
857         ALOGV("packet_queue_abort videoq");
858         packet_queue_abort(&mVideoQ);
859         /* wait until the end */
860         while (!mAbortRequest && !mVideoEOSReceived) {
861             ALOGV("wait for video received");
862             usleep(10000);
863         }
864         ALOGV("packet_queue_end videoq");
865         packet_queue_end(&mVideoQ);
866         break;
867     case AVMEDIA_TYPE_AUDIO:
868         ALOGV("packet_queue_abort audioq");
869         packet_queue_abort(&mAudioQ);
870         while (!mAbortRequest && !mAudioEOSReceived) {
871             ALOGV("wait for audio received");
872             usleep(10000);
873         }
874         ALOGV("packet_queue_end audioq");
875         packet_queue_end(&mAudioQ);
876         break;
877     case AVMEDIA_TYPE_SUBTITLE:
878         break;
879     default:
880         break;
881     }
882
883     mFormatCtx->streams[stream_index]->discard = AVDISCARD_ALL;
884     switch (avctx->codec_type) {
885     case AVMEDIA_TYPE_VIDEO:
886         mVideoStream    = NULL;
887         mVideoStreamIdx = -1;
888         if (mVideoBsfc) {
889             av_bitstream_filter_close(mVideoBsfc);
890             mVideoBsfc  = NULL;
891         }
892         break;
893     case AVMEDIA_TYPE_AUDIO:
894         mAudioStream    = NULL;
895         mAudioStreamIdx = -1;
896         if (mAudioBsfc) {
897             av_bitstream_filter_close(mAudioBsfc);
898             mAudioBsfc  = NULL;
899         }
900         break;
901     case AVMEDIA_TYPE_SUBTITLE:
902         break;
903     default:
904         break;
905     }
906 }
907
908 void FFmpegExtractor::reachedEOS(enum AVMediaType media_type)
909 {
910     Mutex::Autolock autoLock(mLock);
911
912     if (media_type == AVMEDIA_TYPE_VIDEO) {
913         mVideoEOSReceived = true;
914     } else if (media_type == AVMEDIA_TYPE_AUDIO) {
915         mAudioEOSReceived = true;
916     }
917 }
918
919 /* seek in the stream */
920 int FFmpegExtractor::stream_seek(int64_t pos, enum AVMediaType media_type)
921 {
922     Mutex::Autolock autoLock(mLock);
923
924     if (mVideoStreamIdx >= 0 &&
925         mAudioStreamIdx >= 0 &&
926         media_type == AVMEDIA_TYPE_AUDIO &&
927         !mVideoEOSReceived) {
928        return NO_SEEK;
929     }
930
931     // flush immediately
932     if (mAudioStreamIdx >= 0)
933         packet_queue_flush(&mAudioQ);
934     if (mVideoStreamIdx >= 0)
935         packet_queue_flush(&mVideoQ);
936
937     mSeekPos = pos;
938     mSeekFlags &= ~AVSEEK_FLAG_BYTE;
939     mSeekReq = 1;
940
941     return SEEK;
942 }
943
944 // staitc
945 int FFmpegExtractor::decode_interrupt_cb(void *ctx)
946 {
947     FFmpegExtractor *extrator = static_cast<FFmpegExtractor *>(ctx);
948     return extrator->mAbortRequest;
949 }
950
951 void FFmpegExtractor::print_error_ex(const char *filename, int err)
952 {
953     char errbuf[128];
954     const char *errbuf_ptr = errbuf;
955
956     if (av_strerror(err, errbuf, sizeof(errbuf)) < 0)
957         errbuf_ptr = strerror(AVUNERROR(err));
958     ALOGI("%s: %s\n", filename, errbuf_ptr);
959 }
960
961 void FFmpegExtractor::buildFileName(const sp<DataSource> &source)
962 {
963 #if 1
964     ALOGI("android-source:%p", &source);
965     // pass the addr of smart pointer("source")
966     snprintf(mFilename, sizeof(mFilename), "android-source:%p", &source);
967     ALOGI("build mFilename: %s", mFilename);
968 #else
969     const char *url = mDataSource->getNamURI();
970     if (url == NULL) {
971         ALOGI("url is error!");
972         return;
973     }
974     // is it right?
975     if (!strcmp(url, "-")) {
976         av_strlcpy(mFilename, "pipe:", strlen("pipe:") + 1);
977     } else {
978         av_strlcpy(mFilename, url, strlen(url) + 1);
979     }
980     ALOGI("build url: %s, mFilename: %s", url, mFilename);
981 #endif
982 }
983
984 void FFmpegExtractor::setFFmpegDefaultOpts()
985 {
986     mGenPTS       = 0;
987 #if DEBUG_DISABLE_VIDEO
988     mVideoDisable = 1;
989 #else
990     mVideoDisable = 0;
991 #endif
992 #if DEBUG_DISABLE_AUDIO
993     mAudioDisable = 1;
994 #else
995     mAudioDisable = 0;
996 #endif
997     mShowStatus   = 0;
998     mSeekByBytes  = 0; /* seek by bytes 0=off 1=on -1=auto" */
999     mDuration     = AV_NOPTS_VALUE;
1000     mSeekPos      = AV_NOPTS_VALUE;
1001     mAutoExit     = 1;
1002     mLoop         = 1;
1003
1004     mVideoStreamIdx = -1;
1005     mAudioStreamIdx = -1;
1006     mVideoStream  = NULL;
1007     mAudioStream  = NULL;
1008     mVideoQInited = false;
1009     mAudioQInited = false;
1010     mDefersToCreateVideoTrack = false;
1011     mDefersToCreateAudioTrack = false;
1012     mVideoBsfc = NULL;
1013     mAudioBsfc = NULL;
1014
1015     mAbortRequest = 0;
1016     mPaused       = 0;
1017     mLastPaused   = 0;
1018     mSeekReq      = 0;
1019
1020     mProbePkts    = 0;
1021     mEOF          = false;
1022 }
1023
1024 int FFmpegExtractor::initStreams()
1025 {
1026     int err, i;
1027     status_t status;
1028     int eof = 0;
1029     int ret = 0, audio_ret = 0, video_ret = 0;
1030     int pkt_in_play_range = 0;
1031     AVDictionaryEntry *t;
1032     AVDictionary **opts;
1033     int orig_nb_streams;
1034     int st_index[AVMEDIA_TYPE_NB] = {0};
1035     int wanted_stream[AVMEDIA_TYPE_NB] = {0};
1036     st_index[AVMEDIA_TYPE_AUDIO]  = -1;
1037     st_index[AVMEDIA_TYPE_VIDEO]  = -1;
1038     wanted_stream[AVMEDIA_TYPE_AUDIO]  = -1;
1039     wanted_stream[AVMEDIA_TYPE_VIDEO]  = -1;
1040
1041     setFFmpegDefaultOpts();
1042
1043     status = initFFmpeg();
1044     if (status != OK) {
1045         ret = -1;
1046         goto fail;
1047     }
1048
1049     av_init_packet(&flush_pkt);
1050     flush_pkt.data = (uint8_t *)"FLUSH";
1051     flush_pkt.size = 0;
1052
1053     mFormatCtx = avformat_alloc_context();
1054     mFormatCtx->interrupt_callback.callback = decode_interrupt_cb;
1055     mFormatCtx->interrupt_callback.opaque = this;
1056     ALOGV("mFilename: %s", mFilename);
1057     err = avformat_open_input(&mFormatCtx, mFilename, NULL, &format_opts);
1058     if (err < 0) {
1059         print_error_ex(mFilename, err);
1060         ret = -1;
1061         goto fail;
1062     }
1063     if ((t = av_dict_get(format_opts, "", NULL, AV_DICT_IGNORE_SUFFIX))) {
1064         ALOGE("Option %s not found.\n", t->key);
1065         //ret = AVERROR_OPTION_NOT_FOUND;
1066         ret = -1;
1067         goto fail;
1068     }
1069
1070     if (mGenPTS)
1071         mFormatCtx->flags |= AVFMT_FLAG_GENPTS;
1072
1073     opts = setup_find_stream_info_opts(mFormatCtx, codec_opts);
1074     orig_nb_streams = mFormatCtx->nb_streams;
1075
1076     err = avformat_find_stream_info(mFormatCtx, opts);
1077     if (err < 0) {
1078         ALOGE("%s: could not find codec parameters\n", mFilename);
1079         ret = -1;
1080         goto fail;
1081     }
1082     for (i = 0; i < orig_nb_streams; i++)
1083         av_dict_free(&opts[i]);
1084     av_freep(&opts);
1085
1086     if (mFormatCtx->pb)
1087         mFormatCtx->pb->eof_reached = 0; // FIXME hack, ffplay maybe should not use url_feof() to test for the end
1088
1089     if (mSeekByBytes < 0)
1090         mSeekByBytes = !!(mFormatCtx->iformat->flags & AVFMT_TS_DISCONT);
1091
1092     for (i = 0; i < mFormatCtx->nb_streams; i++)
1093         mFormatCtx->streams[i]->discard = AVDISCARD_ALL;
1094     if (!mVideoDisable)
1095         st_index[AVMEDIA_TYPE_VIDEO] =
1096             av_find_best_stream(mFormatCtx, AVMEDIA_TYPE_VIDEO,
1097                                 wanted_stream[AVMEDIA_TYPE_VIDEO], -1, NULL, 0);
1098     if (!mAudioDisable)
1099         st_index[AVMEDIA_TYPE_AUDIO] =
1100             av_find_best_stream(mFormatCtx, AVMEDIA_TYPE_AUDIO,
1101                                 wanted_stream[AVMEDIA_TYPE_AUDIO],
1102                                 st_index[AVMEDIA_TYPE_VIDEO],
1103                                 NULL, 0);
1104     if (mShowStatus) {
1105         av_dump_format(mFormatCtx, 0, mFilename, 0);
1106     }
1107
1108     if (mFormatCtx->duration != AV_NOPTS_VALUE &&
1109             mFormatCtx->start_time != AV_NOPTS_VALUE) {
1110         int hours, mins, secs, us;
1111
1112         ALOGV("file startTime: %lld", mFormatCtx->start_time);
1113
1114         mDuration = mFormatCtx->duration;
1115
1116         secs = mDuration / AV_TIME_BASE;
1117         us = mDuration % AV_TIME_BASE;
1118         mins = secs / 60;
1119         secs %= 60;
1120         hours = mins / 60;
1121         mins %= 60;
1122         ALOGI("the duration is %02d:%02d:%02d.%02d",
1123             hours, mins, secs, (100 * us) / AV_TIME_BASE);
1124     }
1125
1126     if (st_index[AVMEDIA_TYPE_AUDIO] >= 0) {
1127         audio_ret = stream_component_open(st_index[AVMEDIA_TYPE_AUDIO]);
1128     }
1129
1130     if (st_index[AVMEDIA_TYPE_VIDEO] >= 0) {
1131         video_ret = stream_component_open(st_index[AVMEDIA_TYPE_VIDEO]);
1132     }
1133
1134     if ( audio_ret < 0 && video_ret < 0) {
1135         ALOGE("%s: could not open codecs\n", mFilename);
1136         ret = -1;
1137         goto fail;
1138     }
1139
1140     ret = 0;
1141
1142 fail:
1143     return ret;
1144 }
1145
1146 void FFmpegExtractor::deInitStreams()
1147 {
1148     if (mFormatCtx) {
1149         avformat_close_input(&mFormatCtx);
1150     }
1151
1152     deInitFFmpeg();
1153 }
1154
1155 status_t FFmpegExtractor::startReaderThread() {
1156     ALOGV("Starting reader thread");
1157     Mutex::Autolock autoLock(mLock);
1158
1159     if (mReaderThreadStarted)
1160         return OK;
1161
1162     pthread_attr_t attr;
1163     pthread_attr_init(&attr);
1164     pthread_attr_setdetachstate(&attr, PTHREAD_CREATE_JOINABLE);
1165     pthread_create(&mReaderThread, &attr, ReaderWrapper, this);
1166     pthread_attr_destroy(&attr);
1167     mReaderThreadStarted = true;
1168     ALOGD("Reader thread started");
1169
1170     return OK;
1171 }
1172
1173 void FFmpegExtractor::stopReaderThread() {
1174     ALOGV("Stopping reader thread");
1175     Mutex::Autolock autoLock(mLock);
1176
1177     if (!mReaderThreadStarted) {
1178         ALOGD("Reader thread have been stopped");
1179         return;
1180     }
1181
1182     mAbortRequest = 1;
1183
1184     void *dummy;
1185     pthread_join(mReaderThread, &dummy);
1186     mReaderThreadStarted = false;
1187     ALOGD("Reader thread stopped");
1188 }
1189
1190 // static
1191 void *FFmpegExtractor::ReaderWrapper(void *me) {
1192     ((FFmpegExtractor *)me)->readerEntry();
1193
1194     return NULL;
1195 }
1196
1197 void FFmpegExtractor::readerEntry() {
1198     int err, i, ret;
1199     AVPacket pkt1, *pkt = &pkt1;
1200     int eof = 0;
1201     int pkt_in_play_range = 0;
1202
1203     ALOGV("FFmpegExtractor::readerEntry");
1204
1205     mVideoEOSReceived = false;
1206     mAudioEOSReceived = false;
1207
1208     for (;;) {
1209         if (mAbortRequest)
1210             break;
1211
1212         if (mPaused != mLastPaused) {
1213             mLastPaused = mPaused;
1214             if (mPaused)
1215                 mReadPauseReturn = av_read_pause(mFormatCtx);
1216             else
1217                 av_read_play(mFormatCtx);
1218         }
1219 #if CONFIG_RTSP_DEMUXER || CONFIG_MMSH_PROTOCOL
1220         if (mPaused &&
1221                 (!strcmp(mFormatCtx->iformat->name, "rtsp") ||
1222                  (mFormatCtx->pb && !strncmp(mFilename, "mmsh:", 5)))) {
1223             /* wait 10 ms to avoid trying to get another packet */
1224             /* XXX: horrible */
1225             usleep(10000);
1226             continue;
1227         }
1228 #endif
1229
1230         if (mSeekReq) {
1231             ALOGV("readerEntry, mSeekReq: %d", mSeekReq);
1232             ret = avformat_seek_file(mFormatCtx, -1, INT64_MIN, mSeekPos, INT64_MAX, mSeekFlags);
1233             if (ret < 0) {
1234                 ALOGE("%s: error while seeking", mFormatCtx->filename);
1235             } else {
1236                 if (mAudioStreamIdx >= 0) {
1237                     packet_queue_flush(&mAudioQ);
1238                     packet_queue_put(&mAudioQ, &flush_pkt);
1239                 }
1240                 if (mVideoStreamIdx >= 0) {
1241                     packet_queue_flush(&mVideoQ);
1242                     packet_queue_put(&mVideoQ, &flush_pkt);
1243                 }
1244             }
1245             mSeekReq = 0;
1246             eof = 0;
1247         }
1248
1249         /* if the queue are full, no need to read more */
1250         if (   mAudioQ.size + mVideoQ.size > MAX_QUEUE_SIZE
1251             || (   (mAudioQ   .size  > MIN_AUDIOQ_SIZE || mAudioStreamIdx < 0)
1252                 && (mVideoQ   .nb_packets > MIN_FRAMES || mVideoStreamIdx < 0))) {
1253 #if DEBUG_READ_ENTRY
1254             ALOGV("readerEntry, is full, fuck");
1255 #endif
1256             /* wait 10 ms */
1257             usleep(10000);
1258             continue;
1259         }
1260
1261         if (eof) {
1262             if (mVideoStreamIdx >= 0) {
1263                 av_init_packet(pkt);
1264                 pkt->data = NULL;
1265                 pkt->size = 0;
1266                 pkt->stream_index = mVideoStreamIdx;
1267                 packet_queue_put(&mVideoQ, pkt);
1268             }
1269             if (mAudioStreamIdx >= 0) {
1270                 av_init_packet(pkt);
1271                 pkt->data = NULL;
1272                 pkt->size = 0;
1273                 pkt->stream_index = mAudioStreamIdx;
1274                 packet_queue_put(&mAudioQ, pkt);
1275             }
1276             usleep(10000);
1277 #if DEBUG_READ_ENTRY
1278             ALOGV("readerEntry, eof = 1, mVideoQ.size: %d, mVideoQ.nb_packets: %d, mAudioQ.size: %d, mAudioQ.nb_packets: %d",
1279                     mVideoQ.size, mVideoQ.nb_packets, mAudioQ.size, mAudioQ.nb_packets);
1280 #endif
1281             if (mAudioQ.size + mVideoQ.size  == 0) {
1282                 if (mAutoExit) {
1283                     ret = AVERROR_EOF;
1284                     goto fail;
1285                 }
1286             }
1287             eof=0;
1288             continue;
1289         }
1290
1291         ret = av_read_frame(mFormatCtx, pkt);
1292         mProbePkts++;
1293         if (ret < 0) {
1294             if (ret == AVERROR_EOF || url_feof(mFormatCtx->pb))
1295                 if (ret == AVERROR_EOF) {
1296                     //ALOGV("ret == AVERROR_EOF");
1297                 }
1298                 if (url_feof(mFormatCtx->pb)) {
1299                     //ALOGV("url_feof(mFormatCtx->pb)");
1300                 }
1301
1302                 eof = 1;
1303                 mEOF = true;
1304             if (mFormatCtx->pb && mFormatCtx->pb->error) {
1305                 ALOGE("mFormatCtx->pb->error: %d", mFormatCtx->pb->error);
1306                 break;
1307             }
1308             usleep(100000);
1309             continue;
1310         }
1311
1312         if (pkt->stream_index == mVideoStreamIdx) {
1313              if (mDefersToCreateVideoTrack) {
1314                 AVCodecContext *avctx = mFormatCtx->streams[mVideoStreamIdx]->codec;
1315
1316                 int i = parser_split(avctx, pkt->data, pkt->size);
1317                 if (i > 0 && i < FF_MAX_EXTRADATA_SIZE) {
1318                     if (avctx->extradata)
1319                         av_freep(&avctx->extradata);
1320                     avctx->extradata_size= i;
1321                     avctx->extradata = (uint8_t *)av_malloc(avctx->extradata_size + FF_INPUT_BUFFER_PADDING_SIZE);
1322                     if (!avctx->extradata) {
1323                         //return AVERROR(ENOMEM);
1324                         ret = AVERROR(ENOMEM);
1325                         goto fail;
1326                     }
1327                     // sps + pps(there may be sei in it)
1328                     memcpy(avctx->extradata, pkt->data, avctx->extradata_size);
1329                     memset(avctx->extradata + i, 0, FF_INPUT_BUFFER_PADDING_SIZE);
1330                 } else {
1331                     av_free_packet(pkt);
1332                     continue;
1333                 }
1334
1335                 stream_component_open(mVideoStreamIdx);
1336                 if (!mDefersToCreateVideoTrack)
1337                     ALOGI("probe packet counter: %d when create video track ok", mProbePkts);
1338                 if (mProbePkts == EXTRACTOR_MAX_PROBE_PACKETS)
1339                     ALOGI("probe packet counter to max: %d, create video track: %d",
1340                         mProbePkts, !mDefersToCreateVideoTrack);
1341             }
1342         } else if (pkt->stream_index == mAudioStreamIdx) {
1343             int ret;
1344             uint8_t *outbuf;
1345             int   outbuf_size;
1346             AVCodecContext *avctx = mFormatCtx->streams[mAudioStreamIdx]->codec;
1347             if (mAudioBsfc && pkt && pkt->data) {
1348                 ret = av_bitstream_filter_filter(mAudioBsfc, avctx, NULL, &outbuf, &outbuf_size,
1349                                    pkt->data, pkt->size, pkt->flags & AV_PKT_FLAG_KEY);
1350
1351                 if (ret < 0 ||!outbuf_size) {
1352                     av_free_packet(pkt);
1353                     continue;
1354                 }
1355                 if (outbuf && outbuf != pkt->data) {
1356                     memmove(pkt->data, outbuf, outbuf_size);
1357                     pkt->size = outbuf_size;
1358                 }
1359             }
1360             if (mDefersToCreateAudioTrack) {
1361                 if (avctx->extradata_size <= 0) {
1362                     av_free_packet(pkt);
1363                     continue;
1364                 }
1365                 stream_component_open(mAudioStreamIdx);
1366                 if (!mDefersToCreateAudioTrack)
1367                     ALOGI("probe packet counter: %d when create audio track ok", mProbePkts);
1368                 if (mProbePkts == EXTRACTOR_MAX_PROBE_PACKETS)
1369                     ALOGI("probe packet counter to max: %d, create audio track: %d",
1370                         mProbePkts, !mDefersToCreateAudioTrack);
1371             }
1372         }
1373
1374         if (pkt->stream_index == mAudioStreamIdx) {
1375             packet_queue_put(&mAudioQ, pkt);
1376         } else if (pkt->stream_index == mVideoStreamIdx) {
1377             packet_queue_put(&mVideoQ, pkt);
1378         } else {
1379             av_free_packet(pkt);
1380         }
1381     }
1382     /* wait until the end */
1383     while (!mAbortRequest) {
1384         usleep(100000);
1385     }
1386
1387     ret = 0;
1388 fail:
1389     ALOGI("reader thread goto end...");
1390
1391     /* close each stream */
1392     if (mAudioStreamIdx >= 0)
1393         stream_component_close(mAudioStreamIdx);
1394     if (mVideoStreamIdx >= 0)
1395         stream_component_close(mVideoStreamIdx);
1396     if (mFormatCtx) {
1397         avformat_close_input(&mFormatCtx);
1398     }
1399 }
1400
1401 ////////////////////////////////////////////////////////////////////////////////
1402
1403 FFmpegExtractor::Track::Track(
1404         const sp<FFmpegExtractor> &extractor, sp<MetaData> meta, bool isAVC,
1405           AVStream *stream, PacketQueue *queue)
1406     : mExtractor(extractor),
1407       mMeta(meta),
1408       mIsAVC(isAVC),
1409       mStream(stream),
1410       mQueue(queue) {
1411     const char *mime;
1412
1413     /* H.264 Video Types */
1414     {
1415         mNal2AnnexB = false;
1416
1417         if (mIsAVC) {
1418             uint32_t type;
1419             const void *data;
1420             size_t size;
1421             CHECK(meta->findData(kKeyAVCC, &type, &data, &size));
1422
1423             const uint8_t *ptr = (const uint8_t *)data;
1424
1425             CHECK(size >= 7);
1426             CHECK_EQ((unsigned)ptr[0], 1u);  // configurationVersion == 1
1427
1428             // The number of bytes used to encode the length of a NAL unit.
1429             mNALLengthSize = 1 + (ptr[4] & 3);
1430
1431             ALOGV("the stream is AVC, the length of a NAL unit: %d", mNALLengthSize);
1432
1433             mNal2AnnexB = true;
1434         }
1435     }
1436
1437     mMediaType = mStream->codec->codec_type;
1438     mFirstKeyPktTimestamp = AV_NOPTS_VALUE;
1439 }
1440
1441 FFmpegExtractor::Track::~Track() {
1442 }
1443
1444 status_t FFmpegExtractor::Track::start(MetaData *params) {
1445     Mutex::Autolock autoLock(mLock);
1446     //mExtractor->startReaderThread();
1447     return OK;
1448 }
1449
1450 status_t FFmpegExtractor::Track::stop() {
1451     Mutex::Autolock autoLock(mLock);
1452     mExtractor->stopReaderThread();
1453     return OK;
1454 }
1455
1456 sp<MetaData> FFmpegExtractor::Track::getFormat() {
1457     Mutex::Autolock autoLock(mLock);
1458
1459     return mMeta;
1460 }
1461
1462 status_t FFmpegExtractor::Track::read(
1463         MediaBuffer **buffer, const ReadOptions *options) {
1464     *buffer = NULL;
1465
1466     Mutex::Autolock autoLock(mLock);
1467
1468     AVPacket pkt;
1469     bool seeking = false;
1470     bool waitKeyPkt = false;
1471     ReadOptions::SeekMode mode;
1472     int64_t pktTS = AV_NOPTS_VALUE;
1473     int64_t seekTimeUs = AV_NOPTS_VALUE;
1474     int64_t timeUs;
1475     int key;
1476     status_t status = OK;
1477
1478     if (options && options->getSeekTo(&seekTimeUs, &mode)) {
1479         ALOGV("~~~%s seekTimeUs: %lld, mode: %d", av_get_media_type_string(mMediaType), seekTimeUs, mode);
1480         /* add the stream start time */
1481         if (mStream->start_time != AV_NOPTS_VALUE)
1482             seekTimeUs += mStream->start_time * av_q2d(mStream->time_base) * 1000000;
1483         ALOGV("~~~%s seekTimeUs[+startTime]: %lld, mode: %d", av_get_media_type_string(mMediaType), seekTimeUs, mode);
1484
1485         if (mExtractor->stream_seek(seekTimeUs, mMediaType) == SEEK)
1486             seeking = true;
1487     }
1488
1489 retry:
1490     if (mExtractor->packet_queue_get(mQueue, &pkt, 1) < 0) {
1491         mExtractor->reachedEOS(mMediaType);
1492         return ERROR_END_OF_STREAM;
1493     }
1494
1495     if (seeking) {
1496         if (pkt.data != flush_pkt.data) {
1497             av_free_packet(&pkt);
1498             goto retry;
1499         } else {
1500             seeking = false;
1501 #if WAIT_KEY_PACKET_AFTER_SEEK
1502             waitKeyPkt = true;
1503 #endif
1504         }
1505     }
1506
1507     if (pkt.data == flush_pkt.data) {
1508         ALOGV("read %s flush pkt", av_get_media_type_string(mMediaType));
1509         av_free_packet(&pkt);
1510         mFirstKeyPktTimestamp = AV_NOPTS_VALUE;
1511         goto retry;
1512     } else if (pkt.data == NULL && pkt.size == 0) {
1513         ALOGV("read %s eos pkt", av_get_media_type_string(mMediaType));
1514         av_free_packet(&pkt);
1515         mExtractor->reachedEOS(mMediaType);
1516         return ERROR_END_OF_STREAM;
1517     }
1518
1519     key = pkt.flags & AV_PKT_FLAG_KEY ? 1 : 0;
1520     pktTS = pkt.pts;
1521     // use dts when AVI
1522     if (pkt.pts == AV_NOPTS_VALUE)
1523         pktTS = pkt.dts;
1524
1525     if (waitKeyPkt) {
1526         if (!key) {
1527             ALOGV("drop the no key packet");
1528             av_free_packet(&pkt);
1529             goto retry;
1530         } else {
1531             ALOGV("~~~~~~ got the key packet");
1532             waitKeyPkt = false;
1533         }
1534     }
1535
1536     if (mFirstKeyPktTimestamp == AV_NOPTS_VALUE) {
1537         // update the first key timestamp
1538         mFirstKeyPktTimestamp = pktTS;
1539     }
1540      
1541     if (pktTS < mFirstKeyPktTimestamp) {
1542             ALOGV("drop the packet with the backward timestamp, maybe them are B-frames after I-frame ^_^");
1543             av_free_packet(&pkt);
1544             goto retry;
1545     }
1546
1547     MediaBuffer *mediaBuffer = new MediaBuffer(pkt.size + FF_INPUT_BUFFER_PADDING_SIZE);
1548     mediaBuffer->meta_data()->clear();
1549     mediaBuffer->set_range(0, pkt.size);
1550 #if DISABLE_NAL_TO_ANNEXB
1551     mNal2AnnexB = false;
1552 #endif
1553     if (mIsAVC && mNal2AnnexB) {
1554         /* Convert H.264 NAL format to annex b */
1555         if (mNALLengthSize >= 3 && mNALLengthSize <= 4 )
1556         {
1557             uint8_t *dst = (uint8_t *)mediaBuffer->data();
1558
1559             /* This only works for NAL sizes 3-4 */
1560             size_t len = pkt.size, i;
1561             uint8_t *ptr = pkt.data;
1562             while (len >= mNALLengthSize) {
1563                 uint32_t nal_len = 0;
1564                 for( i = 0; i < mNALLengthSize; i++ ) {
1565                     nal_len = (nal_len << 8) | ptr[i];
1566                     dst[i] = 0;
1567                 }
1568                 dst[mNALLengthSize - 1] = 1;
1569                 if (nal_len > INT_MAX || nal_len > (unsigned int)len) {
1570                     status = ERROR_MALFORMED;
1571                     break;
1572                 }
1573                                 dst += mNALLengthSize;
1574                                 ptr += mNALLengthSize;
1575                 len -= mNALLengthSize;
1576
1577                 memcpy(dst, ptr, nal_len);
1578
1579                 dst += nal_len;
1580                 ptr += nal_len;
1581                 len -= nal_len;
1582             }
1583         } else {
1584              status = ERROR_MALFORMED;
1585         }
1586
1587         if (status != OK) {
1588             ALOGV("status != OK");
1589             mediaBuffer->release();
1590             mediaBuffer = NULL;
1591             av_free_packet(&pkt);
1592             return ERROR_MALFORMED;
1593         }
1594     } else {
1595         memcpy(mediaBuffer->data(), pkt.data, pkt.size);
1596     }
1597
1598     int64_t start_time = mStream->start_time != AV_NOPTS_VALUE ? mStream->start_time : 0;
1599     timeUs = (int64_t)((pktTS - start_time) * av_q2d(mStream->time_base) * 1000000);
1600
1601 #if 0
1602     ALOGV("read %s pkt, size: %d, key: %d, pts: %lld, dts: %lld, timeUs[-startTime]: %llu us (%.2f secs)",
1603         av_get_media_type_string(mMediaType), pkt.size, key, pkt.pts, pkt.dts, timeUs, timeUs/1E6);
1604 #endif
1605
1606     mediaBuffer->meta_data()->setInt64(kKeyTime, timeUs);
1607     mediaBuffer->meta_data()->setInt32(kKeyIsSyncFrame, key);
1608
1609     *buffer = mediaBuffer;
1610
1611     av_free_packet(&pkt);
1612
1613     return OK;
1614 }
1615
1616 ////////////////////////////////////////////////////////////////////////////////
1617
1618 // LegacySniffFFMPEG
1619 typedef struct {
1620     const char *format;
1621     const char *container;
1622 } formatmap;
1623
1624 static formatmap FILE_FORMATS[] = {
1625         {"mpeg",                    MEDIA_MIMETYPE_CONTAINER_MPEG2PS  },
1626         {"mpegts",                  MEDIA_MIMETYPE_CONTAINER_TS       },
1627         {"mov,mp4,m4a,3gp,3g2,mj2", MEDIA_MIMETYPE_CONTAINER_MOV      },
1628         {"asf",                     MEDIA_MIMETYPE_CONTAINER_ASF      },
1629         {"rm",                      MEDIA_MIMETYPE_CONTAINER_RM       },
1630         {"flv",                     MEDIA_MIMETYPE_CONTAINER_FLV      },
1631         {"avi",                     MEDIA_MIMETYPE_CONTAINER_AVI      },
1632         {"ape",                     MEDIA_MIMETYPE_CONTAINER_APE      },
1633         {"dts",                     MEDIA_MIMETYPE_CONTAINER_DTS      },
1634         {"flac",                    MEDIA_MIMETYPE_CONTAINER_FLAC     },
1635 };
1636
1637 static void adjustMOVConfidence(AVFormatContext *ic, float *confidence)
1638 {
1639         AVDictionary *tags = NULL;
1640         AVDictionaryEntry *tag = NULL;
1641
1642         tags = ic->metadata;
1643
1644         //NOTE: You can use command to show these tags,
1645         //e.g. "ffprobe -show_format 2012.mov"
1646
1647         tag = av_dict_get(tags, "major_brand", NULL, 0);
1648         if (!tag) {
1649                 return NULL;
1650         }
1651
1652         ALOGV("major_brand tag is:%s", tag->value);
1653
1654         //when MEDIA_MIMETYPE_CONTAINER_MOV
1655         //WTF, MPEG4Extractor.cpp can not extractor mov format
1656         //NOTE: isCompatibleBrand(MPEG4Extractor.cpp)
1657         //  Won't promise that the following file types can be played.
1658         //  Just give these file types a chance.
1659         //  FOURCC('q', 't', ' ', ' '),  // Apple's QuickTime
1660         //So......
1661         if (!strcmp(tag->value, "qt  ")) {
1662                 ALOGI("format is mov, confidence should be larger than mpeg4");
1663                 //the MEDIA_MIMETYPE_CONTAINER_MPEG4 of confidence is 0.4f
1664                 *confidence = 0.41f;
1665         }
1666 }
1667
1668 static void adjustConfidenceIfNeeded(const char *mime,
1669                 AVFormatContext *ic, float *confidence)
1670 {
1671         if (!strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_MOV)) {
1672                 adjustMOVConfidence(ic, confidence);
1673         } else {
1674                 //add to here;
1675         }
1676 }
1677
1678 static const char *LegacySniffFFMPEG(const char *uri, float *confidence)
1679 {
1680     size_t i;
1681     int err;
1682     const char *container = NULL;
1683     AVFormatContext *ic = NULL;
1684
1685     status_t status = initFFmpeg();
1686     if (status != OK) {
1687         ALOGE("could not init ffmpeg");
1688         return NULL;
1689     }
1690
1691     ic = avformat_alloc_context();
1692     err = avformat_open_input(&ic, uri, NULL, NULL);
1693     if (err < 0) {
1694         ALOGE("avformat_open_input faild, uri: %s err: %d", uri, err);
1695         return NULL;
1696     }
1697
1698     av_dump_format(ic, 0, uri, 0);
1699
1700     ALOGI("FFmpegExtrator, uri: %s, format_name: %s, format_long_name: %s",
1701             uri, ic->iformat->name, ic->iformat->long_name);
1702
1703     ALOGI("list the formats suppoted by ffmpeg: ");
1704     ALOGI("========================================");
1705     for (i = 0; i < NELEM(FILE_FORMATS); ++i) {
1706             ALOGV("format_names[%02d]: %s", i, FILE_FORMATS[i].format);
1707     }
1708     ALOGI("========================================");
1709
1710     for (i = 0; i < NELEM(FILE_FORMATS); ++i) {
1711         int len = strlen(FILE_FORMATS[i].format);
1712         if (!av_strncasecmp(ic->iformat->name, FILE_FORMATS[i].format, len)) {
1713             container = FILE_FORMATS[i].container;
1714             break;
1715         }
1716     }
1717
1718         if (container) {
1719                 adjustConfidenceIfNeeded(container, ic, confidence);
1720         }
1721
1722     avformat_close_input(&ic);
1723     av_free(ic);
1724
1725     return container;
1726 }
1727
1728 static const char *BetterSniffFFMPEG(const sp<DataSource> &source, float *confidence)
1729 {
1730     size_t i;
1731     int err;
1732     size_t len = 0;
1733     char url[128] = {0};
1734     const char *container = NULL;
1735     AVFormatContext *ic = NULL;
1736
1737     status_t status = initFFmpeg();
1738     if (status != OK) {
1739         ALOGE("could not init ffmpeg");
1740         return NULL;
1741     }
1742
1743     ALOGI("android-source:%p", &source);
1744
1745     // pass the addr of smart pointer("source")
1746     snprintf(url, sizeof(url), "android-source:%p", &source);
1747
1748     ic = avformat_alloc_context();
1749     err = avformat_open_input(&ic, url, NULL, NULL);
1750     if (err < 0) {
1751         ALOGE("avformat_open_input faild, url: %s err: %d", url, err);
1752         return NULL;
1753     }
1754
1755     av_dump_format(ic, 0, url, 0);
1756
1757     ALOGI("FFmpegExtrator, url: %s, format_name: %s, format_long_name: %s",
1758             url, ic->iformat->name, ic->iformat->long_name);
1759
1760     ALOGI("list the formats suppoted by ffmpeg: ");
1761     ALOGI("========================================");
1762     for (i = 0; i < NELEM(FILE_FORMATS); ++i) {
1763             ALOGV("format_names[%02d]: %s", i, FILE_FORMATS[i].format);
1764     }
1765     ALOGI("========================================");
1766
1767     for (i = 0; i < NELEM(FILE_FORMATS); ++i) {
1768         int len = strlen(FILE_FORMATS[i].format);
1769         if (!av_strncasecmp(ic->iformat->name, FILE_FORMATS[i].format, len)) {
1770             container = FILE_FORMATS[i].container;
1771             break;
1772         }
1773     }
1774
1775         if (container) {
1776                 adjustConfidenceIfNeeded(container, ic, confidence);
1777         }
1778
1779     avformat_close_input(&ic);
1780     av_free(ic);
1781
1782     return container;
1783 }
1784
1785 bool SniffFFMPEG(
1786         const sp<DataSource> &source, String8 *mimeType, float *confidence,
1787         sp<AMessage> *meta) {
1788     ALOGV("SniffFFMPEG");
1789
1790     *confidence = 0.08f;  // be the last resort, by default
1791
1792     const char *container = BetterSniffFFMPEG(source, confidence);
1793     if (!container) {
1794         String8 uri = source->getUri();
1795         if (uri.empty())
1796             return false;
1797
1798         ALOGW("sniff through BetterSniffFFMPEG failed, try LegacySniffFFMPEG");
1799
1800         container = LegacySniffFFMPEG(uri, confidence);
1801                 if (container) {
1802             ALOGI("sniff through LegacySniffFFMPEG success");
1803         }
1804     } else {
1805         ALOGI("sniff through BetterSniffFFMPEG success");
1806     }
1807
1808     if (container == NULL)
1809         return false;
1810
1811     ALOGV("found container: %s", container);
1812
1813     mimeType->setTo(container);
1814
1815     /* use MPEG4Extractor(not extended extractor) for HTTP source only */
1816     if (!av_strcasecmp(container, MEDIA_MIMETYPE_CONTAINER_MPEG4)
1817             && (source->flags() & DataSource::kIsCachingDataSource)) {
1818         return true;
1819     }
1820
1821     *meta = new AMessage;
1822     (*meta)->setString("extended-extractor", "extended-extractor");
1823     (*meta)->setString("extended-extractor-subtype", "ffmpegextractor");
1824
1825     return true;
1826 }
1827
1828 MediaExtractor *CreateFFmpegExtractor(const sp<DataSource> &source, const char *mime, const sp<AMessage> &meta) {
1829     MediaExtractor *ret = NULL;
1830     AString notuse;
1831     if (meta.get() && meta->findString("extended-extractor", &notuse) && (
1832             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_MPEG4)     ||
1833             !strcasecmp(mime, MEDIA_MIMETYPE_AUDIO_MPEG)          ||
1834             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_MOV)       ||
1835             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_MATROSKA)  ||
1836             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_TS)        ||
1837             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_MPEG2PS)   ||
1838             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_AVI)       ||
1839             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_ASF)       ||
1840             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_WEBM)      ||
1841             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_WMV)       ||
1842             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_MPG)       ||
1843             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_FLV)       ||
1844             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_DIVX)      ||
1845             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_RM)        ||
1846             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_FLAC)      ||
1847             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_APE)       ||
1848             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_DTS)       ||
1849             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_MP2)       ||
1850             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_RA)        ||
1851             !strcasecmp(mime, MEDIA_MIMETYPE_CONTAINER_WMA))) {
1852         ret = new FFmpegExtractor(source);
1853     }
1854
1855     ALOGD("%ssupported mime: %s", (ret ? "" : "un"), mime);
1856     return ret;
1857 }
1858
1859 }  // namespace android
1860
1861 extern "C" void getExtractorPlugin(android::MediaExtractor::Plugin *plugin)
1862 {
1863     plugin->sniff = android::SniffFFMPEG;
1864     plugin->create = android::CreateFFmpegExtractor;
1865 }