在Win8上面,Image source切换的时候有bug。当我们短时间定时切换的时候,Image不能正常地显示对应的图片。Image控件又不支持GIF播放,所以GIF图片的播放就是一个非常头痛的问题。
正巧,最近在研究MFSource,我就突发奇想,能不能用MFSource去播放GIF图片。
结果成功了,项目文件在这里 https://gifwin8player.codeplex.com/ 大家可以和我一起来维护这个项目。
接下来,跟大家分享一下我在开发中遇到的技术问题。希望能给大家一些帮助。
首先MFSource,可以帮助我们拓展MediaElement所支持的媒体类型,和添加一些新的编码解码。微软有一个非常好的例程 http://code.msdn.microsoft.com/windowsapps/Media-extensions-sample-8e1b8275 这个例程里面演示了很多技术,MFSource可以帮助我们添加播放器支持的协议,比如说我们需要播放器播放一个加密的url地址,我们也可以用他添加新的解码器。MFT可以帮助我们增加一些视频特效。
我的例程就是基于修改MFSource,这个项目里关于MFSource只有三个类。GIFByteStreamHandler, GIFSrc,GIFStream。GIFByteStreamHandler是主要处理媒体打开时候的操作,这个媒体既可以是流,也可以是URL。同时这个类也可以得到应用传来的参数(IPropertyStore *pProps)。GIFSrc,这个类是起主要作用的,需要填入视频的一些信息,比如尺寸,还要给出每一帧的数据。GIFStream这个类是维护应答的,播放器会调(RequestSample(IUnknown* pToken);)这个函数来请求帧,然后我们再用(m_pEventQueue->QueueEventParamUnk(MEMediaSample, GUID_NULL, S_OK, pSample);)来应答。
Media Foundation是基于消息应答的机制工作的。与Win32的MF不同,Windows Store 里面的MF没有消息队列的API,不过例程中已经实现了一个消息队列。
我修改的思路也很简单,就是在需要的时候,给出帧的数据和时间。
首先,修改的是CGIFByteStreamHandler::BeginCreateObject函数。如果我们应用中调用MediaElement.Source = new Uri(**)的时候,我们可以从LPCWSTR pwszURL 参数中获得这个Uri。如果我们是用MediaElement.SetSource()函数的话,传入的就是流。MediaElement.Source 不能指定任意的文件,比如不能指定图片库的某一个图片,但是像ms-appx这样的路径就可以获取。
CGIFSource是单例运行的,CGIFSource::BeginOpen函数用来打开流,WIC需要的流是IStream,IMFByteStream可以直接转换成IStream,但是那个函数不能在Windows Store 里面用。我们只能通过IRandomAccessStream做中转。代码如下
class="code_img_closed" src="/Upload/Images/2013082317/0015B68B3C38AA5B.gif" alt="" />logs_code_hide('078dba1b-ff8c-46bd-95fa-3400030acbda',event)" src="/Upload/Images/2013082317/2B1B950FA3DF188F.gif" alt="" />if (SUCCEEDED(hr)) { Microsoft::WRL::ComPtr<ABI::Windows::Storage::Streams::IRandomAccessStream> iRandomstream; hr = MFCreateStreamOnMFByteStreamEx( pStream, IID_PPV_ARGS(&iRandomstream) ); hr = CreateStreamOverRandomAccessStream( reinterpret_cast<IUnknown*>(iRandomstream.Get()), IID_PPV_ARGS(&istream) ); }change stream
这里面还需要额外的设置,在GIFSource.idl里面添加 import "windows.storage.idl"; 引用头文件#include <Shcore.h>和对应的Shcore.lib。我试过添加#include <Windows.winmd>,这个会导致编译报错,在idl里面用import也要注意大小写要跟(C:\Program Files (x86)\Windows Kits\8.0\Include\winrt)里面的一致。
MF中的异步操作是通过callback模式来做的,
// Create an async result object. We'll use it later to invoke the callback. if (SUCCEEDED(hr)) { hr = MFCreateAsyncResult(NULL, pCB, pState, &m_pBeginOpenResult); } if (m_pBeginOpenResult) { hr = m_pBeginOpenResult->SetStatus(hr); if (SUCCEEDED(hr)) { hr = MFInvokeCallback(m_pBeginOpenResult); } }call back
这段代码是创建一个异步请求的结果,然后再激发这个结果,最后的结果在CGIFByteStreamHandler::Invoke 中执行。
打开文件之后,我们要创建视频的描述,这段代码是在CGIFSource::CreateStream 中被DeliverPlayload()调用。
HRESULT CGIFSource::CreateStream(long stream_id) { OutputDebugString(L"call CreateStream function\n"); HRESULT hr = S_OK; IMFMediaType *pType = NULL; IMFStreamDescriptor *pSD = NULL; CGIFStream *pStream = NULL; IMFMediaTypeHandler *pHandler = NULL; hr = MFCreateMediaType(&pType); if (SUCCEEDED(hr)) { hr = pType->SetGUID(MF_MT_MAJOR_TYPE, MFMediaType_Video); } if (SUCCEEDED(hr)) { hr = pType->SetGUID(MF_MT_SUBTYPE, MFVideoFormat_RGB24); } // Format details. if (SUCCEEDED(hr)) { // Frame size hr = MFSetAttributeSize( pType, MF_MT_FRAME_SIZE, m_pImage->GetWidth(), m_pImage->GetHeight() ); } if (SUCCEEDED(hr)) { // Frame rate hr = MFSetAttributeRatio( pType, MF_MT_FRAME_RATE, 24000, 1001 ); // 23.976 fps } if (SUCCEEDED(hr)) { // Sequence header. hr=pType->SetUINT32(MF_MT_ALL_SAMPLES_INDEPENDENT,1); } if (SUCCEEDED(hr)) { // Create the stream descriptor from the media type. hr = MFCreateStreamDescriptor(stream_id, 1, &pType, &pSD); } // Set the default media type on the stream handler. if (SUCCEEDED(hr)) { hr = pSD->GetMediaTypeHandler(&pHandler); } if (SUCCEEDED(hr)) { hr = pHandler->SetCurrentMediaType(pType); } // Create the new stream. if (SUCCEEDED(hr)) { pStream = new (std::nothrow) CGIFStream(this, pSD, hr); if (pStream == NULL) { hr = E_OUTOFMEMORY; } } if (SUCCEEDED(hr)) { m_streams.AddStream(stream_id, pStream); pStream->AddRef(); } SafeRelease(&pType); SafeRelease(&pSD); SafeRelease(&pStream); return hr; }create stream
steam创建好之后,要创建MF里面的描述 通过这个函数InitPresentationDescriptor()
这个函数执行完之后,初始化的工作就完成了。
用户点播放的时候,系统会调CGIFSource::CreatePresentationDescriptor这个函数来获取视频信息,然后调用CGIFSource::Start。接着内部的消息队列会调CGIFSource::DoStart,向MF中发MESourceStarted消息,接到这个消息之后CGIFStream::RequestSample会被触发,如果CGIFStream里面维护的队列为空的话,就会问CGIFSource要数据,最后定为到DeliverPayload()函数,
HRESULT CGIFSource::DeliverPayload() { // When this method is called, the read buffer contains a complete // payload, and the payload belongs to a stream whose type we support. wchar_t buf[256]; swprintf_s(buf,L"call do DeliverPayload function with frame %d",m_CurrentIndex); OutputDebugString((LPCWSTR)buf); HRESULT hr = S_OK; //GIFPacketHeader packetHdr; CGIFStream *pStream = NULL; // not AddRef'd IMFMediaBuffer *pBuffer = NULL; IMFSample *pSample = NULL; BYTE *pData = NULL; // Pointer to the IMFMediaBuffer data. IWICBitmapFrameDecode *pWicFrame = NULL; // If we are still opening the file, then we might need to create this stream. if (SUCCEEDED(hr)) { if (m_state == STATE_OPENING) { hr = CreateStream(0); } } // Create a media buffer for the payload. if (SUCCEEDED(hr)) { hr = MFCreateMemoryBuffer(m_pImage->GetBuffSize(), &pBuffer); } if (SUCCEEDED(hr)) { hr = pBuffer->Lock(&pData, NULL, NULL); } if (SUCCEEDED(hr)) { hr=m_pImage->GetFrameBuffByIndex(m_CurrentIndex,&pData); } if (SUCCEEDED(hr)) { hr = pBuffer->Unlock(); } if (SUCCEEDED(hr)) { hr = pBuffer->SetCurrentLength(m_pImage->GetBuffSize()); } // Create a sample to hold the buffer. if (SUCCEEDED(hr)) { hr = MFCreateSample(&pSample); } if (SUCCEEDED(hr)) { hr = pSample->AddBuffer(pBuffer); } // Time stamp the sample. if (SUCCEEDED(hr)) { //LONGLONG hnsStart = m_CurrentIndex * 1000000; // 1s hr = pSample->SetSampleTime(m_SampleTimespan); m_SampleTimespan+=m_pImage->GetFrameDelay()*10000; } // Deliver the payload to the stream. if (SUCCEEDED(hr)) { /*hr = m_pEventQueue->QueueEventParamUnk( MEMediaSample, GUID_NULL, S_OK, pSample);*/ hr = m_streams[0]->DeliverPayload(pSample); } // If the open operation is still pending, check if we're done. if (SUCCEEDED(hr)) { if (m_state == STATE_OPENING) { hr = InitPresentationDescriptor(); goto done; } } m_CurrentIndex++; if(m_CurrentIndex>=m_pImage->GetFrameNumbers()) { hr = m_pEventQueue->QueueEventParamVar( MEEndOfStream, GUID_NULL, S_OK, NULL); if (FAILED(hr)) { goto done; } hr =QueueAsyncOperation(SourceOp::OP_END_OF_STREAM); if (FAILED(hr)) { goto done; } }else { if (SUCCEEDED(hr)) { if (StreamsNeedData()) { hr = RequestSample(); } } } done: SafeRelease(&pBuffer); SafeRelease(&pSample); return hr; }DeliverPayload
这个函数把图片里面的数据转换成sample,再加上时间传回CGIFStream,最后发送hr = m_pEventQueue->QueueEventParamUnk(MEMediaSample, GUID_NULL, S_OK, pSample);给MF,这样帧的数据就输出了。