JP6501933B2 - Xmlドキュメントの生成装置、生成方法、情報処理装置、情報処理方法、及びプログラム - Google Patents
Xmlドキュメントの生成装置、生成方法、情報処理装置、情報処理方法、及びプログラム Download PDFInfo
- Publication number
- JP6501933B2 JP6501933B2 JP2018015116A JP2018015116A JP6501933B2 JP 6501933 B2 JP6501933 B2 JP 6501933B2 JP 2018015116 A JP2018015116 A JP 2018015116A JP 2018015116 A JP2018015116 A JP 2018015116A JP 6501933 B2 JP6501933 B2 JP 6501933B2
- Authority
- JP
- Japan
- Prior art keywords
- video
- segment
- information
- spatial
- xml document
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/238—Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
- H04N21/2381—Adapting the multiplex stream to a specific network, e.g. an Internet Protocol [IP] network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L65/00—Network arrangements, protocols or services for supporting real-time applications in data packet communication
- H04L65/60—Network streaming of media packets
- H04L65/75—Media network packet handling
- H04L65/762—Media network packet handling at the source
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
- H04N21/234327—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements by decomposing into layers, e.g. base layer and one or more enhancement layers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/4728—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/631—Multimode Transmission, e.g. transmitting basic layers and enhancement layers of the content over different transmission paths or transmitting with different error corrections, different keys or with different transmission protocols
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/63—Control signaling related to video distribution between client, server and network components; Network processes for video distribution between server and clients or between remote clients, e.g. transmitting basic layer and enhancement layers over different transmission paths, setting up a peer-to-peer communication via Internet between remote STB's; Communication protocols; Addressing
- H04N21/633—Control signals issued by server directed to the network components or client
- H04N21/6332—Control signals issued by server directed to the network components or client directed to client
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/85—Assembly of content; Generation of multimedia applications
- H04N21/858—Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot
- H04N21/8586—Linking data to content, e.g. by linking an URL to a video object, by creating a hotspot by using a URL
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Human Computer Interaction (AREA)
- Computer Networks & Wireless Communication (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Information Transfer Between Computers (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
本発明は、メディアデータ、を送信するための方法およびデバイスに関する。
メディア表現は、通常、オーディオ、ビデオまたはテキストのような、複数のメディアコンテンツからなる。これらは、クライアントデバイスにより合わせて再生されるために、サーバからクライアントに送られ得る。これらのメディアコンテンツは、クライアントによりサーバからダウンロードされる。
この文脈では、DASH(“Dynamic Adaptive streaming over HTTP”)と呼ばれる新規の標準規格が近年現れてきている(“ISO/IEC 23009−1,Dynamic adaptive streaming over HTTP(DASH),Part1:Media presentation description and segment formats”を参照)。この標準規格により、メディア表現のコンテンツのコンパクトな記述と、HTTPアドレスとの間に関係を作ることが可能である。通常、この関係は、マニフェストファイルまたは記述ファイルと呼ばれるファイルで記述される。DASHの文脈では、このマニフェストファイルは、MPD(Media Presentation Description)ファイルとも呼ばれるファイルである。
MPDファイルがクライアントデバイスに送られたときに、各メディアコンテンツの記述はクライアントにより容易に知られ得る。マニフェストファイルを読み取ることにより、クライアントは、メディア表現で提示されるこの種のメディアコンテンツを認識し、および、関係付けられたメディアコンテンツをダウンロードするためのHTTPアドレスを認識する。そのため、どのメディアコンテンツを(HTTPリクエストを通じて)ダウンロードするか、および、どのメディアコンテンツを再生する(メディアデータセグメントの受信後にデコーディングおよび再生する)かを決定できる。
この関係に加えて、DASH標準規格は、各メディアコンテンツを小さな期間に分けることを提案する。時間的な分解がMPDファイルに加えられる。したがって、これは、HTTPアドレス(またはURL)と、小さな期間にわたる各メディアコンテンツのコンパクトな記述との間の関係を記述する。
本発明は、(DASH MPDを参照することにより)マニフェストファイル中のビデオ記述に焦点を当てる。以下で説明するように、メディア表現の他のエレメント(例えば、オーディオ、テキスト、...)を直接考慮に入れない場合でさえ、これらは、さらにグローバルなメディア記述中に容易に組み込まれ得る。
ビデオの空間解像度はますます重要になってきている。この観点では、4K2Kのビデオが市場に現れ始めている。しかし、モバイルアプリケーションは、このような解像度を高品質で表示できない。
解決策として提案されるのは、ビデオをタイルに分けることである。モバイルアプリケーションのユーザが、ビデオのサブパートを表示する、または、ビデオのサブパートに焦点を当てることを望む場合に、サブパートに対応するタイルのみが送信される。このプロセスにより、ビデオの一部を高品質に保つことが可能になる。
DASHの文脈では、メディア表現を形成するために、既知の標準規格である“ISO BMFF”(“Base Media File Format”)を使用して、メディアコンテンツをメディアデータセグメント中にカプセル化する。
伝統的に、各トラックは、トラックがビデオのサブパートに対応する場合でさえ、DASHを使用することにより、独立したメディアコンテンツとしてマニフェストで記述される。マニフェストでは、各トラックが同じビデオのサブパートであることをシグナリングできない。当然、現在のMPDの規定では、タイル化されたビデオの記述は可能ではない。実際には、ユーザは、MPDで記述された各ビデオが、タイル化されたビデオのサブパートであることを知るために、(マニフェストに加えて)第1の初期設定セグメントをダウンロードする必要がある。その後、ユーザは、タイルの位置とビデオコンテンツとの間の関係を導き出すために、各ビデオコンテンツの各第1のメディアデータセグメントの始点を、最低限、ダウンロードする必要がある。この初期設定情報のダウンロードは、遅延ならびに追加のおよび不要なHTTPリクエストに対して行われる。
DASHの使用と互換性のない別の先行技術において、“In packet video 2010,An Interactive Region Of Interest Video Streaming System for Online Lecture Viewing”,A.Mavlankar,P.Agrawal,D.Pang,D.Halawa,N.Cheung,B.Girod”という記事が、スケーリング可能なビデオのためにタイルを記述する特有のマニフェスト(“プロプライエタリマニフェスト”)を提案している。特有のマニフェストは、各タイルに対する識別子および1つの位置情報を提供する。ベースレイヤに関係付けられるURLおよびプロプライエタリマニフェストにより提供されるタイル情報から、特定のタイルにアクセスするためのHTTPクエリが構築され、このクエリはタイルインデックスに関係付けられる。このタイプのHTTPクエリは、HTTPクエリから、バイト範囲を、および、結果的にそのリクエストを満たすためにクライアントデバイスに送られることになるタイルを読み出すために、サーバ側での処理を要求する。これは、非常に特有のサーバによってのみ行うことができる。
本発明は、先の懸案のうちの1つ以上に対処するために考案された。
図1aは、特にDASHのような、HTTPを通したメディアストリーミングの一般原則を記述する。HTTPを通したメディアストリーミングに関する新規のプロトコルおよび標準規格の大半は、この原則に基づいている。
メディアサーバ100は、異なるメディア表現(メディアプレゼンテーション)を含む。メディア表現101の例を示す。ここで、メディア表現101は、オーディオデータおよびビデオデータを含む。ここでは、ビデオは統合されている、つまり、タイルに分割されていないと考える。この例では、オーディオおよびビデオは同じファイルでインターリーブされると考える。このメディア表現が構築される方法を以下の図2に説明する。このメディア表現は、独立していて連続的な小さな時間的なセグメント102、102aおよび103(例えば、mp4セグメント)に時間的に分けられ、つまり、メディア表現のインターリーブされたオーディオ/ビデオのデータは3つの連続的な時間的な期間に分けられる。これらの時間的なセグメントに独立してアドレスを割り当て、ダウンロードすることができる。メディアコンテンツのダウンロードアドレスは、HTTPアドレスである。(1つのHTTPアドレスは、オーディオ/ビデオのメディアコンテンツのそれぞれの時間的なセグメントに関係付けられる)。これらは、こうした時間的なセグメントのうちのそれぞれの1つに対して、サーバ100により設定される。
マニフェストファイル104(または記述ファイル(ディスクリプションファイル))は、XML文書である。XML文書は、時間的なメディアセグメントのコンテンツ、例えば、メディアのタイプ(オーディオ、ビデオ、オーディオ−ビデオ、テキスト...)、コーディングフォーマット、セグメントの持続時間を記述する。さらに、XML文書は、記述される各メディアコンテンツセグメントにURLを関係付ける。
マニフェストファイル104は、クライアントまたはユーザに関連するクライアントデバイス110に送られる。受信したマニフェストファイル105を読み取ることにより、クライアントは、異なるメディアコンテンツの時間的なセグメントと、時間的なセグメントを指定するHTTPアドレスとの関係を知ることができる。さらに、マニフェストファイル105は、メディア表現のコンテンツ(この例では、インターリーブされたオーディオ/ビデオ)についての情報を与える。例えば、情報は、解像度および/またはビットレートを含んでもよい。
そのため、クライアントデバイス110は、クライアントデバイス110が望む時間的なセグメントをダウンロードするためのHTTPリクエスト106を発することができ、これらの時間的なセグメントは受信したマニフェストファイル105に記述される。
応答として、サーバ100は、要求された時間的なセグメントを送る107。これらの時間的なセグメントは、クライアントデバイス110により表示109のためにデコーディングされ得る108。
図1bは、本発明にしたがった、HTTPを通した(特にDASHでの)メディアストリーミングをさらに正確に示す。ここでは、ストリーミングされたビデオデータは、独立したn個のビデオサブトラックを作成するために、ビデオトラックの各フレームがn個の空間タイルに分割されるようなビデオトラックを含み、nは整数である。
最初に、クライアントデバイスは、サーバから記述ファイル(またはDASHでのMPD)を受信する、ステップ1008。この記述ファイルは、n個のビデオサブトラックの空間編成についてのデータと、ビデオサブトラックをそれぞれ指定する少なくともn個のURLとを含む。
クライアントは、クライアントが表示させたいと望む関心領域(ROI)を選ぶ。例えば、クライアントは、図1cに示すように、特定のゾーン上でズームインすることを望む。
図1cは、ここでは8個のタイルT1、T2、...、T8に分割されるフレーム1100を示す。このフレームでは、クライアントは、画像の右下部にある部分1110上でズームすることを決定した。図1cに示すように、この選ばれた部分1110または関心領域は、2つのタイルT6およびT8に含まれる。
図1dは、ベースレイヤ1121と、ここでは8個のタイルT1、T2、...、T8に分割される空間エンハンスメントレイヤ1122とを持つスケーリング可能なビデオとしてエンコードされるフレーム1120を示す。ベースレイヤフレーム1121はタイル化されず、そのため、エンハンスメントレイヤ1222中の各タイルは、ベースレイヤ全体に依存する。このフレームでは、ユーザが画像1122の右下部にある部分1123上でズームすることを決めたときに、ユーザは、2つの選択されたタイルだけでなくベースレイヤも必要とする。
図1dに示すように、選ばれた部分1123または関心領域は、2つのタイルT6およびT8ならびにベースレイヤ1121に含まれる。図1dの右部は、タイル化されたベースレイヤ1131と、タイルベースである空間依存によるタイル化された空間エンハンスメントレイヤ1132としてエンコードされるフレーム1130を表す:エンハンスメントレイヤ1132における1つのタイルは、ベースレイヤ1131の同じポジションにあるタイルにのみ依存する。この構成では、ユーザがROI 1133を選択したときに、ユーザは、2つの選択されたタイル1133ならびにベースレイヤ1131中の2つの参照タイルT06およびT08を必要とする。
図1bでは、図1cまたは図1dに示すように、クライアントは、スケーラビリティおよびタイル化の観点からビデオ構成に依存して、ROIを選ぶ、ステップ1010。
クライアントにより選ばれたROIによりカバーされるタイルに対応するURL(図1cの例ではT6およびT8のURL)は、クライアントデバイスにより選択される、ステップ1020。
選択はまた、後にさらに詳細に開発されるいくつかの互換性基準にも基づく。
要求されたメッセージは、クライアントデバイスからサーバに送られる、ステップ1030。各リクエストメッセージは、クライアントにより選ばれたROIによりカバーされる1つのタイルのURLを含む。以下にさらに詳細に説明するように、タイルに対応するビデオサブトラックは、時間的なセグメント中に編成される。そのため、1つのURLは、セグメント全体にわたって、タイルに対応するビデオサブトラックを指定する。
リクエストメッセージに応答して、サーバは、ビデオデータ(つまり、以下で説明するようなセグメント)をクライアントデバイスに送る、ステップ1040。ビデオサブトラック/タイルが要求された場合に、リクエストメッセージ中のURLにより指定されたセグメントがクライアントデバイスに送られる。
図2は、メディア表現およびマニフェストファイルの双方の生成のための主なステップを示す。
並行ステップ200および201では、オーディオおよびビデオのデータが取得される。その後、オーディオデータは圧縮される、ステップ202。例えば、MP3標準規格がこのステップに対して使用され得る。並行して、ビデオデータが圧縮される、ステップ203。MPEG4、AVC、HEVCまたはSVCのような、ビデオ圧縮アルゴリズムが使用され得る。いったん、圧縮ステージが行われると、オーディオエレメンタリストリーム204およびビデオエレメンタリストリーム205が利用可能になる。
エレメンタリストリーム204、205は、グローバルメディア表現としてカプセル化される、ステップ206。
グローバルメディア表現207は、カプセル化の結果生じる。例えば、ISO BMFF標準規格(または、ISO BMFF標準規格のAVC、SVC、HEVC...への拡張)は、エンコードされたオーディオおよびビデオのエレメンタリストリームのコンテンツをグローバルメディア表現として記述するために使用され得る。
カプセル化されたメディア表現207は、XMLマニフェストファイル209を生成するために使用される、ステップ208。
図3は、DASHマニフェストファイルの階層化コンテンツの例を示す。DASHマニフェストファイルの階層化コンテンツは、サーバにおいて利用可能なメディア表現のコンテンツおよびメディアデータとも呼ばれる各メディアコンポーネントとHTTPアドレスとの間の関係を記述する。
例えば、メディア表現は、Periodと呼ばれる粗粒の期間に時間的に分けられてもよい(任意のコンテンツのスプライシング)。
MPDレベルでの“Period”は、ある期間の間利用可能な(1つのPeriodのみが存在する場合にメディア表現の完全な持続時間となり得る)全メディアコンポーネントを記述する。この期間内、メディアコンテンツコンポーネントは、容易にストリーミング/ランダムアクセス/スイッチングすることを可能にする、先に言及した小さな期間に対応する複数のデータセグメントからなり得る。
XML MPDは、各期間に関連する全データを含む。この情報を受信することにより、クライアントは、各期間のコンテンツを認識する。例えば、メディア表現300は、複数のエレメントに分割され、各エレメントはPeriodに対応する。例えば、第2のPeriodは100秒および294秒に含まれる。
各メディア表現のPeriodは、対応する期間の間、利用可能なメディアコンテンツ成分を記述するデータを含む。メディア表現のPeriod301のうちの1つを、さらに詳細に示す。
加えて、複数の“adaptation set(アダプテーションセット:適応セット)”エレメントが組み込まれる:ビデオ記述に対して1つ、オーディオ記述に対して1つ。各適応セットは、所定のトラックに関係付けられる。この例では、第1のグループ適応セットは、ビデオトラックに関係付けられ、第2の適応セットは、考えられる期間に対する前記ビデオトラックに対応するオーディオトラックに関係付けられる。
適応セット構造302は、サーバにおいて利用可能なエンコードされたビデオの、可能な異なった表現についての情報を含む。この例では、第1の表現は、500kbit/秒のビットレートでエンコードされた640x480の空間解像度でエンコードされたビデオである。第2の表現は同じビデオであるが、250kbit/秒でエンコードされている。このビデオのそれぞれは、クライアントがビデオに関連するHTTPアドレスを知っている場合に、HTTPリクエストによりダウンロードできる。各表現のコンテンツとHTTPアドレスとの間の関係付けは、追加の一時サブレイヤを使用することにより行われる。
参照303により示すように、ビデオ表現302は(この例では10秒の)時間的なセグメントに分けられる。
第1の表現302は、500kbits/秒の帯域幅、640ピクセルの幅および480ピクセルの高さを得る。“Segment Info”のフィールド303により、さらなるパラメータが与えられる。
第2の表現は、250kbits/秒の帯域幅、640ピクセルの幅および480ピクセルの高さを得る。この第2の表現は、例えば、第1の表現と比較して質の低下を表すことがある。クライアントは、ネットワークの利用可能な帯域幅に依存して、これらの表現間でスイッチすることができる。
各時間的なセグメント303は、HTTPアドレスを通してアクセス可能なサーバにおいて記憶されているコンテンツである。加えて、初期設定セグメント(イニシャリゼーションセグメント)が利用可能である。この初期設定セグメントは、(ビデオがISO BMFFまたは拡張を使用することによりカプセル化されている場合に、)カプセル化されたビデオのMP4コンテンツを記述するMP4初期設定情報を含む。例えば、この初期設定セグメントは、ビデオに関連するデコーディングアルゴリズムをクライアントがインスタンス化することを助ける。初期設定セグメントのHTTPアドレスおよびメディアセグメントは、以下でさらに詳細に示すMPD(または記述)ファイル中に与えられる。
図4は、所定のメディア表現に対する既知のマニフェストファイルの例を与える。このマニフェストは、(MPDとも呼ばれる)DASHマニフェストである。記載を明確にするために、MPDの主な特性をここで記述する。
このMPDでは、2つのメディアが記述される。第1のメディアは、英語のオーディオストリームであり、第2のメディアはビデオストリームである。英語のオーディオストリームは、‘adaptation set’バナーを通して導入される。2つの表現(リプリゼンテーション)は、このオーディオストリームに関連する:
・第1のメディア(“1”に等しいIDを持つ)は、64000ビット/秒のビットレートを持つMP4カプセル化エレメンタリストリームである。このエレメンタリストリームをハンドルするためのコーデックは、(いったん、mp4パーサにより解析されると)属性‘mp4a.0x40’により標準規格で規定される。これは、相対アドレス:7657412348.mp4においてリクエストによりアクセス可能である。
・第1のメディア(“1”に等しいIDを持つ)は、64000ビット/秒のビットレートを持つMP4カプセル化エレメンタリストリームである。このエレメンタリストリームをハンドルするためのコーデックは、(いったん、mp4パーサにより解析されると)属性‘mp4a.0x40’により標準規格で規定される。これは、相対アドレス:7657412348.mp4においてリクエストによりアクセス可能である。
・第2のメディア(“2”に等しいIDを持つ)は、32000ビット/秒のビットレートを持つMP4カプセル化エレメンタリストリームである。
ビデオに関連する適応セット(アダプテーションセット)は、6個の表現を含み、それらのRepresentation_idは、“6”、“7”、“8”、“9”、“A”および“B”である。これらの表現は、異なる空間解像度(320x240、640x480、1280x720)および異なるビットレート(256000〜2048000ビット/秒)でのビデオを含む。これらの表現のそれぞれについて、異なるURLが関係付けられる。そのため、クライアントは、例えば、推定帯域幅またはスクリーンの解像度のような、異なる基準にしたがって、同じビデオのこれらの表現の間から選ぶことができる。
ここで、以下の図面は、本発明の実施形態に特に焦点を当てる。
以前に記述したように、マニフェストファイルの適応セットは、(表現バナーを通して)異なる空間解像度および異なるビットレートでエンコードされた同じビデオに関する情報を伝える。
本発明により、表現が、ビデオのサブパートを記述することが可能になる。実際、先行技術で知られているDASH標準規格では、同じビデオのサブパートを記述するための属性は規定されない。言い換えると、DASH標準規格を使用することにより、ビデオの異なるサブパートに関する絶対的または相対的ローカライゼ―ション情報を直接送ることはできない。
(以下の図面を通した)本実施形態では、この可能性をどのように追加できるかを示す。
図5は、ビデオのタイル化の概念と、この概念がどのようにビデオに適用されるかを記述する。ビデオ500は、3つのフレームを通してシンボル化される。各フレーム501は、Tnと呼ばれる8個の長方形に分割される(nは、1〜8の間で可変である)。当然、タイルの数および形は異なるものとすることができる。例えば、ビデオのタイルは異なる次元を有し得る。
しかし、この例では、タイル化は、ビデオフレーム501のインデックスが何であれ、同じものとすることができると考える。また、タイルは同じ水平サイズおよび垂直サイズを有すると考える。
このタイル化の結果502は、図5の下に与えられる。8個の独立したビデオサブトラックが得られる。これらのビデオサブトラックは、グローバルなビデオ全体の区分である。好ましい実施形態にしたがって、これらのビデオサブトラックは、独立したビデオと考えられ、独立して圧縮される。
本発明は、1つのベースレイヤおよび少なくとも1つのエンハンスメントレイヤを持つスケーリング可能なビデオに容易に適用され得ることが認識される。第1の実施形態では、エンハンスメントレイヤのみがタイルに分割される。結果的に、タイルが要求されるときに、対応するベースレイヤもまたクライアントにより要求され、結果としてベースレイヤはサーバからクライアントに送られる。
別の実施形態では、ベースレイヤおよびエンハンスメントレイヤは双方ともタイルに分割される。この場合、各レイヤ中の対応するタイルのURLは、サーバに送ることができ、それに応答して、サーバは、クライアントデバイスに、各レイヤ中の対応するタイルを送る。
図5aは、HEVCフォーマットでの特有のタイルおよびスライスの編成を記述する。HEVC標準規格は、ピクチャの、異なる空間サブ分割を規定する:つまり、タイル、スライスおよびスライスセグメントである。これらの異なる区分は、異なる目的のために導入される:つまり、スライスはストリーミングの問題に関連する一方で、タイルおよびスライスセグメントは並行処理を行うことができるように規定される。
タイルは、整数のコーディングツリーユニット(CTU)553を含むピクチャの長方形領域を規定する。これは当初当業者によりLCU(最大コーディングユニット)と呼ばれた。図5aに示されているように、タイル化は、行の境界551および列の境界552によってのみ規定される。これにより、ポジションおよびサイズの観点から、タイルは、関心領域の記述にふさわしい候補となる。しかし、シンタックスおよびシンタックスのネットワーク抽象化レイヤ(NAL)ユニットへのカプセル化の観点からのHEVCビットストリーム編成は、(アドバンストビデオコーディングにおけるように)むしろ、スライスに基づく。
HEVCにおけるスライスは、スライスセグメントの組であり、少なくとも第1のスライスセグメントは独立したスライスセグメントであり、その他は、もしあれば、依存性のスライスセグメントである。スライスセグメントは、整数の連続した(ラスタスキャン順序での)CTUを含む。スライスセグメントは必ずしも長方形の形を有していない(したがって、ROI表現に関してタイルよりも適切でない)。スライスセグメントは、HEVCビットストリーム中で2つのパートとしてエンコードされる:すなわち、slice_segment_headerと、それに続くslice_segment_dataである。
独立したスライスセグメントおよび依存性のスライスセグメントは、これらのヘッダにより異なる:独立したスライスセグメントのヘッダからの情報を再使用するため、依存性のスライスセグメントは、より短いヘッダを有する。独立したスライスセグメントおよび依存性のスライスセグメントの双方とも、ビットストリーム中のエントリポイントのリストを含む:すなわちタイルへのエントリまたはエントロピーデコーディング同期化ポイントへのエントリのいずれかである。エントリポイントは、HEVCビットストリーム中のポジションを規定する。エントリポイントは、特定のコードを使用することにより、または、表中で参照されることにより、識別可能である。エントリポイントは、特定のシンタックスエレメントに対応する:例えば、NALユニットまたはスライスセグメントの始点。
スライス、スライスセグメントおよびタイルの関係をより良く理解するために、図5aの560および570において異なる構成を示す。これらの構成は、第1の構成550とは異なる。構成550は、1つのタイルが1つのスライス(1つの独立したスライスセグメントのみを含む)を有するケースに対応する。第2の構成560では、ピクチャは、太い破線で分離された2つの垂直なタイル561、562および1つのスライス(5つのスライスセグメントを持つ)に区分される。
図の右部では、ピクチャ570は、太い破線により示される2つのタイル571、572に分けられる。左のタイル571は、太い直線により線引きされた2つのスライスを有し(それぞれ2つのスライスセグメントを持ち、1つは依存性のスライスセグメント、1つは独立したスライスセグメント)、右のタイル572は、1つのスライス(2つのスライスセグメントを持ち、1つは依存性のスライスセグメント、1つは独立したスライスセグメント)を有する。HEVC標準規格は、以下のように要約され得る、タイルおよびスライスセグメント間の編成規則を規定する(1つまたは双方の条件が満たされなければならない):
−スライスセグメント中の全CTUは同じタイルに属する。
−スライスセグメント中の全CTUは同じタイルに属する。
−タイル中の全CTUは同じスライスセグメントに属する。
関心領域のサポートと伝送とを一致させるために、好ましくは、1つのタイルが、1つの独立したセグメントを持つ1つのスライスを含む、図5aの構成550を考える。しかし、カプセル化の解決策は、他の構成560または570においても機能する。
図5aに示すように、ピクチャパラメータセット590において、タイルはHEVCビットストリーム中でシグナリングされる。規則的なタイル化が使用される場合に、パラメータである“uniform_spacing_flag”は、“1”の値を取り、タイルの列551および行552の数のみが必要とされる。そうでなければ、パラメータは“0”に設定され、各列および線のポジションは、コーディングツリーユニットの数にコーディングされる(典型的には、64x64ピクセルのサイズ)。
図6は、カプセル化段階を示す。ストリーミングされる前に、各タイルに対応するデータは、標準規格のフォーマットでカプセル化されるために処理されなければならない。
エンコーディングステップ601の入力となるための、8個のタイルに対応するデータが取得される、ステップ600。各タイルに対応するデータは、独立して圧縮され、エンコードされる、ステップ601。任意のビデオ圧縮アルゴリズムを使用できる。例えば、H264、HEVC、MPEG−2を使用できる。いったん、タイルに対応するデータがエンコードされると、ステップ601、結果のエレメンタリストリームはファイルフォーマットでカプセル化されなければならない。(標準規格であるDASHにおいて提案されている通り)ISO BMFF(または、このメディアファイルの拡張)を使用できる。
ビデオの8個のサブパートを含む以下のこれらの8個のビデオトラックは、“ビデオサブトラック”と呼ばれる。8個のビデオサブトラックに対応するデータはエンコードされているため、8個のビデオサブトラックはISO BMFFファイル中で規定される。8個のビデオサブトラック全体を、同じメディア表現の異なるトラックと見なすことができる。当然、オーディオまたはテキストのトラックのような、追加のトラックを使用できる。しかし、記載を明確にするために、この図では他の種類のメディアの挿入を記述しない。
最初に、カプセル化のプロセス602の間に、メディア表現602aが生成される。1つの位置情報が初期設定セグメント603において設定される。この初期設定セグメントは、対応するビデオサブトラックに関係付けられた初期設定データを含む。これらのデータの中で、好ましくは各ビデオサブトラックの位置が特定される(次の図でさらに詳細に記述する通り)。
初期設定セグメント603に加えて、カプセル化プロセス602は、小さな期間に対応する1組のセグメントファイル604、605(MPDが生成されるときに、URLを通してアクセスできるメディアセグメント)を生成する。この図の例では、2つの小さな期間が規定される。これは、各ビデオサブトラックは時間的に2つの小さな期間に分けられることを意味する。セグメントファイルの組が異なるのは、所定の期間に対する各ビデオサブトラックに起因する。このようなプロセスを使用することにより、クライアントは、任意の提案された期間に対し提案されたビデオサブトラックのうちのいずれかを要求できる。
第1の組のメディアセグメント604は、第1の期間に対する異なるトラック(サブトラック)に対応する。第2の組のメディアセグメント605は、同じビデオトラックに対する第2のおよびそれに続く期間に関連する。当然、本発明は2つの期間に限定されない。期間の数は限定されない。ボックス604および605が既存のコンテナではないことを考慮して、これらは点線で表現されていることを銘記されたい。
以下に記述するように、URLは、選択されたROIによりカバーされるタイルをクライアントが要求できるように、各セグメントファイルに関係付けられる。
図3では、2つの時間的な分解を記述したことを銘記されたい:すなわち、
・ブロック300では、任意のコンテンツのスプライシング、および、
・ブロック302/303では、小さな期間の生成。
・ブロック300では、任意のコンテンツのスプライシング、および、
・ブロック302/303では、小さな期間の生成。
図6では、任意のコンテンツのスプライシングは、1つのグローバルな期間のみを生成させ、各ビデオサブトラックに対応するデータは、2つの小さな期間に対応する2つのメディアセグメントにカプセル化される。
図7は、図6中で参照された初期設定セグメント603が、各ビデオサブトラックの位置を伝えるためにどのように構築され得るかを示す。ビデオサブトラックは、ファイルフォーマットのシンタックスでは、ビデオトラックであることを思い出されたい。初期設定セグメントはISOファイル700である。
ISO BMFF標準規格に規定されるように、このファイルは複数のボックスを含む。記載を明確にするために、既知のボックスは記述されない。この例では8個のビデオサブトラック(8個のビデオトラックを意味する)が規定されるため、カプセル化されたメディア表現の‘moov’ボックスは、8個の“trak”ボックス701を含む。
参照番号702は、この“trak”ボックスの例である。これは、第1のビデオサブトラックと関係付けられる。この‘trak’ボックスはまた複数のボックスを含む。第1のボックス“tkhd”703は、ビデオサブトラックの位置を伝えるために使用される。このボックスは複数の属性を含む。本発明で特に使用される属性は行列704である。この行列は、ビデオサブトラックの幅および高さと、右のポジションに対応するトラックを表示することを可能にする変形行列とを含む。
図7で与えられるこの行列のパラメータは単に例である。これらのパラメータは、異なるビデオサブトラックの形にしたがって調整されなければならない:この行列は、ビデオサブトラックを同時に表示したものが、図5中で参照される500最初のビデオのエリアをカバーするように、実現されている。
図8は、記述ファイル(または、DASH標準規格ではMPD)を示す。DASH標準規格では、マニフェストのシンタックス(MPDシンタックス)は、タイルの概念を考慮することを可能にしない。
図8は、異なるビデオサブトラックの存在および位置についてクライアントに知らせるために、マニフェスト/記述ファイル(DASH MPD)に含まれることがあるエレメントを示す。図8では、MPDの部分図を与える。
タイルを、MPD中のタイル表現に結びつけるために、タイル化されたビデオフレーム800の例を、MPDの左部において表す。この例では、タイル化されたビデオフレームは、4つのタイル1:1、1:2、2:1および2:2を含み、これらの幅および高さは、タイル化されたビデオフレーム800の左側および上側で示される。
部分図801は、ビデオサブトラックについての情報を含む適応セットを記述する。記載を明確にするために、この図では、1つのビデオサブトラックに関連するデータのみが表示される。そのため、他のサブトラックは記述されない。しかし、他のサブトラックの記述は類似している(同じシンタックスだが、他のURLとともに使用される)。
適応セット(“AdaptationSet”)801は、最初のビデオ全体のタイルである1つのビデオサブトラックを記述するために使用される。この適応セットは、1つのビデオサブトラックの1つの表現を含み、この表現は、解像度で規定されるだけでなく、例えばフレームレートまたは帯域幅のような基準により規定される。これらの基準により、クライアントデバイスが、ビデオサブトラックの複数の表現を共に、または、連続的に、選択すること、しないことが可能になる。当然、本実施形態では、第1の解像度の値またはフレームレートを持つビデオサブトラックは、第2の解像度の値またはフレームレートを有する別のサブトラックとともに選択できない。
適応セット801では、この適応セットがメディア表現中のビデオサブトラックを表すことをシグナリングするために、(先行技術と比較して)追加のエレメントが提案される。この追加のエレメントは、ビデオサブトラックに対応するタイルの存在および位置の双方をシグナリングする新規のスキーム802である。
特に、本発明にしたがって、DASH標準規格の‘Role’記述子に対する新規のスキームが提案される。“schemeldUri”属性を通して、この“Role”記述子の新規のスキームが規定される。“tiling”と呼ばれる新規のタイプは、“schemeldUri”属性を通して規定される。加えて、新規のタイプのschemeldUriは、追加の属性により完成され、これは、既存のタイルのうちどのタイルを表すかを示すために使用される。
言い換えると、N個のタイルが利用可能である場合に、Role記述子の“schemeldUri”属性は、例えば、“urn:mpeg:dash:tiling:2013”に等しい(DASHの文脈で一意的な任意の値が提供される)。その後、Role記述子は、1つにまとめられるタイルおよびこれらのタイルのそれぞれの位置を、Role記述子の属性を通じてシグナリングする。role記述子におけるこの新規のスキームの好ましいシンタックスは以下のものである:<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=‘T’ value=“x:y”/>。
属性“Id”は、可能性あるまたは禁止された関係付けを示す識別子の属性である。
変数‘T’は、統合され得るタイルの組を識別する。同じ‘Id=T’の変数は、タイルが、同じ最初のビデオから発行されたことを意味し、同じ解像度を持つことを意味する。結果として、これらは、クライアントにより共にストリーミングされてまとめることができる。変数‘Id=T’は任意である。デフォルトでは、これが存在しない場合に、全ての規定されたタイルを共に構成できる(これらは、同じ最初のビデオから発行される)。‘T’は整数である。
属性“value”により、タイルのポジションを識別することが可能になる。整数である‘x’および‘y’は、左から右、ならびに、上から下への、タイルの組の中の、現在のタイルの水平的および垂直的な位置をシグナリングする。整数である‘x’および‘y’は、あくまで正である。例えば、最初のビデオが、タイルの2つの水平な線に分けられている場合、および、各水平な線がタイルの4つの列に分けられている(8個のタイルが生成される)場合に、value=“3:2”は、第3の列および第2の線にタイルがあることを意味する。‘x’および‘y’が“0”に設定されている場合に、スキームに関係付けられているビデオは最初のビデオのタイル化されていないバージョンである、すなわち、フルフレームのビデオであることを意味する。デフォルトでは、タイル化するロールが存在しない場合、ビデオはタイル化されていないビデオである。MPD解釈に混乱のリスクがあるときに、これは有用なことがある。
この例では、スキーム802の値は、タイル“1:2”に関係付けられたビデオを指定する。
オプションとして、ビデオでないメディアコンポーネントとタイル化されたビデオコンポーネントとのグループ化を明確にする必要があるときに、提案されたスキームは、ビデオではない(が、例えば、オーディオまたはテキスト)メディアコンポーネント(またはメディアデータ)のためにも使用できる。このようなケースでは、Id値のみを使用しなければならない。異なるメディアコンポーネントに対する同じIdにより、それらの間で関係付けを行うことが可能になる(異なるメディアコンポーネントを同時に再生できる)。
この好ましい実施形態では、“value”属性は2つの整数値からなる。しかし、他の変数も存在し得る。例えば、値属性のシンタックスは:
・value=“x:X:y:Y”とすることができ、あるいは、コンマで分離でき:value=“x:X,y:Y”、あるいは、例812におけるように、水平ポジションと垂直ポジションとの間を何らかのセパレーターまたは記号で分離でき、以下の意味がある:‘x’は、列の組全体の中のタイルの水平位置(タイルのインデックス)をシグナリングし;‘X’は、列の数をシグナリングし;‘y’は、線の組全体の中のタイルの垂直位置(タイルのインデックス)をシグナリングし;‘Y’は、線の数をシグナリングする。
・value=“x:X:y:Y”とすることができ、あるいは、コンマで分離でき:value=“x:X,y:Y”、あるいは、例812におけるように、水平ポジションと垂直ポジションとの間を何らかのセパレーターまたは記号で分離でき、以下の意味がある:‘x’は、列の組全体の中のタイルの水平位置(タイルのインデックス)をシグナリングし;‘X’は、列の数をシグナリングし;‘y’は、線の組全体の中のタイルの垂直位置(タイルのインデックス)をシグナリングし;‘Y’は、線の数をシグナリングする。
例えば、図5を参照すると、タイルT6のシグナリングは以下のようになるであろう:<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=‘1’value=“2:4:2:2”/>またはコンマで分離された:schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=‘1’value=“2:4,2:2”/>または水平ポジションと垂直ポジションとの間を何らかのセパレーターまたは記号で分離できる。スキーム812の値は、タイル“1:2”に関係付けられたビデオを指定し、タイルが2x2”のグリッドであるという情報を提供する。
ビデオフレーム800により示される例では、図8aの下で説明するように、最初のビデオは同じサイズのタイルに分けられる。しかし、これに制限されない。タイルは異なるサイズとすることができる。例えば、タイルは四分木の区分から生成され得る。このようなケースでは、“urn:mpeg:dash:tiling:2013”に等しい@schemeIdURIのシンタックスは、タイル区分の性質を考慮すべきである。新規のシンタックスは以下のものとすることができる:<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013“Id=‘T’value=“coordinates”coordinate_system=“C”/>。
“coordinates”は、座標系のオプション的な識別子(この例では、‘the value “C”)から識別され得る値(または値の組)であろう。座標系の例は、ピクセルでのタイルの絶対位置、実際にはデフォルトのケースを規定することができる。座標は、タイルの上左隅のピクセルでの位置(x,y)である。“coordinate_system”属性が指定されないときに、タイル化グリッド中のポジションを示す値中に‘:’という記号が存在しない限り、属性“value”において与えられる座標をピクセルポジションとして表現すると仮定する。タイルのサイズは、表現の標準規格の属性の幅および高さにより規定される。例えば、図8で参照されるコード部分821では、タイルポジションは、シンタックス値=“x,y”を使用するピクセル座標系を用いてシグナリングされる。参照番号822の線では、列=0、行=240のポジションに上左隅があるタイルを記述する。全コード部分の例801、811、821は、タイル化情報を持つまたは持たないタイルポジションを提供する。タイルサイズは、関係する“Representation”エレメントから解析スされなければならない。
図8aは、HEVCタイルの特定の文脈では、タイルのポジションおよびサイズの代替的なシグナリングを提供する。この図8aの右部では、タイル化されたビデオフレームの3つの例860、870および875が提供される。各例は、以下で説明するように特定の構造に対応する。
図5aを参照して説明するように、HEVCタイルは、タイルの行および列の境界のポジション(例えば、図5aに戻ると、参照されるタイル化されたビデオフレーム550は、3x3のタイル化構成となる、2つの行551と、2つの列552の境界を示す)を通して、ビットストリーム中でシグナリングされる。そのため、タイルを記述する“Role”エレメント862中に、図8a中の例861におけるようなタイル化編成を置くことを提案する。この例では、タイル化が規則的であるか否かにかかわらず、最初の値を示すために属性“grid”が使用される。これは、HEVC標準規格で規定されるHEVCビットストリームからのuniform_space_flagをMPDに直接変換する。
タイル化されたビデオフレーム860におけるように、タイル化が規則的であるときに、グリッド属性中の他の値は、タイルの列−1の数およびタイルの行−1の数を提供する(HEVCビットストリームにおいてエンコードされる通り)。タイル化されたビデオフレーム860に対して参照される線862におけるように、水平次元でのタイルのこの数は、HEVCビットストリームパラメータnum_tiles_columns_minus1から直接計算され、垂直次元でのタイルの数は、HEVCビットストリームパラメータnum_tiles_rows_minus1(HEVC標準規格において規定)から直接計算される。この表記により、MPD中のHEVCピクチャパラメータセットの値を直接MPDに変換することが可能になる(num_tiles_columns_minus1およびnum_tiles_rows_minus1)。グリッド属性に加えて、タイルのサイズおよびポジションを計算できるために、フルフレームビデオのサイズが必要とされる(参照番号線862を参照)。
タイル化されたビデオフレーム871または873において表されるように、タイル化が均一でないケースでは、第1の値が0に等しいグリッド属性は、“Role”エレメントが、ピクセルで与えられる、各列に対するポジションのリストと、行に対するポジションのリストとを導き出すことが可能でなければならない。このようなケースでは、行および列を規定するタイルの境界の数は、“grid”属性の後続する値に含まれる。タイル化されたビデオフレーム872は、行および列の境界のポジションを示すために、属性に可能性ある名前を提供する(これは、異なる名前とすることができるが、生成および解析の際に本発明に影響を与えない)。行および列の境界のポジションは、フルフレームビデオの幅および高さを持つピクセル中で指定される(線872参照)。
(表していない)別の実施形態として、規則的なタイル化に対して、グリッドならびに幅および高さの属性は、例えば、grid=“w,h,W,H”のような、1つの単一な属性に簡略化でき、ここで、wおよびhはそれぞれタイルのサイズ(ピクセルでの幅および高さ)を提供し、W、Hはフルフレームビデオのピクセルでのサイズである。例861、862に適用すると、これはgrid=“320,240,640,480”となる。これは、DASHクライアントに対するシンタックスをより容易に解析することを可能にするという利点を有する(862における3つの異なる属性の代わりに4つの値全てを提供する1つの属性)。
タイル化構成のシグナリングに対する別の実施形態は、最高レベルのシグナリングでのタイル化情報を有することである。したがって、1回記述でき、タイルに関係付けられている全“Representation”フィールドから使用できる。これは、マニフェストの記述コストおよびサイズを減少させ、マニフェストのダウンロード時間を潜在的に減少させて、ストリーミングアプリケーションのスタートアップ遅延を減少させる。
図8bでは、コードの部分881および886は、タイル化構成を記述するためのこのようなエレメントを例として示す。これらのコードの部分881および886は、図8bの右部に概略的に示す2つのタイル化されたビデオフレーム880および885に関連する。
このタイル化構成から到来する任意のタイル表現は、以前の言及したタイル化“Role”エレメントの“id”属性を通じて参照され得る。均一な属性は、タイル化が規則的か否かを示し、uniform_spacing_flag HEVC flagの直接の変換であることを示す。1に設定されるときに、以下の(列に対する)属性colsおよびrowsは、タイルの列の数−1およびタイルの行の数−1を示す。
参照される例880では、1つのみのタイルの行の境界および1つのタイルの列の境界がある。最後の2つの属性は、フルフレームビデオの次元の幅および高さを提供する。タイル化されたビデオフレーム885におけるように、タイル化が均一でないときに、“tiling”エレメントは、タイルの列および行のピクセルでのポジションを提供する子エレメントを含む(線887に示すような、次元毎に1つのエレメント)。タイル化構成が時間とともに変化するケースでは、新しい期間(<Period>)が作成される。この新しい期間は、新しいタイル化構成を含む。
マニフェストが“tiling”エレメントを通じて複数のタイル化構成を記述するケースでは、所定のタイルに適用されるタイル化は、タイルを記述する新しい属性をRoleに追加することにより、その“id”属性を通じて参照できる。例えば:<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=‘tiling_1’value=“0,0”/>。タイル化構成についてストリーミングクライアントに知らせるための2つの代替実施形態がある。この情報は、例えば、ビデオ中のアドレス割当可能な空間エリアについてユーザに知らせるのに有用である。属性によるアプローチは、各タイルに対する情報を複製する。結果的に、よりコンパクトになるが、同じエレメント中でタイル関連の全情報を保持するのに有益である。これは、コンテンツ配信ネットワーク中の任意の中間ノードによりマニフェストに適用される変化のケースでは、堅牢性をもたらす。
堅牢性のアスペクトおよび“Role”エレメントを通じたタイルの自己記述を考慮すると、ポジション情報に加えてサイズ情報も“value”属性に置くことも興味深い。この実施形態では、“value”属性は、以下の順序でcomaで分離された4つの整数のリストを指定する:上左隅のxおよびyのポジションならびにタイルの幅および高さ。例えば:図12におけるようなvalue=“x,y,w,h”を後に記述する。タイルのポジションを表現するのに使用される座標系は、2D座標系であり、ここで、起点は任意であるが、タイル化の役割に対する同じidを共有する全表現にとって同じとなるであろう。さらに、x軸は、スクリーンの右に向かって方向付けられ、y軸は下に向かって方向付けられるように仮定する。複数のタイルをレンダリングし、それらを空間的に整列させるためにビューアにより幅および高さが使用されてもよい。
別の実施形態は、W3C MediaFragments URI 1.0で規定された空間フラグメントに対するシンタックスを使用することにより、タイルのポジションおよびサイズを示すことを提案する。これは、以下のような“value”属性となる:すなわち、ピクチャ860における最初のタイルを記述するためのvalue=“#xywh=0,0,320,240”(図8a参照)。これは、メディアフラグメントURI仕様もサポートするストリーミングクライアントにとって好適さをもたらす。当然、例えば、メディアフラグメントURIがビデオをディスプレイにつなげるために使用される場合に、メディアフラグメントURIを持つクライアントのサポートは、正しい空間フラグメントを持つ“Representation”と自動的に一致し、適合論理の選択をさらに容易にする。さらに、サーバもメディアフラグメントURIをサポートするときに、ストリーミングクライアントは、対応するタイルを直接要求するために、メディアフラグメントURI仕様により指定されるように、MPDにおいてBaseURLを使用し、値(value)属性の値をHTTPレンジヘッダに置くことができる。メディアフラグメントURIシンタックスを使用する別の利点は、他の何らかのメディアフラグメントURIクライアントが同じタイルにアクセスできるように、これまで形成されたURLをクライアントがブックマークし、配信できることである。
各タイルがそれ自体の“AdaptationSet”で別々に記述されるときに、クライアントが、どのフルフレームビデオの“Representation”が各タイルに関連するかを特定するのは難しい。タイルを記述する“Role”エレメントにおいて、すなわち、“tilingRole”において、空間値=“0:0”を使用することを先に提案した。しかし、フルフレームビデオは同じ方法で記述できる。タイルの“Representation”に注釈が付けられる、すなわち、(表されていない)“tiling”Roleを使用する。このようなケースでは、フルフレームビデオの“Representation”に関係付けられる“tiling”Roleは、このフルフレームビデオのを構成するタイルの“tiling”Roleの“id”属性と、その“id”属性を同じ値に設定させる。デフォルトでは、任意の値属性なしにタイル化“Role”がビデオの“Representation”に関係付けられるときに、この“Representation”はフルフレームビデオとして考えられなければならない。この“Representation”をさらに明白にするために、値属性を伝えることができる。このようなケースでは、xおよびyフィールドは0をとり、0は、wおよびhがフルフレームビデオの幅および高さの値をとる間の上左隅の値である。“tiling”エレメントが宣言されるケースでは、フルフレームビデオの“Representation”に対するタイル化Roleは、タイルからフルフレームビデオまでの関連が、ストリーミングするクライアントに明白であるように、当然、その“id”を通じてのこのタイル化を参照する。フルフレームビデオのシグナリングに関する先の記述のうちの如何なるのものも、マニフェストを使用するクライアントに対する曖昧さを回避するという利点を有する。しかし、標準規格にできる限り近いままであるために、クラシカルRoleエレメントも使用でき、標準規格の“alternate”および“main”フィールドは、それぞれ、タイルの“Representation”を含む適応セットと、フルフレームビデオの“Representation”を含む適応セットとにそれぞれ割り当てられる。これらの全Representationが同じAdaptationSetで宣言されるときに、各RepresentationのそれぞれのRoleを記述するために、Representation毎に1つのContentComponentエレメントを使用できる。
これは、図11でさらに詳細に記述する。この例は、960x540の4つの空間タイル(Representations 1101,1102,1103,1104)からなるHDビデオ(1106におけるRepresentation‘R0’)を記述する。各タイルはそれ自体の“AdaptationSet”および関係する“Representation”とともに“tiling”Roleを有する。“TS1”により特定される、関係付けられ得る4つのタイルの1つの組のみがある。
2つのサブセット1105は、第1のサブセットからのフルフレームビデオと第2のサブセットからの任意のタイルまたはタイルの構成との間の選択を示すように規定される。所定のタイルに対して複数の“Representation”スキームが利用可能であるときに、例えば、帯域幅の観点から、DASHにより提供されるダイナミックスイッチングメカニズムは壊れないことが図11の例から容易に推定され得る。
図9は、本発明で規定される新規のスキームの使用を示す完全な例である。この例は、DASH標準規格(MPD)を参照としてとる。この図では、メディア表現(ビデオおよびオーディオメディア)を記述する。2つのサブセットが記述される:
・第1のサブセットは、Id:‘0’、‘1’、‘2’および‘3’を持つ適応セットを含み、
・第2のサブセットは、適応セットタグId:‘4’、‘5’および‘6’を含む。
・第1のサブセットは、Id:‘0’、‘1’、‘2’および‘3’を持つ適応セットを含み、
・第2のサブセットは、適応セットタグId:‘4’、‘5’および‘6’を含む。
先に言及したように、サブセットの使用により、いくつかの適応セットを共にストリーミングできないことが指定できるようになる。第2のサブセットの適応セットは、第1のサブセットの適応セットともにストリーミングできない。第1のサブセットでは、オーディオおよびビデオ表現(新規のスキームを持つおよび持たない)が利用可能である。このような表現は、スキーム‘tiling’がサポートされていない場合でさえ、メディアデータをストリーミングする可能性をクライアントに与える(スキームを持たないMPDシンタックスが常に理解される)。
第1のサブセットでは、第1のビデオ表現を含む適応セットが、線900を使用することにより記述される:
・<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=“1”value=“0:0”/>。
・<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=“1”value=“0:0”/>。
この線は、この適応セットに関係付けられた表現がビデオのタイル化されていないバージョン(value=“0:0”)であることを示す。
本発明で提案されるスキームを持つ線は、オーディオメディア910を含む適応セットに関係付けられる:
・<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=“1”/>。
・<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=“1”/>。
この線は、この適応セット中に含まれるオーディオメディアがビデオのタイル化されていないバージョンに関連することを示す。オプション的なフィールド‘value=“0:0”’’も追加できるが、この例では無用である。
第2のサブセット(Id=“4”、“5”および“6”を持つ適応セット)では、新規スキームを通して2つのビデオサブトラックが記述される。第1のタイルに関連する表現エレメントは、‘4’に等しい‘Id’を持つ適応セットに含まれる。第1のビデオサブトラックを指定する線920は以下の通りである:
・<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=“1”value=“1:1”/>。
・<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=“1”value=“1:1”/>。
第2のビデオサブトラックを指定する線930は以下の通りである:
・<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=“1”value=“1:2”/>。
・<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=“1”value=“1:2”/>。
この線は、適応セットに含まれる表現が、タイルの第2の線の第1のタイルに関連するURLを含むことを指定する。
本発明で提案されるスキームを持つ線940は、オーディオメディアを含む(第2のサブセットの)適応セットに関係付けられる:
・<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=“1”/>。
・<Role schemeIdUri=“urn:mpeg:DASH:tiling:2013”Id=“1”/>。
この線は、この適応セット中に含まれるオーディオメディアがビデオサブトラックのタイル化されたバージョンのうちの1つに関連することを示す。
図10は、本発明の1以上の実施形態の実現のためのコンピューティングデバイス1000の概略的なブロック図である。コンピューティングデバイス1000は、マイクロコンピュータ、ワークステーションまたは軽量ポータブルデバイスのような、デバイスであってもよい。コンピューティングデバイス1000は、以下に接続された通信バスを備える:
−マイクロプロセッサのような、中央処理ユニット1001は、CPUと示す;
−マニフェストを読み取るおよび書き出すための、ならびに/または、ビデオをエンコーディングするための、ならびに/または、所定のファイルフォーマット下でデータを読み取るもしくは生成させるための方法を実現するのに必要な、記録変数およびパラメータに適合したレジスタ並びに、本発明の実施形態の方法の実行可能なコードを記憶するためのランダムアクセスメモリ1002は、RAMと示す。そのメモリ容量は例えば拡張ポートに接続されたオプション的なRAMにより拡張され得る;
−本発明の実施形態を実現するためのコンピュータプログラムを記憶するためのリードオンリーメモリ1003は、ROMと示す;
−ネットワークインターフェース1004は、処理されることになるデジタルデータを送信または受信する通信ネットワークに通常接続される。ネットワークインターフェース1004は、信号ネットワークインターフェースとすることができ、または、1組の異なるネットワークインターフェースからなることができる(例えば、ワイヤードおよびワイヤレスインターフェース、あるいは、異なる種類のワイヤードまたはワイヤレスインターフェース)。データは、送信のためにネットワークインターフェースに書き出されるか、または、CPU1001中で動作するソフトウェアアプリケーションの制御下で受信するためにネットワークインターフェースから読み取られる;
−ユーザから入力を受信し、または、ユーザに情報を表示するためのユーザインターフェース1005;
−ハードディスク1006は、HDと示す;
−ビデオソースまたはディスプレイのような、外部デバイスからデータを受信し、外部デバイスにデータを送るためのI/Oモジュール1007。
−マイクロプロセッサのような、中央処理ユニット1001は、CPUと示す;
−マニフェストを読み取るおよび書き出すための、ならびに/または、ビデオをエンコーディングするための、ならびに/または、所定のファイルフォーマット下でデータを読み取るもしくは生成させるための方法を実現するのに必要な、記録変数およびパラメータに適合したレジスタ並びに、本発明の実施形態の方法の実行可能なコードを記憶するためのランダムアクセスメモリ1002は、RAMと示す。そのメモリ容量は例えば拡張ポートに接続されたオプション的なRAMにより拡張され得る;
−本発明の実施形態を実現するためのコンピュータプログラムを記憶するためのリードオンリーメモリ1003は、ROMと示す;
−ネットワークインターフェース1004は、処理されることになるデジタルデータを送信または受信する通信ネットワークに通常接続される。ネットワークインターフェース1004は、信号ネットワークインターフェースとすることができ、または、1組の異なるネットワークインターフェースからなることができる(例えば、ワイヤードおよびワイヤレスインターフェース、あるいは、異なる種類のワイヤードまたはワイヤレスインターフェース)。データは、送信のためにネットワークインターフェースに書き出されるか、または、CPU1001中で動作するソフトウェアアプリケーションの制御下で受信するためにネットワークインターフェースから読み取られる;
−ユーザから入力を受信し、または、ユーザに情報を表示するためのユーザインターフェース1005;
−ハードディスク1006は、HDと示す;
−ビデオソースまたはディスプレイのような、外部デバイスからデータを受信し、外部デバイスにデータを送るためのI/Oモジュール1007。
実行可能なコードは、リードオンリーメモリ1003、ハードディスク1006、または、例えばディスクのようなリムーバブルデジタル媒体のいずれかに記憶されてもよい。バリアントにしたがって、プログラムの実行可能なコードを、実行される前に、ハードディスク1006のような、通信デバイス1000の記憶手段のうちの1つに記憶するために、通信ネットワークにより、ネットワークインターフェース1004を通じて受信できる。
中央処理ユニット1001は、本発明の実施形態にしたがったプログラムのソフトウェアコードの命令またはその一部を実行するよう制御、および指示するように適合され、この命令は先述の記憶手段のうちの1つに記憶される。電源をオンにした後、CPU1001は、例えば、ソフトウェアアプリケーションに関する、メインRAMメモリ1002からの命令がプログラムROM1003またはハードディスク(HD)1006からロードされた後に、これらの命令を実行できる。このようなソフトウェアアプリケーションは、CPU1001により実行されるときに、以前の図で示したフローチャートのステップを実行させる。
本実施形態では、本発明を実現するためにソフトウェアを使用する当該装置はプログラム可能な装置である。しかし、代わりに、本発明はハードウェアで(例えば、特定用途向け集積回路またはASICの形態で)実現されてもよい。
本発明は、特定の実施形態を参照して上述のように記述されているが、本発明は特定の実施形態に限定されず、本発明の範囲内にある技術の当業者にとってその修正は明らかであろう。
例えば、本発明は、例えば、特定の関心領域にズームするために、TVに対するリモートコントローラーとしてふるまうカメラ、スマートフォンまたはタブレットなどに組み込んで良い。。これは、特定の関心エリアを選択することによりTVプログラムブラウジングを個人的に体験するために同じデバイスからも使用できる。ユーザによるこれらのデバイスおよび方法の別の使用は、ユーザの好ましいビデオのいくつかの選択されたサブパートを他の接続されたデバイスと共有することである。これは、監視カメラが本発明にしたがってデータを提供する方法を支援する場合に、監視下に置かれている建物の特定のエリアで起こったことをモニタリングするためにも、スマートフォンまたはタブレットでも使用できる。
多くのさらなる修正およびバリエーションは、先述の例示的な実施形態を参照したときに技術に熟知した当業者に示唆されるであろう。先述の例示的な実施形態は、単に例であり、本発明の範囲を限定するように意図されておらず、範囲は、添付の特許請求の範囲によってのみ決定される。特に、異なる実施形態による異なる特徴は適宜置き換えて良い。
上述の実施形態は、以下のように表現することも可能である。
上述の実施形態は、以下のように表現することも可能である。
本発明の第1の態様にしたがって、所定のビデオに対応するデータをストリーミングするための方法が提案され、独立したn個のビデオのサブトラックを作るために、ビデオの各フレームはn個の空間タイルに分割され、nは整数である。
方法は、
・サーバによりクライアントデバイスに記述ファイルを送信することと、
・クライアントデバイスにより、クライアントデバイスまたはクライアントデバイスのユーザにより選ばれた1つの関心領域にしたがって、1以上のURLを選択することと、
・サーバにより、クライアントデバイスから、結果の数のビデオサブトラックを要求するための1以上のリクエストメッセージを受信することと、
・リクエストメッセージに応答して、サーバによりクライアントデバイスに、要求されたビデオサブトラックに対応するビデオデータを送信することとを含み、記述ファイルは、n個のビデオサブトラックの空間編成と、各ビデオサブトラックをそれぞれ指定する少なくともn個のURLとについてのデータを含み、各リクエストメッセージは、クライアントデバイスにより選択されるURLのうちの1つを含む。
・サーバによりクライアントデバイスに記述ファイルを送信することと、
・クライアントデバイスにより、クライアントデバイスまたはクライアントデバイスのユーザにより選ばれた1つの関心領域にしたがって、1以上のURLを選択することと、
・サーバにより、クライアントデバイスから、結果の数のビデオサブトラックを要求するための1以上のリクエストメッセージを受信することと、
・リクエストメッセージに応答して、サーバによりクライアントデバイスに、要求されたビデオサブトラックに対応するビデオデータを送信することとを含み、記述ファイルは、n個のビデオサブトラックの空間編成と、各ビデオサブトラックをそれぞれ指定する少なくともn個のURLとについてのデータを含み、各リクエストメッセージは、クライアントデバイスにより選択されるURLのうちの1つを含む。
空間タイルはピクセルの行および列からなることが指定される。
言い換えると、本発明の第1の態様は、クライアントがフレームのタイルへの分割を認識し、サーバに直接URLリクエストメッセージを送れるように、記述ファイル(DASHではMPDを意味する)にビデオサブトラックのURLを直接含めることを提案する。
本発明の第1の態様により、サーバとクライアントデバイスとの間のデータのストリーミングに対するリクエストの数を制限することが可能になる。さらに、これが記述ファイルを受信したときに、クライアントは既にタイルの存在および空間編成を認識しており、結果的に、対応するビデオサブトラックを表示する方法が分かる。
実施形態において、記述ファイルは、フルの所定のビデオに対応するトラックを指定するURLをさらに含み、クライアントデバイスが1つの関心領域にしたがって任意のURLを選択しない場合に、サーバはクライアントデバイスからフルビデオトラックのURLを含むリクエストメッセージを受信し、リクエストメッセージに応答して、クライアントデバイスに、フルビデオトラックに対応するビデオデータを送信する。
実施形態において、所定のビデオは、ベースレイヤおよび少なくとも1つのエンハンスメントレイヤを含むスケーリング可能なビデオであり、前記n個のビデオサブトラックはエンハンスメントレイヤに対応し、前記ビデオはベースレイヤビデオトラックをさらに含み、前記記述ファイルはベースレイヤトラックのURLをさらに含み、クライアントデバイスが1つの関心領域にしたがって少なくとも1つのURLを選択した場合に、クライアントデバイスは、ベースレイヤのURLを選択し、サーバはベースレイヤトラックを要求するための1つのリクエストメッセージをクライアントデバイスからさらに受信し、前記リクエストメッセージは、ベースレイヤトラックのURLを含み、サーバはリクエストメッセージに応答して、要求されたベースレイヤトラックに対応するビデオデータをクライアントデバイスにさらに送信する。
バリアントにしたがって、所定のビデオは、ベースレイヤおよび少なくとも1つのエンハンスメントレイヤを含むスケーリング可能なビデオであり、前記n個のビデオサブトラックはエンハンスメントレイヤに対応し、独立したn個のベースレイヤサブトラックを作るために、ベースレイヤの各フレームもn個の空間タイルに分割され、ベースレイヤの各タイルはエンハンスメントレイヤ中のタイルに対応し、クライアントデバイスが1つの関心領域にしたがって少なくとも1つのURLを選択した場合に、クライアントデバイスは、対応するベースレイヤサブトラックのURLを選択し、サーバはベースレイヤサブトラックを要求するための1つのリクエストメッセージをクライアントデバイスからさらに受信し、前記リクエストメッセージは、ベースレイヤサブトラックのURLを含み、サーバはリクエストメッセージに応答して、要求されたベースレイヤサブトラックに対応するビデオデータをクライアントデバイスにさらに送信する。
実施形態において、n個の空間タイルの構成は、所定の数の行および列にサブ分割されるグリッドにより記述ファイルにおいて規定され、各構成は予め定められた高さおよび幅を有する。
実施形態において、n個の空間タイルの構成は均一または不均一なエリアを有する空間タイルを規定する。
実施形態において、各空間タイルは長方形の領域である。
実施形態において、空間タイルが均一なエリアを有する場合に、グリッドは水平および垂直双方の次元においてその境界の数により指定される。
実施形態において、空間タイルが不均一なエリアを有する場合に、グリッドはグリッドの行および列の数と、行および列の境界のポジションとにより指定される。
実施形態において、データはDASH標準規格にしたがってストリーミングされ、前記記述ファイルはメディア表現記述ファイルである。
実施形態において、各URLは予め規定された期間に対するトラックのセグメントまたはビデオサブトラックを指定する。
実施形態において、n個の空間タイルの構成は、期間全体に対するシンタックスエレメントを使用することにより、各期間に対して規定される。
実施形態において、記述ファイルは、毎期間に対する各ビデオサブトラックに対して規定された1組のパラメータを含み、1組のパラメータは:
a.トラックのタイプ:ビデオトラックもしくはビデオサブトラック、ならびに/または
b.トラックがビデオサブトラックの場合に、空間タイルのポジションおよびn個の空間タイルの構成
についてのデータを組み込む記述子を含む。
a.トラックのタイプ:ビデオトラックもしくはビデオサブトラック、ならびに/または
b.トラックがビデオサブトラックの場合に、空間タイルのポジションおよびn個の空間タイルの構成
についてのデータを組み込む記述子を含む。
実施形態において、記述ファイルは、毎期間に対して、各タイルに対して規定された1組のパラメータを含み、1組のパラメータは:
トラックのタイプ:ビデオトラックもしくはビデオサブトラック、および/または、
b.トラックがビデオサブトラックの場合に、n個の空間タイルの構成に対する参照についてのデータを組み込むRoleエレメントと呼ばれる記述子を含む。
トラックのタイプ:ビデオトラックもしくはビデオサブトラック、および/または、
b.トラックがビデオサブトラックの場合に、n個の空間タイルの構成に対する参照についてのデータを組み込むRoleエレメントと呼ばれる記述子を含む。
実施形態において、トラックがビデオサブトラックの場合に、記述子はn個の空間タイルの構成に対して考えられるタイルのポジションを指定するためのスキームをさらに含む。
実施形態において、空間タイルのポジションは、グリッドの行および列のインデックスを参照することにより示される。
実施形態において、空間タイルのポジションは、タイルの上左隅のピクセルにおけるポジションとタイルの幅および高さとを参照することにより示される。
実施形態において、空間タイルのポジションは、指定された座標系におけるポジションにより示される。
実施形態において、空間タイルのポジションは空間メディアフラグメントとして表現される。
実施形態において、ビデオデータは同じコンテンツを表すm個のビデオに対応し、mは整数であり、m個のビデオのそれぞれは異なる解像度を有し、m*n個の独立したビデオサブトラックを作るために、各ビデオの各フレームはn個の空間タイルに分割される。
実施形態において、記述ファイルはビデオサブトラックに対するパラメータを含み、パラメータは異なるビデオサブトラックの可能性あるまたは禁止された関係付けについてのデータを含み、前記可能性あるまたは禁止された関係付けは、DASH標準規格にしたがってデータがストリーミングされる場合に識別子属性により示される。
これにより、サブトラックの任意のサブセットのクライアント側での選択が可能になり、タイルの特定のケースでは、受信したデータをアップサンプリングまたはダウンサンプリングする必要なく、正しい表示が保証される。
実施形態において、方法は、
−所定のビデオに対応するデータを取得することと、
−取得されたデータを圧縮することと、
−圧縮されたデータをカプセル化することと、
−カプセル化されたデータから記述ファイルを生成することとをさらに含み、
前記カプセル化することは、
・所定の数のビデオセグメントファイルを生成させることと、
・メディアファイルセグメントに関係付けられる初期設定セグメントを生成させることとを含み、
各ビデオセグメントファイルは、所定の期間に対するビデオおよびn個のビデオサブトラックに関係付けられるデータを含み、
初期設定セグメントは、ビデオトラックおよびビデオサブトラックについての初期設定データを含む。
−所定のビデオに対応するデータを取得することと、
−取得されたデータを圧縮することと、
−圧縮されたデータをカプセル化することと、
−カプセル化されたデータから記述ファイルを生成することとをさらに含み、
前記カプセル化することは、
・所定の数のビデオセグメントファイルを生成させることと、
・メディアファイルセグメントに関係付けられる初期設定セグメントを生成させることとを含み、
各ビデオセグメントファイルは、所定の期間に対するビデオおよびn個のビデオサブトラックに関係付けられるデータを含み、
初期設定セグメントは、ビデオトラックおよびビデオサブトラックについての初期設定データを含む。
実施形態において、記述ファイルは、初期設定セグメントに関係付けられたURLをさらに含む。
実施形態において、初期設定データは各ビデオサブトラックの幅および高さを示す値を含む。
実施形態において、初期設定データは、正しいポジションにおける各ビデオサブトラックの表示を可能にする変換行列をさらに含む。
本発明の別の態様にしたがって、サーバデバイスによりクライアントデバイスに所定のビデオに対応するデータを提供するための方法が提案され、独立したn個のビデオのサブトラックを作るために、ビデオの各フレームはn個の空間タイルに分割され、nは整数である。
方法は、
・記述ファイルを生成させることと、
・前記記述ファイルをクライアントデバイスに送信することと、
・1以上のクライアントデバイスまたはクライアントデバイスのユーザのリクエストに基づいて、所定の数のビデオサブトラックに対応するビデオデータを送信することとを含み、
前記記述ファイルは、n個のビデオサブトラックの空間編成と、各ビデオサブトラックをそれぞれ指定する少なくともn個のURLとについてのデータを含み、
各リクエストは、URLのうちの1つを含む。
・記述ファイルを生成させることと、
・前記記述ファイルをクライアントデバイスに送信することと、
・1以上のクライアントデバイスまたはクライアントデバイスのユーザのリクエストに基づいて、所定の数のビデオサブトラックに対応するビデオデータを送信することとを含み、
前記記述ファイルは、n個のビデオサブトラックの空間編成と、各ビデオサブトラックをそれぞれ指定する少なくともn個のURLとについてのデータを含み、
各リクエストは、URLのうちの1つを含む。
実施形態において、記述ファイルは、フルの所定のビデオに対応するトラックを指定するURLをさらに含み、サーバは、フルビデオトラックのURLを含むクライアントデバイスリクエストに基づいて、クライアントデバイスに、フルビデオトラックに対応するビデオデータを送信する。
実施形態において、所定のビデオは、ベースレイヤおよび少なくとも1つのエンハンスメントレイヤを含むスケーリング可能なビデオであり、前記n個のビデオサブトラックはエンハンスメントレイヤに対応し、前記ビデオはベースレイヤトラックをさらに含み、前記記述ファイルはベースレイヤトラックのURLをさらに含み、サーバは、ベースレイヤトラックのURLを含むクライアントデバイスリクエストに基づいて、クライアントデバイスに、ベースレイヤトラックに対応するビデオデータをさらに送信する。
バリアントにしたがって、所定のビデオは、ベースレイヤおよび少なくとも1つのエンハンスメントレイヤを含むスケーリング可能なビデオであり、前記n個のビデオサブトラックはエンハンスメントレイヤに対応し、独立したn個のベースレイヤサブトラックを作るために、ベースレイヤの各フレームもn個の空間タイルに分割され、ベースレイヤの各タイルはエンハンスメントレイヤ中のタイルに対応し、前記記述ファイルはベースレイヤサブトラックのURLをさらに含み、サーバは、ベースレイヤサブトラックのURLを含むクライアントデバイスリクエストに基づいて、クライアントデバイスに、ベースレイヤサブトラックに対応するビデオデータをさらに送信する。
実施形態において、n個の空間タイルの構成は、所定の数の行および列にサブ分割されるグリッドにより記述ファイルにおいて規定され、各構成は予め定められた高さおよび幅を有する。
実施形態において、n個の空間タイルの構成は均一または不均一なエリアを有する空間タイルを規定する。
実施形態において、各空間タイルは長方形の領域である。
実施形態において、空間タイルが均一なエリアを有する場合に、グリッドは水平および垂直双方の次元においてその境界の数により指定される。
実施形態において、空間タイルが不均一なエリアを有する場合に、グリッドはグリッドの行および列の数と、行および列の境界のポジションとにより指定される。
実施形態において、データはDASH標準規格にしたがって送信され、前記記述ファイルはメディア表現記述ファイルである。
実施形態において、各URLは予め規定された期間に対するトラックのセグメントまたはサブトラックを指定する。
実施形態において、n個の空間タイルの構成は、期間全体に対するシンタックスエレメントを使用することにより、各期間に対して規定される。
実施形態において、記述ファイルは、毎期間に対する各ビデオサブトラックに対して規定された1組のパラメータを含み、1組のパラメータは:
a.トラックのタイプ:ビデオトラックもしくはビデオサブトラック、ならびに/または
b.トラックがビデオサブトラックの場合に、空間タイルのポジションおよびn個の空間タイルの構成
についてのデータを組み込む記述子を含む。
a.トラックのタイプ:ビデオトラックもしくはビデオサブトラック、ならびに/または
b.トラックがビデオサブトラックの場合に、空間タイルのポジションおよびn個の空間タイルの構成
についてのデータを組み込む記述子を含む。
実施形態において、記述ファイルは、毎期間に対して、各タイルに対して規定された1組のパラメータを含み、1組のパラメータは:
トラックのタイプ:ビデオトラックもしくはビデオサブトラック、および/または、
b.トラックがビデオサブトラックの場合に、n個の空間タイルの構成に対する参照についてのデータを組み込むRoleエレメントと呼ばれる記述子を含む。
トラックのタイプ:ビデオトラックもしくはビデオサブトラック、および/または、
b.トラックがビデオサブトラックの場合に、n個の空間タイルの構成に対する参照についてのデータを組み込むRoleエレメントと呼ばれる記述子を含む。
実施形態において、トラックがビデオサブトラックの場合に、記述子はn個のタイルの構成に対して考えられるタイルのポジションを指定するためのスキームをさらに含む。
実施形態において、空間タイルのポジションは、グリッドの行および列のインデックスを参照することにより示される。
実施形態において、空間タイルのポジションは、タイルの上左隅のピクセルにおけるポジションとタイルの幅および高さとを参照することにより示される。
実施形態において、空間タイルのポジションは、指定された座標系におけるポジションにより示される。
実施形態において、空間タイルのポジションは空間メディアフラグメントとして表現される。
実施形態において、方法は、記述ファイルを生成させるステップに対する準備として:
−所定のビデオに対応するデータを取得することと、
−取得されたデータを圧縮することと、
−圧縮されたデータをカプセル化することとをさらに含み、
前記カプセル化することは、
・所定の数のメディアセグメントファイルを生成させることと、
・メディアファイルセグメントに関係付けられる初期設定セグメントを生成させることとを含み、
各メディアセグメントファイルは、所定の期間に対するビデオおよびn個のビデオサブトラックに関係付けられるデータを含み、
初期設定セグメントは、ビデオトラックおよびビデオサブトラックについての初期設定データを含む。
−所定のビデオに対応するデータを取得することと、
−取得されたデータを圧縮することと、
−圧縮されたデータをカプセル化することとをさらに含み、
前記カプセル化することは、
・所定の数のメディアセグメントファイルを生成させることと、
・メディアファイルセグメントに関係付けられる初期設定セグメントを生成させることとを含み、
各メディアセグメントファイルは、所定の期間に対するビデオおよびn個のビデオサブトラックに関係付けられるデータを含み、
初期設定セグメントは、ビデオトラックおよびビデオサブトラックについての初期設定データを含む。
実施形態において、ビデオデータは同じコンテンツを表すm個のビデオトラックを含み、mは整数であり、m個のビデオトラックのそれぞれは所定の解像度を有し、m*n個の独立したビデオサブトラックを作るために、各ビデオトラックの各フレームはn個の空間タイルに分割される。
実施形態において、記述ファイルはビデオサブトラックに対するパラメータを含み、パラメータは異なるビデオサブトラックの可能性あるまたは禁止された関係付けについてのデータを含み、前記可能性あるまたは禁止された関係付けは、DASH標準規格にしたがってデータがストリーミングされる場合に識別子属性により示される。
本発明の別の態様にしたがって、クライアントデバイスにより所定のビデオに対応するデータを取得するための方法が提案され、独立したn個のビデオのサブトラックを作るために、ビデオの各フレームはn個の空間タイルに分割され、nは整数である。方法は:
−n個のビデオサブトラックの空間編成と、各ビデオサブトラックをそれぞれ指定する少なくともn個のURLとについてのデータを含む記述ファイルを受信することと、
−クライアントデバイスまたはクライアントデバイスのユーザにより、ビデオ中の少なくとも1つの関心領域を選択することと、
−記述ファイルに基づき、選ばれた関心領域にしたがって1以上のURLを取得することと、
−ビデオサブトラックを要求するための1以上のリクエストメッセージを送ることと、
−リクエストメッセージに応答して、要求されたビデオサブトラックに対応するビデオデータを受信することとを含み、
各リクエストメッセージは、クライアントデバイスにより選択されたURLのうちの1つを含む。
−n個のビデオサブトラックの空間編成と、各ビデオサブトラックをそれぞれ指定する少なくともn個のURLとについてのデータを含む記述ファイルを受信することと、
−クライアントデバイスまたはクライアントデバイスのユーザにより、ビデオ中の少なくとも1つの関心領域を選択することと、
−記述ファイルに基づき、選ばれた関心領域にしたがって1以上のURLを取得することと、
−ビデオサブトラックを要求するための1以上のリクエストメッセージを送ることと、
−リクエストメッセージに応答して、要求されたビデオサブトラックに対応するビデオデータを受信することとを含み、
各リクエストメッセージは、クライアントデバイスにより選択されたURLのうちの1つを含む。
実施形態において、記述ファイルは、フルの所定のビデオに対応するトラックを指定するURLをさらに含み、クライアントデバイスがいずれの関心領域も選択しない場合に、方法は、フルビデオトラックを要求するためのリクエストメッセージを送ることと、リクエストメッセージに応答して、要求されたフルビデオトラックに対応するビデオデータを受信することとをさらに含む。
実施形態において、所定のビデオは、ベースレイヤおよび少なくとも1つのエンハンスメントレイヤを含むスケーリング可能なビデオであり、前記n個のビデオサブトラックはエンハンスメントレイヤに対応し、前記ビデオはベースレイヤビデオサブトラックをさらに含み、前記記述ファイルはベースレイヤトラックのURLをさらに含み、
クライアントデバイスが1つの関心領域を選んだ場合に、方法は、
−クライアントデバイスによりベースレイヤのURLを取得することと、
−ベースレイヤトラックのURLを含むリクエストメッセージを送ることと、
−リクエストメッセージに応答して、要求されたベースレイヤトラックに対応するビデオデータを受信することとをさらに含む。
クライアントデバイスが1つの関心領域を選んだ場合に、方法は、
−クライアントデバイスによりベースレイヤのURLを取得することと、
−ベースレイヤトラックのURLを含むリクエストメッセージを送ることと、
−リクエストメッセージに応答して、要求されたベースレイヤトラックに対応するビデオデータを受信することとをさらに含む。
バリアントにしたがって、所定のビデオは、ベースレイヤおよび少なくとも1つのエンハンスメントレイヤを含むスケーリング可能なビデオであり、前記n個のビデオサブトラックはエンハンスメントレイヤに対応し、独立したn個のベースレイヤサブトラックを作るために、ベースレイヤの各フレームもn個の空間タイルに分割され、ベースレイヤの各タイルはエンハンスメントレイヤ中のタイルに対応し、前記記述ファイルはベースレイヤサブトラックのURLをさらに含み、クライアントデバイスが1つの関心領域を選んだ場合に、方法は、
−クライアントデバイスによりベースレイヤサブトラックのURLを取得することと、
−ベースレイヤサブトラックのURLを含むリクエストメッセージを送ることと、
−リクエストメッセージに応答して、要求されたベースレイヤサブトラックに対応するビデオデータを受信することとをさらに含む。
−クライアントデバイスによりベースレイヤサブトラックのURLを取得することと、
−ベースレイヤサブトラックのURLを含むリクエストメッセージを送ることと、
−リクエストメッセージに応答して、要求されたベースレイヤサブトラックに対応するビデオデータを受信することとをさらに含む。
実施形態において、n個の空間タイルの構成は、所定の数の行および列にサブ分割されるグリッドにより記述ファイルにおいて規定され、各構成は予め定められた高さおよび幅を有する。
実施形態において、n個の空間タイルの構成は均一または不均一なエリアを有する空間タイルを規定する。
実施形態において、各空間タイルは長方形の領域である。
実施形態において、空間タイルが均一なエリアを有する場合に、グリッドは水平および垂直双方の次元においてその境界の数により指定される。
実施形態において、空間タイルが不均一なエリアを有する場合に、グリッドはグリッドの行および列の数と、行および列の境界のポジションとにより指定される。
実施形態において、データはDASH標準規格にしたがって規定され、前記記述ファイルはメディア表現記述ファイルである。
実施形態において、各URLは予め規定された期間に対するトラックのセグメントまたはサブトラックを指定する。
実施形態において、n個の空間タイルの構成は、期間全体に対するシンタックスエレメントを使用することにより、各期間に対して規定される。
実施形態において、記述ファイルは、毎期間に対する各ビデオサブトラックに対して規定された1組のパラメータを含み、1組のパラメータは:
a.トラックのタイプ:ビデオトラックもしくはビデオサブトラック、ならびに/または
b.トラックがビデオサブトラックの場合に、空間タイルのポジションおよびn個の空間タイルの構成
についてのデータを組み込む記述子を含む。
a.トラックのタイプ:ビデオトラックもしくはビデオサブトラック、ならびに/または
b.トラックがビデオサブトラックの場合に、空間タイルのポジションおよびn個の空間タイルの構成
についてのデータを組み込む記述子を含む。
実施形態において、記述ファイルは、毎期間に対して、各タイルに対して規定された1組のパラメータを含み、1組のパラメータは:
トラックのタイプ:ビデオトラックもしくはビデオサブトラック、および/または、
b.トラックがビデオサブトラックの場合に、n個の空間タイルの構成に対する参照についてのデータを組み込むRoleエレメントと呼ばれる記述子を含む。
トラックのタイプ:ビデオトラックもしくはビデオサブトラック、および/または、
b.トラックがビデオサブトラックの場合に、n個の空間タイルの構成に対する参照についてのデータを組み込むRoleエレメントと呼ばれる記述子を含む。
実施形態において、トラックがビデオサブトラックの場合に、記述子はn個のタイルの構成に対して考えられるタイルのポジションを指定するためのスキームをさらに含む。
実施形態において、空間タイルのポジションは、グリッドの行および列のインデックスを参照することにより示される。
実施形態において、空間タイルのポジションは、タイルの上左隅のピクセルにおけるポジションとタイルの幅および高さとを参照することにより示される。
実施形態において、空間タイルのポジションは、指定された座標系におけるポジションにより示される。
実施形態において、空間タイルのポジションは空間メディアフラグメントとして表現される。
実施形態において、ビデオデータは同じコンテンツを表すm個のビデオに対応し、mは整数であり、m個のビデオのそれぞれは異なる解像度を有し、m*n個の独立したビデオサブトラックを作るために、各ビデオの各フレームはn個の空間タイルに分割される。
実施形態において、記述ファイルはビデオサブトラックに対するパラメータを含み、パラメータは異なるビデオサブトラックの可能性あるまたは禁止された関係付けについてのデータを含み、前記可能性あるまたは禁止された関係付けは、DASH標準規格にしたがってデータがストリーミングされる場合に識別子属性により示される。
69.受信したビデオデータは:
−所定の数のビデオセグメントファイルと
−メディアファイルセグメントに関係付けられる初期設定セグメントとを含み、
各ビデオセグメントファイルは、所定の期間に対するビデオおよびn個のビデオサブトラックに関係付けられるデータを含み、
初期設定セグメントは、ビデオトラックおよびビデオサブトラックについての初期設定データを含む請求項48〜68のいずれか一項に記載の方法。
−所定の数のビデオセグメントファイルと
−メディアファイルセグメントに関係付けられる初期設定セグメントとを含み、
各ビデオセグメントファイルは、所定の期間に対するビデオおよびn個のビデオサブトラックに関係付けられるデータを含み、
初期設定セグメントは、ビデオトラックおよびビデオサブトラックについての初期設定データを含む請求項48〜68のいずれか一項に記載の方法。
実施形態において、記述ファイルは、初期設定セグメントに関係付けられたURLをさらに含む。
実施形態において、初期設定データは各ビデオサブトラックの幅および高さを示す値を含む。
実施形態において、初期設定データは、正しいポジションにおける各ビデオサブトラックの表示を可能にする変換行列をさらに含む。
本発明の別の態様にしたがって、プログラム可能な装置のためのコンピュータプログラム製品が提案され、コンピュータプログラム製品は、プログラム可能な装置にロードされ、実行されるときに、先に詳細を述べた方法を実現するための一連の命令を含む。
本発明の別の態様にしたがって、先に詳細を述べた方法を実現するためのコンピュータプログラムの命令を記憶するコンピュータ読取可能記憶媒体が提案される。
本発明の別の態様にしたがって、所定のビデオに対応するデータをストリーミングするためのデバイスが提案され、独立したn個のビデオのサブトラックを作るために、ビデオの各フレームはn個の空間タイルに分割され、nは整数であり、前記デバイスは、先に詳細を述べたようなデータをストリーミングするための方法を実現するための手段を有する。
本発明の別の態様にしたがって、所定のビデオに対応するデータをクライアントデバイスに提供するためのサーバデバイスが提案され、独立したn個のビデオのサブトラックを作るために、ビデオの各フレームはn個の空間タイルに分割され、nは整数であり、前記サーバは、先に詳細を述べたようなデータを提供するための方法を実現するための手段を有する。
本発明の別の態様にしたがって、所定のビデオに対応するデータを取得するためのクライアントデバイスが提案され、独立したn個のビデオのサブトラックを作るために、ビデオの各フレームはn個の空間タイルに分割され、nは整数であり、前記クライアントデバイスは、先に詳細を述べたようなデータを取得するための方法を実現するための手段を有する。
Claims (27)
- ビデオの複数の空間領域に対応する複数のセグメントのうち特定のセグメントのリクエストのために参照されるXML(Extensible Markup Language)ドキュメントであって、少なくとも前記ビデオの空間領域のそれぞれについて、当該空間領域の空間的な位置を表す情報と、当該空間領域が属するビデオの識別情報と、当該空間領域のセグメントをリクエストするための情報と、が少なくとも関連付けて記述されたXMLドキュメントを生成する生成手段と、
前記生成手段により生成されたXMLドキュメントを情報処理装置に対して提供する提供手段とを有することを特徴とする提供装置。 - ビデオの複数の空間領域に対応する複数のセグメントのうち特定のセグメントのリクエストのために参照されるXML(Extensible Markup Language)ドキュメントであって、少なくとも前記ビデオの空間領域のそれぞれについて、当該空間領域の空間的な位置を表す情報と、当該空間領域が属するビデオの識別情報と、当該空間領域のセグメントをリクエストするための情報と、が少なくとも関連付けて記述されたXMLドキュメントの提供の準備を行う準備手段と、
前記準備手段により準備されたXMLドキュメントを情報処理装置に対して提供する提供手段とを有することを特徴とする提供装置。 - 前記準備手段は、ビデオデータを符号化し、当該符号化済みビデオデータに基づいて前記XMLドキュメントを生成することを特徴とする請求項2に記載の提供装置。
- 前記準備手段は、符号化されたビデオデータと、符号化されたオーディオデータとに基づいて前記XMLドキュメントを生成することを特徴とする請求項2に記載の提供装置。
- 前記セグメントをリクエストするための情報は、URLであることを特徴とする請求項1乃至4のうち、何れか1項に記載の提供装置。
- 前記セグメントをリクエストするための情報は、HTTPアドレスであることを特徴とする請求項1乃至4のうち、何れか1項に記載の提供装置。
- 前記XMLドキュメントには、前記セグメントの帯域幅に関する情報が記述されることを特徴とする請求項1乃至6のうち、何れか1項に記載の提供装置。
- 前記XMLドキュメントには、前記セグメントのビットレート、フレームレート、及び、画素数のうちの少なくとも何れかの情報が記述されることを特徴とする請求項1乃至7のうち、何れか1項に記載の提供装置。
- 前記XMLドキュメントの提供先である前記情報処理装置からセグメントのリクエストを受け付けた場合、当該リクエストに対応するセグメントを前記情報処理装置に対して送信する送信手段を有することを特徴とする請求項1乃至8のうち、何れか1項に記載の提供装置。
- 前記ビデオはスケーラブル符号化されており、
前記XMLドキュメントには、ベースレイヤのセグメントをリクエストするために前記情報処理装置によって用いられる情報と、エンハンスメントレイヤのセグメントをリクエストするために前記情報処理装置によって用いられる情報とが記述されることを特徴とする請求項1乃至9のうち、何れか1項に記載の提供装置。 - 前記ビデオの第1空間領域と第2空間領域の空間サイズは異なることを特徴とする請求項1乃至10のうち、何れか1項に記載の提供装置。
- 前記XMLドキュメントには、前記複数の空間領域のうちの第1空間領域の空間的な位置を表す情報として、前記ビデオの基準位置から、前記第1空間領域までの間に存在する水平方向の空間領域の個数および垂直方向の空間領域の個数を示す情報が記述されることを特徴とする請求項1乃至11のうち、何れか1項に記載の提供装置。
- 前記XMLドキュメントには、前記複数の空間領域のうちの第1空間領域の空間的な位置を表す情報として、前記第1空間領域の前記ビデオにおける水平方向及び垂直方向の座標位置を示す情報が記述されることを特徴とする請求項1乃至11のうち、何れか1項に記載の提供装置。
- 前記XMLドキュメントには、前記ビデオの水平方向における空間領域の個数、及び前記ビデオの垂直方向における空間領域の個数を示す情報が記述されることを特徴とする請求項1乃至13のうち、何れか1項に記載の提供装置。
- 前記XMLドキュメントには、前記ビデオの幅と高さを示す情報が記述されることを特徴とする請求項1乃至14のうち、何れか1項に記載の提供装置。
- 前記ビデオの識別情報は、整数によって表されることを特徴とする請求項1乃至15のうち、何れか1項に記載の提供装置。
- ビデオの複数の空間領域に対応する複数のセグメントのうち特定のセグメントのリクエストのために参照されるXML(Extensible Markup Language)ドキュメントであって、少なくとも前記ビデオの空間領域のそれぞれについて、当該空間領域の空間的な位置を表す情報と、当該空間領域が属するビデオの識別情報と、当該空間領域のセグメントをリクエストするための情報と、が少なくとも関連付けて記述されたXMLドキュメントを受信する受信手段と、
前記受信手段により受信された前記XMLドキュメントを用いて特定のセグメントをリクエストする要求手段とを有することを特徴とする情報処理装置。 - ビデオ内の注視領域を決定する決定手段を有し、
前記要求手段は、前記決定手段により決定された注視領域に対応する空間領域のセグメントをリクエストすることを特徴とする請求項17に記載の情報処理装置。 - 前記決定手段は、ユーザ操作により指定された領域を注視領域として決定することを特徴とする請求項18に記載の情報処理装置。
- 前記XMLドキュメントには、前記セグメントの帯域幅に関する情報が記述され、
前記要求手段は、前記帯域幅に関する情報を用いて、リクエストすべきセグメントを決定することを特徴とする請求項17乃至19のうち、何れか1項に記載の情報処理装置。 - ビデオの複数の空間領域に対応する複数のセグメントのうち特定のセグメントのリクエストが可能な情報処理装置に対して提供されるXML(Extensible Markup Language)ドキュメントの生成方法であって、
前記ビデオの空間領域のそれぞれについて、当該空間領域の空間的な位置を表す情報と、当該空間領域が属するビデオの識別情報と、当該空間領域のセグメントをリクエストするための情報と、の関連付けを少なくとも判別し、
前記判別された関連付けが表されたXMLドキュメントを生成することを特徴とする生成方法。 - 前記XMLドキュメントには、前記セグメントの帯域幅に関する情報が記述されることを特徴とする請求項21に記載の生成方法。
- 前記ビデオの識別情報は、整数によって表されることを特徴とする請求項21又は22に記載の生成方法。
- 情報処理方法であって、
ビデオの複数の空間領域に対応する複数のセグメントのうち特定のセグメントのリクエストのために参照されるXML(Extensible Markup Language)ドキュメントであって、少なくとも前記ビデオの空間領域のそれぞれについて、当該空間領域の空間的な位置を表す情報と、当該空間領域が属するビデオの識別情報と、当該空間領域のセグメントをリクエストするための情報と、が少なくとも関連付けて記述されたXMLドキュメントを受信し、
前記受信されたXMLドキュメントを用いて特定のセグメントをリクエストすることを特徴とする情報処理方法。 - 前記リクエストの対象となる特定のセグメントは、前記ビデオの注視領域に基づいて決定されることを特徴とする請求項24に記載の情報処理方法。
- コンピュータを請求項1乃至16のうち、何れか1項に記載の提供装置の各手段として動作させるためのプログラム。
- コンピュータを請求項17乃至20のうち、何れか1項に記載の情報処理装置の各手段として動作させるためのプログラム。
Applications Claiming Priority (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| GB1218370.3 | 2012-10-12 | ||
| GB1218370.3A GB2506911B (en) | 2012-10-12 | 2012-10-12 | Method and correponding device for streaming video data |
| GB1306897.8 | 2013-04-16 | ||
| GB1306897.8A GB2513139A (en) | 2013-04-16 | 2013-04-16 | Method and corresponding device for streaming video data |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2015536168A Division JP6289478B2 (ja) | 2012-10-12 | 2013-10-11 | ビデオデータをストリーミングするための方法および対応するデバイス |
Related Child Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019053564A Division JP6783889B2 (ja) | 2012-10-12 | 2019-03-20 | 送信方法、受信方法、送信装置、受信装置、プログラム及び記憶媒体 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018117353A JP2018117353A (ja) | 2018-07-26 |
| JP6501933B2 true JP6501933B2 (ja) | 2019-04-17 |
Family
ID=49484264
Family Applications (3)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2015536168A Active JP6289478B2 (ja) | 2012-10-12 | 2013-10-11 | ビデオデータをストリーミングするための方法および対応するデバイス |
| JP2018015116A Active JP6501933B2 (ja) | 2012-10-12 | 2018-01-31 | Xmlドキュメントの生成装置、生成方法、情報処理装置、情報処理方法、及びプログラム |
| JP2019053564A Active JP6783889B2 (ja) | 2012-10-12 | 2019-03-20 | 送信方法、受信方法、送信装置、受信装置、プログラム及び記憶媒体 |
Family Applications Before (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2015536168A Active JP6289478B2 (ja) | 2012-10-12 | 2013-10-11 | ビデオデータをストリーミングするための方法および対応するデバイス |
Family Applications After (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019053564A Active JP6783889B2 (ja) | 2012-10-12 | 2019-03-20 | 送信方法、受信方法、送信装置、受信装置、プログラム及び記憶媒体 |
Country Status (6)
| Country | Link |
|---|---|
| US (3) | US9883011B2 (ja) |
| EP (2) | EP2907313A1 (ja) |
| JP (3) | JP6289478B2 (ja) |
| KR (3) | KR101786276B1 (ja) |
| CN (2) | CN104904225B (ja) |
| WO (1) | WO2014057131A1 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019154035A (ja) * | 2012-10-12 | 2019-09-12 | キヤノン株式会社 | Xmlドキュメントの生成装置、生成方法、情報処理装置、情報処理方法、及びプログラム |
Families Citing this family (77)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6261215B2 (ja) * | 2013-07-12 | 2018-01-17 | キヤノン株式会社 | 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム |
| US10306273B2 (en) * | 2013-07-19 | 2019-05-28 | Sony Corporation | Information processing device and method for generating partial image information including group identification information |
| US9628528B2 (en) * | 2013-07-19 | 2017-04-18 | Electronics And Telecommunications Research Institute | Apparatus and method for providing content |
| US10200353B2 (en) | 2013-07-25 | 2019-02-05 | Convida Wireless, Llc | End-to-end M2M service layer sessions |
| EP3028472B1 (en) | 2013-07-29 | 2020-02-26 | Koninklijke KPN N.V. | Providing tile video streams to a client |
| US20160234523A1 (en) * | 2013-09-06 | 2016-08-11 | Mitsubishi Electric Corporation | Video encoding device, video transcoding device, video encoding method, video transcoding method, and video stream transmission system |
| JPWO2015060349A1 (ja) * | 2013-10-22 | 2017-03-09 | シャープ株式会社 | 表示制御装置、配信装置、表示制御方法、および表示制御システム |
| GB2524531B (en) * | 2014-03-25 | 2018-02-07 | Canon Kk | Methods, devices, and computer programs for improving streaming of partitioned timed media data |
| JP6541309B2 (ja) | 2014-06-23 | 2019-07-10 | キヤノン株式会社 | 送信装置、送信方法、及びプログラム |
| EP2961182A1 (en) * | 2014-06-27 | 2015-12-30 | Alcatel Lucent | Method, system and device for navigating in ultra high resolution video content by a client device |
| EP3162074A1 (en) * | 2014-06-27 | 2017-05-03 | Koninklijke KPN N.V. | Determining a region of interest on the basis of a hevc-tiled video stream |
| US10694192B2 (en) * | 2014-06-27 | 2020-06-23 | Koninklijke Kpn N.V. | HEVC-tiled video streaming |
| WO2016002496A1 (ja) * | 2014-06-30 | 2016-01-07 | ソニー株式会社 | 情報処理装置および方法 |
| JP6324238B2 (ja) * | 2014-06-30 | 2018-05-16 | キヤノン株式会社 | 動画再生装置、動画再生方法及びそのプログラム、動画配信装置、動画配信方法及びそのプログラム |
| JP6555263B2 (ja) * | 2014-06-30 | 2019-08-07 | ソニー株式会社 | 情報処理装置および方法 |
| GB2527786B (en) * | 2014-07-01 | 2016-10-26 | Canon Kk | Method, device, and computer program for encapsulating HEVC layered media data |
| GB2528039A (en) * | 2014-07-01 | 2016-01-13 | Canon Kk | Method for identifying objects across time periods and corresponding device |
| EP3197151B1 (en) * | 2014-10-28 | 2019-08-14 | Huawei Technologies Co. Ltd. | Mosaic service presentation/delivery method and apparatus |
| KR101622316B1 (ko) | 2015-03-13 | 2016-05-19 | 서울대학교산학협력단 | 영상제공시스템 및 영상제공방법 |
| JP2017022529A (ja) * | 2015-07-09 | 2017-01-26 | キヤノン株式会社 | 通信システム、通信装置、通信方法、及び、プログラム |
| WO2017030865A1 (en) * | 2015-08-14 | 2017-02-23 | Vid Scale, Inc. | Method and systems for displaying a portion of a video stream |
| KR101637022B1 (ko) * | 2015-08-17 | 2016-07-20 | 한림대학교 산학협력단 | 컨텐트를 송신하는 방법 및 장치, 컨텐트를 수신하는 방법 및 장치 |
| WO2017029400A1 (en) | 2015-08-20 | 2017-02-23 | Koninklijke Kpn N.V. | Forming one or more tile streams on the basis of one or more video streams |
| JP6675475B2 (ja) * | 2015-08-20 | 2020-04-01 | コニンクリーケ・ケイピーエヌ・ナムローゼ・フェンノートシャップ | メディア・ストリームに基づくタイルド・ビデオの形成 |
| KR102551239B1 (ko) | 2015-09-02 | 2023-07-05 | 인터디지털 씨이 페이튼트 홀딩스, 에스에이에스 | 확장된 장면에서의 내비게이션을 용이하게 하기 위한 방법, 장치 및 시스템 |
| JP6551107B2 (ja) * | 2015-09-24 | 2019-07-31 | ブラザー工業株式会社 | サーバ装置、サーバプログラム、端末プログラム、動画送信方法、動画表示方法、通信システム |
| EP3360330B1 (en) | 2015-10-08 | 2021-03-24 | Koninklijke KPN N.V. | Enhancing a region of interest in video frames of a video stream |
| US9854375B2 (en) * | 2015-12-01 | 2017-12-26 | Qualcomm Incorporated | Selection of coded next generation audio data for transport |
| JP6587539B2 (ja) * | 2015-12-28 | 2019-10-09 | キヤノン株式会社 | 送信装置、情報処理方法及びプログラム |
| EP3398346A1 (en) * | 2015-12-28 | 2018-11-07 | Koninklijke KPN N.V. | Video streams |
| CN110225371B (zh) * | 2016-01-27 | 2020-11-06 | 上海交通大学 | 一种基于媒体自身属性以支持空间分块的存储与传输方法 |
| CA3013111C (en) * | 2016-02-02 | 2022-08-30 | Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. | Scene section and region of interest handling in video streaming |
| JP6624958B2 (ja) * | 2016-02-03 | 2019-12-25 | キヤノン株式会社 | 通信装置、通信システム、通信制御方法およびコンピュータプログラム |
| US10313417B2 (en) | 2016-04-18 | 2019-06-04 | Qualcomm Incorporated | Methods and systems for auto-zoom based adaptive video streaming |
| EP3455985B1 (en) | 2016-05-11 | 2022-03-09 | Convida Wireless, LLC | New radio downlink control channel |
| US10956766B2 (en) | 2016-05-13 | 2021-03-23 | Vid Scale, Inc. | Bit depth remapping based on viewing parameters |
| US10582201B2 (en) * | 2016-05-19 | 2020-03-03 | Qualcomm Incorporated | Most-interested region in an image |
| EP3466079B1 (en) * | 2016-05-24 | 2023-07-12 | Nokia Technologies Oy | Method and an apparatus and a computer program for encoding media content |
| CN109792544A (zh) * | 2016-06-02 | 2019-05-21 | 彗星科技有限责任公司 | 用于流传输全景视频的方法和装置 |
| US11388455B2 (en) | 2016-06-02 | 2022-07-12 | Multimo, Llc | Method and apparatus for morphing multiple video streams into single video stream |
| US10104143B1 (en) | 2016-06-03 | 2018-10-16 | Amazon Technologies, Inc. | Manifest segmentation |
| US10432690B1 (en) | 2016-06-03 | 2019-10-01 | Amazon Technologies, Inc. | Manifest partitioning |
| US10116719B1 (en) * | 2016-06-03 | 2018-10-30 | Amazon Technologies, Inc. | Customized dash manifest |
| WO2017218849A1 (en) | 2016-06-15 | 2017-12-21 | Convida Wireless, Llc | Network slice discovery and selection |
| EP3482566B1 (en) | 2016-07-08 | 2024-02-28 | InterDigital Madison Patent Holdings, SAS | Systems and methods for region-of-interest tone remapping |
| US10840982B2 (en) | 2016-08-11 | 2020-11-17 | Convidia Wireless, LLC | Beamforming sweeping and training in a flexible frame structure for new radio |
| WO2018043134A1 (ja) * | 2016-08-30 | 2018-03-08 | ソニー株式会社 | 配信装置、配信方法、受信装置、受信方法、プログラム、およびコンテンツ配信システム |
| US10743003B1 (en) * | 2016-09-01 | 2020-08-11 | Amazon Technologies, Inc. | Scalable video coding techniques |
| US10743004B1 (en) | 2016-09-01 | 2020-08-11 | Amazon Technologies, Inc. | Scalable video coding techniques |
| US9924131B1 (en) | 2016-09-21 | 2018-03-20 | Samsung Display Co., Ltd. | System and method for automatic video scaling |
| CN106375787B (zh) * | 2016-09-29 | 2019-12-27 | 北京小米移动软件有限公司 | 视频播放的方法及装置 |
| CN107888939A (zh) * | 2016-09-30 | 2018-04-06 | 华为技术有限公司 | 一种视频数据的处理方法及装置 |
| MX2022004795A (es) | 2016-10-12 | 2022-12-16 | Fraunhofer Ges Forschung | Transmisión continua espacialmente desigual. |
| US11197040B2 (en) * | 2016-10-17 | 2021-12-07 | Mediatek Inc. | Deriving and signaling a region or viewport in streaming media |
| CN107959861B (zh) * | 2016-10-18 | 2020-08-25 | 华为技术有限公司 | 一种数据处理方法、相关设备及系统 |
| CN109891772B (zh) | 2016-11-03 | 2022-10-04 | 康维达无线有限责任公司 | Nr中的帧结构 |
| WO2018152437A1 (en) | 2017-02-17 | 2018-08-23 | Vid Scale, Inc. | Systems and methods for selective object-of-interest zooming in streaming video |
| US11139000B2 (en) | 2017-03-07 | 2021-10-05 | Mediatek Inc. | Method and apparatus for signaling spatial region information |
| CN110383848B (zh) | 2017-03-07 | 2022-05-06 | 交互数字麦迪逊专利控股公司 | 用于多设备呈现的定制视频流式传输 |
| GB2560921B (en) * | 2017-03-27 | 2020-04-08 | Canon Kk | Method and apparatus for encoding media data comprising generated content |
| JP6472478B2 (ja) * | 2017-04-07 | 2019-02-20 | キヤノン株式会社 | 映像配信装置、映像配信方法及びプログラム |
| US20180310040A1 (en) * | 2017-04-21 | 2018-10-25 | Nokia Technologies Oy | Method and apparatus for view dependent delivery of tile-based video content |
| US10297087B2 (en) * | 2017-05-31 | 2019-05-21 | Verizon Patent And Licensing Inc. | Methods and systems for generating a merged reality scene based on a virtual object and on a real-world object represented from different vantage points in different video data streams |
| JP7035401B2 (ja) * | 2017-09-15 | 2022-03-15 | ソニーグループ株式会社 | 画像処理装置およびファイル生成装置 |
| KR102123070B1 (ko) * | 2017-11-29 | 2020-06-16 | 전자부품연구원 | Vod 컨텐츠 제공 서버 장치 및 이의 운용 방법 |
| CN108650460B (zh) * | 2018-05-10 | 2021-03-30 | 深圳视点创新科技有限公司 | 服务器、全景视频的存储和传输方法和计算机存储介质 |
| CN112753265B (zh) | 2018-09-27 | 2025-02-11 | 交互数字专利控股公司 | 新无线电的未经许可的频谱中的子频带操作 |
| US11290757B2 (en) | 2018-09-28 | 2022-03-29 | Comcast Cable Communications, Llc | Per-segment parameters for content |
| JP7182006B2 (ja) | 2018-12-20 | 2022-12-01 | テレフオンアクチーボラゲット エルエム エリクソン(パブル) | ピクチャにおける均一なセグメントスプリットを使用したビデオコーディングのための方法および装置 |
| JP7285857B2 (ja) | 2019-01-16 | 2023-06-02 | テレフオンアクチーボラゲット エルエム エリクソン(パブル) | リマインダをもつ均一なタイルスプリットを含むビデオコーディング |
| GB2582014A (en) * | 2019-03-08 | 2020-09-09 | Canon Kk | Method, device, and computer program for optimizing transmission of portions of encapsulated media content |
| US11523185B2 (en) | 2019-06-19 | 2022-12-06 | Koninklijke Kpn N.V. | Rendering video stream in sub-area of visible display area |
| US12284404B2 (en) | 2019-08-19 | 2025-04-22 | Telefonaktiebolaget Lm Ericsson (Publ) | Methods and devices for handling media data streams |
| US11553017B1 (en) | 2021-03-09 | 2023-01-10 | Nokia Technologies Oy | Timed media HTTP request aggregation |
| EP4380153A1 (en) * | 2022-11-29 | 2024-06-05 | Beijing Xiaomi Mobile Software Co., Ltd. | Encoding/decoding video picture data using picture tiles |
| WO2024254869A1 (zh) * | 2023-06-16 | 2024-12-19 | 瑞声开泰声学科技(上海)有限公司 | 通过手势实时创作触觉效果的方法及相关设备 |
| KR102924664B1 (ko) | 2024-11-11 | 2026-02-09 | 주식회사 티제이원 | 스케일링처리기법 기반 고해상도 스트리밍영상 구현 방법 및 그 장치 |
Family Cites Families (22)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7206804B1 (en) | 2000-11-10 | 2007-04-17 | Sharp Laboratories Of America, Inc. | Methods and systems for transmitting digital images |
| CN100395959C (zh) * | 2002-01-16 | 2008-06-18 | 科纳斯通集团有限公司 | 优化的数据传输系统和方法 |
| JP2003224846A (ja) * | 2002-01-29 | 2003-08-08 | Matsushita Electric Ind Co Ltd | 画像処理装置、復号化装置、符号化装置、画像処理システム、画像処理方法、及び、符号化方法 |
| FR2846181B1 (fr) * | 2002-10-16 | 2005-09-02 | Canon Kk | Procede et dispositif de selection de donnees dans un reseau de communication |
| US20070098277A1 (en) * | 2004-03-09 | 2007-05-03 | Takashi Watanabe | Transmitting apparatus, image processing system, image processing method, program, and recording medium |
| US8184128B2 (en) | 2004-10-27 | 2012-05-22 | Hewlett-Packard Development Company, L. P. | Data distribution system and method therefor |
| JP2007018198A (ja) | 2005-07-06 | 2007-01-25 | Sony Corp | リンク情報付きインデックス情報生成装置、タグ情報付き画像データ生成装置、リンク情報付きインデックス情報生成方法、タグ情報付き画像データ生成方法及びプログラム |
| US20070024706A1 (en) * | 2005-08-01 | 2007-02-01 | Brannon Robert H Jr | Systems and methods for providing high-resolution regions-of-interest |
| CN101114442A (zh) * | 2006-07-28 | 2008-01-30 | 创世纪微芯片公司 | 视频窗检测器 |
| CN101547348B (zh) * | 2009-05-08 | 2011-06-08 | 杭州华三通信技术有限公司 | 视频编码和解码方法以及视频编码和解码装置 |
| CA2777720C (en) * | 2009-10-16 | 2020-10-06 | The Scripps Research Institute | Induction of pluripotent cells |
| WO2011125051A1 (en) * | 2010-04-09 | 2011-10-13 | Canon Kabushiki Kaisha | Method for accessing a spatio-temporal part of a compressed video sequence |
| CN103583050B (zh) * | 2011-06-08 | 2018-09-14 | 皇家Kpn公司 | 空间分段的内容的递送 |
| US9590814B2 (en) * | 2011-08-01 | 2017-03-07 | Qualcomm Incorporated | Method and apparatus for transport of dynamic adaptive streaming over HTTP (DASH) initialization segment description fragments as user service description fragments |
| US9253233B2 (en) * | 2011-08-31 | 2016-02-02 | Qualcomm Incorporated | Switch signaling methods providing improved switching between representations for adaptive HTTP streaming |
| US9591361B2 (en) * | 2011-09-07 | 2017-03-07 | Qualcomm Incorporated | Streaming of multimedia data from multiple sources |
| US9843844B2 (en) * | 2011-10-05 | 2017-12-12 | Qualcomm Incorporated | Network streaming of media data |
| CN102355576B (zh) * | 2011-11-08 | 2015-07-08 | 杭州士兰微电子股份有限公司 | 高清视频监控方法和系统 |
| CN202351852U (zh) * | 2011-12-08 | 2012-07-25 | 重庆市电力公司 | 大屏幕融合及分屏控制系统 |
| EP2798854B1 (en) | 2011-12-29 | 2019-08-07 | Koninklijke KPN N.V. | Controlled streaming of segmented content |
| KR102659283B1 (ko) * | 2012-06-29 | 2024-04-22 | 지이 비디오 컴프레션, 엘엘씨 | 비디오 데이터 스트림 개념 |
| KR101786276B1 (ko) * | 2012-10-12 | 2017-11-15 | 캐논 가부시끼가이샤 | 데이터를 스트리밍하기 위한 방법, 데이터를 제공하기 위한 방법, 데이터를 획득하기 위한 방법, 컴퓨터 판독 가능 저장 매체, 서버 장치, 및 클라이언트 장치 |
-
2013
- 2013-10-11 KR KR1020157012279A patent/KR101786276B1/ko active Active
- 2013-10-11 KR KR1020187034738A patent/KR101968070B1/ko active Active
- 2013-10-11 EP EP13780332.6A patent/EP2907313A1/en not_active Ceased
- 2013-10-11 JP JP2015536168A patent/JP6289478B2/ja active Active
- 2013-10-11 US US14/434,741 patent/US9883011B2/en active Active
- 2013-10-11 KR KR1020177028544A patent/KR101925606B1/ko active Active
- 2013-10-11 EP EP19219046.0A patent/EP3657806A1/en not_active Withdrawn
- 2013-10-11 WO PCT/EP2013/071370 patent/WO2014057131A1/en not_active Ceased
- 2013-10-11 CN CN201380064948.7A patent/CN104904225B/zh active Active
- 2013-10-11 CN CN201910346321.XA patent/CN110139130B/zh active Active
-
2017
- 2017-10-13 US US15/783,999 patent/US10135952B2/en active Active
-
2018
- 2018-01-31 JP JP2018015116A patent/JP6501933B2/ja active Active
- 2018-07-13 US US16/035,415 patent/US20180324283A1/en not_active Abandoned
-
2019
- 2019-03-20 JP JP2019053564A patent/JP6783889B2/ja active Active
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019154035A (ja) * | 2012-10-12 | 2019-09-12 | キヤノン株式会社 | Xmlドキュメントの生成装置、生成方法、情報処理装置、情報処理方法、及びプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| JP6289478B2 (ja) | 2018-03-07 |
| US20150237166A1 (en) | 2015-08-20 |
| CN104904225A (zh) | 2015-09-09 |
| CN110139130A (zh) | 2019-08-16 |
| US10135952B2 (en) | 2018-11-20 |
| KR101786276B1 (ko) | 2017-11-15 |
| KR101925606B1 (ko) | 2018-12-05 |
| US9883011B2 (en) | 2018-01-30 |
| EP2907313A1 (en) | 2015-08-19 |
| KR20170125949A (ko) | 2017-11-15 |
| JP2018117353A (ja) | 2018-07-26 |
| KR20180132166A (ko) | 2018-12-11 |
| KR101968070B1 (ko) | 2019-04-10 |
| CN104904225B (zh) | 2019-05-07 |
| KR20150070260A (ko) | 2015-06-24 |
| US20180041610A1 (en) | 2018-02-08 |
| JP6783889B2 (ja) | 2020-11-11 |
| CN110139130B (zh) | 2022-09-20 |
| JP2016500948A (ja) | 2016-01-14 |
| US20180324283A1 (en) | 2018-11-08 |
| JP2019154035A (ja) | 2019-09-12 |
| EP3657806A1 (en) | 2020-05-27 |
| WO2014057131A1 (en) | 2014-04-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6501933B2 (ja) | Xmlドキュメントの生成装置、生成方法、情報処理装置、情報処理方法、及びプログラム | |
| US11533350B2 (en) | Method and apparatus for encoding and transmitting at least a spatial part of a video sequence | |
| JP6591009B2 (ja) | 情報処理装置、情報処理方法、及び、プログラム | |
| US10862943B2 (en) | Methods, devices, and computer programs for improving streaming of partitioned timed media data | |
| KR102087533B1 (ko) | 통신 장치, 통신 제어 방법, 및 컴퓨터 프로그램 | |
| GB2513139A (en) | Method and corresponding device for streaming video data | |
| CN113141379A (zh) | 在定时媒体数据流式传输期间改进渲染显示的方法、设备和计算机程序 | |
| GB2506911A (en) | Streaming data corresponding to divided image portions (tiles) via a description file including spatial and URL data | |
| JP2016521497A5 (ja) | ||
| KR101944601B1 (ko) | 기간들에 걸쳐 오브젝트들을 식별하기 위한 방법 및 이에 대응하는 디바이스 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190219 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190319 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 6501933 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |