JP7354411B2 - ビデオプレイバックにおける予測ベースドロップフレームハンドリング論理 - Google Patents
ビデオプレイバックにおける予測ベースドロップフレームハンドリング論理 Download PDFInfo
- Publication number
- JP7354411B2 JP7354411B2 JP2022507638A JP2022507638A JP7354411B2 JP 7354411 B2 JP7354411 B2 JP 7354411B2 JP 2022507638 A JP2022507638 A JP 2022507638A JP 2022507638 A JP2022507638 A JP 2022507638A JP 7354411 B2 JP7354411 B2 JP 7354411B2
- Authority
- JP
- Japan
- Prior art keywords
- representations
- video
- media player
- playback
- representation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/454—Content or additional data filtering, e.g. blocking advertisements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
- H04N21/440281—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display by altering the temporal resolution, e.g. by frame skipping
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44004—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving video buffer management, e.g. video decoder buffer or video display buffer
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/09—Supervised learning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/238—Interfacing the downstream path of the transmission network, e.g. adapting the transmission rate of a video stream to network bandwidth; Processing of multiplex streams
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
- H04N21/2402—Monitoring of the downstream path of the transmission network, e.g. bandwidth available
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/24—Monitoring of processes or resources, e.g. monitoring of server load, available bandwidth, upstream requests
- H04N21/2407—Monitoring of transmitted content, e.g. distribution time, number of downloads
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
- H04N21/44008—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics in the video stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
- H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
- H04N21/845—Structuring of content, e.g. decomposing content into time segments
- H04N21/8456—Structuring of content, e.g. decomposing content into time segments by decomposing the content in the time domain, e.g. in time segments
Landscapes
- Engineering & Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Databases & Information Systems (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
[0001]本開示は、すべての目的のために、その内容全体が参照により本明細書に組み込まれる、2019年8月15日に出願された、「Prediction-Based Dropped Frame Handling Logic in Video Playback」と題する、米国非仮出願第16/541,999号の優先権を主張する。
[0021]図1は、いくつかの実施形態による、ドロップフレーム測定値を予測するための簡略化されたシステム100を示す。システム100はサーバシステム102とクライアントデバイス104とを含むが、複数のサーバシステム102および複数のクライアント104が使用され得る。クライアントデバイス104は、スマートフォン、タブレットデバイス、セットトップボックス、テレビジョンなど、または上記の任意の組合せなど、ビデオをプレイすることができるコンピューティングデバイスであり得る。クライアントデバイス104は、ビデオをプレイすることができるメディアプレーヤ110を含み得る。たとえば、メディアプレーヤ110は、ビデオ配信システムのサーバシステム102にビデオを要求し得る。いくつかの実施形態では、ビデオ配信システムは、メディアプレーヤ110がそこに要求することができるビデオのライブラリを提供し得る。
[0029]図2は、いくつかの実施形態による、クライアントデバイス104のより詳細な例を示す。メディアプレーヤ110は、ビデオを表示し得るユーザインターフェース202を含み得る。さらに、ユーザインターフェース202は、ユーザが、プレイするためのビデオを選択するためにビデオライブラリをブラウズすることを可能にし得る。ユーザインターフェース202においてビデオフレームを表示する前に、メディアプレーヤ110は、符号化されたビデオフレームを受信し、そのビデオフレームを復号する。たとえば、ダウンローダー210は、コンテンツ配信ネットワークなど、サーバシステム102または別のシステムからビデオの表現のためのビデオフレームをダウンロードし得る。
[0035]図3は、いくつかの実施形態による、予測ドロップフレームハンドリング論理106のより詳細な例を示す。予測ドロップフレームハンドリング論理106は、ビデオについての、メディアプレーヤ110にとって利用不可能としてマークされるべきである表現を選択し得る。予測ドロップフレームハンドリング論理106は、どの表現がクライアントデバイス104のメディアプレーヤ110にとって利用不可能としてマークされるべきであるかを決定するために、ビデオの表現のすべてなど、ビデオについての表現を分析し得る。クライアントデバイス104中の1つのメディアプレーヤ110についての1つの分析が説明されたが、予測ドロップフレームハンドリング論理106は、複数のクライアントデバイス104中で動作している複数のメディアプレーヤ110についての分析を実施し得る。たとえば、各メディアプレーヤ110とクライアントデバイス104との組合せは、異なる状態を経験し、ビデオのプレイバックに影響を及ぼし得る異なるコンピューティングリソースを有し得る。
[0041]ドロップフレーム比予測を実施する前に、予測ネットワーク306がトレーニングされ得る。たとえば、予測ネットワーク306は、ネットワークのパラメータのトレーニングに基づいてドロップフレーム比を予測することができるニューラルネットワークであり得る。ニューラルネットワークが説明されたが、ルールベースの方法など、他の予測方法が使用され得る。いくつかの実施形態では、トレーニングは、異なるユーザに関連する異なるクライアントデバイスからの、または使用されているクライアントデバイスのみからのサンプルを使用して実施され得る。
[0052]図7は、いくつかの実施形態による、予測ネットワーク306の一例を示す。予測ネットワーク306は、ドロップフレーム比とタイムスタンプとの入力に基づいてドロップフレーム比を予測するモデルを学習し得る。異なる予測ネットワークが使用され得る。いくつかの実施形態では、長時間短期記憶(時間LSTM)ネットワークが使用される。時間LSTMは、予測において時間を使用するLSTMネットワークの変形態であり得る。時間LSTMネットワークは、時間間隔をモデル化するために、その時間についての入力を使用する。
[0056]図8は、いくつかの実施形態による、ドロップフレームハンドリング予測のより詳細な例を示す。802において、予測ドロップフレームハンドリング論理106は、クライアントデバイス上で表現についての履歴プレイバック性能を取り出す。
[0063]予測ドロップフレーム比は、プレイバックの前におよびプレイバック中に使用され得る。図9は、いくつかの実施形態による、表現を更新するための方法の簡略フローチャート900を示す。902において、サーバシステム102は、ビデオについての要求を受信する。たとえば、メディアプレーヤ110は、ユーザによって使用されているクライアントデバイス104から、ビデオについての選択を受信することになる。904において、サーバシステム102は、ビデオについての利用可能な表現を選択し得る。たとえば、サーバシステム102は、クライアントデバイス104についてどの表現が利用不可能としてマークされなかったかを決定する。利用不可能な表現の決定は、クライアントデバイス、ユーザアカウント、メディアプレーヤなど、またはそれらの任意の組合せに基づき得る。次いで、906において、サーバシステム102は、利用可能な表現のリストをメディアプレーヤ110に与える。908において、サーバシステム102は、表現の選択を受信し、その表現を使用してビデオのストリーミングを開始する。
[0069]したがって、予測されたドロップフレーム比は、プレイバックプロセスを改善し得る。たとえば、表現は、プレイバックの前に利用不可能としてマークされ得、プレイバック中の、それらの表現を使用するドロップフレームが回避され得る。また、予測は、利用可能な表現についての予測ドロップフレーム比に基づいてプレイバックの前に表現を選択するために使用され得る。さらに、プレイバック中に、別の表現への切替えに遭遇したとき、予測されたドロップフレーム比は、新しい表現を選択するためにも使用され得る。予測されたドロップフレーム比を使用することは、多数のドロップフレームを生じ得る表現を選択することを回避すること、または他の表現よりも少数のドロップフレームを生じ得る最適表現を選択することによって、プレイバックを改善する。
[0071]いくつかの実施形態では、方法は、コンピューティングデバイスによって、1つまたは複数のビデオがメディアプレーヤにおいてプレイされることに基づいて複数の表現についてのプレイバック情報を受信することと、ここにおいて、複数の表現が、ビデオのプレイバックに影響を及ぼす少なくとも1つの異なる特性を有する、コンピューティングデバイスによって、プレイバック情報に基づいて複数の表現についてのドロップフレーム測定値を予測することと、コンピューティングデバイスによって、ドロップフレーム測定値を複数の表現についてのしきい値と比較することと、コンピューティングデバイスによって、比較することに基づいて複数の表現の第1のセットを利用可能でないとしてマークすることと、ここにおいて、メディアプレーヤがプレイバックのためのビデオを要求し、ビデオについての複数の表現の第1のセットが、メディアプレーヤによって要求されるのをブロックされたとき、複数の表現の第2のセットがメディアプレーヤに与えられる、を含む。
[0093]本明細書で開示される特徴および態様は、図11に示されているように、1つまたは複数の通信ネットワークを介して複数のクライアントデバイスと通信しているビデオストリーミングシステム1100とともに実装され得る。ビデオストリーミングシステム1100の態様は、本開示に従って準備されたコンテンツの分配および配信を可能にするためのアプリケーションの一例を与えるために説明されるにすぎない。本技術はストリーミングビデオアプリケーションに限定されず、他のアプリケーションおよび配信機構のために適応され得ることを諒解されたい。
以下に本願の出願当初の特許請求の範囲に記載された発明を付記する。
[C1]
コンピューティングデバイスによって、1つまたは複数のビデオがメディアプレーヤにおいてプレイされることに基づいて複数の表現についてのプレイバック情報を受信することと、ここにおいて、前記複数の表現が、前記ビデオのプレイバックに影響を及ぼす少なくとも1つの異なる特性を有する、
前記コンピューティングデバイスによって、前記プレイバック情報に基づいて前記複数の表現についてのドロップフレーム測定値を予測することと、
前記コンピューティングデバイスによって、前記ドロップフレーム測定値を前記複数の表現についてのしきい値と比較することと、
前記コンピューティングデバイスによって、前記比較することに基づいて前記複数の表現の第1のセットを利用可能でないとしてマークすることと、ここにおいて、前記メディアプレーヤがプレイバックのためのビデオを要求し、前記ビデオについての前記複数の表現の前記第1のセットが、前記メディアプレーヤによって要求されるのをブロックされたとき、前記複数の表現の第2のセットが前記メディアプレーヤに与えられる、
を備える、方法。
[C2]
前記複数の表現についての前記ドロップフレーム測定値を予測するように予測ネットワークをトレーニングすること
をさらに備える、C1に記載の方法。
[C3]
前記予測ネットワークをトレーニングすることが、
トレーニングのためのプレイバック情報のリストを選択することと、
プレイバック情報の前記リストからトレーニングサンプルを生成することと、
前記予測ネットワークをトレーニングするために前記トレーニングサンプルを使用することと
を備える、C2に記載の方法。
[C4]
前記トレーニングサンプルを生成することが、
前記プレイバック情報に基づいてトレーニングサンプルについてのドロップフレーム測定値を生成することと、
前記プレイバック情報に基づいて前記トレーニングサンプルについての時間値を生成することと
を備える、C3に記載の方法。
[C5]
前記ドロップフレーム測定値が、プレイバック情報の第1のインスタンスからのドロップフレーム測定値を備える、C4に記載の方法。
[C6]
前記時間値が、プレイバック情報の前記第1のインスタンスおよびプレイバック情報の第2のインスタンスからの時間値の差を備える、C5に記載の方法。
[C7]
前記トレーニングサンプルを生成することは、
プレイバック情報の複数のインスタンスを含むトレーニングサンプルを生成すること、ここにおいて、前記複数のインスタンスの数が前記予測ネットワークの入力の数に等しい、
を備える、C3に記載の方法。
[C8]
前記トレーニングサンプルが複数の時間値を含み、ここにおいて、時間値の数が前記予測ネットワークの入力の前記数に等しい、C7に記載の方法。
[C9]
前記複数の表現の前記第1のセットを利用可能でないとしてマークすることは、
前記予測されたドロップするフレーム測定値が前記しきい値を満たすとき、前記表現を利用不可能としてマークすること
を備える、C1に記載の方法。
[C10]
前記ビデオのためのプレイバックについての要求を受信することと、
前記ビデオについての前記複数の表現の前記第2のセットを選択することと
をさらに備える、C1に記載の方法。
[C11]
前記ビデオについての前記複数の表現の前記第2のセットを選択することが、
前記ビデオについて記憶された表現を決定することと、
どの表現が利用不可能としてマークされるかを決定することと、
記憶され、利用不可能としてマークされない表現から、表現の前記第2のセットを選択することと
を備える、C10に記載の方法。
[C12]
前記ビデオについての前記複数の表現の前記第2のセットを、前記メディアプレーヤがプレイバックのための前記複数の表現の前記第2のセットのうちの1つを選択することを可能にするために、前記メディアプレーヤに送ること
をさらに備える、C10に記載の方法。
[C13]
前記ビデオについての前記複数の表現の前記第2のセットについての前記予測されたドロップするフレーム測定値を前記メディアプレーヤに送ること、ここにおいて、前記メディアプレーヤが、前記ビデオのプレイバック中に前記複数の表現の前記第2のセットのうちの1つを選択するために、前記予測されたドロップするフレーム測定値を使用する、をさらに備える、C12に記載の方法。
[C14]
前記複数の表現が解像度とフレームレートとの異なる組合せを有する、C12に記載の方法。
[C15]
命令を含んでいる非一時的コンピュータ可読記憶媒体であって、前記命令は、実行されたとき、
1つまたは複数のビデオがメディアプレーヤにおいてプレイされることに基づいて複数の表現についてのプレイバック情報を受信することと、ここにおいて、前記複数の表現が、前記ビデオのプレイバックに影響を及ぼす少なくとも1つの異なる特性を有する、
前記プレイバック情報に基づいて前記複数の表現についてのドロップフレーム測定値を予測することと、
前記ドロップフレーム測定値を前記複数の表現についてのしきい値と比較することと、
前記比較することに基づいて前記複数の表現の第1のセットを利用可能でないとしてマークすることと、ここにおいて、前記メディアプレーヤがプレイバックのためのビデオを要求し、前記ビデオについての前記複数の表現の前記第1のセットが、前記メディアプレーヤによって要求されるのをブロックされたとき、前記複数の表現の第2のセットが前記メディアプレーヤに与えられる、
を行うために動作可能であるようにコンピュータシステムを制御する、非一時的コンピュータ可読記憶媒体。
[C16]
前記複数の表現についての前記ドロップフレーム測定値を予測するように予測ネットワークをトレーニングすること
を行うためにさらに動作可能である、C15に記載の非一時的コンピュータ可読記憶媒体。
[C17]
前記複数の表現の前記第1のセットを利用可能でないとしてマークすることは、
前記予測されたドロップするフレーム測定値が前記しきい値を満たすとき、前記表現を利用不可能としてマークすること
を備える、C15に記載の非一時的コンピュータ可読記憶媒体。
[C18]
前記ビデオについての前記複数の表現の前記第2のセットを、前記メディアプレーヤがプレイバックのための前記複数の表現の前記第2のセットのうちの1つを選択することを可能にするために、前記メディアプレーヤに送ること
を行うためにさらに動作可能である、C15に記載の非一時的コンピュータ可読記憶媒体。
[C19]
前記ビデオについての前記複数の表現の前記第2のセットについての前記予測されたドロップするフレーム測定値を前記メディアプレーヤに送ること、ここにおいて、前記メディアプレーヤが、前記ビデオのプレイバック中に前記複数の表現の前記第2のセットのうちの1つを選択するために、前記予測されたドロップするフレーム測定値を使用する、を行うためにさらに動作可能である、C15に記載の非一時的コンピュータ可読記憶媒体。
[C20]
1つまたは複数のコンピュータプロセッサと、
命令を備える非一時的コンピュータ可読記憶媒体と
を備える装置であって、前記命令は、実行されたとき、
1つまたは複数のビデオがメディアプレーヤにおいてプレイされることに基づいて複数の表現についてのプレイバック情報を受信することと、ここにおいて、前記複数の表現が、前記ビデオのプレイバックに影響を及ぼす少なくとも1つの異なる特性を有する、
前記プレイバック情報に基づいて前記複数の表現についてのドロップフレーム測定値を予測することと、
前記ドロップフレーム測定値を前記複数の表現についてのしきい値と比較することと、
前記比較することに基づいて前記複数の表現の第1のセットを利用可能でないとしてマークすることと、ここにおいて、前記メディアプレーヤがプレイバックのためのビデオを要求し、前記ビデオについての前記複数の表現の前記第1のセットが、前記メディアプレーヤによって要求されるのをブロックされたとき、前記複数の表現の第2のセットが前記メディアプレーヤに与えられる、
を行うために動作可能であるよう前記1つまたは複数のコンピュータプロセッサを制御する、装置。
Claims (20)
- コンピューティングデバイスによって、1つまたは複数のビデオがメディアプレーヤにおいてプレイされることに基づいて複数の表現についてのプレイバック情報を受信することと、ここにおいて、前記複数の表現が、前記ビデオのプレイバックに影響を及ぼす少なくとも1つの異なる特性を有する、
前記コンピューティングデバイスによって、前記プレイバック情報に基づいて前記複数の表現についてのドロップフレーム測定値を予測することと、
前記コンピューティングデバイスによって、前記ドロップフレーム測定値を前記複数の表現についてのしきい値と比較することと、
前記コンピューティングデバイスによって、前記比較することに基づいて前記複数の表現の第1のセットを利用可能でないとしてマークすることと、ここにおいて、前記メディアプレーヤがプレイバックのためのビデオを要求し、前記ビデオについての前記複数の表現の前記第1のセットが、前記メディアプレーヤによって要求されるのをブロックされたとき、前記複数の表現の第2のセットが前記メディアプレーヤに与えられる、
を備える、方法。 - 前記複数の表現についての前記ドロップフレーム測定値を予測するように予測ネットワークをトレーニングすること
をさらに備える、請求項1に記載の方法。 - 前記予測ネットワークをトレーニングすることが、
トレーニングのためのプレイバック情報のリストを選択することと、
プレイバック情報の前記リストからトレーニングサンプルを生成することと、
前記予測ネットワークをトレーニングするために前記トレーニングサンプルを使用することと
を備える、請求項2に記載の方法。 - 前記トレーニングサンプルを生成することが、
前記プレイバック情報に基づいてトレーニングサンプルについてのドロップフレーム測定値を生成することと、
前記プレイバック情報に基づいて前記トレーニングサンプルについての時間値を生成することと
を備える、請求項3に記載の方法。 - 前記ドロップフレーム測定値が、プレイバック情報の第1のインスタンスからのドロップフレーム測定値を備える、請求項4に記載の方法。
- 前記時間値が、プレイバック情報の前記第1のインスタンスおよびプレイバック情報の第2のインスタンスからの時間値の差を備える、請求項5に記載の方法。
- 前記トレーニングサンプルを生成することは、
プレイバック情報の複数のインスタンスを含むトレーニングサンプルを生成すること、ここにおいて、前記複数のインスタンスの数が前記予測ネットワークの入力の数に等しい、
を備える、請求項3に記載の方法。 - 前記トレーニングサンプルが複数の時間値を含み、ここにおいて、時間値の数が前記予測ネットワークの入力の前記数に等しい、請求項7に記載の方法。
- 前記複数の表現の前記第1のセットを利用可能でないとしてマークすることは、
前記予測されたドロップフレーム測定値が前記しきい値を満たすとき、前記表現を利用不可能としてマークすること
を備える、請求項1に記載の方法。 - 前記ビデオのためのプレイバックについての要求を受信することと、
前記ビデオについての前記複数の表現の前記第2のセットを選択することと
をさらに備える、請求項1に記載の方法。 - 前記ビデオについての前記複数の表現の前記第2のセットを選択することが、
前記ビデオについて記憶された表現を決定することと、
どの表現が利用不可能としてマークされるかを決定することと、
記憶され、利用不可能としてマークされない表現から、表現の前記第2のセットを選択することと
を備える、請求項10に記載の方法。 - 前記ビデオについての前記複数の表現の前記第2のセットを、前記メディアプレーヤがプレイバックのための前記複数の表現の前記第2のセットのうちの1つを選択することを可能にするために、前記メディアプレーヤに送ること
をさらに備える、請求項10に記載の方法。 - 前記ビデオについての前記複数の表現の前記第2のセットについての前記予測されたドロップフレーム測定値を前記メディアプレーヤに送ること、ここにおいて、前記メディアプレーヤが、前記ビデオのプレイバック中に前記複数の表現の前記第2のセットのうちの1つを選択するために、前記予測されたドロップフレーム測定値を使用する、をさらに備える、請求項12に記載の方法。
- 前記複数の表現が解像度とフレームレートとの異なる組合せを有する、請求項12に記載の方法。
- 命令を含んでいる非一時的コンピュータ可読記憶媒体であって、前記命令は、実行されたとき、
1つまたは複数のビデオがメディアプレーヤにおいてプレイされることに基づいて複数の表現についてのプレイバック情報を受信することと、ここにおいて、前記複数の表現が、前記ビデオのプレイバックに影響を及ぼす少なくとも1つの異なる特性を有する、
前記プレイバック情報に基づいて前記複数の表現についてのドロップフレーム測定値を予測することと、
前記ドロップフレーム測定値を前記複数の表現についてのしきい値と比較することと、
前記比較することに基づいて前記複数の表現の第1のセットを利用可能でないとしてマークすることと、ここにおいて、前記メディアプレーヤがプレイバックのためのビデオを要求し、前記ビデオについての前記複数の表現の前記第1のセットが、前記メディアプレーヤによって要求されるのをブロックされたとき、前記複数の表現の第2のセットが前記メディアプレーヤに与えられる、
を行うために動作可能であるようにコンピュータシステムを制御する、非一時的コンピュータ可読記憶媒体。 - 前記複数の表現についての前記ドロップフレーム測定値を予測するように予測ネットワークをトレーニングすること
を行うためにさらに動作可能である、請求項15に記載の非一時的コンピュータ可読記憶媒体。 - 前記複数の表現の前記第1のセットを利用可能でないとしてマークすることは、
前記予測されたドロップフレーム測定値が前記しきい値を満たすとき、前記表現を利用不可能としてマークすること
を備える、請求項15に記載の非一時的コンピュータ可読記憶媒体。 - 前記ビデオについての前記複数の表現の前記第2のセットを、前記メディアプレーヤがプレイバックのための前記複数の表現の前記第2のセットのうちの1つを選択することを可能にするために、前記メディアプレーヤに送ること
を行うためにさらに動作可能である、請求項15に記載の非一時的コンピュータ可読記憶媒体。 - 前記ビデオについての前記複数の表現の前記第2のセットについての前記予測されたドロップフレーム測定値を前記メディアプレーヤに送ること、ここにおいて、前記メディアプレーヤが、前記ビデオのプレイバック中に前記複数の表現の前記第2のセットのうちの1つを選択するために、前記予測されたドロップフレーム測定値を使用する、を行うためにさらに動作可能である、請求項15に記載の非一時的コンピュータ可読記憶媒体。
- 1つまたは複数のコンピュータプロセッサと、
命令を備える非一時的コンピュータ可読記憶媒体と
を備える装置であって、前記命令は、実行されたとき、
1つまたは複数のビデオがメディアプレーヤにおいてプレイされることに基づいて複数の表現についてのプレイバック情報を受信することと、ここにおいて、前記複数の表現が、前記ビデオのプレイバックに影響を及ぼす少なくとも1つの異なる特性を有する、
前記プレイバック情報に基づいて前記複数の表現についてのドロップフレーム測定値を予測することと、
前記ドロップフレーム測定値を前記複数の表現についてのしきい値と比較することと、
前記比較することに基づいて前記複数の表現の第1のセットを利用可能でないとしてマークすることと、ここにおいて、前記メディアプレーヤがプレイバックのためのビデオを要求し、前記ビデオについての前記複数の表現の前記第1のセットが、前記メディアプレーヤによって要求されるのをブロックされたとき、前記複数の表現の第2のセットが前記メディアプレーヤに与えられる、
を行うために動作可能であるよう前記1つまたは複数のコンピュータプロセッサを制御する、装置。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US16/541,999 | 2019-08-15 | ||
| US16/541,999 US11025987B2 (en) | 2019-08-15 | 2019-08-15 | Prediction-based representation selection in video playback |
| PCT/US2020/045666 WO2021030294A1 (en) | 2019-08-15 | 2020-08-10 | Prediction-based dropped frame handling logic in video playback |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022545623A JP2022545623A (ja) | 2022-10-28 |
| JP7354411B2 true JP7354411B2 (ja) | 2023-10-02 |
Family
ID=74567008
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022507638A Active JP7354411B2 (ja) | 2019-08-15 | 2020-08-10 | ビデオプレイバックにおける予測ベースドロップフレームハンドリング論理 |
Country Status (6)
| Country | Link |
|---|---|
| US (1) | US11025987B2 (ja) |
| EP (1) | EP4014480A4 (ja) |
| JP (1) | JP7354411B2 (ja) |
| KR (1) | KR102791298B1 (ja) |
| BR (1) | BR112022001951A2 (ja) |
| WO (1) | WO2021030294A1 (ja) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11812081B2 (en) | 2020-11-02 | 2023-11-07 | Hulu, LLC | Session based adaptive playback profile decision for video streaming |
| CN113225617A (zh) * | 2021-04-28 | 2021-08-06 | 臻迪科技股份有限公司 | 播放视频处理方法、装置及电子设备 |
| CN114979763A (zh) * | 2022-04-13 | 2022-08-30 | 深圳市有为信息技术发展有限公司 | 视频回放时的播放控制方法和装置、视频回放系统 |
| CN115834975B (zh) * | 2022-11-17 | 2024-05-17 | 中国联合网络通信集团有限公司 | 一种视频传输方法、装置、设备及介质 |
| CN118890526B (zh) * | 2024-09-30 | 2024-12-06 | 浙江大华技术股份有限公司 | 一种数据包丢包预测方法、装置及电子设备 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2016504797A (ja) | 2012-11-13 | 2016-02-12 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | マルチメディアデータの処理 |
| JP2016541213A (ja) | 2013-10-07 | 2016-12-28 | クアルコム,インコーポレイテッド | メディアストリーミングのための改良された要求取消し方法 |
| US20170347159A1 (en) | 2016-05-30 | 2017-11-30 | Samsung Sds Co., Ltd. | Qoe analysis-based video frame management method and apparatus |
| JP2018507660A (ja) | 2014-12-26 | 2018-03-15 | システム73・インコーポレイテッド | デジタルコンテンツのアダプティブ仮想ブロードキャスティングのための方法およびシステム |
| JP2019134379A (ja) | 2018-02-02 | 2019-08-08 | 日本電信電話株式会社 | 品質予測装置、品質予測方法及びプログラム |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7571246B2 (en) * | 2004-07-29 | 2009-08-04 | Microsoft Corporation | Media transrating over a bandwidth-limited network |
| US8392600B2 (en) * | 2009-09-14 | 2013-03-05 | Adobe Systems Incorporated | Dynamic stream switch control |
| US9516084B2 (en) * | 2013-11-01 | 2016-12-06 | Ericsson Ab | System and method for pre-provisioning adaptive bitrate (ABR) assets in a content delivery network |
| KR20160031642A (ko) | 2014-09-12 | 2016-03-23 | 주식회사 구루미디어 | 스트리밍 서비스 서버 및 그의 제어 방법 |
| KR101638509B1 (ko) | 2015-04-14 | 2016-07-12 | 고려대학교 산학협력단 | 모바일 멀티미디어 스트리밍 서비스를 위한 비디오 품질 제어 장치 및 방법 |
| KR20190088380A (ko) | 2018-01-18 | 2019-07-26 | 경북대학교 산학협력단 | 딥 러닝 기반 적응형 멀티미디어 스트리밍 제공방법 및 그 시스템 |
-
2019
- 2019-08-15 US US16/541,999 patent/US11025987B2/en active Active
-
2020
- 2020-08-10 JP JP2022507638A patent/JP7354411B2/ja active Active
- 2020-08-10 BR BR112022001951A patent/BR112022001951A2/pt unknown
- 2020-08-10 WO PCT/US2020/045666 patent/WO2021030294A1/en not_active Ceased
- 2020-08-10 KR KR1020227004965A patent/KR102791298B1/ko active Active
- 2020-08-10 EP EP20853358.8A patent/EP4014480A4/en active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2016504797A (ja) | 2012-11-13 | 2016-02-12 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | マルチメディアデータの処理 |
| JP2016541213A (ja) | 2013-10-07 | 2016-12-28 | クアルコム,インコーポレイテッド | メディアストリーミングのための改良された要求取消し方法 |
| JP2018507660A (ja) | 2014-12-26 | 2018-03-15 | システム73・インコーポレイテッド | デジタルコンテンツのアダプティブ仮想ブロードキャスティングのための方法およびシステム |
| US20170347159A1 (en) | 2016-05-30 | 2017-11-30 | Samsung Sds Co., Ltd. | Qoe analysis-based video frame management method and apparatus |
| JP2019134379A (ja) | 2018-02-02 | 2019-08-08 | 日本電信電話株式会社 | 品質予測装置、品質予測方法及びプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| US20210051368A1 (en) | 2021-02-18 |
| WO2021030294A1 (en) | 2021-02-18 |
| BR112022001951A2 (pt) | 2022-06-21 |
| KR102791298B1 (ko) | 2025-04-03 |
| EP4014480A4 (en) | 2023-09-27 |
| JP2022545623A (ja) | 2022-10-28 |
| EP4014480A1 (en) | 2022-06-22 |
| US11025987B2 (en) | 2021-06-01 |
| KR20220031120A (ko) | 2022-03-11 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7314234B2 (ja) | ビデオに関するプロファイルラダーの適応トランスコーディング | |
| JP7626399B2 (ja) | ビデオストリーミングのためのセッションベースの適応再生プロファイルの決定 | |
| JP7354411B2 (ja) | ビデオプレイバックにおける予測ベースドロップフレームハンドリング論理 | |
| CN116017037B (zh) | 用于自适应比特率算法的动态参数调整的方法和系统 | |
| US10602240B2 (en) | Decoding method switching for preview image processing using a bundle of preview images | |
| US11082741B2 (en) | Dynamic multi-content delivery network selection during video playback | |
| US12114027B2 (en) | Selection of content delivery networks using agents | |
| US20250133254A1 (en) | Cross-period quality smoothing in adaptive bitrate algorithm | |
| US11310516B2 (en) | Adaptive bitrate algorithm with cross-user based viewport prediction for 360-degree video streaming | |
| EP3354033B1 (en) | Dynamic seeking in video delivery systems | |
| JP7848281B2 (ja) | ビデオ品質情報を使用する適応ビットレートストリーミング | |
| US20150128170A1 (en) | Disabling of Multiple Bitrate Algorithm for Media Programs while Playing Advertisements | |
| US11140060B2 (en) | Dynamic variation of media segment durations for optimization of network round trip times | |
| US12526463B2 (en) | Bitrate selection using stored information | |
| CN118101989A (zh) | 基于定时要求的优化视频转码 | |
| US12212798B1 (en) | Cross-period quality smoothing in adaptive bitrate algorithm | |
| JP7651642B2 (ja) | タイミング要件に基づく最適化されたビデオトランスコーディング | |
| US12501087B2 (en) | Adaptive bitrate streaming using video quality information | |
| JP7778758B2 (ja) | エージェントを使用するコンテンツ配信ネットワークの選択 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220318 |
|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20230106 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230317 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230404 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230613 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230822 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230920 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7354411 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |