Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7809138B2 - ディスプレイに最適化された環境光hdrビデオ適応 - Google Patents
[go: Go Back, main page]

JP7809138B2 - ディスプレイに最適化された環境光hdrビデオ適応 - Google Patents

ディスプレイに最適化された環境光hdrビデオ適応

Info

Publication number
JP7809138B2
JP7809138B2 JP2023568027A JP2023568027A JP7809138B2 JP 7809138 B2 JP7809138 B2 JP 7809138B2 JP 2023568027 A JP2023568027 A JP 2023568027A JP 2023568027 A JP2023568027 A JP 2023568027A JP 7809138 B2 JP7809138 B2 JP 7809138B2
Authority
JP
Japan
Prior art keywords
luminance
image
display
luma
maximum
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023568027A
Other languages
English (en)
Other versions
JP2024517242A (ja
JP2024517242A5 (ja
Inventor
ルトガー ナイランド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips NV filed Critical Koninklijke Philips NV
Publication of JP2024517242A publication Critical patent/JP2024517242A/ja
Publication of JP2024517242A5 publication Critical patent/JP2024517242A5/ja
Application granted granted Critical
Publication of JP7809138B2 publication Critical patent/JP7809138B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/92Dynamic range modification of images or parts thereof based on global image properties
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/462Computing operations in or between colour spaces; Colour management systems
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20208High dynamic range [HDR] image processing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Image Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

本発明は、特定の視聴サイトの環境光量の下でHDRビデオを表示する状況に所望の見た目をもたらすために高ダイナミックレンジビデオの画像ピクセル輝度を適応させるための方法及び装置に関する。
数年前に、高ダイナミックレンジ(HDR)ビデオ符号化の新規な技法が、特に出願人によって紹介された(例えば、WO2017157977参照)。
ビデオの符号化は、一般に、画像を表すために、色コード(例えば、ピクセルごとのルマ及び2つのクロマ)を作ること又はより正確に定義することに主として又はただ単に関係する。これは、HDR画像を最適に表示するやり方を知ることとは異なることである(例えば、最も単純な方法は、単に、高度に非線形な光電伝達関数OETFを利用して、所望の輝度を、例えば10ビットルマコードに変換し、逆の場合も同様であり、逆に形成された電光伝達関数EOTFを使用して、10ビット電気ルマコードを、表示されるべき光ピクセル輝度にマッピングすることによって、それらのビデオピクセルルマコードを、表示されるべき輝度に変換するが、より複雑なシステムは、特に、画像の符号化を符号化画像の特定の使用から切り離すことによっていくつかの方向に逸脱する)。
HDRビデオの符号化及び取り扱いは、旧来のビデオ技術の使われ方とは全く対照をなし、旧来のビデオ技術によれば、最近まですべてのビデオが符号化されており、それは、今日では、標準ダイナミックレンジ(SDR)ビデオ符号化(別名、低ダイナミックレンジビデオ符号化;LDR)と呼ばれる。このSDRは、アナログ時代にPAL又はNTSCとして始まり、デジタルビデオ時代にRec.709ベース符号化、例えばMPEG2圧縮に移行した。
20世紀には動画を通信するための満足な技術であったが、20世紀CRTの電子ビーム又は世界的なTLバックライトLCDの物理的限界を超えたディスプレイ技術の進歩が、旧来のディスプレイよりも著しく明るい(及び潜在的にさらにより暗い)ピクセルをもつ画像を示すことを可能にし、それは、そのようなHDR画像を符号化及び作成することができる必要性を主張した。
実際、非常に明るい、場合によってはさらにより暗い画像オブジェクトを様々な理由のためにSDR標準(8ビットRec.709)で符号化できないことから始まり、最初に、それらの輝度範囲の広い色を技術的に表すことができるやり方が発明され、それから、1つずつビデオ技術のすべてのルールが再考され、多くの場合、再発明されなければならなかった。
Rec.709のSDRのルマコード定義は、ほぼ平方根OETF関数形状ルマY_code=power(2,N)*sqrt(L_norm)のために、約1000:1輝度ダイナミックレンジしか符号化する(8又は10ビットルマで)ことができなかった。ここで、Nはルマチャネルのビット数であり、L_normは物理的輝度の0と1との間で正規化されたバージョンである。
さらに、SDR時代には、表示されるべき絶対輝度が定義されておらず、そのため、実際には、最大相対的輝度L_norm_max=100%、又は1は、平方根OETFを介して、例えば、Y_code_max=255に対応する最大正規化ルマコードYn=1にマッピングされた。これは、絶対HDR画像を作ることと比較して、いくつかの技術的な違いを有し、すなわち、200nitとして表示されるように符号化された画像ピクセルは、理想的には(すなわち、可能な場合には)すべてのディスプレイで200nitとして表示され、全く異なる表示輝度として表示されない。相対的パラダイムでは、200nit符号化ピクセル輝度は、より明るいディスプレイ、すなわち、より明るい最大表示可能輝度PL_D(別名、表示最大輝度)をもつディスプレイでは300nitで表示され、例えば、より少ない能力のディスプレイでは100nitで表示される。さらに、絶対符号化は、正規化輝度表現又は正規化3D色域で機能するが、1.0は、例えば、一意的に1000nitを意味することに留意されたい。
ディスプレイにおいて、そのような相対的画像は、通常、ビデオの最も明るい輝度を最も明るい表示可能なピクセル輝度にマッピングすることによって、多少ヒューリスティックに表示された(それは、さらなる輝度マッピングを必要とすることなく、最大ルマY_code_maxによるディスプレイパネルの電気的駆動を介して自動的に行われた)。そのため、200nitPL_Dディスプレイを購入した場合、白は、100nitのPL_Dディスプレイよりも2倍明るく見えるが、目の適応などの要因を考えると、それは、同じSDRビデオ画像をより明るく、よりよく視聴可能な、多少美しいバージョンにすることを除いて、あまり重要でないと考えられた。
慣例的に、今日(絶対フレームワークにおいて)SDRビデオ画像について話す場合、それは、一般に、PL_V=100nitのビデオピーク輝度(例えば、規格に準拠して合意されている)を有し、そのため、本出願では、SDR画像(又はSDRグレーディング)の最高輝度を正確にその値であるか、又はその値のまわりに一般化されていると考える。
本出願におけるグレーディングは、例えば、人間の色グレーダ又はオートマトンによって、所望通りのピクセルが輝度を与えられたアクティビティ又は結果として生じた画像のいずれかを意味するように意図される。画像を見る場合、例えば、画像をデザインする場合、いくつかの画像オブジェクトがあり、理想的には、画像とシーンの全体性も考慮して、そのオブジェクトにとって最適である平均輝度のまわりに広がっている輝度をそれらのオブジェクトのピクセルに与えることを望む。例えば、その画像の最も明るい符号化可能なピクセルが1000nit(画像又はビデオ最高輝度PL_V)であるように利用可能な画像能力を有する場合、あるグレーダは、爆発をパンチが効いたものに見せるために、爆発のピクセルに800nitと1000nitとの間の輝度値に選び、一方、別の映画製作者は、例えば、その瞬間に画像の残りをあまり妨げないように、500nitよりも明るくない爆発を選ぶ(当然、技術は、両方の状況を扱うことができる)。
HDR画像又はビデオの最大輝度は、かなり変動し、一般に、HDRビデオ又は画像に関するメタデータとして画像データと共同通信される(典型的な値は、例えば1000nit、又は4000nit、又は10,000nitであり、非限定的である;一般に、PL_Vが少なくとも600nitであるとき、HDR画像を有すると言う)。ビデオ作成者がPL_V=4000nitとして画像を定義することを選択する場合、ビデオ作成者は、当然、より明るい爆発を作成することを選択することができるが、相対的に、それは、PL_Vの100%レベルに達するのではなく、例えば、シーンのそのような高いPL_V定義に対して50%までしか達しない。
HDRディスプレイは、最大能力、すなわち、(下端のHDRディスプレイから始めて)例えば600nit、又は1000nit、又は1000nitのN倍の最高表示可能ピクセル輝度を有する。そのディスプレイの最大(又はピーク)輝度PL_Dは、ビデオの最大輝度PL_Vとは別のものであり、それらの2つは混同されるべきではない。ビデオ作成者は、一般に、各々の可能なエンドユーザディスプレイに対して最適なビデオを作ることができない(すなわち、エンドユーザディスプレイの能力は、ビデオによって最適に使用され、ビデオの最大輝度はディスプレイの最大輝度を決して超えない(理想的には)が、それより低くもない、すなわち、ビデオ画像のうちのいくつかにはピクセル輝度L_p=PL_Vを有する少なくともいくつかのピクセルがあるはずであり、それは、特定のディスプレイへの連続的な最適化では、PL_V=PL_Dをさらに含むことになる)。
作成者は、自身の決定のいくつか(例えば、どの種類のコンテンツをどのやり方でキャプチャするか)を行い、一般に、PL_Vをもつビデオを非常に高くして、少なくとも、現在、さらに多分将来、より高いPL_Dディスプレイが現われたとき、意図した視聴者の最も高いPL_Dディスプレイにサービスを提供する。
次いで、ピーク輝度PL_Vをもつ画像を、より低い(しばしば非常に低い)ディスプレイピーク輝度PL_Dをもつディスプレイにどのように最良に表示するかという二次的な問題が現われ、それは、ディスプレイ適応と呼ばれる。将来においてさえ、通信媒体を介して受け取られる、作成された例えば2000nitのPL_V画像よりも低いダイナミックレンジ画像を必要とするディスプレイが依然として存在するであろう。理論的には、ディスプレイは、常に、画像ピクセルの輝度がそれ自体の内部ヒューリスティックスによって表示可能になるように画像ピクセルの輝度を再グレーディングする、すなわちマッピングするが、ビデオ作成者がピクセル輝度を決定する際に十分に注意している場合、ビデオ作成者が、さらに、画像をより低いPL_D値にどのように表示適応させるべきかを示すことができ、理想的には、ディスプレイが技術的に必要なものにかなりの程度従うことは有益である。
最も暗い表示可能ピクセル輝度BL_Dに関しては、状況はより複雑である。その一部は、例えばLCDセル漏れ光のようなディスプレイの固定された物理的特性であるが、最良のディスプレイでさえも、視聴者が最終的に異なる最も暗い黒として識別できるものは、十分に定義された値ではない視聴室の照明にも依存する。この照明は、例えばlux単位の平均照度レベルとして特徴づけられるが、ビデオ表示目的では、より手際よく最小ピクセル輝度として特徴づけられる。これはまた、一般に、明るい輝度又は中程度の輝度の見た目よりも強く人間の目に関連する。その理由は、人間の目が多くの高い明度のピクセルを見ている場合、より暗いピクセル、特にその絶対輝度は、それほど関連しなくなるからである。しかし、例えば、概して暗いシーン画像を見ているが、依然としてディスプレイ画面の前面の周囲光によってマスクされている場合、目は制限要因でないと仮定することができる。人間が2%ちょうどの顕著な差を見ることができると仮定する場合、最も暗い駆動レベル(又はルマ)bがあり、それより上では、次の暗いルマレベル(すなわち、表示輝度がX%高い、例えば、2%多い輝度レベルを表示する)を依然として見ることができる。
LDR時代には、最も暗いピクセルについて全く関心がなかった。主として、最大PL_V=100nitの約1/4の平均輝度について関心があった。画像がこの値の近くで露出された場合、シーン内のすべては、最大100%を超えたシーンの明るい部分のクリッピングを除いて、きれいに明るくカラフルに見えた。シーンの最も暗い部分について、それが十分に重要である場合、レコーディングスタジオ又は撮影環境において十分な量のベース照明を用いてキャプチャ画像が作成された。シーンの一部がよく見えなかった場合、例えば、それはコードY=0に埋もれたので、それは正常であると考えられた。
それゆえ、さらに何も指定されない場合、最も黒い黒はゼロ、又は実際には0.1nit若しくは0.01nitのようなものであると仮定する。そのような状況では、技術者は、符号化及び/又は表示されたHDR画像内の平均よりも明るいピクセルにより多く関心がある。
符号化に関して、HDRとSDRとの間の差は、物理的な差(より大きいダイナミックレンジ能力のディスプレイで表示され得るより多くの異なるピクセル輝度)だけでなく、さらに、異なるルマコード割り当て関数(それにはOETFを使用する、又は絶対法ではEOTFの逆数を使用する)を含む技術的な差、潜在的に、さらに、例えば、開始画像ダイナミックレンジとは異なる二次ダイナミックレンジ(2つの輝度レンジは、一般に、少なくとも1.5倍異なるピーク輝度で終了する)の画像を取得するために様々な画像オブジェクトのピクセル輝度を再グレーディングするやり方を指定する、追加の動的に(画像ごとに、又は時間的に連続する画像のセットごとに)変化するメタデータなどのようなさらなる技術的なHDR概念である。
単純なHDRコーデックのHDR10コーデックが市場に導入され、それは、例えば、最近登場したブラックジュエルボックスHDRブルーレイを作成するために使用される。このHDR10ビデオコーデックは、OETF(逆EOTF)として平方根よりも対数形状の関数、すなわち、SMPTE2084で標準化されているいわゆる知覚量子化器(PQ)関数を使用する。Rec.709OETFのように1000:1に限定される代わりに、このPQ OETFは、実用的なHDRビデオ製造に十分であるさらに多くの(理想的には表示されるべき)輝度、すなわち、1/10,000nitと10,000のnitとの間の輝度で、ルマを定義することを可能にする。
読者は、HDRを、ルマコード語における大量のビットと単純に混同すべきでないことに留意されたい。それは、アナログ-デジタル変換器のビットの量のような線形システムに当てはまり、実際は、ビットの量は、ダイナミックレンジの底2の対数に従う。しかしながら、コード割り当て関数はかなり非線形な形状を有するので、理論的には、どのように望んでも、10ビットルマのみでHDR画像(さらに、色成分あたり8ビットHDR画像)を定義することができ、それは、既に配備されたシステムの再利用の利点をもたらす(例えば、ICは、特定のビット深度、又はビデオケーブル、などを有することができる)。
ルマの計算の後、ピクセルルマY_codeの10ビットプレーンを有することができ、これに、ピクセルあたり2つのクロミナンス成分Cb及びCrが、クロミナンスピクセルプレーンとして加えられる。この画像は、数学的に、例えば、MPEG-HEVC圧縮などされたSDR画像である「かのように」、古典的にさらに完全に処理される。コンプレッサは、実際には、ピクセル色又は輝度を気にかける必要はない。
しかし、受信装置、例えば、ディスプレイ(又は実際にはそのデコーダ)は、一般に、{Y,Cb,Cr}ピクセル色の正しい色解釈を行って、例えば退色した色を有する画像ではなく、正しく見える画像を表示する必要がある。
これは、通常、3つのピクセル化色成分プレーンとともにさらなる画像定義メタデータを共同通信することによって処理され、それは、どのEOTFが使用されるかの指示(それについて、限定することなく、PQ EOTF(又はOETF)が使用されたと仮定する)、及びPL_V値、などのような画像符号化を定義する。
より洗練されたコーデックは、さらなる画像定義メタデータ、例えば取り扱いメタデータ、例えば、PL_V=1000nitまでの第1の画像の輝度の正規化されたバージョンを、二次基準画像、例えば、PL_V=100nitのSDR基準画像の正規化された輝度にマッピングするやり方を指定する関数を含む(図2でより詳細に説明するように)。
HDRについて知識がそれほど豊富でない読者の理解の便宜のために、図1においていくつかの興味深い態様を手早く説明する。図1は、将来のHDRシステム(例えば、1000nitのPL_Dディスプレイに接続される)が正しく処理できる必要がある、多くのあり得るHDRシーンのいくつかの典型的な例示的な例を示す。ピクセル色の実際の技術的な処理は、様々な色空間定義において様々なやり方で行われるが、再グレーディングで必要なものは、異なるダイナミックレンジにまたがる輝度軸間の絶対輝度マッピングとして示される。
例えば、ImSCN1は、大部分が明るい区域である西部劇映画からの晴れた屋外の画像である。まず誤解すべきでないことは、いかなる画像のピクセル輝度も一般に現実世界で実際に測定することができる輝度ではないことである。
出力HDR画像(スタータ画像として機能し、マスタHDRグレーディング又は画像と呼ぶ)の作成中に人間のさらなる関与がないとしても、どれほど簡単であろうとも、1つのパラメータを微調整することによって、カメラは、絞りがあるので、少なくとも常に画像センサで相対的輝度を測定する。そのため、マスタHDR画像の利用可能な符号化輝度範囲において、少なくとも最も明るい画像ピクセルが最後に行き着くところには常に何らかのステップが関与している。
例えば、保安官の星形バッジでの太陽の鏡面反射を現実世界では100,000nitを超えると測定することがあるが、それは、典型的な近未来のディスプレイで表示することはできないし、例えば夕方の薄暗い部屋で映画の画像を見ている視聴者とって快適でもない。代わりに、ビデオ作成者は、5000nitがバッジのピクセルに対して十分に明るいと決定し、したがって、このピクセルが映画における最も明るいピクセルとする場合、ビデオ作成者は、PL_V=5000nitのビデオを作るように決定する。マスタHDRグレーディングのRAWバージョンのためのみの相対的ピクセル輝度測定デバイスであるが、カメラはまた、良好な画像を作るために、十分に高いネイティブダイナミックレンジ(全ピクセルがノイズフロアを十分に超える)を有するべきである。グレーディングされた5000nit画像のピクセルは、一般に、カメラがキャプチャしたRAW画像から非線形的に導き出され、例えば、色グレーダは、実際の撮影場所、すなわち、暑い砂漠に立っているときと同じではない典型的な視聴状況などの態様を考慮に入れる。このシーンImSCN1を生み出すために選択した最良の(最も高いPL_V)画像、すなわち、この例では、5000nit画像は、マスタHDRグレーディングである。これは、作成及び通信されるべき最小限必要とされるHDRデータであるが、すべてのコーデックにおいて、通信される唯一のデータではなく、又はいくつかのコーデックでは、全く通信される画像でさえない。
そのような符号化可能な高輝度範囲DR_1、例えば0.001nitと5000nitとの間を利用可能にすると、視聴者が、同様に、対応するハイエンドPL_D=5000nitディスプレイを有することを前提として、コンテンツメーカは、視聴者に明るい外見のより良好な経験を提供するが、さらに、当然、より薄暗い夜景のより良好な経験を提供する(映画の全体にわたって十分にグレーディングされているとき)ことを可能にする。優れたHDR映画は、1つの画像だけでなく、映画のストーリー又は一般的に作成されたビデオ素材(例えば、十分に設計されたHDRサッカープログラム)において経時的にも、様々な画像オブジェクトの輝度の平衡を保つ。
図1の左端の縦軸には、理想的には5000nitのPL_Dディスプレイのために意図された、5000nitのPL_VマスタHDRグレーディングで見たいいくつかの(平均)オブジェクト輝度が示されている。例えば、映画では、ある作成者は、約500nitのピクセル輝度を有する明るい日に照らされたカウボーイを示すことを望む場合があり(すなわち、一般にLDRよりも10倍明るいが、別の作成者は若干少ないHDRパンチ、例えば300nitを望む場合がある)、それにより、作成者によってこの西部劇の画像を表示するための最良のやり方が構成され、それは、可能な最良の見た目を最終消費者に与える。
輝度のより高いダイナミックレンジの必要性は、同じ画像内に、洞窟の画像ImSCN3の暗い隅などのかなり暗い領域があるが、さらに、洞窟の入口から見える日の照らされた外界のような非常に明るいピクセルの比較的に大きい区域がある画像について考えることによってより容易に理解される。それは、例えば、街灯のみが高い輝度のピクセル領域を含むImSCN2の夜間画像とは異なる視覚的経験を作成する。
現在、問題は、現時点で、依然として、多くの消費者がLDRディスプレイを有しており、将来においてさえも、典型的な唯一のHDR画像自体の符号化の代わり、映画の2つのグレーディングを作る十分な理由があるので、マスタHDR画像に最適に対応するPL_V_SDR=100nitのSDR画像を定義することができる必要があることである。これは技術的な要望で有り、それは符号化自体に関する技術的選択とは別のものであり、それは、例えば、マスタHDR画像及びこの二次画像のうちの一方を他方のものから作成する(反転して)やり方を知っている場合、対のどちらか一方を符号化及び通信することを選択することができる(1つの価格で2つの画像を効果的に通信する、すなわち、ビデオ時刻ごとにピクセル色成分プレーンの1つの画像のみを通信する)ことを明示している。
そのような縮小されたダイナミックレンジの画像では、当然、実際に明るい太陽のような5000nitピクセル輝度オブジェクトを定義することはできない。最小のピクセル輝度又は最も深い黒はまた、より好ましい0.001nitではなく、0.1nitの高さである。
そのため、とにかく、縮小された輝度ダイナミックレンジDR_2を有するこの対応するSDR画像を作ることができるはずである。
これは、受信側ディスプレイにおける何らかの自動アルゴリズムによって行われ、例えば、固定輝度マッピング関数を使用するか、又は、多分、PL_V_HDR値のような単純なメタデータ及び潜在的に1つ又は複数の他の輝度値によって条件付けされたものを使用する。
しかしながら、一般に、より複雑な輝度マッピングアルゴリズムが使用されてもよいが、本出願では、一般性を損うことなく、マッピングは、少なくとも1つの画像について、第1の画像で発生する可能性のあるすべての輝度(すなわち、例えば、0.0001~5000)が、第2の出力画像の対応する輝度(例えば、SDR出力画像では0.1~100nit)にどのようにマッピングされるべきかを定義するグローバル輝度マッピング関数F_L(例えば、画像ごとに1つの関数)によって定義されると仮定する。正規化関数は、両方の軸に沿った輝度を、それぞれの最大値で除算することによって得られる。この文脈におけるグローバルとは、例えば画像内の位置のようなさらなる条件に関係なく、同じ関数が画像のすべてのピクセルに使用されることを意味する(より一般的なアルゴリズムは、例えば、ある基準に従って分類可能なピクセルのためのいくつかの関数を使用する)。
理想的には、すべての輝度が二次画像のSDR画像の利用可能な範囲に沿ってどのように再分配されるべきかは、ビデオ作成者によって決定されるべきである。その理由は、制限がある場合、SDR画像が、依然として、意図されたマスタHDR画像のように少なくとも可能な限り良好に見えるように、ビデオ作成者が、縮小されたダイナミックレンジに対してサブ最適化するやり方をよく知っているからである。そのようなオブジェクト輝度を実際に定義する(位置決めする)ことは、輝度マッピング関数F_Lの形状を定義することに対応することを読者は理解することができ、その詳細は、本出願を超えている。
理想的には、関数の形状はまた、異なるシーンごとに、すなわち、映画における洞窟シーン対少し後の晴天の西部劇シーンで、又は一般的に時間的な画像ごとに変化すべきである。これはダイナミックメタデータ(F_L(t)、ここで、tは画像時刻を示す)と呼ばれる。
ここで、理想的には、コンテンツ作成者は、状況ごとに、すなわち、潜在的にサービスされるエンドユーザディスプレイ、例えば、対応するPL_V_MDR=800nit画像を必要とするPL_D_MDR=800nitのディスプレイごとに、最適な画像を作ることになるが、それは、一般に、最も高価なオフラインビデオ作成においてさえ、コンテンツ作成者にとってあまりにも大きい労力である。
しかしながら、シーンの2つの異なるダイナミックレンジ基準グレーディング(のみ)(一般に、極端な端部において、例えば、5000nitが最も高い必要なPL_Vであり、100nitが一般に最も低い必要とされるPL_Vとして十分である)を作れば十分であることが出願人によって以前に実証されている。その理由は、そのとき、例えば、2つのグレーディングの情報を受け取るエンドユーザのディスプレイに適用される(一般に、固定された、例えば、標準化された)ディスプレイ適応アルゴリズムを介して、それらの2つの基準グレーディング(HDR及びSDR)からすべての他方のグレーディングを自動的に導き出せるからである。一般に、その計算は、任意のビデオ受信機、例えば、セットトップボックス、テレビ、コンピュータ、映画機器、などで行われる。HDR画像の通信チャネルはまた、任意の通信技術、例えば、地上放送又はケーブル放送、ブルーレイディスクのような物理媒体、インターネット、ポータブルデバイスへの通信チャンネル、プロフェショナルインターサイト間ビデオ通信、などである。
このディスプレイ適応は、一般に、輝度マッピング関数を、例えばマスタHDR画像のピクセル輝度にも適用する。しかし、ディスプレイ適応アルゴリズムは、F_L_5000to100(2つの基準グレーディングの輝度を接続する基準輝度マッピング関数である)とは異なる輝度マッピング関数、すなわち、ディスプレイ適応輝度マッピング関数FL_DAを決定する必要があり、それは、2つの基準グレーディングF_L間の元のマッピング関数と必ずしも自明に関連するわけではない(ディスプレイ適応アルゴリズムのいくつかの変形がある)。5000nitのPL_Vダイナミックレンジで定義されたマスタ輝度と、800nit中間ダイナミックレンジとの間の輝度マッピング関数は、この本文では、F_L_5000to800と書かれる。
F_L_5000to100関数が、800nitのMDR画像輝度範囲を横切ると「素朴に」予想する場所にマッピングするのではなく、例えば、若干高い場所にマッピングする(すなわち、そのような画像では、カウボーイは、少なくとも、選ばれたディスプレイ適応アルゴリズムに従ってわずかに明るくなければならない)ディスプレイ適応を、象徴的に(平均オブジェクトピクセル輝度のうちの1つについてのみ)矢印によって示した。そのため、いくつかのより複雑なディスプレイ適応アルゴリズムは、指示されたより高い位置にカウボーイを配置することができるが、ある顧客は、500nitのHDRのカウボーイと18nitのSDRカウボーイと間の接続が、800nitのPL_V輝度範囲を横切るより単純な位置で満足する。
一般に、ディスプレイ適応アルゴリズムは、元の輝度マッピング関数F_L(又は基準輝度マッピング関数、別名、基準再グレーディング関数)の形状に基づいて、ディスプレイ適応輝度マッピング関数FL_DAの形状を計算する。
この図1に基づく説明は、任意のHDRビデオ符号化及び/又は処理システムの技術的に必要なものを構成しており、図2には、本出願人のコーデック手法に従って、必要なもの(非限定的)を実現するためのいくつかの例示的な技術システム及びその構成要素を示す。これらの構成要素が様々なデバイスなどで具現化されることは当業者によって理解されるであろう。この例は、単に、動作のいくつかの原理の背景を理解するために、様々なHDRコーデックフレームワークについて全体を代表する部分として提示されており、以下で提示される革新的な寄与の実施形態のうちのいずれかを特に限定するように意図されていないことを当業者は理解するであろう。
可能ではあるが、時刻ごとの2つの実際の異なる画像の技術的な通信(HDR及びSDRグレーディングが、各々、それぞれの3つの色プレーンとして通信される)は、とりわけ、必要とされるデータ量に関して高価である。
また、それは、すべての対応する二次画像ピクセル輝度が一次画像及び関数F_Lの輝度に基づいて計算されることが分かっている場合、メタデータとして時刻ごとに一次画像及び関数F_Lのみを通信するように決定することができる(及びマスタHDR又はSDR画像のいずれかを両方の代表として通信するように選択することができる)ので、必要ではない。受信器は、(一般に固定された)ディスプレイ適応アルゴリズムを知っているので、このデータに基づいて、受信器の端部でFL_DA関数を決定する(ディスプレイ適応を制御又は誘導するさらなるメタデータが、通信されることがあるが、現在配置されていない)。
時刻ごとの唯一の画像及び関数F_Lを通信する2つのモードがある。
第1の後方互換モードでは、SDR画像を通信する(「SDR通信モード」)。そのSDR画像は、旧来のSDRディスプレイで直接(さらなる輝度マッピングを必要とすることなく)表示されるが、HDRディスプレイは、SDR画像からHDR画像(又はその逆、関数のどの変形が通信されるか、すなわち、アップグレーディング又はダウングレーディングに応じて)を得るためにF_L又はFL_DA関数を適用する必要がある。関心のある読者は、以下において標準化された本出願人の例示的な第1のモードの手法のすべての詳細を見いだすことができる。
ETSI TS 103 433-1 V1.2.1 (2017-08): High-Performance Single Layer High Dynamic Range System for use in Consumer Electronics devices; Part 1: Directly Standard Dynamic Range (SDR) Compatible HDR System (SL-HDR1).
別のモードは、マスタHDR画像自体(「HDR通信モード」)、すなわち、例えば5000nit画像と、それから100nitSDR画像(又はディスプレイ適応を介した任意の他のより低いダイナミックレンジ画像)を計算することを可能にする関数F_Lを通信する。マスタHDR通信画像自体は、例えば、PQ EOTFを使用することによって符号化される。
図2は、さらに、全ビデオ通信システムを示す。送信側において、画像のソース201から始まる。例えばインターネット配信会社からのオフライン作成のビデオ、又は現実の放送であるかに応じて、これは、ハードディスクから、例えばテレビジョンスタジオからのケーブル出力、などまで及ぶ任意のものである。
これにより、例えば、人間の色グレーダによって色グレーディングされた、カメラキャプチャの陰影付きバージョンの、又は自動輝度再分配アルゴリズムによる、などのマスタHDRビデオ(MAST_HDR)がもたらされる。
マスタHDR画像のグレーディングに加えて、しばしば可逆的な色変換関数F_ctのセットが定義される。一般化を失うつもりはなく、これが少なくとも1つの輝度マッピング関数F_Lを含むと仮定する(しかしながら、例えば、ピクセルの彩度がHDRからSDRグレーディングにどのように変化すべきかを指定するさらなる関数及びデータが存在してもよい)。
この輝度マッピング関数は、上述のように、HDR基準グレーディングとSDR基準グレーディングとの間のマッピングを定義する(図2における後者は、受信機に通信されるべきSDR画像Im_SDRである;それは、例えばMPEG又は他の画像圧縮アルゴリズムを介してデータ圧縮されているか又はそうでない)
色変換器220の色マッピングを、マスタHDRビデオを取得するために生のカメラフィードに適用されたものと混同すべきではなく、マスタHDRビデオはここでは既に入力されていると仮定されている。その理由は、この色変換が、通信されるべき画像を取得するためものであり、同時に、輝度マッピング関数F_Lで技術的に定式化されているように再グレーディングに必要なものを取得するためのものであるからである。
例示的なSDR通信タイプ(すなわち、SDR通信モード)では、マスタHDR画像は、出力画像Im_SDRに書き込まれるすべての対応する輝度を取得するためにF_L輝度マッピングをマスタHDR画像(MAST_HDR)の輝度に適用するように構成された色変換器202に入力される。説明のために、この関数の形状が、人間の色グレーダによって色グレーディングソフトウェアを使用して映画の同様のシーンの画像のショットごとに微調整されると仮定しよう。適用される関数F_ct(すなわち、少なくともF_L)は、画像と共同通信されるべき(ダイナミックな、処理する)メタデータに、例示のMPEGの補足強化情報データSEI(F_ct)に、又は他の標準化された若しくは標準化されていない通信方法における同様のメタデータ機構に書き込まれる。
通信されるべきHDR画像を対応するSDR画像Im_SDRとして正しく再定義した後、それらの画像は、多くの場合、既存の画像圧縮技法(例えば、MPEG HEVC、VVC、又はAV1、など)を使用して圧縮される(少なくとも、例えば、エンドユーザにブロードキャストするために)。これは、ビデオエンコーダ221(さらには、様々な形態のビデオ作成装置又はシステムに含まれる)の一部を形成するビデオ圧縮器203で実行される。
圧縮画像Im_CODは、何らかの画像通信媒体205によって少なくとも1つの受信機に送信される(例えば、例えばATSC3.0、又はDVB、などに従った衛星、ケーブル、又はインターネット送信;しかし、HDRビデオ信号はまた、例えば、2つのビデオ処理装置間のケーブルによって通信されてもよい)。
一般に、通信の前に、さらなる変換が、送信フォーマッタ204によって行われ、送信フォーマッタ204は、システムに応じて、例えばパケット化、変調、伝送プロトコル制御、などの技法を適用する。これは、一般に、集積回路を適用する。
受信サイトにおいて、対応するビデオ信号アンフォーマッタ206は、例えば圧縮HEVC画像のセット(すなわち、HEVC画像データ)として再取得するための必要なアンフォーマッティング方法、例えば、復調、などを適用する。
ビデオ圧縮解除器207は、ピクセル化された圧縮解除画像Im_USDRのストリームを取得するために、例えばHEVC圧縮解除を行う。ピクセル化された圧縮解除画像Im_USDRは、この例ではSDR画像であるが、他のモードではHDR画像である。ビデオ圧縮解除器はまた、例えばSEIメッセージから必要な輝度マッピング関数F_L、又は一般に色変換関数F_ctをアンパックする。
画像及び関数は、(デコーダ)色変換器208に入力され、(デコーダ)色変換器208は、SDR画像を非SDRダイナミックレンジの(すなわち、100nitよりも高い、一般に少なくとも数倍高い、例えば5倍高いPL_Vの)画像に変換するように構成される。
例えば、5000nitの再構築されたHDR画像Im_RHDRは、MAST_HDRからIm_LDRを作るために符号化側で使用された色変換F_ctの逆色変換IF_ctを適用することによって、マスタHDR画像(MAST_HDR)に非常に近いものとして再構築される。次いで、この画像は、例えば、さらなるディスプレイ適応のためにディスプレイ210に送られるが、ディスプレイ適応された画像Im_DA_MDRを作ることはまた、復号化中に、色変換器においてF_L関数の代わりにFL_DA関数(オフラインループで、例えばファームウェアで決定される)を使用することによって、1回で行われる。そのため、色変換器は、FL_DA関数を導き出すためにディスプレイ適応ユニット209をさらに含む。
最適化された、例えば800nitのディスプレイ適応画像Im_DA_MDRは、ビデオデコーダ220が、例えばセットトップボックス又はコンピュータなどに含まれる場合、例えばディスプレイ210に送られ、又はデコーダが、例えば携帯電話に存在する場合、ディスプレイパネルに送信され、又はデコーダが、例えばインターネット接続サーバに存在する場合、映画劇場プロジェクタに通信される、などである。
図3は、HDRデコーダ(又はエンコーダ、これは、概して一般に同じトポロジを有するが、逆関数を使用し、一般にはディスプレイ適応を含まない)の色変換器300の内部処理の有用な変形、すなわち、図2の208に対応するものを示す。
ピクセル、この例では、SDR画像ピクセルの輝度は、対応するルマY’SDRとして入力される。クロミナンス、別名、クロマ成分Cb及びCrは、色変換器300の下位処理経路に入力される。
ルマY’SDRは、輝度マッピング回路310によって、必要とされる出力輝度L’_HDR(例えば、マスタHDR再構成輝度、又は何か他のHDR画像輝度)にマッピングされる。それは、メタデータと共同通信される基準輝度マッピング関数F_L(t)を入力として使用するディスプレイ適応関数計算機350から取得されるような特定の画像及び最大の表示輝度PL_Dのための適切な関数、例えばディスプレイ適応輝度マッピング関数FL_DA(t)を適用する。ディスプレイ適応関数計算機350はまた、クロミナンスを処理するための適切な関数を決定する。さしあたり、各々の可能な入力画像ピクセルルマYに対する乗算係数mC[Y]のセットが、例えば色LUT301に格納されていると単に仮定する。色処理の正確な性質は異なることがある。例えば、最初に、入力ルマ(色LUTにおける対応する双曲線)によってクロミナンスを正規化し、次いで、出力ルマを補正することによって、ピクセル彩度を一定に保持したいことがあるが、微分彩度処理が同様に使用されてもよい。両方のクロミナンスが同じ乗数で乗算されるので、色相は一般に維持される。現在色変換されている(輝度マッピングされている)ピクセルYのルマ値で色LUT301にインデックスを付けると、必要とされる乗法係数mCがLUT出力として生じる。この乗法係数mCは、乗算器302によって使用されて、それに現在のピクセルの2つのクロミナンス値が乗算され、すなわち、色変換された出力クロミナンスがもたらされる。
Cbo=mC*Cb
Cro=mC*Cr
標準測色計算を適用する固定色マトリクス化プロセッサ303を介して、クロミナンスは、明度欠落正規化非線形R’G’B座標R’/L’、G’/L’、及びB’/L’に変換される。
適切な輝度を出力画像に与えるR’G’B’座標は、乗算器311によって取得され、乗算器311は、
R’_HDR=(R’/L’)*L’_HDR,
G’_HDR=(G’/L’)*L’_HDR,
B’_HDR=(B’/L’)*L’_HDR
を計算し、それらは、色トリプレットR’G’B’_HDRにまとめられる。
最後に、ディスプレイマッピング回路320によって、ディスプレイで必要とされるフォーマットへのさらなるマッピングが行われる。これは、ディスプレイ駆動色D_Cをもたらし、ディスプレイ駆動色D_Cは、ディスプレイによって望まれる測色(例えば、HLG OEFTフォーマットでさえも)に定式化されるだけでなく、さらに、このディスプレイマッピング回路320は、いくつかの変形において、ディスプレイのためのいくつかの特定の色処理を行うように構成される、すなわち、例えば、ピクセル輝度の一部をさらに再マッピングする。
作成側グレーダが決定したあり得るF_L関数に対して対応するFL_DA関数を導き出すためのいくつかの適切なディスプレイ適応アルゴリズムを説明するいくつかの例が、WO2016/091406又はETSIのTS 103 433-2 V1.1.1(2018-01)に教示されている。
しかしながら、それらのアルゴリズムは、エンドユーザのディスプレイにおける最小の表示可能な黒に関してあまり考慮していない。
実際、それらのアルゴリズムは最小輝度BL_Dがゼロであると言えるほど十分に小さいふりをしていると言える。それゆえに、ディスプレイ適応は、ビデオの最大輝度PL_Vと比較して、様々なディスプレイの最大輝度PL_Dの差に主として対処している。
先行出願WO2016/091406の第18番目の図面に見られるように、任意の入力関数(説明例では、2つの線形セグメントから形成された単純な関数)は、典型的には1.0の入出力輝度に正規化されたプロットにおいて、入力輝度の横軸から135度の角度に沿って位置づけられたメトリックに基づいて、対角線に向けてスケーリングされる。これは、ディスプレイ適応アルゴリズムの全種類のディスプレイ適応の一例にすぎず、それは、発明者らの新規のディスプレイ適応の概念の適用可能性を限定することを意図して述べられておらず、例えば、特に、メトリック方向の角度は他の値を有してもよいことを理解されたい。
しかし、このメトリック、及び再形成されたF_L関数、すなわち、決定されたFL_DA関数への作用は、最適に再グレーディングされた中間ダイナミックレンジ画像で供給されるべきディスプレイの最大輝度PL_V及びPL_Dにのみ依存する。例えば、5000nitの位置は、対角線に配置されたゼロメトリック点に対応し(入力画像における可能なピクセル輝度に対応する対角線に沿って位置する任意の場所に対して)、100nit位置(PBEとマークされた)は元のF_L関数の点である。
この方法の有用な変形としてのディスプレイ適応が、可能な正規化入力輝度Ln_in対正規化出力輝度Ln_out(これは、正規化輝度に関連するディスプレイの最大輝度と乗算することによって実際の輝度、すなわち、PL_V値に変換される)のプロット上にその作用を示すことによって、図4に要約されている。
例えば、ビデオ作成者は、図1で説明したように、2つの基準グレーディング間の輝度マッピング戦略を設計している。それゆえ、入力画像、例えばマスタHDR画像におけるピクセルの可能な正規化輝度Ln_inについて、この正規化入力輝度は、出力画像である第2の基準グレーディングの正規化出力輝度Ln_outにマッピングされなければならない。すべての輝度のこの再グレーディングは、ある関数F_Lに対応し、ある関数F_Lは、人間のグレーダ又はグレーディングオートマトンによって決定される多くの異なる形状を有し、この関数の形状は、ダイナミックメタデータとして共同通信される。
問題は、今では、この単純なディスプレイ適応プロトコルにおいて、中間ダイナミックレンジディスプレイのためのMDR画像に(基準SDR画像の代わりに)マッピングする(マッピングは入力画像としてHDR基準グレーディング画像から再度開始すると仮定する)ために、F_L関数の派生した二次バージョンがどのような形状を有するべきかである。例えば、メトリックに基づいて以下のように計算することができ、例えば800nitディスプレイはグレーディング効果の50%を有するべきであり、完全な100%はマスタHDR画像の100nitのPL_V SDR画像への再グレーディングである。一般に、メトリックを介して、ディスプレイ適応輝度L_P_nとして表されるピクセルの可能な正規化入力輝度(Ln_in_pix)について、第2の基準画像への再グレーディングなしと完全な再グレーディングとの間の任意の点を決定し、その場所は、当然、入力正規化輝度に依存するが、出力画像に関連する最大輝度(PL_V_out)の値にも依存する。当業者は、正規化輝度表現で関数を表すことができるが、任意のOETFに従って定義された任意の正規化ルマ表現で関数を同等に表すことができることを理解する。
対応するディスプレイ適応輝度マッピングFL_DAは以下のように決定される(図4a参照)。すべての入力輝度のうちの任意の1つ、例えば、Ln_in_pixを取る。これは、正規化輝度の入出力軸に対して等しい角度を有する対角線上の開始位置(正方形として示された)に対応する。対角線に対して垂直であり(又は入力軸から反時計回りに135度であり)、対角線で始まり、F_L曲線上の点(100%レベルで)、すなわち、F_L曲線と、垂直にスケーリングされたメトリックSMとの交点(五角形で示された)で終るように対角線上の各点についてメトリックのスケーリングされたバージョン(スケーリングされたメトリックSM)を配置する。(この例では、画像が計算されなければならないディスプレイのこのPL_D値について)メトリックの50%レベル、すなわち中間に点を配置する[この場合、出力画像のPL_V値は、ディスプレイ最適化された画像が供給される必要があるディスプレイのPL_D値に等しく設定されることに留意されたい]。すべてのLn_in値に対応する対角線上のすべての点に対してこれを行うことによって、FL_DA曲線が得られ、それは、元のものと同様に形成される、すなわち、同じ再グレーディングを行うが、最大輝度再スケーリング/調節される。この関数は、今では、Ln_inの任意の入力HDR輝度値が与えられると、必要とされる対応する最適に再グレーディング及び/又はディスプレイ適応された800nitのPL_Vピクセル輝度を計算するために適用する準備ができている。この関数FL_DAは、輝度マッピング回路310によって適用される。
一般に、このディスプレイ適応の特性は、以下の通りである(特にさらに限定するように意図されてない)。メトリックの方向は、技術的に所望されるように事前に固定されてもよい。図4bは、別のスケーリングメトリック、すなわち、垂直方向スケーリングメトリックSMV(すなわち、正規化入力輝度Ln_inの軸に垂直な)を示す。再び、0%及び100%(又は1.0)は、それぞれ、再グレーディングなし(すなわち、入力画像輝度に対する恒等変換)と、2つの基準グレーディング画像のうちの第2のものへの再グレーディング(この例では、異なる形状の輝度マッピング関数F_L2によって関連づけられる)とに対応する。
メトリック上の測定点の位置、すなわち、10%、20%などの値が位置する場所は、さらに、技術的に変更されるが、一般に、非線形である。
それは、技術的に、例えばテレビジョンディスプレイに、予め設計される。例えば、WO2015007505に記載されているような関数が使用される。a*(log(PL_V)+b)が、PL_V_HDR値の1.0(例えば、5000nit)に等しく、0.0点が、100nitのPL_V_SDR基準レベルに対応するように、又はその逆も同様に、対数関数を設計することもできる。次いで、画像輝度を計算する必要があるPL_V_MDRの位置は、メトリックの設計済み数学から得られる。
そのようなメトリックの作用が、図5に要約される。
ディスプレイ適応回路510は、例えば、テレビジョン、又はセットトップボックス、などにおいて、構成プロセッサ511を含む。それは、画像の実行ピクセル色が処理されるようになる前に、その画像の処理のための値を設定する。例えば、ディスプレイ最適化出力画像PL_V_outの最大輝度値は、接続されたディスプレイからそれをポーリングすることによってセットトップボックスに1回設定されてもよく(すなわち、ディスプレイは、最大表示可能輝度PL_Dをセットトップボックスに通信する)、又は回路がテレビジョンに存在する場合、これは製造業者などによって設定されてもよい。
輝度マッピング関数F_Lは、いくつかの実施形態では、入力画像ごとに変り(他の変形では、多くの画像に対して固定される)、メタデータ情報512のいくつかのソースから入力される(例えば、これは、SEIメッセージとしてブロードキャストされ、ブルーレイディスクなどのようなメモリのセクタから読み出される)。このデータは、正規化されたメトリック(Sm1、Sm2、など)の正規化された高さを確立し、そこの上でPL_D値の所望の位置はメトリックの数学的な式から見いだされる。
入力画像513が入力されると、連続するピクセル輝度(例えば、Ln_in_pix_33及びLn_in_pix_34、又はルマ)が、ディスプレイ適応を適用する色処理パイプラインを通過し、Ln_out_pix_33などの対応する出力輝度が生じる。
この手法では、特に、最小黒輝度を提供するものはないことに留意されたい。
その理由は、通常の手法が以下の通りであるからである。黒レベルは、実際の視聴状況に大きく依存し、それは、ディスプレイ特性(すなわち、最も最初のPL_D)よりもさらに変わりやすい。物理的な照明態様から人間の目における光感受性分子の最適な構成に及ぶあらゆる種類の影響が生じる。
そのため、「ディスプレイのための」良好な画像を作る、それだけである(すなわち、意図されたHDRディスプレイが、典型的なSDRディスプレイよりも(明度的に)どれくらい高い能力があるかに関して)。次いで、必要に応じて、視聴状況に対して後で多少後補正することができ、これは、ディスプレイに残された(未定義の)特別なタスクである。
それゆえ、一般に、ディスプレイは、可変の高輝度能力、すなわち、PL_Dまで、画像において符号化されたすべての必要なピクセル輝度を表示することができると仮定する(さしあたり、既にPL_D値に対して最適化されたMDR画像である、すなわち、一般に画像内にPL_Dまで届く少なくともいくつかのピクセル領域があると仮定する)。それは、一般に、白クリッピングの厳しい結果を受けたくないからであるが、前記ように、画像の黒は多くの場合関心がない。
黒は、いずれにしても、「ほとんど」見えるので、その一部が多少見えにくい場合、それは最も重要なことではない。少なくとも、マスタHDRグレーディングの潜在的に非常に明るいピクセル輝度を、ディスプレイの限定された上方範囲、例えば200nitより上に、例えば、200nitからPL_D=600nitに(例えば5000nitまでのマスタHDR輝度の場合)最適に抑制することができる。
これは、すべての画像及びすべてのディスプレイについて黒が常にゼロnitである(少なくとも近似的に)と仮定することに類似している。白色のクリッピングは、黒の一部を失うよりもはるかに視覚的に厄介な特性であり、それは、しばしば、依然として、何かを見ることができるが、あまり快適ではない。
しかしながら、時には、その手法は十分ではない。その理由は、視聴室(例えば、昼間の大きい窓のある消費者テレビ視聴者のリビングルーム)のかなりの周囲光の下では、最も暗い輝度のかなりのサブレンジが、見えなくなるか、又は少なくとも十分に見ることができないからである。これは、ビデオが作成されるビデオ編集室の周囲光状況と異なり、薄暗く、又はさらに暗いことがある。
それゆえに、例えば、一般にディスプレイの制御ボタン(いわゆる明度ボタン)を用いてそれらのピクセルの輝度を上げる必要がある。
Rec.ITU-R BT.814-4(07/2018)におけるようなテレビジョン電子挙動モデルを使用する場合、HDRシナリオのテレビジョンは、ルマ+クロマピクセル色(実際にディスプレイを駆動する)を得て、これらを、パネルを駆動するために非線形R’、G’、B’非線形駆動値に変換する(標準測色計算に従って)。次いで、ディスプレイは、これらのR’、G’、B’非線形駆動値をPQ EOTFで処理して、どのフロントスクリーンピクセル輝度を表示するか(すなわち、一般に、依然として、LCD材料の電気光学物理的挙動の原因となる内部処理が存在する場合、例えばOLEDパネルピクセル又はLCDピクセルを駆動するやり方、しかしその態様は本議論とは無関係である)を知る。
次いで、例えばディスプレイの前面にある制御ノブが、ルマオフセット値b(PLUGE又は他のテストパターンにおける最小値より2%上の黒パッチが見えるようになり、一方-2%の黒が見えなくなる瞬間)を与える。
元の補正されていないディスプレイ挙動が、
LR_D=EOTF[max(0,R’)]=PQ[max(0,R’)]
LG_D=EOTF[max(0,G’)]=PQ[max(0,G’)]
LB_D=EOTF[max(0,B’)]=PQ[max(0,B’)] [式1]
である場合。
この式において、LR_Dは、特定の輝度((部分)nitにおける)を有する特定のピクセル色を作成するために、表示されるべき赤の寄与の量(線形)であり、R’は、非線形ルマ符号値、例えば、10ビット符号化における1023の値のうちの419である。
同じことが、青成分及び緑成分に対して生じる。例えば、1nit(目に対するその色の総合輝度)の特定の色を作る必要がある場合、例えば、0.33単位の青を必要とし、赤及び緑についても同じである。その同じ色の100nitを作る必要がある場合、LR_D=100*0.33nitであると言うことができる。
ここで、このディプレイ駆動モデルをルマオフセットノブを介して制御する場合、一般式は以下のようになる、
LR_D_c=EOTF[max(0,a*R’+b)]、ここで、a=1-b/OETF[PL_D]、など [式2]
見えないディスプレイ黒のどこかに隠れている画像のゼロ黒を表示する代わりに、この手法では、黒が十分に識別できるようになるまさにそのレベルまでゼロ黒を引き上げる(消費者ディスプレイでは、PLUGE以外の機構が使用されることがある、例えば、視聴者が好む使用可能なルマオフセットbの値にもかかわらず、視聴者の好みが別のあり得る次善に潜在的に導くことに留意されたい)
これは、最適に再グレーディングされた画像を作成した後のディスプレイの後処理ステップである。すなわち、最初に、最適に理論的に再グレーディングされた画像が、デコーダによって計算され、例えば、最初に、再構築されたマスタHDR画像にマッピングされ、次いで、例えば550nitのPL_V MDR画像に輝度再マッピングされる、すなわち、ディスプレイの明度能力PL_Dが考慮に入れられる。そして、この最適な画像が、映画作成者の理想的なビジョンに従って決定された後、画像中の黒の予想される視認性を考慮してディスプレイによってさらにマッピングされる。
発明者によれば、問題は、これが、どちらかと言えば、表示されるべき画像の視聴室周囲光レベル適応の粗雑なやり方であることである代替のやり方が開発された。
様々な周囲照明レベルに対する視覚的により良好な見える画像は、入力画像を処理して出力画像を取得する方法によって取得され、その方法は、
入力画像のピクセルに対して開始ルマ(Yn_CC)を取得するステップと、
ターゲットディスプレイの最小輝度(mL_VD)を取得するステップであって、ターゲットディスプレイがエンドユーザディスプレイ(210)に対応し、エンドユーザディスプレイは、出力画像を表示するために出力画像が供給され得る、取得するステップと、
視聴室においてエンドユーザディスプレイの最小輝度(mL_De)を取得するステップであって、エンドユーザディスプレイの最小輝度(mL_De)が視聴室の照明の量に依存する、取得するステップと、
ターゲットディスプレイの最小輝度(mL_VD)からエンドユーザディスプレイの輝度(mL_De)を減算することによって差(dif)を計算するステップと、
差を光電伝達関数(OETF_psy)への入力として光電伝達関数(OETF_psy)に適用することによって、差(dif)をルマ差(Ydif)に変換するステップであって、それにより、ルマ差が出力としてもたらされる、変換するステップと、
線形関数を適用することによって開始ルマをマッピングするステップであって、線形関数が、
a)加法係数として、-1.0を乗算したルマ差を適用し、
b)線形乗法係数として、値1.0だけ増加させたルマ差があり、その乗法係数が開始ルマに乗算されたものを適用し、
2つの合計が、マップされたルマ(Yim)をもたらす、マッピングするステップと、
正規化中間輝度(Ln_im)を取得するために、光電伝達関数の逆数を適用することによって、マップされたルマ(Yim)を変換するステップと、
最終正規化輝度(Ln_f)を取得するために、エンドユーザディスプレイの第2の最小輝度(mL_De2)を出力画像の最大輝度(PL_O)で除算したものを中間輝度(Ln_im)から減算し、減算したものを、エンドユーザディスプレイの第2の最小輝度(mL_De2)を出力画像の最大輝度(PL_O)で除算した結果を1.0から減算したものでスケーリングするステップと、
出力輝度を取得するために、最終正規化輝度(Ln_f)に出力画像の最大輝度(PL_O)を乗算するステップと、
出力画像のピクセルの色表現で出力輝度を出力するステップと
を有する。
開始ルマは、例えば、入力輝度(L_in)が入力される場合、光電伝達関数(OETF_psy)を入力画像の入力輝度(L_in)に適用することによって計算される。開始ルマがOETFを適用することによって入力輝度から直接定義される代わりに、開始ルマを得るために、さらなるルマ・ツー・ルママッピング、特に、特定のディスプレイ能力のために画像のルマの分布を最適化するルママッピングが含まれてもよい。いくつかの方法又は装置では、入力画像ピクセル色は、ルマ成分を有する。
ターゲットディスプレイ、具体的にはターゲットディスプレイの最小輝度(mL_VD)は、(実際の)エンドユーザディスプレイ(210)、特に、特定の限定された最大輝度を有する消費者のディスプレイに対応するが、ターゲットディスプレイは、依然として、コンテンツが表示されるべき理想的なディスプレイ、すなわち、特定の実際のディスプレイ以上の画像の技術的特性(理想的なディスプレイの技術的詳細のメタデータベースの共同関連づけによって定義される)に関して特徴づけられる。
この方法は、ディスプレイの最小値に対して2つの異なる特性値を使用する。1つはmL_Deであり、それは、ディスプレイ自体の黒挙動(例えば、LCD漏れ光)を含む。他はmL_De2であり、それは、視聴室の周囲照明(例えば、スクリーン反射)のみに依存するが、物理的なディスプレイの黒には依存せず、そのため、要因は、完全な暗さではゼロである(すなわち、ゼロ化されると仮定される)。その理由は、心理視覚的な補正は、両方の黒オフセットを考慮に入れるが、最終補償は周囲光のみを考慮に入れるからである(画像黒レベルを保持することになる)。
使用される光電伝達関数(OETF_psy)は、好ましくは、心理視覚的に均一な光電伝達関数である。この関数は、輝度からルマへのマッピング関数形状を決定する(一般に実験室において実験的に)ことによって定義され、その結果、ルマの範囲のどこかで選択された第1のルマよりも固定整数Nルマ高い第2のルマは、人間の観察者にとって知覚される明度の同様の差にほぼ対応する。
すなわち、人間の視覚は非線形であり、それゆえに、10nitと(1.05)*10nitとの間の差を、例えば2000nitと(1.05)*2000nitとの間の差と同じように感じない。その均一化された知覚曲線は、人間が何を見ているか、すなわち、特に、見られているディスプレイのダイナミックレンジ(特定の周囲において)、すなわち、最大輝度PL_D及び最小輝度にも依存する。
そこで、理想的には、処理のために、以下の特性を有するOETF(又はその逆のEOTF)を定義する。
第1のルマを取る場合、例えば、10ビットにおいて、luma_1=10である。そして、次いで、例えば、N=5ルマ符号をより高く移動させ、第2のルマのluma_2=15を得る。これは、明度感覚(すなわち、特定の物理的に表示された輝度で、人間の視聴者が、表示されたパッチの明度として経験するものを特徴づける値;それは、EOTFを適用することによって決定される)の変化に対応する。
そこで、1~200の明度の範囲で、ルマ10は、5の明度の印象を与え、ルマ15は、7の印象を与える、すなわち、明度が2単位明るいと仮定する。
次いで、より明るい輝度を符号化する2つのルマ、例えば、800及び800+5を取る。そのとき、視聴者がルマ差に起因して同じ明度差を経験する場合、ルマスケールは視覚的にほぼ均一である。例えば、ルマ800は、160の明度知覚を与え、ルマ805は明度162のように見え、すなわち、再び、明度に2単位の差がある。知覚的に適度に均一化されたルマ定義が既にうまく機能するので、関数は正確に明度決定関数である必要がない。
輝度処理に起因する変化の影響は、そのような心理視覚的に均一のシステムで行われた場合、視覚的にそれほど不快ではない(脳がより容易に抑制するので)。
ターゲットディスプレイの最小輝度(mL_VD)は、画像に関連づけられる仮想ターゲット又はターゲットディスプレイの最大輝度に似ているが、特定の実際のディスプレイではなく画像能力に関して何かを述べていることが理解されなければならない。画像表現は、対応する理想的なターゲットディスプレイ上の画像を特徴づけるメタデータに関連づけられるので、それは、再び、画像に関連づけられる理想的な値である。それは、実際のエンドユーザディスプレイの最小達成可能な(表示可能な、すなわち、一般に見ることができるか又は識別できる)輝度、別名、黒輝度ではない。その理由は、それらがアルゴリズムの特定の手法で比較されているからである。しかしながら、それは、実際のエンドユーザディスプレイに関連する可変最小値であり、特に、以下で示すように、エンドユーザディスプレイの最大輝度(PL_D)であるが、画像作成者が基準グレーディング(マスタHDR画像及び対応する典型的なSDR画像)のために選択した最小輝度でもある。それらのすべては、様々な理由で選択されるが、本革新が保証するように技術的に対応していなければならない。そこで、この対応は、結合された又は結合され得る選択可能なエンドユーザディスプレイと、実施形態で示されるように計算されるターゲットディスプレイの最小輝度(mL_VD)の値との間に1対1関係を含む。重要なことは、ターゲットディスプレイのそのような最小輝度(mL_VD)が存在することである。
エンドユーザディスプレイの最小輝度(mL_De)はまた、可変であるが、実際の視聴状況、すなわち、夜にテレビジョンを見るためのリビングルームのような視聴環境に存在するエンドユーザディスプレイに依存する。それは、ディスプレイ依存特性を有するが、主として、視聴環境状況(例えば、ランプがいくつあるか、部屋のどの位置にあるか、どのランプがそれぞれオン又はオフであるか、など)に応じて変化する。
出力画像の最大輝度(PL_O)は、必ずしも画像(ビデオ)の時間的に連続するセットの特定の画像に存在するピクセルの輝度ではなく、出力画像の最大可能輝度として理解されるべきである。画像について、それは、発生する最大値(例えば、N-ビット系において最大ルマコードで表される)として定義され、メタデータを記述する画像として一般に注釈付けされ、その画像が特定のディスプレイに対して最適化される場合、それは、例えば、ドライバへの最大駆動信号を設定することによる最大表示可能輝度であり、それは、結果として、一般に、ディスプレイが達成できる最大エネルギー出力、特に、この駆動に対する光の輝度(すなわち、一般に、実際のディスプレイが表示することができる最も明るいピクセル)に対応する。
出力画像の輝度は、当然、どのような状況で出力画像を導き出すかに依存する。本発明は、例えば、ディスプレイの最大輝度能力に対して既に最適化された画像を得るシステムに存在する。例えば、ディスプレイは、1000nitディスプレイである、すなわち、PL_V_HDR=1000nitに最適化された画像を入力として必要とすることを画像のソースに示す。次いで、その実施形態は、どんな(依然として変わりやすい)視聴環境の照明状況に対しても、最も暗い輝度について対応する最適化を行う。その場合、PL_Oは、単にPL_V_HDRのままである。
他の実施形態では、ディスプレイが入力画像のPL_V_HDRよりも低いPL_Dを有することも考慮に入れ、それゆえに、方法は、ディスプレイ適応(別名、ディスプレイ最適化)を行い、この方法は、基準輝度マッピング関数(F_L)及びエンドユーザディスプレイの最大輝度(PL_D)に基づいて、ディスプレイ最適化輝度マッピング関数(FL_DA)を計算するように構成されたステップと、入力画像のピクセルの入力ルマ(YN_CC0)を出力ルマにマッピングするためにディスプレイ最適化輝度マッピング関数(FL_DA)を使用するステップであって、それにより、処理の残りの部分の開始ルマ(Yn_CC)が形成される、使用するステップとを有し、
ディスプレイ最適化輝度マッピング関数(FL_DA)が、基準輝度マッピング関数(F_L)の形状と比較して、最も暗い入力輝度に対してそれほど急でない傾斜を有し、
基準輝度マッピング関数が、それぞれの第1の基準最大輝度及び第2の基準最大輝度を有する第1の基準画像の輝度と第2の基準画像の輝度との間の関係を指定し、エンドユーザディスプレイの最大輝度(PL_D)が、第1の基準最大輝度と第2の基準最大輝度との間に入る。
すなわち、図4及び図5、又は同様の技法を用いて説明するような、特別に形成されたF_L関数のより少ない変形(対応するより低い最大輝度の二次グレーディングを得るために、現在の特定のHDR画像又はシーンについて、特定の必要とされる輝度再マッピング、別名、再グレーディングの必要性に対応する)を作るための可能な実施形態のいずれかが使用される。輝度マッピング関数は、ルママッピング関数として、すなわち、適切なOETFを介して両方の正規化された輝度軸をルマ軸に変換する(入出力画像の適切な最大輝度値を使用した正規化)ことによって表される。
具体的には、F_L関数が定義される二次グレーディングは、有利には、100nitグレーディングであり、それは、ほとんどの将来のディスプレイ状況の要求に応えるのに適している。
有利には、ディスプレイ最適化輝度マッピング関数(FL_DA)を計算するステップは、例えば、最大輝度値の位置を決定するメトリック(SM)上の位置(pos)を見つけるステップであって、その位置がエンドユーザディスプレイの最大輝度(PL_D)に対応する、見つけるステップを有し、
メトリックの第1の端点が、入力画像の第1の最大輝度(PL_V_HDR)に対応し、メトリックの第2の端点が、第2の基準画像の最大輝度に対応し、
メトリックの第1の端点が、任意の正規化入力ルマ(Yn_CC0)に対して、入力ルマに等しい水平及び垂直座標を有する対角線上の点に配置され、
第2の端点が、メトリックの方向によって決定される基準輝度マッピング関数(F_L)の出力値と連結される。そこで、第1の端点は対角線上にあり、第2の端点は、例えば、垂直メトリック方向直線について、F_L関数の軌跡があるところの上にあり、すなわち、水平座標として特定の(すべての可能な)入力ルマと、出力としてF_L関数を適用することによって得られる出力ルマとを有する点Yn_out=F_L(Yn_CC0)にあり、ここで、輝度マッピング関数は、一般に、輝度のドメイン自体で表されるのではなく、一般に、心理視覚的に均一にされたルマドメインにおける座標軸の適切なOETF化によって表される。
いくつかの有利な装置の実施形態は、革新による変更から生じ、例えば、以下の通りである。
出力画像を取得するために入力画像を処理するための装置は、
入力画像開始ルマ(Yn_CC)を取得するために入力画像の入力輝度(L_in)に光電伝達関数(OETF_psy)を適用するように構成された第1の光電変換回路(601)を含む回路などの、画像開始ルマ(Yn_CC)を取得するための入力ユニットと、
ターゲットディスプレイの最小輝度(mL_VD)を受け取るための第1の最小メタデータ入力部(693)であって、ターゲットディスプレイがエンドユーザディスプレイ(210)に対応し、エンドユーザディスプレイは、出力画像を表示するために出力画像が供給され得る、第1の最小メタデータ入力部(693)と、
視聴室においてエンドユーザディスプレイの最小輝度(mL_De)を受け取るための第2の最小メタデータ入力部(694)であって、エンドユーザディスプレイの最小輝度(mL_De)が視聴室の照明の量に依存する、第2の最小メタデータ入力部(694)と、
ターゲットディスプレイの最小輝度(mL_VD)からエンドユーザディスプレイの輝度(mL_De)を減算することによって差(dif)を計算するように構成された輝度差計算器(610)と、
差を光電伝達関数(OETF_psy)への入力として光電伝達関数(OETF_psy)に適用することによって、差(dif)をルマ差(Ydif)に変換するように構成された第2の光電変換回路(611)であって、それにより、ルマ差が出力としてもたらされる、第2の光電変換回路(611)と、
-1.0を乗算したルマ差を加法定数として適用し、値1.0だけ増加させたルマ差を乗数として使用して開始ルマを乗算する線形関数を適用することによって開始ルマをマッピングするように構成された線形スケーリング回路(603)であって、それにより、マップされたルマ(Yim)がもたらされる、線形スケーリング回路(603)と、
正規化中間輝度(Lim)を取得するために、光電伝達関数の逆数を適用することによって、マップされたルマ(Yim)を変換するように構成された電光変換回路(604)と、
エンドユーザディスプレイの第2の最小輝度(mL_De2)を受け取るための第3の最小メタデータ入力部(695)と、
最終正規化輝度(Ln_f)を取得するために、エンドユーザディスプレイの第2の最小輝度(mL_De2)を出力画像の最大輝度(PL_O)で除算したものを中間輝度(Ln_im)から減算し、減算したものを、エンドユーザディスプレイの第2の最小輝度(mL_De2)を出力画像の最大輝度(PL_O)で除算した結果を1.0から減算したものでスケーリングするように構成された最終周囲調節回路(605)と、
出力輝度を取得するために、最終正規化輝度(Ln_f)に出力画像の最大輝度(PL_O)を乗算するように構成された乗算器と、
出力画像のピクセルの色表現で出力輝度を出力するためのピクセル色出力部699と
を含む。
入力ユニット又は回路の技術的実現は、構成、及び入力色定義のどの変形が装置に入力されるかに依存するが、入力段の出力における装置にとって有用な入力は、開始ルマである。
入力画像を処理するための装置(実施形態の技術的要素の組合せのいずれかの)は、出力画像を表示し得るエンドユーザディスプレイの最大輝度(PL_D)又は入力画像の最大輝度(PL_V_HDR)のいずれかとして、出力画像の最大輝度(PL_O)を決定するように構成された最大決定回路(671)をさらに含む。
入力画像を処理するための装置(実施形態の組合せのいずれかの)は、
基準輝度マッピング関数(F_L)及びエンドユーザディスプレイの最大輝度(PL_D)に基づいて、ディスプレイ最適化輝度マッピング関数(FL_DA)を計算するように構成されたディスプレイ最適化回路(670)と、
出力ルマ(それゆえに、輝度)を取得するために、具体的にはルマとして表される入力輝度にディスプレイ最適化輝度マッピング関数(FL_DA)を適用するように構成された輝度マッピング回路(602)と
をさらに含み、
ディスプレイ最適化輝度マッピング関数(FL_DA)が、基準輝度マッピング関数(F_L)の形状と比較して、最も暗い入力輝度に対してそれほど急でない傾斜を有し、
基準輝度マッピング関数が、それぞれの第1の基準最大輝度及び第2の基準最大輝度を有する第1の基準画像の輝度と第2の基準画像の輝度との間の関係を指定し、エンドユーザディスプレイの最大輝度(PL_D)が、第1の基準最大輝度と第2の基準最大輝度との間に入る。
第2の基準画像は、第2の基準最大輝度が100nitに等しい標準ダイナミックレンジ画像であるか、又は心理視覚的に均一なOETF及びEOTFが、それらを適用する回路によって適用されるか若しくはディスプレイ最適化回路670などにディスプレイ適応の特定の変形を有する、入力画像を処理するための装置である。
特に、これらの技術的要素は、ASIC、FPGA、プロセッサ、などのような様々な処理要素で具現化され、ディスプレイ、又はディスプレイに外部的に接続される非ディスプレイ装置を含むかどうかにかかわらず、様々な消費者又は非消費者装置に存在すること、画像及びメタデータは、無線放送、ケーブルベース通信などの様々な画像通信技術によって出入りして通信されること、装置は、例えばテレビジョン放送、インターネットによるオンデマンド、などのような様々な画像通信及び/又は使用エコシステムにおいて使用されることを当業者は理解する。
本発明による方法及び装置のこれら及び他の態様は、以下に記載される実施態様及び実施形態を参照して、及び添付の図面を参照して、明らかになり、説明され、添付の図面は、より一般的な概念を例示する非限定的な特定の例証として単に役立ち、添付の図面において、ダッシュは、構成要素がオプションであることを示すために使用され、ダッシュされていない構成要素は必ずしも不可欠でない。ダッシュはまた、不可欠であると説明されているがオブジェクトの内部に隠されている要素、又は例えばオブジェクト/領域の選択などの無形のものを示すために使用される。
いくつかの典型的な色変換を概略的に示す図である。色変換は、最適に高ダイナミックレンジ画像を、対応する最適に色グレーディングされた及び同様に見える(それぞれ第1ダイナミックレンジDR_1及び第2のダイナミックレンジDR_2における違いを考えれば、所望通り及び実現可能な限り同様である)より低いダイナミックレンジ画像、例えば、100nit最大輝度の標準ダイナミックレンジ画像に最適にマッピングするときに行われ、それは、可逆性の場合、HDRシーンを実際に符号化する受信されたSDR画像をそのシーンの再構築されたHDR画像にマッピングすることにも対応する。輝度は、最も暗い黒から最大輝度PL_Vまで縦軸上の場所として示されている。輝度マッピング関数は、第1のダイナミックレンジ上の輝度から第2のダイナミックレンジへの平均オブジェクト輝度をマッピングする矢印によって象徴的に示されている(当業者は、これを、古典的関数として、それぞれの最大輝度で除算することによって正規化された、例えば1に正規化された軸上に等価的に描くやり方を知っている)。 出願人が最近開発した、高ダイナミックレンジ画像、すなわち、典型的には少なくとも600nit以上の(典型的には1000nit以上の)輝度を有することができる画像を符号化する技術の高レベルビューの例を概略的に示す図である。それは、実際に、HDR画像を、それ自体で、又は対応する輝度再グレーディングSDR画像と、受信SDR画像をHDR画像に変換するためにデコーダによって使用されるピクセル色に対する少なくとも適切な決定された輝度マッピング関数(F_L)を含む色変換関数を符号化するメタデータとを加えたものとして通信する。 (非限定的な)好ましい実施形態として、画像デコーダ、特に、ピクセル色処理エンジンの内部の詳細を示す図である。 サブ画像図4a及び図4bからなり、2つの基準画像間の輝度再グレーディング必要性を体系化する基準輝度マッピング関数F_Lから、特定のディスプレイ能力(PL_D)に対して、入力画像の最適なディスプレイ適応バージョンを計算するために使用される最終ディスプレイ適応輝度マッピング関数FL_DAを得るためのディスプレイ適応の2つの可能な変形を示す図である。 本実施形態及び特許請求の範囲の策定における構成要素としてディスプレイ適応の原理をより容易に理解するために、ディスプレイ適応の原理をより一般的に要約する図である。 環境照明補償処理に関する技術的要素を説明するための例示的な装置を示す図である。 仮想ターゲットディスプレイの相関概念、特にターゲットディスプレイの最小輝度(mL_VD)と、典型的には輝度再マッピングが実行される視聴者のエンドユーザディスプレイのような実際のディスプレイへの関係又は関連性とを説明する図である。 メタデータのカテゴリの一部を説明する図であり、メタデータのカテゴリの一部は、長く使われるプロフェショナルHDR符号化フレームワークのために利用可能であり(例えば、典型的にはピクセル色画像と共同通信する)、そのため、任意の受信機が、特に、特定の最終視聴状況(ディスプレイ及び環境)に対して受信画像を最適化するために必要であるか、又は少なくともエレガントに利用する利用可能なすべてのデータを有する。 特に、既存のディスプレイ適応手法を基礎にして設計する場合に、画像のコントラストを最適化するためのやり方、特に、様々な視聴環境光レベル又は状況を補償するためのやり方を説明する図である。 視聴環境照明適応技法(図6で説明した)を適用すると何が生じるかについて、特定の基準マッピング関数F_L(理解を容易にするために、単純な線形曲線となるように選択されている)を用いたいくつかの画像輝度に関する実例を示す図である。 図9で説明したコントラスト改善技法を適用すると何が生じるかの実例を示す(視聴環境照明なしであるが、それらの2つの処理を組み合わせることもでき、それは、最も黒い黒に追加のオフセットをもたらす)図である。
図6は、本革新の要素、特に、色処理回路600を実行するやり方を一般的に説明するための装置を示す。それを一般的に説明し、次いで、実施形態の変形のいくつかの詳細を述べる。周囲光適応色処理が特定用途向け集積回路(ASIC)の内部で実行されると仮定するが、当業者は、他の関連した装置で色処理を同様に実施するやり方を理解するであろう。いくつかの態様は、ディスプレイに対して処理を行い、それを既に輝度最適化された画像とともに提供するために、このASICが、例えば、テレビジョンディスプレイ(典型的にはエンドユーザディスプレイ)に存在するか、又はディスプレイに接続された別の装置、例えばセットトップボックスなどに存在するかどうかに応じて異なる(当業者は、この装置構成図を、対応する方法の方法流れ図にマッピングすることもできる)。
処理されるべき入力画像の入力輝度(L_in)(一般性を失いたくないので、マスタHDR画像MAST_HDRであると仮定する)は、画像ピクセルデータ入力部690を介して入力された後、最初に、対応するルマ(例えば、10ビット符号化ルマ)に変換される。そのために、光-電子伝達関数が使用され、それは、一般に、製造業者によって装置に固定される(それは設定変更可能であるが)。
知覚的に均一なOETF(OETF_psy)を利用することは有用である。
以下のOETFが使用される(ルマYn_CC0の出力として定義する)と仮定する。
Yn_CC0=v(L_in;PL_V_in)=log[1+(RHO-1)*power(L_in;p)]/log[RHO] [式3]
ここで、RHOは、式RHO(PL_V_in)=1+32*power((PL_V_in/10,000);p)による入力最大輝度PL_V_inに依存する定数であり、pは、好ましくは、1/(2.4)に等しい冪関数の冪である。
入力最大輝度は、入力画像に関連する最大輝度である(それは、必ずしもビデオシーケンスの各画像における最も明るいピクセルの輝度ではなく、画像又はビデオを絶対上限値として特徴づけるメタデータである)。
それは、一般に、設定変更可能であり、PL_V_HDR、例えば2000nitとして第1の最大データ入力部691を介して入力される。それは、他の変形では、さらに、画像通信及び/又は処理システムのための固定値、例えば5000nitであり、それゆえに、光電変換回路601の処理における固定値である(したがって、PL_V_HDRのデータ入力を表す垂直の矢印は、それがすべての実施形態に存在するわけではないので、点線で示されている;白丸は、混合しない重複データバスと混同しないように、このデータ供給の分岐を記号化していることに留意されたい)。
続いて、実施形態によっては、本方法又は色処理装置が特定の視聴環境に最適に適応する開始ルマYn_CCを得るために、輝度マッピング回路602によるさらなる輝度マッピングがある。そのようなさらなる輝度マッピングは、一般に、接続されたディスプレイの特定のディスプレイ最大値輝度PL_Dに画像を事前適合させるためのディスプレイ適応である。
より単純な実施形態には、このオプションの輝度マッピングが存在せず、そこで、2000nit環境最適化画像が、入力2000nitマスタHDR画像(又は固定の5000nitのHDR画像状況)に対して計算されることになる、すなわち、最大輝度値が入出力画像間で同じままであると仮定して、最初に色処理について説明するこの場合には、開始ルマYn_CCは、単純に、光電変換回路601によって出力される初期開始ルマYn_CC0に等しい。
線形スケーリング回路603は、
Yim=(Ydif+1)*Yn_CC-1.0*Ydif [式4]
のタイプの関数を適用することによって中間ルマYimを計算する。
ルマ差Ydifは、(第2の)光電変換回路611から得られる。この回路は、輝度差difを、対応するルマ差Ydifに変換する。この回路は、回路601と同じOETF式を使用する、すなわち、同様に、同じPL_V_in値(及び冪値)を使用する。輝度差difは、輝度差計算器610によって計算され、輝度差計算器610は、2つの最も暗い輝度値、すなわち、視聴室の特定の照明特性を与えられたターゲットディスプレイの最小輝度(mL_VD)及びエンドユーザディスプレイの最小輝度(mL_De)を受け取り、
dif=mL_VD-mL_De [式5]
を計算し、
mL_Deは、一般に、一方では、エンドユーザディスプレイの固定ディプレイ最小黒(mB_fD)と、周囲光の量の関数である輝度(mB_sur)との関数(一般に加算)である。ディスプレイ最小黒(mB_fD)の典型例は、LCDディスプレイの漏れ光である。そのようなディスプレイが、完全な(すなわち、理想的には、出力される光子がゼロの)黒を示しているコードで駆動される場合、LCD材料の物理的性質のために、そのようなディスプレイは、依然として、常に、例えば0.05nitの光、いわゆる漏れ光を出力する。これは、視聴環境における周囲光に関係なく、そのため、完全に暗い視聴室に当てはまる。
mL_VD及びmL_Deの値は、一般に、第1の最小メタデータ入力部693及び第2の最小メタデータ入力部694を介して、例えば同じ又は異なる装置内の外部メモリから、又は光測定デバイスからの回路などを介して得られる。特定の実施形態において必要とされる最大輝度値、例えば、色処理された出力画像を表示することができるディスプレイの最大輝度(PL_D)は、一般に、第2の最大メタデータ入力部692のような入力コネクタを介して入力される。出力画像色は、ピクセル色出力部699において完全に書かれる(当業者は、これを、様々な技術的な変形、例えば、ICのピン、HDMI(登録商標)のような標準ビデオケーブル接続、画像のピクセル色データの無線チャンネルベース通信、などとして実現するやり方を理解している)。
周囲光の量(mB_sur)の関数である輝度[周囲黒輝度と縮めて呼ぶ]の正確な決定は、いくつかの代替のやり方で決定されてもよいので、本革新の典型的な態様ではない。例えば、視聴者は、PLUGE、又は消費者にとってより都合のよい変形などのテスト信号を使用して、一般に、ディスプレイのフロントスクリーン上の反射から生じるマスキング黒を表すと考える輝度mB_surの値を決定する。特定の夕方かどうかにかかわらず、又は、例えば、通常、ディスプレイの購入時に消費者が部屋の照明構成を固定したままにする状況から、視聴者が値を単に設定するとさらに仮定する。又は、典型的な消費者の視聴状況の少なくとも1つに対して平均的によく機能する値としてテレビジョン製造業者が焼き込んだ値でさえある。この方法がモバイルデバイスでの視聴のために輝度を適応させるのに使用される場合、視聴環境が比較的安定していないことが一般的である(例えば、列車内でビデオを見ており、列車がトンネルに入ると、照明レベルが屋外から屋内に変化する)。
そのような場合、例えば、内蔵照度計の時間フィルタリング測定を利用することができる(経時的に処理をむやみに適応させないためにあまり頻繁に測定しないが、例えば、日の当たるベンチに座っていて、次いで屋内を歩くときに、など)。
そのような計器は、一般に、それに当たる、それゆえ、ディスプレイにも当たる光の平均量(lux単位)を測定する
異なる測光量であるが、lux値は、よく知られている測光の式によって周囲黒輝度に変換される。
mB_sur=R*Ev/pi [式6]
この式において、Evは、lux単位の周囲環境照度であり、Piは、定数3.1415であり、Rは、ディスプレイスクリーンの反射率である。一般に、モバイルディスプレイのメーカは、その値を式に入れる。
平均的なグレーと白との間のどこかの色をもつ周囲の通常の反射面、例えば家の壁では、約0.3のR値を仮定することができる、すなわち、経験則として輝度値は、lux単位で言及された照度値の約1/10であると言うことができる。ディスプレイの前面は、はるかに少ない光を反射する。特別な反射防止技術が利用されているかどうかに応じて、R値は、例えば、約1%である(但し、ガラスの8%反射率に向かってより高くなる場合があり、それは、特に、より明るい視聴周囲では問題であることがある)。
それゆえ、mL_De=mB_fD+mB_sur [式7]
ターゲットディスプレイの最小輝度(mL_VD)の値の技術的な意味が、図7を用いてさらに説明される。
左側から始まる最初の3つの輝度範囲は、実際には、「仮想」ディスプレイ範囲、すなわち、必ずしも実際のディスプレイではなく、画像に対応するレンジである(それは、すなわち、ターゲットディスプレイ、すなわち、画像が理想的に示され得るが、潜在的に消費者が所有しないディスプレイに対応する)。これらのターゲットディスプレイは、画像が、ターゲットディスプレイのために特別に作成される(すなわち、輝度は特定の所望のオブジェクト輝度に向けてグレーディングされる)ので共同定義される。例えば、爆発は、550nitディスプレイではあまり明るくすることができず、そのため、グレーダは、爆発が少なくとも多少コントラストがあるように見えるように、他の画像オブジェクトの輝度を下げたいことがある。しかし、誰もそのようなディスプレイを所有していないことは十分にあり得、画像は、依然として、特定の視聴者が所有する実際のディスプレイへのディスプレイ適応によって最適化される必要がある。このエンドユーザディスプレイで物理的に表示可能な輝度の範囲は、右端の輝度範囲(EU_DISP)として示される。
1つ又は複数のターゲットディスプレイのこの情報はメタデータを構成し、その一部は、一般に、画像自体と一緒に、すなわち、画像ピクセル輝度と一緒に通信される。
HDR画像を特徴づける(符号化する)ためのこの手法は、旧来のSDR画像符号化から著しく逸脱し、これらの態様は最近発明されたにすぎないので、及び重要な技術的な要素が誤解されるべきでないので、読者のために、必要とされる概念が、図8を用いて要約される。
HDRビデオは、メタデータによって十分に補足されるが、その理由は、多くの態様が異なる可能性がある(例えば、SDRディスプレイの最大輝度は、常に、ほぼ100nitの範囲であったが、今では、人々は、かなり異なるディスプレイ能力、例えば、50nit、500nit、1000nit、2500nit、将来には多分さらに10,000nitに等しいPL_Dのディスプレイを有し、ビデオの最大符号化可能輝度PL_Vのようなコンテンツ特性もかなり変化し、それゆえにグレーダが典型的なシーンに対して作る暗と明との間の輝度の分配も典型的なSDR画像と任意のHDR画像との間で大いに異なる、など)からであり、それらの様々な不安定な範囲にわたる不十分な制御のために困難に陥るべきでない。
上述で説明したように、少なくともピクセルルマを含むピクセル色の少なくとも1つのピクセル化マトリクスを取得すべきであり、そうでなければ(比色的に誤って表示され場合でさえ)画像形状さえ見えない。上述のように、時刻ごとに1つの画像のみを実際に通信することによって、2つの異なるダイナミックレンジ画像(MDR画像のような異なるダイナミックレンジの画像を作る必要がある場合に特定のビデオコンテンツの輝度再グレーディングの必要性を示すための2つの基準グレーディングの役割を果たすことができる)を通信することができる。
マスタHDR画像自体を通信し、そのため、第1のデータセット801(画像色)は、通信される画像のピクセルの色成分トリプレットを含み、例えば、受信側テレビジョンディスプレイに存在する色処理回路の入力になると仮定する。一般に、そのような画像は、(例えば10ビット)ルマ及び2つのクロマ成分Cr及びCbとしてデジタル化される(けれども非線形R’G’B’成分も通信することができる)。しかし、ルマ1023又は例えば229がどの輝度を表しているかを知る必要がある。
そのため、コンテナメタデータ802を共同通信する。ルマは、SMPTE ST.2084において標準化されているように、例えば、知覚量子化器EOTF(又はその逆のOETF)に従って定義されると仮定する。これは、10,000nitまでのルマを指定することができる大きいコンテナである。たとえ、現在、画像が、そのように高いピクセル輝度を用いて生成されないとしても、例えば2500nitまでの実際に使用される輝度を含む「理論的コンテナ」であると言うことができる(原色色度も通信するが、それらの詳細は、単に、本説明を不必要に妨げることに留意されたい)。
興味深いのは、ビデオの実際に符号化可能な(又は符号化される)最大ピクセル輝度であり、これは別のビデオ特徴付きメタデータに符号化され、それは、一般に、マスタディスプレイ色ボリュームメタデータ803である。
これは、受信側が知るべき重要な輝度値である。その理由は、ディスプレイが、範囲に沿ってすべての輝度を再マッピングする(少なくともコンテンツ作成者の所望のディスプレイ適応に従って)やり方の具体的な詳細を気にしないとしても、最大を知ることは、画像ピクセルについてビデオがどの輝度を上回らないかを少なくとも知るので、すべての輝度で大まかに何をするのが最善かを依然としてガイドするからである。
2000nitの例では、このマスタディスプレイ色ボリューム(MDCV)メタデータ803は、マスタHDR画像最大輝度、すなわち、図7のPL_V_HDR値、すなわち、マスタHDRビデオを特徴づけるものを含む(この例では、SMPTE2084で定義されたPQピクセルルマとしても実際に通信されるが、その態様は現在無視することもできる。その理由は、当業者が2つの間で変換するやり方を知っているので、(線形)ピクセル輝度自体が入ってくるかのように革新的な色処理の原理を理解することができるからである)。
このMDCVは、HDRマスタ画像のための「仮想」ディスプレイ、すなわち、ターゲットディスプレイである。メタデータでこれを示すことによって、ビデオ作成者は、受信側の実際のエンドユーザディスプレイに通信されるビデオ信号の中で、映画内のどこに2000nitの明度のピクセルがあるかを示しており、そこで、エンドユーザディスプレイは、現在の画像の輝度への処理を行うときに、それを十分に考慮に入れる。
画像のセットのこれらの(実際の)輝度は、実際には、さらに別の態様であり、したがって、さらなるビデオ関連メタデータセット804がある。これは、関連するディスプレイの特性(すなわち、例えば、ビデオでの可能な最大)ではなく、実際のビデオのさらなる情報を与える。これを容易に理解するために、2つのビデオが同じMDCV PL_V_HDR(及びEOTF)で注釈付けされていると想定する。第1のビデオは、夜間ビデオであり、それゆえに、実際には、画像は、例えば80nitよりも高いピクセル輝度に達しない(けれどもそれは依然として2000nitのMDCVで指定されている;さらに、別のビデオである場合、少なくとも1つの画像内にフラシュライトを有することがあり、それは、2000nitレベル、又はほとんどそのレベルに達する少数のピクセルを有する)、正確に同じ符号化技術に従って指定/作成された(すなわち、802及び803において同じデータで注釈付けされた)第2のビデオは、爆発のみからなる、すなわち、ほとんどが1000nitを超えるピクセルを有する。
一方では、このビデオに関して追加として何かを言いたい場合があるが、他方では、熟練した読者は、両方のビデオを2000nit表現から例えば200nit出力表現に再グレーディングしたい場合、別のやり方で行うことを理解することができる(輝度を単に10で除算することによって爆発をスケーリングすることができ、一方、マスタHDR及び200nit出力画像において夜景の輝度を同一に保持することができる)。
通信されるHDR画像に注釈を付けるセット804におけるあり得る(本発明ではオプションであるが、それにもかかわらず完全性のために説明する)有用なメタデータは、すべての時系列画像のすべてのピクセルの平均ピクセル輝度であり、MaxFallは例えば350nitである。次いで、受信側の色処理は、この値から、暗い場合、輝度が、そのままで、すなわち、マッピングなしで表示され、明るい場合、調光が必要であることを理解することができる。
実際にSDRビデオを通信しない場合でさえ、すなわち、メタデータ(メタデータ814)のみを送るとしても、SDRビデオ(すなわち、第2の基準グレーディング画像、それは、ダイナミックレンジ能力の低減の場合に、コンテンツ作成者によってマスタHDR画像にできるだけ類似しているSDR画像がどのように見えなければならないかを示す)に注釈付けすることもできる。
したがって、いくつかのHDRコードはまた、SDR画像(Rec.709 OETF定義)のピクセルルマを含むピクセル色トリプレット、すなわち、SDRピクセル色データ811を送ることがあるが、上述で説明したように、説明例のコーデック、すなわち、SLHDRコーデックは、実際には、このSDR画像、すなわち、ピクセル色、又はその色に依存するどんなものも通信しない、したがって、削除である(ピクセル色が通信されない場合、ピクセルコードがどのように定義され、線形RGBピクセル色成分に復号化されるべきかのコンテナフォーマットを示すSDRコンテナメタデータ812を通信する必要もない)。
理想的に通信されるべきもの(いくつかのシステムはそれを暗黙に仮定するが)は、対応するSDRターゲットディスプレイメタデータ813である。そのような状況では、一般に、PL_V_SDRの値を100nitに等しいとして記入する。
本革新にとって重要なことは、これはまた、一般に、ビデオ作成者が映画をグレーディングした理論的なターゲットSDRディスプレイの想定最小黒の値、すなわち、SDR基準最小黒mB_SDRを記入する場所である。
例えば、作成者が、0.1nitよりも深くなることができない(例えばLCD漏れ光のために)ディスプレイのためにビデオを作ると仮定する場合、作成者は、非常に重要な画像オブジェクトピクセル輝度をこの値に近づけたくなく、例えば、0.2nitSDR画像ピクセルから開始し、多分多少それを上回り、ほとんどのピクセルは1nitレベルを超える。マスタHDR画像又はより正確にはそれに関連するターゲットディスプレイを特徴づける同様の値、すなわち、HDR最小黒mB_HDR(メタデータ803における)が存在する。
再グレーディングの必要性は画像に依存し、そこで、上述で説明したような選択された説明のコーデックに従って、有利には、SDRビデオメタデータ814に符号化される。上述で説明したように、一般に、最大1に正規化されたHDR輝度(又はルマ)を最大1に正規化されたSDR輝度又はルマにマッピングするための1つの(又は複数の、単一の時刻であっても)画像最適化輝度マッピング関数(すなわちF_L基準輝度マッピング関数形状)を通信する(これらの関数を符号化する正確なやり方は、本特許出願には無関係であり、例は、上記のETSI SLHDR標準に見いだされる)。今では、この関数形状(ターゲットディスプレイの最大輝度、HDR、及びSDRのメタデータと結合した)を用いて、すべての可能な画像ピクセル輝度の必要とされる再マッピングが規定されるので、例えばmaxFallのような画像に関するさらなるメタデータは、通信することもできるが、実際には必要とされない。
これは、既に、HDRビデオ符号化データのかなり専門的なセットを構成しており、それに、現在の周囲適応輝度再マッピング技法を適用することができる。
しかしながら(以下でさらに詳述するコントラスト最適化実施形態に特に有用な)2つのさらなるメタデータセットが追加されてもよい(様々なやり方で)が、それは、まだ、十分に標準化されていない。コンテンツ作成者は、知覚量子化器を使用しながらビデオが特定の照度レベル、例えば10luxの視聴環境で作成される(そこで、理想的には、最適な見た目を望む場合に受信側でも極力表示される)という暗黙の仮定の下で作業することもあり得る(特定のコンテンツ作成者がまたこの照明提案に厳密に従っているかどうかは別の事柄である)。
確実性を向上させたい場合、マスタHDR画像が特別にグレーディングされた典型的な(意図された)視聴環境を関連づけることができる(HDR視聴メタデータ805;オプション/点線)。前記のように、2000nit最大マスタHDR画像を作ることができる。しかし、この画像が1000lux視聴環境で視聴されるように意図された場合、グレーダは、視聴者の脳がこれのすべてをあたかも「平坦な黒」と単に見なす可能性が高いので、多分、あまりにも多くの微細なグレーディングされた暗いオブジェクト輝度(正面の照らされた第1の部屋を含むシーンの背後の開いたドア通して見える暗い部屋内のわずかに異なる薄暗く照らされたオブジェクトのような)を作らないが、状況は、画像が、典型的は、例えば50lux又は10luxの部屋での薄暗い夕方の視聴のために作られる場合には異なる。典型的なより明るい視聴状況、例えば、200luxに対して、SDR画像、特にF_L関数への再グレーディングをさらに具体的に行い、それをSDR周囲メタデータ815に注釈付けし、受信側装置はまた、そう望む場合、その情報を有利に利用する(又は異なる意図された視聴の異なるSDR画像に対する再グレーディングを通信する)。
図7に戻ると、600nitのMDRディスプレイのための出力画像を作ることを望む(ディスプレイ適応によって)設定を示す、すなわち、出力画像は、PL_V_MDR=600nit出力画像である必要がある。
本革新に従って入力画像と同じ最大輝度をもつ出力画像を最適化するとしたら(図6で上述した単純な状況)、ターゲットディスプレイの最小輝度mL_VD)の値は、単にmB_HDR値となる。しかしながら、ここで、MDR表示ダイナミックレンジの最小輝度を設定する(ターゲットディスプレイの最小輝度mL_VDの適切な値として)必要がある。これは、2つの基準画像の輝度範囲情報から補間される(すなわち、図8の標準化された実施形態の説明において、MDCV及び提示ディスプレイ色ボリュームPDCVは、一般に、それぞれメタデータ803及び813において共同通信されるか又は少なくとも取得可能である)。
式は以下の通りである。
mL_VD=mB_SDR+(mB_HDR-mB_SDR)*(PL_V_MDR-PL_V_SDR)/(PL_V_HDR-PL_V_SDR) [式8]
この式において、PL_V_MDR値は、ディスプレイ最適化画像が供給されるディスプレイのPL_D表示に等しく選択される。
図6に戻ると、dif値は、光電変換回路611において式3のv-関数を適用し、PL_V_inで除算した値dif(すなわち、規格化輝度差)をL_inに代入することによって、心理視覚的に均一なルマ差(Ydif)に変換され、ここで、PL_V_inの値として、それぞれ、入力マスタHDR画像と同じ最大輝度をもつ周囲調節画像を作る場合には、値PL_V_HDRが使用され、MDRディスプレイに適応するディスプレイのシナリオでは、PL_V_inの値は、ディスプレイのPL_D値、例えば600nitである。
電光変換回路604は、中間ルマYimの正規化線形バージョン、中間輝度Ln_imを計算する。それは、式3の逆の式(RHOの同じ定義式)を適用する。RHO値については、実際、出力画像が入力画像と同じ最大輝度を有し、より暗いピクセル輝度を調節するだけの最も単純な状況では、同じPL_V_HDR値が使用される。しかしながら、MDR最大輝度へのディスプレイ適応の場合、PL_D値は、v-関数の特定の形状(峻度)を特徴づける適切なRHO値を計算するために使用される。これを実現するために、出力最大決定回路671が、色処理回路600に存在する。それは、一般に、構成された状況に対して、出力画像PL_Oの最大輝度、すなわち、電光変換回路604によって適用されるEOTFのRHOを決定するための値として、それぞれPL_V_HDR又はPL_Dを使用すべきかどうかを決定する論理プロセッサである(当業者は、いくつかの特定の固定された変形において、状況が、固定された式で構成されてもよいことを理解する)。
最終周囲調節回路605は、以下の式を用いて最終正規化輝度Ln_fを計算することによって、輝度ドメインにおいて線形加法オフセットを実行する。
Ln_f=(Ln_im-(mL_De2/PL_O))/(1-(mL_De2/PL_O)) [式9]
mL_De2は、エンドユーザディスプレイの第2の最小輝度(別名、第2のエンドユーザディスプレイ最小輝度)であり、一般に、第3の最小メタデータ入力部695(中間処理回路を介して照度計に接続される)を介して入力される。それは、mL-Deが、ディスプレイの物理的黒の特性値(mB_fD)をさらに含むが、mL_Deは含まず、表示された画像を劣化させる(例えば反射によって)周囲光の量のみを特徴づける、すなわち、典型的に等しいmB_surのみを特徴づけるという点で、エンドユーザディスプレイの第1の最小輝度mL_Deとは異なる。
最終周囲調節回路605の内部で、mL_De2値は、適用可能なPL_O値、すなわち、例えばPL_Dによって正規化される。
最終的に、ほとんどの変形において、それは、通常の(すなわち、正規化されていない)出力輝度L_oが現れる場合に有利であり、それは次のように計算する乗算器606によって実現される。
L_o=Ln_f*PL_O [式10]
すなわち、出力画像の適用可能な最大輝度で正規化される。
有利には、いくつかの実施形態は、周囲光状況に対してより暗い輝度を調節するだけでなく、ディスプレイの最大輝度の低下に対しても最適化する色処理においてこれを行う。このシナリオでは、輝度マッピング回路602は、適切な計算されたディスプレイ最適化輝度マッピング関数FL_DA(t)を適用し、それは、一般に、ディスプレイ最適化回路670によって輝度マッピング回路602にロードされる。ディスプレイ最適化の特定のやり方は、単にそのような実施形態の可変部分にすぎず、周囲適応要素にとって典型でないことを当業者は理解するが、いくつかの例が図4及び図5を用いて示されている(設定可能なPL_O値の670への入力は、当業者がこれを理解することができるので、図6を過度に複雑にしないために描かれていない)。一般に、ディスプレイ適応は、入力最大輝度と出力最大輝度との間の差が小さいほど関数を対角線に近づける特性を有する、すなわち、出力画像の所望の最大輝度(すなわち、PL_V_MDR=PL_D)が、入力最大輝度(一般に、PL_V_HDRを仮定する)に近いほど、したがって、第2の基準グレーディングの最大輝度(一般に、PL_V_SDR)から遠いほど、関数の形状は平坦になる(すなわち、F_Lと対角線の中間の「より軽い」再グレーディング関数バージョンFL_DA)。ダウングレーディングでは、一般に、凸関数を有するが、それは、より明るい輝度の圧縮を犠牲にして、(いくつかの中間点よりも)暗い輝度が相対的にブーストされることを意味することに留意されたい。そのため、ダウングレーディングでは、FL_DAは、一般に、F_L関数(他方の末端の端部の第2の基準グレーディングへの完全な再グレーディングを行う)未満の最も暗い入力輝度をブーストするためにそれほど急でない傾斜を有する。
以下、画像のコントラストを最適化するための第2の革新が教示され、それは、より明るい周囲で有用である。これらの要素は、様々な実施形態において上述の周囲調節と協力して使用されてもよいが、各革新はまた、他とは切り離して適用されてもよい。
特にコントラストを改善するために入力画像を処理するこの方法は、一般に、対応する二次基準画像の輝度への輝度(又は等価のルマ)マッピングによって再グレーディングの必要性を定義する、入力画像に関連する基準輝度マッピング関数(F_L)を取得するステップから構成される。
入力画像は、一般に、第1のグレーディング基準画像を兼ねる。
出力画像は、一般に、2つの基準グレーディング画像(別名、基準グレーディング)の最大輝度の中間の最大輝度状況に対応し、一般に、対応するMDRディスプレイ(マスタHDR入力画像と比較して中間ダイナミックレンジHDRディスプレイ)に対して計算され、最適化された出力画像の最大輝度の関係は、PL_V_MDRPL_D_MDRである。
ディスプレイ適応(任意の実施形態の)は、通常どおり、より低い最大輝度ディスプレイのディスプレイ適応に適用されるが、ここでは特に異なるやり方で適用される(すなわち、ディスプレイ適応の技術的要素の大部分はそのままであるが、一部が変更される)。
ディスプレイ適応処理は適応輝度マッピング関数(FL_DA)を決定し、それは基準輝度マッピング関数(F_L)に基づく。この関数F_Lは、静的である、すなわち、いくつかの画像に対して同じである(その状況において、例えば、周囲照明が著しく変化する場合、又はユーザ制御動作の際に、FL_DAは依然として変化する)が、経時的に変化することもある(F_L(t))。基準輝度マッピング関数(F_L)は、一般に、コンテンツ作成者に由来するが、さらに、ビデオ画像の受信側の装置においてオートマトンを計算する最適な再グレーディング関数に由来してもよい(まさに図6から図8で説明したオフセット決定実施形態と同様に)。
適応された輝度マッピング関数(FL_DA)は、出力輝度を得るために入力画像ピクセルルマに適用される。
既存のディスプレイ適応との重要な差は(一方、メトリックの定義、すなわち、様々な最大輝度を見つけるための数学と、メトリックの方向とは同じである;例えば、メトリックは、1に正規化されたYn_CC0ルマに対応する対角線上の任意の位置に1つの点を有することによってスケーリングされ、他の点は、F_L関数の軌跡上のどこかにある、例えば、垂直方向上方にある場合、それは、メトリック位置決め終点の他方の座標が関数F_Lへの入力Yn_CC0ルマであるときのF_Lの出力ルマ又は輝度に対応する)、今では、適応輝度マッピング関数(FL_DA)を得るためのメトリック(より正確には、F_L関数の形状によるそのすべてのスケーリングされたバージョン)上の位置が、必要とされる出力画像の最大値(一般に、PL_V_MDR)ではなく、調節された最大輝度値(PL_V_CO)に基づいて計算されることである。
この調節された最大輝度値(PL_V_CO)は、
周囲照明値(Lx_sur)を取得することと、
基準照明値(GenVwLx)を周囲照明値(Lx_sur)で除算することによって相対的周囲光レベル(SurMult)を取得することと、
出力最大輝度(PL_V_MDR)に相対的周囲光レベル(SurMult)を乗算した結果として最大輝度値(PL_V_CO)を取得することと
によって決定される。
周囲照明値(Lx_sur)は様々なやり方で得られる、例えば、視聴者は、それをテストパターンの視認性をチェックすることによって経験的に決定するが、それは、一般に、照度計902による測定からもたらされ、照度計902は、一般に、ディスプレイに対して適切に配置される(例えば、ベゼル縁部にあり、スクリーン正面プレートとほぼ同じ方向を向いているか、又は携帯電話の側面に一体化される、など)。
基準周囲値GenVwLxは、さらに、様々なやり方で決定されるが、典型的なターゲット視聴状況に対して妥当な(「平均」の)周囲照明であると予想されるものと関連するので一般に固定される。
テレビジョンディスプレイ視聴の場合、これは、一般に、視聴室である。
リビングルームの実際の照明は、例えば、視聴者が、日中に見ているか又は夜間に見ているか、さらに、どの部屋構成で見ているか(例えば、小さい又は大きい窓があるか、及びディスプレイが窓と比較してどのように位置づけられているか、又は夜にはムードランプが使用されているか、又は家族の別のメンバが十分な照明の量を必要とする精密な作業をしているか)に応じてかなり変化する。
例えば、昼間でさえ、雹を伴う嵐がやって来るため、突然、空が著しく暗くなる場合、屋外の照明は、200lux(lx)と低く、屋内では、自然照明からの光レベルは、一般に、100分の1と低く、そのため、屋内では、それはわずかに2lxである。これは、夜間の外観(日中では特に奇妙である)をもち始め、そのため、これは、多くのユーザが、一般に、快適さのために少なくとも1つのランプをオンにし、実際上再びレベルを引き上げるという事柄である。通常の屋外レベルは、冬の10,000lxから夏の100,000lxであり、そのため、50倍以上明るい。
しかし、他の視聴者は、例えば、ホラー映画をより怖いものとして楽しみ、及び/又は暗いシーンをよりよく見るために、暗いところでビデオ(特に、HDRビデオ)を見ることが都合がよいと思う場合がある。
中世では一般的であったが、1本のろうそくの照明は、今日では、下限である。その理由は、単に、都市居住者にとって、そのようなレベルでは、より多くの光が街の明かりのような屋外ランプから漏れてくるからである。使用されるカンデラは一般的なろうそくの明度として定義されており、そのため、表面をろうそくから1メートル離して置く場合、1lxを得ることになり、それは、依然として物を見ることをできるようにするが、例えば、紙上のテキストは非常に読みにくい(参考までに、1lxはまた、屋外での月に照らされたシーンの典型的なものである)。そこで、5メートル幅の部屋をいくつかのろうそくで照らす場合、そのレベルの照明が達成される。単一の40W白熱電球でさえ、既に、ろうそくよりも約40倍の明度を作り出し、そのため、ほとんどの視聴者にとって、1個又は2、3個のそのようなランプは、より一般的な周囲光レベルになる。そのため、あまり多くない(大気)光で見るにはk*10lxのようなものを期待することができる。しかしながら、ビデオは、日中にも適切に視聴できるように定義されており、その場合、照明は、n*50lxである(例えば、200Wの電球セットが約2メートル離れて置かれている場合、約3000/50luxを得る;キッチンでレシピの表示を見る場合、切るような料理作業を安全に実行するには約3倍高い光レベルを必要とする)。
モバイル/屋外の状況では、例えば、列車の窓の近くに座っているとき、又は木の下で影の中に座っている、などのときに、光レベルはより高い。そのとき、光レベルは、例えば1000lxである。限定するつもりはないが、テレビジョン番組のビデオ視聴のためのGenVwLxの良好な値は100luxであると仮定する。
光センサがLx_sur=550luxを測定すると仮定する。
次いで、相対的周囲光レベルは、次のように計算される。
SurMult=GenVwLx/Lx_sur=100/550=0.18. [式11]
次いで、1000nitのMDRディスプレイに対する調節された最大輝度値PL_V_COは次の通りである。
PL_V_CO=PL_D*SurMult=1000*0.18=180nit [式12]
実施形態において、これは、自動コントラスト補正が強すぎるか又は逆に弱すぎると自分の中で思うユーザによってさらに制御される(当然、自動設定は、いくつかのシステム及び/又は状況において、視聴者を過度に煩わさないために好ましい)。
この場合、ディスプレイ適応は、ディスプレイ適応プロセスにおいて、調節された最大輝度値PL_V_COに対して(すなわち、その代わりに)、ユーザ調節された最大輝度値(PL_V_CO_U)を使用し、それは、一般に、
PL_V_CO_U=PL_V_CO*UCBval [式13]
によって定義される。
ユーザ制御値UCBValは、適切にスケーリングされたユーザ入力によって制御される、例えば、スライダ設定(UCBSliVal、例えば、零補正の近くで対称的に低下するか、又は零補正で開始する、など)は、スライダが最大であるとき、ユーザが、例えば、すべての暗い画像領域がほとんど明るいHDR白のように見えるように、コントラストを途方もなく変化させないようなやり方でスケーリングされる。
そのために、装置(例えば、ディスプレイ)製造業者は、適切な強度値(EXCS)を事前設計し、そのとき、式は、
UCBVal=PL_D*UCBSliVal*EXCS [式14]
である。
例えば、100%を10%の追加の最大輝度ベースコントラスト変化に対応させたい場合、以下を得る。
PL_D*1*EXCS=0.1*PL_D、それゆえ、EXCS=0.1など(0.75の値が、特定の実施形態では良好であることが見いだされた)。
図9は、典型的な装置構成における可能な実施形態要素を示す。
出力画像を得るために入力画像を処理するための装置(別名、周囲最適化ディスプレイ最適化装置)900は、入力画像に関連するメタデータである基準輝度マッピング関数(F_L)を受け取るためのデータ入力部(920)を有する。この関数は、再び、第1の基準画像の輝度と第2の基準画像の輝度との関係を指定する。これらの2つの画像は、再び、いくつかの実施形態では、ビデオの作成者によってグレーディングされ、例えば、衛星テレビ放送を介して、メタデータとしてビデオ自体と共同通信されている。しかしながら、適切な再グレーディング輝度マッピング関数F_Lはまた、受信側装置、例えば、テレビジョンディスプレイ内の再グレーディングオートマトンによって決定される。関数は、時間とともに変化する(F_L(t))。
入力画像は、一般に、第1の基準グレーディングとして機能し、それに基づいて、ディスプレイ最適化画像及び環境最適化画像が決定され、それは、一般に、HDR画像である。ディスプレイ適応出力画像の最大輝度(すなわち、出力最大輝度PL_V_MDR)は、一般に、2つの基準画像の最大輝度の間に入る。
装置は、一般に、ディスプレイ、すなわち、視聴するための最適化画像が供給されているディスプレイに当たる周囲環境の光の量を決定するように構成された照度計(902)を含むか、又は同等に接続される。視聴環境からのこの照明の量は、luxの単位である周囲照明値(Lx_sur)として表され、又はディビジョンで使用されるようにnit単位の等価輝度として表される。
ディスプレイ適応回路510は適応輝度マッピング関数(FL_DA)を決定するように構成され、それは基準輝度マッピング関数(F_L)に基づく。それはまた、実際には、ピクセル色処理も行い、そのため、上述の色変換器202と同様の輝度マッパ(915)を含む。色処理も関係する。構成プロセッサ511は、現在の画像のピクセルごとの処理を実行する前に、使用すべき(周囲最適化)輝度マッピング関数の実際の決定を行う。そのような入力画像(513)は、画像入力部(921)、例えばICピンを介して受け取られ、画像入力部(921)自体は、装置への画像供給源、例えばHDMI(登録商標)ケーブル、などに接続される。
適応輝度マッピング関数(FL_DA)は、上述のディスプレイ適応アルゴリズムの変形に従って、基準輝度マッピング関数F_L及び最大輝度の値に基づいて決定されるが、ここでは、最大輝度は、接続されたディスプレイの典型的な最大輝度(PL_D)ではなくて、視聴環境の光量(及び潜在的にさらなるユーザ補正)に合わせて調節された、特別に調節された最大輝度値(PL_V_CO)である。輝度マッパは、適応輝度マッピング関数(FL_DA)を入力ピクセル輝度に適用して、出力輝度を得る。
調節された最大輝度値(PL_V_CO)を計算するために、装置は、最大輝度決定ユニット(901)を含み、最大輝度決定ユニット(901)は、ディスプレイ適応回路510に接続されて、この調節された最大輝度値(PL_V_CO)をディスプレイ適応回路(510)に供給する。
この最大輝度決定ユニット(901)は、メモリ905から基準照明値(GenVwLx)を取得する(例えば、この値は、装置製造業者によって事前格納されるか、又はどのタイプの画像が入ってくるかに基づいて選択可能であるか、又は画像と共同通信される典型的な意図された周囲メタデータとともにロードされる、など)。それは、さらに、最大輝度(PL_V_MDR)を取得し、最大輝度(PL_V_MDR)は、例えば、ディスプレイに格納された固定値であるか、又は画像を様々なディスプレイに供給することができる装置(例えば、セットトップボックス又は他の画像前処理装置)において設定可能である。
調節された最大輝度値(PL_V_CO)は、最大輝度決定ユニット(901)によって以下のように決定される。 最初に、相対的周囲光レベル(SurMult)が、基準照明値(GenVwLx)を周囲照明値(Lx_sur)で除算することによって取得され、 次いで、調節された最大輝度値(PL_V_CO)が、出力最大輝度(PL_V_MDR)に相対的周囲光レベル(SurMult)を乗算した結果として決定される。
いくつかの実施形態では、ユーザ(視聴者)は、好みに従ってディスプレイ適応の自動周囲最適化をさらに制御する。
それに、ユーザインタフェース制御構成要素904、例えばスライダが結合され、それにより、ユーザは、より高いか又はより低い値、例えばスライダ設定UCBSliValを設定することができる。この値は、ユーザ値回路903に入力され、ユーザ値回路903は、式14で計算されるユーザ制御値UCBValを最大輝度決定ユニット901に通信する(PL_D=PLV_MDR)。
図10は、特定の輝度マッピング関数F_Lによる処理の一例を示す。基準マッピング関数(1000)は、単純な輝度アイデンティティ変換、すなわち、600nitの最大ディスプレイ能力より上をクリッピングするものであると仮定する。輝度マッピングは、ここで、式3に従って計算可能である等価な心理視覚的に均一化されたルマのプロットで表される入力正規化ルマYn_iは、HDR入力輝度に対応し、それは1000nit最大輝度HDR画像である(すなわち、PL_V_HDR=1000nitのRHOが式に使用される)と仮定する。出力正規化ルマYn_oについて、600nitの例示的なディスプレイを仮定し、それゆえに、出力正規化ルマYn_oは、600nitに対応するRHO値を使用することによって輝度に再変換される。便宜のため、右側及び上側に、ルマ位置に対応する輝度がある。したがって、この選択されたF_L基準マッピング関数1000は、視覚的に均一化されたルマドメインにおいて等圧縮を実行する。(周囲)適応輝度マッピング関数FL_DAが、曲線1001として示される。一方、オフセットBkoが見られ、それは、特に、ディスプレイのリークブラック(leak black)に依存する。他方、主として最も暗い黒をブーストする湾曲が見られるが、それは、非線形の心理視覚的に均一化されたルマドメインにおける処理の残りの影響に起因する。
図11は、コントラストブースティングの実施形態の一例を示す(周囲照明のオフセットはゼロに設定されているが、前記ように、両方の処理が組み合わされる)。相対的に正規化された心理視覚的に均一化されたルマドメインにおいて輝度マッピングを変更する場合、この相対的ドメインは、値ゼロから始まる。マスタHDR画像は、ある黒値で始まるが、少ない出力では、黒オフセットを使用してこれをゼロ(又はディスプレイの最小黒に、注:ディスプレイは、より暗い入力の様々な挙動、例えばクリッピングを有することがあり、そのため、真のゼロをそこに置くことができる)にマッピングする。
修正されたディスプレイ適応を使用する場合、黒ゼロ入力は、一般に、調節された最大輝度値(PL_V_CO)の値が何であっても、黒ゼロにマッピングする。一般に、出力ルマのゼロ点は、仮想の黒レベルmL_VD(理想的には)、又は実際のエンドユーザディスプレイの最小黒mB_fDで始まるが、いずれにしても、最も暗い色に明度の差があり、それは、夜景のような暗いピクチャに、より良好な可視コントラストをもたらす(入力輝度ヒストグラム1010は、出力ルマの正規化ルマ軸上で出力輝度ヒストグラム1011として伸ばされ、それは、より低いPL_V_MDR=PL_D=600nitにもかかわらず、十分な画像コントラストを与える)。2つの方法が組み合わされる場合、適切な黒レベルオフセットBkoを得るためのすべて処理は、図6などで説明した処理に最適に移される(すなわち、ゼロで始まる画像とゼロで始まる関数とを用いて、調節されたコントラスト処理を行うことができる)。実際には、ゼロが実際に入力画像で生じるかどうかにかかわらず、ディスプレイ適応輝度(ルマ)マッピングが単純にとにかく生じるので、ゼロから始まるF_L曲線を常に単純に定義する(ゼロHDR輝度又はルマを、ゼロ出力輝度又はルマにマッピングする)。
別の実施形態では、照度計が存在せず、ユーザ制御(904、903)のみが存在することに留意されたい。そのとき、この実施形態は、式13のPL_V_COの自動的周囲補正が存在しないかのように、ユーザ入力に基づいてコントラストを変化させる。そのとき、エンドユーザディスプレイの最大輝度PL_Dは、式15に従って中立点として機能する。
PL_V_CO_U=PL_D*UCBval [式15]
本明細書で開示されるアルゴリズム構成要素は、実際には、ハードウェア(例えば、特定用途向けICの一部)として、又は専用のデジタル信号プロセッサ若しくは汎用プロセッサなどで動作するソフトウエアとして(全面的に又は部分的に)実現される。
どの構成要素が、オプションの改善であり、他の構成要素と組み合わせて実現されるか、及び方法の(オプションの)ステップが装置のそれぞれの手段に、及びその逆も同様にどのように対応するかが発明者らの提示から当業者には理解可能であるはずである。本出願における「装置」という語は、最も広い意味で、すなわち、特定の目的の実現を可能にする一群の手段で使用され、したがって、例えば、IC(の小さい回路部分)、又は専用機器(ディスプレイをもつ機器など)、又はネットワーク化システムの一部、などである。「アレンジメント」は、さらに、最も広い意味で使用されるように意図されており、そのため、とりわけ、単一の装置、装置の一部、協働する装置(の一部)の集合、などを含む。
コンピュータプログラム製品の意味は、汎用プロセッサ又は専用プロセッサが、一連のローディングステップ(中間変換ステップ、例えば、中間言語及び最終プロセッサ言語への変換などを含む)の後、コマンドをプロセッサに入力するために、及び発明の特徴的な機能のいずれかを実行することを可能にするコマンドの集合の任意の物理的な実現を包含すると理解されるべきである。特に、コンピュータプログラム製品は、例えばディスク又はテープなどの担体上のデータ、メモリ内にあるデータ、ネットワーク接続(有線又は無線)を介して移動するデータ、又は紙上のプログラムコードとして実現される。プログラムコードとは別に、プログラムで必要とされる特徴データが、さらに、コンピュータプログラム製品として具現化されてもよい。
方法の動作で必要とされるステップの一部は、データ入力及び出力ステップなどのコンピュータプログラム製品に記述されるものの代わりに、プロセッサの機能に既に存在していてもよい。
上記の実施形態は、本発明を限定するのではなく例示するものであることに留意されたい。当業者が、提示された例を特許請求の範囲の他の領域にマッピングすることを容易に実現することができる場合、簡潔にするために、すべてのこれらのオプションを詳細に述べてはいない。特許請求の範囲において組み合わされているような本発明の要素の組合せとは別に、要素の他の組合せが可能である。要素の任意の組合せは、単一の専用の要素で実現されてもよい。
請求項における括弧内の任意の参照符号は、請求項を限定することを意図するものではない。「含む、備える、有する)」という語は、請求項に列挙されていない要素又は態様の存在を排除しない。単数形の要素は、複数のそのような要素の存在を排除しない。

Claims (9)

  1. 出力画像を取得するために入力画像を処理する方法であって、前記方法は、
    前記入力画像のピクセルに対して開始ルマを取得するステップであって、前記開始ルマが、光電伝達関数を介して入力輝度に関連する、取得するステップと、
    ターゲットディスプレイの最小輝度を取得するステップであって、前記ターゲットディスプレイがエンドユーザディスプレイに対応し、前記エンドユーザディスプレイは、前記出力画像を表示するために前記出力画像が供給され得る、取得するステップと、
    視聴室において前記エンドユーザディスプレイの第1の最小輝度を取得するステップであって、前記エンドユーザディスプレイの前記第1の最小輝度が前記視聴室の照明の量に依存する、取得するステップと、
    前記ターゲットディスプレイの前記最小輝度から前記エンドユーザディスプレイの前記第1の最小輝度を減算することによって差を計算するステップと、
    前記差を前記光電伝達関数への入力として前記光電伝達関数に適用することによって、前記差をルマ差に変換するステップであって、それにより、前記ルマ差が出力としてもたらされる、変換するステップと、
    -1.0を乗算した前記ルマ差を加法定数として適用し、値1.0だけ増加させた前記ルマ差を乗数として使用して前記開始ルマを乗算する線形関数を適用することによって前記開始ルマをマッピングするステップであって、それにより、マップされたルマがもたらされる、マッピングするステップと、
    正規化された中間輝度を取得するために前記光電伝達関数の逆数を適用することによって前記マップされたルマを変換するステップと、
    最終正規化輝度を取得するために、エンドユーザディスプレイの第2の最小輝度を前記出力画像の最大輝度で除算したものを前記中間輝度から減算し、前記減算したものを、エンドユーザディスプレイの前記第2の最小輝度を前記出力画像の前記最大輝度で除算した結果を1.0から減算したものでスケーリングするステップと、
    出力輝度を取得するために、前記最終正規化輝度に前記出力画像の前記最大輝度を乗算するステップと、
    前記出力画像のピクセルの色表現で前記出力輝度を出力するステップと
    を有する、方法。
  2. 前記出力画像の前記最大輝度を、前記出力画像を表示することができるエンドユーザディスプレイの最大輝度、又は前記入力画像の最大輝度のいずれかとして決定するステップを有する、請求項1に記載の方法。
  3. 基準輝度マッピング関数及びエンドユーザディスプレイの最大輝度に基づいて、ディスプレイ最適化輝度マッピング関数を計算するためのディスプレイ最適化のステップと、
    前記入力画像のピクセルの入力ルマを前記開始ルマである出力ルマにマッピングするために前記ディスプレイ最適化輝度マッピング関数を使用するステップと
    を有し、
    前記ディスプレイ最適化輝度マッピング関数が、前記基準輝度マッピング関数の傾斜と比較して、最も暗い入力ルマに対して急でない傾斜を有し、
    前記基準輝度マッピング関数が、それぞれの第1の基準最大輝度及び第2の基準最大輝度を有する第1の基準画像の輝度と第2の基準画像の輝度との間の関係を指定し、エンドユーザディスプレイの前記最大輝度が、前記第1の基準最大輝度と前記第2の基準最大輝度との間に入る、請求項1又は2に記載の方法。
  4. 前記第2の基準画像は、その第2の基準最大輝度が100nitに等しい標準ダイナミックレンジ画像である、請求項3に記載の入力画像を処理する方法。
  5. 前記ディスプレイ最適化輝度マッピング関数を計算するステップが、最大輝度値の位置を決定するメトリック上の位置を見つけるステップであって、その位置がエンドユーザディスプレイの前記最大輝度に対応する、見つけるステップを有し、
    前記メトリックの第1の端点が、前記入力画像の第1の最大輝度に対応し、前記メトリックの第2の端点が、前記第2の基準画像の前記最大輝度に対応し、
    前記メトリックの前記第1の端点が、任意の正規化入力ルマに対して、前記正規化入力ルマに等しい水平及び垂直座標を有する対角線上の点に配置され、
    前記第2の端点が、前記メトリックの方向によって決定される前記基準輝度マッピング関数の出力値と連結される、請求項3に記載の方法。
  6. 出力画像を取得するために入力画像を処理するための装置であって、前記装置は、
    開始ルマを取得するための入力回路と、
    ターゲットディスプレイの最小輝度を受け取るための第1の最小メタデータ入力部であって、前記ターゲットディスプレイがエンドユーザディスプレイに対応し、前記エンドユーザディスプレイは、前記出力画像を表示するために前記出力画像が供給され得る、第1の最小メタデータ入力部と、
    視聴室において前記エンドユーザディスプレイの第1の最小輝度を受け取るための第2の最小メタデータ入力部であって、前記エンドユーザディスプレイの前記第1の最小輝度が前記視聴室の照明の量に依存する、第2の最小メタデータ入力部と、
    前記ターゲットディスプレイの前記最小輝度から前記エンドユーザディスプレイの前記第1の最小輝度を減算することによって差を計算するための輝度差計算器と、
    前記差を光電伝達関数への入力として前記光電伝達関数に適用することによって、前記差をルマ差に変換するための第2の光電変換回路であり、それにより、前記ルマ差が出力としてもたらされる、第2の光電変換回路と、
    -1.0を乗算した前記ルマ差を加法定数として適用し、値1.0だけ増加させた前記ルマ差を乗数として使用して前記開始ルマを乗算する線形関数を適用することによって前記開始ルマをマッピングするための線形スケーリング回路であって、それにより、マップされたルマがもたらされる、線形スケーリング回路と、
    正規化された中間輝度を取得するために前記光電伝達関数の逆数を適用することによって前記マップされたルマを変換するための電光変換回路と、
    前記エンドユーザディスプレイの第2の最小輝度を受け取るための第3の最小メタデータ入力部と、
    最終正規化輝度を取得するために、エンドユーザディスプレイの第2の最小輝度を前記出力画像の最大輝度で除算したものを前記中間輝度から減算し、前記減算したものを、エンドユーザディスプレイの前記第2の最小輝度を前記出力画像の前記最大輝度で除算した結果を1.0から減算したものでスケーリングするための最終周囲調節回路と、
    出力輝度を取得するために前記最終正規化輝度に前記出力画像の前記最大輝度を乗算するための乗算器と、
    前記出力画像のピクセルの色表現で前記出力輝度を出力するためのピクセル色出力部と
    を含む、装置。
  7. 前記出力画像の前記最大輝度を、前記出力画像を表示することができるエンドユーザディスプレイの最大輝度、又は前記入力画像の最大輝度のいずれかとして決定するための最大決定回路を含む、請求項に記載の装置。
  8. 基準輝度マッピング関数及びエンドユーザディスプレイの最大輝度に基づいて、ディスプレイ最適化輝度マッピング関数を計算するためのディスプレイ最適化回路と、
    前記開始ルマである出力ルマを取得するために、前記ディスプレイ最適化輝度マッピング関数を入力ルマに適用するための輝度マッピング回路と
    を含み、
    前記ディスプレイ最適化輝度マッピング関数が、前記基準輝度マッピング関数の傾斜と比較して、最も暗い入力輝度に対して急でない傾斜を有し、
    前記基準輝度マッピング関数が、それぞれの第1の基準最大輝度及び第2の基準最大輝度を有する第1の基準画像の輝度と第2の基準画像の輝度との間の関係を指定し、エンドユーザディスプレイの前記最大輝度が、前記第1の基準最大輝度と前記第2の基準最大輝度との間に入る、請求項6又は7に記載の装置。
  9. 前記第2の基準画像は、その第2の基準最大輝度が100nitに等しい標準ダイナミックレンジ画像である、請求項に記載の装置。
JP2023568027A 2021-05-07 2022-04-29 ディスプレイに最適化された環境光hdrビデオ適応 Active JP7809138B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP21172649.2A EP4086841A1 (en) 2021-05-07 2021-05-07 Display-optimized ambient light hdr video adaptation
EP21172649.2 2021-05-07
PCT/EP2022/061503 WO2022233728A1 (en) 2021-05-07 2022-04-29 Display-optimized ambient light hdr video adaptation

Publications (3)

Publication Number Publication Date
JP2024517242A JP2024517242A (ja) 2024-04-19
JP2024517242A5 JP2024517242A5 (ja) 2025-01-08
JP7809138B2 true JP7809138B2 (ja) 2026-01-30

Family

ID=75870402

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023568027A Active JP7809138B2 (ja) 2021-05-07 2022-04-29 ディスプレイに最適化された環境光hdrビデオ適応

Country Status (5)

Country Link
US (1) US12541830B2 (ja)
EP (2) EP4086841A1 (ja)
JP (1) JP7809138B2 (ja)
CN (1) CN117280381A (ja)
WO (1) WO2022233728A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN119212173B (zh) * 2024-08-30 2025-10-03 广州广日股份有限公司研究院 智慧路灯照明系统、路灯照明智能控制装置及其控制方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190304379A1 (en) 2016-12-22 2019-10-03 Dolby Laboratories Licensing Corporation Ambient light-adaptive display management
WO2021004839A1 (en) 2019-07-09 2021-01-14 Koninklijke Philips N.V. Adjustment of display optimization behaviour for hdr images
US20210096023A1 (en) 2019-09-27 2021-04-01 Apple Inc. Ambient Headroom Adaptation

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN100493142C (zh) * 2005-03-29 2009-05-27 松下电器产业株式会社 图像显示装置及图像显示方法
RU2670782C9 (ru) 2013-07-18 2018-11-23 Конинклейке Филипс Н.В. Способы и устройства для создания функций отображения кода для кодирования изображения hdr и способы и устройства для использования таких кодированных изображений
DK3231174T3 (da) * 2014-12-11 2020-10-26 Koninklijke Philips Nv Optimering af billeder med højt dynamikområde til bestemte displays
EP3231174B1 (en) 2014-12-11 2020-08-26 Koninklijke Philips N.V. Optimizing high dynamic range images for particular displays
CA2915650C (en) * 2014-12-25 2019-02-12 Casio Computer Co., Ltd. Diagnosis support apparatus for lesion, image processing method in the same apparatus, and medium storing program associated with the same method
WO2017157977A1 (en) 2016-03-18 2017-09-21 Koninklijke Philips N.V. Encoding and decoding hdr videos
JP7061073B6 (ja) * 2016-03-18 2022-06-03 コーニンクレッカ フィリップス エヌ ヴェ Hdrビデオの符号化及び復号
EP3451677A1 (en) * 2017-09-05 2019-03-06 Koninklijke Philips N.V. Graphics-safe hdr image luminance re-grading

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190304379A1 (en) 2016-12-22 2019-10-03 Dolby Laboratories Licensing Corporation Ambient light-adaptive display management
WO2021004839A1 (en) 2019-07-09 2021-01-14 Koninklijke Philips N.V. Adjustment of display optimization behaviour for hdr images
US20210096023A1 (en) 2019-09-27 2021-04-01 Apple Inc. Ambient Headroom Adaptation

Also Published As

Publication number Publication date
JP2024517242A (ja) 2024-04-19
US12541830B2 (en) 2026-02-03
EP4086841A1 (en) 2022-11-09
EP4334890A1 (en) 2024-03-13
US20240273692A1 (en) 2024-08-15
CN117280381A (zh) 2023-12-22
WO2022233728A1 (en) 2022-11-10
EP4334890B1 (en) 2024-11-20

Similar Documents

Publication Publication Date Title
US11949921B2 (en) Methods and apparatuses for encoding an HDR images, and methods and apparatuses for use of such encoded images
JP6596125B2 (ja) Hdrイメージの符号化のためのコードマッピング関数を作成するための方法及び装置、並びに、かかる符号化イメージの使用のための方法及び装置
JP7313285B2 (ja) 復号された高ダイナミックレンジ画像の彩度を最適化すること
RU2723676C2 (ru) Обработка множественных источников изображения hdr
US12462360B2 (en) Display-optimized HDR video contrast adaptation
JP7809138B2 (ja) ディスプレイに最適化された環境光hdrビデオ適応
US12462359B2 (en) Display-optimized HDR video contrast adaptation
JP7843778B2 (ja) コンテンツに最適化された周囲光hdrビデオ適応
JP2025540194A (ja) 知覚的に均一な電気光伝達関数のための画像明度調整

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241224

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20241224

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20241224

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250401

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250603

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250909

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20251010

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20251222

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20260120

R150 Certificate of patent or registration of utility model

Ref document number: 7809138

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150