Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6825568B2 - 画像処理装置及び画像処理方法 - Google Patents
[go: Go Back, main page]

JP6825568B2 - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法 Download PDF

Info

Publication number
JP6825568B2
JP6825568B2 JP2017541465A JP2017541465A JP6825568B2 JP 6825568 B2 JP6825568 B2 JP 6825568B2 JP 2017541465 A JP2017541465 A JP 2017541465A JP 2017541465 A JP2017541465 A JP 2017541465A JP 6825568 B2 JP6825568 B2 JP 6825568B2
Authority
JP
Japan
Prior art keywords
display
signal
gamma
image
conversion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2017541465A
Other languages
English (en)
Other versions
JPWO2017051612A1 (ja
Inventor
俊也 浜田
俊也 浜田
金井 健一
健一 金井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2017051612A1 publication Critical patent/JPWO2017051612A1/ja
Application granted granted Critical
Publication of JP6825568B2 publication Critical patent/JP6825568B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/20Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/10Intensity circuits
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/02Improving the quality of display appearance
    • G09G2320/0271Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping
    • G09G2320/0276Adjustment of the gradation levels within the range of the gradation scale, e.g. by redistribution or clipping for the purpose of adaptation to the characteristics of a display device, i.e. gamma correction
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0626Adjustment of display parameters for control of overall brightness
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/0673Adjustment of display parameters for control of gamma adjustment, e.g. selecting another gamma curve
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2360/00Aspects of the architecture of display systems
    • G09G2360/16Calculation or use of calculated indices related to luminance levels in display data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/82Camera processing pipelines; Components thereof for controlling camera response irrespective of the scene brightness, e.g. gamma correction

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Picture Signal Circuits (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Transforming Electric Information Into Light Information (AREA)
  • Processing Of Color Television Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本開示は、画像処理装置及び画像処理方法に関する。
現在、ITU−R(International Telecommunication Union-Radio communications sector)では、映像信号の輝度ダイナミックレンジを従来のSDR(Standard Dynamic Range)から拡張するための議論が進められている。拡張後のダイナミックレンジは、EIDRTV(Extended Image Dynamic Range Television)、又はより簡易にHDR(High Dynamic Range)と呼ばれる。ITU−Rにおける最新のステータスでは、HDR映像信号の信号方式として、Application−1及びApplication−2という2つの方式が共に勧告案に含まれる見込みである。
Application−1は、撮影環境の輝度の絶対値を表現できるようにすることを目的とした、PQ(Perceptual Quantizer)−EOTF(Electro-Optical Transfer
Function)に基づく信号方式である(非特許文献1参照)。Application−2は、基準白色よりも低い輝度レベルにおけるガンマ曲線と、基準白色よりも高い輝度レベルにおける対数曲線とを組合せたHLG(Hybrid Log-Gamma)曲線で相対的な輝度レベルを表現する信号方式である(非特許文献2参照)。Application−1では最大で1万cd/mの絶対輝度を表示することができ、一方でApplication−2では最大で基準白色の12倍(ヘッドルームを使用する場合には20倍)の相対輝度を表示することができる。
ITU−R Application−1は、ITU−Rとは異なる標準化団体であるSMPTE(Society of Motion Picture and Television Engineers)により策定されたST2084と同じ方式である。SMPTE ST2084に類似する他の信号方式も存在する(非特許文献3参照)。
Society of Motion Picture and Television Engineers,「High Dynamic Range Electro-Optical Transfer Function of Mastering Reference Displays」,ST 2084:2014,2014,[online],[2015年9月9日検索],インターネット<URL: http://standards.smpte.org/content/978-1-61482-829-7/st-2084-2014/SEC1> Association of Radio Industries and Businesses,「ESSENTIAL PARAMETER VALUES FOR THE EXTENDED IMAGE DYNAMIC RANGE TELEVISION (EIDRTV) SYSTEM FOR PROGRAMME PRODUCTION ARIB STANDARD」,ARIB STD-B67 Version 1.0,July 3, 2015,[online],[2015年9月9日検索],インターネット<URL: http://www.arib.or.jp/english/html/overview/doc/2-STD-B67v1_0.pdf> Philips International B.V.,「Philips HDR technology-white paper, hdr」,Version 0.1,2015-08-21,[online],[2015年9月9日検索],インターネット<URL: http://www.ip.philips.com/data/downloadables/1/9/7/9/philips_hdr_white_paper.pdf>
しかしながら、ディスプレイのピーク輝度は、HDR信号方式の輝度ダイナミックレンジの上限とは異なることが多い。映像信号に含まれる1つ以上の画素の輝度がディスプレイのピーク輝度を上回る場合には、クリッピングの結果として、再生される映像内でいわゆる白とびが発生する。最大輝度がディスプレイのピーク輝度を下回る場合には、ディスプレイの性能が最大限活用されないことになる。こうしたレンジの不一致を解消するための簡易な手法の1つは、ゲインの乗算によって輝度レベルを調整することである。しかし、単なるゲインの乗算は、固定的に扱われるべき基準点の輝度レベルまでをも変化させてしまう。
従って、HDR映像信号のダイナミックレンジとディスプレイのピーク輝度との不一致に関わる上述した不都合を解消し又は少なくとも軽減する新たな仕組みが提供されることが望ましい。
本開示によれば、基準白色の表示輝度レベルを固定的に扱う信号方式に基づく画像信号を、ディスプレイのピーク輝度レベルに基づいて決定されるパラメータを用いて、前記基準白色の表示輝度レベルが維持されるようにガンマ変換することにより、表示用信号へと変換する変換部、を備える画像処理装置が提供される。
また、本開示によれば、画像処理装置により実行される画像処理方法であって、基準白色の表示輝度レベルを固定的に扱う信号方式に基づく画像信号を、ディスプレイのピーク輝度レベルに基づいて決定されるパラメータを用いて、前記基準白色の表示輝度レベルが維持されるようにガンマ変換することにより、表示用信号へと変換すること、を含む画像処理方法が提供される。
本開示に係る技術によれば、HDR映像信号のダイナミックレンジとディスプレイのピーク輝度との不一致に関わる不都合を解消し又は少なくとも軽減することができる。
なお、上記の効果は必ずしも限定的なものではなく、上記の効果と共に、又は上記の効果に代えて、本明細書に示されたいずれかの効果、又は本明細書から把握され得る他の効果が奏されてもよい。
映像信号の変換特性の概略について説明するための説明図である。 ITU−R Application−2のOETFについて説明するための説明図である。 ITU−R Application−2のOOTFについて説明するための説明図である。 輝度ダイナミックレンジをディスプレイのピーク輝度へ適応させるためのいくつかの手法の例について説明するための説明図である。 一実施形態に係る画像処理装置の構成の一例を示すブロック図である。 基準白色(RW)固定ガンマ変換のグラフを表している。 線形変換のグラフを表している。 ピーク固定ガンマ変換のグラフを表している。 RW固定ガンマ変換に従ってOOTFが変化する様子を示す第1の説明図である。 RW固定ガンマ変換に従ってOOTFが変化する様子を示す第2の説明図である。 RW固定ガンマ変換に従ってOOTFが変化する様子を示す第3の説明図である。 線形変換及びピーク固定ガンマ変換に従ってOOTFが変化する様子を示す説明図である。 図8Aの低輝度領域を拡大した図である。 BT.1886でのSDR表示におけるOOTFについて説明するための説明図である。 一実施形態に係る画像変換処理の流れの一例を示すフローチャートである。 図10に示したRW維持ガンマ変換処理の流れの第1の例を示すフローチャートである。 図10に示したRW維持ガンマ変換処理の流れの第2の例を示すフローチャートである。 図10に示したRW維持ガンマ変換処理の流れの第3の例を示すフローチャートである。 図10に示した線形変換処理の流れの一例を示すフローチャートである。 HLG映像を記録し及び再生する手法の一例について説明するための説明図である。 一実施形態に係る記録処理の流れの一例を示すフローチャートである。 一実施形態に係る再生処理の流れの第1の例を示すフローチャートである。 一実施形態に係る再生処理の流れの第2の例を示すフローチャートである。 装置のハードウェア構成の一例を示すブロック図である。 テレビジョン装置の概略的な構成の一例を示すブロック図である。 携帯電話機の概略的な構成の一例を示すブロック図である。 記録再生装置の概略的な構成の一例を示すブロック図である。 撮像装置の概略的な構成の一例を示すブロック図である。
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、以下の順序で説明を行う。
1.関連技術の説明
1−1.映像信号の変換特性
1−2.HDR映像信号の信号方式の例
1−3.ディスプレイピークへの適応
2.画像処理装置の構成例
2−1.画像取得部
2−2.変換部
2−3.制御部
3.処理の流れ
3−1.画像変換処理
3−2.RW維持ガンマ変換処理
3−3.線形変換処理
4.HLG映像の記録及び再生
4−1.HLG映像の認識
4−2.処理の流れ
4−3.補足的なストリームの扱い
5.ハードウェア構成例
6.応用例
7.まとめ
<1.関連技術の説明>
まず、図1〜図4を用いて、本開示に関連する技術について説明する。
[1−1.映像信号の変換特性]
図1は、映像信号の変換特性の概略について説明するための説明図である。図1には、撮影装置10、ネットワーク20、記録装置30及び表示装置50が示されている。撮影装置10は、撮影環境において被写体を撮影して、映像信号を生成する。より具体的には、撮影装置10は、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)といった光電変換素子(イメージセンサ)の配列を有し、撮影環境から入射する光を電気信号へと変換する。光から電気信号への変換の特性は、OETF(Opto-Electronic Transfer Function;光電気伝達関数)でモデル化される。OETFが線形関数であれば、電気信号の電圧レベルは素子ごとの受光量に比例する。但し、ITU−Rにより策定された標準仕様であるBT.709又はBT.2020のOETFは非線形であり、例えば全体的なガンマ値が0.45で、低輝度領域においてのみ線形性を有する。
撮影装置10は、一連のフレームの画像信号と制御信号とを含む映像信号を、ネットワーク20を介して表示装置50へと伝送し、又は記録装置30により記録媒体へと記録させる。ネットワーク20は、有線通信ネットワーク若しくは無線通信ネットワークであってもよく、又は簡易な接続ケーブルであってもよい。記録装置30は、撮影装置10から受信される映像信号を、指定された記録方式で記録媒体へと記録する。記録媒体は、BD(Blu−ray(登録商標)ディスク)若しくはDVD(Digital Versatile Disc)のようなリムーバブルな媒体であってもよく、又はハードディスクのような内蔵型の媒体であってもよい。
表示装置50は、ネットワーク20を介して受信され又は記録媒体から読み出される映像信号から、映像を再生する。より具体的には、表示装置50は、入力される電気信号を光へと変換する表示素子の配列を有する(例えば、液晶パネル、有機発光ダイオード(OLED)パネル又はプラズマディスプレイパネル(PDP)など)。電気信号から光への変換の特性は、EOTF(Electro-Optical Transfer Function;電気光伝達関数)でモデル化される。EOTFがOETFの逆関数であれば、表示される光の強さは、撮影された光の強さに等しい。OETFとEOTFとを包括するエンドツーエンドの撮影光から表示光への変換の特性を、OOTF(Opto-Optical Transfer Function;光光伝達関数)という。OOTFは、システムガンマ又はトータルガンマとも呼ばれる。ITU−Rにより策定された標準仕様であるBT.1886のEOTFのガンマ値は2.4であり、例えばOETFのガンマ値が0.5であるとすると、システムガンマ値は(0.5×2.4=)1.2である。
[1−2.HDR映像信号の信号方式の例]
既存のSDR映像信号の一般的な輝度ダイナミックレンジの上限は、100cd/m(nitともいう)である。一方、HDR映像信号の輝度ダイナミックレンジの上限は、数百から数千cd/mへと拡張される。上述したように、ITU−Rは、HDR映像信号の信号方式として、Application−1及びApplication−2という2つの方式を勧告案に併記するものと見込まれている。
図2は、ITU−R Application−2の光電気伝達関数について説明するための説明図である。Application−2は、基準白色よりも低い輝度レベルにおけるガンマ曲線と、基準白色よりも高い輝度レベルにおける対数曲線とを組合せたHLG(Hybrid Log-Gamma)曲線で、相対的な輝度レベルを表現する。図2において、横軸は基準白色の輝度レベルが1に等しくなるように正規化された光の強度Eを表し、縦軸は対応する電気信号の信号レベルE´を表す。Application−2のOETFは、次の条件C1〜C3を満たすように設計されており、式(1)で表現される:
C1)基準白色(E=1)でE´=0.5
C2)基準白色の12倍の光強度(E=12)でE´=1
C3)基準白色(E=1)において傾き0.25でガンマ曲線と対数曲線とが滑らかに接続する
Figure 0006825568
式(1)から理解されるように、基準白色未満の低輝度領域ではガンマ値が0.5に等しく、線形部分が存在しない。これにより、暗い状況でのウェーバー比(Weber fraction)を改善される。Application−2の輝度ダイナミックレンジの上限は、ヘッドルームを使用しない場合には基準白色の12倍(E=12)であり、これは基準白色を100cd/mとすると1200cd/mに相当する。ヘッドルームを使用する場合には、輝度ダイナミックレンジの上限は、E=20に対応する2000cd/mに達する。但し、1よりも大きいシステムガンマが使用される場合には、輝度ダイナミックレンジの上限はさらに大きくなる。
図3は、ITU−R Application−2のOOTFについて説明するための説明図である。図3において、横軸は図2と同じ正規化された光の強度Eを表し、縦軸は逆変換(OETF−1)を実行した後の輝度のレベルL(cd/m)を表す。点線は、システムガンマγ=1.0の場合のOOTFを表し、E=1のときL=100(点P)、E=12のときL=1200(点P31)である。実線は、システムガンマγ=1.2の場合のOOTFを表し、E=1のときL=100(点P)、E=12のときL=12001.2≒2000(点P32)である。システムガンマγ=1.2は、既存のSDR表示において典型的に用いられており、視覚的に自然な映像を実現する値として知られている。
図3ではITU−R Application−2の例が示されているが、ITU−R
Application−1などの他のHDR信号方式でも、輝度ダイナミックレンジの上限は、数百から数千cd/mへ達する。
[1−3.ディスプレイピークへの適応]
HDR信号方式により輝度ダイナミックレンジの上限が拡張されたとしても、ディスプレイのピーク輝度が必ずその上限に一致するわけではない。映像信号に含まれる1つ以上の画素の輝度がディスプレイのピーク輝度を上回る場合には、クリッピングの結果として、再生される映像内でいわゆる白とびが発生する。最大輝度がディスプレイのピーク輝度を下回る場合には、ディスプレイの性能が最大限活用されないことになる。こうしたレンジの不一致を解消するために、いくつかの手法が考えられる。
図4は、輝度ダイナミックレンジをディスプレイのピーク輝度へ適応させるためのいくつかの手法の例について説明するための説明図である。図3と同様、横軸は正規化された光の強度Eを表し、縦軸は輝度レベルLを表す。実線で表されるグラフ41は、システムガンマγ=1.2の場合のピーク輝度への適応前のOOTFである。
1点鎖線で表されるグラフ42は、元のOOTF(グラフ41)をディスプレイのピーク輝度でハードクリッピングした結果である。こうしたクリッピングは、クリッピング点PCLPよりも光強度Eが大きい領域で白とびを生じさせ、画像情報を欠損させる。破線で表されるグラフ43は、クリッピング点PCLP ´よりも光強度Eが大きい領域でOOTFに傾きを持たせるためのソフトクリッピングの結果である。ソフトクリッピングは完全な白とびを生じさせないものの、クリッピング点PCLP ´において傾きが不連続となるため、不自然な映像の表示をもたらすことがある。
2点鎖線により表されるグラフ44は、元のOOTFを一定のゲインで線形変換した結果である。例えば、ディスプレイのピーク輝度が1200cd/mである場合に、ゲインG=1200/2000での線形変換を適用することで、E=12に対応する輝度レベルを約2000から約1200へと引き下げることができる(P41→P44)。しかし、この場合、固定的に扱われるべき基準白色(E=1)に対応する輝度レベルまでが変化してしまう(P→P ´)。基準白色の輝度レベルが変化すると、撮影環境の明るさ(又はコンテンツ製作者が視聴者へ見せようと望む明るさ)を適切に再現することが難しくなる。こうした線形変換は、例えばITU−R Application−2の目的に整合しない。
次節以降で説明する本開示に係る技術の実施形態は、HDR映像信号のダイナミックレンジとディスプレイのピーク輝度との不一致に関わる上述した不都合を解消し又は少なくとも軽減するための仕組を提供する。
<2.画像処理装置の構成例>
図5は、一実施形態に係る画像処理装置100の構成の一例を示すブロック図である。画像処理装置100は、例えば、図1に示したような撮影装置、記録装置若しくは表示装置であってもよく、又はこれら装置に搭載される画像処理モジュールであってもよい。図5を参照すると、画像処理装置100は、画像取得部110、変換部120及び制御部130を備える。
[2−1.画像取得部]
画像取得部110は、何らかの信号源から入力画像信号を取得する。入力画像信号は、映像信号を構成する一連のフレームの各々の画像信号であってもよく、又は静止画のための画像信号であってもよい。入力画像信号はHDR信号方式に基づいており、ここでは一例として、ITU−R Application−2に基づく画像信号(以下、HLG画像信号という)が取得されるものとする。ITU−R Application−2は、基準白色の表示輝度レベルを固定的に扱う信号方式の一例である。HLG画像信号は、基準白色の輝度レベルでの正規化後の信号である。
画像取得部110は、取得した入力画像信号にその信号方式のOETFの逆関数(OETF−1)を適用することにより、線形画像信号を生成する。線形画像信号は、撮影時の光の強度を線形的に表現する信号である。ここでの逆関数の演算は、信号方式ごとに予め記憶される演算パラメータを用いた数値演算として実装されてもよく、又は信号の入力値と出力値とをマッピングするルックアップテーブルを用いて実装されてもよい。そして、画像取得部110は、生成した線形画像信号を変換部120へ出力する。
[2−2.変換部]
変換部120は、画像取得部110から入力される線形画像信号を、ディスプレイのピーク輝度レベルに基づいて決定されるパラメータを用いて、基準白色の表示輝度レベルが維持されるようにガンマ変換することにより、表示用信号へと変換する。
(1)3通りの基本変換
本実施形態において、変換部120は、次の3通りの基本変換のうちの1つ又は2つ以上の組合せに相当する変換法を用いて、画像信号の信号レベルを変換する。
・基準白色(RW)固定ガンマ変換
・線形変換
・ピーク固定ガンマ変換
RW固定ガンマ変換は、基準白色の輝度レベルを変化させないガンマ変換である。HLG画像の場合、画像信号は基準白色の輝度レベルで正規化されており、即ち基準白色においてE=1である。よって、RW固定ガンマ変換を、次式のような画像信号Eの関数T(E)として表現することができる。
Figure 0006825568
図6Aは、RW固定ガンマ変換のグラフを表している。RW固定ガンマ変換では、ガンマ値が1より大きい場合、基準白色よりも低いレンジで輝度レベルは減少し、基準白色よりも高いレンジで輝度レベルは増加する。ガンマ値が1より小さい場合、基準白色よりも低いレンジで輝度レベルは増加し、基準白色よりも高いレンジで輝度レベルは減少する。基準白色の輝度レベルは維持される。
線形変換は、ゲイン値Gを用いて、画像信号Eの関数T(E)として次式のように表現される。
Figure 0006825568
図6Bは、線形変換のグラフを表している。線形変換では、ゲイン値Gが1より大きい場合、全てのレンジにわたって輝度レベルは増加し、ゲイン値が1より小さい場合、全てのレンジにわたって輝度レベルは減少する。ゲイン値が1でなければ、基準白色の輝度レベルもまた変化する。
ピーク固定ガンマ変換は、ダイナミックレンジの上限を変化させないガンマ変換である。入力値の上限に相当するパラメータKを用いて、ピーク固定ガンマ変換を、次式のような画像信号Eの関数T(E)として表現することができる。
Figure 0006825568
図6Cは、ピーク固定ガンマ変換のグラフを表している。ここでは、K=12である。ピーク固定ガンマ変換では、ガンマ値が1より大きい場合、全てのレンジにわたって輝度レベルは減少し、ガンマ値が1より小さい場合、全てのレンジにわたって輝度レベルは増加する。輝度レベルの変化の割合は、レンジの中央に近いほどより大きい。ガンマ値が1でなければ、基準白色の輝度レベルもまた変化する。
変換部120の役割は、表示用信号により表現可能な最大輝度レベルをディスプレイのピーク輝度レベルに合わせること、及び、必要とされる場合に基準白色の表示輝度レベルを維持することである。ここでのディスプレイのピーク輝度レベルとは、ディスプレイ(若しくは表示素子)の性能の観点での最大輝度レベルであってもよく、又は、性能の観点での上限よりも小さい、追加的な制約の観点(例えば、ユーザ設定若しくは環境条件など)での最大輝度レベルであってもよい。以下に詳しく説明する第1の変換法では、基準白色の表示輝度レベルは、RW固定ガンマ変換によって維持される。第2の変換法では、基準白色の表示輝度レベルは、線形変換及びピーク固定ガンマ変換の組合せによって維持される。
(2)第1の変換法
第1の変換法において、変換部120は、表示用信号により表現可能な最大輝度レベルをディスプレイのピーク輝度レベルに合わせるように第1のガンマ値γを決定し、決定した第1のガンマ値γを用いて線形画像信号をガンマ変換する。
図7Aは、RW固定ガンマ変換に従ってOOTFが変化する様子を示す第1の説明図である。図7Aの例では、ディスプレイのピーク輝度が2000cd/mよりも大きいものとする。実線のグラフはγ=1.2、破線のグラフはγ=1.5、2点鎖線のグラフはγ=1.6のケースをそれぞれ示している。γ=1.2かつヘッドルーム不使用の場合の輝度ダイナミックレンジの上限は約2000cd/mである。ガンマ値γを1.5まで引き上げると、表現可能な最大輝度レベルは約4000cd/mとなる。ガンマ値γを1.6まで引き上げると、表現可能な最大輝度レベルは5000cd/mを上回る。γ=1.2かつヘッドルームが使用される場合の輝度ダイナミックレンジの上限は約3600cd/mである。ガンマ値γを1.5まで引き上げると、表現可能な最大輝度レベルは約9000cd/mに達する。基準白色の輝度レベルは維持される(点P)。
図7Bは、RW固定ガンマ変換に従ってOOTFが変化する様子を示す第2の説明図である。図7Bの例では、ディスプレイのピーク輝度が2000cd/mよりも小さいものとする。実線のグラフはγ=1.2、破線のグラフはγ=1.0のケースをそれぞれ示している。γ=1.2かつヘッドルーム不使用の場合の輝度ダイナミックレンジの上限は約2000cd/mである。γ=1.0かつヘッドルーム不使用の場合の輝度ダイナミックレンジの上限は1200cd/mである。基準白色の輝度レベルは維持される(点P)。ガンマ値γが1.0≦γ<1.2を満たす場合、低輝度領域(0<E<1)のシステムガンマは既存のSDR表示のケースよりも小さくなるが、その視覚上の影響はそれほど大きくない。
図7Cは、RW固定ガンマ変換に従ってOOTFが変化する様子を示す第3の説明図である。図7Cの例では、ディスプレイのピーク輝度が1200cd/mよりも小さいものとする。実線のグラフはγ=1.2、破線のグラフはγ=1.0、点線のグラフはγ=0.9、1点鎖線のグラフはγ=0.7のケースをそれぞれ示している。γ=0.9かつヘッドルーム不使用の場合に表現可能な最大輝度レベルは約1000cd/m を下回る。γ=0.7かつヘッドルーム不使用の場合に表現可能な最大輝度レベルは約600cd/mを下回る。これらケースにおいて、基準白色の輝度レベルは維持されるが、低輝度領域(0<E<1)において本来は暗いはずの被写体がグレーがかって浮かび上がって見えるようになり、主観的な画質が劣化する。
(3)第2の変換法
第2の変換法において、変換部120は、表示用信号により表現可能な最大輝度レベルをディスプレイのピーク輝度レベルに合わせるようにゲイン値Gを決定し、決定したゲイン値Gを用いて線形画像信号を線形変換する。さらに、変換部120は、基準白色の表示輝度レベルが元の輝度レベルへと復元されるように第2のガンマ値γを決定し、決定した第2のガンマ値γを用いて上記線形変換後の画像信号をガンマ変換する。変換部120は、第2のガンマ値γを用いたガンマ変換を、ピーク輝度レベルを変化させないように実行する。変換部120は、線形画像信号の代わりに、線形画像信号を所定のシステムガンマ値γ(例えば、γ=1.2)を用いてガンマ変換することにより得られる中間画像信号を、第2の変換法への入力信号として扱ってもよい。
図8Aは、線形変換及びピーク固定ガンマ変換に従ってOOTFが変化する様子を示す説明図である。図8Bは、図8Aの低輝度領域を拡大した図である。これら図において、実線のグラフは、γ=1.2であって第2の変換法の適用前のケースを示している。破線のグラフは、γ=1.2であってゲインG=0.6での線形変換のみを適用した後のケースを示している。点線のグラフは、γ=1.2であってゲインG=0.6での線形変換と第2のガンマ値γ=0.8295とを適用した後のケースを示している。図8Aから理解されるように、γ=1.2かつヘッドルーム不使用の場合の輝度ダイナミックレンジの上限は約2000cd/mである。例えばディスプレイのピーク輝度が1200cd/mである場合に、ゲインG=0.6での線形変換を実行すると、輝度ダイナミックレンジの上限、即ち表現可能な最大輝度レベルは、ディスプレイのピーク輝度に近い約1200cd/mにまで引き下げられる。その結果、白とびの発生が抑制され、かつディスプレイの性能を最大限活用することが可能となる。しかし、図8Bから理解されるように、固定的に扱われるべき基準白色の輝度レベルまでが引き下げられる(点P→点P´)。そこで、さらに第2のガンマ値γ=0.8295でのガンマ変換が実行される。但し、ピーク輝度レベルを変化させないために、ここでのガンマ変換の入力値Eは、上に示した式(4)のようにパラメータKで除算される。パラメータKの値は、例えば、ヘッドルームが使用されない場合には12、ヘッドルームが使用される場合には20であってよい。第2のガンマ値γでのガンマ変換の結果、基準白色の表示輝度レベルは元の輝度レベルへと復元される(点P´→点P)。
(4)他の手法
変換部120は、基準白色の表示輝度レベルを維持する第1の動作モード及び基準白色の表示輝度レベルを維持しない第2の動作モードの双方をサポートしてもよい。ここでは一例として、第1の動作モード及び第2の動作モードをそれぞれRW維持モード及びRW非維持モードという。変換部120は、RW維持モードが選択された場合には、上述した第1の変換法又は第2の変換法のいずれかを実行する。一方、変換部120は、RW非維持モードが選択された場合には、基準白色の表示輝度レベルを維持することなく、他の手法で表示用信号を出力する。
変換部120は、例えば、RW非維持モードが選択された場合に、ITU−R BT.1886に従って画像信号を表示用信号へと変換してもよい。ITU−R BT.1886でのディスプレイ出力(SDR表示)では、レンジの全体にわたってガンマ値2.4が用いられる。その代わりに又はそれに加えて、変換部120は、表示用信号により表現可能な最大輝度レベルをディスプレイのピーク輝度レベルに合わせるようにゲイン値を決定し、決定したゲイン値を用いて画像信号を線形変換してもよい。
図9は、BT.1886でのSDR表示におけるOOTFについて説明するための説明図である。図9において、実線及び破線のグラフは、それぞれγ=1.2及びγ=0.7のケースを示している(SDR表示ではない)。1点鎖線のグラフは、BT.1886でのSDR表示におけるOOTFを示しており、点線のグラフはそのSDR表示のOOTFにゲインG=1.5での線形変換を適用した結果を示している。ゲイン無しでのSDR表示(1点鎖線)では、表現可能な最大輝度レベルは約500cd/m程度であるため、ディスプレイのピーク輝度レベルが約500cd/mを上回る場合には、1よりも大きいゲインでの線形変換を要する。SDR対応型のディスプレイがこうしたゲイン調整の機能を有する場合には、変換部120はゲイン調整を実行しなくてもよい。SDR表示では、低輝度領域(0<E<1)でのシステムガンマが約1.2に維持される。システムガンマγを1.0よりも低い値に設定したケース(点線)と比較して、SDR表示のケース(1点鎖線)は中輝度領域(1<E<8)の輝度レベルを平均的に高める作用を有することから、SDR表示は、ディスプレイのピーク輝度が低い場合(例えば、約600cd/m未満)の、視覚的により良好な選択肢であり得る。
[2−3.制御部]
制御部130は、画像取得部110及び変換部120の動作を制御する。例えば、制御部130は、入力画像信号に関連付けられる制御パラメータから入力画像信号の信号方式を判定し、判定した信号方式に対応する処理を画像取得部110及び変換部120に実行させる。ここでの制御パラメータの例について、後にさらに説明する。制御部130は、入力画像信号の信号方式に応じて、画像取得部110が入力画像信号に適用すべきOETFの逆関数の種類を切り替えさせてもよい。また、制御部130は、画像処理装置100の動作モードを制御してもよい。
ある実施例において、制御部130は、基準白色の表示輝度レベルが維持されるRW維持モード及び基準白色の表示輝度レベルが維持されないRW非維持モードのうち変換部120が使用すべき動作モードを選択する。制御部130は、RW維持モードを選択した場合には、ダイナミックレンジの調整のための変換処理において、基準白色の表示輝度レベルが維持される変換法を変換部120に使用させる。制御部130は、例えば、次の条件のうちの1つ以上に基づいて、いずれかの動作モードを選択してよい。
1)信号方式のタイプ:制御部130は、入力画像信号の信号方式が基準白色の表示輝度レベルを固定的に扱う信号方式(例えば、ITU−R Application−2)である場合に、RW維持モードを選択する。
2)ユーザ設定:RW維持モード又はRW非維持モードを、ユーザインタフェースを介してユーザが設定する。撮影環境の明るさを適切に再現することを望むユーザは、RW維持モードを設定し得る。その代わりに、ユーザは、ディスプレイの許容ピーク輝度レベルを設定してもよい。制御部130は、許容ピーク輝度レベルが予め定義される閾値よりも大きい場合にはRW維持モードを、そうでない場合にはRW非維持モードを選択し得る。
3)ディスプレイの属性:制御部130は、ディスプレイの属性(例えば、デバイスタイプ、モデル番号又は性能値)からディスプレイのピーク輝度レベルを判定し、判定したピーク輝度レベルが予め定義される閾値よりも大きい場合にはRW維持モードを、そうでない場合にはRW非維持モードを選択し得る。
4)表示環境:制御部130は、図示しないセンサを介して検知される表示環境の条件(環境照度又はロケーションなど)からディスプレイの推奨ピーク輝度レベルを決定し、決定した推奨ピーク輝度レベルが予め定義される閾値よりも大きい場合にはRW維持モードを、そうでない場合にはRW非維持モードを選択し得る。
他の実施例において、制御部130は、上述した第1の変換法(RW固定ガンマ変換)と第2の変換法(線形変換及びピーク固定ガンマ変換の組合せ)とを、変換部120に選択的に使用させてもよい。制御部130は、上述した動作モードの選択と同様に、例えばユーザによるモード設定、又はピーク輝度値(性能上の値、ユーザによる許容値及びシステム推奨値を含み得る)と閾値との比較に基づいて、いずれかの変換法を選択してよい。
<3.処理の流れ>
[3−1.画像変換処理]
図10は、上述した画像処理装置100により実行される画像変換処理の流れの一例を示すフローチャートである。
図10を参照すると、まず、制御部130は、入力画像信号に関連付けられる制御パラメータから、入力画像信号の信号方式を判定する(ステップS102)。また、制御部130は、ディスプレイのピーク輝度Lを取得する(ステップS104)。次に、制御部130は、信号方式のタイプ又はユーザ設定といった条件に基づいて、動作モードを選択する(ステップS106)。
次に、図10の画像変換処理は、ステップS102において判定された信号方式及びステップS106において選択された動作モードに依存して分岐する(ステップS110、S125)。例えば、信号方式がHDR方式ではない場合には、ITU−R BT.1886に従って変換部120からディスプレイへと表示用信号が出力され、映像がSDR表示される(ステップS120)。一方、信号方式がHDR方式(例えば、HLG方式)であって、RW維持モードが選択された場合には、処理はステップS130へ進む。信号方式がHDR方式であって、RW非維持モードが選択された場合には、処理はステップS165へ進む。
ステップS130において、画像取得部110及び変換部120は、RW維持ガンマ変換処理を実行する。RW維持ガンマ変換処理では、基準白色(RW)の表示輝度レベルが維持される。RW維持ガンマ変換処理のより詳細な流れについて、後にさらに説明する。
処理がステップS165へと遷移した場合、基準白色の表示輝度レベルは必ずしも維持されない。制御部130は、例えばユーザ設定又はステップS104において判定したディスプレイのピーク輝度レベルに基づいて、SDR表示を行うか否かを判定する(ステップS165)。SDR表示を行うと判定された場合には、処理はステップS120へ進み、ITU−R BT.1886に従って変換部120からディスプレイへと表示用信号が出力される。SDR表示を行わないと判定された場合には、処理はステップS170へと進み、画像取得部110及び変換部120により線形変換処理が行われる(ステップS170)。線形変換処理のより詳細な流れについて、後にさらに説明する。
RW維持ガンマ変換処理又は線形変換処理が実行されると、表示用信号がディスプレイへと出力され、HDR映像がディスプレイにより表示される(ステップS190)。
[3−2.RW維持ガンマ変換処理]
(1)第1の例
図11Aは、図10に示したRW維持ガンマ変換処理の流れの第1の例を示すフローチャートである。
図11Aを参照すると、まず、変換部120は、ディスプレイのピーク輝度レベルL及び輝度ダイナミックレンジの上限値Lmaxから、ガンマ値γを計算する(ステップS132)。ガンマ値γは、例えば、式(2)に示したRW固定ガンマ変換を通じて、表示用信号により表現可能な最大輝度レベルがディスプレイのピーク輝度レベルに合わせられるように計算され得る。
また、画像取得部110は、何らかの信号源から入力画像信号を取得し(ステップS136)、取得した入力画像信号にOETFの逆関数(OETF−1)を適用することにより、線形画像信号を生成する(ステップS138)。
次に、変換部120は、ステップS132において計算したガンマ値γを用いて、画像取得部110から入力される線形画像信号をガンマ変換することにより、表示用信号を生成する(ステップS144)。そして、変換部120は、生成した表示用信号をディスプレイへ出力する(ステップS150)。
(2)第2の例
図11Bは、図10に示したRW維持ガンマ変換処理の流れの第2の例を示すフローチャートである。
図11Bを参照すると、まず、変換部120は、ディスプレイのピーク輝度レベルL及び輝度ダイナミックレンジの上限値Lmaxから、ゲインG及びガンマ値γを計算する(ステップS134)。ゲインGは、例えば、式(3)に示した線形変換を通じて表示用信号により表現可能な最大輝度レベルがディスプレイのピーク輝度レベルに合わせられるように計算され得る。ガンマ値γは、式(4)に示したピーク固定ガンマ変換をさらに適用することによって、基準白色の表示輝度レベルが元の輝度レベルへと復元されるように計算され得る。
また、画像取得部110は、何らかの信号源から入力画像信号を取得し(ステップS136)、取得した入力画像信号にOETFの逆関数(OETF−1)を適用することにより、線形画像信号を生成する(ステップS138)。
次に、制御部130は、例えばユーザ設定又はディスプレイのピーク輝度レベルに基づいて、システムガンマを調整するか否かを判定する(ステップS140)。ここでシステムガンマを調整すると判定された場合には、変換部120は、画像取得部110から入力される線形画像信号を、所定のシステムガンマ値(例えば、1.2)を用いてガンマ変換する(ステップS142)。
次に、変換部120は、ステップS134において計算したゲインGを用いて、(必要に応じてシステムガンマが調整された)線形画像信号の線形変換を実行する(ステップS146)。次に、変換部120は、ステップS134において計算したガンマ値γを用いて線形変換後の画像信号をガンマ変換することにより、表示用信号を生成する(ステップS148)。そして、変換部120は、生成した表示用信号をディスプレイへ出力する(ステップS150)。
(3)第3の例
図11Cは、図10に示したRW維持ガンマ変換処理の流れの第3の例を示すフローチャートである。第3の例では、第1の変換法と第2の変換法との間の選択的な切替えが行われる。
図11Cを参照すると、制御部130は、例えばユーザによるモード設定、又はピーク輝度値(性能上の値、ユーザによる許容値及びシステム推奨値を含み得る)と閾値との比較に基づいて、第1の変換法(RW固定ガンマ変換)と第2の変換法(線形変換及びピーク固定ガンマ変換の組合せ)のうちのいずれかを選択する(ステップS152)。そして、制御部130は、第1の変換法を選択した場合には、図11Aに示したステップS132〜ステップS150を画像取得部110及び変換部120に実行させる(ステップS154)。一方、制御部130は、第2の変換法を選択した場合には、図11Bに示したステップS134〜ステップS150を画像取得部110及び変換部120に実行させる(ステップS156)。
[3−3.線形変換処理]
図12は、図10に示した線形変換処理の流れの一例を示すフローチャートである。
図12を参照すると、まず、変換部120は、ディスプレイのピーク輝度レベルL及び輝度ダイナミックレンジの上限値Lmaxから、ゲインGを計算する(ステップS172)。ゲインGは、例えば、式(3)に示した線形変換を通じて表示用信号により表現可能な最大輝度レベルがディスプレイのピーク輝度レベルに合わせられるように計算され得る。
また、画像取得部110は、何らかの信号源から入力画像信号を取得し(ステップS174)、取得した入力画像信号にOETFの逆関数(OETF−1)を適用することにより、線形画像信号を生成する(ステップS176)。
次に、制御部130は、例えばユーザ設定又はディスプレイのピーク輝度レベルに基づいて、システムガンマを調整するか否かを判定する(ステップS178)。ここでシステムガンマを調整すると判定された場合には、変換部120は、画像取得部110から入力される線形画像信号を、所定のシステムガンマ値(例えば、1.2)を用いてガンマ変換する(ステップS180)。
次に、変換部120は、ステップS172において計算したゲインGを用いて、(必要に応じてシステムガンマが調整された)線形画像信号の線形変換を実行することにより、表示用信号を生成する(ステップS182)。そして、変換部120は、生成した表示用信号をディスプレイへ出力する(ステップS184)。
<4.HLG映像の記録及び再生>
[4−1.HLG映像の認識]
図5に関連して説明したように、入力画像信号の信号方式は、入力画像信号に関連付けられる制御パラメータに基づいて判定される。一連のフレームの画像信号は、通常、何らかの映像コーデックに従って圧縮符号化された上で、記録媒体に記録され又はネットワーク上で伝送される。信号方式を識別する制御パラメータもまた符号化され、画像信号のビットストリームに関連付けられる。
一例として、HDR映像を記録することの可能な次世代の映像記録方式であるUHD−BD(Ultra HD - Blu-ray Disc)は、映像コーデックとしてHEVC(High Efficiency Video Coding)を採用している。HEVCでは、符号化された画像信号のOETFを特定するためのOETF番号をVUI(Video Usability Information)に含めることができ、このOETF番号の値として、HLG方式用の新たな値の定義を追加することが提案されている(Y. Nishida, T. Yamashita, and A. Ichigaya, “Proposed
addition of transfer characteristics in VUI”, JCTVC-U0032, JCTVC 21st
Meeting, Warsaw, June 19-26, 2015)。但し、UHD−BDでは、現在のところVUIにおけるOETF番号に値の制約が課せられており、新たなHLG方式用の番号“18”を使用することは許可されていない。また、HEVCのSEIにおいてHDR映像信号の信号方式のタイプをシグナリングすることも提案されている(Matteo Naccari, et. al, “High dynamic range compatibility information SEI message”, JCTVC-U0033, JCTVC 21st Meeting, Warsaw, June 19-26, 2015)。ここでの信号方式のタイプの定義は、VUIのOETF番号の定義から再利用され、よって値“18”がHLG方式を識別する。これらVUI又はSEIに含まれるOETF番号が、信号方式を識別する制御パラメータとして利用されてよい。例えば、UHD−BDレコーダは、VUI内のOETF番号には現在のところ許可されている値(例えば、“1”又は“14”)を書き込みつつ、SEI内の信号方式のタイプにHLG方式用の番号“18”を書き込んでもよい。この場合、HDR対応型のプレーヤ又はディスプレイは、SEI内のパラメータを優先的に参照することで、UHD−BDの仕様に違反することなく、HLG映像を認識することができる。
図13は、HLG映像を記録し及び再生する手法の一例について説明するための説明図である。図13には、HDR対応型のレコーダ/プレーヤである記録装置30、記録媒体40、HDR非対応型のプレーヤである再生装置45、HDR対応型のディスプレイである表示装置50、及びHDR非対応型のディスプレイである表示装置55が示されている。記録装置30は、符号化部32、復号部34、HLG処理部36及び制御部38を備える。
記録装置30の符号化部32は、例えば、HLG処理部36によって生成されるHLG画像信号をHEVCに従って符号化し、符号化ビットストリームをUHD−BDに従って記録媒体40へ記録する。制御部38は、記録媒体40への記録の際に、VUI又はSEIへ、HLG方式用のOETF番号を示す制御パラメータを書き込む。VUI又はSEIは、圧縮された画像信号を含む符号化ビットストリームに関連付けられる。制御部38は、記録装置30が映像を再生しようとする際、VUI又はSEI内のOETF番号を読み取ることにより、記録媒体40に記録されている映像がHLG映像であることを認識する。復号部34は、HEVCに従ってHLG画像信号を復号する。
記録装置30の制御部38は、復号されたHLG画像信号を、当該画像信号がHLG画像信号であることを示すHLG標識と共に、画像信号の出力先のディスプレイへとシグナリングしてよい。HDR対応型のディスプレイである表示装置50は、HLG標識を受信すると、HLG方式に従って画像信号を処理して、HDR映像を表示する。上で説明した画像処理装置100は、例えば表示装置50に搭載され、HDR映像が表示される前に上述したダイナミックレンジの調整を実行し得る。画像信号の出力先のディスプレイがHDR非対応型の表示装置55である場合、表示装置55は、HLG標識の存在に気付くことなく、映像をSDR表示する。
HDR非対応型の再生装置45は、映像を再生する際、VUI又はSEI内のOETF番号を読み取らず、又は読み取ったOETF番号が未知の(若しくは制約に反する)値であるためにこれを無視する。再生装置45は、HEVCに従って復号した画像信号を、HLG標識を伴うことなく表示装置50又は表示装置55へ出力する。表示装置50は、HLG標識が受信されないため、映像をSDR表示する。表示装置55もまた映像をSDR表示する。
表示装置50の代わりに、記録装置30のHLG処理部36が上で説明した画像処理装置100の機能を有していてもよい。この場合、HLG処理部36は、復号されたHLG画像信号をHLG方式に従って処理して、広い輝度ダイナミックレンジを有するHDR映像のための表示用信号を生成する。そして、表示用信号が表示装置50へ出力されると、表示装置50によりHDR映像が表示される。
[4−2.処理の流れ]
(1)記録処理
図14は、一実施形態に係る記録装置30により実行される記録処理の流れの一例を示すフローチャートである。図14を参照すると、まず、記録装置30のHLG処理部36は、映像コンテンツの光強度を線形的に表現する原画像信号を取得する(ステップS202)。次に、HLG処理部36は、原画像信号をHLG画像信号に変換する(ステップS204)。次に、符号化部32は、HLG画像信号を符号化して、符号化ストリームを生成する(ステップS206)。次に、制御部38は、HLG方式のOETF番号を示す制御パラメータを生成する(ステップS208)。そして、制御部38は、HLG画像信号の符号化ストリームを記録媒体へ記録すると共に、当該符号化ストリームに関連付けられるVUI又はSEIへ、HLG方式のOETF番号を示す制御パラメータを書き込む(ステップS210)。
(2)再生処理−第1の例
図15Aは、一実施形態に係る再生処理の流れの第1の例を示すフローチャートである。図15Aを参照すると、まず、記録装置30の制御部38は、符号化ストリーム及び関連付けられている制御パラメータを記録媒体から読み出す(ステップS222)。次に、復号部34は、読み出された符号化ストリームから画像信号を復号する(ステップS224)。制御部38は、画像信号の信号方式がHLG方式であるか否かを、ステップS222において読み出した制御パラメータに基づいて判定する(ステップS226)。例えば、HLG方式用のOETF番号“18”がVUIに含まれる場合、又は他のOETF番号がVUIに含まれているとしてもSEIにおいてOETF番号が値“18”で上書きされている場合には、画像信号の信号方式はHLG方式であると判定され得る。HLG画像信号ではない画像信号が復号された場合には、処理はステップS228へ進み、非HLG画像信号がディスプレイへ出力される(ステップS228)。HLG画像信号が復号された場合には、処理はステップS230へ進み、制御部38は、出力先のディスプレイがHLG対応型であるか否かをさらに判定する(ステップS230)。出力先のディスプレイがHLG対応型ではない場合には、HLG変換が実行されることなく、画像信号がディスプレイへ出力される(ステップS228)。出力先のディスプレイがHLG対応型である場合、HLG処理部36は、復号された画像信号をHLG方式に従って処理して、広い輝度ダイナミックレンジを有する表示用信号を生成する(ステップS232)。そして、表示用信号がディスプレイへ出力される(ステップS234)。
(3)再生処理−第2の例
図15Bは、一実施形態に係る再生処理の流れの第2の例を示すフローチャートである。図15Bを参照すると、まず、記録装置30の制御部38は、符号化ストリーム及び関連付けられている制御パラメータを記録媒体から読み出す(ステップS222)。次に、復号部34は、読み出された符号化ストリームから画像信号を復号する(ステップS224)。制御部38は、画像信号の信号方式がHLG方式であるか否かを、第1の例と同様に、ステップS222において読み出した制御パラメータに基づいて判定する(ステップS226)。HLG画像信号ではない画像信号が復号された場合には、処理はステップS228へ進み、非HLG画像信号がディスプレイへ出力される(ステップS228)。HLG画像信号が復号された場合には、処理はステップS236へ進み、制御部38は、HLG標識のシグナリングと共に、HLG画像信号をディスプレイへ出力する(ステップS236)。
[4−3.補足的なストリームの扱い]
映像コンテンツは、一連のフレームの画像信号、音声信号及び制御信号の符号化ストリームに加えて、字幕情報又はグラフィックス情報を含む補足的なストリームをも有し得る。HDR対応型のレコーダ/プレーヤである記録装置30は、こうした補足的なストリームが画像信号の符号化ストリームに関連付けられている場合に、当該補足的なストリームのコンテンツ(例えば字幕、GUI又はその他の表示オブジェクト)の最大輝度レベルが基準白色の表示輝度レベル(図2におけるE´=0.5)に一致するように、コンテンツの輝度を調整する。これは、HDR非対応型の再生装置45又は表示装置55がSDR映像の最大輝度レベルと補足的なストリームのコンテンツの最大輝度レベルとを一致させることとは対照的である。例えば字幕又はGUIの白色がHDR映像の最大輝度レベル(ヘッドルーム不使用の場合、図2におけるE´=1.0)で表示されてしまうと、その白色は明る過ぎて却って視認性を損なう。しかし、上述したように、補足的なストリームのコンテンツの最大輝度レベルをHDR映像の基準白色の表示輝度レベルに合わせることで、コンテンツの適切な視認性を確保することができる。
本節では、主にHLG方式で表現される信号の記録及び再生について説明したが、ここで説明した手法は、HDR映像のためのHLG方式以外の信号方式が使用されるケースにも適用されてよい。
<5.ハードウェア構成例>
上述した実施形態は、ソフトウェア、ハードウェア、及びソフトウェアとハードウェアとの組合せのいずれを用いて実現されてもよい。ソフトウェアが使用される場合、ソフトウェアを構成するプログラムは、例えば、装置の内部又は外部に設けられる記憶媒体(非一時的な媒体:non-transitory media)に予め格納される。そして、各プログラムは、例えば、実行時にRAM(Random Access Memory)に読み込まれ、CPU(Central Processing Unit)などのプロセッサにより実行される。
図16は、上述した実施形態を適用可能な装置のハードウェア構成の一例を示すブロック図である。図16を参照すると、画像処理装置800は、システムバス810、画像処理チップ820及びオフチップメモリ890を備える。画像処理チップ820は、n個(nは1以上)の処理回路830−1、830−2、…、830−n、参照バッファ840、システムバスインタフェース850及びローカルバスインタフェース860を含む。
システムバス810は、画像処理チップ820と外部モジュール(例えば、中央制御機能、アプリケーション機能、通信インタフェース、ユーザインタフェース又はディスプレイインタフェースなど)との間の通信路を提供する。処理回路830−1、830−2、…、830−nは、システムバスインタフェース850を介してシステムバス810と接続され、及びローカルバスインタフェース860を介してオフチップメモリ890と接続される。処理回路830−1、830−2、…、830−nは、オンチップメモリ(例えば、SRAM)に相当し得る参照バッファ840にもアクセスすることができる。オフチップメモリ890は、例えば、画像処理チップ820により処理される画像データを記憶するフレームメモリであってよい。一例として、処理回路830−1はHDR画像信号の輝度ダイナミックレンジの調整のために利用され、処理回路830−2はHEVCに従った画像信号の符号化又は復号のために利用され得る。なお、これら処理回路は、同一の画像処理チップ820ではなく、別個のチップ上に形成されてもよい。
<6.応用例>
上述した実施形態は、様々な電子機器に応用され得る。以下、4つの応用例について説明する。
(1)第1の応用例
図17は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置900は、アンテナ901、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、表示部906、音声信号処理部907、スピーカ908、外部インタフェース909、制御部910、ユーザインタフェース911、及びバス912を備える。
チューナ902は、アンテナ901を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ902は、復調により得られた符号化ビットストリームをデマルチプレクサ903へ出力する。即ち、チューナ902は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送手段としての役割を有する。
デマルチプレクサ903は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ904へ出力する。また、デマルチプレクサ903は、符号化ビットストリームからEPG(Electronic Program Guide)などの補助的なデータを抽出し、抽出したデータを制御部910に供給する。なお、デマルチプレクサ903は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。
デコーダ904は、デマルチプレクサ903から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ904は、復号処理により生成される映像データを映像信号処理部905へ出力する。また、デコーダ904は、復号処理により生成される音声データを音声信号処理部907へ出力する。
映像信号処理部905は、デコーダ904から入力される映像データを再生し、表示部906に映像を表示させる。また、映像信号処理部905は、ネットワークを介して供給されるアプリケーション画面を表示部906に表示させてもよい。また、映像信号処理部905は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部905は、例えばメニュー、ボタン又はカーソルなどのGUI(Graphical User Interface)の画像を生成し、生成した画像を出力画像に重畳してもよい。
表示部906は、映像信号処理部905から供給される駆動信号により駆動され、表示デバイス(例えば、液晶ディスプレイ、プラズマディスプレイ又はOLEDなど)の映像面上に映像又は画像を表示する。
音声信号処理部907は、デコーダ904から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ908から音声を出力させる。また、音声信号処理部907は、音声データについてノイズ除去などの追加的な処理を行ってもよい。
外部インタフェース909は、テレビジョン装置900と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース909を介して受信される映像ストリーム又は音声ストリームが、デコーダ904により復号されてもよい。即ち、外部インタフェース909もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送手段としての役割を有する。
制御部910は、CPU(Central Processing Unit)などのプロセッサ、並びにRAM(Random Access Memory)及びROM(Read Only Memory)などのメモリを有する。メモリは、CPUにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置900の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース911から入力される操作信号に応じて、テレビジョン装置900の動作を制御する。
ユーザインタフェース911は、制御部910と接続される。ユーザインタフェース911は、例えば、ユーザがテレビジョン装置900を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース911は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部910へ出力する。
バス912は、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、音声信号処理部907、外部インタフェース909及び制御部910を相互に接続する。
このように構成されたテレビジョン装置900において、映像信号処理部905は、上述した実施形態に係る画像処理装置100の機能を有する。従って、テレビジョン装置900において、HDR映像を再生する際に、映像信号のダイナミックレンジとディスプレイのピーク輝度との不一致に関わる不都合を解消し又は少なくとも軽減することができる。
(2)第2の応用例
図18は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機920は、アンテナ921、通信部922、音声コーデック923、スピーカ924、マイクロホン925、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、制御部931、操作部932、及びバス933を備える。
アンテナ921は、通信部922に接続される。スピーカ924及びマイクロホン925は、音声コーデック923に接続される。操作部932は、制御部931に接続される。バス933は、通信部922、音声コーデック923、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、及び制御部931を相互に接続する。
携帯電話機920は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。
音声通話モードにおいて、マイクロホン925により生成されるアナログ音声信号は、音声コーデック923に供給される。音声コーデック923は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック923は、圧縮後の音声データを通信部922へ出力する。通信部922は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号をアンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック923へ出力する。音声コーデック923は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。
また、データ通信モードにおいて、例えば、制御部931は、操作部932を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部931は、文字を表示部930に表示させる。また、制御部931は、操作部932を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部922へ出力する。通信部922は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号をアンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部931へ出力する。制御部931は、表示部930に電子メールの内容を表示させると共に、電子メールデータを記録再生部929の記憶媒体に記憶させる。
記録再生部929は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、RAM又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USBメモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。
また、撮影モードにおいて、例えば、カメラ部926は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部927へ出力する。画像処理部927は、カメラ部926から入力される画像データを符号化し、符号化ストリームを記録再生部929の記憶媒体に記憶させる。
また、テレビ電話モードにおいて、例えば、多重分離部928は、画像処理部927により符号化された映像ストリームと、音声コーデック923から入力される音声ストリームとを多重化し、多重化したストリームを通信部922へ出力する。通信部922は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号をアンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部922は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部928へ出力する。多重分離部928は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部927、音声ストリームを音声コーデック923へ出力する。画像処理部927は、映像ストリームを復号し、映像データを生成する。映像データは、表示部930に供給され、表示部930により一連の画像が表示される。音声コーデック923は、音声ストリームを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。
このように構成された携帯電話機920において、画像処理部927は、上述した実施形態に係る画像処理装置100の機能を有する。従って、携帯電話機920において、HDR映像を再生する際に、映像信号のダイナミックレンジとディスプレイのピーク輝度との不一致に関わる不都合を解消し又は少なくとも軽減することができる。
(3)第3の応用例
図19は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置940は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置940は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置940は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置940は、音声データ及び映像データを復号する。
記録再生装置940は、チューナ941、外部インタフェース942、エンコーダ943、HDD(Hard Disk Drive)944、ディスクドライブ945、セレクタ946、デコーダ947、OSD(On-Screen Display)948、制御部949、及びユーザインタフェース950を備える。
チューナ941は、アンテナ(図示せず)を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ941は、復調により得られた符号化ビットストリームをセレクタ946へ出力する。即ち、チューナ941は、記録再生装置940における伝送手段としての役割を有する。
外部インタフェース942は、記録再生装置940と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース942は、例えば、IEEE1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース942を介して受信される映像データ及び音声データは、エンコーダ943へ入力される。即ち、外部インタフェース942は、記録再生装置940における伝送手段としての役割を有する。
エンコーダ943は、外部インタフェース942から入力される映像データ及び音声データが符号化されていない場合に、映像データ及び音声データを符号化する。そして、エンコーダ943は、符号化ビットストリームをセレクタ946へ出力する。
HDD944は、映像及び音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラム及びその他のデータを内部のハードディスクに記録する。また、HDD944は、映像及び音声の再生時に、これらデータをハードディスクから読み出す。
ディスクドライブ945は、装着されている記録媒体へのデータの記録及び読み出しを行う。ディスクドライブ945に装着される記録媒体は、例えばDVDディスク(DVD−Video、DVD−RAM、DVD−R、DVD−RW、DVD+R、DVD+RW等)又はBlu−ray(登録商標)ディスクなどであってよい。
セレクタ946は、映像及び音声の記録時には、チューナ941又はエンコーダ943から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをHDD944又はディスクドライブ945へ出力する。また、セレクタ946は、映像及び音声の再生時には、HDD944又はディスクドライブ945から入力される符号化ビットストリームをデコーダ947へ出力する。
デコーダ947は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ947は、生成した映像データをOSD948へ出力する。また、デコーダ904は、生成した音声データを外部のスピーカへ出力する。
OSD948は、デコーダ947から入力される映像データを再生し、映像を表示する。また、OSD948は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。
制御部949は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置940の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース950から入力される操作信号に応じて、記録再生装置940の動作を制御する。
ユーザインタフェース950は、制御部949と接続される。ユーザインタフェース950は、例えば、ユーザが記録再生装置940を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース950は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部949へ出力する。
このように構成された記録再生装置940において、OSD948は、上述した実施形態に係る画像処理装置100の機能を有する。従って、記録再生装置940において、HDR映像を再生する際に、映像信号のダイナミックレンジとディスプレイのピーク輝度との不一致に関わる不都合を解消し又は少なくとも軽減することができる。
(4)第4の応用例
図20は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮影装置960は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。
撮影装置960は、光学ブロック961、撮像部962、信号処理部963、画像処理部964、表示部965、外部インタフェース966、メモリ967、メディアドライブ968、OSD969、制御部970、ユーザインタフェース971、及びバス972を備える。
光学ブロック961は、撮像部962に接続される。撮像部962は、信号処理部963に接続される。表示部965は、画像処理部964に接続される。ユーザインタフェース971は、制御部970に接続される。バス972は、画像処理部964、外部インタフェース966、メモリ967、メディアドライブ968、OSD969、及び制御部970を相互に接続する。
光学ブロック961は、フォーカスレンズ及び絞り機構などを有する。光学ブロック961は、被写体の光学像を撮像部962の撮像面に結像させる。撮像部962は、CCD又はCMOSなどのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部962は、画像信号を信号処理部963へ出力する。
信号処理部963は、撮像部962から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部963は、カメラ信号処理後の画像データを画像処理部964へ出力する。
画像処理部964は、信号処理部963から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部964は、生成した符号化データを外部インタフェース966又はメディアドライブ968へ出力する。また、画像処理部964は、外部インタフェース966又はメディアドライブ968から入力される符号化データを復号し、画像データを生成する。そして、画像処理部964は、生成した画像データを表示部965へ出力する。また、画像処理部964は、信号処理部963から入力される画像データを表示部965へ出力して画像を表示させてもよい。また、画像処理部964は、OSD969から取得される表示用データを、表示部965へ出力する画像に重畳してもよい。
OSD969は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部964へ出力する。
外部インタフェース966は、例えばUSB入出力端子として構成される。外部インタフェース966は、例えば、画像の印刷時に、撮影装置960とプリンタとを接続する。また、外部インタフェース966には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮影装置960にインストールされ得る。さらに、外部インタフェース966は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース966は、撮影装置960における伝送手段としての役割を有する。
メディアドライブ968に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ968に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSD(Solid State Drive)のような非可搬性の記憶部が構成されてもよい。
制御部970は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮影装置960の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース971から入力される操作信号に応じて、撮影装置960の動作を制御する。
ユーザインタフェース971は、制御部970と接続される。ユーザインタフェース971は、例えば、ユーザが撮影装置960を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース971は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部970へ出力する。
このように構成された撮影装置960において、画像処理部964は、上述した実施形態に係る画像処理装置100の機能を有する。従って、撮影装置960において、HDR映像を再生する際に、映像信号のダイナミックレンジとディスプレイのピーク輝度との不一致に関わる不都合を解消し又は少なくとも軽減することができる。
<7.まとめ>
ここまで、図1〜図20を用いて、本開示に係る技術の実施形態について詳細に説明した。上述した実施形態によれば、基準白色の表示輝度レベルを固定的に扱う信号方式に基づく画像信号が、表示用信号への変換のためにガンマ変換される。そのガンマ変換は、ディスプレイのピーク輝度レベルに基づいて決定されるパラメータを用いて、基準白色の表示輝度レベルが維持されるように実行される。従って、輝度のクリッピング(又は過剰に強いロールオフ)に起因する高輝度領域の情報の欠損(いわゆる白とび)の発生が回避されると共に、コンテンツの撮影又は制作の際に明るさの基準とされる基準白色の輝度を、コンテンツの表示の際にも適切に再現することが可能となる。
ある実施例によれば、表示用信号により表現可能な最大輝度レベルをディスプレイのピーク輝度レベルに合わせるように決定される第1のガンマ値を用いて、基準白色の輝度レベルでの正規化後の信号がガンマ変換される。この場合、ガンマ変換によって基準白色の輝度レベルは変化しない。このような第1の変換法により、高輝度領域の情報の欠損が回避され、かつディスプレイのピーク輝度までのレンジを無駄なく使い切ることができる。
ある実施例によれば、表示用信号により表現可能な最大輝度レベルをディスプレイのピーク輝度レベルに合わせるように決定されるゲイン値を用いて、基準白色の輝度レベルでの正規化後の信号が線形変換され、当該線形変換後の画像信号が、基準白色の表示輝度レベルを元の輝度レベルへと復元するように決定される第2のガンマ値を用いてガンマ変換される。この場合、基準白色の輝度レベルは、(演算の途中で変化はするものの)最終的には元のレベルの通り維持される。第2のガンマ値を用いたガンマ変換は、表示用信号により表現可能な最大輝度レベルを変化させないように実行され得る。ゲイン値を用いた線形変換及びダイナミックレンジの両端を固定したガンマ変換は、汎用的な演算機能として個々に既に実装されていることが多い。そのため、このような第2の変換法は、新たな演算機能の追加的な実装を要することなく、比較的低いコストで実現されることができる。第2の変換法は、画像信号を所定のシステムガンマ値を用いてガンマ変換した後に実行されてもよい。例えば、1.2というシステムガンマ値を用いることで、表示される映像における輝度の階調を、ITU−R BT.1886などの既存の仕様に基づく表示に近付けることができる。上述した第1の変換法と第2の変換法とが選択的に切り替えられてもよい。それにより、HDR映像の多様な表現をユーザに提供すること、及びディスプレイの特性に応じて最適な表現を選択することが可能となる。
ある実施例によれば、基準白色の表示輝度レベルが維持される第1の動作モードと、基準白色の表示輝度レベルが維持されない第2の動作モードとの間で、動作モードが切り替えられる。これら動作モードが提供されることにより、基準白色の輝度をHDR映像の表示の際に再現することを優先するか否かをユーザ又はデバイスが適応的に選択することが可能となる。例えば、動作モードは、信号方式のタイプに基づいて選択されてもよい。この場合、例えば基準白色のレベルを基準として輝度レベルが相対的に表現されるHLG方式で画像信号が生成されているときにはその基準白色のレベルを維持する一方で、そうでないときには基準白色のレベルを維持しないといった切替えが可能である。HEVC方式で符号化された符号化ストリームから画像信号が復号される場合、信号方式のタイプは、例えばVUI(Video Usability Information)又はSEI(Supplemental Enhancement Information)に含まれる制御パラメータに基づいて判定され得る。動作モードは、ユーザ設定に基づいて選択されてもよい。例えば、撮影環境又はコンテンツ制作環境の明るさが再現されることを望むユーザは、第1の動作モードを選択するであろう。動作モードは、ディスプレイの性能としてのピーク輝度レベル又は表示環境の条件から自動的に設定されるピーク輝度レベルといった他の要因に基づいて選択されてもよい。
第2の動作モードが選択された場合には、ゲイン値を用いた単純な線形変換が実行されてもよく、この場合、輝度のクリッピングに起因する高輝度領域の情報の欠損の発生が回避される。また、特にディスプレイのピーク輝度が低いケースではITU−R BT.1886に従ったSDR表示が行われてもよく、この場合、中輝度領域において視認性の良好な映像を得ることができる。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
また、本明細書に記載された効果は、あくまで説明的又は例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果と共に、又は上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
なお、以下のような構成も本開示の技術的範囲に属する。
(1)
基準白色の表示輝度レベルを固定的に扱う信号方式に基づく画像信号を、ディスプレイのピーク輝度レベルに基づいて決定されるパラメータを用いて、前記基準白色の表示輝度レベルが維持されるようにガンマ変換することにより、表示用信号へと変換する変換部、
を備える画像処理装置。
(2)
前記画像信号は、前記基準白色の輝度レベルでの正規化後の信号であり、
前記変換部は、第1のガンマ値を用いて前記画像信号をガンマ変換する、
前記(1)に記載の画像処理装置。
(3)
前記変換部は、前記表示用信号により表現可能な最大輝度レベルを前記ディスプレイの前記ピーク輝度レベルに合わせるように前記第1のガンマ値を決定する、前記(2)に記載の画像処理装置。
(4)
前記画像信号は、前記基準白色の輝度レベルでの正規化後の信号であり、
前記変換部は、前記画像信号をゲイン値を用いて線形変換し、前記基準白色の表示輝度レベルが元の輝度レベルへと復元されるように決定される第2のガンマ値を用いて前記線形変換後の画像信号をガンマ変換する、
前記(1)に記載の画像処理装置。
(5)
前記変換部は、前記表示用信号により表現可能な最大輝度レベルを前記ディスプレイの前記ピーク輝度レベルに合わせるように前記ゲイン値を決定する、前記(4)に記載の画像処理装置。
(6)
前記変換部は、前記第2のガンマ値を用いたガンマ変換を、前記表示用信号により表現可能な最大輝度レベルを変化させないように実行する、前記(4)又は前記(5)に記載の画像処理装置。
(7)
前記変換部は、前記画像信号を所定のシステムガンマ値を用いてガンマ変換した後に、前記線形変換及び前記第2のガンマ値を用いた前記ガンマ変換を実行する、前記(4)〜(6)のいずれか1項に記載の画像処理装置。
(8)
前記画像処理装置は、前記基準白色の表示輝度レベルが維持される第1の動作モード及び前記基準白色の表示輝度レベルが維持されない第2の動作モードのうち前記変換部が使用すべきモードを選択する制御部、をさらに備え、
前記変換部は、前記制御部により前記第1の動作モードが選択された場合に、前記基準白色の表示輝度レベルが維持されるように、前記画像信号を前記表示用信号へと変換する、
前記(1)〜(7)のいずれか1項に記載の画像処理装置。
(9)
前記制御部は、信号方式のタイプ、ユーザ設定、前記ディスプレイの属性及び表示環境の条件のうちの1つ以上に基づいて、前記第1の動作モード及び前記第2の動作モードのうちの前記1つを選択する、前記(8)に記載の画像処理装置。
(10)
前記変換部は、
前記画像信号を前記基準白色の表示輝度レベルが変化しないようにガンマ変換する第1の変換法と、
前記画像信号をゲイン値を用いて線形変換し、前記基準白色の表示輝度レベルが元の輝度レベルへと復元されるように決定される第2のガンマ値を用いて前記線形変換後の画像信号をガンマ変換する第2の変換法と、
を選択的に使用する、前記(1)〜(9)のいずれか1項に記載の画像処理装置。
(11)
前記変換部は、前記制御部により前記第2の動作モードが選択された場合に、前記表示用信号により表現可能な最大輝度レベルを前記ディスプレイの前記ピーク輝度レベルに合わせるように決定されるゲイン値を用いて前記画像信号を線形変換する、
前記(8)又は前記(9)に記載の画像処理装置。
(12)
前記変換部は、前記制御部により前記第2の動作モードが選択された場合に、ITU−R BT.1886に従って前記画像信号を前記表示用信号へと変換する、前記(8)又は前記(9)に記載の画像処理装置。
(13)
前記信号方式は、基準白色よりも低い輝度レベルにおけるガンマ曲線と、基準白色よりも高い輝度レベルにおける対数曲線との組合せに基づくHLG(Hybrid Log Gamma)方式である、前記(1)〜(12)のいずれか1項に記載の画像処理装置。
(14)
前記画像信号は、HEVC(High Efficiency Video Coding)方式に従って符号化された符号化ストリームから復号され、
前記符号化ストリームに関連付けられるSEI(Supplemental Enhancement Information)に含まれるパラメータに基づいて、前記画像信号について前記HLG方式が使用されたことが判定される、
前記(13)に記載の画像処理装置。
(15)
前記画像信号は、HEVC(High Efficiency Video Coding)方式に従って符号化された符号化ストリームを含み、
前記符号化ストリームに関連付けられるVUI(Video Usability Information)に含まれるパラメータに基づいて、前記画像信号について前記HLG方式が使用されたことが判定される、
前記(13)に記載の画像処理装置。
(16)
前記符号化ストリームに字幕情報又はグラフィックス情報を含む補足的なストリームが関連付けられている場合に、当該補足的なストリームのコンテンツの最大輝度レベルは、前記基準白色の表示輝度レベルに合うように調整される、前記(14)又は前記(15)に記載の画像処理装置。
(17)
画像処理装置により実行される画像処理方法であって、
基準白色の表示輝度レベルを固定的に扱う信号方式に基づく画像信号を、ディスプレイのピーク輝度レベルに基づいて決定されるパラメータを用いて、前記基準白色の表示輝度レベルが維持されるようにガンマ変換することにより、表示用信号へと変換すること、
を含む画像処理方法。
10 撮影装置
20 ネットワーク
30 記録装置(HDR対応型)
40 記録媒体
45 再生装置(HDR非対応型)
50 表示装置(HDR対応型)
55 表示装置(HDR非対応型)
100 画像処理装置
110 画像取得部
120 変換部
130 制御部

Claims (16)

  1. 基準白色の表示輝度レベルを固定的に扱う信号方式に基づく、前記基準白色の輝度レベルでの正規化後の信号である画像信号を、ディスプレイのピーク輝度レベルに基づいて決定されるパラメータを用いて、前記基準白色の表示輝度レベルが維持されるようにガンマ変換することにより、表示用信号へと変換し、
    前記画像信号を、ゲイン値を用いて線形変換し、前記基準白色の表示輝度レベルが元の輝度レベルへと復元されるように決定される第2のガンマ値を用いて前記線形変換後の画像信号をガンマ変換する変換部、
    を備える画像処理装置。
  2. 記変換部は、第1のガンマ値を用いて前記画像信号をガンマ変換する、請求項1に記載の画像処理装置。
  3. 前記変換部は、前記表示用信号により表現可能な最大輝度レベルを前記ディスプレイの前記ピーク輝度レベルに合わせるように前記第1のガンマ値を決定する、請求項2に記載の画像処理装置。
  4. 前記変換部は、前記表示用信号により表現可能な最大輝度レベルを前記ディスプレイの前記ピーク輝度レベルに合わせるように前記ゲイン値を決定する、請求項に記載の画像処理装置。
  5. 前記変換部は、前記第2のガンマ値を用いたガンマ変換を、前記表示用信号により表現可能な最大輝度レベルを変化させないように実行する、請求項または請求項に記載の画像処理装置。
  6. 前記変換部は、前記画像信号を所定のシステムガンマ値を用いてガンマ変換した後に、前記線形変換及び前記第2のガンマ値を用いた前記ガンマ変換を実行する、請求項1、請求項請求項の何れか1項に記載の画像処理装置。
  7. 前記画像処理装置は、前記基準白色の表示輝度レベルが維持される第1の動作モード及び前記基準白色の表示輝度レベルが維持されない第2の動作モードのうち前記変換部が使用すべきモードを選択する制御部、をさらに備え、
    前記変換部は、前記制御部により前記第1の動作モードが選択された場合に、前記基準白色の表示輝度レベルが維持されるように、前記画像信号を前記表示用信号へと変換する、
    請求項1乃至請求項の何れか1項に記載の画像処理装置。
  8. 前記制御部は、信号方式のタイプ、ユーザ設定、前記ディスプレイの属性及び表示環境の条件のうちの1つ以上に基づいて、前記第1の動作モード及び前記第2の動作モードのうちの前記1つを選択する、請求項に記載の画像処理装置。
  9. 前記変換部は、
    前記画像信号を前記基準白色の表示輝度レベルが変化しないようにガンマ変換する第1の変換法と、
    前記画像信号を、前記ゲイン値を用いて線形変換し、前記第2のガンマ値を用いて前記線形変換後の画像信号をガンマ変換する第2の変換法と、
    を選択的に使用する、請求項1乃至請求項の何れか1項に記載の画像処理装置。
  10. 前記変換部は、前記制御部により前記第2の動作モードが選択された場合に、前記表示用信号により表現可能な最大輝度レベルを前記ディスプレイの前記ピーク輝度レベルに合わせるように決定される前記ゲイン値を用いて前記画像信号を線形変換する、
    請求項または請求項に記載の画像処理装置。
  11. 前記変換部は、前記制御部により前記第2の動作モードが選択された場合に、ITU−R BT.1886に従って前記画像信号を前記表示用信号へと変換する、請求項または請求項に記載の画像処理装置。
  12. 前記信号方式は、基準白色よりも低い輝度レベルにおけるガンマ曲線と、基準白色よりも高い輝度レベルにおける対数曲線との組合せに基づくHLG(Hybrid Log Gamma)方式である、請求項1乃至請求項11の何れか1項に記載の画像処理装置。
  13. 前記画像信号は、HEVC(High Efficiency Video Coding)方式に従って符号化された符号化ストリームから復号され、
    前記符号化ストリームに関連付けられるSEI(Supplemental Enhancement Information)に含まれるパラメータに基づいて、前記画像信号について前記HLG方式が使用されたことが判定される、
    請求項12に記載の画像処理装置。
  14. 前記画像信号は、HEVC(High Efficiency Video Coding)方式に従って符号化された符号化ストリームを含み、
    前記符号化ストリームに関連付けられるVUI(Video Usability Information)に含まれるパラメータに基づいて、前記画像信号について前記HLG方式が使用されたことが判定される、
    請求項12に記載の画像処理装置。
  15. 前記符号化ストリームに字幕情報又はグラフィックス情報を含む補足的なストリームが関連付けられている場合に、当該補足的なストリームのコンテンツの最大輝度レベルは、前記基準白色の表示輝度レベルに合うように調整される、請求項13または請求項14に記載の画像処理装置。
  16. 画像処理装置により実行される画像処理方法であって、
    基準白色の表示輝度レベルを固定的に扱う信号方式に基づく、前記基準白色の輝度レベルでの正規化後の信号である画像信号を、ディスプレイのピーク輝度レベルに基づいて決定されるパラメータを用いて、前記基準白色の表示輝度レベルが維持されるようにガンマ変換することにより、表示用信号へと変換すること
    前記画像信号を、ゲイン値を用いて線形変換し、前記基準白色の表示輝度レベルが元の輝度レベルへと復元されるように決定される第2のガンマ値を用いて前記線形変換後の画像信号をガンマ変換することと、
    を含む画像処理方法。
JP2017541465A 2015-09-25 2016-08-02 画像処理装置及び画像処理方法 Expired - Fee Related JP6825568B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015188348 2015-09-25
JP2015188348 2015-09-25
PCT/JP2016/072691 WO2017051612A1 (ja) 2015-09-25 2016-08-02 画像処理装置及び画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2017051612A1 JPWO2017051612A1 (ja) 2018-08-30
JP6825568B2 true JP6825568B2 (ja) 2021-02-03

Family

ID=58385969

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017541465A Expired - Fee Related JP6825568B2 (ja) 2015-09-25 2016-08-02 画像処理装置及び画像処理方法

Country Status (10)

Country Link
US (1) US10638023B2 (ja)
EP (1) EP3355300B1 (ja)
JP (1) JP6825568B2 (ja)
CN (1) CN108028036B (ja)
AU (1) AU2016326942B2 (ja)
CA (1) CA2999098A1 (ja)
HK (1) HK1247369A1 (ja)
MX (1) MX383239B (ja)
TW (1) TWI704551B (ja)
WO (1) WO2017051612A1 (ja)

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3511928B1 (en) * 2016-09-09 2022-01-12 Panasonic Intellectual Property Management Co., Ltd. Display device and signal processing method
JP6860415B2 (ja) * 2017-05-15 2021-04-14 日本放送協会 映像信号変換装置、ダイナミックレンジ変換装置およびそれらのプログラム
JP6784643B2 (ja) * 2017-05-24 2020-11-11 日本放送協会 映像信号変換装置およびそのプログラム、ならびに、映像表示装置
JP2019041329A (ja) * 2017-08-28 2019-03-14 シャープ株式会社 映像処理装置、表示装置、映像処理方法、制御プログラム、および記録媒体
US10600163B2 (en) 2017-11-22 2020-03-24 Interdigital Vc Holdings, Inc. Method and device for reconstructing a display adapted HDR image
JP6821269B2 (ja) 2017-12-05 2021-01-27 株式会社ソニー・インタラクティブエンタテインメント 画像処理装置および画像処理方法
JP7045916B2 (ja) * 2018-04-20 2022-04-01 日本放送協会 映像輝度変換装置およびそのプログラム
US10917583B2 (en) 2018-04-27 2021-02-09 Apple Inc. Standard and high dynamic range display systems and methods for high dynamic range displays
KR102858155B1 (ko) * 2018-07-20 2025-09-11 인터디지털 브이씨 홀딩스 인코포레이티드 Sl-hdr2 포맷에서 중간 동적 범위 비디오 신호를 처리하기 위한 방법 및 장치
US20200045341A1 (en) * 2018-07-31 2020-02-06 Ati Technologies Ulc Effective electro-optical transfer function encoding for limited luminance range displays
KR102805644B1 (ko) * 2018-09-18 2025-05-09 엘지전자 주식회사 영상표시장치
EP3672254A1 (en) 2018-12-21 2020-06-24 InterDigital VC Holdings, Inc. Decoding an image
JP7278096B2 (ja) * 2019-02-20 2023-05-19 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
US10964289B2 (en) * 2019-07-25 2021-03-30 Google Llc OLED display with different spatial gamma
JP7370762B2 (ja) * 2019-08-20 2023-10-30 キヤノン株式会社 撮像装置およびその制御方法
WO2021151246A1 (en) * 2020-01-31 2021-08-05 Qualcomm Incorporated Dynamic gamma curve use for display
CN115480686B (zh) * 2021-05-26 2026-02-06 深圳信扬国际经贸股份有限公司 一种显示设备及图形交互菜单控制方法
CN115946632B (zh) * 2023-01-10 2023-08-18 润芯微科技(江苏)有限公司 一种多屏显示的中控娱乐系统及显示方法
CN120345022A (zh) * 2023-09-13 2025-07-18 夏普Nec显示器解决方案株式会社 显示系统、显示方法、显示器控制器以及显示器控制器的影像信号处理方法
CN121970111A (zh) * 2023-11-21 2026-05-01 Eizo株式会社 图像显示装置、图像显示方法以及图像显示程序
WO2025244900A1 (en) * 2024-05-21 2025-11-27 Apple Inc. Edr-aware, hue-preserving, soft-clip for hdr content
CN119722544B (zh) * 2025-02-25 2025-09-16 摩尔线程智能科技(北京)股份有限公司 图像处理方法、系统、设备、存储介质及程序产品
CN121725731A (zh) * 2026-02-26 2026-03-24 海信视像科技股份有限公司 显示峰值控制方法及显示装置

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100214634B1 (ko) * 1996-12-21 1999-08-02 구자홍 프로젝션 티브이의 b색 감마보정 회로
US7590299B2 (en) * 2004-06-10 2009-09-15 Samsung Electronics Co., Ltd. Increasing gamma accuracy in quantized systems
JP2006215756A (ja) 2005-02-02 2006-08-17 Dainippon Ink & Chem Inc 画像処理装置および画像処理方法ならびにそのプログラム
JP2007163979A (ja) 2005-12-15 2007-06-28 Fujifilm Corp プロファイル作成装置、プロファイル作成プログラム、および画像出力装置
KR100748333B1 (ko) * 2006-11-30 2007-08-09 삼성에스디아이 주식회사 플라즈마 표시 패널의 구동장치 및 그 구동방법
US8803922B2 (en) * 2007-05-30 2014-08-12 Apple Inc. Methods and apparatuses for increasing the apparent brightness of a display
CN101329842B (zh) * 2007-06-22 2011-06-15 深圳创维-Rgb电子有限公司 一种能对显示屏进行gamma校正的液晶显示器及其制作方法
US8345038B2 (en) * 2007-10-30 2013-01-01 Sharp Laboratories Of America, Inc. Methods and systems for backlight modulation and brightness preservation
TWI401667B (zh) * 2008-05-23 2013-07-11 Innolux Corp 液晶顯示器加馬校正電路及方法
EP2329487B1 (en) 2008-09-30 2016-05-25 Dolby Laboratories Licensing Corporation Systems and methods for applying adaptive gamma in image processing for high brightness and high dynamic range displays
JP5503657B2 (ja) * 2008-10-14 2014-05-28 ドルビー ラボラトリーズ ライセンシング コーポレイション 非線形レスポンス曲線を有する装置用の駆動信号の効率的な計算
KR101330396B1 (ko) * 2010-06-25 2013-11-15 엘지디스플레이 주식회사 표시장치와 그의 콘트라스트 향상 방법
JP5744429B2 (ja) * 2010-07-16 2015-07-08 キヤノン株式会社 画像処理装置、画像処理方法、およびプログラム
US9509935B2 (en) * 2010-07-22 2016-11-29 Dolby Laboratories Licensing Corporation Display management server
WO2012142285A2 (en) * 2011-04-12 2012-10-18 Dolby Laboratories Licensing Corporation Quality assessment for images that have extended dynamic ranges or wide color gamuts
PL4421797T3 (pl) 2011-09-27 2025-09-01 Koninklijke Philips N.V. Urządzenie i sposób do przekształcenia zakresu dynamiki obrazów
EP2819414A3 (en) * 2013-06-28 2015-02-25 Samsung Electronics Co., Ltd Image processing device and image processing method
RU2670782C9 (ru) * 2013-07-18 2018-11-23 Конинклейке Филипс Н.В. Способы и устройства для создания функций отображения кода для кодирования изображения hdr и способы и устройства для использования таких кодированных изображений
KR101477505B1 (ko) * 2013-12-23 2015-01-07 이동현 하이 다이나믹 레인지 영상 형성 방법
CN104935911B (zh) * 2014-03-18 2017-07-21 华为技术有限公司 一种高动态范围图像合成的方法及装置
JP6844539B2 (ja) * 2015-07-31 2021-03-17 ソニー株式会社 映像信号処理装置および映像信号処理方法、ならびに表示装置

Also Published As

Publication number Publication date
CN108028036B (zh) 2021-01-29
MX383239B (es) 2025-03-13
TWI704551B (zh) 2020-09-11
CN108028036A (zh) 2018-05-11
JPWO2017051612A1 (ja) 2018-08-30
MX2018003360A (es) 2018-05-30
HK1247369A1 (zh) 2018-09-21
US20190045091A1 (en) 2019-02-07
AU2016326942B2 (en) 2019-10-10
AU2016326942A1 (en) 2018-03-15
EP3355300A4 (en) 2019-06-19
US10638023B2 (en) 2020-04-28
EP3355300B1 (en) 2021-09-29
EP3355300A1 (en) 2018-08-01
TW201721627A (zh) 2017-06-16
CA2999098A1 (en) 2017-03-30
WO2017051612A1 (ja) 2017-03-30

Similar Documents

Publication Publication Date Title
JP6825568B2 (ja) 画像処理装置及び画像処理方法
JP7065376B2 (ja) 表示装置、変換装置、表示方法、および、コンピュータプログラム
JP6573237B2 (ja) 表示装置、変換装置、表示方法、および、コンピュータプログラム
CN106233741B (zh) 数据再现方法以及再现装置
US10313743B2 (en) Playback method and playback device
JP6868797B2 (ja) 変換方法及び変換装置

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190208

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20190214

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190222

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20190515

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20190522

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190726

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190726

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201215

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201228

R151 Written notification of patent or utility model registration

Ref document number: 6825568

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees