Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6778602B2 - 撮像装置、画像データ生成方法および画像データ生成プログラム - Google Patents
[go: Go Back, main page]

JP6778602B2 - 撮像装置、画像データ生成方法および画像データ生成プログラム - Google Patents

撮像装置、画像データ生成方法および画像データ生成プログラム Download PDF

Info

Publication number
JP6778602B2
JP6778602B2 JP2016242481A JP2016242481A JP6778602B2 JP 6778602 B2 JP6778602 B2 JP 6778602B2 JP 2016242481 A JP2016242481 A JP 2016242481A JP 2016242481 A JP2016242481 A JP 2016242481A JP 6778602 B2 JP6778602 B2 JP 6778602B2
Authority
JP
Japan
Prior art keywords
image
emission
calculated
flash
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2016242481A
Other languages
English (en)
Other versions
JP2018098676A (ja
Inventor
剛志 森谷
剛志 森谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Priority to JP2016242481A priority Critical patent/JP6778602B2/ja
Priority to KR1020197005801A priority patent/KR102425583B1/ko
Priority to EP17881415.8A priority patent/EP3522528B1/en
Priority to PCT/KR2017/014199 priority patent/WO2018110889A1/ko
Priority to US16/345,893 priority patent/US10771754B2/en
Publication of JP2018098676A publication Critical patent/JP2018098676A/ja
Application granted granted Critical
Publication of JP6778602B2 publication Critical patent/JP6778602B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/60Colour correction or control
    • H04N1/6083Colour correction or control controlled by factors external to the apparatus
    • H04N1/6086Colour correction or control controlled by factors external to the apparatus by scene illuminant, i.e. conditions at the time of picture capture, e.g. flash, optical filter used, evening, cloud, daylight, artificial lighting, white point measurement, colour temperature
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • G03B15/03Combinations of cameras with lighting apparatus; Flash units
    • G03B15/05Combinations of cameras with electronic flash apparatus; Electronic flash units
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • G03B15/03Combinations of cameras with lighting apparatus; Flash units
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B7/00Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
    • G03B7/08Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
    • G03B7/091Digital circuits
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/75Circuitry for compensating brightness variation in the scene by influencing optical camera components
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Exposure Control For Cameras (AREA)
  • Stroboscope Apparatuses (AREA)
  • Studio Devices (AREA)

Description

本発明は、撮像装置、画像データ生成方法および画像データ生成プログラムに関する。
環境光では光量が足りないシーンでは、露光不足を解消するために、フラッシュを発光して撮影を行うことがある。フラッシュを発光して取得した画像に対しては、例えばフラッシュ光が到達した主被写体とフラッシュ光が到達しなかった背景との間にカラーバランスの差異が生じ、適切なホワイトバランス補正を施せない場合があった。例えば、フラッシュを発光させて取得した画像に、フラッシュを発光させないで取得した画像に対する自動ホワイトバランス補正処理を施すと、主被写体のホワイトバランスが崩れることがあった。このような課題を解決するための技術として、例えばフラッシュ光のカラーバランスを予め計測してROMなどに記憶しておき、撮影のたびに記憶されたカラーバランスを読み出してホワイトバランス補正処理に利用する技術が知られるようになってきた(例えば、特許文献1、2)。
特開2008−79143号公報 特開2011−135378号公報
フラッシュ光のカラーバランスを予め記憶しておく方式によると、フラッシュの個体差や経年劣化に対応することが難しい。特にスマートフォンなどに搭載される閃光発光部にはLEDが用いられることが多く、LEDは、キセノンフラッシュよりもカラーバランスの個体差が大きい。工場出荷前の全数調整は現実的には困難であり、また、出荷前に全数調整をしたとしても、経年劣化にまで対応することは事実上不可能であった。
本発明は、このような問題を解決するためになされたものであり、撮影時におけるフラッシュ光のカラーバランスを算出して、撮影画像ごとに最適なホワイトバランス補正処理を施す技術を提供することを目的とする。
本発明の第1の態様における撮像装置は、事前に撮像されたプリ画像を用いて露出制御値を決定する露出制御部と、露出制御値に基づいて、同一被写体に対して、フラッシュを発光せずに撮像した非発光画像と、フラッシュを発光して撮像した発光画像とを取得する画像取得部と、露出制御値と非発光画像を用いて算出した非発光時輝度値と、露出制御値と発光画像を用いて算出した発光時輝度値とから、フラッシュが発光したフラッシュ光が輝度に与える影響度合を算出する影響度算出部と、非発光画像から算出された非発光時ホワイトバランスゲインと、発光画像から算出された発光時ホワイトバランスゲインと、影響度合とから、フラッシュ光のカラーバランスを算出するカラーバランス算出部と、当該カラーバランスを加味して算出した補正ホワイトバランスゲインを用いて、発光画像を処理して画像データを生成する画像データ生成部とを備える。
本発明の第2の態様における画像データ生成方法は、同一被写体に対して、フラッシュを発光せずに撮像した非発光画像と、フラッシュを発光して撮像した発光画像とを取得する画像取得ステップと、非発光画像を撮像したときの露出制御値と非発光画像を用いて算出した非発光時輝度値と、発光画像を撮像したときの露出制御値と発光画像を用いて算出した発光時輝度値とから、フラッシュが発光したフラッシュ光が輝度に与える影響度合を算出する影響度算出ステップと、非発光画像から算出された非発光時ホワイトバランスゲインと、発光画像から算出された発光時ホワイトバランスゲインと、影響度合とから、フラッシュ光のカラーバランスを算出するカラーバランス算出ステップと、当該カラーバランスを加味して算出した補正ホワイトバランスゲインを用いて、発光画像を処理して画像データを生成する画像データ生成ステップとを含む。
本発明の第2の態様における画像データ生成プログラムは、同一被写体に対して、フラッシュを発光せずに撮像した非発光画像と、フラッシュを発光して撮像した発光画像とを取得する画像取得ステップと、非発光画像を撮像したときの露出制御値と非発光画像を用いて算出した非発光時輝度値と、発光画像を撮像したときの露出制御値と発光画像を用いて算出した発光時輝度値とから、フラッシュが発光したフラッシュ光が輝度に与える影響度合を算出する影響度算出ステップと、非発光画像から算出された非発光時ホワイトバランスゲインと、発光画像から算出された発光時ホワイトバランスゲインと、影響度合とから、フラッシュ光のカラーバランスを算出するカラーバランス算出ステップと、当該カラーバランスを加味して算出した補正ホワイトバランスゲインを用いて、発光画像を処理して画像データを生成する画像データ生成ステップとをコンピュータに実行させる。
本発明により、撮影時におけるフラッシュ光のカラーバランスを算出して、撮影画像ごとに最適なホワイトバランス補正処理を施す技術を提供することができる。
本実施形態にかかる撮像装置のシステム構成図である。 フラッシュ光のカラーバランスを算出する処理の概念を説明する図である。 撮像から記録へ至る処理の流れを表すフロー図である。
以下、発明の実施の形態を通じて本発明を説明するが、特許請求の範囲に係る発明を以下の実施形態に限定するものではない。また、実施形態で説明する構成の全てが課題を解決するための手段として必須であるとは限らない。
図1は、本実施形態にかかる撮像装置100の主要な機能ブロックを示すシステム構成図である。撮像装置100は、被写体光束を取り込んで光電変換するための撮像部110を備え、撮像部110は、主に、レンズ102、絞り104、シャッター106、撮像素子108によって構成される。
レンズ102は、例えばモールド成形される樹脂レンズであり、入射する被写体光束を撮像素子108の結像面に結像させる。レンズ102は、複数のレンズによって構成されていても良く、また、手振れを補正する補正レンズを含んでいても良い。絞り104は、被写体光束を制限して被写界深度を調整する機能を担い、シャッター106は、被写体光束の通過時間を調整する機能を担う。なお、絞り104とシャッター106は、それぞれ別個のユニットで構成されなくても良く、両機能を担う絞りシャッターユニットを用いても良い。また、絞り104は、固定絞りでも良い。また、シャッター106が担う機能は、撮像素子108の機能として実行し得る電子シャッターで代替しても良く、この場合は、メカニカルなシャッターユニットを省くことができる。
撮像素子108は、CCDイメージセンサーやCMOSイメージセンサーなどの、光電変換素子である。撮像素子108を構成する各ピクセル上にはRGBのカラーフィルタが例えばベイヤー配列により設けられている。撮像素子108は、結像面に結像された被写体光束を画像信号に変換して、アナログフロントエンド(AFE)112へ引き渡す。
AFE112は、撮像素子108から受け取った画像信号に、色分離処理、A/D変換、欠陥画素補正、黒レベル補正、シェーディング補正等を施し、RGB画像信号を生成する。生成されたRGB画像信号は、統計処理部114と画像処理部120へ引き渡される。統計処理部114は、RGB画像信号をRGBのレイヤーごとに、例えば8画素×8画素の画像ブロックに分割して各種統計処理演算を行うLSIである。統計処理部114は、例えば、G信号の平均値を演算したり、ホワイトバランスゲインを演算したりする。演算結果は、システム制御部130へ引き渡される。
画像処理部120は、システム制御部130の制御信号に従って画像処理に関する様々な演算を実行するASICである。例えば、ベイヤー色補間処理、エッジ強調処理、ガンマ補正処理、ノイズ低減処理を実行したり、RGB信号をYCC信号に変換したり、JPEG等のファイル形式に従って圧縮処理を施したりする。すなわち、画像処理部120は、画像データを生成する画像データ生成部としての機能を担う。画像処理部120は、画像処理に関する機能演算部の一つとして、ホワイトバランス補正処理を実行するWB補正部122を包含する。
画像処理部120は、様々な画像処理を実行するにあたり、演算前および演算中の画像信号を一時的に記憶させるメモリ124を利用する。メモリ124は、例えばRAMで構成され、少なくとも数画像分の画像信号を記憶させる容量を有する。
画像処理部120は、生成した画像データを記録部142へ記録する。記録部142は、例えば、不揮発性のフラッシュメモリで構成される。記録部142は、着脱可能なメモリカードであっても良い。また、画像処理部120は、生成した画像データを表示信号に変換して表示部144に表示することができる。表示部144は、例えば、液晶パネルで構成される。また、画像処理部120は、生成した画像データを、外部IF146を介して外部機器へ送信することができる。外部IF146は、例えば無線LANユニットで構成される。
システム制御部130は、例えばCPUであり、撮像装置100を構成する各要素を直接的または間接的に制御する。システム制御部130による制御は、システムメモリや外部機器から与えられた制御プログラム、ルックアップテーブル、パラメータ等によって実現される。
システム制御部130は、演算処理に関する機能演算部の一つとして、ドライバー116に制御信号を送信する露出制御部132を包含する。露出制御部132は、統計処理部114の処理結果を取得して撮像のための露出値を演算し、当該露出値に従った撮像が実行されるように制御信号を生成する。
システム制御部130は、演算処理に関する機能演算部の一つとして、フラッシュ光が撮影画像から演算される輝度に与える影響度合を算出する影響度算出部134と、フラッシュ光のカラーバランスを算出するCB算出部136とを包含する。これらの機能については、後に詳述する。
ドライバー116は、撮像部110およびフラッシュ150を制御する。例えば、ドライバー116は、レンズ102の焦点調整を実行したり、絞り104の絞り機構を駆動したり、シャッター106の開閉を実行したり、撮像素子108のリセットや電荷転送を制御したり、フラッシュ150の発光光量を調整したりする。フラッシュ150は、例えば高輝度LEDによって構成され、撮像素子108の電荷蓄積期間に同期して発光される。撮像装置100において、撮像部110、フラッシュ150、ドライバー116は、システム制御部130と協働して、被写体画像を取得する画像取得部として機能する。
このようなシステム構成を有する撮像装置100において実行される、フラッシュ光のカラーバランスを算出するまでの処理について説明する。図2は、フラッシュ光のカラーバランスを算出する処理の概念を説明する図である。
露出制御部132は、例えばEVF画像など、事前に撮像されたプリ画像を用いて本撮影のための露出制御値を決定する。ここで、露出制御部132が決定する露出制御値は、絞り値、シャッター速度、センサー感度(ISO感度)である。
システム制御部130は、当該露出制御値に従って、フラッシュ150を発光せずに撮像した非発光画像と、フラッシュ150を発光して撮像した発光画像とを連続して取得する。露出制御部132は、非発光画像を取得する場合の露出制御値と、発光画像を取得する場合の露出制御値を、それぞれが適正露出になるように互いに異ならせても良いが、共通する露出制御値を用いると、例えば図2の左上の2枚のような画像が得られる。
左側の非発光画像は、環境光のみで撮像された画像であり、全体的にアンダーな画像になっている。右側の発光画像は、環境光にフラッシュ光が足されて撮像された画像であり、撮像装置100から近い人物は明るく、少し離れた位置に存在する木々は非発光画像のそれよりは若干明るく、背景は非発光画像と同様に写っている。
これら2つの画像を取得すると、影響度算出部134は、撮像時の露出制御値と非発光画像を用いて非発光時輝度値を算出し、同様に、撮像時の露出制御値と発光画像を用いて発光時輝度値を算出する。そして、図2の右上に発光画像と非発光画像の差分として概念を示すように、フラッシュ光単独では非発光画像の全体にどれだけの変化をもたらしたかを表す数値として、非発光時輝度値と発光時輝度値からフラッシュ光が輝度に与えた影響度合Pを算出する。
一方で、CB算出部136は、非発光画像から非発光時ホワイトバランスゲインWを算出し、発光画像から発光時ホワイトバランスゲインWefを算出する。そして、これら2つのホワイトバランスゲインと、影響度算出部134が算出した影響度合Pとから、フラッシュ光のカラーバランスCを算出する。つまり、発光画像を取得するにあたり現に発光させたフラッシュ光そのものから、フラッシュ光のカラーバランスを算出する。これは、フラッシュ150の、生のカラーバランスであると言え、予めROM等に記録されたカラーバランスではなく、経年変化によるずれも、ユニット個体差によるずれも、発光量の違いによるずれもないカラーバランスである。
このように算出されたカラーバランスはWB補正部122へ送られ、WB補正部122は、当該カラーバランスを加味して算出した補正ホワイトバランスゲインを用いて、発光画像に対してホワイトバランス補正処理を施す。そして、画像処理部120は、ホワイトバランス補正が施された画像に圧縮処理等を施して画像データに仕上げる。できあがった画像データは、記録部142に記録される。
それぞれの処理について、更に詳細に説明する。ここでは、非発光画像を取得する場合の露出制御値と、発光画像を取得する場合の露出制御値とが異なっていても良いように、それぞれをAPEX値で、非発光画像の露出制御値を、絞り値Av、シャッター速度Tv、センサー感度Svとし、発光画像の露出制御値を、絞り値Avef、シャッター速度Tvef、センサー感度Svefと表す。このとき、非発光画像の被写体輝度値Bvは、
Figure 0006778602
と表され、発光画像の被写体輝度値Bvefは、
Figure 0006778602
と表される。
露出制御部132が露出制御値を決定するにあたり用いた目標輝度とする信号レベルをAETとする。また、非発光画像が統計処理部114に処理されて算出された画像全体におけるG信号の平均値をRGとし、発光画像が統計処理部114に処理されて算出された画像全体におけるG信号の平均値をRGefとする。このとき、非発光画像の輝度差分ΔBvは、
Figure 0006778602
と表され、発光画像の輝度差分ΔBvefは、
Figure 0006778602
と表される。
すると、非発光画像が捉えたシーンの輝度BVは、(1)式と(3)式を用いて、
Figure 0006778602
と表され、発光画像が捉えたシーンの輝度BVefは、(2)式と(4)式を用いて、
Figure 0006778602
と表される。
そして、影響度算出部134は、(5)式と(6)式を用いて、フラッシュ光が輝度に与えた影響度合P
Figure 0006778602
と算出する。
CB算出部136は、統計処理部114によるブロック演算結果と一般的な算出手法を利用して、非発光画像から非発光時ホワイトバランスゲインW(Wer,Weg,Web)を算出する。同様に、発光画像から発光時ホワイトバランスゲインWef(Wefr,Wefg,Wefb)を算出する。なお、Wer,WefrはR信号について、Weg,WefgはG信号について、Web,WefbはB信号について算出されたホワイトバランスゲインであることを表す。以下の計算式においても、R信号、G信号、B信号のそれぞれに対して算出するものとする。
さらに、CB算出部136は、環境光に対するカラーバランスC(Cer,Ceg,Ceb)を、非発光時ホワイトバランスゲインWの逆数として、
Figure 0006778602
と算出する。同様に、環境光+フラッシュ光に対するカラーバランスCef(Cefr,Cefg,Cefb)を、発光時ホワイトバランスゲインWefの逆数として、
Figure 0006778602
と算出する。
そして、CB算出部136は、フラッシュ光のカラーバランスC(Cfr,Cfg,Cfb)を、環境光に対するカラーバランスC、環境光+フラッシュ光に対するカラーバランスCef、およびフラッシュ光が輝度に与えた影響度合Pを用いて、
Figure 0006778602
と算出する。
このように、具体的にフラッシュ光のカラーバランスCが算出されると、WB補正部122は、カラーバランスCに基づいてホワイトバランスゲインを補正し、この補正された補正ホワイトバランスゲインを用いて、発光画像にホワイトバランス処理を施すことができる。つまり、従来技術において予めROMに記録されていたフラッシュ光のカラーバランスを用いてホワイトバランスゲインを補正したのと同様に、上記の演算によって算出したフラッシュ光のカラーバランスを用いてホワイトバランスゲインを補正することができる。補正されたホワイトバランスゲインを用いてホワイトバランス補正処理を施し、圧縮処理等を行って画像データを生成する処理は、様々な従来技術を適用することができる。補正ホワイトバランスゲインの算出方法の一例を簡単に紹介する。
統計処理部114および影響度算出部134は、非発光画像をw×hのブロックに分割し、式(1)(3)(5)を用いてそれぞれのブロックにおけるBV値を、S[x][y]として算出する。同様に、発光画像をw×hのブロックに分割し、式(2)(4)(6)を用いてそれぞれのブロックにおけるBV値を、S[x][y]として算出する。そして、対応する対応するブロック間の差分D[x][y]を、
Figure 0006778602
として算出する。
そして、画像全体に対する差分D[x][y]のばらつきを以下の分散値vによって表す。
Figure 0006778602
この分散値vを引数とする評価関数Pm(v)を予め設定しておく。Pm(v)は、フラッシュ光のカラーバランスを加味する割合(0≦Pm(v)≦1)を表し、分散値vが大きいほどPm(v)は大きくなるように設定する。このように算出された評価関数Pm(v)を用いると、補正ホワイトバランスゲインWは、
Figure 0006778602
と算出することができる。なお、Wも、Cと同様にR信号、G信号、B信号のそれぞれに対して算出する。
このように、算出された補正ホワイトバランスゲインWを用いて発光画像に対してホワイトバランス補正処理を施せば、実際にフラッシュ150が発光したフラッシュ光のカラーバランスで、かつ与えた光量に応じてホワイトバランス調整を行うことができるので、より自然な色味の画像を得ることができる。なお、式(11)から(13)のようにして補正ホワイトバランス係数Wを算出する手法は一例であって、カラーバランスCを用いたホワイトバランス調整は、他の手法を採用することもできる。
次に、撮像から記録へ至る処理の流れを説明する。図3は、撮像から記録へ至る処理の流れを表すフロー図である。フローは、撮像装置100の電源がオンにされた時点で開始される。
システム制御部130は、ステップS101で、プリ画像を取得する。露出制御部132は、ステップS102で、当該プリ画像を受け取り、本撮影のための露出制御値(絞り値、シャッター速度、センサー感度)を決定する。そして、ドライバー116へ制御信号を送信することにより本撮影のための撮像処理を実行し、非発光画像と発光画像を取得する(ステップS103)。なお、非発光画像と発光画像の撮像順は、いずれが先であっても構わない。
影響度算出部134は、ステップS104で、非発光画像が捉えたシーンの輝度BVと、発光画像が捉えたシーンの輝度BVefを演算する。続いて、ステップS105で、非発光時ホワイトバランスゲインWと、発光時ホワイトバランスゲインWefを演算する。さらに、影響度算出部134は、ステップS106で、輝度BVとBVefを用いて影響度合Pを算出する。なお、ステップS105とS106は、逆順であっても構わない。
そして、ステップS107で、CB算出部136は、カラーバランスC、Cef、および影響度合Pを用いてフラッシュ光のカラーバランスC(Cfr,Cfg,Cfb)を算出する。CB算出部136は、算出したカラーバランスCをWB補正部122へ引き渡す。
WB補正部122は、ステップS108で、補正ホワイトバランスゲインWを算出し、これを用いてステップS103で取得した発光画像のホワイトバランスを調整する。ホワイトバランス調整が完了したら、画像処理部120は、ステップS109で、圧縮処理等を施して画像データを生成し、ステップS110で、記録部142へ記録する。また、表示部144に生成した画像を表示しても良い。また、外部IFを介して、画像データを外部機器へ送信しても良い。そして、電源がオフにされると一連の処理を終了する。
以上説明した本実施形態にかかる撮像装置100によれば、一般的にカラーバランス個体差が大きいLEDをフラッシュ150として用いても、工場出荷前の全数調整などを必要とすることなく、撮影ごとに適切な色味の画像を得ることができる。また、LEDを採用する場合に限らず、キセノン管のフラッシュを採用する場合であっても、経年劣化によってフラッシュ光のカラーバランスは変化するが、本実施形態にかかる撮像装置100においては、経年劣化の影響を受けることがない。すなわち、フラッシュ光のカラーバランスを予め記憶しておく方式においては、記憶しておいたカラーバランスと実際のカラーバランスとの間に乖離が生じるが、本実施形態にかかる撮像装置100では、そのようなことが生じることはない。
以上説明した本実施形態においては、撮像装置100を説明した。しかし、フラッシュ光のカラーバランスを算出して、ホワイトバランス処理に加味する画像データ取得方法は、例えばPC上のソフトウェアによっても実行することができる。例えば、同一被写体に対して、フラッシュを発光せずに撮像した非発光画像と、フラッシュを発光して撮像した発光画像とを、付帯情報として露出制御値を有するRAWデータとしてそれぞれPCに取り込めば、後の処理を上述の処理と同様に施すことができる。この場合、PCにインストールしてソフトウェアとして実行可能にさせるプログラムは、例えばCDROMによって供給されても良いし、ネットワークを介して供給されても良い。
100 撮像装置、102 レンズ、104 絞り、106 シャッター、108 撮像素子、110 撮像部、112 アナログフロントエンド(AFE)、114 統計処理部、116 ドライバー、120 画像処理部、122 WB補正部、124 メモリ、130 システム制御部、132 露出制御部、134 影響度演算部、136 CB算出部、142 記録部、144 表示部、146 外部IF、150 フラッシュ

Claims (5)

  1. 事前に撮像されたプリ画像を用いて露出制御値を決定する露出制御部と、
    前記露出制御値に基づいて、同一被写体に対して、フラッシュを発光せずに撮像した非発光画像と、前記フラッシュを発光して撮像した発光画像とを取得する画像取得部と、
    前記露出制御値と前記非発光画像を用いて算出した非発光時輝度値と、前記露出制御値と前記発光画像を用いて算出した発光時輝度値とから、前記フラッシュが発光したフラッシュ光が輝度に与える影響度合を算出する影響度算出部と、
    前記非発光画像から算出された非発光時ホワイトバランスゲインと、前記発光画像から算出された発光時ホワイトバランスゲインと、前記影響度合とから、前記フラッシュ光のカラーバランスを算出するカラーバランス算出部と、
    前記カラーバランスを加味して算出した補正ホワイトバランスゲインを用いて、前記発光画像を処理して画像データを生成する画像データ生成部と
    を備え
    前記影響度算出部は、前記影響度合を、
    Figure 0006778602
    (P は影響度合、BV ef は発光画像を用いて算出したシーン輝度のAPEX値、BV は非発光画像を用いて算出したシーン輝度のAPEX値)
    として算出する撮像装置。
  2. 前記カラーバランス算出部は、前記カラーバランスを、RGBの各色に対して、
    Figure 0006778602
    (Cはカラーバランス、Cefは発光画像を用いて算出した発光時ホワイトバランスゲインの逆数、Cは非発光画像を用いて算出した非発光時ホワイトバランスゲインの逆数)
    として算出する請求項に記載の撮像装置。
  3. 前記影響度算出部は、BVefとBVを、
    Figure 0006778602
    Figure 0006778602
    Figure 0006778602
    Figure 0006778602
    (RGefは発光画像から算出された画像全体におけるG信号の平均値、RGは非発光画像から算出された画像全体におけるG信号の平均値、AETは前記露出制御部が露出制御値を決定するにあたり用いた目標輝度とする信号レベル、Bvefは、発光画像の被写体輝度のAPEX値、Bvは、非発光画像の被写体輝度のAPEX値)
    として算出する請求項またはに記載の撮像装置。
  4. 同一被写体に対して、フラッシュを発光せずに撮像した非発光画像と、前記フラッシュを発光して撮像した発光画像とを取得する画像取得ステップと、
    前記非発光画像を撮像したときの露出制御値と前記非発光画像を用いて算出した非発光時輝度値と、前記発光画像を撮像したときの露出制御値と前記発光画像を用いて算出した発光時輝度値とから、前記フラッシュが発光したフラッシュ光が輝度に与える影響度合を算出する影響度算出ステップと、
    前記非発光画像から算出された非発光時ホワイトバランスゲインと、前記発光画像から算出された発光時ホワイトバランスゲインと、前記影響度合とから、前記フラッシュ光のカラーバランスを算出するカラーバランス算出ステップと、
    前記カラーバランスを加味して算出した補正ホワイトバランスゲインを用いて、前記発光画像を処理して画像データを生成する画像データ生成ステップと
    を含み、
    前記影響度算出ステップは、前記影響度合を、
    Figure 0006778602
    (P は影響度合、BV ef は発光画像を用いて算出したシーン輝度のAPEX値、BV は非発光画像を用いて算出したシーン輝度のAPEX値)
    として算出する画像データ生成方法。
  5. 同一被写体に対して、フラッシュを発光せずに撮像した非発光画像と、前記フラッシュを発光して撮像した発光画像とを取得する画像取得ステップと、
    前記非発光画像を撮像したときの露出制御値と前記非発光画像を用いて算出した非発光時輝度値と、前記発光画像を撮像したときの露出制御値と前記発光画像を用いて算出した発光時輝度値とから、前記フラッシュが発光したフラッシュ光が輝度に与える影響度合を算出する影響度算出ステップと、
    前記非発光画像から算出された非発光時ホワイトバランスゲインと、前記発光画像から算出された発光時ホワイトバランスゲインと、前記影響度合とから、前記フラッシュ光のカラーバランスを算出するカラーバランス算出ステップと、
    前記カラーバランスを加味して算出した補正ホワイトバランスゲインを用いて、前記発光画像を処理して画像データを生成する画像データ生成ステップと
    をコンピュータに実行させ
    前記影響度算出ステップは、前記影響度合を、
    Figure 0006778602
    (P は影響度合、BV ef は発光画像を用いて算出したシーン輝度のAPEX値、BV は非発光画像を用いて算出したシーン輝度のAPEX値)
    として算出する画像データ生成プログラム。
JP2016242481A 2016-12-14 2016-12-14 撮像装置、画像データ生成方法および画像データ生成プログラム Expired - Fee Related JP6778602B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2016242481A JP6778602B2 (ja) 2016-12-14 2016-12-14 撮像装置、画像データ生成方法および画像データ生成プログラム
KR1020197005801A KR102425583B1 (ko) 2016-12-14 2017-12-06 영상의 화이트 밸런스를 보정하는 방법 및 전자 장치
EP17881415.8A EP3522528B1 (en) 2016-12-14 2017-12-06 Image white balance correction method and electronic device
PCT/KR2017/014199 WO2018110889A1 (ko) 2016-12-14 2017-12-06 영상의 화이트 밸런스를 보정하는 방법 및 전자 장치
US16/345,893 US10771754B2 (en) 2016-12-14 2017-12-06 Image white balance correction method and electronic device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016242481A JP6778602B2 (ja) 2016-12-14 2016-12-14 撮像装置、画像データ生成方法および画像データ生成プログラム

Publications (2)

Publication Number Publication Date
JP2018098676A JP2018098676A (ja) 2018-06-21
JP6778602B2 true JP6778602B2 (ja) 2020-11-04

Family

ID=62558884

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016242481A Expired - Fee Related JP6778602B2 (ja) 2016-12-14 2016-12-14 撮像装置、画像データ生成方法および画像データ生成プログラム

Country Status (5)

Country Link
US (1) US10771754B2 (ja)
EP (1) EP3522528B1 (ja)
JP (1) JP6778602B2 (ja)
KR (1) KR102425583B1 (ja)
WO (1) WO2018110889A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110944116B (zh) * 2019-11-08 2021-06-25 瑞芯微电子股份有限公司 基于白平衡的单个闪光灯补偿方法、装置、设备和介质
TWI743628B (zh) * 2019-12-18 2021-10-21 瑞昱半導體股份有限公司 影像過曝修正方法與電路系統
KR20220144530A (ko) * 2021-04-20 2022-10-27 삼성전자주식회사 멀티 디스플레이 보정 방법 및 멀티 디스플레이 보정 장치
JP7759163B2 (ja) * 2021-10-29 2025-10-23 キヤノン株式会社 画像処理装置及び画像処理方法

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3540485B2 (ja) 1995-04-13 2004-07-07 株式会社リコー 電子スチルカメラ
JP3949903B2 (ja) * 2001-04-09 2007-07-25 東芝エルエスアイシステムサポート株式会社 撮像装置及び撮像信号処理方法
JP2003324755A (ja) * 2002-05-08 2003-11-14 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
KR101014662B1 (ko) 2004-01-14 2011-02-16 삼성전자주식회사 디지털 촬영 장치의 프리셋 화이트 밸런스 데이터 설정 및적용 방법
US7457477B2 (en) * 2004-07-06 2008-11-25 Microsoft Corporation Digital photography with flash/no flash extension
US7590344B2 (en) * 2006-02-28 2009-09-15 Microsoft Corp. Adaptive processing for images captured with flash
JP4761066B2 (ja) 2006-09-22 2011-08-31 富士フイルム株式会社 ホワイトバランス補正方法及び撮像装置
JP2009118001A (ja) 2007-11-02 2009-05-28 Olympus Imaging Corp 撮像装置
JP5214476B2 (ja) * 2009-01-15 2013-06-19 富士フイルム株式会社 撮像装置及び画像処理方法並びにプログラム
JP5532621B2 (ja) 2009-02-17 2014-06-25 株式会社ニコン 電子カメラ及び画像処理プログラム
KR101589493B1 (ko) * 2009-02-24 2016-01-28 삼성전자주식회사 플래시를 이용한 화이트 밸런스 조정 방법 및 장치, 이를 이용한 디지털 촬영 장치
JP4757927B2 (ja) 2009-03-13 2011-08-24 アキュートロジック株式会社 ホワイトバランス調整装置及びホワイトバランス調整方法
JP5589585B2 (ja) * 2009-07-07 2014-09-17 ソニー株式会社 画像処理装置、画像処理方法およびプログラム
JP5346266B2 (ja) * 2009-09-30 2013-11-20 富士フイルム株式会社 画像処理装置、カメラ及び画像処理方法
US8441552B2 (en) * 2009-12-24 2013-05-14 Samsung Electronics Co., Ltd. Photographing apparatus with improved white balance correction and method and recording medium
US8717454B2 (en) * 2009-12-24 2014-05-06 Samsung Electronics Co., Ltd. Image pickup apparatus and image pickup method for adjusting white balance to account for flash and external light sources
JP5566680B2 (ja) * 2009-12-24 2014-08-06 三星電子株式会社 撮像装置及び撮像方法
JP5665436B2 (ja) * 2010-09-02 2015-02-04 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP4935925B1 (ja) * 2010-11-04 2012-05-23 カシオ計算機株式会社 撮像装置、ホワイトバランス調整方法及びホワイトバランス調整プログラム
US20120113295A1 (en) 2010-11-04 2012-05-10 Casio Computer Co., Ltd. Image capturing apparatus capable of adjusting white balance
JP5808142B2 (ja) * 2011-05-02 2015-11-10 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP5917258B2 (ja) * 2012-04-20 2016-05-11 キヤノン株式会社 画像処理装置及び画像処理方法
WO2014054498A1 (ja) * 2012-10-05 2014-04-10 富士フイルム株式会社 撮像装置及び画像表示方法
US9025047B2 (en) * 2012-12-13 2015-05-05 Samsung Electronics Co., Ltd. Photographing apparatus and method
JP2014120813A (ja) * 2012-12-13 2014-06-30 Samsung R&D Institute Japan Co Ltd 撮像装置及び撮像方法
US9420197B2 (en) 2012-12-26 2016-08-16 Samsung Electronics Co., Ltd. Imaging device, imaging method and imaging program
WO2015118788A1 (ja) * 2014-02-07 2015-08-13 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法、プログラム及び記録媒体
WO2015151747A1 (ja) * 2014-03-31 2015-10-08 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及びプログラム
CN106576155B (zh) * 2014-07-08 2019-04-16 富士胶片株式会社 图像处理装置、摄像装置、图像处理方法以及程序
WO2016006304A1 (ja) * 2014-07-08 2016-01-14 富士フイルム株式会社 画像処理装置、撮像装置、画像処理方法及び画像処理プログラム
JP5849150B1 (ja) 2014-12-25 2016-01-27 アキュートロジック株式会社 撮像方法
US10070111B2 (en) * 2015-12-22 2018-09-04 Adobe Systems Incorporated Local white balance under mixed illumination using flash photography

Also Published As

Publication number Publication date
US20190289269A1 (en) 2019-09-19
EP3522528A4 (en) 2019-11-06
EP3522528A1 (en) 2019-08-07
KR102425583B1 (ko) 2022-07-29
US10771754B2 (en) 2020-09-08
EP3522528B1 (en) 2023-11-01
JP2018098676A (ja) 2018-06-21
KR20190087400A (ko) 2019-07-24
WO2018110889A1 (ko) 2018-06-21

Similar Documents

Publication Publication Date Title
CN103685971B (zh) 摄像设备及其控制方法
JP5743696B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6049343B2 (ja) 画像処理装置、画像処理方法及びプログラム
CN107534761B (zh) 成像装置、成像方法、图像处理装置
JP2009159496A (ja) ホワイトバランス制御装置およびそれを用いた撮像装置並びにホワイトバランス制御方法
JP6778602B2 (ja) 撮像装置、画像データ生成方法および画像データ生成プログラム
CN102065224A (zh) 摄像装置和摄像方法
JP5225137B2 (ja) 撮像装置、画像処理方法及びプログラム
JP2013141105A (ja) 画像処理装置および電子カメラ、並びに画像処理プログラム
JP5566680B2 (ja) 撮像装置及び撮像方法
JP5854716B2 (ja) 画像処理装置、画像処理方法及びプログラム
KR102068747B1 (ko) 촬상 장치 및 촬상 방법
JP6570311B2 (ja) 画像処理装置及び画像処理方法
JP5765599B2 (ja) 撮像装置、画像処理方法及びプログラム
JP5471510B2 (ja) 撮像装置、画像処理方法及びプログラム
KR101710629B1 (ko) 촬상 장치 및 촬상 방법
JP2011135379A (ja) 撮像装置、撮像方法及びプログラム
JP4752434B2 (ja) 色補正処理プログラムおよび電子カメラ
JP7682954B2 (ja) 撮像装置、その制御方法とプログラム
JP2008283364A (ja) 撮像装置及びホワイトバランス補正方法
JP2017034536A (ja) 画像処理装置、画像処理方法、及びプログラム
JP6616674B2 (ja) 画像処理装置および方法、および撮像装置
JP5598106B2 (ja) 画像制御装置、撮像装置、及び画像制御プログラム
JP6021885B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP5549282B2 (ja) 画像処理装置、撮像装置、コンピュータ読み取り可能なプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191001

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200630

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200706

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201006

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201012

R150 Certificate of patent or registration of utility model

Ref document number: 6778602

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees