JP5410510B2 - 撮像装置、外部閃光検出方法、プログラムおよび集積回路 - Google Patents
撮像装置、外部閃光検出方法、プログラムおよび集積回路 Download PDFInfo
- Publication number
- JP5410510B2 JP5410510B2 JP2011509212A JP2011509212A JP5410510B2 JP 5410510 B2 JP5410510 B2 JP 5410510B2 JP 2011509212 A JP2011509212 A JP 2011509212A JP 2011509212 A JP2011509212 A JP 2011509212A JP 5410510 B2 JP5410510 B2 JP 5410510B2
- Authority
- JP
- Japan
- Prior art keywords
- line
- frame
- unit
- imaging
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/71—Circuitry for evaluating the brightness variation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
本発明は、スチルカメラ等のフラッシュがビデオ用の動画の撮影時に及ぼす白帯状の妨害を緩和できる撮像装置に関する。
近年、小型、低消費電力、高速撮像等の特徴をもつCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを用いた撮像装置が、民生用ビデオカメラ及び業務用ビデオカメラの分野で躍進してきている。
CMOSイメージセンサは、CCD(Charge Coupled Device)イメージセンサに比べて種々の特徴を有しており、CMOSイメージセンサとCCDイメージセンサとでは、フォトダイオード(Photo Diode:以降「PD」と記載)に蓄積される電荷の読み出し方式も異なる。
CCDイメージセンサでは、PDの電荷読み出しを全画素で同一タイミングで行う、所謂グローバルシャッター方式により行う。一方、CMOSイメージセンサでは、ライン(画素)単位で読出しタイミングがずれていく所謂ローリングシャッター方式によりPDの電荷読み出しを行う。このため、CMOSイメージセンサでは、蓄積電荷の読出しタイミングがずれ、各画素の蓄積期間のタイミングがずれることに起因して、CCDイメージセンサにない弊害が発生する。
CMOSイメージセンサは、CCD(Charge Coupled Device)イメージセンサに比べて種々の特徴を有しており、CMOSイメージセンサとCCDイメージセンサとでは、フォトダイオード(Photo Diode:以降「PD」と記載)に蓄積される電荷の読み出し方式も異なる。
CCDイメージセンサでは、PDの電荷読み出しを全画素で同一タイミングで行う、所謂グローバルシャッター方式により行う。一方、CMOSイメージセンサでは、ライン(画素)単位で読出しタイミングがずれていく所謂ローリングシャッター方式によりPDの電荷読み出しを行う。このため、CMOSイメージセンサでは、蓄積電荷の読出しタイミングがずれ、各画素の蓄積期間のタイミングがずれることに起因して、CCDイメージセンサにない弊害が発生する。
その問題の一つに、スチルカメラ等のフラッシュ光が焚かれている被写体をCMOSイメージセンサのビデオカメラで撮像すると、撮像画面上に白帯状の妨害が発生するという現象が挙げられる。「白帯状の妨害」とは、ここでは撮像した画像のあるフレームの一部だけがフラッシュ光の影響を受け、途中のラインから上(画面上部)、または下(画面下部)だけが明るくなる現象を指す。
以下、この現象について、図34および図35を用いて説明する。
図34は、ビデオカメラとスチルカメラが混在する撮影風景、例えば記者会見等の撮影風景を模式的に示す図である。
図34は、ビデオカメラ100と、その撮像信号を映すモニター101、スチルカメラ102、103、および被写体104より構成される撮影風景を模式的に示している。ビデオカメラ100は、CMOSイメージセンサを用いている。
以下、この現象について、図34および図35を用いて説明する。
図34は、ビデオカメラとスチルカメラが混在する撮影風景、例えば記者会見等の撮影風景を模式的に示す図である。
図34は、ビデオカメラ100と、その撮像信号を映すモニター101、スチルカメラ102、103、および被写体104より構成される撮影風景を模式的に示している。ビデオカメラ100は、CMOSイメージセンサを用いている。
このような撮影風景において、スチルカメラ102、103でフラッシュが焚かれると、ビデオカメラ100の撮像信号を映すモニター101の画面に白帯状の妨害が発生する。以下、その原理を説明する。
図35は、ビデオカメラ100の蓄積期間(露光期間)と、読出しタイミング、読出し期間、および走査期間を模式化した図である。
図35において、画面(ビデオカメラ100による撮像画像)を構成する各走査ラインの電荷蓄積期間およびその電荷を読み出すための走査期間を、時間軸を横軸に取って表している。走査ラインの総数は、HDカメラを想定して1125ラインとする。また、図35に示す「モニター画面0期間」とは、フレーム0の撮像信号をモニター画面等に出力する期間であり、ここでは1/60秒とする。「モニター画面1期間」等についても同様である。
図35は、ビデオカメラ100の蓄積期間(露光期間)と、読出しタイミング、読出し期間、および走査期間を模式化した図である。
図35において、画面(ビデオカメラ100による撮像画像)を構成する各走査ラインの電荷蓄積期間およびその電荷を読み出すための走査期間を、時間軸を横軸に取って表している。走査ラインの総数は、HDカメラを想定して1125ラインとする。また、図35に示す「モニター画面0期間」とは、フレーム0の撮像信号をモニター画面等に出力する期間であり、ここでは1/60秒とする。「モニター画面1期間」等についても同様である。
ビデオカメラ100において、例えば、画面の一番上のラインであるライン1(ライン1を形成する映像信号を取得するためのCMOSイメージセンサの撮像素子面上の1ライン分の画素(それぞれの画素にPDが設置されている。))については、ちょうどモニター画面0期間の開始タイミングと共にフレーム1のPD蓄積(PDでの電荷蓄積)を開始し、1フレーム期間、すなわちモニター画面0期間の終了タイミングと共にPD蓄積を終了する。蓄積されたライン1のPD信号は、この直後に(PD蓄積が終了した直後に)、蓄積電荷の読み出し(なお、「蓄積電荷の読み出し」を、単に「読み出し」ということがある。)の走査が開始されると同時に、次のフレーム2のPD蓄積が開始される。PD信号の読み出し走査の期間は、1フレーム期間(1/60秒)に1125本のラインを走査することから、1/60/1125≒1.48×10-5秒となる。
次に、ライン2については、ライン1のフレーム0に対するPD読み出し走査の期間終了タイミングにあわせてPD蓄積を開始する。すなわち、ライン2については、ライン1に対してPD読み出し走査期間分遅れてPD蓄積および読み出しの動作が行われることになる。ライン3以降についても上記と同様の動作が行われる。
このようにローリングシャッター方式においては、1フレームを構成する各ラインの電荷蓄積期間が図35に示すように上から下へと少しずつずれている。これに伴い、各ラインの走査期間、すなわちPD信号の読み出しタイミングも図35に示すように各ラインの電荷蓄積期間の直後となる。つまり、CMOSイメージセンサを用いたビデオカメラ100では、ライン1のPD信号を読み出したら、次に、ライン2のPD信号を読み出すというように、ライン順に、順次、PD信号の読み出し処理が行われる。
このようにローリングシャッター方式においては、1フレームを構成する各ラインの電荷蓄積期間が図35に示すように上から下へと少しずつずれている。これに伴い、各ラインの走査期間、すなわちPD信号の読み出しタイミングも図35に示すように各ラインの電荷蓄積期間の直後となる。つまり、CMOSイメージセンサを用いたビデオカメラ100では、ライン1のPD信号を読み出したら、次に、ライン2のPD信号を読み出すというように、ライン順に、順次、PD信号の読み出し処理が行われる。
ここで、図35に示すように、モニター画面1期間の中央付近(図35に「フラッシュ発光期間」で示した期間)でフラッシュが焚かれると、フレーム1後半の電荷蓄積期間とフレーム2前半の電荷蓄積期間にフラッシュの明るい光が影響する。モニター画面1の期間に光ったフラッシュは、図35に示すように、ラインXおよびラインYでフレーム1とフレーム2との電荷蓄積、電荷読出しタイミングを跨ぐ。
つまり、図35に示した場合におけるフラッシュの明るい光の影響は、以下のようになる。
(フレーム1のラインa1(図35に「a1」で示した部分に属するライン)):
フレーム1では、ラインXより前のラインa1の部分は、フラッシュ光の影響は受けない(電荷蓄積期間はすでに終わっている)。
(フレーム1のラインX〜ラインY(図35に「a2」で示した部分に属するライン)):
ラインXとラインYの間の期間のラインa2部分は、フレーム1ではフラッシュ光の影響を受け、徐々に蓄積光量が増える。
(フレーム1のラインY以降(図35に「a3」で示した部分に属するライン)):
ラインY以降のラインa3の部分では、フラッシュ光の全光量の影響を受ける。
(フレーム2のラインb1(図35に「b1」で示した部分に属するライン)):
フレーム2では、逆に、ラインXより前のラインb1の部分では、フラッシュ光の全光量の影響を受ける。
(フレーム2のラインX〜ラインY(図35に「b2」で示した部分に属するライン)):
ラインXとラインYの間の期間のラインb2の部分は徐々にフラッシュ光の影響が小さくなる。
(フレーム2のラインY以降(図35に「b3」で示した部分に属するライン)):
ラインY以降のラインb3の部分ではまだ蓄積期間が始まっていないので、フラッシュ光の影響は受けない。
つまり、図35に示した場合におけるフラッシュの明るい光の影響は、以下のようになる。
(フレーム1のラインa1(図35に「a1」で示した部分に属するライン)):
フレーム1では、ラインXより前のラインa1の部分は、フラッシュ光の影響は受けない(電荷蓄積期間はすでに終わっている)。
(フレーム1のラインX〜ラインY(図35に「a2」で示した部分に属するライン)):
ラインXとラインYの間の期間のラインa2部分は、フレーム1ではフラッシュ光の影響を受け、徐々に蓄積光量が増える。
(フレーム1のラインY以降(図35に「a3」で示した部分に属するライン)):
ラインY以降のラインa3の部分では、フラッシュ光の全光量の影響を受ける。
(フレーム2のラインb1(図35に「b1」で示した部分に属するライン)):
フレーム2では、逆に、ラインXより前のラインb1の部分では、フラッシュ光の全光量の影響を受ける。
(フレーム2のラインX〜ラインY(図35に「b2」で示した部分に属するライン)):
ラインXとラインYの間の期間のラインb2の部分は徐々にフラッシュ光の影響が小さくなる。
(フレーム2のラインY以降(図35に「b3」で示した部分に属するライン)):
ラインY以降のラインb3の部分ではまだ蓄積期間が始まっていないので、フラッシュ光の影響は受けない。
したがって、フラッシュ光の発光期間が一瞬であり、図35のa2、b2部分のトランジェント期間が存在しないものとするとモニター画面は、概略として図35の下部に示すようにモニター画面1(フレーム1の撮像信号により形成される画面(画像))の下半分が明るく、そしてモニター画面2(フレーム2の撮像信号により形成される画面(画像))の上半分が明るくなり、これが白帯状の妨害として映像表示装置に映し出される。CCDイメージセンサを用いる撮像装置の場合は、CMOSイメージセンサとは異なり1フレームを構成する全ラインの電荷蓄積タイミングが同じであるために、このような問題は発生せず、フラッシュ発光時には全体が明るくなった自然な画像が映し出される。
以上のように、CMOSイメージセンサを用いる撮像装置では、フラッシュ光等の外部の閃光が入ると、撮像信号により形成される映像に白帯状の妨害が発生するという第1の課題がある。また、CMOSイメージセンサを用いる撮像装置において、映像に発生する白帯状の妨害に対する適切な処理を行うために、外部閃光の影響により白帯状の妨害が発生しているか否かを適切に検出しなければならないという第2の課題がある。
以上のように、CMOSイメージセンサを用いる撮像装置では、フラッシュ光等の外部の閃光が入ると、撮像信号により形成される映像に白帯状の妨害が発生するという第1の課題がある。また、CMOSイメージセンサを用いる撮像装置において、映像に発生する白帯状の妨害に対する適切な処理を行うために、外部閃光の影響により白帯状の妨害が発生しているか否かを適切に検出しなければならないという第2の課題がある。
まず、第1の課題を解決する従来技術について、説明する。
第1の課題を解決する従来の撮像装置として、特許文献1に記載された撮像装置がある。
図36は、従来の撮像装置900の構成例を示すブロック図である。この撮像装置900は、所謂静止画像を主に記録するデジタルスチルカメラである。
図36に示すように、撮像装置900は、撮像部113、画像処理部114、記録表示処理部116、バッファ117、評価部120、記憶部121および制御部123を備えている。
撮像部113は、図示しない撮像素子、CDS(Correlated Double Sampling)回路、A/D(Analog/Digital)回路、シグナルジェネレータ(SG)およびタイミングジェネレータ(TG)などを備え、被写体を撮像し、その結果得られる画像を画像処理部114に供給する。
第1の課題を解決する従来の撮像装置として、特許文献1に記載された撮像装置がある。
図36は、従来の撮像装置900の構成例を示すブロック図である。この撮像装置900は、所謂静止画像を主に記録するデジタルスチルカメラである。
図36に示すように、撮像装置900は、撮像部113、画像処理部114、記録表示処理部116、バッファ117、評価部120、記憶部121および制御部123を備えている。
撮像部113は、図示しない撮像素子、CDS(Correlated Double Sampling)回路、A/D(Analog/Digital)回路、シグナルジェネレータ(SG)およびタイミングジェネレータ(TG)などを備え、被写体を撮像し、その結果得られる画像を画像処理部114に供給する。
撮像素子は、例えばCCDイメージセンサやCMOSイメージセンサ等で構成され、入射する被写体からの光を受光して光電変換することにより、電気信号としての画像信号を取得し、取得した画像信号を出力する。撮像素子は、受光した光の量に応じて電荷を蓄積する複数の画素が、格子状の配置で平面状に敷き詰められて構成されており、タイミングジェネレータから供給される水平駆動信号と垂直駆動信号にしたがって、所定の露光時間だけ光を受光する。撮像素子の各画素には受光した光の量に応じた電荷が蓄積され、撮像素子は、その電荷をアナログの画像信号としてCDS回路に供給する。
CDS回路は、撮像素子から供給されたアナログの画像信号のノイズ成分を、相関2重サンプリングを施すことによって除去する。
CDS回路は、ノイズ成分を除去した画像信号をA/D回路に供給する。
CDS回路は、撮像素子から供給されたアナログの画像信号のノイズ成分を、相関2重サンプリングを施すことによって除去する。
CDS回路は、ノイズ成分を除去した画像信号をA/D回路に供給する。
A/D回路は、CDS回路からのアナログの画像信号をA/D変換し、その結果得られるデジタルの画像データを画像処理部114に供給する。
シグナルジェネレータは、制御部123の制御に基づいて、水平同期信号と垂直同期信号を、それぞれ発生させ、タイミングジェネレータに出力する。
タイミングジェネレータは、シグナルジェネレータから供給された水平同期信号と垂直同期信号に基づいて、撮像素子を駆動させるための水平駆動信号と垂直駆動信号を、それぞれ発生させ、撮像素子に供給する。
画像処理部114は、図示しないY−C分離回路、フィルタ回路、WB(White Balance)回路およびアパコンガンマ回路などを備え、撮像部113のA/D回路から供給される画像データに、所定の画像処理を施す。
シグナルジェネレータは、制御部123の制御に基づいて、水平同期信号と垂直同期信号を、それぞれ発生させ、タイミングジェネレータに出力する。
タイミングジェネレータは、シグナルジェネレータから供給された水平同期信号と垂直同期信号に基づいて、撮像素子を駆動させるための水平駆動信号と垂直駆動信号を、それぞれ発生させ、撮像素子に供給する。
画像処理部114は、図示しないY−C分離回路、フィルタ回路、WB(White Balance)回路およびアパコンガンマ回路などを備え、撮像部113のA/D回路から供給される画像データに、所定の画像処理を施す。
画像処理部114は、画像処理を施した画像(画像データ)を、記録表示処理部116および評価部120に供給する。
Y−C分離回路は、撮像部113からの画像データを、輝度信号(Y信号)とクロマ信号(C信号)とに分離するY−C分離処理を行う。
フィルタ回路は、撮像部113からの画像データをフィルタリングし、その画像データに含まれるノイズ成分をカットするノイズリダクション処理を行う。
WB回路は、例えば、白い被写体のR,G,Bレベルが等しくなるように撮像部113からの画像データにゲインを乗算し、画像のホワイトバランスを調整する処理を行う。
アパコンガンマ回路は、撮像部113からの画像データに対して、画像のエッジ部分を強調するアパーチャ補正や画像の色合いを調整するガンマ補正等の画質を調整する処理を行う。
Y−C分離回路は、撮像部113からの画像データを、輝度信号(Y信号)とクロマ信号(C信号)とに分離するY−C分離処理を行う。
フィルタ回路は、撮像部113からの画像データをフィルタリングし、その画像データに含まれるノイズ成分をカットするノイズリダクション処理を行う。
WB回路は、例えば、白い被写体のR,G,Bレベルが等しくなるように撮像部113からの画像データにゲインを乗算し、画像のホワイトバランスを調整する処理を行う。
アパコンガンマ回路は、撮像部113からの画像データに対して、画像のエッジ部分を強調するアパーチャ補正や画像の色合いを調整するガンマ補正等の画質を調整する処理を行う。
記録表示処理部116には、画像処理部114から画像処理が施された画像(データ)が供給され、その画像を図示しない記録部や表示部に出力する出力制御を行う。
バッファ117には、記録表示処理部116が出力制御を行う際に、一時的に記憶させる必要があるデータが記憶される。
評価部120は、画像の明るさや色の分布を検波する図示しない検波回路を備え、撮像素子により撮像された画像が画像処理部114から供給される。
検波回路は、画像処理部114から供給された画像を検波し、その結果得られる情報、例えば、画像の所定の部分の明るさや色の分布を示す情報や、画像の所定の部分の空間周波数を示す情報等を、撮像素子により撮像された画像に対する評価値として出力する。
評価部120は、検波回路が出力する評価値を、制御部123に供給する。
バッファ117には、記録表示処理部116が出力制御を行う際に、一時的に記憶させる必要があるデータが記憶される。
評価部120は、画像の明るさや色の分布を検波する図示しない検波回路を備え、撮像素子により撮像された画像が画像処理部114から供給される。
検波回路は、画像処理部114から供給された画像を検波し、その結果得られる情報、例えば、画像の所定の部分の明るさや色の分布を示す情報や、画像の所定の部分の空間周波数を示す情報等を、撮像素子により撮像された画像に対する評価値として出力する。
評価部120は、検波回路が出力する評価値を、制御部123に供給する。
記憶部121は、ROM(Read Only Memory)、RAM(Random Access Memory)、またはEEPROM(Electrically Erasable and Programmable Read Only Memory)等からなり、制御部123の図示しないCPU(Central Processing Unit)が実行するプログラムや、制御部123が処理を行う上で必要なデータ、撮像装置の電源がオフにされたときも保持しておく必要があるデータ等を記憶する。
制御部123は、図示しないCPUと、差分値を演算する演算回路とを備えている。制御部123には、撮像素子により撮像された画像に対する評価値が評価部120から供給され、評価部120から供給される評価値を記憶部121に一時的に記憶させる。
演算回路は、所定の2つの評価値どうしの差分値を演算する。そして、制御部123は、演算回路により算出された差分値に基づいて、撮像装置の各部を制御する。
制御部123は、図示しないCPUと、差分値を演算する演算回路とを備えている。制御部123には、撮像素子により撮像された画像に対する評価値が評価部120から供給され、評価部120から供給される評価値を記憶部121に一時的に記憶させる。
演算回路は、所定の2つの評価値どうしの差分値を演算する。そして、制御部123は、演算回路により算出された差分値に基づいて、撮像装置の各部を制御する。
従来の撮像装置900では、このような構成により、例えば、ユーザの操作に応じて撮像部113により静止画像または動画像が撮像された場合、撮像された画像は、画像処理部114にて所定の画像処理が施された後、記録表示処理部116および評価部120に供給される。
記録表示処理部116では、画像処理部114にて所定の画像処理が施された後の画像をバッファ117にバッファリングし、評価部120では、検波回路によりこの画像に対する評価値を生成して制御部123に供給する。そして、制御部123は、この評価値を記憶部121に一時的に記憶させる。
制御部123の演算回路では、この評価値と記憶部121に既に記憶されていた評価値、即ち、1フレーム前の画像から生成された評価値との差分値を算出する。そして、この差分値が予め設定されている基準値以上であれば、外部閃光による悪影響を受けた画像と判断し、基準値未満であれば、外部閃光による影響がない画像と判断する。その結果に応じて制御部123は、撮像装置の各部を制御し、外部の閃光による悪影響を受けた画像と判断した場合、その画像を排除し、外部の閃光による悪影響を受けていない画像であると判断した場合、その画像を出力させる。
記録表示処理部116では、画像処理部114にて所定の画像処理が施された後の画像をバッファ117にバッファリングし、評価部120では、検波回路によりこの画像に対する評価値を生成して制御部123に供給する。そして、制御部123は、この評価値を記憶部121に一時的に記憶させる。
制御部123の演算回路では、この評価値と記憶部121に既に記憶されていた評価値、即ち、1フレーム前の画像から生成された評価値との差分値を算出する。そして、この差分値が予め設定されている基準値以上であれば、外部閃光による悪影響を受けた画像と判断し、基準値未満であれば、外部閃光による影響がない画像と判断する。その結果に応じて制御部123は、撮像装置の各部を制御し、外部の閃光による悪影響を受けた画像と判断した場合、その画像を排除し、外部の閃光による悪影響を受けていない画像であると判断した場合、その画像を出力させる。
これにより、従来の撮像装置900では、外部の閃光による白帯状の妨害の課題を解決している。
次に、第2の課題を解決する従来技術について、説明する。
第2の課題を解決する従来技術として、特許文献2に記載された技術がある。
この従来技術では、映像を適当な大きさのブロックに分割し、前のフィールドと比べて同じ位置のブロックにおける明るさが増加したかどうかを調べることによって、撮像信号に、フラッシュ(外部閃光)の影響があるか否かを判断する。すなわち、図37に示すように、入力撮像信号VIを遅延部1101にて1フィールド遅延させた信号と入力撮像信号VIとの差分を差分部1102にて算出し、その差分を累算部1103にて画面を所定の数に分割したブロックごとに累算し、その累算値がαより大きいブロックをカウンタ1105で数え、その数がβ以上かつγ以下のとき、フラッシュ(外部閃光)が入った(撮像信号に外部閃光の影響がある)と判断している。この従来技術により、撮像信号に外部閃光の影響があるか否かを判断することができる。
次に、第2の課題を解決する従来技術について、説明する。
第2の課題を解決する従来技術として、特許文献2に記載された技術がある。
この従来技術では、映像を適当な大きさのブロックに分割し、前のフィールドと比べて同じ位置のブロックにおける明るさが増加したかどうかを調べることによって、撮像信号に、フラッシュ(外部閃光)の影響があるか否かを判断する。すなわち、図37に示すように、入力撮像信号VIを遅延部1101にて1フィールド遅延させた信号と入力撮像信号VIとの差分を差分部1102にて算出し、その差分を累算部1103にて画面を所定の数に分割したブロックごとに累算し、その累算値がαより大きいブロックをカウンタ1105で数え、その数がβ以上かつγ以下のとき、フラッシュ(外部閃光)が入った(撮像信号に外部閃光の影響がある)と判断している。この従来技術により、撮像信号に外部閃光の影響があるか否かを判断することができる。
しかしながら、従来技術では、以下の問題点がある。
第1の課題を解決する上記従来の撮像装置900では、撮像された画像の評価値として、例えば、全画面の輝度レベルの平均値を算出する方法を採用することが考えられる。その場合、撮像装置900では、評価部120にて、順次フレーム毎に輝度信号を積算して平均化した平均輝度レベル値を、制御部123を介して記憶部121に一時的に記憶させておき、次のフレームの画像が入力されたタイミングで同様に平均輝度レベルを算出して、記憶部121に記憶されている前のフレームの平均輝度レベルと比較することで、外部閃光による影響の有無を判断する。
しかしながらこの方法では、画面の下部のわずかな部分、仮に最下位ラインにのみに外部閃光の影響がある場合、全画面の平均輝度レベルは、外部閃光の影響のないフレームの平均輝度レベルと明確な差異が見られず、外部閃光の影響の有無の判断をするのは困難である。
第1の課題を解決する上記従来の撮像装置900では、撮像された画像の評価値として、例えば、全画面の輝度レベルの平均値を算出する方法を採用することが考えられる。その場合、撮像装置900では、評価部120にて、順次フレーム毎に輝度信号を積算して平均化した平均輝度レベル値を、制御部123を介して記憶部121に一時的に記憶させておき、次のフレームの画像が入力されたタイミングで同様に平均輝度レベルを算出して、記憶部121に記憶されている前のフレームの平均輝度レベルと比較することで、外部閃光による影響の有無を判断する。
しかしながらこの方法では、画面の下部のわずかな部分、仮に最下位ラインにのみに外部閃光の影響がある場合、全画面の平均輝度レベルは、外部閃光の影響のないフレームの平均輝度レベルと明確な差異が見られず、外部閃光の影響の有無の判断をするのは困難である。
また、撮像された画像の評価値として、例えば、画面の一部分のみの輝度レベルの平均値を算出する場合、外部閃光の影響は、任意のライン以降に発生するため、どの部分の平均輝度レベルを算出すべきかを事前に特定するのは困難である。
また、従来の撮像装置900では、前のフレームの画像を記憶しておき、外部閃光の影響が発生した時点で平均輝度レベルを算出すべき部分を決定して、前のフレームと現在のフレームとで評価値を比較することは可能であるが、その場合、前のフレームを記憶しておくフレームメモリなどが必要となり回路規模の増大を招くことになる。
また、第2の課題を解決する従来技術では、高輝度被写体が移動したときにも、フラッシュであると誤判断され(撮像信号が形成する画像(フレーム画像あるいはフィールド画像)に外部閃光の影響があると誤判断され)、フラッシュの補正(外部閃光の影響を排除する補正)が実行されることがある。例えば、図32のように縦16ブロック、横24ブロックに分けた画面に対して、高輝度である被写体が斜線部に存在したとする。この被写体が次のフィールドで上に1ブロック程度移動すると、図33のようになる。このとき、図33の10段目の斜線部のブロックでは、前のフィールドより明るくなるため、フラッシュが入ったものと判断される(外部閃光の影響ありと誤判断される)。
また、従来の撮像装置900では、前のフレームの画像を記憶しておき、外部閃光の影響が発生した時点で平均輝度レベルを算出すべき部分を決定して、前のフレームと現在のフレームとで評価値を比較することは可能であるが、その場合、前のフレームを記憶しておくフレームメモリなどが必要となり回路規模の増大を招くことになる。
また、第2の課題を解決する従来技術では、高輝度被写体が移動したときにも、フラッシュであると誤判断され(撮像信号が形成する画像(フレーム画像あるいはフィールド画像)に外部閃光の影響があると誤判断され)、フラッシュの補正(外部閃光の影響を排除する補正)が実行されることがある。例えば、図32のように縦16ブロック、横24ブロックに分けた画面に対して、高輝度である被写体が斜線部に存在したとする。この被写体が次のフィールドで上に1ブロック程度移動すると、図33のようになる。このとき、図33の10段目の斜線部のブロックでは、前のフィールドより明るくなるため、フラッシュが入ったものと判断される(外部閃光の影響ありと誤判断される)。
一方で、動き検出という技術があり、物体がどちらの方向にどれだけ動いたかを知ることができる。この動き検出の技術を利用すれば、図32の高輝度被写体が図33の位置に移動したことを知ることはでき、図33の処理を行うときに、比較するブロックを前のフィールドの1段下のブロックと比較すれば、明るさの変化はないため、動きによる明るさの変化をフラッシュによる明るさの変化として間違うことはなくなる。
しかし、動き検出を回路で実現する場合、相当規模の大きな回路が必要になり、機器としてのコストアップや電力増加は避けられない。
本発明は、上記従来の問題点を解決するもので、回路規模の増大を招くことなく、任意のタイミングで発光される外部閃光による撮像信号への影響の有無を確実に判断することが可能な撮像装置、外部閃光検出方法、プログラムおよび集積回路を提供することを目的とする。
しかし、動き検出を回路で実現する場合、相当規模の大きな回路が必要になり、機器としてのコストアップや電力増加は避けられない。
本発明は、上記従来の問題点を解決するもので、回路規模の増大を招くことなく、任意のタイミングで発光される外部閃光による撮像信号への影響の有無を確実に判断することが可能な撮像装置、外部閃光検出方法、プログラムおよび集積回路を提供することを目的とする。
また、本発明は、外部閃光による明るい横帯のある不自然な画面に対して、動く高輝度被写体に対しても少ない回路規模で誤動作が少なく閃光の有無を検出できる撮像装置、外部閃光検出方法、プログラムおよび集積回路を提供することを目的とする。
第1の発明は、撮像部と、閃光検出部と、を備える撮像装置である。
撮像部は、被写体を撮像して撮像信号を取得する。閃光検出部は、撮像部により取得される撮像信号が、閃光の影響を受けているか否かを検出する。
これにより、外部閃光による撮像信号への影響の有無を判断することができる。
第2の発明は、第1の発明であって、閃光検出部は、ライン輝度情報値算出部と、フレーム差分演算部と、判断部と、を備える。
ライン輝度情報値算出部は、撮像信号が形成する画像の各ラインの輝度情報値を算出する。フレーム差分演算部は、処理対象となっている撮像信号が形成する現画像の各ラインの輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインのライン輝度情報値を減算することで、各ラインのフレーム差分値を算出する。判断部は、フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、撮像信号に対する外部閃光の影響の有無を判断する。
撮像部は、被写体を撮像して撮像信号を取得する。閃光検出部は、撮像部により取得される撮像信号が、閃光の影響を受けているか否かを検出する。
これにより、外部閃光による撮像信号への影響の有無を判断することができる。
第2の発明は、第1の発明であって、閃光検出部は、ライン輝度情報値算出部と、フレーム差分演算部と、判断部と、を備える。
ライン輝度情報値算出部は、撮像信号が形成する画像の各ラインの輝度情報値を算出する。フレーム差分演算部は、処理対象となっている撮像信号が形成する現画像の各ラインの輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインのライン輝度情報値を減算することで、各ラインのフレーム差分値を算出する。判断部は、フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、撮像信号に対する外部閃光の影響の有無を判断する。
この撮像装置では、単位画像上の同一ラインについて、輝度の変化の有無を判断することで、撮像信号に対する外部閃光の影響の有無を判断する。したがって、この撮像装置では、回路規模の増大を招くことなく、任意のタイミングで発光される外部閃光による撮像信号への影響の有無を確実に判断することができる。
なお、「単位画像」とは、撮像信号を表示装置に表示させる画面を構成する画像のことであり、例えば、1フレーム画像や1フィールド画像がこれに相当する。したがって、「1単位画像前」とは、「単位画像」がフレーム画像である場合は、1フレーム画像前、すなわち、1フレーム画像に相当する時間だけ前という意味であり、「単位画像」がフィールド画像である場合は、1フィールド画像前、すなわち、1フィールド画像に相当する時間だけ前という意味である。
なお、「単位画像」とは、撮像信号を表示装置に表示させる画面を構成する画像のことであり、例えば、1フレーム画像や1フィールド画像がこれに相当する。したがって、「1単位画像前」とは、「単位画像」がフレーム画像である場合は、1フレーム画像前、すなわち、1フレーム画像に相当する時間だけ前という意味であり、「単位画像」がフィールド画像である場合は、1フィールド画像前、すなわち、1フィールド画像に相当する時間だけ前という意味である。
「第1参照値」は、この撮像装置のシステム性能(カメラ性能)を考慮し、外部閃光を適切に検出することができる値に設定すればよい。例えば、この撮像装置において、撮像部から出力される撮像信号(AGC等の処理がなされ、標準状態(カメラシステムにおいて所望される所定のダイナミックレンジとなるように調整された映像信号の状態)となっている撮像信号)の所定の画像領域(撮像信号により形成される所定の画像領域)の平均輝度レベルに応じて、「第1参照値」を変化させるようにしてもよい(「第1参照値」を可変設定値としてもよい)。また、単位画像(例えば、フレーム)ごとに「第1参照値」を変化させるようにしてもよい(「第1参照値」を可変設定値としてもよい)。
第3の発明は、第2の発明であって、輝度情報値は、輝度レベルの平均値、輝度レベルの加算値、輝度レベルの2乗平均平方根値、輝度レベルの重付平均値のいずれか1つである。
第3の発明は、第2の発明であって、輝度情報値は、輝度レベルの平均値、輝度レベルの加算値、輝度レベルの2乗平均平方根値、輝度レベルの重付平均値のいずれか1つである。
第4の発明は、第2または第3の発明であって、判断部は、フレーム差分値が第1参照値と比較して大きいラインが連続する期間が1フレーム期間と略等しいときに、外部閃光の影響があると判断する。
これにより、この撮像装置では、外部閃光の影響のある期間が略1フレーム期間継続するという特性を利用し、判断部が、フレーム差分値の変化を監視することで、撮像信号に対する外部閃光の影響の有無を精度良く検出することができる。
なお、「1フレーム期間と略等しい」とは、厳密に1フレーム期間と等しい場合だけでなく、測定誤差や設計誤差に起因する誤差を含んだ範囲を含む概念である。例えば、測定対象の期間が1フレーム期間の10%の範囲に含まれる場合、「1フレーム期間と略等しい」とみなすことができる。
これにより、この撮像装置では、外部閃光の影響のある期間が略1フレーム期間継続するという特性を利用し、判断部が、フレーム差分値の変化を監視することで、撮像信号に対する外部閃光の影響の有無を精度良く検出することができる。
なお、「1フレーム期間と略等しい」とは、厳密に1フレーム期間と等しい場合だけでなく、測定誤差や設計誤差に起因する誤差を含んだ範囲を含む概念である。例えば、測定対象の期間が1フレーム期間の10%の範囲に含まれる場合、「1フレーム期間と略等しい」とみなすことができる。
第5の発明は、第2から第4のいずれかの発明であって、判断部は、フレーム差分値が第1参照値と比較して大きいラインが連続する期間の開始となるラインを、外部閃光の影響を受け始める開始ラインであると判断する。
第6の発明は、第2から第5のいずれかの発明であって、判断部は、フレーム差分値が所定の値である第2参照値と比較して小さいか否かを判断することにより、外部閃光の影響の終了を判断する。
この撮像装置では、判断部により、フレーム差分値が第2参照値より小さいとき、撮像信号に対する外部閃光の影響が終了したと判断される。したがって、この撮像装置では、撮像信号に対する外部閃光の影響の終了時を適切に判断(検出)することができる。
なお、「第2参照値」は、この撮像装置のシステム性能(カメラ性能)を考慮し、外部閃光を適切に検出することができる値に設定すればよい。例えば、この撮像装置において、撮像部から出力される撮像信号(AGC等の処理がなされ、標準状態(カメラシステムにおいて所望される所定のダイナミックレンジとなるように調整された映像信号の状態)となっている撮像信号)の所定の画像領域(撮像信号により形成される所定の画像領域)の平均輝度レベルに応じて、「第2参照値」を変化させるようにしてもよい(「第2参照値」を可変設定値としてもよい)。また、単位画像(例えば、フレーム)ごとに「第2参照値」を変化させるようにしてもよい(「第2参照値」を可変設定値としてもよい)。
第6の発明は、第2から第5のいずれかの発明であって、判断部は、フレーム差分値が所定の値である第2参照値と比較して小さいか否かを判断することにより、外部閃光の影響の終了を判断する。
この撮像装置では、判断部により、フレーム差分値が第2参照値より小さいとき、撮像信号に対する外部閃光の影響が終了したと判断される。したがって、この撮像装置では、撮像信号に対する外部閃光の影響の終了時を適切に判断(検出)することができる。
なお、「第2参照値」は、この撮像装置のシステム性能(カメラ性能)を考慮し、外部閃光を適切に検出することができる値に設定すればよい。例えば、この撮像装置において、撮像部から出力される撮像信号(AGC等の処理がなされ、標準状態(カメラシステムにおいて所望される所定のダイナミックレンジとなるように調整された映像信号の状態)となっている撮像信号)の所定の画像領域(撮像信号により形成される所定の画像領域)の平均輝度レベルに応じて、「第2参照値」を変化させるようにしてもよい(「第2参照値」を可変設定値としてもよい)。また、単位画像(例えば、フレーム)ごとに「第2参照値」を変化させるようにしてもよい(「第2参照値」を可変設定値としてもよい)。
第7の発明は、第2から第6のいずれかの発明であって、判断部は、フレーム差分値が第2参照値と比較して小さいラインが連続する期間が1フレーム期間と略等しいときに、外部閃光の影響が終了したと判断する。
これにより、この撮像装置では、外部閃光の影響のある期間が略1フレーム期間継続するという特性を利用し、判断部が、フレーム差分値の変化を監視することで、撮像信号に対する外部閃光の影響の有無(特に、外部閃光の終了時点)を精度良く検出することができる。
第8の発明は、第2から第7のいずれかの発明であって、判断部は、フレーム差分値が第2参照値と比較して小さいラインが連続する期間の開始となるラインを、外部閃光の影響が終了する終了ラインであると判断する。
これにより、この撮像装置では、外部閃光の影響のある期間が略1フレーム期間継続するという特性を利用し、判断部が、フレーム差分値の変化を監視することで、撮像信号に対する外部閃光の影響の有無(特に、外部閃光の終了時点)を精度良く検出することができる。
第8の発明は、第2から第7のいずれかの発明であって、判断部は、フレーム差分値が第2参照値と比較して小さいラインが連続する期間の開始となるラインを、外部閃光の影響が終了する終了ラインであると判断する。
これにより、この撮像装置では、外部閃光の影響が終了する終了ラインを適切に検出することができる。
第9の発明は、第2、第3、第5から第8の発明のいずれかであって、撮像部は、電子シャッター機能を備える。判断部は、フレーム差分値が第1参照値と比較して大きいラインが連続する期間が電子シャッターのシャッター時間に応じた期間と略等しいときに、撮像信号に対する外部閃光の影響があると判断する。
これにより、この撮像装置では、電子シャッターのシャッター時間を考慮して、外部閃光の影響がある期間を適切に検出することができる。
なお、「略等しい」とは、厳密に等しい場合だけでなく、一定の許容範囲(測定誤差、設計誤差、装置の動作を保証するためのマージン等)を含む概念である。
第9の発明は、第2、第3、第5から第8の発明のいずれかであって、撮像部は、電子シャッター機能を備える。判断部は、フレーム差分値が第1参照値と比較して大きいラインが連続する期間が電子シャッターのシャッター時間に応じた期間と略等しいときに、撮像信号に対する外部閃光の影響があると判断する。
これにより、この撮像装置では、電子シャッターのシャッター時間を考慮して、外部閃光の影響がある期間を適切に検出することができる。
なお、「略等しい」とは、厳密に等しい場合だけでなく、一定の許容範囲(測定誤差、設計誤差、装置の動作を保証するためのマージン等)を含む概念である。
第10の発明は、第2から第9のいずれかの発明であって、ライン平均輝度レベル算出部で算出されたライン平均輝度レベルを記憶する記憶部をさらに備える。
第11の発明は、撮像ステップと、閃光検出ステップと、ライン輝度情報値算出ステップと、フレーム差分演算ステップと、判断ステップと、を備える外部閃光検出方法である。
撮像ステップでは、被写体を撮像して撮像信号を取得する。閃光検出ステップでは、撮像ステップにより取得される撮像信号が、閃光の影響を受けているか否かを検出する。ライン輝度情報値算出ステップでは、撮像信号が形成する画像の各ラインの輝度情報値を算出する。フレーム差分演算ステップでは、処理対象となっている撮像信号が形成する現画像の各ラインの輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインのライン輝度情報値を減算することで、各ラインのフレーム差分値を算出する。判断ステップでは、フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、撮像信号に対する外部閃光の影響の有無を判断する。
第11の発明は、撮像ステップと、閃光検出ステップと、ライン輝度情報値算出ステップと、フレーム差分演算ステップと、判断ステップと、を備える外部閃光検出方法である。
撮像ステップでは、被写体を撮像して撮像信号を取得する。閃光検出ステップでは、撮像ステップにより取得される撮像信号が、閃光の影響を受けているか否かを検出する。ライン輝度情報値算出ステップでは、撮像信号が形成する画像の各ラインの輝度情報値を算出する。フレーム差分演算ステップでは、処理対象となっている撮像信号が形成する現画像の各ラインの輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインのライン輝度情報値を減算することで、各ラインのフレーム差分値を算出する。判断ステップでは、フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、撮像信号に対する外部閃光の影響の有無を判断する。
これにより、第2の発明と同様の効果を奏する外部閃光検出方法を実現することができる。
第12の発明は、被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる外部閃光検出方法をコンピュータに実行させるためのプログラムである。外部閃光検出方法は、閃光検出ステップと、ライン輝度情報値算出ステップと、フレーム差分演算ステップと、判断ステップと、を備える。
閃光検出ステップでは、撮像部により取得される撮像信号が、閃光の影響を受けているか否かを検出する。ライン輝度情報値算出ステップでは、撮像信号が形成する画像の各ラインの輝度情報値を算出する。フレーム差分演算ステップでは、処理対象となっている撮像信号が形成する現画像の各ラインの輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインのライン輝度情報値を減算することで、各ラインのフレーム差分値を算出する。判断ステップでは、フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、撮像信号に対する外部閃光の影響の有無を判断する。
第12の発明は、被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる外部閃光検出方法をコンピュータに実行させるためのプログラムである。外部閃光検出方法は、閃光検出ステップと、ライン輝度情報値算出ステップと、フレーム差分演算ステップと、判断ステップと、を備える。
閃光検出ステップでは、撮像部により取得される撮像信号が、閃光の影響を受けているか否かを検出する。ライン輝度情報値算出ステップでは、撮像信号が形成する画像の各ラインの輝度情報値を算出する。フレーム差分演算ステップでは、処理対象となっている撮像信号が形成する現画像の各ラインの輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインのライン輝度情報値を減算することで、各ラインのフレーム差分値を算出する。判断ステップでは、フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、撮像信号に対する外部閃光の影響の有無を判断する。
これにより、第2の発明と同様の効果を奏する外部閃光検出方法をコンピュータに実行させるためのプログラムを実現することができる。
第13の発明は、被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる集積回路であって、閃光検出部と、ライン輝度情報値算出部と、フレーム差分演算部と、判断部と、を備える。
閃光検出部は、撮像部により取得される撮像信号が、閃光の影響を受けているか否かを検出する。ライン輝度情報値算出部は、撮像信号が形成する画像の各ラインの輝度情報値を算出する。フレーム差分演算部は、処理対象となっている撮像信号が形成する現画像の各ラインの輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインのライン輝度情報値を減算することで、各ラインのフレーム差分値を算出する。判断部は、フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、撮像信号に対する外部閃光の影響の有無を判断する。
第13の発明は、被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる集積回路であって、閃光検出部と、ライン輝度情報値算出部と、フレーム差分演算部と、判断部と、を備える。
閃光検出部は、撮像部により取得される撮像信号が、閃光の影響を受けているか否かを検出する。ライン輝度情報値算出部は、撮像信号が形成する画像の各ラインの輝度情報値を算出する。フレーム差分演算部は、処理対象となっている撮像信号が形成する現画像の各ラインの輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインのライン輝度情報値を減算することで、各ラインのフレーム差分値を算出する。判断部は、フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、撮像信号に対する外部閃光の影響の有無を判断する。
これにより、第2の発明と同様の効果を奏する集積回路を実現することができる。
第14の発明は、第1の発明であって、閃光検出部は、ライン判定部と、判定情報記憶部と、フレーム判定部と、を備える。
閃光検出部は、ライン判定部は、撮像信号により形成される画像の最上位ラインおよび最下位ラインに外部閃光の影響があるか否かを判定し、最上位ラインについての判定結果である最上位ライン判定情報と、最下位ラインについての判定結果である最下位ライン判定情報として出力する。判定情報記憶部は、最下位ライン判定情報を記憶する。フレーム判定部は、判定情報記憶部に記憶された最下位ライン判定情報が1フレーム前の撮像信号の最下位ラインに外部閃光の影響があることを示し、且つ、ライン判定部から出力される最上位ライン判定情報が現在の撮像信号の最上位ラインに外部閃光の影響があることを示している場合に、1フレーム前のフレーム画像を形成する撮像信号および現在のフレーム画像を形成する撮像信号に外部閃光の影響があると判断する。
第14の発明は、第1の発明であって、閃光検出部は、ライン判定部と、判定情報記憶部と、フレーム判定部と、を備える。
閃光検出部は、ライン判定部は、撮像信号により形成される画像の最上位ラインおよび最下位ラインに外部閃光の影響があるか否かを判定し、最上位ラインについての判定結果である最上位ライン判定情報と、最下位ラインについての判定結果である最下位ライン判定情報として出力する。判定情報記憶部は、最下位ライン判定情報を記憶する。フレーム判定部は、判定情報記憶部に記憶された最下位ライン判定情報が1フレーム前の撮像信号の最下位ラインに外部閃光の影響があることを示し、且つ、ライン判定部から出力される最上位ライン判定情報が現在の撮像信号の最上位ラインに外部閃光の影響があることを示している場合に、1フレーム前のフレーム画像を形成する撮像信号および現在のフレーム画像を形成する撮像信号に外部閃光の影響があると判断する。
この撮像装置では、画像(例えば、フレーム画像)上の最上位ラインおよび最下位ラインの変化(例えば、ライン平均輝度の変化)を調べることで、撮像信号に対する外部閃光の影響の有無を判断する。したがって、この撮像装置では、回路規模の増大を招くことなく、任意のタイミングで発光される外部閃光による撮像信号への影響の有無を確実に判断することができる。
第15の発明は、第14の発明であって、ライン判定部は、現在の撮像信号が形成する現在のフレーム画像の最上位ラインおよび最下位ラインに対して所定の方法で算出した評価値を評価値LT(n)および評価値LB(n)(nはフレーム番号)とし、1フレーム前の撮像信号が形成する1フレーム前のフレーム画像の最上位ラインおよび最下位ラインに対する評価値を評価値LT(n−1)およびLB(n−1)(n−1はフレーム番号)とし、所定量を所定量th(th>0)としたとき、以下の(1)〜(4)の判定処理を行う。
(1)LT(n)−LT(n−1)≧thである場合、ライン判定部は、現在のフレーム画像の最上位ラインへの外部閃光の影響が開始されたと判定する。
(2)LT(n)−LT(n−1)≦−th所定量以上小さい場合、ライン判定部は、現在のフレーム画像の最上位ラインへの外部閃光の影響が終了したと判定する。
(3)LB(n)−LB(n−1)≧thである場合、ライン判定部は、現在のフレーム画像の最下位ラインへの外部閃光の影響が開始されたと判定する。
(4)LB(n)−LB(n−1)≦−thである場合、ライン判定部は、現在のフレーム画像の最下位ラインへの外部閃光の影響が終了したと判定する。
第15の発明は、第14の発明であって、ライン判定部は、現在の撮像信号が形成する現在のフレーム画像の最上位ラインおよび最下位ラインに対して所定の方法で算出した評価値を評価値LT(n)および評価値LB(n)(nはフレーム番号)とし、1フレーム前の撮像信号が形成する1フレーム前のフレーム画像の最上位ラインおよび最下位ラインに対する評価値を評価値LT(n−1)およびLB(n−1)(n−1はフレーム番号)とし、所定量を所定量th(th>0)としたとき、以下の(1)〜(4)の判定処理を行う。
(1)LT(n)−LT(n−1)≧thである場合、ライン判定部は、現在のフレーム画像の最上位ラインへの外部閃光の影響が開始されたと判定する。
(2)LT(n)−LT(n−1)≦−th所定量以上小さい場合、ライン判定部は、現在のフレーム画像の最上位ラインへの外部閃光の影響が終了したと判定する。
(3)LB(n)−LB(n−1)≧thである場合、ライン判定部は、現在のフレーム画像の最下位ラインへの外部閃光の影響が開始されたと判定する。
(4)LB(n)−LB(n−1)≦−thである場合、ライン判定部は、現在のフレーム画像の最下位ラインへの外部閃光の影響が終了したと判定する。
これにより、この撮像装置では、画像(例えば、フレーム画像)上の最上位ラインおよび最下位ラインの変化(例えば、ライン平均輝度の変化)を調べることで、回路規模の増大を招くことなく、適切に、撮像信号に対する外部閃光の影響の有無を判断することができる。
なお、評価値を算出する「所定の方法」とは、外部閃光に起因して生じるラインごとの特性値を取得するための方法であり、例えば、ラインごとの輝度平均値や、輝度加算値等を取得するための方法がこれに相当する。
第16の発明は、第14の発明であって、ライン判定部は、現在の撮像信号が形成する現在のフレーム画像の最上位ラインおよび最下位ラインに対して所定の方法で算出した評価値を評価値LT(n)および評価値LB(n)(nはフレーム番号)とし、1フレーム前の撮像信号が形成する1フレーム前のフレーム画像の最上位ラインおよび最下位ラインに対する評価値を評価値LT(n−1)およびLB(n−1)(n−1はフレーム番号)とし、所定量を所定量th(th>0)としたとき、以下の(1)、(2)の判定処理を行う。
(1)LB(n)−LT(n)≧thである場合、ライン判定部は、現在のフレーム画像の最下位ラインへの外部閃光の影響が開始されたと判定するとともに、現在のフレームの1フレーム後のフレーム画像の最上位ラインへの外部閃光の影響が開始されたと判定する。
(2)LB(n)−LT(n)≦−thである場合、ライン判定部は、現在のフレーム画像の最下位ラインへの外部閃光の影響が終了したと判定するとともに、現在のフレーム画像の1フレーム後のフレーム画像の最上位ラインへの外部閃光の影響が終了したと判定する。
なお、評価値を算出する「所定の方法」とは、外部閃光に起因して生じるラインごとの特性値を取得するための方法であり、例えば、ラインごとの輝度平均値や、輝度加算値等を取得するための方法がこれに相当する。
第16の発明は、第14の発明であって、ライン判定部は、現在の撮像信号が形成する現在のフレーム画像の最上位ラインおよび最下位ラインに対して所定の方法で算出した評価値を評価値LT(n)および評価値LB(n)(nはフレーム番号)とし、1フレーム前の撮像信号が形成する1フレーム前のフレーム画像の最上位ラインおよび最下位ラインに対する評価値を評価値LT(n−1)およびLB(n−1)(n−1はフレーム番号)とし、所定量を所定量th(th>0)としたとき、以下の(1)、(2)の判定処理を行う。
(1)LB(n)−LT(n)≧thである場合、ライン判定部は、現在のフレーム画像の最下位ラインへの外部閃光の影響が開始されたと判定するとともに、現在のフレームの1フレーム後のフレーム画像の最上位ラインへの外部閃光の影響が開始されたと判定する。
(2)LB(n)−LT(n)≦−thである場合、ライン判定部は、現在のフレーム画像の最下位ラインへの外部閃光の影響が終了したと判定するとともに、現在のフレーム画像の1フレーム後のフレーム画像の最上位ラインへの外部閃光の影響が終了したと判定する。
これにより、この撮像装置では、同一画像(例えば、同一フレーム画像)上の最上位ラインおよび最下位ラインの変化(例えば、ライン平均輝度の変化)を調べることで、回路規模の増大を招くことなく、適切に、撮像信号に対する外部閃光の影響の有無を判断することができる。
第17の発明は、第14から第16のいずれかの発明であって、判定情報記憶部は、ライン判定部が撮像信号が形成するフレーム画像の最上位ラインに外部閃光の影響があると判定した場合、判定結果を示す最上位ライン判定情報を記憶する。フレーム判定部は、最上位ライン判定情報が現在の撮像信号が形成する現在のフレーム画像の最上位ラインに外部閃光の影響があることを示し、且つ、ライン判定部が現在の撮像信号が形成する現在のフレーム画像の最下位ラインに外部閃光の影響があると判定した場合、現在の撮像信号が形成する現在のフレーム画像の全面に外部閃光の影響があると判断する。
第17の発明は、第14から第16のいずれかの発明であって、判定情報記憶部は、ライン判定部が撮像信号が形成するフレーム画像の最上位ラインに外部閃光の影響があると判定した場合、判定結果を示す最上位ライン判定情報を記憶する。フレーム判定部は、最上位ライン判定情報が現在の撮像信号が形成する現在のフレーム画像の最上位ラインに外部閃光の影響があることを示し、且つ、ライン判定部が現在の撮像信号が形成する現在のフレーム画像の最下位ラインに外部閃光の影響があると判定した場合、現在の撮像信号が形成する現在のフレーム画像の全面に外部閃光の影響があると判断する。
これにより、この撮像装置では、画像(例えば、フレーム画像)上の最上位ラインおよび最下位ラインの変化(例えば、ライン平均輝度の変化)を調べることで、回路規模の増大を招くことなく、適切に、フレーム画像の全面に外部閃光の影響がある画像(例えば、フレーム画像)を検出することができる。
第18の発明は、第1の発明であって、閃光検出部は、ライン評価値算出部と、ライン判定部と、フレーム判定部と、を備える。
撮像部は、被写体を撮像して撮像信号を取得する。ライン評価値算出部は、撮像信号により形成されフレームを構成することができる撮像画像の各ラインの評価値を算出する。
ライン判定部は、第Nフレーム(Nは整数)において、処理対象のラインの評価値が、処理対象のラインのaライン前(aは正整数)の評価値と比較して所定量以上増加するラインを、第mラインとして検出し、第mラインのライン位置を示すライン位置情報mと、第mラインの評価値Lm(N)および第mラインよりaライン前の第(m−a)ラインの評価値Lm−a(N)を記憶する。フレーム判定部は、ライン判定部に記憶されたライン位置情報mに対して、ライン判定部に記憶された第Nフレームの第mラインの評価値Lm(N)および第Nフレームの第(m−a)ラインの評価値Lm−a(N)と、第Nフレーム以降のフレームにおける撮像信号の第mラインの評価値Lm(N+α)(αは、自然数)および第(m−a)ラインの評価値Lm−a(N+α)とをライン間またはフレーム間で比較することにより、撮像信号が構成する各フレームに外部閃光の影響があるか否かを判断する。
第18の発明は、第1の発明であって、閃光検出部は、ライン評価値算出部と、ライン判定部と、フレーム判定部と、を備える。
撮像部は、被写体を撮像して撮像信号を取得する。ライン評価値算出部は、撮像信号により形成されフレームを構成することができる撮像画像の各ラインの評価値を算出する。
ライン判定部は、第Nフレーム(Nは整数)において、処理対象のラインの評価値が、処理対象のラインのaライン前(aは正整数)の評価値と比較して所定量以上増加するラインを、第mラインとして検出し、第mラインのライン位置を示すライン位置情報mと、第mラインの評価値Lm(N)および第mラインよりaライン前の第(m−a)ラインの評価値Lm−a(N)を記憶する。フレーム判定部は、ライン判定部に記憶されたライン位置情報mに対して、ライン判定部に記憶された第Nフレームの第mラインの評価値Lm(N)および第Nフレームの第(m−a)ラインの評価値Lm−a(N)と、第Nフレーム以降のフレームにおける撮像信号の第mラインの評価値Lm(N+α)(αは、自然数)および第(m−a)ラインの評価値Lm−a(N+α)とをライン間またはフレーム間で比較することにより、撮像信号が構成する各フレームに外部閃光の影響があるか否かを判断する。
この撮像装置では、ライン判定部により、最初にライン方向の評価値(ライン評価値)の急峻な変化を検出することで、着目すべきラインを特定し、以降はその特定したラインのみを(各フレーム画像において)監視することで、外部閃光の影響を受けている部分(撮像信号)を適切に検出することができる。
第19の発明は、第18の発明であって、フレーム判定部は、現在のフレームを第(N+1)フレーム(Nは整数)としたとき、以下の(1)〜(3)の全てを満たす場合、1フレーム前のフレームである第Nフレームの撮像信号および現在のフレームである第(N+1)フレームの撮像信号に外部閃光の影響があると判断する。
(1)ライン判定部に記憶されたライン位置情報mに対して、現在のフレームである第(N+1)フレームの撮像信号の第mラインの評価値Lm(N+1)が、現在のフレームである第(N+1)フレームの撮像信号の第(m−a)ラインの評価値Lm−a(N+1)と比較して所定量T1以上減少する、すなわち、
(Lm−a(N+1))−Lm(N+1)≧(所定量T1)
を満たす場合。
(2)現在のフレームである第(N+1)フレームの撮像信号の第(m−a)ラインの評価値Lm−a(N+1)がライン判定部に記憶された1フレーム前の撮像信号の第(m−a)ラインの評価値Lm−a(N)と比較して所定量T2以上増加する、すなわち、
(Lm−a(N+1))−Lm−a(N)≧(所定量T2)
を満たす場合。
(3)現在のフレームである第(N+1)フレームの撮像信号の第mラインの評価値Lm(N+1)がライン判定部に記憶された1フレーム前の撮像信号の第mラインの評価値Lm(N)と比較して所定量T3以上減少する、すなわち、
Lm(N)−Lm(N+1)≧(所定量T3)
を満たす場合。
第19の発明は、第18の発明であって、フレーム判定部は、現在のフレームを第(N+1)フレーム(Nは整数)としたとき、以下の(1)〜(3)の全てを満たす場合、1フレーム前のフレームである第Nフレームの撮像信号および現在のフレームである第(N+1)フレームの撮像信号に外部閃光の影響があると判断する。
(1)ライン判定部に記憶されたライン位置情報mに対して、現在のフレームである第(N+1)フレームの撮像信号の第mラインの評価値Lm(N+1)が、現在のフレームである第(N+1)フレームの撮像信号の第(m−a)ラインの評価値Lm−a(N+1)と比較して所定量T1以上減少する、すなわち、
(Lm−a(N+1))−Lm(N+1)≧(所定量T1)
を満たす場合。
(2)現在のフレームである第(N+1)フレームの撮像信号の第(m−a)ラインの評価値Lm−a(N+1)がライン判定部に記憶された1フレーム前の撮像信号の第(m−a)ラインの評価値Lm−a(N)と比較して所定量T2以上増加する、すなわち、
(Lm−a(N+1))−Lm−a(N)≧(所定量T2)
を満たす場合。
(3)現在のフレームである第(N+1)フレームの撮像信号の第mラインの評価値Lm(N+1)がライン判定部に記憶された1フレーム前の撮像信号の第mラインの評価値Lm(N)と比較して所定量T3以上減少する、すなわち、
Lm(N)−Lm(N+1)≧(所定量T3)
を満たす場合。
この撮像装置では、外部閃光が発光されるタイミングがどのようなタイミングであっても(どのラインから外部閃光の影響があった場合でも)、記憶する必要があるのはライン位置と評価値(ライン評価値)のみであるため、フレームメモリ等を必要とせず、フレーム間の評価値(ライン評価値)の比較ができ、また、フレーム画像(撮像画像)のライン方向とフレーム方向の両方の評価値(ライン評価値)の変化の規則性を利用することで、より確実に外部閃光の影響の有無を判定することができる。
第20の発明は、第19の発明であって、所定量T1、所定量T2および所定量T3は、
(所定量T1)=(所定量T2)=(所定量T3)
である関係を満たす。
第20の発明は、第19の発明であって、所定量T1、所定量T2および所定量T3は、
(所定量T1)=(所定量T2)=(所定量T3)
である関係を満たす。
この撮像装置では、所定量T1、所定量T2および所定量T3が同一であるため、単一の所定量により、判断処理を行うことができるので、より簡便に外部閃光の影響の有無を判定することができる。
第21の発明は、第18から第20のいずれかの発明であって、フレーム判定部は、以下の(1)の場合、第Nフレームの撮像信号への外部閃光の影響が開始したと判断し、続いて(2)の場合、第(N+α)フレームの撮像信号への外部閃光の影響が終了したと判断する。
(1)1フレーム前のフレームである第Nフレームの撮像信号において検出してライン判定部に記憶されたライン位置情報mに対して、現在のフレームである第(N+1)フレームの撮像信号の第(m−a)ラインの評価値Lm−a(N+1)がライン判定部に記憶された1フレーム前のフレームである第Nフレームの撮像信号の第(m−a)ラインの評価値Lm−a(N)と比較して所定量T4以上増加する場合、すなわち、
(Lm−a(N+1))−(Lm−a(N))≧(所定量T4)
を満たす場合。
(2)1フレーム前のフレームである第Nフレームの撮像信号への外部閃光の影響が開始され、第Nフレーム以降のフレームである第(N+α)フレーム(αは自然数)の撮像信号の第mラインの評価値Lm(N+α)がライン記憶部に記憶された第mラインの評価値Lm(N)と比較して第Nフレーム以降のフレームで最初に所定量T5以上減少した場合、すなわち、
Lm(N)−Lm(N+α)≧(所定量T5)
を満たす場合。
第21の発明は、第18から第20のいずれかの発明であって、フレーム判定部は、以下の(1)の場合、第Nフレームの撮像信号への外部閃光の影響が開始したと判断し、続いて(2)の場合、第(N+α)フレームの撮像信号への外部閃光の影響が終了したと判断する。
(1)1フレーム前のフレームである第Nフレームの撮像信号において検出してライン判定部に記憶されたライン位置情報mに対して、現在のフレームである第(N+1)フレームの撮像信号の第(m−a)ラインの評価値Lm−a(N+1)がライン判定部に記憶された1フレーム前のフレームである第Nフレームの撮像信号の第(m−a)ラインの評価値Lm−a(N)と比較して所定量T4以上増加する場合、すなわち、
(Lm−a(N+1))−(Lm−a(N))≧(所定量T4)
を満たす場合。
(2)1フレーム前のフレームである第Nフレームの撮像信号への外部閃光の影響が開始され、第Nフレーム以降のフレームである第(N+α)フレーム(αは自然数)の撮像信号の第mラインの評価値Lm(N+α)がライン記憶部に記憶された第mラインの評価値Lm(N)と比較して第Nフレーム以降のフレームで最初に所定量T5以上減少した場合、すなわち、
Lm(N)−Lm(N+α)≧(所定量T5)
を満たす場合。
この撮像装置では、外部閃光の影響が開始されたフレームの撮像信号において特定されたラインのフレーム間での変化を監視することで影響の開始と終了のフレームを検出するため、外部閃光の影響が3フレーム以上に亘る場合にも影響があるフレームを適切に判定することができる。
第22の発明は、第21の発明であって、所定量T4および所定量T5は、
(所定量T4)=(所定量T5)
である関係を満たす。
この撮像装置では、所定量T4および所定量T5が同一であるため、単一の所定量により、判断処理を行うことができるので、より簡便に外部閃光の影響の有無を判定することができる。
第22の発明は、第21の発明であって、所定量T4および所定量T5は、
(所定量T4)=(所定量T5)
である関係を満たす。
この撮像装置では、所定量T4および所定量T5が同一であるため、単一の所定量により、判断処理を行うことができるので、より簡便に外部閃光の影響の有無を判定することができる。
第23の発明は、第18から第22のいずれかの発明であって、評価値は、撮像信号の各ラインの輝度信号の加算平均値である。
これにより、この撮像装置では、撮像信号の輝度レベルの変化から外部閃光の影響の有無を判定することができる。
第24の発明は、第18から第23のいずれかの発明であって、撮像部は、被写体を撮像して複数チャンネルの原色信号を撮像信号として出力する撮像素子で構成される。評価値は、撮像信号の各ラインのチャンネル毎の加算平均値である。ライン判定部は、第Nフレーム(Nは整数)において、処理対象のラインが評価値をチャンネル毎に、処理対象のラインのaライン前の評価値と比較して全てのチャンネルの評価値が、各々の所定量以上増加するラインを、第mラインとして検出し、第mラインのライン位置を示すライン位置情報mと、第mラインの複数のチャンネルの評価値のベクトルデータLvm(N)および第mラインよりaライン前の第(m−a)ラインの複数のチャンネルの評価値のベクトルデータLvm−a(N)を記憶する。フレーム判定部は、ライン判定部が検出したライン位置情報mに対して、ライン判定部に記憶された第mラインおよび第(m−a)ラインの評価値のベクトルデータLvm(N)およびLvm−a(N)と、第Nフレーム以降のフレームにおける撮像信号の第mラインおよび第(m−a)ラインの評価値のベクトルデータLvm(N+α)およびLvm−a(N+α)のライン間またはフレーム間の比較を複数のチャンネル毎に行い、
(1)全てのチャンネルの評価値が各々の所定量以上増加した場合に、第mラインおよび第(m−a)ラインの評価値LmおよびLm−aが増加したと判定し、
(2)全てのチャンネルの評価値が各々の所定量以上減少した場合に、第mラインおよび第(m−a)ラインの評価値LmおよびLm−aが減少したと判定する。
これにより、この撮像装置では、撮像信号の輝度レベルの変化から外部閃光の影響の有無を判定することができる。
第24の発明は、第18から第23のいずれかの発明であって、撮像部は、被写体を撮像して複数チャンネルの原色信号を撮像信号として出力する撮像素子で構成される。評価値は、撮像信号の各ラインのチャンネル毎の加算平均値である。ライン判定部は、第Nフレーム(Nは整数)において、処理対象のラインが評価値をチャンネル毎に、処理対象のラインのaライン前の評価値と比較して全てのチャンネルの評価値が、各々の所定量以上増加するラインを、第mラインとして検出し、第mラインのライン位置を示すライン位置情報mと、第mラインの複数のチャンネルの評価値のベクトルデータLvm(N)および第mラインよりaライン前の第(m−a)ラインの複数のチャンネルの評価値のベクトルデータLvm−a(N)を記憶する。フレーム判定部は、ライン判定部が検出したライン位置情報mに対して、ライン判定部に記憶された第mラインおよび第(m−a)ラインの評価値のベクトルデータLvm(N)およびLvm−a(N)と、第Nフレーム以降のフレームにおける撮像信号の第mラインおよび第(m−a)ラインの評価値のベクトルデータLvm(N+α)およびLvm−a(N+α)のライン間またはフレーム間の比較を複数のチャンネル毎に行い、
(1)全てのチャンネルの評価値が各々の所定量以上増加した場合に、第mラインおよび第(m−a)ラインの評価値LmおよびLm−aが増加したと判定し、
(2)全てのチャンネルの評価値が各々の所定量以上減少した場合に、第mラインおよび第(m−a)ラインの評価値LmおよびLm−aが減少したと判定する。
この撮像装置では、撮像部を、例えば、緑、青および赤の3チャンネルの原色信号を出力する3板式の撮像素子で構成する場合、フラッシュ等の発光(外部閃光)により3チャンネルの撮像信号が同一フレームの同一ラインから外部閃光の影響が開始され、別の同一フレームの同一ラインで外部閃光の影響が終了するため、検出する際に3チャンネル各々の評価値が同時に所定量以上増加または減少することを条件とすることにより、被写体によらず、より確実に外部閃光の影響の有無を判定することができる。
なお、ベクトルデータとは、複数の要素(スカラー値)をもつ多次元データである。例えば、第mラインのR(赤色)チャンネル信号の評価値をLrmとし、第mラインのG(緑色)チャンネル信号の評価値をLgmとし、第mラインのB(青色)チャンネル信号の評価値をLbmとしたとき、第mラインのRチャンネル、GチャンネルおよびBチャンネルの評価値のベクトルデータLvmは、
Lvm=(Lrm,Lgm,Lbm)
となる。
なお、ベクトルデータとは、複数の要素(スカラー値)をもつ多次元データである。例えば、第mラインのR(赤色)チャンネル信号の評価値をLrmとし、第mラインのG(緑色)チャンネル信号の評価値をLgmとし、第mラインのB(青色)チャンネル信号の評価値をLbmとしたとき、第mラインのRチャンネル、GチャンネルおよびBチャンネルの評価値のベクトルデータLvmは、
Lvm=(Lrm,Lgm,Lbm)
となる。
そして、例えば、第mラインと第kラインの差分演算(ベクトル演算)は、下記のように行うことができる。
Lvm−Lvk=(Lrm,Lgm,Lbm)−(Lrk,Lgk,Lbk)
=(Lrm−Lrk,Lgm−Lgk,Lbm−Lbk)
また、(Lvm−Lvk)を、所定量のベクトルデータthv=(thr,thg,thb)と比較(大小比較)することも可能である。
例えば、
(Lvm−Lvk)>thv
とは、
Lrm−Lrk>thr
Lgm−Lgk>thg
Lbm−Lbk>thb
ということを意味する。
Lvm−Lvk=(Lrm,Lgm,Lbm)−(Lrk,Lgk,Lbk)
=(Lrm−Lrk,Lgm−Lgk,Lbm−Lbk)
また、(Lvm−Lvk)を、所定量のベクトルデータthv=(thr,thg,thb)と比較(大小比較)することも可能である。
例えば、
(Lvm−Lvk)>thv
とは、
Lrm−Lrk>thr
Lgm−Lgk>thg
Lbm−Lbk>thb
ということを意味する。
第25の発明は、撮像部と、ライン評価値算出部と、ライン増加判定部と、ライン減少判定部と、フレーム判定部と、を備える撮像装置である。
撮像部は、被写体を撮像して撮像信号を出力する。ライン評価値算出部は、撮像信号により形成されフレームを構成することができる撮像画像の各ラインの評価値を算出する。ライン増加判定部は、処理対象のラインの評価値が、処理対象のラインのaライン前(aは正整数)の評価値と比較して所定量以上増加するラインを、第m1ラインとして検出する。ライン減少判定部は、処理対象のラインの評価値が、処理対象のラインのbライン前(bは正整数)の評価値と比較して所定量以上減少するラインを、第m2ラインとして検出する。フレーム判定部は、ライン増加判定部が現在のフレームである第Nフレームの撮像信号において第m1ラインを検出した場合に、現在のフレームである第Nフレームの撮像信号から外部閃光の影響が開始され、ライン減少判定部が第Nフレーム以降のフレームの撮像信号において第m2ラインを検出した場合に、第m2ラインを検出したフレームである第(N+α)フレーム(αは整数)の撮像信号で外部閃光の影響が終了したと判断する。
撮像部は、被写体を撮像して撮像信号を出力する。ライン評価値算出部は、撮像信号により形成されフレームを構成することができる撮像画像の各ラインの評価値を算出する。ライン増加判定部は、処理対象のラインの評価値が、処理対象のラインのaライン前(aは正整数)の評価値と比較して所定量以上増加するラインを、第m1ラインとして検出する。ライン減少判定部は、処理対象のラインの評価値が、処理対象のラインのbライン前(bは正整数)の評価値と比較して所定量以上減少するラインを、第m2ラインとして検出する。フレーム判定部は、ライン増加判定部が現在のフレームである第Nフレームの撮像信号において第m1ラインを検出した場合に、現在のフレームである第Nフレームの撮像信号から外部閃光の影響が開始され、ライン減少判定部が第Nフレーム以降のフレームの撮像信号において第m2ラインを検出した場合に、第m2ラインを検出したフレームである第(N+α)フレーム(αは整数)の撮像信号で外部閃光の影響が終了したと判断する。
この撮像装置では、ライン方向の評価値の急峻な増加を検出することで外部閃光の影響が開始されるフレームを検出し、以降のフレームではライン方向の評価値の急峻な減少を検出することで外部閃光の影響が終了するフレームを検出する。このため、撮像装置では、外部閃光が発光されるタイミングがどのようなタイミングであっても(どのラインから外部閃光の影響があった場合でも)フレームメモリ等を必要とせず、外部閃光の影響の有無を判定することができる。
第26の発明は、第25の発明であって、評価値は、撮像信号の各ラインの輝度信号の加算平均値である。
これにより、この撮像装置では、撮像信号の輝度レベルの変化から外部閃光の影響の有無を判定することができる。
第26の発明は、第25の発明であって、評価値は、撮像信号の各ラインの輝度信号の加算平均値である。
これにより、この撮像装置では、撮像信号の輝度レベルの変化から外部閃光の影響の有無を判定することができる。
第27の発明は、第25または第26の発明であって、撮像部は、被写体を撮像して複数チャンネルの原色信号を撮像信号として出力する撮像素子で構成される。評価値は、撮像信号の各ラインのチャンネル毎の加算平均値である。ライン増加判定部およびライン減少判定部は、評価値をチャンネル毎に、処理対象のラインのaライン前およびbライン前の評価値と比較して、全てのチャンネルの評価値が、各々の所定量以上増加および減少する場合に、第m1ラインおよび第m2ラインを検出する。
この撮像装置では、撮像部を、例えば、緑、青および赤の3チャンネルの原色信号を出力する3板式の撮像素子で構成する場合、フラッシュ等の発光により3チャンネルの撮像信号が同一フレームの同一ラインから外部閃光の影響が開始され、別の同一フレームの同一ラインで外部閃光の影響が終了する。このため、この撮像装置では、検出する際に3チャンネル各々の評価値が同時に所定量以上増加または減少することを条件とすることにより、被写体によらず、より確実に外部閃光の影響の有無を判定することができる。
この撮像装置では、撮像部を、例えば、緑、青および赤の3チャンネルの原色信号を出力する3板式の撮像素子で構成する場合、フラッシュ等の発光により3チャンネルの撮像信号が同一フレームの同一ラインから外部閃光の影響が開始され、別の同一フレームの同一ラインで外部閃光の影響が終了する。このため、この撮像装置では、検出する際に3チャンネル各々の評価値が同時に所定量以上増加または減少することを条件とすることにより、被写体によらず、より確実に外部閃光の影響の有無を判定することができる。
第28の発明は、被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる外部閃光検出方法であって、ライン評価値算出ステップと、ライン判定ステップと、フレーム判定ステップと、を備える外部閃光検出方法である。
ライン評価値算出ステップでは、撮像信号により形成されフレームを構成することができる撮像画像の各ラインの評価値を算出する。ライン判定ステップでは、第Nフレーム(Nは整数)において、処理対象のラインの評価値が、処理対象のラインのaライン前(aは正整数)の評価値と比較して所定量以上増加するラインを、第mラインとして検出し、第mラインのライン位置を示すライン位置情報mと、第mラインの評価値Lm(N)および第mラインよりaライン前の第(m−a)ラインの評価値Lm−a(N)を記憶する。フレーム判定ステップでは、ライン判定ステップにより記憶されたライン位置情報mに対して、ライン判定部に記憶された第Nフレームの第mラインの評価値Lm(N)および第Nフレームの第(m−a)ラインの評価値Lm−a(N)と、第Nフレーム以降のフレームにおける撮像信号の第mラインの評価値Lm(N+α)(αは、自然数)および第(m−a)ラインの評価値Lm−a(N+α)とをライン間またはフレーム間で比較することにより、撮像信号が構成する各フレームに外部閃光の影響があるか否かを判断する。
ライン評価値算出ステップでは、撮像信号により形成されフレームを構成することができる撮像画像の各ラインの評価値を算出する。ライン判定ステップでは、第Nフレーム(Nは整数)において、処理対象のラインの評価値が、処理対象のラインのaライン前(aは正整数)の評価値と比較して所定量以上増加するラインを、第mラインとして検出し、第mラインのライン位置を示すライン位置情報mと、第mラインの評価値Lm(N)および第mラインよりaライン前の第(m−a)ラインの評価値Lm−a(N)を記憶する。フレーム判定ステップでは、ライン判定ステップにより記憶されたライン位置情報mに対して、ライン判定部に記憶された第Nフレームの第mラインの評価値Lm(N)および第Nフレームの第(m−a)ラインの評価値Lm−a(N)と、第Nフレーム以降のフレームにおける撮像信号の第mラインの評価値Lm(N+α)(αは、自然数)および第(m−a)ラインの評価値Lm−a(N+α)とをライン間またはフレーム間で比較することにより、撮像信号が構成する各フレームに外部閃光の影響があるか否かを判断する。
これにより、第18の発明と同様の効果を奏する外部閃光検出方法を実現することができる。
第29の発明は、被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる外部閃光検出方法をコンピュータに実行させるプログラムである。外部閃光検出方法は、ライン評価値算出ステップと、ライン判定ステップと、フレーム判定ステップと、を備える。
ライン評価値算出ステップでは、撮像信号により形成されフレームを構成することができる撮像画像の各ラインの評価値を算出する。ライン判定ステップでは、第Nフレーム(Nは整数)において、処理対象のラインの評価値が、処理対象のラインのaライン前(aは正整数)の評価値と比較して所定量以上増加するラインを、第mラインとして検出し、第mラインのライン位置を示すライン位置情報mと、第mラインの評価値Lm(N)および第mラインよりaライン前の第(m−a)ラインの評価値Lm−a(N)を記憶する。フレーム判定ステップでは、ライン判定ステップにより記憶されたライン位置情報mに対して、ライン判定部に記憶された第Nフレームの第mラインの評価値Lm(N)および第Nフレームの第(m−a)ラインの評価値Lm−a(N)と、第Nフレーム以降のフレームにおける撮像信号の第mラインの評価値Lm(N+α)(αは、自然数)および第(m−a)ラインの評価値Lm−a(N+α)とをライン間またはフレーム間で比較することにより、撮像信号が構成する各フレームに外部閃光の影響があるか否かを判断する。
第29の発明は、被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる外部閃光検出方法をコンピュータに実行させるプログラムである。外部閃光検出方法は、ライン評価値算出ステップと、ライン判定ステップと、フレーム判定ステップと、を備える。
ライン評価値算出ステップでは、撮像信号により形成されフレームを構成することができる撮像画像の各ラインの評価値を算出する。ライン判定ステップでは、第Nフレーム(Nは整数)において、処理対象のラインの評価値が、処理対象のラインのaライン前(aは正整数)の評価値と比較して所定量以上増加するラインを、第mラインとして検出し、第mラインのライン位置を示すライン位置情報mと、第mラインの評価値Lm(N)および第mラインよりaライン前の第(m−a)ラインの評価値Lm−a(N)を記憶する。フレーム判定ステップでは、ライン判定ステップにより記憶されたライン位置情報mに対して、ライン判定部に記憶された第Nフレームの第mラインの評価値Lm(N)および第Nフレームの第(m−a)ラインの評価値Lm−a(N)と、第Nフレーム以降のフレームにおける撮像信号の第mラインの評価値Lm(N+α)(αは、自然数)および第(m−a)ラインの評価値Lm−a(N+α)とをライン間またはフレーム間で比較することにより、撮像信号が構成する各フレームに外部閃光の影響があるか否かを判断する。
これにより、第18の発明と同様の効果を奏する外部閃光検出方法をコンピュータに実行させるプログラムを実現することができる。
第30の発明は、被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる集積回路であって、ライン評価値算出部と、ライン判定部と、フレーム判定部と、を備える集積回路である。
ライン評価値算出部は、撮像信号により形成されフレームを構成することができる撮像画像の各ラインの評価値を算出する。ライン判定部は、第Nフレーム(Nは整数)において、処理対象のラインの評価値が、処理対象のラインのaライン前(aは正整数)の評価値と比較して所定量以上増加するラインを、第mラインとして検出し、第mラインのライン位置を示すライン位置情報mと、第mラインの評価値Lm(N)および第mラインよりaライン前の第(m−a)ラインの評価値Lm−a(N)を記憶する。フレーム判定部は、ライン判定部に記憶されたライン位置情報mに対して、ライン判定部に記憶された第Nフレームの第mラインの評価値Lm(N)および第Nフレームの第(m−a)ラインの評価値Lm−a(N)と、第Nフレーム以降のフレームにおける撮像信号の第mラインの評価値Lm(N+α)(αは、自然数)および第(m−a)ラインの評価値Lm−a(N+α)とをライン間またはフレーム間で比較することにより、撮像信号が構成する各フレームに外部閃光の影響があるか否かを判断する。
第30の発明は、被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる集積回路であって、ライン評価値算出部と、ライン判定部と、フレーム判定部と、を備える集積回路である。
ライン評価値算出部は、撮像信号により形成されフレームを構成することができる撮像画像の各ラインの評価値を算出する。ライン判定部は、第Nフレーム(Nは整数)において、処理対象のラインの評価値が、処理対象のラインのaライン前(aは正整数)の評価値と比較して所定量以上増加するラインを、第mラインとして検出し、第mラインのライン位置を示すライン位置情報mと、第mラインの評価値Lm(N)および第mラインよりaライン前の第(m−a)ラインの評価値Lm−a(N)を記憶する。フレーム判定部は、ライン判定部に記憶されたライン位置情報mに対して、ライン判定部に記憶された第Nフレームの第mラインの評価値Lm(N)および第Nフレームの第(m−a)ラインの評価値Lm−a(N)と、第Nフレーム以降のフレームにおける撮像信号の第mラインの評価値Lm(N+α)(αは、自然数)および第(m−a)ラインの評価値Lm−a(N+α)とをライン間またはフレーム間で比較することにより、撮像信号が構成する各フレームに外部閃光の影響があるか否かを判断する。
これにより、第18の発明と同様の効果を奏する集積回路を実現することができる。
第31の発明は、第1の発明であって、フラッシュ補正処理部をさらに備える。
閃光検出部は、撮像信号により形成される現在の単位画像である第N番目画像を、所定の大きさのブロックに分割し、分割したブロック毎の撮像信号の信号値の平均値を求め、現在の単位画像上の任意の位置(i,j)(i行j列目のブロックの位置)におけるブロックの平均値と現在の単位画像の1単位画像前の単位画像の同一位置(i,j)の近傍のブロックの平均値との比較に基づき、撮像信号により形成される現在の単位画像が閃光の影響を受けているか否かを検出する。フラッシュ補正処理部は、閃光検出部により、撮像信号が閃光の影響を受けていると判断した場合、撮像信号に存在する閃光の影響を補正する。
第31の発明は、第1の発明であって、フラッシュ補正処理部をさらに備える。
閃光検出部は、撮像信号により形成される現在の単位画像である第N番目画像を、所定の大きさのブロックに分割し、分割したブロック毎の撮像信号の信号値の平均値を求め、現在の単位画像上の任意の位置(i,j)(i行j列目のブロックの位置)におけるブロックの平均値と現在の単位画像の1単位画像前の単位画像の同一位置(i,j)の近傍のブロックの平均値との比較に基づき、撮像信号により形成される現在の単位画像が閃光の影響を受けているか否かを検出する。フラッシュ補正処理部は、閃光検出部により、撮像信号が閃光の影響を受けていると判断した場合、撮像信号に存在する閃光の影響を補正する。
この撮像装置では、閃光検出部により、現在の単位画像上の任意の位置(i,j)(i行j列目のブロックの位置)におけるブロックの平均値と現在の単位画像の1単位画像前の単位画像の同一位置(i,j)の近傍のブロックの平均値との比較に基づき、撮像信号により形成される現在の単位画像が閃光の影響を受けているか否かが検出される。したがって、この撮像装置では、動き検出等の処理をすることなく、例えば、動く高輝度被写体に対して「外部閃光あり」との誤判断をすることなく、確実に、外部閃光の有無を検出することができる。
第32の発明は、第31の発明であって、閃光検出部は、単位画像上の任意の位置(i,j)におけるブロックの当該ブロックを構成する画素の画素値の平均値であるブロック平均値Ave(i,j)と、1単位画像前の単位画像の同一位置(i,j)の近傍のブロックのうちブロック平均値Ave(i,j)と最も近いブロック平均値を有するブロックのブロック平均値RAveとの差(Ave(i,j)−RAve)を検出する。そして、閃光検出部は、検出した差(Ave(i,j)−RAve)が所定の値以上になっているブロック数Numを取得する。そして、閃光検出部は、単位画像上の所定のエリア内において、ブロック数Numが、所定の個数以上存在するか否かを判定することにより、撮像信号が閃光の影響を受けているか否かを検出する。
第32の発明は、第31の発明であって、閃光検出部は、単位画像上の任意の位置(i,j)におけるブロックの当該ブロックを構成する画素の画素値の平均値であるブロック平均値Ave(i,j)と、1単位画像前の単位画像の同一位置(i,j)の近傍のブロックのうちブロック平均値Ave(i,j)と最も近いブロック平均値を有するブロックのブロック平均値RAveとの差(Ave(i,j)−RAve)を検出する。そして、閃光検出部は、検出した差(Ave(i,j)−RAve)が所定の値以上になっているブロック数Numを取得する。そして、閃光検出部は、単位画像上の所定のエリア内において、ブロック数Numが、所定の個数以上存在するか否かを判定することにより、撮像信号が閃光の影響を受けているか否かを検出する。
これにより、この撮像装置では、動き検出等の処理をすることなく、例えば、動く高輝度被写体に対して「外部閃光あり」との誤判断をすることなく、確実に、外部閃光の有無を検出することができる。
第33の発明は、第31または第32の発明であって、閃光検出部は、ブロックの平均値として、各ブロックの画素の値の総和をビットシフトした値を用いる。
これにより、ビットシフトにより、ブロックの平均値を求めることができる。
第33の発明は、第31または第32の発明であって、閃光検出部は、ブロックの平均値として、各ブロックの画素の値の総和をビットシフトした値を用いる。
これにより、ビットシフトにより、ブロックの平均値を求めることができる。
本発明によれば、回路規模の増大を招くことなく、任意のタイミングで発光される外部閃光による撮像信号への影響の有無を確実に判断することが可能な撮像装置、外部閃光検出方法、プログラムおよび集積回路を実現することができる。
また、本発明によれば、外部閃光による明るい横帯のある不自然な画面に対して、動く高輝度被写体に対しても少ない回路規模で誤動作が少なく閃光の有無を検出できる撮像装置、外部閃光検出方法、プログラムおよび集積回路を実現することができる。
また、本発明によれば、外部閃光による明るい横帯のある不自然な画面に対して、動く高輝度被写体に対しても少ない回路規模で誤動作が少なく閃光の有無を検出できる撮像装置、外部閃光検出方法、プログラムおよび集積回路を実現することができる。
以下、実施形態について、図1から図5を用いて説明する。
[第1実施形態]
<1.1:撮像装置の構成>
図1は、第1実施形態の撮像装置1000の概略構成を示す図である。
撮像装置1000は、図1に示すように、撮像部1と、検出部2と、補正部3とを備える。
撮像部1は、CMOSイメージセンサ等の撮像素子を含んで構成され、被写体を撮像して撮像信号(映像信号)を取得し、取得した撮像信号(映像信号)を検出部2および補正部3に出力する。なお、撮像信号により撮像画像(フレーム画像)が形成される。そして、複数のフレーム画像を表示装置に表示させることで、表示装置で撮像映像を表示させることができる。
[第1実施形態]
<1.1:撮像装置の構成>
図1は、第1実施形態の撮像装置1000の概略構成を示す図である。
撮像装置1000は、図1に示すように、撮像部1と、検出部2と、補正部3とを備える。
撮像部1は、CMOSイメージセンサ等の撮像素子を含んで構成され、被写体を撮像して撮像信号(映像信号)を取得し、取得した撮像信号(映像信号)を検出部2および補正部3に出力する。なお、撮像信号により撮像画像(フレーム画像)が形成される。そして、複数のフレーム画像を表示装置に表示させることで、表示装置で撮像映像を表示させることができる。
検出部2は、図1に示すように、ライン平均部11(ライン輝度情報算出部)と、記憶部12と、フレーム差分演算部13と、判断部14とを備える。検出部2は、撮像部1から出力される撮像信号(映像信号)を入力とし、撮像信号により撮像画像(フレーム画像)が外部閃光の影響を受けているか否かを判断する。そして、検出部2は、判断結果を示す信号を補正部3に出力する。
ライン平均部11は、撮像部1から出力される撮像信号(映像信号)を入力とし、入力される撮像信号(映像信号)について1ライン毎にその平均値(ライン平均値)を算出する。そして、ライン平均部11は、算出したライン平均値(を示す信号)を記憶部12およびフレーム差分演算部13へ順次出力する。
記憶部12は、ライン平均部11から出力されるライン平均値(を示す信号)を入力とし、1画面分(撮像信号(映像信号)が形成する画面(フレーム画像)1つ分)のライン平均値を記憶する。そして、記憶部12は、記憶したライン平均値を1フレーム期間後にフレーム差分演算部13に供給(出力)する。
ライン平均部11は、撮像部1から出力される撮像信号(映像信号)を入力とし、入力される撮像信号(映像信号)について1ライン毎にその平均値(ライン平均値)を算出する。そして、ライン平均部11は、算出したライン平均値(を示す信号)を記憶部12およびフレーム差分演算部13へ順次出力する。
記憶部12は、ライン平均部11から出力されるライン平均値(を示す信号)を入力とし、1画面分(撮像信号(映像信号)が形成する画面(フレーム画像)1つ分)のライン平均値を記憶する。そして、記憶部12は、記憶したライン平均値を1フレーム期間後にフレーム差分演算部13に供給(出力)する。
フレーム差分演算部13は、ライン平均部11から出力されるライン平均値Ave(k,N)(kはライン番号、Nはフレーム番号)(を示す信号)と、記憶部12から出力されるライン平均値Ave(k,(N−1))(kはライン番号、Nはフレーム番号)(を示す信号)とを入力とする。フレーム差分演算部13は、その時点のライン平均値から1フレーム前のライン平均値を減算することにより差分を演算する。すなわち、
Diff(k,N)=Ave(k,N)−Ave(k,(N−1))
により、差分Diff(k,N)(第k番目のラインにおける現フレームと1フレーム前のライン平均値の差分)を取得する。そして、フレーム差分演算部13は、取得した差分(ライン平均値のフレーム差分)(を示す信号)を判断部14に出力する。
判断部14は、フレーム差分演算部13から出力される差分(ライン平均値のフレーム差分)(を示す信号)を入力とし、当該差分(ライン平均値のフレーム差分)に基づいて、外部閃光の影響の有無について、判断する。そして、判断部14は、判断結果を示す信号を補正部3に出力する。なお、判断部14は、外部閃光の影響を受けている期間についての情報(例えば、外部閃光の影響を受けていると判断された開始ライン番号と終了ライン番号や、外部閃光の影響を受けていると判断されたフレーム番号)等を記憶する機能を有している。また、判断部14は、外部閃光の影響の有無を判定するために、ライン平均差分値と比較するための閾値を設定する機能を有している。
Diff(k,N)=Ave(k,N)−Ave(k,(N−1))
により、差分Diff(k,N)(第k番目のラインにおける現フレームと1フレーム前のライン平均値の差分)を取得する。そして、フレーム差分演算部13は、取得した差分(ライン平均値のフレーム差分)(を示す信号)を判断部14に出力する。
判断部14は、フレーム差分演算部13から出力される差分(ライン平均値のフレーム差分)(を示す信号)を入力とし、当該差分(ライン平均値のフレーム差分)に基づいて、外部閃光の影響の有無について、判断する。そして、判断部14は、判断結果を示す信号を補正部3に出力する。なお、判断部14は、外部閃光の影響を受けている期間についての情報(例えば、外部閃光の影響を受けていると判断された開始ライン番号と終了ライン番号や、外部閃光の影響を受けていると判断されたフレーム番号)等を記憶する機能を有している。また、判断部14は、外部閃光の影響の有無を判定するために、ライン平均差分値と比較するための閾値を設定する機能を有している。
補正部3は、撮像部1から出力される撮像信号(映像信号)および検出部2から出力される外部閃光の影響の有無に関する情報を示す信号を入力とし、外部閃光の影響の有無に関する情報に基づいて、撮像信号(映像信号)に対して補正処理(外部閃光の影響を排除する処理等)を行う。
<1.2:撮像装置の動作>
以上のように構成された撮像装置1000の動作について、以下、説明する。
撮像部1により被写体を撮像して取得された撮像信号は、検出部2および補正部3へ出力される。撮像部1は、CMOS撮像素子を備えており、ライン単位で電荷蓄積、読み出しおよび撮像信号としての出力が行われる。
なお、本実施形態では、まず、電子シャッターを使用しない、すなわち、撮像部1の1フレームあたりの露光時間(信号電荷の蓄積時間)が、撮像フレームレートで決まる信号読み出し周期(1フレーム期間)と略等しいものとして説明する。例えば、撮像フレームレートが60フレーム/秒であれば、1フレーム期間、信号読み出し周期および露光時間は、1/60秒となる。
<1.2:撮像装置の動作>
以上のように構成された撮像装置1000の動作について、以下、説明する。
撮像部1により被写体を撮像して取得された撮像信号は、検出部2および補正部3へ出力される。撮像部1は、CMOS撮像素子を備えており、ライン単位で電荷蓄積、読み出しおよび撮像信号としての出力が行われる。
なお、本実施形態では、まず、電子シャッターを使用しない、すなわち、撮像部1の1フレームあたりの露光時間(信号電荷の蓄積時間)が、撮像フレームレートで決まる信号読み出し周期(1フレーム期間)と略等しいものとして説明する。例えば、撮像フレームレートが60フレーム/秒であれば、1フレーム期間、信号読み出し周期および露光時間は、1/60秒となる。
検出部2では、撮像部1から出力される撮像信号(映像信号)において、画像(当該撮像信号により形成される画像)に外部閃光の影響があるか否かが判定され、判定情報が補正部3へ出力される。
補正部3では、検出部2の判定情報に従い、撮像部1からの映像信号に画像の補正や加工等の処理が実行される。そして、補正部3により処理された映像信号は、補正部3の後段の機能部(不図示)に出力される。
補正部3での補正処理としては、例えば、以下のようなものが考えられる。
(1)補正部3が、外部閃光の影響を受けていない直前のフレームの撮像信号を外部閃光の影響を受けたフレームの撮像信号と置き換えて出力信号とすることで、外部閃光の影響を排除する補正処理。
(2)補正部3が、外部閃光の影響を受けている撮像信号を、あらかじめ決められた特定の撮像信号(例えば、全画素が特定の画素値(例えば、黒や白に相当する画素値)である撮像信号)に置き換えて出力信号とすることで、外部閃光の影響を排除する補正処理。
補正部3では、検出部2の判定情報に従い、撮像部1からの映像信号に画像の補正や加工等の処理が実行される。そして、補正部3により処理された映像信号は、補正部3の後段の機能部(不図示)に出力される。
補正部3での補正処理としては、例えば、以下のようなものが考えられる。
(1)補正部3が、外部閃光の影響を受けていない直前のフレームの撮像信号を外部閃光の影響を受けたフレームの撮像信号と置き換えて出力信号とすることで、外部閃光の影響を排除する補正処理。
(2)補正部3が、外部閃光の影響を受けている撮像信号を、あらかじめ決められた特定の撮像信号(例えば、全画素が特定の画素値(例えば、黒や白に相当する画素値)である撮像信号)に置き換えて出力信号とすることで、外部閃光の影響を排除する補正処理。
(1.2.1:検出部2の動作)
次に、検出部2の動作について、より詳細に説明する。
ライン平均部11は、入力される映像信号について1ライン毎にその平均値(ライン平均値)Ave(k,N)(kはライン番号、Nはフレーム番号)を算出し、算出したライン平均値を記憶部12とフレーム差分演算部13へ順次出力する。
記憶部12は、1画面分のライン平均値Ave(k,N)を記憶し、記憶したライン平均値を1フレーム期間後にフレーム差分演算部13に供給する。
フレーム差分演算部13には、現在の画面のライン平均値Ave(k,N)と1フレーム前の画面のライン平均値Ave(k,N−1)が入力され、フレーム差分演算部13は、その差分Diff(k,N)を、
Diff(k,N)=Ave(k,N)−Ave(k,N−1)
により、算出する。そして、フレーム差分演算部13は、算出したライン平均値の差分Diff(k,N)を判断部14へ供給(出力)する。
次に、検出部2の動作について、より詳細に説明する。
ライン平均部11は、入力される映像信号について1ライン毎にその平均値(ライン平均値)Ave(k,N)(kはライン番号、Nはフレーム番号)を算出し、算出したライン平均値を記憶部12とフレーム差分演算部13へ順次出力する。
記憶部12は、1画面分のライン平均値Ave(k,N)を記憶し、記憶したライン平均値を1フレーム期間後にフレーム差分演算部13に供給する。
フレーム差分演算部13には、現在の画面のライン平均値Ave(k,N)と1フレーム前の画面のライン平均値Ave(k,N−1)が入力され、フレーム差分演算部13は、その差分Diff(k,N)を、
Diff(k,N)=Ave(k,N)−Ave(k,N−1)
により、算出する。そして、フレーム差分演算部13は、算出したライン平均値の差分Diff(k,N)を判断部14へ供給(出力)する。
判断部14は、この差分Diff(k,N)に基づいて、外部閃光の発生(外部閃光の影響の有無)を判断し、判断結果を判定情報として補正部3へ供給(出力)する。
次に、図2の場合における撮像装置1000の動作について、説明する。
図2は、スチルカメラのフラッシュなどの外部閃光が発光された場合に、本実施形態の撮像装置1000における撮像信号および表示画像への影響を示す図である。
図2(a)は、従来技術における図35と同様に、撮像部1における電荷蓄積期間(露光期間)と、読み出しタイミング、走査期間を模式化した図であり、画面を構成する各走査ラインの電荷蓄積期間およびその電荷を読み出すための走査期間を、時間軸を横軸に取って表している。また、図2(b)には、撮像部1から出力される撮像信号を各フレームの画面として図示している。
次に、図2の場合における撮像装置1000の動作について、説明する。
図2は、スチルカメラのフラッシュなどの外部閃光が発光された場合に、本実施形態の撮像装置1000における撮像信号および表示画像への影響を示す図である。
図2(a)は、従来技術における図35と同様に、撮像部1における電荷蓄積期間(露光期間)と、読み出しタイミング、走査期間を模式化した図であり、画面を構成する各走査ラインの電荷蓄積期間およびその電荷を読み出すための走査期間を、時間軸を横軸に取って表している。また、図2(b)には、撮像部1から出力される撮像信号を各フレームの画面として図示している。
ここで、撮像部1が撮像素子からn−1番目のフレームの撮像信号を読み出している途中で、フラッシュのような外部閃光が発光された場合には、撮像部1から出力される撮像信号には、図2(b)に示すように、n−1番目のフレームの画像の下部(ラインαより下)、およびn番目のフレームの画像の上部(ラインαより上)に白帯状の妨害が発生する。
ここで、図2(c)には、ライン平均部11の出力であるライン平均値を、横軸を時間軸として模式的に図示している。なお、各フレームの画像は、画面の上部から下部へと読み出される。このため、図2(c)では、左側が画面上部のライン平均値となり、右側が画面下部のライン平均値となる。例えば、図2(c)のR1で示した範囲のライン平均値は、n−1番目のフレームの上部(外部閃光の影響を受けていない部分)に対応するライン平均値であり、図2(c)のR2で示した範囲のライン平均値は、n−1番目のフレームの下部(外部閃光の影響を受けている部分)に対応するライン平均値である。
ここで、図2(c)には、ライン平均部11の出力であるライン平均値を、横軸を時間軸として模式的に図示している。なお、各フレームの画像は、画面の上部から下部へと読み出される。このため、図2(c)では、左側が画面上部のライン平均値となり、右側が画面下部のライン平均値となる。例えば、図2(c)のR1で示した範囲のライン平均値は、n−1番目のフレームの上部(外部閃光の影響を受けていない部分)に対応するライン平均値であり、図2(c)のR2で示した範囲のライン平均値は、n−1番目のフレームの下部(外部閃光の影響を受けている部分)に対応するライン平均値である。
このライン平均値は、記憶部12に供給されて、1フレーム遅延後にフレーム差分演算部13へと出力される。フレーム差分演算部13は、その時点のライン平均値Ave(k,N)から1フレーム前のライン平均値Ave(k,(N−1))を減算することにより差分を演算する。例えば、第nフレームの第kラインの差分値Diff(k,n)は、
Diff(k,n)=Ave(k,n)−Ave(k,n−1)
により算出される。
このようにして算出されたライン平均値のフレーム差分を図2(d)に示す。
(現フレームがn−2番目のフレームの場合):
ここで、例えば、n−2番目のフレームの撮像信号が検出部2に入力されたときには、n−2番目のフレームとn−3番目のフレームとのライン平均値の差分が演算される。ここで、この両フレームは、外部閃光の影響を受けていないので、そのフレーム差分の絶対値は大きな値を持たず、あらかじめ設定した閾値β(β>0)より小さな値となる。
(現フレームがn−1番目のフレームの場合):
次に、n−1番目のフレームの撮像信号が検出部2に入力されたときには、n−1番目のフレームとn−2番目のフレームとのライン平均値の差分が演算される。ここで、n−1番目のフレームのラインαより下部は外部閃光によりライン平均値が大きくなっているので、フレーム差分の絶対値は画面下部にて閾値βを超える値となる。判断部14は、ライン平均値の差分が閾値βを超える期間が開始したときのフレームがn−1番目であり、ラインαpsがラインαであることを記憶しておく。
(現フレームがn番目のフレームの場合):
次に、n番目のフレームの撮像信号が検出部2に入力されたときには、n番目のフレームとn−1番目のフレームとのライン平均値の差分が演算される。ここで、外部閃光の影響によって、n−1番目のフレームでは下部にてライン平均値が大きくなり、n番目のフレームでは上部にてライン平均値が大きくなっている。したがって、これらのフレームのフレーム差分値はラインαより上部にて閾値βを超える値となり、ラインαより下部では閾値−βより小さな値となる。判断部14は、ライン平均値の差分が閾値βを超える期間が終了したときのフレームがn番目であり、ラインαpeがラインαであることを記憶しておく。なお、フレーム差分値が閾値−βより小さい期間が開始したときのフレームおよびラインαnsも同じく各々n番目およびラインαである。
(現フレームがn+1番目のフレームの場合):
そして、n+1番目のフレームの撮像信号が検出部2に入力されたときには、n+1番目のフレームとn番目のフレームとのライン平均値の差分が演算される。ここで、外部閃光の影響によって、n番目のフレームでは上部にてライン平均値が大きくなっているので、フレーム差分値は画面上部にて閾値−βより小さな値となり、画面下部では絶対値が閾値βより小さな値となる。ここで、フレーム差分値が閾値−βより小さい期間が終了したときのフレームはn+1であり、ラインαneはラインαである。
Diff(k,n)=Ave(k,n)−Ave(k,n−1)
により算出される。
このようにして算出されたライン平均値のフレーム差分を図2(d)に示す。
(現フレームがn−2番目のフレームの場合):
ここで、例えば、n−2番目のフレームの撮像信号が検出部2に入力されたときには、n−2番目のフレームとn−3番目のフレームとのライン平均値の差分が演算される。ここで、この両フレームは、外部閃光の影響を受けていないので、そのフレーム差分の絶対値は大きな値を持たず、あらかじめ設定した閾値β(β>0)より小さな値となる。
(現フレームがn−1番目のフレームの場合):
次に、n−1番目のフレームの撮像信号が検出部2に入力されたときには、n−1番目のフレームとn−2番目のフレームとのライン平均値の差分が演算される。ここで、n−1番目のフレームのラインαより下部は外部閃光によりライン平均値が大きくなっているので、フレーム差分の絶対値は画面下部にて閾値βを超える値となる。判断部14は、ライン平均値の差分が閾値βを超える期間が開始したときのフレームがn−1番目であり、ラインαpsがラインαであることを記憶しておく。
(現フレームがn番目のフレームの場合):
次に、n番目のフレームの撮像信号が検出部2に入力されたときには、n番目のフレームとn−1番目のフレームとのライン平均値の差分が演算される。ここで、外部閃光の影響によって、n−1番目のフレームでは下部にてライン平均値が大きくなり、n番目のフレームでは上部にてライン平均値が大きくなっている。したがって、これらのフレームのフレーム差分値はラインαより上部にて閾値βを超える値となり、ラインαより下部では閾値−βより小さな値となる。判断部14は、ライン平均値の差分が閾値βを超える期間が終了したときのフレームがn番目であり、ラインαpeがラインαであることを記憶しておく。なお、フレーム差分値が閾値−βより小さい期間が開始したときのフレームおよびラインαnsも同じく各々n番目およびラインαである。
(現フレームがn+1番目のフレームの場合):
そして、n+1番目のフレームの撮像信号が検出部2に入力されたときには、n+1番目のフレームとn番目のフレームとのライン平均値の差分が演算される。ここで、外部閃光の影響によって、n番目のフレームでは上部にてライン平均値が大きくなっているので、フレーム差分値は画面上部にて閾値−βより小さな値となり、画面下部では絶対値が閾値βより小さな値となる。ここで、フレーム差分値が閾値−βより小さい期間が終了したときのフレームはn+1であり、ラインαneはラインαである。
ここで、図2(d)を参照すると明らかなように、外部閃光の発生により、フレーム差分値が閾値βを超える状態が、n−1番目のフレームのラインαからn番目のフレームのラインαまで、略1フレーム期間連続している。
判断部14は、n−1番目のフレームのαpsから、n番目のフレームのαpeまでのライン数が略1フレーム期間と等しいときに外部閃光の発生であると検出し、補正部3へと判定結果を供給する。すなわち、判断部14は、(1)ライン平均値の差分が閾値βを超える期間が開始したフレームと、ライン平均値の差分が閾値βを超える期間が終了したフレームとが連続しており、かつ、(2)αps=αpeとなるときに、これら連続する2フレームのうち前のフレーム(図2では、n−1番目のフレームがこれに相当。)から外部閃光による妨害が開始していると検出する。
判断部14は、n−1番目のフレームのαpsから、n番目のフレームのαpeまでのライン数が略1フレーム期間と等しいときに外部閃光の発生であると検出し、補正部3へと判定結果を供給する。すなわち、判断部14は、(1)ライン平均値の差分が閾値βを超える期間が開始したフレームと、ライン平均値の差分が閾値βを超える期間が終了したフレームとが連続しており、かつ、(2)αps=αpeとなるときに、これら連続する2フレームのうち前のフレーム(図2では、n−1番目のフレームがこれに相当。)から外部閃光による妨害が開始していると検出する。
なお、「略1フレーム期間」とは、1フレーム期間±10%以内(つまり、0.9〜1.1フレーム期間内)に含まれる任意の期間であることが好ましい。1フレーム期間とは異なる期間となる要因として、現実のフラッシュ(外部閃光)はその発光時間が一瞬ではなく一定の時間幅を有することや、CMOSイメージセンサの構造上の制限により無効な電荷蓄積期間が生じることがある。
また、判断部14による、αps=αpeの判定処理において、多少の誤差を含んだ許容範囲を設定して判定処理を行うようにしてもよい。例えば、0.9αpe<αps<1.1αpeであるときは、判断部14は、上記条件(2)を満たすと判定するようにしてもよい。
また、フレーム差分値が閾値−βより小さい状態に着目すると、n番目のフレームのラインαからn+1番目のフレームのラインαまで、略1フレーム期間連続している。
また、判断部14による、αps=αpeの判定処理において、多少の誤差を含んだ許容範囲を設定して判定処理を行うようにしてもよい。例えば、0.9αpe<αps<1.1αpeであるときは、判断部14は、上記条件(2)を満たすと判定するようにしてもよい。
また、フレーム差分値が閾値−βより小さい状態に着目すると、n番目のフレームのラインαからn+1番目のフレームのラインαまで、略1フレーム期間連続している。
判断部14は、αnsからαneまでのライン数が略1フレーム期間と等しいときに外部閃光の消滅であると検出し、補正部3へと判定結果を供給する。すなわち、判断部14は、(1)ライン平均値の差分が閾値−βより小さい期間が開始したフレームと、ライン平均値の差分が閾値−βより小さい期間が終了したフレームとが連続しており、かつ、(2)αns=αneとなるときに、これら連続する2フレームのうち前のフレーム(図2では、n番目のフレームがこれに相当)において外部閃光による妨害が終了していると検出する。
なお、「略1フレーム期間」とは、1フレーム期間±10%以内(つまり、0.9〜1.1フレーム期間内)に含まれる任意の期間であることが好ましい。また、判断部14による、αns=αneの判定処理において、多少の誤差を含んだ許容範囲を設定して判定処理を行うようにしてもよい。例えば、0.9αne<αns<1.1αneであるときは、判断部14は、上記条件(2)を満たすと判定するようにしてもよい。
なお、「略1フレーム期間」とは、1フレーム期間±10%以内(つまり、0.9〜1.1フレーム期間内)に含まれる任意の期間であることが好ましい。また、判断部14による、αns=αneの判定処理において、多少の誤差を含んだ許容範囲を設定して判定処理を行うようにしてもよい。例えば、0.9αne<αns<1.1αneであるときは、判断部14は、上記条件(2)を満たすと判定するようにしてもよい。
なお、n−1番目のフレームとn−2番目のフレームのライン平均値の差分を用いた演算の結果においてαps=αであることから、判断部14は、n−1番目のフレームにおいてラインαを境界として画面下部が外部閃光の影響を受けている、と判断できる。また、n番目のフレームとn−1番目のフレームのライン平均値の差分を用いた演算の結果においてαns=αであることから、ラインαを境界として画面上部が外部閃光の影響を受けている、と判断できる。補正部3における画像の補正や加工等の処理において、外部閃光の影響を受けているか否かの境界線が必要となる場合、これらの判断部14の判断結果を利用することができる。
(1.2.2:誤認識しやすい撮像信号に対する処理)
次に、外部閃光による妨害を受けていると誤認識しやすい撮像信号を例に取り、本実施形態の撮像装置1000の動作を説明する。
(1.2.2:誤認識しやすい撮像信号に対する処理)
次に、外部閃光による妨害を受けていると誤認識しやすい撮像信号を例に取り、本実施形態の撮像装置1000の動作を説明する。
図3は、外部閃光と誤認識しやすい例として、非常に明るい被写体が画面の下部から上方向に移動する場合を示す図である。ここで、例えば、n−1番目のフレームだけに着目すると、図2の外部閃光の場合と非常によく似た画面となっており、図3(c)のライン平均値も似ている。しかし、図3(d)に示すようなフレーム差分値に着目すると、大きな絶対値を持つ期間は短くなっており、図2の場合のように1フレーム期間連続することはない。そのため、図3に示したような、明るい被写体が画面の垂直方向に移動する場合であっても、撮像装置1000では、外部閃光の発生と間違って判断することはない。
(1.2.3:外部閃光が1フレーム期間以内の時間差をおいて複数回発生した場合の処理)
次に、外部閃光が1フレーム期間以内の時間差をおいて複数回発生した場合における、本実施形態の撮像装置1000の動作を説明する。
(1.2.3:外部閃光が1フレーム期間以内の時間差をおいて複数回発生した場合の処理)
次に、外部閃光が1フレーム期間以内の時間差をおいて複数回発生した場合における、本実施形態の撮像装置1000の動作を説明する。
図4は、1フレーム期間以内の時間差をおいて2回の外部閃光が発生した場合を示す。ここで、図4(a)は、撮像部における電荷蓄積期間(露光期間)と、読み出しタイミング、走査期間を模式化した図であり、図4(b)には、撮像部1から出力される撮像信号を各フレームの画面として図示している。
ここで、n−1番目のフレームの撮像信号を読み出している途中で、フラッシュのような外部閃光が発光されると、n−1番目のフレームの画像の下部(ラインα1より下)には白帯状の妨害が発生する。
次に、図4に示すように、n番目のフレームの撮像信号を読み出している途中で、2回目の外部閃光が発光されたとする。そして、図4に示すように、2回の外部閃光の発生の間隔(第1回目の外部閃光の発生時刻(n−1番目のフレームのα1番目のラインの読み出しタイミング)から第2回目の外部閃光の発生時刻(n番目のフレームのα2番目のラインの読み出しタイミング)までの期間)が1フレーム期間以内であるとする。この場合、両者の画面への影響が重なるので、n番目のフレームの画像は、画面全体が外部閃光の影響を受ける。そして、n+1番目のフレームの画像は、その上部(ラインα2より上、ただし、α2<α1とする。)に白帯状の妨害が発生する。
ここで、n−1番目のフレームの撮像信号を読み出している途中で、フラッシュのような外部閃光が発光されると、n−1番目のフレームの画像の下部(ラインα1より下)には白帯状の妨害が発生する。
次に、図4に示すように、n番目のフレームの撮像信号を読み出している途中で、2回目の外部閃光が発光されたとする。そして、図4に示すように、2回の外部閃光の発生の間隔(第1回目の外部閃光の発生時刻(n−1番目のフレームのα1番目のラインの読み出しタイミング)から第2回目の外部閃光の発生時刻(n番目のフレームのα2番目のラインの読み出しタイミング)までの期間)が1フレーム期間以内であるとする。この場合、両者の画面への影響が重なるので、n番目のフレームの画像は、画面全体が外部閃光の影響を受ける。そして、n+1番目のフレームの画像は、その上部(ラインα2より上、ただし、α2<α1とする。)に白帯状の妨害が発生する。
ここで、ライン平均部11の出力であるライン平均値は、図4(c)に示すように、2回の外部閃光の影響を受け、1フレーム期間以上の大きい数値を取る期間が存在する。そして、フレーム差分演算部13の出力であるライン平均値のフレーム差分は、図4(d)に示すような変化を示す。
すなわち、n−1番目のフレームのラインα1からn番目のフレームのラインα1にかけて、フレーム差分が閾値βを超える値である状態が1フレーム期間連続する。
また、n+1番目のフレームのラインα2からn+2番目のフレームのラインα2にかけて、フレーム差分が閾値−βより小さい値である状態が1フレーム期間連続する。
判断部14は、n−1番目のフレームにおいて、ライン平均値の差分が閾値βを超える期間が開始したときのラインαpsがラインα1であり、n番目のフレームにおいてライン平均値の差分が閾値βを超える期間が終了したときのラインαpeがラインα1であることから、これら連続する2フレームのうち前のフレーム(n−1番目のフレーム)から外部閃光による妨害が開始していると検出する。
すなわち、n−1番目のフレームのラインα1からn番目のフレームのラインα1にかけて、フレーム差分が閾値βを超える値である状態が1フレーム期間連続する。
また、n+1番目のフレームのラインα2からn+2番目のフレームのラインα2にかけて、フレーム差分が閾値−βより小さい値である状態が1フレーム期間連続する。
判断部14は、n−1番目のフレームにおいて、ライン平均値の差分が閾値βを超える期間が開始したときのラインαpsがラインα1であり、n番目のフレームにおいてライン平均値の差分が閾値βを超える期間が終了したときのラインαpeがラインα1であることから、これら連続する2フレームのうち前のフレーム(n−1番目のフレーム)から外部閃光による妨害が開始していると検出する。
また、n+1番目のフレームにおいてライン平均値の差分が閾値−βより小さい期間が開始したときのライン平均値αnsはラインα2であり、n+2番目のフレームにおいてライン平均値の差分が閾値−βより小さい期間が終了したときのラインαneはラインα2であることから、これら連続する2フレームのうち前のフレーム(n+1番目のフレーム)において外部閃光による妨害が終了していると検出する。
ここで、図4(c)、(d)から明らかなように、外部閃光による妨害が発生している期間は、ライン平均値の差分が閾値βを越えた最初のラインαpsが開始ラインであり、ライン平均値の差分が閾値−βを越えた最初のラインαnsが終了ラインである。すわなち、αpsからαnsまでの時間幅によって、判断部14は外部閃光による妨害が発生している期間を判断することができる。
ここで、図4(c)、(d)から明らかなように、外部閃光による妨害が発生している期間は、ライン平均値の差分が閾値βを越えた最初のラインαpsが開始ラインであり、ライン平均値の差分が閾値−βを越えた最初のラインαnsが終了ラインである。すわなち、αpsからαnsまでの時間幅によって、判断部14は外部閃光による妨害が発生している期間を判断することができる。
以上より、2回の外部閃光が発生した場合においても、フレーム差分値が閾値βを超える状態が、n−1番目のフレームのラインα1からn番目のフレームのラインα1まで、略1フレーム期間連続するので、判断部14はn−1番目のフレームから外部閃光による妨害が開始されたことを検出することができる。また、フレーム差分値が閾値−βより小さい状態が、n+1番目のフレームのラインα2からn+2番目のフレームのラインα2まで、略1フレーム期間連続するので、判断部14はn+1番目のフレームにおいて外部閃光による妨害が終了したことを検出することができる。
なお、n−1番目のフレームとn−2番目のフレームのライン平均値の差分を用いた演算の結果においてαps=α1であることから、判断部14は、n−1番目のフレームにおいてラインα1を境界として画面下部が外部閃光の影響を受けている、と判断する。また、判断部14は、n+1番目のフレームとn番目のフレームとのライン平均値の差分を用いた演算の結果においてαns=α2であることから、n+1番目のフレームにおいてラインα2を境界として画面上部が外部閃光の影響を受けている、と判断する。また、判断部14は、外部閃光の影響を受け始めたフレームであるn−1番目のフレームと、外部閃光の影響がなくなった(終了した)フレームであるn+1番目のフレームと、に囲まれるn番目のフレームは、画面全体が外部閃光の影響を受けている、と判断する。
なお、n−1番目のフレームとn−2番目のフレームのライン平均値の差分を用いた演算の結果においてαps=α1であることから、判断部14は、n−1番目のフレームにおいてラインα1を境界として画面下部が外部閃光の影響を受けている、と判断する。また、判断部14は、n+1番目のフレームとn番目のフレームとのライン平均値の差分を用いた演算の結果においてαns=α2であることから、n+1番目のフレームにおいてラインα2を境界として画面上部が外部閃光の影響を受けている、と判断する。また、判断部14は、外部閃光の影響を受け始めたフレームであるn−1番目のフレームと、外部閃光の影響がなくなった(終了した)フレームであるn+1番目のフレームと、に囲まれるn番目のフレームは、画面全体が外部閃光の影響を受けている、と判断する。
補正部3における画像の補正や加工等の処理において、外部閃光の影響を受けているか否かの境界線が必要となる場合、撮像装置1000では、これらの判断部14の判断結果を利用することができる。
(1.2.4:電子シャッターを使用した場合の処理)
次に、撮像装置1000において電子シャッターを使用した場合の動作について、説明する。
通常、撮像装置では、撮像素子の各画素における信号電荷の蓄積時間、すなわちシャッター時間は、撮像素子の各画素から信号(蓄積電荷)を読み出すときの読み出し周期に等しい。しかしながら、CMOSイメージセンサ等の固体撮像素子を使用している撮像装置では、電子シャッターと呼ばれる技術により、信号電荷の蓄積時間を変えることができる。電子シャッターを用いた撮像装置では、フォトダイオードに蓄積した電荷を一旦捨てることにより、撮像フレームレートで決まる信号読み出し周期(例えば、テレビ方式の走査周期)より短い電荷蓄積時間による信号を取得することができる。
(1.2.4:電子シャッターを使用した場合の処理)
次に、撮像装置1000において電子シャッターを使用した場合の動作について、説明する。
通常、撮像装置では、撮像素子の各画素における信号電荷の蓄積時間、すなわちシャッター時間は、撮像素子の各画素から信号(蓄積電荷)を読み出すときの読み出し周期に等しい。しかしながら、CMOSイメージセンサ等の固体撮像素子を使用している撮像装置では、電子シャッターと呼ばれる技術により、信号電荷の蓄積時間を変えることができる。電子シャッターを用いた撮像装置では、フォトダイオードに蓄積した電荷を一旦捨てることにより、撮像フレームレートで決まる信号読み出し周期(例えば、テレビ方式の走査周期)より短い電荷蓄積時間による信号を取得することができる。
図5は、撮像装置1000において、電子シャッターを動作させた撮影状態における、撮像信号および表示画像への外部閃光の影響を示す図である。図5(a)は、図2と同様に、撮像部1における電荷蓄積期間(露光期間)と、読み出しタイミング、走査期間を模式化した図であり、画面を構成する各走査ラインの電荷蓄積期間およびその電荷を読み出すための走査期間を、時間軸を横軸に取って表している。また、図5(b)には、撮像部1から出力される撮像信号を各フレームの画面として図示している。
図5(a)において、斜線で示した部分は、電子シャッター動作により捨てた信号電荷に相当する部分である。図5(b)は、撮像部1から出力される撮像信号を各フレームの画面として図示している。図5(b)に示すように、n−1番目のフレームの画像の下部(ラインα3より下)、および、n番目のフレームの画像の上部(ラインα4より上)に白帯状の妨害が発生している。外部閃光の影響を受けた電荷が斜線部にかかる場合は、捨てられて撮像信号には影響が出ないので、n番目のフレームの画像の上部における白帯状の妨害は、図2(b)に示した電子シャッターを使用しない場合に比べてその面積が小さくなる。具体的には、外部閃光による妨害を受けるライン数は、電荷蓄積時間の信号読み出し周期に対する割合に応じて小さくなる。
図5(a)において、斜線で示した部分は、電子シャッター動作により捨てた信号電荷に相当する部分である。図5(b)は、撮像部1から出力される撮像信号を各フレームの画面として図示している。図5(b)に示すように、n−1番目のフレームの画像の下部(ラインα3より下)、および、n番目のフレームの画像の上部(ラインα4より上)に白帯状の妨害が発生している。外部閃光の影響を受けた電荷が斜線部にかかる場合は、捨てられて撮像信号には影響が出ないので、n番目のフレームの画像の上部における白帯状の妨害は、図2(b)に示した電子シャッターを使用しない場合に比べてその面積が小さくなる。具体的には、外部閃光による妨害を受けるライン数は、電荷蓄積時間の信号読み出し周期に対する割合に応じて小さくなる。
撮像部1における信号読み出し周期をTrとし、撮像信号により形成されるフレーム画像の総ライン数をLaとしたとき、電荷蓄積時間がTsであれば、外部閃光による妨害を受けるライン数Lは、
L=Ts×La/Tr (1)
と表せる。
ここで、図5(c)に示すライン平均部11の出力であるライン平均値は、図2(c)と比較して、閾値βを超える期間が電子シャッター期間に応じて、1フレーム期間より短くなっている。そして、フレーム差分演算部13の出力であるライン平均値のフレーム差分は、図5(d)に示すような変化を示す。
ここで、図5(d)を参照すると明らかなように、外部閃光の発生により、フレーム差分値が絶対値の大きい正の数値である状態が、1フレーム期間より短い期間連続している。このとき、外部閃光による妨害を受けているライン数Lは、図5に示すように、ラインαpsおよびラインαpeが隣接する異なるフレームに存在するときには
L=La+αpe−αps (2)
であるから、式(1)および式(2)より、
La+αpe−αps=Ts×La/Tr (3)
となる。
L=Ts×La/Tr (1)
と表せる。
ここで、図5(c)に示すライン平均部11の出力であるライン平均値は、図2(c)と比較して、閾値βを超える期間が電子シャッター期間に応じて、1フレーム期間より短くなっている。そして、フレーム差分演算部13の出力であるライン平均値のフレーム差分は、図5(d)に示すような変化を示す。
ここで、図5(d)を参照すると明らかなように、外部閃光の発生により、フレーム差分値が絶対値の大きい正の数値である状態が、1フレーム期間より短い期間連続している。このとき、外部閃光による妨害を受けているライン数Lは、図5に示すように、ラインαpsおよびラインαpeが隣接する異なるフレームに存在するときには
L=La+αpe−αps (2)
であるから、式(1)および式(2)より、
La+αpe−αps=Ts×La/Tr (3)
となる。
また、ラインαpsおよびラインαpeが同一のフレームに存在するときには
L=α4−α3 (4)
であるから、式(1)および式(4)より、
αpe−αps=Ts×La/Tr (5)
となる。
よって、図5の場合では、n−1番目のフレームにおいてライン平均値の差分が閾値βを超える期間が開始したときのラインαpsがラインα3であり、n番目のフレームにおいてライン平均値の差分が閾値βを超える期間が終了したときのラインαpeがラインα4であることから、判断部14は、αps=α3、αpe=α4が式(3)を満たすとき、これら連続する2フレームのうち前のフレーム(n−1番目のフレーム)から外部閃光による妨害が開始していると検出し、補正部3へ判定結果を供給(出力)する。
L=α4−α3 (4)
であるから、式(1)および式(4)より、
αpe−αps=Ts×La/Tr (5)
となる。
よって、図5の場合では、n−1番目のフレームにおいてライン平均値の差分が閾値βを超える期間が開始したときのラインαpsがラインα3であり、n番目のフレームにおいてライン平均値の差分が閾値βを超える期間が終了したときのラインαpeがラインα4であることから、判断部14は、αps=α3、αpe=α4が式(3)を満たすとき、これら連続する2フレームのうち前のフレーム(n−1番目のフレーム)から外部閃光による妨害が開始していると検出し、補正部3へ判定結果を供給(出力)する。
一方、αpsおよびαpeが同一フレームに存在するときには、判断部14は、式(5)を満たすときに、当該フレームから外部閃光による妨害が開始していると判断し、補正部3へ判定結果を供給(出力)する。
なお、判断部14における式(3)、(5)等を満たすか否かの判定処理は、誤差(測定誤差、設計誤差)や、動作保証のためのマージン等を考慮した許容範囲(例えば、判定対象の値の±10%程度の誤差を含めた許容範囲)を設けて、判定するものであってもよい。
また、同様にαnsおよびαneについても、図5に示すように、ラインαnsおよびラインαneが隣接する異なるフレームに存在するときには、
La+αne−αns=Ts×La/Tr (6)
であり、ラインαnsおよびラインαneが同一のフレームに存在するときには、
αne−αns=Ts×La/Tr (7)
である。
なお、判断部14における式(3)、(5)等を満たすか否かの判定処理は、誤差(測定誤差、設計誤差)や、動作保証のためのマージン等を考慮した許容範囲(例えば、判定対象の値の±10%程度の誤差を含めた許容範囲)を設けて、判定するものであってもよい。
また、同様にαnsおよびαneについても、図5に示すように、ラインαnsおよびラインαneが隣接する異なるフレームに存在するときには、
La+αne−αns=Ts×La/Tr (6)
であり、ラインαnsおよびラインαneが同一のフレームに存在するときには、
αne−αns=Ts×La/Tr (7)
である。
よって、図5の場合では、n番目のフレームにおいてライン平均値の差分が閾値−βより小さい期間が開始したときのラインαnsがラインα3であり、n+1番目のフレームにおいてライン平均値の差分が閾値−βより小さい期間が終了したときのラインαneがラインα4であることから、判断部14は、αns=α3、αne=α4が式(6)を満たすとき、ラインαpeが存在するフレーム(n番目のフレーム)において外部閃光による妨害が終了したと検出し、補正部3へと判定結果を供給(出力)する。
一方、αnsおよびαneが同一フレームに存在するときには、判断部14は、式(7)を満たすときに、当該フレームにおいて外部閃光による妨害が終了したと判断し、補正部3へ判定結果を供給(出力)する。
なお、判断部14における式(6)、(7)等を満たすか否かの判定処理は、誤差(測定誤差、設計誤差等)を考慮した許容範囲(例えば、判定対象の値の±10%程度の誤差を含めた許容範囲)を設けて、判定するものであってもよい。
一方、αnsおよびαneが同一フレームに存在するときには、判断部14は、式(7)を満たすときに、当該フレームにおいて外部閃光による妨害が終了したと判断し、補正部3へ判定結果を供給(出力)する。
なお、判断部14における式(6)、(7)等を満たすか否かの判定処理は、誤差(測定誤差、設計誤差等)を考慮した許容範囲(例えば、判定対象の値の±10%程度の誤差を含めた許容範囲)を設けて、判定するものであってもよい。
また、撮像装置1000において電子シャッターを使用しない場合には、電子シャッター使用時の説明における上記の各式においてTs=Trとすることにより、上記で説明した判断方法をそのまま適用できる。
以上のように、本実施形態によれば、ライン平均値のフレーム差分値が1フレーム期間連続して大きな絶対値を取ることを検出することにより、明るい被写体の移動などを外部閃光の影響と誤認識することなく、外部閃光の影響の有無を判定することができる。
[第2実施形態]
次に、第2実施形態について、図6から図15を用いて説明する。
<2.1:撮像装置の構成>
図6は、第2実施形態の撮像装置2000の概略構成を示す図である。
以上のように、本実施形態によれば、ライン平均値のフレーム差分値が1フレーム期間連続して大きな絶対値を取ることを検出することにより、明るい被写体の移動などを外部閃光の影響と誤認識することなく、外部閃光の影響の有無を判定することができる。
[第2実施形態]
次に、第2実施形態について、図6から図15を用いて説明する。
<2.1:撮像装置の構成>
図6は、第2実施形態の撮像装置2000の概略構成を示す図である。
撮像装置2000は、図6に示すように、撮像部1と、検出部4と、フラッシュ補正処理部5と、を備える。
撮像部1は、CMOSイメージセンサ等の撮像素子を含んで構成され、被写体を撮像して撮像信号(映像信号)を取得し、取得した撮像信号(映像信号)を検出部4およびフラッシュ補正処理部5に出力する。なお、本実施形態においては、撮像部1の1フレームあたりの露光時間は、撮像フレームレートで決まる1フレーム期間と略等しいものとする。例えば、撮像フレームレートが60フレーム/秒であれば、1フレーム期間および露光時間は、1/60秒となる。
検出部4は、撮像部1から出力される撮像信号を入力とし、撮像信号により撮像画像(フレーム画像)が外部閃光の影響を受けているか否かを判断する。そして、検出部4は、判断結果を示す信号をフラッシュ補正処理部5に出力する。検出部4は、図6に示すように、ライン判定部41と、判定情報記憶部42と、フレーム判定部43と、を備える。
撮像部1は、CMOSイメージセンサ等の撮像素子を含んで構成され、被写体を撮像して撮像信号(映像信号)を取得し、取得した撮像信号(映像信号)を検出部4およびフラッシュ補正処理部5に出力する。なお、本実施形態においては、撮像部1の1フレームあたりの露光時間は、撮像フレームレートで決まる1フレーム期間と略等しいものとする。例えば、撮像フレームレートが60フレーム/秒であれば、1フレーム期間および露光時間は、1/60秒となる。
検出部4は、撮像部1から出力される撮像信号を入力とし、撮像信号により撮像画像(フレーム画像)が外部閃光の影響を受けているか否かを判断する。そして、検出部4は、判断結果を示す信号をフラッシュ補正処理部5に出力する。検出部4は、図6に示すように、ライン判定部41と、判定情報記憶部42と、フレーム判定部43と、を備える。
ライン判定部41は、撮像部1から出力される撮像信号を入力とする。ライン判定部41は、各フレームにおいて撮像信号の最上位ラインおよび最下位ラインを監視して、各々のライン(各フレームの最上位ラインおよび最下位ライン)に外部閃光の影響があるか否かを判定し、最上位ライン判定情報をフレーム判定部43に出力し、最下位ライン判定情報を判定情報記憶部42に出力する。
判定情報記憶部42は、ライン判定部41から出力される最下位ライン判定情報を記憶する。判定情報記憶部42は、少なくとも連続する過去1フレーム分の最下位ライン判定情報を記憶できるものとする。つまり、現フレーム(処理対象フレーム)がN番目のフレームである場合、判定情報記憶部42は、少なくとも、(N−1)番目のフレームの最下位ライン判定情報を記憶できるものとする。判定情報記憶部42は、記憶している1フレーム前の最下位ライン判定情報をフレーム判定部43に出力する。
判定情報記憶部42は、ライン判定部41から出力される最下位ライン判定情報を記憶する。判定情報記憶部42は、少なくとも連続する過去1フレーム分の最下位ライン判定情報を記憶できるものとする。つまり、現フレーム(処理対象フレーム)がN番目のフレームである場合、判定情報記憶部42は、少なくとも、(N−1)番目のフレームの最下位ライン判定情報を記憶できるものとする。判定情報記憶部42は、記憶している1フレーム前の最下位ライン判定情報をフレーム判定部43に出力する。
フレーム判定部43は、判定情報記憶部42に記憶された1フレーム前の最下位ライン判定情報が外部閃光の影響があることを示し、且つ、ライン判定部41から出力される現在のフレームの最上位ライン判定情報が外部閃光の影響があることを示す場合に、1フレーム前の撮像信号および現在のフレームの撮像信号に外部閃光の影響があると判定する。そして、判定結果を示すフレーム判定情報をフラッシュ補正処理部5に出力する。
フラッシュ補正処理部5は、撮像部1から出力される撮像信号と、フレーム判定部43から出力されるフレーム判定情報とを入力とする。フラッシュ補正処理部5は、フレーム判定部43から出力されるフレーム判定情報を基に必要に応じて、撮像信号に対して外部閃光の影響を除去または抑制する処理を行い、出力信号として出力する。フラッシュ補正処理部5は、入力される撮像信号を一時的に記憶して1フレーム期間遅延させる遅延部(図示せず)を含んでおり、入力される撮像信号により形成されるフレーム画像の各ラインに対応する撮像信号を1フレーム期間遅延させた後、必要に応じて、1フレーム期間遅延させた撮像信号に対して補正処理を行ってから出力する。なお、フラッシュ補正処理部5に含まれる遅延部は、少なくとも1フレームと1ライン分(1V+1H分)の撮像信号を記憶できる容量を持つものとする。
フラッシュ補正処理部5は、撮像部1から出力される撮像信号と、フレーム判定部43から出力されるフレーム判定情報とを入力とする。フラッシュ補正処理部5は、フレーム判定部43から出力されるフレーム判定情報を基に必要に応じて、撮像信号に対して外部閃光の影響を除去または抑制する処理を行い、出力信号として出力する。フラッシュ補正処理部5は、入力される撮像信号を一時的に記憶して1フレーム期間遅延させる遅延部(図示せず)を含んでおり、入力される撮像信号により形成されるフレーム画像の各ラインに対応する撮像信号を1フレーム期間遅延させた後、必要に応じて、1フレーム期間遅延させた撮像信号に対して補正処理を行ってから出力する。なお、フラッシュ補正処理部5に含まれる遅延部は、少なくとも1フレームと1ライン分(1V+1H分)の撮像信号を記憶できる容量を持つものとする。
このような構成により、フラッシュ補正処理部5は、例えば、以下の方法により、外部閃光の影響を排除する補正処理を行うことができる。
(1)画面の下部に白帯が発生している1フレーム前の画像と画面の上部に白帯が発生している現在のフレームの画像とを加算して生成した、画面全体に外部閃光の影響を受けた画像で置換する方法。
(2)遅延部に記憶しておいた直近の外部閃光の影響を受けていない画像で置換する方法。
なお、撮像装置2000において、外部閃光の影響が検出されるのは外部閃光の影響が開始されたフレームの次のフレームの最上位ラインが入力されたタイミングであり、その後に1フレーム前の最上位ラインから外部閃光による妨害を補正するため、ここでは、フラッシュ補正処理部5の内部に1フレームと1ライン分(1V+1H分)の遅延部を含む構成として説明した。しかし、これに限定されることはなく、例えば、撮像装置2000としてフラッシュ補正処理以外の信号処理、例えば、図36の従来の撮像装置の画像処理部114で行われるような各種画像処理の他、フレーム間でのノイズ削減処理、映像フレームレートの変換処理および映像フォーマットの変換処理などが撮像部1とフラッシュ補正処理部5との間(図示せず)に含まれる場合には、これらの信号処理により映像信号の遅延が生じる。このため、撮像装置2000において、フラッシュ補正処理用の遅延部は不要、もしくは前述の信号処理部と遅延部を共用することにより、フラッシュ補正処理部5の内部には遅延部を必要としない場合も考えられる。
(1)画面の下部に白帯が発生している1フレーム前の画像と画面の上部に白帯が発生している現在のフレームの画像とを加算して生成した、画面全体に外部閃光の影響を受けた画像で置換する方法。
(2)遅延部に記憶しておいた直近の外部閃光の影響を受けていない画像で置換する方法。
なお、撮像装置2000において、外部閃光の影響が検出されるのは外部閃光の影響が開始されたフレームの次のフレームの最上位ラインが入力されたタイミングであり、その後に1フレーム前の最上位ラインから外部閃光による妨害を補正するため、ここでは、フラッシュ補正処理部5の内部に1フレームと1ライン分(1V+1H分)の遅延部を含む構成として説明した。しかし、これに限定されることはなく、例えば、撮像装置2000としてフラッシュ補正処理以外の信号処理、例えば、図36の従来の撮像装置の画像処理部114で行われるような各種画像処理の他、フレーム間でのノイズ削減処理、映像フレームレートの変換処理および映像フォーマットの変換処理などが撮像部1とフラッシュ補正処理部5との間(図示せず)に含まれる場合には、これらの信号処理により映像信号の遅延が生じる。このため、撮像装置2000において、フラッシュ補正処理用の遅延部は不要、もしくは前述の信号処理部と遅延部を共用することにより、フラッシュ補正処理部5の内部には遅延部を必要としない場合も考えられる。
例えば、撮像装置2000において、外部閃光の影響があるフレームを、白く飛ばしたフレームや黒のフレームで置換することにより補正する場合には、元画像を記憶しておく必要はないため、前述のフラッシュ補正処理以外の信号処理等により上記に相当する遅延が生じていれば、フラッシュ補正専用のフレームメモリは不要となる。また、フレーム間でのノイズ削減処理などではフレームメモリを備えて1フレーム前の画像を記憶している場合が多いため、撮像装置2000において、当該フレームメモリを共用して、前述のようにフラッシュ補正処理部5による補正処理を行うこともできる。
<2.2:撮像装置の動作>
以上のように構成された撮像装置2000の動作について、以下、説明する。
撮像部1により被写体を撮像して取得された撮像信号は、検出部4およびフラッシュ補正処理部5へ出力される。撮像部1は、CMOSイメージセンサを備えており、ライン単位で電荷蓄積、読み出しおよび撮像信号としての出力が行われる。
<2.2:撮像装置の動作>
以上のように構成された撮像装置2000の動作について、以下、説明する。
撮像部1により被写体を撮像して取得された撮像信号は、検出部4およびフラッシュ補正処理部5へ出力される。撮像部1は、CMOSイメージセンサを備えており、ライン単位で電荷蓄積、読み出しおよび撮像信号としての出力が行われる。
撮像部1から出力された撮像信号は、検出部4のライン判定部41に入力される。
(2.2.1:ライン判定部41における外部閃光による妨害の判定処理)
ここで、ライン判定部41における外部閃光による妨害の判定処理について詳細に説明する。
図7は、図6の撮像装置2000のライン判定部41の概略構成を示す図である。
評価値生成部411は、入力された撮像信号により形成されるフレーム画像の最上位ラインおよび最下位ラインの輝度レベル等から各ライン(最上位ラインおよび最下位ライン)の評価値を生成する。ここでは、各ラインの平均輝度を求めて評価値とする。
評価値記憶部412は、評価値生成部411が生成した評価値を、少なくとも過去1フレーム分、一時的に記憶しておく。
(2.2.1:ライン判定部41における外部閃光による妨害の判定処理)
ここで、ライン判定部41における外部閃光による妨害の判定処理について詳細に説明する。
図7は、図6の撮像装置2000のライン判定部41の概略構成を示す図である。
評価値生成部411は、入力された撮像信号により形成されるフレーム画像の最上位ラインおよび最下位ラインの輝度レベル等から各ライン(最上位ラインおよび最下位ライン)の評価値を生成する。ここでは、各ラインの平均輝度を求めて評価値とする。
評価値記憶部412は、評価値生成部411が生成した評価値を、少なくとも過去1フレーム分、一時的に記憶しておく。
評価値比較部413は、評価値記憶部412に記憶されている評価値と評価値生成部411で生成された現在の評価値とを比較して、最上位ラインおよび最下位ラインにおける外部閃光の影響の有無を判定し、判定結果を、各々最上位ライン判定情報および最下位ライン判定情報として、フレーム判定部43に出力する。最上位ライン判定情報および最下位ライン判定情報は、そのラインに外部閃光の影響がある場合に「妨害あり」を示し、影響がない場合に「妨害なし」を示すものとする。また、以下では便宜上、n番目のフレームにおける最上位ライン判定情報をLTn、最下位ライン判定情報をLBnと表記するものとする。また、評価値比較部413は、最上位ラインおよび最下位ラインにおける外部閃光の影響の有無の、現在の状態(最後に出力したLTnおよびLBn)を各々内部状態LTIおよびLBIとして保持しているものとする。また、これらの初期値は、いずれも「妨害なし」であるものとする。
図8〜図10は、撮像部1が撮像中にスチルカメラのフラッシュなどの外部閃光がそれぞれ異なるタイミングで発光された場合の、撮像信号および出力信号(モニターやビューファインダーへの表示画像)への影響を示す図である。
各図(a)は、撮像部1における撮像信号のライン単位の電荷蓄積期間を示す模式図である。
各図(b)は、フラッシュ補正処理部5から出力される出力信号(モニター等への表示画像)の模式図である。これらは、図35に示した模式図を簡略化したものに相当する。
各図(c)は、評価値比較部413で評価する最上位ラインおよび最下位ラインの評価値(各ラインの平均輝度)の変化を示す模式図である。
各図(d)は、評価値比較部413が出力する最上位ライン判定情報LTnおよび最下位ライン判定情報LBnを示す。
各図(a)は、撮像部1における撮像信号のライン単位の電荷蓄積期間を示す模式図である。
各図(b)は、フラッシュ補正処理部5から出力される出力信号(モニター等への表示画像)の模式図である。これらは、図35に示した模式図を簡略化したものに相当する。
各図(c)は、評価値比較部413で評価する最上位ラインおよび最下位ラインの評価値(各ラインの平均輝度)の変化を示す模式図である。
各図(d)は、評価値比較部413が出力する最上位ライン判定情報LTnおよび最下位ライン判定情報LBnを示す。
各図(e)は、フレーム判定部43が出力するフレーム判定情報を示す。
(2.2.2:ライン判定部41の動作)
次に、ライン判定部41の動作について図7〜図10を用いて説明する。
撮像部1から出力された撮像信号は、ライン判定部41に入力される。
ライン判定部41の内部では、入力された各ラインの撮像信号(各ラインを形成する撮像信号)が順次、評価値生成部411に供給(入力)される。評価値生成部411は、最上位ラインおよび最下位ラインの撮像信号が入力されたタイミングで各ラインの輝度信号の加算平均値を算出して、算出した値を評価値とする。通常、外部閃光の影響を受けていない場合に比べて、外部閃光の影響を受けた場合には、相対的に撮像信号の輝度レベルが増加することになるため、最上位ラインおよび最下位ラインの評価値の、フレーム間の相対的な変化を検出することにより外部閃光の影響の有無を確認することができる。評価値記憶部412は、評価値生成部411で算出された最上位ラインおよび最下位ラインの評価値を一時的に記憶する。
(2.2.2:ライン判定部41の動作)
次に、ライン判定部41の動作について図7〜図10を用いて説明する。
撮像部1から出力された撮像信号は、ライン判定部41に入力される。
ライン判定部41の内部では、入力された各ラインの撮像信号(各ラインを形成する撮像信号)が順次、評価値生成部411に供給(入力)される。評価値生成部411は、最上位ラインおよび最下位ラインの撮像信号が入力されたタイミングで各ラインの輝度信号の加算平均値を算出して、算出した値を評価値とする。通常、外部閃光の影響を受けていない場合に比べて、外部閃光の影響を受けた場合には、相対的に撮像信号の輝度レベルが増加することになるため、最上位ラインおよび最下位ラインの評価値の、フレーム間の相対的な変化を検出することにより外部閃光の影響の有無を確認することができる。評価値記憶部412は、評価値生成部411で算出された最上位ラインおよび最下位ラインの評価値を一時的に記憶する。
≪図8の場合≫
図8は、撮像部1がn−1番目からn番目にかけてのフレームを撮像している途中に外部閃光(フラッシュ)が発光された状況を示している。この場合、図8(a)、(b)に示すように、撮像部1から出力される撮像信号には、n−1番目のフレームの画像の下部およびn番目のフレームの画像の上部に白帯状の妨害が発生する。図8に示すようなタイミングで外部閃光が発光された場合には、評価値生成部411で生成されたn−2番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412に記憶されると共に、評価値比較部413にも供給される。
(n−1番目のフレームの処理):
次に、n−1番目のフレームの撮像信号が入力されたときも同様に、評価値生成部411で生成されたn−1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。評価値比較部413では、このn−1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn−2番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値と比較し、その変化量(増加量または減少量)が予め設定しておいた所定の閾値よりも大きいか否かを判定する。
図8は、撮像部1がn−1番目からn番目にかけてのフレームを撮像している途中に外部閃光(フラッシュ)が発光された状況を示している。この場合、図8(a)、(b)に示すように、撮像部1から出力される撮像信号には、n−1番目のフレームの画像の下部およびn番目のフレームの画像の上部に白帯状の妨害が発生する。図8に示すようなタイミングで外部閃光が発光された場合には、評価値生成部411で生成されたn−2番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412に記憶されると共に、評価値比較部413にも供給される。
(n−1番目のフレームの処理):
次に、n−1番目のフレームの撮像信号が入力されたときも同様に、評価値生成部411で生成されたn−1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。評価値比較部413では、このn−1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn−2番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値と比較し、その変化量(増加量または減少量)が予め設定しておいた所定の閾値よりも大きいか否かを判定する。
図8(c)に示すように、n−2番目のフレームの最上位ラインの評価値に対するn−1番目のフレームの最上位ラインの評価値の変化量は、所定の閾値より小さく(以下、この場合を「不変」と表記する)、n−2番目のフレームの最下位ラインの評価値に対するn−1番目のフレームの最下位ラインの評価値の変化量(増加量)は所定の閾値よりも大きくなる(以下、この場合を「増加」と表記する)。
直前の最上位ライン判定情報LTn-2を保持する内部状態LTIは、「妨害なし」であり、最上位ラインは、その状態に変化がないため、ライン判定部41は、最上位ライン判定情報LTn-1として「妨害なし」を出力する。
また、最下位ライン判定情報LBn-2を保持する内部状態LBIは、「妨害なし」であり、最下位ラインは、評価値が「増加」したため、ライン判定部41は、最下位ライン判定情報LBn-1として「妨害あり」を出力する。また、評価値比較部413は、内部状態LBIを「妨害なし」から「妨害あり」に変化させる。
直前の最上位ライン判定情報LTn-2を保持する内部状態LTIは、「妨害なし」であり、最上位ラインは、その状態に変化がないため、ライン判定部41は、最上位ライン判定情報LTn-1として「妨害なし」を出力する。
また、最下位ライン判定情報LBn-2を保持する内部状態LBIは、「妨害なし」であり、最下位ラインは、評価値が「増加」したため、ライン判定部41は、最下位ライン判定情報LBn-1として「妨害あり」を出力する。また、評価値比較部413は、内部状態LBIを「妨害なし」から「妨害あり」に変化させる。
なお、評価値比較部413での比較処理に用いられる上記閾値は、外部閃光の影響により、直前フレームの対応するラインと比較して輝度レベルに変化があるラインの評価値の変化量が閾値を超え、変化がないラインの評価値の変化量が閾値を超えないような値に設定される。閾値は、固定値(例えば、撮像装置2000のシステム性能(カメラ性能)を考慮し、外部閃光を適切に検出することができる予め設定した固定値)として設定してもよいが、これに限定されることはなく、例えば、外部閃光の影響がなく補正処理が不要と判定された直前のフレーム全体の平均輝度に基づいて算出するようにしてもよい。
評価値記憶部412は、n−2番目のフレームの最上位ラインおよび最下位ラインの評価値の代わりに、新たに供給されたn−1番目のフレームの最上位ラインおよび最下位ラインの評価値を記憶する。
(n番目のフレームの処理):
次に、n番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。
評価値記憶部412は、n−2番目のフレームの最上位ラインおよび最下位ラインの評価値の代わりに、新たに供給されたn−1番目のフレームの最上位ラインおよび最下位ラインの評価値を記憶する。
(n番目のフレームの処理):
次に、n番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。
評価値比較部413では、このn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn−1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値と比較する。具体的には、n−1番目のフレームの最上位ラインの評価値に対するn番目のフレームの最上位ラインの評価値の変化量が「増加」となり、n−1番目のフレームの最下位ラインの評価値に対するn番目のフレームの最下位ラインの評価値の変化量(減少量)が所定の閾値より大きくなる(以下、この場合を「減少」と表記する)。評価値比較部413に保持されている内部状態LTIは、「妨害なし」であり、最上位ラインは評価値が「増加」したため、評価値比較部413は、最上位ライン判定情報LTnとして「妨害あり」を出力すると共に、内部状態LTIを「妨害なし」から「妨害あり」に変化させる。また、内部状態LBIは「妨害あり」であり、最下位ラインは評価値が「減少」したため、評価値比較部413は、最下位ライン判定情報LBnとして「妨害なし」を出力すると共に、内部状態LBIを「妨害あり」から「妨害なし」に変化させる。
評価値記憶部412は、n−1番目のフレームの最上位ラインおよび最下位ラインの評価値の代わりに、新たに供給されたn番目のフレームの最上位ラインおよび最下位ラインの評価値を記憶する。
(n+1番目のフレームの処理):
さらに、n+1番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。
評価値比較部413では、このn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値と比較する。具体的には、n番目のフレームの最上位ラインの評価値に対するn+1番目のフレームの最上位ラインの評価値の変化量が「減少」となり、n番目のフレームの最下位ラインの評価値に対するn+1番目のフレームの最下位ラインの評価値の変化量が「不変」となる。評価値比較部413に保持されている内部状態LTIは、「妨害あり」であり、最上位ラインは評価値が「減少」したため、評価値比較部413は、最上位ライン判定情報LTn+1として「妨害なし」を出力すると共に、内部状態LTIを「妨害あり」から「妨害なし」に変化させる。また、内部状態LBIは「妨害なし」であり、最下位ラインは評価値が「不変」であるため、評価値比較部413は、最下位ライン判定情報LBn+1として「妨害なし」を出力する。
(n+1番目のフレームの処理):
さらに、n+1番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。
評価値比較部413では、このn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値と比較する。具体的には、n番目のフレームの最上位ラインの評価値に対するn+1番目のフレームの最上位ラインの評価値の変化量が「減少」となり、n番目のフレームの最下位ラインの評価値に対するn+1番目のフレームの最下位ラインの評価値の変化量が「不変」となる。評価値比較部413に保持されている内部状態LTIは、「妨害あり」であり、最上位ラインは評価値が「減少」したため、評価値比較部413は、最上位ライン判定情報LTn+1として「妨害なし」を出力すると共に、内部状態LTIを「妨害あり」から「妨害なし」に変化させる。また、内部状態LBIは「妨害なし」であり、最下位ラインは評価値が「不変」であるため、評価値比較部413は、最下位ライン判定情報LBn+1として「妨害なし」を出力する。
評価値記憶部412では、n番目のフレームの最上位ラインおよび最下位ラインの評価値の代わりに、新たに供給されたn+1番目のフレームの最上位ラインおよび最下位ラインの評価値を記憶する。
≪図9の場合≫
次に、図9に、示すようなタイミングで外部閃光が発光された場合について説明する。
図9は、n番目のフレームを撮像している途中に外部閃光が発光され、さらに続けてn+1番目のフレームを撮像している途中に外部閃光が発光された状況を示している。
(n−2、n−1番目のフレームの処理):
n−2、n−1番目のフレームの撮像信号が入力されたときには、ライン判定部41は、図8に示した例と同様に動作する。
(n番目のフレームの処理):
n番目のフレームの撮像信号が入力されたときには、評価値生成部411で生成されたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。
≪図9の場合≫
次に、図9に、示すようなタイミングで外部閃光が発光された場合について説明する。
図9は、n番目のフレームを撮像している途中に外部閃光が発光され、さらに続けてn+1番目のフレームを撮像している途中に外部閃光が発光された状況を示している。
(n−2、n−1番目のフレームの処理):
n−2、n−1番目のフレームの撮像信号が入力されたときには、ライン判定部41は、図8に示した例と同様に動作する。
(n番目のフレームの処理):
n番目のフレームの撮像信号が入力されたときには、評価値生成部411で生成されたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。
評価値比較部413では、このn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn−1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値と比較する。具体的には、n−1番目のフレームの最上位ラインの評価値に対するn番目のフレームの最上位ラインの評価値の変化量が「増加」となり、n−1番目のフレームの最下位ラインの評価値に対するn番目のフレームの最下位ラインの評価値の変化量が「不変」となる。評価値比較部413に保持されている内部状態LTIは、「妨害なし」であり、最上位ラインは評価値が「増加」したため、評価値比較部413は、最上位ライン判定情報LTnとして「妨害あり」を出力すると共に、内部状態LTIを「妨害なし」から「妨害あり」に変化させる。また、内部状態LBIは「妨害あり」であり、最下位ラインは評価値が「不変」のため、評価値比較部413は、最下位ライン判定情報LBnとして引き続き「妨害あり」を出力する。
評価値記憶部412では、n−1番目のフレームの最上位ラインおよび最下位ラインの評価値の代わりに、新たに供給されたn番目のフレームの最上位ラインおよび最下位ラインの評価値を記憶する。
(n+1番目のフレームの処理):
次に、n+1番目のフレームの撮像信号が入力されたときには、評価値生成部411で生成されたn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。
評価値比較部413では、このn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値と比較する。具体的には、n番目のフレームの最上位ラインの評価値に対するn+1番目のフレームの最上位ラインの評価値の変化量が「不変」となり、n番目のフレームの最下位ラインの評価値に対するn+1番目のフレームの最下位ラインの評価値の変化量が「減少」となる。評価値比較部413に保持されている内部状態LTIは、「妨害あり」であり、最上位ラインは評価値が「不変」のため、評価値比較部413は、最上位ライン判定情報LTn+1として引き続き「妨害あり」を出力する。また、内部状態LBIは「妨害あり」であり、最下位ラインは評価値が「減少」であるため、評価値比較部413は、最下位ライン判定情報LBn+1として「妨害なし」を出力すると共に、内部状態LBIを「妨害あり」から「妨害なし」に変化させる。
(n+1番目のフレームの処理):
次に、n+1番目のフレームの撮像信号が入力されたときには、評価値生成部411で生成されたn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。
評価値比較部413では、このn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値と比較する。具体的には、n番目のフレームの最上位ラインの評価値に対するn+1番目のフレームの最上位ラインの評価値の変化量が「不変」となり、n番目のフレームの最下位ラインの評価値に対するn+1番目のフレームの最下位ラインの評価値の変化量が「減少」となる。評価値比較部413に保持されている内部状態LTIは、「妨害あり」であり、最上位ラインは評価値が「不変」のため、評価値比較部413は、最上位ライン判定情報LTn+1として引き続き「妨害あり」を出力する。また、内部状態LBIは「妨害あり」であり、最下位ラインは評価値が「減少」であるため、評価値比較部413は、最下位ライン判定情報LBn+1として「妨害なし」を出力すると共に、内部状態LBIを「妨害あり」から「妨害なし」に変化させる。
評価値記憶部412では、n番目のフレームの最上位ラインおよび最下位ラインの評価値の代わりに、新たに供給されたn+1番目のフレームの最上位ラインおよび最下位ラインの評価値を記憶する。
(n+2番目のフレームの撮像信号が入力されたとき):
さらに、n+2番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn+2番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。
評価値比較部413では、このn+2番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値と比較する。具体的には、n+1番目のフレームの最上位ラインの評価値に対するn+2番目のフレームの最上位ラインの評価値の変化量が「減少」となり、n+1番目のフレームの最下位ラインの評価値に対するn+2番目のフレームの最下位ラインの評価値の変化量が「不変」となる。評価値比較部413に保持されている内部状態LTIは、「妨害あり」であり、最上位ラインは評価値が「減少」のため、評価値比較部413は、最上位ライン判定情報LTn+2として「妨害なし」を出力すると共に、内部状態LTIを「妨害あり」から「妨害なし」に変化させる。また、内部状態LBIは「妨害なし」であり、最下位ラインは評価値が「不変」のため、評価値比較部413は、最下位ライン判定情報LBn+2として引き続き「妨害なし」を出力する。
(n+2番目のフレームの撮像信号が入力されたとき):
さらに、n+2番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn+2番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値は、評価値記憶部412および評価値比較部413に供給される。
評価値比較部413では、このn+2番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値と比較する。具体的には、n+1番目のフレームの最上位ラインの評価値に対するn+2番目のフレームの最上位ラインの評価値の変化量が「減少」となり、n+1番目のフレームの最下位ラインの評価値に対するn+2番目のフレームの最下位ラインの評価値の変化量が「不変」となる。評価値比較部413に保持されている内部状態LTIは、「妨害あり」であり、最上位ラインは評価値が「減少」のため、評価値比較部413は、最上位ライン判定情報LTn+2として「妨害なし」を出力すると共に、内部状態LTIを「妨害あり」から「妨害なし」に変化させる。また、内部状態LBIは「妨害なし」であり、最下位ラインは評価値が「不変」のため、評価値比較部413は、最下位ライン判定情報LBn+2として引き続き「妨害なし」を出力する。
評価値記憶部412では、n+1番目のフレームの最上位ラインおよび最下位ラインの評価値の代わりに、新たに供給されたn+2番目のフレームの最上位ラインおよび最下位ラインの評価値を記憶する。
≪図10の場合≫
図10に示すようなタイミングで外部閃光が発光された場合にも、ライン判定部41は、図8の場合と同様に動作し、n番目のフレームでは、評価値比較部413は、LTnおよびLBnとして「妨害あり」を出力し、n+1番目のフレームではLTnおよびLBnとして「妨害なし」を出力する。
(2.2.3:撮像装置2000の全体動作)
次に、第2実施形態の撮像装置2000の全体の動作について、図6、図8、図9および図10を用いて説明する。
≪図10の場合≫
図10に示すようなタイミングで外部閃光が発光された場合にも、ライン判定部41は、図8の場合と同様に動作し、n番目のフレームでは、評価値比較部413は、LTnおよびLBnとして「妨害あり」を出力し、n+1番目のフレームではLTnおよびLBnとして「妨害なし」を出力する。
(2.2.3:撮像装置2000の全体動作)
次に、第2実施形態の撮像装置2000の全体の動作について、図6、図8、図9および図10を用いて説明する。
まず、図8に示すように、n番目のフレームを撮像している途中に外部閃光が発光された場合について説明する。
(n−2番目のフレームの処理):
撮像信号に外部閃光の影響がないとき、例えば、n−2番目のフレームの撮像信号がライン判定部41に入力されたときには、ライン判定部41は、n−2番目のフレームの撮像信号に対する最上位ライン判定情報LTn-2および最下位ライン判定情報LBn-2として、共に「妨害なし」を出力する。
判定情報記憶部42は、このうち少なくとも最下位ライン判定情報LBn-2を記憶しておく。すなわち、この例では、判定情報記憶部42は、「妨害なし」を記憶することになる。
(n−2番目のフレームの処理):
撮像信号に外部閃光の影響がないとき、例えば、n−2番目のフレームの撮像信号がライン判定部41に入力されたときには、ライン判定部41は、n−2番目のフレームの撮像信号に対する最上位ライン判定情報LTn-2および最下位ライン判定情報LBn-2として、共に「妨害なし」を出力する。
判定情報記憶部42は、このうち少なくとも最下位ライン判定情報LBn-2を記憶しておく。すなわち、この例では、判定情報記憶部42は、「妨害なし」を記憶することになる。
フレーム判定部43では、n−2番目のフレームの最上位ライン判定情報LTn-2と、1フレーム前、すなわちn−3番目のフレームの撮像信号が入力されたときに、判定情報記憶部42に記憶されたn−3番目のフレームの最下位ライン判定情報LBn-3(「妨害なし」が記憶されているものとする)が入力される。このとき、LTn-2およびLBn-3は、共に「妨害なし」であるため、フレーム判定部43は、少なくともn−3番目のフレームの撮像信号には、外部閃光の影響がないと判断し、「補正不要」を示す情報をフレーム判定情報として、フラッシュ補正処理部5に出力する(図8(e))。
フラッシュ補正処理部5は、n−2番目のフレームの撮像信号が入力されると、これを遅延部に記憶する。また、フレーム判定部43から送られてくるフレーム判定情報が「補正不要」であるため、すでに遅延部に記憶されているn−3番目のフレームの撮像信号を補正せず、そのまま出力信号として出力する。
(n−1番目のフレームの処理):
次に、n−1番目のフレームの撮像信号がライン判定部41に入力されたときには、ライン判定部41から出力されるn−1番目のフレームの撮像信号に対する最上位ライン判定情報LTn-1は「妨害なし」を示し、最下位ライン判定情報LBn-1は「妨害あり」を示す。
フラッシュ補正処理部5は、n−2番目のフレームの撮像信号が入力されると、これを遅延部に記憶する。また、フレーム判定部43から送られてくるフレーム判定情報が「補正不要」であるため、すでに遅延部に記憶されているn−3番目のフレームの撮像信号を補正せず、そのまま出力信号として出力する。
(n−1番目のフレームの処理):
次に、n−1番目のフレームの撮像信号がライン判定部41に入力されたときには、ライン判定部41から出力されるn−1番目のフレームの撮像信号に対する最上位ライン判定情報LTn-1は「妨害なし」を示し、最下位ライン判定情報LBn-1は「妨害あり」を示す。
判定情報記憶部42は、このうち少なくとも最下位ライン判定情報LBn-1を記憶しておく。
フレーム判定部43では、n−1番目のフレームの最上位ライン判定情報LTn-1と、同様に1フレーム前、すなわちn−2番目のフレームの撮像信号が入力されたときに判定情報記憶部42に記憶されたn−2番目のフレームの最下位ライン判定情報LBn-2が入力される。このとき、LTn-1およびLBn-2は、共に「妨害なし」を示すため、フレーム判定部43は、少なくともn−2番目のフレームの撮像信号には、外部閃光の影響がないと判断し、「補正不要」を示す情報をフレーム判定情報として、フラッシュ補正処理部5に出力する。
フラッシュ補正処理部5は、n−1番目のフレームの撮像信号が入力されると、これを遅延部に記憶する。また、フレーム判定部43から送られてくるフレーム判定情報が「補正不要」であるため、すでに遅延部に記憶されているn−2番目のフレームの撮像信号を補正せず、そのまま出力信号として出力する。
(n番目のフレームの処理):
次に、n番目のフレームの撮像信号がライン判定部41に入力されたときには、出力されるn番目のフレームの撮像信号に対する最上位ライン判定情報LTnは「妨害あり」を示し、最下位ライン判定情報LBnは「妨害なし」を示す。
フレーム判定部43では、n−1番目のフレームの最上位ライン判定情報LTn-1と、同様に1フレーム前、すなわちn−2番目のフレームの撮像信号が入力されたときに判定情報記憶部42に記憶されたn−2番目のフレームの最下位ライン判定情報LBn-2が入力される。このとき、LTn-1およびLBn-2は、共に「妨害なし」を示すため、フレーム判定部43は、少なくともn−2番目のフレームの撮像信号には、外部閃光の影響がないと判断し、「補正不要」を示す情報をフレーム判定情報として、フラッシュ補正処理部5に出力する。
フラッシュ補正処理部5は、n−1番目のフレームの撮像信号が入力されると、これを遅延部に記憶する。また、フレーム判定部43から送られてくるフレーム判定情報が「補正不要」であるため、すでに遅延部に記憶されているn−2番目のフレームの撮像信号を補正せず、そのまま出力信号として出力する。
(n番目のフレームの処理):
次に、n番目のフレームの撮像信号がライン判定部41に入力されたときには、出力されるn番目のフレームの撮像信号に対する最上位ライン判定情報LTnは「妨害あり」を示し、最下位ライン判定情報LBnは「妨害なし」を示す。
判定情報記憶部42は、このうち少なくとも最下位ライン判定情報LBnを記憶しておく。
フレーム判定部43では、n番目のフレームの最上位ライン判定情報LTnと、同様に1フレーム前、すなわちn−1番目のフレームの撮像信号が入力されたときに判定情報記憶部42に記憶されたn−1番目のフレームの最下位ライン判定情報LBn-1が入力される。このとき、LTnおよびLBn-1が、共に「妨害あり」を示すため、フレーム判定部43は、n−1番目およびn番目のフレームの撮像信号には共に外部閃光の影響があると判断する。そして、このタイミングでは、n−1番目のフレームの撮像信号に外部閃光の影響があるため、フレーム判定部43は、「補正必要」を示す情報をフレーム判定情報として、フラッシュ補正処理部5に出力する。
フレーム判定部43では、n番目のフレームの最上位ライン判定情報LTnと、同様に1フレーム前、すなわちn−1番目のフレームの撮像信号が入力されたときに判定情報記憶部42に記憶されたn−1番目のフレームの最下位ライン判定情報LBn-1が入力される。このとき、LTnおよびLBn-1が、共に「妨害あり」を示すため、フレーム判定部43は、n−1番目およびn番目のフレームの撮像信号には共に外部閃光の影響があると判断する。そして、このタイミングでは、n−1番目のフレームの撮像信号に外部閃光の影響があるため、フレーム判定部43は、「補正必要」を示す情報をフレーム判定情報として、フラッシュ補正処理部5に出力する。
フラッシュ補正処理部5は、n番目のフレームの撮像信号が入力されると、これを遅延部に記憶する。また、フレーム判定部43から送られてくるフレーム判定情報が「補正必要」のため、すでに遅延部に記憶されているn−1番目のフレームの撮像信号に対して、外部閃光の影響を除去または抑制するような補正処理を行い、出力信号として出力する。補正内容としては、1フレーム前のフレームであるn−2番目のフレームの撮像信号を出力信号とする方法や、あらかじめ決められた特定の撮像信号(例えば、全画素が特定の画素値(例えば、黒(W0%レベル)や白レベル(W100%レベル)の画素値)を有する撮像信号)を出力信号とする方法等が考えられる。
(n+1番目のフレームの処理):
さらに、n+1番目のフレームの撮像信号がライン判定部41に入力されたときには、出力されるn+1番目のフレームの撮像信号に対する最上位ライン判定情報LTn+1および最下位ライン判定情報LBn+1は、共に「妨害なし」を示す。
(n+1番目のフレームの処理):
さらに、n+1番目のフレームの撮像信号がライン判定部41に入力されたときには、出力されるn+1番目のフレームの撮像信号に対する最上位ライン判定情報LTn+1および最下位ライン判定情報LBn+1は、共に「妨害なし」を示す。
判定情報記憶部42は、このうち少なくとも最下位ライン判定情報LBn+1を記憶しておく。
フレーム判定部43では、n+1番目のフレームの最上位ライン判定情報LTn+1と、同様に1フレーム前、すなわちn番目のフレームの撮像信号が入力されたときに判定情報記憶部42に記憶されたn番目のフレームの最下位ライン判定情報LBnが入力される。このとき、LTn+1およびLBnは、共に妨害がないこと示すが、フレーム判定部43は、先程の判定結果からn番目のフレームの撮像信号には、外部閃光の影響があるとすでに判断している。したがって、このタイミングでは、フレーム判定部43は、n番目のフレームの撮像信号に対する情報として、「補正必要」を示す情報をフレーム判定情報として、フラッシュ補正処理部5に出力する。
フレーム判定部43では、n+1番目のフレームの最上位ライン判定情報LTn+1と、同様に1フレーム前、すなわちn番目のフレームの撮像信号が入力されたときに判定情報記憶部42に記憶されたn番目のフレームの最下位ライン判定情報LBnが入力される。このとき、LTn+1およびLBnは、共に妨害がないこと示すが、フレーム判定部43は、先程の判定結果からn番目のフレームの撮像信号には、外部閃光の影響があるとすでに判断している。したがって、このタイミングでは、フレーム判定部43は、n番目のフレームの撮像信号に対する情報として、「補正必要」を示す情報をフレーム判定情報として、フラッシュ補正処理部5に出力する。
フラッシュ補正処理部5は、n+1番目のフレームの撮像信号が入力されると、これを遅延部に記憶する。また、フレーム判定部43から送られてくるフレーム判定情報が「補正必要」であるため、すでに遅延部に記憶されているn番目のフレームの撮像信号を先程と同様に補正して、出力信号として出力する。
以上のように、撮像装置2000において、フレーム判定部43が、1フレーム前の撮像信号の最下位ラインに外部閃光の影響があり、且つ、現在のフレームの撮像信号の最上位ラインに外部閃光の影響があると判定した場合、フレーム判定部43は、1フレーム前の撮像信号および現在のフレームの撮像信号に外部閃光の影響があると判断し、その判断結果をフレーム判定情報として、フラッシュ補正処理部5に出力する。そして、撮像装置2000において、フラッシュ補正処理部5は、フレーム判定部43から出力されたフレーム判定情報を基に、撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。図8の例のように、n番目のフレームを撮像している途中に外部閃光が発光された場合、フラッシュ補正処理部5は、上記のような判定によりn−1番目およびn番目のフレームの撮像信号に対して補正処理を行う。
以上のように、撮像装置2000において、フレーム判定部43が、1フレーム前の撮像信号の最下位ラインに外部閃光の影響があり、且つ、現在のフレームの撮像信号の最上位ラインに外部閃光の影響があると判定した場合、フレーム判定部43は、1フレーム前の撮像信号および現在のフレームの撮像信号に外部閃光の影響があると判断し、その判断結果をフレーム判定情報として、フラッシュ補正処理部5に出力する。そして、撮像装置2000において、フラッシュ補正処理部5は、フレーム判定部43から出力されたフレーム判定情報を基に、撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。図8の例のように、n番目のフレームを撮像している途中に外部閃光が発光された場合、フラッシュ補正処理部5は、上記のような判定によりn−1番目およびn番目のフレームの撮像信号に対して補正処理を行う。
≪図9の場合(複数の外部閃光が発光された場合)≫
次に、図9に示すような、n番目のフレームを撮像している途中に外部閃光が発光され、撮像信号にその影響がある間にさらに続けて外部閃光が発光された場合、撮像部1から出力される撮像信号には、n−1番目のフレームの画像の下部、n番目のフレームの画面全体およびn+1番目のフレームの画像の上部に、3フレームに亘って白帯状の妨害が発生する。
この場合も図8の場合と同様に、撮像装置2000では、フレーム判定部43により、1フレーム前の最下位ライン判定情報が外部閃光の影響があると判定され、且つ、現在のフレームの最上位ライン判定情報が外部閃光の影響があると判定された場合、フレーム判定部43は、1フレーム前の撮像信号および現在のフレームの撮像信号に外部閃光の影響があると判断してフレーム判定情報を出力する。そして、フラッシュ補正処理部5は、フレーム判定部43から出力されたフレーム判定情報を基に、撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。より具体的には、LTnおよびLBn-1が共に「妨害あり」であるため、n−1番目およびn番目のフレームについてのフレーム判定情報は「補正必要」となり、LTn+1およびLBnも共に「妨害あり」のため、n番目およびn+1番目のフレームについてのフレーム判定情報は「補正必要」となる。その結果、撮像装置2000では、n−1番目、n番目およびn+1番目のフレームについて、フラッシュ補正処理部5により、補正処理が実行される。
次に、図9に示すような、n番目のフレームを撮像している途中に外部閃光が発光され、撮像信号にその影響がある間にさらに続けて外部閃光が発光された場合、撮像部1から出力される撮像信号には、n−1番目のフレームの画像の下部、n番目のフレームの画面全体およびn+1番目のフレームの画像の上部に、3フレームに亘って白帯状の妨害が発生する。
この場合も図8の場合と同様に、撮像装置2000では、フレーム判定部43により、1フレーム前の最下位ライン判定情報が外部閃光の影響があると判定され、且つ、現在のフレームの最上位ライン判定情報が外部閃光の影響があると判定された場合、フレーム判定部43は、1フレーム前の撮像信号および現在のフレームの撮像信号に外部閃光の影響があると判断してフレーム判定情報を出力する。そして、フラッシュ補正処理部5は、フレーム判定部43から出力されたフレーム判定情報を基に、撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。より具体的には、LTnおよびLBn-1が共に「妨害あり」であるため、n−1番目およびn番目のフレームについてのフレーム判定情報は「補正必要」となり、LTn+1およびLBnも共に「妨害あり」のため、n番目およびn+1番目のフレームについてのフレーム判定情報は「補正必要」となる。その結果、撮像装置2000では、n−1番目、n番目およびn+1番目のフレームについて、フラッシュ補正処理部5により、補正処理が実行される。
≪図10の場合≫
また、n番目のフレームの撮像信号の最下位ラインの電荷蓄積開始タイミングより後でかつ、n番目のフレームの撮像信号の最上位ラインの蓄積終了タイミングより前に外部閃光が発光された場合には、図10に示すように、撮像部1から出力されるn番目のフレームの撮像信号全体にのみ白帯状の妨害が発生する。
このような場合には、本実施形態の撮像装置2000では、最上位ライン判定情報と1フレーム前の最下位ライン判定情報が共に外部閃光の影響を示すことはない。具体的には、LBn-1は「妨害なし」となり、LTnおよびLBnは「妨害あり」となり、LTn+1は「妨害なし」となる。したがって、撮像装置2000では、外部閃光の影響があるフレームの撮像信号は検出されず、フレーム判定部43は、外部閃光の影響があることを示すフレーム判定情報を出力しない。このため、フラッシュ補正処理部5は、撮像信号に対して外部閃光の影響を除去または抑制する処理を行わない。つまり、図10の場合に撮像装置2000から出力される撮像信号(映像信号)により形成される映像を表示装置に表示させた場合、画面全体が一様に白くなり(明るくなり)、撮像素子をCCDとした撮像装置で撮像した場合のようにかえって自然な画像となるため、撮像装置2000において、特に処理を行う必要はない。
また、n番目のフレームの撮像信号の最下位ラインの電荷蓄積開始タイミングより後でかつ、n番目のフレームの撮像信号の最上位ラインの蓄積終了タイミングより前に外部閃光が発光された場合には、図10に示すように、撮像部1から出力されるn番目のフレームの撮像信号全体にのみ白帯状の妨害が発生する。
このような場合には、本実施形態の撮像装置2000では、最上位ライン判定情報と1フレーム前の最下位ライン判定情報が共に外部閃光の影響を示すことはない。具体的には、LBn-1は「妨害なし」となり、LTnおよびLBnは「妨害あり」となり、LTn+1は「妨害なし」となる。したがって、撮像装置2000では、外部閃光の影響があるフレームの撮像信号は検出されず、フレーム判定部43は、外部閃光の影響があることを示すフレーム判定情報を出力しない。このため、フラッシュ補正処理部5は、撮像信号に対して外部閃光の影響を除去または抑制する処理を行わない。つまり、図10の場合に撮像装置2000から出力される撮像信号(映像信号)により形成される映像を表示装置に表示させた場合、画面全体が一様に白くなり(明るくなり)、撮像素子をCCDとした撮像装置で撮像した場合のようにかえって自然な画像となるため、撮像装置2000において、特に処理を行う必要はない。
以上のように、本実施形態の撮像装置2000では、検出部4が、各フレームとも画像の最上位ラインおよび最下位ラインへの外部閃光の影響の有無を判定することで、外部閃光の影響を受けたフレームを検出することができる。このため、撮像装置2000では、検出のためのフレームメモリを必要とせず、外部閃光が発光されるタイミングによってどのラインから影響があった場合にも確実に外部閃光の影響の有無を判定することができる。
また、撮像装置2000では、ライン判定部41が、最上位ラインおよび最下位ラインへの外部閃光への影響の有無を判定する場合に、現在のフレームの撮像信号の評価値と1フレーム前の撮像信号の評価値とを比較してフレーム間での評価値の増減を検出することで、外部閃光の影響の開始と終了のフレームを検出する。このため、撮像装置2000では、外部閃光の影響が3フレーム以上に亘る場合にも、影響があるフレームを判定できる。また、撮像装置2000では、同一ライン同士の評価値を比較することで、被写体の種類による影響を軽減することができる。
また、撮像装置2000では、ライン判定部41が、最上位ラインおよび最下位ラインへの外部閃光への影響の有無を判定する場合に、現在のフレームの撮像信号の評価値と1フレーム前の撮像信号の評価値とを比較してフレーム間での評価値の増減を検出することで、外部閃光の影響の開始と終了のフレームを検出する。このため、撮像装置2000では、外部閃光の影響が3フレーム以上に亘る場合にも、影響があるフレームを判定できる。また、撮像装置2000では、同一ライン同士の評価値を比較することで、被写体の種類による影響を軽減することができる。
[第3実施形態]
次に、第3実施形態について、説明する。
第3実施形態の撮像装置の構成は、第2実施形態の撮像装置2000の構成と同様である。
以下、第3実施形態の撮像装置について、図6、図7、図11、図12および図13を用いて説明する。
本実施形態における評価値記憶部412および評価値比較部413の動作は、以下の(1)、(2)の点で、第2実施形態におけるそれと異なっている。すなわち、
(1)評価値記憶部412は、生成された評価値の中で、最上位ラインの評価値を一時的に記憶しておく。
(2)評価値比較部413は、評価値記憶部412に記憶されている最上位ラインの評価値と評価値生成部411で生成された最下位ラインの評価値とを比較して、最上位ラインおよび最下位ラインにおける外部閃光の影響の有無を判定し、各々最上位ライン判定情報および最下位ライン判定情報として出力する。
次に、第3実施形態について、説明する。
第3実施形態の撮像装置の構成は、第2実施形態の撮像装置2000の構成と同様である。
以下、第3実施形態の撮像装置について、図6、図7、図11、図12および図13を用いて説明する。
本実施形態における評価値記憶部412および評価値比較部413の動作は、以下の(1)、(2)の点で、第2実施形態におけるそれと異なっている。すなわち、
(1)評価値記憶部412は、生成された評価値の中で、最上位ラインの評価値を一時的に記憶しておく。
(2)評価値比較部413は、評価値記憶部412に記憶されている最上位ラインの評価値と評価値生成部411で生成された最下位ラインの評価値とを比較して、最上位ラインおよび最下位ラインにおける外部閃光の影響の有無を判定し、各々最上位ライン判定情報および最下位ライン判定情報として出力する。
図11〜図13は、撮像部1が撮像中にスチルカメラのフラッシュなどの外部閃光が、それぞれ、図8〜図10と同様なタイミングで発光された場合の、撮像信号および出力信号(モニターやビューファインダーへの表示画像)への影響を示す図である。
各図(a)、(b)、(d)および各図(e)は、図8〜図10の各図(a)、(b)、(d)および(e)と同様である。各図(c)は、評価値比較部413で評価する最上位ラインに対する最下位ラインの評価値(各ラインの平均輝度)の変化を示す模式図である。
図6において、ライン判定部41以外の動作については、第2実施形態で説明したものと同じであるため、ここでは、主にライン判定部41の動作について説明する。
図6の撮像部1から出力された撮像信号は、ライン判定部41に入力される。ライン判定部41の内部では、入力された撮像信号により形成されるフレーム画像の各ラインに対応する撮像信号が順次、評価値生成部411に供給される。
各図(a)、(b)、(d)および各図(e)は、図8〜図10の各図(a)、(b)、(d)および(e)と同様である。各図(c)は、評価値比較部413で評価する最上位ラインに対する最下位ラインの評価値(各ラインの平均輝度)の変化を示す模式図である。
図6において、ライン判定部41以外の動作については、第2実施形態で説明したものと同じであるため、ここでは、主にライン判定部41の動作について説明する。
図6の撮像部1から出力された撮像信号は、ライン判定部41に入力される。ライン判定部41の内部では、入力された撮像信号により形成されるフレーム画像の各ラインに対応する撮像信号が順次、評価値生成部411に供給される。
評価値生成部411は、第2実施形態の場合と同様に動作して最上位ラインおよび最下位ラインの撮像信号に対する評価値を生成する。この最上位ラインおよび最下位ラインの評価値の、フレーム内の相対的な変化を検出することにより、本実施形態の撮像装置では、外部閃光の影響の有無を確認することができる。
評価値記憶部412は、最上位ラインの撮像信号に対する評価値を一時的に記憶する。
≪図11の場合≫
例えば、図11に示すようなタイミングで外部閃光が発光された場合には、評価値生成部411で順次生成されたn−2番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は、評価値比較部413に供給される。
評価値記憶部412は、最上位ラインの撮像信号に対する評価値を一時的に記憶する。
≪図11の場合≫
例えば、図11に示すようなタイミングで外部閃光が発光された場合には、評価値生成部411で順次生成されたn−2番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は、評価値比較部413に供給される。
評価値比較部413では、n−2番目のフレームの最下位ラインの映像信号に対する評価値を、評価値記憶部412に記憶しておいたn−2番目のフレームの最上位ラインの撮像信号に対する評価値と比較し、その変化量(増加量または減少量)が予め設定しておいた所定の閾値よりも大きいか否かを判定する。
図11(c)に示すように、n−2番目のフレームの最上位ラインの評価値に対するn−2番目のフレームの最下位ラインの評価値の変化量は、所定の閾値より小さくなる(以下、この場合を「不変」と表記する)。直前の最下位ライン判定情報LBn-3を保持する内部状態LBIは「妨害なし」であり、n−2番目のフレームの映像信号の最上位ラインの評価値に対する最下位ラインの評価値は、その状態に変化がないため、最上位ライン判定情報LTn-2および最下位ライン判定情報LBn-2として「妨害なし」を出力する。また、内部状態LBIは「妨害なし」のままとする。
図11(c)に示すように、n−2番目のフレームの最上位ラインの評価値に対するn−2番目のフレームの最下位ラインの評価値の変化量は、所定の閾値より小さくなる(以下、この場合を「不変」と表記する)。直前の最下位ライン判定情報LBn-3を保持する内部状態LBIは「妨害なし」であり、n−2番目のフレームの映像信号の最上位ラインの評価値に対する最下位ラインの評価値は、その状態に変化がないため、最上位ライン判定情報LTn-2および最下位ライン判定情報LBn-2として「妨害なし」を出力する。また、内部状態LBIは「妨害なし」のままとする。
なお、評価値比較部413での比較処理に用いられる上記閾値は、外部閃光の影響により、輝度レベルに変化があるフレームの最上位ラインに対する最下位ラインの評価値の変化量が閾値を超え、変化がないフレームの最上位ラインに対する最下位ラインの評価値の変化量が閾値を超えないような値に設定される。閾値は、固定値(例えば、本実施形態の撮像装置のシステム性能(カメラ性能)を考慮し、外部閃光を適切に検出することができる予め設定した固定値)として設定してもよいが、これに限定されることはなく、例えば、外部閃光の影響がなく補正処理が不要と判定された直前のフレーム全体の平均輝度に基づいて算出するようにしてもよい。
(n−1番目のフレームの処理):
次に、n−1番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn−1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は、評価値比較部413に供給される。
(n−1番目のフレームの処理):
次に、n−1番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn−1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は、評価値比較部413に供給される。
評価値比較部413では、n−1番目のフレームの最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn−1番目のフレームの最上位ラインの撮像信号に対する評価値と比較する。具体的には、n−1番目のフレームの最上位ラインの評価値に対する最下位ラインの評価値の変化量(増加量)が所定の閾値より大きくなる(以下、この場合を「増加」と表記する)。n−1番目のフレームで評価値が「増加」したため、評価値比較部413は、最上位ライン判定情報LTn-1として「妨害なし」を出力し、最下位ライン判定情報LBn-1として「妨害あり」を出力すると共に、内部状態LBIを「妨害あり」とする。
(n番目のフレームの処理):
次に、n番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は、評価値比較部413に供給される。
(n番目のフレームの処理):
次に、n番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は、評価値比較部413に供給される。
評価値比較部413では、n番目のフレームの最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn番目のフレームの最上位ラインの撮像信号に対する評価値と比較する。具体的には、n番目のフレームの最上位ラインの評価値に対する最下位ラインの評価値の変化量(減少量)が所定の閾値より大きくなる(以下、この場合を「減少」と表記する)。n番目のフレームで評価値が「減少」したため、評価値比較部413は、最上位ライン判定情報LTnとして「妨害あり」を出力し、最下位ライン判定情報LBnとして「妨害なし」を出力すると共に、内部状態LBIを「妨害なし」とする。
(n+1番目のフレームの処理):
さらに、n+1番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は、評価値比較部413に供給される。
(n+1番目のフレームの処理):
さらに、n+1番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は、評価値比較部413に供給される。
評価値比較部413では、n+1番目のフレームの最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn+1番目のフレームの最上位ラインの撮像信号に対する評価値と比較する。具体的には、n+1番目のフレームの最上位ラインの評価値に対する最下位ラインの評価値の変化量が「不変」となる。内部状態LBIは「妨害なし」であり、n+1番目のフレームは評価値が「不変」であるため、評価値比較部413は、最上位ライン判定情報LTn+1として「妨害なし」を出力し、最下位ライン判定情報LBn+1として「妨害なし」を出力すると共に、内部状態LBIは「妨害なし」のままとする。
本実施形態の撮像装置の全体の動作について、説明する。本実施形態の撮像装置では、上記で説明したように評価値比較部413から出力された最上位ライン判定情報および最下位ライン判定情報を基に、図6の判定情報記憶部42、フレーム判定部43およびフラッシュ補正処理部5が第2実施形態で説明したのと同様に動作する。より具体的には、図11の場合、本実施形態の撮像装置では、ライン判定部41により、LTnおよびLBn-1が共に「妨害あり」と判定され、フレーム判定部43により、n−1番目およびn番目のフレームについて「補正必要」と判定される。その結果、本実施形態の撮像装置では、フラッシュ補正処理部5により、n−1番目およびn番目のフレームについて、補正処理が実行される。
本実施形態の撮像装置の全体の動作について、説明する。本実施形態の撮像装置では、上記で説明したように評価値比較部413から出力された最上位ライン判定情報および最下位ライン判定情報を基に、図6の判定情報記憶部42、フレーム判定部43およびフラッシュ補正処理部5が第2実施形態で説明したのと同様に動作する。より具体的には、図11の場合、本実施形態の撮像装置では、ライン判定部41により、LTnおよびLBn-1が共に「妨害あり」と判定され、フレーム判定部43により、n−1番目およびn番目のフレームについて「補正必要」と判定される。その結果、本実施形態の撮像装置では、フラッシュ補正処理部5により、n−1番目およびn番目のフレームについて、補正処理が実行される。
≪図12の場合≫
図12に示すようなタイミングで外部閃光が発光された場合について説明する。
(n−2、n−1およびn+2番目のフレームの処理):
n−2、n−1およびn+2番目のフレームの撮像信号が入力されたときには、ライン判定部41は、各々図11に示した例におけるn−2、n−1およびn+1番目のフレームと同様に動作する。
(n番目のフレームの処理):
n番目のフレームの撮像信号が入力されたときには、評価値生成部411で生成されたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は評価値比較部413に供給される。
図12に示すようなタイミングで外部閃光が発光された場合について説明する。
(n−2、n−1およびn+2番目のフレームの処理):
n−2、n−1およびn+2番目のフレームの撮像信号が入力されたときには、ライン判定部41は、各々図11に示した例におけるn−2、n−1およびn+1番目のフレームと同様に動作する。
(n番目のフレームの処理):
n番目のフレームの撮像信号が入力されたときには、評価値生成部411で生成されたn番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は評価値比較部413に供給される。
評価値比較部413では、n番目のフレームの最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn番目のフレームの最上位ラインの撮像信号に対する評価値と比較する。具体的には、n番目のフレームの最上位ラインの評価値に対する最下位ラインの評価値の変化量が「不変」となる。内部状態LBIは「妨害あり」であり、n番目のフレームは評価値が「不変」であるため、評価値比較部413は、最上位ライン判定情報LTnとして「妨害あり」を出力し、最下位ライン判定情報LBnとして「妨害あり」を出力すると共に、内部状態LBIは「妨害あり」のままとする。
(n+1番目のフレームの処理):
次に、n+1番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は、評価値比較部413に供給される。
(n+1番目のフレームの処理):
次に、n+1番目のフレームの撮像信号が入力されたときにも同様に、評価値生成部411で生成されたn+1番目のフレームの最上位ラインおよび最下位ラインの撮像信号に対する評価値の中で、最上位ラインの評価値は、評価値記憶部412に記憶され、最下位ラインの評価値は、評価値比較部413に供給される。
評価値比較部413では、n+1番目のフレームの最下位ラインの撮像信号に対する評価値を、評価値記憶部412に記憶しておいたn+1番目のフレームの最上位ラインの撮像信号に対する評価値と比較する。具体的には、n+1番目のフレームの最上位ラインの評価値に対する最下位ラインの評価値の変化量が「減少」となる。n+1番目のフレームは評価値が「減少」であるため、評価値比較部413は、最上位ライン判定情報LTn+1として「妨害あり」を出力し、最下位ライン判定情報LBn+1として「妨害なし」を出力すると共に、内部状態LBIは「妨害なし」とする。
本実施形態の撮像装置の全体の動作について、説明する。本実施形態の撮像装置では、上記で説明したように評価値比較部413から出力された最上位ライン判定情報および最下位ライン判定情報を基に、図6の判定情報記憶部42、フレーム判定部43およびフラッシュ補正処理部5が第2実施形態で説明したのと同様に動作する。より具体的には、図12の場合、本実施形態の撮像装置では、ライン判定部41により、LTnおよびLBn-1が共に「妨害あり」と判定され、フレーム判定部43により、n−1番目およびn番目のフレームについて「補正必要」と判定される。そして、本実施形態の撮像装置では、ライン判定部41により、LTn+1およびLBnも共に「妨害あり」と判定され、フレーム判定部43により、n番目およびn+1番目のフレームについて「補正必要」と判定される。その結果、本実施形態の撮像装置では、フラッシュ補正処理部5により、n−1番目、n番目およびn+1番目のフレームについて、補正処理が実行される。
本実施形態の撮像装置の全体の動作について、説明する。本実施形態の撮像装置では、上記で説明したように評価値比較部413から出力された最上位ライン判定情報および最下位ライン判定情報を基に、図6の判定情報記憶部42、フレーム判定部43およびフラッシュ補正処理部5が第2実施形態で説明したのと同様に動作する。より具体的には、図12の場合、本実施形態の撮像装置では、ライン判定部41により、LTnおよびLBn-1が共に「妨害あり」と判定され、フレーム判定部43により、n−1番目およびn番目のフレームについて「補正必要」と判定される。そして、本実施形態の撮像装置では、ライン判定部41により、LTn+1およびLBnも共に「妨害あり」と判定され、フレーム判定部43により、n番目およびn+1番目のフレームについて「補正必要」と判定される。その結果、本実施形態の撮像装置では、フラッシュ補正処理部5により、n−1番目、n番目およびn+1番目のフレームについて、補正処理が実行される。
≪図13の場合≫
図13に示すようなタイミングで外部閃光が発光された場合には、第3実施形態の撮像装置では、評価値比較部413は、最上位ラインおよび最下位ラインとも、常に外部閃光の影響がないと判定し、各々のフレームに対応するタイミングで最上位ライン判定情報および最下位ライン判定情報は、常に「妨害なし」を出力する。
撮像装置全体の動作について、説明する。本実施形態の撮像装置では、上記で説明したように評価値比較部413から出力された最上位ライン判定情報および最下位ライン判定情報を基に、図6の判定情報記憶部42、フレーム判定部43およびフラッシュ補正処理部5が第2実施形態で説明したのと同様に動作する。より具体的には、図13の場合、本実施形態の撮像装置では、検出部4により、全てのフレームが「補正不要」と判定され、フラッシュ補正処理部5は、補正処理を行わない。つまり、図13の場合に本実施形態の撮像装置から出力される撮像信号(映像信号)により形成される映像を表示装置に表示させた場合、画面全体が一様に白くなり(明るくなり)、撮像素子をCCDとした撮像装置で撮像した場合のようにかえって自然な画像となるため、本実施形態の撮像装置において、特に処理を行う必要はない。
図13に示すようなタイミングで外部閃光が発光された場合には、第3実施形態の撮像装置では、評価値比較部413は、最上位ラインおよび最下位ラインとも、常に外部閃光の影響がないと判定し、各々のフレームに対応するタイミングで最上位ライン判定情報および最下位ライン判定情報は、常に「妨害なし」を出力する。
撮像装置全体の動作について、説明する。本実施形態の撮像装置では、上記で説明したように評価値比較部413から出力された最上位ライン判定情報および最下位ライン判定情報を基に、図6の判定情報記憶部42、フレーム判定部43およびフラッシュ補正処理部5が第2実施形態で説明したのと同様に動作する。より具体的には、図13の場合、本実施形態の撮像装置では、検出部4により、全てのフレームが「補正不要」と判定され、フラッシュ補正処理部5は、補正処理を行わない。つまり、図13の場合に本実施形態の撮像装置から出力される撮像信号(映像信号)により形成される映像を表示装置に表示させた場合、画面全体が一様に白くなり(明るくなり)、撮像素子をCCDとした撮像装置で撮像した場合のようにかえって自然な画像となるため、本実施形態の撮像装置において、特に処理を行う必要はない。
以上のように、本実施形態の撮像装置では、現在のフレームの撮像信号の最上位ラインと最下位ラインの評価値とを比較してフレーム内での評価値の増減を検出することにより、外部閃光の影響を受けたフレームを検出する。このため、本実施形態の撮像装置では、フレームメモリなどを必要とせず、外部閃光が発光されるタイミングによってどのラインから影響があった場合にも確実に外部閃光の影響の有無を判定することができる。
また、本実施形態の撮像装置では、ライン判定部41が、同一フレーム内の最上位ラインと最下位ラインの評価値を比較して増減を検出することで外部閃光の影響の開始と終了のフレームを検出するため、外部閃光の影響が3フレーム以上に亘る場合にも影響があるフレームを判定できる。つまり、本実施形態の撮像装置では、同一フレーム内での評価値を比較するため、撮像装置のアイリスなどの設定条件に左右されず(撮像装置の設定はフレームの途中では変化させない)、また、前のフレームの評価値が不要なことから、より少ない遅延で外部閃光の影響の有無を判定することができる。
また、本実施形態の撮像装置では、ライン判定部41が、同一フレーム内の最上位ラインと最下位ラインの評価値を比較して増減を検出することで外部閃光の影響の開始と終了のフレームを検出するため、外部閃光の影響が3フレーム以上に亘る場合にも影響があるフレームを判定できる。つまり、本実施形態の撮像装置では、同一フレーム内での評価値を比較するため、撮像装置のアイリスなどの設定条件に左右されず(撮像装置の設定はフレームの途中では変化させない)、また、前のフレームの評価値が不要なことから、より少ない遅延で外部閃光の影響の有無を判定することができる。
[第4実施形態]
第4実施形態の撮像装置の構成は、第2実施形態の撮像装置2000の構成と同様である。
以下、第4実施形態の撮像装置について、図6〜図8、図10、図11、図13〜図15を用いて説明する。
本実施形態の撮像装置において、ライン判定部41の動作、すなわち、図7の各部の動作については、第2実施形態または第3実施形態で説明したものと同じであるため、ここでは、主にライン判定部41以外の動作について説明する。
撮像部1から出力された撮像信号は、ライン判定部41に入力され、ライン判定部41は、各フレームに対応して最上位ライン判定情報および最下位ライン判定情報を出力する。
第4実施形態の撮像装置の構成は、第2実施形態の撮像装置2000の構成と同様である。
以下、第4実施形態の撮像装置について、図6〜図8、図10、図11、図13〜図15を用いて説明する。
本実施形態の撮像装置において、ライン判定部41の動作、すなわち、図7の各部の動作については、第2実施形態または第3実施形態で説明したものと同じであるため、ここでは、主にライン判定部41以外の動作について説明する。
撮像部1から出力された撮像信号は、ライン判定部41に入力され、ライン判定部41は、各フレームに対応して最上位ライン判定情報および最下位ライン判定情報を出力する。
判定情報記憶部42は、第2実施形態と同様に、最下位ライン判定情報を記憶すると共に最上位ライン判定情報も記憶する。
フレーム判定部43は、通常は、第2実施形態と同様に判定情報記憶部42に記憶された1フレーム前の最下位ライン判定情報が外部閃光の影響があることを示し、且つ、ライン判定部41から出力される現在のフレームの最上位ライン判定情報が外部閃光の影響があることを示す場合に、1フレーム前の撮像信号および現在のフレームの撮像信号に外部閃光の影響があると判定してフレーム判定情報を出力する動作を行う。
一方、フレーム判定部43は、判定情報記憶部42に記憶された現在のフレームの最上位ライン判定情報が外部閃光の影響があることを示し、且つ、ライン判定部41から出力される現在のフレームの最下位ライン判定情報が外部閃光の影響があることを示す場合には、現在のフレームの撮像信号には、全面に外部閃光の影響があると判定してフレーム判定情報を出力する。
フレーム判定部43は、通常は、第2実施形態と同様に判定情報記憶部42に記憶された1フレーム前の最下位ライン判定情報が外部閃光の影響があることを示し、且つ、ライン判定部41から出力される現在のフレームの最上位ライン判定情報が外部閃光の影響があることを示す場合に、1フレーム前の撮像信号および現在のフレームの撮像信号に外部閃光の影響があると判定してフレーム判定情報を出力する動作を行う。
一方、フレーム判定部43は、判定情報記憶部42に記憶された現在のフレームの最上位ライン判定情報が外部閃光の影響があることを示し、且つ、ライン判定部41から出力される現在のフレームの最下位ライン判定情報が外部閃光の影響があることを示す場合には、現在のフレームの撮像信号には、全面に外部閃光の影響があると判定してフレーム判定情報を出力する。
図8、図10および図14は、第4実施形態の撮像装置において、ライン判定部41の動作が第2実施形態で説明したものと同じである場合に、撮像部1が撮像中にスチルカメラのフラッシュなどの外部閃光がそれぞれ異なるタイミングで発光された場合の、撮像信号および出力信号(モニターやビューファインダーへの表示画像)への影響を示す図である。
図11、図13および図15は、第4実施形態の撮像装置において、ライン判定部41の動作が第3実施形態で説明したものと同じである場合に、撮像部1が撮像中にスチルカメラのフラッシュなどの外部閃光がそれぞれ異なるタイミングで発光された場合の、撮像信号および出力信号(モニターやビューファインダーへの表示画像)への影響を示す図である。
図11、図13および図15は、第4実施形態の撮像装置において、ライン判定部41の動作が第3実施形態で説明したものと同じである場合に、撮像部1が撮像中にスチルカメラのフラッシュなどの外部閃光がそれぞれ異なるタイミングで発光された場合の、撮像信号および出力信号(モニターやビューファインダーへの表示画像)への影響を示す図である。
いずれの場合も、各図(a)から各図(d)については、第2実施形態および第3実施形態で説明したものと同様である。
ライン判定部41から出力された、各図(d)に示すような最上位ライン判定情報LTnおよび最下位ライン判定情報LBnは、順次、判定情報記憶部42に記憶されると共に、フレーム判定部43にも供給される。
フレーム判定部43では、ライン判定部41から現在のフレームの最上位ライン判定情報LTnが入力されたタイミングで、判定情報記憶部42に記憶されている1フレーム前の最下位ライン判定情報LBn-1が入力される。そして、LTnおよびLBn-1が共に「妨害あり」を示す場合、フレーム判定部43は、1フレーム前および現在のフレームの撮像信号に外部閃光の影響があると判定することができるが、この時点では、フレーム判定部43は、1フレーム前の撮像信号に対してのみ「補正必要」を示す情報をフレーム判定情報として出力する。具体的には、現在のフレームが図8、図11、図14および図15のn番目のフレームである場合、フレーム判定部43は、n−1番目のフレームについては「補正必要」と判定する。
ライン判定部41から出力された、各図(d)に示すような最上位ライン判定情報LTnおよび最下位ライン判定情報LBnは、順次、判定情報記憶部42に記憶されると共に、フレーム判定部43にも供給される。
フレーム判定部43では、ライン判定部41から現在のフレームの最上位ライン判定情報LTnが入力されたタイミングで、判定情報記憶部42に記憶されている1フレーム前の最下位ライン判定情報LBn-1が入力される。そして、LTnおよびLBn-1が共に「妨害あり」を示す場合、フレーム判定部43は、1フレーム前および現在のフレームの撮像信号に外部閃光の影響があると判定することができるが、この時点では、フレーム判定部43は、1フレーム前の撮像信号に対してのみ「補正必要」を示す情報をフレーム判定情報として出力する。具体的には、現在のフレームが図8、図11、図14および図15のn番目のフレームである場合、フレーム判定部43は、n−1番目のフレームについては「補正必要」と判定する。
続いて、フレーム判定部43では、ライン判定部41から現在のフレームの最下位ライン判定情報LBnが入力されたタイミングで、判定情報記憶部42に記憶されている同じフレームの最上位ライン判定情報LTnが入力され、LTnは「妨害あり」を示しているが、LBnが「妨害なし」を示す場合のみ、現在のフレームの撮像信号に対して「補正必要」を示す情報をフレーム判定情報として出力する。
具体的には、現在のフレームが図8および図11のn番目のフレームである場合、フレーム判定部43は、n番目のフレームについては「補正必要」と判定する。
現在のフレームが図14および図15のn+1番目のフレームである場合、フレーム判定部43は、n+1番目のフレームについては「補正必要」と判定する。但し、LTnと共にLBnも「妨害あり」を示す場合には、現在の撮像信号には全面に外部閃光の影響があるものとして、フレーム判定部43は、現在のフレームの撮像信号に対しては「補正不要」を示す情報をフレーム判定情報として出力する。具体的には、現在のフレームが図14および図15のn番目のフレームである場合、フレーム判定部43は、n番目のフレームについては「補正不要」と判定する。
具体的には、現在のフレームが図8および図11のn番目のフレームである場合、フレーム判定部43は、n番目のフレームについては「補正必要」と判定する。
現在のフレームが図14および図15のn+1番目のフレームである場合、フレーム判定部43は、n+1番目のフレームについては「補正必要」と判定する。但し、LTnと共にLBnも「妨害あり」を示す場合には、現在の撮像信号には全面に外部閃光の影響があるものとして、フレーム判定部43は、現在のフレームの撮像信号に対しては「補正不要」を示す情報をフレーム判定情報として出力する。具体的には、現在のフレームが図14および図15のn番目のフレームである場合、フレーム判定部43は、n番目のフレームについては「補正不要」と判定する。
上記以外の場合には、フレーム判定部43は、「補正不要」を示す情報をフレーム判定情報として出力する。
フラッシュ補正処理部5は、フレーム判定部43から出力されるフレーム判定情報を基に、第2実施形態および第3実施形態と同様に、「補正必要」と判定されたフレームの撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
従って、フラッシュ補正処理部5は、画面の上部または下部にのみ白帯状の妨害が発生する場合には、フレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する補正処理を行うが、画面全体が一様に白くなる場合には補正処理を行わない。
以上のように、本実施形態の撮像装置では、外部閃光の影響が3フレーム以上に亘る場合の中間フレームや、外部閃光が1フレーム前の撮像信号の最下位ラインの走査終了と現在のフレームの撮像信号の最上位ラインの走査開始の間に発光したときのフレームのように、撮像信号の画面全体に外部閃光の影響がある場合には、撮像素子をCCDとした撮像装置で撮像した場合のようにかえって自然な画像を取得することができるため、処理(外部閃光の影響に対する補正処理)を行わず、撮像して得られた画像をそのまま生かすことが可能となる。
フラッシュ補正処理部5は、フレーム判定部43から出力されるフレーム判定情報を基に、第2実施形態および第3実施形態と同様に、「補正必要」と判定されたフレームの撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
従って、フラッシュ補正処理部5は、画面の上部または下部にのみ白帯状の妨害が発生する場合には、フレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する補正処理を行うが、画面全体が一様に白くなる場合には補正処理を行わない。
以上のように、本実施形態の撮像装置では、外部閃光の影響が3フレーム以上に亘る場合の中間フレームや、外部閃光が1フレーム前の撮像信号の最下位ラインの走査終了と現在のフレームの撮像信号の最上位ラインの走査開始の間に発光したときのフレームのように、撮像信号の画面全体に外部閃光の影響がある場合には、撮像素子をCCDとした撮像装置で撮像した場合のようにかえって自然な画像を取得することができるため、処理(外部閃光の影響に対する補正処理)を行わず、撮像して得られた画像をそのまま生かすことが可能となる。
なお、第2〜第4実施形態において、各ラインの評価値を撮像信号の輝度レベルとして説明したが、これに限定されることはなく、外部閃光の影響の有無により変化するものであれば、例えば、撮像信号の色成分や周波数成分あるいはSN比(Signal to Noise Ratio)など、他の信号成分や値を評価値としても構わない。
また、第2〜第4実施形態では、最上位ラインおよび最下位ラインへの外部閃光の影響の有無を所定の2ライン間の評価値の相対的な差分を基に判定する場合について、説明したが、これに限定されることはなく、例えば、各ライン個々の評価値の絶対的な大きさから判定しても構わない。
また、第2〜第4実施形態では、最上位ラインおよび最下位ラインとして各々1ラインから評価値を算出して比較する場合について説明したが、これに限定されることはなく、例えば、被写体の種類や動きによる影響やノイズの影響を軽減するために、画面の上端および下端の各々複数ラインから評価値を算出して比較してもよい。
また、第2〜第4実施形態では、最上位ラインおよび最下位ラインへの外部閃光の影響の有無を所定の2ライン間の評価値の相対的な差分を基に判定する場合について、説明したが、これに限定されることはなく、例えば、各ライン個々の評価値の絶対的な大きさから判定しても構わない。
また、第2〜第4実施形態では、最上位ラインおよび最下位ラインとして各々1ラインから評価値を算出して比較する場合について説明したが、これに限定されることはなく、例えば、被写体の種類や動きによる影響やノイズの影響を軽減するために、画面の上端および下端の各々複数ラインから評価値を算出して比較してもよい。
また、評価値を算出するラインは、必ずしも画面の有効領域内のライン(例えば、総走査線数1125本のHDカメラであれば1080本)である必要はなく、外部閃光を受光可能なラインであれば有効領域内であっても、有効領域の外側のラインであっても構わない。
また、第2〜第4実施形態では、フレーム間またはフレーム内のいずれか一方で、評価値を比較することにより外部閃光の有無を判断する例を示したが、これに限定されることはなく、例えば、同一の撮像装置で両方を実施することでより確実に判断するようにしても構わない。
また、第2〜第4実施形態では、1フレーム前の最下位ラインと現在のフレームの最上位ラインへの外部閃光の影響の有無から各フレームへの外部閃光の影響の有無を判断する場合について説明したが、これに限定されることはない。撮像装置において、より多くのフレームに亘って最下位ラインおよび最上位ラインへの外部閃光の影響の有無の変化を監視することにより、例えば、外部閃光の影響は任意のフレームの最下位ラインから先に開始され、次のフレームの最上位ラインにも影響が開始され、最下位ラインから先に影響が終了し、次のフレームの最上位ラインへの影響も終了するという規則性を利用して、より確実に各フレームへの外部閃光の影響の有無を判断するようにしてもよい。
また、第2〜第4実施形態では、フレーム間またはフレーム内のいずれか一方で、評価値を比較することにより外部閃光の有無を判断する例を示したが、これに限定されることはなく、例えば、同一の撮像装置で両方を実施することでより確実に判断するようにしても構わない。
また、第2〜第4実施形態では、1フレーム前の最下位ラインと現在のフレームの最上位ラインへの外部閃光の影響の有無から各フレームへの外部閃光の影響の有無を判断する場合について説明したが、これに限定されることはない。撮像装置において、より多くのフレームに亘って最下位ラインおよび最上位ラインへの外部閃光の影響の有無の変化を監視することにより、例えば、外部閃光の影響は任意のフレームの最下位ラインから先に開始され、次のフレームの最上位ラインにも影響が開始され、最下位ラインから先に影響が終了し、次のフレームの最上位ラインへの影響も終了するという規則性を利用して、より確実に各フレームへの外部閃光の影響の有無を判断するようにしてもよい。
[第5実施形態]
<5.1:撮像装置の構成>
次に、第5実施形態について、図16から図21を用いて説明する。
図16は、第5実施形態の撮像装置5000の概略構成を示す図である。
図16に示すように、撮像装置5000は、撮像部1と、検出部4Aと、フラッシュ補正処理部5とを備える。そして、検出部4Aは、ライン評価値算出部44と、ライン判定部45と、フレーム判定部46と、を備える。
撮像部1は、CMOSイメージセンサ等の撮像素子で構成され、被写体を撮像して撮像信号を取得し、取得した撮像信号をライン評価値算出部44およびフラッシュ補正処理部5に出力する。なお、撮像信号により撮像画像(フレーム画像)が形成される。そして、複数のフレーム画像を表示装置に表示させることで、表示装置で撮像映像を表示させることができる。
<5.1:撮像装置の構成>
次に、第5実施形態について、図16から図21を用いて説明する。
図16は、第5実施形態の撮像装置5000の概略構成を示す図である。
図16に示すように、撮像装置5000は、撮像部1と、検出部4Aと、フラッシュ補正処理部5とを備える。そして、検出部4Aは、ライン評価値算出部44と、ライン判定部45と、フレーム判定部46と、を備える。
撮像部1は、CMOSイメージセンサ等の撮像素子で構成され、被写体を撮像して撮像信号を取得し、取得した撮像信号をライン評価値算出部44およびフラッシュ補正処理部5に出力する。なお、撮像信号により撮像画像(フレーム画像)が形成される。そして、複数のフレーム画像を表示装置に表示させることで、表示装置で撮像映像を表示させることができる。
ライン評価値算出部44は、撮像部1から出力される撮像信号を入力とする。ライン評価値算出部44は、各フレーム(撮像信号により形成される撮像映像の各フレーム)において、撮像信号の各ライン(撮像信号により形成される撮像画像の各ライン)の平均輝度レベル等から各ラインの評価値Ln(nはライン位置を示す正整数)を算出する。そして、ライン評価値算出部44は、算出した評価値Lnをライン判定部45およびフレーム判定部46に出力する。
ライン判定部45は、ライン評価値算出部44から出力される評価値Lnを入力とする。ライン判定部45は、aライン前(aは正整数)の評価値と比較して評価値が所定量以上増加するラインm(mはライン位置)を検出して、ライン位置情報mとラインmおよびaライン前のラインm−aの評価値LmおよびLm−aを一時的に記憶する。そして、ライン判定部45は、記憶・保持しているライン位置情報m、評価値LmおよびLm−aを、フレーム判定部46に出力する。
ライン判定部45は、ライン評価値算出部44から出力される評価値Lnを入力とする。ライン判定部45は、aライン前(aは正整数)の評価値と比較して評価値が所定量以上増加するラインm(mはライン位置)を検出して、ライン位置情報mとラインmおよびaライン前のラインm−aの評価値LmおよびLm−aを一時的に記憶する。そして、ライン判定部45は、記憶・保持しているライン位置情報m、評価値LmおよびLm−aを、フレーム判定部46に出力する。
フレーム判定部46は、ライン評価値算出部44から出力される評価値Lnと、ライン判定部45から出力されるライン位置情報m、評価値LmおよびLm−aと、を入力とする。フレーム判定部46は、ライン判定部45に記憶されたライン位置情報mに対して、ライン判定部45に記憶されたラインmおよびラインm−aの評価値LmおよびLm−aと、以降のフレームの撮像信号のラインmおよびラインm−aの評価値L’mおよびL’m−aと、をライン間またはフレーム間で比較することにより、各フレームに外部閃光の影響があるか否かを判断して結果を示すフレーム判定情報を取得する。そして、フレーム判定部46は、取得したフレーム判定情報をフラッシュ補正処理部5に出力する。
フラッシュ補正処理部5は、撮像部1から出力される撮像信号と、フレーム判定部46から出力されるフレーム判定情報と、を入力とする。フラッシュ補正処理部5は、フレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
フラッシュ補正処理部5は、撮像部1から出力される撮像信号と、フレーム判定部46から出力されるフレーム判定情報と、を入力とする。フラッシュ補正処理部5は、フレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
(5.1.1:ライン判定部45の概略構成)
まず、ライン判定部45の概略構成について、説明する。
図17は、図16のライン判定部45の概略構成を示す図である。
図17に示すように、ライン判定部45は、評価値シフトレジスタ部451と、評価値比較部452と、ラインカウンタ453と、ライン位置記憶部454と、ライン評価値記憶部455および456とを有する。
評価値シフトレジスタ部451は、a個のフリップフロップ等で構成されたシフトレジスタであり、図16のライン評価値算出部44において算出された各ラインの評価値Lnが入力され、水平同期パルスに従って、入力された各ラインのライン評価値Lnが1ライン毎に次段のレジスタに転送される。そして、評価値シフトレジスタ部451は、レジスタ転送して取得したライン評価値(例えば、ライン評価値Ln−a(nラインからaライン分前のライン評価値に相当))を評価値比較部452およびライン評価値記憶部456に出力する。
まず、ライン判定部45の概略構成について、説明する。
図17は、図16のライン判定部45の概略構成を示す図である。
図17に示すように、ライン判定部45は、評価値シフトレジスタ部451と、評価値比較部452と、ラインカウンタ453と、ライン位置記憶部454と、ライン評価値記憶部455および456とを有する。
評価値シフトレジスタ部451は、a個のフリップフロップ等で構成されたシフトレジスタであり、図16のライン評価値算出部44において算出された各ラインの評価値Lnが入力され、水平同期パルスに従って、入力された各ラインのライン評価値Lnが1ライン毎に次段のレジスタに転送される。そして、評価値シフトレジスタ部451は、レジスタ転送して取得したライン評価値(例えば、ライン評価値Ln−a(nラインからaライン分前のライン評価値に相当))を評価値比較部452およびライン評価値記憶部456に出力する。
評価値比較部452は、ライン評価値算出部44から出力されるライン評価値Lnおよび評価値シフトレジスタ部451から出力されるライン評価値Ln−aを入力とする。評価値比較部452は、各ライン毎に、処理対象となっているラインのライン評価値Lnと、そのラインのaライン前のラインのライン評価値Ln−aとを比較して、その差が所定量以上大きければ、トリガパルスを発生する。すなわち、
(ライン評価値Ln)−(ライン評価値Ln−a)≧(所定量)
であれば、評価値比較部452は、トリガパルスを発生させ、発生させたトリガパルスをライン位置記憶部454、ライン評価値記憶部455および456に出力する。なお、図17では、n=mの場合を図示している。なお、上式の「所定量」は、外部閃光の有無を検出するのに十分な精度を確保できるように設定することが好ましく、撮像装置の特性を考慮して設定することが好ましい。
(ライン評価値Ln)−(ライン評価値Ln−a)≧(所定量)
であれば、評価値比較部452は、トリガパルスを発生させ、発生させたトリガパルスをライン位置記憶部454、ライン評価値記憶部455および456に出力する。なお、図17では、n=mの場合を図示している。なお、上式の「所定量」は、外部閃光の有無を検出するのに十分な精度を確保できるように設定することが好ましく、撮像装置の特性を考慮して設定することが好ましい。
ラインカウンタ453は、水平同期パルスに従ってライン数をカウントする。そして、ラインカウンタ453は、ライン数のカウント情報をライン位置記憶部454に出力する。なお、水平同期パルスは、例えば、シグナルジェネレータ(不図示)およびタイミングジェネレータ(不図示)により生成されるパルス信号であり、水平同期を示すパルス信号である。
ライン位置記憶部454は、評価値比較部452から出力されるトリガパルスおよびラインカウンタ453から出力されるライン数のカウント情報(処理対象のラインのライン番号に相当)を入力とする。ライン位置記憶部454は、評価値比較部452が発生したトリガパルスに従って、ラインカウンタ453のカウンタ値すなわちラインnおよびラインn−aのライン評価値LnおよびLn−aが前述の条件を満たすライン位置情報m(ここでは、前述の条件を満たすライン位置がラインmであるとする。)を一時的に記憶する。そして、ライン位置記憶部454は、一時的に記憶したライン位置情報mをフレーム判定部46に出力する。以下では、ライン評価値LnおよびLn−aが前述の条件を満たすライン位置がm(すなわち、n=m)であるとして説明する。
ライン位置記憶部454は、評価値比較部452から出力されるトリガパルスおよびラインカウンタ453から出力されるライン数のカウント情報(処理対象のラインのライン番号に相当)を入力とする。ライン位置記憶部454は、評価値比較部452が発生したトリガパルスに従って、ラインカウンタ453のカウンタ値すなわちラインnおよびラインn−aのライン評価値LnおよびLn−aが前述の条件を満たすライン位置情報m(ここでは、前述の条件を満たすライン位置がラインmであるとする。)を一時的に記憶する。そして、ライン位置記憶部454は、一時的に記憶したライン位置情報mをフレーム判定部46に出力する。以下では、ライン評価値LnおよびLn−aが前述の条件を満たすライン位置がm(すなわち、n=m)であるとして説明する。
ライン評価値記憶部455は、ライン評価値算出部44から出力されるライン評価値Lnを入力し、上記トリガパルス(ライン評価値LnおよびLn−aが前述の条件を満たすときに発生されるトリガパルス)に従って、ラインmのライン評価値Lmを一時的に記憶する。そして、ライン評価値記憶部455は、一時的に記憶したライン評価値Lmをフレーム判定部46に出力する。
ライン評価値記憶部456は、評価値シフトレジスタ部451から出力されるライン評価値Ln−aを入力し、上記トリガパルス(ライン評価値LnおよびLn−aが前述の条件を満たすときに発生されるトリガパルス)に従って、ラインm−aのライン評価値Lm−aを一時的に記憶する。そして、ライン評価値記憶部456は、一時的に記憶したライン評価値Lm−aをフレーム判定部46に出力する。
ライン評価値記憶部456は、評価値シフトレジスタ部451から出力されるライン評価値Ln−aを入力し、上記トリガパルス(ライン評価値LnおよびLn−aが前述の条件を満たすときに発生されるトリガパルス)に従って、ラインm−aのライン評価値Lm−aを一時的に記憶する。そして、ライン評価値記憶部456は、一時的に記憶したライン評価値Lm−aをフレーム判定部46に出力する。
(5.1.2:フレーム判定部46の概略構成)
次に、フレーム判定部46の概略構成について、説明する。
図18は、図16のフレーム判定部46の概略構成を示す図である。
図18に示すように、フレーム判定部46は、ラインカウンタ461と、カウンタ値比較部462および463と、ライン評価値記憶部464および465と、評価値比較部466、467および468と、フレーム判定情報生成部469とを有する。
ラインカウンタ461は、水平同期パルスに従って、ライン数をカウントする。そして、ラインカウンタは、ライン数のカウント情報であるCNTを、カウンタ値比較部462および463に出力する。
カウンタ値比較部462および463は、図16のライン判定部45に記憶されているライン位置情報mに対して、ラインカウンタ461のカウンタ値CNTが、それぞれ、mおよびm−aとなるタイミングでトリガパルスを発生させる。そして、カウンタ値比較部462は、ラインmのタイミングにおいて発生させたトリガパルスをライン評価値記憶部464に出力する。カウンタ値比較部463は、ラインm−aのタイミングにおいて発生させたトリガパルスをライン評価値記憶部465に出力する。
次に、フレーム判定部46の概略構成について、説明する。
図18は、図16のフレーム判定部46の概略構成を示す図である。
図18に示すように、フレーム判定部46は、ラインカウンタ461と、カウンタ値比較部462および463と、ライン評価値記憶部464および465と、評価値比較部466、467および468と、フレーム判定情報生成部469とを有する。
ラインカウンタ461は、水平同期パルスに従って、ライン数をカウントする。そして、ラインカウンタは、ライン数のカウント情報であるCNTを、カウンタ値比較部462および463に出力する。
カウンタ値比較部462および463は、図16のライン判定部45に記憶されているライン位置情報mに対して、ラインカウンタ461のカウンタ値CNTが、それぞれ、mおよびm−aとなるタイミングでトリガパルスを発生させる。そして、カウンタ値比較部462は、ラインmのタイミングにおいて発生させたトリガパルスをライン評価値記憶部464に出力する。カウンタ値比較部463は、ラインm−aのタイミングにおいて発生させたトリガパルスをライン評価値記憶部465に出力する。
ライン評価値記憶部464は、図16のライン評価値算出部44において算出された各ラインの評価値Lnを入力とし、カウンタ値比較部462が発生するトリガパルスに従って、ラインmのライン評価値L’mを一時的に記憶する。そして、ライン評価値記憶部464は、ライン評価値L’mを、評価値比較部466および評価値比較部468に出力する。
ライン評価値記憶部465は、図16のライン評価値算出部44において算出された各ラインの評価値Lnを入力とし、カウンタ値比較部463が発生するトリガパルスに従って、ラインm−aの評価値L’m−aを一時的に記憶する。そして、ライン評価値記憶部465は、ライン評価値L’m−aを、評価値比較部466および評価値比較部467に出力する。
ライン評価値記憶部465は、図16のライン評価値算出部44において算出された各ラインの評価値Lnを入力とし、カウンタ値比較部463が発生するトリガパルスに従って、ラインm−aの評価値L’m−aを一時的に記憶する。そして、ライン評価値記憶部465は、ライン評価値L’m−aを、評価値比較部466および評価値比較部467に出力する。
なお、ライン評価値記憶部464および465は、例えば、トリガパルスにより動作するフリップフロップにより実現することができる。
評価値比較部466、467および468は、ライン評価値記憶部464および465に記憶されているライン評価値L’mおよびL’m−aと、図16のライン判定部45に記憶されているラインmおよびラインm−aのライン評価値LmおよびLm−aとを、それぞれ、比較して所定の条件を満たす場合にフラグを立てる。例えば、評価値比較部466、467および468は、以下の条件を満たす場合に、フラグを立てる。
(評価値比較部466での条件判断):
(ライン評価値L’m−a)−(ライン評価値L’m)≧(所定量)
を満たす場合、第1フラグF1を「1」にし、それ以外は「0」にする。
(評価値比較部467での条件判断):
(ライン評価値L’m−a)−(ライン評価値Lm−a)≧(所定量)
を満たす場合、第2フラグF2を「1」にし、それ以外は「0」にする。
(評価値比較部468での条件判断):
(ライン評価値Lm)−(ライン評価値L’m)≧(所定量)
を満たす場合、第3フラグF3を「1」にし、それ以外は「0」にする。
評価値比較部466、467および468は、ライン評価値記憶部464および465に記憶されているライン評価値L’mおよびL’m−aと、図16のライン判定部45に記憶されているラインmおよびラインm−aのライン評価値LmおよびLm−aとを、それぞれ、比較して所定の条件を満たす場合にフラグを立てる。例えば、評価値比較部466、467および468は、以下の条件を満たす場合に、フラグを立てる。
(評価値比較部466での条件判断):
(ライン評価値L’m−a)−(ライン評価値L’m)≧(所定量)
を満たす場合、第1フラグF1を「1」にし、それ以外は「0」にする。
(評価値比較部467での条件判断):
(ライン評価値L’m−a)−(ライン評価値Lm−a)≧(所定量)
を満たす場合、第2フラグF2を「1」にし、それ以外は「0」にする。
(評価値比較部468での条件判断):
(ライン評価値Lm)−(ライン評価値L’m)≧(所定量)
を満たす場合、第3フラグF3を「1」にし、それ以外は「0」にする。
なお、上式の「所定量」は、外部閃光の有無を検出するのに十分な精度を確保できるように設定することが好ましく、撮像装置の特性を考慮して設定することが好ましい。また、上記3つの式の「所定量」は、同一にすることが好ましいが、それぞれ、異なる値に設定するようにしてもよい。
また、上記に示した3つの条件判断は、一例であり、これに限定されないのは言うまでもない。
なお、上記3つの式の「所定量」は、撮像装置5000のシステム性能(カメラ性能)を考慮し、外部閃光を適切に検出することができる値に設定すればよい。例えば、撮像装置5000において、撮像部1から出力される撮像信号(AGC等の処理がなされ、標準状態(カメラシステムにおいて所望される所定のダイナミックレンジとなるように調整された映像信号の状態)となっている撮像信号)の所定の画像領域(撮像信号により形成される所定の画像領域)の平均輝度レベルに応じて、「所定量」を変化させるようにしてもよい(「所定量」を可変設定値としてもよい)。また、フレームごとに「所定量」を変化させるようにしてもよい(「所定量」を可変設定値としてもよい)。
また、上記に示した3つの条件判断は、一例であり、これに限定されないのは言うまでもない。
なお、上記3つの式の「所定量」は、撮像装置5000のシステム性能(カメラ性能)を考慮し、外部閃光を適切に検出することができる値に設定すればよい。例えば、撮像装置5000において、撮像部1から出力される撮像信号(AGC等の処理がなされ、標準状態(カメラシステムにおいて所望される所定のダイナミックレンジとなるように調整された映像信号の状態)となっている撮像信号)の所定の画像領域(撮像信号により形成される所定の画像領域)の平均輝度レベルに応じて、「所定量」を変化させるようにしてもよい(「所定量」を可変設定値としてもよい)。また、フレームごとに「所定量」を変化させるようにしてもよい(「所定量」を可変設定値としてもよい)。
評価値比較部466、467および468は、それぞれ、上式の判定結果を示すフラグF1、F2およびF3をフレーム判定情報生成部469に出力する。
フレーム判定情報生成部469は、評価値比較部466、467および468が発生したフラグが所定の条件を満たす場合にフレーム判定情報を生成し、いずれのフラグも立たない場合には、外部閃光の影響については基本的に前フレームの状態が継続しているものと判断する。すなわち、上記に示した3つの条件判断を採用する場合、F1=0、かつ、F2=0、かつ、F3=0の場合、外部閃光の影響については、基本的に前フレームの状態が継続しているものと判断する。
そして、フレーム判定情報生成部469は、生成したフレーム判定情報を、フラッシュ補正処理部5に出力する。
フレーム判定情報生成部469は、評価値比較部466、467および468が発生したフラグが所定の条件を満たす場合にフレーム判定情報を生成し、いずれのフラグも立たない場合には、外部閃光の影響については基本的に前フレームの状態が継続しているものと判断する。すなわち、上記に示した3つの条件判断を採用する場合、F1=0、かつ、F2=0、かつ、F3=0の場合、外部閃光の影響については、基本的に前フレームの状態が継続しているものと判断する。
そして、フレーム判定情報生成部469は、生成したフレーム判定情報を、フラッシュ補正処理部5に出力する。
<5.2:撮像装置の動作>
図19、図20および図21は、撮像中にスチルカメラのフラッシュなどの外部閃光がそれぞれ異なるタイミングで発光された場合の撮像信号および表示画像(撮像信号により形成される画像)への影響を示す図である。
以下、第5実施形態の撮像装置5000の動作について、図16から図21を用いて説明する。
撮像装置5000において、N番目(Nは整数)のフレームを撮像している途中に外部閃光が発光された場合、図19に示すように、撮像部1から出力される撮像信号には、N−1番目のフレームの画像の下部およびN番目のフレームの画像の上部に白帯状の妨害が発生する。
図19、図20および図21は、撮像中にスチルカメラのフラッシュなどの外部閃光がそれぞれ異なるタイミングで発光された場合の撮像信号および表示画像(撮像信号により形成される画像)への影響を示す図である。
以下、第5実施形態の撮像装置5000の動作について、図16から図21を用いて説明する。
撮像装置5000において、N番目(Nは整数)のフレームを撮像している途中に外部閃光が発光された場合、図19に示すように、撮像部1から出力される撮像信号には、N−1番目のフレームの画像の下部およびN番目のフレームの画像の上部に白帯状の妨害が発生する。
図19に示すように、N−1番目のフレームでは、m−aライン目までは殆ど外部閃光の影響を受けず、mライン目以降は外部閃光のほぼ全光量の影響を受け、その間のライン(m−aライン目からmライン目の間のライン)は、背景技術で説明したように外部閃光の発光期間に依存し、徐々に蓄積光量が増加するトランジェント期間となっている。
N番目のフレームでは、m−aライン目までは外部閃光のほぼ全光量の影響を受け、mライン目以降は殆ど外部閃光の影響を受けず、その間のライン(m−aライン目からmライン目の間のライン)は、徐々に蓄積光量が減少するトランジェント期間となっている。
図16に示す撮像部1からN−1番目のフレームの撮像信号が入力されたライン評価値算出部44は、各ライン毎に、ライン評価値Lnを算出してライン判定部45およびフレーム判定部46に供給する。
N番目のフレームでは、m−aライン目までは外部閃光のほぼ全光量の影響を受け、mライン目以降は殆ど外部閃光の影響を受けず、その間のライン(m−aライン目からmライン目の間のライン)は、徐々に蓄積光量が減少するトランジェント期間となっている。
図16に示す撮像部1からN−1番目のフレームの撮像信号が入力されたライン評価値算出部44は、各ライン毎に、ライン評価値Lnを算出してライン判定部45およびフレーム判定部46に供給する。
ライン判定部45では、ライン評価値Lnが図17に示す評価値シフトレジスタ部451に入力されて次段のレジスタに1ライン毎に順次シフトされる。
評価値比較部452では、外部閃光の影響がない期間は、入力される2ラインの評価値の差は、予め適切に設定された所定量よりも小さいが、図19に示すN−1番目のフレームの撮像信号のラインmの評価値Lmが入力されたときに、評価値比較部452に入力されるラインmのライン評価値Lmは、ラインm−aのライン評価値Lm−aと比較して所定値よりも大きくなる。すなわち、
(ライン評価値Lm)−(ライン評価値Lm−a)≧(所定量)
を満たす。したがって、この場合、撮像装置5000は、外部閃光の影響を受け始めた(外部閃光の影響を受けている期間が開始された)ものとして、評価値比較部452は、トリガパルスを発生させる。
評価値比較部452では、外部閃光の影響がない期間は、入力される2ラインの評価値の差は、予め適切に設定された所定量よりも小さいが、図19に示すN−1番目のフレームの撮像信号のラインmの評価値Lmが入力されたときに、評価値比較部452に入力されるラインmのライン評価値Lmは、ラインm−aのライン評価値Lm−aと比較して所定値よりも大きくなる。すなわち、
(ライン評価値Lm)−(ライン評価値Lm−a)≧(所定量)
を満たす。したがって、この場合、撮像装置5000は、外部閃光の影響を受け始めた(外部閃光の影響を受けている期間が開始された)ものとして、評価値比較部452は、トリガパルスを発生させる。
ラインカウンタ453は、1ライン毎にカウントアップされるカウンタであり、そのカウンタ値は、ライン判定部45に入力される評価値Lnを算出したラインの番号nに対応する。そして、評価値比較部452が発生させたトリガパルスに従って、ラインカウンタ453のカウンタ値m(mは、トリガパルスが発生されたライン番号に相当)を、ライン位置記憶部454に記憶すると共に、ラインmおよびラインm−aのライン評価値LmおよびLm−aを、各々ライン評価値記憶部455および456に記憶する。
図16に示す撮像部1からN番目のフレームの撮像信号が入力されたライン評価値算出部44は、同様に、各ライン毎にライン評価値Lnを算出してライン判定部45およびフレーム判定部46に供給する。フレーム判定部46では、ライン判定部45に記憶されたライン位置(ライン位置情報)m、ラインmおよびラインm−aのライン評価値LmおよびLm−aを入力され、このライン位置情報mを基に、図18に示すカウンタ値比較部462および463は、ラインカウンタ461のカウンタ値が、各々mおよびm−aとなったタイミング、すなわち図16のライン評価値算出部44からラインmおよびラインm−aの評価値L’mおよびL’m−aが入力されたタイミングで、各々トリガパルスを発生させる。
図16に示す撮像部1からN番目のフレームの撮像信号が入力されたライン評価値算出部44は、同様に、各ライン毎にライン評価値Lnを算出してライン判定部45およびフレーム判定部46に供給する。フレーム判定部46では、ライン判定部45に記憶されたライン位置(ライン位置情報)m、ラインmおよびラインm−aのライン評価値LmおよびLm−aを入力され、このライン位置情報mを基に、図18に示すカウンタ値比較部462および463は、ラインカウンタ461のカウンタ値が、各々mおよびm−aとなったタイミング、すなわち図16のライン評価値算出部44からラインmおよびラインm−aの評価値L’mおよびL’m−aが入力されたタイミングで、各々トリガパルスを発生させる。
ライン評価値記憶部464および465は、各々カウンタ値比較部462および463が発生したトリガパルスに従って、ラインmおよびラインm−aのライン評価値L’mおよびL’m−aを記憶する。つまり、ライン評価値Lm、Lm−aがK番目(Kは整数)のフレームにおけるラインmおよびラインm−aでのライン評価値であるとすると、ライン評価値L’m、L’m−aは、K+1番目のフレームにおけるラインmおよびラインm−aでのライン評価値となる。
評価値比較部466は、N番目のフレームの撮像信号のラインmのライン評価値L’mがラインm−aのライン評価値L’m−aと比較して予め適切に設定された所定量よりも小さい場合、すなわち、
(ライン評価値L’m−a)−(ライン評価値L’m)≧(所定量)
である場合に、フラグを立てる。
評価値比較部466は、N番目のフレームの撮像信号のラインmのライン評価値L’mがラインm−aのライン評価値L’m−aと比較して予め適切に設定された所定量よりも小さい場合、すなわち、
(ライン評価値L’m−a)−(ライン評価値L’m)≧(所定量)
である場合に、フラグを立てる。
評価値比較部467は、N番目のフレームの撮像信号のラインm−aのライン評価値L’m−aが、N−1番目のフレームの撮像信号のラインm−aのライン評価値Lm−aと比較して予め適切に設定された所定量よりも大きい場合、すなわち、
(ライン評価値L’m−a)−(ライン評価値Lm−a)≧(所定量)
である場合に、フラグを立てる。
評価値比較部468は、N番目のフレームの撮像信号のラインmの評価値L’mがN−1番目のフレームの撮像信号のラインmの評価値Lmと比較して予め適切に設定された所定量よりも小さい場合、すなわち、
(ライン評価値Lm)−(ライン評価値L’m)≧(所定量)
である場合に、フラグを立てる。
(ライン評価値L’m−a)−(ライン評価値Lm−a)≧(所定量)
である場合に、フラグを立てる。
評価値比較部468は、N番目のフレームの撮像信号のラインmの評価値L’mがN−1番目のフレームの撮像信号のラインmの評価値Lmと比較して予め適切に設定された所定量よりも小さい場合、すなわち、
(ライン評価値Lm)−(ライン評価値L’m)≧(所定量)
である場合に、フラグを立てる。
フレーム判定情報生成部469は、上記3つのフラグが全て立っている場合に、N−1番目およびN番目のフレームの撮像信号に外部閃光の影響があると判断してフレーム判定情報を生成し、生成したフレーム判定情報をフラッシュ補正処理部5に出力する。
そして、図16に示すフラッシュ補正処理部5は、フレーム判定部46が出力するフレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
≪外部閃光が2回入る場合≫
次に、撮像装置5000に、外部閃光が2フレーム期間内に2回入る場合の撮像装置5000の動作について、説明する。
N番目のフレームを撮像している途中に外部閃光が発光され、撮像信号にその影響がある間に、さらに外部閃光が発光された場合には、図20に示すように、撮像部1から出力される撮像信号には、N−1番目のフレームの画像の下部、N番目のフレームの画面全体、およびN+1番目のフレームの画像の上部に、3フレームに亘って白帯状の妨害が発生する。
そして、図16に示すフラッシュ補正処理部5は、フレーム判定部46が出力するフレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
≪外部閃光が2回入る場合≫
次に、撮像装置5000に、外部閃光が2フレーム期間内に2回入る場合の撮像装置5000の動作について、説明する。
N番目のフレームを撮像している途中に外部閃光が発光され、撮像信号にその影響がある間に、さらに外部閃光が発光された場合には、図20に示すように、撮像部1から出力される撮像信号には、N−1番目のフレームの画像の下部、N番目のフレームの画面全体、およびN+1番目のフレームの画像の上部に、3フレームに亘って白帯状の妨害が発生する。
図20に示すように、N−1番目のフレームでは、m−aライン目までは殆ど外部閃光の影響を受けず、mライン目以降は外部閃光のほぼ全光量の影響を受け、その間のラインは背景技術で説明した、徐々に蓄積光量が増加するトランジェント期間となっている。
N番目のフレームでは、最初の外部閃光による影響が終了し始めるm−aライン目を読み出す前に、次の外部閃光が発光するため、画面の途中から外部閃光の影響が終了することはない(外部閃光の影響が無くなることない)。
N+1番目のフレームでは、m−aラインよりも前のライン(図20に示すラインL1)までは、外部閃光のほぼ全光量の影響を受け、mライン目よりも前のライン(図20に示すラインL2)で外部閃光の影響は終了している(外部閃光の影響が無くなる)。
この場合においても、本実施形態の撮像装置5000では、図16に示すフレーム判定部46以外の部分は、前述の場合と同様に動作する。
N番目のフレームでは、最初の外部閃光による影響が終了し始めるm−aライン目を読み出す前に、次の外部閃光が発光するため、画面の途中から外部閃光の影響が終了することはない(外部閃光の影響が無くなることない)。
N+1番目のフレームでは、m−aラインよりも前のライン(図20に示すラインL1)までは、外部閃光のほぼ全光量の影響を受け、mライン目よりも前のライン(図20に示すラインL2)で外部閃光の影響は終了している(外部閃光の影響が無くなる)。
この場合においても、本実施形態の撮像装置5000では、図16に示すフレーム判定部46以外の部分は、前述の場合と同様に動作する。
図16に示す撮像部1からN−1番目のフレームの撮像信号が入力されたときに、ライン判定部45には、前述と同様にライン位置情報m、ラインmおよびラインm−aのライン評価値LmおよびLm−aが記憶される。
N番目のフレームの撮像信号が入力されたとき、フレーム判定部46は、ライン判定部45から入力されたライン位置情報mを基に、図18の各部が、前述と同様に動作するが、N番目のフレームでは、画面の途中からライン評価値が所定値以上減少することはないため、評価値比較部467のみがフラグを立てる。この場合、フレーム判定情報生成部469は、N−1番目のフレームの撮像信号に外部閃光の影響が開始されたと判断し、N番目のフレームの撮像信号では外部閃光の影響が継続していると判断してフレーム判定情報を出力する。
N番目のフレームの撮像信号が入力されたとき、フレーム判定部46は、ライン判定部45から入力されたライン位置情報mを基に、図18の各部が、前述と同様に動作するが、N番目のフレームでは、画面の途中からライン評価値が所定値以上減少することはないため、評価値比較部467のみがフラグを立てる。この場合、フレーム判定情報生成部469は、N−1番目のフレームの撮像信号に外部閃光の影響が開始されたと判断し、N番目のフレームの撮像信号では外部閃光の影響が継続していると判断してフレーム判定情報を出力する。
N+1番目のフレームの撮像信号が入力されたとき、フレーム判定部46は、ライン判定部45から入力されたライン位置情報mを基に、図18の各部が前述と同様に動作するが、N+1番目のフレームでは、ラインmよりも前のラインでライン評価値が減少するため(図20のラインL1からライン評価値が減少し始めるため)、評価値比較部468がフラグを立てる。つまり、N+1番目のフレームのラインmのタイミングにおいて、評価値比較部468は、フラグを立てる。
この場合、フレーム判定情報生成部469は、N+1番目のフレームの撮像信号への外部閃光の影響が終了したと判断してフレーム判定情報を出力する。
つまり、撮像装置5000では、図20に示す、外部閃光が2フレーム期間内に2回入る場合、図20に示すA点(N−1番目のフレームのラインm−a)からB点(N+1番目のフレームのラインm)までの期間を、外部閃光の影響ありの期間として、検出することができる。
この場合、フレーム判定情報生成部469は、N+1番目のフレームの撮像信号への外部閃光の影響が終了したと判断してフレーム判定情報を出力する。
つまり、撮像装置5000では、図20に示す、外部閃光が2フレーム期間内に2回入る場合、図20に示すA点(N−1番目のフレームのラインm−a)からB点(N+1番目のフレームのラインm)までの期間を、外部閃光の影響ありの期間として、検出することができる。
そして、図16に示すフラッシュ補正処理部5は、フレーム判定部46が出力するフレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
≪N−1番目フレームの最下位ラインの走査終了とN番目フレームの撮像信号の最上位ラインの走査開始の間に外部閃光が発光された場合≫
次に、撮像装置5000において、N−1番目のフレームの撮像信号の最下位ラインの走査終了とN番目のフレームの撮像信号の最上位ラインの走査開始の間に外部閃光が発光された場合の撮像装置5000の動作について、説明する。
N−1番目のフレームの撮像信号の最下位ラインの走査終了とN番目のフレームの撮像信号の最上位ラインの走査開始の間に外部閃光が発光された場合には、図21に示すように、撮像部1から出力される撮像信号には、N番目のフレームの画面全体にのみ白帯状の妨害が発生する。
≪N−1番目フレームの最下位ラインの走査終了とN番目フレームの撮像信号の最上位ラインの走査開始の間に外部閃光が発光された場合≫
次に、撮像装置5000において、N−1番目のフレームの撮像信号の最下位ラインの走査終了とN番目のフレームの撮像信号の最上位ラインの走査開始の間に外部閃光が発光された場合の撮像装置5000の動作について、説明する。
N−1番目のフレームの撮像信号の最下位ラインの走査終了とN番目のフレームの撮像信号の最上位ラインの走査開始の間に外部閃光が発光された場合には、図21に示すように、撮像部1から出力される撮像信号には、N番目のフレームの画面全体にのみ白帯状の妨害が発生する。
このような場合、本実施形態の撮像装置5000では、図16に示すライン判定部45が、外部閃光の影響を示すラインを検出および記憶することはなく、フレーム判定部46は、外部閃光の影響があることを示すフレーム判定情報は出力しない。このため、フラッシュ補正処理部5は、撮像信号に対して、外部閃光の影響を除去または抑制する処理を行わない。しかし、この場合、撮像装置5000による撮像画像の画面全体が一様に白くなり、撮像素子をCCDイメージセンサとした撮像装置で撮像した場合のように、かえって自然な画像となるため、撮像装置5000では、特に処理を行う必要はない。
なお、本実施形態の撮像装置5000、ライン判定部45およびフレーム判定部46について、図16、図17および図18を用いて説明したが、発明の要旨を逸脱しない範囲で適宜他の構成をとり得ることは言うまでもない。
なお、本実施形態の撮像装置5000、ライン判定部45およびフレーム判定部46について、図16、図17および図18を用いて説明したが、発明の要旨を逸脱しない範囲で適宜他の構成をとり得ることは言うまでもない。
なお、本実施形態において、各ラインの評価値を撮像信号の輝度レベルとしたが、これに限定されることはなく、外部閃光の影響の有無により変化するものであれば、例えば、撮像信号の色成分や周波数成分あるいはSN比(Signal to Noise Ratio)など、他の信号成分や値を評価値としても構わない。
以上のように、本実施形態の撮像装置5000では、最初にライン方向の評価値(ライン評価値)の急峻な変化を検出することで、着目すべきラインを特定し、以降はその特定したラインのみを監視することで、外部閃光の影響を受けている部分(撮像信号)を適切に検出することができる。つまり、撮像装置5000では、外部閃光が発光されるタイミングがどのようなタイミングであっても(どのラインから外部閃光の影響があった場合でも)、記憶する必要があるのはライン位置とライン評価値のみであるため、フレームメモリ等を必要とせず、フレーム間の評価値(ライン評価値)の比較ができ、また、画像のライン方向とフレーム方向の両方の評価値(ライン評価値)の変化の規則性を利用することで、より確実に外部閃光の影響の有無を判定することができる。
以上のように、本実施形態の撮像装置5000では、最初にライン方向の評価値(ライン評価値)の急峻な変化を検出することで、着目すべきラインを特定し、以降はその特定したラインのみを監視することで、外部閃光の影響を受けている部分(撮像信号)を適切に検出することができる。つまり、撮像装置5000では、外部閃光が発光されるタイミングがどのようなタイミングであっても(どのラインから外部閃光の影響があった場合でも)、記憶する必要があるのはライン位置とライン評価値のみであるため、フレームメモリ等を必要とせず、フレーム間の評価値(ライン評価値)の比較ができ、また、画像のライン方向とフレーム方向の両方の評価値(ライン評価値)の変化の規則性を利用することで、より確実に外部閃光の影響の有無を判定することができる。
[第6実施形態]
次に、第6実施形態について、説明する。
図16、図17および図18は、第6実施形態の撮像装置、ライン判定部およびフレーム判定部の概略構成をも示す図である。図16、図17および図18の各部の基本的な構成および動作については、第5実施形態で説明したものと同様であるため、ここでは相違部分について主に説明する。
図16において、撮像部1は、原色信号G(緑)、B(青)およびR(赤)の3チャンネルのCMOSイメージセンサ等を用いる撮像素子で構成され、被写体を撮像して、3チャンネルの撮像信号を出力する。
ライン評価値算出部44は、各フレームにおいて、3チャンネルの撮像信号の各ラインの平均信号レベル等から、それぞれ独立に、各ラインのライン評価値LGn、LBnおよびLRn(nはライン位置)を算出する。
次に、第6実施形態について、説明する。
図16、図17および図18は、第6実施形態の撮像装置、ライン判定部およびフレーム判定部の概略構成をも示す図である。図16、図17および図18の各部の基本的な構成および動作については、第5実施形態で説明したものと同様であるため、ここでは相違部分について主に説明する。
図16において、撮像部1は、原色信号G(緑)、B(青)およびR(赤)の3チャンネルのCMOSイメージセンサ等を用いる撮像素子で構成され、被写体を撮像して、3チャンネルの撮像信号を出力する。
ライン評価値算出部44は、各フレームにおいて、3チャンネルの撮像信号の各ラインの平均信号レベル等から、それぞれ独立に、各ラインのライン評価値LGn、LBnおよびLRn(nはライン位置)を算出する。
ライン判定部45は、aライン前(aは正整数)のライン評価値と比較して3チャンネルのライン評価値が、全て、各々の所定量以上増加するラインm(mはライン位置)を検出して、ライン位置情報mと、ラインmおよびaライン前のラインm−aのライン評価値LGm、LBm、LRmおよびLGm−a、LBm−a、LRm−aを、一時的に記憶する。
フレーム判定部46は、ライン判定部45に記憶されたライン位置情報mに対して、ライン判定部45に記憶されたラインmおよびラインm−aのライン評価値LGm、LBm、LRmおよびLGm−a、LBm−a、LRm−aと、以降のフレームの撮像信号のラインmおよびラインm−aの評価値LG’m、LB’m、LR’mおよびLG’m−a、LB’m−a、LR’m−aと、をライン間またはフレーム間で比較することにより、各フレームに外部閃光の影響があるか否かを判断して結果を示すフレーム判定情報を出力する。
フレーム判定部46は、ライン判定部45に記憶されたライン位置情報mに対して、ライン判定部45に記憶されたラインmおよびラインm−aのライン評価値LGm、LBm、LRmおよびLGm−a、LBm−a、LRm−aと、以降のフレームの撮像信号のラインmおよびラインm−aの評価値LG’m、LB’m、LR’mおよびLG’m−a、LB’m−a、LR’m−aと、をライン間またはフレーム間で比較することにより、各フレームに外部閃光の影響があるか否かを判断して結果を示すフレーム判定情報を出力する。
フラッシュ補正処理部5は、フレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
図17は、図16のライン判定部45の概略構成を示す図である。
評価値シフトレジスタ部451は、a個のフリップフロップ等で構成されたシフトレジスタであり、図16のライン評価値算出部44において算出された各ラインのライン評価値LGn、LBnおよびLRnが入力され、水平同期パルスに従って、1ライン毎に次段のレジスタに転送される。
評価値比較部452は、各ライン毎に、aライン前のラインの3チャンネルのライン評価値と比較して、全て各々の所定量以上大きければ、トリガパルスを発生する。
ライン位置記憶部454は、評価値比較部452が発生したトリガパルスに従って、ラインカウンタ453のカウンタ値すなわちラインmおよびラインm−aのライン評価値LGm、LBm、LRmおよびLGm−a、LBm−a、LRm−aが、前述の条件を満たすライン位置情報mを一時的に記憶する。
図17は、図16のライン判定部45の概略構成を示す図である。
評価値シフトレジスタ部451は、a個のフリップフロップ等で構成されたシフトレジスタであり、図16のライン評価値算出部44において算出された各ラインのライン評価値LGn、LBnおよびLRnが入力され、水平同期パルスに従って、1ライン毎に次段のレジスタに転送される。
評価値比較部452は、各ライン毎に、aライン前のラインの3チャンネルのライン評価値と比較して、全て各々の所定量以上大きければ、トリガパルスを発生する。
ライン位置記憶部454は、評価値比較部452が発生したトリガパルスに従って、ラインカウンタ453のカウンタ値すなわちラインmおよびラインm−aのライン評価値LGm、LBm、LRmおよびLGm−a、LBm−a、LRm−aが、前述の条件を満たすライン位置情報mを一時的に記憶する。
ライン評価値記憶部455および456は、同様に、トリガパルスに従って、ラインmおよびラインm−aのライン評価値LGm、LBm、LRmおよびLGm−a、LBm−a、LRm−aを一時的に記憶する。
図18は、図16のフレーム判定部46の概略構成を示す図である。
カウンタ値比較部462および463は、図16のライン判定部45に記憶されているライン位置情報mに対して、ラインカウンタ461のカウンタ値が、各々mおよびm−aとなるタイミングでトリガパルスを発生させる。
ライン評価値記憶部464および465は、図16のライン評価値算出部44において算出された各ラインのライン評価値LGn、LBnおよびLRnを入力とし、各々カウンタ値比較部462および463が発生するトリガパルスに従って、ラインmおよびラインm−aのライン評価値LG’m、LB’m、LR’mおよびLG’m−a、LB’m−a、LR’m−aを一時的に記憶する。
図18は、図16のフレーム判定部46の概略構成を示す図である。
カウンタ値比較部462および463は、図16のライン判定部45に記憶されているライン位置情報mに対して、ラインカウンタ461のカウンタ値が、各々mおよびm−aとなるタイミングでトリガパルスを発生させる。
ライン評価値記憶部464および465は、図16のライン評価値算出部44において算出された各ラインのライン評価値LGn、LBnおよびLRnを入力とし、各々カウンタ値比較部462および463が発生するトリガパルスに従って、ラインmおよびラインm−aのライン評価値LG’m、LB’m、LR’mおよびLG’m−a、LB’m−a、LR’m−aを一時的に記憶する。
評価値比較部466、467および468は、ライン評価値記憶部464および465に記憶されているライン評価値LG’m、LB’m、LR’mおよびLG’m−a、LB’m−a、LR’m−aと、図16のライン判定部45に記憶されているラインmおよびラインm−aの評価値LGm、LBm、LRmおよびLGm−a、LBm−a、LRm−aを、各々比較して、全てのチャンネルのライン評価値が所定の条件を満たす場合にフラグを立てる。所定の条件については、第5実施形態で説明したものと同様である。ただし、本実施形態では、R、G、Bの3チャンネル分について、ライン評価値が所定の条件により判断される点が、第5実施形態とは異なる。
フレーム判定情報生成部469は、評価値比較部466、467および468が発生したフラグが、所定の条件を満たす場合に、フレーム判定情報を生成し、いずれのフラグも立たない場合には、外部閃光の影響については、基本的に前フレームの状態が継続しているものと判断する。
フレーム判定情報生成部469は、評価値比較部466、467および468が発生したフラグが、所定の条件を満たす場合に、フレーム判定情報を生成し、いずれのフラグも立たない場合には、外部閃光の影響については、基本的に前フレームの状態が継続しているものと判断する。
本実施形態の撮像装置において、第5実施形態の撮像装置5000との相違点は、ライン評価値を原色信号G、BおよびRの3チャンネルから算出する点、そして、ライン判定部45およびフレーム判定部46の評価値比較部で、外部閃光の影響があると判断されるのは、3チャンネルのライン評価値全てが同時に所定の条件を満たす場合とする点である。第6実施形態の撮像装置において、図19、図20および図21に示すタイミングで外部閃光が発光された場合の動作については、上記以外は第5実施形態で説明したのと同様である。外部閃光の影響は、原色信号の全てのチャンネルの撮像信号に対して、同じタイミングで開始および終了するため、本実施形態の撮像装置では、被写体の種類によらず外部閃光の影響の有無をより確実に判断することが可能となる。
なお、本実施形態の撮像装置、ライン判定部およびフレーム判定部について、図16、図17および図18を用いて説明したが、発明の要旨を逸脱しない範囲で適宜他の構成をとり得ることは言うまでもない。
なお、本実施形態の撮像装置、ライン判定部およびフレーム判定部について、図16、図17および図18を用いて説明したが、発明の要旨を逸脱しない範囲で適宜他の構成をとり得ることは言うまでもない。
なお、本実施形態において、各ラインの評価値を原色信号G、BおよびRの信号レベルとしたが、これに限定されることはなく、外部閃光の影響の有無により変化するものであれば、例えば、撮像信号の色成分や周波数成分あるいはSN比など、他の信号成分や値を評価値としても構わない。
また、上記では、RGB3チャンネル分の撮像信号に対して、本発明を適用する場合について説明したが、これに限定されることはなく、例えば、減色系の成分であるイエロー、マジェンタ、シアンに、それぞれ対応する3チャンネル分の撮像信号に対して、本発明を適用してもよい。さらに、4チャンネル分(例えば、Rチャンネル、G1チャンネル、G2チャンネル、Bチャンネル)や、それ以上のチャンネル数の撮像信号に対して、本発明を適用するようにしてもよい。
また、上記では、RGB3チャンネル分の撮像信号に対して、本発明を適用する場合について説明したが、これに限定されることはなく、例えば、減色系の成分であるイエロー、マジェンタ、シアンに、それぞれ対応する3チャンネル分の撮像信号に対して、本発明を適用してもよい。さらに、4チャンネル分(例えば、Rチャンネル、G1チャンネル、G2チャンネル、Bチャンネル)や、それ以上のチャンネル数の撮像信号に対して、本発明を適用するようにしてもよい。
以上のように、本実施形態の撮像装置では、最初にライン方向の評価値(ライン評価値)の急峻な変化を検出することで、着目すべきラインを特定し、以降はその特定したラインのみを監視することで、外部閃光の影響を受けている部分(撮像信号)を適切に検出することができる。つまり、本実施形態の撮像装置では、外部閃光が発光されるタイミングがどのようなものであっても(どのラインから影響があった場合でも)、記憶する必要があるのはライン位置とライン評価値のみであるため、フレームメモリ等を必要とせず、フレーム間の評価値(ライン評価値)の比較ができ、さらに、複数チャンネルの撮像信号のライン評価値を利用することで外部閃光の影響の誤検出を抑制し、また、画像のライン方向とフレーム方向の両方の評価値(ライン評価値)の変化の規則性を利用することで、より確実に外部閃光の影響の有無を判定することができる。
[第7実施形態]
次に、第7実施形態について、説明する。
<7.1:撮像装置の構成>
図22は、第7実施形態の撮像装置7000の概略構成を示す図である。
図22に示すように、撮像装置7000は、撮像部1と、検出部4Bと、フラッシュ補正処理部5とを備える。そして、検出部4Bは、ライン評価値算出部44と、ライン増加判定部47と、ライン減少判定部48と、フレーム判定部49と、を備える。なお、前述の実施形態と同様の部分については、同じ符号を付し、詳細な説明を省略する。
ライン増加判定部47は、aライン前(aは正整数)のライン評価値と比較してライン評価値が所定量以上増加するラインm1(m1はライン位置)を検出してフラグを立てる。すなわち、ライン増加判定部47は、
(ライン評価値Ln)−(ライン評価値Ln−a)≧(所定量)
である場合、フラグを立てる。
次に、第7実施形態について、説明する。
<7.1:撮像装置の構成>
図22は、第7実施形態の撮像装置7000の概略構成を示す図である。
図22に示すように、撮像装置7000は、撮像部1と、検出部4Bと、フラッシュ補正処理部5とを備える。そして、検出部4Bは、ライン評価値算出部44と、ライン増加判定部47と、ライン減少判定部48と、フレーム判定部49と、を備える。なお、前述の実施形態と同様の部分については、同じ符号を付し、詳細な説明を省略する。
ライン増加判定部47は、aライン前(aは正整数)のライン評価値と比較してライン評価値が所定量以上増加するラインm1(m1はライン位置)を検出してフラグを立てる。すなわち、ライン増加判定部47は、
(ライン評価値Ln)−(ライン評価値Ln−a)≧(所定量)
である場合、フラグを立てる。
ライン減少判定部48は、bライン前(bは正整数)のライン評価値と比較してライン評価値が所定量以上減少するラインm2(m2はライン位置)を検出してフラグを立てる。すなわち、ライン減少判定部48は、
(ライン評価値Ln−b)−(ライン評価値Ln)≧(所定量)
である場合、フラグを立てる。
フレーム判定部49は、ライン増加判定部47から出力されるフラグが立ったときに、そのフレームの撮像信号への外部閃光の影響が開始され、ライン減少判定部48から出力されるフラグが立ったときに、そのフレームの撮像信号への外部閃光の影響が終了したと判断して、その判断結果を示すフレーム判定情報を、フラッシュ補正処理部5に出力する。
(ライン評価値Ln−b)−(ライン評価値Ln)≧(所定量)
である場合、フラグを立てる。
フレーム判定部49は、ライン増加判定部47から出力されるフラグが立ったときに、そのフレームの撮像信号への外部閃光の影響が開始され、ライン減少判定部48から出力されるフラグが立ったときに、そのフレームの撮像信号への外部閃光の影響が終了したと判断して、その判断結果を示すフレーム判定情報を、フラッシュ補正処理部5に出力する。
(7.1.1:ライン増加判定部47の概略構成)
図23は、ライン増加判定部47の概略構成を示す図である。
図23に示すように、ライン増加判定部47は、評価値シフトレジスタ部471と、評価値比較部472と、を有する。
評価値シフトレジスタ部471は、図17の評価値シフトレジスタ部451と同様に動作する。
評価値比較部472は、各ライン毎に、処理対象となっているラインのライン評価値が、aライン前のラインのライン評価値と比較して所定量以上大きければフラグを立てる。
(7.1.2:ライン減少判定部48の概略構成)
図24は、ライン減少判定部48の概略構成を示す図である。
図23は、ライン増加判定部47の概略構成を示す図である。
図23に示すように、ライン増加判定部47は、評価値シフトレジスタ部471と、評価値比較部472と、を有する。
評価値シフトレジスタ部471は、図17の評価値シフトレジスタ部451と同様に動作する。
評価値比較部472は、各ライン毎に、処理対象となっているラインのライン評価値が、aライン前のラインのライン評価値と比較して所定量以上大きければフラグを立てる。
(7.1.2:ライン減少判定部48の概略構成)
図24は、ライン減少判定部48の概略構成を示す図である。
図24に示すように、ライン減少判定部48は、評価値シフトレジスタ部481と、評価値比較部482とを有する。
評価値シフトレジスタ部481は、図17の評価値シフトレジスタ部451と同様に動作する。
評価値比較部482は、各ライン毎に、処理対象となっているラインのライン評価値が、bライン前のラインのライン評価値と比較して所定量以上小さければフラグを立てる。
<7.2:撮像装置の動作>
以下、第7実施形態の撮像装置7000の動作について、図22から図24、および図19から図21を用いて説明する。
撮像装置7000に、図19に示すようなタイミングで外部閃光が発光された場合、ライン増加判定部47では、ライン評価値算出部44から入力された評価値Lnが、図23に示す評価値シフトレジスタ部471に入力されて、次段のレジスタに1ライン毎に順次シフトされる。
評価値シフトレジスタ部481は、図17の評価値シフトレジスタ部451と同様に動作する。
評価値比較部482は、各ライン毎に、処理対象となっているラインのライン評価値が、bライン前のラインのライン評価値と比較して所定量以上小さければフラグを立てる。
<7.2:撮像装置の動作>
以下、第7実施形態の撮像装置7000の動作について、図22から図24、および図19から図21を用いて説明する。
撮像装置7000に、図19に示すようなタイミングで外部閃光が発光された場合、ライン増加判定部47では、ライン評価値算出部44から入力された評価値Lnが、図23に示す評価値シフトレジスタ部471に入力されて、次段のレジスタに1ライン毎に順次シフトされる。
評価値比較部472では、外部閃光の影響がない期間は、入力される2ラインのライン評価値の差は、予め適切に設定された所定量よりも小さいが、図19に示すN−1番目のフレームの撮像信号のラインm(ここでは、ラインm1とする)のライン評価値Lm1が入力されたときに、評価値比較部472に入力されるラインm1のライン評価値Lm1は、ラインm1−aのライン評価値Lm1−aと比較して所定値よりも大きくなる。このため、この時点において、評価値比較部472は、外部閃光の影響が開始されたものとしてフラグ(ライン増加フラグ)を立てる。
そして、フレーム判定部49は、このフラグ(ライン増加フラグ)に従って、N−1番目のフレームの撮像信号への外部閃光の影響が開始されたと判断して、フレーム判定情報を発生させる。
そして、フレーム判定部49は、このフラグ(ライン増加フラグ)に従って、N−1番目のフレームの撮像信号への外部閃光の影響が開始されたと判断して、フレーム判定情報を発生させる。
一方、ライン減少判定部48では、ライン評価値算出部44から入力された評価値Lnが、図24に示す評価値シフトレジスタ部481に入力されて、次段のレジスタに1ライン毎に順次シフトされる。
評価値比較部482では、図19に示すN番目のフレームの撮像信号のラインm(ここでは、ラインm2とする)のライン評価値Lm2が入力されたときに、評価値比較部482に入力されるラインm2のライン評価値Lm2は、ラインm2−bのライン評価値Lm2−bと比較して所定値よりも小さくなるため、外部閃光の影響が終了したものとしてフラグ(ライン減少フラグ)を立てる。
そして、フレーム判定部49は、このフラグ(ライン減少フラグ)に従って、N番目のフレームの撮像信号への外部閃光の影響が終了したと判断して、フレーム判定情報を発生させる。
評価値比較部482では、図19に示すN番目のフレームの撮像信号のラインm(ここでは、ラインm2とする)のライン評価値Lm2が入力されたときに、評価値比較部482に入力されるラインm2のライン評価値Lm2は、ラインm2−bのライン評価値Lm2−bと比較して所定値よりも小さくなるため、外部閃光の影響が終了したものとしてフラグ(ライン減少フラグ)を立てる。
そして、フレーム判定部49は、このフラグ(ライン減少フラグ)に従って、N番目のフレームの撮像信号への外部閃光の影響が終了したと判断して、フレーム判定情報を発生させる。
図19に示すようなタイミングで外部閃光が発光された場合には、通常、ライン位置情報m1とm2は、同じラインとなる。
そして、図22に示すフラッシュ補正処理部5は、フレーム判定部49が出力するフレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
図20に示すようなタイミングで外部閃光が発光された場合も同様に、ライン増加判定部47は、N−1番目のフレームの撮像信号が入力されたとき、評価値比較部472では、ラインm(ここでは、ラインm1とする)のライン評価値Lm1が入力されたときにフラグ(ライン増加フラグ)を立てる。
そして、フレーム判定部49は、このフラグ(ライン増加フラグ)に従って、N−1番目のフレームの撮像信号への外部閃光の影響が開始されたと判断して、フレーム判定情報を発生させる。
そして、図22に示すフラッシュ補正処理部5は、フレーム判定部49が出力するフレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
図20に示すようなタイミングで外部閃光が発光された場合も同様に、ライン増加判定部47は、N−1番目のフレームの撮像信号が入力されたとき、評価値比較部472では、ラインm(ここでは、ラインm1とする)のライン評価値Lm1が入力されたときにフラグ(ライン増加フラグ)を立てる。
そして、フレーム判定部49は、このフラグ(ライン増加フラグ)に従って、N−1番目のフレームの撮像信号への外部閃光の影響が開始されたと判断して、フレーム判定情報を発生させる。
一方、ライン減少判定部48は、N+1番目のフレームの撮像信号が入力されたとき、評価値比較部482では、ラインm(ここでは、ラインm1とする)よりも前のラインm2のライン評価値Lm2が入力されたときに、それよりもbライン前のラインのライン評価値Lm2−bと比較して所定値よりも小さくなるため、外部閃光の影響が終了したものとしてフラグ(ライン減少フラグ)を立てる。
そして、フレーム判定部49は、このフラグ(ライン減少フラグ)に従って、N+1番目のフレームの撮像信号への外部閃光の影響が終了したと判断して、フレーム判定情報を発生させる。
図20に示すようなタイミングで外部閃光が発光された場合には、通常、ライン位置情報m2は、m1よりも前のラインとなる。
そして、フレーム判定部49は、このフラグ(ライン減少フラグ)に従って、N+1番目のフレームの撮像信号への外部閃光の影響が終了したと判断して、フレーム判定情報を発生させる。
図20に示すようなタイミングで外部閃光が発光された場合には、通常、ライン位置情報m2は、m1よりも前のラインとなる。
そして、図22に示すフラッシュ補正処理部5は、フレーム判定部49が出力するフレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
図21に示すようなタイミングで外部閃光が発光された場合には、本実施形態の撮像装置7000では、ライン増加判定部47およびライン減少判定部48が外部閃光の影響を示すラインを検出することはなく、フレーム判定部49は、外部閃光の影響があることを示すフレーム判定情報は出力しない。このため、撮像装置7000では、フラッシュ補正処理部5は、撮像信号に対して外部閃光の影響を除去または抑制する処理を行わない。しかし、この場合、撮像装置7000による撮像画像の画面全体が一様に白くなり、撮像素子をCCDイメージセンサとした撮像装置で撮像した場合のように、かえって自然な画像となるため、撮像装置7000では、特に処理を行う必要はない。
図21に示すようなタイミングで外部閃光が発光された場合には、本実施形態の撮像装置7000では、ライン増加判定部47およびライン減少判定部48が外部閃光の影響を示すラインを検出することはなく、フレーム判定部49は、外部閃光の影響があることを示すフレーム判定情報は出力しない。このため、撮像装置7000では、フラッシュ補正処理部5は、撮像信号に対して外部閃光の影響を除去または抑制する処理を行わない。しかし、この場合、撮像装置7000による撮像画像の画面全体が一様に白くなり、撮像素子をCCDイメージセンサとした撮像装置で撮像した場合のように、かえって自然な画像となるため、撮像装置7000では、特に処理を行う必要はない。
なお、本実施形態の撮像装置、ライン増加判定部およびライン減少判定部について、図22、図23および図24を用いて説明したが、発明の要旨を逸脱しない範囲で適宜他の構成をとり得ることは言うまでもない。
なお、本実施形態において、各ラインの評価値を撮像信号の輝度レベルとしたが、これに限定されることはなく、外部閃光の影響の有無により変化するものであれば、例えば、撮像信号の色成分や周波数成分あるいはSN比(Signal to Noise Ratio)など、他の信号成分や値を評価値としても構わない。
以上のように、本実施形態の撮像装置7000では、ライン方向の評価値(ライン評価値)の急峻な増加を検出することで、外部閃光の影響が開始されるフレームを検出し、ライン方向の評価値(ライン評価値)の急峻な減少を検出することで、外部閃光の影響が終了するフレームを検出する。これにより、撮像装置7000では、外部閃光が発光されるタイミングがどのようなタイミングであっても(どのラインから外部閃光の影響があった場合でも)、フレームメモリ等を必要とせず、また、前のフレームの評価値が不要なことから外部閃光の影響の有無の判定にフレーム遅延が発生せず、また、同一フレーム内で外部閃光の影響の有無を判定できる。このため、撮像装置7000では、撮像装置のアイリスなどの設定条件に左右されずに、外部閃光の影響の有無を判定することができる。
なお、本実施形態において、各ラインの評価値を撮像信号の輝度レベルとしたが、これに限定されることはなく、外部閃光の影響の有無により変化するものであれば、例えば、撮像信号の色成分や周波数成分あるいはSN比(Signal to Noise Ratio)など、他の信号成分や値を評価値としても構わない。
以上のように、本実施形態の撮像装置7000では、ライン方向の評価値(ライン評価値)の急峻な増加を検出することで、外部閃光の影響が開始されるフレームを検出し、ライン方向の評価値(ライン評価値)の急峻な減少を検出することで、外部閃光の影響が終了するフレームを検出する。これにより、撮像装置7000では、外部閃光が発光されるタイミングがどのようなタイミングであっても(どのラインから外部閃光の影響があった場合でも)、フレームメモリ等を必要とせず、また、前のフレームの評価値が不要なことから外部閃光の影響の有無の判定にフレーム遅延が発生せず、また、同一フレーム内で外部閃光の影響の有無を判定できる。このため、撮像装置7000では、撮像装置のアイリスなどの設定条件に左右されずに、外部閃光の影響の有無を判定することができる。
[第8実施形態]
次に、第8実施形態について、説明する。
図22、図23および図24は本発明の第8実施形態の撮像装置、ライン増加判定部およびライン減少判定部の概略構成をも示す図である。図22、図23および図24の各部の基本的な構成および動作については第7実施形態で説明したものと同様であるため、ここでは相違部分について主に説明する。
図22において、撮像部1は、原色信号G(緑)、B(青)およびR(赤)の3チャンネルのCMOSイメージセンサ等を用いる撮像素子で構成され、被写体を撮像して、3チャンネルの撮像信号を出力する。
ライン評価値算出部44は、各フレームにおいて、3チャンネルの撮像信号の各ラインの平均信号レベル等から、それぞれ独立に、各ラインの評価値LGn、LBnおよびLRn(nはライン位置)を算出する。
次に、第8実施形態について、説明する。
図22、図23および図24は本発明の第8実施形態の撮像装置、ライン増加判定部およびライン減少判定部の概略構成をも示す図である。図22、図23および図24の各部の基本的な構成および動作については第7実施形態で説明したものと同様であるため、ここでは相違部分について主に説明する。
図22において、撮像部1は、原色信号G(緑)、B(青)およびR(赤)の3チャンネルのCMOSイメージセンサ等を用いる撮像素子で構成され、被写体を撮像して、3チャンネルの撮像信号を出力する。
ライン評価値算出部44は、各フレームにおいて、3チャンネルの撮像信号の各ラインの平均信号レベル等から、それぞれ独立に、各ラインの評価値LGn、LBnおよびLRn(nはライン位置)を算出する。
ライン増加判定部47は、aライン前(aは正整数)のライン評価値と比較して3チャンネルのライン評価値が、全て、各々の所定量以上増加するラインm1(m1はライン位置)を検出して、フラグ(ライン増加フラグ)を立てる。
ライン減少判定部48は、bライン前(bは正整数)のライン評価値と比較して3チャンネルのライン評価値が、全て、各々の所定量以上減少するラインm2(m2はライン位置)を検出して、フラグ(ライン減少フラグ)を立てる。
フレーム判定部49は、ライン増加判定部47から出力されるフラグ(ライン増加フラグ)が立ったときに、そのフレームの撮像信号への外部閃光の影響が開始され、ライン減少判定部48から出力されるフラグ(ライン減少フラグ)が立ったときに、そのフレームの撮像信号への外部閃光の影響が終了したと判断して、判断結果を示すフレーム判定情報を出力する。
ライン減少判定部48は、bライン前(bは正整数)のライン評価値と比較して3チャンネルのライン評価値が、全て、各々の所定量以上減少するラインm2(m2はライン位置)を検出して、フラグ(ライン減少フラグ)を立てる。
フレーム判定部49は、ライン増加判定部47から出力されるフラグ(ライン増加フラグ)が立ったときに、そのフレームの撮像信号への外部閃光の影響が開始され、ライン減少判定部48から出力されるフラグ(ライン減少フラグ)が立ったときに、そのフレームの撮像信号への外部閃光の影響が終了したと判断して、判断結果を示すフレーム判定情報を出力する。
フレーム判定部49は、ライン増加判定部47およびライン減少判定部48のいずれのフラグも立たない場合には、外部閃光の影響については基本的に前フレームの状態が継続しているものと判断する。
フラッシュ補正処理部5は、フレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
本実施形態の撮像装置において、第7実施形態の撮像装置7000との相違点は、ライン評価値を原色信号G、BおよびRの3チャンネルから算出する点、そして、ライン増加判定部47およびライン減少判定部48の評価値比較部で、外部閃光の影響が開始および終了したと判断されるのは、3チャンネルのライン評価値全てが同時に所定の条件を満たす場合とする点である。図19、図20および図21に示すタイミングで外部閃光が発光された場合の動作については、上記以外は、第7実施形態で説明したのと同様である。外部閃光の影響は原色信号の全てのチャンネルの撮像信号に対して同じタイミングで開始および終了するため、本実施形態の撮像装置では、被写体の種類によらず外部閃光の影響の有無をより確実に判断することが可能となる。
フラッシュ補正処理部5は、フレーム判定情報を基に撮像信号に対して外部閃光の影響を除去または抑制する処理を行う。
本実施形態の撮像装置において、第7実施形態の撮像装置7000との相違点は、ライン評価値を原色信号G、BおよびRの3チャンネルから算出する点、そして、ライン増加判定部47およびライン減少判定部48の評価値比較部で、外部閃光の影響が開始および終了したと判断されるのは、3チャンネルのライン評価値全てが同時に所定の条件を満たす場合とする点である。図19、図20および図21に示すタイミングで外部閃光が発光された場合の動作については、上記以外は、第7実施形態で説明したのと同様である。外部閃光の影響は原色信号の全てのチャンネルの撮像信号に対して同じタイミングで開始および終了するため、本実施形態の撮像装置では、被写体の種類によらず外部閃光の影響の有無をより確実に判断することが可能となる。
なお、本実施形態の撮像装置、ライン増加判定部およびライン減少判定部について、図22、図23および図24を用いて説明したが、発明の要旨を逸脱しない範囲で適宜他の構成をとり得ることは言うまでもない。
なお、本実施形態において、各ラインの評価値を原色信号G、BおよびRの信号レベルとしたが、これに限定されることはなく、外部閃光の影響の有無により変化するものであれば、例えば、撮像信号の色成分や周波数成分あるいはSN比など、他の信号成分や値を評価値としても構わない。
また、上記では、RGB3チャンネル分の撮像信号に対して、本発明を適用する場合について説明したが、これに限定されることはなく、例えば、減色系の成分であるイエロー、マジェンタ、シアンに、それぞれ対応する3チャンネル分の撮像信号に対して、本発明を適用してもよい。さらに、4チャンネル分(例えば、Rチャンネル、G1チャンネル、G2チャンネル、Bチャンネル)や、それ以上のチャンネル数の撮像信号に対して、本発明を適用するようにしてもよい。
なお、本実施形態において、各ラインの評価値を原色信号G、BおよびRの信号レベルとしたが、これに限定されることはなく、外部閃光の影響の有無により変化するものであれば、例えば、撮像信号の色成分や周波数成分あるいはSN比など、他の信号成分や値を評価値としても構わない。
また、上記では、RGB3チャンネル分の撮像信号に対して、本発明を適用する場合について説明したが、これに限定されることはなく、例えば、減色系の成分であるイエロー、マジェンタ、シアンに、それぞれ対応する3チャンネル分の撮像信号に対して、本発明を適用してもよい。さらに、4チャンネル分(例えば、Rチャンネル、G1チャンネル、G2チャンネル、Bチャンネル)や、それ以上のチャンネル数の撮像信号に対して、本発明を適用するようにしてもよい。
以上のように、本実施形態の撮像装置では、ライン方向の評価値(ライン評価値)の急峻な増加を検出することで、外部閃光の影響が開始されるフレームを検出し、ライン方向の評価値の急峻な減少を検出することで、外部閃光の影響が終了するフレームを検出することにより、外部閃光の影響を受けている部分(撮像信号)を適切に検出することができる。つまり、本実施形態の撮像装置では、外部閃光が発光されるタイミングがどのようなものであっても(どのラインから影響があった場合でも)、フレームメモリ等を必要とせず、また、前のフレームの評価値が不要なことから外部閃光の影響の有無の判定にフレーム遅延が発生せず、また、同一フレーム内で外部閃光の影響の有無を判定できる。このため、本実施形態の撮像装置では、撮像装置のアイリスなどの設定条件に左右されず、さらに複数チャンネルの撮像信号の評価値(ライン評価値)を利用することで、外部閃光の影響の誤検出を抑制してより確実に外部閃光の影響の有無を判定することができる。
なお、上記実施形態において、評価値シフトレジスタ部451、471および481は、a個およびb個のフリップフロップで構成され、その出力は、最終段のフリップフロップの出力である場合について説明した。しかし、これに限定されることはなく、例えば、評価値シフトレジスタ部451、471および481を構成する複数のフリップフロップの任意の位置(任意のフリップフロップの出力)から出力される信号(ライン評価値)を、評価値シフトレジスタ部451、471および481の出力とするようにしてもよい。このようにすることで、外部閃光の有無を判定するときのパラメータであるライン数「a」および「b」を変更することができる。
[第9実施形態]
次に、第9実施形態について、図面を参照しながら説明する。
[第9実施形態]
次に、第9実施形態について、図面を参照しながら説明する。
<9.1:撮像装置の構成>
図25に、第9実施形態の撮像装置9000のブロック図(概略構成図)を示す。なお、以下では、説明便宜のため、フィールド単位での処理について説明する。
図25に示すように、撮像装置9000は、被写体を撮像して撮像信号VIを生成する撮像部1と、撮像部1で生成した撮像信号VIから外部閃光の有無をフィールド単位で検出し、検出結果の情報を含む閃光検出信号FDを生成する閃光検出部4Cと、閃光検出部4Cにより生成された閃光検出信号FDに従って外部閃光の影響を受けた撮像部1の出力撮像信号VIを補正するフラッシュ補正処理部5と、を備える。
撮像部1は、CMOS型撮像素子(CMOS型イメージセンサ等)を含み、被写体からの光を集光し、集光した光を光電変換することにより撮像信号VIとして取得する。撮像部1は、取得した撮像信号VIを閃光検出部4Cおよびフラッシュ補正処理部5に出力する。
図25に、第9実施形態の撮像装置9000のブロック図(概略構成図)を示す。なお、以下では、説明便宜のため、フィールド単位での処理について説明する。
図25に示すように、撮像装置9000は、被写体を撮像して撮像信号VIを生成する撮像部1と、撮像部1で生成した撮像信号VIから外部閃光の有無をフィールド単位で検出し、検出結果の情報を含む閃光検出信号FDを生成する閃光検出部4Cと、閃光検出部4Cにより生成された閃光検出信号FDに従って外部閃光の影響を受けた撮像部1の出力撮像信号VIを補正するフラッシュ補正処理部5と、を備える。
撮像部1は、CMOS型撮像素子(CMOS型イメージセンサ等)を含み、被写体からの光を集光し、集光した光を光電変換することにより撮像信号VIとして取得する。撮像部1は、取得した撮像信号VIを閃光検出部4Cおよびフラッシュ補正処理部5に出力する。
閃光検出部4Cは、撮像部1から出力される撮像信号VIを入力とし、撮像信号VIから外部閃光の影響の有無を検出し、画面下部に外部閃光の影響があるときは「1」となり、ないときは「0」となる閃光検出信号FDを生成する。そして、閃光検出部4Cは、生成した閃光検出信号FDをフラッシュ補正処理部5に出力する。
図27は、閃光検出部4Cのより詳細な構成の一例を示す図である。
図27に示すように、閃光検出部4Cは、ブロック平均値算出部301と、ブロック平均値記憶部302と、近傍ブロック差分部303と、乗算部304と、比較部305と、を備える。さらに、閃光検出部4Cは、第1カウンタ部306と、第1比較部307と、第2カウンタ部308と、第2比較部309とを備える。
フラッシュ補正処理部5は、撮像部1から出力される撮像信号VIと、閃光検出部4Cから出力される閃光検出信号FDとを入力とする。フラッシュ補正処理部5は、閃光検出信号FDに基づいて、撮像信号VIに対して、閃光補正処理及びノイズ除去処理を行い、閃光補正処理及びノイズ除去がなされた撮像信号VOを出力する。例えば、図26に示すように「フィールド2」と「フィールド3」にフラッシュ(外部閃光)による明るさの変化がある映像(フィールド画像)が存在するとき、フラッシュ補正処理部5は、この「フィールド2」と「フィールド3」の映像を加算平均する。すなわち、フラッシュ補正処理部5は、フラッシュにより明るくなり信号レベルが「100」(例えば、W100%の信号レベルを「100」とする。)になっている部分と、フラッシュの影響を受けていない信号レベルが「20」の部分を加算平均して、信号レベルが「60」になった映像を生成する。そして、この加算平均した映像を、閃光検出信号FDが1であるフィールドの「フィールド2」とその次のフィールドである「フィールド3」の代わりに撮像信号VOとして出力する。ここで、フラッシュ補正処理部5の処理については本実施形態の主とするところではないので、詳細な説明は省略する。
図27は、閃光検出部4Cのより詳細な構成の一例を示す図である。
図27に示すように、閃光検出部4Cは、ブロック平均値算出部301と、ブロック平均値記憶部302と、近傍ブロック差分部303と、乗算部304と、比較部305と、を備える。さらに、閃光検出部4Cは、第1カウンタ部306と、第1比較部307と、第2カウンタ部308と、第2比較部309とを備える。
フラッシュ補正処理部5は、撮像部1から出力される撮像信号VIと、閃光検出部4Cから出力される閃光検出信号FDとを入力とする。フラッシュ補正処理部5は、閃光検出信号FDに基づいて、撮像信号VIに対して、閃光補正処理及びノイズ除去処理を行い、閃光補正処理及びノイズ除去がなされた撮像信号VOを出力する。例えば、図26に示すように「フィールド2」と「フィールド3」にフラッシュ(外部閃光)による明るさの変化がある映像(フィールド画像)が存在するとき、フラッシュ補正処理部5は、この「フィールド2」と「フィールド3」の映像を加算平均する。すなわち、フラッシュ補正処理部5は、フラッシュにより明るくなり信号レベルが「100」(例えば、W100%の信号レベルを「100」とする。)になっている部分と、フラッシュの影響を受けていない信号レベルが「20」の部分を加算平均して、信号レベルが「60」になった映像を生成する。そして、この加算平均した映像を、閃光検出信号FDが1であるフィールドの「フィールド2」とその次のフィールドである「フィールド3」の代わりに撮像信号VOとして出力する。ここで、フラッシュ補正処理部5の処理については本実施形態の主とするところではないので、詳細な説明は省略する。
<9.2:撮像装置の動作>
以上のように構成された撮像装置9000の動作について、以下、説明する。
撮像部1により取得された撮像信号VIは、閃光検出部4Cのブロック平均値算出部301およびフラッシュ補正処理部5に出力される。
ブロック平均値算出部301では、入力された撮像信号VIにより形成される画像(フィールド画像)を所定の大きさに分割したブロック(図28では、16×24個に分割したブロック)ごとの信号レベルの平均値(ブロックを構成する画素値の平均値)が算出される。そして、ブロック平均値算出部301により算出された各ブロックの平均値は、ブロック平均値記憶部302と、近傍ブロック差分部303とに出力される。
ブロック平均値記憶部302では、ブロック平均値算出部301から出力されるブロック平均値を記憶し、記憶したブロック平均値を、1フィールドに相当する時間(フレーム画像を単位として処理を行う場合は、1フレームに相当する時間)だけ遅延させて、近傍ブロック差分部303に出力する。
以上のように構成された撮像装置9000の動作について、以下、説明する。
撮像部1により取得された撮像信号VIは、閃光検出部4Cのブロック平均値算出部301およびフラッシュ補正処理部5に出力される。
ブロック平均値算出部301では、入力された撮像信号VIにより形成される画像(フィールド画像)を所定の大きさに分割したブロック(図28では、16×24個に分割したブロック)ごとの信号レベルの平均値(ブロックを構成する画素値の平均値)が算出される。そして、ブロック平均値算出部301により算出された各ブロックの平均値は、ブロック平均値記憶部302と、近傍ブロック差分部303とに出力される。
ブロック平均値記憶部302では、ブロック平均値算出部301から出力されるブロック平均値を記憶し、記憶したブロック平均値を、1フィールドに相当する時間(フレーム画像を単位として処理を行う場合は、1フレームに相当する時間)だけ遅延させて、近傍ブロック差分部303に出力する。
近傍ブロック差分部303では、以下の(1)〜(3)の処理が実行される。
(1)近傍ブロック差分部303は、ブロック平均値算出部301から出力される現フィールドの処理対象のブロック(これを「注目ブロック」という。)のブロック平均値A0を取得する。
(2)近傍ブロック差分部303は、ブロック平均値記憶部302から出力される現フィールドの1フィールド前のフィールドにおいて、注目ブロックの周辺ブロックの中で、注目ブロックのブロック平均値A0に最も近い値のブロック平均値を持つブロックを検出し、検出したブロックのブロック平均値を代表平均値RAveとする。
(3)近傍ブロック差分部303は、ブロック差分値Diffを、
Diff=A0−RAve
により算出する。
(1)近傍ブロック差分部303は、ブロック平均値算出部301から出力される現フィールドの処理対象のブロック(これを「注目ブロック」という。)のブロック平均値A0を取得する。
(2)近傍ブロック差分部303は、ブロック平均値記憶部302から出力される現フィールドの1フィールド前のフィールドにおいて、注目ブロックの周辺ブロックの中で、注目ブロックのブロック平均値A0に最も近い値のブロック平均値を持つブロックを検出し、検出したブロックのブロック平均値を代表平均値RAveとする。
(3)近傍ブロック差分部303は、ブロック差分値Diffを、
Diff=A0−RAve
により算出する。
そして、近傍ブロック差分部303により算出されたブロック差分値Diffは、比較部305に出力される。また、近傍ブロック差分部303により取得された代表平均値RAveは、乗算部304に出力される。
乗算部304では、代表平均値RAveに、所定の係数が乗算され、乗算結果がスレッシュ信号Thとして、比較部305に出力される。
比較部305では、近傍ブロック差分部303からブロック差分値Diffが、乗算部304から出力されるスレッシュ信号Thと比較される。具体的には、比較部305は、
Diff>Th
である場合、「1」を、この不等式を満たさない場合、「0」を第1カウンタ部306に出力する。
乗算部304では、代表平均値RAveに、所定の係数が乗算され、乗算結果がスレッシュ信号Thとして、比較部305に出力される。
比較部305では、近傍ブロック差分部303からブロック差分値Diffが、乗算部304から出力されるスレッシュ信号Thと比較される。具体的には、比較部305は、
Diff>Th
である場合、「1」を、この不等式を満たさない場合、「0」を第1カウンタ部306に出力する。
第1カウンタ部306では、カウント対象を、撮像信号VIが形成する画像(フィールド画像)における水平方向1段に含まれる全ブロック(図28では、24ブロック)とし、比較部305から出力される比較結果「1」をカウントする。そして、第1カウンタ部306により取得されたカウント値は、第1比較部307に出力される。なお、第1カウンタ部306は、撮像信号VIが形成する画像(フィールド画像)における水平方向1段に含まれる全ブロック(図28では、24ブロック)についてのカウントが終了したら、カウント値をリセットする。
第1比較部307では、第1カウンタ部306により取得されたカウント値が所定の閾値(例えば、「6」)と比較される。具体的には、第1比較部307は、第1カウンタ部306により取得されたカウント値が所定の閾値以上である場合、「1」を、それ以外の場合は、「0」を、第2カウンタ部308に出力する。
第1比較部307では、第1カウンタ部306により取得されたカウント値が所定の閾値(例えば、「6」)と比較される。具体的には、第1比較部307は、第1カウンタ部306により取得されたカウント値が所定の閾値以上である場合、「1」を、それ以外の場合は、「0」を、第2カウンタ部308に出力する。
第2カウンタ部308では、比較部305から出力される比較結果「1」をカウントする。そして、第2カウンタ部308により取得されたカウント値は、第2比較部309に出力される。なお、第2カウンタ部308は、1フィールド画像の指定エリア(図28では、画面下部8×24ブロック)を対象として、カウント処理が終了したら、カウント値をリセットする。
第2比較部309では、第2カウンタ部308により取得されたカウント値が所定の閾値(例えば、「2」)と比較される。具体的には、第2比較部309は、第2カウンタ部308により取得されたカウント値が所定の閾値以上である場合、「1」を、それ以外の場合は、「0」を、出力する。そして、第2比較部309の比較結果は、次のフィールドの間維持される形でフラッシュ検出結果の信号FDとして閃光検出部4Cからフラッシュ補正処理部5に出力される。
第2比較部309では、第2カウンタ部308により取得されたカウント値が所定の閾値(例えば、「2」)と比較される。具体的には、第2比較部309は、第2カウンタ部308により取得されたカウント値が所定の閾値以上である場合、「1」を、それ以外の場合は、「0」を、出力する。そして、第2比較部309の比較結果は、次のフィールドの間維持される形でフラッシュ検出結果の信号FDとして閃光検出部4Cからフラッシュ補正処理部5に出力される。
≪図26の場合(外部閃光ありの場合)≫
次に、図26の「フィールド1」から「フィールド5」までの撮像信号VIが、閃光検出部4Cに入力されたときのフラッシュの有無を検出する閃光検出部4Cの動作について説明する。なお、ここで、「フィールド1」の前のフィールドの映像を「フィールド0」とし、「フィールド0」では外部閃光の影響はないものとする。
撮像装置9000により、図29に示す楕円形の被写体を撮像しており、図29に示す楕円形の被写体がフラッシュの影響を受けるとすると、「フィールド2」になったとき、この被写体の下半分がフラッシュの影響を受けて明るくなる。つまり、「フィールド2」の下部に相当する撮像信号VIは、フラッシュの影響を受けて明るい(輝度の高い)信号となる。
次に、図26の「フィールド1」から「フィールド5」までの撮像信号VIが、閃光検出部4Cに入力されたときのフラッシュの有無を検出する閃光検出部4Cの動作について説明する。なお、ここで、「フィールド1」の前のフィールドの映像を「フィールド0」とし、「フィールド0」では外部閃光の影響はないものとする。
撮像装置9000により、図29に示す楕円形の被写体を撮像しており、図29に示す楕円形の被写体がフラッシュの影響を受けるとすると、「フィールド2」になったとき、この被写体の下半分がフラッシュの影響を受けて明るくなる。つまり、「フィールド2」の下部に相当する撮像信号VIは、フラッシュの影響を受けて明るい(輝度の高い)信号となる。
撮像装置9000では、図28に示すように画面を縦16個、横24個のブロックに分割し、この分割したブロックを用いて閃光検出処理を行う。
ブロック平均値算出部301は、分割した各ブロックにおける入力撮像信号VIの平均値を求める。ブロック平均値算出部301にて求めた各ブロックの平均値は、ブロック平均値記憶部302で記憶され、次のフィールドで1フィールド前のフィールドのブロックの平均値として使用される。
次に、近傍ブロック差分部303における図29の斜線部で示すブロックに対する処理について説明する。なお、図5において、第i行第j列のn番目のフィールドのブロック平均値をAve(i,j,n)と表記するものとする。
ブロック平均値算出部301で生成された図29の斜線部ブロック平均値に対して、ブロック平均値記憶部302に格納されている前のフィールドの各ブロックの平均値の中から、図30の斜線部に示す同じ位置(10,2)(第10行第2列)の1フィールド前のフィールド(フィールド1)のブロックのブロック平均値Ave(10,2,1)とそのブロックを囲む周辺8ブロックの計9ブロックのブロック平均値、すなわち、Ave(9,1,1)、Ave(9,2,1)、Ave(9,3,1)、Ave(10,1,1)、Ave(10,3,1)、Ave(11,1,1)、Ave(11,2,1)、Ave(11,3,1)の9個のブロック平均値から、図30の斜線部のブロックの現フィールド(フィールド2)のブロック平均値Ave(10,2,2)に最も近い値を、1フィールド前のフィールドの近傍9ブロックの代表平均値RAveとする。
ブロック平均値算出部301は、分割した各ブロックにおける入力撮像信号VIの平均値を求める。ブロック平均値算出部301にて求めた各ブロックの平均値は、ブロック平均値記憶部302で記憶され、次のフィールドで1フィールド前のフィールドのブロックの平均値として使用される。
次に、近傍ブロック差分部303における図29の斜線部で示すブロックに対する処理について説明する。なお、図5において、第i行第j列のn番目のフィールドのブロック平均値をAve(i,j,n)と表記するものとする。
ブロック平均値算出部301で生成された図29の斜線部ブロック平均値に対して、ブロック平均値記憶部302に格納されている前のフィールドの各ブロックの平均値の中から、図30の斜線部に示す同じ位置(10,2)(第10行第2列)の1フィールド前のフィールド(フィールド1)のブロックのブロック平均値Ave(10,2,1)とそのブロックを囲む周辺8ブロックの計9ブロックのブロック平均値、すなわち、Ave(9,1,1)、Ave(9,2,1)、Ave(9,3,1)、Ave(10,1,1)、Ave(10,3,1)、Ave(11,1,1)、Ave(11,2,1)、Ave(11,3,1)の9個のブロック平均値から、図30の斜線部のブロックの現フィールド(フィールド2)のブロック平均値Ave(10,2,2)に最も近い値を、1フィールド前のフィールドの近傍9ブロックの代表平均値RAveとする。
そして、近傍ブロック差分部303は、図30の斜線部のブロックのブロック平均値Ave(10,2,2)から、その代表平均値RAve(10,1)を減算し、ブロック差分値Diff(10,2)を生成する。すなわち、近傍ブロック差分部303は、ブロック差分値Diff(10,2)を、
Diff(10,2)=Ave(10,2,2)−RAve(10,1)
により算出する。そして、近傍ブロック差分部303は、算出したブロック差分値Diffを比較部305に出力する。
一方、この近傍9ブロックの代表平均値RAve(10,1)は、乗算部304にて4分の1倍にされる。すなわち、近傍ブロック差分部303は、スレッシュ値Th(10,2)を、
Th(10,2)=1/4×RAve(10,1)
により算出する。そして、近傍ブロック差分部303は、算出したスレッシュ値Thを比較部305に出力する。
Diff(10,2)=Ave(10,2,2)−RAve(10,1)
により算出する。そして、近傍ブロック差分部303は、算出したブロック差分値Diffを比較部305に出力する。
一方、この近傍9ブロックの代表平均値RAve(10,1)は、乗算部304にて4分の1倍にされる。すなわち、近傍ブロック差分部303は、スレッシュ値Th(10,2)を、
Th(10,2)=1/4×RAve(10,1)
により算出する。そして、近傍ブロック差分部303は、算出したスレッシュ値Thを比較部305に出力する。
比較部305は、近傍ブロック差分部303から入力されるブロック差分値Diffと乗算部304から入力されるスレッシュ値Thを比較し、ブロック差分値Diffがスレッシュ値Th以上のときは「1」を、それ以外のときは「0」を、第1カウンタ部306に出力する。
第1カウンタ部306は、比較部305での1段すなわち水平24ブロックごとに比較結果が「1」になるブロックがいくつあるかを数え、その数を第1比較部307に出力する。第1比較部307は、1段すなわち水平24ブロックにおいて、カウンタが6以上になったら「1」を、6未満なら「0」を、第2比較部308に出力する。すなわち、第1比較部307は、1段のブロックが1フィールド前のフィールドの近傍9ブロックのうち最も近い値のブロックと比べて明るさが1.25倍(=1+1/4)以上のブロックが6個以上のとき「1」、6個未満のとき「0」を出力する。
第1カウンタ部306は、比較部305での1段すなわち水平24ブロックごとに比較結果が「1」になるブロックがいくつあるかを数え、その数を第1比較部307に出力する。第1比較部307は、1段すなわち水平24ブロックにおいて、カウンタが6以上になったら「1」を、6未満なら「0」を、第2比較部308に出力する。すなわち、第1比較部307は、1段のブロックが1フィールド前のフィールドの近傍9ブロックのうち最も近い値のブロックと比べて明るさが1.25倍(=1+1/4)以上のブロックが6個以上のとき「1」、6個未満のとき「0」を出力する。
次に、第1比較部307の出力が入力される第2カウンタ部308は、第1比較部307の出力が「1」である段が連続何段続くかをカウントする。図31のような画面中央部に楕円形の被写体があり、この被写体がフラッシュにより画面下半分で1フィールド前のフィールドより明るくなると、上記の動作によって、図31の斜線で示すブロックにおいて、比較部305から「1」が出力される。図31の場合、画面下半分の最初の5段(図31の第9段〜第13段)において、1段あたり6個以上のブロックで比較部305から「1」が出力される。そして、9段目から連続5段(図31の第9段〜第13段)の間、第1比較部307から「1」が出力されるので、第2カウンタ部308は、「5」というカウント値を取得する。
そして、第2カウンタ部308により取得されたカウント値は、第2比較部309に入力される。第2比較部309は、1フィールドの間に、このカウント値が1回でも2以上になったとき「1」を、1回も2以上にならなかったとき「0」を出力する。従って、図31の場合、撮像装置9000では、第2カウンタ部308にて、「5」まで数える過程で「2」になったとき、第2比較部309は、「1」を出力する。すなわち、この場合、閃光検出部4Cにより、現フィールドを形成する撮像信号にフラッシュが入った(外部閃光の影響がある)と判断される。
そして、第2カウンタ部308により取得されたカウント値は、第2比較部309に入力される。第2比較部309は、1フィールドの間に、このカウント値が1回でも2以上になったとき「1」を、1回も2以上にならなかったとき「0」を出力する。従って、図31の場合、撮像装置9000では、第2カウンタ部308にて、「5」まで数える過程で「2」になったとき、第2比較部309は、「1」を出力する。すなわち、この場合、閃光検出部4Cにより、現フィールドを形成する撮像信号にフラッシュが入った(外部閃光の影響がある)と判断される。
≪図32の場合(高輝度被写体が画面を移動する場合)≫
次に、高輝度被写体が画面を移動する場合(高輝度被写体が移動するシーンを撮像装置9000で撮像する場合)について、説明する。すなわち、図32の斜線部に示すような部分に高輝度な被写体が存在し、この高輝度な被写体以外の部分に対応するブロックは暗い映像を構成するブロックであり、この高輝度被写体が1フィールドで上に1ブロック分移動したシーンを撮像装置9000で撮像する場合について、説明する。
図32の1フィールド後の画面が図33であったとする。なお、説明便宜上、図32の画面を「第(N−1)フィールド」(Nは整数)の画面とし、図33の画面を「第Nフィールド」の画面とする。
この場合、10段目のブロックは、図32に示すように1フィールド前のフィールド(第(N−1)フィールド)では暗い(輝度値が小さい)。しかし、第(N−1)フィールドの11段目は明るい(輝度値が大きい)ので、第Nフィールドの10段目のブロックが処理対象となっているとき、1フィールド前のフィールド(第(N−1)フィールド)の近傍9ブロックの中には明るいブロックが存在することになる。従って、上記に述べた動作により、近傍ブロック差分部303は、第Nフィールドの10段目の明るいブロックを処理するときは、1フィールド前のフィールド(第(N−1)フィールド)の11段目の明るいブロックの値を代表平均値RAveとして選択する。すると、第Nフィールドの処理対象のブロックのブロック平均値Aveから1フィールド前のフィールド(第(N−1)フィールド)の代表値RAveを減算したブロックの差分値Diffは、小さい値となるので、比較部305での比較結果は「0」になる。
次に、高輝度被写体が画面を移動する場合(高輝度被写体が移動するシーンを撮像装置9000で撮像する場合)について、説明する。すなわち、図32の斜線部に示すような部分に高輝度な被写体が存在し、この高輝度な被写体以外の部分に対応するブロックは暗い映像を構成するブロックであり、この高輝度被写体が1フィールドで上に1ブロック分移動したシーンを撮像装置9000で撮像する場合について、説明する。
図32の1フィールド後の画面が図33であったとする。なお、説明便宜上、図32の画面を「第(N−1)フィールド」(Nは整数)の画面とし、図33の画面を「第Nフィールド」の画面とする。
この場合、10段目のブロックは、図32に示すように1フィールド前のフィールド(第(N−1)フィールド)では暗い(輝度値が小さい)。しかし、第(N−1)フィールドの11段目は明るい(輝度値が大きい)ので、第Nフィールドの10段目のブロックが処理対象となっているとき、1フィールド前のフィールド(第(N−1)フィールド)の近傍9ブロックの中には明るいブロックが存在することになる。従って、上記に述べた動作により、近傍ブロック差分部303は、第Nフィールドの10段目の明るいブロックを処理するときは、1フィールド前のフィールド(第(N−1)フィールド)の11段目の明るいブロックの値を代表平均値RAveとして選択する。すると、第Nフィールドの処理対象のブロックのブロック平均値Aveから1フィールド前のフィールド(第(N−1)フィールド)の代表値RAveを減算したブロックの差分値Diffは、小さい値となるので、比較部305での比較結果は「0」になる。
また、近傍ブロック差分部303で、第Nフィールドの11段目の明るいブロックを処理するときは、1フィールド前のフィールド(第(N−1)フィールド)の11段目または12段目の明るいブロックの値が代表平均値RAveとして選択されるため、同じく、比較部305での比較結果は「0」になる。
従って、閃光検出部4Cは、高輝度被写体が移動したときにフラッシュと間違って明るくなったと勘違い(誤検出)することはない。
以上の動作によって、撮像装置9000では、高輝度被写体が移動したときに、フラッシュが入ったと間違う(誤判断する)ことがない。さらに、撮像装置9000では、通常のフラッシュによる明るさの変化を検出するフラッシュ検出処理を、動き検出処理を使うことなく、すなわち、少ない回路規模で実現することができる。
従って、閃光検出部4Cは、高輝度被写体が移動したときにフラッシュと間違って明るくなったと勘違い(誤検出)することはない。
以上の動作によって、撮像装置9000では、高輝度被写体が移動したときに、フラッシュが入ったと間違う(誤判断する)ことがない。さらに、撮像装置9000では、通常のフラッシュによる明るさの変化を検出するフラッシュ検出処理を、動き検出処理を使うことなく、すなわち、少ない回路規模で実現することができる。
なお、上記で述べた撮像装置9000の動作において、ブロックの平均値は、必ずしも、単純な平均値である必要はなく、例えば、ブロックを構成する画素の画素値の合計値を単にビットシフトして、当該合計値を2の整数乗分の1にすることで求めるようにしても良い。
≪その他≫
本実施形態として、第9実施形態を例示した。しかし、本発明はこれには限らない。そこで、本発明の他の実施形態を以下まとめて説明する。なお、本発明は、これらには限定されず、適宜修正された実施の形態に対しても適用可能である。
第9実施形態において、画面を構成するものとしてフィールド単位での処理について説明したが、これに限定されず、フレーム単位の処理であってもよい。
≪その他≫
本実施形態として、第9実施形態を例示した。しかし、本発明はこれには限らない。そこで、本発明の他の実施形態を以下まとめて説明する。なお、本発明は、これらには限定されず、適宜修正された実施の形態に対しても適用可能である。
第9実施形態において、画面を構成するものとしてフィールド単位での処理について説明したが、これに限定されず、フレーム単位の処理であってもよい。
第9実施形態において、画面を縦16個、横24個のブロックに分割する場合について説明したが、ブロックの分割数はこれに限定されず、縦及び横とも、検出の精度や回路規模の制限により決まる適切な別の数であってもよい。
第9実施形態において、近傍ブロック差分部303は、ある位置のブロックについて、同じ位置の前のフィールドのブロックとそのブロックを囲む周辺8ブロックの計9ブロックの平均値から最も平均値が近い値を代表平均値とするとしたが、これに限定されず、例えば、ブロックとそのブロックを囲む周辺8ブロックとその周辺8ブロックを囲む16ブロックの合計25ブロックの平均値から最も平均値が近い値を代表平均値としてもよい。
第9実施形態において、乗算部304は、入力値を4分の1倍にする場合について説明したが、これに限定されず、例えば、乗算部304は、入力値を、3分の1倍や5分の1倍にするものであってもよい。
第9実施形態において、近傍ブロック差分部303は、ある位置のブロックについて、同じ位置の前のフィールドのブロックとそのブロックを囲む周辺8ブロックの計9ブロックの平均値から最も平均値が近い値を代表平均値とするとしたが、これに限定されず、例えば、ブロックとそのブロックを囲む周辺8ブロックとその周辺8ブロックを囲む16ブロックの合計25ブロックの平均値から最も平均値が近い値を代表平均値としてもよい。
第9実施形態において、乗算部304は、入力値を4分の1倍にする場合について説明したが、これに限定されず、例えば、乗算部304は、入力値を、3分の1倍や5分の1倍にするものであってもよい。
第9実施形態において、第1比較部307は、水平24ブロックの内、6ブロック以上ならば「1」を出力するとしたが、ブロック数は「6」に限定されず、「5」や「7」等の他の数であってもよい。
第9実施形態において、第2比較部309は、1フィールドの間に第2カウンタ部308が1回でも2以上になったとき「1」を出力するとしたが、カウンタ値は、「2」に限定されず、3以上であってもよい。
[他の実施形態]
上記実施形態において、「フレーム」として説明した部分は、発明の要旨を逸脱しない範囲で「フィールド」と置き換えられる。また、上記実施形態において、「フィールド」として説明した部分は、発明の要旨を逸脱しない範囲で「フレーム」と置き換えられる。
第9実施形態において、第2比較部309は、1フィールドの間に第2カウンタ部308が1回でも2以上になったとき「1」を出力するとしたが、カウンタ値は、「2」に限定されず、3以上であってもよい。
[他の実施形態]
上記実施形態において、「フレーム」として説明した部分は、発明の要旨を逸脱しない範囲で「フィールド」と置き換えられる。また、上記実施形態において、「フィールド」として説明した部分は、発明の要旨を逸脱しない範囲で「フレーム」と置き換えられる。
また、上記実施形態で説明した撮像装置において、各ブロックは、LSIなどの半導体装置により個別に1チップ化されても良いし、一部又は全部を含むように1チップ化されても良い。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用しても良い。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてあり得る。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサーを利用しても良い。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適用等が可能性としてあり得る。
また、上記実施形態の各処理をハードウェアにより実現してもよいし、ソフトウェア(OS(オペレーティングシステム)、ミドルウェア、あるいは、所定のライブラリとともに実現される場合を含む。)により実現してもよい。さらに、ソフトウェアおよびハードウェアの混在処理により実現しても良い。なお、上記実施形態に係る撮像装置をハードウェアにより実現する場合、各処理を行うためのタイミング調整を行う必要があるのは言うまでもない。上記実施形態においては、説明便宜のため、実際のハードウェア設計で生じる各種信号のタイミング調整の詳細については省略している。
また、上記実施形態における処理方法の実行順序は、必ずしも、上記実施形態の記載に制限されるものではなく、発明の要旨を逸脱しない範囲で、実行順序を入れ替えることができるものである。
また、上記実施形態における処理方法の実行順序は、必ずしも、上記実施形態の記載に制限されるものではなく、発明の要旨を逸脱しない範囲で、実行順序を入れ替えることができるものである。
なお、本発明の具体的な構成は、前述の実施形態に限られるものではなく、発明の要旨を逸脱しない範囲で種々の変更および修正が可能である。
本発明に係る撮像装置、外部閃光検出方法、プログラムおよび集積回路は、近年ビデオカメラでも使われるようになってきたCMOSイメージセンサを用いた撮像装置に特有の、フラッシュ等が焚かれた被写体を撮影することにより発生する白帯状の妨害を検出して補正する撮像装置として有用であり、本発明は、当該分野において実施することができる。
1000、2000、5000、7000、9000 撮像装置
1 撮像部
2、4、4A、4B、4C 検出部(閃光検出部)
3 補正部
5 フラッシュ補正処理部
11 ライン平均部(ライン輝度情報算出部)
12 記憶部
13 フレーム差分演算部
14 判断部
41、45 ライン判定部
42 判定情報記憶部
43、46、49 フレーム判定部
44、47 ライン評価値算出部
47 ライン増加判定部
48 ライン減少判定部
301 ブロック平均値算出部
302 ブロック平均値記憶部
303 近傍ブロック差分部
304 乗算部
305、307、309 比較部
306、308 カウンタ部
411 評価値生成部
412 評価値記憶部
413 評価値比較部
451 評価値シフトレジスタ部
452 評価値比較部
453、461 ラインカウンタ
454 ライン位置記憶部
455、456 ライン評価値記憶部
462、463 カウンタ値比較部
464、465 ライン評価値記憶部
466、467、468 評価値比較部
469 フレーム判定情報生成部
1 撮像部
2、4、4A、4B、4C 検出部(閃光検出部)
3 補正部
5 フラッシュ補正処理部
11 ライン平均部(ライン輝度情報算出部)
12 記憶部
13 フレーム差分演算部
14 判断部
41、45 ライン判定部
42 判定情報記憶部
43、46、49 フレーム判定部
44、47 ライン評価値算出部
47 ライン増加判定部
48 ライン減少判定部
301 ブロック平均値算出部
302 ブロック平均値記憶部
303 近傍ブロック差分部
304 乗算部
305、307、309 比較部
306、308 カウンタ部
411 評価値生成部
412 評価値記憶部
413 評価値比較部
451 評価値シフトレジスタ部
452 評価値比較部
453、461 ラインカウンタ
454 ライン位置記憶部
455、456 ライン評価値記憶部
462、463 カウンタ値比較部
464、465 ライン評価値記憶部
466、467、468 評価値比較部
469 フレーム判定情報生成部
Claims (12)
- 被写体を撮像して撮像信号を取得する撮像部と、
前記撮像部により取得される前記撮像信号が、閃光の影響を受けているか否かを検出する閃光検出部と、
を備え、
前記閃光検出部は、
前記撮像信号が形成する画像の各ラインの輝度情報値を算出するライン輝度情報値算出部と、
処理対象となっている前記撮像信号が形成する現画像の各ラインの前記輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインの前記ライン輝度情報値を減算することで、各ラインのフレーム差分値を算出するフレーム差分演算部と、
前記フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、前記撮像信号に対する外部閃光の影響の有無を判断する判断部と、
を備え、
前記判断部は、前記フレーム差分値が前記第1参照値と比較して大きいラインが連続する期間が1フレーム期間と略等しいときに、外部閃光の影響があると判断する、
撮像装置。 - 被写体を撮像して撮像信号を取得する撮像部と、
前記撮像部により取得される前記撮像信号が、閃光の影響を受けているか否かを検出する閃光検出部と、
を備え、
前記撮像部は、電子シャッター機能を備え、
前記閃光検出部は、
前記撮像信号が形成する画像の各ラインの輝度情報値を算出するライン輝度情報値算出部と、
処理対象となっている前記撮像信号が形成する現画像の各ラインの前記輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインの前記ライン輝度情報値を減算することで、各ラインのフレーム差分値を算出するフレーム差分演算部と、
前記フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、前記撮像信号に対する外部閃光の影響の有無を判断する判断部と、
を備え、
前記判断部は、前記フレーム差分値が前記第1参照値と比較して大きいラインが連続する期間が前記電子シャッターのシャッター時間に応じた期間と略等しいときに、前記撮像信号に対する外部閃光の影響があると判断する、
撮像装置。 - 前記輝度情報値は、輝度レベルの平均値、輝度レベルの加算値、輝度レベルの2乗平均平方根値、輝度レベルの重付平均値のいずれか1つである、
請求項1または2に記載の撮像装置。 - 前記判断部は、前記フレーム差分値が前記第1参照値と比較して大きいラインが連続する期間の開始となるラインを、外部閃光の影響を受け始める開始ラインであると判断する、
請求項1から3のいずれかに記載の撮像装置。 - 前記判断部は、前記フレーム差分値が所定の値である第2参照値と比較して小さいか否かを判断することにより、外部閃光の影響の終了を判断する、
請求項1から4のいずれかに記載の撮像装置。 - 前記判断部は、前記フレーム差分値が前記第2参照値と比較して小さいラインが連続する期間が1フレーム期間と略等しいときに、外部閃光の影響が終了したと判断する、
請求項1、3から5のいずれかに記載の撮像装置。 - 前記判断部は、前記フレーム差分値が前記第2参照値と比較して小さいラインが連続する期間の開始となるラインを、外部閃光の影響が終了する終了ラインであると判断する、
請求項1から6のいずれかに記載の撮像装置。 - 前記判断部は、前記フレーム差分値が前記第2参照値と比較して小さいラインが連続する期間が前記電子シャッターのシャッター時間に応じた期間と略等しいときに、外部閃光の影響が終了したと判断する、
請求項2から5のいずれかに記載の撮像装置。 - 前記ライン輝度情報値算出部で算出された前記輝度情報値を記憶する記憶部をさらに備える、
請求項1から7のいずれかに記載の撮像装置。 - 被写体を撮像して撮像信号を取得する撮像ステップと、
前記撮像ステップにより取得される前記撮像信号が、閃光の影響を受けているか否かを検出する閃光検出ステップと、
前記撮像信号が形成する画像の各ラインの輝度情報値を算出するライン輝度情報値算出ステップと、
処理対象となっている前記撮像信号が形成する現画像の各ラインの前記輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインの前記ライン輝度情報値を減算することで、各ラインのフレーム差分値を算出するフレーム差分演算ステップと、
前記フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、前記撮像信号に対する外部閃光の影響の有無を判断する判断ステップと、
を備え、
前記判断ステップでは、前記フレーム差分値が前記第1参照値と比較して大きいラインが連続する期間が1フレーム期間と略等しいときに、外部閃光の影響があると判断する、
外部閃光検出方法。 - 被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる外部閃光検出方法をコンピュータに実行させるためのプログラムであって、
前記撮像部により取得される前記撮像信号が、閃光の影響を受けているか否かを検出する閃光検出ステップと、
前記撮像信号が形成する画像の各ラインの輝度情報値を算出するライン輝度情報値算出ステップと、
処理対象となっている前記撮像信号が形成する現画像の各ラインの前記輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインの前記ライン輝度情報値を減算することで、各ラインのフレーム差分値を算出するフレーム差分演算ステップと、
前記フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、前記撮像信号に対する外部閃光の影響の有無を判断する判断ステップと、
を備え、
前記判断ステップでは、前記フレーム差分値が前記第1参照値と比較して大きいラインが連続する期間が1フレーム期間と略等しいときに、外部閃光の影響があると判断する、
外部閃光検出方法をコンピュータに実行させるためのプログラム。 - 被写体を撮像して撮像信号を取得する撮像部を備える撮像装置に用いられる集積回路であって、
前記撮像部により取得される前記撮像信号が、閃光の影響を受けているか否かを検出する閃光検出部と、
前記撮像信号が形成する画像の各ラインの輝度情報値を算出するライン輝度情報値算出部と、
処理対象となっている前記撮像信号が形成する現画像の各ラインの前記輝度情報値から、ライン毎に、1単位画像前の画像の同一ラインの前記ライン輝度情報値を減算することで、各ラインのフレーム差分値を算出するフレーム差分演算部と、
前記フレーム差分値が所定の値である第1参照値より大きいか否かを判断することにより、前記撮像信号に対する外部閃光の影響の有無を判断する判断部と、
を備え、
前記判断部は、前記フレーム差分値が前記第1参照値と比較して大きいラインが連続する期間が1フレーム期間と略等しいときに、外部閃光の影響があると判断する、
集積回路。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011509212A JP5410510B2 (ja) | 2009-04-16 | 2010-04-13 | 撮像装置、外部閃光検出方法、プログラムおよび集積回路 |
Applications Claiming Priority (10)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2009099809 | 2009-04-16 | ||
| JP2009099809 | 2009-04-16 | ||
| JP2009100522 | 2009-04-17 | ||
| JP2009100522 | 2009-04-17 | ||
| JP2009126015 | 2009-05-26 | ||
| JP2009126015 | 2009-05-26 | ||
| JP2010063795 | 2010-03-19 | ||
| JP2010063795 | 2010-03-19 | ||
| PCT/JP2010/002676 WO2010119669A1 (ja) | 2009-04-16 | 2010-04-13 | 撮像装置、外部閃光検出方法、プログラムおよび集積回路 |
| JP2011509212A JP5410510B2 (ja) | 2009-04-16 | 2010-04-13 | 撮像装置、外部閃光検出方法、プログラムおよび集積回路 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2010119669A1 JPWO2010119669A1 (ja) | 2012-10-22 |
| JP5410510B2 true JP5410510B2 (ja) | 2014-02-05 |
Family
ID=42982343
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011509212A Active JP5410510B2 (ja) | 2009-04-16 | 2010-04-13 | 撮像装置、外部閃光検出方法、プログラムおよび集積回路 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US8681265B2 (ja) |
| EP (2) | EP2421249A4 (ja) |
| JP (1) | JP5410510B2 (ja) |
| WO (1) | WO2010119669A1 (ja) |
Families Citing this family (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN102215144B (zh) * | 2011-05-17 | 2016-06-29 | 中兴通讯股份有限公司 | 丢包率的测量方法和系统 |
| JP2013003238A (ja) * | 2011-06-14 | 2013-01-07 | Sony Corp | 映像信号処理回路、映像信号処理方法、表示装置、及び、電子機器 |
| JP2013165439A (ja) * | 2012-02-13 | 2013-08-22 | Sony Corp | フラッシュバンド補正装置、フラッシュバンド補正方法及び撮像装置 |
| US8947588B2 (en) * | 2012-02-14 | 2015-02-03 | JVC Kenwood Corporation | Image processing device, image processing method, image processing program |
| JP5928290B2 (ja) * | 2012-02-14 | 2016-06-01 | 株式会社Jvcケンウッド | 画像処理装置、画像処理方法、画像処理プログラム |
| WO2013157368A1 (ja) * | 2012-04-16 | 2013-10-24 | オリンパスメディカルシステムズ株式会社 | 撮像システム、撮像方法 |
| WO2013161900A1 (ja) * | 2012-04-26 | 2013-10-31 | オリンパスメディカルシステムズ株式会社 | 撮像システム |
| JP5991090B2 (ja) * | 2012-09-04 | 2016-09-14 | 株式会社Jvcケンウッド | 画像信号処理装置及び方法 |
| JP5928319B2 (ja) * | 2012-12-03 | 2016-06-01 | 株式会社Jvcケンウッド | 画像処理装置及び方法 |
| JP5735479B2 (ja) * | 2012-12-14 | 2015-06-17 | 富士フイルム株式会社 | 内視鏡及装置びその作動方法 |
| JP5880737B2 (ja) * | 2013-01-17 | 2016-03-09 | Nttエレクトロニクス株式会社 | 動画像符号化装置 |
| US9509919B2 (en) * | 2014-11-17 | 2016-11-29 | Duelight Llc | System and method for generating a digital image |
| JP6156686B2 (ja) * | 2013-02-20 | 2017-07-05 | パナソニックIpマネジメント株式会社 | 画像処理装置 |
| US9195892B2 (en) | 2013-03-15 | 2015-11-24 | Arris Technology, Inc. | System for and method of detecting strobe using spatial features in video frames |
| JP6141129B2 (ja) * | 2013-07-12 | 2017-06-07 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法、及びコンピュータプログラム |
| WO2015112218A2 (en) * | 2013-11-18 | 2015-07-30 | United Technologies Corporation | Method of attaching a ceramic matrix composite article |
| JP6261397B2 (ja) * | 2014-03-14 | 2018-01-17 | キヤノン株式会社 | 撮像装置及びその制御方法 |
| US9332179B2 (en) * | 2014-06-30 | 2016-05-03 | Qualcomm Incorporated | Flash collision detection, compensation, and prevention |
| US12401911B2 (en) | 2014-11-07 | 2025-08-26 | Duelight Llc | Systems and methods for generating a high-dynamic range (HDR) pixel stream |
| US12401912B2 (en) | 2014-11-17 | 2025-08-26 | Duelight Llc | System and method for generating a digital image |
| US12445736B2 (en) | 2015-05-01 | 2025-10-14 | Duelight Llc | Systems and methods for generating a digital image |
| JP2017011351A (ja) * | 2015-06-17 | 2017-01-12 | キヤノン株式会社 | 撮像装置、その制御方法、および制御プログラム |
| JP6659163B2 (ja) * | 2016-03-16 | 2020-03-04 | キヤノン株式会社 | フラッシュバンド判定装置、その制御方法、およびプログラム |
| JP6752619B2 (ja) * | 2016-05-16 | 2020-09-09 | キヤノン株式会社 | 画像読取装置、画像形成装置 |
| JP2017225072A (ja) * | 2016-06-17 | 2017-12-21 | キヤノン株式会社 | 撮像装置、その制御方法、及びプログラム |
| WO2020059425A1 (ja) * | 2018-09-18 | 2020-03-26 | 株式会社日立国際電気 | 撮像装置、映像処理方法、およびプログラム |
| US12170854B2 (en) * | 2021-10-05 | 2024-12-17 | Meta Platforms Technologies, Llc | Noise-reduction circuit for an image sensor |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH11355655A (ja) * | 1998-06-09 | 1999-12-24 | Oki Electric Ind Co Ltd | フラッシュ映像検出回路 |
| US20070140356A1 (en) * | 2005-12-15 | 2007-06-21 | Kabushiki Kaisha Toshiba | Image processing device, image processing method, and image processing system |
| JP2007306225A (ja) * | 2006-05-10 | 2007-11-22 | Sony Corp | 撮像装置および方法、並びにプログラム |
Family Cites Families (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5818975A (en) * | 1996-10-28 | 1998-10-06 | Eastman Kodak Company | Method and apparatus for area selective exposure adjustment |
| JP3623658B2 (ja) | 1998-05-26 | 2005-02-23 | 沖電気工業株式会社 | フラッシュ信号検出回路 |
| US6195509B1 (en) * | 1998-10-01 | 2001-02-27 | Asahi Kogaku Kogyo Kabushiki Kaisha | Exposure control apparatus for a camera |
| US6859565B2 (en) * | 2001-04-11 | 2005-02-22 | Hewlett-Packard Development Company, L.P. | Method and apparatus for the removal of flash artifacts |
| US8320641B2 (en) * | 2004-10-28 | 2012-11-27 | DigitalOptics Corporation Europe Limited | Method and apparatus for red-eye detection using preview or other reference images |
| US7599577B2 (en) * | 2005-11-18 | 2009-10-06 | Fotonation Vision Limited | Method and apparatus of correcting hybrid flash artifacts in digital images |
| KR100721664B1 (ko) | 2005-12-22 | 2007-05-23 | 매그나칩 반도체 유한회사 | 이미지 센서의 플리커 검출 회로 및 방법 |
| US9036977B2 (en) | 2007-03-22 | 2015-05-19 | Microsoft Technology Licensing, Llc | Automatic detection, removal, replacement and tagging of flash frames in a video |
| JP4885902B2 (ja) * | 2008-04-01 | 2012-02-29 | 富士フイルム株式会社 | 撮影装置及びその制御方法 |
-
2010
- 2010-04-13 JP JP2011509212A patent/JP5410510B2/ja active Active
- 2010-04-13 EP EP10764256A patent/EP2421249A4/en not_active Withdrawn
- 2010-04-13 WO PCT/JP2010/002676 patent/WO2010119669A1/ja not_active Ceased
- 2010-04-13 EP EP16197149.4A patent/EP3157246B1/en active Active
- 2010-04-13 US US13/262,868 patent/US8681265B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH11355655A (ja) * | 1998-06-09 | 1999-12-24 | Oki Electric Ind Co Ltd | フラッシュ映像検出回路 |
| US20070140356A1 (en) * | 2005-12-15 | 2007-06-21 | Kabushiki Kaisha Toshiba | Image processing device, image processing method, and image processing system |
| JP2007166408A (ja) * | 2005-12-15 | 2007-06-28 | Toshiba Corp | 画像処理装置及び画像処理方法 |
| JP2007306225A (ja) * | 2006-05-10 | 2007-11-22 | Sony Corp | 撮像装置および方法、並びにプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| EP2421249A4 (en) | 2013-02-20 |
| WO2010119669A1 (ja) | 2010-10-21 |
| US8681265B2 (en) | 2014-03-25 |
| US20120026359A1 (en) | 2012-02-02 |
| EP3157246B1 (en) | 2018-08-22 |
| EP3157246A1 (en) | 2017-04-19 |
| EP2421249A1 (en) | 2012-02-22 |
| JPWO2010119669A1 (ja) | 2012-10-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5410510B2 (ja) | 撮像装置、外部閃光検出方法、プログラムおよび集積回路 | |
| US9531958B2 (en) | Image processing device, imaging device, image processing method, and program having different exposure start times | |
| JP5634901B2 (ja) | 撮像装置、外部閃光補正方法、プログラム、および、集積回路 | |
| TWI432019B (zh) | An image processing apparatus, an image pickup apparatus, an image processing method, and an image processing program | |
| US8013914B2 (en) | Imaging apparatus including noise suppression circuit | |
| JP6434963B2 (ja) | 画像処理装置、画像処理方法、電子機器、並びにプログラム | |
| CN102065219B (zh) | 摄像设备及其控制方法 | |
| KR20090008139A (ko) | 촬상 장치, 및 화상 처리 방법, 및 컴퓨터 프로그램 | |
| JP5167405B2 (ja) | 閃光の影響を補正する撮像装置 | |
| JP5520704B2 (ja) | 撮像装置、閃光判定方法およびプログラム | |
| JP4523629B2 (ja) | 撮像装置 | |
| US20130063622A1 (en) | Image sensor and method of capturing an image | |
| JP2011114473A (ja) | 画素欠陥補正装置 | |
| JP3839429B2 (ja) | 撮像処理装置 | |
| JP2011101208A (ja) | 撮像装置 | |
| JP2010273147A (ja) | 撮像信号特定状態検出装置、撮像装置、撮像信号特定状態検出方法、プログラムおよび集積回路 | |
| JP2000217039A (ja) | 点欠陥検出方法および点欠陥画素値補正方法 | |
| JP2001128068A (ja) | ビデオカメラ | |
| JP5225932B2 (ja) | 撮像装置、集積回路、画像処理方法及びプログラム | |
| JP2003209850A (ja) | 撮像装置用信号処理回路およびその信号処理方法 | |
| US11310446B2 (en) | Imaging device, image processing method, and program | |
| JP4945235B2 (ja) | 画像ブレ検出方法及び撮像装置並びに画像ブレ検出プログラム | |
| JP2010283456A (ja) | 撮像装置、撮像装置に用いられる集積回路、閃光検出方法及びプログラム | |
| KR20150107563A (ko) | 화상 처리 장치 및 고체 촬상 장치 | |
| JP2011193194A (ja) | 撮像装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130213 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131029 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131106 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 5410510 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |