JP3989615B2 - Solid-state imaging device - Google Patents
Solid-state imaging device Download PDFInfo
- Publication number
- JP3989615B2 JP3989615B2 JP08847098A JP8847098A JP3989615B2 JP 3989615 B2 JP3989615 B2 JP 3989615B2 JP 08847098 A JP08847098 A JP 08847098A JP 8847098 A JP8847098 A JP 8847098A JP 3989615 B2 JP3989615 B2 JP 3989615B2
- Authority
- JP
- Japan
- Prior art keywords
- flicker
- signal
- exposure time
- detection means
- gain
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、ビデオカメラなどに用いられる固体撮像装置に関するものである。
【0002】
【従来の技術】
露光量の異なる画像を合成してダイナミックレンジの高い映像信号を得るための固体撮像装置として、従来、特開平7−322147号公報に記載されたものが知られている。
【0003】
以下、従来の固体撮像装置について図面を参照しながら説明する。図24は従来の固体撮像装置の構成を示す構成図である。図24において、1は撮像手段、200は画像合成手段である。撮像手段1としては例えば、通常の固体撮像素子に対して2倍の走査線数の信号が出力できるような全画素読み出し型の固体撮像素子を用いて、片側の走査線に対応する画素の露光量を電子シャッタ動作により通常より小さくすることにより通常信号Slongおよび電子シャッタ信号Sshortを得るというものであり、画像合成手段200としては、撮像手段1から出力される露光量の異なる出力信号SlongおよびSshortを単純に加算して合成画像信号Smixを得ている。図25に横軸に入射光量L、縦軸に信号レベルSをとった場合の、Slong、Sshort、Smixの関係を示す。
【0004】
【発明が解決しようとする課題】
この固体撮像装置においては、露光量の異なる信号を得るために電子シャッタ動作を用いているが、蛍光灯のように50Hz程度の周期で明るさが変動する光源下においては、異なる露光量の信号ごとにフリッカ成分が異なるため、画像合成した際に通常信号Slongによる低輝度部と電子シャッタ信号Sshortによる高輝度部で異なるフリッカが発生する。
【0005】
本発明は、高輝度部でも低輝度部でもフリッカが抑圧された固体撮像装置を得ることを目的とする。
【0006】
【課題を解決するための手段】
この課題を解決するために本発明は、明るさが変動する光源下において、複数のフリッカ検出手段および複数のフリッカ抑圧手段により露光量の異なる信号ごとにフリッカ成分を検出および抑圧し、画像合成手段で合成処理するように構成したものである。
【0007】
これにより、高輝度部でも低輝度部でもフリッカが抑圧された固体撮像装置が得られる。
【0008】
【発明の実施の形態】
本発明の第1の発明は、撮像手段と複数のフリッカ検出手段と複数のフリッカ抑圧手段と画像合成手段で構成され、撮像手段は露光量の異なる複数の出力信号を出力し、複数のフリッカ検出手段は露光量の異なる複数の出力信号のフリッカを検出し、複数のフリッカ抑圧手段は複数の出力信号のフリッカを抑圧し、画像合成手段は露光量の異なる信号を合成するという作用を有する。
【0009】
以下、本発明の実施の形態について、図面を参照しながら説明する。
(実施の形態1)
本発明の目的は、高輝度部でも低輝度部でもフリッカを抑圧することである。
【0010】
図1は本発明の実施の形態1の固体撮像装置の構成を表す構成図である。図1において、1は撮像手段としての固体撮像素子、2は第1のフリッカ検出手段、3は第1のフリッカ抑圧手段としての固体撮像素子の駆動回路、4は第2のフリッカ検出手段、5は第2のフリッカ抑圧手段、6は画像合成手段、7a,7bは積分回路、8a,8bはマイクロコンピュータ、9は増幅回路、10は加算回路である。
【0011】
固体撮像素子1は通常の固体撮像素子に対して2倍の走査線数の信号が出力できるような全画素読み出し型の固体撮像素子を用いる。図2に全画素読み出し型の固体撮像素子の一例の構成図を示す。図2において、11は光電変換部、12は垂直転送部、13a,13bは水平転送部、14a,14bは出力アンプ、15a,15bは出力端子である。図2で示した例は、画素数として横4画素、縦6画素で構成しているが、実際には例えばVGA(Video Graphics Array)で表されるような画素数では横640画素、縦480画素という構成がとられる。
【0012】
光電変換部11でテレビ方式における1フィールド期間のうち、垂直の有効期間約1/60秒光電変換されて得られる長時間露光信号Slong(図2中、●印で示す)は、垂直ブランキング期間に垂直転送部12に読み出される。また、垂直ブランキング期間約1/1000秒光電変換されて得られる短時間露光信号Sshort(図2中、○印で示す)は、同じ垂直ブランキング期間に、Slongとは独立に垂直転送部12に読み出される。この様にして得られた信号SlongおよびSshortは、それぞれ独立に垂直転送部12から、水平転送部13aおよび13bに順次転送され、次のフィールドの有効期間に出力アンプ14aおよび14b、出力端子15aおよび15bを通して出力される。
【0013】
図25に横軸に入射光量L、縦軸に信号レベル(信号量)Sを取ったときのSlong、Sshortの関係を表すグラフを示す。撮像素子の信号量とS/Nには相関があり、信号量が小さい場合にノイズが目立つ。図25において、Slongは入射光量Aで飽和するが、それ以下の入射光量ではS/Nの良い信号が得られる。SshortはA以下では信号量が小さくS/Nは悪いが、A以上の光量での信号を再現できる。この2つの信号を合成することにより、S/Nが良くダイナミックレンジの高い信号が得られる。
【0014】
固体撮像素子1から出力された長時間露光信号Slongは、第1のフリッカ検出手段2に入力される。第1のフリッカ検出手段2では、長時間露光信号Slongが積分回路7aに入力され、Slongが1フィールド期間積分され積分結果がSL1としてマイクロコンピュータ(μ−com)8aに入力される。フリッカ成分は蛍光灯の周期50Hzとテレビ方式のフィールド周期60Hzの関係から20Hzの周期で発生する。そこで、マイクロコンピュータ8aでは、入力したSL1と過去6フィールド分のSlongの積分値SL2、SL3、SL4、SL5、SL6、SL7を用いて、バンドパスフィルタ処理により20Hz成分の検出を行う。
【0016】
フリッカは上記のようにバンドパスフィルタによって検出を行うため、急激な輝度変化の場合に一時的に誤検出が発生する。この様な誤検出に対応するため、マイクロコンピュータ8aでは、検出された20Hz成分の絶対値が6フィールド連続してあらかじめ定めた値を上回る場合にフリッカ有りと判断し、フリッカ有りという信号を出力する。
【0017】
第1のフリッカ抑圧手段としての固体撮像素子1の駆動回路3では、第1のフリッカ検出手段2よりフリッカ有りという信号を入力すると、固体撮像素子1における長時間露光信号の露光時間を1/100秒に設定し固体撮像素子1を駆動する。
【0018】
1/100秒は、蛍光灯の周期50Hzの1/2にあたるため、これにより長時間露光信号Slongのフリッカが抑圧される。
【0019】
次に、固体撮像素子1から出力された短時間露光信号Sshortは、第2のフリッカ検出手段4に入力される。第2のフリッカ検出手段4では、第1のフリッカ検出回路2と同様に積分回路7bでSshortが1フィールド期間積分されて得られるSS1がマイクロコンピュータ8bに入力され、SS1と過去5フィールド分のSshortの積分値SS2、SS3、SS4、SS5、SS6を用いて、フリッカを検出する。
【0020】
さらに、マイクロコンピュータ8bでは、Sshortの積分値SS1、SS2、SS3を用いて、蛍光灯フリッカの周期のうち、 SS2 と同じ位相の信号が SS1 から SS3 の積分値の平均値となるようなゲインAを算出し出力する。
【0022】
第2のフリッカ抑圧手段5では第2のフリッカ検出手段4でフリッカが検出された際に、第2のフリッカ検出手段4から出力されたゲインAを入力し、SS1を積分したフィールドから2フィールド後のタイミングで、増幅回路9でSshortに対しゲイン補正を行い、フリッカの抑圧されたSshort'として出力する。
【0023】
画像合成手段6では、フリッカ抑圧された長時間露光信号Slongとフリッカ抑圧された短時間露光信号Sshortを入力し加算回路10において加算することによって合成画像信号Smixを出力する。
【0024】
ここで、フリッカ抑圧手段の解除について説明する。第1のフリッカ抑圧手段3により固体撮像素子1からはフリッカの抑圧された長時間露光信号がSlongとして出力され、第1のフリッカ検出手段2において、フリッカが検出されなくなる。しかしながら、この時点でフリッカ抑圧を解除すると再びフリッカが発生する。マイクロコンピュータ8aでは、このような場合には長時間露光信号の露光時間を1/100秒に保持し、積分回路7aから出力される積分値SL1が過去のフィールドの積分値から大幅に変動した場合を検出し、その際撮影シーンが変化したと判断し、フリッカ抑圧動作を解除し、長時間露光信号の露光時間を1/60秒に変更する。
【0025】
また、第2のフリッカ検出手段4ではフリッカのない被写体の場合には、積分値から算出されるバンドパスフィルタの出力が小さくなるので、その条件からフリッカ抑圧動作の解除が行われる。
【0026】
以上のような構成により、本実施の形態の固体撮像装置によって、ダイナミックレンジを拡大しつつ高輝度部でも低輝度部でもフリッカを抑圧することができる。
【0027】
なお、本実施の形態で、第1のフリッカ検出手段2と第2のフリッカ検出手段4においてマイクロコンピュータ8aおよび、マイクロコンピュータ8bを用いているが、同一のマイクロコンピュータを時分割で用いても同様の効果を得ることができる。
【0028】
また、第1のフリッカ検出手段2の検出結果を元に、第2のフリッカ検出手段4におけるフリッカ検出の判断を行っても同様の結果を得ることができる。この場合は、第2のフリッカ検出手段4のフリッカ検出処理を省略することができる。ただし、第2のフリッカ抑圧手段5における、ゲイン補正のための補正ゲインの算出は省略することはできない。
【0029】
さらに、第1のフリッカ抑圧手段3として、固体撮像素子1の駆動により露光時間を調整してフリッカの抑圧を行ったが、第2のフリッカ抑圧手段5と同様に、信号に対するゲイン調整によりフリッカ抑圧の処理を施しても同様の効果を得ることができる。
【0030】
さらに、本実施の形態では、フリッカ抑圧の解除を第1のフリッカ抑圧手段3と第2のフリッカ抑圧手段5で独立に行っているが、どちらか一方の動作により両方のフリッカ抑圧の解除を行っても良い。
【0031】
(実施の形態2)
ダイナミックレンジ拡大を行わないような通常の固体撮像装置では、撮像手段の出力信号を入力し、γ補正、アパーチャ補正などのカメラ信号処理を施して出力信号として出力している。
【0032】
本発明の目的は、フリッカ検出手段およびフリッカ抑圧手段に合成画像信号Smixを入力とすることによって通常のカメラ信号処理との回路の共用化が可能となるような構成にしようというものである。
【0033】
図3は本発明の実施の形態2の固体撮像装置の構成を表す構成図である。図3において、1は撮像手段としての固体撮像素子、2は第1のフリッカ検出手段、3は第1のフリッカ抑圧手段としての固体撮像素子の駆動回路、4は第2のフリッカ検出手段、5は第2のフリッカ抑圧手段、6は画像合成手段、7a,7bは積分回路、8a,8bはマイクロコンピュータ、9は増幅回路、10は加算回路である。
【0034】
撮像手段としての固体撮像素子1の動作は、実施の形態1に準じるので、ここでは説明を省略する。また、第2のフリッカ検出手段4及び第2のフリッカ抑圧手段5の動作も、実施の形態1に準じるので、ここでは説明を省略する。
【0035】
これらにより、固体撮像素子1から出力される長時間露光信号Slongおよび、フリッカ抑圧された短時間露光信号Sshort'が画像合成手段6に入力され、加算回路10において両信号が加算され合成画像信号Smixとして出力される。このようにして得られた合成画像信号Smixは、長時間露光信号Slongがフリッカ抑圧されていないために、画面内における長時間露光信号Slongが飽和していない部分ではフリッカが発生する。
【0036】
次に第1のフリッカ検出手段2は画像合成手段6から出力される合成画像信号Smixを入力し、実施の形態1と同様にフリッカを検出し、フリッカが発生している場合にはフリッカ有りという信号を出力する。また、第1のフリッカ抑圧手段としての固体撮像素子の駆動回路3は、フリッカ有りという信号を検出した場合には、固体撮像素子1の長時間露光信号Slongの露光時間を1/100秒に設定する。
【0037】
ただし、フリッカ抑圧の解除については実施の形態1に準じ、ここでは省略する。
【0038】
以上のような動作により、長時間露光信号Slongと短時間露光信号Sshortがそれぞれフリッカ抑圧され、ダイナミックレンジが拡大されてしかも高輝度部でも低輝度部でもフリッカが抑圧された合成画像信号Smixを得ることができる。
【0039】
なお、本実施の形態で、第1のフリッカ検出手段2と第2のフリッカ検出手段4においてマイクロコンピュータ8aおよび、マイクロコンピュータ8bを用いているが、同一のマイクロコンピュータを時分割で用いても同様の効果を得ることができる。
【0040】
また、第1のフリッカ検出手段2の検出結果を元に、第2のフリッカ検出手段4におけるフリッカ検出の判断を行っても同様の結果を得ることができる。この場合は、第2のフリッカ検出手段4のフリッカ検出処理を省略することができる。ただし、第2のフリッカ抑圧手段5における、ゲイン補正のための補正ゲインの算出は省略することはできない。
【0041】
さらに、第1のフリッカ抑圧手段3として、固体撮像素子1の駆動により露光時間を調整してフリッカの抑圧を行ったが、第2のフリッカ抑圧手段9と同様に、信号に対するゲイン調整によりフリッカ抑圧の処理を施しても同様の効果を得ることができる。ただし、フリッカの検出は合成画像信号Smixから行っているが、フリッカの抑圧は、長時間露光信号Slongに施すのが望ましい。
【0042】
さらに、本実施の形態では、フリッカ抑圧の解除を第1のフリッカ抑圧手段3と第2のフリッカ抑圧手段4で独立に行っているが、どちらか一方の動作により両方のフリッカ抑圧の解除を行っても良い。
【0043】
(実施の形態3)
実施の形態2では、合成画像信号Smixから、第1のフリッカ検出手段2により長時間露光信号に対するフリッカ検出を行ったが、合成画像信号Smixからでは高輝度部ではフリッカの抑圧されたSshort'による影響が大きく、正確なフリッカの検出が困難である。本発明の目的は、合成画像信号Smixからでもより正確なフリッカの検出を行うことである。
【0044】
本実施の形態の固体撮像装置の構成および動作は実施の形態2と第1のフリッカ検出手段2以外は同様なのでここでは省略する。
【0045】
図4は、本発明の実施の形態3による固体撮像装置の第1のフリッカ検出手段2の構成を示す構成図である。図4において、7c〜7jは積分回路、16はブロック積分手段、17はマルチプレクサ、18はセレクタ、8cはフリッカ判定手段としてのマイクロコンピュータ(μ−com)である。また、図5はブロック積分手段16における画面分割の様子を示す模式図である。
【0046】
第1のフリッカ検出手段2は実施の形態2と同様に合成画像信号Smixを入力する。入力した合成画像信号Smixは第1のフリッカ検出手段2のブロック積分手段16に入力される。ブロック積分手段16ではマルチプレクサ17が図5のように画面を横8縦6の計48ブロックに分けた分割のタイミングに従って、画面の左端にあたる1番目のブロックから8番目のブロックまでの信号を積分回路7cから7jに切り替えて積分することにより、第1列目の積分値を積分する。つぎに合成画像信号Smixが8番目のブロックから9番目のブロックに移動するタイミングで、セレクタ18により積分回路17cから17jが選択され、8つのブロック積分値SB1からSB8が出力され、マイクロコンピュータ8cに入力される。同様の動作により、1フィールド期間後には48ブロックのブロック積分値SB1からSB48がマイクロコンピュータ8cに入力される。
【0047】
マイクロコンピュータ8cでは、入力した48ブロックのブロック積分値のうち一定値以下のブロックの積分値を抽出し、その平均値からフィールドを代表する積分値SM1とする。次にマイクロコンピュータ8cではSM1と過去5フィールド分のSmixの代表の積分値SM2、SM3、SM4、SM5、SM6を用いて、実施の形態2と同様にフリッカを検出する。
【0048】
第1のフリッカ抑圧手段3以降の動作は実施の形態2に準じるので省略する。
本発明によれば、第1のフリッカ検出手段2をブロック積分手段とフリッカ判定手段としてのマイクロコンピュータで構成し、ブロック積分値のうちレベルの小さいもののみを用いてフリッカ検出を行うことにより、合成画像信号Smixのうちフリッカ抑圧のなされた高輝度側の信号Sshortを極力使わず、フリッカのあるSlongの信号からフリッカの検出を行っているので、より正確なフリッカ抑圧が可能となる。
【0049】
なお、本実施の形態ではブロック分割の分割数を48ブロックとしているが、分割数としてはかならずしも48ブロックである必要はない。最大の分割数としては、撮像素子1の画素数分と考えることができるが、画素数分のデータをマイクロコンピュータ8cに転送することは困難なので、このような場合には、第1のフリッカ検出手段を回路によって構成することが考えられる。しかしながら、このような構成によっても本実施の形態と同様の効果を得ることができる。
【0050】
(実施の形態4)
実施の形態1から3では、基本的な動作説明のために、撮像手段として白黒の固体撮像素子を想定している。固体撮像素子を用いた撮像手段としては、色分解プリズムにより色分離する3板方式や画素ごとに分光特性の異なる色フィルタを配置する単板方式によるカラー化方式がある。
【0051】
実施の形態1から3の様な構成でも撮像手段のフリッカをおおむね抑圧することができるが、蛍光灯の明るさの変動は色成分ごとにその位相が異なる。そのため、輝度成分のみの抑圧では、色成分の変動すなわち色フリッカの抑圧は困難である。
【0052】
本発明の目的は、輝度成分のみならず色成分のフリッカも抑圧する固体撮像装置を実現することである。
【0053】
図6は本発明の実施の形態4の固体撮像装置の構成を表す構成図である。図6において、1は撮像手段としての固体撮像素子、2は第1のフリッカ検出手段、3は第1のフリッカ抑圧手段、4は第2のフリッカ検出手段、5は第2のフリッカ抑圧手段、6は画像合成手段、7k〜7nは積分回路、8bはマイクロコンピュータ、9a,9bは増幅回路、17bはマルチプレクサ、18b〜18dはセレクタ、19a〜19dはレジスタ、20は比較器である。
【0054】
図7は本発明の実施の形態4の固体撮像装置の撮像手段としての固体撮像素子1の構成を表す構成図である。図7の固体撮像素子の構成は実施の形態1における固体撮像素子の光電変換部11上にマゼンタ(Mg)、グリーン(Gr)、イェロー(Ye)、シアン(Cy)の4つの異なる分光特性を持つ色フィルタが画素ごとに配置されているものであり、動作としては、実施の形態1と全く同じ動作をする。ただし、出力信号としては、固体撮像素子1の画素混合動作により、マゼンタ+イェロー(MY)、マゼンタ+シアン(MC)、グリーン+イェロー(GY)、グリーン+シアン(GC)の4種類の信号が長時間露光信号Slong、短時間露光信号Sshortそれぞれで出力される。
【0055】
色フィルタの配列により、MYとGCを1つの組とし、MCとGYを1つの組とした信号が、ラインごとに交互に出力され、さらにMYとGC、MCとGYが画素ごとに交互に出力される。また、各色フィルタの分光特性は、MYとGCの和およびMCとGYの和が輝度信号Yの分光特性になるように設計されている。そのため、MYとGC、MCとGYの信号列は、輝度信号成分Yに色信号成分Cr、Cbが変調され重畳された信号として出力される。
【0056】
図8に横軸に入射光量L、縦軸に信号レベルSをとったときのSlongとSshortの光電特性を示す。図8の特性は、図25の特性に変調成分が重畳された形となっている。
【0057】
図9(a)に横軸に時間t、縦軸に各色の明るさをとった場合の波形を示す。また、図9(b)に図9(a)におけるA、B、C、Dの各タイミングで短時間露光を行った場合のMY、MC、GY、GCの各画素の平均の出力値を示す。図9(b)でAやDのタイミングでは各画素の出力値はほぼ一定であるが、BやCのタイミングでは、色ごとの明るさの変化の位相ズレのために出力レベルに差が発生している。実施の形態1から3では、これに対して画素ごとに一定のゲインを与えていたために、このばらつきの比が残り、色信号成分に対してフリッカが発生する。
【0058】
固体撮像素子1から出力された長時間露光信号Slongは第1のフリッカ検出手段2に入力される。ここで、第1のフリッカ検出手段2および第1のフリッカ抑圧手段3の動作は、実施の形態1に準じるのでここでは省略する。第1のフリッカ抑圧動作は、長時間露光信号の露光時間を蛍光灯の周期の1/2である1/100秒にすることにより実現されるので、蛍光灯の色成分の変動の影響はほとんど受けない。
【0059】
次に固体撮像素子1から出力された短時間露光信号Sshortは第2のフリッカ検出手段4に入力される。フリッカ検出手段4に入力された短時間露光信号Sshortは、マルチプレクサ17bにより4種類の色出力信号MY、MC、GY、GCごとに振り分けられて積分回路7k、7l、7m、7nに入力され、1フィールド期間積分された後、SMY1、SMC1、SGY1、SGC1としてセレクタ18bを通して順次マイクロコンピュータ8bに入力される。マイクロコンピュータ8bでは、入力したSMY1、SMC1、SGY1、SGC1の和をSS1として、実施の形態1と同様にフリッカの検出を行う。
【0060】
さらに、マイクロコンピュータ8bでは、検出した色信号ごとのSshortの積分値SMY1、SMC1、SGY1、SGC1と過去2フィールド間に検出した積分値SMY2、SMC2、SGY2、SGC2、SMY3、SMC3、SGY3、SGC3を用いて、蛍光灯フリッカの周期のうち SMY2 と同じ位相の信号が SMY1,SMY2,SMY3 の積分値の平均値となるようなゲインAMY、SMC2 と同じ位相の信号が SMC1,SMC2,SMC3 の積分値の平均値となるようなゲインAMC、SGY2 と同じ位相の信号が SGY1,SGY2,SGY3 の積分値の平均値となるようなゲインAGY、SGC2 と同じ位相の信号が SGC1,SGC2,SGC3 の積分値の平均値となるようなゲインAGCを算出し出力する。
【0062】
第2のフリッカ抑圧手段5では第2のフリッカ検出手段4から出力された4種類のゲインAMY、AMC、AGY、AGCを入力し、それぞれレジスタ19a、19b、19c、19dに格納する。そして、SS1を積分したフィールドから2フィールド後のタイミングで、Sshortに対しセレクタ18cによりMY、MC、GY、GCそれぞれの色信号に対応したゲインAMY、AMC、AGY、AGCを選択し増幅回路9aでゲイン補正を行い、フリッカの抑圧されたSshort'として出力する。
【0063】
画像合成手段6ではフリッカ抑圧された長時間露光信号Slongとフリッカ抑圧された短時間露光信号Sshort'を入力する。短時間露光信号Sshort'は色信号の階調保存のために長時間露光信号と短時間露光信号の光量比にあたるゲインで増幅回路9bによって増幅される。ここでは、長時間露光信号の露光時間が1/100秒、短時間露光信号の露光時間が1/1000秒なので、ゲインは10倍となる。
【0064】
次に画像合成手段6では入力した長時間露光信号Slongを比較器20において撮像素子1の飽和信号レベルSsatと比較し、セレクタ18dにおいてSlongが飽和している場合にはゲインアップされたSshort'を、飽和していない場合にはSlongを合成画像信号Smixとして出力する。
【0065】
図8に画像合成手段6の各部における信号の入射光量Lと信号レベルSの関係を示す。図8において、色変調成分を持つ長時間露光信号Slongの包絡線は、三角形O,L1,L2で表される。また、短時間露光信号Sshortの包絡線は三角形O,S1,S2で表される。さらに、合成画像信号Smixの包絡線は三角形O,M1,M2で表される。
【0066】
なお、本実施の形態における画像合成手段6の構成が実施の形態1から3までと異なるのは、固体撮像素子1の出力信号が色信号による変調成分を持っているためで、本発明の目的であるフリッカの抑圧動作とは直接的な関係はない。
【0067】
本実施の形態では、各色信号ごとにフリッカ補正の処理を施しているために、これらのばらつきは抑圧され、輝度信号と共に色信号のフリッカも抑圧された出力信号を得ることができる。
【0068】
(実施の形態5)
ダイナミックレンジを拡大して撮影を行うような固体撮像装置では、被写体として、屋内と屋外を同時に撮影する場合がある。この場合屋内と屋外では、光源の色温度が異なるため、屋内の被写体と屋外の被写体で別々にホワイトバランス補正を施すことが望ましい。一般に屋内の被写体は暗く、屋外の被写体は明るいために、本発明のようなダイナミックレンジの拡大を行うような固体撮像装置では、高輝度部と低輝度部で別々にホワイトバランスの補正処理を施せば、画面全体にホワイトバランスのとれた画像が得られる。
【0069】
本発明の目的は、フリッカ抑圧手段における増幅回路を利用して、高輝度部のホワイトバランス補正を行うことにより、高輝度部も低輝度部もホワイトバランスのとれた画像を得るというものである。
【0070】
図10に本発明の実施の形態5の固体撮像装置の構成図を示す。図10において、1は撮像手段としての固体撮像素子、2は第1のフリッカ検出手段、3は第1のフリッカ抑圧手段、4は第2のフリッカ検出手段、5は第2のフリッカ抑圧手段、6は画像合成手段、7k〜7n,7pは積分回路、8b,8dはマイクロコンピュータ、9a,9bは増幅回路、17bはマルチプレクサ、18b〜18dはセレクタ、19a〜19dはレジスタ、20は比較器、21はカメラ信号処理回路、22は輝度色分離回路、23はアパーチャ補正回路、24a,24bはγ補正回路、25はホワイトバランス補正回路、26はマトリクス回路である。
【0071】
固体撮像素子1、第1のフリッカ検出手段2、第1のフリッカ抑圧手段3、第2のフリッカ検出手段4、第2のフリッカ抑圧手段5、画像合成手段6の動作は、実施の形態4に対して、第2のフリッカ検出手段4におけるマイクロコンピュータ8b以外は同様であるため、ここでは省略し、マイクロコンピュータ8bの動作については後ほど説明する。
【0072】
カメラ信号処理回路21の動作は通常のカメラの動作と同様である。まず画像合成手段6から合成画像信号Smixを入力する。輝度色分離回路22ではMY、MC、GY、GCで構成される合成画像信号Smixから、以下に示す(数4)により、輝度信号Yと色信号R、G、Bに分離する。
【0073】
【数4】
【0074】
ここで、Cr、Cbはそれぞれ赤方向、青方向の色の変調成分を表す。また、k1、k2は、任意の定数で、色分離フィルタの分光特性によって決まるが、例えば、k1、k2ともに0.2という値が用いられる。
【0075】
このようにして得られた輝度信号Yはアパーチャ補正回路23でフィルタ処理により輪郭補正され、γ補正回路24aでγ補正処理されてYoutとして出力される。同時に色信号R、G、Bは、積分回路7pに入力され、それぞれ1フィールド期間積分されて、積分値SR、SG、SBがマイクロコンピュータ8dに入力される。
【0076】
マイクロコンピュータ8dでは、入力した積分値SR、SG、SBからホワイトバランスのゲインAR、ABをAR=SG/SR、AB=SG/SBによって求め、ホワイトバランス補正回路25において、R信号に対してはゲインARで増幅し、B信号に対してはゲインABで増幅する事によってホワイトバランス補正を施す。次にγ補正回路24bではホワイトバランス回路25から出力された各原色信号に対してγ補正処理し、マトリクス回路26において所定のマトリクス処理を施し、色差信号R−Y、B−Yとして出力する。
【0077】
また、マイクロコンピュータ8dは、積分値ΣR、ΣG、ΣBをマイクロコンピュータ8bに転送する。
【0078】
マイクロコンピュータ8bは積分回路7k、7l、7m、7nの積分値SMY1、SMC1、SGY1、SGC1とマイクロコンピュータ8dから出力されるSR、SG、SBを入力し、以下に示す(数5)によってホワイトバランスの検出のためのデータを抽出する。
【0079】
【数5】
【0080】
ここで、SCr、SCbは、赤方向、青方向の色差変調成分を輝度信号成分で規格化したものと同等となり、明るさの変化の影響を受けない色座標を与える。また、SRG、SBGは、赤、青の原色信号成分を緑信号で規格化したものであり、やはり、明るさの変化の影響を受けない色座標を与える。
【0081】
図11にホワイトバランスのための色座標空間を示す。図11(a)は縦軸にSCr、横軸にSCbをとったものであり、図11(b)は縦軸にSRG、横軸にSBGをとったものであり、いずれの色座標空間においても、各種光源の色座標は、例えば、色温度の低い光源の場合はT1に、色温度が高い光源の場合はT5にという具合に図の中央部T3を通る曲線の付近の長方形で表した領域に分布する。
【0082】
ここで、図11(a)に示す色温度座標空間は、短時間露光信号Sshortから得られた、いわば高輝度領域の色温度を表し、図11(b)に示す色温度座標空間は、画像合成後の信号Smixから得られた合成後の色温度を表す。この2つの座標に(数5)で得られる各信号に対する光源の色温度座標を配置した場合に、同じ光源を表す領域に分布する場合はよいが、異なる光源を表す領域に分布する場合は、高輝度領域と低輝度領域で光源が異なると考えられる。そこで、マイクロコンピュータ8bでは、2つの色温度座標における光源の分布がおおむね同一の位置に分布するようなゲインを算出する。
【0083】
例えば、Sshortから検出した光源の座標が屋外を表すT5であり、Smixから検出した光源の座標が屋内を表すT3である場合について説明する。
【0084】
(表1)に図11における5つの光源の色温度座標と各色フィルタの出力信号レベル比を示す。なお、この値は固体撮像素子の色フィルタ等の分光特性によって変化する。
【0085】
【表1】
【0086】
検出した色温度T5をT3になる様に補正するために、マイクロコンピュータ8bでは、T3の各色フィルタのレベル比( MY , MC , GY , GC )_T3 = ( 1.0 , 1.0 , 1.0 , 1.0 )をT5の各色フィルタのレベル比( MY , MC , GY , GC )_T5 = ( 1.0 , 1.3 , 0.9 , 1.2 )で割ることで得られるゲイン( AwMY , AwMC , AwGY , AwGC ) = ( 1.0 , 0.77 , 1.11 , 0.83 ) = ( MY , MC , GY , GC )_T3/( MY , MC , GY , GC )_T5を得る。Sshortの各色フィルタごとの信号にこのゲインをかければ、ホワイトバランスをほぼ一致させることができる。
【0087】
マイクロコンピュータ8bでは実施の形態4と同様に検出したフリッカ補正ゲイン( AMY , AMC , AGY , AGC )と以上のようにして求めたホワイトバランスゲイン( AwMY , AwMC , AwGY , AwGC )をそれぞれ掛け合わせて新たに( AMY , AMC , AGY , AGC )として出力する。
【0088】
第2のフリッカ抑圧手段5ではマイクロコンピュータ8bから出力された4種類のゲインAMY、AMC、AGY、AGCを入力し、それぞれレジスタ19a、19b、19c、19dに格納する。そして、SS1を積分したフィールドから2フィールド後のタイミングで、Sshortに対しセレクタ18cによりMY、MC、GY、GCそれぞれの色信号に対応したゲインAMY、AMC、AGY、AGCを選択し増幅回路9aでゲイン補正を行い、フリッカの抑圧されたSshort'として出力する。
【0089】
画像合成手段6では実施の形態4と同様に合成処理し、ダイナミックレンジが拡大されると共にフリッカ抑圧され、しかも高輝度部と低輝度部のホワイトバランスが一致した合成画像信号Smixとして出力する。
【0090】
なお、本実施の形態では、光源の座標と各色フィルタごとのゲインを表で与え、マイクロコンピュータ8b内に記憶した状態で処理を行っているが、光源の座標と各色フィルタごとのゲインは(数4)、(数5)の関係を用いて演算によって求めることもできる。この場合はマイクロコンピュータ8bの演算量は増えるが、メモリ容量を減らすことができる。
【0091】
また、本実施の形態ではマイクロコンピュータを8bと8dの2種類用いたが、1つのマイクロコンピュータを時分割で用いても同様の効果が実現できる。
【0092】
(実施の形態6)
本発明の固体撮像装置は、ダイナミックレンジの拡大された信号を出力することができるために、屋外と屋内という様な光源の異なる被写体を撮像する場合がある。このような場合に、屋内は蛍光灯のためにフリッカが発生し、屋外は太陽光のためにフリッカが発生しないために、画面に対して均一なフリッカ抑圧処理を施すと画面の一部においてフリッカが抑圧できない場合が発生する。
【0093】
本発明の目的は、画面を複数のブロックに分割し、各ブロックごとにフリッカ補正を施すことにより、複数の光源が存在するような場合でも、画面全体にわたってフリッカの抑圧された信号が得られるようにするというものである。
【0094】
図12は本発明の実施の形態6の固体撮像装置の構成を示す構成図である。図12において、1は撮像手段としての固体撮像素子、2は第1のフリッカ検出手段、3は第1のフリッカ抑圧手段、4は第2のフリッカ検出手段、5は第2のフリッカ抑圧手段、6は画像合成手段である。また、図13および図14に第1のフリッカ検出手段2および第2のフリッカ検出手段4の構成を示す。
【0095】
固体撮像素子1から出力された長時間露光信号Slongと短時間露光信号Sshortは画像合成手段6における加算器10で加算処理されて、合成画像信号Smixとして出力される。
【0096】
第1のフリッカ検出手段2では、実施の形態3と同様に合成画像信号Smixを入力し、ブロック積分手段16により、1フィールド期間後に48ブロックのブロック積分値SB1からSB48がマイクロコンピュータ8cに入力される。
【0097】
マイクロコンピュータ8cでは、実施の形態3と同様にフリッカを検出し、第1のフリッカ抑圧手段3により長時間露光信号Slongのフリッカを抑圧する。
【0098】
また、第2のフリッカ検出手段4は実施の形態2と同様に短時間露光信号Sshortを入力する。入力した短時間露光信号Sshortは、第2のフリッカ検出手段4のブロック積分手段16bに入力される。ブロック積分手段16bではマルチプレクサ17bが実施の形態3における第1のフリッカ検出手段2と同様に図5のように画面を横8縦6の48ブロックに分けた48ブロックのブロック積分値SB1(1)からSB1(48)がマイクロコンピュータ8dに入力される。
【0099】
マイクロコンピュータ8dでは、各ブロックごとの積分値SB1(1)からSB1(48)と過去5フィールド分のブロックごとの積分値を用いて、フリッカを検出する。
【0100】
さらに、マイクロコンピュータ8dでは、Sshortのブロックごとの積分値SB1(n)、SB2(n)、SB3(n)を用いて、蛍光灯フリッカの周期のうち SB2(n) と同じ位相の信号が SB1(n),SB2(n),SB(3) の積分値の平均値となるようなゲインAMYブロックごとのフリッカ補正ゲインA(n)を算出し出力する。
【0102】
このブロックごとのフリッカ補正ゲインによって第2のフリッカ抑圧手段5においてフリッカ抑圧すれば、画面各部でフリッカが抑圧された信号が得られるが、フリッカ補正のゲインが隣のブロックのゲインと異なる場合には、ブロックの変わり目で補正量の不連続が発生する。
【0103】
第2のフリッカ抑圧手段5では第2のフリッカ検出手段4から出力されたゲインAを入力し、各ブロックのゲインA(n)を補間回路27に入力し、画素ごとのゲインApixelを求める。Apixelは、ゲイン補正を行う画素のブロックおよびそのブロックの周囲のブロックのゲインの画素位置による重み付け処理で求められる。
【0104】
増幅回路9では、補間回路27から入力した画素ごとのゲインApixelを用いてSB1を積分したフィールドから2フィールド後のタイミングで、Sshortに対しゲイン補正を行い、フリッカの抑圧されたSshort'として出力する。
【0105】
第2のフリッカ検出手段4において、画面を複数のブロックに分割し、第2のフリッカ抑圧手段5において各ブロックごとにフリッカ補正を施すことにより、複数の光源が存在するような場合でも、画面全体にわたってフリッカの抑圧された信号が得ることができる。
【0106】
なお、本実施の形態ではマイクロコンピュータを8cと8dの2種類用いているが、1つのマイクロコンピュータを時分割で用いても同様の効果を得ることができる。
【0107】
また、本実施の形態では、第1のフリッカ抑圧手段3を撮像素子のシャッタスピードの調整で得たが、第2のフリッカ抑圧手段5と同様にブロックごとのゲイン補正によって得ても良い。
【0108】
(実施の形態7)
本発明の固体撮像装置は、露光量の異なる信号を合成してダイナミックレンジの拡大された信号を得るものであるが、ダイナミックレンジの拡大された信号の階調性を自然なものにするには、階調補正回路が必要となる。
【0109】
本発明の目的は、階調補正回路でフリッカ抑圧を施すことにより、回路の簡略化を行うというものである。
【0110】
図15は本発明の実施の形態7の固体撮像装置の構成を表す構成図である。図15において、1は撮像手段としての固体撮像素子、2は第1のフリッカ検出手段、3は第1のフリッカ抑圧手段、4は第2のフリッカ検出手段、5は第2のフリッカ抑圧手段、6は画像合成手段、7a,7bは積分回路、8a,8bはマイクロコンピュータ、10は加算回路、28は階調補正回路、29は階調特性変更手段である。
【0111】
固体撮像素子1、第1のフリッカ検出手段2、第1のフリッカ抑圧手段3および画像合成手段6の動作は、実施の形態3に準じるのでここでは省略する。
【0112】
つぎに、第2のフリッカ検出手段4は画像合成手段6の出力信号Smixを入力し、図4に示す実施の形態3と同様な構成により画面を複数の領域に分割したブロック積分値がマイクロコンピュータ8cに入力される。
【0113】
マイクロコンピュータ8cでは、入力した48ブロックのブロック積分値のうち一定値以上のブロックの積分値を抽出し、その平均値からフィールドを代表する高輝度部の積分値SM1を得る。次にマイクロコンピュータ8cではSM1と過去5フィールド分のSmixの代表の積分値SM2、SM3、SM4、SM5、SM6を用いて、実施の形態2と同様にフリッカを検出する。
【0114】
階調特性変更手段29では第2のフリッカ検出手段4で検出したフリッカ補正ゲインに応じて、フィールド毎に高輝度部のみの階調特性を変更する。階調補正回路28は、階調特性変更手段29から与えられた階調特性に応じて、合成信号Smixの階調補正を行う。
【0115】
図16にフリッカ補正を施した場合の階調特性変更手段から出力される階調特性を示す。図16に示すように、第2のフリッカ抑圧手段5で抑圧すべき高輝度部の信号のみにフリッカ補正のゲインAH0,AH1,AH2をかけることができる。
【0116】
ここで、図16に示したように階調特性でフリッカ補正をかける場合には、高輝度部ほどフリッカゲインを大きくとる必要があるので、階調特性変更手段29に与える階調特性は、高輝度部ほどフィールド間の変化が大きくなるように調整する。
【0117】
ここで、階調補正回路28としては、ランダムアクセスメモリに階調補正カーブを記憶させるものや、折れ線近似により実現するものがあるが、前者の場合は、メモリに書き込むカーブの情報、後者の場合は折れ線の傾きやオフセットの値を変更することで、階調特性を変更することができる。
【0118】
これにより、実施の形態3で用いていた増幅回路9を省略することができる。
以上のように本実施の形態によれば、画像合成手段6で合成された信号に対して階調補正を施す階調補正回路5と、階調補正回路5の階調特性を順次変更する階調特性変更手段29を有し、複数のフリッカ検出手段の内少なくとも一つは、画像合成手段6で合成された信号からフリッカ成分を検出し、複数のフリッカ抑圧手段の内少なくとも一つは、階調補正回路5の階調特性を調整することによって得ることにより、回路の簡略化を行うことができるというものである。
【0119】
(実施の形態8)
実施の形態7では、第2のフリッカ補正手段として、高輝度部のみに階調補正によるフリッカ補正を施したが、同様の構成で、低輝度部に対しても、フリッカ補正を施すことができる。
【0120】
本発明の目的は、階調補正回路の高輝度部と低輝度部にそれぞれ別々のゲインを与えることによって、第1のフリッカ抑圧手段と第2のフリッカ抑圧手段を共用しようというものである。
【0121】
図17は、本発明の実施の形態8の固体撮像装置の構成図である。図17に示した構成は、図15の構成から第1のフリッカ検出手段2と第1のフリッカ抑圧手段3を取り除いたものである。図17において、固体撮像素子1、画像合成手段6の動作は実施の形態7に準じるので省略する。
【0122】
第2のフリッカ検出手段4は、画像合成手段6の出力信号Smixを入力し、図4に示す実施の形態3と同様な画面を複数の領域に分割したブロック積分値がマイクロコンピュータ8cに入力される。
【0123】
マイクロコンピュータ8cでは、入力した48ブロックのブロック積分値のうち一定値以上のブロックの積分値を抽出し、その平均値からフィールドを代表する高輝度部の積分値SH1を得る。次にマイクロコンピュータ8cではSH1と過去5フィールド分のSmixの代表の積分値SH2、SH3、SH4、SH5、SH6を用いて、実施の形態7と同様に高輝度部のフリッカを検出する。
【0124】
また、マイクロコンピュータ8cでは、入力した48ブロックのブロック積分値のうち一定値以下のブロックの積分値を抽出し、その平均値からフィールドを代表する低輝度部の積分値SL1を得る。次にマイクロコンピュータ8cではSL1と過去5フィールド分のSmixの代表の積分値SL2、SL3、SL4、SL5、SL6を用いて、今度は低輝度部のフリッカを検出する。
【0125】
階調特性変更手段29では、第2のフリッカ検出手段4で検出したフリッカ補正ゲインに応じて、フィールド毎に高輝度部および低輝度部の階調特性を変更する。階調補正回路28は、階調特性変更手段29から与えられた階調特性に応じて、合成信号Smixの階調補正を行う。
【0126】
図18にフリッカ補正を施した場合の階調特性変更手段29から出力される階調特性を示す。図18に示すように、第1、第2のフリッカ抑圧手段で抑圧すべき低輝度部及び高輝度部の信号に独立にフリッカ補正のゲインAL0,AL1,AL2および、AH0,AH1,AH2,をかけることができる。
【0127】
これにより、実施の形態7で用いていた第1のフリッカ検出手段2及び第1のフリッカ抑圧手段3を省略することができる。
【0128】
本実施の形態によれば、画像合成手段6で合成された信号に対して階調補正を施す階調補正回路28と、階調補正回路28の階調特性を順次変更する階調特性変更手段29を有し、複数のフリッカ検出手段の内少なくとも一つは、画像合成手段6で合成された信号からフリッカ成分を検出し、複数のフリッカ抑圧手段の内少なくとも一つは、階調補正回路28の階調特性を調整することによって得ることにより、回路の簡略化を行うことができるというものである。
【0129】
(実施の形態9)
実施の形態1から8では第2のフリッカ抑圧手段において、短時間露光信号Sshortの3フィールドの信号レベルの平均値が一定となるように補正していた。この場合、長時間露光信号Slongと短時間露光信号Sshortは独立に補正が施されているために、フリッカ補正後のSlongとSshortの比が変動する場合がある。このような場合、特に画像合成手段でSshortの増幅率を調整して画像合成処理を行う場合に、信号がうまくつながらなくなり階調特性が不連続となる。
【0130】
図21に露光量の比が想定した値からずれた場合のSlong',Sshort',Smixの関係を示す。図21において、Slong',Sshort'は実線で、Sshort'に想定したゲインAoをかけたものを破線で、Smixは太線で示した。図21でSmixは光量L1の付近で階調特性が不連続になっている。
【0131】
本発明の目的は、露光量の異なる複数の出力信号の平均信号レベルを検出する複数の信号レベル検出回路と前記複数の信号レベル検出回路の出力信号からフリッカ補正後の露光量の比を算出する演算手段とフリッカ補正のゲインを算出するゲイン算出手段を有し、演算手段では、フリッカ補正後の露光量の比が所定の値になるようなゲインを算出することにより、安定した階調特性を得ようというものである。
【0132】
図19は実施の形態9の固体撮像装置の構成を示す構成図である。図19において、1は撮像手段としての固体撮像素子、2は第1のフリッカ検出手段、3は第1のフリッカ抑圧手段、4は第2のフリッカ検出手段、5は第2のフリッカ抑圧手段、6は画像合成手段、7a,7bは積分回路、8a,8bはマイクロコンピュータ、9a,9bは増幅回路、18dはセレクタ、20は比較器、30a,30bは信号レベル検出回路、31は演算手段である。
【0133】
第1のフリッカ検出手段3は、長時間露光信号Slongから低輝度部のフリッカ補正ゲインを算出し、第1のフリッカ抑圧手段3は増幅器9aによりSlongのフリッカ成分を抑圧した信号Slong'を出力する。
【0134】
第2のフリッカ検出手段4は、短時間露光信号Sshortから高輝度部のフリッカ補正ゲインを算出し、第2のフリッカ抑圧手段5は増幅器9bによりSshortのフリッカ成分を抑圧した信号Sshort'を出力する。
【0135】
信号レベル検出回路30aはフリッカ補正された長時間露光信号信号Slong'を入力し、1フィールド期間の平均の信号レベルSlm1を演算手段31としてのマイクロコンピュータに出力する。また、信号レベル検出回路30bはフリッカ補正された短時間露光信号信号Sshort'を入力し、1フィールド期間の平均の信号レベルSsm1を演算手段31としてのマイクロコンピュータに出力する。
【0136】
演算手段31では、信号レベル検出回路30a,30bから得た長時間露光信号Slong'と短時間露光信号Sshort'の平均値の3フィールド分の平均値Slm3、Ssm3から補正ゲインAcを求める。この時補正ゲインは当初設定した露光量の比をAoとすると、Ac=Ao・Ssm3/Slm3で表される。
【0137】
第2のフリッカ検出手段4におけるマイクロコンピュータ8bは短時間露光信号Sshortに対するフリッカゲインAsに対して、補正ゲインAcをかけたものを新たなフリッカゲインAs'として第2のフリッカ抑圧手段5に転送し、フリッカの抑圧を施す。
【0138】
これによって、長時間露光信号Slong及び短時間露光信号Sshortに対してフリッカ補正を施してもフリッカ補正後のSlong'とSshort'の比が所定の値となり、画像合成手段6において連続した階調特性の出力信号を得ることができる。
【0139】
図21にゲインを補正した場合のSmixの特性を細線で示す。ゲイン補正により、光量L1における階調特性の不連続は改善される。
【0140】
本実施の形態によれば、露光量の異なる複数の出力信号の平均信号レベルを検出する複数の信号レベル検出回路30a,30bと前記複数の信号レベル検出回路の出力信号からフリッカ補正後の露光量の比を算出する演算手段31とフリッカ補正のゲインを算出するゲイン算出手段を有し、ゲイン算出手段では、フリッカ補正後の露光量の比が所定の値になるようにすることにより、安定した階調特性を得ることができるというものである。
【0141】
なお、本実施の形態では、演算手段31で算出した補正ゲインAcを第2のフリッカ抑圧手段5の増幅器9bで与えているが、図20に示すように補正ゲインAcを画像合成手段6の増幅回路9cで与えても同様の効果を得ることができる。
【0142】
(実施の形態10)
実施の形態10は、短時間露光信号のホワイトバランスに関して、実施の形態5に対して別の形態をとったものである。
【0143】
本発明の目的は、露光量の異なる複数の出力信号の色温度を検出する複数の色温度検出手段と、色温度補正のためのゲインとフリッカ補正のためのゲインと前記2つのゲインを合成したゲインを算出するゲイン算出手段を有し、前記ゲイン算出手段で算出されたゲインを用いてフリッカ抑圧手段におけるフリッカ補正のゲインおよびホワイトバランスを調整することである。
【0144】
図22は実施の形態10の固体撮像装置の構成を示す構成図である。図22において、1は撮像手段としての固体撮像素子、2は第1のフリッカ検出手段、3は第1のフリッカ抑圧手段、4は第2のフリッカ検出手段、5は第2のフリッカ抑圧手段、6は画像合成手段、7a,7bは積分回路、8a,8bはマイクロコンピュータ、9a,9b,9cは増幅回路、18c,18dはセレクタ、19a〜19dはレジスタ、20は比較器、31は演算手段、32a,32bはホワイトバランス検出手段である。
【0145】
図22において、第1のフリッカ検出手段2は長時間露光信号Slongから低輝度部の輝度信号成分のフリッカ補正ゲインを算出し、第1のフリッカ抑圧手段3は増幅器9aによりSlongのフリッカ成分を抑圧した信号Slong'を出力する。
【0146】
第2のフリッカ検出手段4は短時間露光信号Sshortから高輝度部の輝度信号成分のフリッカ補正ゲインを算出し、第2のフリッカ抑圧手段5は増幅器9bによりSshortのフリッカ成分を抑圧した信号Sshort'を出力する。
【0147】
フリッカ補正が施された長時間露光信号Slong'はホワイトバランス検出回路32aに入力される。このホワイトバランス検出回路の構成は実施の形態5における第2のフリッカ検出手段4と同様の構成で実現できる。ホワイトバランス検出回路32aからは、図11(a)に示されるような色温度情報(SCrl,SCbl)が得られる。同様にフリッカ補正が施された短時間露光信号Sshort'がホワイトバランス検出回路32bに入力され、長時間露光信号と同様に図11(a)に示されるような色温度情報(SCrs,SCbs)が得られる。演算手段30としてのマイクロコンピュータはホワイトバランス検出回路32a、32bで検出された2つの色温度情報を入力し、短時間露光信号の色温度情報(SCrs,SCbs)が長時間露光信号の色温度情報(SCrl,SCbl)に近づくように固体撮像素子1の色フィルタ毎のゲインを算出する。具体的には、SCrsを大きくしたい場合は、AMYを大きくし、AGCを小さくする。小さくしたい場合はその逆に制御する。また、SCbsを大きくしたい場合はAMCを大きくし、AGYを小さくする。
【0148】
このような動作により、第2のフリッカ抑圧手段5から出力される短時間露光信号Sshort'の色温度情報を長時間露光信号Slong'の色温度情報と一致させることができる。
【0149】
この後、図示していないが画像合成手段6の出力信号であるSmixをカメラ信号処理において通常のホワイトバランス処理することによって、高輝度部から低輝度部まで最適なホワイトバランス調整を行うことができる。
【0150】
本実施の形態によれば、露光量の異なる複数の出力信号の色温度を検出する複数の色温度検出手段と、色温度補正のためのゲインとフリッカ補正のためのゲインと前記2つのゲインを合成したゲインを算出するゲイン算出手段を有し、前記ゲイン算出手段で算出されたゲインを用いてフリッカ抑圧手段におけるフリッカ補正のゲインおよびホワイトバランスを調整することができるというものである。
【0151】
(実施の形態11)
実施の形態10では、第1のフリッカ検出手段2で低輝度部の輝度フリッカを検出し、第1のフリッカ抑圧手段3で低輝度部のフリッカを抑圧し、第2のフリッカ検出手段4で高輝度部の輝度フリッカ成分を検出し、第2のフリッカ抑圧手段5では、第2のフリッカ検出手段4で検出されるフリッカゲインとホワイトバランス検出手段32a,32bおよび演算手段31で算出されたを合成してフリッカ補正と同時に高輝度部のホワイトバランス補正を実現している。しかしながら、実施の形態10の構成では、高輝度部の色フリッカに対応していないので、フリッカのある被写体では色成分のみがフリッカを起こすという現象が生じる。
【0152】
本発明の目的は、複数の色温度検出手段のうち少なくとも一つは、フリッカ周期に対応した複数の色温度情報を検出し、フリッカ抑圧手段のうち少なくとも一つは、フリッカ周期に対応した色温度の変化を抑圧することにより、色フリッカ成分を抑圧するというものである。
【0153】
図23は本発明の実施の形態11の固体撮像装置の構成を示す構成図である。図23において、1は撮像手段としての固体撮像素子、2は第1のフリッカ検出手段、3は第1のフリッカ抑圧手段、4は第2のフリッカ検出手段、5は第2のフリッカ抑圧手段、6は画像合成手段、7a,7bは積分回路、8a,8bはマイクロコンピュータ、9a〜9cは増幅回路、18c〜18dはセレクタ、19a〜19dはレジスタ、20は比較器、31は演算手段、32a〜32dはホワイトバランス検出手段である。
【0154】
実施の形態11の固体撮像装置の構成は実施の形態10の固体撮像装置の構成に対し、短時間露光信号Sshortに対するホワイトバランス検出回路32b,32c,32dの構成が異なっている。
【0155】
図23で、第1のフリッカ検出手段2は、長時間露光信号Slongから低輝度部の輝度信号成分のフリッカ補正ゲインを算出し、第1のフリッカ抑圧手段3は増幅器9aによりSlongのフリッカ成分を抑圧した信号Slong'を出力する。
【0156】
第2のフリッカ検出手段4は、短時間露光信号Sshortから高輝度部の輝度信号成分のフリッカ補正ゲインを算出し、第2のフリッカ抑圧手段5は増幅器9bによりSshortのフリッカ成分を抑圧した信号Sshort'を出力する。
【0157】
短時間露光信号Sshort'はセレクタ18eに入力され、フィールド毎にホワイトバランス検出手段32b,32c,32dに入力される。すなわち各ホワイトバランス検出手段32b〜32dは、3フィールド毎に色温度情報を得ることになる。このようにして得られた3フィールド毎の色温度情報と長時間露光信号Slong'から得られる色温度情報との関係から演算手段31としてのマイクロコンピュータで3フィールド毎のホワイトバランスゲインが算出される。
【0158】
第2のフリッカ検出手段4では短時間露光信号の輝度フリッカ補正ゲインと、3フィールド毎のホワイトバランス補正ゲインが合成されて、第2のフリッカ抑圧手段5によりゲイン調整され、輝度フリッカと共に色フリッカも抑圧された出力信号を得ることができる。
【0159】
本実施の形態によれば、複数の色温度検出手段のうち少なくとも一つは、フリッカ周期に対応した複数の色温度情報を検出し、フリッカ抑圧手段のうち少なくとも一つは、フリッカ周期に対応した色温度の変化を抑圧することにより、色フリッカ成分を抑圧することができるというものである。
【0160】
なお、実施の形態1〜11において、マイクロコンピュータが複数使用されている場合があるが、実際には全て1つのマイクロコンピュータで実現できることは、言うまでもない。
【0161】
【発明の効果】
以上のように本発明によれば、ダイナミックレンジを拡大しつつ高輝度部でも低輝度部でもフリッカを抑圧することができるというものである。
【0162】
また、本発明の別の効果は、各色信号ごとにフリッカ補正の処理を施しているために、これらのばらつきは抑圧され、輝度信号と共に色信号のフリッカも抑圧された出力信号を得ることができるというものである。
【0163】
本発明のさらに別の効果は、フリッカ抑圧手段における増幅回路を利用して、高輝度部のホワイトバランス補正を行うことにより、高輝度部も低輝度部もホワイトバランスのとれた画像を得ることができるというものである。
【0164】
本発明のさらに別の効果は、画面を複数のブロックに分割し、各ブロックごとにフリッカ補正を施すことにより、複数の光源が存在するような場合でも、画面全体にわたってフリッカの抑圧された信号を得ることができるというものである。
【0165】
本発明のさらに別の効果は、複数のフリッカ検出手段の内少なくとも一つは、画像合成手段で合成された信号からフリッカ成分を検出し、複数のフリッカ抑圧手段の内少なくとも一つは、前記階調補正回路の階調特性を調整することによって得ることにより、回路の簡略化を行うことができるというものである。
【0166】
本発明のさらに別の効果は、露光量の異なる複数の出力信号の平均信号レベルを検出する複数の信号レベル検出回路と前記複数の信号レベル検出回路の出力信号からフリッカ補正後の露光量の比を算出する演算手段とフリッカ補正のゲインを算出するゲイン算出手段を有し、ゲイン算出手段では、フリッカ補正後の露光量の比が所定の値になるようにすることにより、安定した階調特性を得ることができるというものである。
【0167】
本発明のさらに別の効果は、露光量の異なる複数の出力信号の色温度を検出する複数の色温度検出手段と、色温度補正のためのゲインとフリッカ補正のためのゲインと前記2つのゲインを合成したゲインを算出するゲイン算出手段を有し、前記ゲイン算出手段で算出されたゲインを用いてフリッカ抑圧手段におけるフリッカ補正のゲインおよびホワイトバランスを調整することができるというものである。
【0168】
本発明のさらに別の効果は、複数の色温度検出手段のうち少なくとも一つは、フリッカ周期に対応した複数の色温度情報を検出し、フリッカ抑圧手段のうち少なくとも一つは、フリッカ周期に対応した色温度の変化を抑圧することにより、色フリッカ成分を抑圧することができるというものである。
【図面の簡単な説明】
【図1】本発明の実施の形態1による固体撮像装置の構成を表す構成図
【図2】同固体撮像装置の全画素読み出し型の固体撮像素子の構成図
【図3】本発明の実施の形態2による固体撮像装置の構成を表す構成図
【図4】同実施の形態3の固体撮像装置の第1のフリッカ検出手段の構成を示す構成図
【図5】同固体撮像装置のブロック積分手段における画面分割の様子を示す模式図
【図6】本発明の実施の形態4による固体撮像装置の構成を表す構成図
【図7】同固体撮像装置の撮像手段としての固体撮像素子の構成を表す構成図
【図8】同固体撮像装置の画像合成手段の各部における信号の入射光量と信号レベルの関係を示す波形図
【図9】(a)同固体撮像装置の各色の明るさの波形を示す波形図
(b)同固体撮像装置のA、B、C、Dのタイミングで短時間露光を行った場合のMY、MC、GY、GCの各画素の平均の出力値を示す波形図
【図10】本発明の実施の形態5による固体撮像装置の構成図
【図11】同実施の形態5の固体撮像装置のホワイトバランスのための色座標空間図
【図12】同実施の形態6の固体撮像装置の構成を示す構成図
【図13】同実施の形態6の固体撮像装置の第1のフリッカ検出手段の構成図
【図14】同実施の形態6の固体撮像装置の第2のフリッカ検出手段の構成図
【図15】同実施の形態7の固体撮像装置の構成を示す構成図
【図16】同実施の形態7の階調補正回路の階調特性図
【図17】同実施の形態8の固体撮像装置の構成図
【図18】同実施の形態8の階調補正回路の階調特性図
【図19】同実施の形態9の固体撮像装置の構成図
【図20】同実施の形態9の固体撮像装置の構成図
【図21】同実施の形態9の固体撮像装置のSlong,Sshort,Smixの関係を示す光電変換図
【図22】同実施の形態10の固体撮像装置の構成図
【図23】同実施の形態11の固体撮像装置の構成図
【図24】従来の固体撮像装置の構成を示す構成図
【図25】従来の固体撮像装置のSlong、Sshort、Smixの関係を示す光電変換図
【符号の説明】
1 固体撮像素子
2 第1のフリッカ検出手段
3 第1のフリッカ抑圧手段
4 第2のフリッカ検出手段
5 第2のフリッカ抑圧手段
6 画像合成手段
7a,7b 積分回路
8a,8b マイクロコンピュータ
9 増幅回路
10 加算回路[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a solid-state imaging device used for a video camera or the like.
[0002]
[Prior art]
As a solid-state imaging device for synthesizing images with different exposure amounts to obtain a video signal with a high dynamic range, a device described in Japanese Patent Application Laid-Open No. 7-322147 has been known.
[0003]
A conventional solid-state imaging device will be described below with reference to the drawings. FIG. 24 is a configuration diagram showing a configuration of a conventional solid-state imaging device. In FIG. 24, 1 is an image pickup means, and 200 is an image composition means. As the imaging means 1, for example, an all-pixel readout type solid-state imaging device capable of outputting a signal having twice the number of scanning lines as compared with a normal solid-state imaging device is used, and exposure of pixels corresponding to one scanning line is performed. The normal signal Slong and the electronic shutter signal Sshort are obtained by making the amount smaller than usual by the electronic shutter operation, and the
[0004]
[Problems to be solved by the invention]
In this solid-state imaging device, an electronic shutter operation is used to obtain signals with different exposure amounts. However, under a light source whose brightness varies with a period of about 50 Hz as in a fluorescent lamp, signals with different exposure amounts are used. Since the flicker components are different for each image, different flickers are generated in the low luminance portion due to the normal signal Slong and the high luminance portion due to the electronic shutter signal Sshort when the images are combined.
[0005]
An object of the present invention is to obtain a solid-state imaging device in which flicker is suppressed in both a high luminance part and a low luminance part.
[0006]
[Means for Solving the Problems]
In order to solve this problem, the present invention detects and suppresses a flicker component for each signal having a different exposure amount by a plurality of flicker detection means and a plurality of flicker suppression means under a light source whose brightness varies, and an image composition means The composition is configured to be combined.
[0007]
Thereby, it is possible to obtain a solid-state imaging device in which flicker is suppressed in both the high luminance portion and the low luminance portion.
[0008]
DETAILED DESCRIPTION OF THE INVENTION
The first aspect of the present invention comprises an image pickup means, a plurality of flicker detection means, a plurality of flicker suppression means, and an image composition means. The image pickup means outputs a plurality of output signals having different exposure amounts, and detects a plurality of flickers. The means detects flickers of a plurality of output signals having different exposure amounts, the plurality of flicker suppressing means suppresses the flickers of the plurality of output signals, and the image synthesizing means has an operation of combining signals having different exposure amounts.
[0009]
Hereinafter, embodiments of the present invention will be described with reference to the drawings.
(Embodiment 1)
An object of the present invention is to suppress flicker in both a high luminance part and a low luminance part.
[0010]
FIG. 1 is a configuration diagram showing the configuration of the solid-state imaging device according to the first embodiment of the present invention. In FIG. 1,
[0011]
The solid-
[0012]
A long exposure signal Slong (indicated by a mark ● in FIG. 2) obtained by performing photoelectric conversion in the vertical effective period of about 1/60 second out of one field period in the television system by the
[0013]
FIG. 25 is a graph showing the relationship between Slong and Sshort when the incident light quantity L is taken on the horizontal axis and the signal level (signal quantity) S is taken on the vertical axis. There is a correlation between the signal amount of the image sensor and S / N, and noise is noticeable when the signal amount is small. In FIG. 25, Slong is saturated with the incident light quantity A, but a signal with a good S / N can be obtained with an incident light quantity less than that. Sshort has a signal amount smaller than A but small S / N, but can reproduce a signal with a light quantity greater than A. By combining these two signals, a signal having a good S / N and a high dynamic range can be obtained.
[0014]
The long exposure signal Slong output from the solid-
[0016]
Since flicker is detected by the bandpass filter as described above, erroneous detection temporarily occurs in the case of a sudden luminance change. In order to cope with such erroneous detection, the
[0017]
In the
[0018]
Since 1/100 second corresponds to ½ of the period of 50 Hz of the fluorescent lamp, flickering of the long exposure signal Slong is thereby suppressed.
[0019]
Next, the short exposure signal Sshort output from the solid-
[0020]
Further, the
[0022]
In the second
[0023]
In the image synthesizing means 6, the long exposure signal Slong in which flicker is suppressed and the short exposure signal Sshort in which flicker is suppressed are input and added by the
[0024]
Here, the release of the flicker suppressing means will be described. The long-time exposure signal in which flicker is suppressed is output as Slong from the solid-
[0025]
Further, in the case of a subject without flicker, the second flicker detection means 4 reduces the output of the bandpass filter calculated from the integral value, so that the flicker suppression operation is canceled from that condition.
[0026]
With the configuration as described above, the solid-state imaging device according to the present embodiment can suppress flicker in both the high luminance portion and the low luminance portion while expanding the dynamic range.
[0027]
In the present embodiment, the first flicker detection means 2 and the second flicker detection means 4 use the
[0028]
The same result can be obtained even if the flicker detection determination by the second
[0029]
Further, as the first
[0030]
Further, in the present embodiment, the flicker suppression is canceled independently by the first flicker suppression means 3 and the second flicker suppression means 5, but both flicker suppressions are canceled by one of the operations. May be.
[0031]
(Embodiment 2)
In a normal solid-state imaging device that does not perform dynamic range expansion, an output signal of an imaging unit is input, and camera signal processing such as γ correction and aperture correction is performed and output as an output signal.
[0032]
An object of the present invention is to provide a configuration in which a circuit can be shared with normal camera signal processing by inputting a composite image signal Smix to the flicker detection means and the flicker suppression means.
[0033]
FIG. 3 is a configuration diagram showing the configuration of the solid-state imaging device according to the second embodiment of the present invention. In FIG. 3,
[0034]
Since the operation of the solid-
[0035]
As a result, the long-time exposure signal Slong output from the solid-
[0036]
Next, the first flicker detection means 2 receives the composite image signal Smix output from the image composition means 6, detects flicker as in the first embodiment, and indicates that flicker is present when flicker occurs. Output a signal. The solid-state image
[0037]
However, the cancellation of flicker suppression is omitted here in accordance with the first embodiment.
[0038]
By the operation as described above, the long exposure signal Slong and the short exposure signal Sshort are each suppressed in flicker, and the combined image signal Smix in which the dynamic range is expanded and the flicker is suppressed in both the high luminance portion and the low luminance portion is obtained. be able to.
[0039]
In the present embodiment, the first flicker detection means 2 and the second flicker detection means 4 use the
[0040]
The same result can be obtained even if the flicker detection determination by the second
[0041]
Further, as the first
[0042]
Further, in the present embodiment, the flicker suppression is canceled independently by the first flicker suppression means 3 and the second flicker suppression means 4, but both flicker suppressions are canceled by one of the operations. May be.
[0043]
(Embodiment 3)
In the second embodiment, flicker detection for the long-time exposure signal is performed from the composite image signal Smix by the first flicker detection means 2, but from the composite image signal Smix, the flicker is suppressed at Sshort 'in the high luminance portion. The influence is large and it is difficult to detect flicker accurately. An object of the present invention is to perform more accurate flicker detection even from the composite image signal Smix.
[0044]
Since the configuration and operation of the solid-state imaging device of the present embodiment are the same as those of the second embodiment except for the first flicker detection means 2, they are omitted here.
[0045]
FIG. 4 is a configuration diagram showing the configuration of the first flicker detection means 2 of the solid-state imaging device according to
[0046]
The first flicker detection means 2 receives the composite image signal Smix as in the second embodiment. The input composite image signal Smix is input to the block integration means 16 of the first flicker detection means 2. In the block integration means 16, the
[0047]
In the
[0048]
Since the operation after the first
According to the present invention, the first flicker detection means 2 is composed of a block integration means and a microcomputer as a flicker determination means, and the flicker detection is performed by using only the block integration value having a low level, thereby synthesizing. Flicker is detected from the Slong signal with flicker without using as much as possible the signal Sshort on the high luminance side of the image signal Smix where flicker is suppressed, and more accurate flicker suppression is possible.
[0049]
In the present embodiment, the number of block divisions is 48 blocks, but the number of divisions is not necessarily 48 blocks. Although it can be considered that the maximum number of divisions is the number of pixels of the
[0050]
(Embodiment 4)
In the first to third embodiments, a black and white solid-state imaging device is assumed as an imaging unit for the basic operation description. As imaging means using a solid-state imaging device, there are a three-plate method for color separation by a color separation prism and a colorization method by a single-plate method in which color filters having different spectral characteristics are arranged for each pixel.
[0051]
The flicker of the image pickup means can be largely suppressed even with the configuration as in the first to third embodiments, but the phase of the variation in the brightness of the fluorescent lamp differs for each color component. For this reason, it is difficult to suppress variations in color components, that is, color flicker, only by suppressing luminance components.
[0052]
An object of the present invention is to realize a solid-state imaging device that suppresses not only a luminance component but also a flicker of a color component.
[0053]
FIG. 6 is a block diagram showing the configuration of the solid-state imaging device according to
[0054]
FIG. 7 is a configuration diagram showing the configuration of the solid-
[0055]
Depending on the arrangement of the color filters, signals with MY and GC as one set and MC and GY as one set are output alternately for each line, and MY and GC, MC and GY are output alternately for each pixel. Is done. The spectral characteristics of each color filter are designed so that the sum of MY and GC and the sum of MC and GY become the spectral characteristics of the luminance signal Y. Therefore, the signal sequences of MY and GC and MC and GY are output as signals in which the color signal components Cr and Cb are modulated and superimposed on the luminance signal component Y.
[0056]
FIG. 8 shows the photoelectric characteristics of Slong and Sshort when the horizontal axis represents the incident light amount L and the vertical axis represents the signal level S. The characteristic shown in FIG. 8 has a shape in which a modulation component is superimposed on the characteristic shown in FIG.
[0057]
FIG. 9A shows waveforms when the horizontal axis represents time t and the vertical axis represents the brightness of each color. FIG. 9B shows average output values of the MY, MC, GY, and GC pixels when short-time exposure is performed at the timings A, B, C, and D in FIG. 9A. . In FIG. 9B, the output value of each pixel is almost constant at the timings A and D, but at the timings B and C, a difference occurs in the output level due to the phase shift of the brightness change for each color. is doing. In the first to third embodiments, since a constant gain is given to each pixel, this variation ratio remains, and flicker occurs with respect to the color signal component.
[0058]
The long exposure signal Slong output from the solid-
[0059]
Next, the short exposure signal Sshort output from the solid-
[0060]
Further, in the
[0062]
The second
[0063]
The image synthesizing means 6 inputs the long exposure signal Slong with flicker suppressed and the short exposure signal Sshort ′ with flicker suppressed. The short-time exposure signal Sshort ′ is amplified by the
[0064]
Next, the image synthesizing means 6 compares the input long exposure signal Slong with the saturation signal level Ssat of the
[0065]
FIG. 8 shows the relationship between the signal incident light quantity L and the signal level S in each part of the image composition means 6. In FIG. 8, the envelope of the long exposure signal Slong having a color modulation component is represented by triangles O, L1, and L2. The envelope of the short exposure signal Sshort is represented by triangles O, S1, and S2. Further, the envelope of the composite image signal Smix is represented by triangles O, M1, and M2.
[0066]
The configuration of the image synthesizing means 6 in the present embodiment is different from those in the first to third embodiments because the output signal of the solid-
[0067]
In this embodiment, since the flicker correction process is performed for each color signal, these variations are suppressed, and an output signal in which the flicker of the color signal is suppressed together with the luminance signal can be obtained.
[0068]
(Embodiment 5)
In a solid-state imaging device that performs shooting with an expanded dynamic range, there are cases where indoors and outdoors are simultaneously shot as subjects. In this case, since the color temperature of the light source is different between indoor and outdoor, it is desirable to perform white balance correction separately for the indoor subject and the outdoor subject. In general, an indoor subject is dark and an outdoor subject is bright. Therefore, in a solid-state imaging device that expands the dynamic range as in the present invention, white balance correction processing can be performed separately for the high-luminance part and the low-luminance part. As a result, an image with white balance can be obtained on the entire screen.
[0069]
An object of the present invention is to perform white balance correction of a high luminance part using an amplifier circuit in a flicker suppressing means, thereby obtaining an image in which white balance is achieved in both a high luminance part and a low luminance part.
[0070]
FIG. 10 shows a configuration diagram of a solid-state imaging apparatus according to
[0071]
The operations of the solid-
[0072]
The operation of the camera
[0073]
[Expression 4]
[0074]
Here, Cr and Cb represent red and blue color modulation components, respectively. K1 and k2 are arbitrary constants and are determined by the spectral characteristics of the color separation filter. For example, a value of 0.2 is used for both k1 and k2.
[0075]
The luminance signal Y obtained in this way is contour-corrected by filter processing in the
[0076]
In the
[0077]
Further, the
[0078]
The
[0079]
[Equation 5]
[0080]
Here, SCr and SCb are equivalent to those obtained by standardizing the color difference modulation component in the red direction and the blue direction with the luminance signal component, and give color coordinates that are not affected by the change in brightness. SRG and SBG are obtained by standardizing red and blue primary color signal components with a green signal, and give color coordinates that are not affected by changes in brightness.
[0081]
FIG. 11 shows a color coordinate space for white balance. FIG. 11A shows SCr on the vertical axis and SCb on the horizontal axis, and FIG. 11B shows SRG on the vertical axis and SBG on the horizontal axis. In any color coordinate space, FIG. In addition, the color coordinates of various light sources are represented by rectangles near the curve passing through the center T3 in the figure, for example, T1 for a light source with a low color temperature, T5 for a light source with a high color temperature, Distributed in the area.
[0082]
Here, the color temperature coordinate space shown in FIG. 11A represents the color temperature of the high luminance region obtained from the short-time exposure signal Sshort, and the color temperature coordinate space shown in FIG. This represents the color temperature after synthesis obtained from the signal Smix after synthesis. When the color temperature coordinates of the light source for each signal obtained by (Equation 5) are arranged in these two coordinates, it may be distributed in a region representing the same light source, but when distributed in a region representing a different light source, The light source is considered to be different between the high luminance region and the low luminance region. Therefore, the
[0083]
For example, a case where the coordinates of the light source detected from Sshort is T5 representing the outdoors and the coordinates of the light source detected from Smix is T3 representing the indoors will be described.
[0084]
Table 1 shows the color temperature coordinates of the five light sources in FIG. 11 and the output signal level ratio of each color filter. This value varies depending on the spectral characteristics such as the color filter of the solid-state image sensor.
[0085]
[Table 1]
[0086]
In order to correct the detected color temperature T5 to T3, the
[0087]
The
[0088]
The second
[0089]
The image synthesizing means 6 performs the synthesizing process similarly to the fourth embodiment, and outputs the synthesized image signal Smix in which the dynamic range is expanded and the flicker is suppressed, and the white balance of the high luminance part and the low luminance part is matched.
[0090]
In the present embodiment, the coordinates of the light source and the gain for each color filter are given as a table, and the processing is performed in the state stored in the
[0091]
In this embodiment, two types of
[0092]
(Embodiment 6)
Since the solid-state imaging device of the present invention can output a signal with an extended dynamic range, there are cases in which subjects with different light sources, such as outdoors and indoors, are imaged. In such a case, flicker occurs due to fluorescent lamps indoors, and flicker does not occur due to sunlight outdoors. Therefore, if a uniform flicker suppression process is performed on the screen, flicker occurs in a part of the screen. May not be suppressed.
[0093]
An object of the present invention is to divide a screen into a plurality of blocks and perform flicker correction for each block so that a signal with suppressed flicker can be obtained over the entire screen even when there are a plurality of light sources. It is to make.
[0094]
FIG. 12 is a block diagram showing the configuration of the solid-state imaging device according to
[0095]
The long-time exposure signal Slong and the short-time exposure signal Sshort output from the solid-
[0096]
In the first flicker detection means 2, the composite image signal Smix is input as in the third embodiment, and the block integration values SB1 to SB48 of 48 blocks are input to the
[0097]
In the
[0098]
The second flicker detection means 4 receives the short exposure signal Sshort as in the second embodiment. The inputted short exposure signal Sshort is inputted to the block integration means 16b of the second flicker detection means 4. In the block integration means 16b, the
[0099]
The
[0100]
Further, the
[0102]
If flicker suppression is performed in the second flicker suppression means 5 by the flicker correction gain for each block, a signal in which flicker is suppressed in each part of the screen can be obtained, but if the gain for flicker correction is different from the gain of the adjacent block , Discontinuity of correction amount occurs at the change of block.
[0103]
The second
[0104]
The amplifying
[0105]
The second
[0106]
In this embodiment, two types of
[0107]
Further, in the present embodiment, the first
[0108]
(Embodiment 7)
The solid-state imaging device of the present invention combines signals with different exposure amounts to obtain a signal with an expanded dynamic range. To make the gradation of a signal with an expanded dynamic range natural. Therefore, a gradation correction circuit is required.
[0109]
An object of the present invention is to simplify the circuit by performing flicker suppression in the gradation correction circuit.
[0110]
FIG. 15 is a configuration diagram showing the configuration of the solid-state imaging device according to the seventh embodiment of the present invention. In FIG. 15, 1 is a solid-state imaging device as an imaging means, 2 is a first flicker detection means, 3 is a first flicker suppression means, 4 is a second flicker detection means, 5 is a second flicker suppression means, 6 is an image synthesis means, 7a and 7b are integration circuits, 8a and 8b are microcomputers, 10 is an addition circuit, 28 is a gradation correction circuit, and 29 is a gradation characteristic changing means.
[0111]
The operations of the solid-
[0112]
Next, the second flicker detection means 4 receives the output signal Smix of the image synthesis means 6, and a block integral value obtained by dividing the screen into a plurality of areas by the same configuration as in the third embodiment shown in FIG. It is input to 8c.
[0113]
In the
[0114]
The gradation
[0115]
FIG. 16 shows gradation characteristics output from the gradation characteristic changing means when flicker correction is performed. As shown in FIG. 16, the flicker correction gains AH0, AH1, and AH2 can be applied only to the signal of the high luminance part to be suppressed by the second flicker suppression means 5.
[0116]
Here, as shown in FIG. 16, when the flicker correction is applied with the gradation characteristic, the flicker gain is increased in the higher luminance portion.TakeSince it is necessary, the gradation characteristic given to the gradation characteristic changing means 29 is adjusted so that the change between the fields becomes larger as the high luminance portion.
[0117]
Here, as the
[0118]
As a result, the
As described above, according to the present embodiment, the
[0119]
(Embodiment 8)
In the seventh embodiment, as the second flicker correction unit, flicker correction by gradation correction is performed only on the high luminance part, but flicker correction can be performed on the low luminance part with the same configuration. .
[0120]
An object of the present invention is to share the first flicker suppressing means and the second flicker suppressing means by giving different gains to the high luminance portion and the low luminance portion of the gradation correction circuit, respectively.
[0121]
FIG. 17 is a configuration diagram of the solid-state imaging device according to the eighth embodiment of the present invention. The configuration shown in FIG. 17 is obtained by removing the first flicker detection means 2 and the first flicker suppression means 3 from the configuration of FIG. In FIG. 17, the operations of the solid-
[0122]
The second flicker detection means 4 receives the output signal Smix of the image composition means 6, and a block integration value obtained by dividing the screen similar to the third embodiment shown in FIG. 4 into a plurality of areas is input to the
[0123]
In the
[0124]
Further, the
[0125]
The gradation
[0126]
FIG. 18 shows the gradation characteristics output from the gradation characteristic changing means 29 when flicker correction is performed. As shown in FIG. 18, the flicker correction gains AL0, AL1, AL2 and AH0, AH1, AH2, are independently applied to the low luminance portion and high luminance portion signals to be suppressed by the first and second flicker suppressing means. You can hang it.
[0127]
Thereby, the first flicker detection means 2 and the first flicker suppression means 3 used in the seventh embodiment can be omitted.
[0128]
According to the present embodiment, the
[0129]
(Embodiment 9)
In the first to eighth embodiments, the second flicker suppressing unit corrects the average value of the signal levels of the three fields of the short-time exposure signal Sshort to be constant. In this case, since the long exposure signal Slong and the short exposure signal Sshort are independently corrected, the ratio of Slong to Sshort after flicker correction may vary. In such a case, particularly when the image composition processing is performed by adjusting the amplification factor of Sshort by the image composition means, the signal does not connect well and the gradation characteristics become discontinuous.
[0130]
FIG. 21 shows the relationship between Slong ′, Sshort ′, and Smix when the exposure ratio deviates from the assumed value. In FIG. 21, Slong 'and Sshort' are solid lines, Sshort 'multiplied by the assumed gain Ao is indicated by a broken line, and Smix is indicated by a thick line. In FIG. 21, the gradation characteristic of Smix is discontinuous near the light amount L1.
[0131]
An object of the present invention is to calculate a ratio of exposure amounts after flicker correction from a plurality of signal level detection circuits for detecting an average signal level of a plurality of output signals having different exposure amounts and output signals of the plurality of signal level detection circuits. The calculation means has a gain calculation means for calculating the gain for flicker correction, and the calculation means calculates a gain such that the ratio of the exposure amount after flicker correction becomes a predetermined value, thereby providing stable gradation characteristics. It is to get.
[0132]
FIG. 19 is a configuration diagram showing the configuration of the solid-state imaging device according to the ninth embodiment. In FIG. 19, 1 is a solid-state imaging device as imaging means, 2 is first flicker detection means, 3 is first flicker suppression means, 4 is second flicker detection means, 5 is second flicker suppression means, 6 is an image synthesis means, 7a and 7b are integration circuits, 8a and 8b are microcomputers, 9a and 9b are amplification circuits, 18d is a selector, 20 is a comparator, 30a and 30b are signal level detection circuits, and 31 is a calculation means. is there.
[0133]
The first flicker detection means 3 calculates the flicker correction gain of the low luminance part from the long-time exposure signal Slong, and the first flicker suppression means 3 outputs a signal Slong ′ in which the flicker component of Slong is suppressed by the
[0134]
The second flicker detection means 4 calculates the flicker correction gain of the high luminance part from the short exposure signal Sshort, and the second flicker suppression means 5 outputs a signal Sshort ′ in which the flicker component of Sshort is suppressed by the
[0135]
The signal level detection circuit 30a inputs the long exposure signal signal Slong ′ subjected to flicker correction, and outputs the average signal level Slm1 in one field period to the microcomputer as the calculation means 31. Further, the signal level detection circuit 30b receives the short-time exposure signal signal Sshort ′ subjected to flicker correction, and outputs the average signal level Ssm1 in one field period to the microcomputer as the calculation means 31.
[0136]
The computing means 31 obtains a correction gain Ac from the average values Slm3 and Ssm3 of three fields of the average values of the long exposure signal Slong ′ and the short exposure signal Sshort ′ obtained from the signal level detection circuits 30a and 30b. At this time, the correction gain is expressed as Ac = Ao · Ssm3 / Slm3, where Ao is the initially set exposure amount ratio.
[0137]
The
[0138]
As a result, even if the flicker correction is performed on the long exposure signal Slong and the short exposure signal Sshort, the ratio of Slong ′ and Sshort ′ after the flicker correction becomes a predetermined value, and the continuous tone characteristics in the image synthesizing means 6 are obtained. Output signal can be obtained.
[0139]
FIG. 21 shows the Smix characteristic when the gain is corrected by a thin line. By the gain correction, the discontinuity of the gradation characteristic in the light amount L1 is improved.
[0140]
According to the present embodiment, a plurality of signal level detection circuits 30a and 30b for detecting an average signal level of a plurality of output signals having different exposure amounts, and an exposure amount after flicker correction from the output signals of the plurality of signal level detection circuits. And a gain calculation means for calculating the flicker correction gain. In the gain calculation means, the ratio of the exposure amount after the flicker correction is set to a predetermined value, so that the stable That is, gradation characteristics can be obtained.
[0141]
In this embodiment, the correction gain Ac calculated by the calculation means 31 is given by the
[0142]
(Embodiment 10)
In the tenth embodiment, the white balance of the short-time exposure signal is different from that of the fifth embodiment.
[0143]
An object of the present invention is to combine a plurality of color temperature detection means for detecting color temperatures of a plurality of output signals having different exposure amounts, a gain for color temperature correction, a gain for flicker correction, and the two gains. A gain calculating means for calculating a gain; and adjusting the flicker correction gain and white balance in the flicker suppressing means using the gain calculated by the gain calculating means.
[0144]
FIG. 22 is a configuration diagram showing the configuration of the solid-state imaging device according to the tenth embodiment. In FIG. 22, 1 is a solid-state imaging device as an imaging unit, 2 is a first flicker detection unit, 3 is a first flicker suppression unit, 4 is a second flicker detection unit, 5 is a second flicker suppression unit, 6 is an image synthesis means, 7a and 7b are integration circuits, 8a and 8b are microcomputers, 9a, 9b and 9c are amplification circuits, 18c and 18d are selectors, 19a to 19d are registers, 20 is a comparator, and 31 is a calculation means. 32a and 32b are white balance detection means.
[0145]
In FIG. 22, the first flicker detection means 2 calculates the flicker correction gain of the luminance signal component of the low luminance part from the long exposure signal Slong, and the first flicker suppression means 3 suppresses the flicker component of Slong by the
[0146]
The second flicker detection means 4 calculates the flicker correction gain of the luminance signal component of the high luminance part from the short exposure signal Sshort, and the second flicker suppression means 5 is a signal Sshort ′ in which the flicker component of Sshort is suppressed by the
[0147]
The long exposure signal Slong ′ subjected to the flicker correction is input to the white balance detection circuit 32a. The configuration of this white balance detection circuit can be realized by the same configuration as the second flicker detection means 4 in the fifth embodiment. Color temperature information (SCrl, SCbl) as shown in FIG. 11A is obtained from the white balance detection circuit 32a. Similarly, the short-time exposure signal Sshort ′ subjected to flicker correction is input to the white
[0148]
By such an operation, the color temperature information of the short-time exposure signal Sshort ′ output from the second
[0149]
Thereafter, although not shown in the drawing, Swhite, which is an output signal of the image synthesizing means 6, is subjected to normal white balance processing in camera signal processing, so that optimum white balance adjustment from the high luminance portion to the low luminance portion can be performed. .
[0150]
According to the present embodiment, a plurality of color temperature detection means for detecting the color temperatures of a plurality of output signals having different exposure amounts, a gain for color temperature correction, a gain for flicker correction, and the two gains are obtained. Gain calculating means for calculating a combined gain is provided, and the gain and white balance of flicker correction in the flicker suppressing means can be adjusted using the gain calculated by the gain calculating means.
[0151]
(Embodiment 11)
In the tenth embodiment, the first flicker detection means 2 detects the luminance flicker of the low luminance part, the first flicker suppression means 3 suppresses the flicker of the low luminance part, and the second flicker detection means 4 increases the flicker. The luminance flicker component of the luminance portion is detected, and the second flicker suppression means 5 combines the flicker gain detected by the second flicker detection means 4 with the white balance detection means 32a and 32b and the calculation means 31. Thus, the white balance correction of the high brightness portion is realized simultaneously with the flicker correction. However, since the configuration of the tenth embodiment does not support color flicker in the high luminance part, a phenomenon occurs in which only color components cause flicker in a subject with flicker.
[0152]
An object of the present invention is to provide that at least one of the plurality of color temperature detection means detects a plurality of color temperature information corresponding to the flicker cycle, and at least one of the flicker suppression means is a color temperature corresponding to the flicker cycle. By suppressing the change in color, the color flicker component is suppressed.
[0153]
FIG. 23 is a block diagram showing the configuration of the solid-state imaging device according to
[0154]
The configuration of the solid-state imaging device according to the eleventh embodiment is different from the configuration of the solid-state imaging device according to the tenth embodiment in the configuration of the white
[0155]
In FIG. 23, the first flicker detection means 2 calculates the flicker correction gain of the luminance signal component of the low luminance part from the long-time exposure signal Slong, and the first flicker suppression means 3 uses the
[0156]
The second flicker detection means 4 calculates the flicker correction gain of the luminance signal component of the high luminance part from the short exposure signal Sshort, and the second flicker suppression means 5 is the signal Sshort in which the flicker component of Sshort is suppressed by the
[0157]
The short exposure signal Sshort ′ is input to the selector 18e, and is input to the white balance detection means 32b, 32c, 32d for each field. That is, each of the white balance detection means 32b to 32d obtains color temperature information every three fields. From the relationship between the color temperature information for each three fields obtained in this way and the color temperature information obtained from the long-time exposure signal Slong ′, the white balance gain for each three fields is calculated by the microcomputer as the calculation means 31. .
[0158]
The second flicker detection means 4 combines the luminance flicker correction gain of the short-time exposure signal and the white balance correction gain for every three fields, and the gain adjustment is performed by the second flicker suppression means 5, and the color flicker is also detected together with the luminance flicker. A suppressed output signal can be obtained.
[0159]
According to the present embodiment, at least one of the plurality of color temperature detection means detects a plurality of color temperature information corresponding to the flicker cycle, and at least one of the flicker suppression means corresponds to the flicker cycle. By suppressing the change in color temperature, the color flicker component can be suppressed.
[0160]
In the first to eleventh embodiments, there are cases where a plurality of microcomputers are used, but it goes without saying that all can be realized by one microcomputer in practice.
[0161]
【The invention's effect】
As described above, according to the present invention, flicker can be suppressed in both the high luminance portion and the low luminance portion while expanding the dynamic range.
[0162]
Another effect of the present invention is that flicker correction processing is performed for each color signal, so that these variations are suppressed, and an output signal in which the flicker of the color signal is suppressed together with the luminance signal can be obtained. That's it.
[0163]
Another advantage of the present invention is that white balance correction of the high luminance part and the low luminance part can be obtained by performing white balance correction of the high luminance part using the amplifier circuit in the flicker suppression means. It can be done.
[0164]
Still another effect of the present invention is that the screen is divided into a plurality of blocks, and flicker correction is performed for each block, so that even if there are a plurality of light sources, a signal in which flicker is suppressed over the entire screen is obtained. It can be obtained.
[0165]
Still another advantage of the present invention is that at least one of the plurality of flicker detection means detects a flicker component from the signal synthesized by the image synthesis means, and at least one of the plurality of flicker suppression means The circuit can be simplified by obtaining it by adjusting the gradation characteristics of the tone correction circuit.
[0166]
Still another effect of the present invention is that a plurality of signal level detection circuits for detecting an average signal level of a plurality of output signals having different exposure amounts and a ratio of the exposure amount after flicker correction from the output signals of the plurality of signal level detection circuits. And a gain calculation means for calculating the gain for flicker correction. In the gain calculation means, the ratio of the exposure amount after flicker correction is set to a predetermined value, so that stable gradation characteristics can be obtained. Can be obtained.
[0167]
Still another effect of the present invention is that a plurality of color temperature detection means for detecting color temperatures of a plurality of output signals having different exposure amounts, a gain for color temperature correction, a gain for flicker correction, and the two gains are provided. Gain calculating means for calculating a gain obtained by combining the gains, and the gain and white balance for flicker correction in the flicker suppressing means can be adjusted using the gain calculated by the gain calculating means.
[0168]
Still another advantage of the present invention is that at least one of the plurality of color temperature detection means detects a plurality of color temperature information corresponding to the flicker cycle, and at least one of the flicker suppression means corresponds to the flicker cycle. By suppressing the change in color temperature, the color flicker component can be suppressed.
[Brief description of the drawings]
FIG. 1 is a configuration diagram showing a configuration of a solid-state imaging device according to a first embodiment of the present invention.
FIG. 2 is a configuration diagram of an all-pixel readout type solid-state imaging device of the solid-state imaging device.
FIG. 3 is a configuration diagram showing a configuration of a solid-state imaging device according to a second embodiment of the present invention.
4 is a configuration diagram showing a configuration of first flicker detection means of the solid-state imaging device according to
FIG. 5 is a schematic diagram showing a state of screen division in block integration means of the solid-state imaging device.
FIG. 6 is a configuration diagram showing the configuration of a solid-state imaging device according to a fourth embodiment of the present invention.
FIG. 7 is a configuration diagram showing a configuration of a solid-state imaging device as an imaging unit of the solid-state imaging device.
FIG. 8 is a waveform diagram showing the relationship between the incident light amount of a signal and the signal level in each part of the image composition means of the solid-state imaging device
FIG. 9A is a waveform chart showing the brightness waveform of each color of the solid-state imaging device;
(B) Waveform diagram showing an average output value of each pixel of MY, MC, GY, and GC when short-time exposure is performed at timings A, B, C, and D of the solid-state imaging device
FIG. 10 is a configuration diagram of a solid-state imaging device according to a fifth embodiment of the present invention.
11 is a color coordinate space diagram for white balance in the solid-state imaging device according to
FIG. 12 is a configuration diagram showing the configuration of the solid-state imaging device according to the sixth embodiment.
13 is a configuration diagram of first flicker detection means of the solid-state imaging device according to
14 is a configuration diagram of second flicker detection means of the solid-state imaging device according to
FIG. 15 is a configuration diagram showing the configuration of the solid-state imaging device according to the seventh embodiment.
FIG. 16 is a gradation characteristic diagram of the gradation correction circuit according to the seventh embodiment;
17 is a configuration diagram of a solid-state imaging device according to
FIG. 18 is a gradation characteristic diagram of the gradation correction circuit according to the eighth embodiment;
FIG. 19 is a configuration diagram of the solid-state imaging device according to the ninth embodiment.
FIG. 20 is a configuration diagram of the solid-state imaging device according to the ninth embodiment.
21 is a photoelectric conversion diagram showing the relationship between Slong, Sshort, and Smix in the solid-state imaging device according to
22 is a configuration diagram of the solid-state imaging device according to
FIG. 23 is a configuration diagram of the solid-state imaging device according to the eleventh embodiment.
FIG. 24 is a configuration diagram showing a configuration of a conventional solid-state imaging device.
FIG. 25 is a photoelectric conversion diagram showing the relationship between Slong, Sshort, and Smix in a conventional solid-state imaging device.
[Explanation of symbols]
1 Solid-state image sensor
2 First flicker detection means
3 First flicker suppression means
4 Second flicker detection means
5 Second flicker suppression means
6 Image composition means
7a, 7b integration circuit
8a, 8b Microcomputer
9 Amplification circuit
10 Adder circuit
Claims (6)
前記露光時間の異なる複数の出力信号のうち、露光時間の短い出力信号のフリッカを検出するフリッカ検出手段と、
前記フリッカ検出手段で検出されたフリッカゲインに基づき露光時間の短い出力信号のフリッカを抑圧するフリッカ抑圧手段と、
前記露光時間の異なる信号を入力し、低輝度部は露光時間の長い信号で再現し、高輝度部は露光時間の短い信号で再現するように合成して階調再現範囲の拡大された画像を得る画像合成手段と、
前記画像合成手段で合成した合成画像のフリッカを検出する合成画像フリッカ検出手段と、
前記合成画像フリッカ検出手段で検出されたフリッカゲインに基づき合成画像のフリッカを抑圧するように露光時間の長い出力信号のフリッカを抑圧するフリッカ抑圧手段とを備え、
前記合成画像フリッカ検出手段は、連続して入力した複数画面分の合成画像信号のうち、1画面ごとに低輝度成分の積分値を求める積分手段と、複数画面分の前記積分値から露光時間の長い信号のフリッカゲインを算出し、露光時間の長い信号にフリッカが存在するかどうかのフリッカの判定を行うフリッカ判定手段とを有する固体撮像装置。Imaging means for outputting a plurality of output signals having different exposure times;
Flicker detection means for detecting flicker of an output signal having a short exposure time among a plurality of output signals having different exposure times;
Flicker suppression means for suppressing flicker of an output signal having a short exposure time based on the flicker gain detected by the flicker detection means;
By inputting signals with different exposure times, the low luminance part is reproduced with a signal with a long exposure time, and the high luminance part is combined with a signal with a short exposure time so that an image with an expanded gradation reproduction range can be obtained. Obtaining image composition means;
Composite image flicker detection means for detecting flicker of the composite image synthesized by the image composition means;
Flicker suppression means for suppressing flicker of an output signal having a long exposure time so as to suppress flicker of the composite image based on flicker gain detected by the composite image flicker detection means,
The composite image flicker detection means includes integration means for obtaining an integral value of a low-luminance component for each screen out of continuously inputted composite image signals for a plurality of screens, and exposure time from the integral values for the plurality of screens. A solid-state imaging device having flicker determination means for calculating flicker gain of a long signal and determining flicker of whether or not flicker is present in a signal having a long exposure time.
前記露光時間の異なる複数の出力信号のうち、露光時間の短い出力信号のフリッカを検出するフリッカ検出手段と、
前記フリッカ検出手段で検出されたフリッカゲインに基づき露光時間の短い出力信号のフリッカを抑圧するフリッカ抑圧手段と、
前記露光時間の異なる信号を入力し、低輝度部は露光時間の長い信号で再現し、高輝度部は露光時間の短い信号で再現するように合成して階調再現範囲の拡大された画像を得る画像合成手段と、
前記画像合成手段で合成した合成画像のフリッカを検出する合成画像フリッカ検出手段と、
前記合成画像フリッカ検出手段で検出されたフリッカゲインに基づき合成画像のフリッカを抑圧するように露光時間の長い出力信号のフリッカを抑圧するフリッカ抑圧手段とを備え、
前記合成画像フリッカ検出手段は、連続して入力した複数画面分の合成画像信号のうち、1画面ごとに画面を複数のブロックに分割し、分割したブロックごとに積分値を算出するブロック積分手段と、
前記複数画面分の分割したブロックのうち積分値のレベルが露光時間の長い信号の飽和レベルに相当するような一定レベル以下であるブロックの積分値から露光時間の長い信号のフリッカゲインを算出し、露光時間の長い信号にフリッカが存在するかどうかのフリッカの判定を行うフリッカ判定手段とを有する固体撮像装置。Imaging means for outputting a plurality of output signals having different exposure times;
Flicker detection means for detecting flicker of an output signal having a short exposure time among a plurality of output signals having different exposure times;
Flicker suppression means for suppressing flicker of an output signal having a short exposure time based on the flicker gain detected by the flicker detection means;
By inputting signals with different exposure times, the low luminance part is reproduced with a signal with a long exposure time, and the high luminance part is combined with a signal with a short exposure time so that an image with an expanded gradation reproduction range can be obtained. Obtaining image composition means;
Composite image flicker detection means for detecting flicker of the composite image synthesized by the image composition means;
Flicker suppression means for suppressing flicker of an output signal having a long exposure time so as to suppress flicker of the composite image based on flicker gain detected by the composite image flicker detection means,
The composite image flicker detection unit is a block integration unit that divides a screen into a plurality of blocks for each screen among composite image signals for a plurality of screens continuously input, and calculates an integral value for each divided block; ,
The flicker gain of the signal with a long exposure time is calculated from the integral value of the block whose integrated value level is equal to or lower than the saturation level of the signal with a long exposure time among the divided blocks for the plurality of screens, A solid-state imaging device having flicker determination means for determining whether or not flicker is present in a signal having a long exposure time.
前記露光時間の異なる複数の出力信号のうち、露光時間の短い出力信号のフリッカを検出するフリッカ検出手段と、
前記フリッカ検出手段で検出されたフリッカゲインに基づき露光時間の短い出力信号のフリッカを抑圧するフリッカ抑圧手段と、
前記露光時間の異なる信号を入力し、低輝度部は露光時間の長い信号で再現し、高輝度部は露光時間の短い信号で再現するように合成して階調再現範囲の拡大された画像を得る画像合成手段と、
前記画像合成手段で合成した合成画像のフリッカを検出する合成画像フリッカ検出手段と、
前記合成画像フリッカ検出手段で検出されたフリッカゲインに基づき合成画像のフリッカを抑圧するように露光時間の長い出力信号のフリッカを抑圧するフリッカ抑圧手段とを備え、
前記合成画像フリッカ検出手段は、一定レベル以下か否かを判定するレベル判定手段と、連続して入力した複数画面分の合成画像信号のうち、1画面ごとに前記レベル判定手段によりレベルが露光時間の長い信号の飽和レベルに相当するような一定レベル以下と判定された信号のみを積分する積分手段と、前記一定レベル以下と判定された信号の画素数を計数する計数手段と、前記積分手段の複数画面分の積分値と前記計数手段の複数画面分の計数値から露光時間の長い信号のフリッカゲインを算出し、露光時間の長い信号にフリッカが存在するかどうかのフリッカの判定を行うフリッカ判定手段とを有する固体撮像装置。Imaging means for outputting a plurality of output signals having different exposure times;
Flicker detection means for detecting flicker of an output signal having a short exposure time among a plurality of output signals having different exposure times;
Flicker suppression means for suppressing flicker of an output signal having a short exposure time based on the flicker gain detected by the flicker detection means;
By inputting signals with different exposure times, the low luminance part is reproduced with a signal with a long exposure time, and the high luminance part is combined with a signal with a short exposure time so that an image with an expanded gradation reproduction range can be obtained. Obtaining image composition means;
Composite image flicker detection means for detecting flicker of the composite image synthesized by the image composition means;
Flicker suppression means for suppressing flicker of an output signal having a long exposure time so as to suppress flicker of the composite image based on flicker gain detected by the composite image flicker detection means,
The composite image flicker detection unit includes a level determination unit that determines whether or not the level is equal to or lower than a certain level , and the level determination unit for each screen among the composite image signals for a plurality of screens that are continuously input, Integrating means for integrating only signals determined to be below a certain level corresponding to the saturation level of a long signal, counting means for counting the number of pixels of the signal determined to be below the certain level, and Flicker determination for calculating flicker gain of a signal with a long exposure time from the integration value for a plurality of screens and the count value for the plurality of screens of the counting means, and determining whether the flicker is present in the signal with a long exposure time A solid-state imaging device.
前記露光時間の異なる複数の出力信号のうち、露光時間の短い出力信号のフリッカを検出するフリッカ検出手段と、
前記フリッカ検出手段で検出されたフリッカゲインに基づき露光時間の短い出力信号のフリッカを抑圧するフリッカ抑圧手段と、
前記露光時間の異なる信号を入力し、低輝度部は露光時間の長い信号で再現し、高輝度部は露光時間の短い信号で再現するように合成して階調再現範囲の拡大された画像を得る画像合成手段と、
前記画像合成手段で合成した合成画像のフリッカを検出する合成画像フリッカ検出手段と、
前記合成画像フリッカ検出手段で検出されたフリッカゲインに基づき合成画像のフリッカを抑圧するように露光時間の長い出力信号のフリッカを抑圧するフリッカ抑圧手段とを備え、
前記フリッカ検出手段は、1画面ごとに画面を複数のブロックに分割する画面分割手段と、
ブロックごとのフリッカを検出し、ブロックごとのフリッカゲインを算出する分割画面フリッカ検出手段とを有し、
露光時間の短い信号のフリッカを抑圧するフリッカ抑圧手段は、前記フリッカ検出手段で算出されたブロックごとのフリッカゲインに基づきブロックごとにフリッカ補正する分割画面フリッカ抑圧手段とを有する固体撮像装置。Imaging means for outputting a plurality of output signals having different exposure times;
Flicker detection means for detecting flicker of an output signal having a short exposure time among a plurality of output signals having different exposure times;
Flicker suppression means for suppressing flicker of an output signal having a short exposure time based on the flicker gain detected by the flicker detection means;
By inputting signals with different exposure times, the low luminance part is reproduced with a signal with a long exposure time, and the high luminance part is combined with a signal with a short exposure time so that an image with an expanded gradation reproduction range can be obtained. Obtaining image composition means;
Composite image flicker detection means for detecting flicker of the composite image synthesized by the image composition means;
Flicker suppression means for suppressing flicker of an output signal having a long exposure time so as to suppress flicker of the composite image based on flicker gain detected by the composite image flicker detection means,
The flicker detection means includes a screen dividing means for dividing the screen into a plurality of blocks for each screen,
Split screen flicker detection means for detecting flicker for each block and calculating flicker gain for each block ;
The solid-state imaging device, wherein the flicker suppression unit that suppresses flicker of a signal having a short exposure time includes a divided screen flicker suppression unit that performs flicker correction for each block based on the flicker gain for each block calculated by the flicker detection unit.
前記露光時間の異なる複数の出力信号のうち、露光時間の短い出力信号のフリッカを検出するフリッカ検出手段と、
前記フリッカ検出手段で検出されたフリッカゲインに基づき露光時間の短い出力信号のフリッカを抑圧するフリッカ抑圧手段と、
前記露光時間の異なる信号を入力し、低輝度部は露光時間の長い信号で再現し、高輝度部は露光時間の短い信号で再現するように合成して階調再現範囲の拡大された画像を得る画像合成手段と、
前記画像合成手段で合成した合成画像のフリッカを検出する合成画像フリッカ検出手段と、
前記合成画像フリッカ検出手段で検出されたフリッカゲインに基づき合成画像のフリッカを抑圧するように露光時間の長い出力信号のフリッカを抑圧するフリッカ抑圧手段とを備え、
前記画像合成手段で合成された信号に対して階調補正を施す階調補正手段と、前記階調補正回路の階調特性を順次変更する階調特性変更手段とを有し、露光時間の短い出力信号のフリッカを検出するフリッカ検出手段は、画像合成手段で合成された信号からフリッカ成分を検出し、露光時間の短い出力信号のフリッカを抑圧するフリッカ抑圧手段は、前記フリッカ検出手段で検出されたフリッカゲインに基づき前記階調補正手段の階調特性を調整することによってフリッカを抑圧することを特徴とする固体撮像装置。Imaging means for outputting a plurality of output signals having different exposure times;
Flicker detection means for detecting flicker of an output signal having a short exposure time among a plurality of output signals having different exposure times;
Flicker suppression means for suppressing flicker of an output signal having a short exposure time based on the flicker gain detected by the flicker detection means;
By inputting signals with different exposure times, the low luminance part is reproduced with a signal with a long exposure time, and the high luminance part is combined with a signal with a short exposure time so that an image with an expanded gradation reproduction range can be obtained. Obtaining image composition means;
Composite image flicker detection means for detecting flicker of the composite image synthesized by the image composition means;
Flicker suppression means for suppressing flicker of an output signal having a long exposure time so as to suppress flicker of the composite image based on flicker gain detected by the composite image flicker detection means,
A gradation correction unit that performs gradation correction on the signal synthesized by the image synthesis unit; and a gradation characteristic changing unit that sequentially changes the gradation characteristic of the gradation correction circuit, and has a short exposure time. Flicker detection means for detecting flicker of the output signal detects flicker components from the signal synthesized by the image synthesis means, and flicker suppression means for suppressing flicker of the output signal having a short exposure time is detected by the flicker detection means. A solid-state image pickup device that suppresses flicker by adjusting the gradation characteristics of the gradation correction means based on the flicker gain.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP08847098A JP3989615B2 (en) | 1997-06-27 | 1998-04-01 | Solid-state imaging device |
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP9-171410 | 1997-06-27 | ||
| JP17141097 | 1997-06-27 | ||
| JP08847098A JP3989615B2 (en) | 1997-06-27 | 1998-04-01 | Solid-state imaging device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH1175109A JPH1175109A (en) | 1999-03-16 |
| JP3989615B2 true JP3989615B2 (en) | 2007-10-10 |
Family
ID=26429834
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP08847098A Expired - Lifetime JP3989615B2 (en) | 1997-06-27 | 1998-04-01 | Solid-state imaging device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3989615B2 (en) |
Families Citing this family (24)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE60025647T2 (en) | 1999-11-22 | 2007-01-11 | Matsushita Electric Industrial Co., Ltd., Kadoma | FESTKÖRPERBILDAUFNAHEMVORRICHTUNG |
| JP2002290838A (en) | 2001-03-27 | 2002-10-04 | Matsushita Electric Ind Co Ltd | Video signal processing system and imaging device |
| JP4759877B2 (en) * | 2001-08-10 | 2011-08-31 | コニカミノルタビジネステクノロジーズ株式会社 | Image processing program, recording medium thereof, image processing method, and image processing apparatus |
| JP2003274278A (en) * | 2002-03-15 | 2003-09-26 | Hitachi Kokusai Electric Inc | Television camera |
| JP4272443B2 (en) * | 2003-02-05 | 2009-06-03 | パナソニック株式会社 | Image processing apparatus and image processing method |
| US7920175B2 (en) | 2005-01-13 | 2011-04-05 | Canon Kabushiki Kaisha | Electronic still camera performing composition of images and image capturing method therefor |
| JP2006222935A (en) * | 2005-01-13 | 2006-08-24 | Canon Inc | Electronic still camera, imaging method, program, and storage medium |
| JP5072431B2 (en) * | 2007-05-15 | 2012-11-14 | キヤノン株式会社 | Imaging apparatus and control method thereof |
| JP2009017214A (en) * | 2007-07-04 | 2009-01-22 | Canon Inc | Flicker detection apparatus and flicker detection method |
| JP2010098416A (en) * | 2008-10-15 | 2010-04-30 | Nikon Corp | Imaging apparatus |
| JP2011064637A (en) * | 2009-09-18 | 2011-03-31 | Olympus Corp | Light source detection device |
| JP2012010105A (en) | 2010-06-24 | 2012-01-12 | Sony Corp | Image processing device, imaging device, image processing method, and program |
| JP5201238B2 (en) * | 2011-04-15 | 2013-06-05 | コニカミノルタビジネステクノロジーズ株式会社 | Image processing program, recording medium thereof, image processing method, and image processing apparatus |
| JP2013121099A (en) * | 2011-12-08 | 2013-06-17 | Sony Corp | Image processing device, image processing method, and program |
| JP5860298B2 (en) * | 2012-02-07 | 2016-02-16 | 日本放送協会 | Image processing apparatus and program |
| JP5896788B2 (en) * | 2012-03-07 | 2016-03-30 | キヤノン株式会社 | Image composition apparatus and image composition method |
| JP6148497B2 (en) * | 2013-02-27 | 2017-06-14 | キヤノン株式会社 | Image processing apparatus, image processing method, program, and storage medium |
| KR102254994B1 (en) * | 2013-12-04 | 2021-05-24 | 소니 세미컨덕터 솔루션즈 가부시키가이샤 | Image processing device, image processing method, electronic apparatus, and program |
| CN103713223B (en) * | 2014-01-03 | 2016-01-27 | 烟台东方威思顿电气股份有限公司 | A kind of low storage data volume flickering measurement method of self-adaptation range |
| JP6391319B2 (en) * | 2014-06-27 | 2018-09-19 | キヤノン株式会社 | Imaging device, control method thereof, and control program |
| JP2016146592A (en) * | 2015-02-09 | 2016-08-12 | ソニー株式会社 | Image processing apparatus, image processing method, and electronic apparatus |
| JP2017220879A (en) * | 2016-06-10 | 2017-12-14 | ソニーセミコンダクタソリューションズ株式会社 | Signal processing device, signal processing method, and imaging apparatus |
| JP2018007210A (en) * | 2016-07-08 | 2018-01-11 | ソニーセミコンダクタソリューションズ株式会社 | Signal processing device and method and imaging device |
| WO2020026595A1 (en) * | 2018-08-02 | 2020-02-06 | ソニー株式会社 | Signal processing device, imaging device, and signal processing method |
-
1998
- 1998-04-01 JP JP08847098A patent/JP3989615B2/en not_active Expired - Lifetime
Also Published As
| Publication number | Publication date |
|---|---|
| JPH1175109A (en) | 1999-03-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP3989615B2 (en) | Solid-state imaging device | |
| US7102669B2 (en) | Digital color image pre-processing | |
| JP3153147B2 (en) | Imaging device | |
| EP0920196B1 (en) | Method and imaging apparatus for generating a dynamic range expanded video signal | |
| JP3988457B2 (en) | Imaging apparatus and signal processing method for solid-state imaging device | |
| US20070076103A1 (en) | Image pickup apparatus and image processing method | |
| JP3134784B2 (en) | Image synthesis circuit | |
| KR100381496B1 (en) | An image signal processing apparatus | |
| JP3848274B2 (en) | White balance adjustment method, imaging apparatus, program, and storage medium | |
| KR20120024448A (en) | Imaging apparatus, signal processing method, and program | |
| EP0746166B1 (en) | Image sensing apparatus and method | |
| JP2008124928A (en) | Auto white balance system | |
| JP3748031B2 (en) | Video signal processing apparatus and video signal processing method | |
| JP4028395B2 (en) | Digital camera | |
| JPH1093866A (en) | Imaging device | |
| JP2004215063A (en) | Photographing device and outline correction method | |
| JP3841584B2 (en) | Imaging device | |
| JP2557620B2 (en) | Imaging device | |
| JP2004274367A (en) | Digital camera | |
| JP3075018B2 (en) | Auto white balance device | |
| JP4028396B2 (en) | Image composition method and digital camera | |
| JP2003348442A (en) | Television camera | |
| JP3958219B2 (en) | Imaging apparatus and contour correction method | |
| JP2002095004A (en) | Electronic camera | |
| JP2698404B2 (en) | Luminance signal processing device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040608 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20040730 |
|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20050105 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050301 |
|
| A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20050404 |
|
| A912 | Re-examination (zenchi) completed and case transferred to appeal board |
Free format text: JAPANESE INTERMEDIATE CODE: A912 Effective date: 20050428 |
|
| RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20050620 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070525 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070718 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100727 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110727 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120727 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130727 Year of fee payment: 6 |
|
| EXPY | Cancellation because of completion of term |