Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4228432B2 - Imaging apparatus and imaging method - Google Patents
[go: Go Back, main page]

JP4228432B2 - Imaging apparatus and imaging method - Google Patents

Imaging apparatus and imaging method Download PDF

Info

Publication number
JP4228432B2
JP4228432B2 JP28516098A JP28516098A JP4228432B2 JP 4228432 B2 JP4228432 B2 JP 4228432B2 JP 28516098 A JP28516098 A JP 28516098A JP 28516098 A JP28516098 A JP 28516098A JP 4228432 B2 JP4228432 B2 JP 4228432B2
Authority
JP
Japan
Prior art keywords
color temperature
parameter
white balance
brightness
subject
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP28516098A
Other languages
Japanese (ja)
Other versions
JP2000111983A (en
Inventor
英輔 宇根
英希 深谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP28516098A priority Critical patent/JP4228432B2/en
Publication of JP2000111983A publication Critical patent/JP2000111983A/en
Application granted granted Critical
Publication of JP4228432B2 publication Critical patent/JP4228432B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Stroboscope Apparatuses (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)
  • Exposure Control For Cameras (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、例えば、ストロボ装置を使用する時に、ホワイトバランスを良好とできる撮像装置および撮像方法に関する。
【0002】
【従来の技術】
最近では、電子画像技術の発達と電子回路の集積小型化によってコンパクトなディジタルカメラやカメラ一体型VTR等が数多く実用化されている。これらの撮像装置は、画像処理の容易さや再生処理の手軽さなどの点で使い勝手が良く、パーソナルコンピュータの普及等と相まって、一般に好んで用いられるようになってきている。また、現在、普及している撮像装置においては、暗所撮影にも対応できるようにストロボが装備されている。
【0003】
これらの撮像装置では、光源の色温度によって画像の白部分が変化しないように、自動的に制御することによって色再現性を良くするオートホワイトバランスコントロールが通常備えられている。ストロボ発光時には、ストロボの色温度にホワイトバランスを合わせるようにしている。
【0004】
【発明が解決しようとする課題】
ストロボを使用する撮影条件は、様々であり、ストロボ発光時にストロボ光以外の外光の影響を受けたり、ストロボ光が当たらない部分が生じたりする。従って、ストロボ発光時の色温度に合わせて固定的にホワイトバランスを調整すると、ストロボ光と異なる色温度の外光の影響が強い部分、ストロボ光が当たらない部分において、ホワイトバランスがずれる問題があった。
【0005】
従って、この発明の目的は、ストロボ発光時のホワイトバランスを撮影条件に適応させることによって、ホワイトバランスのずれを防止し、色再現性の良い撮像装置および撮像方法を提供することにある。
【0006】
【課題を解決するための手段】
以上の問題を解決するために、請求項1の発明は、信号処理によって供給された撮影画像信号のホワイトバランスを制御するホワイトバランス手段と、
ストロボ装置の動作モードとして、ストロボ装置を常に発光する強制発光モードと、外光が暗い場合にのみ指示と同期してストロボ装置を発光する自動発光モードとを選択する選択手段と、
を備え、
ホワイトバランス手段では、
強制発光モードにおいて、
被写体の明るさを、第1のパラメータおよび/または第1のパラメータより明るい第2のパラメータと比較し、被写体の明るさが第1のパラメータより暗い範囲では、ストロボ装置の色温度に対応するようにホワイトバランスを制御し、
被写体の明るさが第1のパラメータ以上明るく且つ第2のパラメータより暗い範囲では、ストロボ装置の色温度から外光の色温度まで変化する色温度変化に沿ってホワイトバランスを制御し、
被写体の明るさが第2のパラメータ以上明るい範囲では、ストロボ装置の色温度と外光の色温度との間の所定の色温度に応じホワイトバランスを制御し、
自動発光モードにおいて、
被写体の明るさを、第1のパラメータおよび/または第2のパラメータより明るい第3のパラメータと比較し、被写体の明るさが第1のパラメータより暗い範囲では、ストロボ装置の色温度に対応するようにホワイトバランスを制御し、
被写体の明るさが第1のパラメータ以上明るく且つ第3のパラメータより暗い範囲では、ストロボ装置の色温度から外光の色温度まで変化する色温度変化に沿ってホワイトバランスを制御し、
被写体の明るさが第3のパラメータ以上明るい範囲では、ほぼ外光の色温度に応じホワイトバランスを制御する
撮像装置である。
【0010】
この発明では、被写体の明るさからストロボ発光時の外光の影響を推定し、外光の影響を加味した色温度に応じてホワイトバランスを制御している。また、ストロボの動作モードが強制発光モードと自動発光モードとの何れであるかに対応してホワイトバランスの制御の仕方を変更する。それによって、ストロボの動作モードに応じて良好にホワイトバランスを制御することができる。
【0011】
【発明の実施の形態】
以下、この発明をディジタルカメラに適用した一実施形態について図面を参照して説明する。図1は、この発明の一実施形態の全体構成を示す。図1に示すようにディジタルカメラレンズ部1、CCD(Charge Coupled Device)2、サンプルホールド、AGC(Automatic Gain Control) およびA/D変換部3、カメラ信号処理部4、メモリコントローラ5、バッファメモリ6、D/A変換器7、LCD(Liquid Crystal Display) 8、DRAM(Dynamic Random Access Memory)9、インターフェース部10、外部記録媒体11、CPU12、操作入力部13、エンコーダ/デコーダ15、ストロボ装置21および不揮発性メモリ22により構成されている。
【0012】
レンズ部1は、ズーム,フォーカスおよびアイリス機構とその駆動回路等を有しており、レンズ部1と、CCD2とにより撮像部が構成される。レンズ部1には、CPU12からの制御情報が供給され、自動アイリス制御動作や自動焦点制御動作がなされる。従って、CPU12からの制御情報に基づいてアイリス機構が開閉され、レンズを介して供給される被写体像の光量が調節される。レンズおよびアイリス機構を介されることで所定レベルの光量とされた被写体像がCCD2に入射される。
【0013】
CCD2は、図示せずもタイミング発生回路等を有しており、CPU12からの制御情報に基づいて所定時間にわたって露光を行い、レンズおよびアイリス機構を介して供給される被写体像を信号電荷として取り込む。CCD2の信号電荷出力がサンプルホールド、AGCおよびA/D変換部3に供給される。
【0014】
CCD2の出力がサンプルホールド、AGCおよびA/D変換部3に供給され、サンプルホールド、AGCおよびA/D変換部3において、1サンプル10ビットのディジタル撮像信号が形成される。サンプルホールド、AGCおよびA/D変換部3は、バッファ回路、CDS(Correlated Double Sampling)回路、AGC回路、A/D変換器等により構成されており、ディジタル撮像信号を形成する。
【0015】
カメラ信号処理部4は、ディジタルクランプ回路、輝度信号処理回路、色信号処理回路、欠陥補償回路、自動アイリス制御回路、自動焦点制御回路、ホワイトバランス調整回路等により構成されている。カメラ信号処理部4において、ディジタル撮像信号を変換して、輝度信号および色差信号からなるコンポーネント信号の形式のディジタル画像信号が形成され、このディジタル画像信号がメモリコントローラ5に供給される。また、カメラ信号処理部4からCPU12に対して被写体の明るさ情報としての輝度信号レベルが供給される。明るさ情報とは、輝度信号のレベルに限らず、CCD2で受光した光量、アイリスの開きの程度、シャッター速度、AGCの制御電圧等を単独、または組み合わせることによって推定される被写体の明るさを意味する。
【0016】
図2は、カメラ信号処理部の主要な部分の構成の一例を示す。図2において41で示される入力端子に上述したサンプルホールド、AGCおよびA/D変換部3からのディジタル撮像信号が供給される。入力端子41を介してディジタル撮像信号が色信号処理回路42および輝度信号処理回路43のそれぞれに供給される。
【0017】
色信号処理回路42において、ディジタル撮像信号から三原色信号(RGB信号)の復調処理がなされる。色信号処理回路42において復調されたRGB信号がホワイトバランス回路45に供給されると共に、出力端子46を通じてCPU12に供給される。ホワイトバランス回路45に対して端子47を介してホワイトバランス制御信号が供給される。ホワイトバランス制御信号は、CPU12がRGB信号を使用して生成する。ホワイトバランス回路45からのRGB信号が出力端子48を介してマトリクス変換回路(図示しない)に供給され、色差信号が生成される。
【0018】
また、輝度信号処理回路43には、輪郭補正回路およびレベル検出回路等が含まれている。輝度信号処理回路43からの輝度信号が出力端子49に取り出される。また、輝度信号処理回路43において信号レベル情報が形成され、この信号レベル情報が明るさ情報または明るさ情報の一部として出力端子44を介してCPU12に供給される。
【0019】
カメラ信号処理部4からのディジタル画像信号の各コンポーネント信号がメモリコントローラ5に供給される。メモリコントローラ5に対しては、表示用バッファメモリ6と、CPU12のバス14とが接続されている。バッファメモリ6は、コンポーネント信号を処理することによって、RGB信号を生成し、RGB信号をD/A変換器7に出力する。D/A変換器7からのアナログ信号がLCD8に供給される。また、バッファメモリ6は、LCD8の表示タイミングに合わせたタイミングで、RGB信号を出力する。
【0020】
また、バス14に対して、DRAM9、CPU12、エンコーダ/デコーダ15、インターフェース部10および不揮発性メモリ22が接続されている。DRAM9は、メモリコントローラ5またはCPU12から供給されるアドレスおよび制御情報によって制御される。従って、DRAM9には、シャッターが押されるとメモリコントローラ5を介して供給されるディジタル画像信号が一時的に書込まれる。なお、書込まれたディジタル画像信号は、必要に応じて読み出され、エンコーダ/デコーダ15等に供給される。不揮発性メモリ22には、後述するようなホワイトバランス制御に必要とされるストロボ装置21の色温度情報、ホワイトバランス制御のパラメータが記憶されている。ストロボ撮影時のホワイトバランス制御のために、これらの情報が読出され、CPU12に供給される。
【0021】
エンコーダ/デコーダ15は、例えば、JPEG(Joint Photographic Experts Group) に基づいて画像データを圧縮(エンコード)または伸張(デコード)する。なお、この処理は、CPU12のソフトウェア処理によってエンコード/デコード処理を行うようにしても良い。
【0022】
インターフェース部10は、外部記憶媒体11とCPU12との間のインターフェースである。外部記憶媒体としては、フロッピーディスク等のディスク状記録媒体、メモリカード等を使用できる。さらに、CPU12には、操作入力部13からの操作信号が供給される。操作入力部13は、シャッターボタンその他の撮影者が操作する各種のスイッチを含む。操作入力部13は、ボタン、スイッチ等の操作を検出し、検出した信号を操作信号としてCPU12に送出する。
【0023】
また、図1において21で示されるのがストロボ装置である。ストロボ装置21は、ストロボおよびストロボ放電回路および発光量制御回路等からなり、CPU12からの制御情報に応じてシャッターボタンを押すのと同期して発光するように構成されている。操作入力部13には、ストロボ使用時の撮影モードを設定するスイッチが設けられている。すなわち、ストロボ装置21に関連して自動発光、強制発光および発光禁止の3つのモードが設定可能とされている。強制発光モードは、被写体の明るさと無関係にストロボを発光させるモードである。自動発光モードは、カメラ信号処理部4からの信号レベル情報等の上述した明るさ情報に基づいて、被写体の明るさが不十分な場合に限ってストロボを発光させるモードである。発光禁止モードは、ストロボを発光させないモードである。
【0024】
CPU12は、ホワイトバランス制御信号を生成し、ホワイトバランス回路45に対して供給する。この発明は、公知の種々のホワイトバランス制御を使用することができる。ホワイトバランス制御の一例として、撮像信号の白の部分として検出されるRGB信号を積分し、R信号の積分値とG信号の積分値の比(R/G)と、B信号の積分値とG信号の積分値の比(B/G)とが図3に示す黒体放射曲線51上およびその付近となることを考慮して、ホワイトバランス回路45に設けたゲイン制御アンプによって、R信号のゲインおよびB信号のゲインを制御するものがある。
【0025】
黒体放射曲線51は、色温度の異なる光源の下で白い被写体を撮影し、そのときのRGB信号の各色信号の積分値を形成し、上述した積分値の比(R/G)および(B/G)の対応関係を求めることによって描かれる。黒体放射曲線51により示されるように、色温度が高い場合には、黒体放射曲線51において、B/GがR/Gより大きくなり、一方、色温度が低い場合には、黒体放射曲線51において、B/GがR/Gより小さくなる。
【0026】
ストロボの光は、青みがかった光で、その色温度は、図3において、52で示すように、非常に高く、また、黒体放射曲線51からややずれた点にある。従って、ストロボ発光時には、B信号のゲインを下げ、R信号のゲインを高くするようにホワイトバランス制御がなされる。また、ビデオライトは、図3において53で示すように、色温度がやや低く、3200K°(ケルビン温度)である。従って、ビデオライトの使用時には、G信号のゲインを高くし、R信号のゲインを下げるように、ホワイトバランス制御がなされる。CPU12は、光源の色温度と対応してB信号およびR信号のゲインを制御するホワイトバランス制御信号を生成し、ホワイトバランス回路45の端子47に供給する。
【0027】
上述のこの発明の一実施形態におけるストロボ使用時のホワイトバランス制御動作について、図4を参照して説明する。図4の縦軸は、色温度を示し、横軸が明るさ情報を示す。上述したように、CPU12では、色温度と対応して、ホワイトバランス回路45に対するホワイトバランス制御信号が形成される。
【0028】
明るさ情報に関連する、第1、第2および第3のパラメータA、BおよびC(A<B<C)によって、4個の範囲X1、X2、X3およびX4が設定される。明るさ情報が第1のパラメータAより小の場合、すなわち、入射光が少ない範囲X1では、Tsで示すストロボ装置21の色温度に対応してホワイトバランス制御信号が生成される。実際には、ストロボ装置21は、色温度にバラツキがあるので、組み立て時に、色温度を測定し、測定結果を不揮発性メモリ22に記憶しておく。パラメータA、BおよびCは、予め設定されており、不揮発性メモリ22に格納されている。パラメータAより小の範囲X1は、ストロボ光が支配的であり、外光の影響を無視できるので、ストロボ光のみの色温度Tsに対応してホワイトバランスを制御する。
【0029】
明るさがパラメータA以上明るく、パラメータBより小の範囲X2では、ストロボ装置の色温度Tsから外光の色温度Tyまで変化する色温度変化特性Txに沿ってホワイトバランスを制御する。すなわち、明るさ情報から色温度変化特性Tx上の色温度を決定する。また、明るさがパラメータB以上明るく、パラメータCより小の範囲X3でも、同様に、ストロボ装置の色温度Tsから外光の色温度Tyまで変化する色温度変化特性Txに沿ってホワイトバランスを制御する。さらに、明るさがパラメータC以上明るい範囲X4では、外光の色温度Tyに対応してホワイトバランスを制御する。すなわち、範囲X4では、ストロボを使用しない撮影時と同様のオートホワイトバランス制御がなされる。
【0030】
色温度の変化特性Txは、外光の色温度Tyがストロボの色温度Tsより低い場合のものである。若し、逆に外光の色温度Ty’がストロボの色温度Tsより高い関係にあれば、図4において、Tx’で示すように、色温度の変化特性が得られる。
【0031】
ストロボ装置21の動作が強制発光モードとされている時には、明るさ情報がパラメータB以上明るい時では、色温度の変化特性が破線で示すように、ストロボの色温度Tsと外光の色温度Tyとの間の所定の色温度Tzに対応してホワイトバランスが制御される。ストロボ装置21の動作が自動発光モードとされている時に、実線で示す色温度変化特性Txに沿ってホワイトバランスが制御される。
【0032】
パラメータBを設定するのは、強制発光モードでは、ストロボ光が照射される範囲に撮影したい被写体が存在するはずであるから、ストロボ光の色温度に近い色温度に対応してホワイトバランスを制御するためである。パラメータCを設定するのは、自動発光モードで、明るい場合には、たとえストロボが発光しても、外光が支配的であるので、パラメータCより明るい場合には、外光の色温度に対応してホワイトバランスを制御するためである。
【0033】
上述した色温度変化特性Tx、Tx’は、ストロボ装置21の色温度Tsを予め測定して求めておいても、外光の色温度Ty、Ty’によって異なったものとなる。撮影時の外光の色温度Ty、Ty’は、ホワイトバランス制御によって求められ、パラメータA、B、Cの値は、予め設定した値であるので、TsとTyまたはTy’とを結ぶ色温度特性TxまたはTx’は、直線近似によって求めることができる。
【0034】
例えばパラメータAおよびCで規定される範囲X2およびX3を等間隔にNステップに分割し、TsとTyとの差をNで割ることによって、1ステップ当たりの色温度の変化が求まる。そして、撮影時の明るさ情報とパラメータAとの差(ステップ数)を求め、そのステップ数と1ステップ当たりの色温度の変化を乗算し、乗算結果をTsから引くことによって、撮影時の明るさ情報に対応する色温度が求まる。パラメータBに対応する色温度Tzも同様に計算される。この場合、撮影時の明るさ情報とパラメータCとの差(ステップ数)を求め、そのステップ数と1ステップ当たりの色温度の変化を乗算し、乗算結果をTyに加算しても良い。
【0035】
図4に示すように、ストロボ使用時の色温度を外光の影響を加味して決定し、決定された色温度に対応してホワイトバランスを制御するので、ストロボ使用時に、常に色温度をTsに固定するホワイトバランス制御と比較して、実際に近い色温度に対応してホワイトバランスを制御することができる。従って、撮影画像のホワイトバランスを良好とできる。また、ストロボ装置21の動作モード(強制発光モード/自動発光モード)に応じてホワイトバランスを制御できるので、より良好なホワイトバランス制御をなしうる。
【0036】
上述したホワイトバランス制御を行う場合のCPU12の処理手順を図5に示す。先ず、ステップS1において、ストロボ装置21の動作モードが発光禁止モードかどうかが決定される。若し、発光禁止モードならば、ステップS6に移行し、現在のホワイトバランス制御信号のまま処理がなされて終了する。ステップS1において、発光禁止モードでないと決定されると、ステップS2において、明るさ情報がパラメータAより明るいかどうか、すなわち、図4中の範囲X1かどうかが決定される。
【0037】
明るさ情報がパラメータAより小(範囲X1)と決定されると、不揮発性メモリ22に格納されたストロボ光の色温度Ts情報を読み出し、色温度Tsに合わせたホワイトバランス制御信号が出力される。若し、明るさ情報がパラメータA以上明るいと決定されると、ストロボ装置21の動作モードが自動発光モードに設定されているかどうか決定される(ステップS3)。
【0038】
ステップS3において、自動発光モードに設定されていると決定されると、ステップS4において、明るさ情報がパラメータC以上かどうか、すなわち、図4の範囲X4かどうかが決定される。明るさ情報がパラメータC以上(範囲X4)と決定されると、ステップS7において、現在のホワイトバランス制御信号が出力され、処理が終了する。若し、ステップS4において、明るさ情報がパラメータC以上でない(範囲X2またはX3)と決定されると、ステップS10において、色温度変化特性TxまたはTx’に沿った色温度が上述した直線近似によって計算され、その色温度に対応するホワイトバランス制御信号が出力される。
【0039】
一方、ステップS3において、強制発光モードに設定されていると決定されると、ステップS5において、明るさ情報がパラメータB以上(範囲X3)かどうかが決定される。若しそうであれば、ステップS8において、明るさ情報がパラメータBに固定される。そして、ステップS10において、上述した直線近似によって色温度Tzが計算され、色温度Tzに対応するホワイトバランス制御信号が計算され、出力される。
【0040】
なお、ディジタルカメラにこの発明を適用した一実施形態について説明したが、この発明は、他の撮像装置例えばカメラ一体型VTRであって静止画撮影動作が可能な撮像装置にも適用することができる。さらに、この発明は、固体撮像素子としてCCD以外のもの例えばMOSセンサを使用した撮像装置に対しても適用することができる。
【0041】
【発明の効果】
この発明に依れば、ストロボ使用時のホワイトバランス制御を外光の影響を加味した色温度に対応して行うことできるので、実際の撮影条件に適応してホワイトバランスを制御することができる。また、この発明に依れば、ストロボ装置の動作モード(強制発光モード/自動発光モード)に応じて、ホワイトバランスの制御の仕方を切り換えるので、より一層良好なホワイトバランス制御をなしうる。
【図面の簡単な説明】
【図1】この発明をディジタルカメラに適用した一実施形態の全体構成を示すブロック図である。
【図2】この発明の一実施形態におけるカメラ信号処理部の部分的構成を示すブロック図である。
【図3】ホワイトバランス制御の一例を説明するための略線図である。
【図4】この発明の一実施形態におけるストロボ使用時のホワイトバランス制御を説明するための略線図である。
【図5】この発明の一実施形態におけるストロボ使用時のホワイトバランス制御の説明に用いるフローチャートである。
【符号の説明】
2・・・CCD、3・・・サンプルホールド、AGCおよびA/D変換部、4・・・カメラ信号処理部、9・・・DRAM、11・・・外部記憶媒体、12・・・CPU、13・・・操作入力部、21・・・ストロボ装置、22・・・不揮発性メモリ、45・・・ホワイトバランス回路
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to an image pickup apparatus and an image pickup method capable of achieving good white balance when using a strobe device, for example.
[0002]
[Prior art]
Recently, a number of compact digital cameras, camera-integrated VTRs, and the like have been put into practical use due to the development of electronic image technology and the miniaturization of electronic circuits. These imaging devices are easy to use in terms of ease of image processing and ease of reproduction processing, and are becoming popular in general with the spread of personal computers. In addition, currently popular imaging apparatuses are equipped with a strobe so that they can be used in dark place shooting.
[0003]
These imaging apparatuses are usually provided with an auto white balance control that improves color reproducibility by automatically controlling so that the white portion of the image does not change depending on the color temperature of the light source. When the flash fires, white balance is adjusted to the color temperature of the flash.
[0004]
[Problems to be solved by the invention]
There are various shooting conditions for using a strobe. When the strobe is fired, it is affected by outside light other than the strobe light, or a part where the strobe light does not strike may be generated. Therefore, if the white balance is fixedly adjusted according to the color temperature at which the flash fires, the white balance may shift in areas where the influence of external light having a color temperature different from that of the flash light is strong or where the flash light does not strike. It was.
[0005]
Accordingly, an object of the present invention is to provide an imaging apparatus and an imaging method with good color reproducibility by preventing white balance deviation by adapting the white balance at the time of strobe light emission to the photographing conditions.
[0006]
[Means for Solving the Problems]
In order to solve the above problems, the invention of claim 1 includes a white balance means for controlling the white balance of the supplied captured image signal by signal processing ,
Selection means for selecting a forced flash mode in which the flash device always emits light as an operation mode of the flash device and an automatic flash mode in which the flash device emits light in synchronization with an instruction only when outside light is dark,
With
In white balance means,
In forced flash mode,
The brightness of the subject is compared with the first parameter and / or the second parameter that is brighter than the first parameter, and in the range where the brightness of the subject is darker than the first parameter, it corresponds to the color temperature of the strobe device. To control the white balance,
In a range where the brightness of the subject is brighter than the first parameter and darker than the second parameter, the white balance is controlled along the color temperature change that changes from the color temperature of the strobe device to the color temperature of the external light,
In the range where the brightness of the subject is brighter than the second parameter, the white balance is controlled according to a predetermined color temperature between the color temperature of the strobe device and the color temperature of the external light,
In automatic flash mode,
The brightness of the subject is compared with the first parameter and / or the third parameter that is brighter than the second parameter, and in the range where the brightness of the subject is darker than the first parameter, it corresponds to the color temperature of the strobe device. To control the white balance,
In a range where the brightness of the subject is brighter than the first parameter and darker than the third parameter, the white balance is controlled along the color temperature change that changes from the color temperature of the strobe device to the color temperature of the external light,
In the range where the brightness of the subject is brighter than the third parameter, the white balance is controlled almost according to the color temperature of the outside light.
An imaging device.
[0010]
In this invention, the influence of external light at the time of strobe light emission is estimated from the brightness of the subject, and the white balance is controlled according to the color temperature in consideration of the influence of external light. Further, the white balance control method is changed in accordance with whether the strobe operation mode is the forced light emission mode or the automatic light emission mode. As a result, the white balance can be favorably controlled according to the operation mode of the strobe.
[0011]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, an embodiment in which the present invention is applied to a digital camera will be described with reference to the drawings. FIG. 1 shows the overall configuration of an embodiment of the present invention. As shown in FIG. 1, the digital camera has a lens unit 1, a CCD (Charge Coupled Device) 2, a sample hold, an AGC (Automatic Gain Control) and A / D conversion unit 3, a camera signal processing unit 4, a memory controller 5, and a buffer memory. 6, D / A converter 7, LCD (Liquid Crystal Display) 8, DRAM (Dynamic Random Access Memory) 9, interface unit 10, external recording medium 11, CPU 12, operation input unit 13, encoder / decoder 15, strobe device 21 And a non-volatile memory 22.
[0012]
The lens unit 1 includes a zoom, focus, and iris mechanism, a driving circuit thereof, and the like, and the lens unit 1 and the CCD 2 constitute an imaging unit. Control information from the CPU 12 is supplied to the lens unit 1 to perform an automatic iris control operation and an automatic focus control operation. Accordingly, the iris mechanism is opened and closed based on the control information from the CPU 12, and the light quantity of the subject image supplied through the lens is adjusted. A subject image having a predetermined level of light quantity through the lens and iris mechanism is incident on the CCD 2.
[0013]
Although not shown, the CCD 2 has a timing generation circuit and the like, performs exposure for a predetermined time based on control information from the CPU 12, and takes in a subject image supplied via a lens and an iris mechanism as a signal charge. The signal charge output of the CCD 2 is supplied to the sample hold, AGC and A / D converter 3.
[0014]
The output of the CCD 2 is supplied to the sample hold, AGC and A / D converter 3, and a digital image pickup signal of 10 bits per sample is formed in the sample hold, AGC and A / D converter 3. The sample hold, AGC and A / D conversion unit 3 includes a buffer circuit, a CDS (Correlated Double Sampling) circuit, an AGC circuit, an A / D converter, and the like, and forms a digital imaging signal.
[0015]
The camera signal processing unit 4 includes a digital clamp circuit, a luminance signal processing circuit, a color signal processing circuit, a defect compensation circuit, an automatic iris control circuit, an automatic focus control circuit, a white balance adjustment circuit, and the like. In the camera signal processing unit 4, the digital image pickup signal is converted to form a digital image signal in the form of a component signal composed of a luminance signal and a color difference signal, and this digital image signal is supplied to the memory controller 5. Further, a luminance signal level as brightness information of the subject is supplied from the camera signal processing unit 4 to the CPU 12. The brightness information is not limited to the level of the luminance signal, but means the brightness of the subject estimated by combining the amount of light received by the CCD 2, the degree of iris opening, the shutter speed, the AGC control voltage, etc. alone or in combination. To do.
[0016]
FIG. 2 shows an example of the configuration of the main part of the camera signal processing unit. The digital image pickup signal from the sample hold, AGC, and A / D converter 3 described above is supplied to an input terminal 41 shown in FIG. A digital imaging signal is supplied to each of the color signal processing circuit 42 and the luminance signal processing circuit 43 via the input terminal 41.
[0017]
The color signal processing circuit 42 demodulates the three primary color signals (RGB signals) from the digital image pickup signal. The RGB signal demodulated in the color signal processing circuit 42 is supplied to the white balance circuit 45 and also supplied to the CPU 12 through the output terminal 46. A white balance control signal is supplied to the white balance circuit 45 via a terminal 47. The white balance control signal is generated by the CPU 12 using RGB signals. The RGB signal from the white balance circuit 45 is supplied to a matrix conversion circuit (not shown) via the output terminal 48, and a color difference signal is generated.
[0018]
The luminance signal processing circuit 43 includes a contour correction circuit and a level detection circuit. A luminance signal from the luminance signal processing circuit 43 is taken out to the output terminal 49. Further, signal level information is formed in the luminance signal processing circuit 43, and this signal level information is supplied to the CPU 12 via the output terminal 44 as brightness information or part of brightness information.
[0019]
Each component signal of the digital image signal from the camera signal processing unit 4 is supplied to the memory controller 5. A display buffer memory 6 and a bus 14 of the CPU 12 are connected to the memory controller 5. The buffer memory 6 processes the component signal to generate an RGB signal and outputs the RGB signal to the D / A converter 7. An analog signal from the D / A converter 7 is supplied to the LCD 8. Further, the buffer memory 6 outputs RGB signals at a timing that matches the display timing of the LCD 8.
[0020]
In addition, a DRAM 9, a CPU 12, an encoder / decoder 15, an interface unit 10, and a nonvolatile memory 22 are connected to the bus 14. The DRAM 9 is controlled by an address and control information supplied from the memory controller 5 or the CPU 12. Accordingly, a digital image signal supplied via the memory controller 5 is temporarily written in the DRAM 9 when the shutter is pressed. The written digital image signal is read out as necessary and supplied to the encoder / decoder 15 and the like. The nonvolatile memory 22 stores color temperature information of the flash device 21 and white balance control parameters required for white balance control as described later. These pieces of information are read out and supplied to the CPU 12 for white balance control during flash photography.
[0021]
The encoder / decoder 15 compresses (encodes) or expands (decodes) image data based on, for example, JPEG (Joint Photographic Experts Group). Note that this processing may be performed by encoding / decoding processing by software processing of the CPU 12.
[0022]
The interface unit 10 is an interface between the external storage medium 11 and the CPU 12. As the external storage medium, a disk-shaped recording medium such as a floppy disk, a memory card, or the like can be used. Further, an operation signal from the operation input unit 13 is supplied to the CPU 12. The operation input unit 13 includes a shutter button and other various switches operated by the photographer. The operation input unit 13 detects operations of buttons, switches, and the like, and sends the detected signals to the CPU 12 as operation signals.
[0023]
Also, a strobe device 21 is shown in FIG. The strobe device 21 includes a strobe, a strobe discharge circuit, a light emission amount control circuit, and the like, and is configured to emit light in synchronization with the pressing of the shutter button according to control information from the CPU 12. The operation input unit 13 is provided with a switch for setting a shooting mode when the strobe is used. That is, three modes of automatic light emission, forced light emission, and light emission prohibition can be set in association with the strobe device 21. The forced light emission mode is a mode in which the flash is emitted regardless of the brightness of the subject. The automatic light emission mode is a mode in which the strobe light is emitted only when the brightness of the subject is insufficient based on the above-described brightness information such as the signal level information from the camera signal processing unit 4. The light emission prohibition mode is a mode in which the flash is not emitted.
[0024]
The CPU 12 generates a white balance control signal and supplies it to the white balance circuit 45. The present invention can use various known white balance controls. As an example of white balance control, an RGB signal detected as a white portion of an imaging signal is integrated, a ratio (R / G) of an integration value of an R signal and an integration value of a G signal, an integration value of a B signal, and G Considering that the ratio (B / G) of the integral value of the signal is on and near the black body radiation curve 51 shown in FIG. 3, the gain control amplifier provided in the white balance circuit 45 allows the gain of the R signal to be increased. Some control the gain of the B signal.
[0025]
The black body radiation curve 51 shoots a white subject under a light source having a different color temperature, forms an integral value of each color signal of the RGB signal at that time, and calculates the ratio (R / G) and (B / G). As shown by the black body radiation curve 51, when the color temperature is high, in the black body radiation curve 51, B / G is larger than R / G, while when the color temperature is low, black body radiation. In the curve 51, B / G becomes smaller than R / G.
[0026]
The strobe light is bluish, and its color temperature is very high as indicated by 52 in FIG. 3 and is slightly off the black body radiation curve 51. Therefore, during strobe light emission, white balance control is performed so as to decrease the gain of the B signal and increase the gain of the R signal. Further, the video light has a slightly low color temperature of 3200 K ° (Kelvin temperature) as indicated by 53 in FIG. Therefore, when the video light is used, white balance control is performed so that the gain of the G signal is increased and the gain of the R signal is decreased. The CPU 12 generates a white balance control signal for controlling the gains of the B signal and the R signal corresponding to the color temperature of the light source, and supplies the white balance control signal to the terminal 47 of the white balance circuit 45.
[0027]
The white balance control operation when the strobe is used in the embodiment of the present invention will be described with reference to FIG. The vertical axis in FIG. 4 indicates the color temperature, and the horizontal axis indicates the brightness information. As described above, the CPU 12 generates a white balance control signal for the white balance circuit 45 in correspondence with the color temperature.
[0028]
Four ranges X1, X2, X3 and X4 are set by the first, second and third parameters A, B and C (A <B <C) related to the brightness information. When the brightness information is smaller than the first parameter A, that is, in the range X1 where the incident light is small, a white balance control signal is generated corresponding to the color temperature of the strobe device 21 indicated by Ts. Actually, since the strobe device 21 varies in color temperature, the color temperature is measured at the time of assembly, and the measurement result is stored in the nonvolatile memory 22. The parameters A, B, and C are preset and stored in the nonvolatile memory 22. In the range X1 smaller than the parameter A, the strobe light is dominant, and the influence of external light can be ignored. Therefore, the white balance is controlled corresponding to the color temperature Ts of only the strobe light.
[0029]
In the range X2 where the brightness is brighter than the parameter A and smaller than the parameter B, the white balance is controlled along the color temperature change characteristic Tx that changes from the color temperature Ts of the strobe device to the color temperature Ty of the external light. That is, the color temperature on the color temperature change characteristic Tx is determined from the brightness information. Similarly, in the range X3 where the brightness is brighter than the parameter B and smaller than the parameter C, the white balance is similarly controlled along the color temperature change characteristic Tx that changes from the color temperature Ts of the strobe device to the color temperature Ty of the external light. To do. Furthermore, in the range X4 where the brightness is brighter than the parameter C, the white balance is controlled corresponding to the color temperature Ty of the external light. That is, in the range X4, the same auto white balance control as that at the time of shooting without using the strobe is performed.
[0030]
The color temperature change characteristic Tx is obtained when the external light color temperature Ty is lower than the strobe color temperature Ts. On the other hand, if the color temperature Ty ′ of the external light is higher than the color temperature Ts of the strobe, a change characteristic of the color temperature can be obtained as indicated by Tx ′ in FIG.
[0031]
When the operation of the strobe device 21 is in the forced light emission mode, when the brightness information is brighter than the parameter B, the color temperature change characteristic of the strobe and the color temperature Ty of the external light are indicated by the broken line as shown by the broken line. The white balance is controlled corresponding to a predetermined color temperature Tz between the two. When the operation of the strobe device 21 is set to the automatic light emission mode, the white balance is controlled along the color temperature change characteristic Tx indicated by the solid line.
[0032]
The parameter B is set because, in the forced light emission mode, there should be a subject to be photographed in the range irradiated with the strobe light, so the white balance is controlled corresponding to the color temperature close to the color temperature of the strobe light. Because. The parameter C is set in the automatic light emission mode. When the light is bright, the external light is dominant even if the strobe emits light. When the light is brighter than the parameter C, it corresponds to the color temperature of the external light. This is for controlling the white balance.
[0033]
The color temperature change characteristics Tx and Tx ′ described above differ depending on the color temperatures Ty and Ty ′ of the external light even if the color temperature Ts of the strobe device 21 is previously measured and obtained. The color temperatures Ty and Ty ′ of the external light at the time of shooting are obtained by white balance control, and the values of the parameters A, B, and C are preset values, so that the color temperature that connects Ts and Ty or Ty ′ The characteristic Tx or Tx ′ can be obtained by linear approximation.
[0034]
For example, by dividing the ranges X2 and X3 defined by the parameters A and C into N steps at equal intervals and dividing the difference between Ts and Ty by N, the change in color temperature per step can be obtained. Then, the difference between the brightness information at the time of shooting and the parameter A (number of steps) is obtained, the number of steps is multiplied by the change in color temperature per step, and the multiplication result is subtracted from Ts, thereby obtaining the brightness at the time of shooting. The color temperature corresponding to the information is obtained. The color temperature Tz corresponding to the parameter B is similarly calculated. In this case, the difference (number of steps) between the brightness information at the time of shooting and the parameter C may be obtained, the number of steps multiplied by the change in color temperature per step, and the multiplication result may be added to Ty.
[0035]
As shown in FIG. 4, the color temperature at the time of using the strobe is determined in consideration of the influence of external light, and the white balance is controlled in accordance with the determined color temperature. Compared with the white balance control fixed to 1, the white balance can be controlled corresponding to the color temperature close to the actual. Therefore, the white balance of the captured image can be made good. Further, since the white balance can be controlled in accordance with the operation mode (forced light emission mode / automatic light emission mode) of the flash device 21, better white balance control can be performed.
[0036]
FIG. 5 shows a processing procedure of the CPU 12 when performing the above-described white balance control. First, in step S1, it is determined whether or not the operation mode of the flash device 21 is the light emission inhibition mode. If it is in the light emission inhibition mode, the process proceeds to step S6, where the current white balance control signal is processed and the process ends. If it is determined in step S1 that the mode is not the light emission inhibition mode, it is determined in step S2 whether the brightness information is brighter than the parameter A, that is, whether it is the range X1 in FIG.
[0037]
When the brightness information is determined to be smaller than the parameter A (range X1), the strobe light color temperature Ts information stored in the nonvolatile memory 22 is read, and a white balance control signal that matches the color temperature Ts is output. . If the brightness information is determined to be brighter than the parameter A, it is determined whether or not the operation mode of the flash device 21 is set to the automatic light emission mode (step S3).
[0038]
If it is determined in step S3 that the automatic light emission mode is set, it is determined in step S4 whether or not the brightness information is greater than or equal to parameter C, that is, whether or not the range is X4 in FIG. When the brightness information is determined to be equal to or greater than parameter C (range X4), the current white balance control signal is output in step S7, and the process ends. If it is determined in step S4 that the brightness information is not equal to or greater than the parameter C (range X2 or X3), in step S10, the color temperature along the color temperature change characteristic Tx or Tx ′ is determined by the linear approximation described above. A white balance control signal corresponding to the calculated color temperature is output.
[0039]
On the other hand, if it is determined in step S3 that the forced light emission mode is set, it is determined in step S5 whether or not the brightness information is greater than or equal to parameter B (range X3). If so, the brightness information is fixed at parameter B in step S8. In step S10, the color temperature Tz is calculated by the above-described linear approximation, and a white balance control signal corresponding to the color temperature Tz is calculated and output.
[0040]
Note that although one embodiment in which the present invention is applied to a digital camera has been described, the present invention can also be applied to other imaging devices, for example, an imaging device capable of taking a still image, such as a camera-integrated VTR. . Furthermore, the present invention can also be applied to an image pickup apparatus using a solid-state image pickup device other than a CCD, for example, a MOS sensor.
[0041]
【The invention's effect】
According to the present invention, white balance control when using a strobe can be performed in accordance with a color temperature that takes into account the influence of external light. Therefore, white balance can be controlled in accordance with actual shooting conditions. Also, according to the present invention, since the method of white balance control is switched according to the operation mode (forced light emission mode / automatic light emission mode) of the strobe device, even better white balance control can be achieved.
[Brief description of the drawings]
FIG. 1 is a block diagram showing an overall configuration of an embodiment in which the present invention is applied to a digital camera.
FIG. 2 is a block diagram showing a partial configuration of a camera signal processing unit according to an embodiment of the present invention.
FIG. 3 is a schematic diagram for explaining an example of white balance control;
FIG. 4 is a schematic diagram for explaining white balance control when using a strobe in one embodiment of the present invention;
FIG. 5 is a flowchart used for explaining white balance control when using a strobe in one embodiment of the present invention;
[Explanation of symbols]
2 ... CCD, 3 ... sample hold, AGC and A / D converter, 4 ... camera signal processor, 9 ... DRAM, 11 ... external storage medium, 12 ... CPU, DESCRIPTION OF SYMBOLS 13 ... Operation input part, 21 ... Strobe device, 22 ... Nonvolatile memory, 45 ... White balance circuit

Claims (3)

信号処理によって供給された撮影画像信号のホワイトバランスを制御するホワイトバランス手段と、
ストロボ装置の動作モードとして、上記ストロボ装置を常に発光する強制発光モードと、外光が暗い場合にのみ上記指示と同期して上記ストロボ装置を発光する自動発光モードとを選択する選択手段と、
を備え、
上記ホワイトバランス手段では、
上記強制発光モードにおいて、
被写体の明るさを、第1のパラメータおよび/または上記第1のパラメータより明るい第2のパラメータと比較し、上記被写体の明るさが上記第1のパラメータより暗い範囲では、上記ストロボ装置の色温度に対応するように上記ホワイトバランスを制御し、
上記被写体の明るさが上記第1のパラメータ以上明るく且つ上記第2のパラメータより暗い範囲では、上記ストロボ装置の色温度から外光の色温度まで変化する色温度変化に沿って上記ホワイトバランスを制御し、
上記被写体の明るさが上記第2のパラメータ以上明るい範囲では、上記ストロボ装置の色温度と上記外光の色温度との間の所定の色温度に応じ上記ホワイトバランスを制御し、
上記自動発光モードにおいて、
上記被写体の明るさを、上記第1のパラメータおよび/または上記第2のパラメータより明るい第3のパラメータと比較し、上記被写体の明るさが上記第1のパラメータより暗い範囲では、上記ストロボ装置の色温度に対応するように上記ホワイトバランスを制御し、
上記被写体の明るさが上記第1のパラメータ以上明るく且つ上記第3のパラメータより暗い範囲では、上記ストロボ装置の色温度から外光の色温度まで変化する色温度変化に沿って上記ホワイトバランスを制御し、
上記被写体の明るさが上記第3のパラメータ以上明るい範囲では、ほぼ上記外光の色温度に応じ上記ホワイトバランスを制御する
撮像装置。
The signal processing, and white balance means for controlling the white balance of the supplied captured image signal,
Selection means for selecting a forced flash mode in which the flash device always emits light as an operation mode of the flash device and an automatic flash mode in which the flash device is flashed in synchronization with the instruction only when the outside light is dark,
With
In the above white balance means,
In the forced flash mode,
The brightness of the subject is compared with the first parameter and / or the second parameter brighter than the first parameter. When the subject brightness is darker than the first parameter, the color temperature of the strobe device The white balance is controlled to correspond to
In the range where the brightness of the subject is brighter than the first parameter and darker than the second parameter, the white balance is controlled according to the color temperature change that changes from the color temperature of the strobe device to the color temperature of the external light. And
In a range where the brightness of the subject is brighter than the second parameter, the white balance is controlled according to a predetermined color temperature between the color temperature of the strobe device and the color temperature of the external light,
In the automatic flash mode,
The brightness of the subject is compared with a third parameter that is brighter than the first parameter and / or the second parameter. When the brightness of the subject is darker than the first parameter, the brightness of the strobe device is Control the white balance to correspond to the color temperature,
In the range where the brightness of the subject is brighter than the first parameter and darker than the third parameter, the white balance is controlled along with the color temperature change that changes from the color temperature of the strobe device to the color temperature of the external light. And
In a range where the brightness of the subject is brighter than the third parameter, the white balance is controlled almost according to the color temperature of the outside light.
Imaging device.
上記ストロボ装置の色温度が予め測定され、測定された色温度情報が不揮発性メモリに格納されている請求項1記載の撮像装置。The imaging apparatus according to claim 1 , wherein the color temperature of the strobe device is measured in advance, and the measured color temperature information is stored in a nonvolatile memory. 上記ストロボ装置の色温度から外光の色温度まで変化する色温度変化上の色温度が上記ストロボ装置の色温度と外光の色温度と上記第1、第2、および第3のパラメータとを使用して、直線近似により計算される請求項1記載の撮像装置。The color temperature on the color temperature change that changes from the color temperature of the strobe device to the color temperature of the external light is the color temperature of the strobe device, the color temperature of the external light, and the first, second, and third parameters. The imaging device according to claim 1, wherein the imaging device is calculated by linear approximation.
JP28516098A 1998-10-07 1998-10-07 Imaging apparatus and imaging method Expired - Fee Related JP4228432B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP28516098A JP4228432B2 (en) 1998-10-07 1998-10-07 Imaging apparatus and imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP28516098A JP4228432B2 (en) 1998-10-07 1998-10-07 Imaging apparatus and imaging method

Publications (2)

Publication Number Publication Date
JP2000111983A JP2000111983A (en) 2000-04-21
JP4228432B2 true JP4228432B2 (en) 2009-02-25

Family

ID=17687873

Family Applications (1)

Application Number Title Priority Date Filing Date
JP28516098A Expired - Fee Related JP4228432B2 (en) 1998-10-07 1998-10-07 Imaging apparatus and imaging method

Country Status (1)

Country Link
JP (1) JP4228432B2 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100362395B1 (en) 2001-03-10 2002-11-23 삼성전자 주식회사 Apparatus and method for caculating color temperature
JP4207148B2 (en) 2003-01-21 2009-01-14 富士フイルム株式会社 Digital camera
JP4324404B2 (en) 2003-04-22 2009-09-02 富士フイルム株式会社 Solid-state imaging device and digital camera
US7570881B2 (en) * 2006-02-21 2009-08-04 Nokia Corporation Color balanced camera with a flash light unit
JP2007243786A (en) * 2006-03-10 2007-09-20 Fujifilm Corp Imaging device
JP5228717B2 (en) * 2008-09-08 2013-07-03 コニカミノルタアドバンストレイヤー株式会社 Image input device
JP5304295B2 (en) * 2009-02-10 2013-10-02 株式会社ニコン Imaging device and white balance bracketing shooting program
CN112882318B (en) * 2021-02-10 2025-10-03 深圳市影友摄影器材有限公司 Flashlight color temperature control circuit and control method, and flashlight device

Also Published As

Publication number Publication date
JP2000111983A (en) 2000-04-21

Similar Documents

Publication Publication Date Title
JP5347707B2 (en) Imaging apparatus and imaging method
JP5123137B2 (en) Imaging apparatus and imaging method
JP4136464B2 (en) Imaging apparatus and imaging method
JP4615458B2 (en) Exposure control method and imaging apparatus
US8593566B2 (en) Method and apparatus for controlling light emission of flash and digital photographing apparatus using the method and apparatus
JP4228432B2 (en) Imaging apparatus and imaging method
JP4126784B2 (en) Image capture device
JP5277863B2 (en) Imaging apparatus and imaging method
JP4158029B2 (en) White balance adjustment method and electronic camera
KR20090095920A (en) Apparatus for Photographing Digital Images, Method of Controlling Exposure, Method of Photographing Digital Images, and Computer Readable Recording Medium Storing Program for the Same Method of Photographing
JP2002135651A (en) Image processing apparatus and image processing method
JP2004023343A (en) Imaging apparatus, white balance control method, and white balance control program
JP5091781B2 (en) Imaging apparatus and imaging method
JPH08256288A (en) Imaging device
US20060055991A1 (en) Image capture apparatus and image capture method
JP2817820B2 (en) Exposure control device for video camera
JP2006243372A (en) Camera
JP3571813B2 (en) Imaging device
JP2000115628A (en) Imaging device and imaging method
US7973829B2 (en) Image sensing apparatus, image sensing method, recording medium, and program for controlling exposure by correcting a brightness value when an optical filter is manually inserted
JP4526746B2 (en) Color imaging device
KR100842085B1 (en) Photographic apparatus capable of initial control of automatic exposure and its control method
JPH11215432A (en) Digital camera
JP2009225252A (en) Imaging apparatus and imaging method
JPH10271398A (en) Dark current controller for solid-state image-pickup device and still video camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050606

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070814

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071001

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080304

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081111

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081124

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111212

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121212

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees