Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4097332B2 - Pixel defect correction apparatus and pixel defect correction method for CCD image sensor - Google Patents
[go: Go Back, main page]

JP4097332B2 - Pixel defect correction apparatus and pixel defect correction method for CCD image sensor - Google Patents

Pixel defect correction apparatus and pixel defect correction method for CCD image sensor Download PDF

Info

Publication number
JP4097332B2
JP4097332B2 JP26415198A JP26415198A JP4097332B2 JP 4097332 B2 JP4097332 B2 JP 4097332B2 JP 26415198 A JP26415198 A JP 26415198A JP 26415198 A JP26415198 A JP 26415198A JP 4097332 B2 JP4097332 B2 JP 4097332B2
Authority
JP
Japan
Prior art keywords
defect
defect correction
correction
temperature
ccd image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP26415198A
Other languages
Japanese (ja)
Other versions
JP2000101925A (en
Inventor
和行 益金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP26415198A priority Critical patent/JP4097332B2/en
Publication of JP2000101925A publication Critical patent/JP2000101925A/en
Application granted granted Critical
Publication of JP4097332B2 publication Critical patent/JP4097332B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、CCD撮像素子の画素欠陥を補正する画素欠陥補正装置及び画素欠陥補正方法に関するものである。
【0002】
【従来の技術】
従来、CCD撮像素子の性能向上を阻む要因として、黒キズ、明時白キズ、温度白キズと呼ばれる各種の画素欠陥が知られている。
【0003】
黒キズと呼ばれる画素欠陥は、画素の光入射面に付着する塵などに起因して、その画素への入射光が遮られることにより生じる。明時白キズと呼ばれる画素欠陥は、画素の光入射面に形成されるカラーマイクロフィルタやマイクロレンズの欠損などに起因して、部分的に本来の光学特性が得られなくなることにより生じる。温度白キズと呼ばれる画素欠陥は、半導体ウェーハの結晶欠陥などに起因して生じるものである。
【0004】
これらの画素欠陥のうち、黒キズと明時白キズはCCD撮像素子の動作環境とは関係なく生じる静的な欠陥要因であり、製造プロセスにおけるVLSI技術の進展に歩調をあわせる形でその改善が講じられている。
【0005】
【発明が解決しようとする課題】
しかし、温度白キズは、黒キズや明時白キズとは異なり、CCD撮像素子の温度が上昇するほど、また露光時間が長くなるほど影響が大きくなるという動的な欠陥要因であり、また、その発生も不均一である。
【0006】
例えば、温度白キズによる問題点として、夜間などの低照度環境下で撮影するためにCCD撮像素子の露光時間を長くすると、温度白キズに該当する欠陥画素にノイズ成分が発生し、このノイズ成分によって再生画像中に輝点が発生する結果、画像劣化を招来するという問題がある。また、環境温度が高くなるほど上記のノイズ成分が増大して画像劣化を招来する。
【0007】
このような温度白キズの発生を抑制するCCD撮像素子として、温度依存性の強い暗電流の発生を抑制するための冷却装置を備えた冷却CCD撮像素子が知られているが、この冷却CCD撮像素子は、高価な暗視カメラやバイオアナリシス用の超高感度カメラなどに適用される特殊なものであるため、量産化や小型化などが困難で、民生用カメラなどに適用できないという問題がある。
【0008】
本発明はこのような課題に鑑みてなされたものであり、冷却装置のような特殊な付帯装置を設けることなく、温度白キズを補正することができる画素欠陥補正装置及び画素欠陥補正方法を提供することを目的とする。
【0009】
【課題を解決するための手段】
このような目的を達成するため本発明は、CCD撮像素子の温度白キズを補正するCCD撮像素子の画素欠陥補正装置において、通常の環境温度且つ通常のシャッター速度の第1の欠陥補正条件で撮影が行われると温度白キズを生じさせる欠陥画素を特定する第1の補正情報と、高い環境温度又は低シャッター速度の第2の欠陥補正条件で撮影が行われると温度白キズを生じさせる欠陥画素を特定する前記第1の補正情報とは重複しない第2の補正情報とを予め記憶する記憶手段と、撮影時に前記CCD撮像素子から読み出される画素信号中の温度白キズに該当する欠陥画素信号を、前記撮影時の実際の環境温度とシャッター速度が前記第1の欠陥補正条件である場合には前記記憶手段中の前記第1の補正情報のみに基づいて特定し、前記撮影時の実際の環境温度とシャッター速度が前記第2の欠陥補正条件である場合には前記記憶手段中の前記第1の補正情報および前記第2の補正情報に基づいて特定し、前記特定された欠陥画素信号について欠陥補正を行う欠陥補正手段とを備える構成とした。
【0010】
また、CCD撮像素子の温度白キズを補正するCCD撮像素子の画素欠陥補正方法において、通常の環境温度且つ通常のシャッター速度の第1の欠陥補正条件で撮影が行われると温度白キズを生じさせる欠陥画素を特定する第1の補正情報と、高い環境温度又は低シャッター速度の第2の欠陥補正条件で撮影が行われると温度白キズを生じさせる欠陥画素を特定する前記第1の補正情報とは重複しない第2の補正情報とを予め求め、撮影時に前記CCD撮像素子から読み出される画素信号中の温度白キズに該当する欠陥画素信号を、前記撮影時の実際の環境温度とシャッター速度が前記第1の欠陥補正条件である場合には前記第1の補正情報のみに基づいて特定し、前記撮影時の実際の環境温度とシャッター速度が前記第2の欠陥補正条件である場合には前記第1の補正情報および前記第2の補正情報に基づいて特定し、前記特定された欠陥画素信号について欠陥補正を行うこととした。
【0011】
これらのCCD撮像素子の画素欠陥補正装置及び画素欠陥補正方法によると、いわゆる通常の温度環境の下で且つ一般的に設定されるシャッター速度の下での第1の欠陥補正条件で通常撮影が行われる場合には温度白キズがあまり顕著に現れず、高温環境下又は低シャッター速度の下での第2の欠陥補正条件で撮影が行われる場合に温度白キズが顕著に現れるという、温度白キズの動的な発生特性に応じて、温度白キズの欠陥補正が行われる。
【0012】
これにより、温度白キズがあまり顕著に現れない第1の欠陥補正条件での撮影時では、不要な(過度な)欠陥補正が行われないため、画質劣化が防止され、温度白キズが顕著に現れる高温環境又は低シャッター速度の下での第2の欠陥補正条件で撮影が行われるときには、温度白キズが確実に補正される。
【0013】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。図1は、デジタルカメラに適用した場合の構成を示すブロック図である。
【0014】
同図において、撮像レンズ系1とメカニカルシャッター2の後方にCCD撮像素子3が配設されている。更に、CCD撮像素子3の出力端子に、前置増幅回路とA/D変換器を備えた前置回路4が接続され、前置回路4の出力端子に欠陥補正回路5が接続されている。そして、これらのメカニカルシャッター2とCCD撮像素子3と前置回路4及び欠陥補正回路5は、マイクロプロセッサを有する中央制御回路6の指示に従ってタイミング発生回路7から出力されるタイミング制御信号C1〜C4に同期して動作する。
【0015】
タイミング制御信号C1は、メカニカルシャッター2のシャッタータイミングとシャッター速度Sを設定する。タイミング制御信号C2は、CCD撮像素子3の撮像動作を制御することにより、CCD撮像素子3に形成されている多数の画素に生じる各信号電荷を、画素の配列に対応した画素信号Pixに変換させて点順次に読み出させる。
【0016】
タイミング制御信号C3は、前置回路4に対し点順次読み出しに同期した処理を行わせ、CCD撮像素子3から読み出される各画素信号Pixを、信号処理可能なレベルに増幅させると共にデジタル画素データDixに変換させる。
【0017】
タイミング制御信号C4は、欠陥補正回路5に対し、上記の点順次読み出しタイミングに同期して画素欠陥補正処理を行わせる。すなわち、欠陥補正回路5は、前置回路4から転送されてくるデジタル画素データDixのうち、後述するルックアップテーブルLUTに記憶されている欠陥画素の情報に該当するデジタル画素データDix’について画素欠陥補正を施すようになっている。
【0018】
中央制御回路6には、欠陥画素の情報が予め記憶されている読み出し専用メモリ(ROM)から成るルックアップテーブルLUTが備えられ、更に、欠陥補正回路5を介して出力されるデジタル画素データを記憶するためのフレームメモリ8と、露出検出用のAEセンサ9、温度センサ10、ストロボユニット11が接続されている。
【0019】
図2は、ルックアップテーブルLUTのメモリマップを示している。同図において、ルックアップテーブルLUTには、4種類の位置データを格納する第1〜第4の補正情報記憶領域(A)〜(D)が設けられている。
【0020】
第1の補正情報記憶領域(A)には、黒キズを生じさせる各欠陥画素の位置を示す位置データ(Xa1,Ya1),(Xa2,Ya2)…が記憶されている。すなわち、画素の光入射面に付着するゴミなどに起因して、その画素への入射光が遮られることにより生じる画素欠陥(黒キズ)を補正するための補正情報が、欠陥画素の位置データとして記憶されている。
【0021】
第2の補正情報記憶領域(B)には、明時白キズを生じさせる各欠陥画素の位置を示す位置データ(Xb1,Yb1),(Xb2,Yb2)…が記憶されている。すなわち、画素の光入射面に形成されるカラーマイクロフィルタやマイクロレンズの欠損などに起因して、部分的に本来の光学特性が得られなくなることにより生じる画素欠陥(明時白キズ)を補正するための補正情報が、欠陥画素の位置データとして記憶されている。
【0022】
第3の補正情報記憶領域(C)と第4の補正情報記憶領域(D)には、半導体ウェーハの結晶欠陥などに起因して生じる画素欠陥(温度白キズ)を補正するための補正情報が、温度白キズを生じさせる各欠陥画素の位置を示す位置データ(Xc1,Yc1),(Xc2,Yc2)…と位置データ(Xd1,Yd1),(Xd2,Yd2)…としてそれぞれ記憶されている。
【0023】
すなわち、第3の補正情報記憶領域(C)には、撮影時におけるメカニカルシャッター2のシャッター速度Sが予め決められた境界シャッター速度Sthより高速(S≦Sth)、且つ環境温度Tが予め決められた境界温度Tthより低温(T≦Tth)のときに温度白キズを生じさせる欠陥画素の位置を示す位置データ(Xc1,Yc1),(Xc2,Yc2)…が記憶されている。
【0024】
尚、シャッター速度Sと境界シャッター速度Sthは、シャッターの露出時間をいう。よって、S≦Sthとは、シャッターの露出時間Sが、予め決められた境界露出時間Sthより短い(但し、S=Sthを含む)ことを意味する。
【0025】
一方、第4の補正データ記憶領域(D)には、撮影時におけるメカニカルシャッター2のシャッター速度Sが境界シャッター速度Sthより低速(S>Sth)、または、環境温度Tが境界温度Tthより高温(Tth<T)のときに温度白キズを生じさせる欠陥画素の位置を示す位置データ(Xd1,Yd1),(Xd2,Yd2)…が記憶されている。尚、上記同様に、S>Sthとは、シャッターの露出時間Sが、予め決められた境界露出時間Sthより長い(但し、S=Sthを除く)ことを意味する。
【0026】
但し、第3の補正情報記憶領域(C)の位置データ(Xc1,Yc1),(Xc2,Yc2)…と第4の補正情報記憶領域(D)の位置データ(Xd1,Yd1),(Xd2,Yd2)…は、互いに重複しない欠陥画素を示している。
【0027】
すなわち、温度白キズを生じさせる欠陥画素には、シャッター速度Sが長くなるほどノイズ成分が増加し、時間温度が8℃上昇する毎にノイズ成分が約2倍ずつ増加するという特性がある。このため、S≦Sth且つT≦Tthのときに温度白キズを生じさせる欠陥画素は、S>SthまたはTth<Tのときにも欠陥画素となって発生する。また、S≦Sth且つT≦Tthのときには温度白キズを生じさせない画素が、S>SthまたはTth<Tのときに初めて欠陥画素となって温度白キズを生じさせるものがある。
【0028】
そこで、S>SthまたはTth<Tのときに初めて顕著な欠陥画素となる位置データ(Xd1,Yd1),(Xd2,Yd2)…のみを第4の補正情報記憶領域(D)に記憶させることで、第3の補正情報記憶領域(C)中の位置データ(Xc1,Yc1),(Xc2,Yc2)…に該当する欠陥画素と、第4の補正情報記憶領域(D)中の(Xd1,Yd1),(Xd2,Yd2)…に該当する欠陥画素とが重複しないようになっている。
【0029】
そして、環境温度Tとシャッター速度Sを様々に変化させたときに温度白キズを生じさせる欠陥画素の発生頻度を実測し、この実測結果に、本デジタルカメラが使用されるときの通常の環境温度の上限温度や、温度が8℃上昇する毎に温度白キズにより生じるノイズ成分の発生量が約2倍ずつ増加するという温度白キズ特有の特性などを加味して、境界シャッター速度Sthと境界温度Tthが決められている。例えば、境界シャッター速度Sthは1/15秒、境界温度Tthは50℃に設定されている。
【0030】
次に、かかる構成を有する本デジタルカメラの画素欠陥補正動作について説明する。まず、中央制御回路6が、温度センサ10の計測出力に基づいて撮影時の環境温度Tを判定し、更に、自動露出モードでは、AEセンサ9の計測出力とストロボ撮影の有無とに基づいて自動的にシャッター速度Sを決定し、手動露出モードでは、操作者の指定するシャッター速度Sを設定する。
【0031】
更に、中央制御回路6は、環境温度Tと境界温度Tth、シャッター速度Sと境界シャッター速度Sthをそれぞれ比較し、欠陥補正すべき条件が、S≦Sth且つT≦Tthに該当するか、S>SthまたはTth<Tに該当するか判定する。
【0032】
図3に示すように、S≦Sth且つT≦Tthに該当する場合(以下、第1の欠陥補正条件という)には、第1〜第3の補正情報記憶領域(A)〜(C)に記憶されている上記の位置データに基づいて欠陥補正し、S>SthまたはTth<Tに該当する場合(以下、第2の欠陥補正条件という)には、第1〜第4の補正情報記憶領域(A)〜(D)に記憶されている上記の位置データに基づいて欠陥補正するように初期設定が行われる。
【0033】
そして、操作者によるシャッターレリーズ釦の押下に同期して、タイミング発生回路7から各タイミング制御信号C1〜C4が出力され、上記のシャッター速度Sの下で撮影が行われる。更に、CCD撮像素子3の各画素に発生する画素信号Pixが前置回路4でデジタル画素データDixに変換され、欠陥補正回路5を介してフレームメモリ8に転送される。
【0034】
ここで、欠陥補正回路5は、第1の欠陥補正条件が初期設定されていると、欠陥画素から読み出されるデジタル画素データDix’を第1〜第3の補正情報記憶領域(A)〜(C)に記憶されている位置データに基づいて識別する。
【0035】
そして、正常なデジタル画素データDixについては、そのままフレームメモリ8に格納させ、画素欠陥に該当するデジタル画素データDix’については、その前後に読み出される正常なデジタル画素データDixの単純平均値をデジタル画素データDix’に置き換えたり、デジタル画素データDix’に所定の加重係数を乗算するなどの欠陥補正を行った後、フレームメモリ8に格納させる。
【0036】
一方、第2の欠陥補正条件が初期設定されていると、欠陥補正回路5は、欠陥画素から読み出されたデジタル画素データDix’を第1〜第4の補正情報記憶領域(A)〜(D)に記憶されている位置データに基づいて識別し、上記第1の欠陥補正条件の場合と同様の欠陥補正を行う。すなわち、第2の欠陥補正条件が初期設定されている場合には、第1〜第3の補正情報記憶領域(A)〜(C)中の位置データに基づく欠陥補正のほか、第4の補正情報記憶領域(D)中の位置データに基づく欠陥補正が追加して行われる。
【0037】
このように、本実施の形態によれば、画素信号Pixの読み出しタイミングに同期して画素欠陥の補正が行われるので、撮影処理の遅延を防止することができる。
【0038】
更に、デジタル画素データDixに対し、環境温度Tとシャッター速度Sをパラメータとして欠陥補正を施すこととしたので、動的な欠陥要因である温度白キズを的確に補正し、画質を向上させることができる。
【0039】
特に、第1の欠陥補正条件では、第3の補正情報記憶領域(C)の補正情報に基づいて温度白キズの欠陥補正を行い、第2の欠陥補正条件では、第3,第4の補正情報記憶領域(C),(D)の補正情報に基づいて温度白キズの欠陥補正を行うようにしたので、温度白キズの発生特性に応じた欠陥補正を行うことができる。
【0040】
すなわち、温度白キズは、通常の温度環境の下で且つ一般的に設定されるシャッター速度の下での通常撮影が行われる場合にはあまり顕著に現れず、通常撮影とは異なる高温環境下又は低シャッター速度の下で撮影が行われる場合に顕著になるという特性を有している。そして、温度白キズの欠陥補正条件を、境界温度Tthと境界シャッター速度Sthを基準にして第1,第2の欠陥補正条件に分けたので、温度白キズの発生特性に合わせた形での欠陥補正が可能となっている。
【0041】
この結果、通常撮影時では、不要な(過度な)欠陥補正が行われないため、画質劣化を防止することができ、高温環境又は低シャッター速度の下で撮影が行われるときには、温度白キズを確実に補正することができる。
【0042】
尚、以上の説明では、境界温度Tthと境界シャッター速度Sthをそれぞれ1個ずつ設定して、温度白キズの欠陥補正を行う場合を説明したが、境界温度Tthと境界シャッター速度Sthをそれぞれ複数個ずつ設定し、それら複数個の境界温度と境界シャッター速度で分けられる複数の補正条件に基づいて欠陥補正を行ってもよい。かかる構成によれば、温度白キズの発生特性に合わせたより精密な欠陥補正を行うことができる。
【0043】
また、上記のルックアップテーブルLUTに欠陥画素の位置データを予め格納する場合を述べたが、本発明はかかる構成に限定されるものではない。例えば、CCD撮像素子3に形成されている画素の配列に対応させて、欠陥画素を示すフラグデータ“1”と正常画素を示すフラグデータ“0”とから成るビット列の補正データを半導体メモリに記憶させ、この半導体メモリのアドレスを画素信号Pixの読み出しタイミングに同期して順次にカウントアップすることにより、欠陥画素から読み出される欠陥画素信号を特定するようにしてもよい。
【0044】
また、補正情報を記憶したルックアップテーブルや上記の半導体メモリなどをカメラ内の中央制御回路に付随して設けてもよいが、CCD撮像素子毎に固有の補正情報を記憶したルックアップテーブルなどを予めCCD撮像素子に一体化させてもよい。このようにCCD撮像素子にルックアップテーブルなどを一体化させると、素子間ばらつきなどによりCCD撮像素子毎に画素欠陥の特性が異なっても、CCD撮像素子毎に確実な補正情報が得られる。このため、カメラの製造工程においてCCD撮像素子毎に欠陥画素を特定するための調整を行う必要がなくなり、製造工程の簡素化に寄与することができるなどの効果が得られる。
【0045】
【発明の効果】
以上説明したように本発明によれば、いわゆる通常の温度環境の下で且つ一般的に設定されるシャッター速度の下での第1の欠陥補正条件で通常撮影が行われる場合には温度白キズがあまり顕著に現れず、高温環境下又は低シャッター速度の下での第2の欠陥補正条件で撮影が行われる場合に温度白キズが顕著に現れるという、温度白キズの動的な発生特性に合わせて、温度白キズの欠陥補正を行うようにしたので、確実且つ適切に温度白キズの欠陥補正を行うことができる。
【0046】
更に、温度白キズがあまり顕著に現れない第1の欠陥補正条件での撮影時では、不要な(過度な)欠陥補正が行われないため、画質劣化を防止することができ、温度白キズが顕著に現れる高温環境又は低シャッター速度の下での第2の欠陥補正条件で撮影が行われるときには、温度白キズを確実に補正することができる。
【0047】
更に、従来の冷却CCD撮像素子のような特殊な装置を設けることなく、温度白キズを補正することができるので、量産化や小型化が可能であり、特に民生用の撮像機器等へ適用することができる。
【図面の簡単な説明】
【図1】本発明をデジタルカメラに適用した実施形態の構成を示すブロック図である。
【図2】補正情報を記憶したルックアップテーブルのメモリマップを示す説明図である。
【図3】画素欠陥の補正条件を示す説明図である。
【符号の説明】
2…メカニカルシャッター
3…CCD撮像素子
5…欠陥補正回路
LUT…ルックアップテーブル
[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a pixel defect correction device and a pixel defect correction method for correcting a pixel defect of a CCD image sensor.
[0002]
[Prior art]
Conventionally, various pixel defects called black scratches, bright white scratches, and thermal white scratches are known as factors that hinder the performance improvement of CCD image pickup devices.
[0003]
A pixel defect called a black flaw occurs when incident light on the pixel is blocked due to dust or the like adhering to the light incident surface of the pixel. Pixel defects called white defects at the time of light are caused by partial loss of original optical characteristics due to defects in color microfilters and microlenses formed on the light incident surface of the pixels. Pixel defects called temperature white scratches are caused by crystal defects of a semiconductor wafer.
[0004]
Among these pixel defects, black scratches and bright white scratches are static defect factors that occur regardless of the operating environment of the CCD image sensor, and improvements can be made in step with the progress of VLSI technology in the manufacturing process. Has been taken.
[0005]
[Problems to be solved by the invention]
However, temperature white scratches, unlike black scratches and bright white scratches, are dynamic defect factors that increase as the temperature of the CCD image sensor increases and the exposure time increases. Occurrence is also uneven.
[0006]
For example, as a problem due to temperature white scratches, if the exposure time of the CCD image sensor is increased in order to shoot in a low-light environment such as at night, a noise component is generated in a defective pixel corresponding to the temperature white scratch, and this noise component As a result, a bright spot is generated in the reproduced image, resulting in a problem of image deterioration. In addition, as the environmental temperature increases, the above noise components increase, leading to image degradation.
[0007]
As a CCD image pickup device that suppresses the occurrence of such white scratches, a cooled CCD image pickup device that includes a cooling device for suppressing the occurrence of dark current that is strongly temperature dependent is known. The element is a special device that is applied to expensive night vision cameras and ultra-high sensitivity cameras for bioanalysis, etc., so it is difficult to mass-produce and miniaturize it, and it cannot be applied to consumer cameras. .
[0008]
The present invention has been made in view of such problems, and provides a pixel defect correction apparatus and a pixel defect correction method capable of correcting temperature white scratches without providing a special auxiliary device such as a cooling device. The purpose is to do.
[0009]
[Means for Solving the Problems]
In order to achieve such an object, the present invention is a pixel defect correction device for a CCD image sensor that corrects temperature white defects in the CCD image sensor, and shoots under a first defect correction condition at a normal ambient temperature and a normal shutter speed. If the image is taken under the second defect correction condition with a high ambient temperature or a low shutter speed, the defective pixel that causes the temperature white defect is identified. Storage means for preliminarily storing second correction information that does not overlap with the first correction information for identifying the defective pixel signal corresponding to the temperature white defect in the pixel signal read from the CCD image sensor at the time of shooting. , wherein when the actual ambient temperature and the shutter speed during shooting is the first defect correction condition is determined based only on the first correction information in said storage means, said shooting Specified based on the actual ambient temperature and the first correction information and the second correction information in said storage means when the shutter speed is the second defect correction conditions when was the specific Defect correction means for performing defect correction on the defective pixel signal is provided.
[0010]
Further, in a pixel defect correction method for a CCD image sensor that corrects temperature white defects in the CCD image sensor, temperature white defects are generated when photographing is performed under the first defect correction condition at a normal environmental temperature and a normal shutter speed. First correction information for specifying a defective pixel, and first correction information for specifying a defective pixel that causes a temperature white defect when shooting is performed under a second defect correction condition with a high ambient temperature or a low shutter speed. Previously obtained non-overlapping second correction information, and the defective pixel signal corresponding to the temperature white defect in the pixel signal read from the CCD image pickup device at the time of shooting is determined based on the actual environmental temperature and shutter speed at the time of shooting. in the first, if a defect correction condition specified based only on the first correction information, the actual environmental temperature and shutter speed the second defect correction conditions at the time of the photographing If that was to perform the first specified based on the correction information and the second correction information, the identified defective pixel signal defect corrected for.
[0011]
According to the pixel defect correction device and the pixel defect correction method for these CCD image sensors , normal imaging is performed under a first defect correction condition under a so-called normal temperature environment and a generally set shutter speed. In such a case, the temperature white scratches do not appear so prominently, and the temperature white scratches appear prominently when shooting is performed under the second defect correction condition in a high temperature environment or under a low shutter speed. In accordance with the dynamic generation characteristics, temperature white defect defect correction is performed.
[0012]
As a result, unnecessary (excessive) defect correction is not performed at the time of shooting under the first defect correction condition in which temperature white scratches do not appear so conspicuously, so image quality deterioration is prevented and temperature white scratches are noticeable. When shooting is performed under the second defect correction condition under the appearing high temperature environment or low shutter speed, the temperature white defect is reliably corrected.
[0013]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, embodiments of the present invention will be described with reference to the drawings. FIG. 1 is a block diagram showing a configuration when applied to a digital camera.
[0014]
In the figure, a CCD imaging device 3 is disposed behind an imaging lens system 1 and a mechanical shutter 2. Furthermore, a pre-amplifier 4 and a pre-circuit 4 having an A / D converter are connected to the output terminal of the CCD image pickup device 3, and a defect correction circuit 5 is connected to the output terminal of the pre-circuit 4. The mechanical shutter 2, the CCD image pickup device 3, the pre-circuit 4 and the defect correction circuit 5 are supplied to timing control signals C1 to C4 output from the timing generation circuit 7 in accordance with instructions from the central control circuit 6 having a microprocessor. Operates synchronously.
[0015]
The timing control signal C1 sets the shutter timing and shutter speed S of the mechanical shutter 2. The timing control signal C2 controls the image pickup operation of the CCD image pickup device 3 to convert each signal charge generated in a large number of pixels formed in the CCD image pickup device 3 into a pixel signal Pix corresponding to the pixel arrangement. To read out dot-sequentially.
[0016]
The timing control signal C3 causes the pre-circuit 4 to perform processing synchronized with point-sequential readout, amplifies each pixel signal Pix read from the CCD image pickup device 3 to a level at which signal processing is possible, and converts it into digital pixel data Dix. Convert it.
[0017]
The timing control signal C4 causes the defect correction circuit 5 to perform pixel defect correction processing in synchronization with the dot sequential readout timing. That is, the defect correction circuit 5 performs pixel defect on the digital pixel data Dix ′ corresponding to information on defective pixels stored in a lookup table LUT to be described later, among the digital pixel data Dix transferred from the front circuit 4. Correction is applied.
[0018]
The central control circuit 6 includes a look-up table LUT composed of a read-only memory (ROM) in which information on defective pixels is stored in advance, and further stores digital pixel data output via the defect correction circuit 5. A frame memory 8 for detecting the exposure, an AE sensor 9 for detecting exposure, a temperature sensor 10 and a strobe unit 11 are connected.
[0019]
FIG. 2 shows a memory map of the lookup table LUT. In the figure, the lookup table LUT is provided with first to fourth correction information storage areas (A) to (D) for storing four types of position data.
[0020]
In the first correction information storage area (A), position data (Xa1, Ya1), (Xa2, Ya2)... Indicating the position of each defective pixel causing black flaws is stored. That is, correction information for correcting pixel defects (black flaws) caused by blocking incident light on the pixel due to dust or the like adhering to the light incident surface of the pixel is the position data of the defective pixel. It is remembered.
[0021]
In the second correction information storage area (B), position data (Xb1, Yb1), (Xb2, Yb2)... Indicating the position of each defective pixel that causes white defects at the time of light is stored. That is, a pixel defect (white defect at light) caused by partial loss of original optical characteristics due to a defect of a color microfilter or microlens formed on the light incident surface of the pixel is corrected. Correction information is stored as defective pixel position data.
[0022]
In the third correction information storage area (C) and the fourth correction information storage area (D), there is correction information for correcting pixel defects (temperature flaws) caused by crystal defects of the semiconductor wafer. Are stored as position data (Xc1, Yc1), (Xc2, Yc2)... And position data (Xd1, Yd1), (Xd2, Yd2).
[0023]
That is, in the third correction information storage area (C), the shutter speed S of the mechanical shutter 2 at the time of shooting is higher than the predetermined boundary shutter speed Sth (S ≦ Sth), and the environmental temperature T is predetermined. Further, position data (Xc1, Yc1), (Xc2, Yc2)... Indicating the position of the defective pixel causing the temperature flaw when the temperature is lower than the boundary temperature Tth (T ≦ Tth) is stored.
[0024]
The shutter speed S and the boundary shutter speed Sth refer to the shutter exposure time. Therefore, S ≦ Sth means that the exposure time S of the shutter is shorter than the predetermined boundary exposure time Sth (including S = Sth).
[0025]
On the other hand, in the fourth correction data storage area (D), the shutter speed S of the mechanical shutter 2 at the time of shooting is lower than the boundary shutter speed Sth (S> Sth), or the environmental temperature T is higher than the boundary temperature Tth ( Position data (Xd1, Yd1), (Xd2, Yd2)... Indicating the position of a defective pixel that causes a temperature white defect when Tth <T) is stored. Similarly to the above, S> Sth means that the exposure time S of the shutter is longer than the predetermined boundary exposure time Sth (except S = Sth).
[0026]
However, the position data (Xc1, Yc1), (Xc2, Yc2)... In the third correction information storage area (C) and the position data (Xd1, Yd1), (Xd2,. Yd2)... Indicates defective pixels that do not overlap each other.
[0027]
That is, a defective pixel that causes a white spot in the temperature has a characteristic that the noise component increases as the shutter speed S increases, and the noise component increases approximately twice each time the time temperature increases by 8 ° C. For this reason, a defective pixel that causes a white temperature defect when S ≦ Sth and T ≦ Tth occurs as a defective pixel when S> Sth or Tth <T. In addition, when S ≦ Sth and T ≦ Tth, a pixel that does not generate a temperature white defect becomes a defective pixel only when S> Sth or Tth <T, and causes a temperature white defect.
[0028]
Therefore, only the position data (Xd1, Yd1), (Xd2, Yd2)... Which become the first significant defective pixels when S> Sth or Tth <T is stored in the fourth correction information storage area (D). , Defective pixels corresponding to the position data (Xc1, Yc1), (Xc2, Yc2)... In the third correction information storage area (C), and (Xd1, Yd1 in the fourth correction information storage area (D). ), (Xd2, Yd2)... Are not overlapped with defective pixels.
[0029]
Then, when the environmental temperature T and the shutter speed S are changed variously, the frequency of occurrence of defective pixels causing white flaws is actually measured, and the normal environmental temperature when the digital camera is used is obtained as a result of the actual measurement. Boundary shutter speed Sth and boundary temperature, taking into account the characteristic of temperature white scratches, such as the upper limit temperature of the temperature and the amount of noise components generated by temperature white scratches increasing by about twice each time the temperature rises by 8 ° C Tth is decided. For example, the boundary shutter speed Sth is set to 1/15 seconds, and the boundary temperature Tth is set to 50 ° C.
[0030]
Next, the pixel defect correction operation of the digital camera having such a configuration will be described. First, the central control circuit 6 determines the environmental temperature T at the time of shooting based on the measurement output of the temperature sensor 10, and further, in the automatic exposure mode, automatically based on the measurement output of the AE sensor 9 and the presence or absence of flash photography. In the manual exposure mode, the shutter speed S designated by the operator is set.
[0031]
Further, the central control circuit 6 compares the environmental temperature T and the boundary temperature Tth, the shutter speed S and the boundary shutter speed Sth, respectively, and whether the condition for defect correction corresponds to S ≦ Sth and T ≦ Tth, or S> It is determined whether Sth or Tth <T is satisfied.
[0032]
As shown in FIG. 3, when S ≦ Sth and T ≦ Tth (hereinafter referred to as the first defect correction condition), the first to third correction information storage areas (A) to (C) are stored. When the defect is corrected based on the stored position data and S> Sth or Tth <T (hereinafter referred to as the second defect correction condition), the first to fourth correction information storage areas are used. Initial setting is performed so that defect correction is performed based on the position data stored in (A) to (D).
[0033]
Then, in synchronization with the pressing of the shutter release button by the operator, timing control signals C1 to C4 are output from the timing generation circuit 7, and shooting is performed under the shutter speed S described above. Further, the pixel signal Pix generated in each pixel of the CCD image pickup device 3 is converted into digital pixel data Dix by the pre-circuit 4 and transferred to the frame memory 8 via the defect correction circuit 5.
[0034]
Here, when the first defect correction condition is initially set, the defect correction circuit 5 converts the digital pixel data Dix ′ read from the defective pixel into the first to third correction information storage areas (A) to (C). ) Is identified based on the position data stored in (1).
[0035]
The normal digital pixel data Dix is stored in the frame memory 8 as it is, and for the digital pixel data Dix ′ corresponding to the pixel defect, the simple average value of the normal digital pixel data Dix read before and after the digital pixel data Dix ′ After performing defect correction such as replacement with the data Dix ′ or multiplying the digital pixel data Dix ′ by a predetermined weighting coefficient, the data is stored in the frame memory 8.
[0036]
On the other hand, when the second defect correction condition is initialized, the defect correction circuit 5 converts the digital pixel data Dix ′ read from the defective pixel into the first to fourth correction information storage areas (A) to ( Identification is performed based on the position data stored in (D), and defect correction similar to that in the case of the first defect correction condition is performed. That is, when the second defect correction condition is initially set, the fourth correction is performed in addition to the defect correction based on the position data in the first to third correction information storage areas (A) to (C). Defect correction based on position data in the information storage area (D) is additionally performed.
[0037]
As described above, according to the present embodiment, the pixel defect is corrected in synchronization with the readout timing of the pixel signal Pix, so that a delay in the photographing process can be prevented.
[0038]
Further, since the defect correction is performed on the digital pixel data Dix using the environmental temperature T and the shutter speed S as parameters, it is possible to accurately correct the temperature white defect, which is a dynamic defect factor, and to improve the image quality. it can.
[0039]
In particular, under the first defect correction condition, temperature white defect defect correction is performed based on the correction information in the third correction information storage area (C), and under the second defect correction condition, the third and fourth corrections are performed. Since the defect correction of the temperature white defect is performed based on the correction information of the information storage areas (C) and (D), the defect correction according to the generation characteristic of the temperature white defect can be performed.
[0040]
That is, temperature white scratches do not appear so prominently when normal shooting is performed under a normal temperature environment and under a generally set shutter speed, or under a high temperature environment different from normal shooting or It has a characteristic that it becomes prominent when shooting is performed under a low shutter speed. The defect correction conditions for temperature white scratches are divided into first and second defect correction conditions based on the boundary temperature Tth and the boundary shutter speed Sth. Correction is possible.
[0041]
As a result, since unnecessary (excessive) defect correction is not performed during normal shooting, image quality degradation can be prevented, and when white images are shot under a high temperature environment or a low shutter speed, temperature white scratches can be prevented. It can be corrected reliably.
[0042]
In the above description, the case where the boundary temperature Tth and the boundary shutter speed Sth are set one by one to correct the defect of the temperature white defect has been described. However, the boundary temperature Tth and the boundary shutter speed Sth are each plural. It is also possible to perform defect correction based on a plurality of correction conditions that are set one by one and divided by the plurality of boundary temperatures and boundary shutter speeds. According to such a configuration, it is possible to perform more precise defect correction that matches the generation characteristics of temperature white scratches.
[0043]
Moreover, although the case where the position data of the defective pixel is previously stored in the lookup table LUT has been described, the present invention is not limited to such a configuration. For example, correction data of a bit string composed of flag data “1” indicating a defective pixel and flag data “0” indicating a normal pixel is stored in the semiconductor memory in correspondence with the pixel arrangement formed in the CCD image pickup device 3. Then, the defective pixel signal read from the defective pixel may be specified by sequentially counting up the address of the semiconductor memory in synchronization with the readout timing of the pixel signal Pix.
[0044]
Further, a lookup table storing correction information or the above-described semiconductor memory may be provided along with the central control circuit in the camera, but a lookup table storing correction information unique to each CCD image pickup device may be provided. It may be previously integrated with the CCD image sensor. When a lookup table or the like is integrated with the CCD image pickup device in this way, reliable correction information can be obtained for each CCD image pickup device even if the characteristics of pixel defects differ for each CCD image pickup device due to variations between elements. For this reason, it is not necessary to make an adjustment for specifying a defective pixel for each CCD image pickup device in the camera manufacturing process, and an effect that the manufacturing process can be simplified can be obtained.
[0045]
【The invention's effect】
As described above, according to the present invention, when normal photographing is performed under the first defect correction condition under a so-called normal temperature environment and under a generally set shutter speed, the temperature white defect is detected. In the dynamic generation characteristic of temperature white scratches, in which temperature white scratches appear prominently when shooting is performed under the second defect correction condition in a high temperature environment or at a low shutter speed. In addition, since the defect correction of the temperature white defect is performed, the defect correction of the temperature white defect can be surely and appropriately performed.
[0046]
Furthermore, unnecessary (excessive) defect correction is not performed at the time of shooting under the first defect correction condition in which temperature white scratches do not appear so conspicuously, so that image quality deterioration can be prevented, and temperature white scratches can be prevented. When shooting is performed under the second defect correction condition under a high temperature environment or a low shutter speed that appears prominently, it is possible to reliably correct the temperature white defect.
[0047]
Furthermore, temperature white scratches can be corrected without providing a special device such as a conventional cooled CCD image sensor, so that mass production and miniaturization are possible, and this is particularly applicable to consumer imaging devices and the like. be able to.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a configuration of an embodiment in which the present invention is applied to a digital camera.
FIG. 2 is an explanatory diagram showing a memory map of a lookup table storing correction information.
FIG. 3 is an explanatory diagram showing correction conditions for pixel defects.
[Explanation of symbols]
2 ... Mechanical shutter 3 ... CCD image sensor 5 ... Defect correction circuit LUT ... Look-up table

Claims (3)

CCD撮像素子の温度白キズを補正するCCD撮像素子の画素欠陥補正装置において、
通常の環境温度且つ通常のシャッター速度の第1の欠陥補正条件で撮影が行われると温度白キズを生じさせる欠陥画素を特定する第1の補正情報と、高い環境温度又は低シャッター速度の第2の欠陥補正条件で撮影が行われると温度白キズを生じさせる欠陥画素を特定する前記第1の補正情報とは重複しない第2の補正情報とを予め記憶する記憶手段と、
撮影時に前記CCD撮像素子から読み出される画素信号中の温度白キズに該当する欠陥画素信号を、前記撮影時の実際の環境温度とシャッター速度が前記第1の欠陥補正条件である場合には前記記憶手段中の前記第1の補正情報のみに基づいて特定し、前記撮影時の実際の環境温度とシャッター速度が前記第2の欠陥補正条件である場合には前記記憶手段中の前記第1の補正情報および前記第2の補正情報に基づいて特定し、前記特定された欠陥画素信号について欠陥補正を行う欠陥補正手段と、
を備えることを特徴とするCCD撮像素子の画素欠陥補正装置。
In a pixel defect correction apparatus for a CCD image sensor that corrects temperature white scratches on the CCD image sensor,
When shooting is performed under a first defect correction condition at a normal environmental temperature and a normal shutter speed , first correction information for specifying a defective pixel that causes a white spot in temperature and a second at a high environmental temperature or a low shutter speed . Storage means for preliminarily storing second correction information that does not overlap with the first correction information for specifying a defective pixel that causes a temperature white defect when photographing is performed under the defect correction condition of
The defective pixel signal corresponding to the temperature white defect in the pixel signal read from the CCD image pickup device at the time of shooting is stored if the actual environmental temperature and shutter speed at the time of shooting are the first defect correction conditions. If the actual environmental temperature and shutter speed at the time of shooting are the second defect correction conditions, the first correction in the storage means is specified based on only the first correction information in the means. A defect correction unit that is identified based on the information and the second correction information, and performs defect correction on the identified defective pixel signal;
A pixel defect correction apparatus for a CCD image sensor, comprising:
前記記憶手段は、前記CCD撮像素子に一体化されていることを特徴とする請求項1に記載のCCD撮像素子の画素欠陥補正装置。2. A pixel defect correction apparatus for a CCD image pickup device according to claim 1, wherein the storage means is integrated with the CCD image pickup device. CCD撮像素子の温度白キズを補正するCCD撮像素子の画素欠陥補正方法において、
通常の環境温度且つ通常のシャッター速度の第1の欠陥補正条件で撮影が行われると温度白キズを生じさせる欠陥画素を特定する第1の補正情報と、高い環境温度又は低シャッター速度の第2の欠陥補正条件で撮影が行われると温度白キズを生じさせる欠陥画素を特定する前記第1の補正情報とは重複しない第2の補正情報とを予め求め、
撮影時に前記CCD撮像素子から読み出される画素信号中の温度白キズに該当する欠陥画素信号を、前記撮影時の実際の環境温度とシャッター速度が前記第1の欠陥補正条件である場合には前記第1の補正情報のみに基づいて特定し、前記撮影時の実際の環境温度とシャッター速度が前記第2の欠陥補正条件である場合には前記第1の補正情報および前記第2の補正情報に基づいて特定し、
前記特定された欠陥画素信号について欠陥補正を行うことを特徴とするCCD撮像素子の画素欠陥補正方法。
In a pixel defect correction method for a CCD image sensor that corrects temperature white scratches on the CCD image sensor,
When shooting is performed under a first defect correction condition at a normal environmental temperature and a normal shutter speed , first correction information for specifying a defective pixel that causes a white spot in temperature and a second at a high environmental temperature or a low shutter speed . And second correction information that does not overlap with the first correction information that identifies defective pixels that cause temperature white scratches when shooting is performed under the defect correction conditions of
The defective pixel signal corresponding to the temperature white defect in the pixel signal read out from the CCD image pickup device at the time of shooting is determined as the first defect correction condition when the actual environmental temperature and the shutter speed are the first defect correction conditions . It specified based only on the first correction information, when the actual ambient temperature and the shutter speed during the shooting is the second defect correction condition based on the first correction information and the second correction information Identify
A defect correction method for a CCD image pickup device, wherein defect correction is performed on the specified defective pixel signal.
JP26415198A 1998-09-18 1998-09-18 Pixel defect correction apparatus and pixel defect correction method for CCD image sensor Expired - Lifetime JP4097332B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP26415198A JP4097332B2 (en) 1998-09-18 1998-09-18 Pixel defect correction apparatus and pixel defect correction method for CCD image sensor

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP26415198A JP4097332B2 (en) 1998-09-18 1998-09-18 Pixel defect correction apparatus and pixel defect correction method for CCD image sensor

Publications (2)

Publication Number Publication Date
JP2000101925A JP2000101925A (en) 2000-04-07
JP4097332B2 true JP4097332B2 (en) 2008-06-11

Family

ID=17399182

Family Applications (1)

Application Number Title Priority Date Filing Date
JP26415198A Expired - Lifetime JP4097332B2 (en) 1998-09-18 1998-09-18 Pixel defect correction apparatus and pixel defect correction method for CCD image sensor

Country Status (1)

Country Link
JP (1) JP4097332B2 (en)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4497759B2 (en) * 2000-06-30 2010-07-07 キヤノン株式会社 Image processing apparatus and processing method thereof
JP2003046871A (en) * 2001-08-01 2003-02-14 Olympus Optical Co Ltd Imaging device
US7301572B2 (en) 2002-03-08 2007-11-27 Canon Kabushiki Kaisha Pixel correction processing apparatus, image processing apparatus, pixel correction processing method, program, and storage medium
EP1655957A4 (en) * 2003-07-01 2009-03-18 Nikon Corp DEVICE FOR CORRECTING THE VIDEO SIGNAL OF AN ELECTRONIC CAMERA
JP2005136970A (en) * 2003-10-08 2005-05-26 Canon Inc Image processing apparatus and image processing method
JP4359543B2 (en) 2004-08-23 2009-11-04 富士フイルム株式会社 Imaging device
JP2006109067A (en) * 2004-10-05 2006-04-20 Ikegami Tsushinki Co Ltd Defective pixel processing apparatus and method
JP2006148441A (en) * 2004-11-18 2006-06-08 Konica Minolta Photo Imaging Inc Imaging apparatus
JP2006287723A (en) * 2005-04-01 2006-10-19 Mitsubishi Electric Corp CCTV camera device
JP5534756B2 (en) 2009-09-16 2014-07-02 キヤノン株式会社 Image processing apparatus, image processing method, image processing system, and program
JP5682523B2 (en) * 2011-09-20 2015-03-11 カシオ計算機株式会社 Image processing apparatus, image processing method, and program

Also Published As

Publication number Publication date
JP2000101925A (en) 2000-04-07

Similar Documents

Publication Publication Date Title
JP4773179B2 (en) Imaging device
US7009641B2 (en) Electronic camera with gain adjustment
TWI221389B (en) Digital still camera apparatus, video camera apparatus, and information terminal apparatus
JP4097332B2 (en) Pixel defect correction apparatus and pixel defect correction method for CCD image sensor
JP5523065B2 (en) Imaging apparatus and control method thereof
JP2000209506A (en) Imaging device and imaging method
JP3967690B2 (en) Imaging device
JP2001024949A (en) Solid-state imaging device and imaging system using the same
JP2001352491A (en) Imaging control apparatus and imaging control method
JP3590242B2 (en) Electronic imaging device
CN101616254B (en) Image processing apparatus and image processing method
JP2000224472A (en) Image pickup controller and image pickup controlling method
JP4047000B2 (en) Imaging apparatus and imaging method
US8885076B2 (en) Camera sensor defect correction and noise reduction
JP4662343B2 (en) Imaging apparatus and correction method
JP4481764B2 (en) Method for correcting signal output from image sensor and image processing apparatus using the same
JP2939993B2 (en) Solid-state imaging device
JPH0951459A (en) Video camera
JP5404217B2 (en) Imaging apparatus and control method thereof
JP2002112118A (en) Detecting device for defective pixels of solid-state image sensor
JP2002176653A (en) Pixel defect detection method and electronic camera
JP2010088034A (en) Imaging apparatus, and imaging control method
JP2006033158A (en) Imaging device
JP2006108918A (en) Imaging device
JP2006148645A (en) Imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040816

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20060621

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070301

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070313

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070523

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20070622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20070622

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080311

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110321

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110321

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120321

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120321

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130321

Year of fee payment: 5