以下、図面を参照して、本発明を適用した実施の形態について説明する。
図1は、本発明を適用した一実施の形態の撮像装置の外観を示す図である。
撮像装置11は、例えばデジタルスチルカメラなどからなり、ユーザによる操作に応じて被写体の画像を撮像する。また、撮像装置11の図中、右上の部分には、撮像の対象となる被写体に照射される光の光源を推定する光源推定装置21が設けられている。
光源推定装置21は、光源から放射(輻射)された光を受光し、受光した光の光量(強度)に基づいて光源の種類を推定する。換言すれば、光源推定装置21は、受光した光の光量に基づいて、撮像環境における光源が、太陽、蛍光灯、白熱電球、LED(Light Emitting Diode)などの各種の光源のうちのいずれであるかを推定する。そして、撮像装置11は、光源推定装置21による光源の推定結果に基づいて、画像の撮像時に必要に応じてホワイトバランスなどの各種の調整を行う。
ここで、撮像装置11の撮像環境が屋外であるか屋内であるかに関わらず、光源は撮像装置11の図中、上側、つまり鉛直方向とは反対方向に位置することが多いと予測されるため、より多くの光を受光できるように、光源推定装置21は撮像装置11の図中、上側の部分に上方向を向くように設けられている。なお、光源推定装置21は、必ずしも撮像装置11の上側の部分に設ける必要はなく、他の位置に設けられてもよい。
図2は、図1の光源推定装置21の構成例を示すブロック図である。
光源推定装置21は、受光部51、紫外光対可視光比算出部52、赤外光対可視光比算出部53、評価ベクトル保持メモリ54、および光源推定部55から構成される。
受光部51は、例えば可視光に対して分光感度を有するセンサ、不可視光(非可視光)に対して分光感度を有するセンサなどの複数のセンサから構成され、光源から放射された光を受光する。より具体的には、受光部51は、紫外光に対して分光感度を有するセンサ、可視光に対して分光感度を有するセンサ、および赤外光に対して分光感度を有するセンサから構成される。ここで、分光感度を有するとは、センサが特定の波長の光に対して、その光の光量を測定するのに充分な感度を有していることをいう。
受光部51は、光源から放射された紫外光、赤外光、および可視光のそれぞれの光を受光し、受光した光のそれぞれを、それらの光の光量を示す電気信号のそれぞれに変換する。すなわち、受光部51は、受光した光を光電変換することにより、受光した紫外光の光量(強度)UV、可視光の光量(強度)V、および赤外光の光量(強度)IRを得る。そして、受光部51は、光電変換により得られた光量UVおよび光量Vを紫外光対可視光比算出部52に供給し、光量Vおよび光量IRを赤外光対可視光比算出部53に供給する。
紫外光対可視光比算出部52は、受光部51から供給された光量UVおよび光量Vに基づいて、受光した紫外光の光量UVと可視光の光量Vとの比、すなわち可視光に対する紫外光の相対強度(相対的な光量)を算出して光源推定部55に供給する。
赤外光対可視光比算出部53は、受光部51から供給された光量IRおよび光量Vに基づいて、受光した赤外光の光量IRと可視光の光量Vとの比、すなわち可視光に対する赤外光の相対強度(相対的な光量)を算出して光源推定部55に供給する。
評価ベクトル保持メモリ54は、複数の光源ごとに予め求められている、可視光に対する紫外光の相対強度と、可視光に対する赤外光の相対強度とからなる評価ベクトルを保持している。
例えば、光源を太陽とした場合に受光部51において受光された紫外光の光量UVと可視光の光量Vとの比、および受光部51において受光された赤外光の光量IRと可視光の光量Vとの比からなる太陽の評価ベクトルが予め求められ、他の光源についても評価ベクトルが予め求められて、それらの評価ベクトルが評価ベクトル保持メモリ54に保持される。評価ベクトル保持メモリ54は、このようにして求められた各光源の評価ベクトルを予め保持しており、保持している評価ベクトルを必要に応じて光源推定部55に供給する。
光源推定部55は、紫外光対可視光比算出部52から供給された可視光に対する紫外光の相対強度と、赤外光対可視光比算出部53から供給された可視光に対する赤外光の相対強度とからなるベクトルを被評価ベクトルとして、被評価ベクトル、および評価ベクトル保持メモリ54に保持されている評価ベクトルを用いて光源(の種類)を推定し、その推定結果を撮像装置11に出力する。
また、受光部51は、例えば図3に示すように、中空の積分球81、並びに積分球81の内部に設けられた紫外光センサ82、可視光センサ83、および赤外光センサ84を備えている。
積分球81には、光源からの光を積分球81の内部の空間に入射させるための開口部85が設けられている。また、積分球81の内部には球状の空間が形成されており、積分球81の内部の空間を形成する面、つまり積分球81の内側の面には拡散反射板86が設けられている。さらに積分球81の内側の面には紫外光センサ82乃至赤外光センサ84の3つのセンサも設けられている。
拡散反射板86は、開口部85から入射した光源により放射された光を拡散反射する。このように、積分球81の内側の空間を球状にし、拡散反射板86により入射した光を拡散させることで、光源からの光を拡散して紫外光センサ82乃至赤外光センサ84のそれぞれに均等に入射させることができる。換言すれば、紫外光センサ82乃至赤外光センサ84のそれぞれに、なるべく広い範囲の入射光を受光させることができる。
紫外光センサ82は、積分球81の内部の空間に入射し、拡散反射板86により拡散反射された光のうちの紫外光を受光して光電変換する。すなわち、紫外光センサ82は、紫外光に対して分光感度を有しており、入射した光のうち、紫外光とされる波長帯の光だけを受光して光電変換し、その結果得られた紫外光の光量UVを出力する。
可視光センサ83は、積分球81の内部の空間に入射し、拡散反射板86により拡散反射された光のうちの可視光を受光して光電変換する。すなわち、可視光センサ83は、可視光に対して分光感度を有しており、入射した光のうち、可視光とされる波長帯の光だけを受光して光電変換し、その結果得られた可視光の光量Vを出力する。
赤外光センサ84は、積分球81の内部の空間に入射し、拡散反射板86により拡散反射された光のうちの赤外光を受光して光電変換する。すなわち、赤外光センサ84は、赤外光に対して分光感度を有しており、入射した光のうち、赤外光とされる波長帯の光だけを受光して光電変換し、その結果得られた赤外光の光量IRを出力する。
図3の例では、積分球81、および紫外光センサ82乃至赤外光センサ84の3つのセンサだけで受光部51を構成することができるので、受光部51を簡単な構成で、かつ小さくすることができる。
ここで、紫外光、可視光、および赤外光とされる光のそれぞれは、例えば図4に示すように予め定められた波長帯の光とされる。すなわち、波長が400nm以下である光は紫外光とされ、波長が400nmより大きく700nmよりも小さい光は可視光とされ、波長が700nm以上である光は赤外光とされる。
なお、より詳細には、拡散反射板86の分光反射率、つまり各波長の光の反射率は予め求められており、また紫外光センサ82乃至赤外光センサ84のそれぞれの分光特性、つまり入射した各波長の光の光量に対して、光電変換の結果としてどの程度の光量が得られるかも予め求められている。そして、紫外光センサ82乃至赤外光センサ84のそれぞれからは、それらのセンサの分光特性と拡散反射板86の分光反射率とから、積分球81に入射した紫外光、可視光、および赤外光のそれぞれのより確からしい光量のそれぞれが求められ、その結果が出力されるようになされている。
さらに、受光部51は、図5に示すように、CCD(Charge Coupled Devices)やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子から構成されるようにしてもよい。なお、図5において点線の矢印は受光部51に入射した光源からの光の軌跡を表している。
図5の例では、受光部51は、プリズム111、撮像素子112−1、撮像素子112−2、および撮像素子112−3から構成される。
プリズム111は、例えば、互いに固着された3つのプリズムからなる合成プリズムとされ、プリズム111は、固着されたプリズムの境界面121および境界面122を有している。プリズム111は、プリズム111に入射した光源からの光を赤外光、可視光、および紫外光に分離して、分離した赤外光、可視光、および紫外光のそれぞれを、撮像素子112−1、撮像素子112−2、および撮像素子112−3のそれぞれに入射させる。
すなわち、プリズム111の図中、左側に設けられた入射面123に入射した光源からの光は、入射面123を透過して境界面121に入射する。そして、境界面121に入射した光の赤外光成分、つまり赤外光は境界面121において反射され、赤外光以外の光は境界面121を透過して境界面122に入射する。
境界面121において反射された赤外光は、さらに入射面123において反射され、撮像素子112−1に入射する。一方、境界面121を透過して境界面122に入射した光のうちの紫外光成分、つまり紫外光は境界面122において反射され、紫外光以外の光は境界面122を透過して撮像素子112−2に入射する。したがって、撮像素子112−2には、光源からの光のうちの赤外光成分および紫外光成分以外の光、すなわち可視光が入射することになる。さらに、境界面122において反射された紫外光は、境界面121において反射され、撮像素子112−3に入射する。
撮像素子112−1乃至撮像素子112−3のそれぞれは、CCDやCMOSなどからなり、それぞれ赤外光、可視光、および紫外光に対して分光感度を有している。撮像素子112−1乃至撮像素子112−3のそれぞれは、プリズム111に入射して境界面121において分離された赤外光、プリズム111を透過した可視光、および境界面122において分離された紫外光のそれぞれを受光して光電変換し、その結果得られたそれらの受光した光の光量IR、光量V、および光量UVのそれぞれを出力する。
なお、以下、撮像素子112−1乃至撮像素子112−3のそれぞれを特に区別する必要のない場合、単に撮像素子112と称する。
また、撮像素子112の表面には、予め定められた色の光、すなわち予め定められた波長の光だけが撮像素子112の受光面に入射するようにフィルタが設けられている。
例えば、撮像素子112−1の表面には図6Aに示すように、画素ごとに赤外光だけを透過させるフィルタが設けられている。なお、図6Aにおいて、1つの長方形は1つの画素を表している。撮像素子112−1は、フィルタを介して各画素に入射した赤外光を受光して光電変換し、その結果得られた画素ごとの光の光量の平均値を計算し、光量IRとして出力する。換言すれば、撮像素子112−1は、各画素に入射した赤外光を撮像し、撮像により得られた各画素の輝度値の平均値を赤外光の光量IRとして出力する。
また、例えば、撮像素子112−2の表面には図6Bに示すように、画素ごとに可視光としてのR(赤)、G(緑)、またはB(青)の色の光だけを透過させるフィルタが設けられている。なお、図6Bにおいて、1つの長方形は1つの画素を表している。
撮像素子112−2の表面に設けられたRの色の光(Rの色とされる波長の光)だけを透過させるRの色のフィルタ、Gの色の光(Gの色とされる波長の光)だけを透過させるGの色のフィルタ、およびBの色の光(Bの色とされる波長の光)だけを透過させるBの色のフィルタの色配列は、ベイヤー配列と称される色配列とされている。すなわち、撮像素子112−2の表面には、Gの色のフィルタが市松状に配置され、残りの部分にRの色のフィルタおよびBの色のフィルタが一行ごとに交互に配置されている。
撮像素子112−2は、フィルタを介して各画素に入射した可視光としてのR、G、またはBの色の光を受光して光電変換し、その結果得られた画素ごとの光の光量から、入射した可視光の光量Vを求めて出力する。すなわち、撮像素子112−2は、各画素に入射したR、G、またはBの色の光を撮像する。そして、撮像素子112−2は、色ごとの平均値を計算し、さらにそれらの色ごとの平均値の平均値を計算し、光量Vとして出力する。すなわち、撮像素子112−2は、各画素のRの色の輝度値の平均値、Gの色の輝度値の平均値、およびBの色の輝度値の平均値を求め、さらにそれらの輝度値の平均値の平均値を、可視光の光量Vとして求める。
さらに、例えば、図5の撮像素子112−3の表面には図6Cに示すように、画素ごとに紫外光だけを透過させるフィルタが設けられている。なお、図6Cにおいて、1つの長方形は1つの画素を表している。撮像素子112−3は、フィルタを介して各画素に入射した紫外光を受光して光電変換し、その結果得られた画素ごとの光の光量の平均値を計算し、光量UVとして出力する。換言すれば、撮像素子112−3は、各画素に入射した紫外光を撮像し、撮像により得られた各画素の輝度値の平均値を紫外光の光量UVとして出力する。
なお、光量IR、光量V、光量UVの算出方法として次のような方法も考えられる。撮像素子112−1は、各画素に入射した赤外光を撮像し、撮像により得られた各画素の輝度値の総和を赤外光の光量IRとして出力し、撮像素子112−3は、各画素に入射した紫外光を撮像し、撮像により得られた各画素の輝度値の総和を紫外光の光量UVとして出力する。撮像素子112−2は各画素に入射したR、G、Bいずれか一つの色の輝度値の情報を利用して、デモザイク処理を行うことで、各画素において全色(R、G、B)を算出し、色毎の総和のさらに画素数分の総和を光量Vとする。この場合、デモザイク処理によって得られた画像(画素毎に全色揃った画像)はそのまま通常のRGBによる撮影画像としての利用も可能である。
このように、撮像素子112の表面には所定の波長帯の光だけを透過させるフィルタが設けられており、撮像素子112は、入射した光を受光して光の光量を求める。
なお、撮像素子112−1乃至撮像素子112−3を用いて光源推定を行い、さらに撮像素子112−2を、被写体の画像を撮像するために用いるようにしてもよい。そのような場合、撮像素子112−2により撮像されて得られた画像が被写体の画像とされるとともに、撮像素子112−1乃至撮像素子112−3により撮像されて得られた画像が用いられて光源推定が行われる。
また、図5に示した受光部51においては、3つの撮像素子112を用いて赤外光、可視光、および紫外光のそれぞれの光量を求めると説明したが、2つの撮像素子112だけが用いられるようにしてもよい。
そのような場合、例えば、撮像素子112−1および撮像素子112−2だけが用いられ、撮像素子112−2の表面には、図7Aに示すように、R(赤)、G(緑)、またはB(青)の色のフィルタがベイヤー配列と称される色配列で配置される。なお、図7Aにおいて、1つの長方形は1つの画素を表している。
撮像素子112−2は、図6Bの例における場合と同様に、フィルタを介して各画素に入射した可視光としてのR、G、またはBの色の光を撮像し、その結果得られた各画素の輝度値を用いて色ごとの平均値を計算し、さらにそれらの色ごとの平均値の平均値を算出し、光量Vとして出力する。
また、撮像素子112−1および撮像素子112−2だけが用いられる場合、撮像素子112−1により紫外光および赤外光が受光されるようになされる。したがって、図5の境界面121において不可視光、つまり紫外光および赤外光が反射され、撮像素子112−1に入射する。
この場合、撮像素子112−1の表面には、例えば、図7Bに示すように、画素ごとに紫外光または赤外光だけを透過させるフィルタが設けられる。なお、図7Bにおいて、1つの長方形は1つの画素を表している。撮像素子112−1の表面には、紫外光だけを透過させるフィルタが市松状に配置され、残りの部分に赤外光だけを透過させるフィルタが配置されている。
撮像素子112−1は、フィルタを介して各画素に入射した不可視光としての紫外光または赤外光を撮像し、その結果画素ごとに得られた紫外光または赤外光の輝度値を用いて紫外光の輝度値の平均値を紫外光の光量UVとして出力するとともに、各画素の赤外光の輝度値の平均値を赤外光の光量IRとして出力する。
このように、2つの撮像素子112だけを用いると、3つの撮像素子を利用する場合に比べ、赤外光、紫外光の画素数が減少して、利用できる情報量は少なくなるが、光源推定に用いる撮像素子112の数を減らすことができ、光源推定装置21の小型化および低コスト化を図ることができる。
なお、1つの撮像素子112の表面に、可視光だけを透過させるフィルタ、紫外光だけを透過させるフィルタ、および赤外光だけを透過させるフィルタを配置することで、1つの撮像素子112から可視光の光量V、紫外光の光量UV、および赤外光の光量IRを得るようにしてもよい。
また、以上においては、受光部51は、図3に示した構成とされてもよいし、図5に示した構成とされてもよいと説明したが、以下では、図2の受光部51は図3に示した構成とされるものとして説明を続ける。
ところで、撮像装置11は、被写体の画像の撮像時において、光源推定装置21に対して撮像装置11の撮像環境における光源の推定を指示する。すると光源推定装置21は、撮像装置11からの指示に応じて、光源を推定する処理である光源推定処理を開始する。
以下、図8のフローチャートを参照して、光源推定装置21による光源推定処理について説明する。
ステップS11において、受光部51は、光源から受光部51に入射してきた可視光を受光する。すなわち、受光部51の可視光センサ83は、開口部85から入射して拡散反射板86において拡散反射された可視光を受光して光電変換する。可視光センサ83は、光電変換により得られた可視光の光量Vを紫外光対可視光比算出部52および赤外光対可視光比算出部53に供給する。
ステップS12において、受光部51は、光源から受光部51に入射してきた紫外光を受光する。すなわち、受光部51の紫外光センサ82は、開口部85から入射して拡散反射板86において拡散反射された紫外光を受光して光電変換する。紫外光センサ82は、光電変換により得られた紫外光の光量UVを紫外光対可視光比算出部52に供給する。
ステップS13において、受光部51は、光源から受光部51に入射してきた赤外光を受光する。すなわち、受光部51の赤外光センサ84は、開口部85から入射して拡散反射板86において拡散反射された赤外光を受光して光電変換する。赤外光センサ84は、光電変換により得られた赤外光の光量IRを赤外光対可視光比算出部53に供給する。
なお、より詳細には、これらのステップS11の処理乃至ステップS13の処理のそれぞれは、受光部51により同時に行われる。
ステップS14において、紫外光対可視光比算出部52は、受光部51から供給された光量UVおよび光量Vに基づいて、可視光に対する紫外光の相対強度P1を算出して光源推定部55に供給する。例えば、紫外光対可視光比算出部52は、次式(1)を計算することにより、相対強度P1を算出する。
P1=UV/V ・・・(1)
ここで、式(1)におけるUVは紫外光の光量UVを示しており、Vは可視光の光量Vを示している。したがって相対強度P1は、光量UVを光量Vで除算することにより得られる。
ステップS15において、赤外光対可視光比算出部53は、受光部51から供給された光量IRおよび光量Vに基づいて、可視光に対する赤外光の相対強度P2を算出して光源推定部55に供給する。例えば、赤外光対可視光比算出部53は、次式(2)を計算することにより、相対強度P2を算出する。
P2=IR/V ・・・(2)
ここで、式(2)におけるIRは赤外光の光量IRを示しており、Vは可視光の光量Vを示している。したがって相対強度P2は、光量IRを光量Vで除算することにより得られる。
ステップS16において、光源推定部55は、紫外光対可視光比算出部52から供給された相対強度P1と、赤外光対可視光比算出部53から供給された相対強度P2とからなる被評価ベクトル、および評価ベクトル保持メモリ54に保持されている評価ベクトルを用いて光源を推定し、その推定結果を出力して光源推定処理は終了する。
例えば、光源推定部55は、被評価ベクトルと、光源ごとの評価ベクトルとの類似度を計算し、類似度の最も高い評価ベクトル、つまり最も被評価ベクトルに類似している評価ベクトルを選択する。そして、光源推定部55は、選択した評価ベクトルにより示される光源を光源推定の結果として得られた光源とし、その光源を示す情報を撮像装置11に出力する。
一般に、撮像装置11の撮像環境における光源として、太陽、蛍光灯、白熱電球など複数の種類の光源が考えられるが、その分光分布は光源ごとに異なっている。
例えば、図9に示すように、光源としての蛍光灯の光には、可視光成分が多く含まれているが、紫外光成分や赤外光成分はほとんど含まれていない。なお、図9において、縦軸は分光エネルギを示しており、横軸は波長を示している。
曲線151は、JIS(Japan Industrial Standard)の規格で規定された区分名がF10である、三波長形の蛍光灯の光の分光分布を示している。曲線151は、440nm、550nm、615nmなどのいくつかの波長においてピークを有しており、曲線151により示される蛍光灯の光には、400nm乃至720nmの波長帯の光が多く含まれている。
曲線152は、JISの規格で規定された区分名がF1である、普通形の蛍光灯の光の分光分布を示している。曲線152は、440nmおよび580nm付近においてピークを有している。また、曲線152により示される蛍光灯の光には、440nm乃至640nmの波長の光が多く含まれており、それらの波長の光の分光エネルギはほぼ均一になっている。
曲線153は、JISの規格で規定された区分名がF7である、高演色形の蛍光灯の光の分光分布を示している。曲線153は、440nmおよび580nm付近においてピークを有している。また、曲線153により示される蛍光灯の光には、440nm乃至660nmの波長の光が多く含まれており、それらの波長の光の分光エネルギはほぼ均一になっている。
このように、蛍光灯の光は、可視光成分が多く含まれ、紫外光成分や赤外光成分はほとんど含まれていないという特徴を有している。
また、例えば図10に示すように、太陽光には、可視光成分が多く含まれているが、紫外光成分や赤外光成分もある程度含まれている。なお、図10において、縦軸は分光エネルギを示しており、横軸は波長を示している。
曲線171乃至曲線173のそれぞれは、色温度が5500K、6500K、および7500Kである太陽光のそれぞれの分光分布を示している。曲線171乃至曲線173のそれぞれは、波長によって急激に分光エネルギの大きさが変化することはなく、比較的なだらかに変化している。
また、曲線171乃至曲線173のそれぞれにより示される太陽光には、可視光が多く含まれているが、紫外光や赤外光も含まれており、特に、紫外光よりも赤外光がより多く含まれている。
このように、太陽光は、可視光成分が多く含まれ、紫外光成分や赤外光成分もある程度含まれているという特徴を有している。
各光源の光は、紫外光、可視光、および赤外光の成分を比較すると、それぞれ固有の特徴を有しているので、各光源の光の赤外光成分、可視光成分、および紫外光成分を考慮することで、より確実に光源を推定することができる。例えば、図11に示すように、蛍光灯の光、太陽光、および白熱電球の光は、可視光に対する赤外光や紫外光の相対強度が異なるため、相対強度を用いて容易に光源を推定することができる。なお、図11において、縦軸は光源から放射された光の相対放射強度を示しており、横軸は波長を示している。
曲線191は、JISの規格で規定された区分名がF10である、三波長形の蛍光灯の光の分光分布を示している。曲線191は、可視光とされるいくつかの波長においてピークを有しており、曲線191により示される蛍光灯の光には、可視光が多く含まれているが、紫外光および赤外光はほとんど含まれていない。したがって、可視光に対する紫外光の相対強度P1、および可視光に対する赤外光の相対強度P2は、ほぼ0に近い値となる。
また、曲線192は、太陽光の分光分布を示している。曲線192は、全体的になだらかに変化しており、曲線192により示される太陽光の成分は、より多く含まれている順に可視光、赤外光、および紫外光となっている。したがって、可視光に対する赤外光の相対強度P2は、可視光に対する紫外光の相対強度P1よりも大きい値となる。
曲線193は、白熱電球の光の分光分布を示している。曲線193は、右方向に直線的に増加しており、曲線193により示される白熱電球の光には、より波長の長い光がより多く含まれている。つまり、白熱電球の光の成分は、より多く含まれている順に赤外光、可視光、および紫外光となっている。したがって、可視光に対する赤外光の相対強度P2は、可視光に対する紫外光の相対強度P1よりも大きい値となる。
光源ごとの相対強度P1と相対強度P2とを比較すると、可視光に対する紫外光の相対強度P1の小さい光源は、小さい順に蛍光灯、白熱電球、および太陽とされ、可視光に対する赤外光の相対強度P2の小さい光源は、小さい順に蛍光灯、太陽、および白熱電球とされることが予測され、光源推定装置21では、このような特徴が利用されて光源の推定が行われる。
以上のように、光源推定装置21は、可視光、赤外光、および紫外光を受光し、可視光に対する紫外光の相対強度P1、および可視光に対する赤外光の相対強度P2を求めて光源を推定する。
このように、可視光、赤外光、および紫外光を受光し、相対強度P1および相対強度P2を求めて光源を推定することで、より簡単かつ確実に光源を推定することができる。
従来、光源推定には、可視光成分だけが用いられていたため、光源推定の精度を向上させようとする場合、より多くのセンサを設けたり、より多くの処理を行ったりする必要があった。すなわち、光源ごとに可視光の波長帯域における分光特性は異なるので、可視光成分だけを用いても光源を推定することはできるが、そのような場合、可視光とされる多くの波長の光の光量を得る必要があった。したがって、撮像装置に、より多くのセンサを設けなければならないのでコスト高になるばかりでなく、その分だけさらに多くの処理を行わなければならなかった。また、逆に、センサの数を減らすと、その分だけ光源推定の精度が低下してしまう。
これに対して、光源推定装置21では、放射された光に含まれている可視光、赤外光、および紫外光の割合は光源ごとに異なるという特徴を利用し、可視光に対する紫外光の相対強度P1、および可視光に対する赤外光の相対強度P2を用いて光源を推定することで、より簡単に、かつより確実に光源を推定することができる。
つまり、光源推定装置21では、可視光だけでなく、不可視光である紫外光および赤外光を利用することで、3つのセンサを設けるだけという簡単な構成とすることができる。しかも、それらのセンサにおける3色の光の測定結果を用いて、赤外光および紫外光のそれぞれの相対強度を算出するという簡単な処理だけで、より確実に光源を推定することができる。
なお、以上においては、可視光、赤外光、および紫外光の3色の光の光量を用いて光源を推定すると説明したが、不可視光として紫外光または赤外光のいずれか一方だけを用いて光源を推定するようにしてもよい。
また、可視光とされる波長帯域に含まれる複数の波長帯のそれぞれの光の光量を用いて光源を推定するようにしてもよい。より具体的には、例えば可視光とされる波長帯域に含まれる、互いに同じ波長を含まない第1の波長帯域乃至第nの波長帯域のn個(但し、nは自然数)の波長帯域の光の光量が用いられて光源が推定される。
そのような場合、光源推定装置は、例えば、図12に示すように構成される。
光源推定装置221は、受光部231、可視光量算出部232、紫外光対可視光比算出部233、特定色光対可視光比算出部234−1乃至特定色光対可視光比算出部234−n(特定色光対可視光比算出部234−2乃至特定色光対可視光比算出部234−(n−1)は図示せず)、赤外光対可視光比算出部235、評価ベクトル保持メモリ236、および光源推定部237から構成される。
受光部231は、例えば紫外光に対して分光感度を有するセンサ、可視光の波長帯域に含まれる第1の波長帯域乃至第nの波長帯域のそれぞれに対して分光感度を有する複数のセンサ、および赤外光に対して分光感度を有するセンサから構成される。
受光部231は、光源から放射された紫外光、赤外光、および第1の波長帯域乃至第nの波長帯域のそれぞれの光を受光して光電変換する。これにより、紫外光の光量(強度)UV、可視光の第1の波長帯域の光の光量(強度)V1乃至第nの波長帯域の光の光量(強度)Vn、および赤外光の光量(強度)IRが得られる。受光部231は、光電変換により得られた光量UVを紫外光対可視光比算出部233に供給し、光量IRを赤外光対可視光比算出部235に供給する。
また、受光部231は、光電変換により得られた光量V1乃至光量Vnを可視光量算出部232に供給するとともに、光量V1乃至光量Vnのそれぞれを、特定色光対可視光比算出部234−1乃至特定色光対可視光比算出部234−nのそれぞれに供給する。
ここで、受光部231は、例えば図3に示した受光部51の可視光センサ83に代えて、第1の波長帯域の光乃至第nの波長帯域の光のそれぞれに対して分光感度を有するセンサのそれぞれが設けられた構成とされる。すなわち、受光部231は、紫外光センサ、赤外光センサ、およびn個の可視光センサが設けられた構成とされる。
可視光量算出部232は、受光部231から供給された光量V1乃至光量Vnの総和を求め、求められた総和を可視光の光量(強度)Vとして紫外光対可視光比算出部233、特定色光対可視光比算出部234−1乃至特定色光対可視光比算出部234−n、および赤外光対可視光比算出部235に供給する。
紫外光対可視光比算出部233は、受光部231から供給された光量UV、および可視光量算出部232から供給された光量Vに基づいて、受光した紫外光の光量UVと可視光の光量Vとの比、すなわち可視光に対する紫外光の相対強度(相対的な光量)Q1を算出して光源推定部237に供給する。
特定色光対可視光比算出部234−1乃至特定色光対可視光比算出部234−nのそれぞれは、受光部231から供給された光量V1乃至光量Vnのそれぞれ、および可視光量算出部232から供給された光量Vに基づいて、光量V1乃至光量Vnのそれぞれと、可視光の光量Vとの比のそれぞれ、すなわち可視光に対する第1の波長帯域の光の相対強度(相対的な光量)Q2乃至可視光に対する第nの波長帯域の光の相対強度(相対的な光量)Q(n+1)を算出して光源推定部237に供給する。
なお、以下、特定色光対可視光比算出部234−1乃至特定色光対可視光比算出部234−nのそれぞれを特に区別する必要のない場合、単に特定色光対可視光比算出部234と称する。
赤外光対可視光比算出部235は、受光部231から供給された光量IR、および可視光量算出部232から供給された光量Vに基づいて、受光した赤外光の光量IRと可視光の光量Vとの比、すなわち可視光に対する赤外光の相対強度(相対的な光量)Q(n+2)を算出して光源推定部237に供給する。
評価ベクトル保持メモリ236は、複数の光源ごとに予め求められた可視光に対する紫外光の相対強度、可視光に対する第1の波長帯域の光の相対強度乃至可視光に対する第nの波長帯域の光の相対強度、および可視光に対する赤外光の相対強度からなる評価ベクトルを保持している。評価ベクトル保持メモリ236は、予め保持している評価ベクトルを必要に応じて光源推定部237に供給する。
光源推定部237は、紫外光対可視光比算出部233から供給された相対強度Q1、特定色光対可視光比算出部234−1乃至特定色光対可視光比算出部234−nのそれぞれから供給された相対強度Q2乃至相対強度Q(n+1)、および赤外光対可視光比算出部235から供給された相対強度Q(n+2)からなるベクトルを被評価ベクトルとする。そして、光源推定部237は、被評価ベクトル、および評価ベクトル保持メモリ236に保持されている評価ベクトルを用いて光源を推定し、その推定結果を撮像装置11に出力する。
なお、受光部231は、図5に示した受光部51と同じ構成とされるようにしてもよい。この場合、撮像素子112−2の表面には、例えば第1の波長帯域の光だけを透過させるフィルタ乃至第nの波長帯域の光だけを透過させるフィルタのそれぞれが配列される。
したがって、例えばn=3であり、第1の波長帯域乃至第3の波長帯域の光のそれぞれが、R(赤)の色の光、G(緑)の色の光、およびB(青)の色の光のそれぞれとされる場合、撮像素子112−2の表面には、図6Bに示したフィルタが配置される。
次に、図13のフローチャートを参照して、光源推定装置221による光源推定処理について説明する。
ステップS41において、受光部231は、光源から受光部231に入射してきた可視光を受光する。すなわち、受光部231は、入射した第1の波長帯域の光乃至第nの波長帯域の光のそれぞれを受光して光電変換し、その結果得られた光量V1乃至光量Vnを可視光量算出部232に供給するとともに、光量V1乃至光量Vnのそれぞれを特定色光対可視光比算出部234−1乃至特定色光対可視光比算出部234−nのそれぞれに供給する。
ステップS42において、受光部231は、光源から受光部231に入射してきた紫外光を受光して光電変換し、その結果得られた紫外光の光量UVを紫外光対可視光比算出部233に供給する。
ステップS43において、受光部231は、光源から受光部231に入射してきた赤外光を受光して光電変換し、その結果得られた赤外光の光量IRを赤外光対可視光比算出部235に供給する。
なお、より詳細には、これらのステップS41の処理乃至ステップS43の処理のそれぞれは、受光部231により同時に行われる。
ステップS44において、可視光量算出部232は、受光部231から供給された光量V1乃光量Vnに基づいて可視光の光量Vを算出し、算出した光量Vを紫外光対可視光比算出部233、特定色光対可視光比算出部234、および赤外光対可視光比算出部235に供給する。例えば、可視光量算出部232は、次式(3)を計算することにより可視光の光量Vを算出する。
なお、式(3)において、Viは、第iの波長帯域の光の光量Vi(但し、1≦i≦n)を示しており、Σは、光量Viの変数iを、1からnまで変えて総和をとることを表している。したがって、光量Vは、光量V1乃至光量Vnの総和を求めることにより得られる。
ステップS45において、紫外光対可視光比算出部233は、受光部231から供給された光量UV、および可視光量算出部232から供給された光量Vに基づいて、可視光に対する紫外光の相対強度Q1を算出して光源推定部237に供給する。例えば、紫外光対可視光比算出部233は、次式(4)を計算することにより相対強度Q1を算出する。
Q1=UV/V ・・・(4)
ここで、式(4)におけるUVは紫外光の光量UVを示しており、Vは可視光の光量Vを示している。したがって相対強度Q1は、光量UVを光量Vで除算することにより得られる。
ステップS46において、特定色光対可視光比算出部234は、受光部231から供給された光量Vi(但し、1≦i≦n)、および可視光量算出部232から供給された光量Vに基づいて、可視光に対する第iの波長帯域の光の相対強度Q(i+1)を算出して光源推定部237に供給する。すなわち、特定色光対可視光比算出部234−1乃至特定色光対可視光比算出部234−nのそれぞれは、相対強度Q2乃至相対強度Q(n+1)のそれぞれを算出して光源推定部237に供給する。
例えば、特定色光対可視光比算出部234は、次式(5)を計算することにより、相対強度Q(i+1)を算出する。
Q(i+1)=Vi/V ・・・(5)
ここで、式(5)におけるViは第iの波長帯域の光の光量Viを示しており、Vは可視光の光量Vを示している。したがって相対強度Q(i+1)は、光量Viを光量Vで除算することにより得られる。
ステップS47において、赤外光対可視光比算出部235は、受光部231から供給された光量IR、および可視光量算出部232から供給された光量Vに基づいて、可視光に対する赤外光の相対強度Q(n+2)を算出して光源推定部237に供給する。例えば、赤外光対可視光比算出部235は、次式(6)を計算することにより、相対強度Q(n+2)を算出する。
Q(n+2)=IR/V ・・・(6)
ここで、式(6)におけるIRは赤外光の光量IRを示しており、Vは可視光の光量Vを示している。したがって相対強度Q(n+2)は、光量IRを光量Vで除算することにより得られる。
ステップS48において、光源推定部237は、紫外光対可視光比算出部233から供給された相対強度Q1、特定色光対可視光比算出部234−1乃至特定色光対可視光比算出部234−nから供給された相対強度Q2乃至相対強度Q(n+1)、および赤外光対可視光比算出部235から供給された相対強度Q(n+2)とからなる被評価ベクトルと、評価ベクトル保持メモリ236に保持されている評価ベクトルとを用いて光源を推定し、その推定結果を出力して光源推定処理は終了する。
例えば、光源推定部237は、被評価ベクトルと、光源ごとの評価ベクトルとの類似度を計算し、類似度の最も高い評価ベクトルにより示される光源を光源推定の結果として得られた光源とする。
このようにして、光源推定装置221は、可視光である第1の波長帯域の光乃至第nの波長帯域の光、赤外光、および紫外光を受光し、可視光に対する紫外光の相対強度Q1、可視光に対する第iの波長帯域の光(1≦i≦n)の相対強度Q(i+1)、および可視光に対する赤外光の相対強度Q(n+2)を求めて光源を推定する。
このように、相対強度Q1乃至相対強度Q(n+2)を求めて光源を推定することで、より簡単かつ確実に光源を推定することができる。特に、光源推定装置221においては、不可視光の光量とともに、可視光の複数の波長帯域の光量を用いるので、光源からの光のうち、可視光の波長帯域の分光特性も利用して光源を推定することができる。したがって、例えば図9に示した光源としての蛍光灯、つまり分光分布においてピークとなる波長が異なる各種の蛍光灯が光源である場合などにおいても、より確実に光源を推定することができる。
なお、以上においては、可視光に対する他の光の相対強度を用いて光源推定を行うと説明したが、各光の光量を正規化して光源を推定するようにしてもよい。
そのような場合、光源推定装置は、例えば図14に示すように構成される。なお、図14において、図12における場合と対応する部分には同一の符号を付してあり、その説明は省略する。
光源推定装置261は、受光部231、正規化部271、評価ベクトル保持メモリ272、および光源推定部273から構成される。
正規化部271は、受光部231から供給された紫外光の光量UV、第1の波長帯域の光の光量V1乃至第nの波長帯域の光の光量Vn、および赤外光の光量IRのそれぞれを正規化して光源推定部273に供給する。
評価ベクトル保持メモリ272は、複数の光源ごとに予め求められた、正規化された紫外光の光量、第1の波長帯域の光の光量乃至第nの波長帯域の光の光量、および赤外光の光量のそれぞれからなる評価ベクトルを保持している。評価ベクトル保持メモリ272は、予め保持している評価ベクトルを必要に応じて光源推定部273に供給する。
光源推定部273は、正規化部271から供給された、正規化された光量UV、光量V1乃至光量Vn、および光量IRからなる被評価ベクトルと、評価ベクトル保持メモリ272に保持されている評価ベクトルとを用いて光源を推定し、その推定結果を撮像装置11に出力する。
次に、図15のフローチャートを参照して、光源推定装置261による光源推定処理について説明する。なお、ステップS71の処理乃至ステップS73の処理のそれぞれは、図13のステップS41の処理乃至ステップS43の処理のそれぞれと同様であるので、その説明は省略する。
ステップS71の処理乃至ステップS73の処理により、受光部231から正規化部271に、光量UV、光量V1乃至光量Vn、および光量IRが供給されると、ステップS74において、正規化部271は、受光部231から供給された各光の光量を正規化し、正規化された光量のそれぞれを光源推定部273に供給する。
例えば、正規化部271は、受光部231から供給された各光の光量のそれぞれを、各光量の和で除算することにより、各光量を正規化する。そのような場合、まず正規化部271は、次式(7)を計算することにより、各光量の総和Aを求める。
なお、式(7)において、Viは、第iの波長帯域の光の光量Vi(但し、1≦i≦n)を示しており、Σは、光量Viの変数iを、1からnまで変えて総和をとることを表している。また、UVは紫外光の光量UVを示しており、IRは赤外光の光量IRを示している。したがって、光量の総和Aは、光量V1乃至光量n、光量UV、および光量IRの和を求めることにより得られる。
次に、正規化部271は、紫外光の光量UVを光量の総和Aで除算することにより光量UVを正規化し、第iの波長帯域の光量Viを光量の総和Aで除算することにより光量Viを正規化し、赤外光の光量IRを光量の総和Aで除算することにより光量IRを正規化する。すなわち、正規化部271は、次式(8)乃至式(10)のそれぞれを計算することにより、正規化された紫外光の光量W1、正規化された第iの波長帯域の光量W(i+1)、および正規化された赤外光の光量W(n+2)のそれぞれを求める。
W1=UV/A ・・・(8)
W(i+1)=Vi/A ・・・(9)
W(n+2)=IR/A ・・・(10)
ここで、式(8)乃至式(10)において、Aは、光量の総和Aを示しており、UVは紫外光の光量UVを示している。また、Viは第iの波長帯域の光量Viを示しており、IRは赤外光の光量IRを示している。
このようにして、正規化された紫外光の光量W1、正規化された第iの波長帯域の光量W(i+1)、および正規化された赤外光の光量W(n+2)が求められると、正規化部271は、求められたそれらの光量を光源推定部273に供給する。
ステップS75において、光源推定部273は、正規化部271から供給された、正規化された光量W1乃至光量W(n+2)からなる被評価ベクトルと、評価ベクトル保持メモリ272に保持されている評価ベクトルとを用いて光源を推定し、その推定結果を出力して光源推定処理は終了する。
例えば、光源推定部273は、被評価ベクトルと、光源ごとの評価ベクトルとの類似度を計算し、類似度の最も高い評価ベクトルにより示される光源を光源推定の結果として得られた光源とする。
このようにして、光源推定部273は、可視光である第1の波長帯域の光乃至第nの波長帯域の光、赤外光、および紫外光を受光し、それらの受光した光の受光量を正規化して光源を推定する。
このように、正規化された光量W1乃至光量W(n+2)を用いて光源を推定することで、より簡単かつ確実に光源を推定することができる。特に、光源推定部273においては、各光の光量を、受光した全ての波長の光の光量の和で除算して正規化するので、光源からの光の分光分布全体に対する紫外光、可視光のn個の波長帯域の光、および赤外光のそれぞれの相対的な光量を正規化された光量として求めることができる。したがって、可視光だけでなく、不可視光を含む光源からの光の波長帯域全体の分光特性を考慮して光源を推定することができる。
以上のように、可視光の光量と不可視光の光量とを用いて光源推定を行うことによって、簡単な構成で、すなわち安価かつ少ない処理量で、より確実に撮像環境における光源の種類を推定することができる。
上述した一連の処理は、ハードウェアにより実行することもできるし、ソフトウェアにより実行することもできる。一連の処理をソフトウェアにより実行する場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、プログラム記録媒体からインストールされる。
図16は、上述した一連の処理をプログラムにより実行するコンピュータのハードウェアの構成例を示すブロック図である。
コンピュータにおいて、CPU(Central Processing Unit)301,ROM(Read Only Memory)302,RAM(Random Access Memory)303は、バス304により相互に接続されている。
バス304には、さらに、入出力インターフェース305が接続されている。入出力インターフェース305には、キーボード、マウス、マイクロホン、各波長の光を受光して光電変換するセンサなどよりなる入力部306、ディスプレイ、スピーカなどよりなる出力部307、ハードディスクや不揮発性のメモリなどよりなる記録部308、ネットワークインターフェースなどよりなる通信部309、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア311を駆動するドライブ310が接続されている。
入力部306としてのセンサは、例えば図2の受光部51と同様の構成とされており、紫外光、可視光、および赤外光のそれぞれを受光して、受光したそれらの光の光量のそれぞれを出力することができるようになされている。
以上のように構成されるコンピュータでは、CPU301が、例えば、記録部308に記録されているプログラムを、入出力インターフェース305及びバス304を介して、RAM303にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU301)が実行するプログラムは、例えば、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory),DVD(Digital Versatile Disc)等)、光磁気ディスク、もしくは半導体メモリなどよりなるパッケージメディアであるリムーバブルメディア311に記録して、あるいは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供される。
そして、プログラムは、リムーバブルメディア311をドライブ310に装着することにより、入出力インターフェース305を介して、記録部308にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部309で受信し、記録部308にインストールすることができる。その他、プログラムは、ROM302や記録部308に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
なお、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
11 撮像装置, 12 光源推定装置, 51 受光部, 52 紫外光対可視光比算出部, 53 赤外光対可視光比算出部, 55 光源推定部, 82 紫外光センサ, 83 可視光センサ, 84 赤外光センサ, 112−1,112−2,112−3,112 撮像素子, 221 光源推定装置, 231 受光部, 232 可視光量算出部, 233 紫外光対可視光比算出部, 234−1乃至234−n,234 特定色光対可視光比算出部, 235 赤外光対可視光比算出部, 237 光源推定部, 261 光源推定装置, 271 正規化部, 273 光源推定部