JP2025181134A - 距離画像撮像装置、及び距離画像撮像方法 - Google Patents
距離画像撮像装置、及び距離画像撮像方法Info
- Publication number
- JP2025181134A JP2025181134A JP2024088938A JP2024088938A JP2025181134A JP 2025181134 A JP2025181134 A JP 2025181134A JP 2024088938 A JP2024088938 A JP 2024088938A JP 2024088938 A JP2024088938 A JP 2024088938A JP 2025181134 A JP2025181134 A JP 2025181134A
- Authority
- JP
- Japan
- Prior art keywords
- measurement
- charge
- distance
- pixel
- distance image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/02—Systems using the reflection of electromagnetic waves other than radio waves
- G01S17/06—Systems determining position data of a target
- G01S17/08—Systems determining position data of a target for measuring distance only
- G01S17/10—Systems determining position data of a target for measuring distance only using transmission of interrupted, pulse-modulated waves
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S17/00—Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
- G01S17/88—Lidar systems specially adapted for specific applications
- G01S17/89—Lidar systems specially adapted for specific applications for mapping or imaging
- G01S17/894—Three-dimensional [3D] imaging with simultaneous measurement of time-of-flight at a two-dimensional [2D] array of receiver pixels, e.g. time-of-flight cameras or flash lidar
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4861—Circuits for detection, sampling, integration or read-out
- G01S7/4863—Detector arrays, e.g. charge-transfer gates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4865—Time delay measurement, e.g. time-of-flight measurement, time of arrival measurement or determining the exact position of a peak
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/48—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
- G01S7/483—Details of pulse systems
- G01S7/486—Receivers
- G01S7/4868—Controlling received signal intensity or exposure of sensor
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/50—Control of the SSIS exposure
- H04N25/53—Control of the integration time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/60—Noise processing, e.g. detecting, correcting, reducing or removing noise
- H04N25/62—Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
- H04N25/626—Reduction of noise due to residual charges remaining after image readout, e.g. to remove ghost images or afterimages
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Electromagnetism (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Optical Radar Systems And Details Thereof (AREA)
- Measurement Of Optical Distance (AREA)
Abstract
【課題】露光時間を適切に設定するとともにフレアの影響を抑制する。
【解決手段】第1測定と、第2測定とを行い、前記第1測定により得られた、前記電荷蓄積部のそれぞれに蓄積された電荷量に対応する画素信号に基づいて、前記被写体から調整対象物を選択し、前記第1測定における前記調整対象物に対応する前記画素の前記画素信号に基づいて、前記第2測定における前記積算回数を算出し、前記第1測定における前記調整対象物までの距離に基づいて、前記第2測定における、前記照射タイミングから前記蓄積タイミングまでの時間間隔に対応して定まる測定対象とする距離の最小値であるレンジシフト量を算出し、算出した前記積算回数及び前記レンジシフト量にて前記第2測定を行い、前記第1測定及び前記第2測定のそれぞれの測定に応じて得られた前記画素信号に基づいて距離画像を生成する。
【選択図】図1
【解決手段】第1測定と、第2測定とを行い、前記第1測定により得られた、前記電荷蓄積部のそれぞれに蓄積された電荷量に対応する画素信号に基づいて、前記被写体から調整対象物を選択し、前記第1測定における前記調整対象物に対応する前記画素の前記画素信号に基づいて、前記第2測定における前記積算回数を算出し、前記第1測定における前記調整対象物までの距離に基づいて、前記第2測定における、前記照射タイミングから前記蓄積タイミングまでの時間間隔に対応して定まる測定対象とする距離の最小値であるレンジシフト量を算出し、算出した前記積算回数及び前記レンジシフト量にて前記第2測定を行い、前記第1測定及び前記第2測定のそれぞれの測定に応じて得られた前記画素信号に基づいて距離画像を生成する。
【選択図】図1
Description
本発明は、距離画像撮像装置、及び距離画像撮像方法に関する。
光の速度が既知であることを利用し、測定空間における光の飛行時間に基づいて測定器と対象物との距離を測定する、タイム・オブ・フライト(Time of Flight、以下「TOF」という)方式の距離画像撮像装置が実現されている(例えば、特許文献1参照)。このような距離画像撮像装置では、パルス状の近赤外光である光パルスを照射した時点から被写体に反射した光パルスが戻ってくるまでの遅延時間を光電変換素子が発生した電荷を複数の電荷蓄積部に蓄積させることによって求め、遅延時間と光速とを用いて被写体までの距離を計算する。
このような距離画像撮像装置を用いて距離を精度よく算出するためには、ノイズに対する信号の割合(SN比)を大きくすることが求められる。SN比を高めるためには、露光時間を長くすることが有用である。しかし、近距離にある被写体や高反射率を有する被写体が測定対象である撮像エリアに存在する場合、反射光の光量が大きく、露光時間を長くすると電荷蓄積部に蓄積させた電荷量が上限を超過して画素信号が飽和し、距離を算出することができなくなってしまう。この対策として、撮像環境に合わせて、画素信号が飽和しない範囲で、できるだけ露光時間を長くできるように、自動的に露光時間を調整するAE(Auto Exposure)の技術がある。
一方、距離画像撮像装置では、近距離にある被写体から到来する反射光の光量が大きいことに起因してフレアが発生する場合があり、このフレアにより距離測定の精度が低下する場合があった。ここで、フレアとは、近距離にある被写体からの反射光が、センサ表面で再反射し、レンズ-センサ間に乱反射が発生し、特に遠距離にある被写体までの距離精度を低下させるノイズが出現する現象である。
一方、距離画像撮像装置では、近距離にある被写体から到来する反射光の光量が大きいことに起因してフレアが発生する場合があり、このフレアにより距離測定の精度が低下する場合があった。ここで、フレアとは、近距離にある被写体からの反射光が、センサ表面で再反射し、レンズ-センサ間に乱反射が発生し、特に遠距離にある被写体までの距離精度を低下させるノイズが出現する現象である。
本発明は、上記問題を解決すべくなされたもので、その目的は、露光時間を適切に設定するとともにフレアの影響を抑制することができる距離画像撮像装置、及び距離画像撮像方法を提供することにある。
本発明の距離画像撮像装置は、測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素が二次元マトリクス状に複数配置された画素回路と、前記光パルスを照射する照射タイミングに同期させた所定の蓄積タイミングで前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、を備え、前記距離画像処理部は、第1測定と、第2測定とを行い、前記第1測定において、前記画素を、前記電荷蓄積部のそれぞれに電荷を蓄積させる処理を繰り返す積算回数が異なる少なくとも2つのグループに分類し、それぞれのグループの前記積算回数にて前記電荷蓄積部のそれぞれに電荷が蓄積されるように駆動するeoHDR(even odd High Dynamic Range)駆動を行い、前記第1測定により得られた、前記電荷蓄積部のそれぞれに蓄積された電荷量に対応する画素信号に基づいて、前記被写体から調整対象物を選択し、前記第1測定における前記調整対象物に対応する前記画素の前記画素信号に基づいて、前記第2測定における前記積算回数を算出し、前記第1測定における前記調整対象物までの距離に基づいて、前記第2測定における、前記照射タイミングから前記蓄積タイミングまでの時間間隔に対応して定まる測定対象とする距離の最小値であるレンジシフト量を算出し、算出した前記積算回数及び前記レンジシフト量にて前記第2測定を行い、前記第1測定及び前記第2測定のそれぞれの測定に応じて得られた前記画素信号に基づいて距離画像を生成する。
本発明の距離画像撮像方法は、測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素が二次元マトリクス状に複数配置された画素回路と、前記光パルスを照射する照射タイミングに同期させた所定の蓄積タイミングで前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、を備える距離画像撮像装置が行う距離画像撮像方法であって、前記距離画像処理部は、第1測定と、第2測定とを行い、前記第1測定において、前記画素を、前記電荷蓄積部のそれぞれに電荷を蓄積させる処理を繰り返す積算回数が異なる少なくとも2つのグループに分類し、それぞれのグループの前記積算回数にて前記電荷蓄積部のそれぞれに電荷が蓄積されるように駆動するeoHDR(even odd High Dynamic Range)駆動を行い、前記第1測定により得られた、前記電荷蓄積部のそれぞれに蓄積された電荷量に対応する画素信号に基づいて、前記被写体から調整対象物を選択し、前記第1測定における前記調整対象物に対応する前記画素の前記画素信号に基づいて、前記第2測定における前記積算回数を算出し、前記第1測定における前記調整対象物までの距離に基づいて、前記第2測定における、前記照射タイミングから前記蓄積タイミングまでの時間間隔に対応して定まる測定対象とする距離の最小値であるレンジシフト量を算出し、算出した前記積算回数及び前記レンジシフト量にて前記第2測定を行い、前記第1測定及び前記第2測定のそれぞれの測定に応じて得られた前記画素信号に基づいて距離画像を生成する。
本発明によれば、露光時間を適切に設定するとともにフレアの影響を抑制することができる。
以下、実施形態の距離画像撮像装置を、図面を参照しながら説明する。
図1は、実施形態の距離画像撮像装置の概略構成を示すブロック図である。距離画像撮像装置1は、例えば、光源部2と、受光部3と、距離画像処理部4とを備える。図1には、距離画像撮像装置1において距離を測定する対象物である被写体OBも併せて示している。
光源部2は、距離画像処理部4からの制御に応じて被写体OBに光パルスPOを照射する。光源部2は、例えば、垂直共振器面発光レーザー(VCSEL:Vertical Cavity Surface Emitting Laser)などの面発光型の半導体レーザーモジュールである。光源部2は、光源装置21と、拡散板22とを備える。
光源装置21は、被写体OBに照射する光パルスPOとなる近赤外の波長帯域(例えば、波長が850nm~940nmの波長帯域)のレーザー光を発光する光源である。光源装置21は、例えば、半導体レーザー発光素子である。光源装置21は、タイミング制御部41からの制御に応じて、パルス状のレーザー光を発光する。
拡散板22は、光源装置21が発光した近赤外の波長帯域のレーザー光を、被写体OBに照射する面の広さに拡散する光学部品である。拡散板22が拡散したパルス状のレーザー光が、光パルスPOとして出射され、被写体OBに照射される。
受光部3は、被写体OBに反射した光パルスPOの反射光RLを受光し、受光した反射光RLに応じた画素信号を出力する。受光部3は、レンズ31と、距離画像センサ32とを備える。
レンズ31は、入射した反射光RLを距離画像センサ32に導く光学レンズである。レンズ31は、入射した反射光RLを距離画像センサ32側に出射して、距離画像センサ32の受光領域に備えられた画素に受光(入射)させる。
距離画像センサ32は、撮像素子である。距離画像センサ32は、二次元マトリクス状に複数配置された画素を備える。距離画像センサ32のそれぞれの画素の中に、1つの光電変換素子と、この1つの光電変換素子に対応する複数の電荷蓄積部と、それぞれの電荷蓄積部に電荷を振り分ける構成要素とが設けられる。つまり、画素は、複数の電荷蓄積部に電荷を振り分けて蓄積させる振り分け構成の撮像素子である。
距離画像センサ32は、タイミング制御部41からの制御に応じて、光電変換素子が発生した電荷をそれぞれの電荷蓄積部に振り分ける。また、距離画像センサ32は、電荷蓄積部に振り分けられた電荷量に応じた画素信号を出力する。距離画像センサ32には、複数の画素が二次元の行列状に配置されており、それぞれの画素の対応する1フレーム分の画素信号を出力する。
ここで、図2を用いて、距離画像センサ32の構成について説明する。図2は、実施形態の距離画像撮像装置1に用いられる撮像素子(距離画像センサ32)の概略構成を示すブロック図である。
図2に示すように、距離画像センサ32は、例えば、複数の画素321が二次元マトリクス状に配置された受光領域320と、画素駆動回路322とを備える。画素駆動回路322は、例えば、振り分け動作を有した垂直走査回路323と、水平走査回路324と、画素信号処理回路325と、制御回路326とを備える。
受光領域320は、複数の画素321が二次元マトリクス状に配置された領域であって、図2では、8行8列に二次元の行列状に配置された例を示している。画素321は、受光した光量に相当する電荷を蓄積し、蓄積した電荷量に対応する蓄積信号を出力する。
制御回路326は、距離画像センサ32を統括的に制御する。制御回路326は、例えば、距離画像処理部4のタイミング制御部41からの指示に応じて、距離画像センサ32の構成要素の動作を制御する。なお、距離画像センサ32に備えた構成要素の制御は、タイミング制御部41が直接行う構成であってもよく、この場合、制御回路326を省略することも可能である。
垂直走査回路323は、制御回路326からの制御に応じて、受光領域320に配置された画素321を行ごとに制御する。垂直走査回路323は、画素321の電荷蓄積部CSそれぞれに蓄積された電荷量に応じた電圧信号を画素信号処理回路325に出力させる。例えば、垂直走査回路323は、光パルスPOの照射に同期させた蓄積タイミングにて光電変換素子により変換された電荷を画素321の電荷蓄積部それぞれに振り分けて蓄積させる。また、垂直走査回路323は、電荷蓄積部CSに電荷を蓄積させる蓄積期間とは異なる期間(例えば、読出期間)において光電変換素子により変換された電荷を電荷排出部(後述するドレインゲートトランジスタGD)から排出させる。
画素信号処理回路325は、制御回路326からの制御に応じて、それぞれの列の画素321から対応する垂直信号線に出力された電圧信号に対して、予め定めた信号処理(例えば、ノイズ抑圧処理やA/D変換処理など)を行う。
水平走査回路324は、制御回路326からの制御に応じて、画素信号処理回路325から出力される信号を、順次、時系列に出力させる。これにより、1フレーム分の蓄積信号が、距離画像処理部4に順次出力される。以下では、画素信号処理回路325がA/D変換処理を行い、蓄積信号がデジタル信号であるものとして説明する。
ここで、図3を用いて、画素321の構成について説明する。図3は、画素321の一例を示す回路図である。図3には、受光領域320内に配置された複数の画素321のうち、1つの画素321の構成の一例を示している。この図では、画素321が、4個の信号読出部RU(信号読出部RU1~RU4)を備えた例を示す。
画素321は、1個の光電変換素子PDと、ドレインゲートトランジスタGDと、対応する出力端子Oから電圧信号を出力する4個の信号読出部RUとを備える。信号読出部RUのそれぞれは、読み出しゲートトランジスタGと、フローティングディフュージョンFDと、電荷蓄積容量Cと、リセットトランジスタRTと、ソースフォロアトランジスタSFと、選択トランジスタSLとを備える。電荷蓄積部CSは、フローティングディフュージョンFDと電荷蓄積容量Cとによって構成される。
なお、図3において、4個の信号読出部RUの符号「RU」の後に、「1」から「4」の何れかの数字を付与することによって、それぞれの信号読出部RUを区別する。また、同様に、4個の信号読出部RUに備えたそれぞれの構成要素も、それぞれの信号読出部RUを表す数字を符号の後に示すことによって、それぞれの構成要素が対応する信号読出部RUを区別して表す。
画素321において、信号読出部RU1は、出力端子O1から電圧信号を出力する。信号読出部RU1は、読み出しゲートトランジスタG1と、フローティングディフュージョンFD1と、電荷蓄積容量C1と、リセットトランジスタRT1と、ソースフォロアトランジスタSF1と、選択トランジスタSL1とを備える。電荷蓄積部CS1は、フローティングディフュージョンFD1と電荷蓄積容量C1とによって構成されている。信号読出部RU2~RU4も同様の構成である。
光電変換素子PDは、入射した光を光電変換して、入射した光の強度に応じた電荷を発生させ、発生させた電荷を蓄積する埋め込み型のフォトダイオードである。光電変換素子PDの構造は任意であってよい。光電変換素子PDは、例えば、P型半導体とN型半導体とを接合した構造のPNフォトダイオードであってもよいし、P型半導体とN型半導体との間にI型半導体を挟んだ構造のPINフォトダイオードであってもよい。また、光電変換素子PDは、フォトダイオードに限定されるものではなく、例えば、フォトゲート方式の光電変換素子であってもよい。
ドレインゲートトランジスタGDは、光電変換素子PDに発生した電荷を破棄するためのトランジスタである。ドレインゲートトランジスタGDは、画素駆動回路322によりオン状態に制御されると、光電変換素子PDに発生した電荷を破棄する(すなわち、光電変換素子PDをリセットさせる)。
画素駆動回路322は、画素321を駆動し、光電変換素子PDが入射した光を光電変換して発生させた電荷を4個の電荷蓄積部CSのそれぞれに振り分け、振り分けられた電荷の電荷量に応じたそれぞれの電圧信号を、画素信号処理回路325に出力する。
例えば、画素駆動回路322は、画素321の駆動において、光パルスPOの照射タイミングに同期させて、電荷蓄積部CS1~CS4のそれぞれに対応する蓄積駆動信号TX1~TX4を順にオン状態に制御する。これによって、電荷蓄積部CSのそれぞれに対応する読み出しゲートトランジスタG1~G4を順に導通させ、対応する電荷蓄積部CSに電荷を振り分けて蓄積させる。これにより、電荷蓄積部CS1、CS2、CS3、CS4の順に、電荷が蓄積される。
なお、画素321は、図3に示すような、4個の信号読出部RUを備えた構成に限定されるものではなく、複数の信号読出部RUを備えた構成の画素であればよい。つまり、距離画像センサ32に配置される画素に備える信号読出部RU(電荷蓄積部CS)の数は、2個であってもよいし、3個であってもよいし、5個以上であってもよい。
また、図3では、電荷蓄積部CSが、フローティングディフュージョンFDと電荷蓄積容量Cとによって構成される一例を示した。しかし、電荷蓄積部CSは、少なくともフローティングディフュージョンFDによって構成されればよく、画素321が電荷蓄積容量Cを備えない構成であってもよい。
図1の説明に戻り、距離画像処理部4は、距離画像撮像装置1を制御し、被写体OBまでの距離を算出する。距離画像処理部4は、タイミング制御部41と、距離演算部42と、測定制御部43とを備える。
タイミング制御部41は、測定制御部43の制御に応じて、測定に要する様々な制御信号を出力するタイミングを制御する。ここでの様々な制御信号とは、例えば、光パルスPOの照射を制御する信号、反射光RLを複数の電荷蓄積部に振り分けて蓄積させる信号、1フレームあたりの積算回数を制御する信号などである。
積算回数は、1フレームあたりの電荷蓄積部CS(図3参照)に電荷を振り分けて蓄積させる処理を繰り返す回数である。この積算回数と、電荷を振り分けて蓄積させる1回の処理で各電荷蓄積部に電荷を蓄積させる時間(蓄積時間)の積が、1フレームあたりの露光時間である。
積算回数は、1フレームあたりの電荷蓄積部CS(図3参照)に電荷を振り分けて蓄積させる処理を繰り返す回数である。この積算回数と、電荷を振り分けて蓄積させる1回の処理で各電荷蓄積部に電荷を蓄積させる時間(蓄積時間)の積が、1フレームあたりの露光時間である。
距離演算部42は、距離画像センサ32から出力された画素信号に基づいて、被写体OBまでの距離を演算した距離情報を出力する。距離演算部42は、複数の電荷蓄積部に蓄積された電荷量に基づいて、光パルスPOを照射してから反射光RLを受光するまでの遅延時間を算出する。距離演算部42は、算出した遅延時間に応じて被写体OBまでの距離を算出する。
距離演算部42は、例えば、以下の式(1)により、遅延時間Tdを算出する。なお、式(1)では、電荷蓄積部CS1及びCS2に蓄積される電荷量に含まれる、積算回数に依らない一定量の固定パターンノイズ(FPN、fixed pattern noise)の電荷量が電荷蓄積部CS3に蓄積された電荷量と同量であることを前提とする。
Td=To×(Q2-Q3)/(Q1+Q2-2×Q3) …(1)式
ただし、Toは光パルスPOが照射された期間である。
Q1は電荷蓄積部CS1に蓄積された電荷量である。
Q2は電荷蓄積部CS2に蓄積された電荷量である。
Q3は電荷蓄積部CS3に蓄積された電荷量である。
ただし、Toは光パルスPOが照射された期間である。
Q1は電荷蓄積部CS1に蓄積された電荷量である。
Q2は電荷蓄積部CS2に蓄積された電荷量である。
Q3は電荷蓄積部CS3に蓄積された電荷量である。
距離演算部42は、近距離受光画素においては、式(1)で求めた遅延時間Tdに、光速(速度)を乗算させることにより、被写体OBまでの往復の距離を算出する。そして、距離演算部42は、上記で算出した往復の距離を1/2とすることにより、被写体OBまでの距離を計測する。
測定制御部43は、タイミング制御部41を制御する。例えば、測定制御部43は、1フレームにおける積算回数及び蓄積時間を設定し、設定した内容で撮像が行われるようにタイミング制御部41を制御する。
このような構成によって、距離画像撮像装置1では、光源部2が被写体OBに照射した近赤外の波長帯域の光パルスPOが被写体OBによって反射された反射光RLを受光部3が受光し、距離画像処理部4が、被写体OBとの距離を算出し距離情報を出力する。
なお、図1においては、距離画像処理部4を距離画像撮像装置1の内部に備える構成の距離画像撮像装置1を示しているが、距離画像処理部4は、距離画像撮像装置1の外部に備える構成要素であってもよい。
本実施形態では、複数回の測定を行い、それぞれの測定で得られた距離画像を合成した合成画像を生成することによって被写体までの距離を測定する。以下では、第1測定と第2測定の2回の測定を行う場合を例示して説明する。
第1測定は、測定空間及び測定空間に存在する被写体OBの状況を含む測定環境を把握するために行う測定である。第1測定は、近距離から遠距離までの比較的広い範囲が測定範囲となるように画素321を駆動する。
距離画像撮像装置1は、例えば、第1測定として、eoHDR(even odd High Dynamic Range)駆動による駆動方法にて測定を行う。ここでのeoHDR駆動は、受光領域320にある画素群を複数のグループに分け、それぞれのグループで積算回数が異なるように画素321を駆動する駆動方法である。測定空間に近距離と遠距離の両方に被写体が存在する、或いは、同じような距離に反射率が高い被写体と低い被写体とが存在する状況下などにおいて両方の被写体を測定するために用いられるような駆動方法である。なお、eoHDR駆動を行う具体的な駆動方法については後で詳しく説明する。
距離画像撮像装置1は、例えば、第1測定として、eoHDR(even odd High Dynamic Range)駆動による駆動方法にて測定を行う。ここでのeoHDR駆動は、受光領域320にある画素群を複数のグループに分け、それぞれのグループで積算回数が異なるように画素321を駆動する駆動方法である。測定空間に近距離と遠距離の両方に被写体が存在する、或いは、同じような距離に反射率が高い被写体と低い被写体とが存在する状況下などにおいて両方の被写体を測定するために用いられるような駆動方法である。なお、eoHDR駆動を行う具体的な駆動方法については後で詳しく説明する。
また、距離画像撮像装置1は、第1測定に、上述したeoHDR駆動と、dHDR(depth High Dynamic Range)駆動による駆動方法を組み合わせた測定を行うようにしてもよい。ここでのdHDR駆動は、近距離にある被写体からの反射光RLを受光する回数に対し、遠距離にある被写体からの反射光RLを受光する回数が多くなるように画素321を駆動する駆動方法である。遠距離にある被写体から到来する反射光RLがより多く受光されるようにして、光量が減衰しても距離ノイズが相対的に増大することを抑制し、奥行き方向の測定精度を向上させる駆動方法である。なお、dHDR駆動を行う具体的な駆動方法については後で詳しく説明する。
第2測定は、調整対象物AOBまでの距離を精度よく算出することができるようにする測定である。調整対象物AOBは、第1測定による測定結果に基づき、測定空間に存在する被写体のうち、精度よく測距するターゲットとして選択した被写体である。例えば、距離画像撮像装置1が人物検知に用いられる場合、調整対象物AOBは測定対象の空間に存在する人間である。調整対象物AOBまでの距離を精度よく算出することで、人物などの検知対象までの距離を精度よく測定し検知精度を向上させることができる。
距離画像撮像装置1は、例えば、第2測定として、ノーマル駆動による駆動方法にて測定を行う。ここでのノーマル駆動は、画素321が具備する複数の電荷蓄積部CS1~CS4に順に電荷を蓄積させる駆動方法である。また、距離画像撮像装置1は、ノーマル駆動において、レンジシフト駆動を行う。レンジシフト駆動は、測定可能な範囲を移動(シフト)することである。例えば、本実施形態の距離画像撮像装置1において、レンジシフト量を0(ゼロ)に設定した場合、0[m]~8[m]が測定範囲であるとする。この場合、例えば、2[m]に相当するレンジシフト量を設定することにより、2[m]~10[m]が測定範囲である。なお、レンジシフト駆動する具体的な方法については後で詳しく説明する。
距離画像撮像装置1は、調整対象物AOBから到来する反射光RLを受光する画素321の電荷蓄積部CSに対応する、画素信号が飽和せず、且つ、しきい値以上の信号値となるSN比を確保できるように、第2測定の積算回数を算出する。
さらに、距離画像撮像装置1は、調整対象物AOBから到来する反射光RLを受光する画素321の電荷蓄積部CSが、フレアの影響を受けにくくなるようにレンジシフト量を算出する。
例えば、第1測定の結果、4mの距離にある被写体を調整対象物AOBとして選択したとする。この場合、レンジシフト量として0(ゼロ)を設定し、0[m]~8[m]を測定範囲とすれば調整対象物AOBを測定することができる。しかし、0[m]~2[m]程度の近距離に被写体が含まれている場合、近距離にある被写体からの反射光がフレアとなって調整対象物AOBまでの距離精度が低下する要因となり得る。
この対策として、本実施形態では、近距離にある被写体から到来する反射光を受光しない、つまり近距離にある被写体が測定範囲に含まれないようにレンジシフト量を設定する。例えば、距離画像撮像装置1は、4mの距離に調整対象物AOBがある場合、調整対象物AOBが動体である可能性を考慮しつつ近距離にある被写体が測定範囲に含まれないように、例えば、3[m]に相当するレンジシフト量を設定し、3[m]~11[m]を第2測定の測定範囲とする。
例えば、第1測定の結果、4mの距離にある被写体を調整対象物AOBとして選択したとする。この場合、レンジシフト量として0(ゼロ)を設定し、0[m]~8[m]を測定範囲とすれば調整対象物AOBを測定することができる。しかし、0[m]~2[m]程度の近距離に被写体が含まれている場合、近距離にある被写体からの反射光がフレアとなって調整対象物AOBまでの距離精度が低下する要因となり得る。
この対策として、本実施形態では、近距離にある被写体から到来する反射光を受光しない、つまり近距離にある被写体が測定範囲に含まれないようにレンジシフト量を設定する。例えば、距離画像撮像装置1は、4mの距離に調整対象物AOBがある場合、調整対象物AOBが動体である可能性を考慮しつつ近距離にある被写体が測定範囲に含まれないように、例えば、3[m]に相当するレンジシフト量を設定し、3[m]~11[m]を第2測定の測定範囲とする。
ここで、図4を用いて、距離画像撮像装置1が行う処理の流れを説明する。図4は、実施形態の距離画像撮像装置1が行う処理の流れを示すフロー図である。
まず、距離画像撮像装置1は、第1測定を行う(ステップS10)。距離画像撮像装置1は、少なくともeoHDR駆動による駆動方法を用いて第1測定を行う。距離画像撮像装置1は、eoHDR駆動と、dHDR駆動とのそれぞれの駆動方法を組み合わせて第1測定を行うようにしてもよい。
まず、距離画像撮像装置1は、第1測定を行う(ステップS10)。距離画像撮像装置1は、少なくともeoHDR駆動による駆動方法を用いて第1測定を行う。距離画像撮像装置1は、eoHDR駆動と、dHDR駆動とのそれぞれの駆動方法を組み合わせて第1測定を行うようにしてもよい。
次に、距離画像撮像装置1は、第1測定で得られた画素信号を用いて第1画像を生成する(ステップS11)。第1画像は、depth画像であってもよいし、IR(赤外線)画像であってもよいし、両方の画像であってもよく、少なくとも第1測定で得られた画素信号を用いて生成される画像であればよい。ここでのdepth画像は、距離画像のことであり、画素値として奥行き値(depth)が示された画像である。奥行き値は、(1)式を用いて算出することができる。また、ここでのIR画像は、画素値として画素321が受光した赤外線(光源装置21が照射した光パルス)の光量が示された画像である。
次に、距離画像撮像装置1は、第1距離画像に撮像された被写体から調整対象物AOBを選択する(ステップS12)。例えば、距離画像撮像装置1は、IR画像に画像処理技術を適用し、例えば画像における物体認識を行うことによって検知対象(例えば、人間などの動体)が検知された場合、その検知対象を調整対象物AOBとする。
次に、距離画像撮像装置1は、第2測定で用いる駆動パラメータの設定値を算出する(ステップS13)。ここでの駆動パラメータは、積算回数とレンジシフト量である。
距離画像撮像装置1は、ステップS12で選択した調整対象物AOBの画素値に基づき、調整対象物AOBに対応する画素321のそれぞれが受光した赤外線の光量を抽出する。距離画像撮像装置1は、抽出した光量のそれぞれに統計的な手法を用いて算出した代表値、例えば、最大値を、第1測定において受光された調整対象物AOBの反射光の光量として算出する。距離画像撮像装置1は、算出した光量と第1測定における積算回数とに基づいて、第2測定における駆動パラメータとしての積算回数を算出する。距離画像撮像装置1は、調整対象物AOBに対応する画素321の画素信号が飽和せず、且つ、しきい値以上の信号値となるSN比を確保できるように、第2測定の積算回数を算出する。
距離画像撮像装置1は、ステップS12で選択した調整対象物AOBの画素値に基づき、調整対象物AOBに対応する画素321のそれぞれが受光した赤外線の光量を抽出する。距離画像撮像装置1は、抽出した光量のそれぞれに統計的な手法を用いて算出した代表値、例えば、最大値を、第1測定において受光された調整対象物AOBの反射光の光量として算出する。距離画像撮像装置1は、算出した光量と第1測定における積算回数とに基づいて、第2測定における駆動パラメータとしての積算回数を算出する。距離画像撮像装置1は、調整対象物AOBに対応する画素321の画素信号が飽和せず、且つ、しきい値以上の信号値となるSN比を確保できるように、第2測定の積算回数を算出する。
また、距離画像撮像装置1は、ステップS12で選択した調整対象物AOBの画素値に基づき、第1測定で得られた画素信号に基づいて生成したdepth画像において、調整対象物AOBに対応する画素のそれぞれの奥行き値を算出する。距離画像撮像装置1は、算出した距離のそれぞれに統計的な手法を用いて算出した代表値、例えば、最頻値、平均値、最小値などを、調整対象物AOBまでの距離として算出する。距離画像撮像装置1は、算出した距離に基づいて、調整対象物AOBが測定可能な範囲に含まれ、且つ、フレアの要因となる近距離にある被写体から到来する反射光を受光しないように、第2測定のレンジシフト量を算出する。
次に、距離画像撮像装置1は、第2測定を行う(ステップS14)。距離画像撮像装置1は、ステップS13で算出した駆動パラメータにて第2測定を行う。距離画像撮像装置1は、第2測定で得られた画素信号を用いて第2画像を生成する(ステップS15)。第2画像は、depth画像(距離画像)である。距離画像撮像装置1は、第1画像と、第2画像を合成した合成画像を生成する(ステップS16)。合成画像の画素値(距離値)は被写体までの距離を示す。これにより、被写体までの距離を測定することができる。合成画像を生成する具体的な処理については後で詳しく説明する。
ここで、図5(図5A~図5D)を用いて、dHDR駆動について説明する。図5は、実施形態の距離画像撮像装置1が行う駆動方法としてのdHDR駆動を説明するための図である。
図5Aには、dHDR駆動による駆動方法で画素321を駆動したタイミングチャートの例が示されている。
この図において、「LI」、「G1」~「G4」、「GD」の各々の項目に対応する要素のタイミングチャートが示されている。「LI」は、光パルスPOの照射タイミングを示しており、オン状態にすると光が照射され、オフ状態にすると光が照射されない状態となる。「G1」~「G4」は、読み出しゲートトランジスタG1~G4の蓄積タイミングを示しており、オン状態にすると電荷が蓄積され、オフ状態にすると電荷が蓄積されない状態となる。「GD」は、ドレインゲートトランジスタGDの駆動タイミングを示しており、オン状態にすると電荷が排出され、オフ状態にすると電荷が排出されない状態となる。
図5Aには、dHDR駆動による駆動方法で画素321を駆動したタイミングチャートの例が示されている。
この図において、「LI」、「G1」~「G4」、「GD」の各々の項目に対応する要素のタイミングチャートが示されている。「LI」は、光パルスPOの照射タイミングを示しており、オン状態にすると光が照射され、オフ状態にすると光が照射されない状態となる。「G1」~「G4」は、読み出しゲートトランジスタG1~G4の蓄積タイミングを示しており、オン状態にすると電荷が蓄積され、オフ状態にすると電荷が蓄積されない状態となる。「GD」は、ドレインゲートトランジスタGDの駆動タイミングを示しており、オン状態にすると電荷が排出され、オフ状態にすると電荷が排出されない状態となる。
dHDR駆動では1フレームにおいて複数の駆動パターン(第1駆動パターン~第4駆動パターン)が実行される。
第1駆動パターンは、基準となる駆動パターンであり、照射タイミングに同期させた蓄積タイミングにて、4つの電荷蓄積部CSの全てに、順に、電荷を蓄積させる駆動パターンである。第1駆動パターンでは、光パルスPOを照射した照射タイミングと同じタイミングにて、ドレインゲートトランジスタGDをオフ状態にし、読み出しゲートトランジスタG1~G4を、順にオン状態とする。
具体的には、第1駆動パターンにおいて、タイミング制御部41は、画素駆動回路322を介して、照射タイミングにおいてドレインゲートトランジスタGDをオフ状態にすると共に読み出しゲートトランジスタG1をオン状態にする。読み出しゲートトランジスタG1をオン状態にしてから特定の蓄積時間(例えば、光パルスPOを照射した照射時間と同じ時間)が経過した後に読み出しゲートトランジスタG1をオフ状態にする。読み出しゲートトランジスタG1をオフ状態にしたタイミングで、読み出しゲートトランジスタG2をオン状態にする。読み出しゲートトランジスタG2をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG2をオフ状態にする。読み出しゲートトランジスタG2をオフ状態にしたタイミングで、読み出しゲートトランジスタG3をオン状態にする。読み出しゲートトランジスタG3をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG3をオフ状態にする。読み出しゲートトランジスタG3をオフ状態にしたタイミングで、読み出しゲートトランジスタG4をオン状態にする。読み出しゲートトランジスタG4をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG4をオフ状態にすると共に、ドレインゲートトランジスタGDをオン状態にする。
具体的には、第1駆動パターンにおいて、タイミング制御部41は、画素駆動回路322を介して、照射タイミングにおいてドレインゲートトランジスタGDをオフ状態にすると共に読み出しゲートトランジスタG1をオン状態にする。読み出しゲートトランジスタG1をオン状態にしてから特定の蓄積時間(例えば、光パルスPOを照射した照射時間と同じ時間)が経過した後に読み出しゲートトランジスタG1をオフ状態にする。読み出しゲートトランジスタG1をオフ状態にしたタイミングで、読み出しゲートトランジスタG2をオン状態にする。読み出しゲートトランジスタG2をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG2をオフ状態にする。読み出しゲートトランジスタG2をオフ状態にしたタイミングで、読み出しゲートトランジスタG3をオン状態にする。読み出しゲートトランジスタG3をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG3をオフ状態にする。読み出しゲートトランジスタG3をオフ状態にしたタイミングで、読み出しゲートトランジスタG4をオン状態にする。読み出しゲートトランジスタG4をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG4をオフ状態にすると共に、ドレインゲートトランジスタGDをオン状態にする。
第2駆動パターンは、照射タイミングに対する読み出しゲートトランジスタG1~G4の各々の蓄積タイミングを第1駆動パターンと同じタイミングとし、読み出しゲートトランジスタG1をオン状態にしない駆動パターンである。すなわち、第2駆動パターンは、第1駆動パターンに対して、読み出しゲートトランジスタG1に対応する電荷蓄積部CS1に、電荷を蓄積させない駆動パターンである。第2駆動パターンでは、このような、電荷蓄積部CS2~CS4に順に電荷を蓄積させる駆動を、予め決められた積算回数Nだけ繰り返し実行する。
具体的には、第2駆動パターンにおいて、タイミング制御部41は、画素駆動回路322を介して、照射タイミングから蓄積時間Toが経過した後に、ドレインゲートトランジスタGDをオフ状態にすると共に読み出しゲートトランジスタG2をオン状態にする。読み出しゲートトランジスタG2をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG2をオフ状態にする。読み出しゲートトランジスタG2をオフ状態にしたタイミングで、読み出しゲートトランジスタG3をオン状態にする。読み出しゲートトランジスタG3をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG3をオフ状態にする。読み出しゲートトランジスタG3をオフ状態にしたタイミングで、読み出しゲートトランジスタG4をオン状態にする。読み出しゲートトランジスタG4をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG4をオフ状態にすると共に、ドレインゲートトランジスタGDをオン状態にする。
具体的には、第2駆動パターンにおいて、タイミング制御部41は、画素駆動回路322を介して、照射タイミングから蓄積時間Toが経過した後に、ドレインゲートトランジスタGDをオフ状態にすると共に読み出しゲートトランジスタG2をオン状態にする。読み出しゲートトランジスタG2をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG2をオフ状態にする。読み出しゲートトランジスタG2をオフ状態にしたタイミングで、読み出しゲートトランジスタG3をオン状態にする。読み出しゲートトランジスタG3をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG3をオフ状態にする。読み出しゲートトランジスタG3をオフ状態にしたタイミングで、読み出しゲートトランジスタG4をオン状態にする。読み出しゲートトランジスタG4をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG4をオフ状態にすると共に、ドレインゲートトランジスタGDをオン状態にする。
第3駆動パターンは、照射タイミングに対する読み出しゲートトランジスタG1~G4の各々の蓄積タイミングを第1駆動パターンと同じタイミングとし、読み出しゲートトランジスタG1及びG2をオン状態にしない駆動パターンである。すなわち、第3駆動パターンは、第1駆動パターンに対して、読み出しゲートトランジスタG1及びG2に対応する電荷蓄積部CS1及びCS2に、電荷を蓄積させない駆動パターンである。第3駆動パターンでは、このような、電荷蓄積部CS3~CS4に順に電荷を蓄積させる駆動を第3蓄積期間とし、第3蓄積期間に対応する駆動を、予め決められた積算回数Nだけ繰り返し実行する。
具体的には、第3駆動パターンにおいて、タイミング制御部41は、画素駆動回路322を介して、照射タイミングから蓄積時間To×2だけ経過した後に、ドレインゲートトランジスタGDをオフ状態にすると共に読み出しゲートトランジスタG3をオン状態にする。読み出しゲートトランジスタG3をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG3をオフ状態にする。読み出しゲートトランジスタG3をオフ状態にしたタイミングで、読み出しゲートトランジスタG4をオン状態にする。読み出しゲートトランジスタG4をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG4をオフ状態にすると共に、ドレインゲートトランジスタGDをオン状態にする。
具体的には、第3駆動パターンにおいて、タイミング制御部41は、画素駆動回路322を介して、照射タイミングから蓄積時間To×2だけ経過した後に、ドレインゲートトランジスタGDをオフ状態にすると共に読み出しゲートトランジスタG3をオン状態にする。読み出しゲートトランジスタG3をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG3をオフ状態にする。読み出しゲートトランジスタG3をオフ状態にしたタイミングで、読み出しゲートトランジスタG4をオン状態にする。読み出しゲートトランジスタG4をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG4をオフ状態にすると共に、ドレインゲートトランジスタGDをオン状態にする。
第3駆動パターンを開始した時点から反射光受光時間Tthが経過した後に、第4駆動パターンが実施される。第4駆動パターンでは、電荷蓄積部CS1について2回、電荷蓄積部CS2について1回、それぞれ電荷を蓄積させる。
具体的には、第4駆動パターンにおいて、タイミング制御部41は、画素駆動回路322を介してドレインゲートトランジスタGDをオフ状態にすると共に読み出しゲートトランジスタG1をオン状態にする。読み出しゲートトランジスタG1をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG1をオフ状態にする。読み出しゲートトランジスタG1をオフ状態にしたタイミングで、読み出しゲートトランジスタG2をオン状態にする。読み出しゲートトランジスタG2をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG2をオフ状態にする。読み出しゲートトランジスタG2をオフ状態にしたタイミングで、読み出しゲートトランジスタG1をオン状態にする。読み出しゲートトランジスタG1をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG1をオフ状態にすると共に、ドレインゲートトランジスタGDをオン状態にする。
第4駆動パターンにおいて、光パルスPOを照射することなく固定パターンノイズのみに対応する電荷を蓄積させる。すなわち、第4駆動パターンでは、固定パターンノイズ成分のみを蓄積させる。これにより、画素321が備える全ての電荷蓄積部CSに、固定パターンノイズ成分に相当する電荷量が、同じ量だけ蓄積されるようにすることができる。
具体的には、第4駆動パターンにおいて、タイミング制御部41は、画素駆動回路322を介してドレインゲートトランジスタGDをオフ状態にすると共に読み出しゲートトランジスタG1をオン状態にする。読み出しゲートトランジスタG1をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG1をオフ状態にする。読み出しゲートトランジスタG1をオフ状態にしたタイミングで、読み出しゲートトランジスタG2をオン状態にする。読み出しゲートトランジスタG2をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG2をオフ状態にする。読み出しゲートトランジスタG2をオフ状態にしたタイミングで、読み出しゲートトランジスタG1をオン状態にする。読み出しゲートトランジスタG1をオン状態にしてから蓄積時間Toが経過した後に読み出しゲートトランジスタG1をオフ状態にすると共に、ドレインゲートトランジスタGDをオン状態にする。
第4駆動パターンにおいて、光パルスPOを照射することなく固定パターンノイズのみに対応する電荷を蓄積させる。すなわち、第4駆動パターンでは、固定パターンノイズ成分のみを蓄積させる。これにより、画素321が備える全ての電荷蓄積部CSに、固定パターンノイズ成分に相当する電荷量が、同じ量だけ蓄積されるようにすることができる。
dHDR駆動では、1サイクル周期において、画素321が備える電荷蓄積部CS1~CS4のそれぞれに反射光に対応する電荷を蓄積させる回数が異なる。近距離にある被写体NOBから到来する反射光RLの電荷を蓄積させる電荷蓄積部(例えば電荷蓄積部CS1)より、遠距離から到来する反射光RLの電荷を蓄積させる電荷蓄積部(例えば電荷蓄積部CS3、CS4)の方が、電荷を蓄積させる回数が多くなるように制御される。これにより、ノーマル駆動と比較して、奥行方向(depth方向)の距離ノイズを低減することができる。ノーマル駆動では、1フレームにおいて、図5Aの第1駆動パターンを繰り返し行う駆動方法である。
図5Bには、距離画像撮像装置1の測定空間に、距離が異なる複数の被写体、遠距離に存在する被写体FOBと、近距離に存在する被写体NOBが存在する例が模式的に示されている。
図5Cには、ノーマル駆動をして得られた距離画像MGの例が模式的に示されている。図5Cに示すように、ノーマル駆動では、遠距離にある被写体FOBの奥行き値の精度が低下し、距離ノイズNを抑制することが困難である。
図5Dには、dHDR駆動をして得られた距離画像MGの例が模式的に示されている。図5Dに示すように、dHDR駆動では、遠距離にある被写体FOBの奥行き値の精度がノーマル駆動よりも向上し、距離ノイズを抑制することができる。
図5Cには、ノーマル駆動をして得られた距離画像MGの例が模式的に示されている。図5Cに示すように、ノーマル駆動では、遠距離にある被写体FOBの奥行き値の精度が低下し、距離ノイズNを抑制することが困難である。
図5Dには、dHDR駆動をして得られた距離画像MGの例が模式的に示されている。図5Dに示すように、dHDR駆動では、遠距離にある被写体FOBの奥行き値の精度がノーマル駆動よりも向上し、距離ノイズを抑制することができる。
ここで、図6(図6A~図6E)を用いて、eoHDR駆動について説明する。図6は、実施形態の距離画像撮像装置1が行う駆動方法としてのeoHDR駆動を説明するための図である。
eoHDR駆動は、受光領域320に設けられた画素321のそれぞれを、少なくとも2つのグループに分類し、それぞれのグループの積算回数が異なる回数となるように駆動する駆動方法である。
反射率が異なる被写体が同じような距離に存在している測定環境の場合、高反射率を有する被写体から到来する反射光RLの強度が、低反射率を有する被写体から到来する反射光RLの強度がよりも大きい。このような測定環境では、積算回数が大きいと、高反射率を有する被写体に対応する画素信号が飽和し易くなり、飽和すると距離を測定することができない。一方、積算回数が小さいと、低反射率を有する被写体に対応する画素信号が小さい値となり、信号値と比較して相対的に大きいノイズが含まれ、測定精度が低下してしまう。この対策として、画素を2つのグループに分類し、それぞれのグループの積算回数が異なる回数となるように駆動する。
グループの分類として、例えば、受光領域320に二次元マトリクス状に配列された画素アレイにおける、水平方向において偶数行(even row)と、奇数行(odd row)とを用いることができる。この場合、偶数行(even row)に配列された画素群と、奇数行(odd row)に配列された画素群とで、1フレームあたりの積算回数が互いに異なる回数となるように駆動する。
eoHDR駆動とdHDR駆動とを組み合わせず、eoHDR駆動のみを単独で駆動させる場合、各ゲートの開閉タイミング(画素321に設けられた電荷蓄積部CSに電荷を蓄積させるタイミング)として、ノーマル駆動を採用することができる。
eoHDR駆動とdHDR駆動とを組み合わせて、eoHDR駆動を駆動させる場合、各ゲートの開閉タイミング(画素321に設けられた電荷蓄積部CSに電荷を蓄積させるタイミング)として、dHDR駆動を採用する。
eoHDR駆動は、受光領域320に設けられた画素321のそれぞれを、少なくとも2つのグループに分類し、それぞれのグループの積算回数が異なる回数となるように駆動する駆動方法である。
反射率が異なる被写体が同じような距離に存在している測定環境の場合、高反射率を有する被写体から到来する反射光RLの強度が、低反射率を有する被写体から到来する反射光RLの強度がよりも大きい。このような測定環境では、積算回数が大きいと、高反射率を有する被写体に対応する画素信号が飽和し易くなり、飽和すると距離を測定することができない。一方、積算回数が小さいと、低反射率を有する被写体に対応する画素信号が小さい値となり、信号値と比較して相対的に大きいノイズが含まれ、測定精度が低下してしまう。この対策として、画素を2つのグループに分類し、それぞれのグループの積算回数が異なる回数となるように駆動する。
グループの分類として、例えば、受光領域320に二次元マトリクス状に配列された画素アレイにおける、水平方向において偶数行(even row)と、奇数行(odd row)とを用いることができる。この場合、偶数行(even row)に配列された画素群と、奇数行(odd row)に配列された画素群とで、1フレームあたりの積算回数が互いに異なる回数となるように駆動する。
eoHDR駆動とdHDR駆動とを組み合わせず、eoHDR駆動のみを単独で駆動させる場合、各ゲートの開閉タイミング(画素321に設けられた電荷蓄積部CSに電荷を蓄積させるタイミング)として、ノーマル駆動を採用することができる。
eoHDR駆動とdHDR駆動とを組み合わせて、eoHDR駆動を駆動させる場合、各ゲートの開閉タイミング(画素321に設けられた電荷蓄積部CSに電荷を蓄積させるタイミング)として、dHDR駆動を採用する。
図6Aには、画素321を、2つのグループGr(グループGr1、Gr2)に分類した駆動したタイミングチャートの例が示されている。
図6Bには、距離画像撮像装置1の測定空間に、同じような距離に、反射率の異なる複数の被写体、高反射率を有する被写体HOBと、低反射率を有する被写体LOBが存在する例が模式的に示されている。
図6Cには、画素をグループ分けせず、比較的大きい積算回数で駆動した場合に得られた距離画像MGの例が模式的に示されている。この場合、高反射率を有する被写体HOBの画素信号が飽和し、高反射率を有する被写体HOBまでの距離を測定することができない。
図6Dには、画素をグループ分けせず、比較的小さい積算回数で駆動した場合に得られた距離画像MGの例が模式的に示されている。この場合、低反射率を有する被写体LOBの画素信号が小さい値となり、信号値と比較して相対的に大きいノイズが含まれ、低反射率を有する被写体LOBまでの距離の精度が低下する。
図6Eには、画素を2つのグループに分け、一方のグループは比較的大きい積算回数で駆動し、他方のグループは比較的小さい積算回数で駆動した場合に得られた距離画像MGの例が模式的に示されている。この場合、高反射率を有する被写体HOBの距離を測定することができ、且つ、低反射率を有する被写体LOBの測定精度の低下を抑制することができる。
図6Bには、距離画像撮像装置1の測定空間に、同じような距離に、反射率の異なる複数の被写体、高反射率を有する被写体HOBと、低反射率を有する被写体LOBが存在する例が模式的に示されている。
図6Cには、画素をグループ分けせず、比較的大きい積算回数で駆動した場合に得られた距離画像MGの例が模式的に示されている。この場合、高反射率を有する被写体HOBの画素信号が飽和し、高反射率を有する被写体HOBまでの距離を測定することができない。
図6Dには、画素をグループ分けせず、比較的小さい積算回数で駆動した場合に得られた距離画像MGの例が模式的に示されている。この場合、低反射率を有する被写体LOBの画素信号が小さい値となり、信号値と比較して相対的に大きいノイズが含まれ、低反射率を有する被写体LOBまでの距離の精度が低下する。
図6Eには、画素を2つのグループに分け、一方のグループは比較的大きい積算回数で駆動し、他方のグループは比較的小さい積算回数で駆動した場合に得られた距離画像MGの例が模式的に示されている。この場合、高反射率を有する被写体HOBの距離を測定することができ、且つ、低反射率を有する被写体LOBの測定精度の低下を抑制することができる。
ここで、図7(図7A~図7E)を用いて、レンジシフト駆動について説明する。図7は、実施形態の距離画像撮像装置1が行う駆動方法としてのレンジシフト駆動を説明するための図である。図7Aには、光パルスPOを照射する照射タイミングを基準とした、第1測定と第2測定のタイミングチャートが示されている。
この図において、第1測定と第2測定とは、ともにノーマル駆動により駆動する例が示されている。第1測定では、レンジシフト量に0(ゼロ)が設定されたノーマル駆動のタイミングチャートが示されており、第2測定では、レンジシフト量RSFTが設定されたノーマル駆動のタイミングチャートが示されている。
図7Aの上部に示すように、第1測定ではレンジシフト量に0(ゼロ)が設定されていることから、光パルスPOである照射光の照射タイミングと、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)の開閉タイミングとが同じタイミングとなるように制御される。具体的に、照射光の照射が開始されたタイミングである時間T1に、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)がHighに設定され、ゲートがオン状態に制御される。その後、照射光の照射が終了したタイミングで、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)がLowに設定され、ゲートがオフ状態に制御される。
一方、第2測定ではレンジシフト量にRSFTが設定されていることから、光パルスPOである照射光の照射タイミングに対し、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)の開閉タイミングが、レンジシフト量RSFTに相当する時間だけ遅延するように制御される。具体的に、照射光の照射が開始されたタイミングからレンジシフト量RSFTに相当する時間経過した時間T2に、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)がHighに設定され、ゲートがオン状態に制御される。照射光の照射が終了したタイミングからレンジシフト量RSFTに相当する時間経過した後、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)がLowに設定され、ゲートがオフ状態に制御される。
この図において、第1測定と第2測定とは、ともにノーマル駆動により駆動する例が示されている。第1測定では、レンジシフト量に0(ゼロ)が設定されたノーマル駆動のタイミングチャートが示されており、第2測定では、レンジシフト量RSFTが設定されたノーマル駆動のタイミングチャートが示されている。
図7Aの上部に示すように、第1測定ではレンジシフト量に0(ゼロ)が設定されていることから、光パルスPOである照射光の照射タイミングと、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)の開閉タイミングとが同じタイミングとなるように制御される。具体的に、照射光の照射が開始されたタイミングである時間T1に、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)がHighに設定され、ゲートがオン状態に制御される。その後、照射光の照射が終了したタイミングで、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)がLowに設定され、ゲートがオフ状態に制御される。
一方、第2測定ではレンジシフト量にRSFTが設定されていることから、光パルスPOである照射光の照射タイミングに対し、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)の開閉タイミングが、レンジシフト量RSFTに相当する時間だけ遅延するように制御される。具体的に、照射光の照射が開始されたタイミングからレンジシフト量RSFTに相当する時間経過した時間T2に、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)がHighに設定され、ゲートがオン状態に制御される。照射光の照射が終了したタイミングからレンジシフト量RSFTに相当する時間経過した後、電荷蓄積部CS1のゲート(読み出しゲートトランジスタG1)がLowに設定され、ゲートがオフ状態に制御される。
図7B及び図7Dには、距離画像撮像装置1の測定空間に、距離が異なる複数の被写体、遠距離に存在する被写体FOBと、近距離に存在する被写体NOBが存在する例が模式的に示されている。
図7Bでは、レンジシフト量に0(ゼロ)が設定された場合における測定可能な距離範囲である測距レンジMR1が示されている。この図において、測距レンジMR1は、1[m]~3[m]である。レンジシフト量に0(ゼロ)が設定されている場合、約4[m]の距離に存在する被写体FOBは測距レンジMR1に含まれない。
図7Cには、レンジシフト量に0(ゼロ)が設定されている場合における距離画像MGの例が示されている。図7Cに示すように、レンジシフト量に0(ゼロ)が設定されている場合、距離画像MGは、被写体NOBの距離のみが示された画像となり、被写体FOBまでの距離は示されていない画像となる。
図7Dでは、レンジシフト量RSFTが設定された場合における測定可能な距離範囲である測距レンジMR2が示されている。この図において、測距レンジMR2は、3[m]~5[m]である。レンジシフト量RSFTが設定されている場合、約1[m]の距離に存在する被写体NOBは測距レンジMR2に含まれない。
図7Eには、レンジシフト量RSFTが設定されている場合における距離画像MGの例が示されている。図7Eに示すように、レンジシフト量RSFTが設定されている場合、距離画像MGは、被写体FOBの距離のみが示された画像となり、被写体NOBまでの距離は示されていない画像となる。
図7Bでは、レンジシフト量に0(ゼロ)が設定された場合における測定可能な距離範囲である測距レンジMR1が示されている。この図において、測距レンジMR1は、1[m]~3[m]である。レンジシフト量に0(ゼロ)が設定されている場合、約4[m]の距離に存在する被写体FOBは測距レンジMR1に含まれない。
図7Cには、レンジシフト量に0(ゼロ)が設定されている場合における距離画像MGの例が示されている。図7Cに示すように、レンジシフト量に0(ゼロ)が設定されている場合、距離画像MGは、被写体NOBの距離のみが示された画像となり、被写体FOBまでの距離は示されていない画像となる。
図7Dでは、レンジシフト量RSFTが設定された場合における測定可能な距離範囲である測距レンジMR2が示されている。この図において、測距レンジMR2は、3[m]~5[m]である。レンジシフト量RSFTが設定されている場合、約1[m]の距離に存在する被写体NOBは測距レンジMR2に含まれない。
図7Eには、レンジシフト量RSFTが設定されている場合における距離画像MGの例が示されている。図7Eに示すように、レンジシフト量RSFTが設定されている場合、距離画像MGは、被写体FOBの距離のみが示された画像となり、被写体NOBまでの距離は示されていない画像となる。
ここで、図8、図9(図9A~図9C)、図10(図10A~図10C)、及び図11(図11A~図11C)を用いて、第2測定における積算回数を算出する処理を説明する。図8~図11は、実施形態の距離画像撮像装置1が行う積算回数を算出する処理を説明するための図である。
図8には、距離画像撮像装置1の測定空間における調整対象物AOBの位置が模式的に示されている。この図において、測距レンジMRは、複数のタイムウィンドウTW(タイムウィンドウTW1~TW3)に区分される。
タイムウィンドウTW1は、近距離の区分であり、光パルスPOの照射タイミングに対して比較的早いタイミングで電荷を蓄積する電荷蓄積部CS、例えば電荷蓄積部CS1及びCS2に、反射光RLに対応する電荷が蓄積された場合における測定範囲である。
タイムウィンドウTW2は、中距離の区分であり、光パルスPOの照射タイミングに対して中程度のタイミングで電荷を蓄積する電荷蓄積部CS、例えば電荷蓄積部CS2及びCS3に、反射光RLに対応する電荷が蓄積された場合における測定範囲である。
タイムウィンドウTW3は、遠距離の区分であり、光パルスPOの照射タイミングに対して比較的遅いタイミングで電荷を蓄積する電荷蓄積部CS、例えば電荷蓄積部CS3及びCS4に、反射光RLに対応する電荷が蓄積された場合における測定範囲である。
この図において、第1測定を行った結果、タイムウィンドウTW2に相当する中距離の区分にある被写体を調整対象物AOBとして選択したことが示されている。
タイムウィンドウTW1は、近距離の区分であり、光パルスPOの照射タイミングに対して比較的早いタイミングで電荷を蓄積する電荷蓄積部CS、例えば電荷蓄積部CS1及びCS2に、反射光RLに対応する電荷が蓄積された場合における測定範囲である。
タイムウィンドウTW2は、中距離の区分であり、光パルスPOの照射タイミングに対して中程度のタイミングで電荷を蓄積する電荷蓄積部CS、例えば電荷蓄積部CS2及びCS3に、反射光RLに対応する電荷が蓄積された場合における測定範囲である。
タイムウィンドウTW3は、遠距離の区分であり、光パルスPOの照射タイミングに対して比較的遅いタイミングで電荷を蓄積する電荷蓄積部CS、例えば電荷蓄積部CS3及びCS4に、反射光RLに対応する電荷が蓄積された場合における測定範囲である。
この図において、第1測定を行った結果、タイムウィンドウTW2に相当する中距離の区分にある被写体を調整対象物AOBとして選択したことが示されている。
本実施形態では、第1測定を行った結果に基づいて、調整対象物AOBから到来する反射光RLに対応する電荷が、飽和することなく、且つ、しきい値以上、電荷蓄積部CSに蓄積されるように、第2測定における積算回数を設定する。積算回数を算出するパターンとして、4つのパターンPTN(パターンPTN1~PTN4)を想定している。パターンPTN1は、調整対象物AOBまでの距離値がタイムウィンドウTW1に区分されるパターンである。パターンPTN2は、調整対象物AOBまでの距離値がタイムウィンドウTW2に区分されるパターンである。パターンPTN3は、調整対象物AOBまでの距離値がタイムウィンドウTW3に区分されるパターンである。パターンPTN4は、調整対象物AOBが検出されなかったパターンである。
図9~図11には、パターンPTN1~PTN3のそれぞれのパターンにおいて第2測定で用いる積算回数を算出する処理を説明するための図が示されている。
ここでは、電荷蓄積部CSの電荷蓄積量に対応する画素信号の飽和レベルは、4000LSBであることを前提とする。また、第1測定においてeoHDR駆動とdHDR駆動とを組み合わせた駆動を行い、第2測定においてノーマル駆動を行うことを前提とする。
また、第1測定のdHDR駆動における、各ゲートの開閉回数(1フレームにおいて各電荷蓄積部CSに反射光を蓄積させる回数)の比は、以下の(2)式で示される。
ここでは、電荷蓄積部CSの電荷蓄積量に対応する画素信号の飽和レベルは、4000LSBであることを前提とする。また、第1測定においてeoHDR駆動とdHDR駆動とを組み合わせた駆動を行い、第2測定においてノーマル駆動を行うことを前提とする。
また、第1測定のdHDR駆動における、各ゲートの開閉回数(1フレームにおいて各電荷蓄積部CSに反射光を蓄積させる回数)の比は、以下の(2)式で示される。
Gk1:Gk2:Gk3:Gk4=1:2:3:3 …(2)式
但し、
Gk1は、1フレームにおいて電荷蓄積部CS1に反射光を蓄積させる回数である。
Gk2は、1フレームにおいて電荷蓄積部CS2に反射光を蓄積させる回数である。
Gk3は、1フレームにおいて電荷蓄積部CS3に反射光を蓄積させる回数である。
Gk4は、1フレームにおいて電荷蓄積部CS4に反射光を蓄積させる回数である。
但し、
Gk1は、1フレームにおいて電荷蓄積部CS1に反射光を蓄積させる回数である。
Gk2は、1フレームにおいて電荷蓄積部CS2に反射光を蓄積させる回数である。
Gk3は、1フレームにおいて電荷蓄積部CS3に反射光を蓄積させる回数である。
Gk4は、1フレームにおいて電荷蓄積部CS4に反射光を蓄積させる回数である。
図9には、パターンPTN1において、第2測定で用いる積算回数を算出する処理を説明するための図が示されている。
図9Aには、Sub0(第1測定)における測定結果の例が示されている。この図において、Even(第1グループ)における単位フレームあたりの積算回数は10000回である。Odd(第2グループ)における単位フレームあたりの積算回数は1000回である。
第1グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、4000LSB、4000LSB、200LSB、200LSBである。このうち、電荷蓄積部CS1、CS2に蓄積された電荷量Q1、Q2に対応する画素信号である4000LSBは飽和(Saturation)した値であることが示されている。
第2グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、1200LSB、2200LSB、200LSB、200LSBである。
図9Aには、Sub0(第1測定)における測定結果の例が示されている。この図において、Even(第1グループ)における単位フレームあたりの積算回数は10000回である。Odd(第2グループ)における単位フレームあたりの積算回数は1000回である。
第1グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、4000LSB、4000LSB、200LSB、200LSBである。このうち、電荷蓄積部CS1、CS2に蓄積された電荷量Q1、Q2に対応する画素信号である4000LSBは飽和(Saturation)した値であることが示されている。
第2グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、1200LSB、2200LSB、200LSB、200LSBである。
図9Bには、Sub0(第1測定)における測定結果から、固定パターンノイズ(FPN)成分を減算するFPN減算処理を行い、ゲートの開閉回数に応じた正規化処理(Normalized)をした例が示されている。
ここでは、図9Aに示すように第1測定において、第1グループの画素信号が飽和している。このため、距離画像処理部4は、第2グループの画素における画素信号を用いて、FPN減算処理、及び正規化処理を行う。
距離画像処理部4は、図9Aに示す画素信号から固定パターンノイズ(FPN)成分は、200LSBと仮定する。この場合、第2グループにおいて、FPN減算処理後の画素信号(電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号)は、1000LSB、2000LSB、0LSB、0LSBである。これを、第1測定のdHDR駆動における各ゲートの開閉回数で正規化すると、電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号は、1000LSB、1000LSB、0LSB、0LSBである。
ここでは、図9Aに示すように第1測定において、第1グループの画素信号が飽和している。このため、距離画像処理部4は、第2グループの画素における画素信号を用いて、FPN減算処理、及び正規化処理を行う。
距離画像処理部4は、図9Aに示す画素信号から固定パターンノイズ(FPN)成分は、200LSBと仮定する。この場合、第2グループにおいて、FPN減算処理後の画素信号(電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号)は、1000LSB、2000LSB、0LSB、0LSBである。これを、第1測定のdHDR駆動における各ゲートの開閉回数で正規化すると、電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号は、1000LSB、1000LSB、0LSB、0LSBである。
図9Cには、Sub1(第2測定)における積算回数から予測される画素信号の値が示されている。
距離画像処理部4は、図9Bに示す正規化した画素信号に基づき、電荷量が飽和しない、つまり4000LSBを超えない範囲で、なるべく多く(例えば、しきい値3500LSB以上)の電荷が蓄積されるように積算回数を算出する。
ここで、距離画像処理部4は、後述するレンジシフト駆動により、調整対象物AOBから到来する反射光RLに対応する電荷の大部分が電荷蓄積部CS1に蓄積されることを前提に、電荷量が飽和しないように積算回数を算出する。
ここで、図9Bにおいて、電荷量Q1、Q2に対応する画素信号がそれぞれ1000LSBであり、積算回数1000回の駆動により反射光RLに対応する画素信号が合計2000LSB得られることが示されている。
この図において、距離画像処理部4は、積算回数を、1800回と算出している。これは、反射光RLに対応する画素信号の合計(2000LSB)が、1つの電荷蓄積部CS1に蓄積された場合に、飽和しない値(例えば、3600LSB)となるように、積算回数1800回(=3600LSB/2000LSB×1000回)と算出したものである。
この場合、電荷蓄積部CS1~CS4に蓄積されると予想される電荷量Q1~Q4に対応する画素信号は、3800LSB、200LSB、200LSB、200LSBである。これは、図9Aに示すように積算回数に依らない固定パターンノイズ(FPN)に相当する信号が200LSBであることから、電荷量Q1~Q4に対応する画素信号に、固定パターンノイズ(FPN)に相当する信号量200LSBを加算したものである。
距離画像処理部4は、図9Bに示す正規化した画素信号に基づき、電荷量が飽和しない、つまり4000LSBを超えない範囲で、なるべく多く(例えば、しきい値3500LSB以上)の電荷が蓄積されるように積算回数を算出する。
ここで、距離画像処理部4は、後述するレンジシフト駆動により、調整対象物AOBから到来する反射光RLに対応する電荷の大部分が電荷蓄積部CS1に蓄積されることを前提に、電荷量が飽和しないように積算回数を算出する。
ここで、図9Bにおいて、電荷量Q1、Q2に対応する画素信号がそれぞれ1000LSBであり、積算回数1000回の駆動により反射光RLに対応する画素信号が合計2000LSB得られることが示されている。
この図において、距離画像処理部4は、積算回数を、1800回と算出している。これは、反射光RLに対応する画素信号の合計(2000LSB)が、1つの電荷蓄積部CS1に蓄積された場合に、飽和しない値(例えば、3600LSB)となるように、積算回数1800回(=3600LSB/2000LSB×1000回)と算出したものである。
この場合、電荷蓄積部CS1~CS4に蓄積されると予想される電荷量Q1~Q4に対応する画素信号は、3800LSB、200LSB、200LSB、200LSBである。これは、図9Aに示すように積算回数に依らない固定パターンノイズ(FPN)に相当する信号が200LSBであることから、電荷量Q1~Q4に対応する画素信号に、固定パターンノイズ(FPN)に相当する信号量200LSBを加算したものである。
図10には、パターンPTN2において、第2測定で用いる積算回数を算出する処理を説明するための図が示されている。
図10Aには、Sub0(第1測定)における測定結果の例が示されている。この図において、Even(第1グループ)における単位フレームあたりの積算回数は10000回である。Odd(第2グループ)における単位フレームあたりの積算回数は1000回である。
第1グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、200LSB、2200LSB、3200LSB、200LSBである。
第2グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、200LSB、400LSB、500LSB、200LSBである。
図10Aには、Sub0(第1測定)における測定結果の例が示されている。この図において、Even(第1グループ)における単位フレームあたりの積算回数は10000回である。Odd(第2グループ)における単位フレームあたりの積算回数は1000回である。
第1グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、200LSB、2200LSB、3200LSB、200LSBである。
第2グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、200LSB、400LSB、500LSB、200LSBである。
図10Bには、Sub0(第1測定)における測定結果から、FPN減算処理を行い、ゲートの開閉回数に応じた正規化処理をした例が示されている。
ここでは、図10Aに示すように第1測定において、第1グループに属する画素の画素信号が飽和していない。このため、距離画像処理部4は、第1グループの画素における画素信号を用いて、FPN減算処理、及び正規化処理を行う。
距離画像処理部4は、図10Aに示す画素信号から固定パターンノイズ(FPN)成分は、200LSBと仮定する。この場合、第1グループにおいて、FPN減算処理後の画素信号(電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号)は、0LSB、2000LSB、3000LSB、0LSBである。これを、第1測定のdHDR駆動における各ゲートの開閉回数で正規化すると、電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号は、0LSB、1000LSB、1000LSB、0LSBである。
ここでは、図10Aに示すように第1測定において、第1グループに属する画素の画素信号が飽和していない。このため、距離画像処理部4は、第1グループの画素における画素信号を用いて、FPN減算処理、及び正規化処理を行う。
距離画像処理部4は、図10Aに示す画素信号から固定パターンノイズ(FPN)成分は、200LSBと仮定する。この場合、第1グループにおいて、FPN減算処理後の画素信号(電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号)は、0LSB、2000LSB、3000LSB、0LSBである。これを、第1測定のdHDR駆動における各ゲートの開閉回数で正規化すると、電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号は、0LSB、1000LSB、1000LSB、0LSBである。
図10Cには、Sub1(第2測定)における積算回数から予測される画素信号の値が示されている。
距離画像処理部4は、図10Bに示す正規化した画素信号に基づき、電荷量が飽和しない、つまり4000LSBを超えない範囲で、なるべく多く(例えば、しきい値3500LSB以上)の電荷が蓄積されるように積算回数を算出する。
ここで、距離画像処理部4は、後述するレンジシフト駆動により、調整対象物AOBから到来する反射光RLに対応する電荷の大部分が電荷蓄積部CS1に蓄積されることを前提に、電荷量が飽和しないように積算回数を算出する。
ここで、図10Bにおいて、電荷量Q2、Q3に対応する画素信号がそれぞれ1000LSBであり、積算回数10000回の駆動により反射光RLに対応する画素信号が合計2000LSB得られることが示されている。
この図において、距離画像処理部4は、積算回数を、18000回と算出している。これは、反射光RLに対応する画素信号の合計(2000LSB)が、1つの電荷蓄積部CS1に蓄積された場合に、飽和しない値(例えば、3600LSB)となるように、積算回数18000回(=3600LSB/2000LSB×10000回)と算出したものである。
この場合、電荷蓄積部CS1~CS4に蓄積されると予想される電荷量Q1~Q4に対応する画素信号は、3800LSB、200LSB、200LSB、200LSBである。これは、図10Aに示すように積算回数に依らない固定パターンノイズ(FPN)に相当する信号が200LSBであることから、電荷量Q1~Q4に対応する画素信号に、固定パターンノイズ(FPN)に相当する信号量200LSBを加算したものである。
距離画像処理部4は、図10Bに示す正規化した画素信号に基づき、電荷量が飽和しない、つまり4000LSBを超えない範囲で、なるべく多く(例えば、しきい値3500LSB以上)の電荷が蓄積されるように積算回数を算出する。
ここで、距離画像処理部4は、後述するレンジシフト駆動により、調整対象物AOBから到来する反射光RLに対応する電荷の大部分が電荷蓄積部CS1に蓄積されることを前提に、電荷量が飽和しないように積算回数を算出する。
ここで、図10Bにおいて、電荷量Q2、Q3に対応する画素信号がそれぞれ1000LSBであり、積算回数10000回の駆動により反射光RLに対応する画素信号が合計2000LSB得られることが示されている。
この図において、距離画像処理部4は、積算回数を、18000回と算出している。これは、反射光RLに対応する画素信号の合計(2000LSB)が、1つの電荷蓄積部CS1に蓄積された場合に、飽和しない値(例えば、3600LSB)となるように、積算回数18000回(=3600LSB/2000LSB×10000回)と算出したものである。
この場合、電荷蓄積部CS1~CS4に蓄積されると予想される電荷量Q1~Q4に対応する画素信号は、3800LSB、200LSB、200LSB、200LSBである。これは、図10Aに示すように積算回数に依らない固定パターンノイズ(FPN)に相当する信号が200LSBであることから、電荷量Q1~Q4に対応する画素信号に、固定パターンノイズ(FPN)に相当する信号量200LSBを加算したものである。
図11には、パターンPTN3において、第2測定で用いる積算回数を算出する処理を説明するための図が示されている。
図11Aには、Sub0(第1測定)における測定結果の例が示されている。この図において、Even(第1グループ)における単位フレームあたりの積算回数は10000回である。Odd(第2グループ)における単位フレームあたりの積算回数は1000回である。
第1グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、200LSB、200LSB、3200LSB、3200LSBである。
第2グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、200LSB、200LSB、500LSB、500LSBである。
図11Aには、Sub0(第1測定)における測定結果の例が示されている。この図において、Even(第1グループ)における単位フレームあたりの積算回数は10000回である。Odd(第2グループ)における単位フレームあたりの積算回数は1000回である。
第1グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、200LSB、200LSB、3200LSB、3200LSBである。
第2グループにおいて、電荷蓄積部CS1~CS4に蓄積された電荷量Q1~Q4に対応する画素信号は、200LSB、200LSB、500LSB、500LSBである。
図11Bには、Sub0(第1測定)における測定結果から、FPN減算処理を行い、ゲートの開閉回数に応じた正規化処理をした例が示されている。
ここでは、図11Aに示すように第1測定において、第1グループの画素信号が飽和していない。このため、距離画像処理部4は、第1グループの画素における画素信号を用いて、FPN減算処理、及び正規化処理を行う。
距離画像処理部4は、図11Aに示す画素信号から固定パターンノイズ(FPN)成分は、200LSBと仮定する。この場合、第1グループにおいて、FPN減算処理後の画素信号(電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号)は、0LSB、0LSB、3000LSB、3000LSBである。これを、第1測定のdHDR駆動における各ゲートの開閉回数で正規化すると、電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号は、0LSB、0LSB、1000LSB、1000LSBである。
ここでは、図11Aに示すように第1測定において、第1グループの画素信号が飽和していない。このため、距離画像処理部4は、第1グループの画素における画素信号を用いて、FPN減算処理、及び正規化処理を行う。
距離画像処理部4は、図11Aに示す画素信号から固定パターンノイズ(FPN)成分は、200LSBと仮定する。この場合、第1グループにおいて、FPN減算処理後の画素信号(電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号)は、0LSB、0LSB、3000LSB、3000LSBである。これを、第1測定のdHDR駆動における各ゲートの開閉回数で正規化すると、電荷蓄積部CS1~CS4に蓄積された反射光RLに対応する電荷量Q1~Q4に対応する画素信号は、0LSB、0LSB、1000LSB、1000LSBである。
図11Cには、Sub1(第2測定)における積算回数から予測される画素信号の値が示されている。
距離画像処理部4は、図11Bに示す正規化した画素信号に基づき、電荷量が飽和しない、つまり4000LSBを超えない範囲で、なるべく多く(例えば、しきい値3500LSB以上)の電荷が蓄積されるように積算回数を算出する。
ここで、距離画像処理部4は、後述するレンジシフト駆動により、調整対象物AOBから到来する反射光RLに対応する電荷の大部分が電荷蓄積部CS1に蓄積されることを前提に、電荷量が飽和しないように積算回数を算出する。
ここで、図11Bにおいて、電荷量Q3、Q4に対応する画素信号がそれぞれ1000LSBであり、積算回数10000回の駆動により反射光RLに対応する画素信号が合計2000LSB得られることが示されている。
この図において、距離画像処理部4は、積算回数を、18000回と算出している。これは、反射光RLに対応する画素信号の合計(2000LSB)が、1つの電荷蓄積部CS1に蓄積された場合に、飽和しない値(例えば、3600LSB)となるように、積算回数18000回(=3600LSB/2000LSB×10000回)と算出したものである。
この場合、電荷蓄積部CS1~CS4に蓄積されると予想される電荷量Q1~Q4に対応する画素信号は、3800LSB、200LSB、200LSB、200LSBである。
距離画像処理部4は、図11Bに示す正規化した画素信号に基づき、電荷量が飽和しない、つまり4000LSBを超えない範囲で、なるべく多く(例えば、しきい値3500LSB以上)の電荷が蓄積されるように積算回数を算出する。
ここで、距離画像処理部4は、後述するレンジシフト駆動により、調整対象物AOBから到来する反射光RLに対応する電荷の大部分が電荷蓄積部CS1に蓄積されることを前提に、電荷量が飽和しないように積算回数を算出する。
ここで、図11Bにおいて、電荷量Q3、Q4に対応する画素信号がそれぞれ1000LSBであり、積算回数10000回の駆動により反射光RLに対応する画素信号が合計2000LSB得られることが示されている。
この図において、距離画像処理部4は、積算回数を、18000回と算出している。これは、反射光RLに対応する画素信号の合計(2000LSB)が、1つの電荷蓄積部CS1に蓄積された場合に、飽和しない値(例えば、3600LSB)となるように、積算回数18000回(=3600LSB/2000LSB×10000回)と算出したものである。
この場合、電荷蓄積部CS1~CS4に蓄積されると予想される電荷量Q1~Q4に対応する画素信号は、3800LSB、200LSB、200LSB、200LSBである。
パターンPTN4において、調整対象物AOBが検出されなかった場合、距離画像処理部4は、第2測定に移行せず、調整対象物AOBが検出されるまで第1測定を繰り返し実行する。
ここで、図12(図12A~図12C)を用いて、レンジシフト量を算出する処理を説明する。図12は、実施形態の距離画像撮像装置1が行うレンジシフト量を算出する処理を説明するための図である。
図12Aには、図8と同様に、距離画像撮像装置1の測定空間における調整対象物AOBの位置が模式的に示されている。この図において、測距レンジMRは、約0[m]~8[m]の範囲であり、タイムウィンドウTW1~TW3のそれぞれは、0[m]~2.7[m]、2.7[m]~5.4[m]、5.4[m]~8.1[m]の範囲である。
また、この図において、第1測定を行った結果、タイムウィンドウTW2に相当する、約4[m]の距離にある被写体を調整対象物AOBとして選択したことが示されている。
図12Aには、図8と同様に、距離画像撮像装置1の測定空間における調整対象物AOBの位置が模式的に示されている。この図において、測距レンジMRは、約0[m]~8[m]の範囲であり、タイムウィンドウTW1~TW3のそれぞれは、0[m]~2.7[m]、2.7[m]~5.4[m]、5.4[m]~8.1[m]の範囲である。
また、この図において、第1測定を行った結果、タイムウィンドウTW2に相当する、約4[m]の距離にある被写体を調整対象物AOBとして選択したことが示されている。
図12Bには、反射光が受光される反射光タイミングと、第1測定と第2測定のタイミングチャートとの関係が示されている。この図において、第1測定の第1駆動パターンと、ノーマル駆動をした第2測定の例が示されている。
第1測定では、電荷蓄積部CS2及びCS3に、反射光RLに対応する電荷が蓄積されている。これに対し、第2測定では、電荷蓄積部CS1及びCS2に、反射光RLに対応する電荷が蓄積されるように、レンジシフト量RSFTを設定する。
第1測定では、電荷蓄積部CS2及びCS3に、反射光RLに対応する電荷が蓄積されている。これに対し、第2測定では、電荷蓄積部CS1及びCS2に、反射光RLに対応する電荷が蓄積されるように、レンジシフト量RSFTを設定する。
この場合において、反射光RLの大部分が電荷蓄積部CS1に蓄積されるように、レンジシフト量RSFTを設定したほうが、フレアを抑制するという観点において望ましい。
図12Cには、第2測定においてレンジシフト駆動を行うことにより、第1測定における測距レンジMR1から、第2測定における測距レンジMR2に、測定範囲が移動(シフト)した様子が模式的に示されている。
測距レンジMR1は約0[m]~8[m]の範囲であるのに対し、測距レンジMR2は約3[m]~11[m]の範囲である。
第1測定における、タイムウィンドウTW1~TW3のそれぞれは、0[m]~2.7[m]、2.7[m]~5.4[m]、5.4[m]~8.1[m]の範囲である。
これに対し、第2測定におけるタイムウィンドウTW1~TW3のそれぞれは、3[m]~5.7[m]、5.7[m]~8.4[m]、8.4[m]~11.1[m]の範囲である。
例えば、距離画像撮像装置1において、電荷蓄積部CSに電荷を蓄積させるタイミングを1[clk]遅らせた場合、約0.3[m]測定範囲が移動(シフト)すると仮定する。この場合、第2測定において、約3[m]、測定範囲を移動(シフト)させる場合には、レンジシフト量に対応するクロック数を10とする。これにより、(0.3[m/clk]×10[clk]=)3[m]測定範囲を移動(シフト)させることができる。
測距レンジMR1は約0[m]~8[m]の範囲であるのに対し、測距レンジMR2は約3[m]~11[m]の範囲である。
第1測定における、タイムウィンドウTW1~TW3のそれぞれは、0[m]~2.7[m]、2.7[m]~5.4[m]、5.4[m]~8.1[m]の範囲である。
これに対し、第2測定におけるタイムウィンドウTW1~TW3のそれぞれは、3[m]~5.7[m]、5.7[m]~8.4[m]、8.4[m]~11.1[m]の範囲である。
例えば、距離画像撮像装置1において、電荷蓄積部CSに電荷を蓄積させるタイミングを1[clk]遅らせた場合、約0.3[m]測定範囲が移動(シフト)すると仮定する。この場合、第2測定において、約3[m]、測定範囲を移動(シフト)させる場合には、レンジシフト量に対応するクロック数を10とする。これにより、(0.3[m/clk]×10[clk]=)3[m]測定範囲を移動(シフト)させることができる。
ここで、第1画像と、第2画像を合成した合成画像を生成する具体的な処理について説明する。
距離画像処理部4は、第2測定により得られた画素信号に基づいて、例えば、IR画像を生成し、生成したIR画像に画像処理技術を適用し、例えば画像における物体認識を行うことによって、第1測定において選択した調整対象物AOBを検知する。そして、第2測定により得られた画素信号に基づいて各画素の距離を算出し、算出した距離を画素ごと示す距離画像を、第2画像として生成する。
ここで、第2測定では、レンジシフト駆動を行うことから、近距離にある被写体までの距離は測定されず、第2画像において近距離にある被写体は撮像されない。このため、フレアによる距離精度の低下を抑制できる。つまり、第2画像において撮像されている調整対象物AOBにおける距離精度を向上させることができる。
距離画像処理部4は、第2測定により得られた画素信号に基づいて、例えば、IR画像を生成し、生成したIR画像に画像処理技術を適用し、例えば画像における物体認識を行うことによって、第1測定において選択した調整対象物AOBを検知する。そして、第2測定により得られた画素信号に基づいて各画素の距離を算出し、算出した距離を画素ごと示す距離画像を、第2画像として生成する。
ここで、第2測定では、レンジシフト駆動を行うことから、近距離にある被写体までの距離は測定されず、第2画像において近距離にある被写体は撮像されない。このため、フレアによる距離精度の低下を抑制できる。つまり、第2画像において撮像されている調整対象物AOBにおける距離精度を向上させることができる。
そして、距離画像処理部4は、合成画像を生成する。ここで合成する第1画像及び第2画像は、第1測定及び第2測定のそれぞれで得られた画素信号に基づいて生成したDepth画像であることを前提とする。
距離画像処理部4は、第2測定で距離が算出された画素(調整対象物AOB、及び調整対象物AOBより遠方にある被写体からの反射光を受光した画素)を、第1測定の画素に対して上書きすることによって、合成画像を生成する。第2測定で距離が算出されなかった画素(調整対象物AOBよりも近距離にある被写体からの反射光を受光した画素)については、第1測定で算出した距離を流用する。
ここで、第2測定では、第1測定に基づいて調整対象物AOBを測定するのに適切な積算回数が設定され、且つ、調整対象物AOBがフレアの影響を受け難くなるようにレンジシフト駆動をしている。このため、SN比を大きくし、且つ、フレアを抑制して測定精度を向上させることができる。また、レンジシフト駆動をすることで測距レンジを拡大することができる。
距離画像処理部4は、第2測定で距離が算出された画素(調整対象物AOB、及び調整対象物AOBより遠方にある被写体からの反射光を受光した画素)を、第1測定の画素に対して上書きすることによって、合成画像を生成する。第2測定で距離が算出されなかった画素(調整対象物AOBよりも近距離にある被写体からの反射光を受光した画素)については、第1測定で算出した距離を流用する。
ここで、第2測定では、第1測定に基づいて調整対象物AOBを測定するのに適切な積算回数が設定され、且つ、調整対象物AOBがフレアの影響を受け難くなるようにレンジシフト駆動をしている。このため、SN比を大きくし、且つ、フレアを抑制して測定精度を向上させることができる。また、レンジシフト駆動をすることで測距レンジを拡大することができる。
以上説明したように、第1実施形態の距離画像撮像装置1は、光源部2と受光部3と距離画像処理部4を備える。
距離画像処理部4は、第1測定を行い、第1測定により得られた画素信号(電荷蓄積部CSのそれぞれに蓄積された電荷量に対応する画素信号)に基づいて、被写体OBから調整対象物AOBを選択する。距離画像処理部4は、第1測定において、eoHDR駆動を行う。eoHDR駆動では、電荷蓄積部のCSそれぞれに電荷を蓄積させる処理を繰り返す積算回数が異なる少なくとも2つのグループに分類し、それぞれのグループの積算回数にて電荷蓄積部CSのそれぞれに電荷が蓄積されるように駆動する。距離画像処理部4は、第2測定を行う。距離画像処理部4は、第2測定において、第1測定における調整対象物AOBに対応する画素321の画素信号に基づいて、第2測定における積算回数、及び、レンジシフト量を算出する。距離画像処理部4は、算出した積算回数及びレンジシフト量にて、電荷蓄積部CSのそれぞれに電荷が蓄積されるように駆動する。距離画像処理部4は、第1測定及び第2測定のそれぞれの測定に応じて得られた画素信号に基づいて距離画像、例えば合成画像を生成する。
これにより、実施形態の距離画像撮像装置1では、第1測定に基づいて調整対象物AOBを測定するのに適切な積算回数が設定され、且つ、調整対象物AOBがフレアの影響を受け難くなるようにレンジシフト駆動をすることができる。このため、SN比を大きくし、且つ、フレアを抑制して測定精度を向上させることができる。
距離画像処理部4は、第1測定を行い、第1測定により得られた画素信号(電荷蓄積部CSのそれぞれに蓄積された電荷量に対応する画素信号)に基づいて、被写体OBから調整対象物AOBを選択する。距離画像処理部4は、第1測定において、eoHDR駆動を行う。eoHDR駆動では、電荷蓄積部のCSそれぞれに電荷を蓄積させる処理を繰り返す積算回数が異なる少なくとも2つのグループに分類し、それぞれのグループの積算回数にて電荷蓄積部CSのそれぞれに電荷が蓄積されるように駆動する。距離画像処理部4は、第2測定を行う。距離画像処理部4は、第2測定において、第1測定における調整対象物AOBに対応する画素321の画素信号に基づいて、第2測定における積算回数、及び、レンジシフト量を算出する。距離画像処理部4は、算出した積算回数及びレンジシフト量にて、電荷蓄積部CSのそれぞれに電荷が蓄積されるように駆動する。距離画像処理部4は、第1測定及び第2測定のそれぞれの測定に応じて得られた画素信号に基づいて距離画像、例えば合成画像を生成する。
これにより、実施形態の距離画像撮像装置1では、第1測定に基づいて調整対象物AOBを測定するのに適切な積算回数が設定され、且つ、調整対象物AOBがフレアの影響を受け難くなるようにレンジシフト駆動をすることができる。このため、SN比を大きくし、且つ、フレアを抑制して測定精度を向上させることができる。
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、eoHDR駆動に、dHDR駆動を組み合わせて、第1測定を行う。距離画像処理部4は、dHDR駆動として、画素321が具備する複数の電荷蓄積部CSのうち、電荷蓄積部CS1(近距離にある被写体から到来する反射光を受光する蓄積タイミングで電荷を蓄積する電荷蓄積部CS)より、電荷蓄積部CS3及びCS4(遠距離にある被写体から到来する反射光を受光する蓄積タイミングで電荷を蓄積する電荷蓄積部CS)のほうが、反射光を受光する回数が大きくなるように駆動する。これにより、実施形態の距離画像撮像装置1では、第1測定において、遠距離にある被写体から到来する反射光の光量を増加させることができ、SN比を大きくして相対的な距離ノイズのノイズ量を低減することができる。
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、第1測定において第1グループの画素信号が飽和状態にある場合、第2グループの画素信号を用いて、第2測定における積算回数を算出する。これにより、実施形態の距離画像撮像装置1では、第1グループの画素信号が飽和した場合でも、第2測定における積算回数を算出することができる。
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、第1測定において第1グループの画素信号が飽和状態にない場合、第1グループの画素信号を用いて、第2測定における積算回数を算出する。これにより、実施形態の距離画像撮像装置1では、第1測定において、よりSN比が大きい画素信号を用いて、精度よく、第2測定における積算回数を算出することができる。
また、実施形態の距離画像撮像装置1では、距離画像処理部4は、第2測定として、ノーマル駆動による測定を行う。距離画像処理部4は、電荷蓄積部CSのうち、最も早い蓄積タイミングで受光する電荷蓄積部CS1(第1電荷蓄積部)に、調整対象物AOBから到来する反射光が受光されるように、第2測定におけるレンジシフト量を算出する。これにより、実施形態の距離画像撮像装置1では、調整対象物AOBがフレアの影響を受け難くなるようにレンジシフト駆動をすることができる。ここで、距離画像処理部4は、電荷蓄積部CS1より、電荷蓄積部CS2の方が少ない電荷が蓄積されるように第2測定におけるレンジシフト量を算出するようにしてもよい。これにより、電荷蓄積部CS1調整対象物AOBから到来する反射光の大部分が受光されるようにすることができ、調整対象物AOBに対するフレアの影響をより低減させることができる。
上述した実施形態における距離画像撮像装置1、距離画像処理部4の全部または一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計、装置構成、補正処理やフィルタリング処理等も含まれる。
1…距離画像撮像装置
2…光源部
3…受光部
32…距離画像センサ
321…画素(画素回路)
323…垂直走査回路
4…距離画像処理部
41…タイミング制御部
42…距離演算部
43…測定制御部
CS…電荷蓄積部
PO…光パルス
2…光源部
3…受光部
32…距離画像センサ
321…画素(画素回路)
323…垂直走査回路
4…距離画像処理部
41…タイミング制御部
42…距離演算部
43…測定制御部
CS…電荷蓄積部
PO…光パルス
Claims (6)
- 測定空間に光パルスを照射する光源部と、
入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素が二次元マトリクス状に複数配置された画素回路と、前記光パルスを照射する照射タイミングに同期させた所定の蓄積タイミングで前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、
前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、
を備え、
前記距離画像処理部は、
第1測定と、第2測定とを行い、
前記第1測定において、前記画素を、前記電荷蓄積部のそれぞれに電荷を蓄積させる処理を繰り返す積算回数が異なる少なくとも2つのグループに分類し、それぞれのグループの前記積算回数にて前記電荷蓄積部のそれぞれに電荷が蓄積されるように駆動するeoHDR(even odd High Dynamic Range)駆動を行い、
前記第1測定により得られた、前記電荷蓄積部のそれぞれに蓄積された電荷量に対応する画素信号に基づいて、前記被写体から調整対象物を選択し、
前記第1測定における前記調整対象物に対応する前記画素の前記画素信号に基づいて、前記第2測定における前記積算回数を算出し、
前記第1測定における前記調整対象物までの距離に基づいて、前記第2測定における、前記照射タイミングから前記蓄積タイミングまでの時間間隔に対応して定まる測定対象とする距離の最小値であるレンジシフト量を算出し、
算出した前記積算回数及び前記レンジシフト量にて前記第2測定を行い、
前記第1測定及び前記第2測定のそれぞれの測定に応じて得られた前記画素信号に基づいて距離画像を生成する、
距離画像撮像装置。 - 前記距離画像処理部は、前記eoHDR駆動に、前記画素が具備する複数の前記電荷蓄積部のうち、近距離にある前記被写体から到来する反射光を受光する前記蓄積タイミングで電荷を蓄積する前記電荷蓄積部より、遠距離にある前記被写体から到来する反射光を受光する前記蓄積タイミングで電荷を蓄積する前記電荷蓄積部のほうが、反射光を受光する回数が大きくなるように駆動するdHDR(depth High Dynamic Range)駆動を組み合わせて、前記第1測定を行う、
請求項1に記載の距離画像撮像装置。 - 前記距離画像処理部は、前記第1測定において、前記積算回数が大きい第1グループにおける前記調整対象物に対応する前記画素から得られた前記画素信号である第1画素信号が電荷蓄積量の上限を超える飽和状態にある場合、前記積算回数が小さい第2グループにおける前記調整対象物に対応する前記画素から得られた前記画素信号である第2画素信号に基づいて、前記調整対象物に対応する前記画素の前記画素信号が飽和せず、且つ、しきい値以上の値となるように前記第2測定における前記積算回数を算出する、
請求項1に記載の距離画像撮像装置。 - 前記距離画像処理部は、前記第1測定において、前記積算回数が大きい第1グループにおける前記調整対象物に対応する前記画素から得られた前記画素信号である第1画素信号が電荷蓄積量の上限を超える飽和状態にない場合、前記第1画素信号に基づいて、前記調整対象物に対応する前記画素の前記画素信号が飽和せず、且つ、しきい値以上の値となるように前記第2測定における前記積算回数を算出する、
請求項1に記載の距離画像撮像装置。 - 前記距離画像処理部は、
前記第2測定として、前記画素が具備する複数の前記電荷蓄積部に順に電荷を蓄積させるノーマル駆動による測定を行い、
前記電荷蓄積部のうち最も早い前記蓄積タイミングで受光する第1電荷蓄積部に、前記調整対象物から到来する反射光が受光されるように、前記第2測定における前記レンジシフト量を算出する、
請求項1に記載の距離画像撮像装置。 - 測定空間に光パルスを照射する光源部と、入射した光に応じた電荷を発生する光電変換素子及び電荷を蓄積する複数の電荷蓄積部を具備する画素が二次元マトリクス状に複数配置された画素回路と、前記光パルスを照射する照射タイミングに同期させた所定の蓄積タイミングで前記電荷蓄積部のそれぞれに電荷を振り分けて蓄積させる画素駆動回路と、を有する受光部と、前記電荷蓄積部のそれぞれに蓄積された電荷量に基づいて、前記測定空間に存在する被写体までの距離を算出する距離画像処理部と、を備える距離画像撮像装置が行う距離画像撮像方法であって、
前記距離画像処理部は、
第1測定と、第2測定とを行い、
前記第1測定において、前記画素を、前記電荷蓄積部のそれぞれに電荷を蓄積させる処理を繰り返す積算回数が異なる少なくとも2つのグループに分類し、それぞれのグループの前記積算回数にて前記電荷蓄積部のそれぞれに電荷が蓄積されるように駆動するeoHDR(even odd High Dynamic Range)駆動を行い、
前記第1測定により得られた、前記電荷蓄積部のそれぞれに蓄積された電荷量に対応する画素信号に基づいて、前記被写体から調整対象物を選択し、
前記第1測定における前記調整対象物に対応する前記画素の前記画素信号に基づいて、前記第2測定における前記積算回数を算出し、
前記第1測定における前記調整対象物までの距離に基づいて、前記第2測定における、前記照射タイミングから前記蓄積タイミングまでの時間間隔に対応して定まる測定対象とする距離の最小値であるレンジシフト量を算出し、
算出した前記積算回数及び前記レンジシフト量にて前記第2測定を行い、
前記第1測定及び前記第2測定のそれぞれの測定に応じて得られた前記画素信号に基づいて距離画像を生成する、
距離画像撮像方法。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2024088938A JP2025181134A (ja) | 2024-05-31 | 2024-05-31 | 距離画像撮像装置、及び距離画像撮像方法 |
| US19/222,289 US20250370132A1 (en) | 2024-05-31 | 2025-05-29 | Distance image capturing device and distance image capturing method |
| CN202510704505.4A CN121049921A (zh) | 2024-05-31 | 2025-05-29 | 距离图像摄像装置及距离图像摄像方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2024088938A JP2025181134A (ja) | 2024-05-31 | 2024-05-31 | 距離画像撮像装置、及び距離画像撮像方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2025181134A true JP2025181134A (ja) | 2025-12-11 |
Family
ID=97812378
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2024088938A Pending JP2025181134A (ja) | 2024-05-31 | 2024-05-31 | 距離画像撮像装置、及び距離画像撮像方法 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US20250370132A1 (ja) |
| JP (1) | JP2025181134A (ja) |
| CN (1) | CN121049921A (ja) |
-
2024
- 2024-05-31 JP JP2024088938A patent/JP2025181134A/ja active Pending
-
2025
- 2025-05-29 US US19/222,289 patent/US20250370132A1/en active Pending
- 2025-05-29 CN CN202510704505.4A patent/CN121049921A/zh active Pending
Also Published As
| Publication number | Publication date |
|---|---|
| CN121049921A (zh) | 2025-12-02 |
| US20250370132A1 (en) | 2025-12-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7463671B2 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP7662987B2 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| WO2020178920A1 (ja) | 距離画像撮像装置および距離画像撮像装置による距離画像撮像方法 | |
| JP7604908B2 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP7739719B2 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP2025181134A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP7790260B2 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP2024082236A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| WO2023228981A1 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP7604907B2 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP2023147558A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP2024108115A (ja) | 距離画像撮像装置、距離画像撮像方法、及びプログラム | |
| JP7739709B2 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP2026020789A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP7848620B2 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP2024078837A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| US20240192335A1 (en) | Distance image capturing device and distance image capturing method | |
| WO2025033347A1 (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP2024084686A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| WO2026042824A1 (ja) | 距離画像撮像装置、距離画像センサ及び制御方法 | |
| JP2025089961A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| JP2023180900A (ja) | 距離画像撮像装置、及び距離画像撮像方法 | |
| CN119731556A (zh) | 距离图像摄像装置及距离图像摄像方法 | |
| JP2026063985A (ja) | 固体撮像素子、撮像装置、及び撮像方法 | |
| CN120201275A (zh) | 距离图像摄像装置以及距离图像摄像方法 |