Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7608353B2 - Imaging device, vehicle lighting device, vehicle, and imaging method - Google Patents
[go: Go Back, main page]

JP7608353B2 - Imaging device, vehicle lighting device, vehicle, and imaging method - Google Patents

Imaging device, vehicle lighting device, vehicle, and imaging method Download PDF

Info

Publication number
JP7608353B2
JP7608353B2 JP2021554333A JP2021554333A JP7608353B2 JP 7608353 B2 JP7608353 B2 JP 7608353B2 JP 2021554333 A JP2021554333 A JP 2021554333A JP 2021554333 A JP2021554333 A JP 2021554333A JP 7608353 B2 JP7608353 B2 JP 7608353B2
Authority
JP
Japan
Prior art keywords
image
unit
intensity distribution
light
restored
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021554333A
Other languages
Japanese (ja)
Other versions
JPWO2021079810A1 (en
Inventor
輝明 鳥居
祐太 春瀬
真太郎 杉本
健人 新田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koito Manufacturing Co Ltd
Original Assignee
Koito Manufacturing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koito Manufacturing Co Ltd filed Critical Koito Manufacturing Co Ltd
Publication of JPWO2021079810A1 publication Critical patent/JPWO2021079810A1/ja
Application granted granted Critical
Publication of JP7608353B2 publication Critical patent/JP7608353B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/24Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments for lighting other areas than only the way ahead
    • B60Q1/249Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments for lighting other areas than only the way ahead for illuminating the field of view of a sensor or camera
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Processing (AREA)

Description

本発明は、ゴーストイメージングを利用したイメージング装置に関する。 The present invention relates to an imaging device that utilizes ghost imaging.

自動運転やヘッドランプの配光の自動制御のために、車両の周囲に存在する物体の位置および種類をセンシングする物体識別システムが利用される。物体識別システムは、センサと、センサの出力を解析する演算処理装置を含む。センサは、カメラ、LiDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)、ミリ波レーダ、超音波ソナーなどの中から、用途、要求精度やコストを考慮して選択される。 For autonomous driving and automatic control of headlamp light distribution, an object identification system is used that senses the position and type of objects around the vehicle. The object identification system includes a sensor and a processing unit that analyzes the sensor output. The sensor is selected from cameras, LiDAR (Light Detection and Ranging, Laser Imaging Detection and Ranging), millimeter wave radar, ultrasonic sonar, etc., taking into consideration the application, required accuracy, and cost.

イメージング装置(センサ)のひとつとして、ゴーストイメージングの原理を利用したものが知られている。ゴーストイメージングは、参照光の強度分布(パターン)をランダムに切り替えながら物体に照射し、パターンごとに反射光の光検出強度を測定する。光検出強度はある平面にわたるエネルギーあるいは強度の積分値であり、強度分布ではない。そして、対応するパターンと光検出強度との相関計算を行い、物体の復元画像を再構成(reconstruct)する。 One type of imaging device (sensor) that is known is one that utilizes the principle of ghost imaging. Ghost imaging involves shining a reference light onto an object while randomly switching the intensity distribution (pattern) and measuring the optical detection intensity of the reflected light for each pattern. The optical detection intensity is the integral value of the energy or intensity over a certain plane, and is not an intensity distribution. Then, a correlation calculation is performed between the corresponding pattern and the optical detection intensity to reconstruct a restored image of the object.

特許第6412673号公報Patent No. 6412673

本発明者らは、イメージング装置について検討した結果、以下の課題を認識するに至った。ゴーストイメージングにおける相関には、式(1)の相関関数が用いられる。参照光のIはr番目(r=1,2…,M)の強度分布であり、bはr番目の強度分布を有する参照光を照射したときに得られる検出強度の値である。

Figure 0007608353000001
As a result of studying imaging devices, the inventors have come to recognize the following problem. For correlation in ghost imaging, the correlation function of formula (1) is used. Ir of the reference light is the r-th (r=1, 2..., M) intensity distribution, and br is the value of the detected intensity obtained when irradiating the reference light having the r-th intensity distribution.
Figure 0007608353000001

図1は、イメージング装置の1フレームのセンシングを示すタイムチャートである。式(1)から分かるように、相関計算には、M回の参照光の照射に対して得られるM個の検出強度b~bの平均値<b>が必要である。 1 is a time chart showing sensing of one frame by an imaging device. As can be seen from equation (1), the correlation calculation requires an average value <b> of M detection intensities b 1 to b M obtained by irradiating the reference light M times.

したがってM回の照射の完了後に、平均値<b>を算出して、相関計算を開始することとなる。ここで、光検出強度の測定には光検出器が用いられる。光検出器には、物体からの反射光(すなわち信号成分)に加えて、外乱光(すなわちノイズ成分)が入射する。外乱光の強度が、M回の照射を行う照射期間Tの間、一定であれば、ノイズの影響はキャンセルされる。ところが、外乱光の強度が照射期間Tの間に変動すると、ノイズの影響がキャンセルされないため、再構成した画像の画質が低下する。たとえば、イメージング装置を自動車などの移動体に搭載した場合に、ノイズ光源と移動体の距離が変化するような場合に、この問題が顕著となる。Therefore, after M irradiations are completed, the average value <b> is calculated and the correlation calculation begins. Here, a photodetector is used to measure the light detection intensity. In addition to the reflected light from the object (i.e., the signal component), disturbance light (i.e., the noise component) is incident on the photodetector. If the intensity of the disturbance light is constant during the irradiation period T during which M irradiations are performed, the effect of the noise is canceled. However, if the intensity of the disturbance light fluctuates during the irradiation period T, the effect of the noise is not canceled, and the image quality of the reconstructed image is reduced. For example, when the imaging device is mounted on a moving object such as an automobile, this problem becomes more pronounced when the distance between the noise light source and the moving object changes.

本発明は係る状況においてなされたものであり、そのある態様の例示的な目的のひとつは、時間的に変動するノイズに対する耐性を高めたイメージング装置の提供にある。The present invention has been made in light of this situation, and one exemplary objective of one aspect of the present invention is to provide an imaging device that has improved resistance to time-varying noise.

本発明のある態様はイメージング装置に関する。イメージング装置は、空間的にランダムな強度分布を有するM個(M≧2)の参照光を、シーケンシャルに切りかえて照射する照明装置と、物体からの反射光を測定する光検出器と、光検出器の出力にもとづく検出強度と参照光の強度分布の相関計算を行い、物体の復元画像を再構成する演算処理装置と、を備える。演算処理装置は、M個の参照光を複数k個(k≧2)のユニットに分割し、分割したユニットごとに相関計算を行って中間画像を生成し、k個のユニットについて得られたk個の中間画像を合成し、復元画像を生成する。One aspect of the present invention relates to an imaging device. The imaging device includes an illumination device that sequentially switches and irradiates M (M≧2) reference light beams having a spatially random intensity distribution, a photodetector that measures reflected light from an object, and a processor that performs correlation calculations between the detection intensity based on the output of the photodetector and the intensity distribution of the reference light beams to reconstruct a restored image of the object. The processor divides the M reference light beams into a plurality of k (k≧2) units, performs correlation calculations for each divided unit to generate intermediate images, and synthesizes the k intermediate images obtained for the k units to generate a restored image.

本発明の別の態様もまた、イメージング装置である。このイメージング装置は、空間的にランダムな強度分布を有するM個の参照光を、シーケンシャルに切りかえて照射する照明装置と、物体からの反射光を測定する光検出器と、光検出器の出力にもとづく検出強度と参照光の強度分布の相関計算を行い、物体の復元画像を再構成する演算処理装置と、を備える。演算処理装置は、n個(n≧2)の参照光を照射するたびに相関計算を行い中間画像を生成し、最新のk個(k≧2)の中間画像を合成して、復元画像を生成する。Another aspect of the present invention is also an imaging device. This imaging device includes an illumination device that sequentially switches between M reference light beams having a spatially random intensity distribution and irradiates the object, a photodetector that measures reflected light from the object, and a processor that performs correlation calculations between the detection intensity based on the output of the photodetector and the intensity distribution of the reference light beam and reconstructs a restored image of the object. The processor performs correlation calculations to generate an intermediate image each time n (n≧2) reference light beams are irradiated, and synthesizes the latest k (k≧2) intermediate images to generate a restored image.

本発明のある態様によれば、イメージング装置の時間的に変動するノイズに対する耐性を高めることができる。 According to one aspect of the present invention, it is possible to increase the tolerance of an imaging device to time-varying noise.

イメージング装置の1フレームのセンシングを示すタイムチャートである。4 is a time chart showing sensing of one frame by the imaging device. 実施の形態1に係るイメージング装置を示す図である。1 is a diagram showing an imaging device according to a first embodiment; イメージング装置の動作を説明するタイムチャートである。4 is a time chart illustrating the operation of the imaging apparatus. 図4(a)は、一括復元におけるノイズの影響を示す図であり、図4(b)は、分割復元におけるノイズの影響を示す図である。FIG. 4A is a diagram showing the effect of noise on collective restoration, and FIG. 4B is a diagram showing the effect of noise on divided restoration. 図5(a)は、ターゲット画像を、図5(b)は、ノイズが存在しないときの、一括復元と分割復元により得られる画像を示す図である。FIG. 5A shows a target image, and FIG. 5B shows images obtained by collective restoration and divided restoration when no noise is present. 線形ノイズが存在するときの、一括復元と分割復元により得られる復元画像G(x,y)を示す図である。FIG. 13 is a diagram showing a restored image G(x, y) obtained by collective restoration and divided restoration when linear noise is present. 実施の形態2に係るイメージング方法を説明する図である。11A to 11C are diagrams illustrating an imaging method according to a second embodiment. 物体識別システムのブロック図である。FIG. 1 is a block diagram of an object identification system. 物体識別システムを備える自動車のブロック図である。FIG. 1 is a block diagram of a vehicle equipped with an object identification system. 物体検出システムを備える車両用灯具を示すブロック図である。1 is a block diagram showing a vehicle lamp equipped with an object detection system;

(実施の形態の概要)
本明細書における「強度分布がランダム」とは、完全なランダムであることを意味するものではなく、ゴーストイメージングにおいて画像を再構築できる程度に、ランダムであればよい。したがって本明細書における「ランダム」は、その中にある程度の規則性を内包することができる。また「ランダム」は、予測不能であることを要求するものではなく、予想可能、再生可能であってもよい。
(Overview of the embodiment)
In this specification, "intensity distribution is random" does not mean that it is completely random, but it is sufficient that it is random to the extent that an image can be reconstructed in ghost imaging. Therefore, in this specification, "random" can include a certain degree of regularity. In addition, "random" does not require that it is unpredictable, but may be predictable and reproducible.

本明細書に開示される一実施の形態は、イメージング装置に関する。イメージング装置は、空間的にランダムな強度分布を有するM個(M≧2)の参照光を、シーケンシャルに切りかえて照射する照明装置と、物体からの反射光を測定する光検出器と、光検出器の出力にもとづく検出強度と参照光の強度分布の相関計算を行い、物体の復元画像を再構成する演算処理装置と、を備える。演算処理装置は、M個の参照光を複数k個(k≧2)のユニットに分割し、分割したユニットごとに相関計算を行って中間画像を生成し、k個のユニットについて得られたk個の中間画像を合成し、復元画像を生成する。One embodiment disclosed in this specification relates to an imaging device. The imaging device includes an illumination device that sequentially switches and irradiates M (M≧2) reference light beams having a spatially random intensity distribution, a photodetector that measures reflected light from an object, and a processor that performs correlation calculation between the detection intensity based on the output of the photodetector and the intensity distribution of the reference light beam to reconstruct a restored image of the object. The processor divides the M reference light beams into a plurality of k (k≧2) units, performs correlation calculation for each divided unit to generate an intermediate image, and synthesizes the k intermediate images obtained for the k units to generate a restored image.

相関計算をユニット単位に分割して行うことで、相関計算1回当たりのノイズ変化量を減らすことができ、復元精度を高めて画質を改善できる。また、M個の参照光の照射の完了を待たずに、相関計算を開始できるため、復元画像を生成するのに要する時間を短縮できる。By dividing the correlation calculation into units, the amount of noise change per correlation calculation can be reduced, increasing the restoration accuracy and improving image quality. In addition, the correlation calculation can be started without waiting for the completion of irradiation of M reference beams, which shortens the time required to generate a restored image.

各ユニットに含まれる参照光の個数はM/kであってもい。これにより信号処理を簡素化できる。The number of reference beams contained in each unit may be M/k, which simplifies signal processing.

ユニット数kは、動的に制御されてもよい。ノイズの変動速度やノイズの波形に応じて、最適なユニット数を選択することで、画質をより改善できる。The number of units k may be dynamically controlled. By selecting the optimal number of units depending on the noise fluctuation speed and noise waveform, image quality can be further improved.

ユニットごとの照射回数は、ユニットごとに異なっていてもよい。 The number of irradiations per unit may vary from unit to unit.

本明細書に開示される一実施の形態も、イメージング装置に関する。このイメージング装置は、空間的にランダムな強度分布を有するM個の参照光を、シーケンシャルに切りかえて照射する照明装置と、物体からの反射光を測定する光検出器と、光検出器の出力にもとづく検出強度と参照光の強度分布の相関計算を行い、物体の復元画像を再構成する演算処理装置と、を備える。演算処理装置は、n個(n≧2)の参照光を照射するたびに相関計算を行い中間画像を生成し、最新のk個(k≧2)の中間画像を合成して、復元画像を生成する。One embodiment disclosed in this specification also relates to an imaging device. This imaging device includes an illumination device that sequentially switches between M reference light beams having a spatially random intensity distribution and irradiates the object, a photodetector that measures reflected light from the object, and a processor that performs correlation calculation between the detection intensity based on the output of the photodetector and the intensity distribution of the reference light beam and reconstructs a restored image of the object. The processor performs correlation calculation every time n (n≧2) reference light beams are irradiated to generate an intermediate image, and synthesizes the latest k (k≧2) intermediate images to generate a restored image.

相関計算をユニット単位に分割して行うことで、相関計算1回当たりのノイズ変化量を減らすことができ、復元精度を高めて画質を改善できる。また、復元画像の更新速度(フレームレート)を高めることができる。By dividing the correlation calculation into units, the amount of noise change per correlation calculation can be reduced, improving the restoration accuracy and image quality. It also makes it possible to increase the update speed (frame rate) of the restored image.

(実施の形態)
以下、本発明を好適な実施の形態をもとに図面を参照しながら説明する。各図面に示される同一または同等の構成要素、部材、処理には、同一の符号を付するものとし、適宜重複した説明は省略する。また、実施の形態は、発明を限定するものではなく例示であって、実施の形態に記述されるすべての特徴やその組み合わせは、必ずしも発明の本質的なものであるとは限らない。
(Embodiment)
The present invention will be described below based on preferred embodiments with reference to the drawings. The same or equivalent components, parts, and processes shown in each drawing are given the same reference numerals, and duplicated descriptions are omitted as appropriate. In addition, the embodiments are illustrative rather than limiting the invention, and all features and combinations thereof described in the embodiments are not necessarily essential to the invention.

(実施の形態1)
図2は、実施の形態1に係るイメージング装置100を示す図である。イメージング装置100はゴーストイメージングの原理を用いた相関関数イメージセンサであり、照明装置110、光検出器120および演算処理装置130を備える。イメージング装置100を、量子レーダカメラとも称する。
(Embodiment 1)
2 is a diagram showing an imaging device 100 according to embodiment 1. The imaging device 100 is a correlation function image sensor that uses the principle of ghost imaging, and includes an illumination device 110, a photodetector 120, and a processor 130. The imaging device 100 is also called a quantum radar camera.

照明装置110は、疑似熱光源であり、実質的にランダムとみなしうる空間強度分布I(x,y)を有する参照光S1を生成し、物体OBJに照射する。参照光S1は、その強度分布を複数のM回、ランダムに変化させながらシーケンシャルに照射される。照射回数Mは、従来のイメージング方式(後述の一括復元)において、元の画像を復元しうる程度の回数である。The illumination device 110 is a pseudo-thermal light source that generates a reference light S1 having a spatial intensity distribution I(x,y) that can be considered substantially random, and irradiates the object OBJ. The reference light S1 is irradiated sequentially multiple times M times while randomly changing its intensity distribution. The number of irradiations M is the number of times that the original image can be restored using a conventional imaging method (batch restoration, described below).

照明装置110は、光源112、パターニングデバイス114およびパターン発生器132を含む。光源112は、均一な強度分布を有する光S0を生成する。光源112は、レーザや発光ダイオードなどを用いてもよい。参照光S1の波長やスペクトルは特に限定されず、複数のあるいは連続スペクトルを有する白色光であってもよいし、所定の波長を含む単色光であってもよい。参照光S1の波長は、赤外あるいは紫外であってもよい。The illumination device 110 includes a light source 112, a patterning device 114, and a pattern generator 132. The light source 112 generates light S0 having a uniform intensity distribution. The light source 112 may be a laser, a light-emitting diode, or the like. The wavelength and spectrum of the reference light S1 are not particularly limited, and may be white light having multiple or continuous spectra, or monochromatic light including a predetermined wavelength. The wavelength of the reference light S1 may be infrared or ultraviolet.

パターニングデバイス114は、マトリクス状に配置される複数の画素を有し、複数の画素のオン、オフの組み合わせにもとづいて、光の強度分布Iを空間的に変調可能に構成される。本明細書においてオン状態の画素をオン画素、オフ状態の画素をオフ画素という。なお、以下の説明では理解の容易化のために、各画素は、オンとオフの2値(1,0)のみをとるものとするがその限りでなく、中間的な階調をとってもよい。The patterning device 114 has a plurality of pixels arranged in a matrix, and is configured to be able to spatially modulate the light intensity distribution I based on a combination of on and off states of the plurality of pixels. In this specification, a pixel in the on state is called an on pixel, and a pixel in the off state is called an off pixel. In the following description, for ease of understanding, each pixel will only take on two values (1, 0), on and off, but this is not limited to the above and may take intermediate gradations.

パターニングデバイス114としては、反射型のDMD(Digital Micromirror Device)や透過型の液晶デバイスを用いることができる。パターニングデバイス114には、パターン発生器132が発生するパターン信号PTN(画像データ)が与えられている。A reflective DMD (Digital Micromirror Device) or a transmissive liquid crystal device can be used as the patterning device 114. The patterning device 114 is provided with a pattern signal PTN (image data) generated by a pattern generator 132.

パターン発生器132は、参照光S1の強度分布Iを指定するパターン信号PTNを発生し、時間とともにパターン信号PTNを切り替える(r=1,2,…M)。 The pattern generator 132 generates a pattern signal PTN_r that specifies the intensity distribution Ir of the reference beam S1, and switches the pattern signal PTN_r over time (r=1, 2, . . . M).

光検出器120は、物体OBJからの反射光を測定し、検出信号Dを出力する。検出信号Dは、強度分布Iを有する参照光を物体OBJに照射したときに、光検出器120に入射する光エネルギー(あるいは強度)の空間的な積分値である。したがって光検出器120は、シングルピクセルの光検出器(フォトディテクタ)を用いることができる。光検出器120からは、複数M通りの強度分布I~Iそれぞれに対応する複数の検出信号D~Dが出力される。 The photodetector 120 measures the reflected light from the object OBJ and outputs a detection signal D r . The detection signal D r is a spatial integral value of the light energy (or intensity) incident on the photodetector 120 when the object OBJ is irradiated with a reference light having an intensity distribution I r . Therefore, a single-pixel photodetector can be used as the photodetector 120. The photodetector 120 outputs a plurality of detection signals D 1 to D M corresponding to the plurality of M intensity distributions I 1 to I M, respectively.

演算処理装置130は、パターン発生器132と再構成処理部134を含む。再構成処理部134は、複数の強度分布(ランダムパターンともいう)I~Iと、複数の検出強度b~bの相関計算を行い、物体OBJの復元画像G(x,y)を再構成する。 The arithmetic processing device 130 includes a pattern generator 132 and a reconstruction processing unit 134. The reconstruction processing unit 134 performs correlation calculation between a plurality of intensity distributions (also called random patterns) I 1 to I M and a plurality of detection intensities b 1 to b M , and reconstructs a restored image G(x, y) of the object OBJ.

検出強度b~bは、検出信号D~Dにもとづいている。検出強度と検出信号の関係は、光検出器120の種類や方式などを考慮して定めればよい。 The detection intensities b 1 to b M are based on the detection signals D 1 to D M. The relationship between the detection intensities and the detection signals may be determined taking into consideration the type and method of the photodetector 120.

ある強度分布Iの参照光S1を、ある照射期間にわたり照射するとする。また検出信号Dは、ある時刻(あるいは微小時間)の受光量、すなわち瞬時値を表すとする。この場合、照射期間において検出信号Dを複数回サンプリングし、検出強度bを、検出信号Dの全サンプリング値の積分値、平均値あるいは最大値としてもよい。あるいは、全サンプリング値のうちのいくつかを選別し、選別したサンプリング値の積分値や平均値、最大値を用いてもよい。複数のサンプリング値の選別は、たとえば最大値から数えて序列x番目からy番目を抽出してもよいし、任意のしきい値より低いサンプリング値を除外してもよいし、信号変動の大きさが小さい範囲のサンプリング値を抽出してもよい。 It is assumed that a reference light S1 with a certain intensity distribution Ir is irradiated for a certain irradiation period. The detection signal Dr represents the amount of light received at a certain time (or a very short time), i.e., an instantaneous value. In this case, the detection signal Dr may be sampled multiple times during the irradiation period, and the detection intensity br may be the integral, average, or maximum value of all the sampled values of the detection signal Dr. Alternatively, some of the all the sampled values may be selected, and the integral, average, or maximum value of the selected sampled values may be used. The selection of the multiple sampled values may be, for example, by extracting the xth to yth values in the order counting from the maximum value, by excluding sampled values lower than an arbitrary threshold value, or by extracting sampled values in a range in which the magnitude of signal fluctuation is small.

光検出器120として、カメラのように露光時間が設定可能なデバイスを用いる場合には、光検出器120の出力Dをそのまま、検出強度bとすることができる。 When a device capable of setting the exposure time, such as a camera, is used as the photodetector 120, the output D r of the photodetector 120 can be used as the detection intensity b r as it is.

検出信号Dから検出強度bへの変換は、演算処理装置130が実行してもよいし、演算処理装置130の外部で行ってもよい。 The conversion from the detection signal D r to the detection intensity b r may be performed by the arithmetic processing device 130 or may be performed outside the arithmetic processing device 130 .

演算処理装置130の再構成処理部134における復元画像の生成処理は、M回の照射を複数k個(k≧2)のユニットに分割して行われる。具体的には再構成処理部134は、分割したユニットごとに相関計算を行って中間画像M(x,y)を生成する。そしてk個のユニットについて得られたk個の中間画像M~M(x,y)を合成し、最終的な復元画像G(x,y)を生成する。 The reconstruction processing unit 134 of the calculation processing device 130 generates a restored image by dividing M irradiations into a plurality of k (k≧2) units. Specifically, the reconstruction processing unit 134 performs correlation calculations for each divided unit to generate an intermediate image M j (x, y). Then, the k intermediate images M 1 to M k (x, y) obtained for the k units are synthesized to generate a final restored image G(x, y).

簡単のため、各ユニットの照射回数nは等しくM/kであるとする。この場合の復元画像G(x,y)は、式(2)で表される。Iは、r番目の強度分布であり、bはr番目の検出強度の値であり、<b [j]>は、j番目のユニットにおいて測定された検出強度bの平均値である。

Figure 0007608353000002
For simplicity, the number of irradiations n for each unit is assumed to be equal, M/k. In this case, the restored image G(x, y) is expressed by the following formula (2): Ir is the rth intensity distribution, br is the rth detection intensity value, and < br [j] > is the average value of the detection intensity br measured in the jth unit.
Figure 0007608353000002

式(2)の右辺のj番目の項は、j番目のユニットの中間画像M(x,y)を表す。したがって、復元画像G(x,y)は、複数の中間画像M(x,y)の対応する画素同士を単純加算することにより合成されている。なお、合成の方法は単純加算に限定されず、重み付け加算やその他の処理を行ってもよい。 The j-th term on the right side of equation (2) represents the intermediate image M j (x, y) of the j-th unit. Therefore, the restored image G(x, y) is synthesized by simply adding corresponding pixels of the multiple intermediate images M j (x, y). Note that the synthesis method is not limited to simple addition, and weighted addition or other processing may be performed.

演算処理装置130は、CPU(Central Processing Unit)やMPU(Micro Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。演算処理装置130は、複数のプロセッサの組み合わせであってもよい。あるいは演算処理装置130はハードウェアのみで構成してもよい。The arithmetic processing device 130 can be implemented as a combination of a processor (hardware) such as a CPU (Central Processing Unit), MPU (Micro Processing Unit), or microcomputer, and a software program executed by the processor (hardware). The arithmetic processing device 130 may be a combination of multiple processors. Alternatively, the arithmetic processing device 130 may be configured only from hardware.

以上がイメージング装置100の構成である。続いてその動作を説明する。The above is the configuration of the imaging device 100. Next, we will explain its operation.

図3は、イメージング装置100の動作を説明するタイムチャートである。図3では、パターニングデバイス114の全画素数はp=4×4=16画素で表され、1枚の復元画像G(x,y)の生成(1フレームの撮影)に関して、M個のランダムパターンI~Iが生成される。 Fig. 3 is a time chart illustrating the operation of imaging apparatus 100. In Fig. 3, the total number of pixels of patterning device 114 is represented by p = 4 x 4 = 16 pixels, and M random patterns I 1 to I M are generated for the generation of one restored image G(x, y) (capturing one frame).

復元画像の生成は、それぞれがn回の照射を含むk個のユニットに分割して行われる。 The reconstructed image is generated by dividing it into k units, each containing n exposures.

1個目のユニットは、1~n回目の照射を含み、n回の照射に対応する検出強度b~bが生成され、それらの平均値<b [1]>が生成される。そして、検出強度b~bと、それらの平均値<b [1]>と、強度分布In+1~I2nと、用いて相関計算を行い、中間画像M(x,y)が生成される。 The first unit includes the first to nth irradiations, and generates detection intensities b 1 to b n corresponding to the nth irradiation, and generates their average value < br [1] >. Then, correlation calculation is performed using the detection intensities b 1 to b n , their average value < br [1] >, and the intensity distributions I n+1 to I 2n to generate an intermediate image M 1 (x, y).

2個目のユニットは、n+1~2n回目の照射を含み、n回の照射に対応する検出強度bn+1~b2nが生成され、それらの平均値<b [2]>が生成される。そして、検出強度bn+1~b2nと、それらの平均値<b [2]>と、強度分布In+1~I2nと、用いて相関計算を行い、中間画像M(x,y)が生成される。 The second unit includes the n+1 to 2n irradiations, and generates detection intensities b n+1 to b 2n corresponding to the n irradiations, and generates their average value <br [2] > . Then, correlation calculation is performed using the detection intensities b n+1 to b 2n , their average value <br [2] > , and the intensity distributions I n+1 to I 2n to generate an intermediate image M 2 (x, y).

同様にしてj個目のユニットは、(j-1)n+1~jn回目の照射を含み、n回の照射に対応する検出強度b(j-1)n+1~bjnが生成され、それらの平均値<b [j]>が生成される。そして、検出強度b(j-1)n+1~bjnと、それらの平均値<b [j]>と、強度分布I(j-1)n+1~Ijnと、用いて相関計算を行い、中間画像M(x,y)が生成される。 Similarly, the jth unit includes the (j-1)n+1 to jn irradiations, and detection intensities b (j-1)n+1 to bjn corresponding to the nth irradiation are generated, and their average value < br [j] > is generated. Then, correlation calculation is performed using the detection intensities b (j-1)n+1 to bjn , their average value < br [j] >, and the intensity distribution I (j-1)n+1 to Ijn , to generate an intermediate image Mj (x,y).

最後のk番目のユニットは、(k-1)n+1~kn回目の照射を含み、n回の照射に対応する検出強度b(k-1)n+1~bknが生成され、それらの平均値<b [k]>が生成される。そして、検出強度b(k-1)n+1~bknと、それらの平均値<b [k]>と、強度分布I(k-1)n+1~Iknと、用いて相関計算を行い、中間画像M(x,y)が生成される。 The final k-th unit includes the (k-1)n+1 to kn irradiations, and detection intensities b (k-1)n+1 to bkn corresponding to the n irradiations are generated, and their average value < br [k] > is generated. Then, correlation calculation is performed using the detection intensities b (k-1)n+1 to bkn , their average value < br [k] >, and the intensity distributions I (k-1)n+1 to Ikn to generate an intermediate image Mk (x,y).

そして、k個の中間画像M(x,y)~M(x,y)を合成することにより、最終的な復元画像G(x,y)が生成される。 Then, the k intermediate images M 1 (x, y) to M k (x, y) are synthesized to generate the final restored image G(x, y).

以上がイメージング装置100の動作である。このイメージング装置100によれば、相関計算をユニット単位に分割して行うことで、相関計算1回当たりのノイズ変化量を減らすことができ、復元精度を高めて画質を改善できる。また、M回の照射の完了を待たずに、相関計算を開始できるため、復元画像を生成するのに要する時間を短縮できる。The above is the operation of the imaging device 100. According to this imaging device 100, by dividing the correlation calculation into units, it is possible to reduce the amount of noise change per correlation calculation, thereby increasing the restoration accuracy and improving the image quality. In addition, since the correlation calculation can be started without waiting for the completion of M irradiations, the time required to generate a restored image can be shortened.

以下、イメージング装置100によるノイズ耐性の改善について説明する。以下では、式(2)にもとづくユニットごとの相関計算を利用したイメージングを分割復元と称する。また式(1)にもとづく相関計算を利用した従来のイメージングを一括復元と称する。The following describes the improvement in noise resistance achieved by the imaging device 100. Hereinafter, imaging using correlation calculation for each unit based on equation (2) will be referred to as split restoration. Conventional imaging using correlation calculation based on equation (1) will be referred to as collective restoration.

たとえば、時間的に単調増加するノイズ(線形ノイズと称する)を考える。このような線形ノイズは、ノイズ光源と光検出器との距離が、時間とともに接近するようなケースにおいて生じうる。For example, consider noise that increases monotonically with time (called linear noise). This type of linear noise can occur when the distance between the noise source and the photodetector decreases over time.

図4(a)は、一括復元におけるノイズの影響を示す図であり、図4(b)は、分割復元におけるノイズの影響を示す図である。横軸は照射パターンの番号、すなわち時間を表す。σは、r番目のパターンを照射しているときのノイズ強度を表し、ここでは、σ=α×rにしたがって増加するものとする。 Fig. 4(a) is a diagram showing the influence of noise in collective reconstruction, and Fig. 4(b) is a diagram showing the influence of noise in divided reconstruction. The horizontal axis represents the number of the irradiation pattern, i.e., time. σr represents the noise intensity when the rth pattern is irradiated, and here, it is assumed that it increases according to σr = α × r.

図4(a)を参照する。一括復元を行う場合、各パターン照射時に検出されるノイズの強度bとノイズの平均値<σ>の差分Δσ(=σ-<σ>)の絶対値|Δσ|の全照射にわたる積算値は、ハッチングを付した面積に相当し、以下の式(3)で表される。
Σ|Δσ|=2×1/2×(kn/2)×(knα/2)=nαk/4 …(3)
4(a), when performing collective restoration, the integrated value of the absolute value |Δσ r | of the difference Δσ r ( = σ r −<σ r >) between the noise intensity b r detected during each pattern irradiation and the noise average value <σ r > over all irradiations corresponds to the hatched area and is expressed by the following formula (3).
Σ|Δσ r |=2×1/2×(kn/2)×(knα/2)=n 2 αk 2 /4 …(3)

図4(b)を参照する。ここではk=5としている。分割復元を行う場合、j番目のユニットにおける差分Δσ(=σ-<σ [j]>)の絶対値|Δσ|の積算値Σ|Δσ|は、ハッチングを付した面積に相当し、式(4)で表される。
Σ|Δσ|=2×1/2×(n/2)×(nα/2)=nα/4 …(4)
全照射にわたる積算値は、式(4)の値をk倍すればよく、knα/4となる。
4B, where k = 5. When performing division and restoration, the integrated value Σ|Δσ r | of the absolute value |Δσ r | of the difference Δσ r (=σ r -<σ r [j] > ) in the j-th unit corresponds to the hatched area and is expressed by formula (4).
Σ|Δσ r |=2×1/2×(n/2)×(nα/2)=n 2 α/4 …(4)
The integrated value over the entire irradiation can be calculated by multiplying the value of equation (4) by k, which is kn 2 α/4.

このように、分割復元を行うことにより、ノイズ強度差分の絶対値|Δσ|の積算値が小さくなり、ノイズ耐性を高めることができる。 In this way, by performing division and restoration, the integrated value of the absolute value |Δσ r | of the noise intensity difference becomes small, and noise resistance can be improved.

続いて、一括復元と分割復元に関するシミュレーション結果を説明する。
図5(a)は、ターゲット画像を、図5(b)は、ノイズが存在しないときの、一括復元と分割復元により得られる画像を示す図である。シミュレーションは、M=1000,M=10000,M=100000について行った。またユニット数kは10としている。
Next, the results of simulations regarding batch restoration and divided restoration will be explained.
Fig. 5(a) shows a target image, and Fig. 5(b) shows images obtained by collective restoration and divided restoration when there is no noise. The simulation was performed for M = 1000, M = 10000, and M = 100000. The number of units k is set to 10.

一括復元では、元のターゲット画像を認識しうる程度に復元するためには、M=100000が必要であり、分割復元においても同様である。M=100000において、最終的に得られる復元画像の精度は、一括復元と分割復元とで同等であると言える。 In batch restoration, M = 100,000 is required to restore the original target image to a level where it can be recognized, and the same is true for partitioned restoration. At M = 100,000, the accuracy of the final restored image is equivalent between batch restoration and partitioned restoration.

図6は、線形ノイズが存在するときの、一括復元と分割復元により得られる復元画像G(x,y)を示す図である。総照射回数は、M=10000であり、検出強度の平均値は、<b>=1000である。ノイズの係数αは、0,0.01,0.1,1の4通りで計算している。α=0はノイズがない場合に相当する。分割復元に関しては、k=10,100,1000の場合について計算している。 6 is a diagram showing a restored image G(x, y) obtained by collective restoration and divided restoration when linear noise is present. The total number of irradiations is M=10,000, and the average value of the detection intensity is <br> =1000. The noise coefficient α is calculated in four ways: 0, 0.01, 0.1, and 1. α=0 corresponds to the absence of noise. Regarding the divided restoration, calculations are performed for k=10, 100, and 1000.

図6のシミュレーション結果から分かる通り、分割数kを高めるほど、ノイズ耐性が高まることが分かる。 As can be seen from the simulation results in Figure 6, the higher the number of divisions k, the higher the noise resistance.

(実施の形態2)
実施の形態1では、図3に示すように、フレーム毎に独立した処理が行われており、フレーム周期毎に、新たな復元画像が生成される。これに対して、実施の形態2では、新たな中間画像Mが生成されるたびに、復元画像が更新される。
(Embodiment 2)
In the first embodiment, as shown in Fig. 3, an independent process is performed for each frame, and a new restored image is generated for each frame period, whereas in the second embodiment, the restored image is updated every time a new intermediate image M is generated.

図7は、実施の形態2に係るイメージング方法を説明する図である。実施の形態2では、参照光を照射し続け、n回の照射ごとに相関計算を行う。そして、直近のk個の中間画像M(x,y)を合成することにより、復元画像G(x,y)を生成する処理を、ユニットごとに繰り返す。なお実施の形態2に係るイメージング方法は、ハードウェア的には図2のイメージング装置100によって実現可能であり、再構成処理部134の処理を修正すればよい。 Figure 7 is a diagram explaining an imaging method according to embodiment 2. In embodiment 2, reference light is continuously irradiated, and correlation calculations are performed every n irradiations. Then, the process of generating a restored image G(x, y) by synthesizing the most recent k intermediate images M(x, y) is repeated for each unit. Note that the imaging method according to embodiment 2 can be realized in hardware terms by the imaging device 100 of Figure 2, by simply modifying the processing of the reconstruction processing unit 134.

その他は実施の形態1と同様である。実施の形態2のイメージング方法によれば、復元画像の生成速度を高めることができる。 The rest is the same as in embodiment 1. According to the imaging method of embodiment 2, the speed at which the restored image is generated can be increased.

以上、本発明について、実施の形態をもとに説明した。この実施の形態は例示であり、それらの各構成要素や各処理プロセスの組み合わせにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。以下、こうした変形例について説明する。 The present invention has been described above based on an embodiment. This embodiment is merely an example, and those skilled in the art will understand that various modifications are possible in the combination of each component and each processing process, and that such modifications are also within the scope of the present invention. Below, such modifications are described.

(変形例1)
実施の形態では、ユニットごとの照射回数が等しいものとしたが、その限りでなく、ユニットごとの照射回数は等しくなくてもよい。
(Variation 1)
In the embodiment, the number of irradiations per unit is equal, but this is not limited thereto, and the number of irradiations per unit does not have to be equal.

(変形例2)
また実施の形態では、ユニット数kが一定であるとしたが、ユニット数kを動的に制御してもよい。ノイズの変動速度やノイズの波形に応じて、最適なユニット数kを選択することで、画質をより改善できる。
(Variation 2)
In the embodiment, the number of units k is constant, but the number of units k may be dynamically controlled. By selecting an optimal number of units k according to the noise fluctuation speed and noise waveform, the image quality can be further improved.

(変形例3)
実施の形態では、照明装置110を、光源112とパターニングデバイス114の組み合わせで構成したがその限りでない。たとえば照明装置110は、マトリクス状に配置される複数の半導体光源(LED(発光ダイオード)やLD(レーザダイオード))のアレイで構成し、個々の半導体光源のオン、オフ(あるいは輝度)を制御可能に構成してもよい。
(Variation 3)
In the embodiment, illumination device 110 is configured by a combination of light source 112 and patterning device 114, but this is not limited thereto. For example, illumination device 110 may be configured by an array of a plurality of semiconductor light sources (LEDs (light emitting diodes) or LDs (laser diodes)) arranged in a matrix, and each semiconductor light source may be controlled to be turned on and off (or its brightness).

(用途)
続いてイメージング装置100の用途を説明する。図8は、物体識別システム10のブロック図である。この物体識別システム10は、自動車やバイクなどの車両に搭載され、車両の周囲に存在する物体OBJの種類(カテゴリ)を判定する。
(Application)
Next, a description will be given of applications of the imaging device 100. Fig. 8 is a block diagram of an object identification system 10. This object identification system 10 is mounted on a vehicle such as an automobile or motorcycle, and determines the type (category) of an object OBJ that exists around the vehicle.

物体識別システム10は、イメージング装置100と、演算処理装置40を備える。イメージング装置100は、上述のように、物体OBJに参照光S1を照射し、反射光S2を測定することにより、物体OBJの復元画像Gを生成する。The object identification system 10 includes an imaging device 100 and a processor 40. As described above, the imaging device 100 generates a restored image G of the object OBJ by irradiating the object OBJ with a reference light S1 and measuring the reflected light S2.

演算処理装置40は、イメージング装置100の出力画像Gを処理し、物体OBJの位置および種類(カテゴリ)を判定する。The calculation processing device 40 processes the output image G of the imaging device 100 and determines the position and type (category) of the object OBJ.

演算処理装置40の分類器42は、画像Gを入力として受け、それに含まれる物体OBJの位置および種類を判定する。分類器42は、機械学習によって生成されたモデルにもとづいて実装される。分類器42のアルゴリズムは特に限定されないが、YOLO(You Only Look Once)、SSD(Single Shot MultiBox Detector)、R-CNN(Region-based Convolutional Neural Network)、SPPnet(Spatial Pyramid Pooling)、Faster R-CNN、DSSD(Deconvolution -SSD)、Mask R-CNNなどを採用することができ、あるいは、将来開発されるアルゴリズムを採用できる。The classifier 42 of the arithmetic processing device 40 receives the image G as an input and determines the position and type of the object OBJ contained therein. The classifier 42 is implemented based on a model generated by machine learning. The algorithm of the classifier 42 is not particularly limited, but may be YOLO (You Only Look Once), SSD (Single Shot MultiBox Detector), R-CNN (Region-based Convolutional Neural Network), SPPnet (Spatial Pyramid Pooling), Faster R-CNN, DSSD (Deconvolution-SSD), Mask R-CNN, or an algorithm to be developed in the future.

以上が物体識別システム10の構成である。物体識別システム10のセンサとして、イメージング装置100を用いることで、以下の利点を得ることができる。The above is the configuration of the object identification system 10. By using the imaging device 100 as a sensor for the object identification system 10, the following advantages can be obtained.

イメージング装置100すなわち量子レーダカメラを用いることで、ノイズ耐性が格段に高まる。たとえば、降雨時、降雪時、あるいは霧の中を走行する場合、肉眼では物体OBJを認識しにくいが、イメージング装置100を用いることで、雨、雪、霧の影響を受けずに、物体OBJの復元画像Gを得ることができる。By using the imaging device 100, i.e., the quantum radar camera, noise resistance is significantly improved. For example, when driving in rain, snow, or fog, it is difficult to recognize the object OBJ with the naked eye, but by using the imaging device 100, it is possible to obtain a restored image G of the object OBJ without being affected by rain, snow, or fog.

また、イメージング装置100を用いることで、計算遅延を小さくできる。これにより低遅延のセンシングを提供できる。特に車載用途では物体OBJが高速に移動するケースがあるため、低遅延のセンシングがもたらす恩恵は、非常に大きい。 In addition, by using the imaging device 100, it is possible to reduce calculation delays, thereby providing low-latency sensing. In particular, in vehicle-mounted applications, the object OBJ may move at high speeds, so the benefits of low-latency sensing are enormous.

図9は、物体識別システム10を備える自動車のブロック図である。自動車300は、前照灯302L,302Rを備える。イメージング装置100は、前照灯302L,302Rの少なくとも一方に内蔵される。前照灯302は、車体の最も先端に位置しており、周囲の物体を検出する上で、イメージング装置100の設置箇所として最も有利である。 Figure 9 is a block diagram of an automobile equipped with an object identification system 10. The automobile 300 is equipped with headlights 302L and 302R. The imaging device 100 is built into at least one of the headlights 302L and 302R. The headlight 302 is located at the very front of the vehicle body, and is the most advantageous location for installing the imaging device 100 in terms of detecting surrounding objects.

図10は、物体検出システム210を備える車両用灯具200を示すブロック図である。車両用灯具200は、車両側ECU304とともに灯具システム310を構成する。車両用灯具200は、光源202、点灯回路204、光学系206を備える。さらに車両用灯具200には、物体検出システム210が設けられる。物体検出システム210は、上述の物体識別システム10に対応しており、イメージング装置100および演算処理装置40を含む。 Figure 10 is a block diagram showing a vehicle lamp 200 equipped with an object detection system 210. The vehicle lamp 200, together with a vehicle-side ECU 304, constitutes a lighting system 310. The vehicle lamp 200 comprises a light source 202, a lighting circuit 204, and an optical system 206. The vehicle lamp 200 is further provided with an object detection system 210. The object detection system 210 corresponds to the above-mentioned object identification system 10, and includes an imaging device 100 and a processing device 40.

演算処理装置40が検出した物体OBJに関する情報は、車両用灯具200の配光制御に利用してもよい。具体的には、灯具側ECU208は、演算処理装置40が生成する物体OBJの種類とその位置に関する情報にもとづいて、適切な配光パターンを生成する。点灯回路204および光学系206は、灯具側ECU208が生成した配光パターンが得られるように動作する。The information on the object OBJ detected by the arithmetic processing device 40 may be used for the light distribution control of the vehicle lamp 200. Specifically, the lamp side ECU 208 generates an appropriate light distribution pattern based on the information on the type of object OBJ and its position generated by the arithmetic processing device 40. The lighting circuit 204 and the optical system 206 operate to obtain the light distribution pattern generated by the lamp side ECU 208.

また演算処理装置40が検出した物体OBJに関する情報は、車両側ECU304に送信してもよい。車両側ECUは、この情報にもとづいて、自動運転を行ってもよい。In addition, information regarding the object OBJ detected by the calculation processing device 40 may be transmitted to the vehicle side ECU 304. The vehicle side ECU may perform automatic driving based on this information.

実施の形態にもとづき、具体的な語句を用いて本発明を説明したが、実施の形態は、本発明の原理、応用の一側面を示しているにすぎず、実施の形態には、請求の範囲に規定された本発明の思想を逸脱しない範囲において、多くの変形例や配置の変更が認められる。 The present invention has been described using specific terms based on the embodiments, but the embodiments only show one aspect of the principles and applications of the present invention, and many modifications and changes in arrangement are permitted to the embodiments without departing from the concept of the present invention as defined in the claims.

本発明は、ゴーストイメージングを利用したイメージング装置に関する。 The present invention relates to an imaging device that utilizes ghost imaging.

OBJ…物体、10…物体識別システム、40…演算処理装置、42…分類器、100…イメージング装置、110…照明装置、112…光源、114…パターニングデバイス、120…光検出器、130…演算処理装置、132…パターン発生器、134…再構成処理部、200…車両用灯具、202…光源、204…点灯回路、206…光学系、300…自動車、302…前照灯、310…灯具システム、304…車両側ECUOBJ... object, 10... object identification system, 40... processing device, 42... classifier, 100... imaging device, 110... lighting device, 112... light source, 114... patterning device, 120... photodetector, 130... processing device, 132... pattern generator, 134... reconstruction processing unit, 200... vehicle lamp, 202... light source, 204... lighting circuit, 206... optical system, 300... automobile, 302... headlamp, 310... lamp system, 304... vehicle side ECU

Claims (9)

空間的にランダムな強度分布を有する参照光をシーケンシャルに切りかえて照射する照明装置と、
物体からの反射光を測定する光検出器と、
前記光検出器の出力にもとづく検出強度と前記参照光の強度分布の相関計算を行い、前記物体の復元画像を再構成する演算処理装置と、
を備え、
前記演算処理装置は
個(M≧2)の参照光を、複数k個(k≧2)のユニットに分割し、
j番目のユニットについて、当該ユニットに含まれる複数の参照光の個数をn (ただしn ≧2)、r番目(1≦r≦n )の参照光の強度分布をI 、r番目の検出強度をb とするとき、式(1)にもとづいて相関計算を行って中間画像 を生成し
Figure 0007608353000003

個のユニットについて得られたk個の前記中間画像M~Mを合成し、前記復元画像を生成し、
Mは、ノイズがない条件にて照射を分割せずに一括復元する場合において式(2)にもとづいて計算される画像Gが、元の画像を復元しうる程度の個数であり、
Figure 0007608353000004

1ユニットに含まれる前記参照光の個数 ~n ノイズがない条件にて、中間画像M ~M それぞれが元の画像を復元しうる程度の個数より小さいことを特徴とするイメージング装置。
an illumination device that sequentially switches and irradiates reference light having a spatially random intensity distribution;
a photodetector for measuring reflected light from an object;
a processor that performs correlation calculation between a detection intensity based on an output of the photodetector and an intensity distribution of the reference light, and reconstructs a restored image of the object;
Equipped with
The arithmetic processing device includes :
M (M≧2) reference beams are divided into a plurality of k (k≧2) units;
For the j-th unit, the number of the multiple reference beams included in the unit is n j (where n j ≧2), the intensity distribution of the r-th reference beam (1≦r≦n j ) is I r , and the detected intensity of the r-th reference beam is br. Then, a correlation calculation is performed based on the formula (1) to generate an intermediate image M j ;
Figure 0007608353000003

The k intermediate images M 1 to M k obtained for the k units are synthesized to generate the restored image;
M is the number of images G calculated based on formula (2) that can restore the original image when the irradiation is not divided and the image is restored in a single operation under noise-free conditions ,
Figure 0007608353000004

The imaging device is characterized in that the number n 1 to n k of the reference beams included in one unit is smaller than the number of intermediate images M 1 to M k that can restore the original image under noise-free conditions .
各ユニットに含まれる参照光の個数 ~n 等しくM/kであることを特徴とする請求項1に記載のイメージング装置。 2. The imaging apparatus according to claim 1, wherein the numbers of reference beams n 1 to n k included in each unit are equal to M/k. ユニットの個数kは、動的に制御されることを特徴とする請求項1または2に記載のイメージング装置。 The imaging device according to claim 1 or 2, characterized in that the number k of units is dynamically controlled. 空間的にランダムな強度分布を有するM個の参照光を、シーケンシャルに切りかえて照射する照明装置と、
物体からの反射光を測定する光検出器と、
前記光検出器の出力にもとづく検出強度と前記参照光の強度分布の相関計算を行い、前記物体の復元画像を再構成する演算処理装置と、
を備え、
前記演算処理装置は、n個(n≧2)の前記参照光を1ユニットとして、1ユニットを照射するたびに、r番目(1≦r≦n)の参照光の強度分布をI 、r番目の検出強度をb とするとき、式(3)にもとづいて相関計算を行って中間画像 を生成し
Figure 0007608353000005

最新のk個(k≧2)の中間画像を合成して、前記復元画像を生成し、
1ユニットに含まれる参照光の個数nは、ノイズがない条件にて、中間画像M が元の画像を復元しうる程度の個数より小さく、
k×n=Mは、ノイズがない条件にて照射を分割せずに一括復元する場合に、式(4)にもとづいて計算される画像Gが、元の画像を復元しうる程度の個数であることを特徴とするイメージング装置。
Figure 0007608353000006
An illumination device that sequentially switches between and irradiates M reference beams having a spatially random intensity distribution;
a photodetector for measuring reflected light from an object;
a processor that performs correlation calculation between a detection intensity based on an output of the photodetector and an intensity distribution of the reference light, and reconstructs a restored image of the object;
Equipped with
The arithmetic processing device regards n (n≧2) reference beams as one unit, and each time one unit is irradiated, performs correlation calculation based on Equation (3) to generate an intermediate image Mj, where Ir is the intensity distribution of the r -th (1≦r≦n) reference beam and br is the detected intensity of the r-th reference beam ;
Figure 0007608353000005

synthesizing the latest k (k≧2) intermediate images to generate the restored image;
The number n of reference beams included in one unit is smaller than the number of intermediate images Mj that can restore the original image under noise-free conditions ,
An imaging device characterized in that k×n=M is a number of images G calculated based on equation (4) that can restore the original image when the irradiation is not divided and the image is restored all at once under noise-free conditions.
Figure 0007608353000006
前記中間画像の合成は、対応する画素値同士の単純加算処理を含むことを特徴とする請求項1から4のいずれかに記載のイメージング装置。 An imaging device according to any one of claims 1 to 4, characterized in that the synthesis of the intermediate images includes a simple addition process of corresponding pixel values. 請求項1から5のいずれかに記載のイメージング装置を備えることを特徴とする車両用灯具。 A vehicle lamp comprising an imaging device according to any one of claims 1 to 5. 請求項1から6のいずれかに記載のイメージング装置を備えることを特徴とする車両。 A vehicle comprising an imaging device according to any one of claims 1 to 6. ランダムな強度分布を有する参照光を、シーケンシャルに切りかえて物体に照射するステップと、
光検出器により、前記物体からの反射光を測定するステップと、
M個(M≧2)の参照光を複数k個(k≧2)のユニットに分割するステップと、
j番目のユニットについて、当該ユニットに含まれる複数の参照光の個数をn (ただしn ≧2)、r番目(1≦r≦n )の参照光の強度分布をI 、r番目の照射の結果得られる前記光検出器の出力にもとづく検出強度をb とするとき、式(1)にもとづいて相関計算を行って中間画像 を生成するステップと、
Figure 0007608353000007

k個のユニットについて得られたk個の前記中間画像 ~M を合成し、復元画像を生成するステップと、
を備え、
Mは、ノイズがない条件にて照射を分割せずに一括復元する場合に、式(2)にもとづいて計算される画像Gが、元の画像を復元しうる程度の個数であり
Figure 0007608353000008

1ユニットに含まれる前記参照光の個数 ~n は、ノイズがない条件にて、中間画像M ~M それぞれが元の画像を復元しうる程度の個数より小さいことを特徴とするイメージング方法。
A step of sequentially switching reference light having a random intensity distribution and irradiating the object;
measuring light reflected from the object with a light detector;
Dividing M (M≧2) reference beams into a plurality of k (k≧2) units;
a step of generating an intermediate image Mj by performing correlation calculation based on formula ( 1 ) for a j-th unit, where nj ( nj ≧2) is the number of reference beams included in the unit, Ir is the intensity distribution of the r-th reference beam (1≦r≦ nj ) , and br is the detection intensity based on the output of the photodetector obtained as a result of the r- th irradiation ;
Figure 0007608353000007

A step of synthesizing the k intermediate images M 1 to M k obtained for the k units to generate a restored image;
Equipped with
M is the number of images G calculated based on formula (2) that can restore the original image when the irradiation is not divided and restored collectively under noise-free conditions ,
Figure 0007608353000008

The imaging method, wherein the number n 1 to n k of the reference beams included in one unit is smaller than the number of intermediate images M 1 to M k that can restore the original image under noise-free conditions .
空間的にランダムな強度分布を有する参照光を、シーケンシャルに切りかえて物体に照射するステップと、
光検出器により、前記物体からの反射光を測定するステップと、
個(n≧2)の前記参照光を1ユニットとして、1ユニットを照射するたびに、r番目(1≦r≦n)の参照光の強度分布をI 、r番目の照射の結果得られる前記光検出器の出力にもとづく検出強度をb とするとき、式(3)にもとづいて相関計算を行い中間画像 を生成するステップと、
Figure 0007608353000009

最新のk個(k≧2)の中間画像を合成して、復元画像を生成するステップと、
を備え
1ユニットに含まれる参照光の個数nは、ノイズがない条件にて、中間画像M が元の画像を復元しうる程度の個数より小さく、
k×n=Mは、ノイズがない条件にて照射を分割せずに一括復元する場合において、式(4)にもとづいて計算される画像Gが、元の画像を復元しうる程度の個数であることを特徴とするイメージング方法。
Figure 0007608353000010
A step of sequentially switching reference light having a spatially random intensity distribution and irradiating the object;
measuring light reflected from the object with a light detector;
a step of performing a correlation calculation based on equation (3) to generate an intermediate image Mj each time one unit is irradiated, where Ir is the intensity distribution of the r-th (1≦r≦n) reference light and b r is the detection intensity based on the output of the photodetector obtained as a result of the r-th irradiation , where n (n≧2) reference light beams are one unit ;
Figure 0007608353000009

A step of synthesizing the latest k (k≧2) intermediate images to generate a restored image;
Equipped with
The number n of reference beams included in one unit is smaller than the number of intermediate images Mj that can restore the original image under noise-free conditions ,
An imaging method characterized in that k×n=M is a number of images G calculated based on equation (4) that can restore the original image when the irradiation is not divided and the image is restored all at once under noise-free conditions.
Figure 0007608353000010
JP2021554333A 2019-10-23 2020-10-14 Imaging device, vehicle lighting device, vehicle, and imaging method Active JP7608353B2 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2019192623 2019-10-23
JP2019192623 2019-10-23
PCT/JP2020/038835 WO2021079810A1 (en) 2019-10-23 2020-10-14 Imaging device, vehicle lamp, vehicle, and imaging method

Publications (2)

Publication Number Publication Date
JPWO2021079810A1 JPWO2021079810A1 (en) 2021-04-29
JP7608353B2 true JP7608353B2 (en) 2025-01-06

Family

ID=75619423

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021554333A Active JP7608353B2 (en) 2019-10-23 2020-10-14 Imaging device, vehicle lighting device, vehicle, and imaging method

Country Status (2)

Country Link
JP (1) JP7608353B2 (en)
WO (1) WO2021079810A1 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2023085328A1 (en) * 2021-11-12 2023-05-19

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015087244A (en) 2013-10-30 2015-05-07 キヤノン株式会社 Image processor and image processing method
WO2016027797A1 (en) 2014-08-19 2016-02-25 国立大学法人徳島大学 Device for measuring material by using ghost imaging
JP2017525952A (en) 2014-07-31 2017-09-07 レイセオン カンパニー Linear mode calculation sensing laser radar
JP2019023640A (en) 2017-07-21 2019-02-14 学校法人玉川学園 Image processing device and method, and program
JP2019039759A (en) 2017-08-24 2019-03-14 株式会社小糸製作所 Sensor system and lamp unit including the same

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015087244A (en) 2013-10-30 2015-05-07 キヤノン株式会社 Image processor and image processing method
JP2017525952A (en) 2014-07-31 2017-09-07 レイセオン カンパニー Linear mode calculation sensing laser radar
WO2016027797A1 (en) 2014-08-19 2016-02-25 国立大学法人徳島大学 Device for measuring material by using ghost imaging
JP2019023640A (en) 2017-07-21 2019-02-14 学校法人玉川学園 Image processing device and method, and program
JP2019039759A (en) 2017-08-24 2019-03-14 株式会社小糸製作所 Sensor system and lamp unit including the same

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Cong Yue ほか,Object Reconstruction Using the Binominal Theorem for Ghost Imaging,IEEE Photonics Journal,米国,IEEE,2018年11月09日,Vol. 10, No.6,DOI: 10.1109/JPHOT.2018.2880430
澁谷 九輝 ほか,循環パターンによるゴーストイメージングの積算回数低減効果,2013年 度精密工学会秋季大会学術講演会講演論文集,日本,公益社団法人精密工学会,2013年08月28日,395-396頁,DOI:10.11522/pscjspe.2013A.0.395.0

Also Published As

Publication number Publication date
JPWO2021079810A1 (en) 2021-04-29
WO2021079810A1 (en) 2021-04-29

Similar Documents

Publication Publication Date Title
JP7463297B2 (en) In-vehicle imaging devices, vehicle lighting, automobiles
JP7408572B2 (en) Vehicle lights and vehicles
US12047667B2 (en) Imaging device
US12003839B2 (en) Imaging apparatus using ghost imaging
US12108164B2 (en) Imaging apparatus
JP7608353B2 (en) Imaging device, vehicle lighting device, vehicle, and imaging method
JP7395511B2 (en) Imaging device, its processing unit, vehicle lighting, vehicle, sensing method
JP2020106376A (en) Active sensor, object identification system, vehicle, and vehicle lamp
WO2022091972A1 (en) Imaging device, vehicle lighting fixture, and vehicle
US12205335B2 (en) Imaging apparatus and imaging method
WO2023085328A1 (en) Imaging device, imaging method, vehicular lamp, and vehicle
JP7524207B2 (en) Imaging device, vehicle lighting device, vehicle, and imaging method
WO2023074759A1 (en) Imaging apparatus, vehicle lamp fitting, and vehicle
WO2023085329A1 (en) Imaging system, sensor unit, vehicle lamp fitting, and vehicle
EP4382969A1 (en) Gated camera, vehicular sensing system, and vehicular lamp
WO2022102775A1 (en) Sensing device, vehicular lamp, and vehicle
CN116457700A (en) Sensing device, vehicle lamp, and vehicle

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230727

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240227

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240424

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240604

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240801

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241218

R150 Certificate of patent or registration of utility model

Ref document number: 7608353

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150