Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6737325B2 - Imaging module and imaging device - Google Patents
[go: Go Back, main page]

JP6737325B2 - Imaging module and imaging device - Google Patents

Imaging module and imaging device Download PDF

Info

Publication number
JP6737325B2
JP6737325B2 JP2018240973A JP2018240973A JP6737325B2 JP 6737325 B2 JP6737325 B2 JP 6737325B2 JP 2018240973 A JP2018240973 A JP 2018240973A JP 2018240973 A JP2018240973 A JP 2018240973A JP 6737325 B2 JP6737325 B2 JP 6737325B2
Authority
JP
Japan
Prior art keywords
image
spatial light
image pickup
spatial
light modulator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018240973A
Other languages
Japanese (ja)
Other versions
JP2019062571A (en
Inventor
俊 三宮
俊 三宮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2018240973A priority Critical patent/JP6737325B2/en
Publication of JP2019062571A publication Critical patent/JP2019062571A/en
Application granted granted Critical
Publication of JP6737325B2 publication Critical patent/JP6737325B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Blocking Light For Cameras (AREA)
  • Studio Devices (AREA)

Description

本発明は、符号化開口イメージングを用いた撮像モジュール及び撮像装置に関する。 The present invention relates to an imaging module and an imaging device using coded aperture imaging.

カメラに代表される撮像装置は、写真撮影などの観賞用の他、産業用計測・物体認識システム、車両の危険検知、防犯用の監視システムなど、幅広く利用されている。これらの利用形態においては、被写体の画像のみならず、距離や視野方向などの空間情報の取得がしばしば要求される。 Imaging devices represented by cameras are widely used for ornamental purposes such as photography, industrial measurement/object recognition systems, vehicle danger detection, and crime prevention monitoring systems. In these usage patterns, it is often required to acquire not only an image of a subject but also spatial information such as a distance and a viewing direction.

こうした空間情報の取得が可能な技術としては、撮像素子と符号化開口パターンとを用いて、フーリエ変換に基づく復号処理を施すことにより撮像素子に入射した光束の空間及び入射角度に関する情報を取得する技術が既に知られている(例えば、特許文献1参照)。 As a technique capable of acquiring such spatial information, information regarding the space and the incident angle of the light flux incident on the image sensor is acquired by performing a decoding process based on Fourier transform using the image sensor and the coded aperture pattern. The technology is already known (for example, see Patent Document 1).

また、この符号化開口パターンに再構成可能な、言い換えるとアクティブな空間光変調素子を用いることで、複数種類の符号化開口パターンによる撮影画像から復号処理を行って画質を向上する技術が既に知られている(例えば、特許文献2参照)。 Further, there is already known a technique for improving the image quality by performing a decoding process from a captured image by a plurality of types of coded aperture patterns by using a spatial light modulator that is reconfigurable to this coded aperture pattern, that is, an active spatial light modulator. (For example, see Patent Document 2).

また、このような空間光変調素子に用いられる素子として、液晶素子やその代替技術などが提案されている(例えば、特許文献3、4、非特許文献1参照)。 Further, as an element used for such a spatial light modulation element, a liquid crystal element or an alternative technique thereof has been proposed (see, for example, Patent Documents 3 and 4 and Non-Patent Document 1).

しかしながら、従来の符号化開口イメージング技術及び符号化開口パターンを用いた撮像装置は、撮像素子と符号化開口パターンが個別に設置されており、光路中に符号化開口パターンを設ける必要がある。また、その他、撮像装置のサイズが大きくなる、可動ミラーなどの光学部品との実装位置の競合が生じる、符号化開口パターンと撮像素子との設置位置に高い精度が要求される、レンズ交換等の光学系の変更に対応できない等の実装上の問題が生じていた。 However, in the conventional coded aperture imaging technique and the image pickup apparatus using the coded aperture pattern, the image pickup element and the coded aperture pattern are separately installed, and the coded aperture pattern needs to be provided in the optical path. Further, in addition, the size of the image pickup device becomes large, competition of the mounting position with an optical component such as a movable mirror occurs, high accuracy is required for the installation position of the coded aperture pattern and the image pickup device, lens replacement, etc. There were mounting problems such as inability to deal with changes in the optical system.

本発明は、以上のような問題点に鑑みてなされたものであり、撮像素子と、符号化開口パターンによって画像に空間的な変調を付与する空間光変調素子とを一体化した撮像モジュールを用いることにより、撮像素子と符号化開口パターンとの距離を短く、かつ高精度に配置する撮像装置の提供を目的とする。 The present invention has been made in view of the above problems, and uses an image pickup module in which an image pickup element and a spatial light modulation element that imparts spatial modulation to an image by a coded aperture pattern are integrated. Thus, it is an object of the present invention to provide an image pickup apparatus in which the distance between the image pickup element and the coded aperture pattern is short and the arrangement is performed with high accuracy.

上述した課題を解決するため、本発明においては、入射した光束に空間的な変調を付与して出射する空間光変調素子と、前記空間光変調素子によって空間的な変調を付与された光束を角度情報を含んだ画像情報として取得する撮像素子と、前記空間光変調素子と前記撮像素子とを一体化して固定する固定部とを有し、前記固定部は、前記空間光変調素子と前記撮像素子との間に配置されて一定の間隔のギャップ構造を形成するギャップ規定部材を有し、前記固定部は、一方の面から入射した光束を他方の面へ誘導するための導光路素子を有し、前記導光路素子は、前記撮像素子と前記空間光変調素子との間に、前記空間光変調素子との間に一定の間隔を持つよう固定して配置され、前記一方の面の開口面積と前記他方の面の開口面積とが異なる。 In order to solve the above-mentioned problem, in the present invention, a spatial light modulation element that imparts spatial modulation to an incident light flux and emits the light flux, and a light flux spatially modulated by the spatial light modulation element is angled. An image pickup device that obtains image information containing information, and a fixing unit that integrally fixes the spatial light modulator and the image pickup device, and the fixing unit includes the spatial light modulator and the image pickup device. And a fixing member having a light guide element for guiding a light beam incident from one surface to the other surface. , The light guide element is fixedly arranged between the image pickup element and the spatial light modulation element so as to have a constant distance between the spatial light modulation element, and the opening area of the one surface. The opening area of the other surface is different.

本発明によれば、撮像素子と符号化開口パターンとの距離を短く、かつ高精度に配置する撮像装置を提供することができる。 According to the present invention, it is possible to provide an image pickup apparatus in which the distance between the image pickup element and the coded aperture pattern is short and which is arranged with high accuracy.

本発明の実施形態における撮像装置及び撮像モジュールの全体構成の一例を示す図である。It is a figure which shows an example of the whole structure of the imaging device and imaging module in embodiment of this invention. 本発明の実施形態における撮像モジュールの構成の一例を示す図である。It is a figure which shows an example of a structure of the imaging module in embodiment of this invention. 本発明の実施形態における撮像装置の最適化手段の動作の一例を示す図である。It is a figure which shows an example of operation|movement of the optimization means of the imaging device in embodiment of this invention. 本発明の実施形態における撮像装置の素子駆動部の動作の一例を示す図である。It is a figure which shows an example of operation|movement of the element drive part of the imaging device in embodiment of this invention. 本発明の実施形態における撮像モジュールの構成の第1の変形例を示す図である。It is a figure which shows the 1st modification of the structure of the imaging module in embodiment of this invention. 本発明の実施形態における導光路素子を有する撮像モジュール及び撮像装置の構成の一例を示す図である。It is a figure showing an example of composition of an image pick-up module and an image pick-up device which have a light guide element in an embodiment of the present invention. 本発明の実施形態における撮像モジュールの構成の第2の変形例を示す図である。It is a figure which shows the 2nd modification of a structure of the imaging module in embodiment of this invention. 本発明の実施形態における撮像モジュールの構成の第3の変形例を示す図である。It is a figure which shows the 3rd modification of the structure of the imaging module in embodiment of this invention. 本発明の実施形態における撮像モジュールの構成の第4の変形例を示す図である。It is a figure which shows the 4th modification of a structure of the imaging module in embodiment of this invention. 本発明の実施形態における撮像モジュールの構成の第5の変形例を示す図である。It is a figure which shows the 5th modification of a structure of the imaging module in embodiment of this invention.

本実施形態における図1に示された撮像装置1は、画像を取得するための撮像モジュール2と、入射した光束を結像して撮像モジュール2に向けて出射する結像光学系3と、結像光学系3からの光路を選択するためのミラー4とを有している。
撮像装置1はまた、視野を確認するためのファインダー6と、ミラー4からファインダー6へと光を偏向させる偏向素子5と、露光時間を決定するシャッター8と、これらの部材を制御するための制御部9とを有している。
撮像モジュール2以外の上述の構成は一般的な一眼レフカメラと同等であるが、ファインダー6とミラー4とを外し、変わりに液晶モニタを備えた所謂ミラーレス一眼レフの構成であっても良い。
The imaging device 1 shown in FIG. 1 in the present embodiment includes an imaging module 2 for acquiring an image, an imaging optical system 3 that images an incident light flux and emits it toward the imaging module 2. And a mirror 4 for selecting an optical path from the image optical system 3.
The image pickup apparatus 1 also includes a finder 6 for confirming a field of view, a deflecting element 5 for deflecting light from the mirror 4 to the finder 6, a shutter 8 for determining an exposure time, and a control for controlling these members. And part 9.
The above-mentioned configuration other than the image pickup module 2 is the same as that of a general single-lens reflex camera, but a so-called mirrorless single-lens reflex configuration in which the finder 6 and the mirror 4 are removed and a liquid crystal monitor is provided instead may be used.

図2を用いて、撮像モジュール2の構成を説明する。
撮像モジュール2は、入射した光速に空間的な変調を付与して出射する空間光変調素子21と、空間的な変調を付与された光束を画像情報として取得する撮像素子22と、空間光変調素子21と撮像素子22とを一体化して固定する固定部23とを有している。
撮像モジュール2はまた、空間光変調素子21と撮像素子22とを電気的に接続する配線25と、制御部9からの信号を処理するためのロジック回路13とを有している。
The configuration of the imaging module 2 will be described with reference to FIG.
The image pickup module 2 includes a spatial light modulation element 21 that emits light with a spatial modulation applied to the incident light velocity, an image pickup element 22 that acquires the spatially modulated light flux as image information, and a spatial light modulation element. It has a fixing portion 23 that integrally fixes the image pickup device 21 and the image pickup device 22.
The image pickup module 2 also includes a wiring 25 that electrically connects the spatial light modulator 21 and the image pickup element 22, and a logic circuit 13 for processing a signal from the control unit 9.

空間光変調素子21は、透過型の液晶デバイスであり、それぞれの位置における透過率を制御部9によって変化させることにより、符号化開口パターン、言い換えるとモザイクパターンを形成することで、入射した光束に空間的な変調を付与する。 The spatial light modulation element 21 is a transmissive liquid crystal device, and by changing the transmittance at each position by the control unit 9, a coded aperture pattern, in other words, a mosaic pattern is formed, so that the incident light flux can be changed. Adds spatial modulation.

撮像素子22は、空間光変調素子21によって空間的な変調を付与された光束を画像情報として取得する撮像面たる光検出器アレイとしてのCCD(Charge Coupled Device)を用いたイメージセンサである。撮像素子22上には複数の光検出器である受光素子たるフォトダイオードが並べて配設された光検出器アレイ28が配置されており、撮像面に入射した光束の強度等の情報を電気信号に変換する。ここではCCDを用いることとしたが、画像情報を取得可能なイメージセンサであれば、CMOS(Complementary Metal-Oxide Semiconductor)センサ等を用いるものであっても良い。 The image pickup device 22 is an image sensor using a CCD (Charge Coupled Device) as a photodetector array which is an image pickup surface for acquiring the light flux spatially modulated by the spatial light modulator 21 as image information. A photodetector array 28 in which photodiodes, which are photodetectors that are a plurality of photodetectors, are arranged side by side is arranged on the image pickup element 22, and information such as the intensity of the light flux incident on the image pickup surface is converted into an electric signal. Convert. Although the CCD is used here, a CMOS (Complementary Metal-Oxide Semiconductor) sensor or the like may be used as long as it is an image sensor capable of acquiring image information.

固定部23は、空間光変調素子21と撮像素子22との間に配置されて一定の間隔のギャップ構造を形成するギャップ規定部材24を有している。
固定部23は、空間光変調素子21と撮像素子22とを一定の間隔で、かつ平行に固定する。ここで固定部23は、ネジなどの固定部材を用いるものであっても、あるいは接着剤等を用いても、あるいは空間光変調素子21と撮像素子22とを一体成型するものであっても良い。
本実施形態においては、ギャップ規定部材24は、開口を設けたSi基板であり、ギャップ規定部材24が固定部23としての機能を有している。ギャップ規定部材24は、空間光変調素子21と撮像素子22との少なくとも一方に接触し、上記開口とSi基板の厚みによって、空間光変調素子21と撮像素子22との間に数mm以下、望ましくは1mm以下の空隙構造、言い換えるとギャップ構造を形成している。
ギャップ規定部材24は、ここでは開口を設けたSi基板としたが、ガラス材料のような透明部材や、ビーズを分散させたガラスフリット材料のような接合部材を用いても良い。
ギャップ規定部材24に透明な部材を用いた場合には、光束の通過を妨げることがないので、ギャップ構造は空隙構造でなくてもよく、空間光変調素子21と撮像素子22との間の距離であるギャップ距離を透明部材の厚みで制御する。
配線25は、ワイヤーボンディングを用いて形成されている。配線25は、空間光変調素子21と、撮像素子22との少なくとも一方を貫いて電気的に接続する貫通配線26であっても良い。この貫通配線26については、後に詳しく説明する。
ロジック回路13は、制御部9からの電気信号に従って動作する、空間光変調パターン生成補助手段あるいは制御補助手段として機能する。
The fixed portion 23 has a gap defining member 24 that is arranged between the spatial light modulator 21 and the image pickup element 22 to form a gap structure with a constant interval.
The fixing unit 23 fixes the spatial light modulation element 21 and the image pickup element 22 in parallel at a constant interval. Here, the fixing portion 23 may use a fixing member such as a screw, or may use an adhesive or the like, or may integrally mold the spatial light modulation element 21 and the image pickup element 22. ..
In the present embodiment, the gap defining member 24 is a Si substrate having an opening, and the gap defining member 24 has a function as the fixing portion 23. The gap defining member 24 is in contact with at least one of the spatial light modulation element 21 and the image pickup element 22, and is a few mm or less between the spatial light modulation element 21 and the image pickup element 22, depending on the thickness of the opening and the Si substrate. Form a void structure of 1 mm or less, in other words, a gap structure.
The gap defining member 24 is a Si substrate having an opening here, but a transparent member such as a glass material or a joining member such as a glass frit material in which beads are dispersed may be used.
When a transparent member is used as the gap defining member 24, the gap structure does not have to be a void structure because it does not hinder the passage of a light beam, and the distance between the spatial light modulation element 21 and the image pickup element 22 is not required. The gap distance is controlled by the thickness of the transparent member.
The wiring 25 is formed by wire bonding. The wiring 25 may be a through wiring 26 that penetrates at least one of the spatial light modulation element 21 and the imaging element 22 and is electrically connected. The through wiring 26 will be described later in detail.
The logic circuit 13 functions as a spatial light modulation pattern generation assisting unit or a control assisting unit that operates according to an electric signal from the control unit 9.

結像光学系3は、撮像素子22上に画像を形成するよう配設された、少なくとも1つ以上のレンズを備えた結像用レンズ群30と、入射光量を調整するための絞り7とを有している。
結像光学系3は、撮像装置1に入射した光束を撮像素子22上に画像を形成するように配設されている。言い換えると、撮像モジュール2よりも光軸方向上流側に、撮像素子22上に焦点が位置するように配置される。
The imaging optical system 3 includes an imaging lens group 30 including at least one lens, which is arranged to form an image on the image sensor 22, and a diaphragm 7 for adjusting the amount of incident light. Have
The imaging optical system 3 is arranged so as to form an image on the image pickup element 22 by the light flux that has entered the image pickup apparatus 1. In other words, the focus is arranged on the image sensor 22 on the upstream side of the image pickup module 2 in the optical axis direction.

撮像装置1に入射してきた光束は、結像用レンズ群30によって、撮像素子22上に像を結ぶように偏向され、絞り7を通過することで光量が調整される。
結像光学系3を通過した光束は、非撮影時にはミラー4に反射して、偏向素子5を経てファインダー6へと導かれる。撮影時には、ミラー4は結像光学系3からの光束を通過させるよう動作する。このように、ミラー4は光路選択手段たる可動ミラーとして動作する。
The light flux that has entered the image pickup apparatus 1 is deflected by the image forming lens group 30 so as to form an image on the image pickup element 22, and passes through the diaphragm 7 to adjust the light amount.
The light flux that has passed through the imaging optical system 3 is reflected by the mirror 4 when not being photographed, and is guided to the finder 6 through the deflection element 5. At the time of shooting, the mirror 4 operates so as to pass the light flux from the imaging optical system 3. In this way, the mirror 4 operates as a movable mirror which is an optical path selecting means.

ミラー4を通過し、空間光変調素子21に入射した光束は、空間光変調素子21によって空間的な変調を付与される。
素子駆動部たる制御部9は、複数の周期の異なる正弦波形を重ね合わせた空間透過率分布を用いて空間光変調素子21の透過率分布を制御する。
以下、この透過率分布を制御可能な最小単位をセルと呼ぶ。
空間光変調素子21は、素子駆動部たる制御部9からの電気信号、言い換えると周期的な変調信号に従って、素子上それぞれのセルにおける透過率を変化させることで符号化開口パターンを形成する。
すなわち、空間光変調素子21は、素子上の各セルの透過率を周期的に変化させることで、空間光変調素子21を通過する光束に対して空間的な変調を付与する。
このとき、素子駆動部たる制御部9は、空間光変調パターン生成手段として機能する。
The light flux that has passed through the mirror 4 and has entered the spatial light modulation element 21 is spatially modulated by the spatial light modulation element 21.
The control unit 9, which is an element driving unit, controls the transmittance distribution of the spatial light modulator 21 by using the spatial transmittance distribution obtained by superposing a plurality of sinusoidal waveforms having different periods.
Hereinafter, the minimum unit capable of controlling the transmittance distribution is called a cell.
The spatial light modulation element 21 forms a coded aperture pattern by changing the transmittance of each cell on the element according to an electric signal from the control section 9 as an element driving section, in other words, a periodic modulation signal.
That is, the spatial light modulation element 21 imparts spatial modulation to the light flux passing through the spatial light modulation element 21 by periodically changing the transmittance of each cell on the element.
At this time, the control unit 9, which is an element driving unit, functions as a spatial light modulation pattern generation unit.

こうした空間透過率分布を用いて、符号化開口パターンを形成する際には、その正弦波の周期に対応する空間周波数位置、すなわちフーリエ変換を行った場合の横軸に、画像自身の持つ有限の空間周波数帯域のスペクトル分布が畳み込み積分の形で複製される。
つまり、正弦波形の周期の数だけ、空間周波数の軸上に被写体の空間周波数スペクトル分布が複製される。ここで、正弦波形の周波数の大きさに依存して角度成分の周波数情報が混ざりこむことにより画角分離が可能となる(例えば非特許文献1)。
When forming a coded aperture pattern using such spatial transmittance distribution, the spatial frequency position corresponding to the cycle of the sine wave, that is, the horizontal axis when Fourier transform is performed The spectral distribution in the spatial frequency band is reproduced in the form of convolution integral.
That is, the spatial frequency spectrum distribution of the subject is duplicated on the axis of the spatial frequency by the number of cycles of the sine waveform. Here, the angle information can be separated by mixing the frequency information of the angle component depending on the magnitude of the frequency of the sine waveform (for example, Non-Patent Document 1).

ここで、被写体の空間周波数帯域よりも、隣接する正弦波形の周期に対応する空間周波数の間隔が狭い場合、空間周波数の高周波成分が低周波成分と干渉するエイリアシングが発生する。その結果、画角分離した画像の劣化や、復元した画像へのノイズの重畳などが生じる。これを回避するためには、得られた画像情報の持つ空間周波数の帯域と、空間光変調素子21に与える正弦波形の周期を、エイリアシングが生じない程度まで異ならせる必要がある。 Here, when the space between the spatial frequencies corresponding to the period of the adjacent sine waveform is narrower than the spatial frequency band of the subject, aliasing occurs in which the high frequency component of the spatial frequency interferes with the low frequency component. As a result, deterioration of the image with separated view angles, superposition of noise on the restored image, and the like occur. In order to avoid this, it is necessary to make the spatial frequency band of the obtained image information different from the period of the sinusoidal waveform given to the spatial light modulator 21 to the extent that aliasing does not occur.

このようにエイリアシングを回避するための処理フローを図3を用いて説明する。
ここで画像特性解析手段、空間光変調パターン生成手段、画質判定手段、復号処理手段12は、本実施形態においてはいずれも制御部9の機能である。
まず、制御部9は、空間的な変調なし、もしくは一定の空間的な変調を行った場合についての初期画像を取得する(ステップS1)。
この初期画像の空間周波数帯域を、画像特性解析手段としての制御部9によって解析する。制御部9は、初期画像の空間周波数帯域を解析することで、空間光変調素子21に印加するのに必要な正弦波の周波数を決定する(ステップS2)。
ついで、空間光変調パターン算出手段あるいは空間光変調パターン生成手段たる制御部9は、かかる処理で得られた正弦波形の周波数に基づいた空間光変調パターンを算出して生成する(ステップS3)。このとき制御部9は符号化開口パターン算出手段あるいは符号化開口パターン生成手段としての機能を有する。ステップS3で得られた空間光変調パターンに基づいて、素子駆動部たる制御部9は空間光変調素子21の透過率を変化させ、再度画像情報を取得する(ステップS4)。
さらに、画質判定手段としての制御部9は、取得された画像情報の画質が十分良好であるかどうか、言い換えると得られた画像情報の空間周波数が、エイリアシングを生じない条件に収まるか否かを判定する(ステップS5)。不十分と判定された場合には、ステップS2に戻って空間周波数の解析に戻って同様の処理を繰り返す、すなわちフィードバック機構によってエイリアシングを生じない条件に画質を最適化する。画質の最適化が終了した時点で、所望の空間情報、この場合には画角分離した画像情報を取得する(ステップS6)。
A processing flow for avoiding aliasing in this way will be described with reference to FIG.
Here, the image characteristic analysis unit, the spatial light modulation pattern generation unit, the image quality determination unit, and the decoding processing unit 12 are all functions of the control unit 9 in the present embodiment.
First, the control unit 9 acquires an initial image when there is no spatial modulation or a certain spatial modulation is performed (step S1).
The spatial frequency band of this initial image is analyzed by the control unit 9 as an image characteristic analyzing means. The control unit 9 determines the frequency of the sine wave required to be applied to the spatial light modulator 21 by analyzing the spatial frequency band of the initial image (step S2).
Then, the control unit 9, which is the spatial light modulation pattern calculation means or the spatial light modulation pattern generation means, calculates and generates the spatial light modulation pattern based on the frequency of the sinusoidal waveform obtained by such processing (step S3). At this time, the control unit 9 has a function as a coded aperture pattern calculation means or a coded aperture pattern generation means. Based on the spatial light modulation pattern obtained in step S3, the control unit 9 as the element driving unit changes the transmittance of the spatial light modulation element 21 and acquires image information again (step S4).
Further, the control unit 9 as the image quality determination means determines whether the image quality of the acquired image information is sufficiently good, in other words, whether the spatial frequency of the obtained image information falls within the condition that aliasing does not occur. The determination is made (step S5). When it is determined that the image quality is insufficient, the process returns to step S2 to return to the analysis of the spatial frequency and the same process is repeated, that is, the image quality is optimized by the feedback mechanism under the condition that aliasing does not occur. When the optimization of the image quality is completed, the desired spatial information, in this case, the image information with the separated view angle is acquired (step S6).

空間的な変調を付与された光束は、撮像素子22に検出されることで、画像情報として認識される。この画像情報には、周期的な変調信号に従って空間的な変調を付与されたことにより、空間光変調素子21上のどのセルを、どの時間に通過したのかという情報が含まれている。
つまり、画像情報と、当該画像情報が検出された撮像素子22の位置から、撮像素子22に検出された光束の角度情報、言い換えると光束の方向成分の情報が得られる。
The light flux to which the spatial modulation is applied is recognized by the image sensor 22 as image information. This image information includes information as to which cell on the spatial light modulator 21 and at what time it has passed since the spatial modulation is applied according to the periodic modulation signal.
That is, from the image information and the position of the image sensor 22 where the image information is detected, angle information of the light beam detected by the image sensor 22, that is, information of the direction component of the light beam can be obtained.

このようにして得られた画像情報から、復号処理手段12を用いて空間的な変調を取り除いて画像を再構成することにより、撮像装置を複数台設ける等の特殊な装置構成を必要とせず、距離や方向などの空間情報を含んだ画像を得る。 From the image information thus obtained, the spatial modulation is removed using the decoding processing means 12 to reconstruct the image, thereby eliminating the need for a special device configuration such as providing a plurality of imaging devices, Obtain an image containing spatial information such as distance and direction.

本実施形態においては、画像内に含まれた特定の被写体をターゲットとして、距離分解能を最適化することで被写体までの距離情報を取得することができる。
こうした空間情報の取得方法を、距離情報の取得を例に図4を用いて説明する。
ただし、複数の画角分離画像から視差情報を算出する手法についてその詳細な説明は適宜省略する。
In the present embodiment, it is possible to acquire the distance information to the subject by optimizing the distance resolution by targeting a specific subject included in the image.
A method of acquiring such spatial information will be described with reference to FIG. 4 by taking acquisition of distance information as an example.
However, a detailed description of a method of calculating parallax information from a plurality of angle-of-view separated images will be appropriately omitted.

まず、空間光変調パターン生成手段としての制御部9が、任意の空間光変調パターンを生成する(ステップS21)。制御部9は、ステップS21で生成した任意の空間光変調パターンを用いて画像取得を行い(ステップS22)、複数の画角分離情報を抽出する(ステップS23)。
次に、画像特性解析手段たる距離分解能判定手段としての制御部9は、かかる画角分離された画像情報を解析し、画像内の特定のターゲットたる被写体の局所位置について、距離情報を算出する(ステップS24)。ステップS24で算出された距離情報を用いて、距離分解能判定手段としての制御部9は、得られた画像に所望の分解能が得られているか否かを判定する(ステップS25)。
得られた画像の分解能が不十分である場合には、空間光変調パターン生成手段としての制御部9は、空間光変調パターンを構成する正弦波の周期を再度算出する(ステップS26)。
制御部9は、ステップS26で算出された空間光変調パターンを基に画角分離分解能を変化させることで、再度空間光変調パターンの生成を行って新たな画像を取得する(ステップS27)。
このようなフィードバックループを形成する距離分解能最適化機構によって距離分解能が最適化され、最終的にターゲットとする被写体に適した距離画像を取得する(ステップS28)。
First, the control unit 9 as the spatial light modulation pattern generation means generates an arbitrary spatial light modulation pattern (step S21). The control unit 9 acquires an image using the arbitrary spatial light modulation pattern generated in step S21 (step S22), and extracts a plurality of field angle separation information (step S23).
Next, the control unit 9 as a distance resolution determination unit, which is an image characteristic analysis unit, analyzes the image information separated from the angle of view, and calculates distance information about the local position of the subject as a specific target in the image ( Step S24). Using the distance information calculated in step S24, the control unit 9 as the distance resolution determination means determines whether the obtained image has the desired resolution (step S25).
When the resolution of the obtained image is insufficient, the control unit 9 as the spatial light modulation pattern generating means recalculates the cycle of the sine wave forming the spatial light modulation pattern (step S26).
The control unit 9 changes the angle of view separation resolution based on the spatial light modulation pattern calculated in step S26 to generate the spatial light modulation pattern again to acquire a new image (step S27).
The distance resolution optimization mechanism that forms such a feedback loop optimizes the distance resolution, and finally a distance image suitable for the target subject is acquired (step S28).

このとき、撮像モジュール2によって得られる光束の角度情報の分解能及び得られる画像情報の視野角は、撮像素子22の大きさと、空間光変調素子21の各セルの大きさと、撮像素子22と空間光変調素子21との間の距離、すなわちギャップ距離とで決定される。 At this time, the resolution of the angle information of the light flux obtained by the image pickup module 2 and the viewing angle of the obtained image information are the size of the image pickup element 22, the size of each cell of the spatial light modulation element 21, the image pickup element 22 and the spatial light. It is determined by the distance to the modulation element 21, that is, the gap distance.

しかしながら、従来の技術では、符号化開口パターンと光検出アレイはそれぞれ独自に設置・制御されており、両者を近接して設置することは困難であった。また、符号化開口パターンとして液晶素子などの能動的にパターンを変えられる構成を用いた場合には、液晶素子に電気的な接続が必須であるが、ワイヤーボンディング等の既知の手法では破損などの恐れがあり、実装上の問題が解決されていない。
このような問題点は、ギャップ距離が比較的大きい場合には問題とされていなかった。
そこで本発明では、空間光変調素子21と撮像素子22とを一体化して固定する固定部と、空間光変調素子21と撮像素子22との間に配置されて一定の間隔のギャップ構造を形成するギャップ規定部材24とを有している。
このような構成により、空間光変調素子21と撮像素子22とが一体化され、モジュール化されるから、ギャップ距離を短く、撮像素子22と空間光変調素子21との位置を高精度に合わせて、角度分解能が高い高精度な画像情報が得られる。
However, in the conventional technique, the coded aperture pattern and the photodetection array are independently installed and controlled, and it is difficult to install the two adjacently. In addition, when a configuration such as a liquid crystal element in which the pattern can be actively changed is used as the coded aperture pattern, electrical connection to the liquid crystal element is indispensable, but known methods such as wire bonding do not cause damage. There is a fear that the implementation problem has not been solved.
Such a problem has not been a problem when the gap distance is relatively large.
Therefore, in the present invention, a fixed portion that integrally fixes the spatial light modulation element 21 and the image pickup element 22 and a fixed part that is disposed between the spatial light modulation element 21 and the image pickup element 22 to form a gap structure at a constant interval. And a gap defining member 24.
With such a configuration, the spatial light modulator 21 and the image sensor 22 are integrated and modularized, so that the gap distance is shortened and the positions of the image sensor 22 and the spatial light modulator 21 are adjusted with high accuracy. , Highly accurate image information with high angular resolution can be obtained.

本実施形態における空間光変調素子21は、周期的にその透過率を変化させる、再構成可能な符号化開口パターンを形成しているが、このような制御には高周波信号がよく用いられる。一般に高周波信号を用いる回路においては、ノイズや信号のロスの抑制のために配線の長さを短くすることが望ましい。 The spatial light modulation element 21 in the present embodiment forms a reconfigurable coded aperture pattern that periodically changes its transmittance, but a high frequency signal is often used for such control. Generally, in a circuit using a high frequency signal, it is desirable to shorten the length of the wiring in order to suppress noise and signal loss.

空間光変調素子21を、透過型の液晶デバイスとすることにより、市場流通するデバイスや制御部材がそのまま利用可能であり、上述のような効果に加えて、コストを抑えて空間情報を含んだ画像情報が得られる。 By making the spatial light modulator 21 a transmissive liquid crystal device, devices and control members in the market can be used as they are, and in addition to the above-mentioned effects, an image containing spatial information at a reduced cost can be used. Information is obtained.

また、空間光変調素子21は、液晶デバイスの他、ウェット毛細管型の空間光変調素子21であっても良い(例えば特許文献3、4、非特許文献1参照)。
ウェット毛細管型の空間光変調素子21は、液体を収容可能な微細空孔構造体と、電気的な信号により微細空孔構造体内部の当該液体の量を調整して光の透過率を制御する透過率制御手段とを有する。
このような構成にすることで、入射する光束の照射領域全てが透明材料によって構成されるから、空間光変調素子21の下層に位置する撮像素子22上の受光素子が全て利用可能となり、画像あるいは空間情報を含んだ画像情報がより高い解像度で取得される。
Further, the spatial light modulator 21 may be a wet capillary type spatial light modulator 21 other than a liquid crystal device (see, for example, Patent Documents 3 and 4 and Non-Patent Document 1).
The wet capillary type spatial light modulation element 21 controls the light transmittance by adjusting the amount of the liquid inside the fine pore structure body by an electric signal and the fine pore structure body capable of containing the liquid. And a transmittance control unit.
With such a configuration, since the entire irradiation area of the incident light flux is made of the transparent material, all the light receiving elements on the image pickup element 22 located in the lower layer of the spatial light modulation element 21 can be used, and the image or Image information including spatial information is acquired at a higher resolution.

さらに、高精度を求められる計測においては、空間光変調素子21と撮像素子22との水平位置、回転、平行度等の位置合わせが画素オーダーの精度で行えることが望ましい。
ウェット毛細管型の空間光変調素子21を用いるとすれば、空間光変調素子21と撮像素子22とギャップ規定部材24とが何れも半導体プロセスで製造可能になるから、接着剤等を用いずに撮像モジュール2を一体形成することが容易になる。このような構成により、画素サイズ程度の精度での位置合わせが可能であるから、接着剤等を用いて空間光変調素子21と撮像素子22とを一体化する場合よりも、より高精度かつ高解像度の画像情報を得られる。
空間光変調素子21と撮像素子22とを一定の間隔を維持しながら一体化して固定し、配線25によって電気的な配線を行うから、撮像モジュール2は、実装形態による制約を受けずに空間情報を含んだ画像情報を更に高解像度および/または高精度に取得する。
Further, in measurement requiring high accuracy, it is desirable that the spatial light modulation element 21 and the image pickup element 22 be aligned with each other in terms of horizontal position, rotation, parallelism, and the like with pixel-order accuracy.
If the wet capillary type spatial light modulation element 21 is used, the spatial light modulation element 21, the image pickup element 22, and the gap defining member 24 can all be manufactured by a semiconductor process, so that imaging is performed without using an adhesive or the like. It becomes easy to integrally form the module 2. With such a configuration, the alignment can be performed with an accuracy of about the pixel size, and therefore, the accuracy and the precision are higher than in the case where the spatial light modulator 21 and the image sensor 22 are integrated by using an adhesive or the like. Image information of resolution can be obtained.
Since the spatial light modulation element 21 and the image pickup element 22 are integrally fixed while maintaining a constant space and are electrically connected by the wiring 25, the image pickup module 2 is provided with spatial information without being restricted by the mounting form. The image information including is acquired with higher resolution and/or higher accuracy.

また本実施形態における撮像装置1は、変調を周期的に変化させるために空間光変調素子を駆動する素子駆動部たる制御部9と、画像情報から該変調を取り除いて画像を再構成する復号処理手段12とを有する。かかる構成により、撮像装置1は、被写体の特性または撮影シーンに応じた最適な符号化開口パターンを形成して、画像ないし空間情報を含んだ画像情報を取得する。 Further, the image pickup apparatus 1 according to the present embodiment includes a control unit 9 that is an element driving unit that drives a spatial light modulation element in order to periodically change the modulation, and a decoding process that reconstructs an image by removing the modulation from the image information. And means 12. With this configuration, the image pickup apparatus 1 forms an optimal coded aperture pattern according to the characteristics of the subject or the shooting scene, and acquires image information including an image or spatial information.

また本実施形態において、素子駆動部たる制御部9は、複数の周期の異なる正弦波形を重ね合わせた空間透過率分布を用いて、空間光変調素子21を透過した光束に空間的な変調を付与している。
かかる構成により、撮像装置1は、空間光変調素子21に画像から取得される画像特性情報を利用した最適な符号化開口パターンを形成して、被写体の特性や撮像シーンに依存した画像劣化要因を排除された高画質の画像情報を取得する。
Further, in the present embodiment, the control unit 9, which is an element driving unit, uses the spatial transmittance distribution obtained by superimposing a plurality of sinusoidal waveforms having different periods to impart spatial modulation to the light flux transmitted through the spatial light modulation element 21. doing.
With such a configuration, the image pickup apparatus 1 forms an optimum coded aperture pattern using the image characteristic information acquired from the image in the spatial light modulation element 21 to prevent the image deterioration factor depending on the characteristic of the subject or the imaged scene. Obtain the excluded high-quality image information.

また本実施形態において、素子駆動部たる制御部9は、画像情報を解析する画像特性解析手段たる制御部9による解析結果に基づいて空間光変調素子21に付与する変調を周期的に変化させる。
かかる構成により、撮像装置1は被写体の特性または撮像シーンに応じた最適な符号化開口パターンを形成するから、より高精度な画像ないし空間情報を含んだ画像情報を取得する。
Further, in the present embodiment, the control unit 9 as the element driving unit periodically changes the modulation applied to the spatial light modulation element 21 based on the analysis result by the control unit 9 as the image characteristic analysis unit that analyzes the image information.
With such a configuration, the image pickup apparatus 1 forms an optimum coded aperture pattern according to the characteristics of the subject or the image pickup scene, and thus obtains image information including a more accurate image or spatial information.

一般に、容易に入手可能でコスト低減に効果のある液晶デバイスは、液晶素子のセルあたりのサイズが、光検出器であるフォトダイオードのサイズと比較して非常に大きい。従って、液晶デバイスの透過率を制御して符号化開口パターンとして用いるのみでは、符号化開口パターンと撮像面の解像度が異なるために、光検出器を効率よく利用できないという懸念がある。 In general, a liquid crystal device that is easily available and effective for cost reduction has a very large size per cell of a liquid crystal element as compared with the size of a photodiode that is a photodetector. Therefore, there is a concern that the photodetector cannot be efficiently used only by controlling the transmittance of the liquid crystal device and using it as the coded aperture pattern, because the resolution of the coded aperture pattern is different from that of the imaging surface.

このような懸念を解消するための撮像モジュール2の第1の変形例について説明する。
図5に示す撮像モジュール2は、既に説明した図2の撮像モジュール2の構成と比較して、固定部23の構成が異なっている。
固定部23は、空間光変調素子側の面から入射した光束を撮像素子側の面へ誘導するための導光路素子27と、導光路素子27を支持するための支持構造体29と、空間光変調素子21と導光路素子27との間に配置されるギャップ規定部材24とを有している。
導光路素子27は、撮像素子22と空間光変調素子21との間に、空間光変調素子21との間に一定の間隔を持つよう固定して配置され、空間光変調素子21側の面の開口面積と撮像素子22側の面の開口面積とが異なるテイパー形状である。
導光路素子27は、光ファイバーを束ねて作成するファイバープレートを加熱・延伸した後、切断・研磨されたファイバーテイパープレートであり、空間光変調素子21側の面の解像度と撮像素子22側の面の解像度とが異なる。
導光路素子27は、開口面積が狭い面を撮像面たる撮像素子22に接触して固定され、空間光変調素子21に対して数mm以下、望ましくは1mm以下のギャップ構造を形成するギャップ規定部材24を介して空間光変調素子21と一体化して固定されている。
導光路素子27は、このような構成により、撮像面を擬似的に導光路素子27の空間光変調素子21側の面に拡大して、解像度を変える。
従って、空間光変調素子21の画素ピッチが、撮像素子22の画素ピッチより大きく、解像度が異なるような場合であっても、拡大された撮像面によって、空間光変調素子21を擬似的に高解像度化して、より空間分解能の高い画像を得られる。
空間光変調素子21は、電気的な配線25により制御部9と接続されている。
本実施形態においては、導光路素子27は、空間光変調素子21と導光路素子27との間に配置されるギャップ規定部材24によって空間光変調素子21と接続されている。
撮像素子22と導光路素子27とは接触して配置されているが、接触面に境界面での光反射を抑えるためのマッチングオイルを塗布することで、光束の利用効率が向上してより良好な画質での撮像が可能となる。
A first modified example of the imaging module 2 for solving such a concern will be described.
The image pickup module 2 shown in FIG. 5 is different from the image pickup module 2 shown in FIG.
The fixed portion 23 includes a light guide path element 27 for guiding the light flux incident from the surface on the spatial light modulation element side to the surface on the image pickup element side, a support structure 29 for supporting the light guide path element 27, and the spatial light. It has a gap defining member 24 arranged between the modulation element 21 and the light guide element 27.
The light guide element 27 is fixedly disposed between the image pickup element 22 and the spatial light modulation element 21 so as to have a constant space between the light guide element 27 and the spatial light modulation element 21. It has a taper shape in which the opening area and the opening area of the surface on the image pickup element 22 side are different.
The light guide element 27 is a fiber taper plate obtained by heating and stretching a fiber plate made by bundling optical fibers and then cutting and polishing the fiber plate. The light guide element 27 has a resolution on the surface on the spatial light modulation element 21 side and a surface on the image pickup element 22 side. The resolution is different.
The light guide element 27 is fixed by contacting an image pickup element 22 which is an image pickup surface with a surface having a small opening area, and forms a gap structure of several mm or less, preferably 1 mm or less with respect to the spatial light modulation element 21. It is fixed integrally with the spatial light modulator 21 via 24.
With such a configuration, the light guide element 27 expands the imaging surface in a pseudo manner to the surface of the light guide element 27 on the side of the spatial light modulator 21 to change the resolution.
Therefore, even when the pixel pitch of the spatial light modulation element 21 is larger than the pixel pitch of the image pickup element 22 and the resolutions are different, the spatial light modulation element 21 is pseudo-high resolution by the enlarged image pickup surface. To obtain an image with higher spatial resolution.
The spatial light modulator 21 is connected to the control unit 9 by an electrical wiring 25.
In the present embodiment, the light guide element 27 is connected to the spatial light modulator 21 by the gap defining member 24 arranged between the spatial light modulator 21 and the light guide element 27.
The imaging element 22 and the light guide element 27 are arranged in contact with each other, but by applying matching oil for suppressing light reflection at the boundary surface to the contact surface, the utilization efficiency of the light flux is improved and it is better. It is possible to capture images with various image quality.

なお、一般に空間光変調素子21の画素ピッチは、撮像素子22の画素ピッチより大きいため、導光路素子27の開口面積が狭い面を撮像素子22側に向けて配置したが、導光路素子27の開口面積が狭い面を空間光変調素子21側に向けても構わない。
この場合には、導光路素子27は、撮像面を擬似的に導光路素子27の空間光変調素子21側の面に縮小して、撮像素子22を擬似的に高解像度化するため、特に撮像素子22の解像度が粗い場合には、より高解像度の画像を得る。
Since the pixel pitch of the spatial light modulation element 21 is generally larger than the pixel pitch of the image pickup element 22, the light guide element 27 is arranged with the surface having a small opening area facing the image pickup element 22 side. The surface having a small opening area may be directed toward the spatial light modulator 21 side.
In this case, the light guide element 27 reduces the image pickup surface to the surface of the light guide element 27 on the side of the spatial light modulator 21 in a pseudo manner, so that the image pickup element 22 has a pseudo high resolution. When the resolution of the element 22 is coarse, a higher resolution image is obtained.

以上、図5に沿って説明した以外の構成および動作については、図2に示したような撮像モジュール2の構成および動作と同様であるため説明を省略する。 The configuration and operation other than those described with reference to FIG. 5 are the same as the configuration and operation of the imaging module 2 as shown in FIG.

図6に、図5に示した撮像モジュール2を有する撮像装置1の構成例を示す。
図1に示した撮像装置1との差異について説明する。第1の変形例における撮像モジュール2を有する構成においては、擬似的な撮像面が導光路素子27の入射面、すなわち導光路素子27の空間光変調素子21側の面に位置しており、実際の撮像面よりも画素ピッチが拡大されている。
したがって、結像光学系3は、その結像面たる画像形成領域であるイメージサークルを、擬似的な撮像面よりも大きく設定する必要がある。この結像光学系3にかかる制約を満たせば、その他の撮像装置1の構成は図1に示すものと同様であり、様々なカメラ、レンズ交換型のカメラに利用してもよい。
FIG. 6 shows a configuration example of the image pickup apparatus 1 including the image pickup module 2 shown in FIG.
Differences from the imaging device 1 shown in FIG. 1 will be described. In the configuration including the image pickup module 2 in the first modified example, the pseudo image pickup surface is located on the incident surface of the light guide element 27, that is, the surface of the light guide element 27 on the spatial light modulation element 21 side. The pixel pitch is larger than that of the image pickup surface.
Therefore, the image forming optical system 3 needs to set the image circle, which is an image forming area as the image forming surface thereof, to be larger than that of the pseudo image pickup surface. If the restriction concerning the imaging optical system 3 is satisfied, the other configuration of the image pickup apparatus 1 is similar to that shown in FIG. 1, and may be used for various cameras and lens interchangeable type cameras.

その他、例えば、撮像モジュール2は、図7に示す第2の変形例のように、ウェット毛細管型の空間光変調素子21と固定部23とを同一基板上に一体形成した構成であっても良い。このとき固定部23は、ギャップ規定部材24としての機能を有して空隙構造を形成している。図7のような構成とすることで、空間光変調素子21と撮像素子22との接合に、半導体プロセスでのウェハ接合技術を用いることにより、空間光変調素子21と撮像素子22との間の平行度や位置決め精度が向上する。
ウェハ接合技術としては、ガラスフリット接合や金属による共晶接合などを用いても良い。
さらにこの構成例において、空間光変調素子21はSi熱酸化によるガラス化を用いて作成してもよい。このような構成とすることで、撮像モジュール2をシリコンプロセスのみで製作し、量産コストを低減しながらも、精度が向上する。
In addition, for example, the image pickup module 2 may have a configuration in which the wet capillary type spatial light modulator 21 and the fixing portion 23 are integrally formed on the same substrate as in the second modification shown in FIG. 7. .. At this time, the fixing portion 23 has a function as the gap defining member 24 and forms a void structure. With the configuration as shown in FIG. 7, by using the wafer bonding technique in the semiconductor process for bonding the spatial light modulation element 21 and the imaging element 22, the spatial light modulation element 21 and the imaging element 22 are bonded to each other. Parallelism and positioning accuracy are improved.
As the wafer bonding technique, glass frit bonding or eutectic bonding with metal may be used.
Further, in this configuration example, the spatial light modulator 21 may be formed by vitrification by Si thermal oxidation. With such a configuration, the imaging module 2 is manufactured only by the silicon process, and the accuracy is improved while reducing the mass production cost.

なお、空間光変調素子21と撮像素子22との接合に、半導体プロセスでのウェハ接合技術を用いる構成においては、積層した部分での十分な配線スペースの確保が難しい。
従って、空間光変調素子21と撮像素子22との間の電気的な接続は、例えばシリコン貫通ビア(TSV、Through-Silicon via)等の貫通配線26とすることが望ましい。
貫通配線26により、配線実装時の破損等の可能性を低減するとともに、空間光変調素子21や撮像素子22と、これらを制御する基板と、配線との干渉を防止ないしは低減し、実装形態による制約を受けずに空間情報を含んだ画像情報を得られる。
空間光変調素子21と撮像素子22とを一体化することに併せて、貫通配線26によって最短経路で電気的な接続を行うことにより、周期的に空間光変調素子21の透過率を変化させる際のノイズを低減ないしは抑止して、より高精度な画像情報を得られる。
It should be noted that it is difficult to secure a sufficient wiring space in the laminated portion in the configuration that uses the wafer bonding technique in the semiconductor process for bonding the spatial light modulation element 21 and the imaging element 22.
Therefore, it is desirable that the electrical connection between the spatial light modulator 21 and the image pickup element 22 is a through wiring 26 such as a silicon through via (TSV, Through-Silicon via).
The through wiring 26 reduces the possibility of damage at the time of wiring mounting, and prevents or reduces the interference between the spatial light modulation element 21 and the image pickup element 22 and the board that controls them, and the wiring. Image information including spatial information can be obtained without restriction.
When the spatial light modulation element 21 and the image pickup element 22 are integrated with each other and an electrical connection is made by the shortest path by the through wiring 26, the transmittance of the spatial light modulation element 21 is periodically changed. Noise can be reduced or suppressed, and more accurate image information can be obtained.

また、図8に示す第3の変形例のように、撮像モジュール2の空間光変調素子21と、撮像素子22と、が固定部23と一体に配置され、ガラス材料等の透明部材で構成されたギャップ規定部材24が内部に配置された構成としても良い。
このような構成によれば、透明部材に接合した状態で空間光変調素子21を加工することで、空間光変調素子21の厚みを薄くして、撮像モジュール2の小型化が図れる。
なお、図8に示すようにギャップ規定部材24と撮像素子22の間に、ガラスフリット材料で構成された接合部材241を配設するとしても良い。
Further, as in the third modified example shown in FIG. 8, the spatial light modulation element 21 and the image pickup element 22 of the image pickup module 2 are arranged integrally with the fixing portion 23 and are made of a transparent member such as a glass material. Alternatively, the gap defining member 24 may be arranged inside.
With such a configuration, by processing the spatial light modulation element 21 in a state of being bonded to the transparent member, the thickness of the spatial light modulation element 21 can be reduced and the imaging module 2 can be downsized.
As shown in FIG. 8, a joining member 241 made of a glass frit material may be provided between the gap defining member 24 and the image sensor 22.

また、図9に示す第4の変形例のように、制御部9を空間光変調素子21上に設けた構成とすれば、透明部材を用いたギャップ規定部材24によってギャップ構造を確保しながらも、回路形成に十分な面積を持たせることができる。
このような構成により、撮像装置1が小型化可能になる。
Further, when the control unit 9 is provided on the spatial light modulation element 21 as in the fourth modified example shown in FIG. 9, the gap structure is secured by the gap defining member 24 using a transparent member. It is possible to provide a sufficient area for circuit formation.
With such a configuration, the image pickup apparatus 1 can be downsized.

また、図10に示す第5の変形例のように、撮像素子22を裏面照射型として、裏面側を深堀することで、撮像素子22と空間光変調素子21の間のギャップ距離を維持しながらも、撮像素子22の厚みを薄くできるから、撮像モジュール2の小型化が可能になる。 Further, as in the fifth modification shown in FIG. 10, the image pickup device 22 is of a backside illumination type, and the backside is deeply dug to maintain the gap distance between the image pickup device 22 and the spatial light modulation device 21. However, since the thickness of the image pickup device 22 can be reduced, the image pickup module 2 can be downsized.

以上本発明の好ましい実施の形態について説明したが、本発明はかかる特定の実施形態に限定されるものではなく、上述の説明で特に限定していない限り、特許請求の範囲に記載された本発明の趣旨の範囲内において、種々の変形・変更が可能である。 Although the preferred embodiments of the present invention have been described above, the present invention is not limited to such specific embodiments, and the present invention described in the claims unless otherwise specified. Various modifications and changes are possible within the scope of the above.

例えば、上記実施形態において、撮像装置1は、コンパクトデジタルカメラや、携帯機器搭載の小型カメラのような種々の形態の撮像装置であっても良い。 For example, in the above embodiment, the image pickup apparatus 1 may be various types of image pickup apparatuses such as a compact digital camera and a small camera mounted on a mobile device.

上述した実施形態によれば、入射した光束に空間的な変調を付与して出射する空間光変調素子と、前記空間光変調素子によって空間的な変調を付与された光束を画像情報として取得する撮像素子と、前記空間光変調素子と前記撮像素子とを一体化して固定する固定部とを有し、前記固定部は、前記空間光変調素子と前記撮像素子との間に配置されて一定の間隔のギャップ構造を形成するギャップ規定部材を有するから、撮像素子と符号化開口パターンとの距離を短く、かつ高精度に配置して、エイリアシング等の画像の劣化を防ぎながらも、光の空間情報を高解像度且つ高精度に取得可能であることを特徴とする。 According to the above-described embodiment, a spatial light modulation element that imparts spatial modulation to an incident light flux and emits the light flux, and an imaging that acquires the light flux spatially modulated by the spatial light modulation element as image information. An element and a fixing portion that integrally fixes the spatial light modulation element and the image pickup element, and the fixing portion is arranged between the spatial light modulation element and the image pickup element and has a constant interval. Since it has the gap defining member that forms the gap structure of, the distance between the image sensor and the coded aperture pattern is short and highly accurate, and the spatial information of the light can be stored while preventing the deterioration of the image such as aliasing. It is characterized in that it can be acquired with high resolution and high accuracy.

本発明の実施の形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施の形態に記載されたものに限定されるものではない。 The effects described in the embodiments of the present invention are only listed as the most suitable effects resulting from the present invention, and the effects according to the present invention are limited to those described in the embodiments of the present invention. is not.

1 撮像装置
2 撮像モジュール
3 結像光学系
4 ミラー
6 ファインダー
7 絞り
8 シャッター
9 制御部(素子駆動部)(画像特性解析手段)
12 復号処理手段
13 ロジック回路
21 空間光変調素子
22 撮像素子
23 固定部
24 ギャップ規定部材
25 配線
26 貫通配線
27 導光路素子
28 光検出器アレイ
29 支持構造体
30 結像用レンズ群
241 接合部材
1 Imaging Device 2 Imaging Module 3 Imaging Optical System 4 Mirror 6 Finder 7 Aperture 8 Shutter 9 Control Section (Element Driving Section) (Image Characteristic Analysis Means)
12 Decoding processing means 13 Logic circuit 21 Spatial light modulation element 22 Imaging element 23 Fixed part 24 Gap defining member 25 Wiring 26 Through wiring 27 Light guide element 28 Photodetector array 29 Support structure 30 Imaging lens group 241 Joining member

特開2008−191661号公報JP, 2008-191661, A 特開2008−542863号公報JP, 2008-542863, A 特開2005−316321号公報JP, 2005-316321, A 特開2005−316316号公報JP, 2005-316316, A ジェラルド・ベニ、ハックウッド(G.Beni,S.Hackwood)著、「アプライドフィジクス、レターズ(Appl.Phys.Lett. Vol.38,Issue4)」(米国)、1981年、p.207−209Gerald Beni, G. Beni, S. Hackwood, "Applied Physics, Letters (Appl. Phys. Lett. Vol. 38, Issue 4)" (USA), 1981, p. 207-209

Claims (8)

入射した光束に空間的な変調を付与して出射する空間光変調素子と、
前記空間光変調素子によって空間的な変調を付与された光束を角度情報を含んだ画像情報として取得する撮像素子と、
前記空間光変調素子と前記撮像素子とを一体化して固定する固定部とを有し、
前記固定部は、前記空間光変調素子と前記撮像素子との間に配置されて一定の間隔のギャップ構造を形成するギャップ規定部材を有し、
前記固定部は、一方の面から入射した光束を他方の面へ誘導するための導光路素子を有し、
前記導光路素子は、前記撮像素子と前記空間光変調素子との間に、前記空間光変調素子との間に一定の間隔を持つよう固定して配置され、前記一方の面の開口面積と前記他方の面の開口面積とが異なることを特徴とする撮像モジュール。
A spatial light modulation element that imparts spatial modulation to the incident light flux and emits it,
An image sensor that acquires a light flux spatially modulated by the spatial light modulator as image information including angle information ,
A fixing unit that integrally fixes the spatial light modulator and the image sensor,
The fixed portion includes a gap defining member that is disposed between the spatial light modulator and the image sensor to form a gap structure with a constant interval.
The fixed portion has a light guide element for guiding a light beam incident from one surface to the other surface,
The light guide element is fixedly disposed between the image pickup element and the spatial light modulation element so as to have a constant space between the image pickup element and the spatial light modulation element. An imaging module characterized in that the opening area of the other surface is different.
入射した光束に空間的な変調を付与して出射する空間光変調素子と、
前記空間光変調素子によって空間的な変調を付与された光束を角度情報を含んだ画像情報として取得する撮像素子と、
前記空間光変調素子と前記撮像素子とを一体化して固定する固定部とを有し、
前記固定部は、前記空間光変調素子と前記撮像素子との間に配置されて一定の間隔のギャップ構造を形成するギャップ規定部材を有し、
前記一体化された前記空間光変調素子と、前記撮像素子との少なくとも一方を貫いて最短経路で前記空間光変調素子と前記撮像素子とを電気的に接続する貫通配線を有することを特徴とする撮像モジュール。
A spatial light modulation element that imparts spatial modulation to the incident light flux and emits it,
An image sensor that acquires a light flux spatially modulated by the spatial light modulator as image information including angle information ,
A fixing unit that integrally fixes the spatial light modulator and the image sensor,
The fixed portion includes a gap defining member that is disposed between the spatial light modulator and the image sensor to form a gap structure with a constant interval.
It has a through wiring which electrically connects the spatial light modulator and the image pickup device through a shortest path through at least one of the integrated spatial light modulator and the image pickup device. Imaging module.
請求項1または2に記載の撮像モジュールにおいて、The image pickup module according to claim 1 or 2,
前記空間光変調素子は液体を収容可能な微細空孔構造体と、電気的な信号により前記微細空孔構造体内部の前記液体の量を調整して前記光の透過率を制御する透過率制御手段を有することを特徴とする撮像モジュール。The spatial light modulator includes a fine hole structure capable of containing a liquid, and a transmittance control for controlling the light transmittance by adjusting the amount of the liquid inside the fine hole structure by an electric signal. An imaging module having means.
請求項1または2に記載の撮像モジュールにおいて、
前記空間光変調素子は、透過型の液晶デバイスであることを特徴とする撮像モジュール。
The image pickup module according to claim 1 or 2,
The imaging module, wherein the spatial light modulator is a transmissive liquid crystal device.
請求項1乃至4の何れか1つに記載の撮像モジュールと、前記撮像素子上に画像を形成する結像光学系とを有する撮像装置。 An image pickup apparatus comprising: the image pickup module according to any one of claims 1 to 4; and an image forming optical system that forms an image on the image pickup element. 請求項5に記載の撮像装置において、
前記変調を周期的に変化させるために前記空間光変調素子を駆動する素子駆動部と、
前記画像情報から、前記変調を取り除いて画像を再構成する復号処理手段と、を有することを特徴とする撮像装置。
The imaging device according to claim 5,
An element driving unit that drives the spatial light modulator to change the modulation periodically;
And a decoding processing unit that reconstructs an image by removing the modulation from the image information.
請求項6に記載の撮像装置において、
前記素子駆動部は、複数の周期の異なる正弦波形を重ね合わせた空間透過率分布を用いて前記変調を付与することを特徴とする撮像装置。
The imaging device according to claim 6,
The image pickup device, wherein the element driving unit applies the modulation using a spatial transmittance distribution in which a plurality of sinusoidal waveforms having different periods are overlapped.
請求項6又は7に記載の撮像装置において、
前記素子駆動部は、前記画像情報を解析する画像特性解析手段による解析結果に基づいて前記変調を周期的に変化させることを特徴とする撮像装置。
The imaging device according to claim 6 or 7,
The image pickup device, wherein the element driving unit periodically changes the modulation based on an analysis result by an image characteristic analysis unit that analyzes the image information.
JP2018240973A 2018-12-25 2018-12-25 Imaging module and imaging device Active JP6737325B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018240973A JP6737325B2 (en) 2018-12-25 2018-12-25 Imaging module and imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018240973A JP6737325B2 (en) 2018-12-25 2018-12-25 Imaging module and imaging device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2014003637A Division JP2015133594A (en) 2014-01-10 2014-01-10 Imaging module and imaging apparatus

Publications (2)

Publication Number Publication Date
JP2019062571A JP2019062571A (en) 2019-04-18
JP6737325B2 true JP6737325B2 (en) 2020-08-05

Family

ID=66178689

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018240973A Active JP6737325B2 (en) 2018-12-25 2018-12-25 Imaging module and imaging device

Country Status (1)

Country Link
JP (1) JP6737325B2 (en)

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2659852B2 (en) * 1990-06-29 1997-09-30 株式会社クラレ Manufacturing method of imaging device
JPH0730793A (en) * 1993-07-13 1995-01-31 Hitachi Ltd Image capture device
JPH08294059A (en) * 1995-04-21 1996-11-05 Canon Inc Imaging device
EP1145250A1 (en) * 1999-10-18 2001-10-17 Koninklijke Philips Electronics N.V. X-ray apparatus including a filter with filter elements having an adjustable absorptivity
JP2004184447A (en) * 2002-11-29 2004-07-02 Olympus Corp Optical address spatial light modulator and microscope system using the same
JP2006243667A (en) * 2005-03-07 2006-09-14 Ricoh Co Ltd Optical element and apparatus using optical element
GB0510470D0 (en) * 2005-05-23 2005-06-29 Qinetiq Ltd Coded aperture imaging system
US20100098323A1 (en) * 2008-07-18 2010-04-22 Agrawal Amit K Method and Apparatus for Determining 3D Shapes of Objects
JP2012039261A (en) * 2010-08-04 2012-02-23 Panasonic Corp Solid state imaging device and imaging device

Also Published As

Publication number Publication date
JP2019062571A (en) 2019-04-18

Similar Documents

Publication Publication Date Title
CN105981363B (en) Image-forming module and imaging device
US10230894B2 (en) Image-capturing device and image processing method
JP5842146B2 (en) Solid-state imaging device, imaging device, and spectroscopic element
JP5923755B2 (en) Depth estimation imaging device and imaging device
CN103282827A (en) Optical lens module assembly with autofocus and 3D imaging functions
US8199231B2 (en) Image pickup element unit with an image pickup element on a substrate for picking up an image and an optical low pass filter spaced from the image pickup element
JP6729960B2 (en) Camera module adjusting device and camera module adjusting method
JP6737325B2 (en) Imaging module and imaging device
US9912854B2 (en) Imaging module and imaging apparatus
US9588260B2 (en) Microlens substrate and imaging apparatus
JP2019164325A (en) Light source system, optical diffraction element manufacturing method, distance measurement system, and optical diffraction element
JP5220375B2 (en) Imaging apparatus and imaging apparatus having the same
CN212059927U (en) Camera module and terminal device
CN101351731B (en) Optical module and imaging device
US12587745B2 (en) Image capturing apparatus and control method thereof
JP7504579B2 (en) Image capture device, image capture device control method and program
JP2016046564A (en) Imaging device
CN112449086A (en) Imaging device and imaging method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190124

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200616

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200629

R151 Written notification of patent or utility model registration

Ref document number: 6737325

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151