Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5090388B2 - Imaging device - Google Patents
[go: Go Back, main page]

JP5090388B2 - Imaging device - Google Patents

Imaging device Download PDF

Info

Publication number
JP5090388B2
JP5090388B2 JP2009038421A JP2009038421A JP5090388B2 JP 5090388 B2 JP5090388 B2 JP 5090388B2 JP 2009038421 A JP2009038421 A JP 2009038421A JP 2009038421 A JP2009038421 A JP 2009038421A JP 5090388 B2 JP5090388 B2 JP 5090388B2
Authority
JP
Japan
Prior art keywords
image
pixel
line
pixels
green
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009038421A
Other languages
Japanese (ja)
Other versions
JP2010193400A (en
Inventor
誉行 山下
公二 三谷
良平 船津
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2009038421A priority Critical patent/JP5090388B2/en
Publication of JP2010193400A publication Critical patent/JP2010193400A/en
Application granted granted Critical
Publication of JP5090388B2 publication Critical patent/JP5090388B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)

Description

本発明は、高速撮影に適した撮像装置に関する。   The present invention relates to an imaging apparatus suitable for high-speed imaging.

通常より高いフレームレートでの撮影をすることが可能な撮像装置として、例えば、特許文献1に開示されたものが知られている。この撮像装置における撮像部の概略構成図を図9に示す。   As an image pickup apparatus capable of shooting at a frame rate higher than usual, for example, an apparatus disclosed in Patent Document 1 is known. FIG. 9 shows a schematic configuration diagram of an imaging unit in this imaging apparatus.

図9において、プリズム901に入射した被写体像Lは、反射面902,903によって青色光成分Bと赤色光成分Rと緑色光成分Gとに分離される。青色光成分Bは青色光用撮像素子914に入射し、赤色光成分Rは赤色光用撮像素子913に入射する。緑色光成分Gは、ハーフミラー904によって更に第1緑色光成分G1と第2緑色光成分G2とに分離される。第1緑色光成分G1は第1緑色光用撮像素子911に入射し、第2緑色光成分G2は第2緑色光用撮像素子912に入射する。各撮像素子911〜914は、撮像面が2n本(nは自然数)のラインで構成されている。   In FIG. 9, the subject image L incident on the prism 901 is separated into a blue light component B, a red light component R, and a green light component G by the reflecting surfaces 902 and 903. The blue light component B is incident on the blue light imaging element 914 and the red light component R is incident on the red light imaging element 913. The green light component G is further separated into a first green light component G1 and a second green light component G2 by the half mirror 904. The first green light component G1 is incident on the first green light imaging element 911, and the second green light component G2 is incident on the second green light imaging element 912. Each of the imaging elements 911 to 914 is configured with 2n lines (n is a natural number) of the imaging surface.

通常撮影時のフレームレートを60フレーム/秒とすると、1フレーム期間は1/60秒である。各撮像素子911〜914において、各画素に蓄積された電荷の読み出しは順次1ラインずつ行われ、1フレーム期間で2nライン分の読み出しが完了する。   If the frame rate during normal shooting is 60 frames / second, one frame period is 1/60 seconds. In each of the image sensors 911 to 914, the charge accumulated in each pixel is sequentially read out one line at a time, and 2n lines are read out in one frame period.

一方、2倍速撮影時においては、第1緑色光用撮像素子911と第2緑色光用撮像素子912の撮像を、通常撮影時における1フレーム期間の半周期ずらして行う。即ち、T=1/60秒として、第1緑色光用撮像素子911については、時刻tからt+Tの期間に順次1ラインずつ2nライン分の読み出しを行い、1フレームの画像を得る。また、第2緑色光用撮像素子912については、時刻t+T/2からt+3T/2の期間に順次1ラインずつ2nライン分の読み出しを行い、1フレームの画像を得る。以降も同様の動作を行うことで、1/60秒の期間に、それぞれ2nラインからなる互いに1/120秒ずれた2枚のフレームが得られる。この結果、緑色については、1フレーム期間は等価的に1/120秒となる。赤色光用撮像素子913と青色光用撮像素子914については、赤色や青色に対する人間の視覚の感度が緑色よりも低いことを利用し、読み出すラインを半分に間引いて1/120秒間にnラインからなるそれぞれ1枚のフレームを得る。このようにして、全色について、フレームレートが120フレーム/秒、即ち2倍速の高速撮影が可能となる。   On the other hand, at the time of double speed shooting, the first green light image sensor 911 and the second green light image sensor 912 are imaged with a half-cycle shift of one frame period during normal shooting. That is, assuming that T = 1/60 seconds, the first green light imaging device 911 sequentially reads out 2n lines one line at a time from time t to t + T, thereby obtaining an image of one frame. For the second green light image sensor 912, 2n lines are sequentially read out line by line during the period from time t + T / 2 to t + 3T / 2 to obtain an image of one frame. Thereafter, the same operation is performed to obtain two frames each having a 1/60 second offset and each having a 1/120 second shift, each having 2n lines. As a result, for green, one frame period is equivalently 1/120 second. For the red light image sensor 913 and the blue light image sensor 914, utilizing the fact that the human visual sensitivity to red and blue is lower than green, the line to be read is thinned out in half and from the n line in 1/120 seconds. Get one frame each. In this way, high-speed shooting at a frame rate of 120 frames / second, that is, double speed is possible for all colors.

特開2000−228775号公報JP 2000-228775 A

しかしながら、上記のような駆動方法により高速撮影を実現する場合、2つの緑色光用撮像素子911,912を交互のタイミングで駆動するので、各撮像素子をそれぞれ駆動制御する制御信号が互いに干渉し合って撮像素子から読み出す画像にノイズが発生し、画質が劣化してしまうという問題がある。
また、上記の駆動方法では、一方の第1緑色光用撮像素子911から1枚の緑色のフレームを得、他方の第2緑色光用撮像素子912からもう1枚の緑色のフレームを得ているので、この2つの撮像素子911,912が例えば光電変換効率の特性の差を有するものであった場合、緑色の各フレームは交互に明暗のレベルが異なるものとなってしまう。この明暗のレベル差は、再生時にフリッカーとなって現れるため、画質を劣化させる要因となる。
However, when high-speed shooting is realized by the driving method as described above, the two green light image pickup devices 911 and 912 are driven at alternate timings, so that control signals for driving and controlling the respective image pickup devices interfere with each other. Therefore, there is a problem that noise is generated in an image read from the image sensor and the image quality is deteriorated.
In the above driving method, one green frame is obtained from one first green light image sensor 911 and another green frame is obtained from the other second green light image sensor 912. Therefore, when the two image sensors 911 and 912 have, for example, a difference in characteristics of photoelectric conversion efficiency, the green frames are alternately different in brightness level. This level difference between light and dark appears as flicker during reproduction, which causes a deterioration in image quality.

本発明は上記の点に鑑みてなされたものであり、その目的は、高速撮影時に高画質な映像を得られる撮像装置を提供することにある。   The present invention has been made in view of the above points, and an object thereof is to provide an imaging apparatus capable of obtaining a high-quality video during high-speed shooting.

本発明は上記の課題を解決するためになされたものであり、緑色光の成分の画像を撮像する第1及び第2の緑色光用撮像素子と、赤色光の成分の画像を撮像する赤色光用撮像素子と、青色光の成分の画像を撮像する青色光用撮像素子と、前記第1の緑色光用撮像素子から、全画素の読み出しを行う場合の半分の時間の期間に当該全画素の半数の画素を間引いた画素からなる1フレームの画像を読み出し、前記第2の緑色光用撮像素子から、前記期間に前記1フレームの画像の画素と相補的な画素からなる1フレームの画像を読み出し、前記赤色光用撮像素子から、前記期間に当該全画素の半数の画素を間引いた画素からなる1フレームの画像を読み出し、前記青色光用撮像素子から、前記期間に当該全画素の半数の画素を間引いた画素からなる1フレームの画像を読み出す読み出し制御手段と、前記期間毎に前記第1の緑色光用撮像素子から読み出した画像と前記第2の緑色光用撮像素子から読み出した画像とに基づいて、全画素分の画像情報を有する1フレームの緑色画像を生成する緑色画像生成手段と、前記期間毎に前記赤色光用撮像素子から読み出した画像と前記青色光用撮像素子から読み出した画像と前記緑色画像生成手段により生成された緑色画像を1フレームの画像に合成する画像合成手段と、を備え、前記読み出し制御手段は、前記第1の緑色光用撮像素子から、奇数行目のライン上の奇数列目の各画素及び偶数行目のライン上の偶数列目の各画素からなる1フレームの画像を読み出し、前記第2の緑色光用撮像素子から、奇数行目のライン上の偶数列目の各画素及び偶数行目のライン上の奇数列目の各画素からなる1フレームの画像を読み出すことを特徴とする撮像装置である。
例えば、前記読み出し制御手段は、第nラインの第m画素、第n+1ラインの第m+1画素、第nラインの第m+2画素、第n+1ラインの第m+3画素、…の順序で前記第1の緑色光用撮像素子から順次読み出しを行い、第n+1ラインの第m画素、第nラインの第m+1画素、第n+1ラインの第m+2画素、第nラインの第m+3画素、…の順序で前記第2の緑色光用撮像素子から順次読み出しを行う(但し、n,mは自然数)。
The present invention has been made in order to solve the above-described problem. First and second image sensors for green light that capture an image of a green light component, and red light that captures an image of a red light component An image sensor for a blue light, an image sensor for a blue light that captures an image of a component of blue light, and the first green light image sensor. Read one frame image consisting of half-thinned pixels and read one frame image consisting of pixels complementary to the one frame image pixels during the period from the second green light image sensor. Read out one frame image from the red light image sensor, which is a half-thick pixel of the entire pixel during the period, and half the pixel of the total pixel during the period from the blue light image sensor. From the pixels that are thinned out Based on a readout control means for reading out an image of one frame, an image read out from the first green light image sensor and an image read out from the second green light image sensor every time period, A green image generating means for generating a one-frame green image having the image information; an image read from the red light image sensor for each period; an image read from the blue light image sensor; and the green image generator means An image synthesizing unit that synthesizes the green image generated by the step S1 with an image of one frame, and the readout control unit includes an odd-numbered column on an odd-numbered line from the first image sensor for green light. An image of one frame including each pixel and each pixel in the even-numbered column on the even-numbered line is read, and each pixel in the even-numbered column on the odd-numbered line is read from the second image sensor for green light. An imaging apparatus characterized by reading one frame image consisting of odd-numbered column pixels of the even row line.
For example, the reading control means may perform the first green light in the order of the mth pixel of the nth line, the m + 1th pixel of the n + 1th line, the m + 2 pixel of the nth line, the m + 3 pixel of the n + 1th line,. Sequentially read out from the image pickup device, the second green color in the order of the (m + 1) th pixel of the (n + 1) th line, the (m + 1) th pixel of the nth line, the (m + 2) pixel of the (n + 1) th line, the (m + 3) pixel of the nth line,. Reading is sequentially performed from the optical imaging device (where n and m are natural numbers).

また、本発明は、上記の撮像装置において、前記読み出し制御手段は、前記第1又は第2の緑色光用撮像素子のいずれか一方と同じ読み出し順序で前記赤色光用撮像素子及び前記青色光用撮像素子から順次読み出しを行うことを特徴とする。 In the imaging apparatus according to the aspect of the invention, the readout control unit may be configured to read the red light imaging element and the blue light in the same readout order as the first or second green light imaging element. and performing sequentially read from the image sensor.

本発明は、2つの緑色光用撮像素子からの画像の読み出しにおいて、1フレーム内の画素を間引いて読み出しを行う構成とすることにより、通常(全画素の読み出しを行う場合)より短い期間に画素数の少ない1フレーム分の読み出しを完了させ高速化を図るとともに、2つの緑色光用撮像素子で同じ期間にその1フレーム分を読み出し、画素が間引かれた2つの画像から当該期間の1枚の完全な(つまり画素を間引いていない)画像を生成する構成とすることにより、画素を間引かずに読み出しをした場合と同じ解像度の画像が得られるようにした。   According to the present invention, in reading out images from two green light image sensors, pixels are read out by thinning out pixels in one frame, so that the pixels are shorter in the period than usual (when all pixels are read out). The readout of one frame with a small number is completed to increase the speed, and the two frames of green light are read out in the same period with two green light image sensors, and one image in the period is obtained from two images with pixels thinned out. Thus, an image having the same resolution as that obtained when reading without thinning out pixels is obtained by generating a complete image (that is, pixels not thinned out).

よって、2つの緑色光用撮像素子を交互のタイミングで駆動しないので、制御信号の干渉に起因するノイズが発生せず、良好な画質を保つことができる。また、画素を間引いた2つの画像から1枚の緑色画像を生成するので、元の2つの画像が特性差を有していたとしても、その特性差は生成された緑色画像の1フレーム内に分散され、視覚上は認識困難となりフリッカーとして顕在化することもないため、画質の劣化を抑えることができる。
したがって、本発明によれば、高速撮影時に高画質な映像を得ることが可能である。
Therefore, since the two green light imaging elements are not driven at alternate timings, noise due to control signal interference does not occur and good image quality can be maintained. In addition, since one green image is generated from two images obtained by thinning pixels, even if the original two images have a characteristic difference, the characteristic difference is within one frame of the generated green image. Since it is distributed, it is difficult to recognize visually and does not appear as flicker, so that deterioration in image quality can be suppressed.
Therefore, according to the present invention, it is possible to obtain a high-quality image during high-speed shooting.

本発明の一実施形態による撮像装置の構成を示す図である。It is a figure which shows the structure of the imaging device by one Embodiment of this invention. 第1緑色光用撮像素子に対する画素選択信号と当該画素選択信号に応じて第1緑色光用撮像素子から出力される画像信号を表す図である。FIG. 6 is a diagram illustrating a pixel selection signal for a first green light image sensor and an image signal output from the first green light image sensor in accordance with the pixel selection signal. 2倍速撮影時における第1緑色光用撮像素子と第2緑色光用撮像素子とに対する画素選択信号を表す図である。It is a figure showing the pixel selection signal with respect to the 1st image sensor for green light and the 2nd image sensor for green light at the time of 2x speed photography. 図3の画素選択信号に基づいて得られる緑色光成分Gに関する画像信号を表す図である。It is a figure showing the image signal regarding the green light component G obtained based on the pixel selection signal of FIG. 赤色光成分Rに関する画像信号を表す図である。3 is a diagram illustrating an image signal related to a red light component R. FIG. 第2の実施形態における第1緑色光用撮像素子と第2緑色光用撮像素子とに対する画素選択信号を表す図である。It is a figure showing the pixel selection signal with respect to the 1st image sensor for green light and the 2nd image sensor for green light in 2nd Embodiment. 図6の画素選択信号に基づいて得られる緑色光成分Gに関する画像信号を表す図である。It is a figure showing the image signal regarding the green light component G obtained based on the pixel selection signal of FIG. 第2の実施形態における赤色光用撮像素子と青色光用撮像素子とに対する画素選択信号を表す図である。It is a figure showing the pixel selection signal with respect to the image sensor for red light and the image sensor for blue light in 2nd Embodiment. 従来の撮像装置における撮像部の概略構成図である。It is a schematic block diagram of the imaging part in the conventional imaging device.

以下、図面を参照しながら本発明の実施形態について詳しく説明する。
(第1の実施形態)
図1は、本発明の一実施形態による撮像装置の構成を示す図である。撮像装置は、第1緑色光用撮像素子111と、第2緑色光用撮像素子112と、赤色光用撮像素子113と、青色光用撮像素子114と、プリズム104と、読み出し制御部101と、緑色画像生成部102と、画像合成部103と、を含んで構成されている。
Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
(First embodiment)
FIG. 1 is a diagram illustrating a configuration of an imaging apparatus according to an embodiment of the present invention. The imaging device includes a first green light imaging element 111, a second green light imaging element 112, a red light imaging element 113, a blue light imaging element 114, a prism 104, a readout control unit 101, A green image generation unit 102 and an image composition unit 103 are included.

プリズム104は、被写体像Lを赤・緑・青の各色成分に分離するとともに、緑色成分を2つに分岐させる機能を有した光学素子であり、その内部に反射面1041,1042及びハーフミラー1043を備えている。プリズム104に入射した被写体像Lは、反射面1041,1042によって青色光成分Bと赤色光成分Rと緑色光成分Gとに分離される。青色光成分Bは青色光用撮像素子114に入射し、赤色光成分Rは赤色光用撮像素子113に入射する。緑色光成分Gは、ハーフミラー1043によって更に第1緑色光成分G1と第2緑色光成分G2とに分岐される。第1緑色光成分G1は第1緑色光用撮像素子111に入射し、第2緑色光成分G2は第2緑色光用撮像素子112に入射する。   The prism 104 is an optical element that has a function of separating the subject image L into red, green, and blue color components and branching the green component into two, and includes reflection surfaces 1041 and 1042 and a half mirror 1043 therein. It has. The subject image L incident on the prism 104 is separated into a blue light component B, a red light component R, and a green light component G by the reflecting surfaces 1041 and 1042. The blue light component B is incident on the blue light image sensor 114, and the red light component R is incident on the red light image sensor 113. The green light component G is further branched into a first green light component G1 and a second green light component G2 by the half mirror 1043. The first green light component G1 is incident on the first green light imaging element 111, and the second green light component G2 is incident on the second green light imaging element 112.

第1緑色光用撮像素子111は、入射した被写体像Lの第1緑色光成分G1を受光して光電変換する。第2緑色光用撮像素子112は、入射した被写体像Lの第2緑色光成分G2を受光して光電変換する。赤色光用撮像素子113は、入射した被写体像Lの赤色光成分Rを受光して光電変換する。青色光用撮像素子114は、入射した被写体像Lの青色光成分Bを受光して光電変換する。各撮像素子111〜114は、例えばCMOSイメージセンサであり、撮像面が多数の画素で構成されている。各画素は、2n本(nは自然数)のラインをなすように配置されている。   The first green light imaging element 111 receives and photoelectrically converts the first green light component G1 of the incident subject image L. The second green light image sensor 112 receives and photoelectrically converts the second green light component G2 of the incident subject image L. The red light image sensor 113 receives the red light component R of the incident subject image L and photoelectrically converts it. The blue light imaging element 114 receives the blue light component B of the incident subject image L and photoelectrically converts it. Each of the imaging elements 111 to 114 is, for example, a CMOS image sensor, and the imaging surface is configured with a large number of pixels. Each pixel is arranged to form 2n lines (n is a natural number).

読み出し制御部101は、各撮像素子111〜114に対して、光電変換により各画素に蓄積された電荷を読み出す制御を行う。この読み出し制御において、読み出し制御部101は、撮像面を構成している画素の中から電荷の読み出し対象とする画素を順次選択する画素選択信号を生成する。生成された画素選択信号は各撮像素子111〜114へ入力される。この画素選択信号に従って、各撮像素子111〜114の選択された画素から電荷が順次読み出される。   The read control unit 101 controls the image sensors 111 to 114 to read charges accumulated in the pixels by photoelectric conversion. In this readout control, the readout control unit 101 generates a pixel selection signal for sequentially selecting pixels to be read out of charges from the pixels constituting the imaging surface. The generated pixel selection signal is input to each of the image sensors 111 to 114. In accordance with the pixel selection signal, charges are sequentially read from the selected pixels of the image sensors 111 to 114.

画素選択信号による撮像素子からの読み出し動作を詳しく説明する。
図2は、第1緑色光用撮像素子111に対する画素選択信号と当該画素選択信号に応じて第1緑色光用撮像素子111から出力される画像信号を表す図である。以下、通常撮影時のフレームレートを60フレーム/秒とし、2倍速撮影時のフレームレートを120フレーム/秒とする。また、撮像面のk行目のラインをラインkと呼ぶこととする(kは自然数)。
The readout operation from the image sensor by the pixel selection signal will be described in detail.
FIG. 2 is a diagram illustrating a pixel selection signal for the first green light imaging element 111 and an image signal output from the first green light imaging element 111 according to the pixel selection signal. Hereinafter, the frame rate during normal shooting is 60 frames / second, and the frame rate during double-speed shooting is 120 frames / second. In addition, the k-th line on the imaging surface is referred to as a line k (k is a natural number).

図2(A)の通常撮影時において、読み出し制御部101は、ライン1の各画素を順次左側から右側へ向かって選択し、次いでライン2の各画素を順次左側から右側へ向かって選択し、次いでライン3の各画素を順次左側から右側へ向かって選択し、…、次いでライン2n−1の各画素を順次左側から右側へ向かって選択し、次いでライン2nの各画素を順次左側から右側へ向かって選択する画素選択信号を、通常撮影時の1フレーム期間である1/60秒毎に生成する。この結果、ライン1の各画素に蓄積された電荷に基づく信号、ライン2の各画素に蓄積された電荷に基づく信号、ライン3の各画素に蓄積された電荷に基づく信号、…、ライン2n−1の各画素に蓄積された電荷に基づく信号、及び、ライン2nの各画素に蓄積された電荷に基づく信号からなる、2nラインで構成された1フレームの画像を表す画像信号が、1フレーム期間即ち1/60秒毎に第1緑色光用撮像素子111から出力される。   At the time of normal shooting in FIG. 2A, the readout control unit 101 sequentially selects each pixel of the line 1 from the left side to the right side, and then selects each pixel of the line 2 sequentially from the left side to the right side. Next, each pixel in the line 3 is sequentially selected from the left side to the right side, and then each pixel in the line 2n-1 is sequentially selected from the left side to the right side, and then each pixel in the line 2n is sequentially selected from the left side to the right side. A pixel selection signal to be selected is generated every 1/60 seconds, which is one frame period during normal shooting. As a result, a signal based on the charge accumulated in each pixel in line 1, a signal based on the charge accumulated in each pixel in line 2, a signal based on the charge accumulated in each pixel in line 3,..., Line 2n− An image signal representing an image of one frame composed of 2n lines composed of a signal based on the electric charge accumulated in each pixel of 1 and a signal based on the electric charge accumulated in each pixel of the line 2n is one frame period. That is, it is output from the first green light image sensor 111 every 1/60 seconds.

一方、図2(B)の2倍速撮影時において、読み出し制御部101は、奇数行目のラインの画素のみを選択する画素選択信号、即ち、ライン1の各画素を順次左側から右側へ向かって選択し、次いでライン3の各画素を順次左側から右側へ向かって選択し、次いでライン5の各画素を順次左側から右側へ向かって選択し、…、次いでライン2n−3の各画素を順次左側から右側へ向かって選択し、次いでライン2n−1の各画素を順次左側から右側へ向かって選択する画素選択信号を、2倍速撮影時の1フレーム期間である1/120秒毎に生成する。この結果、ライン1の各画素に蓄積された電荷に基づく信号、ライン3の各画素に蓄積された電荷に基づく信号、ライン5の各画素に蓄積された電荷に基づく信号、…、ライン2n−3の各画素に蓄積された電荷に基づく信号、及び、ライン2n−1の各画素に蓄積された電荷に基づく信号からなる、奇数行目のラインのみのnラインで構成された1フレームの画像を表す画像信号が、1フレーム期間即ち1/120秒毎に第1緑色光用撮像素子111から出力される。このように、2倍速撮影時には、撮像素子のラインを半分に間引くことで通常時の倍の速さで1フレーム分の画像の読み出しを行う。   On the other hand, at the time of double-speed shooting in FIG. 2B, the readout control unit 101 selects pixel selection signals for selecting only pixels on odd-numbered lines, that is, the pixels on line 1 sequentially from left to right. Then select each pixel in line 3 sequentially from left to right, then select each pixel in line 5 sequentially from left to right, and then each pixel in line 2n-3 sequentially left From the left side to the right side, and then a pixel selection signal for selecting each pixel of the line 2n-1 sequentially from the left side to the right side is generated every 1/120 second, which is one frame period during double-speed shooting. As a result, a signal based on the charge accumulated in each pixel of line 1, a signal based on the charge accumulated in each pixel of line 3, a signal based on the charge accumulated in each pixel of line 5,..., Line 2n− 1 frame image composed of n lines of only odd-numbered lines, comprising a signal based on the charge accumulated in each pixel 3 and a signal based on the charge accumulated in each pixel of line 2n-1. Is output from the first green light imaging element 111 every frame period, that is, every 1/120 second. In this way, at the time of double speed shooting, the image of one frame is read out at a speed twice as high as normal by thinning the line of the image sensor in half.

図3は、2倍速撮影時における第1緑色光用撮像素子111と第2緑色光用撮像素子112とに対する画素選択信号を表す図である。図3(A)の第1緑色光用撮像素子111については図2(B)に示したとおりである。図3(B)において、読み出し制御部101は、第2緑色光用撮像素子112に対する画素選択信号として、偶数行目のラインの画素のみを選択する画素選択信号、即ち、ライン2の各画素を順次左側から右側へ向かって選択し、次いでライン4の各画素を順次左側から右側へ向かって選択し、次いでライン6の各画素を順次左側から右側へ向かって選択し、…、次いでライン2n−2の各画素を順次左側から右側へ向かって選択し、次いでライン2nの各画素を順次左側から右側へ向かって選択する画素選択信号を、2倍速撮影時の1フレーム期間である1/120秒毎に生成する。
また、図示は省略するが、読み出し制御部101は、赤色光用撮像素子113及び青色光用撮像素子114に対する画素選択信号として、図3と同様に、奇数行目のライン又は偶数行目のライン(いずれでもよい)の画素のみを選択する画素選択信号を、2倍速撮影時の1フレーム期間である1/120秒毎に生成する。
FIG. 3 is a diagram illustrating pixel selection signals for the first green light imaging element 111 and the second green light imaging element 112 during double-speed shooting. The first green light imaging element 111 in FIG. 3A is as shown in FIG. In FIG. 3B, the readout control unit 101 selects a pixel selection signal for selecting only the pixels on the even-numbered line, that is, each pixel on the line 2 as a pixel selection signal for the second green light imaging element 112. Select sequentially from left to right, then select each pixel in line 4 sequentially from left to right, then select each pixel in line 6 sequentially from left to right, ... then line 2n- 2 pixels are sequentially selected from the left side to the right side, and then a pixel selection signal for sequentially selecting each pixel of the line 2n from the left side to the right side is 1/120 second, which is one frame period in double-speed shooting. Generate every time.
Although not shown, the readout control unit 101 uses the odd-numbered lines or even-numbered lines as pixel selection signals for the red-light image sensor 113 and the blue-light image sensor 114 as in FIG. A pixel selection signal for selecting only the pixel (which may be any) is generated every 1/120 second, which is one frame period at the time of double-speed shooting.

図4は、図3の画素選択信号に基づいて得られる緑色光成分Gに関する画像信号を表す図である。図4(A)の第1緑色光用撮像素子111から出力される画像信号については図2(B)に示したとおりである。図4(B)において、ライン2の各画素に蓄積された電荷に基づく信号、ライン4の各画素に蓄積された電荷に基づく信号、ライン6の各画素に蓄積された電荷に基づく信号、…、ライン2n−2の各画素に蓄積された電荷に基づく信号、及び、ライン2nの各画素に蓄積された電荷に基づく信号からなる、偶数行目のラインのみのnラインで構成された1フレームの画像を表す画像信号が、1フレーム期間即ち1/120秒毎に第2緑色光用撮像素子112から出力される。   FIG. 4 is a diagram illustrating an image signal related to the green light component G obtained based on the pixel selection signal of FIG. The image signal output from the first green light imaging element 111 in FIG. 4A is as shown in FIG. In FIG. 4B, a signal based on the charge accumulated in each pixel of the line 2, a signal based on the charge accumulated in each pixel of the line 4, a signal based on the charge accumulated in each pixel of the line 6,. 1 frame composed of n lines of only the even-numbered lines consisting of a signal based on the charge accumulated in each pixel of the line 2n-2 and a signal based on the charge accumulated in each pixel of the line 2n The second green light image sensor 112 outputs an image signal representing the first image every frame period, that is, every 1/120 second.

次に、緑色画像生成部102について説明する。
緑色画像生成部102には、第1緑色光用撮像素子111から出力された画像信号と第2緑色光用撮像素子112から出力された画像信号が入力される。緑色画像生成部102は、1フレーム期間(1/120秒)毎に、第1緑色光用撮像素子111から出力された画像信号、即ち奇数行目のラインのみのnラインからなる画像信号と、第2緑色光用撮像素子112から出力された画像信号、即ち偶数行目のラインのみのnラインからなる画像信号とから、緑色光成分Gについて2n本の全てのラインで構成された完全な(全ての画素を含む)1フレームの画像(緑色画像)を表す画像信号を生成する。以下具体的に説明する。
Next, the green image generation unit 102 will be described.
The green image generation unit 102 receives the image signal output from the first green light image sensor 111 and the image signal output from the second green light image sensor 112. The green image generation unit 102 outputs an image signal output from the first green light imaging element 111 for every frame period (1/120 seconds), that is, an image signal including n lines of only odd-numbered lines, From the image signal output from the second green light image sensor 112, that is, the image signal composed of only n lines of even-numbered lines, the green light component G is completely composed of all 2n lines ( An image signal representing an image (green image) of one frame (including all pixels) is generated. This will be specifically described below.

図4(C)は、緑色画像生成部102から出力される画像信号を表す図である。緑色画像生成部102は、ライン1の各画素に蓄積された電荷に基づく信号(ライン1信号)とライン2の各画素に蓄積された電荷に基づく信号(ライン2信号)が入力されると、この2つの信号をライン1信号,ライン2信号の順に並べて出力する。次いで、ライン3の各画素に蓄積された電荷に基づく信号(ライン3信号)とライン4の各画素に蓄積された電荷に基づく信号(ライン4信号)が入力されると、緑色画像生成部102は、この2つの信号をライン3信号,ライン4信号の順に並べて出力する。以降についても同様である。   FIG. 4C is a diagram illustrating an image signal output from the green image generation unit 102. When the green image generation unit 102 receives a signal based on the charge accumulated in each pixel of the line 1 (line 1 signal) and a signal based on the charge accumulated in each pixel of the line 2 (line 2 signal), These two signals are output in the order of line 1 signal and line 2 signal. Next, when a signal based on the charge accumulated in each pixel on line 3 (line 3 signal) and a signal based on the charge accumulated on each pixel on line 4 (line 4 signal) are input, the green image generation unit 102 Outputs these two signals in the order of line 3 signal and line 4 signal. The same applies to the following.

このようにして、ライン1信号,ライン2信号,ライン3信号,…,ライン2n−1信号,ライン2n信号の順に各信号が配列されてなる、完全な1フレームの緑色画像に対応した画像信号が、1フレーム期間(1/120秒)毎に緑色画像生成部102から出力される。   In this way, an image signal corresponding to a complete green image of one frame, in which each signal is arranged in the order of line 1 signal, line 2 signal, line 3 signal,..., Line 2n-1 signal, line 2n signal. Are output from the green image generation unit 102 every frame period (1/120 seconds).

次に、画像合成部103について説明する。
画像合成部103には、赤色光用撮像素子113から出力された画像信号と青色光用撮像素子114から出力された画像信号と緑色画像生成部102から出力された緑色画像の画像信号とが入力される。画像合成部103は、赤色光用撮像素子113からの画像信号と青色光用撮像素子114からの画像信号をそれぞれ補間して2nラインからなる画像信号を生成する処理と、補間により2nラインとなった赤色及び青色の画像信号と緑色画像生成部102からの2nラインからなる緑色の画像信号とを合成して1フレームの画像とする処理を行う。
Next, the image composition unit 103 will be described.
The image composition unit 103 receives the image signal output from the red light image sensor 113, the image signal output from the blue light image sensor 114, and the image signal of the green image output from the green image generation unit 102. Is done. The image composition unit 103 interpolates the image signal from the red light image sensor 113 and the image signal from the blue light image sensor 114 to generate an image signal composed of 2n lines, and becomes 2n lines by interpolation. The red and blue image signals and the green image signal composed of 2n lines from the green image generation unit 102 are combined to perform processing of one frame image.

上記の補間処理について説明する。
図5は、赤色光成分R(青色光成分Bも同様)に関する画像信号を表す図である。図5(A)に示すように、赤色光用撮像素子113からの画像信号は、第1緑色光用撮像素子111からの画像信号(図4(A))と同様、奇数行目のラインのみのnラインからなっている。画像合成部103は、例えば、隣り合った2つの奇数行目のラインの信号に基づき当該2つの奇数行目のラインに挟まれた偶数行目のラインの信号を生成する補間を行うことにより、図5(B)に示すように、2nラインからなる画像信号を生成する。なお、補間方法としてこれ以外の方法を用いてもよい。
The interpolation process will be described.
FIG. 5 is a diagram illustrating an image signal related to the red light component R (the same applies to the blue light component B). As shown in FIG. 5A, the image signal from the red light image sensor 113 is the same as the image signal from the first green light image sensor 111 (FIG. 4A), and only the odd-numbered lines. N lines. For example, the image synthesis unit 103 performs interpolation to generate a signal of an even-numbered line sandwiched between two odd-numbered lines based on signals of two adjacent odd-numbered lines. As shown in FIG. 5B, an image signal composed of 2n lines is generated. Note that other methods may be used as the interpolation method.

このように、本実施形態によれば、フレームレートが120フレーム/秒の2倍速撮影を行うことができる。また、2つの緑色光用撮像素子111,112を交互のタイミングで駆動する方法を採っていないので、そのような駆動を行うための制御信号の干渉に起因するノイズが発生せず、良好な画質を保つことができる。また、第1緑色光用撮像素子111からの奇数行目のラインと第2緑色光用撮像素子112からの偶数行目のラインとにより1フレームの緑色画像を生成するので、撮像素子の解像度と同じ解像度の緑色画像を得ることができるとともに、2つの緑色光用撮像素子111,112が特性差を有していたとしても、その特性差は生成された緑色画像の1フレーム内において1ライン飛びに分散され、視覚上は認識困難となりフリッカーとして顕在化することもないため、画質の劣化を抑えることができる。   Thus, according to the present embodiment, it is possible to perform double-speed shooting with a frame rate of 120 frames / second. In addition, since the method of driving the two green light imaging elements 111 and 112 at alternate timings is not employed, noise due to interference of control signals for performing such driving does not occur, and good image quality is achieved. Can keep. In addition, since the odd-numbered lines from the first green light image sensor 111 and the even-numbered lines from the second green light image sensor 112 generate one frame of the green image, the resolution of the image sensor A green image with the same resolution can be obtained, and even if the two green light image sensors 111 and 112 have a characteristic difference, the characteristic difference is skipped by one line within one frame of the generated green image. Since it is difficult to recognize visually and does not manifest itself as flicker, image quality deterioration can be suppressed.

(第2の実施形態)
図1の撮像装置において、2倍速撮影の際、以下のような画素選択信号を用いて撮像素子からの読み出しを行う構成としてもよい。
(Second Embodiment)
The image pickup apparatus of FIG. 1 may be configured to read out from the image pickup device using a pixel selection signal as described below at the time of double speed shooting.

図6は、第1緑色光用撮像素子111と第2緑色光用撮像素子112とに対する画素選択信号を表す図である。図6(A)において、読み出し制御部101は、第1緑色光用撮像素子111に対する画素選択信号として、全画素のうち半数の画素をジグザグ状に選択する画素選択信号、即ち、ライン1とライン2について、ライン1の第1画素(A)、ライン2の第2画素(B)、ライン1の第3画素(C)、ライン2の第4画素(D)、ライン1の第5画素、…と画素を順次選択し、次いでライン3とライン4について、ライン3の第1画素、ライン4の第2画素、ライン3の第3画素、ライン4の第4画素、ライン3の第5画素、…と画素を順次選択し、次いでライン5とライン6について、ライン5の第1画素、ライン6の第2画素、ライン5の第3画素、ライン6の第4画素、ライン5の第5画素、…と画素を順次選択し、…、次いでライン2n−1とライン2nについて、ライン2n−1の第1画素、ライン2nの第2画素、ライン2n−1の第3画素、ライン2nの第4画素、ライン2n−1の第5画素、…と画素を順次選択する画素選択信号を、2倍速撮影時の1フレーム期間である1/120秒毎に生成する。   FIG. 6 is a diagram illustrating pixel selection signals for the first green light imaging element 111 and the second green light imaging element 112. In FIG. 6A, the readout control unit 101 uses, as a pixel selection signal for the first green light imaging device 111, a pixel selection signal for selecting half of all pixels in a zigzag manner, that is, line 1 and line 1 2, the first pixel (A) of line 1, the second pixel (B) of line 2, the third pixel (C) of line 1, the fourth pixel (D) of line 2, the fifth pixel of line 1, .. Are sequentially selected, and then for the lines 3 and 4, the first pixel of the line 3, the second pixel of the line 4, the third pixel of the line 3, the fourth pixel of the line 4, and the fifth pixel of the line 3 ,... Are sequentially selected, and then for the lines 5 and 6, the first pixel of the line 5, the second pixel of the line 6, the third pixel of the line 5, the fourth pixel of the line 6, and the fifth pixel of the line 5. Select pixels, ... and pixels in sequence, then ... line 2 -1 and line 2n, the first pixel of line 2n-1, the second pixel of line 2n, the third pixel of line 2n-1, the fourth pixel of line 2n, the fifth pixel of line 2n-1, ... A pixel selection signal for sequentially selecting pixels is generated every 1/120 second, which is one frame period during double-speed shooting.

同様に、図6(B)において、読み出し制御部101は、第2緑色光用撮像素子112に対する画素選択信号として、全画素のうち図6(A)で選択した画素と相補的な半数の画素をジグザグ状に選択する画素選択信号、即ち、ライン1とライン2について、ライン2の第1画素(a)、ライン1の第2画素(b)、ライン2の第3画素(c)、ライン1の第4画素(d)、ライン2の第5画素、…と画素を順次選択し、次いでライン3とライン4について、ライン4の第1画素、ライン3の第2画素、ライン4の第3画素、ライン3の第4画素、ライン4の第5画素、…と画素を順次選択し、次いでライン5とライン6について、ライン6の第1画素、ライン5の第2画素、ライン6の第3画素、ライン5の第4画素、ライン6の第5画素、…と画素を順次選択し、…、次いでライン2n−1とライン2nについて、ライン2nの第1画素、ライン2n−1の第2画素、ライン2nの第3画素、ライン2n−1の第4画素、ライン2nの第5画素、…と画素を順次選択する画素選択信号を、2倍速撮影時の1フレーム期間である1/120秒毎に生成する。   Similarly, in FIG. 6B, the readout control unit 101 uses a half of the pixels complementary to the pixel selected in FIG. 6A among all the pixels as a pixel selection signal for the second green light image sensor 112. A pixel selection signal for selecting a zigzag pattern, that is, for the lines 1 and 2, the first pixel (a) of the line 2, the second pixel (b) of the line 1, the third pixel (c) of the line 2, and the line 1st pixel (d), 5th pixel of line 2,... And pixels are sequentially selected, and then for line 3 and line 4, the first pixel of line 4, the second pixel of line 3, and the 4th pixel of line 4 3 pixels, the fourth pixel on line 3, the fifth pixel on line 4, and so on are sequentially selected, and then for line 5 and line 6, the first pixel on line 6, the second pixel on line 5, and the line 6 3rd pixel, 4th pixel on line 5, 5th pixel on line 6 .. Are sequentially selected, and then, for the lines 2n-1 and 2n, the first pixel of the line 2n, the second pixel of the line 2n-1, the third pixel of the line 2n, and the fourth of the line 2n-1 A pixel selection signal for sequentially selecting the pixels, the fifth pixel of the line 2n,... And the pixels is generated every 1/120 second that is one frame period at the time of double-speed shooting.

但し、ここで第j画素(jは自然数)とは各ラインにおいて左から第j番目の画素を指すものとする。また、「相補的」とは、第1緑色光用撮像素子111から選択した画素と第2緑色光用撮像素子112から選択した画素とによって、全ての画素からなる完全な1フレームの画像(緑色画像)を構成できることを意味する。
また、以下の説明では、便宜上、図6(A)において、ライン1とライン2から選択した画素の集合をライン1’、ライン3とライン4から選択した画素の集合をライン3’、…のように呼び、図6(B)において、ライン1とライン2から選択した画素の集合をライン2’、ライン3とライン4から選択した画素の集合をライン4’、…のように呼ぶこととする。
Here, the j-th pixel (j is a natural number) refers to the j-th pixel from the left in each line. Further, “complementary” means a complete image of one frame (green) consisting of all pixels by the pixels selected from the first green light image sensor 111 and the pixels selected from the second green light image sensor 112. Image).
In the following description, for the sake of convenience, in FIG. 6A, a set of pixels selected from line 1 and line 2 is a line 1 ′, a set of pixels selected from line 3 and line 4 is a line 3 ′,. In FIG. 6B, a set of pixels selected from line 1 and line 2 is referred to as line 2 ′, a set of pixels selected from line 3 and line 4 is referred to as line 4 ′,. To do.

図7は、図6の画素選択信号に基づいて得られる緑色光成分Gに関する画像信号を表す図である。図7(A)において、ライン1’の各画素に蓄積された電荷に基づく信号、ライン3’の各画素に蓄積された電荷に基づく信号、ライン5’の各画素に蓄積された電荷に基づく信号、…、ライン2n−3’の各画素に蓄積された電荷に基づく信号、及び、ライン2n−1’の各画素に蓄積された電荷に基づく信号からなる、全画素の半数の画素に対応したジグザグ状のnライン(便宜上の「ライン」)で構成された1フレームの画像を表す画像信号が、1フレーム期間即ち1/120秒毎に第1緑色光用撮像素子111から出力される。ここで、例えばライン1’について見ると、画素A(ライン1の第1画素)、画素B(ライン2の第2画素)、画素C(ライン1の第3画素)、画素D(ライン2の第4画素)、…のように各画素の信号が配置されている。   FIG. 7 is a diagram illustrating an image signal related to the green light component G obtained based on the pixel selection signal of FIG. In FIG. 7A, a signal based on the charge accumulated in each pixel of the line 1 ′, a signal based on the charge accumulated in each pixel of the line 3 ′, and a charge accumulated in each pixel of the line 5 ′. Corresponds to half of all pixels consisting of a signal, a signal based on the charge accumulated in each pixel of the line 2n-3 ′, and a signal based on the charge accumulated in each pixel of the line 2n-1 ′ An image signal representing an image of one frame composed of the zigzag n lines (a “line” for convenience) is output from the first green light imaging element 111 every one frame period, that is, every 1/120 second. Here, for example, looking at line 1 ′, pixel A (first pixel of line 1), pixel B (second pixel of line 2), pixel C (third pixel of line 1), pixel D (line 2). Signals of the respective pixels are arranged as in the fourth pixel).

同様に、図7(B)において、ライン2’の各画素に蓄積された電荷に基づく信号、ライン4’の各画素に蓄積された電荷に基づく信号、ライン6’の各画素に蓄積された電荷に基づく信号、…、ライン2n−2’の各画素に蓄積された電荷に基づく信号、及び、ライン2n’の各画素に蓄積された電荷に基づく信号からなる、図7(A)と相補的な画素に対応したジグザグ状のnライン(便宜上の「ライン」)で構成された1フレームの画像を表す画像信号が、1フレーム期間即ち1/120秒毎に第2緑色光用撮像素子112から出力される。ここで、例えばライン2’について見ると、画素a(ライン2の第1画素)、画素b(ライン1の第2画素)、画素c(ライン2の第3画素)、画素d(ライン1の第4画素)、…のように各画素の信号が配置されている。   Similarly, in FIG. 7B, a signal based on the charge accumulated in each pixel of the line 2 ′, a signal based on the charge accumulated in each pixel of the line 4 ′, and accumulated in each pixel of the line 6 ′. Complementary to FIG. 7A, comprising a signal based on charges,..., A signal based on charges accumulated in each pixel of line 2n-2 ′, and a signal based on charges accumulated in each pixel of line 2n ′. An image signal representing an image of one frame composed of zigzag n lines (“lines” for convenience) corresponding to a typical pixel is the second green light imaging element 112 every one frame period, that is, every 1/120 second. Is output from. Here, for example, looking at line 2 ′, pixel a (first pixel of line 2), pixel b (second pixel of line 1), pixel c (third pixel of line 2), pixel d (of line 1) Signals of the respective pixels are arranged as in the fourth pixel).

このような第1緑色光用撮像素子111及び第2緑色光用撮像素子112からの画像信号に基づき、図4(C)と同様に緑色画像生成部102は全画素で構成された完全な1フレームの緑色画像を表す画像信号を生成するが、その具体的な処理方法は次のとおりである。   Based on the image signals from the first green light image sensor 111 and the second green light image sensor 112, the green image generation unit 102 is a complete 1 including all pixels, as in FIG. 4C. An image signal representing a green image of a frame is generated. The specific processing method is as follows.

図7(C)は、緑色画像生成部102から出力される画像信号を表す図である。緑色画像生成部102は、ライン1’の各画素に蓄積された電荷に基づく信号(ライン1’信号)とライン2’の各画素に蓄積された電荷に基づく信号(ライン2’信号)が入力されると、ライン1’信号に含まれる各画素の信号とライン2’信号に含まれる各画素の信号とを交互に並べ替えて、実際のライン1の画素の並び順で各画素の信号を配列したライン1信号と、実際のライン2の画素の並び順で各画素の信号を配列したライン2信号とをこの順で出力する。つまり、画素A,画素B,画素C,画素D,…の順で構成されたライン1’信号と画素a,画素b,画素c,画素d,…の順で構成されたライン2’信号の入力に対し、画素A,画素b,画素C,画素d,…の順で構成されたライン1信号と画素a,画素B,画素c,画素D,…の順で構成されたライン2信号の出力が得られる。   FIG. 7C is a diagram illustrating an image signal output from the green image generation unit 102. The green image generation unit 102 receives a signal (line 1 ′ signal) based on the charge accumulated in each pixel of the line 1 ′ and a signal (line 2 ′ signal) based on the charge accumulated in each pixel of the line 2 ′. Then, the signal of each pixel included in the line 1 ′ signal and the signal of each pixel included in the line 2 ′ signal are alternately rearranged, and the signal of each pixel is arranged in the actual line 1 pixel order. The arranged line 1 signal and the line 2 signal in which the signals of the respective pixels are arranged in the actual line 2 pixel order are output in this order. That is, a line 1 ′ signal configured in the order of pixel A, pixel B, pixel C, pixel D,... And a line 2 ′ signal configured in the order of pixel a, pixel b, pixel c, pixel d,. For the input, the line 1 signal configured in the order of pixel A, pixel b, pixel C, pixel d,... And the line 2 signal configured in the order of pixel a, pixel B, pixel c, pixel D,. Output is obtained.

同様に、次いでライン3’の各画素に蓄積された電荷に基づく信号(ライン3’信号)とライン4’の各画素に蓄積された電荷に基づく信号(ライン4’信号)が入力されると、緑色画像生成部102は、ライン3’信号に含まれる各画素の信号とライン4’信号に含まれる各画素の信号とを交互に並べ替えて、実際のライン3の画素の並び順で各画素の信号を配列したライン3信号と、実際のライン4の画素の並び順で各画素の信号を配列したライン4信号とをこの順で出力する。以降についても同様である。   Similarly, when a signal based on the charge accumulated in each pixel on the line 3 ′ (line 3 ′ signal) and a signal based on the charge accumulated on each pixel on the line 4 ′ (line 4 ′ signal) are input. The green image generation unit 102 alternately rearranges the signal of each pixel included in the line 3 ′ signal and the signal of each pixel included in the line 4 ′ signal, so that each pixel in the actual line 3 is arranged in the order. The line 3 signal in which the pixel signals are arranged and the line 4 signal in which the signals of the respective pixels are arranged in the actual arrangement order of the pixels in the line 4 are output in this order. The same applies to the following.

このようにして、実際の各画素の配置順である、ライン1信号,ライン2信号,ライン3信号,…,ライン2n−1信号,ライン2n信号の順に各信号が配列されてなる、完全な1フレームの緑色画像に対応した画像信号が、1フレーム期間(1/120秒)毎に緑色画像生成部102から出力される。   In this way, each signal is arranged in the order of line 1 signal, line 2 signal, line 3 signal,..., Line 2n-1 signal, line 2n signal, which is the actual arrangement order of each pixel. An image signal corresponding to a green image of one frame is output from the green image generation unit 102 every one frame period (1/120 seconds).

図8は、赤色光用撮像素子113と青色光用撮像素子114とに対する画素選択信号を表す図である。同図(A),(B)に示すように、赤色光用撮像素子113の画素選択信号は図6(A)の第1緑色光用撮像素子111の画素選択信号と同じであり、青色光用撮像素子114の画素選択信号は図6(B)の第2緑色光用撮像素子112の画素選択信号と同じである。   FIG. 8 is a diagram illustrating pixel selection signals for the red light imaging element 113 and the blue light imaging element 114. As shown in FIGS. 6A and 6B, the pixel selection signal of the red light image sensor 113 is the same as the pixel selection signal of the first green light image sensor 111 of FIG. The pixel selection signal of the image sensor for image 114 is the same as the pixel selection signal of the image sensor for second green light 112 in FIG.

図8(C)は、図8(A)に示す赤色光用撮像素子113の画素選択信号の補間処理を表す図である。図8(A)に示されるように、ライン2については、第2画素(B),第4画素(D),…の各画素の信号は存在するが、第1画素(X),第4画素(Y),…の各画素の信号は存在していない。そこで、画素Xの信号を、例えばその周囲の3つの画素の信号、即ち、画素A(ライン1の第1画素),画素B,画素E(ライン3の第1画素)の各信号を用いて補間する。補間式は、例えば、X=(A+B+E)/3とする。また同様に、画素Yの信号を、例えばその周囲の4つの画素の信号、即ち、画素B,画素C(ライン1の第3画素),画素D,画素G(ライン3の第3画素)の各信号を用いて補間する。補間式は、例えば、Y=(B+C+D+G)/4とする。但し、X,Y,A,B,C,D,E,Gはそれぞれ画素の信号の値を表す。   FIG. 8C is a diagram illustrating an interpolation process of a pixel selection signal of the red light imaging element 113 illustrated in FIG. As shown in FIG. 8A, for the line 2, there are signals of the second pixel (B), the fourth pixel (D),..., But the first pixel (X), the fourth pixel. A signal of each pixel (Y),... Does not exist. Therefore, the signal of the pixel X is, for example, a signal of three pixels around it, that is, each signal of the pixel A (first pixel of line 1), pixel B, and pixel E (first pixel of line 3). Interpolate. The interpolation formula is, for example, X = (A + B + E) / 3. Similarly, the signal of the pixel Y is, for example, the signals of the four surrounding pixels, that is, the signals of the pixel B, the pixel C (third pixel of the line 1), the pixel D, and the pixel G (third pixel of the line 3). Interpolate using each signal. The interpolation formula is, for example, Y = (B + C + D + G) / 4. However, X, Y, A, B, C, D, E, and G represent values of pixel signals, respectively.

本実施形態においても、前述の実施形態と同じ効果を得ることができる。特に、第1緑色光用撮像素子111と第2緑色光用撮像素子112とからジグザグ状に読み出した互いに相補的な画素により1フレームの緑色画像を生成するので、撮像素子の解像度と同じ解像度の緑色画像を得ることができるとともに、2つの緑色光用撮像素子111,112が特性差を有していたとしても、その特性差は生成された緑色画像の1フレーム内において1画素飛びに分散され、視覚上は認識困難となりフリッカーとして顕在化することもないため、画質の劣化を抑えることができる。   Also in this embodiment, the same effect as the above-described embodiment can be obtained. In particular, since one frame of a green image is generated by mutually complementary pixels read out in a zigzag manner from the first green light image sensor 111 and the second green light image sensor 112, the resolution of the image sensor is the same. A green image can be obtained and even if the two green light image sensors 111 and 112 have a characteristic difference, the characteristic difference is dispersed by one pixel within one frame of the generated green image. Since it is difficult to recognize visually and does not become apparent as flicker, deterioration of image quality can be suppressed.

更に、赤色光用撮像素子113及び青色光用撮像素子114からもジグザグ状に読み出しを行って補間をするので、赤色と青色についてラインと垂直な方向の解像度が向上し、画質を高めることができる。   Furthermore, since the red light image sensor 113 and the blue light image sensor 114 are also read out and interpolated in a zigzag manner, the resolution in the direction perpendicular to the lines for red and blue can be improved, and the image quality can be improved. .

以上、図面を参照してこの発明の一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。   As described above, the embodiment of the present invention has been described in detail with reference to the drawings. However, the specific configuration is not limited to the above, and various design changes and the like can be made without departing from the scope of the present invention. It is possible to

例えば、第1緑色光用撮像素子111から読み出す画素と第2緑色光用撮像素子112から読み出す画素は、全画素から一部の画素を間引いた画素であって互いに相補的な関係にある画素であればよく、それぞれ読み出す画素数は完全に同数(つまり全画素数の半数)となっていなくてもよい。ここで、「間引く」とは、撮像面において所定面積を有する任意の2つの領域を比較したとき、両者で同数の画素が非選択画素となっていることを意味する。例えば、第1緑色光用撮像素子111では100画素につき60画素の割合で画素を選択し、第2緑色光用撮像素子112では100画素につき40画素の割合で画素を選択するようなことを行ってもよい。このとき、1フレーム期間は、通常撮影時の1フレームの半分ではなく、例えば、読み出す画素数が多い方の緑色光用撮像素子に合わせた長さの期間(但し通常撮影時の1フレームよりは短い)としてもよい。   For example, the pixels read out from the first green light image sensor 111 and the pixels read out from the second green light image sensor 112 are pixels in which some pixels are thinned out from all the pixels and are complementary to each other. It suffices that the number of pixels to be read out is not necessarily the same (that is, half of the total number of pixels). Here, “thinning out” means that when two arbitrary regions having a predetermined area on the imaging surface are compared, the same number of pixels are non-selected pixels. For example, the first green light image sensor 111 selects pixels at a rate of 60 pixels per 100 pixels, and the second green light image sensor 112 selects pixels at a rate of 40 pixels per 100 pixels. May be. At this time, one frame period is not half of one frame at the time of normal shooting, but for example, a period corresponding to the image sensor for green light having a larger number of pixels to be read (however, it is longer than one frame at the time of normal shooting) (Short).

また、赤色光用撮像素子113及び青色光用撮像素子114とプリズム104との間に、空間周波数の高い成分を除去する光学的空間フィルタを挿入した構成としてもよい。これは、赤色光用撮像素子113と青色光用撮像素子114から読み出す画素を間引いているので高周波成分がノイズとなってしまうことを防ぐためである。空間フィルタの配置の向きは、除去される高周波成分の波数方向が、間引かれて残った画素の並んでいる方向(図3においては水平方向、図においては斜め45°方向)に対して垂直となるようにすることが好ましい。   In addition, an optical spatial filter that removes a component having a high spatial frequency may be inserted between the red light imaging element 113 and the blue light imaging element 114 and the prism 104. This is to prevent the high-frequency component from becoming noise because the pixels read out from the red-light image sensor 113 and the blue-light image sensor 114 are thinned out. The spatial filter is arranged so that the direction of the wave number of the high-frequency component to be removed is perpendicular to the direction in which pixels remaining after being thinned out (the horizontal direction in FIG. 3 and the oblique 45 ° direction in the figure). It is preferable that

また、第2の実施形態として説明した撮像素子からの読み出し方法は、第1緑色光用撮像素子111から、奇数行目のライン上の奇数列目の各画素及び偶数行目のライン上の偶数列目の各画素からなる1フレームの画像を読み出し、第2緑色光用撮像素子112から、奇数行目のライン上の偶数列目の各画素及び偶数行目のライン上の奇数列目の各画素からなる1フレームの画像を読み出す読み出し方法の一例であり、これに限られるものではない。   In addition, the readout method from the image sensor described as the second embodiment is based on the first green light image sensor 111, the odd-numbered pixels on the odd-numbered lines and the even-numbered lines on the even-numbered lines. An image of one frame made up of each pixel in the column is read out, and each pixel in the even-numbered column on the odd-numbered line and each of the odd-numbered column on the even-numbered line from the second green light image sensor 112 This is an example of a reading method for reading an image of one frame made up of pixels, and is not limited to this.

101…読み出し制御部 102…緑色画像生成部 103…画像合成部 104…プリズム 111…第1緑色光用撮像素子 112…第2緑色光用撮像素子 113…赤色光用撮像素子 114…青色光用撮像素子   DESCRIPTION OF SYMBOLS 101 ... Read-out control part 102 ... Green image production | generation part 103 ... Image composition part 104 ... Prism 111 ... 1st image sensor for green light 112 ... 2nd image sensor for green light 113 ... Image sensor for red light 114 ... Imaging for blue light element

Claims (2)

緑色光の成分の画像を撮像する第1及び第2の緑色光用撮像素子と、
赤色光の成分の画像を撮像する赤色光用撮像素子と、
青色光の成分の画像を撮像する青色光用撮像素子と、
前記第1の緑色光用撮像素子から、全画素の読み出しを行う場合の半分の時間の期間に当該全画素の半数の画素を間引いた画素からなる1フレームの画像を読み出し、前記第2の緑色光用撮像素子から、前記期間に前記1フレームの画像の画素と相補的な画素からなる1フレームの画像を読み出し、前記赤色光用撮像素子から、前記期間に当該全画素の半数の画素を間引いた画素からなる1フレームの画像を読み出し、前記青色光用撮像素子から、前記期間に当該全画素の半数の画素を間引いた画素からなる1フレームの画像を読み出す読み出し制御手段と、
前記期間毎に前記第1の緑色光用撮像素子から読み出した画像と前記第2の緑色光用撮像素子から読み出した画像とに基づいて、全画素分の画像情報を有する1フレームの緑色画像を生成する緑色画像生成手段と、
前記期間毎に前記赤色光用撮像素子から読み出した画像と前記青色光用撮像素子から読み出した画像と前記緑色画像生成手段により生成された緑色画像を1フレームの画像に合成する画像合成手段と、
を備え
前記読み出し制御手段は、前記第1の緑色光用撮像素子から、奇数行目のライン上の奇数列目の各画素及び偶数行目のライン上の偶数列目の各画素からなる1フレームの画像を読み出し、前記第2の緑色光用撮像素子から、奇数行目のライン上の偶数列目の各画素及び偶数行目のライン上の奇数列目の各画素からなる1フレームの画像を読み出すことを特徴とする撮像装置。
First and second green light imaging elements that capture green light component images;
An image sensor for red light that captures an image of a red light component;
An image sensor for blue light that captures an image of a component of blue light;
From the first image sensor for green light, an image of one frame consisting of pixels obtained by thinning out half of all the pixels is read out in a half time period when all pixels are read out, and the second green light is read out. One frame image consisting of pixels complementary to the pixels of the one frame image is read from the light image sensor during the period, and half of all the pixels are thinned out from the red light image sensor during the period. A readout control means for reading out one frame image composed of pixels and reading out one frame image composed of pixels obtained by thinning out half of all the pixels during the period from the blue light imaging device;
Based on the image read from the first green light image sensor and the image read from the second green light image element for each period, a one-frame green image having image information for all pixels is obtained. A green image generating means for generating;
Image synthesizing means for synthesizing the image read from the red light image sensor, the image read from the blue light image sensor and the green image generated by the green image generating means into one frame image for each period;
Equipped with a,
The readout control means includes an image of one frame including each pixel in the odd-numbered column on the odd-numbered line and each pixel in the even-numbered column on the even-numbered line from the first green light image sensor. And reading from the second image sensor for green light one frame image composed of each pixel in the even-numbered column on the odd-numbered line and each pixel in the odd-numbered column on the even-numbered line. An imaging apparatus characterized by the above.
前記読み出し制御手段は、前記第1又は第2の緑色光用撮像素子のいずれか一方と同じ読み出し順序で前記赤色光用撮像素子及び前記青色光用撮像素子から順次読み出しを行うことを特徴とする請求項に記載の撮像装置。 The readout control means sequentially reads out from the red light imaging device and the blue light imaging device in the same readout order as any one of the first or second green light imaging device. The imaging device according to claim 1 .
JP2009038421A 2009-02-20 2009-02-20 Imaging device Expired - Fee Related JP5090388B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009038421A JP5090388B2 (en) 2009-02-20 2009-02-20 Imaging device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009038421A JP5090388B2 (en) 2009-02-20 2009-02-20 Imaging device

Publications (2)

Publication Number Publication Date
JP2010193400A JP2010193400A (en) 2010-09-02
JP5090388B2 true JP5090388B2 (en) 2012-12-05

Family

ID=42818927

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009038421A Expired - Fee Related JP5090388B2 (en) 2009-02-20 2009-02-20 Imaging device

Country Status (1)

Country Link
JP (1) JP5090388B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014160926A (en) * 2013-02-19 2014-09-04 Nippon Hoso Kyokai <Nhk> Imaging apparatus and signal interpolation method

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000228775A (en) * 1999-02-05 2000-08-15 Nippon Hoso Kyokai <Nhk> CCD type 4-plate high-speed imaging device
CN101422034B (en) * 2006-02-17 2011-10-12 松下电器产业株式会社 Imaging device

Also Published As

Publication number Publication date
JP2010193400A (en) 2010-09-02

Similar Documents

Publication Publication Date Title
TWI644568B (en) Camera element, camera method and camera program
US9661210B2 (en) Image pickup device and image pickup apparatus
JP6366251B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JP6762766B2 (en) Image sensor, image sensor, and image signal processing method
US20100328485A1 (en) Imaging device, imaging module, electronic still camera, and electronic movie camera
JP3704238B2 (en) Imaging device
US8111298B2 (en) Imaging circuit and image pickup device
JP3970185B2 (en) Solid-state image sensor and digital camera
JP3727012B2 (en) Color solid-state imaging device
JP5621057B2 (en) Color image sensor
JP4810807B2 (en) Moving picture conversion apparatus, moving picture restoration apparatus and method, and computer program
JP3902525B2 (en) Image signal processing device
JP5159461B2 (en) Image processing apparatus, image processing method, and imaging apparatus
JP5090388B2 (en) Imaging device
JP2009005173A (en) Imaging apparatus, control method therefor, and imaging system
JP2022030812A (en) Image processing equipment and imaging equipment and their control methods and programs
JP2018207502A (en) Imaging device, imaging device
JP3627711B2 (en) Color imaging device
JP3909930B2 (en) Single plate color solid-state imaging device
JP4633413B2 (en) Imaging apparatus and signal processing method
JP4024367B2 (en) Multi-plate imaging device
JP6700850B2 (en) Image sensor drive control circuit
JP2015061178A (en) Imaging system, method of driving imaging system, imaging device, and method of driving imaging device
JP2004172858A (en) Imaging device and imaging method
JP5066476B2 (en) Imaging device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120615

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120619

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120726

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120814

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120912

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150921

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5090388

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees