Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5665282B2 - Imaging apparatus and control method thereof - Google Patents
[go: Go Back, main page]

JP5665282B2 - Imaging apparatus and control method thereof - Google Patents

Imaging apparatus and control method thereof Download PDF

Info

Publication number
JP5665282B2
JP5665282B2 JP2009114509A JP2009114509A JP5665282B2 JP 5665282 B2 JP5665282 B2 JP 5665282B2 JP 2009114509 A JP2009114509 A JP 2009114509A JP 2009114509 A JP2009114509 A JP 2009114509A JP 5665282 B2 JP5665282 B2 JP 5665282B2
Authority
JP
Japan
Prior art keywords
shading
shading correction
correction value
horizontal transfer
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009114509A
Other languages
Japanese (ja)
Other versions
JP2010263553A (en
Inventor
隆史 岸
隆史 岸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2009114509A priority Critical patent/JP5665282B2/en
Publication of JP2010263553A publication Critical patent/JP2010263553A/en
Application granted granted Critical
Publication of JP5665282B2 publication Critical patent/JP5665282B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Description

本発明は、撮像装置およびその制御方法に関し、特に、水平転送位置に依存したシェーディングと水平転送位置に依存しないシェーディングを行う撮像装置およびその制御方法に関する。 The present invention relates to an imaging apparatus and a control method thereof, a shading that is independent of the shading and the horizontal transfer position which depends on the horizontal transfer position about the Hare IMAGING DEVICE AND ITS CONTROL METHOD row.

従来、CCD(Charge Coupled Device)やCMOSAPS(CMOS Active Pixel Sensor)を撮像素子として使用し、撮影した画像を記録するデジタルカメラやデジタルビデオカメラなどの撮像装置が発売されている。これらの撮像装置では、撮像素子が有している暗時や明時のシェーディングを補正することで高画質を提供している。従来の撮像装置の構成要素である撮像素子の概略構成を図11に示す。   2. Description of the Related Art Conventionally, imaging apparatuses such as a digital camera and a digital video camera that record a photographed image using a CCD (Charge Coupled Device) or a CMOS APS (CMOS Active Pixel Sensor) as an imaging element have been put on the market. In these image pickup apparatuses, high image quality is provided by correcting shading in the dark and light of the image sensor. FIG. 11 shows a schematic configuration of an image sensor that is a constituent element of a conventional imaging device.

図11において、1101は、光を電気信号に光電変換する画素が垂直方向および水平方向に配置された画素部である。1102は行選択回路(垂直方向の選択回路)であり、1103は画素の信号を読み出す列読み出し回路である。1104は列メモリであり、列読み出し回路1103により読み出された信号が蓄積される。列メモリ1104は、列選択回路1105により走査され、順に出力線1106に信号が取り出される。   In FIG. 11, reference numeral 1101 denotes a pixel portion in which pixels that photoelectrically convert light into electric signals are arranged in the vertical direction and the horizontal direction. Reference numeral 1102 denotes a row selection circuit (vertical direction selection circuit), and 1103 denotes a column readout circuit for reading out pixel signals. Reference numeral 1104 denotes a column memory, in which signals read by the column readout circuit 1103 are accumulated. The column memory 1104 is scanned by the column selection circuit 1105, and signals are taken out to the output line 1106 in order.

図12は、図11の撮像素子から読み出される信号の読み出しタイミングの一例を示す図である。   FIG. 12 is a diagram illustrating an example of a read timing of a signal read from the image sensor of FIG.

図12において、HBLK期間には、行選択回路1102で選択されているn行の画素の信号が図示しない複数のクロック信号に応じて列読み出し回路1103により列メモリ1104に蓄積される。その後、水平転送期間において、列メモリ104の信号が列選択回路1105に走査され、順次出力線1106を介して出力される。n行の水平転送期間が終了すると、次はn+1行目が選択され、同様に、HBLK期間および水平転送期間に駆動が行われる。1画面を読み出すまで同様にHBLK期間と水平転送期間が繰り返される。   In FIG. 12, during the HBLK period, the signals of the pixels in the n rows selected by the row selection circuit 1102 are accumulated in the column memory 1104 by the column readout circuit 1103 in accordance with a plurality of clock signals (not shown). Thereafter, in the horizontal transfer period, the signal of the column memory 104 is scanned by the column selection circuit 1105 and sequentially output via the output line 1106. When the n-th horizontal transfer period is completed, the (n + 1) th row is selected next, and similarly, driving is performed in the HBLK period and the horizontal transfer period. Similarly, the HBLK period and the horizontal transfer period are repeated until one screen is read.

ところで、撮像素子には、画素の不均一性による垂直方向、水平方向のシェーディングが存在する。特に、水平方向は、読み出し回路、メモリの不均一性あるいはメモリから出力線を介して信号が出力されるまでの距離に応じて水平方向のシェーディングが存在する。これらのシェーディングは、撮像素子が出力する信号を撮像装置が有する補正処理によって補正することで均一にし、高画質を提供している。シェーディングのようすとその補正の概略を図13(a)および図13(b)を参照して説明する。   By the way, the image sensor has shading in the vertical direction and the horizontal direction due to pixel non-uniformity. In particular, in the horizontal direction, there is shading in the horizontal direction depending on the non-uniformity of the readout circuit and the memory or the distance from the memory until the signal is output via the output line. These shadings are made uniform by correcting a signal output from the image sensor by a correction process of the image pickup apparatus, thereby providing high image quality. An outline of correction of shading will be described with reference to FIGS. 13 (a) and 13 (b).

図13(a)に水平方向のシェーディングの形状を示す。上述したように、撮像素子は、水平転送位置に応じて異なるレベルのゲイン、オフセットを有し、それがシェーディングとなっている。このシェーディングを補正するためにシェーディング補正を行っている。具体的には、図13(b)は撮影時の画像データにシェーディング補正データが重畳しているようすを示す。図13(b)から図13(a)の減算もしくは除算を行うことで、シェーディングの影響を低減している。   FIG. 13A shows the shape of the shading in the horizontal direction. As described above, the image sensor has different levels of gain and offset depending on the horizontal transfer position, which is shading. Shading correction is performed to correct this shading. Specifically, FIG. 13B shows the shading correction data superimposed on the image data at the time of shooting. By performing the subtraction or division from FIG. 13B to FIG. 13A, the influence of shading is reduced.

シェーディングを補正するためのシェーディング補正データは、撮影前に画像を取得し、その画像から求めている。例えば、暗時のシェーディングにおいては、撮影前に遮光状態で画像を撮影し、その画像からシェーディング補正データを求め、撮影画像から減算することでシェーディングを補正する。シェーディング補正データは、撮像装置の電源投入時や撮影開始の指示が出てから取得してもよいが、その場合は電源投入までの時間が長くなったり、撮影開始の指示から撮影までのタイムラグが大きくなってしまう。したがって、撮影装置を出荷する前にシェーディング補正データをメモリに有しておくのが最も好ましい。   The shading correction data for correcting shading is obtained from an image obtained before photographing. For example, in shading in the dark, an image is shot in a light-shielded state before shooting, shading correction data is obtained from the image, and shading is corrected by subtracting from the shot image. The shading correction data may be acquired when the imaging device is turned on or after an instruction to start shooting is issued.In that case, the time until the power is turned on becomes longer, or the time lag from the instruction to start shooting to the shooting is increased. It gets bigger. Therefore, it is most preferable to have the shading correction data in the memory before shipping the photographing apparatus.

ところで、画像を高速に読み出す技術のひとつとして、HBLK期間と水平転送期間を同一時刻に行う撮像装置がある(例えば、特許文献1、2参照)。   By the way, as one of the techniques for reading an image at high speed, there is an imaging device that performs the HBLK period and the horizontal transfer period at the same time (see, for example, Patent Documents 1 and 2).

また、最近のデジタルカメラなどで機能の一つとして存在する動画モードにおいては、上記HBLK期間における駆動パルスの影響が前述のシェーディング補正では補正不可能である。動画モードとは、撮像素子がフレームレートをあげるため、画素を間引いて読む間引き読み、画素を水平転送の先頭から飛ばして読み出すクロップ読みなどがある。これら動画モードにおけるシェーディングのようすを図14(a)〜図14(e)に示す。   Further, in a moving image mode that exists as one of the functions of a recent digital camera or the like, the influence of the driving pulse in the HBLK period cannot be corrected by the above-described shading correction. The moving image mode includes thinning reading in which pixels are thinned and read out in order to increase the frame rate of the image sensor, and crop reading in which pixels are read out from the beginning of horizontal transfer. The shading in these moving image modes is shown in FIGS. 14 (a) to 14 (e).

図14(a)は全画素読み出しの際のシェーディング形状を示す図であり、図14(b)は間引きを行った際のシェーディング形状を示す図である。   FIG. 14A is a diagram showing a shading shape when all pixels are read, and FIG. 14B is a diagram showing a shading shape when thinning is performed.

図14(a)のシェーディング形状を間引きに対応して間引いたシェーディング補正データが、図14(c)である。図14(c)のシェーディング補正データでは、図14(b)のシェーディングは補正不可能である。なぜなら、シェーディング形状の中で水平転送位置に依存する成分は間引いたデータで補正可能であるが、HBLK期間中の駆動パルスの影響によるシェーディング形状は水平転送位置には依存しないからである。すなわち、図14(a)を補正するシェーディング補正データを単純に間引いた図14(c)のシェーディング補正データでの補正を行おうとすると、HBLK期間中の駆動パルスの影響によるシェーディング形状分を誤補正してしまう。   FIG. 14C shows shading correction data obtained by thinning out the shading shape shown in FIG. With the shading correction data in FIG. 14C, the shading in FIG. 14B cannot be corrected. This is because the component depending on the horizontal transfer position in the shading shape can be corrected by the thinned data, but the shading shape due to the influence of the drive pulse during the HBLK period does not depend on the horizontal transfer position. In other words, if the shading correction data shown in FIG. 14C obtained by simply thinning out the shading correction data shown in FIG. 14A is corrected, the shading shape due to the influence of the drive pulse during the HBLK period is erroneously corrected. Resulting in.

同様に、図14(d)はクロップ読みを行った際のシェーディング形状を示し、図14(e)は図14(a)のシェーディングを補正するシェーディング補正データをクロップ読みで飛ばされた画素数分だけ単純になくしたシェーディング補正データである。ここでも、図14(d)のシェーディング形状と図14(e)のシェーディング補正データの形状が異なっているため、単純にクロップで飛ばされた画素数だけ図14(a)のシェーディング形状を読み飛ばしたシェーディング補正データでは補正不可能である。   Similarly, FIG. 14D shows a shading shape when crop reading is performed, and FIG. 14E shows shading correction data for correcting shading of FIG. 14A for the number of pixels skipped by crop reading. The shading correction data is simply lost. Again, since the shading shape of FIG. 14D is different from the shape of the shading correction data of FIG. 14E, the shading shape of FIG. 14A is simply skipped by the number of pixels skipped by cropping. The shading correction data cannot be corrected.

特開2001―45375号公報JP 2001-45375 A 特開2001―45378号公報Japanese Patent Laid-Open No. 2001-45378

しかしながら、上述したように、HBLK期間と水平転送期間を同一時刻に行う方式では、HBLK期間の影響によるシェーディングは水平転送位置に依存しないため、全画面を読み出した際のシェーディング補正データが使用できない。この問題を回避するには、動画モードのクロップ数、間引き率分だけシェーディング補正データも有すれば可能であるが、補正データを格納するメモリが膨大に必要となってしまう。   However, as described above, in the method in which the HBLK period and the horizontal transfer period are performed at the same time, shading due to the influence of the HBLK period does not depend on the horizontal transfer position, and thus shading correction data when the entire screen is read cannot be used. In order to avoid this problem, it is possible to have shading correction data corresponding to the number of crops in the moving image mode and the thinning rate, but a huge amount of memory is required to store the correction data.

また、HBLK期間と水平転送期間を同一時刻に行う方式でなくても、HBLK期間の駆動パルスの影響で読み出し回路の電源電圧が変動し、それが水平転送期間においても収束していない場合は同様のことが言える。すなわち、水平転送位置に応じて発生したシェーディングは水平転送位置に依存し、HBLK期間の駆動パルスから受けた電源変動によるシェーディングは水平転送位置に依存しない。この問題も回避するには、同様に動画モードのクロップ数、間引き率分だけシェーディング補正データも有すれば可能であるが、補正データを格納するメモリが膨大に必要となってしまう。   Even if the HBLK period and the horizontal transfer period are not performed at the same time, the same applies when the power supply voltage of the reading circuit fluctuates due to the drive pulse of the HBLK period and does not converge even in the horizontal transfer period. I can say that. That is, shading generated according to the horizontal transfer position depends on the horizontal transfer position, and shading due to power fluctuations received from the driving pulse in the HBLK period does not depend on the horizontal transfer position. In order to avoid this problem, it is possible to have shading correction data corresponding to the number of crops in the moving image mode and the thinning rate, but a large amount of memory for storing correction data is required.

本発明は、上記問題に鑑みて成されたものであり、間引きやクロップなどのモード数に応じた数だけメモリを用意する必要がなく、シェーディング補正を適切に行うことが可能な撮像装置およびその制御方法を提供することを目的とする。 The present invention has been made in view of the above problems, as many it is not necessary to prepare a memory corresponding to the number of modes, such as thinning and cropping, shading correction appropriate imaging device and capable of performing An object is to provide a control method thereof.

上記目的を達成するために、請求項1記載の撮像装置は、光を電気信号に光電変換する画素が垂直及び水平方向に配置され、複数の駆動パルスによって画素からの信号を垂直および水平方向に転送して出力する撮像素子であって、n行目の水平転送期間中にn+1行目の水平ブランキング期間を開始する撮像素子と、前記撮像素子から出力される画像信号に対して、水平転送位置に依存するシェーディングを補正するための第1のシェーディング補正と、水平転送位置に依存しないシェーディングを補正するための第2のシェーディング補正を行う補正手段と、前記第1のシェーディング補正を行うための前記撮像素子の列ごとの第1のシェーディング補正値と、前記第2のシェーディング補正を行うための第2のシェーディング補正値とをそれぞれ記憶する記憶手段と、を有することを特徴とする。 In order to achieve the above object, in the imaging apparatus according to claim 1, pixels that photoelectrically convert light into electric signals are arranged in vertical and horizontal directions, and signals from the pixels are vertically and horizontally transmitted by a plurality of drive pulses. An image sensor that transfers and outputs an image sensor that starts the horizontal blanking period of the (n + 1) th row during the horizontal transfer period of the nth row, and a horizontal transfer for an image signal output from the image sensor Correction means for performing first shading correction for correcting shading dependent on position, second shading correction for correcting shading independent of horizontal transfer position, and for performing the first shading correction A first shading correction value for each column of the image sensor and a second shading correction value for performing the second shading correction. Storage means for respectively storing, and having a.

上記目的を達成するために、請求項9記載の撮像装置の制御方法は、光を電気信号に光電変換する画素が垂直及び水平方向に配置され、複数の駆動パルスによって画素からの信号を垂直および水平方向に転送して出力する撮像素子であって、n行目の水平転送期間中にn+1行目の水平ブランキング期間を開始する撮像素子を有する撮像装置の制御方法であって、前記撮像素子から出力される画像信号に対して、水平転送位置に依存するシェーディングを補正するための前記撮像素子の列ごとの第1のシェーディング補正値と、水平転送位置に依存しないシェーディングを補正するための第2のシェーディング補正値とに基づいてシェーディング補正を行う補正工程を備えることを特徴とする。 In order to achieve the above object, according to a control method of an imaging apparatus according to claim 9, pixels that photoelectrically convert light into an electric signal are arranged in a vertical and horizontal direction, and signals from the pixel are vertically and horizontally converted by a plurality of drive pulses. An image pickup device for transferring in the horizontal direction and outputting the image pickup device, wherein the image pickup device has an image pickup device for starting a horizontal blanking period of the (n + 1) th row during the horizontal transfer period of the nth row. The first shading correction value for each column of the image sensor for correcting shading dependent on the horizontal transfer position and the first shading for correcting shading independent of the horizontal transfer position for the image signal output from And a correction step of performing shading correction based on the two shading correction values.

本発明によれば、水平転送位置に依存したシェーディングと水平転送位置に依存しないシェーディングを有する撮像装置において、間引きやクロップなどのモード数に応じた数だけメモリを用意する必要がなく、シェーディング補正を適切に行うことが可能である。   According to the present invention, in an imaging apparatus having shading that depends on the horizontal transfer position and shading that does not depend on the horizontal transfer position, it is not necessary to prepare as many memories as the number of modes such as thinning and cropping, and shading correction can be performed. It can be done appropriately.

本発明の第1の実施形態に係る撮像装置の構成要素である撮像素子の概略構成を示す図である。1 is a diagram illustrating a schematic configuration of an imaging element that is a component of an imaging apparatus according to a first embodiment of the present invention. 図1の撮像素子から読み出される信号の読み出しタイミングの一例を示す図である。It is a figure which shows an example of the read-out timing of the signal read from the image pick-up element of FIG. (a)は図2に示す読み出しタイミングで撮像素子を駆動した際のシェーディング形状を示す図であり、(b)はHBLK期間中の駆動パルスを示す図である。(A) is a figure which shows the shading shape at the time of driving an image pick-up element at the read-out timing shown in FIG. 2, (b) is a figure which shows the drive pulse in a HBLK period. (a)は図2に示す読み出しタイミングで撮像素子を駆動した際のシェーディング形状を示す図であり、(b)はHBLK期間中の駆動パルスを示す図、(c)は水平転送位置に依存しないシェーディング形状を示す図、(d)は図4(b)に示す水平転送位置に依存するシェーディング形状を間引いたシェーディング形状を有する補正データを示す図、(e)は図4(d)の補正データにより撮影画像から除去されるシェーディング成分を示す図、(f)は図4(b)に示す水平転送位置に依存するシェーディング形状をクロップで読み飛ばされた画素数分だけ先頭を読み飛ばした補正データを示す図、(g)は図4(f)の補正データにより撮影画像から除去されるシェーディング成分を示す図である。(A) is a figure which shows the shading shape at the time of driving an image pick-up element at the read-out timing shown in FIG. 2, (b) is a figure which shows the drive pulse in a HBLK period, (c) is independent of a horizontal transfer position. The figure which shows a shading shape, (d) is a figure which shows the correction data which has the shading shape which thinned out the shading shape depending on the horizontal transfer position shown in FIG.4 (b), (e) is the correction data of FIG.4 (d). FIG. 4F is a diagram showing shading components removed from a photographed image, and FIG. 4F is correction data obtained by skipping the beginning of the shading shape depending on the horizontal transfer position shown in FIG. 4B by the number of pixels skipped by the crop. (G) is a figure which shows the shading component removed from a picked-up image by the correction data of FIG.4 (f). (a)は補正データ1,2に基づくシェーディング補正の流れを示す図、(b)は補正データ1,2,3に基づくシェーディング補正の流れを示す図である。(A) is a diagram showing a flow of shading correction based on correction data 1 and 2, and (b) is a diagram showing a flow of shading correction based on correction data 1, 2 and 3. (c)は補正データ1,2,4に基づくシェーディング補正の流れを示す図、(d)は補正データ1〜4に基づくシェーディング補正の流れを示す図である。(C) is a diagram showing a flow of shading correction based on correction data 1, 2, and 4. (d) is a diagram showing a flow of shading correction based on correction data 1 to 4. クロック端子を含む図1の撮像素子の概略構成を示す図である。It is a figure which shows schematic structure of the image pick-up element of FIG. 1 containing a clock terminal. 3つの読み出し位置におけるクロックAからの振られによるシェーディングの形状を示す図である。It is a figure which shows the shape of the shading by the shake from the clock A in three reading positions. 本発明の第2の実施形態に係る撮像装置の概略構成を示すブロック図である。It is a block diagram which shows schematic structure of the imaging device which concerns on the 2nd Embodiment of this invention. 図9の撮像信号処理回路1006により実行されるシェーディング補正の流れを示すフローチャートである。10 is a flowchart showing a flow of shading correction executed by an image signal processing circuit 1006 in FIG. 9. 従来の撮像装置の構成要素である撮像素子の概略構成を示す図である。It is a figure which shows schematic structure of the image pick-up element which is a component of the conventional imaging device. 図11の撮像素子から読み出される信号の読み出しタイミングの一例を示す図である。It is a figure which shows an example of the read-out timing of the signal read from the image pick-up element of FIG. (a)は水平方向のシェーディングの形状を示す図、(b)は撮影時の画像データにシェーディング補正データが重畳しているようすを示す図である。(A) is a figure which shows the shape of the shading of a horizontal direction, (b) is a figure which shows the shading correction data being superimposed on the image data at the time of imaging | photography. (a)は全画素読み出しの際のシェーディング形状を示す図、図14(b)は間引きを行った際のシェーディング形状を示す図である。(A) is a figure which shows the shading shape at the time of all pixel reading, FIG.14 (b) is a figure which shows the shading shape at the time of performing thinning.

以下、本発明の実施の形態を図面を参照して詳細に説明する。   Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.

[第1の実施形態]
図1は、本発明の第1の実施形態に係る撮像装置の構成要素である撮像素子の概略構成を示す図である。
[First Embodiment]
FIG. 1 is a diagram illustrating a schematic configuration of an imaging element that is a component of the imaging apparatus according to the first embodiment of the present invention.

図1において、101は、光を電気信号に光電変換する画素が垂直方向および水平方向に配置された画素部である。102は行選択回路(垂直方向の選択回路)であり、103は画素の信号を読み出す列読み出し回路である。104は列メモリ(第1のメモリ)であり、列読み出し回路103により読み出された電気信号が蓄積される。107は列メモリ2(第2のメモリ)である。行選択回路102によって選択された行の画素から読み出された信号が交互に列メモリ104と列メモリ2_107に転送される。列メモリ104と列メモリ2_107は、列選択回路105(出力回路)によって走査され、出力線106に信号が取り出される。   In FIG. 1, reference numeral 101 denotes a pixel portion in which pixels that photoelectrically convert light into electrical signals are arranged in the vertical direction and the horizontal direction. Reference numeral 102 denotes a row selection circuit (vertical selection circuit), and reference numeral 103 denotes a column readout circuit that reads out pixel signals. A column memory (first memory) 104 stores electrical signals read by the column readout circuit 103. Reference numeral 107 denotes a column memory 2 (second memory). Signals read from the pixels in the row selected by the row selection circuit 102 are alternately transferred to the column memory 104 and the column memory 2_107. The column memory 104 and the column memory 2_107 are scanned by the column selection circuit 105 (output circuit), and a signal is extracted to the output line 106.

図2は、図1の撮像素子から読み出される信号の読み出しタイミングの一例を示す図である。   FIG. 2 is a diagram illustrating an example of a read timing of a signal read from the image sensor in FIG.

図2において、HBLK1期間には、行選択回路102で選択されているn行目の画素の信号が読み出し回路103により読み出され列メモリ104に蓄積される。HBLK2期間には、行同様に、行選択回路102で選択されているn+1行目の画素の信号が読み出し回路103により読み出され列メモリ2_107に蓄積される。   In FIG. 2, in the HBLK1 period, the pixel signal of the nth row selected by the row selection circuit 102 is read out by the readout circuit 103 and stored in the column memory 104. In the HBLK2 period, similarly to the rows, the signals of the pixels in the (n + 1) th row selected by the row selection circuit 102 are read out by the readout circuit 103 and accumulated in the column memory 2_107.

水平転送期間には、列メモリ104および列メモリ2_107の信号が列選択回路105によりそれぞれ走査され、順次出力線106を介して出力される。撮像素子が第2のメモリである列メモリ2_107を備えるので、HBLK期間(垂直転送期間)中に列メモリ2_107に信号を蓄積する間に、列メモリ104の水平転送を行い、列メモリ2_107の水平転送期間中には列メモリ104の上書きが可能になる。同様に、HBLK期間中に列メモリ104に信号を蓄積する間に列メモリ2_107の水平転送を行い、列メモリ104の水平転送期間中には列メモリ2_107の上書きが可能になる。このように、本実施の形態では、HBLK期間と水平転送期間が同一時刻に行われる(第1の読み出し方法)。   In the horizontal transfer period, the signals of the column memory 104 and the column memory 2_107 are scanned by the column selection circuit 105 and sequentially output via the output line 106. Since the imaging device includes the column memory 2_107 as the second memory, the horizontal transfer of the column memory 104 is performed while the signal is accumulated in the column memory 2_107 during the HBLK period (vertical transfer period). The column memory 104 can be overwritten during the transfer period. Similarly, the horizontal transfer of the column memory 2_107 is performed while a signal is accumulated in the column memory 104 during the HBLK period, and the column memory 2_107 can be overwritten during the horizontal transfer period of the column memory 104. Thus, in this embodiment, the HBLK period and the horizontal transfer period are performed at the same time (first reading method).

同様に、n+1行目の水平転送期間にn+2行目のHBLK1期間を開始することが可能であり、1画面を読み出すまで、水平転送期間と水平転送期間の同時刻のHBLK1期間またはHBLK2期間とが繰り返される。このような構成をとることで、画像の読み出しにかかる期間をHBLK期間×読み出し行数だけ短縮し、高速の読み出しが可能となる。列毎にADを有する撮像素子もデジタル信号を保持することで、より高速化が可能である。   Similarly, the n + 2 row HBLK1 period can be started in the (n + 1) th row horizontal transfer period, and the HBLK1 period or the HBLK2 period at the same time in the horizontal transfer period and the horizontal transfer period until one screen is read. Repeated. By adopting such a configuration, the period required for image reading is shortened by the HBLK period × the number of read rows, and high-speed reading is possible. An image sensor having an AD for each column can also increase the speed by holding the digital signal.

次に、図2に示す読み出しタイミングで撮像素子を駆動した際のシェーディングのようすと補正データについて説明する。   Next, correction data will be described in terms of shading when the image sensor is driven at the readout timing shown in FIG.

図3(a)は、図2に示す読み出しタイミングで撮像素子を駆動した際のシェーディング形状を示す図であり、図3(b)は、HBLK期間中の駆動パルスを示す図である。   FIG. 3A is a diagram illustrating a shading shape when the imaging element is driven at the readout timing illustrated in FIG. 2, and FIG. 3B is a diagram illustrating drive pulses during the HBLK period.

HBLK期間中の駆動パルスの変動による影響がシェーディングとして重畳している。これは、HBLK期間中の駆動パルスにより列読み出し回路103の電源電圧や信号線の電圧が変動し、それによって発生するシェーディングが水平転送位置に依存したシェーディングに重畳して発生しているからである。これらのHBLK期間における駆動パルスの影響が重畳したシェーディングについても、基本的には後述するシェーディング補正により影響を低減することが可能である。   The influence due to the fluctuation of the driving pulse during the HBLK period is superimposed as shading. This is because the power supply voltage of the column readout circuit 103 and the signal line voltage fluctuate due to the drive pulse during the HBLK period, and the shading generated thereby is superimposed on the shading dependent on the horizontal transfer position. . The shading in which the influence of the drive pulse in the HBLK period is superimposed can be basically reduced by shading correction described later.

図4(a)は、図3(a)と同様に、図2に示す読み出しタイミングで撮像素子を駆動した際のシェーディング形状を示す図である。図4(b)は、水平転送位置に依存するシェーディング形状を示す図、図4(c)は、HBLK期間における駆動パルスの影響による水平転送位置に依存しないシェーディング形状を示す図である。   FIG. 4A is a diagram showing a shading shape when the image sensor is driven at the readout timing shown in FIG. 2, as in FIG. FIG. 4B is a diagram showing a shading shape depending on the horizontal transfer position, and FIG. 4C is a diagram showing a shading shape independent of the horizontal transfer position due to the influence of the drive pulse in the HBLK period.

水平転送位置に依存するシェーディング形状である図4(b)と同じ形状のシェーディング補正データを補正データ1(第1のシェーディング補正値)とする。水平転送位置に依存しないシェーディング形状である図4(c)と同じ形状シェーディング補正データを補正データ2(第2のシェーディング補正値)とする。   The shading correction data having the same shape as that in FIG. 4B, which is a shading shape depending on the horizontal transfer position, is defined as correction data 1 (first shading correction value). The same shape shading correction data as in FIG. 4C, which is a shading shape that does not depend on the horizontal transfer position, is referred to as correction data 2 (second shading correction value).

図4(a)のシェーディング形状から補正データ1と補正データ2を得るためには、まず、図4(a)のシェーディング形状を有する撮影画像のシェーディングデータにローパス処理を行い、高周波成分をカットする。これにより、図4(b)のシェーディング形状を有する画像を取得して補正データ1を得る(第1のシェーディング補正)。これは、特定の高周波成分を除いた低周波成分である補正データ1を得たことを意味する。さらに、撮影画像のシェーディングデータから補正データ1のシェーディング形状の差分を求めることで、図4(c)のシェーディング形状を有する画像を取得して補正データ2を得る(第2のシェーディング補正)。これは、特定の周波数成分である補正データ2を得たことを意味する。これにより、全画面モード(第1の読み出しモード)での駆動時の補正値を生成するデータの中で、特定の周波数成分または特定の振幅のデータに応じて補正データ1、補正データ2というそれぞれ特定の振幅のデータを得られる。   In order to obtain the correction data 1 and the correction data 2 from the shading shape of FIG. 4A, first, low-pass processing is performed on the shading data of the captured image having the shading shape of FIG. . As a result, an image having the shading shape shown in FIG. 4B is acquired to obtain correction data 1 (first shading correction). This means that the correction data 1 which is a low frequency component excluding a specific high frequency component is obtained. Further, by obtaining the difference of the shading shape of the correction data 1 from the shading data of the photographed image, an image having the shading shape of FIG. 4C is obtained to obtain correction data 2 (second shading correction). This means that correction data 2 that is a specific frequency component is obtained. As a result, among the data for generating the correction value at the time of driving in the full screen mode (first readout mode), the correction data 1 and the correction data 2 are respectively specified according to the data of a specific frequency component or a specific amplitude. Data of a specific amplitude can be obtained.

別の方法として、図1の撮像素子を、図12のように水平転送期間とHBLK期間を同一の時刻ではない別の時刻に行う(第2の読み出し方法)駆動方法で駆動する。まず、図4(b)の水平転送位置に依存するシェーディング成分を持った画像を取得し、そこから補正データ1を作成する。   As another method, the image sensor of FIG. 1 is driven by a driving method in which the horizontal transfer period and the HBLK period are not at the same time as shown in FIG. 12 (second reading method). First, an image having a shading component depending on the horizontal transfer position in FIG. 4B is acquired, and correction data 1 is created therefrom.

次に、図2のように駆動することで図4(a)のシェーディング形状を有する画像を取得し、同様に、図4(a)のシェーディング形状から図4(b)のシェーディングの差分を求める。これにより、図4(c)のシェーディング形状を有する補正データ2を得る。上記のようにして求めた補正データ1と補正データ2は記憶手段(不図示)に記憶される。   Next, by driving as shown in FIG. 2, an image having the shading shape of FIG. 4A is acquired, and similarly, the shading difference of FIG. 4B is obtained from the shading shape of FIG. . Thereby, the correction data 2 having the shading shape of FIG. The correction data 1 and the correction data 2 obtained as described above are stored in a storage means (not shown).

シェーディング補正の方法については、全画面読み出し(全画面モード)の際には、撮像素子で取得した画像データから補正データ1および補正データ2を減算または除算をすることで、図4(a)のシェーディング形状を補正可能である。なお、単純な加算・減算、除算だけでなく、補正データ1あるいは補正データ2に係数を掛けた(乗算)後に加算・減算または除算をすることも可能である。係数は、温度、読み出しゲイン、出力レベル、電源電圧、および列回路に流れる電流値などの撮像素子の駆動条件に応じて適宜変更可能とする。   As for the shading correction method, in the case of full-screen reading (full-screen mode), the correction data 1 and the correction data 2 are subtracted or divided from the image data acquired by the image sensor, as shown in FIG. The shading shape can be corrected. In addition to simple addition / subtraction and division, addition / subtraction or division can be performed after the correction data 1 or the correction data 2 is multiplied by a coefficient (multiplication). The coefficient can be appropriately changed according to the driving conditions of the image sensor such as temperature, readout gain, output level, power supply voltage, and current value flowing through the column circuit.

次に、全画面モード時の補正と、全画面モードと水平転送画素数の異なる間引きモード時の補正とクロップ時の補正について説明する。   Next, correction in the full screen mode, correction in the thinning mode in which the number of horizontal transfer pixels is different from the full screen mode, and correction in the cropping will be described.

全画面モード(第1の読み出しモード)時の補正については、図4(a)〜図4(g)および図5(a)を用いて説明する。   Correction in the full screen mode (first readout mode) will be described with reference to FIGS. 4A to 4G and FIG.

上述のとおり、水平転送位置に依存するシェーディング補正データを補正データ1、水平転送位置に依存しないシェーディング補正データを補正データ2とし、それぞれ図4(b)と図4(c)の形状に相当する。   As described above, the shading correction data that depends on the horizontal transfer position is the correction data 1, and the shading correction data that does not depend on the horizontal transfer position is the correction data 2, which correspond to the shapes of FIGS. 4B and 4C, respectively. .

図5(a)において、撮影した画像から補正データ1を減算または除算する。それによって、撮影画像に含まれる図4(b)に示すシェーディング成分を除去する。次に、撮影した画像から補正データ2を減算または除算する。それによって、撮影画像に含まれる図4(c)に示すシェーディング成分を除去し、記録用画像データを取得する。補正データ1あるいは補正データ2に、温度、読み出しゲイン、出力レベル、電源電圧、および列回路に流れる電流値などの条件によって変更する係数を撮像素子の駆動条件に応じて適宜掛けることも可能である。   In FIG. 5A, the correction data 1 is subtracted or divided from the photographed image. Thereby, the shading components shown in FIG. 4B included in the photographed image are removed. Next, the correction data 2 is subtracted or divided from the photographed image. Thereby, the shading component shown in FIG. 4C included in the photographed image is removed, and recording image data is acquired. The correction data 1 or the correction data 2 can be appropriately multiplied by a coefficient to be changed according to conditions such as temperature, readout gain, output level, power supply voltage, and current value flowing through the column circuit depending on the driving conditions of the image sensor. .

間引きモード時の補正について、図4(a)〜図4(g)および図5(b)を用いて説明する。ここでは、間引きモードを用いて説明するが、加算モードなどで画素数を間引く方法においても有効である。   The correction in the thinning mode will be described with reference to FIGS. 4 (a) to 4 (g) and FIG. 5 (b). Here, the description will be made using the thinning mode, but it is also effective in a method of thinning the number of pixels in the addition mode or the like.

図4(d)は、図4(b)に示す水平転送位置に依存するシェーディング形状を間引いたシェーディング形状を有する補正データを示す図である。   FIG. 4D shows correction data having a shading shape obtained by thinning out the shading shape depending on the horizontal transfer position shown in FIG.

図5(b)において、モードによって設定された水平転送位置情報であるパラメータX(第1のパラメータ)に応じて補正データ1を補正データ3に変換する。図4(d)で説明したシェーディング補正データが補正データ3(第3のシェーディング補正値)となる。パラメータXは、間引き率によって決定される。撮影した画像データから補正データ3および補正データ2を減算または除算することで、撮影画像に含まれる図4(e)に示すシェーディング成分を除去して記録用画像データを取得する。また、補正データ3あるいは補正データ2に、温度、読み出しゲイン、出力レベル、電源電圧、および列回路に流れる電流値などの条件によって変更する係数を撮像素子の駆動条件に応じて適宜掛けることが変更可能である。また、補正データ2には、後述する位置関係に対応した所定のゲインを掛けることも可能である。なお、画素数を間引く加算モードの場合、パラメータXは、水平加算でグループ化される画素数に応じて決定される。   In FIG. 5B, the correction data 1 is converted into the correction data 3 according to the parameter X (first parameter) which is the horizontal transfer position information set by the mode. The shading correction data described in FIG. 4D is correction data 3 (third shading correction value). The parameter X is determined by the thinning rate. By subtracting or dividing the correction data 3 and the correction data 2 from the photographed image data, the shading component shown in FIG. 4E included in the photographed image is removed and recording image data is obtained. In addition, the correction data 3 or the correction data 2 is appropriately multiplied by a coefficient to be changed according to conditions such as temperature, readout gain, output level, power supply voltage, and current value flowing through the column circuit according to the driving conditions of the image sensor. Is possible. Further, the correction data 2 can be multiplied by a predetermined gain corresponding to the positional relationship described later. In addition, in the addition mode in which the number of pixels is thinned out, the parameter X is determined according to the number of pixels grouped by horizontal addition.

次に、クロップモード時の補正について説明する。   Next, correction in the crop mode will be described.

図4(f)は、図4(b)に示す水平転送位置に依存するシェーディング形状をクロップで読み飛ばされた画素数分だけ先頭を読み飛ばした補正データを示す図である。   FIG. 4F shows correction data obtained by skipping the beginning of the shading shape depending on the horizontal transfer position shown in FIG. 4B by the number of pixels skipped by the crop.

図5(b)において、モードによって設定された水平転送位置情報であるパラメータXに応じて補正データ1を補正データ3に変換する。図4(f)で説明したシェーディング補正データが補正データ3となる。パラメータXは、クロップで読み飛ばされた画素数によって決定される。撮影した画像データから補正データ3および補正データ2を減算または除算することで、撮影画像に含まれる図4(g)に示すシェーディング成分を除去して記録用画像データを取得する。また、補正データ3あるいは補正データ2に、温度、読み出しゲイン、出力レベル、電源電圧、および列回路に流れる電流値などの条件によって変更する係数を撮像素子の駆動条件に応じて適宜掛けることが変更可能である。また、補正データ2には、後述する位置関係に対応した所定のゲインを掛けることも可能である。   In FIG. 5B, the correction data 1 is converted into the correction data 3 according to the parameter X which is the horizontal transfer position information set by the mode. The shading correction data described with reference to FIG. The parameter X is determined by the number of pixels skipped by the crop. By subtracting or dividing the correction data 3 and the correction data 2 from the photographed image data, the shading component shown in FIG. 4G included in the photographed image is removed, and recording image data is obtained. In addition, the correction data 3 or the correction data 2 is appropriately multiplied by a coefficient to be changed according to conditions such as temperature, readout gain, output level, power supply voltage, and current value flowing through the column circuit according to the driving conditions of the image sensor. Is possible. Further, the correction data 2 can be multiplied by a predetermined gain corresponding to the positional relationship described later.

また、水平転送周波数やHBLK期間を変更するなどして、水平転送位置とHBLK期間の駆動パルスの位置関係が全画面モード時と異なる読み出しモードがある。その場合の補正においては、図6(c)のように、補正データ2にHBLK期間中の時間のパラメータであるパラメータT(第2のパラメータ)から水平転送位置に応じて補正データ4(第4のシェーディング補正値)を生成し、差分をとることも可能である。パラメータTは、水平転送周波数やHBLK期間中の駆動パルスのパルス位置から決定される。前述の間引きやクロップなどの動画時に水平転送周波数やHBLK期間を合わせて変更するときは、図6(d)のように補正データ1と補正データ2をそれぞれ補正データ3と補正データ4に変換して補正する。これにより、撮影画像に含まれるシェーディングを補正することが可能となる。   In addition, there is a read mode in which the positional relationship between the horizontal transfer position and the drive pulse in the HBLK period is different from that in the full screen mode by changing the horizontal transfer frequency and the HBLK period. In the correction in that case, as shown in FIG. 6 (c), the correction data 2 (the fourth parameter) according to the horizontal transfer position from the parameter T (second parameter), which is the parameter of the time during the HBLK period. It is also possible to take the difference. The parameter T is determined from the horizontal transfer frequency and the pulse position of the drive pulse during the HBLK period. When changing the horizontal transfer frequency and the HBLK period at the time of moving images such as thinning and cropping as described above, the correction data 1 and the correction data 2 are converted into the correction data 3 and the correction data 4 respectively as shown in FIG. To correct. This makes it possible to correct shading included in the captured image.

ところで、撮像素子によってはHBLK起因のシェーディングは、どの水平転送位置でも同じ程度だけ重畳されず場所依存があることが考えられる。   By the way, it is conceivable that shading caused by HBLK is not superimposed to the same extent at any horizontal transfer position depending on the image pickup device and is location dependent.

図7は、クロック端子を含む図1の撮像素子の概略構成を示す図である。   FIG. 7 is a diagram illustrating a schematic configuration of the image sensor of FIG. 1 including a clock terminal.

図7において、クロックAが外部からクロックバッファを介して列読み出し回路103に供給されている。クロックバッファによる電源等の振られが、水平転送位置によって変化することが考えられる。   In FIG. 7, a clock A is supplied to the column readout circuit 103 from the outside via a clock buffer. It is conceivable that the fluctuation of the power source by the clock buffer changes depending on the horizontal transfer position.

図8は、水平転送位置の3つの読み出し位置におけるクロックAからの振られによるシェーディングの形状を示す図である。   FIG. 8 is a diagram showing the shape of shading caused by shaking from the clock A at the three readout positions of the horizontal transfer position.

クロックバッファとの距離に比例してシェーディングの程度が変化する場合、2つの水平転送位置の読み出し位置でのシェーディングのデータから、クロックバッファからの読み出し位置によって一次曲線で示されるゲイン(係数)を掛ける。その結果、水平転送位置の読み出し位置毎にデータを有する必要がなくなる。ここでは、2つの水平転送位置の読み出し位置から一次曲線で係数を求める方法を記載したが、この限りではなく、水平転送位置における複数の読み出し位置から一次もしくは数次の曲線のデータで求めてもよい。また、クロックAが外部からクロックバッファを介して読み出し回路に供給されず、内部で生成されてもよい。   When the degree of shading changes in proportion to the distance to the clock buffer, the gain (coefficient) indicated by the linear curve is multiplied by the reading position from the clock buffer from the shading data at the reading position of the two horizontal transfer positions. . As a result, it is not necessary to have data for each reading position of the horizontal transfer position. Here, the method for obtaining the coefficient by the linear curve from the reading position of the two horizontal transfer positions is described, but this is not the only case, and the coefficient may be obtained by the data of the primary or several-order curve from the plural reading positions at the horizontal transfer position. Good. Alternatively, the clock A may be generated internally without being supplied to the reading circuit via the clock buffer from the outside.

以上説明したように、シェーディング補正データを水平転送位置に依存するシェーディング補正データと水平転送位置に依存しないシェーディング補正データに分離して記憶しておく。これにより、間引きやクロップを行う動画モード時においても、間引き率、クロップ位置数に依らず、2つのシェーディング補正データで補正可能である。   As described above, the shading correction data is separated and stored into shading correction data that depends on the horizontal transfer position and shading correction data that does not depend on the horizontal transfer position. As a result, even in the moving image mode in which thinning or cropping is performed, correction can be performed with two shading correction data regardless of the thinning rate and the number of crop positions.

また、水平転送周波数を変更あるいはHBLK期間を変更するモードが必要な撮像装置においても、上述のように水平転送位置に依存するシェーディング補正データと水平転送位置に依存しないシェーディング補正データに分離した後に補正する。これにより、シェーディング補正データをモード数分だけ用意する必要がなくなる。具体的には、水平転送位置に依存しないシェーディング補正データをクロック周期もしくはHBLK期間が異なる水平転送位置に対応させて、水平転送位置に依存するシェーディング補正データとあわせてシェーディングを補正する。(第3の読み出しモードおよび第4の読み出しモード)これにより、クロック周波数を変更した際に補正可能なシェーディング補正データを生成できる。   Even in an imaging apparatus that requires a mode for changing the horizontal transfer frequency or changing the HBLK period, correction is performed after separating the shading correction data depending on the horizontal transfer position and the shading correction data not depending on the horizontal transfer position as described above. To do. This eliminates the need to prepare shading correction data for the number of modes. Specifically, shading correction data that does not depend on the horizontal transfer position is associated with horizontal transfer positions that have different clock cycles or HBLK periods, and shading is corrected together with the shading correction data that depends on the horizontal transfer position. (Third read mode and fourth read mode) Thereby, shading correction data that can be corrected when the clock frequency is changed can be generated.

上記実施形態では、HBLK期間と水平転送期間とが同一時刻に行うことで、動画モード時のシェーディング補正データを水平転送位置に依存するシェーディング補正データと水平転送位置に依存しないシェーディング補正データに分離して補正する例を述べた。   In the above embodiment, by performing the HBLK period and the horizontal transfer period at the same time, the shading correction data in the moving image mode is separated into shading correction data that depends on the horizontal transfer position and shading correction data that does not depend on the horizontal transfer position. An example of correction is described.

しかしながら、HBLK期間と水平転送期間が重なっていない撮像素子の読み出し方法についても、HBLK期間の駆動パルスによって読み出し回路の電源電圧が変動し、水平転送期間にまだ収束していないような状態であれば、分離して補正することが有効になる。   However, with respect to the reading method of the image sensor in which the HBLK period and the horizontal transfer period do not overlap, if the power supply voltage of the read circuit fluctuates due to the driving pulse in the HBLK period and has not yet converged in the horizontal transfer period. It is effective to separate and correct.

[第2の実施形態]
上述した撮像素子の駆動方法を撮像装置であるデジタルカメラに適用した場合の実施形態について図9を参照して説明する。
[Second Embodiment]
An embodiment in which the above-described driving method of the image sensor is applied to a digital camera which is an image pickup apparatus will be described with reference to FIG.

図9は、本発明の第2の実施形態に係る撮像装置の概略構成を示すブロック図である。   FIG. 9 is a block diagram illustrating a schematic configuration of an imaging apparatus according to the second embodiment of the present invention.

図9において、1001は被写体の光学像を撮像素子1005に結像させるレンズ部であり、レンズ駆動装置1002によってズーム制御、フォーカス制御、絞り制御などが行われる。1003はメカニカルシャッターでシャッター制御手段1004によって制御される。   In FIG. 9, reference numeral 1001 denotes a lens unit that forms an optical image of a subject on the image sensor 1005, and zoom control, focus control, aperture control, and the like are performed by the lens driving device 1002. Reference numeral 1003 denotes a mechanical shutter which is controlled by the shutter control means 1004.

1005はレンズ部1001で結像された被写体を画像信号として取り込むための撮像素子である。1006は撮像素子1005より出力される画像信号の増幅や、アナログーディジタル変換を行うA/D変換、A/D変換後の画像データに各種の補正を行ったり、データを圧縮する撮像信号処理回路である。撮像信号処理回路1006によって上述した補正データの生成を行い、補正処理を行う。   Reference numeral 1005 denotes an image sensor for taking in the subject imaged by the lens unit 1001 as an image signal. An image signal processing circuit 1006 amplifies the image signal output from the image sensor 1005, performs A / D conversion for analog-digital conversion, performs various corrections on the image data after A / D conversion, and compresses the data. It is. The above-described correction data is generated by the imaging signal processing circuit 1006 and correction processing is performed.

1007は撮像素子1005、撮像信号処理回路1006に、各種タイミング信号を出力する駆動手段であるタイミング発生回路である。1009は各種演算と撮像装置全体を制御する制御回路である。1008は画像データを一時的に記憶するためのメモリである。1010は記録媒体に記録または読み出しを行うためのインターフェースである。1011は画像データの記録または読み出しを行うための半導体メモリ等の着脱可能な記録媒体である。1012は外部コンピュータ等と通信するためのインターフェースである。   A timing generation circuit 1007 is a driving unit that outputs various timing signals to the imaging element 1005 and the imaging signal processing circuit 1006. Reference numeral 1009 denotes a control circuit for controlling various calculations and the entire image pickup apparatus. Reference numeral 1008 denotes a memory for temporarily storing image data. Reference numeral 1010 denotes an interface for performing recording or reading on a recording medium. Reference numeral 1011 denotes a detachable recording medium such as a semiconductor memory for recording or reading image data. Reference numeral 1012 denotes an interface for communicating with an external computer or the like.

次に、図9に示す撮像装置における撮影時の動作について説明する。   Next, the operation at the time of shooting in the image pickup apparatus shown in FIG. 9 will be described.

撮像装置のメイン電源(不図示)がオンされると、制御回路1009などのコントロール系回路の電源がオンし、更に、撮像信号処理回路1006などの撮像系回路の電源がオンされる。次に、不図示のレリーズボタンが押されると、測距装置1014から出力された信号をもとに、高周波成分を取り出して被写体までの距離の演算を制御回路1009で行う。その後、レンズ駆動装置1002によりレンズ部1001を駆動して合焦か否かを判断し、合焦していないと判断した時は、再びレンズ部を駆動し測距を行う。そして、合焦が確認された後に撮影動作が開始する。   When the main power supply (not shown) of the image pickup apparatus is turned on, the power supply of the control system circuit such as the control circuit 1009 is turned on, and the power supply of the image pickup system circuit such as the image pickup signal processing circuit 1006 is turned on. Next, when a release button (not shown) is pressed, the control circuit 1009 calculates a distance to the subject by extracting a high frequency component based on a signal output from the distance measuring device 1014. Thereafter, the lens driving device 1002 drives the lens unit 1001 to determine whether it is in focus. When it is determined that the lens unit is not in focus, the lens unit is driven again to perform distance measurement. Then, after the in-focus state is confirmed, the photographing operation starts.

撮影動作が終了すると、撮像素子1005から出力された画像信号は撮像信号処理回路1006で増幅、A/D変換などの処理をされ、制御回路1009によりメモリに書き込まれる。メモリ1008に蓄積されたデータは、制御回路1009の制御により記録媒体制御I/F部1010を通り半導体メモリ等の着脱可能な記録媒体1011に記録される。また、外部I/F部1012を通り直接コンピュータ等に入力して画像の加工を行ってもよい。   When the photographing operation is completed, the image signal output from the image sensor 1005 is subjected to processing such as amplification and A / D conversion by the image signal processing circuit 1006 and written to the memory by the control circuit 1009. Data stored in the memory 1008 is recorded on a removable recording medium 1011 such as a semiconductor memory through the recording medium control I / F unit 1010 under the control of the control circuit 1009. Further, the image may be processed by directly inputting to a computer or the like through the external I / F unit 1012.

次に、撮像信号処理回路1006により実行されるシェーディング補正について図10を用いて説明する。   Next, shading correction executed by the imaging signal processing circuit 1006 will be described with reference to FIG.

図10は、図9の撮像信号処理回路1006により実行されるシェーディング補正の流れを示すフローチャートである。   FIG. 10 is a flowchart showing a flow of shading correction executed by the imaging signal processing circuit 1006 of FIG.

撮像信号処理回路1006のシェーディング補正回路では、全画面モードで撮影された画像か否かを判定する(ステップS801)。この判定の結果、全画面モードで撮影された画像でないと判定した場合は、ステップS805へ進む。一方、全画面モードで撮影された画像であると判定した場合、補正データ1に、温度、読み出しゲイン、出力レベル、電源電圧、および列回路に流れる電流値などの条件により、所定の係数(ゲイン)を掛ける必要があるか否かを判定する(ステップS802)。この判定の結果、係数を掛ける必要がない場合は、補正データ1を画像データから減算することで、水平転送位置に依存するシェーディングの補正を行う(ステップS803)。一方、係数を掛ける必要がある場合は、補正データ1に係数を掛けたデータを画像から減算することで、水平転送位置に依存するシェーディングの補正を行う(ステップS804)。   The shading correction circuit of the imaging signal processing circuit 1006 determines whether the image is captured in the full screen mode (step S801). As a result of the determination, if it is determined that the image is not captured in the full screen mode, the process proceeds to step S805. On the other hand, when it is determined that the image is captured in the full screen mode, the correction data 1 includes a predetermined coefficient (gain) according to conditions such as temperature, readout gain, output level, power supply voltage, and current value flowing through the column circuit. ) Is determined (step S802). If it is not necessary to multiply by a coefficient as a result of this determination, the correction data 1 is subtracted from the image data to correct shading depending on the horizontal transfer position (step S803). On the other hand, when it is necessary to multiply by a coefficient, shading correction depending on the horizontal transfer position is performed by subtracting data obtained by multiplying the correction data 1 by the coefficient from the image (step S804).

ステップS805では、クロップで読み飛ばされる画素数や間引き率よって決定されるパラメータXによって補正データ1を補正データ3に変換する(ステップS805)。次に、補正データ3に、温度、読み出しゲイン、出力レベル、電源電圧、および列回路に流れる電流値などの条件により、所定の係数(ゲイン)を掛ける必要があるか否かを判定する(ステップS806)。この判定の結果、係数を掛ける必要がない場合は、補正データ3を画像データから減算することで、水平転送位置に依存するシェーディングの補正を行う(ステップS807)。一方、係数を掛ける必要がある場合は、補正データ3に係数を掛けたデータを画像から減算することで、水平転送位置に依存するシェーディングの補正を行う(ステップS808)。   In step S805, the correction data 1 is converted into the correction data 3 by the parameter X determined by the number of pixels skipped by the crop and the thinning rate (step S805). Next, it is determined whether or not it is necessary to multiply the correction data 3 by a predetermined coefficient (gain) according to conditions such as temperature, readout gain, output level, power supply voltage, and current value flowing through the column circuit (step). S806). As a result of this determination, if there is no need to multiply by a coefficient, the correction data 3 is subtracted from the image data to correct shading depending on the horizontal transfer position (step S807). On the other hand, when it is necessary to multiply by a coefficient, shading correction dependent on the horizontal transfer position is performed by subtracting data obtained by multiplying the correction data 3 by the coefficient from the image (step S808).

次に、ステップS809では、水平転送周波数やHBLK期間中の駆動パルスの位置をシェーディング補正データ1,2を取得したときに対して変更しているか否かを判定する(ステップS809)。この判定の結果、変更していないときは、ステップS814へ進む。一方、変更しているときは、補正データ2をパラメータTやクロックバッファからの位置に応じて補正データ4に変換する(ステップS810)。   Next, in step S809, it is determined whether or not the horizontal transfer frequency and the position of the drive pulse during the HBLK period are changed from when the shading correction data 1 and 2 are acquired (step S809). If the result of this determination is that there has been no change, processing proceeds to step S814. On the other hand, when the change is made, the correction data 2 is converted into the correction data 4 according to the parameter T and the position from the clock buffer (step S810).

次に、補正データ4に温度、読み出しゲイン、出力レベル、電源電圧、列回路に流れる電流値などの条件により、所定の係数(ゲイン)を掛ける必要があるか否かを判定する(ステップS811)。この判定の結果、係数を掛ける必要がない場合は、補正データ4を画像データから減算することで、水平転送位置に依存しないシェーディングの補正を行う(ステップS812)。一方、係数を掛ける必要がある場合は、補正データ4に係数を掛けたデータを画像から減算することで、水平転送位置に依存しないシェーディングの補正を行う(ステップS813)。   Next, it is determined whether or not it is necessary to multiply the correction data 4 by a predetermined coefficient (gain) according to conditions such as temperature, readout gain, output level, power supply voltage, and current value flowing through the column circuit (step S811). . As a result of this determination, if there is no need to multiply by a coefficient, the correction data 4 is subtracted from the image data to perform shading correction independent of the horizontal transfer position (step S812). On the other hand, when it is necessary to multiply by a coefficient, shading correction independent of the horizontal transfer position is performed by subtracting data obtained by multiplying the correction data 4 by the coefficient from the image (step S813).

ステップS814では、補正データ2に温度、読み出しゲイン、出力レベル、電源電圧、列回路に流れる電流値などの条件により、所定の係数(ゲイン)を掛ける必要があるか否かを判定する。この判定の結果、係数を掛ける必要がない場合は、補正データ2を画像データから減算することで、水平転送位置に依存しないシェーディングの補正を行う(ステップS815)。一方、係数を掛ける必要がある場合は、補正データ2に係数を掛けたデータを画像から減算することで、水平転送位置に依存しないシェーディングの補正を行う(ステップS816)。その後、水平転送位置に依存するシェーディングの補正と依存しないシェーディングの補正を行ったところで補正終了となる。   In step S814, it is determined whether or not it is necessary to multiply the correction data 2 by a predetermined coefficient (gain) according to conditions such as temperature, readout gain, output level, power supply voltage, and current value flowing through the column circuit. If it is not necessary to multiply by a coefficient as a result of this determination, the correction data 2 is subtracted from the image data to correct shading that does not depend on the horizontal transfer position (step S815). On the other hand, when it is necessary to multiply by a coefficient, shading correction independent of the horizontal transfer position is performed by subtracting data obtained by multiplying the correction data 2 by the coefficient from the image (step S816). Thereafter, when the shading correction depending on the horizontal transfer position and the shading correction independent of the horizontal transfer position are performed, the correction ends.

上述のように、シェーディング補正を行うことで、2つのシェーディング補正データから複数のモードに対応したシェーディング補正データを生成し、補正することが可能となる。   As described above, by performing shading correction, it is possible to generate and correct shading correction data corresponding to a plurality of modes from two pieces of shading correction data.

また、本発明の目的は、以下の処理を実行することによっても達成される。即ち、上述した実施形態の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)が記憶媒体に格納されたプログラムコードを読み出す処理である。この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施の形態の機能を実現することになり、そのプログラムコード及び該プログラムコードを記憶した記憶媒体は本発明を構成することになる。   The object of the present invention can also be achieved by executing the following processing. That is, a storage medium that records a program code of software that realizes the functions of the above-described embodiments is supplied to a system or apparatus, and a computer (or CPU, MPU, etc.) of the system or apparatus is stored in the storage medium. This is the process of reading the code. In this case, the program code itself read from the storage medium realizes the functions of the above-described embodiments, and the program code and the storage medium storing the program code constitute the present invention.

また、プログラムコードを供給するための記憶媒体としては、次のものを用いることができる。例えば、フロッピー(登録商標)ディスク、ハードディスク、光磁気ディスク、CD−ROM、CD−R、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、DVD+RW、磁気テープ、不揮発性のメモリカード、ROM等である。または、プログラムコードをネットワークを介してダウンロードしてもよい。   Moreover, the following can be used as a storage medium for supplying the program code. For example, floppy (registered trademark) disk, hard disk, magneto-optical disk, CD-ROM, CD-R, CD-RW, DVD-ROM, DVD-RAM, DVD-RW, DVD + RW, magnetic tape, nonvolatile memory card, ROM or the like. Alternatively, the program code may be downloaded via a network.

また、コンピュータが読み出したプログラムコードを実行することにより、上記実施の形態の機能が実現される場合も本発明に含まれる。加えて、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)等が実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれる。   Further, the present invention includes a case where the function of the above-described embodiment is realized by executing the program code read by the computer. In addition, an OS (operating system) running on the computer performs part or all of the actual processing based on an instruction of the program code, and the functions of the above-described embodiments are realized by the processing. Is also included.

更に、前述した実施形態の機能が実現可能な構成としては次の場合も本発明に含まれる。即ち、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれる。その後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部または全部を行う場合である。   Furthermore, the following cases are included in the present invention as a configuration capable of realizing the functions of the above-described embodiments. That is, the program code read from the storage medium is written in a memory provided in a function expansion board inserted into the computer or a function expansion unit connected to the computer. Thereafter, based on the instruction of the program code, the CPU or the like provided in the function expansion board or function expansion unit performs part or all of the actual processing.

101 画素部
102 行選択回路
103 列読み出し回路
104 列メモリ
105 列選択回路
106 出力線
107 列メモリ2
1006 撮像信号処理回路
1009 制御回路
101 Pixel unit 102 Row selection circuit 103 Column readout circuit 104 Column memory 105 Column selection circuit 106 Output line 107 Column memory 2
1006 Imaging signal processing circuit 1009 Control circuit

Claims (9)

光を電気信号に光電変換する画素が垂直及び水平方向に配置され、複数の駆動パルスによって画素からの信号を垂直および水平方向に転送して出力する撮像素子であって、n行目の水平転送期間中にn+1行目の水平ブランキング期間を開始する撮像素子と、
前記撮像素子から出力される画像信号に対して、水平転送位置に依存するシェーディングを補正するための第1のシェーディング補正と、水平転送位置に依存しないシェーディングを補正するための第2のシェーディング補正を行う補正手段と、
前記第1のシェーディング補正を行うための前記撮像素子の列ごとの第1のシェーディング補正値と、前記第2のシェーディング補正を行うための第2のシェーディング補正値とをそれぞれ記憶する記憶手段と、を有することを特徴とする撮像装置。
A pixel that photoelectrically converts light into an electrical signal is arranged in the vertical and horizontal directions, and is an image pickup device that outputs signals from the pixels in the vertical and horizontal directions by a plurality of drive pulses, and outputs them horizontally in the nth row. An image sensor that starts a horizontal blanking period of the (n + 1) th row during the period;
A first shading correction for correcting shading dependent on the horizontal transfer position and a second shading correction for correcting shading independent of the horizontal transfer position for the image signal output from the image sensor. Correction means to perform,
Storage means for storing a first shading correction value for each column of the image sensor for performing the first shading correction and a second shading correction value for performing the second shading correction; An imaging device comprising:
前記撮像素子から画像信号を読み出す第1の読み出しモードと当該第1の読み出しモードと水平転送画素数の異なる第2の読み出しモードを有し、
前記補正手段は、前記第2の読み出しモードの際に、水平転送画素数に応じて前記第1のシェーディング補正値を変換して得られる第3のシェーディング補正値および前記第2のシェーディング補正値を用いてシェーディング補正を行うことを特徴とする請求項1記載の撮像装置。
A first readout mode for reading out an image signal from the image sensor and a second readout mode in which the number of horizontal transfer pixels is different from the first readout mode;
The correction means uses a third shading correction value and a second shading correction value obtained by converting the first shading correction value according to the number of horizontal transfer pixels in the second readout mode. The imaging apparatus according to claim 1, wherein shading correction is performed.
前記第2の読み出しモードは画素の間引きを行う間引きモード、画素の加算を行う加算モードあるいは画素の読み飛ばしを行うクロップモードであることを特徴とする請求項2記載の撮像装置。   3. The image pickup apparatus according to claim 2, wherein the second readout mode is a thinning mode for thinning out pixels, an addition mode for adding pixels, or a crop mode for skipping reading of pixels. 前記補正手段は、前記第2のシェーディング補正値を垂直転送期間のパルス位置または水平転送周波数に応じて第4のシェーディング補正値に変換することを特徴とする請求項1または2記載の撮像装置。   The imaging apparatus according to claim 1, wherein the correction unit converts the second shading correction value into a fourth shading correction value according to a pulse position or a horizontal transfer frequency in a vertical transfer period. 前記第1の読み出しモードと垂直転送期間またはクロック周期が異なる第3の読み出しモードをさらに有し、
前記補正手段は、前記第2のシェーディング補正値を垂直転送期間のパルス位置または水平転送周波数に応じて第4のシェーディング補正値に変換し、前記第3の読み出しモードの際に、前記第1のシェーディング補正値および前記第4のシェーディング補正値を用いてシェーディング補正を行うことを特徴とする請求項2記載の撮像装置。
A third readout mode having a vertical transfer period or a clock cycle different from that of the first readout mode;
The correction means converts the second shading correction value into a fourth shading correction value according to a pulse position or a horizontal transfer frequency in a vertical transfer period, and in the third readout mode, The imaging apparatus according to claim 2, wherein shading correction is performed using a shading correction value and the fourth shading correction value.
前記撮像素子から画像信号を読み出す第1の読み出しモードと当該第1の読み出しモードと水平転送画素数の異なる第2の読み出しモードと、
前記第2の読み出しモードと垂直転送期間またはクロック周期が異なる第4の読み出しモードをさらに有し、
前記補正手段は、前記第2の読み出しモードの際に、水平転送画素数に応じて前記第1のシェーディング補正値を変換して得られる第3のシェーディング補正値および前記第2のシェーディング補正値を用いてシェーディング補正を行い、
前記第2のシェーディング補正値を垂直転送期間のパルス位置または水平転送周波数に応じて第4のシェーディング補正値に変換し、
前記第4の読み出しモードの際に、前記第3のシェーディング補正値および前記第4のシェーディング補正値を用いてシェーディング補正を行うことを特徴とする請求項1記載の撮像装置。
A first readout mode for reading out an image signal from the imaging device, a second readout mode in which the number of horizontal transfer pixels is different from the first readout mode,
A fourth read mode having a vertical transfer period or a clock period different from that of the second read mode;
The correction means uses a third shading correction value and a second shading correction value obtained by converting the first shading correction value according to the number of horizontal transfer pixels in the second readout mode. To correct shading,
Converting the second shading correction value into a fourth shading correction value according to a pulse position or a horizontal transfer frequency in a vertical transfer period;
The imaging apparatus according to claim 1, wherein shading correction is performed using the third shading correction value and the fourth shading correction value in the fourth readout mode.
前記第1の読み出しモードでの駆動時の補正値を生成するデータの中で、特定の周波数成分もしくは特定の振幅のデータに応じて前記第1のシェーディング補正値と前記第2のシェーディング補正値に分離することを特徴とする請求項2記載の撮像装置。   Among the data for generating the correction value at the time of driving in the first readout mode, the first shading correction value and the second shading correction value are set in accordance with specific frequency components or specific amplitude data. The imaging apparatus according to claim 2, wherein the imaging apparatus is separated. 前記補正手段は、前記第2の読み出しモードで得られた画像から前記第1のシェーディング補正値を生成し、前記第1の読み出しモードで得られた画像から得たシェーディングデータから前記第1のシェーディング補正値を差分したデータを前記第2のシェーディング補正値とすることを特徴とする請求項2記載の撮像装置。   The correction unit generates the first shading correction value from the image obtained in the second readout mode, and the first shading from shading data obtained from the image obtained in the first readout mode. The imaging apparatus according to claim 2, wherein data obtained by subtracting a correction value is used as the second shading correction value. 光を電気信号に光電変換する画素が垂直及び水平方向に配置され、複数の駆動パルスによって画素からの信号を垂直および水平方向に転送して出力する撮像素子であって、n行目の水平転送期間中にn+1行目の水平ブランキング期間を開始する撮像素子を有する撮像装置の制御方法であって、
前記撮像素子から出力される画像信号に対して、水平転送位置に依存するシェーディングを補正するための前記撮像素子の列ごとの第1のシェーディング補正値と、水平転送位置に依存しないシェーディングを補正するための第2のシェーディング補正値とに基づいてシェーディング補正を行う補正工程を備えることを特徴とする制御方法。
A pixel that photoelectrically converts light into an electrical signal is arranged in the vertical and horizontal directions, and is an image pickup device that outputs signals from the pixels in the vertical and horizontal directions by a plurality of drive pulses, and outputs them horizontally in the nth row. A method of controlling an imaging apparatus having an imaging element that starts a horizontal blanking period of the (n + 1) th row during a period,
A first shading correction value for each column of the image sensor for correcting a shading dependent on a horizontal transfer position and a shading independent of a horizontal transfer position are corrected for an image signal output from the image sensor. A control method comprising: a correction step of performing shading correction based on a second shading correction value for the purpose.
JP2009114509A 2009-05-11 2009-05-11 Imaging apparatus and control method thereof Expired - Fee Related JP5665282B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009114509A JP5665282B2 (en) 2009-05-11 2009-05-11 Imaging apparatus and control method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009114509A JP5665282B2 (en) 2009-05-11 2009-05-11 Imaging apparatus and control method thereof

Publications (2)

Publication Number Publication Date
JP2010263553A JP2010263553A (en) 2010-11-18
JP5665282B2 true JP5665282B2 (en) 2015-02-04

Family

ID=43361242

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009114509A Expired - Fee Related JP5665282B2 (en) 2009-05-11 2009-05-11 Imaging apparatus and control method thereof

Country Status (1)

Country Link
JP (1) JP5665282B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016123117A (en) * 2016-02-10 2016-07-07 株式会社ニコン Imaging device
JP7175703B2 (en) 2018-10-17 2022-11-21 キヤノン株式会社 IMAGING DEVICE AND CONTROL METHOD THEREOF, PROGRAM, STORAGE MEDIUM
JP7822857B2 (en) * 2022-03-30 2026-03-03 富士フイルム株式会社 Processing device, imaging device, processing method, and processing program

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001045375A (en) * 1999-08-03 2001-02-16 Canon Inc Imaging device and readout method thereof
JP2003333434A (en) * 2002-05-17 2003-11-21 Canon Inc Imaging device, imaging method, program, and storage medium
JP2004247880A (en) * 2003-02-12 2004-09-02 Hitachi Kokusai Electric Inc Shading correction method and device
JP4245140B2 (en) * 2003-04-18 2009-03-25 富士通マイクロエレクトロニクス株式会社 Shading correction circuit
JP2006287378A (en) * 2005-03-31 2006-10-19 Nikon Corp Noise removal device
JP2007300368A (en) * 2006-04-28 2007-11-15 Fujifilm Corp Solid-state imaging device
JP2008147956A (en) * 2006-12-08 2008-06-26 Canon Inc Video signal processing apparatus and method, program, and recording medium
JP5113460B2 (en) * 2007-09-06 2013-01-09 キヤノン株式会社 Imaging system

Also Published As

Publication number Publication date
JP2010263553A (en) 2010-11-18

Similar Documents

Publication Publication Date Title
JP6222908B2 (en) Image processing apparatus, method and program, and imaging apparatus having image processing apparatus
JP5806511B2 (en) Imaging apparatus and imaging method
JP6476065B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
CN109997352B (en) Imaging device, camera, and imaging method
JP6099904B2 (en) Imaging device
JP2007150643A (en) Solid-state imaging device, solid-state imaging device driving method, and imaging apparatus
CN103139494B (en) Camera head
WO2009098877A1 (en) Image processing device and image processing method
JP2009206826A (en) Image capturing apparatus and image capturing apparatus control method
JP5701942B2 (en) Imaging apparatus, camera system, and image processing method
JP5665282B2 (en) Imaging apparatus and control method thereof
JP5013811B2 (en) Imaging apparatus and correction method
JP5078458B2 (en) Imaging apparatus, control method therefor, and imaging system
JP4458864B2 (en) IMAGING DEVICE, ITS CONTROL METHOD, PROGRAM, AND STORAGE MEDIUM
JP5147652B2 (en) Imaging apparatus, control method thereof, and program
JP2011182321A (en) Solid-state imaging apparatus, driving method and imaging apparatus
JP2013145985A (en) Imaging device, control method therefor, and imaging system
JP5530279B2 (en) Imaging apparatus, imaging control method, and program
JP5127510B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
JP5683985B2 (en) Solid-state imaging device and imaging device
JP2015064500A (en) Imaging apparatus and control method thereof
JP5476785B2 (en) Imaging device
JP2008118378A (en) Imaging apparatus and driving method thereof
JP2004120391A (en) Solid-state image pickup device
US20130155301A1 (en) Image pickup apparatus, image pickup method, and machine-readable storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120221

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20121228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130311

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130730

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130930

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140314

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140609

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20141111

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141209

R151 Written notification of patent or utility model registration

Ref document number: 5665282

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees