Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5501405B2 - Control device - Google Patents
[go: Go Back, main page]

JP5501405B2 - Control device - Google Patents

Control device Download PDF

Info

Publication number
JP5501405B2
JP5501405B2 JP2012114831A JP2012114831A JP5501405B2 JP 5501405 B2 JP5501405 B2 JP 5501405B2 JP 2012114831 A JP2012114831 A JP 2012114831A JP 2012114831 A JP2012114831 A JP 2012114831A JP 5501405 B2 JP5501405 B2 JP 5501405B2
Authority
JP
Japan
Prior art keywords
line
image
mode
imaging
read
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012114831A
Other languages
Japanese (ja)
Other versions
JP2012185516A (en
Inventor
喜則 渡辺
佳宣 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012114831A priority Critical patent/JP5501405B2/en
Publication of JP2012185516A publication Critical patent/JP2012185516A/en
Application granted granted Critical
Publication of JP5501405B2 publication Critical patent/JP5501405B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Focusing (AREA)
  • Automatic Focus Adjustment (AREA)

Description

本発明は、デジタルスチルカメラなどの撮像装置に関する。   The present invention relates to an imaging apparatus such as a digital still camera.

近年、高画素撮像素子を用いたデジタルスチルカメラが製品化されている。一般に、高画素撮像素子を用いたデジタルスチルカメラにおいて、EVF時や動画撮影時の撮像素子の動作は、ファインダーレートを速くするために、液晶表示装置の表示に必要な信号ライン以外を間引く駆動方法がとられている。   In recent years, digital still cameras using high-pixel image sensors have been commercialized. In general, in a digital still camera using a high-pixel imaging device, the operation of the imaging device during EVF or moving image shooting is a driving method that thins out other than the signal lines necessary for the display of the liquid crystal display device in order to increase the finder rate. Has been taken.

一方、高解像度のデジタルスチルカメラでは、銀塩カメラと同様に、静止画像を即座に撮りたいという要求が強い。そのため、レリーズスイッチを押してから撮影までの時間が短くなければならない。特に、AFに関しては、合焦までの時間が短いということから、位相差AF方式に関する多くの発明が提案されている。   On the other hand, high-resolution digital still cameras, like silver halide cameras, are strongly demanded to take still images immediately. For this reason, it is necessary to shorten the time from when the release switch is pressed to when shooting. In particular, regarding AF, since the time until focusing is short, many inventions relating to the phase difference AF method have been proposed.

特許文献1は、機械的な位相差検出構造を持つことなく位相差AFを行うために、撮像素子に位相差AF用の光電変換素子を配置し、撮像素子の出力信号を用いたAF方式に関する技術を開示している。   Patent Document 1 relates to an AF method in which a photoelectric conversion element for phase difference AF is arranged in an image sensor and an output signal of the image sensor is used in order to perform phase difference AF without having a mechanical phase difference detection structure. The technology is disclosed.

特許文献2は、撮像素子に位相差AF用の光電変換素子が含まれる撮像装置において、EVF時や動画撮影時において、撮像素子のラインを間引いて読み出す場合にAF時と画像生成時とで読み出すラインを切り替える技術を開示している。   Japanese Patent Application Laid-Open No. 2004-228561 reads out at the time of AF and image generation when reading out by thinning out the lines of the image sensor at the time of EVF or moving image shooting in an image pickup apparatus including a photoelectric conversion element for phase difference AF. A technique for switching lines is disclosed.

特開2000−156823号公報JP 2000-156823 A 特開2003−198925号公報JP 2003-198925 A

しかしながら、特許文献1、2の技術では、撮像素子に位相差AF用の光電変換素子を含むラインと含まないラインを持つ撮像素子について、EVF表示時や動画撮影時には、位相差AF用の光電変換素子を含まないラインを読み出している。そして、AF時には位相差AF用の光電変換素子を含むラインを読み出している。この方法では、全てのラインに位相差AF用の光電変換素子が配置されている撮像素子には対応できない。   However, in the techniques of Patent Documents 1 and 2, for an image sensor having a line including and not including a phase difference AF photoelectric conversion element in the image sensor, photoelectric conversion for phase difference AF is performed during EVF display or moving image shooting. A line not including an element is read. During AF, a line including a photoelectric conversion element for phase difference AF is read out. This method cannot be applied to an image sensor in which photoelectric conversion elements for phase difference AF are arranged on all lines.

また、特許文献1、2の技術では、AFを行うときは改めて撮像素子から位相差AF用の光電変換素子を含むラインを読み出し、AFデータのみを使用する。そのため、特許文献2に記載されているようにAF時は、EVFや動画では1つ前の画像を再表示または再記録することになり、途中でフリーズするような違和感のある動画が生成されてしまう。   In the techniques of Patent Documents 1 and 2, when performing AF, a line including a photoelectric conversion element for phase difference AF is read from the image sensor again, and only AF data is used. Therefore, as described in Patent Document 2, during AF, the previous image is redisplayed or rerecorded in the EVF or moving image, and a moving image with a sense of incongruity that freezes in the middle is generated. End up.

本発明によれば、AFの精度を効果的に変更可能な画素配置を持つ撮像素子を備える撮像装置を提供することを目的とする。   An object of the present invention is to provide an imaging device including an imaging device having a pixel arrangement that can effectively change the accuracy of AF.

本発明の第1の側面は、制御装置に係り、画像データを形成するための撮像用の第1の画素と位相差オートフォーカスを行うための焦点検出用の第2の画素とが配列された撮像素子であって、前記第2の画素がN個(Nは2以上の整数)配置された第1のラインと、前記第2の画素がM個(MはNよりも小さいゼロを含まない自然数)配置された第2のラインとを有する撮像素子を制御する制御装置であって、前記撮像素子の前記第1のラインと第2のラインを読み出す第1の読み出しモードと、前記第1のラインを読み出す第2の読み出しモードと、前記第2のラインを読み出す第3の読み出しモードとを切り替えて前記撮像素子から撮像信号を読み出すように制御する制御手段有することを特徴とする。 A first aspect of the present invention relates to a control device, wherein a first pixel for imaging for forming image data and a second pixel for focus detection for performing phase difference autofocus are arranged. An image pickup device, wherein the second line includes N first pixels (N is an integer equal to or greater than 2), and the second pixel includes M (M does not include zero smaller than N). A control device that controls an image sensor having a second line arranged in a natural number), wherein the first read mode for reading the first line and the second line of the image sensor, and the first Control means for controlling to read an imaging signal from the imaging device by switching between a second reading mode for reading a line and a third reading mode for reading the second line.

本発明の第2の側面は、制御装置に係り、画像データを形成するための撮像用の第1の画素と位相差オートフォーカスを行うための焦点検出用の第2の画素とが配列された撮像素子であって、前記第2の画素がN個(Nは2以上の整数)配置された第1のラインと、前記第2の画素がM個(MはNよりも小さいゼロを含まない自然数)配置された第2のラインと、前記第2の画素が配置されていない第3のラインとが周期的に配置された撮像素子を制御する制御装置であって、前記撮像素子の前記第1、第2、及び第3のラインを読み出す第1の読み出しモードと、前記第1のラインを読み出す第2の読み出しモードと、前記第2のラインを読み出す第3の読み出しモードと、前記第3のラインを読み出す第4の読み出しモードとを切り替えて前記撮像素子から撮像信号を読み出すように制御する制御手段有することを特徴とする。 A second aspect of the present invention relates to a control device, wherein a first pixel for imaging for forming image data and a second pixel for focus detection for performing phase difference autofocus are arranged. An image pickup device, wherein the second line includes N first pixels (N is an integer equal to or greater than 2), and the second pixel includes M (M does not include zero smaller than N). A control unit that controls an image sensor in which a second line (natural number) arranged and a third line in which the second pixel is not arranged are arranged periodically, the first line of the image sensor A first read mode for reading the first, second, and third lines; a second read mode for reading the first line; a third read mode for reading the second line; Switch to 4th readout mode to read out the line Characterized in that it has a control means for controlling to read out the imaging signal from the imaging element.

本発明によれば、AFの精度を効果的に変更可能な画素配置を持つ撮像素子を備える撮像装置を提供することができる。   ADVANTAGE OF THE INVENTION According to this invention, an imaging device provided with the image pick-up element with the pixel arrangement | positioning which can change the precision of AF effectively can be provided.

本発明の好適な第1の実施形態に係る撮像装置のブロック構成図である。1 is a block configuration diagram of an imaging apparatus according to a preferred first embodiment of the present invention. 本発明の好適な第1の実施形態に係る撮像素子の概要図である。1 is a schematic diagram of an image sensor according to a preferred first embodiment of the present invention. 本発明の好適な第2の実施形態に係る撮像素子の概要図である。It is a schematic diagram of the image sensor concerning a suitable 2nd embodiment of the present invention. 本発明の好適な第1の実施形態に係る静止画撮影時の読み出しモード切り替えの処理フローを示す図である。It is a figure which shows the processing flow of read-out mode switching at the time of the still image imaging | photography concerning the suitable 1st Embodiment of this invention. 本発明の好適な第1の実施形態に係る動画撮影時の読み出しモード切り替えの処理フローを示す図である。It is a figure which shows the processing flow of read-out mode switching at the time of the video recording which concerns on suitable 1st Embodiment of this invention. 本発明の好適な第2の実施形態に係る静止画撮影時の読み出しモード切り替えの処理フローを示す図である。It is a figure which shows the processing flow of read-out mode switching at the time of the still image photography concerning the suitable 2nd Embodiment of this invention. 本発明の好適な第2の実施形態に係る動画撮影時の読み出しモード切り替えの処理フローを示す図である。It is a figure which shows the processing flow of read-out mode switching at the time of the video recording based on suitable 2nd Embodiment of this invention.

(第1の実施形態)
図1は、本発明の好適な第1の実施形態に係る撮像装置のブロック図である。レンズ100を通って入射した被写体像は、撮像素子101で電気信号に光電変換される。ここで、撮像素子101には、図2に示すように画像データを形成するための撮像用画素(R、G、B)と位相差AFを行うための焦点検出用画素(S1、S2)とが配列されている。
(First embodiment)
FIG. 1 is a block diagram of an imaging apparatus according to a preferred first embodiment of the present invention. A subject image incident through the lens 100 is photoelectrically converted into an electric signal by the image sensor 101. Here, the imaging element 101 includes imaging pixels (R, G, B) for forming image data and focus detection pixels (S1, S2) for performing phase difference AF, as shown in FIG. Are arranged.

本実施形態では、図2に示すように、焦点検出用画素はS1とS2の画素がペアで配置され、ライン毎に焦点検出用画素の数が異なる撮像素子を例にあげる。本実施形態では、焦点検出用画素がN個(Nは2以上の整数)配置された第1のラインと、焦点検出用画素がM個(MはNよりも小さい自然数)配置された第2のラインと、が周期的に配置される。例えば、図2を参照すると、焦点検出用画素が2つ配置されたライン(「EDF」の矢印に対応)と、焦点検出用画素が1つ配置されたライン(「動画」の矢印に対応)と、が周期的に配置されている。   In the present embodiment, as shown in FIG. 2, an example is an image sensor in which the pixels for focus detection are arranged in pairs of S1 and S2, and the number of focus detection pixels is different for each line. In the present embodiment, a first line in which N focus detection pixels (N is an integer of 2 or more) are arranged, and a second line in which M focus detection pixels are arranged (M is a natural number smaller than N). Are periodically arranged. For example, referring to FIG. 2, a line in which two focus detection pixels are arranged (corresponding to an arrow “EDF”) and a line in which one focus detection pixel is arranged (corresponding to an arrow in “moving image”). Are periodically arranged.

A/D変換部103は、撮像素子101から出力された電気信号をデジタル信号に変換する。デジタル信号処理部104は、A/D変換部103から出力されたデジタル信号を、YUVデータ形式の画像データに変換する。A/D変換部103は、WB回路、γ補正回路及びマトリクス変換回路などで構成されうる。   The A / D conversion unit 103 converts the electrical signal output from the image sensor 101 into a digital signal. The digital signal processing unit 104 converts the digital signal output from the A / D conversion unit 103 into image data in the YUV data format. The A / D conversion unit 103 can be configured by a WB circuit, a γ correction circuit, a matrix conversion circuit, and the like.

また、デジタル信号処理部104は、撮像素子101の読み出しモードに応じて、A/D変換部103から出力されるデジタル信号からAFデータを抽出する。   The digital signal processing unit 104 extracts AF data from the digital signal output from the A / D conversion unit 103 in accordance with the reading mode of the image sensor 101.

CPU108は、その中に内蔵されたROMに記録された測距用セルの位置パターン情報に基づいて、焦点検出用画素(S1、S2)の位置を判断し、この部分の画素信号を周辺の画素より補間する。例えば、図2のS1を補間する場合には、周辺のR画素の画素信号を用いて、公知のバイキュービック法などを用いて行えばよい。その後、画像データをYUVデータ形式の画像データに変換する。さらに、YUVデータ形式の画像データにγ補正などの処理を行う。   The CPU 108 determines the position of the focus detection pixels (S1, S2) based on the position pattern information of the distance measurement cells recorded in the ROM built in the CPU 108, and determines the pixel signal of this portion as a peripheral pixel. Interpolate more. For example, when S1 in FIG. 2 is interpolated, a known bicubic method or the like may be used using pixel signals of peripheral R pixels. Thereafter, the image data is converted into image data in the YUV data format. Further, processing such as γ correction is performed on the image data in the YUV data format.

位相差検出部105は、デジタル信号処理部104から出力されたAFデータに基づいて位相差検出を行う。ここで、撮像素子による位相差検出の詳細は、特開2000−156823号公報に記載されているため、詳細な説明は省略する。その概略を述べると、図2に示した撮像素子の概念図において、S1の行とS2の行はほとんど同一のラインとして、近似の像がマイクロレンズ上に結像される。撮像素子に像を結ぶカメラレンズが撮像素子上でピントが合っていれば、S1を含む行のS1群からの像信号と、S2を含む行のS2群の信号群からの像信号とは一致する。ピントを結ぶ点が撮像素子のイメージ面よりも前方か後方にあれば、S1を含む行のS1群からの像信号と、S2を含む行のS2群の信号群からの像信号との位相差が生じる。そして、結像点が前の場合と後の場合とでは、位相のずれ方向が逆になる。これは、原理的には、瞳分割位相差AFと同じである。この原理に基づいて、S1の並びによりできる像(光の強弱による信号線)とS2の並びによりできる像とは、カメラレンズのフォーカスが合っていれば一致し、そうでなければずれる。   The phase difference detection unit 105 performs phase difference detection based on the AF data output from the digital signal processing unit 104. Here, details of phase difference detection by the image sensor are described in Japanese Patent Application Laid-Open No. 2000-156823, and thus detailed description thereof is omitted. In brief, in the conceptual diagram of the image sensor shown in FIG. 2, an approximate image is formed on the microlens with the S1 row and the S2 row almost the same line. If the camera lens that connects the image to the image sensor is in focus on the image sensor, the image signal from the S1 group in the row including S1 matches the image signal from the signal group in the S2 group in the row including S2. To do. If the point connecting the focus is in front of or behind the image plane of the image sensor, the phase difference between the image signal from the S1 group in the row including S1 and the image signal from the signal group in the S2 group in the row including S2 Occurs. Then, the phase shift direction is reversed between the case where the image formation point is before and the case where the image formation point is after. In principle, this is the same as the pupil division phase difference AF. Based on this principle, the image formed by S1 (a signal line due to the intensity of light) and the image formed by S2 coincide with each other if the camera lens is in focus, and otherwise deviate.

次に、位相差検出部105で得られた位相差検出結果は、CPU108に送られる。CPU108は、位相差検出部105から送られた検出結果に基づいて、鏡筒制御部111に制御信号を出力する。   Next, the phase difference detection result obtained by the phase difference detection unit 105 is sent to the CPU 108. The CPU 108 outputs a control signal to the lens barrel control unit 111 based on the detection result sent from the phase difference detection unit 105.

操作部112は、撮影モードを静止画撮影と動画撮影に切り替えるボタンやシャッタースイッチ等の設定スイッチなどを含む。CPU108は、操作部112で設定される撮影モードに応じて、タイミング制御部109に制御信号を送る。タイミングジェネレータ110は、タイミング制御部109からの制御信号に基づいて、画像データの読み出し駆動信号を生成する駆動信号生成手段として機能する。この読み出し駆動信号を撮影モードに応じて切り替えることによって、撮像素子101からのデータ読み出し方法が変化する。   The operation unit 112 includes a button for switching the shooting mode between still image shooting and moving image shooting, a setting switch such as a shutter switch, and the like. The CPU 108 sends a control signal to the timing control unit 109 according to the shooting mode set by the operation unit 112. The timing generator 110 functions as a drive signal generation unit that generates a read drive signal for image data based on a control signal from the timing control unit 109. The method for reading data from the image sensor 101 changes by switching the read drive signal in accordance with the shooting mode.

撮影モードに応じて撮像素子101の読み出しモードを切り替える方法については、後述する。   A method of switching the reading mode of the image sensor 101 according to the shooting mode will be described later.

デジタル信号処理部104から出力されるYUVデータ形式の画像データは、EVF表示用としてメモリI/F106を介して、メモリ107に一時的に保存される。LCDI/F113は、メモリ107に保存されたYUVデータ形式の画像データを、メモリI/F106を介して読み出しLCD114の表示フォーマットに変換する。LCD114は、LCDI/F113から出力される画像データに基づいてEVF表示を行う。   The YUV data format image data output from the digital signal processing unit 104 is temporarily stored in the memory 107 via the memory I / F 106 for EVF display. The LCD I / F 113 reads the image data in the YUV data format stored in the memory 107 through the memory I / F 106 and converts it into the display format of the LCD 114. The LCD 114 performs EVF display based on the image data output from the LCD I / F 113.

また、画像記録時はデジタル信号処理部104から出力されるYUVデータ形式の画像データを、メモリI/F106を介して圧縮記録部115においてJPEGなどの規格に従って圧縮処理し、記録媒体116に記録する。   Further, during image recording, image data in the YUV data format output from the digital signal processing unit 104 is compressed in accordance with a standard such as JPEG in the compression recording unit 115 via the memory I / F 106 and recorded on the recording medium 116. .

次いで、上述した静止画撮影時における撮像素子101の読み出しモードの切り替え方法について図4を参照して説明する。   Next, a method for switching the readout mode of the image sensor 101 during the above-described still image shooting will be described with reference to FIG.

ここで、全てのラインを読み出す第1の読み出しモードを静止画モードとする。また、図2に示すように、撮像素子からラインを間引いて読み出すモードにおいて、焦点検出用画素の多いラインを読み出す第2の読み出しモードをEVFモードとする。また、焦点検出用画素の少ないラインを読み出す第3の読み出しモードを動画モードとする。   Here, the first reading mode for reading all lines is a still image mode. In addition, as shown in FIG. 2, in the mode in which lines are thinned out and read out from the image sensor, the second readout mode in which lines with many focus detection pixels are read is referred to as EVF mode. The third readout mode for reading out lines with few focus detection pixels is a moving image mode.

本実施形態の撮像装置の電源がON状態であり、操作部112において撮影モードが静止画撮影モードに設定されたときから、処理フローがスタートするものとする。なお、以下の処理は明示がない限り、CPU108で行われるものとする。   It is assumed that the processing flow starts when the power of the imaging apparatus of the present embodiment is ON and the shooting mode is set to the still image shooting mode in the operation unit 112. Note that the following processing is performed by the CPU 108 unless otherwise specified.

S100では、タイミングジェネレータ110をEVFモードに設定する。これにより撮像素子101からは焦点検出用画素が多いラインが読み出されることになる。   In S100, the timing generator 110 is set to the EVF mode. As a result, a line with many focus detection pixels is read out from the image sensor 101.

S101では、操作部112のシャッタースイッチが半押し状態になっているか否かを判別する。ここで、シャッタースイッチが半押しされていなければ(S101で「NO」)、S101を繰り返す。シャッタースイッチが半押しされているときは(S101で「YES」)、S102へ進む。   In S101, it is determined whether or not the shutter switch of the operation unit 112 is half pressed. If the shutter switch is not half-pressed (“NO” in S101), S101 is repeated. When the shutter switch is half pressed (“YES” in S101), the process proceeds to S102.

S102では、撮像素子101から読み出した画像データから抽出されるAFデータを用いて位相差検出を行う。そして、位相差が減少するように鏡筒制御部111により鏡筒を動かしてレンズ位置を移動させ、フォーカスを合わせる。   In S102, phase difference detection is performed using AF data extracted from image data read from the image sensor 101. Then, the lens barrel control unit 111 moves the lens barrel to move the lens position so as to reduce the phase difference, thereby adjusting the focus.

S103では、シャッタースイッチの状態を判別する。ここで、シャッタースイッチが半押しのままであれば、S103を繰り返す。シャッタースイッチが離れていれば、S101に戻る。シャッタースイッチが全押しされていれば、S104へ進む。   In S103, the state of the shutter switch is determined. Here, if the shutter switch is kept half pressed, S103 is repeated. If the shutter switch is away, the process returns to S101. If the shutter switch is fully pressed, the process proceeds to S104.

S104では、タイミングジェネレータ110を静止画モードに設定する。静止画モードでは、撮像素子101において全てのラインから撮影画像を読み出す。   In S104, the timing generator 110 is set to the still image mode. In the still image mode, the captured image is read from all lines in the image sensor 101.

S105では、読み出された撮影画像(静止画)をキャプチャーし、記録媒体116に記録する。   In S <b> 105, the read captured image (still image) is captured and recorded on the recording medium 116.

この後は、操作部112で電源がOFF状態に設定されるまで、S100からの処理フローを繰り返し行う。   Thereafter, the processing flow from S100 is repeated until the power is set to OFF by the operation unit 112.

以上の処理フローによって、本実施形態における静止画撮影では、高解像度用にAF精度を高くすることができる。これにより、EVF中は撮像素子101から焦点検出用画素が多いラインを読み出して、オートフォーカスとEVF表示を行う。静止画像を記録するときには、撮像素子101の全てのラインを読み出す。その結果、高解像度の画像を記録することが可能となる。   With the processing flow described above, AF accuracy can be increased for high resolution in still image shooting in the present embodiment. Thereby, during EVF, a line with many focus detection pixels is read from the image sensor 101, and autofocus and EVF display are performed. When recording a still image, all lines of the image sensor 101 are read out. As a result, a high resolution image can be recorded.

次いで、動画撮影時における撮像素子101の読み出しモードの切り替え方法について図5を用いて説明する。   Next, a method of switching the reading mode of the image sensor 101 during moving image shooting will be described with reference to FIG.

本実施形態の撮像装置の電源がON状態であり、操作部112において撮影モードが静止画撮影モードに設定されたときから、処理フローがスタートするものとする。なお、以下の処理は明示がない限り、CPU108で行われるものとする。   It is assumed that the processing flow starts when the power of the imaging apparatus of the present embodiment is ON and the shooting mode is set to the still image shooting mode in the operation unit 112. Note that the following processing is performed by the CPU 108 unless otherwise specified.

S200では、タイミングジェネレータ110を動画モードに設定する。これにより撮像素子101からは焦点検出用画素が少ないラインが読み出される。   In S200, the timing generator 110 is set to the moving image mode. As a result, a line with few focus detection pixels is read from the image sensor 101.

S201では、オートフォーカスを行う。オートフォーカスは、静止画撮影時と同様に、撮像素子101から読み出した画像データから抽出されるAFデータを用いて位相差検出を行う。そして、位相差が減少するように鏡筒制御部111により鏡筒を動かしてレンズ位置を移動させ、フォーカスを合わせる。   In S201, autofocus is performed. Autofocus performs phase difference detection using AF data extracted from image data read from the image sensor 101, as in still image shooting. Then, the lens barrel control unit 111 moves the lens barrel to move the lens position so as to reduce the phase difference, thereby adjusting the focus.

S202では、操作部112において動画撮影開始ボタンが押されたか否かを判別する。ここで、動画撮影開始ボタンが押されていなければ(S202で「NO」)、S203へ進み、動画撮影開始ボタンが押されていれば(S202で「YES」)、S204へ進む。。   In S202, it is determined whether or not the moving image shooting start button has been pressed on the operation unit 112. If the moving image shooting start button is not pressed (“NO” in S202), the process proceeds to S203. If the moving image shooting start button is pressed (“YES” in S202), the process proceeds to S204. .

S203では、タイマを予め設定された値と比較し、前回のオートフォーカスを行ってから、どれ位の時間が経過したかを判別する。図5では、タイマを0.2秒と比較した場合を例示的に示しているが、本発明はこれに限定されない。0.2秒以上経過している場合は(S203で「YES」)、S201へ戻り、再びオートフォーカスを行う。0.2秒以上経過していない場合は(S203で「NO」)、S202を繰り返し行う。   In S203, the timer is compared with a preset value to determine how much time has elapsed since the previous autofocus. Although FIG. 5 shows an example in which the timer is compared with 0.2 seconds, the present invention is not limited to this. If 0.2 seconds or more have elapsed ("YES" in S203), the process returns to S201, and autofocus is performed again. If 0.2 seconds or more have not elapsed (“NO” in S203), S202 is repeated.

S204では、動画をキャプチャーし、画像データを記録媒体116に記録する。   In S <b> 204, a moving image is captured and the image data is recorded on the recording medium 116.

S205では、操作部112において動画撮影終了ボタンが押されたか否かを判別する。動画撮影終了ボタンが押されたときは(S205で「YES」)、S202へ戻る。動画撮影終了ボタンが押されていないときは(S205で「NO」)、S206へ進む。   In S205, it is determined whether or not the moving image shooting end button has been pressed on the operation unit 112. When the moving image shooting end button is pressed (“YES” in S205), the process returns to S202. When the moving image shooting end button is not pressed (“NO” in S205), the process proceeds to S206.

S206では、前回のオートフォーカスを行ってから、S206に移るまでに、予め設定された時間(例えば、図5では0.2秒)以上経過したか否かかを判別する。0.2秒以上経過している場合は(S206で「YES」)、S207に進み、再びオートフォーカスを行う。その後、S204へ戻り、動画像をキャプチャーし、画像データを記録媒体116に記録する。   In S206, it is determined whether or not a preset time (for example, 0.2 seconds in FIG. 5) or more has elapsed since the previous autofocus was performed until the process proceeds to S206. If 0.2 seconds or more have elapsed ("YES" in S206), the process proceeds to S207 and autofocus is performed again. Thereafter, the process returns to S204, where the moving image is captured and the image data is recorded on the recording medium 116.

S206において0.2秒以上たっていない場合は(S206で「NO」)、オートフォーカスを行わずに、S204へ戻り、動画像をキャプチャーし、画像データを記録媒体116に記録する。この後は、操作部112で電源がOFF状態に設定されるまで、S200からの処理フローを繰り返し行う。   If it is not longer than 0.2 seconds in S206 ("NO" in S206), the process returns to S204 without performing autofocus, captures a moving image, and records the image data on the recording medium 116. Thereafter, the processing flow from S200 is repeated until the power is set to OFF by the operation unit 112.

以上の処理フローによって、本実施形態における動画撮影では、静止画撮影時のEVFよりも画質の良い動画を記録するために、撮像素子101から焦点検出用画素が少ないラインを読み出す。これにより、EVF画像よりも良い画質で動画を記録することが可能となる。   With the above processing flow, in moving image shooting in the present embodiment, a line with fewer focus detection pixels is read from the image sensor 101 in order to record a moving image with better image quality than EVF during still image shooting. This makes it possible to record a moving image with better image quality than an EVF image.

(第2の実施形態)
第1の実施形態では、図2に示すように、撮像素子101のどのラインにも、必ず焦点検出用画素が含まれていた。これに対し、第2の実施形態では、図3に示すように、撮像素子101において焦点検出用画素を含まない第3のライン(「記録表示」の矢印に対応)がある。以下、本実施形態に係る撮像素子の読み出しモードの切り替えについて説明する。なお、本実施形態に係る撮像装置のブロック図は、図1と同様である。
(Second Embodiment)
In the first embodiment, as shown in FIG. 2, focus detection pixels are always included in every line of the image sensor 101. In contrast, in the second embodiment, as shown in FIG. 3, there is a third line (corresponding to an arrow of “record display”) that does not include the focus detection pixels in the image sensor 101. Hereinafter, switching of the readout mode of the image sensor according to the present embodiment will be described. The block diagram of the imaging apparatus according to the present embodiment is the same as FIG.

ここで、本実施形態に係る静止画撮影時の撮像素子101の読み出しモード切り替えについて図6を用いて説明する。   Here, switching of the reading mode of the image sensor 101 during still image shooting according to the present embodiment will be described with reference to FIG.

ここで、間引かずに全てのラインを読み出す第1の読み出しモードを静止画モードとする。また、図3に示すように撮像素子101からラインを間引いて読み出すモードにおいて、位相差AF用の焦点検出用画素が多いライン(図3では、1ラインに2つ)を読み出す第2の読み出しモードをEVF_AFモードとする。また、焦点検出用画素が少ないライン(図3では、1ラインに1つ)を読み出す第3の読み出しモードを動画_AFモードとする。また、焦点検出用画素のないラインを読み出す第4の読み出しモードを記録表示モードとする。   Here, the first reading mode for reading all lines without thinning out is set as a still image mode. Further, in the mode in which lines are thinned out and read out from the image sensor 101 as shown in FIG. 3, the second readout mode is used to read out the lines with many focus detection pixels for phase difference AF (two in one line in FIG. 3). Is set to EVF_AF mode. Also, a third readout mode for reading out lines with few focus detection pixels (one per line in FIG. 3) is a moving image_AF mode. The fourth read mode for reading a line without focus detection pixels is a recording display mode.

本実施形態の撮像装置の電源がON状態であり、操作部112において撮影モードが静止画撮影モードに設定されたときから、処理フローがスタートするものとする。   It is assumed that the processing flow starts when the power of the imaging apparatus of the present embodiment is ON and the shooting mode is set to the still image shooting mode in the operation unit 112.

S300では、タイミングジェネレータ110を記録表示モードに設定する。これにより、撮像素子101からは焦点検出用画素を含まないラインが読み出される。   In S300, the timing generator 110 is set to the recording display mode. As a result, a line not including focus detection pixels is read from the image sensor 101.

S301では、操作部112のシャッタースイッチが半押し状態になっているか否かを判別する。ここで、シャッタースイッチが半押しされていなければ(S301で「NO」)、S301を繰り返す。シャッタースイッチが半押しされていれば(S301で「YES」)、S302へ進む。   In S301, it is determined whether or not the shutter switch of the operation unit 112 is half pressed. If the shutter switch is not half-pressed (“NO” in S301), S301 is repeated. If the shutter switch is half-pressed (“YES” in S301), the process proceeds to S302.

S302では、タイミングジェネレータ110をEVF_AFモードに設定する。これにより、撮像素子101からは焦点検出用画素が多いラインを読み出すことになる。   In S302, the timing generator 110 is set to the EVF_AF mode. As a result, a line with many focus detection pixels is read out from the image sensor 101.

S303では、撮像素子101から読み出した画像データから抽出されるAFデータを用いて位相差検出を行う。そして、位相差が減少するように鏡筒制御部111により鏡筒を動かしてレンズ位置を移動させ、フォーカスを合わせる。   In S303, phase difference detection is performed using AF data extracted from image data read from the image sensor 101. Then, the lens barrel control unit 111 moves the lens barrel to move the lens position so as to reduce the phase difference, thereby adjusting the focus.

S304では、シャッタースイッチの状態を判別する。ここで、シャッタースイッチが半押しのままであれば、S304を繰り返す。シャッタースイッチを離れていれば、S300に戻る。シャッタースイッチが全押しされているときは、S305へ進む。   In S304, the state of the shutter switch is determined. Here, if the shutter switch is kept half pressed, S304 is repeated. If the shutter switch is released, the process returns to S300. When the shutter switch is fully pressed, the process proceeds to S305.

S305では、タイミングジェネレータ110を静止画モードに設定する。静止画モードでは、撮像素子101において全てのラインから画像データを読み出す。   In S305, the timing generator 110 is set to the still image mode. In the still image mode, the image sensor 101 reads image data from all lines.

S306では、読み出された画像データをキャプチャーし、記録媒体116に記録する。この後は、操作部112で電源がOFF状態に設定されるまで、S300からの処理フローを繰り返し行う。   In S <b> 306, the read image data is captured and recorded on the recording medium 116. Thereafter, the processing flow from S300 is repeated until the power source is set to the OFF state by the operation unit 112.

以上の処理フローによって、本実施形態における静止画撮影では、AFを行わない場合のEVFの画質を良くするために、以下の処理を行う。すなわち、オートフォーカスを行わない場合には、撮像素子において位相差AF用の焦点検出用画素を含まないラインを読み出し、EVF表示を行う。AFを行う場合には、高解像度用にAF精度を高くするため、撮像素子から焦点検出用画素が多いラインを読み出し、オートフォーカス及びEVF表示を行う。さらに、静止画像を記録するときに、撮像素子の全てのラインを読み出すことによって、高解像度の画像を記録することが可能となる。   With the above processing flow, in still image shooting according to the present embodiment, the following processing is performed in order to improve the image quality of EVF when AF is not performed. That is, when autofocus is not performed, a line that does not include focus detection pixels for phase difference AF in the image sensor is read and EVF display is performed. When performing AF, in order to increase AF accuracy for high resolution, a line with many focus detection pixels is read from the image sensor, and autofocus and EVF display are performed. Furthermore, when recording a still image, it is possible to record a high-resolution image by reading all lines of the image sensor.

次いで、動画撮影時における撮像素子101の読み出しモードの切り替え方法について、図7を用いて説明する。   Next, a method of switching the readout mode of the image sensor 101 during moving image shooting will be described with reference to FIG.

本実施形態の撮像装置の電源がON状態であり、操作部112において撮影モードが静止画撮影モードに設定されたときから、処理フローがスタートするものとする。   It is assumed that the processing flow starts when the power of the imaging apparatus of the present embodiment is ON and the shooting mode is set to the still image shooting mode in the operation unit 112.

S400では、タイミングジェネレータ110を動画_AFモードに設定する。これにより、撮像素子101からは焦点検出用画素が少ないラインが読み出される。   In S400, the timing generator 110 is set to the moving image_AF mode. As a result, a line with few focus detection pixels is read from the image sensor 101.

S401では、オートフォーカスを行う。オートフォーカスは、静止画撮影時と同様に、撮像素子101から読み出した画像データから抽出されるAFデータを用いて位相差検出を行う。そして、位相差が減少するように鏡筒制御部111により鏡筒を動かしてレンズ位置を移動させ、フォーカスを合わせる。   In S401, autofocus is performed. Autofocus performs phase difference detection using AF data extracted from image data read from the image sensor 101, as in still image shooting. Then, the lens barrel control unit 111 moves the lens barrel to move the lens position so as to reduce the phase difference, thereby adjusting the focus.

S402では、タイミングジェネレータ110を記録表示モードに設定する。これにより、撮像素子101からは焦点検出用画素を含まないラインが読み出される。   In S402, the timing generator 110 is set to the recording display mode. As a result, a line not including focus detection pixels is read from the image sensor 101.

S403では、操作部112において動画撮影開始ボタンが押されたか否かを判別する。ここで、動画撮影開始ボタンが押されていない場合には(S403で「NO」)、S404へ進む。   In S403, it is determined whether or not the moving image shooting start button is pressed on the operation unit 112. If the moving image shooting start button has not been pressed (“NO” in S403), the process proceeds to S404.

S404では、タイマを予め設定された値と比較し、前回のオートフォーカスを行ってから、どれ位の時間が経過したかを判別する。図7では、タイマを0.2秒と比較した場合を例示的に示しているが、本発明はこれに限定されない。0.2秒以上経過している場合は(S404で「YES」)、S400へ戻る。0.2秒以上経過していない場合は(S404で「NO」)、S403を繰り返し行う。   In S404, the timer is compared with a preset value to determine how much time has elapsed since the previous autofocus. Although FIG. 7 shows an example in which the timer is compared with 0.2 seconds, the present invention is not limited to this. If 0.2 seconds or more have elapsed (“YES” in S404), the process returns to S400. If 0.2 seconds or more have not elapsed (“NO” in S404), S403 is repeated.

S405では、動画像をキャプチャーし、画像データを記録媒体116に記録する。   In S405, the moving image is captured and the image data is recorded on the recording medium 116.

S406では、操作部112において動画撮影終了ボタンが押されたか否かを判別する。動画撮影終了ボタンが押されたときは(S406で「YES」)、S403へ戻る。撮影終了ボタンが押されていないときは(S406で「NO」)、S407へ進む。   In S406, it is determined whether or not the moving image shooting end button is pressed on the operation unit 112. When the moving image shooting end button is pressed (“YES” in S406), the process returns to S403. If the shooting end button is not pressed (“NO” in S406), the process proceeds to S407.

S407では、前回のオートフォーカスを行ってからS407に移るまでに、予め設定された時間(例えば、図7では0.2秒)以上経過したか否かを判別する。0.2秒以上経過していない場合は(S407で「NO」)、S405へ戻り、動画像をキャプチャーし、画像データを記録媒体116に記録する。0.2秒以上経過している場合は(S407で「YES」)、S408に進む。   In S407, it is determined whether or not a preset time (for example, 0.2 seconds in FIG. 7) has passed since the previous autofocus was performed and the process proceeds to S407. If 0.2 seconds or more have not elapsed (“NO” in S407), the process returns to S405, the moving image is captured, and the image data is recorded on the recording medium 116. If 0.2 seconds or more have elapsed ("YES" in S407), the process proceeds to S408.

S408では、タイミングジェネレータ110を動画_AFモードに設定する。これにより、撮像素子101からは焦点検出用画素が少ないラインを読み出すことになる。   In S408, the timing generator 110 is set to the moving image_AF mode. As a result, a line with few focus detection pixels is read from the image sensor 101.

S409では、オートフォーカスを行う。   In step S409, autofocus is performed.

S410では、動画像をキャプチャーし、画像データを記録媒体116に記録する。このとき記録される画像は、タイミングジェネレータ110を動画_AFモードで読み出した画像データから生成された画像である。   In S410, a moving image is captured and the image data is recorded on the recording medium 116. The image recorded at this time is an image generated from image data read from the timing generator 110 in the moving image_AF mode.

S411では、タイミングジェネレータ110を記録表示モードに設定する。その後、S405へ戻り処理フローを繰り返す。この後は、操作部112で電源がOFF状態に設定されるまで、S400からの処理フローを繰り返し行う。   In S411, the timing generator 110 is set to the recording display mode. Thereafter, the process returns to S405 and the processing flow is repeated. After this, the processing flow from S400 is repeated until the power is set to OFF by the operation unit 112.

以上の処理フローによって、本実施形態における動画撮影では、オートフォーカスを行わないときは、撮像素子101から位相差AF用の光電変換素子を含まないラインを読み出す。そして、オートフォーカスを行うときは、静止画撮影時のEVFよりも画質の良い動画を記録するために、撮像素子101から焦点検出用画素が少ないラインを読み出す。これにより、EVF画像よりも良い画質で動画を記録することが可能となる。   With the above processing flow, in the moving image shooting in the present embodiment, when autofocusing is not performed, a line that does not include the photoelectric conversion element for phase difference AF is read from the image sensor 101. When autofocusing is performed, a line with fewer focus detection pixels is read from the image sensor 101 in order to record a moving image with better image quality than EVF during still image shooting. This makes it possible to record a moving image with better image quality than an EVF image.

101 撮像素子
R、G、B 撮像用画素
S1、S2 焦点検出用画素
101 Imaging elements R, G, B Imaging pixels S1, S2 Focus detection pixels

Claims (6)

画像データを形成するための撮像用の第1の画素と位相差オートフォーカスを行うための焦点検出用の第2の画素とが配列された撮像素子であって、前記第2の画素がN個(Nは2以上の整数)配置された第1のラインと、前記第2の画素がM個(MはNよりも小さいゼロを含まない自然数)配置された第2のラインとを有する撮像素子を制御する制御装置であって
前記撮像素子の前記第1のラインと第2のラインを読み出す第1の読み出しモードと、前記第1のラインを読み出す第2の読み出しモードと、前記第2のラインを読み出す第3の読み出しモードとを切り替えて前記撮像素子から撮像信号を読み出すように制御する制御手段有することを特徴とする制御装置。
An imaging device in which a first pixel for imaging for forming image data and a second pixel for focus detection for performing phase difference autofocus are arranged, and the number of the second pixels is N. An image sensor having a first line arranged (N is an integer of 2 or more) and a second line arranged with M second pixels (M is a natural number not including zero smaller than N). A control device for controlling
A first read mode for reading the first line and the second line of the image sensor, a second read mode for reading the first line, and a third read mode for reading the second line; control apparatus characterized by comprising control means for controlling so as to read an image signal from the imaging device by switching.
前記撮像素子から出力された撮像信号に基づいて画像を表示する表示手段をさらに有し、
前記制御手段は、前記第1の読み出しモードで、前記撮像素子から出力された撮像信号に基づく撮影画像をメモリに記録し、前記第2の読み出しモードで、前記表示手段に前記撮像素子から出力された撮像信号に基づく撮影画像を表示するように制御することを特徴とする請求項1に記載の制御装置。
Further comprising display means for displaying an image based on an imaging signal output from the imaging element;
The control unit records a captured image based on the imaging signal output from the imaging element in the first readout mode in a memory, and is output from the imaging element to the display unit in the second readout mode. 2. The control apparatus according to claim 1, wherein control is performed so as to display a captured image based on the captured image signal.
前記制御手段は、前記第3の読み出しモードで、前記撮像素子から出力された撮像信号に基づく動画像をメモリに記録するように制御することを特徴とする請求項2に記載の制御装置。 Wherein, in the third read mode, the control device according to moving image based on the imaging signal outputted from the imaging device to claim 2, characterized in that controls to record into the memory. 画像データを形成するための撮像用の第1の画素と位相差オートフォーカスを行うための焦点検出用の第2の画素とが配列された撮像素子であって、前記第2の画素がN個(Nは2以上の整数)配置された第1のラインと、前記第2の画素がM個(MはNよりも小さいゼロを含まない自然数)配置された第2のラインと、前記第2の画素が配置されていない第3のラインとが周期的に配置された撮像素子を制御する制御装置であって
前記撮像素子の前記第1、第2、及び第3のラインを読み出す第1の読み出しモードと、前記第1のラインを読み出す第2の読み出しモードと、前記第2のラインを読み出す第3の読み出しモードと、前記第3のラインを読み出す第4の読み出しモードとを切り替えて前記撮像素子から撮像信号を読み出すように制御する制御手段有することを特徴とする制御装置。
An imaging device in which a first pixel for imaging for forming image data and a second pixel for focus detection for performing phase difference autofocus are arranged, and the number of the second pixels is N. A first line arranged (N is an integer of 2 or more), a second line arranged with M second pixels (M is a natural number not including zero smaller than N), and the second line A control device that controls the image sensor in which the third line in which the pixels are not arranged is periodically arranged,
A first read mode for reading the first, second, and third lines of the image sensor, a second read mode for reading the first line, and a third read for reading the second line. A control apparatus comprising: control means for controlling to read out an imaging signal from the imaging element by switching between a mode and a fourth readout mode for reading out the third line.
前記撮像素子から出力された撮像信号に基づいて画像を表示する表示手段をさらに有し、
前記制御手段は、前記第1の読み出しモードで、前記撮像素子から出力された撮像信号に基づく撮影画像をメモリに記録し、前記第2の読み出しモードで、前記表示手段に前記撮像素子から出力された撮像信号に基づく撮影画像を表示し、前記第3の読み出しモードで、前記撮像素子から出力された撮像信号に基づいて焦点検出を行うように制御することを特徴とする請求項4に記載の制御装置。
Further comprising display means for displaying an image based on an imaging signal output from the imaging element;
The control unit records a captured image based on the imaging signal output from the imaging element in the first readout mode in a memory, and is output from the imaging element to the display unit in the second readout mode. 5. The control unit according to claim 4, wherein a captured image based on the captured image signal is displayed, and focus detection is performed based on the captured image signal output from the image sensor in the third readout mode. Control device.
前記制御手段は、前記第3の読み出しモードで、前記撮像素子から出力された撮像信号に基づく動画像をメモリに記録することを特徴とする請求項5に記載の制御装置。 The control device according to claim 5, wherein the control unit records a moving image based on an imaging signal output from the imaging element in a memory in the third readout mode.
JP2012114831A 2012-05-18 2012-05-18 Control device Expired - Fee Related JP5501405B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012114831A JP5501405B2 (en) 2012-05-18 2012-05-18 Control device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012114831A JP5501405B2 (en) 2012-05-18 2012-05-18 Control device

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2007276757A Division JP5002412B2 (en) 2007-10-24 2007-10-24 Imaging device

Publications (2)

Publication Number Publication Date
JP2012185516A JP2012185516A (en) 2012-09-27
JP5501405B2 true JP5501405B2 (en) 2014-05-21

Family

ID=47015582

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012114831A Expired - Fee Related JP5501405B2 (en) 2012-05-18 2012-05-18 Control device

Country Status (1)

Country Link
JP (1) JP5501405B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7619263B2 (en) * 2019-07-12 2025-01-22 ソニーグループ株式会社 Imaging device, imaging method, and program

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3592147B2 (en) * 1998-08-20 2004-11-24 キヤノン株式会社 Solid-state imaging device
JP2000209509A (en) * 1999-01-19 2000-07-28 Canon Inc Solid-state imaging device and imaging system
JP4421793B2 (en) * 2001-07-13 2010-02-24 富士フイルム株式会社 Digital camera
JP2003198925A (en) * 2001-12-25 2003-07-11 Canon Inc Imaging device, imaging method, control program, and recording medium
JP4967296B2 (en) * 2005-10-03 2012-07-04 株式会社ニコン Imaging device, focus detection apparatus, and imaging system
JP5157073B2 (en) * 2006-03-01 2013-03-06 株式会社ニコン Focus adjustment device and imaging device
JP2007276757A (en) * 2006-04-10 2007-10-25 Ryozo Ota Operation method for railway vehicle by use of pallet
JP5002412B2 (en) * 2007-10-24 2012-08-15 キヤノン株式会社 Imaging device

Also Published As

Publication number Publication date
JP2012185516A (en) 2012-09-27

Similar Documents

Publication Publication Date Title
JP5002412B2 (en) Imaging device
JP5054583B2 (en) Imaging device
CN103380392B (en) Imaging device, and focus control method therefor
JP6476065B2 (en) IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
US8593531B2 (en) Imaging device, image processing method, and computer program
TWI459126B (en) Image processing device, image processing method and recording medium capable of generating wide-angle image
JP4533735B2 (en) Stereo imaging device
JP2012226184A5 (en) Imaging apparatus and control method thereof
JP2008199477A (en) Imaging apparatus
JP2006162991A (en) Stereo imaging device
JP2013008004A (en) Imaging apparatus
JP5100410B2 (en) Imaging apparatus and control method thereof
KR101770298B1 (en) digital image photographing apparatus and method for controling the same
JP5011235B2 (en) Imaging apparatus and imaging method
JP2016123012A (en) Imaging device, focus detection apparatus, and focus detection method
JP2010114577A (en) Imaging apparatus, image processor, control method and image processing method of imaging apparatus
JP5501405B2 (en) Control device
JP2015064500A (en) Imaging apparatus and control method thereof
JP5648563B2 (en) Image processing apparatus, image processing method, and program
WO2012157407A1 (en) Image capture device and focus control method
JP2009253623A (en) Solid-state imaging device and photographic device
JP2016122950A (en) Imaging device
JP2013161012A (en) Imaging apparatus and control method therefor
JP2017085321A (en) Imaging apparatus, control method therefor, and program
KR20090133059A (en) Imaging Device and Imaging Method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120618

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130607

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130801

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A132

Effective date: 20131028

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131224

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140311

R151 Written notification of patent or utility model registration

Ref document number: 5501405

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees