JP5635342B2 - Imaging device - Google Patents
Imaging device Download PDFInfo
- Publication number
- JP5635342B2 JP5635342B2 JP2010202183A JP2010202183A JP5635342B2 JP 5635342 B2 JP5635342 B2 JP 5635342B2 JP 2010202183 A JP2010202183 A JP 2010202183A JP 2010202183 A JP2010202183 A JP 2010202183A JP 5635342 B2 JP5635342 B2 JP 5635342B2
- Authority
- JP
- Japan
- Prior art keywords
- microlens array
- imaging
- microlens
- light
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003384 imaging method Methods 0.000 title claims description 64
- 230000003287 optical effect Effects 0.000 claims description 9
- 230000000737 periodic effect Effects 0.000 claims description 7
- 238000005286 illumination Methods 0.000 claims description 4
- 230000002093 peripheral effect Effects 0.000 claims description 2
- 238000005070 sampling Methods 0.000 description 11
- 238000000034 method Methods 0.000 description 5
- 238000010276 construction Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
Images
Landscapes
- Cameras In General (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Description
本発明は、撮像装置に関するものである。 The present invention relates to an imaging apparatus.
従来、ライト・フィールド・フォトグラフィー技術を利用した撮像装置が知られている(例えば、特許文献1参照。)。
この撮像装置においては、撮像レンズと撮像素子との間の撮像レンズの焦点面に固定されたマイクロレンズアレイに対して、撮像素子を光軸方向に移動可能に配置している。撮像素子をマイクロレンズアレイに近接させることにより空間分解能を向上し、撮像素子をマイクロレンズアレイから離間させることにより、光線の角度情報量を増加させることができる。
Conventionally, an imaging apparatus using a light field photography technique is known (see, for example, Patent Document 1).
In this imaging apparatus, the imaging element is arranged so as to be movable in the optical axis direction with respect to a microlens array fixed on the focal plane of the imaging lens between the imaging lens and the imaging element. Spatial resolution can be improved by bringing the imaging device close to the microlens array, and the amount of angle information of the light can be increased by separating the imaging device from the microlens array.
しかしながら、特許文献1の撮像装置では、空間分解能と角度情報量とがトレードオフの関係にあり、空間分解能を向上するために撮像素子をマイクロレンズアレイに近接させると角度情報量が低下し、逆に、角度情報量を増加させるために撮像素子をマイクロレンズアレイから離間させると空間分解能が低下するという不都合がある。 However, in the imaging apparatus of Patent Document 1, the spatial resolution and the amount of angle information are in a trade-off relationship, and when the imaging element is brought close to the microlens array in order to improve the spatial resolution, the angle information amount is decreased. In addition, if the image sensor is separated from the microlens array in order to increase the amount of angle information, there is a disadvantage that the spatial resolution is lowered.
本発明は上述した事情に鑑みてなされたものであって、光線の角度情報量を維持しつつ空間分解能を向上することができる撮像装置を提供することを目的としている。 The present invention has been made in view of the above-described circumstances, and an object thereof is to provide an imaging apparatus capable of improving the spatial resolution while maintaining the amount of light angle information.
上記目的を達成するために、本発明は以下の手段を提供する。
本発明は、物体からの光を結像する結像レンズと、該結像レンズの結像面に、光軸に交差する方向に配列された複数のマイクロレンズを備えるマイクロレンズアレイと、該マイクロレンズアレイを挟んで前記結像レンズとは反対側の位置に、光軸方向に間隔をあけて配置された撮像素子と、前記結像レンズ及び前記撮像素子に対して、前記マイクロレンズアレイをその配列方向に相対的に移動させるマイクロレンズ移動機構とを備え、前記マイクロレンズアレイが、複数のマイクロレンズを所定の配列ピッチで配列してなり、前記マイクロレンズ移動機構によって、前記配列ピッチより短い移動距離だけ前記マイクロレンズアレイが移動され、かつ、前記マイクロレンズ移動機構による前記マイクロレンズアレイの移動が周期振動であり、前記撮像素子は、前記マイクロレンズアレイが移動されるごとに画像を取得し、以下の条件式を満足する撮像装置を提供する。
Y=N×X
ここで、Xは前記マイクロレンズアレイの振動周期、Yは前記撮像素子による画像取得周期、Nは1周期当たりの撮影回数であり4以上の整数である。
In order to achieve the above object, the present invention provides the following means.
The present invention relates to an imaging lens that images light from an object, a microlens array that includes a plurality of microlenses arranged on the imaging surface of the imaging lens in a direction intersecting the optical axis, and the microlens array. An imaging device disposed at a position opposite to the imaging lens across the lens array and spaced in the optical axis direction, and the microlens array for the imaging lens and the imaging device. A microlens moving mechanism that relatively moves in the arrangement direction, and the microlens array includes a plurality of microlenses arranged at a predetermined arrangement pitch, and the microlens movement mechanism moves the shorter than the arrangement pitch. The microlens array is moved by a distance, and the movement of the microlens array by the microlens moving mechanism is a periodic vibration. Imaging device, the images acquired every time the micro-lens array is moved, to provide an imaging apparatus you satisfy the following condition.
Y = N × X
Here, X is a vibration period of the microlens array, Y is an image acquisition period by the image sensor, N is the number of times of photographing per period, and is an integer of 4 or more.
本発明によれば、結像レンズによって集光された物体からの光は、マイクロレンズアレイの位置に結像された後、マイクロレンズアレイを通過してその後段の位置に配置されている撮像素子により撮影される。これにより、撮像素子により物体の位置情報のみならず物体からの光の角度情報をも取得することができる。そして、マイクロレンズ移動機構によりマイクロレンズアレイをその配列方向に移動させて異なる位置に配置して撮影することで、マイクロレンズアレイと撮像素子との光軸方向の距離を維持して撮像素子により取得される角度情報量を維持しつつ、空間分解能を向上することができる。 According to the present invention, the light from the object condensed by the imaging lens is imaged at the position of the microlens array, and then passes through the microlens array and is disposed at the subsequent position. Taken by Thereby, not only the position information of the object but also the angle information of the light from the object can be acquired by the image sensor. Then, the microlens array is moved in the arrangement direction by the microlens moving mechanism, and the images are taken at different positions, so that the distance in the optical axis direction between the microlens array and the imaging element is maintained and acquired by the imaging element. Spatial resolution can be improved while maintaining the amount of angle information that is performed.
また、前記マイクロレンズアレイが、複数のマイクロレンズを所定の配列ピッチで配列してなり、前記撮像素子が、前記マイクロレンズ移動機構によって、前記配列ピッチより短い移動距離だけ前記マイクロレンズアレイが移動されるごとに画像を取得するので、所定の配列ピッチで配列されているマイクロレンズの配列ピッチを擬似的に短縮して撮影を行うことができ、簡易に空間分解能を向上することができる。 The microlens array is formed by arranging a plurality of microlenses at a predetermined arrangement pitch, and the microlens array is moved by a movement distance shorter than the arrangement pitch by the microlens moving mechanism. Since an image is acquired every time, imaging can be performed by pseudo-reducing the arrangement pitch of the microlenses arranged at a predetermined arrangement pitch, and the spatial resolution can be easily improved.
さらに、前記マイクロレンズ移動機構による前記マイクロレンズアレイの移動が周期振動であり、上記条件式を満足するので、画像取得回数N回毎にマイクロレンズアレイと撮像素子とが同じ位置関係に戻る。すなわち、画像取得回数N回毎に位置情報と角度情報 との関係を示すサンプリング特性が同じサンプリング特性に戻るので、その後の画像構成時に処理を容易に行うことができる。 Furthermore, since the movement of the microlens array by the microlens moving mechanism is a periodic vibration and satisfies the above conditional expression, the microlens array and the image sensor return to the same positional relationship every N times of image acquisition. That is, since the sampling characteristic indicating the relationship between the position information and the angle information returns to the same sampling characteristic every N times of image acquisition, the processing can be easily performed at the time of subsequent image construction.
上記発明においては、前記マイクロレンズアレイを構成する各マイクロレンズの外周部に、結像レンズからの光の通過を遮る遮光部が設けられていてもよい。
このようにすることで、各マイクロレンズを光軸に対して斜めに通過する光が隣接するマイクロレンズに対応する撮像素子の画素群に入射するのを防止してS/N比を向上することができる。
In the above invention, a light-shielding portion that blocks passage of light from the imaging lens may be provided on the outer peripheral portion of each microlens constituting the microlens array.
By doing so, the light that passes through each microlens obliquely with respect to the optical axis is prevented from entering the pixel group of the image sensor corresponding to the adjacent microlens, and the S / N ratio is improved. Can do.
また、上記発明においては、前記マイクロレンズアレイに固定され、前記撮像素子に向けて照明光を発生する点光源を備えていてもよい。
このようにすることで、点光源から発せられる照明光を撮像素子により検出して、撮像素子に対するマイクロレンズアレイの位置を精度よく検出することができる。
Moreover, in the said invention, you may provide the point light source fixed to the said micro lens array and generating illumination light toward the said image pick-up element.
By doing in this way, the illumination light emitted from a point light source can be detected with an image pick-up element, and the position of the micro lens array with respect to an image pick-up element can be detected accurately.
本発明によれば、光線の角度情報量を維持しつつ空間分解能を向上することができるという効果を奏する。 According to the present invention, it is possible to improve the spatial resolution while maintaining the angle information amount of the light beam.
本発明の一実施形態に係る撮像装置1について、図面を参照して以下に説明する。
本実施形態に係る撮像装置1は、図1に示されるように、被写体Aからの光を結像する結像レンズ2と、該結像レンズ2の焦点面に配置されたマイクロレンズアレイ3と、該マイクロレンズアレイ3を挟んで結像レンズ2とは反対側に光軸方向に間隔をあけて配置された撮像素子4と、マイクロレンズアレイ3を移動させるマイクロレンズ移動機構5と、撮像素子4により取得された画像信号を処理して画像データを生成する画像処理部6と、撮像素子4、マイクロレンズ移動機構5および画像処理部6を制御する制御部7を備えている。
An imaging apparatus 1 according to an embodiment of the present invention will be described below with reference to the drawings.
As shown in FIG. 1, the imaging apparatus 1 according to the present embodiment includes an
マイクロレンズアレイ3は、図2に示されるように、結像レンズ2の焦点面に沿って、所定の配列ピッチdで2次元的に正方配列された複数のマイクロレンズ3aを備えている。
撮像素子4は、例えば、2次元的に正方配列された複数の画素4aを有するCCDであり、マイクロレンズアレイ3に対して平行間隔をあけて配置されている。
As shown in FIG. 2, the
The image pickup device 4 is, for example, a CCD having a plurality of
マイクロレンズ移動機構5は、マイクロレンズアレイ3全体をマイクロレンズ3aの配列方向、すなわち、光軸に直交する方向に移動させるようになっている。
さらに具体的には、マイクロレンズ移動機構5は、図2に示されるように、マイクロレンズ3aの配列ピッチdの半分の長さd/2を一辺とする正方形の軌跡Q1を描いてマイクロレンズアレイ3全体を周期振動によって移動させるようになっている。
The
More specifically, as shown in FIG. 2, the
ここで、マイクロレンズ移動機構5による周期振動の周期をX(Hz)、撮像素子4による撮影周期をY(Hz)、1周期当たりの撮影回数をN(回)として、
Y=N×X (1)
の条件式が成立するように設定されている。
Here, the period of the periodic vibration by the
Y = N × X (1)
Is set such that the conditional expression is satisfied.
このように構成された本実施形態に係る撮像装置1の作用について以下に説明する。
本実施形態に係る撮像装置1を用いて被写体Aの画像を取得するには、被写体Aからの光を結像レンズ2により結像し、結像面に配列されたマイクロレンズアレイ3に種々の角度から入射させる。
The operation of the imaging apparatus 1 according to the present embodiment configured as described above will be described below.
In order to acquire an image of the subject A using the imaging apparatus 1 according to the present embodiment, the light from the subject A is imaged by the
種々の角度でマイクロレンズアレイ3に入射した被写体Aからの光は、個々のマイクロレンズ3aにより分離されて撮像素子4に投影される。その結果、撮像素子4によって、被写体Aの各部の位置情報のみならず被写体Aからの光の角度情報をも取得されることになる。
Light from the subject A that has entered the
すなわち、撮像素子4の各画素4aによって撮影された光は、被写体Aの所定の位置からの光であるとともに、所定の角度をなしてその画素4aに入射した光として取得される。これにより、図3に示されるように、各画素4aを角度情報と位置情報とを座標軸として整理したサンプリング特性を得ることができる。
That is, the light imaged by each
その結果、画像処理部6において、上記サンプリング特性の内、図3において鎖線R1で囲まれるように、同じ角度をなして入射した光を撮影した画素4aだけを選んで画像を構成する処理を、複数の異なる角度についてそれぞれ行うことにより、同一の被写体Aを異なる角度から見た複数の画像を得ることができる。
As a result, in the
また、上記サンプリング特性において、図3において鎖線R2で囲まれるように同じ位置を撮影した画素4aだけを選んで画像を構成する処理を行うことにより、一点のみピントを合わせた画像を取得することができる。さらに、図4において鎖線R3,R4で囲まれるように、角度および位置を少しずつずらした画素4aを選んで画像を構成する処理を、ずらす方向を異ならせて複数行うことにより、異なる位置にピントを合わせた画像を取得することができる。
Further, in the above sampling characteristics, it is possible to obtain an image in which only one point is in focus by performing a process of composing an image by selecting only the
この場合において、本実施形態に係る撮像装置1によれば、マイクロレンズ移動機構5の作動によりマイクロレンズアレイ3全体をマイクロレンズ3aの配列方向に移動させるので、図2に示されるように、マイクロレンズ3aを固定した状態で取得される領域A1以外のマイクロレンズ3aの間に入射する被写体Aからの光(領域A2〜A4)についても位置および角度の情報を有する画像を取得することができる。その結果得られるサンプリング特性は、図5の通りとなる。
In this case, according to the imaging device 1 according to the present embodiment, since the
すなわち、マイクロレンズ3aの配列ピッチdの半分の長さd/2を一辺とする正方形の軌跡を描いてマイクロレンズアレイ3全体を周期振動によって移動させることにより、配列ピッチdで配列されているマイクロレンズ3aの配列ピッチdを擬似的にd/2に短縮して撮影を行うことができ、簡易に空間分解能の高い画像を得ることができるという利点がある。
That is, the
また、本実施形態においては、条件式(1)が成り立つような周期振動によってマイクロレンズアレイ3を移動させるので、画像取得回数N回毎にマイクロレンズアレイ3と撮像素子4とを同じ位置関係に戻すことができる。すなわち、画像取得回数N回毎に位置情報と角度情報との関係を示すサンプリング特性が同じサンプリング特性に戻るので、その後の画像構成時に処理を容易に行うことができる。
In this embodiment, since the
図2に示される例では、マイクロレンズアレイ3を正方形の軌跡Q1を描いて移動させることとしたが、これに代えて、図6に示されるように、クランク状の軌跡Q2を描いて移動させてもよいし、図7に示されるように円形の軌跡Q3を描いて移動させることとしてもよい。クランク状に移動させることにより、四角形状に移動させる場合と比較して、1周期当たりの撮影回数を増加させて、空間分解能をさらに向上することができる。また、円形の軌跡Q3を描いて移動させることにより、等速度でマイクロレンズアレイ3を移動させながら撮影を行うことができ、マイクロレンズ移動機構5を簡易なものとすることができる。
In the example shown in FIG. 2, the
また、本実施形態においては、図8に示されるように、各マイクロレンズ3aの周縁部を遮光膜8によって覆うこととしてもよい。図2においては、マイクロレンズ3aは直径aの円形の開口をあけて遮光膜8から露出している。
In the present embodiment, as shown in FIG. 8, the periphery of each
これにより、ある一つのマイクロレンズ3aを通過した光が、隣接するマイクロレンズ3aを通過した光に混じったり、各マイクロレンズ3aの境界付近で予期せぬ反射あるいは屈折を生じて迷光となったりしないように遮蔽することができる。そして、これにより、取得される画像のS/N比を向上することができる。
As a result, the light that has passed through one
また、本実施形態においては、マイクロレンズアレイ3の一部に、マイクロレンズアレイ3に固定され、撮像素子4に向けて照明光を照射するLED(光源)9を配置してもよい。このようにすることで、撮像素子4により取得されたLED9の像によってマイクロレンズアレイ3の位置を精度よく検出でき、より正確に、被写体Aからの光の角度情報および位置情報を得ることができるという利点がある。
In the present embodiment, an LED (light source) 9 that is fixed to the
図9に示す例では、LED9をマイクロレンズアレイ3の4隅のマイクロレンズ3aに代えて配置したが、その位置は限定されるものではなく、マイクロレンズ3a間に配置されていてもよい。
In the example shown in FIG. 9, the
A 被写体(物体)
d 配列ピッチ
1 撮像装置
2 結像レンズ
3 マイクロレンズアレイ
3a マイクロレンズ
4 撮像素子
5 マイクロレンズ移動機構
8 遮光膜(遮光部)
9 光源
A Subject (object)
d Arrangement pitch 1
9 Light source
Claims (3)
該結像レンズの結像面に、光軸に交差する方向に配列された複数のマイクロレンズを備えるマイクロレンズアレイと、
該マイクロレンズアレイを挟んで前記結像レンズとは反対側の位置に、光軸方向に間隔をあけて配置された撮像素子と、
前記結像レンズ及び前記撮像素子に対して、前記マイクロレンズアレイをその配列方向に相対的に移動させるマイクロレンズ移動機構とを備え、
前記マイクロレンズアレイが、複数のマイクロレンズを所定の配列ピッチで配列してなり、
前記マイクロレンズ移動機構によって、前記配列ピッチより短い移動距離だけ前記マイクロレンズアレイが移動され、
かつ、前記マイクロレンズ移動機構による前記マイクロレンズアレイの移動が周期振動であり、
前記撮像素子は、前記マイクロレンズアレイが移動されるごとに画像を取得し、
以下の条件式を満足する撮像装置。
Y=N×X
ここで、Xは前記マイクロレンズアレイの振動周期、Yは前記撮像素子による画像取得周期、Nは1周期当たりの撮影回数であり4以上の整数である。 An imaging lens for imaging light from the object;
A microlens array comprising a plurality of microlenses arranged in a direction intersecting the optical axis on the imaging surface of the imaging lens;
An imaging device disposed at a position opposite to the imaging lens across the microlens array and spaced in the optical axis direction;
A microlens moving mechanism for moving the microlens array relative to the imaging lens and the image sensor in the arrangement direction ;
The microlens array is formed by arranging a plurality of microlenses at a predetermined arrangement pitch,
The micro lens array is moved by a movement distance shorter than the arrangement pitch by the micro lens moving mechanism,
And the movement of the microlens array by the microlens moving mechanism is a periodic vibration,
The image sensor acquires an image every time the microlens array is moved,
Imaging device satisfy the following condition.
Y = N × X
Here, X is a vibration period of the microlens array, Y is an image acquisition period by the image sensor, N is the number of times of photographing per period, and is an integer of 4 or more.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2010202183A JP5635342B2 (en) | 2010-09-09 | 2010-09-09 | Imaging device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2010202183A JP5635342B2 (en) | 2010-09-09 | 2010-09-09 | Imaging device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2012060460A JP2012060460A (en) | 2012-03-22 |
| JP5635342B2 true JP5635342B2 (en) | 2014-12-03 |
Family
ID=46057003
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2010202183A Expired - Fee Related JP5635342B2 (en) | 2010-09-09 | 2010-09-09 | Imaging device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5635342B2 (en) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140183334A1 (en) * | 2013-01-03 | 2014-07-03 | Visera Technologies Company Limited | Image sensor for light field device and manufacturing method thereof |
| JP6194285B2 (en) * | 2014-06-23 | 2017-09-06 | 日本電信電話株式会社 | Image resolution conversion apparatus and image resolution conversion program |
| JP6541477B2 (en) * | 2015-07-02 | 2019-07-10 | キヤノン株式会社 | IMAGE PROCESSING APPARATUS, IMAGING APPARATUS, IMAGE PROCESSING METHOD, AND PROGRAM |
| CN110928113B (en) * | 2019-12-03 | 2021-10-08 | 西北工业大学 | A light field acquisition device with variable spatial resolution |
| KR102847322B1 (en) * | 2020-04-07 | 2025-08-19 | 에스케이하이닉스 주식회사 | Image Sensing Device |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH09219825A (en) * | 1996-02-13 | 1997-08-19 | Canon Inc | Spatial sampling conversion device and imaging device |
| JP2931809B1 (en) * | 1998-03-30 | 1999-08-09 | 株式会社東芝 | Imaging device |
| JP2006254010A (en) * | 2005-03-10 | 2006-09-21 | Fuji Photo Film Co Ltd | Imaging device |
| JP2008167154A (en) * | 2006-12-28 | 2008-07-17 | Sony Corp | Imaging device |
| JP2008294741A (en) * | 2007-05-24 | 2008-12-04 | Olympus Corp | Imaging system |
| JP2008312080A (en) * | 2007-06-18 | 2008-12-25 | Sony Corp | Imaging apparatus and imaging method |
| JP5332423B2 (en) * | 2008-09-08 | 2013-11-06 | ソニー株式会社 | Imaging device |
-
2010
- 2010-09-09 JP JP2010202183A patent/JP5635342B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2012060460A (en) | 2012-03-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9237281B2 (en) | Image sensor comprising plural pixels including a microlens and plural photoelectric conversion portions and image pickup apparatus comprising same | |
| JP5914055B2 (en) | Imaging device | |
| JP5411350B2 (en) | Digital imaging system, plenoptic optical device, and image data processing method | |
| CN103168272B (en) | Depth estimation imaging device and imaging element | |
| JP5635342B2 (en) | Imaging device | |
| JP2014010400A5 (en) | ||
| WO2011080670A1 (en) | Sensor for microscopy. | |
| EP3009871B1 (en) | Image acquisition device and image acquisition device focusing method | |
| US10082663B2 (en) | Method for simultaneous capture of image data at multiple depths of a sample | |
| US10852519B2 (en) | Confocal imaging of an object utilising a pinhole array | |
| KR20180015139A (en) | Optical device for detecting internal defects of transparent substrate and method therefor | |
| US20140209821A1 (en) | Viewing-angle imaging | |
| JP5448731B2 (en) | Focus detection device | |
| JP7100735B2 (en) | Image sensor and image sensor | |
| JP6203962B2 (en) | Scan imaging system with a novel imaging sensor with gaps for electronic circuits | |
| JP2019041178A (en) | Image sensor and imaging apparatus using the same | |
| JP2016111678A (en) | Image sensor, image capturing apparatus, focus detection apparatus, image processing apparatus, and control method thereof | |
| US9794468B2 (en) | Image sensor, image capturing apparatus, focus detection apparatus, image processing apparatus, and control method of image capturing apparatus using pupil division in different directions | |
| JP5491964B2 (en) | Stereo imaging device | |
| CN115812178A (en) | High-speed imaging device and imaging method | |
| EP3679415B1 (en) | Contact lens inspection system and method | |
| JP3959041B2 (en) | Imaging device and luminance distribution measuring device | |
| JP2019066186A (en) | Imaging apparatus and method for calculating distance of imaging apparatus | |
| JP6287086B2 (en) | Imaging apparatus and image reading apparatus | |
| JP2020176849A (en) | 3D measuring device and 3D measuring method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130731 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140212 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140218 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20140411 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20141007 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20141016 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 5635342 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |