JP5746529B2 - 三次元距離計測装置、三次元距離計測方法、およびプログラム - Google Patents
三次元距離計測装置、三次元距離計測方法、およびプログラム Download PDFInfo
- Publication number
- JP5746529B2 JP5746529B2 JP2011058298A JP2011058298A JP5746529B2 JP 5746529 B2 JP5746529 B2 JP 5746529B2 JP 2011058298 A JP2011058298 A JP 2011058298A JP 2011058298 A JP2011058298 A JP 2011058298A JP 5746529 B2 JP5746529 B2 JP 5746529B2
- Authority
- JP
- Japan
- Prior art keywords
- local
- pattern
- measurement
- distance information
- dimensional distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/02—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
- G01B11/026—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness by measuring distance between sensor and object
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Optics & Photonics (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Description
パターン光が投光された計測対象物の撮像画像から、当該計測対象物の距離情報を算出する距離情報算出手段と、
前記パターン光の計測点の空間分解能を、局所領域ごとに適応的に設定可能な局所パターン設定手段と、を有し、
前記局所パターン設定手段は、前記距離情報算出手段において並列に実行される局所領域ごとの演算量が概均一化するように局所領域および計測点の空間分解能を設定することを特徴とする。
以下、図面を参照して本発明の第1実施形態を説明する。本実施形態は、計測対象物にパターン光を投影(投光)して撮像した画像に基づいて、計測対象物の三次元距離情報を計測する三次元距離計測装置の例を説明する。
図1(a)に示されるように、本実施形態に係る三次元距離計測装置は、プロジェクタ1と、カメラ2と、コンピュータ3とを備える。ここで、プロジェクタ1は、コンピュータ3により設定されたパターンデータに基づくパターン光(以下、「投影パターン」とも称する)を計測対象物4に投影する。投影パターンは、パターンデータに基づく投影光であり、本実施形態においては基準線パターンと、複数の計測点から構成される計測線パターンとが含まれる。計測線パターンは、計測対象物4の三次元距離情報を計測するためのマルチスリット光として機能する。
以下、図面を参照して本発明の第2実施形態を説明する。本実施形態に係る三次元距離計測装置は、図1を参照して説明した第1実施形態に係る三次元距離計測装置と同様に、プロジェクタ1と、カメラ2と、コンピュータ3とを備える。計測対象物4、窪み5についても第1実施形態と同様である。
以下、図面を参照して本発明の第3実施形態を説明する。本実施形態に係る三次元距離計測装置は、図1を参照して説明した第1実施形態に係る三次元距離計測装置と同様に、プロジェクタ1と、カメラ2と、コンピュータ3とを備える。計測対象物4、窪み5についても第1実施形態と同様である。
以下、図面を参照して本発明の第4実施形態を説明する。本実施形態に係る三次元距離計測装置は、図1を参照して説明した第1実施形態に係る三次元距離計測装置と同様に、プロジェクタ1と、カメラ2と、コンピュータ3とを備える。計測対象物4、窪み5についても第1実施形態と同様である。
以下、図面を参照して本発明の第5実施形態を説明する。本実施形態における三次元距離計測装置は、三次元距離計測手法として空間コード化法を用いている点が第1乃至第4実施形態と異なっている。従って本実施形態においては、第1乃至第4実施形態における三次元計測装置との相違点についてのみ説明を行い、その他の部分に関しては第1乃至第4実施形態と同様として説明を省略する。空間コード化法は、非特許文献4に開示されるように、コード情報が埋め込まれた複数枚の投影パターンを計測対象物に投影し、複数枚の撮像画像よりコード情報をデコードして、計測対象物の三次元距離情報を算出する手法である。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (13)
- パターン光が投光された計測対象物の撮像画像から、当該計測対象物の距離情報を算出する距離情報算出手段と、
前記パターン光の計測点の空間分解能を、局所領域ごとに適応的に設定可能な局所パターン設定手段と、を有し、
前記局所パターン設定手段は、前記距離情報算出手段において並列に実行される局所領域ごとの演算量が概均一化するように局所領域および計測点の空間分解能を設定することを特徴とする三次元距離計測装置。 - 前記距離情報算出手段は、撮像画像中のパターン光に関して、前記局所パターン設定手段が設定した、局所領域ごとに異なる空間分解能を有し、局所領域ごとの演算量が概均一化するように設定された計測点を距離情報算出対象点とすることを特徴とする請求項1に記載の三次元距離計測装置。
- 更に、前記パターン光を生成するパターン光生成手段を有し、
前記パターン光生成手段は、前記局所パターン設定手段が設定した、局所領域ごとに異なる計測点の空間分解能を有し、局所領域ごとの演算量が概均一化するように局所領域および計測点の空間分解能が設定されたパターン光を生成することを特徴とする請求項1又は2に記載の三次元距離計測装置。 - 前記距離情報算出手段は、複数の前記局所領域ごとの演算処理を並列に実行する並列処理プロセッサを有することを特徴とする請求項1乃至3のいずれか1項に記載の三次元距離計測装置。
- 計測対象物の概位置姿勢を認識する位置姿勢認識手段と、前記計測対象物において計測されるべき局所領域ごとの距離情報の空間分解能を計測対象物のモデル情報として保持するモデル記憶手段をさらに有し、前記局所パターン設定手段は、事前に認識した計測対象物の概位置姿勢認識結果と、モデル記憶手段に保持されたモデル情報を元にして、局所領域および計測点の空間分解能を設定することを特徴とする請求項1乃至4のいずれか1項に記載の三次元距離計測装置。
- 前記局所パターン設定手段は、事前に計測した計測対象物の距離情報に基づいて、局所領域および計測点の空間分解能を設定することを特徴とする請求項1乃至5のいずれか1項に記載の三次元距離計測装置。
- 前記局所パターン設定手段は、事前に計測した計測対象物の距離情報に基づき、所定値よりも距離変動幅の大きい局所領域に対するパターン光の計測点の空間分解能を高くし、または、所定値よりも距離変動幅の小さい局所領域に対するパターン光の計測点の空間分解能を低くすることを特徴とする請求項1乃至6のいずれか1項に記載の三次元距離計測装置。
- 前記局所パターン設定手段は、パターン光の計測点の空間分解能に対応して、局所領域のサイズおよび位置を設定することを特徴とする請求項1乃至7のいずれか1項に記載の三次元距離計測装置。
- パターン光のそれぞれの局所領域に含まれる計測点の数、および局所領域のサイズ及び位置と、演算量との対応情報を保持した演算量参照手段を有することを特徴とする請求項1乃至8のいずれか1項に記載の三次元距離計測装置。
- 前記並列処理プロセッサは、GPUまたはDSPを有することを特徴とする請求項4に記載の三次元距離計測装置。
- 三次元距離計測装置における三次元距離計測方法であって、
距離情報算出手段が、パターン光が投光された計測対象物の撮像画像から、当該計測対象物の距離情報を算出する距離情報算出工程と、
局所パターン設定手段が、前記パターン光の計測点の空間分解能を、局所領域ごとに適応的に設定可能な局所パターン設定工程と、を有し、
前記局所パターン設定工程において、前記局所パターン設定手段は、前記距離情報算出手段において並列に実行される局所領域ごとの演算量が概均一化するように局所領域および計測点の空間分解能を設定することを特徴とする三次元距離計測方法。 - コンピュータを、
パターン光が投光された計測対象物の撮像画像から、当該計測対象物の距離情報を算出する距離情報算出手段と、
前記パターン光の計測点の空間分解能を、局所領域ごとに適応的に設定可能な局所パターン設定手段と、を有し、
前記局所パターン設定手段は、前記距離情報算出手段において並列に実行される局所領域ごとの演算量が概均一化するように局所領域および計測点の空間分解能を設定することを特徴とする三次元距離計測装置として機能させるためのプログラム。 - 投影パターンが投影された計測対象物を撮像し、当該撮像された画像に基づいて前記計測対象物の三次元距離情報を算出する三次元距離計測装置であって、
前記画像を領域ごとに分割し、前記投影パターンを構成する計測点の空間分解能を前記領域ごとに設定する分割設定手段と、
前記空間分解能を有する前記投影パターンが投影され且つ撮像された前記計測対象物の画像から検出される前記計測点と、前記投影パターンを構成する計測点との対応に基づいて、前記計測対象物の三次元距離情報を前記領域ごとに並列に算出する算出手段と、を備え、
前記分割設定手段は、前記算出手段による前記領域ごとの演算量が均一化するように、前記画像を領域ごとに分割し、当該領域ごとに前記計測点の空間分解能を設定することを特徴とする三次元距離計測装置。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011058298A JP5746529B2 (ja) | 2011-03-16 | 2011-03-16 | 三次元距離計測装置、三次元距離計測方法、およびプログラム |
| US13/412,738 US9098909B2 (en) | 2011-03-16 | 2012-03-06 | Three-dimensional distance measurement apparatus, three-dimensional distance measurement method, and non-transitory computer-readable storage medium |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011058298A JP5746529B2 (ja) | 2011-03-16 | 2011-03-16 | 三次元距離計測装置、三次元距離計測方法、およびプログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2012194061A JP2012194061A (ja) | 2012-10-11 |
| JP5746529B2 true JP5746529B2 (ja) | 2015-07-08 |
Family
ID=46828200
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011058298A Active JP5746529B2 (ja) | 2011-03-16 | 2011-03-16 | 三次元距離計測装置、三次元距離計測方法、およびプログラム |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US9098909B2 (ja) |
| JP (1) | JP5746529B2 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11193758B2 (en) | 2019-03-18 | 2021-12-07 | Ricoh Company, Ltd. | Measuring device and shaping device |
Families Citing this family (33)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140267701A1 (en) * | 2013-03-12 | 2014-09-18 | Ziv Aviv | Apparatus and techniques for determining object depth in images |
| EP2869263A1 (en) * | 2013-10-29 | 2015-05-06 | Thomson Licensing | Method and apparatus for generating depth map of a scene |
| US10147198B2 (en) * | 2014-04-30 | 2018-12-04 | Shinano Kenshi Co., Ltd. | Measurement device |
| JP6337614B2 (ja) * | 2014-05-23 | 2018-06-06 | セイコーエプソン株式会社 | 制御装置、ロボット、及び制御方法 |
| DE102014110536A1 (de) * | 2014-07-25 | 2016-01-28 | E. Zoller GmbH & Co. KG Einstell- und Messgeräte | Lichtprojektor |
| US10281264B2 (en) * | 2014-12-01 | 2019-05-07 | Canon Kabushiki Kaisha | Three-dimensional measurement apparatus and control method for the same |
| JP6614905B2 (ja) * | 2014-12-01 | 2019-12-04 | キヤノン株式会社 | 三次元計測装置およびその制御方法 |
| JP6412799B2 (ja) * | 2015-01-07 | 2018-10-24 | 株式会社Nttドコモ | 形状認識装置及び形状認識方法 |
| US10488192B2 (en) | 2015-05-10 | 2019-11-26 | Magik Eye Inc. | Distance sensor projecting parallel patterns |
| CN104930986B (zh) * | 2015-06-17 | 2019-09-24 | 泉州师范学院 | 一种用于三维形貌测量的投影和摄像系统 |
| KR20170014617A (ko) * | 2015-07-30 | 2017-02-08 | 삼성에스디에스 주식회사 | 3차원 모델의 비트맵 생성 방법과 이를 수행하기 위한 장치 및 시스템 |
| JP6671977B2 (ja) * | 2016-01-22 | 2020-03-25 | キヤノン株式会社 | 計測装置及びその制御方法、並びにプログラム |
| CN108027655A (zh) * | 2016-02-25 | 2018-05-11 | 日本电气株式会社 | 信息处理系统、信息处理设备、控制方法和程序 |
| DE102016115252A1 (de) * | 2016-08-17 | 2018-02-22 | Carl Zeiss Industrielle Messtechnik Gmbh | Messvorrichtung und Verfahren zur Einrichtung der Messvorrichtung |
| EP3552180B1 (en) | 2016-12-07 | 2022-01-26 | Magik Eye Inc. | Distance sensor including adjustable focus imaging sensor |
| JP2018189443A (ja) * | 2017-04-28 | 2018-11-29 | キヤノン株式会社 | 距離測定装置、距離測定方法及び撮像装置 |
| CN111164650B (zh) | 2017-10-08 | 2021-10-29 | 魔眼公司 | 用于确定传感器位置的系统和方法 |
| KR102747112B1 (ko) | 2017-10-08 | 2024-12-31 | 매직 아이 인코포레이티드 | 경도 그리드 패턴을 사용한 거리 측정 |
| US10679076B2 (en) | 2017-10-22 | 2020-06-09 | Magik Eye Inc. | Adjusting the projection system of a distance sensor to optimize a beam layout |
| JP2021518535A (ja) | 2018-03-20 | 2021-08-02 | マジック アイ インコーポレイテッド | 様々な密度の投影パターンを使用する距離測定 |
| JP7354133B2 (ja) | 2018-03-20 | 2023-10-02 | マジック アイ インコーポレイテッド | 三次元深度検知及び二次元撮像のためのカメラ露出調節 |
| WO2019236563A1 (en) | 2018-06-06 | 2019-12-12 | Magik Eye Inc. | Distance measurement using high density projection patterns |
| JP7056411B2 (ja) | 2018-06-29 | 2022-04-19 | 株式会社リコー | 読取装置および造形装置 |
| US11475584B2 (en) | 2018-08-07 | 2022-10-18 | Magik Eye Inc. | Baffles for three-dimensional sensors having spherical fields of view |
| JP7565282B2 (ja) | 2019-01-20 | 2024-10-10 | マジック アイ インコーポレイテッド | 複数個の通過域を有するバンドパスフィルタを備える三次元センサ |
| WO2020197813A1 (en) * | 2019-03-25 | 2020-10-01 | Magik Eye Inc. | Distance measurement using high density projection patterns |
| EP3970362A4 (en) | 2019-05-12 | 2023-06-21 | Magik Eye Inc. | MAPPING OF THREE-DIMENSIONAL DEPTH MAP DATA TO TWO-DIMENSIONAL IMAGES |
| EP4065929A4 (en) | 2019-12-01 | 2023-12-06 | Magik Eye Inc. | IMPROVING TRIANGULATION-BASED THREE-DIMENSIONAL DISTANCE MEASUREMENTS WITH TIME OF FLIGHT INFORMATION |
| WO2021138139A1 (en) | 2019-12-29 | 2021-07-08 | Magik Eye Inc. | Associating three-dimensional coordinates with two-dimensional feature points |
| CN115151945A (zh) | 2020-01-05 | 2022-10-04 | 魔眼公司 | 将三维相机的坐标系转成二维相机的入射点 |
| US11187525B2 (en) * | 2020-01-06 | 2021-11-30 | International Business Machines Corporation | Laser grid inspection of three-dimensional objects |
| CN114022484B (zh) * | 2022-01-10 | 2022-04-29 | 深圳金三立视频科技股份有限公司 | 一种点光源场景的图像清晰度值计算方法及终端 |
| WO2024180708A1 (ja) * | 2023-03-01 | 2024-09-06 | 日立Astemo株式会社 | 物標認識装置及び物標認識方法 |
Family Cites Families (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3525964B2 (ja) * | 1995-07-05 | 2004-05-10 | 株式会社エフ・エフ・シー | 物体の三次元形状計測方法 |
| US6744914B1 (en) | 2000-04-28 | 2004-06-01 | Orametrix, Inc. | Method and system for generating a three-dimensional object |
| US6700669B1 (en) * | 2000-01-28 | 2004-03-02 | Zheng J. Geng | Method and system for three-dimensional imaging using light pattern having multiple sub-patterns |
| JP2008276743A (ja) | 2000-04-28 | 2008-11-13 | Orametrix Inc | 表面を走査し三次元物体を作製するための方法及びシステム |
| US6677942B1 (en) * | 2000-08-01 | 2004-01-13 | International Business Machines Corporation | Method and apparatus for acquiring normals maps consistent with low spatial resolution meshes |
| JP2003141508A (ja) * | 2001-10-31 | 2003-05-16 | Olympus Optical Co Ltd | 基板外観検査方法及びその装置、基板外観検査用プログラム、コンピュータにより読み取り可能な記憶媒体 |
| JP3906990B2 (ja) * | 2002-12-18 | 2007-04-18 | シーケーディ株式会社 | 外観検査装置及び三次元計測装置 |
| US7146036B2 (en) * | 2003-02-03 | 2006-12-05 | Hewlett-Packard Development Company, L.P. | Multiframe correspondence estimation |
| US7145565B2 (en) * | 2003-02-27 | 2006-12-05 | Nvidia Corporation | Depth bounds testing |
| US7463259B1 (en) * | 2003-12-18 | 2008-12-09 | Nvidia Corporation | Subshader mechanism for programming language |
| JP4501587B2 (ja) * | 2004-08-18 | 2010-07-14 | 富士ゼロックス株式会社 | 3次元画像測定装置および方法 |
| JP4709571B2 (ja) * | 2005-04-05 | 2011-06-22 | 国立大学法人広島大学 | 視覚情報処理システム及びその視覚情報処理方法 |
| US8044996B2 (en) * | 2005-05-11 | 2011-10-25 | Xenogen Corporation | Surface construction using combined photographic and structured light information |
| US8089635B2 (en) * | 2007-01-22 | 2012-01-03 | California Institute Of Technology | Method and system for fast three-dimensional imaging using defocusing and feature recognition |
| JP4946544B2 (ja) * | 2007-03-14 | 2012-06-06 | オムロン株式会社 | 計測処理用の画像生成方法およびこの方法を用いた基板外観検査装置 |
| US8218903B2 (en) * | 2007-04-24 | 2012-07-10 | Sony Computer Entertainment Inc. | 3D object scanning using video camera and TV monitor |
| US8649024B2 (en) * | 2010-12-03 | 2014-02-11 | Zygo Corporation | Non-contact surface characterization using modulated illumination |
| US8845107B1 (en) * | 2010-12-23 | 2014-09-30 | Rawles Llc | Characterization of a scene with structured light |
-
2011
- 2011-03-16 JP JP2011058298A patent/JP5746529B2/ja active Active
-
2012
- 2012-03-06 US US13/412,738 patent/US9098909B2/en not_active Expired - Fee Related
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11193758B2 (en) | 2019-03-18 | 2021-12-07 | Ricoh Company, Ltd. | Measuring device and shaping device |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2012194061A (ja) | 2012-10-11 |
| US20120236317A1 (en) | 2012-09-20 |
| US9098909B2 (en) | 2015-08-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5746529B2 (ja) | 三次元距離計測装置、三次元距離計測方法、およびプログラム | |
| WO2012096747A1 (en) | Forming range maps using periodic illumination patterns | |
| US9117267B2 (en) | Systems and methods for marking images for three-dimensional image generation | |
| JP5132832B1 (ja) | 計測装置および情報処理装置 | |
| JP7253323B2 (ja) | 3次元計測システム及び3次元計測方法 | |
| CN104981842B (zh) | 用于表面几何成像的方法、介质和计算机装置 | |
| US10973581B2 (en) | Systems and methods for obtaining a structured light reconstruction of a 3D surface | |
| EP3382645B1 (en) | Method for generation of a 3d model based on structure from motion and photometric stereo of 2d sparse images | |
| CN101466998A (zh) | 三维绝对坐标表面成像的方法和装置 | |
| WO2014020823A1 (ja) | 画像処理システムおよび画像処理方法 | |
| KR102413146B1 (ko) | 3차원 데이터 처리 방법 | |
| CN109540023B (zh) | 基于二值网格编码模板结构光的物体表面深度值测量方法 | |
| US20240398519A1 (en) | Systems and methods for generating a digital representation of a 3d object | |
| CN107507269A (zh) | 个性化三维模型生成方法、装置和终端设备 | |
| CN107592449A (zh) | 三维模型建立方法、装置和移动终端 | |
| CN107623814A (zh) | 拍摄图像的敏感信息屏蔽方法和装置 | |
| CN111742352B (zh) | 对三维对象进行建模的方法和电子设备 | |
| CN118451468A (zh) | 一种注册脸部标记的方法 | |
| CN107370952A (zh) | 图像拍摄方法和装置 | |
| CN107622522B (zh) | 生成游戏素材的方法及装置 | |
| CN110414435A (zh) | 基于深度学习和结构光的三维人脸数据的生成方法及设备 | |
| KR20220017830A (ko) | 3차원 데이터 획득 방법, 장치 및 그 방법을 수행하는 프로그램이 저장된 컴퓨터 판독 가능 저장 매체 | |
| CN107515844B (zh) | 字体设置方法、装置及移动设备 | |
| JP2018077168A (ja) | シミュレーション装置、シミュレーション方法およびシミュレーションプログラム | |
| JP6590489B2 (ja) | 情報処理装置および方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140317 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20141219 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150105 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150213 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150410 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150508 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 5746529 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |