JP5636966B2 - Error detection apparatus and error detection program - Google Patents
Error detection apparatus and error detection program Download PDFInfo
- Publication number
- JP5636966B2 JP5636966B2 JP2011000810A JP2011000810A JP5636966B2 JP 5636966 B2 JP5636966 B2 JP 5636966B2 JP 2011000810 A JP2011000810 A JP 2011000810A JP 2011000810 A JP2011000810 A JP 2011000810A JP 5636966 B2 JP5636966 B2 JP 5636966B2
- Authority
- JP
- Japan
- Prior art keywords
- error
- coordinates
- image
- design information
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000001514 detection method Methods 0.000 title claims description 45
- 238000013461 design Methods 0.000 claims description 67
- 238000000605 extraction Methods 0.000 claims description 27
- 238000009826 distribution Methods 0.000 claims description 21
- 230000006870 function Effects 0.000 claims description 4
- 239000000284 extract Substances 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 26
- 238000000034 method Methods 0.000 description 12
- 238000003860 storage Methods 0.000 description 12
- 239000011159 matrix material Substances 0.000 description 8
- 238000004891 communication Methods 0.000 description 6
- 238000012545 processing Methods 0.000 description 6
- 230000009466 transformation Effects 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Images
Landscapes
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Details Of Garments (AREA)
Description
本発明は、誤差検出装置及び誤差検出プログラムに関する。 The present invention relates to an error detection apparatus and an error detection program.
対象物の撮影画像と対象物の三次元の設計情報とを比較する技術が提案されている。 A technique for comparing a captured image of an object with three-dimensional design information of the object has been proposed.
これに関連する技術として、特許文献1には、三次元の位置関係が既知のマーカと対象物とをカメラを用いて撮影した画像を入力する入力手段と、入力された画像上のマーカの位置を用いて対象物とカメラとの位置姿勢関係を求める位置姿勢検出手段と、三次元の設計情報を位置姿勢検出手段が求めた位置姿勢関係に基づいて撮影画像上に重畳して表示する重畳表示手段と、撮影画像とその上に重畳して表示された三次元の設計情報との差分から誤差を抽出する手段とを有する誤差検出装置が開示されている。
As a technique related to this,
本発明の目的は、少なくとも対象物の撮影画像の撮影方向及び撮影距離等に基づく二次元表示上の誤差の許容量を考慮して、対象物の当該対象物の設計情報に対する誤差を検出する誤差検出装置及び誤差検出プログラムを提供することにある。 An object of the present invention is to provide an error for detecting an error of a target object with respect to design information of the target object in consideration of an allowable amount of error on a two-dimensional display based on at least a shooting direction and a shooting distance of a captured image of the target object. The object is to provide a detection device and an error detection program.
[1] 対象物の設計の内容を示す三次元の設計情報を二次元の表示画像として表示するための視点を示す視点座標に作用素を適用し、前記設計情報に基づいて形成された対象物の撮影画像と当該設計情報の表示画像とを位置合わせする位置合わせ手段と、
少なくとも、前記位置合わせ手段によって前記撮影画像と位置合わせされた前記設計情報の視点座標と前記設計情報の前記対象物を構成する面との距離及び前記設計情報の視点座標と前記設計情報の前記対象物を構成する面の座標とを通る直線と当該面の法線とのなす角度に基づいて算出される二次元表示上の誤差の許容量を、前記設計情報の二次元の表示画像の座標に対応づけて誤差の許容量の分布を示す誤差許容量分布画像を生成する生成手段と、
前記設計情報の表示画像及び前記撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出する抽出手段と、
前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の前記二次元表示上の誤差の許容量を超えるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する誤差点判定手段と、
を有する誤差検出装置。
[1] An operator is applied to viewpoint coordinates indicating a viewpoint for displaying three-dimensional design information indicating the design contents of the target object as a two-dimensional display image, and an object formed based on the design information is displayed. Alignment means for aligning the captured image and the display image of the design information;
At least the distance between the viewpoint coordinates of the design information aligned with the captured image by the alignment means and the plane of the design information constituting the object, the viewpoint coordinates of the design information, and the object of the design information The tolerance of the error on the two-dimensional display calculated based on the angle formed by the straight line passing through the coordinates of the surface constituting the object and the normal of the surface is used as the coordinate of the two-dimensional display image of the design information. Generating means for generating an error tolerance distribution image indicating the distribution of the error tolerance in association with each other;
Extraction means for extracting coordinates that are the contours of the object from the display image of the design information and the captured image;
The distance between the coordinates of the contour of the object of the display image of the design information extracted by the extraction means and the coordinates of the contour of the object of the captured image corresponding to the coordinates of the contour of the object is the error tolerance generated by the generation means. When the coordinates of the corresponding coordinates of the capacity distribution image exceed an allowable amount of error on the two-dimensional display, the coordinates of the display image of the design information and the contour of the object of the photographed image are determined as error points having errors. Error point determination means;
An error detection apparatus having
[2]前記設計情報の表示画像に前記誤差点判定手段が誤差を有すると判定した前記誤差点を表示する誤差点表示手段をさらに有する請求項1に記載の誤差検出装置。
[2] The error detection device according to
[3]前記抽出手段は、複数の撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出し、
前記誤差点判定手段は、前記複数の撮影画像から抽出した前記対象物の輪郭となる座標が、当該座標に対応する誤差許容量分布画像の二次元表示上の誤差の許容量を超えるとき誤差点であると判定し、
前記誤差点判定手段が判定した前記複数の撮影画像の誤差点のうち座標が近似している誤差点から、当該誤差点に対応する誤差許容量分布画像の二次元表示上の許容量の大きいものを代表の誤差点として選別する誤差点選別手段をさらに有する請求項2に記載の誤差検出装置。
[3] The extraction unit extracts coordinates that are contours of the object from a plurality of captured images,
The error point determination unit is configured to detect an error point when coordinates serving as an outline of the target object extracted from the plurality of captured images exceed an error tolerance on a two-dimensional display of an error tolerance distribution image corresponding to the coordinates. It is determined that
Among the error points of the plurality of photographed images determined by the error point determination means, those having a large tolerance on the two-dimensional display of the error tolerance distribution image corresponding to the error point The error detection apparatus according to
[4]前記誤差点表示手段は、前記設計情報の表示画像に表示された誤差点が選択されたとき、前記誤差点選別手段が選別した前記代表の誤差点に対応づけられた撮影画像の視点座標から前記設計情報の表示画像と前記誤差点とを表示する請求項3に記載の誤差検出装置。
[4] The error point display means, when an error point displayed on the display image of the design information is selected, the viewpoint of the photographed image associated with the representative error point selected by the error point selection means. The error detection apparatus according to
[5]前記生成手段は、前記誤差許容量分布画像の各座標の範囲を当該座標の前記二次元表示上の誤差の許容量に基づいて定義して膨張処理し、
前記誤差点判定手段は、前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の膨張された前記範囲内に含まれるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する請求項1〜4のいずれかに記載の誤差検出装置。
[5] The generating means defines and expands each coordinate range of the error tolerance distribution image based on an error tolerance on the two-dimensional display of the coordinates,
The error point determination unit is configured such that a distance between a coordinate serving as the contour of the target object of the display image of the design information extracted by the extracting unit and a coordinate serving as the contour of the target object of the captured image corresponds to the generation. An error having an error in the coordinates of the display image of the design information and the contour of the object of the captured image when included in the expanded range of the corresponding coordinates of the error tolerance distribution image generated by the means The error detection device according to
[6]コンピュータを、
対象物の設計の内容を示す三次元の設計情報を二次元の表示画像として表示するための視点を示す視点座標に作用素を適用し、前記設計情報に基づいて形成された対象物の撮影画像と当該設計情報の表示画像とを位置合わせする位置合わせ手段と、
少なくとも、前記位置合わせ手段によって前記撮影画像と位置合わせされた前記設計情報の視点座標と前記設計情報の前記対象物を構成する面との距離及び前記設計情報の視点座標と前記設計情報の前記対象物を構成する面の座標とを通る直線と当該面の法線とのなす角度に基づいて算出される二次元表示上の誤差の許容量を、前記設計情報の二次元の表示画像の座標に対応づけて誤差の許容量の分布を示す誤差許容量分布画像を生成する生成手段と、
前記設計情報の表示画像及び前記撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出する抽出手段と、
前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の前記二次元表示上の誤差の許容量を超えるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する誤差点判定手段として機能させる誤差検出プログラム。
[6]
Applying an operator to viewpoint coordinates indicating a viewpoint for displaying three-dimensional design information indicating the design of the target object as a two-dimensional display image, and a captured image of the target formed based on the design information; Alignment means for aligning the display image of the design information;
At least the distance between the viewpoint coordinates of the design information aligned with the captured image by the alignment means and the plane of the design information constituting the object, the viewpoint coordinates of the design information, and the object of the design information The tolerance of the error on the two-dimensional display calculated based on the angle formed by the straight line passing through the coordinates of the surface constituting the object and the normal of the surface is used as the coordinate of the two-dimensional display image of the design information. Generating means for generating an error tolerance distribution image indicating the distribution of the error tolerance in association with each other;
Extraction means for extracting coordinates that are the contours of the object from the display image of the design information and the captured image;
The distance between the coordinates of the contour of the object of the display image of the design information extracted by the extraction means and the coordinates of the contour of the object of the captured image corresponding to the coordinates of the contour of the object is the error tolerance generated by the generation means. When the coordinates of the corresponding coordinates of the capacity distribution image exceed an allowable amount of error on the two-dimensional display, the coordinates of the display image of the design information and the contour of the object of the photographed image are determined as error points having errors. An error detection program that functions as error point determination means.
請求項1又は6に係る発明によれば、少なくとも対象物の撮影画像の撮影方向及び撮影距離等に基づく二次元表示上の誤差の許容量を考慮して、対象物の当該対象物の設計情報に対する誤差を検出することができる。
According to the invention according to
請求項2に係る発明によれば、誤差点を設計情報の表示画像とともに表示することができる。
According to the invention which concerns on
請求項3に係る発明によれば、複数の撮影画像から二次元表示上の誤差の許容量が大きい誤差点を選別することができる。 According to the third aspect of the present invention, it is possible to select an error point having a large error tolerance on two-dimensional display from a plurality of captured images.
請求項4に係る発明によれば、二次元表示上の誤差の許容量が大きい誤差点に対応した視点座標から設計情報の表示画像を表示することができる。
According to the invention which concerns on
請求項5に係る発明によれば、二次元表示上の誤差の許容量に応じて膨張処理された誤差許容量分布画像に応じて対象物の輪郭となる座標が誤差点であるか否か判定することができる。 According to the fifth aspect of the present invention, it is determined whether or not the coordinates serving as the contour of the target object are error points according to the error tolerance distribution image expanded according to the error tolerance on the two-dimensional display. can do.
(誤差検出システムの構成)
図1は、本実施形態に係る誤差検出システムの構成例を示す概略図である。
(Error detection system configuration)
FIG. 1 is a schematic diagram illustrating a configuration example of an error detection system according to the present embodiment.
この誤差検出システム5は、誤差検出装置1と、対象物3を撮影するカメラ2とをUSB(Universal Serial Bus)ケーブル等で接続して構成される。
The error detection system 5 is configured by connecting an
誤差検出装置1は、情報を処理するための機能を備えたCPU(Central Processing Unit)や記憶部等の電子部品を本体内部に備え、カメラ2で撮影した結果に生成された画像情報を処理する情報処理装置であり、画像を表示する液晶ディスプレイ等の表示部12、操作内容に応じた操作信号を出力するキーボードやマウス等の操作部13等を有する。なお、誤差検出装置1は、例えば、パーソナルコンピュータであり、その他にPDA(Personal Digital Assistant)、携帯電話機等を用いることもできる。
The
カメラ2は、対象物3を撮影方向20a以外にも他の複数の撮影方向から撮影し、撮影した撮影方向20a及び他の複数の撮影方向を対応する撮影した画像情報とともに記録し、これらの情報を誤差検出装置1に送信する。
The
対象物3は、複数の面から構成される立体形状物である。なお、対象物3の表面は、模様を有していてもよく、材質等の種類は特に問わない
The
(誤差検出装置の構成)
図2は、本実施形態に係る誤差検出装置1の構成例を示すブロック図である。
(Configuration of error detection device)
FIG. 2 is a block diagram illustrating a configuration example of the
誤差検出装置1は、CPU等から構成され各部を制御するとともに各種のプログラムを実行する制御部10と、HDD(Hard Disk Drive)やフラッシュメモリ等の記憶媒体であって情報を記憶する記憶部11と、液晶ディスプレイ等であって文字や画像を表示する表示部12と、キーボード及びマウス等であって操作内容に応じた操作信号を出力する操作部13と、カメラ2と情報を通信する通信部14とを備える。
The
なお、誤差検出装置1は、例えば、パーソナルコンピュータやPDA、携帯電話等の電子機器であるが、表示部12や操作部13を備えないサーバ装置のようなものでもよく、その場合はネットワーク等により接続された端末装置の操作部や表示部がそれらの機能を代替する。
The
制御部10は、後述する誤差検出プログラム110を実行することで、撮影画像情報受付手段100、位置合わせ手段101、誤差マップ生成手段102、エッジ抽出手段103、誤差点判定手段104、誤差点選別手段105及び誤差点表示手段106等として機能する。
The control unit 10 executes an
撮影画像情報受付手段100は、通信部14を介してカメラ2で撮影された撮影画像情報111及び撮影方向や撮影位置、レンズ特性等の内容を含む撮影情報112を受け付けて、記憶部11に格納する。
The photographed image
位置合わせ手段101は、対象物三次元情報113を二次元で表示して得られる画像である表示画像を撮影画像情報111に合わせる三次元座標の変換行列を計算して求め、その変換行列によって撮影画像情報111と対象物三次元情報113とを位置合わせする。なお、変換行列は3次元位置を平行移動・回転・拡大縮小させる行列である。また、位置合わせは、行列に限らず3次元位置を平行移動・回転・拡大縮小させる作用素であればよい。
The alignment means 101 calculates and obtains a transformation matrix of three-dimensional coordinates for matching a display image, which is an image obtained by displaying the object three-
誤差マップ生成手段102は、対象物三次元情報113及び位置合わせの対象である撮影画像情報111に対応した撮影情報112から後述する方法で二次元表示上の誤差の許容量を計算して、計算した誤差の許容量を後述する表示画像120の座標に対応付けた誤差マップ114を生成する。
The error map generation means 102 calculates the allowable amount of error on the two-dimensional display from the
エッジ抽出手段103は、撮影画像情報111と、撮影画像情報111と位置合わせされた対象物三次元情報113とからそれぞれ対象物3のエッジ(輪郭)に該当する座標(以下、「エッジ点」という。)を抽出してエッジ情報115を生成する。
The edge extraction means 103 is a coordinate (hereinafter referred to as an “edge point”) corresponding to an edge (contour) of the
誤差点判定手段104は、エッジ抽出手段103が抽出したエッジ点と、誤差マップ生成手段102が生成した誤差マップ114とを比較してエッジ点が誤差を有する誤差点か否かを判定するとともに、判定結果をエッジ情報115に反映して誤差情報116として生成する。
The error
誤差点選別手段105は、誤差情報116に同一の点である蓋然性が高い誤差点が2以上存在する場合に、より確からしい誤差点を選別する。
The error
誤差点表示手段106は、誤差情報116の誤差点を対象物三次元情報113の表示画像上にプロットして表示する。
The error point display means 106 plots and displays the error points of the
記憶部11は、制御部10を上述した各手段100〜106として動作させる誤差検出プログラム110、カメラ2で撮影された対象物3の画像情報である撮影画像情報111、撮影を行ったときのカメラ2の撮影方向や撮影位置、レンズ特性等の情報を含む撮影情報112、対象物3を製造するために三次元で記載された設計情報である対象物三次元情報113、誤差マップ生成手段102が生成した誤差マップ114、エッジ抽出手段103が抽出したエッジ情報115及び誤差点判定手段104が生成した誤差情報116等を記憶する。
The storage unit 11 includes an
図3(a)及び(b)は撮影画像情報の内容の一例を示す概略図、図3(c)は撮影情報の内容の一例を示す概略図、図3(d)は対象物三次元情報113の表示画像の一例を示す概略図である。 FIGS. 3A and 3B are schematic diagrams showing an example of the contents of the photographed image information, FIG. 3C is a schematic diagram showing an example of the contents of the photographed information, and FIG. 3D is the object three-dimensional information. It is the schematic which shows an example of the display image of 113. FIG.
図3(a)に示す撮影画像情報111aは、後述する図3(c)に示す撮影情報112に示すように、カメラ2によって撮影方向20aから対象物3を撮影することで得られる情報である。
The photographed image information 111a shown in FIG. 3A is information obtained by photographing the
また、図3(b)に示す撮影画像情報111bは、図3(c)に示す撮影情報112に示すようにカメラ2によって撮影方向20bから対象物3を撮影することで得られる情報である。
Also, the photographed
図3(c)に示す対象物三次元表示画像113Aは、対象物三次元情報113を再生することで表示部12に表示される表示画像120である。対象物三次元表示画像113Aは、操作部13に対する利用者の操作内容に応じてその表示内容を拡大・縮小や回転等されるものであってもよい。
An object three-dimensional display image 113A shown in FIG. 3C is a
図3(d)に示す撮影情報112は、カメラ2で生成される撮影画像情報の識別子が記録される撮影画像情報欄及び撮影画像情報の撮影方向が記録される撮影方向欄等を有する。
The shooting
(誤差検出装置の動作)
以下に、誤差検出装置1の動作例を図1〜図8を参照しつつ、(1)基本動作、(2)誤差マップ生成動作、(3)誤差点検出動作、(4)誤差点表示動作に分けて説明する。
(Operation of error detection device)
Hereinafter, with reference to FIGS. 1 to 8, an example of the operation of the
(1)基本動作
まず、利用者は、カメラ2によって複数の撮影方向から対象物3を撮影する。カメラ2は、撮影した撮影画像情報111とともに、撮影方向や撮影位置、レンズ特性等から得られる撮影情報112をカメラ2の記憶部に格納する。
(1) Basic operation First, the user photographs the
利用者は、誤差検出装置1の操作部13を操作してカメラ2との通信を指示する。操作部13は、操作に応じて操作信号を出力する。
The user operates the
誤差検出装置1は、操作部13から操作信号を受信するとカメラ2と通信部14を介して通信を開始する。次に、撮影画像情報受付手段100は、カメラ2の記憶部から撮影画像情報111及び撮影情報112を受け付けて記憶部11に格納する。なお、撮影画像情報受付手段100は、カメラ2以外の外部装置から予め撮影された撮影画像情報111及び撮影情報112を受け付けてもよい。
When receiving the operation signal from the
次に、利用者が操作部13を介して記憶部に格納された撮影画像情報111と対象物三次元情報113との位置合わせを要求すると、誤差検出装置1の位置合わせ手段101は、まず、対象物三次元情報113の表示画像を、例えば、撮影画像情報111aに位置合わせする。
Next, when the user requests alignment of the captured
位置合わせの方法は、例えば、撮影画像情報111と対象物三次元情報113とからそれぞれの座標を一致させるための特徴的な点を利用者の操作により選択し、これらの特徴的な点の位置を合わせる変換行列を計算して求め、その変換行列によって対象物三次元情報113の座標を変換して撮影画像情報111との位置を合わせる。なお、変換行列は3次元位置を平行移動・回転・拡大縮小させる行列である。
For example, the alignment method is performed by selecting a characteristic point for matching the coordinates from the captured
(2)誤差マップ生成動作
図13は、誤差検出装置1の動作の一例を示すフローチャートである。
(2) Error Map Generation Operation FIG. 13 is a flowchart showing an example of the operation of the
次に、誤差マップ生成手段102は、撮影画像情報111aに位置合わせされた対象物三次元情報113から以下に説明する方法で誤差マップ114aを生成する(S1)。
Next, the error map generation means 102 generates an error map 114a from the object three-
まず、誤差マップ生成手段102は、撮影画像情報111aに位置合わせされた対象物三次元情報113の視点となる視点座標、つまり、カメラ2の撮影方向20aに対応する視点座標と、対象物を形成する複数の面との関係から定まる二次元表示上の誤差の許容量であるmを計算する。
First, the error
図4(a)及び(b)は、二次元表示上の誤差の許容量を計算するための各パラメータを説明するための概略図である。 FIGS. 4A and 4B are schematic diagrams for explaining each parameter for calculating the allowable amount of error on the two-dimensional display.
対象物3を構成する面を物体表面S、物体表面Sの法線をn、対象物3に対する視点座標をカメラ位置P、表示部12の表示画面に該当する仮想的な平面を画像平面I及び設計上の許容誤差を許容誤差eとしたとき、撮影方向と法線nとの角度a、視点座標と物体表面Sとの距離d及び焦点距離fを用いて二次元表示上の誤差の許容量であるmは、以下に示す式(1)のように表される。
なお、(x、y)は、対象物三次元情報113の表示画像120上の座標を示し、画像の解像度(pixel)分存在するものである。
The surface constituting the
Here, (x, y) indicates the coordinates on the
次に、誤差マップ生成手段102は、mの値が予め定めた閾値より小さい場合及び法線nが連続的に変化する場合(平面でない場合)に、mの値をm=0とし、表示画像120の座標に対応付けて、以下に説明する誤差マップ114aを生成する。 Next, the error map generation means 102 sets the value of m to m = 0 when the value of m is smaller than a predetermined threshold and when the normal n changes continuously (when it is not a plane), and the display image An error map 114a described below is generated in association with the 120 coordinates.
図5(a)及び(b)は、誤差マップの構成の一例を示す概略図である。 FIGS. 5A and 5B are schematic diagrams illustrating an example of the configuration of the error map.
図5(a)に示す誤差マップ114aは、m=0の点及び上述した方法によりm=0とされた点の集合を領域114a1として、また、m≠0である点の集合を領域114a2として表示している。 Error map shown in FIG. 5 (a) 114a is, m = 0 point and a set of points with the m = 0 by the above-described method as a region 114a 1, The region 114a of the set of points a m ≠ 0 2 is displayed.
次に、誤差マップ生成手段102は、誤差マップ114aの各座標の範囲をmの値に比例させて膨張処理し(S2)、誤差マップ114bを生成する。領域114b1は、領域114a1と同様にm=0である点の集合であり、領域114b2は、領域114a2を膨張処理した領域である。
Next, the error map generation means 102 expands the range of each coordinate of the error map 114a in proportion to the value of m (S2), and generates an
なお、膨張処理において異なるmの値を有する隣り合う領域間の調整については以下に説明する方法で対処する。 It should be noted that adjustment between adjacent regions having different values of m in the expansion processing is handled by the method described below.
図6(a)〜(c2)は、誤差マップの膨張処理の方法の一例を説明するための概略図である。 FIGS. 6A to 6C are schematic diagrams for explaining an example of an error map expansion processing method.
図6(a)に示すように、膨張処理前の領域A1がm=2であって、領域A2がm=6であるとしたとき、隣り合う領域がない場合は、図6(b)に示すように、膨張処理によって領域A1、A2はそれぞれの外側に2pixel、6pixel拡張される。この場合にいずれの領域を優先させるのかによって後述する誤差検出の結果が変化する。 As shown in FIG. 6 (a), regions A 1 before expansion processing an m = 2, when the area A 2 is assumed to be m = 6, if there is no adjacent region, FIG. 6 (b ), The regions A 1 and A 2 are expanded by 2 pixels and 6 pixels on the outside by the expansion process. In this case, the error detection result to be described later varies depending on which region is prioritized.
例えば、図6(c1)に示すように、mの値の大きい領域、つまり領域A2を優先させて領域を境界l2まで拡張すると、許容誤差内にある点の誤検出が減少する。 For example, as shown in FIG. 6 (c1), a large region of the value of m, i.e. when the area A 2 is preferentially expand the region to the boundary l 2 and reduces erroneous detection of a point within tolerance.
また、例えば、図6(c2)に示すように、mの値の小さい領域、つまり領域A1を優先させて領域を境界l1まで拡張すると、誤差を有する点の検出漏れが減少する。 Further, for example, as shown in FIG. 6 (c2), a small region of the value of m, i.e. when extending the area give priority to the area A 1 to the boundary l 1, undetected points with error is reduced.
また、例えば、図6(c3)に示すように、mが中間値であるm=4であって境界l1及びl2によって定義される領域A3を生成すると、図6(c1)及び(c2)に示した場合の中間的な性質で誤差を有する点が検出される。 Further, for example, as shown in FIG. 6 (c3), when m is generates area A 3, defined by a m = 4, which is an intermediate value by the boundary l 1 and l 2, FIG. 6 (c1) and ( A point having an error with an intermediate property in the case shown in c2) is detected.
(3)誤差点検出動作
図7(a)及び(b)は、エッジ抽出手段103の動作例を説明ための概略図である。
(3) Error Point Detection Operation FIGS. 7A and 7B are schematic diagrams for explaining an operation example of the
次に、エッジ抽出手段103は、表示画像120については対象物三次元情報の面の法線や平面の境界を定義する情報等を使い、撮影画像情報111aからは写真の濃淡値等を用いて、Sobelフィルタに代表されるエッジ抽出の方法を用いて対象物3のエッジに該当する座標点を抽出する。その結果、図7(a)に示すように、表示画像120に基づいてエッジ点集合115Aが抽出される(S3)。また、図7(b)に示すように、撮影画像情報111aに基づいてエッジ点集合115Bが抽出される。なお、エッジ点集合115Aは、対象物三次元情報113の画素単位(pixel)で座標が抽出され、エッジ点集合115Bは、撮影画像情報111aの画素単位(pixel)で座標が抽出される。なお、エッジ抽出手段103は、エッジ点の抽出の際にノイズが含まれないようにするため、孤立点除去などのノイズ除去を行ってもよい。
Next, the
図8A(a)及び(b)は、エッジ抽出手段103によって抽出されたエッジ点集合から生成されるエッジ情報である。 8A (a) and 8 (b) are edge information generated from the edge point set extracted by the edge extraction means 103. FIG.
図8A(a)に示すように、エッジ情報115aは、対象物三次元情報113の表示画像120におけるエッジの二次元座標を示すエッジの二次元座標欄と、表示画像120の撮影方向と対応する撮影画像情報の写真番号を示す写真番号欄とを有する。
As shown in FIG. 8A (a), the edge information 115a corresponds to the edge two-dimensional coordinate field indicating the two-dimensional coordinates of the edge in the
図8A(b)に示すように、エッジ情報115bは、撮影画像情報111aの座標におけるエッジの座標を示すエッジの画像上の座標欄と、撮影画像情報111aの写真番号を示す写真番号欄とを有する。 As shown in FIG. 8A (b), the edge information 115b includes a coordinate field on the edge image indicating the coordinates of the edge in the coordinates of the captured image information 111a and a photo number field indicating the photo number of the captured image information 111a. Have.
図8B(a)及び(b)は、エッジ抽出手段103によって計算された誤差距離を含むエッジ情報である。
8B (a) and 8 (b) are edge information including the error distance calculated by the
まず、エッジ抽出手段103は、エッジ点集合115aについて、各エッジ点に最も近いエッジ点集合115b内の点との距離を計算し、誤差距離として記録する。例えば、図8Bに示すように、エッジ点集合115aのエッジの二次元座標(202、325)に最も近いエッジ点集合115bのエッジの画像上の座標は(203、324)であり、その誤差距離は、
である。エッジ点集合115bについても同様に、各エッジの画像上の座標点に最も近いエッジ点集合115a内のエッジの二次元座標との距離を計算し、誤差距離として記録する。以上より、図8B(a)に示すエッジ情報115a’及び図8B(b)に示すエッジ情報115b’が得られる。
First, the
It is. Similarly, for the edge point set 115b, the distance from the two-dimensional coordinates of the edge in the edge point set 115a closest to the coordinate point on the image of each edge is calculated and recorded as an error distance. As described above, the edge information 115a ′ shown in FIG. 8B (a) and the edge information 115b ′ shown in FIG. 8B (b) are obtained.
図9(a)〜(d)は、誤差点判定手段104の動作の一例を説明するための概略図である。
FIGS. 9A to 9D are schematic diagrams for explaining an example of the operation of the error
次に、誤差点判定手段104は、図9(a)(図7(a)及び(b))に示すエッジ抽出手段103が抽出したエッジ点集合115A及び115Bと、図9(b)に示す誤差マップ生成手段102が生成して膨張処理を実行した誤差マップ114bとを合成して(S4)、図9(c)に示す誤差画像116Aを生成する。
Next, the error
次に、誤差点判定手段104は、領域114b2に含まれるエッジ点であって、その誤差距離(図8B(a)及び(b))が、誤差マップ114bの許容量mよりも大きい場合、誤差のあるエッジであると判定し(S5)、その旨を示すエッジラベルIを付与する。エッジラベルIが付与されたエッジ点の集合116b1は図9(d)において太い実線で示される。
Next, when the error
また、領域114b2に含まれるエッジ点であって、その誤差距離(図8B(a)及び(b))が、誤差マップ114bの許容量mよりも小さい場合、誤差のないエッジであると判定し、その旨を示すエッジラベルIIを付与する。エッジラベルIIIが付与されたエッジ点の集合116b2は図9(d)において細い実線で示される。
Further, if the error distance (FIG. 8B (a) and (b) in FIG. 8B) is an edge point included in the
また、領域114b1に含まれるエッジ点は検査外のエッジであると判定し、その旨を示すエッジラベルIIIを付与する。エッジラベルIIIが付与されたエッジ点の集合116b3は図9(d)において破線で示される。
The edge points contained in the
図10(a)は、誤差点判定手段104によってエッジ情報115にエッジラベルが付与された誤差情報の内容例を示す概略図である。
FIG. 10A is a schematic diagram showing a content example of error information in which an edge label is added to the
誤差情報116bは、エッジ情報115a及び115bのエッジの三次元座標欄と、エッジの画像上の座標欄と、写真番号欄とを有し、さらにエッジラベル欄を有する。エッジの三次元座標は、エッジの画像上の座標(x、y)とカメラアングル(撮影方向及び撮影距離)並びに対象物3の位置から求める。
The
図10(b)は、誤差点選別手段105の動作を説明するための概略図である。
FIG. 10B is a schematic diagram for explaining the operation of the error
誤差点選別手段105は、複数の撮影画像情報について上述したステップS5を行い、複数の撮影画像情報111における誤差情報をマージし(S6)、生成された誤差情報116cにおいて、エッジ点の三次元座標が近いデータについてエッジラベルがIII以外のもの、法線nとのなす角aが小さいもの又はmの値が大きいもの等の基準に基づいて最も信用できるデータを選別する(S7)。
The error
(4)誤差点表示動作
図11は、誤差点表示手段106が生成する誤差三次元情報の表示画像の一例を示す概略図である。
(4) Error Point Display Operation FIG. 11 is a schematic diagram showing an example of a display image of error three-dimensional information generated by the error point display means 106.
次に、誤差点表示手段106は、対象物三次元情報113の表示画像120上に誤差情報116cをエッジラベルごとにエッジラベルIが付与されたエッジ点の集合116c1、エッジラベルIIが付与されたエッジ点の集合116c2、エッジラベルIIIが付与されたエッジ点の集合116c3をプロットし(S8)、誤差三次元情報116Cを生成する。
Next, the error point display means 106 is provided with the edge point set 116c 1 and the edge label II to which the error information 116c and the edge label I are assigned for each edge label on the
図12(a)及び(b)は、誤差点表示手段106が生成する誤差三次元情報の表示画像の他の例を示す概略図である。 12A and 12B are schematic views showing another example of the display image of the error three-dimensional information generated by the error point display means 106. FIG.
また、誤差点表示手段106は、図12(a)に示すように、利用者の操作に応じてカーソル120aによって誤差三次元情報116Cの表示画像120の任意のエッジ点が選択されると、選択されたエッジ点の複数の撮影画像情報におけるmの値を比較し、図12(b)に示すように、最もmの値の大きいエッジ点に対応した撮影画像情報の撮影方向における誤差三次元情報116B’の表示画像120を表示する。
Further, as shown in FIG. 12A, the error point display means 106 is selected when an arbitrary edge point of the
[他の実施の形態]
なお、本発明は、上記実施の形態に限定されず、本発明の要旨を逸脱しない範囲で種々な変形が可能である。
[Other embodiments]
The present invention is not limited to the above embodiment, and various modifications can be made without departing from the gist of the present invention.
図14(a)〜(c2)は、誤差マップにおいて膨張処理を行わずにエッジ点に誤差があるか否か判定する方法の一例を説明するための概略図である。 FIGS. 14A to 14C are schematic diagrams for explaining an example of a method for determining whether or not there is an error in an edge point without performing expansion processing in the error map.
図14(a)に示すように、領域A1がm=2であって、領域A2がm=6であるとしたときに、図14(b)に示すように、撮影画像情報111のエッジ点の集合よりなる撮影画像の線lphotoと対象物三次元情報113のエッジ点の集合よりなる三次元画像の線l3Dとが存在する場合について、以下に説明するように撮影画像の線lphoto及び三次元画像の線l3Dのそれぞれについて誤差があるか否か判断する。
As shown in FIG. 14 (a), in the area A 1 is an m = 2, when the area A 2 is assumed to be m = 6, as shown in FIG. 14 (b), the captured image information 111 A case where a photographed image line l photo composed of a set of edge points and a three-dimensional image line l 3D composed of a set of edge points of the target object three-
例えば、図14(c1)に示すように、撮影画像の線lphotoについては、三次元画像の線l3Dまでのベクトルdphotoの値が、ベクトルの示す先の誤差マップの値m=6以上であれば、誤差点判定手段104は誤差があると判断する。 For example, as shown in FIG. 14C1, for the line l photo of the captured image, the value of the vector d photo up to the line l 3D of the three-dimensional image has a value m = 6 or more of the previous error map indicated by the vector. If so, the error point determination means 104 determines that there is an error.
また、図14(c2)に示すように、三次元画像の線l3Dについては、三次元画像の線lphotoまでのベクトルd3Dの値が、ベクトルの示す先の誤差マップの値m=2以上であれば、誤差点判定手段104は誤差があると判断する。 Further, as shown in FIG. 14C2, for the line l 3D of the three-dimensional image, the value of the vector d 3D up to the line l photo of the three-dimensional image is the error map value m = 2 indicated by the vector. If so, the error point determination means 104 determines that there is an error.
また、上記誤差検出プログラム110をCD−ROM等の記憶媒体に格納して提供することも可能であり、インターネット等のネットワークに接続されているサーバ装置等から装置内の記憶部にダウンロードしてもよい。また、撮影画像情報受付手段100、位置合わせ手段101、誤差マップ生成手段102、エッジ抽出手段103、誤差点判定手段104、誤差点選別手段105及び誤差点表示手段106の一部又は全部をASIC等のハードウェアによって実現してもよい。なお、上記実施の形態の動作説明で示した各ステップは、順序の変更、ステップの省略、追加が可能である。
The
1 誤差検出装置
2 カメラ
3 対象物
5 誤差検出システム
10 制御部
11 記憶部
12 表示部
13 操作部
14 通信部
100 撮影画像情報受付手段
101 位置合わせ手段
102 誤差マップ生成手段
103 エッジ抽出手段
104 誤差点判定手段
105 誤差点選別手段
106 誤差点表示手段
110 誤差検出プログラム
111 撮影画像情報
112 撮影情報
113 対象物三次元情報
114 誤差マップ
115 エッジ情報
115A エッジ点集合
115B エッジ点集合
115a エッジ情報
115b エッジ情報
116 誤差情報
116A 誤差画像
116B 誤差三次元情報
116C 誤差三次元情報
120 表示画像
DESCRIPTION OF
Claims (6)
少なくとも、前記位置合わせ手段によって前記撮影画像と位置合わせされた前記設計情報の視点座標と前記設計情報の前記対象物を構成する面との距離及び前記設計情報の視点座標と前記設計情報の前記対象物を構成する面の座標とを通る直線と当該面の法線とのなす角度に基づいて算出される二次元表示上の誤差の許容量を、前記設計情報の二次元の表示画像の座標に対応づけて誤差の許容量の分布を示す誤差許容量分布画像を生成する生成手段と、
前記設計情報の表示画像及び前記撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出する抽出手段と、
前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の前記二次元表示上の誤差の許容量を超えるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する誤差点判定手段と、
を有する誤差検出装置。 Applying an operator to viewpoint coordinates indicating a viewpoint for displaying three-dimensional design information indicating the design of the target object as a two-dimensional display image, and a captured image of the target formed based on the design information; Alignment means for aligning the display image of the design information;
At least the distance between the viewpoint coordinates of the design information aligned with the captured image by the alignment means and the plane of the design information constituting the object, the viewpoint coordinates of the design information, and the object of the design information The tolerance of the error on the two-dimensional display calculated based on the angle formed by the straight line passing through the coordinates of the surface constituting the object and the normal of the surface is used as the coordinate of the two-dimensional display image of the design information. Generating means for generating an error tolerance distribution image indicating the distribution of the error tolerance in association with each other;
Extraction means for extracting coordinates that are the contours of the object from the display image of the design information and the captured image;
The distance between the coordinates of the contour of the object of the display image of the design information extracted by the extraction means and the coordinates of the contour of the object of the captured image corresponding to the coordinates of the contour of the object is the error tolerance generated by the generation means. When the coordinates of the corresponding coordinates of the capacity distribution image exceed an allowable amount of error on the two-dimensional display, the coordinates of the display image of the design information and the contour of the object of the photographed image are determined as error points having errors. Error point determination means;
An error detection apparatus having
前記誤差点判定手段は、前記複数の撮影画像から抽出した前記対象物の輪郭となる座標が、当該座標に対応する誤差許容量分布画像の二次元表示上の誤差の許容量を超えるとき誤差点であると判定し、
前記誤差点判定手段が判定した前記複数の撮影画像の誤差点のうち座標が近似している誤差点から、当該誤差点に対応する誤差許容量分布画像の二次元表示上の許容量の大きいものを代表の誤差点として選別する誤差点選別手段をさらに有する請求項2に記載の誤差検出装置。 The extraction means extracts coordinates that are the contours of the object from a plurality of captured images,
The error point determination unit is configured to detect an error point when coordinates serving as an outline of the target object extracted from the plurality of captured images exceed an error tolerance on a two-dimensional display of an error tolerance distribution image corresponding to the coordinates. It is determined that
Among the error points of the plurality of photographed images determined by the error point determination means, those having a large tolerance on the two-dimensional display of the error tolerance distribution image corresponding to the error point The error detection apparatus according to claim 2, further comprising an error point selecting unit that selects the error points as representative error points.
前記誤差点判定手段は、前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の膨張された前記範囲内に含まれるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する請求項1〜4のいずれかに記載の誤差検出装置。 The generating means expands the range of each coordinate of the error tolerance distribution image based on an error tolerance on the two-dimensional display of the coordinate,
The error point determination unit is configured such that a distance between a coordinate serving as the contour of the target object of the display image of the design information extracted by the extracting unit and a coordinate serving as the contour of the target object of the captured image corresponds to the generation. An error having an error in the coordinates of the display image of the design information and the contour of the object of the captured image when included in the expanded range of the corresponding coordinates of the error tolerance distribution image generated by the means The error detection device according to claim 1, wherein the error detection device determines a point.
対象物の設計の内容を示す三次元の設計情報を二次元の表示画像として表示するための視点を示す視点座標に作用素を適用し、前記設計情報に基づいて形成された対象物の撮影画像と当該設計情報の表示画像とを位置合わせする位置合わせ手段と、
少なくとも、前記位置合わせ手段によって前記撮影画像と位置合わせされた前記設計情報の視点座標と前記設計情報の前記対象物を構成する面との距離及び前記設計情報の視点座標と前記設計情報の前記対象物を構成する面の座標とを通る直線と当該面の法線とのなす角度に基づいて算出される二次元表示上の誤差の許容量を、前記設計情報の二次元の表示画像の座標に対応づけて誤差の許容量の分布を示す誤差許容量分布画像を生成する生成手段と、
前記設計情報の表示画像及び前記撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出する抽出手段と、
前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の前記二次元表示上の誤差の許容量を超えるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する誤差点判定手段として機能させる誤差検出プログラム。
Computer
Applying an operator to viewpoint coordinates indicating a viewpoint for displaying three-dimensional design information indicating the design of the target object as a two-dimensional display image, and a captured image of the target formed based on the design information; Alignment means for aligning the display image of the design information;
At least the distance between the viewpoint coordinates of the design information aligned with the captured image by the alignment means and the plane of the design information constituting the object, the viewpoint coordinates of the design information, and the object of the design information The tolerance of the error on the two-dimensional display calculated based on the angle formed by the straight line passing through the coordinates of the surface constituting the object and the normal of the surface is used as the coordinate of the two-dimensional display image of the design information. Generating means for generating an error tolerance distribution image indicating the distribution of the error tolerance in association with each other;
Extraction means for extracting coordinates that are the contours of the object from the display image of the design information and the captured image;
The distance between the coordinates of the contour of the object of the display image of the design information extracted by the extraction means and the coordinates of the contour of the object of the captured image corresponding to the coordinates of the contour of the object is the error tolerance generated by the generation means. When the coordinates of the corresponding coordinates of the capacity distribution image exceed an allowable amount of error on the two-dimensional display, the coordinates of the display image of the design information and the contour of the object of the photographed image are determined as error points having errors. An error detection program that functions as error point determination means.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011000810A JP5636966B2 (en) | 2011-01-05 | 2011-01-05 | Error detection apparatus and error detection program |
| CN2011203250265U CN202222448U (en) | 2011-01-05 | 2011-09-01 | Upper garment |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011000810A JP5636966B2 (en) | 2011-01-05 | 2011-01-05 | Error detection apparatus and error detection program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2012141899A JP2012141899A (en) | 2012-07-26 |
| JP5636966B2 true JP5636966B2 (en) | 2014-12-10 |
Family
ID=46073063
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011000810A Expired - Fee Related JP5636966B2 (en) | 2011-01-05 | 2011-01-05 | Error detection apparatus and error detection program |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP5636966B2 (en) |
| CN (1) | CN202222448U (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7188201B2 (en) | 2019-03-13 | 2022-12-13 | 富士通株式会社 | Image processing device, image processing method, and image processing program |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3330790B2 (en) * | 1995-08-30 | 2002-09-30 | 株式会社日立製作所 | Three-dimensional shape recognition device, construction support device, object inspection device, type recognition device, and object recognition method |
| JP4537557B2 (en) * | 2000-09-19 | 2010-09-01 | オリンパス株式会社 | Information presentation system |
| JP2005339127A (en) * | 2004-05-26 | 2005-12-08 | Olympus Corp | Apparatus and method for displaying image information |
| JP5248806B2 (en) * | 2007-04-25 | 2013-07-31 | キヤノン株式会社 | Information processing apparatus and information processing method |
-
2011
- 2011-01-05 JP JP2011000810A patent/JP5636966B2/en not_active Expired - Fee Related
- 2011-09-01 CN CN2011203250265U patent/CN202222448U/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2012141899A (en) | 2012-07-26 |
| CN202222448U (en) | 2012-05-23 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5783885B2 (en) | Information presentation apparatus, method and program thereof | |
| JP6716996B2 (en) | Image processing program, image processing apparatus, and image processing method | |
| JP6976733B2 (en) | Image processing equipment, image processing methods, and programs | |
| EP3093822B1 (en) | Displaying a target object imaged in a moving picture | |
| JP6464938B2 (en) | Image processing apparatus, image processing method, and image processing program | |
| JPWO2014061372A1 (en) | Image processing apparatus, image processing method, and image processing program | |
| JP2014071850A (en) | Image processing apparatus, terminal device, image processing method, and program | |
| JP2013005258A (en) | Blur correction apparatus, blur correction method, and business form | |
| JP6017343B2 (en) | Database generation device, camera posture estimation device, database generation method, camera posture estimation method, and program | |
| JP5751254B2 (en) | Image processing system, image processing method, and image processing program | |
| JP2012050013A (en) | Imaging apparatus, image processing device, image processing method, and image processing program | |
| JP6075294B2 (en) | Image processing system and image processing method | |
| JP6530432B2 (en) | Image processing apparatus, image processing method and program | |
| CN112907462A (en) | Distortion correction method and system for ultra-wide-angle camera device and shooting device comprising distortion correction system | |
| JP7003617B2 (en) | Estimator, estimation method, and estimation program | |
| JP6080424B2 (en) | Corresponding point search device, program thereof, and camera parameter estimation device | |
| CN110415196A (en) | Method for correcting image, device, electronic equipment and readable storage medium storing program for executing | |
| JP2006113832A (en) | Stereo image processing apparatus and program | |
| JP5636966B2 (en) | Error detection apparatus and error detection program | |
| JP2009146150A (en) | Feature position detection method and feature position detection apparatus | |
| KR102637913B1 (en) | Method and apparatus for composing images | |
| JP6168601B2 (en) | Image converter | |
| WO2019080257A1 (en) | Electronic device, vehicle accident scene panoramic image display method and storage medium | |
| JP2011171991A (en) | Image processing apparatus, electronic device, image processing method and image processing program | |
| JP2012068062A (en) | Alignment device, alignment system and alignment program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20131220 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20140901 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140924 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20141007 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 5636966 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| LAPS | Cancellation because of no payment of annual fees |