Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5636966B2 - Error detection apparatus and error detection program - Google Patents
[go: Go Back, main page]

JP5636966B2 - Error detection apparatus and error detection program - Google Patents

Error detection apparatus and error detection program Download PDF

Info

Publication number
JP5636966B2
JP5636966B2 JP2011000810A JP2011000810A JP5636966B2 JP 5636966 B2 JP5636966 B2 JP 5636966B2 JP 2011000810 A JP2011000810 A JP 2011000810A JP 2011000810 A JP2011000810 A JP 2011000810A JP 5636966 B2 JP5636966 B2 JP 5636966B2
Authority
JP
Japan
Prior art keywords
error
coordinates
image
design information
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011000810A
Other languages
Japanese (ja)
Other versions
JP2012141899A (en
Inventor
新宮 淳
淳 新宮
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2011000810A priority Critical patent/JP5636966B2/en
Priority to CN2011203250265U priority patent/CN202222448U/en
Publication of JP2012141899A publication Critical patent/JP2012141899A/en
Application granted granted Critical
Publication of JP5636966B2 publication Critical patent/JP5636966B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Details Of Garments (AREA)

Description

本発明は、誤差検出装置及び誤差検出プログラムに関する。   The present invention relates to an error detection apparatus and an error detection program.

対象物の撮影画像と対象物の三次元の設計情報とを比較する技術が提案されている。   A technique for comparing a captured image of an object with three-dimensional design information of the object has been proposed.

これに関連する技術として、特許文献1には、三次元の位置関係が既知のマーカと対象物とをカメラを用いて撮影した画像を入力する入力手段と、入力された画像上のマーカの位置を用いて対象物とカメラとの位置姿勢関係を求める位置姿勢検出手段と、三次元の設計情報を位置姿勢検出手段が求めた位置姿勢関係に基づいて撮影画像上に重畳して表示する重畳表示手段と、撮影画像とその上に重畳して表示された三次元の設計情報との差分から誤差を抽出する手段とを有する誤差検出装置が開示されている。   As a technique related to this, Patent Document 1 discloses an input means for inputting an image obtained by photographing a marker and an object having a known three-dimensional positional relationship using a camera, and a position of the marker on the input image. Position and orientation detection means for determining the position and orientation relationship between the object and the camera using the image, and superimposed display for displaying the three-dimensional design information superimposed on the captured image based on the position and orientation relationship obtained by the position and orientation detection means There is disclosed an error detection device having means and means for extracting an error from a difference between a photographed image and three-dimensional design information displayed superimposed thereon.

特開2002−92647号公報JP 2002-92647 A

本発明の目的は、少なくとも対象物の撮影画像の撮影方向及び撮影距離等に基づく二次元表示上の誤差の許容量を考慮して、対象物の当該対象物の設計情報に対する誤差を検出する誤差検出装置及び誤差検出プログラムを提供することにある。   An object of the present invention is to provide an error for detecting an error of a target object with respect to design information of the target object in consideration of an allowable amount of error on a two-dimensional display based on at least a shooting direction and a shooting distance of a captured image of the target object. The object is to provide a detection device and an error detection program.

[1] 対象物の設計の内容を示す三次元の設計情報を二次元の表示画像として表示するための視点を示す視点座標に作用素を適用し、前記設計情報に基づいて形成された対象物の撮影画像と当該設計情報の表示画像とを位置合わせする位置合わせ手段と、
少なくとも、前記位置合わせ手段によって前記撮影画像と位置合わせされた前記設計情報の視点座標と前記設計情報の前記対象物を構成する面との距離及び前記設計情報の視点座標と前記設計情報の前記対象物を構成する面の座標とを通る直線と当該面の法線とのなす角度に基づいて算出される二次元表示上の誤差の許容量を、前記設計情報の二次元の表示画像の座標に対応づけて誤差の許容量の分布を示す誤差許容量分布画像を生成する生成手段と、
前記設計情報の表示画像及び前記撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出する抽出手段と、
前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の前記二次元表示上の誤差の許容量を超えるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する誤差点判定手段と、
を有する誤差検出装置。
[1] An operator is applied to viewpoint coordinates indicating a viewpoint for displaying three-dimensional design information indicating the design contents of the target object as a two-dimensional display image, and an object formed based on the design information is displayed. Alignment means for aligning the captured image and the display image of the design information;
At least the distance between the viewpoint coordinates of the design information aligned with the captured image by the alignment means and the plane of the design information constituting the object, the viewpoint coordinates of the design information, and the object of the design information The tolerance of the error on the two-dimensional display calculated based on the angle formed by the straight line passing through the coordinates of the surface constituting the object and the normal of the surface is used as the coordinate of the two-dimensional display image of the design information. Generating means for generating an error tolerance distribution image indicating the distribution of the error tolerance in association with each other;
Extraction means for extracting coordinates that are the contours of the object from the display image of the design information and the captured image;
The distance between the coordinates of the contour of the object of the display image of the design information extracted by the extraction means and the coordinates of the contour of the object of the captured image corresponding to the coordinates of the contour of the object is the error tolerance generated by the generation means. When the coordinates of the corresponding coordinates of the capacity distribution image exceed an allowable amount of error on the two-dimensional display, the coordinates of the display image of the design information and the contour of the object of the photographed image are determined as error points having errors. Error point determination means;
An error detection apparatus having

[2]前記設計情報の表示画像に前記誤差点判定手段が誤差を有すると判定した前記誤差点を表示する誤差点表示手段をさらに有する請求項1に記載の誤差検出装置。 [2] The error detection device according to claim 1, further comprising an error point display unit that displays the error point determined by the error point determination unit to have an error in the display image of the design information.

[3]前記抽出手段は、複数の撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出し、
前記誤差点判定手段は、前記複数の撮影画像から抽出した前記対象物の輪郭となる座標が、当該座標に対応する誤差許容量分布画像の二次元表示上の誤差の許容量を超えるとき誤差点であると判定し、
前記誤差点判定手段が判定した前記複数の撮影画像の誤差点のうち座標が近似している誤差点から、当該誤差点に対応する誤差許容量分布画像の二次元表示上の許容量の大きいものを代表の誤差点として選別する誤差点選別手段をさらに有する請求項2に記載の誤差検出装置。
[3] The extraction unit extracts coordinates that are contours of the object from a plurality of captured images,
The error point determination unit is configured to detect an error point when coordinates serving as an outline of the target object extracted from the plurality of captured images exceed an error tolerance on a two-dimensional display of an error tolerance distribution image corresponding to the coordinates. It is determined that
Among the error points of the plurality of photographed images determined by the error point determination means, those having a large tolerance on the two-dimensional display of the error tolerance distribution image corresponding to the error point The error detection apparatus according to claim 2, further comprising an error point selecting unit that selects the error points as representative error points.

[4]前記誤差点表示手段は、前記設計情報の表示画像に表示された誤差点が選択されたとき、前記誤差点選別手段が選別した前記代表の誤差点に対応づけられた撮影画像の視点座標から前記設計情報の表示画像と前記誤差点とを表示する請求項3に記載の誤差検出装置。 [4] The error point display means, when an error point displayed on the display image of the design information is selected, the viewpoint of the photographed image associated with the representative error point selected by the error point selection means. The error detection apparatus according to claim 3, wherein a display image of the design information and the error point are displayed from coordinates.

[5]前記生成手段は、前記誤差許容量分布画像の各座標の範囲を当該座標の前記二次元表示上の誤差の許容量に基づいて定義して膨張処理し、
前記誤差点判定手段は、前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の膨張された前記範囲内に含まれるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する請求項1〜4のいずれかに記載の誤差検出装置。
[5] The generating means defines and expands each coordinate range of the error tolerance distribution image based on an error tolerance on the two-dimensional display of the coordinates,
The error point determination unit is configured such that a distance between a coordinate serving as the contour of the target object of the display image of the design information extracted by the extracting unit and a coordinate serving as the contour of the target object of the captured image corresponds to the generation. An error having an error in the coordinates of the display image of the design information and the contour of the object of the captured image when included in the expanded range of the corresponding coordinates of the error tolerance distribution image generated by the means The error detection device according to claim 1, wherein the error detection device determines a point.

[6]コンピュータを、
対象物の設計の内容を示す三次元の設計情報を二次元の表示画像として表示するための視点を示す視点座標に作用素を適用し、前記設計情報に基づいて形成された対象物の撮影画像と当該設計情報の表示画像とを位置合わせする位置合わせ手段と、
少なくとも、前記位置合わせ手段によって前記撮影画像と位置合わせされた前記設計情報の視点座標と前記設計情報の前記対象物を構成する面との距離及び前記設計情報の視点座標と前記設計情報の前記対象物を構成する面の座標とを通る直線と当該面の法線とのなす角度に基づいて算出される二次元表示上の誤差の許容量を、前記設計情報の二次元の表示画像の座標に対応づけて誤差の許容量の分布を示す誤差許容量分布画像を生成する生成手段と、
前記設計情報の表示画像及び前記撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出する抽出手段と、
前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の前記二次元表示上の誤差の許容量を超えるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する誤差点判定手段として機能させる誤差検出プログラム。
[6]
Applying an operator to viewpoint coordinates indicating a viewpoint for displaying three-dimensional design information indicating the design of the target object as a two-dimensional display image, and a captured image of the target formed based on the design information; Alignment means for aligning the display image of the design information;
At least the distance between the viewpoint coordinates of the design information aligned with the captured image by the alignment means and the plane of the design information constituting the object, the viewpoint coordinates of the design information, and the object of the design information The tolerance of the error on the two-dimensional display calculated based on the angle formed by the straight line passing through the coordinates of the surface constituting the object and the normal of the surface is used as the coordinate of the two-dimensional display image of the design information. Generating means for generating an error tolerance distribution image indicating the distribution of the error tolerance in association with each other;
Extraction means for extracting coordinates that are the contours of the object from the display image of the design information and the captured image;
The distance between the coordinates of the contour of the object of the display image of the design information extracted by the extraction means and the coordinates of the contour of the object of the captured image corresponding to the coordinates of the contour of the object is the error tolerance generated by the generation means. When the coordinates of the corresponding coordinates of the capacity distribution image exceed an allowable amount of error on the two-dimensional display, the coordinates of the display image of the design information and the contour of the object of the photographed image are determined as error points having errors. An error detection program that functions as error point determination means.

請求項1又は6に係る発明によれば、少なくとも対象物の撮影画像の撮影方向及び撮影距離等に基づく二次元表示上の誤差の許容量を考慮して、対象物の当該対象物の設計情報に対する誤差を検出することができる。   According to the invention according to claim 1 or 6, the design information of the target object of the target object in consideration of the allowable amount of error on the two-dimensional display based on at least the shooting direction and the shooting distance of the shot image of the target object. The error with respect to can be detected.

請求項2に係る発明によれば、誤差点を設計情報の表示画像とともに表示することができる。   According to the invention which concerns on Claim 2, an error point can be displayed with the display image of design information.

請求項3に係る発明によれば、複数の撮影画像から二次元表示上の誤差の許容量が大きい誤差点を選別することができる。   According to the third aspect of the present invention, it is possible to select an error point having a large error tolerance on two-dimensional display from a plurality of captured images.

請求項4に係る発明によれば、二次元表示上の誤差の許容量が大きい誤差点に対応した視点座標から設計情報の表示画像を表示することができる。   According to the invention which concerns on Claim 4, the display image of design information can be displayed from the viewpoint coordinate corresponding to the error point with a large tolerance | permissible_error of a two-dimensional display.

請求項5に係る発明によれば、二次元表示上の誤差の許容量に応じて膨張処理された誤差許容量分布画像に応じて対象物の輪郭となる座標が誤差点であるか否か判定することができる。   According to the fifth aspect of the present invention, it is determined whether or not the coordinates serving as the contour of the target object are error points according to the error tolerance distribution image expanded according to the error tolerance on the two-dimensional display. can do.

図1は、本実施形態に係る誤差検出システムの構成例を示す概略図である。FIG. 1 is a schematic diagram illustrating a configuration example of an error detection system according to the present embodiment. 図2は、本実施形態に係る誤差検出装置の構成例を示すブロック図である。FIG. 2 is a block diagram illustrating a configuration example of the error detection apparatus according to the present embodiment. 図3(a)及び(b)は撮影画像情報の内容の一例を示す概略図、図3(c)は撮影情報の内容の一例を示す概略図、図3(d)は対象物三次元情報113の表示画像の一例を示す概略図である。FIGS. 3A and 3B are schematic diagrams showing an example of the contents of the photographed image information, FIG. 3C is a schematic diagram showing an example of the contents of the photographed information, and FIG. 3D is the object three-dimensional information. It is the schematic which shows an example of the display image of 113. FIG. 図4(a)及び(b)は、二次元表示に伴う誤差を計算するための各パラメータを説明するための概略図である。FIGS. 4A and 4B are schematic diagrams for explaining parameters for calculating an error associated with two-dimensional display. 図5(a)及び(b)は、誤差マップの構成の一例を示す概略図である。FIGS. 5A and 5B are schematic diagrams illustrating an example of the configuration of the error map. 図6(a)〜(c2)は、誤差マップの膨張処理の方法の一例を説明するための概略図である。FIGS. 6A to 6C are schematic diagrams for explaining an example of an error map expansion processing method. 図7(a)及び(b)は、エッジ抽出手段の動作例を説明するための概略図である。FIGS. 7A and 7B are schematic diagrams for explaining an operation example of the edge extracting means. 図8A(a)及び(b)は、エッジ抽出手段によって抽出されたエッジ点集合から生成されるエッジ情報である。8A (a) and 8 (b) are edge information generated from the edge point set extracted by the edge extraction means. 図8B(a)及び(b)は、エッジ抽出手段によって計算された誤差距離を含むエッジ情報である。8B (a) and 8 (b) are edge information including an error distance calculated by the edge extraction unit. 図9(a)〜(d)は、誤差点判定手段の動作の一例を説明するための概略図である。9A to 9D are schematic diagrams for explaining an example of the operation of the error point determination unit. 図10(a)は、誤差点判定手段によってエッジ情報115にエッジラベルが付与された誤差情報の内容例を示す概略図、図10(b)は、誤差点選別手段の動作を説明するための概略図である。FIG. 10A is a schematic diagram showing an example of the content of error information in which the edge label is added to the edge information 115 by the error point determination means, and FIG. 10B is a diagram for explaining the operation of the error point selection means. FIG. 図11は、誤差点表示手段106が生成する誤差三次元情報の表示画像の一例を示す概略図である。FIG. 11 is a schematic diagram showing an example of a display image of error three-dimensional information generated by the error point display means 106. 図12(a)及び(b)は、誤差点表示手段が生成する誤差三次元情報の表示画像の他の例を示す概略図である。12A and 12B are schematic views showing another example of the display image of the error three-dimensional information generated by the error point display means. 図13は、誤差検出装置1の動作の一例を示すフローチャートである。FIG. 13 is a flowchart illustrating an example of the operation of the error detection apparatus 1. 図14(a)〜(c2)は、誤差マップにおいて膨張処理を行わずにエッジ点に誤差があるか否か判定する方法の一例を説明するための概略図である。FIGS. 14A to 14C are schematic diagrams for explaining an example of a method for determining whether or not there is an error in an edge point without performing expansion processing in the error map.

(誤差検出システムの構成)
図1は、本実施形態に係る誤差検出システムの構成例を示す概略図である。
(Error detection system configuration)
FIG. 1 is a schematic diagram illustrating a configuration example of an error detection system according to the present embodiment.

この誤差検出システム5は、誤差検出装置1と、対象物3を撮影するカメラ2とをUSB(Universal Serial Bus)ケーブル等で接続して構成される。   The error detection system 5 is configured by connecting an error detection device 1 and a camera 2 that captures an object 3 with a USB (Universal Serial Bus) cable or the like.

誤差検出装置1は、情報を処理するための機能を備えたCPU(Central Processing Unit)や記憶部等の電子部品を本体内部に備え、カメラ2で撮影した結果に生成された画像情報を処理する情報処理装置であり、画像を表示する液晶ディスプレイ等の表示部12、操作内容に応じた操作信号を出力するキーボードやマウス等の操作部13等を有する。なお、誤差検出装置1は、例えば、パーソナルコンピュータであり、その他にPDA(Personal Digital Assistant)、携帯電話機等を用いることもできる。   The error detection apparatus 1 includes a CPU (Central Processing Unit) having a function for processing information and an electronic component such as a storage unit inside the main body, and processes image information generated as a result of photographing with the camera 2. The information processing apparatus includes a display unit 12 such as a liquid crystal display that displays an image, and an operation unit 13 such as a keyboard and a mouse that output an operation signal corresponding to the operation content. Note that the error detection device 1 is, for example, a personal computer, and a PDA (Personal Digital Assistant), a mobile phone, or the like can also be used.

カメラ2は、対象物3を撮影方向20a以外にも他の複数の撮影方向から撮影し、撮影した撮影方向20a及び他の複数の撮影方向を対応する撮影した画像情報とともに記録し、これらの情報を誤差検出装置1に送信する。   The camera 2 shoots the object 3 from a plurality of other shooting directions in addition to the shooting direction 20a, and records the shooting direction 20a and the other shooting directions together with the shot image information corresponding to the shot direction. Is transmitted to the error detection apparatus 1.

対象物3は、複数の面から構成される立体形状物である。なお、対象物3の表面は、模様を有していてもよく、材質等の種類は特に問わない   The object 3 is a three-dimensional object composed of a plurality of surfaces. Note that the surface of the object 3 may have a pattern, and the type of material or the like is not particularly limited.

(誤差検出装置の構成)
図2は、本実施形態に係る誤差検出装置1の構成例を示すブロック図である。
(Configuration of error detection device)
FIG. 2 is a block diagram illustrating a configuration example of the error detection apparatus 1 according to the present embodiment.

誤差検出装置1は、CPU等から構成され各部を制御するとともに各種のプログラムを実行する制御部10と、HDD(Hard Disk Drive)やフラッシュメモリ等の記憶媒体であって情報を記憶する記憶部11と、液晶ディスプレイ等であって文字や画像を表示する表示部12と、キーボード及びマウス等であって操作内容に応じた操作信号を出力する操作部13と、カメラ2と情報を通信する通信部14とを備える。   The error detection apparatus 1 includes a CPU and the like. The control unit 10 controls each unit and executes various programs. The storage unit 11 is a storage medium such as an HDD (Hard Disk Drive) or a flash memory and stores information. A display unit 12 for displaying characters and images, such as a liquid crystal display, an operation unit 13 for outputting an operation signal corresponding to the operation content, such as a keyboard and a mouse, and a communication unit for communicating information with the camera 2 14.

なお、誤差検出装置1は、例えば、パーソナルコンピュータやPDA、携帯電話等の電子機器であるが、表示部12や操作部13を備えないサーバ装置のようなものでもよく、その場合はネットワーク等により接続された端末装置の操作部や表示部がそれらの機能を代替する。   The error detection device 1 is, for example, an electronic device such as a personal computer, a PDA, or a mobile phone. However, the error detection device 1 may be a server device that does not include the display unit 12 and the operation unit 13, and in that case, the network is used. The operation unit and display unit of the connected terminal device replace these functions.

制御部10は、後述する誤差検出プログラム110を実行することで、撮影画像情報受付手段100、位置合わせ手段101、誤差マップ生成手段102、エッジ抽出手段103、誤差点判定手段104、誤差点選別手段105及び誤差点表示手段106等として機能する。   The control unit 10 executes an error detection program 110, which will be described later, so that the captured image information receiving unit 100, the alignment unit 101, the error map generation unit 102, the edge extraction unit 103, the error point determination unit 104, and the error point selection unit. 105 and error point display means 106 and the like.

撮影画像情報受付手段100は、通信部14を介してカメラ2で撮影された撮影画像情報111及び撮影方向や撮影位置、レンズ特性等の内容を含む撮影情報112を受け付けて、記憶部11に格納する。   The photographed image information accepting unit 100 accepts photographed image information 111 photographed by the camera 2 via the communication unit 14 and photographing information 112 including contents such as a photographing direction, a photographing position, and lens characteristics, and stores them in the storage unit 11. To do.

位置合わせ手段101は、対象物三次元情報113を二次元で表示して得られる画像である表示画像を撮影画像情報111に合わせる三次元座標の変換行列を計算して求め、その変換行列によって撮影画像情報111と対象物三次元情報113とを位置合わせする。なお、変換行列は3次元位置を平行移動・回転・拡大縮小させる行列である。また、位置合わせは、行列に限らず3次元位置を平行移動・回転・拡大縮小させる作用素であればよい。   The alignment means 101 calculates and obtains a transformation matrix of three-dimensional coordinates for matching a display image, which is an image obtained by displaying the object three-dimensional information 113 in two dimensions, with the photographed image information 111, and shoots with the transformation matrix. The image information 111 and the object three-dimensional information 113 are aligned. Note that the transformation matrix is a matrix that translates, rotates, and scales a three-dimensional position. The alignment is not limited to a matrix, and any operator that translates, rotates, and enlarges / reduces a three-dimensional position may be used.

誤差マップ生成手段102は、対象物三次元情報113及び位置合わせの対象である撮影画像情報111に対応した撮影情報112から後述する方法で二次元表示上の誤差の許容量を計算して、計算した誤差の許容量を後述する表示画像120の座標に対応付けた誤差マップ114を生成する。   The error map generation means 102 calculates the allowable amount of error on the two-dimensional display from the imaging information 112 corresponding to the object 3D information 113 and the imaging image information 111 to be aligned by a method described later. An error map 114 is generated in which the allowable amount of error is associated with the coordinates of the display image 120 described later.

エッジ抽出手段103は、撮影画像情報111と、撮影画像情報111と位置合わせされた対象物三次元情報113とからそれぞれ対象物3のエッジ(輪郭)に該当する座標(以下、「エッジ点」という。)を抽出してエッジ情報115を生成する。   The edge extraction means 103 is a coordinate (hereinafter referred to as an “edge point”) corresponding to an edge (contour) of the target object 3 from the captured image information 111 and the target object three-dimensional information 113 aligned with the captured image information 111. .) Is extracted to generate edge information 115.

誤差点判定手段104は、エッジ抽出手段103が抽出したエッジ点と、誤差マップ生成手段102が生成した誤差マップ114とを比較してエッジ点が誤差を有する誤差点か否かを判定するとともに、判定結果をエッジ情報115に反映して誤差情報116として生成する。   The error point determination unit 104 compares the edge point extracted by the edge extraction unit 103 with the error map 114 generated by the error map generation unit 102 to determine whether the edge point is an error point having an error. The determination result is reflected in the edge information 115 and generated as error information 116.

誤差点選別手段105は、誤差情報116に同一の点である蓋然性が高い誤差点が2以上存在する場合に、より確からしい誤差点を選別する。   The error point selection unit 105 selects a more probable error point when there are two or more error points having a high probability of being the same point in the error information 116.

誤差点表示手段106は、誤差情報116の誤差点を対象物三次元情報113の表示画像上にプロットして表示する。   The error point display means 106 plots and displays the error points of the error information 116 on the display image of the target object three-dimensional information 113.

記憶部11は、制御部10を上述した各手段100〜106として動作させる誤差検出プログラム110、カメラ2で撮影された対象物3の画像情報である撮影画像情報111、撮影を行ったときのカメラ2の撮影方向や撮影位置、レンズ特性等の情報を含む撮影情報112、対象物3を製造するために三次元で記載された設計情報である対象物三次元情報113、誤差マップ生成手段102が生成した誤差マップ114、エッジ抽出手段103が抽出したエッジ情報115及び誤差点判定手段104が生成した誤差情報116等を記憶する。   The storage unit 11 includes an error detection program 110 that causes the control unit 10 to operate as the above-described units 100 to 106, captured image information 111 that is image information of the object 3 captured by the camera 2, and a camera at the time of shooting. 2 includes shooting information 112 including information such as shooting direction, shooting position, and lens characteristics, object three-dimensional information 113 that is design information written in three dimensions to manufacture the object 3, and error map generation means 102. The generated error map 114, the edge information 115 extracted by the edge extraction unit 103, the error information 116 generated by the error point determination unit 104, and the like are stored.

図3(a)及び(b)は撮影画像情報の内容の一例を示す概略図、図3(c)は撮影情報の内容の一例を示す概略図、図3(d)は対象物三次元情報113の表示画像の一例を示す概略図である。   FIGS. 3A and 3B are schematic diagrams showing an example of the contents of the photographed image information, FIG. 3C is a schematic diagram showing an example of the contents of the photographed information, and FIG. 3D is the object three-dimensional information. It is the schematic which shows an example of the display image of 113. FIG.

図3(a)に示す撮影画像情報111aは、後述する図3(c)に示す撮影情報112に示すように、カメラ2によって撮影方向20aから対象物3を撮影することで得られる情報である。   The photographed image information 111a shown in FIG. 3A is information obtained by photographing the object 3 from the photographing direction 20a by the camera 2, as shown in the photographing information 112 shown in FIG. .

また、図3(b)に示す撮影画像情報111bは、図3(c)に示す撮影情報112に示すようにカメラ2によって撮影方向20bから対象物3を撮影することで得られる情報である。   Also, the photographed image information 111b shown in FIG. 3B is information obtained by photographing the object 3 from the photographing direction 20b by the camera 2 as shown in the photographing information 112 shown in FIG.

図3(c)に示す対象物三次元表示画像113Aは、対象物三次元情報113を再生することで表示部12に表示される表示画像120である。対象物三次元表示画像113Aは、操作部13に対する利用者の操作内容に応じてその表示内容を拡大・縮小や回転等されるものであってもよい。   An object three-dimensional display image 113A shown in FIG. 3C is a display image 120 displayed on the display unit 12 by reproducing the object three-dimensional information 113. The target object three-dimensional display image 113 </ b> A may be an image whose display content is enlarged / reduced or rotated according to the user's operation content on the operation unit 13.

図3(d)に示す撮影情報112は、カメラ2で生成される撮影画像情報の識別子が記録される撮影画像情報欄及び撮影画像情報の撮影方向が記録される撮影方向欄等を有する。   The shooting information 112 shown in FIG. 3D includes a shooting image information column in which an identifier of shooting image information generated by the camera 2 is recorded, a shooting direction column in which the shooting direction of the shooting image information is recorded, and the like.

(誤差検出装置の動作)
以下に、誤差検出装置1の動作例を図1〜図8を参照しつつ、(1)基本動作、(2)誤差マップ生成動作、(3)誤差点検出動作、(4)誤差点表示動作に分けて説明する。
(Operation of error detection device)
Hereinafter, with reference to FIGS. 1 to 8, an example of the operation of the error detection device 1 will be described. (1) Basic operation, (2) Error map generation operation, (3) Error point detection operation, (4) Error point display operation This will be explained separately.

(1)基本動作
まず、利用者は、カメラ2によって複数の撮影方向から対象物3を撮影する。カメラ2は、撮影した撮影画像情報111とともに、撮影方向や撮影位置、レンズ特性等から得られる撮影情報112をカメラ2の記憶部に格納する。
(1) Basic operation First, the user photographs the object 3 from a plurality of photographing directions with the camera 2. The camera 2 stores shooting information 112 obtained from the shooting direction, shooting position, lens characteristics, and the like in the storage unit of the camera 2 together with the shot image information 111 taken.

利用者は、誤差検出装置1の操作部13を操作してカメラ2との通信を指示する。操作部13は、操作に応じて操作信号を出力する。   The user operates the operation unit 13 of the error detection device 1 to instruct communication with the camera 2. The operation unit 13 outputs an operation signal according to the operation.

誤差検出装置1は、操作部13から操作信号を受信するとカメラ2と通信部14を介して通信を開始する。次に、撮影画像情報受付手段100は、カメラ2の記憶部から撮影画像情報111及び撮影情報112を受け付けて記憶部11に格納する。なお、撮影画像情報受付手段100は、カメラ2以外の外部装置から予め撮影された撮影画像情報111及び撮影情報112を受け付けてもよい。   When receiving the operation signal from the operation unit 13, the error detection device 1 starts communication with the camera 2 via the communication unit 14. Next, the photographed image information accepting unit 100 accepts the photographed image information 111 and the photographed information 112 from the storage unit of the camera 2 and stores them in the storage unit 11. Note that the photographed image information accepting unit 100 may accept photographed image information 111 and photographed information 112 previously photographed from an external device other than the camera 2.

次に、利用者が操作部13を介して記憶部に格納された撮影画像情報111と対象物三次元情報113との位置合わせを要求すると、誤差検出装置1の位置合わせ手段101は、まず、対象物三次元情報113の表示画像を、例えば、撮影画像情報111aに位置合わせする。   Next, when the user requests alignment of the captured image information 111 and the object three-dimensional information 113 stored in the storage unit via the operation unit 13, the alignment unit 101 of the error detection apparatus 1 firstly The display image of the object three-dimensional information 113 is aligned with, for example, the captured image information 111a.

位置合わせの方法は、例えば、撮影画像情報111と対象物三次元情報113とからそれぞれの座標を一致させるための特徴的な点を利用者の操作により選択し、これらの特徴的な点の位置を合わせる変換行列を計算して求め、その変換行列によって対象物三次元情報113の座標を変換して撮影画像情報111との位置を合わせる。なお、変換行列は3次元位置を平行移動・回転・拡大縮小させる行列である。   For example, the alignment method is performed by selecting a characteristic point for matching the coordinates from the captured image information 111 and the target object three-dimensional information 113 by a user's operation, and the position of these characteristic points. Is calculated and obtained, and the coordinates of the object three-dimensional information 113 are converted by the conversion matrix to match the position with the captured image information 111. Note that the transformation matrix is a matrix that translates, rotates, and scales a three-dimensional position.

(2)誤差マップ生成動作
図13は、誤差検出装置1の動作の一例を示すフローチャートである。
(2) Error Map Generation Operation FIG. 13 is a flowchart showing an example of the operation of the error detection device 1.

次に、誤差マップ生成手段102は、撮影画像情報111aに位置合わせされた対象物三次元情報113から以下に説明する方法で誤差マップ114aを生成する(S1)。   Next, the error map generation means 102 generates an error map 114a from the object three-dimensional information 113 aligned with the captured image information 111a by a method described below (S1).

まず、誤差マップ生成手段102は、撮影画像情報111aに位置合わせされた対象物三次元情報113の視点となる視点座標、つまり、カメラ2の撮影方向20aに対応する視点座標と、対象物を形成する複数の面との関係から定まる二次元表示上の誤差の許容量であるmを計算する。   First, the error map generation unit 102 forms an object with the viewpoint coordinates corresponding to the viewpoint of the object 3D information 113 aligned with the captured image information 111a, that is, the viewpoint coordinates corresponding to the imaging direction 20a of the camera 2. M, which is an allowable amount of error on the two-dimensional display determined from the relationship with the plurality of surfaces to be calculated.

図4(a)及び(b)は、二次元表示上の誤差の許容量を計算するための各パラメータを説明するための概略図である。   FIGS. 4A and 4B are schematic diagrams for explaining each parameter for calculating the allowable amount of error on the two-dimensional display.

対象物3を構成する面を物体表面S、物体表面Sの法線をn、対象物3に対する視点座標をカメラ位置P、表示部12の表示画面に該当する仮想的な平面を画像平面I及び設計上の許容誤差を許容誤差eとしたとき、撮影方向と法線nとの角度a、視点座標と物体表面Sとの距離d及び焦点距離fを用いて二次元表示上の誤差の許容量であるmは、以下に示す式(1)のように表される。

Figure 0005636966

なお、(x、y)は、対象物三次元情報113の表示画像120上の座標を示し、画像の解像度(pixel)分存在するものである。 The surface constituting the object 3 is the object surface S, the normal of the object surface S is n, the viewpoint coordinates for the object 3 are the camera position P, and the virtual plane corresponding to the display screen of the display unit 12 is the image plane I and When the allowable error in design is the allowable error e, the allowable amount of error on the two-dimensional display using the angle a between the shooting direction and the normal n, the distance d between the viewpoint coordinates and the object surface S, and the focal distance f. Where m is expressed as in the following formula (1).
Figure 0005636966

Here, (x, y) indicates the coordinates on the display image 120 of the object three-dimensional information 113, and exists for the resolution (pixel) of the image.

次に、誤差マップ生成手段102は、mの値が予め定めた閾値より小さい場合及び法線nが連続的に変化する場合(平面でない場合)に、mの値をm=0とし、表示画像120の座標に対応付けて、以下に説明する誤差マップ114aを生成する。   Next, the error map generation means 102 sets the value of m to m = 0 when the value of m is smaller than a predetermined threshold and when the normal n changes continuously (when it is not a plane), and the display image An error map 114a described below is generated in association with the 120 coordinates.

図5(a)及び(b)は、誤差マップの構成の一例を示す概略図である。   FIGS. 5A and 5B are schematic diagrams illustrating an example of the configuration of the error map.

図5(a)に示す誤差マップ114aは、m=0の点及び上述した方法によりm=0とされた点の集合を領域114aとして、また、m≠0である点の集合を領域114aとして表示している。 Error map shown in FIG. 5 (a) 114a is, m = 0 point and a set of points with the m = 0 by the above-described method as a region 114a 1, The region 114a of the set of points a m ≠ 0 2 is displayed.

次に、誤差マップ生成手段102は、誤差マップ114aの各座標の範囲をmの値に比例させて膨張処理し(S2)、誤差マップ114bを生成する。領域114bは、領域114aと同様にm=0である点の集合であり、領域114bは、領域114aを膨張処理した領域である。 Next, the error map generation means 102 expands the range of each coordinate of the error map 114a in proportion to the value of m (S2), and generates an error map 114b. The area 114b 1 is a set of points where m = 0 similarly to the area 114a 1 , and the area 114b 2 is an area obtained by expanding the area 114a 2 .

なお、膨張処理において異なるmの値を有する隣り合う領域間の調整については以下に説明する方法で対処する。   It should be noted that adjustment between adjacent regions having different values of m in the expansion processing is handled by the method described below.

図6(a)〜(c2)は、誤差マップの膨張処理の方法の一例を説明するための概略図である。   FIGS. 6A to 6C are schematic diagrams for explaining an example of an error map expansion processing method.

図6(a)に示すように、膨張処理前の領域Aがm=2であって、領域Aがm=6であるとしたとき、隣り合う領域がない場合は、図6(b)に示すように、膨張処理によって領域A、Aはそれぞれの外側に2pixel、6pixel拡張される。この場合にいずれの領域を優先させるのかによって後述する誤差検出の結果が変化する。 As shown in FIG. 6 (a), regions A 1 before expansion processing an m = 2, when the area A 2 is assumed to be m = 6, if there is no adjacent region, FIG. 6 (b ), The regions A 1 and A 2 are expanded by 2 pixels and 6 pixels on the outside by the expansion process. In this case, the error detection result to be described later varies depending on which region is prioritized.

例えば、図6(c1)に示すように、mの値の大きい領域、つまり領域Aを優先させて領域を境界lまで拡張すると、許容誤差内にある点の誤検出が減少する。 For example, as shown in FIG. 6 (c1), a large region of the value of m, i.e. when the area A 2 is preferentially expand the region to the boundary l 2 and reduces erroneous detection of a point within tolerance.

また、例えば、図6(c2)に示すように、mの値の小さい領域、つまり領域Aを優先させて領域を境界lまで拡張すると、誤差を有する点の検出漏れが減少する。 Further, for example, as shown in FIG. 6 (c2), a small region of the value of m, i.e. when extending the area give priority to the area A 1 to the boundary l 1, undetected points with error is reduced.

また、例えば、図6(c3)に示すように、mが中間値であるm=4であって境界l及びlによって定義される領域Aを生成すると、図6(c1)及び(c2)に示した場合の中間的な性質で誤差を有する点が検出される。 Further, for example, as shown in FIG. 6 (c3), when m is generates area A 3, defined by a m = 4, which is an intermediate value by the boundary l 1 and l 2, FIG. 6 (c1) and ( A point having an error with an intermediate property in the case shown in c2) is detected.

(3)誤差点検出動作
図7(a)及び(b)は、エッジ抽出手段103の動作例を説明ための概略図である。
(3) Error Point Detection Operation FIGS. 7A and 7B are schematic diagrams for explaining an operation example of the edge extraction unit 103. FIG.

次に、エッジ抽出手段103は、表示画像120については対象物三次元情報の面の法線や平面の境界を定義する情報等を使い、撮影画像情報111aからは写真の濃淡値等を用いて、Sobelフィルタに代表されるエッジ抽出の方法を用いて対象物3のエッジに該当する座標点を抽出する。その結果、図7(a)に示すように、表示画像120に基づいてエッジ点集合115Aが抽出される(S3)。また、図7(b)に示すように、撮影画像情報111aに基づいてエッジ点集合115Bが抽出される。なお、エッジ点集合115Aは、対象物三次元情報113の画素単位(pixel)で座標が抽出され、エッジ点集合115Bは、撮影画像情報111aの画素単位(pixel)で座標が抽出される。なお、エッジ抽出手段103は、エッジ点の抽出の際にノイズが含まれないようにするため、孤立点除去などのノイズ除去を行ってもよい。   Next, the edge extraction unit 103 uses the information defining the normal of the surface of the object three-dimensional information or the boundary of the plane for the display image 120, and uses the gray value of the photograph from the photographed image information 111a. Then, a coordinate point corresponding to the edge of the object 3 is extracted using an edge extraction method represented by a Sobel filter. As a result, as shown in FIG. 7A, an edge point set 115A is extracted based on the display image 120 (S3). Further, as shown in FIG. 7B, an edge point set 115B is extracted based on the captured image information 111a. In the edge point set 115A, coordinates are extracted in pixel units (pixels) of the object three-dimensional information 113, and in the edge point set 115B, coordinates are extracted in pixel units (pixels) of the captured image information 111a. Note that the edge extraction unit 103 may perform noise removal such as isolated point removal so that noise is not included in the extraction of edge points.

図8A(a)及び(b)は、エッジ抽出手段103によって抽出されたエッジ点集合から生成されるエッジ情報である。   8A (a) and 8 (b) are edge information generated from the edge point set extracted by the edge extraction means 103. FIG.

図8A(a)に示すように、エッジ情報115aは、対象物三次元情報113の表示画像120におけるエッジの二次元座標を示すエッジの二次元座標欄と、表示画像120の撮影方向と対応する撮影画像情報の写真番号を示す写真番号欄とを有する。   As shown in FIG. 8A (a), the edge information 115a corresponds to the edge two-dimensional coordinate field indicating the two-dimensional coordinates of the edge in the display image 120 of the object three-dimensional information 113 and the photographing direction of the display image 120. And a photo number column indicating the photo number of the photographed image information.

図8A(b)に示すように、エッジ情報115bは、撮影画像情報111aの座標におけるエッジの座標を示すエッジの画像上の座標欄と、撮影画像情報111aの写真番号を示す写真番号欄とを有する。   As shown in FIG. 8A (b), the edge information 115b includes a coordinate field on the edge image indicating the coordinates of the edge in the coordinates of the captured image information 111a and a photo number field indicating the photo number of the captured image information 111a. Have.

図8B(a)及び(b)は、エッジ抽出手段103によって計算された誤差距離を含むエッジ情報である。   8B (a) and 8 (b) are edge information including the error distance calculated by the edge extraction unit 103. FIG.

まず、エッジ抽出手段103は、エッジ点集合115aについて、各エッジ点に最も近いエッジ点集合115b内の点との距離を計算し、誤差距離として記録する。例えば、図8Bに示すように、エッジ点集合115aのエッジの二次元座標(202、325)に最も近いエッジ点集合115bのエッジの画像上の座標は(203、324)であり、その誤差距離は、

Figure 0005636966
である。エッジ点集合115bについても同様に、各エッジの画像上の座標点に最も近いエッジ点集合115a内のエッジの二次元座標との距離を計算し、誤差距離として記録する。以上より、図8B(a)に示すエッジ情報115a’及び図8B(b)に示すエッジ情報115b’が得られる。 First, the edge extraction unit 103 calculates the distance between the edge point set 115a and a point in the edge point set 115b closest to each edge point, and records it as an error distance. For example, as shown in FIG. 8B, the coordinates on the image of the edge of the edge point set 115b closest to the two-dimensional coordinates (202, 325) of the edge of the edge point set 115a are (203, 324), and the error distance thereof. Is
Figure 0005636966
It is. Similarly, for the edge point set 115b, the distance from the two-dimensional coordinates of the edge in the edge point set 115a closest to the coordinate point on the image of each edge is calculated and recorded as an error distance. As described above, the edge information 115a ′ shown in FIG. 8B (a) and the edge information 115b ′ shown in FIG. 8B (b) are obtained.

図9(a)〜(d)は、誤差点判定手段104の動作の一例を説明するための概略図である。   FIGS. 9A to 9D are schematic diagrams for explaining an example of the operation of the error point determination unit 104.

次に、誤差点判定手段104は、図9(a)(図7(a)及び(b))に示すエッジ抽出手段103が抽出したエッジ点集合115A及び115Bと、図9(b)に示す誤差マップ生成手段102が生成して膨張処理を実行した誤差マップ114bとを合成して(S4)、図9(c)に示す誤差画像116Aを生成する。   Next, the error point determination unit 104 includes edge point sets 115A and 115B extracted by the edge extraction unit 103 shown in FIG. 9A (FIGS. 7A and 7B), and FIG. 9B. The error map 114b generated by the error map generation means 102 and subjected to the expansion process is synthesized (S4) to generate an error image 116A shown in FIG. 9C.

次に、誤差点判定手段104は、領域114bに含まれるエッジ点であって、その誤差距離(図8B(a)及び(b))が、誤差マップ114bの許容量mよりも大きい場合、誤差のあるエッジであると判定し(S5)、その旨を示すエッジラベルIを付与する。エッジラベルIが付与されたエッジ点の集合116bは図9(d)において太い実線で示される。 Next, when the error point determination unit 104 is an edge point included in the region 114b 2 and its error distance (FIG. 8B (a) and (b)) is larger than the allowable amount m of the error map 114b, It is determined that the edge has an error (S5), and an edge label I indicating that is given. Set 116 b 1 of edge points edge labeled I is assigned is indicated by a thick solid line in FIG. 9 (d).

また、領域114bに含まれるエッジ点であって、その誤差距離(図8B(a)及び(b))が、誤差マップ114bの許容量mよりも小さい場合、誤差のないエッジであると判定し、その旨を示すエッジラベルIIを付与する。エッジラベルIIIが付与されたエッジ点の集合116bは図9(d)において細い実線で示される。 Further, if the error distance (FIG. 8B (a) and (b) in FIG. 8B) is an edge point included in the region 114b 2 and is smaller than the allowable amount m of the error map 114b, it is determined that the edge has no error. Then, the edge label II indicating that is given. Set 116 b 2 of edge points edge labeled III was granted is indicated by a thin solid line in FIG. 9 (d).

また、領域114bに含まれるエッジ点は検査外のエッジであると判定し、その旨を示すエッジラベルIIIを付与する。エッジラベルIIIが付与されたエッジ点の集合116bは図9(d)において破線で示される。 The edge points contained in the region 114b 1 is determined as an edge of the outside inspection, imparting an edge label III indicating that. Edge label III is a set of granted edge points 116 b 3 are shown by broken lines in FIG. 9 (d).

図10(a)は、誤差点判定手段104によってエッジ情報115にエッジラベルが付与された誤差情報の内容例を示す概略図である。   FIG. 10A is a schematic diagram showing a content example of error information in which an edge label is added to the edge information 115 by the error point determination means 104.

誤差情報116bは、エッジ情報115a及び115bのエッジの三次元座標欄と、エッジの画像上の座標欄と、写真番号欄とを有し、さらにエッジラベル欄を有する。エッジの三次元座標は、エッジの画像上の座標(x、y)とカメラアングル(撮影方向及び撮影距離)並びに対象物3の位置から求める。   The error information 116b includes a three-dimensional coordinate column of edges of the edge information 115a and 115b, a coordinate column on the edge image, a photo number column, and further includes an edge label column. The three-dimensional coordinates of the edge are obtained from the coordinates (x, y) on the image of the edge, the camera angle (shooting direction and shooting distance), and the position of the object 3.

図10(b)は、誤差点選別手段105の動作を説明するための概略図である。   FIG. 10B is a schematic diagram for explaining the operation of the error point selection unit 105.

誤差点選別手段105は、複数の撮影画像情報について上述したステップS5を行い、複数の撮影画像情報111における誤差情報をマージし(S6)、生成された誤差情報116cにおいて、エッジ点の三次元座標が近いデータについてエッジラベルがIII以外のもの、法線nとのなす角aが小さいもの又はmの値が大きいもの等の基準に基づいて最も信用できるデータを選別する(S7)。   The error point selection unit 105 performs the above-described step S5 for a plurality of photographed image information, merges the error information in the plurality of photographed image information 111 (S6), and in the generated error information 116c, the three-dimensional coordinates of the edge point The most reliable data is selected on the basis of criteria such as those having edge labels other than III, those having a small angle a with the normal n, and those having a large m value (S7).

(4)誤差点表示動作
図11は、誤差点表示手段106が生成する誤差三次元情報の表示画像の一例を示す概略図である。
(4) Error Point Display Operation FIG. 11 is a schematic diagram showing an example of a display image of error three-dimensional information generated by the error point display means 106.

次に、誤差点表示手段106は、対象物三次元情報113の表示画像120上に誤差情報116cをエッジラベルごとにエッジラベルIが付与されたエッジ点の集合116c、エッジラベルIIが付与されたエッジ点の集合116c、エッジラベルIIIが付与されたエッジ点の集合116cをプロットし(S8)、誤差三次元情報116Cを生成する。 Next, the error point display means 106 is provided with the edge point set 116c 1 and the edge label II to which the error information 116c and the edge label I are assigned for each edge label on the display image 120 of the object three-dimensional information 113. The edge point set 116c 2 and the edge point set 116c 3 to which the edge label III is assigned are plotted (S8), and error three-dimensional information 116C is generated.

図12(a)及び(b)は、誤差点表示手段106が生成する誤差三次元情報の表示画像の他の例を示す概略図である。   12A and 12B are schematic views showing another example of the display image of the error three-dimensional information generated by the error point display means 106. FIG.

また、誤差点表示手段106は、図12(a)に示すように、利用者の操作に応じてカーソル120aによって誤差三次元情報116Cの表示画像120の任意のエッジ点が選択されると、選択されたエッジ点の複数の撮影画像情報におけるmの値を比較し、図12(b)に示すように、最もmの値の大きいエッジ点に対応した撮影画像情報の撮影方向における誤差三次元情報116B’の表示画像120を表示する。   Further, as shown in FIG. 12A, the error point display means 106 is selected when an arbitrary edge point of the display image 120 of the error three-dimensional information 116C is selected by the cursor 120a according to the operation of the user. The values of m in a plurality of photographed image information of the edge points thus obtained are compared, and as shown in FIG. 12B, error three-dimensional information in the photographing direction of the photographed image information corresponding to the edge point having the largest value of m The display image 120 of 116B ′ is displayed.

[他の実施の形態]
なお、本発明は、上記実施の形態に限定されず、本発明の要旨を逸脱しない範囲で種々な変形が可能である。
[Other embodiments]
The present invention is not limited to the above embodiment, and various modifications can be made without departing from the gist of the present invention.

図14(a)〜(c2)は、誤差マップにおいて膨張処理を行わずにエッジ点に誤差があるか否か判定する方法の一例を説明するための概略図である。   FIGS. 14A to 14C are schematic diagrams for explaining an example of a method for determining whether or not there is an error in an edge point without performing expansion processing in the error map.

図14(a)に示すように、領域Aがm=2であって、領域Aがm=6であるとしたときに、図14(b)に示すように、撮影画像情報111のエッジ点の集合よりなる撮影画像の線lphotoと対象物三次元情報113のエッジ点の集合よりなる三次元画像の線l3Dとが存在する場合について、以下に説明するように撮影画像の線lphoto及び三次元画像の線l3Dのそれぞれについて誤差があるか否か判断する。 As shown in FIG. 14 (a), in the area A 1 is an m = 2, when the area A 2 is assumed to be m = 6, as shown in FIG. 14 (b), the captured image information 111 A case where a photographed image line l photo composed of a set of edge points and a three-dimensional image line l 3D composed of a set of edge points of the target object three-dimensional information 113 exist as described below. It is determined whether there is an error for each of l photo and line l 3D of the three-dimensional image.

例えば、図14(c1)に示すように、撮影画像の線lphotoについては、三次元画像の線l3Dまでのベクトルdphotoの値が、ベクトルの示す先の誤差マップの値m=6以上であれば、誤差点判定手段104は誤差があると判断する。 For example, as shown in FIG. 14C1, for the line l photo of the captured image, the value of the vector d photo up to the line l 3D of the three-dimensional image has a value m = 6 or more of the previous error map indicated by the vector. If so, the error point determination means 104 determines that there is an error.

また、図14(c2)に示すように、三次元画像の線l3Dについては、三次元画像の線lphotoまでのベクトルd3Dの値が、ベクトルの示す先の誤差マップの値m=2以上であれば、誤差点判定手段104は誤差があると判断する。 Further, as shown in FIG. 14C2, for the line l 3D of the three-dimensional image, the value of the vector d 3D up to the line l photo of the three-dimensional image is the error map value m = 2 indicated by the vector. If so, the error point determination means 104 determines that there is an error.

また、上記誤差検出プログラム110をCD−ROM等の記憶媒体に格納して提供することも可能であり、インターネット等のネットワークに接続されているサーバ装置等から装置内の記憶部にダウンロードしてもよい。また、撮影画像情報受付手段100、位置合わせ手段101、誤差マップ生成手段102、エッジ抽出手段103、誤差点判定手段104、誤差点選別手段105及び誤差点表示手段106の一部又は全部をASIC等のハードウェアによって実現してもよい。なお、上記実施の形態の動作説明で示した各ステップは、順序の変更、ステップの省略、追加が可能である。   The error detection program 110 can also be provided by being stored in a storage medium such as a CD-ROM, and can be downloaded from a server device connected to a network such as the Internet to a storage unit in the device. Good. In addition, a part or all of the photographed image information receiving unit 100, the alignment unit 101, the error map generation unit 102, the edge extraction unit 103, the error point determination unit 104, the error point selection unit 105, and the error point display unit 106 may be ASIC or the like. You may implement | achieve by the hardware of. Note that each step shown in the operation description of the above embodiment can be changed in order, omitted or added.

1 誤差検出装置
2 カメラ
3 対象物
5 誤差検出システム
10 制御部
11 記憶部
12 表示部
13 操作部
14 通信部
100 撮影画像情報受付手段
101 位置合わせ手段
102 誤差マップ生成手段
103 エッジ抽出手段
104 誤差点判定手段
105 誤差点選別手段
106 誤差点表示手段
110 誤差検出プログラム
111 撮影画像情報
112 撮影情報
113 対象物三次元情報
114 誤差マップ
115 エッジ情報
115A エッジ点集合
115B エッジ点集合
115a エッジ情報
115b エッジ情報
116 誤差情報
116A 誤差画像
116B 誤差三次元情報
116C 誤差三次元情報
120 表示画像
DESCRIPTION OF SYMBOLS 1 Error detection apparatus 2 Camera 3 Object 5 Error detection system 10 Control part 11 Memory | storage part 12 Display part 13 Operation part 14 Communication part 100 Captured image information reception means 101 Positioning means 102 Error map generation means 103 Edge extraction means 104 Error point Determination means 105 Error point selection means 106 Error point display means 110 Error detection program 111 Shooting image information 112 Shooting information 113 Object three-dimensional information 114 Error map 115 Edge information 115A Edge point set 115B Edge point set 115a Edge information 115b Edge information 116 Error information 116A Error image 116B Error three-dimensional information 116C Error three-dimensional information 120 Display image

Claims (6)

対象物の設計の内容を示す三次元の設計情報を二次元の表示画像として表示するための視点を示す視点座標に作用素を適用し、前記設計情報に基づいて形成された対象物の撮影画像と当該設計情報の表示画像とを位置合わせする位置合わせ手段と、
少なくとも、前記位置合わせ手段によって前記撮影画像と位置合わせされた前記設計情報の視点座標と前記設計情報の前記対象物を構成する面との距離及び前記設計情報の視点座標と前記設計情報の前記対象物を構成する面の座標とを通る直線と当該面の法線とのなす角度に基づいて算出される二次元表示上の誤差の許容量を、前記設計情報の二次元の表示画像の座標に対応づけて誤差の許容量の分布を示す誤差許容量分布画像を生成する生成手段と、
前記設計情報の表示画像及び前記撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出する抽出手段と、
前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の前記二次元表示上の誤差の許容量を超えるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する誤差点判定手段と、
を有する誤差検出装置。
Applying an operator to viewpoint coordinates indicating a viewpoint for displaying three-dimensional design information indicating the design of the target object as a two-dimensional display image, and a captured image of the target formed based on the design information; Alignment means for aligning the display image of the design information;
At least the distance between the viewpoint coordinates of the design information aligned with the captured image by the alignment means and the plane of the design information constituting the object, the viewpoint coordinates of the design information, and the object of the design information The tolerance of the error on the two-dimensional display calculated based on the angle formed by the straight line passing through the coordinates of the surface constituting the object and the normal of the surface is used as the coordinate of the two-dimensional display image of the design information. Generating means for generating an error tolerance distribution image indicating the distribution of the error tolerance in association with each other;
Extraction means for extracting coordinates that are the contours of the object from the display image of the design information and the captured image;
The distance between the coordinates of the contour of the object of the display image of the design information extracted by the extraction means and the coordinates of the contour of the object of the captured image corresponding to the coordinates of the contour of the object is the error tolerance generated by the generation means. When the coordinates of the corresponding coordinates of the capacity distribution image exceed an allowable amount of error on the two-dimensional display, the coordinates of the display image of the design information and the contour of the object of the photographed image are determined as error points having errors. Error point determination means;
An error detection apparatus having
前記設計情報の表示画像に前記誤差点判定手段が誤差を有すると判定した前記誤差点を表示する誤差点表示手段をさらに有する請求項1に記載の誤差検出装置。   The error detection apparatus according to claim 1, further comprising an error point display unit that displays the error point determined by the error point determination unit to have an error in the display image of the design information. 前記抽出手段は、複数の撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出し、
前記誤差点判定手段は、前記複数の撮影画像から抽出した前記対象物の輪郭となる座標が、当該座標に対応する誤差許容量分布画像の二次元表示上の誤差の許容量を超えるとき誤差点であると判定し、
前記誤差点判定手段が判定した前記複数の撮影画像の誤差点のうち座標が近似している誤差点から、当該誤差点に対応する誤差許容量分布画像の二次元表示上の許容量の大きいものを代表の誤差点として選別する誤差点選別手段をさらに有する請求項2に記載の誤差検出装置。
The extraction means extracts coordinates that are the contours of the object from a plurality of captured images,
The error point determination unit is configured to detect an error point when coordinates serving as an outline of the target object extracted from the plurality of captured images exceed an error tolerance on a two-dimensional display of an error tolerance distribution image corresponding to the coordinates. It is determined that
Among the error points of the plurality of photographed images determined by the error point determination means, those having a large tolerance on the two-dimensional display of the error tolerance distribution image corresponding to the error point The error detection apparatus according to claim 2, further comprising an error point selecting unit that selects the error points as representative error points.
前記誤差点表示手段は、前記設計情報の表示画像に表示された誤差点が選択されたとき、前記誤差点選別手段が選別した前記代表の誤差点に対応づけられた撮影画像の視点座標から前記設計情報の表示画像と前記誤差点とを表示する請求項3に記載の誤差検出装置。   The error point display means, when an error point displayed in the display image of the design information is selected, from the viewpoint coordinates of the captured image associated with the representative error point selected by the error point selection means. The error detection apparatus according to claim 3, wherein a display image of design information and the error point are displayed. 前記生成手段は、前記誤差許容量分布画像の各座標の範囲を当該座標の前記二次元表示上の誤差の許容量に基づいて膨張処理し、
前記誤差点判定手段は、前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の膨張された前記範囲内に含まれるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する請求項1〜4のいずれかに記載の誤差検出装置。
The generating means expands the range of each coordinate of the error tolerance distribution image based on an error tolerance on the two-dimensional display of the coordinate,
The error point determination unit is configured such that a distance between a coordinate serving as the contour of the target object of the display image of the design information extracted by the extracting unit and a coordinate serving as the contour of the target object of the captured image corresponds to the generation. An error having an error in the coordinates of the display image of the design information and the contour of the object of the captured image when included in the expanded range of the corresponding coordinates of the error tolerance distribution image generated by the means The error detection device according to claim 1, wherein the error detection device determines a point.
コンピュータを、
対象物の設計の内容を示す三次元の設計情報を二次元の表示画像として表示するための視点を示す視点座標に作用素を適用し、前記設計情報に基づいて形成された対象物の撮影画像と当該設計情報の表示画像とを位置合わせする位置合わせ手段と、
少なくとも、前記位置合わせ手段によって前記撮影画像と位置合わせされた前記設計情報の視点座標と前記設計情報の前記対象物を構成する面との距離及び前記設計情報の視点座標と前記設計情報の前記対象物を構成する面の座標とを通る直線と当該面の法線とのなす角度に基づいて算出される二次元表示上の誤差の許容量を、前記設計情報の二次元の表示画像の座標に対応づけて誤差の許容量の分布を示す誤差許容量分布画像を生成する生成手段と、
前記設計情報の表示画像及び前記撮影画像からそれぞれ前記対象物の輪郭となる座標を抽出する抽出手段と、
前記抽出手段が抽出した前記設計情報の表示画像の前記対象物の輪郭となる座標と対応する前記撮影画像の前記対象物の輪郭となる座標との距離が、前記生成手段が生成した前記誤差許容量分布画像の対応する座標の前記二次元表示上の誤差の許容量を超えるときに前記設計情報の表示画像及び前記撮影画像の前記対象物の輪郭となる座標を誤差を有する誤差点と判定する誤差点判定手段として機能させる誤差検出プログラム。
Computer
Applying an operator to viewpoint coordinates indicating a viewpoint for displaying three-dimensional design information indicating the design of the target object as a two-dimensional display image, and a captured image of the target formed based on the design information; Alignment means for aligning the display image of the design information;
At least the distance between the viewpoint coordinates of the design information aligned with the captured image by the alignment means and the plane of the design information constituting the object, the viewpoint coordinates of the design information, and the object of the design information The tolerance of the error on the two-dimensional display calculated based on the angle formed by the straight line passing through the coordinates of the surface constituting the object and the normal of the surface is used as the coordinate of the two-dimensional display image of the design information. Generating means for generating an error tolerance distribution image indicating the distribution of the error tolerance in association with each other;
Extraction means for extracting coordinates that are the contours of the object from the display image of the design information and the captured image;
The distance between the coordinates of the contour of the object of the display image of the design information extracted by the extraction means and the coordinates of the contour of the object of the captured image corresponding to the coordinates of the contour of the object is the error tolerance generated by the generation means. When the coordinates of the corresponding coordinates of the capacity distribution image exceed an allowable amount of error on the two-dimensional display, the coordinates of the display image of the design information and the contour of the object of the photographed image are determined as error points having errors. An error detection program that functions as error point determination means.
JP2011000810A 2011-01-05 2011-01-05 Error detection apparatus and error detection program Expired - Fee Related JP5636966B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2011000810A JP5636966B2 (en) 2011-01-05 2011-01-05 Error detection apparatus and error detection program
CN2011203250265U CN202222448U (en) 2011-01-05 2011-09-01 Upper garment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011000810A JP5636966B2 (en) 2011-01-05 2011-01-05 Error detection apparatus and error detection program

Publications (2)

Publication Number Publication Date
JP2012141899A JP2012141899A (en) 2012-07-26
JP5636966B2 true JP5636966B2 (en) 2014-12-10

Family

ID=46073063

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011000810A Expired - Fee Related JP5636966B2 (en) 2011-01-05 2011-01-05 Error detection apparatus and error detection program

Country Status (2)

Country Link
JP (1) JP5636966B2 (en)
CN (1) CN202222448U (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7188201B2 (en) 2019-03-13 2022-12-13 富士通株式会社 Image processing device, image processing method, and image processing program

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3330790B2 (en) * 1995-08-30 2002-09-30 株式会社日立製作所 Three-dimensional shape recognition device, construction support device, object inspection device, type recognition device, and object recognition method
JP4537557B2 (en) * 2000-09-19 2010-09-01 オリンパス株式会社 Information presentation system
JP2005339127A (en) * 2004-05-26 2005-12-08 Olympus Corp Apparatus and method for displaying image information
JP5248806B2 (en) * 2007-04-25 2013-07-31 キヤノン株式会社 Information processing apparatus and information processing method

Also Published As

Publication number Publication date
JP2012141899A (en) 2012-07-26
CN202222448U (en) 2012-05-23

Similar Documents

Publication Publication Date Title
JP5783885B2 (en) Information presentation apparatus, method and program thereof
JP6716996B2 (en) Image processing program, image processing apparatus, and image processing method
JP6976733B2 (en) Image processing equipment, image processing methods, and programs
EP3093822B1 (en) Displaying a target object imaged in a moving picture
JP6464938B2 (en) Image processing apparatus, image processing method, and image processing program
JPWO2014061372A1 (en) Image processing apparatus, image processing method, and image processing program
JP2014071850A (en) Image processing apparatus, terminal device, image processing method, and program
JP2013005258A (en) Blur correction apparatus, blur correction method, and business form
JP6017343B2 (en) Database generation device, camera posture estimation device, database generation method, camera posture estimation method, and program
JP5751254B2 (en) Image processing system, image processing method, and image processing program
JP2012050013A (en) Imaging apparatus, image processing device, image processing method, and image processing program
JP6075294B2 (en) Image processing system and image processing method
JP6530432B2 (en) Image processing apparatus, image processing method and program
CN112907462A (en) Distortion correction method and system for ultra-wide-angle camera device and shooting device comprising distortion correction system
JP7003617B2 (en) Estimator, estimation method, and estimation program
JP6080424B2 (en) Corresponding point search device, program thereof, and camera parameter estimation device
CN110415196A (en) Method for correcting image, device, electronic equipment and readable storage medium storing program for executing
JP2006113832A (en) Stereo image processing apparatus and program
JP5636966B2 (en) Error detection apparatus and error detection program
JP2009146150A (en) Feature position detection method and feature position detection apparatus
KR102637913B1 (en) Method and apparatus for composing images
JP6168601B2 (en) Image converter
WO2019080257A1 (en) Electronic device, vehicle accident scene panoramic image display method and storage medium
JP2011171991A (en) Image processing apparatus, electronic device, image processing method and image processing program
JP2012068062A (en) Alignment device, alignment system and alignment program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140901

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140924

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141007

R150 Certificate of patent or registration of utility model

Ref document number: 5636966

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees