JP6594686B2 - Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, and program - Google Patents
Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, and program Download PDFInfo
- Publication number
- JP6594686B2 JP6594686B2 JP2015140576A JP2015140576A JP6594686B2 JP 6594686 B2 JP6594686 B2 JP 6594686B2 JP 2015140576 A JP2015140576 A JP 2015140576A JP 2015140576 A JP2015140576 A JP 2015140576A JP 6594686 B2 JP6594686 B2 JP 6594686B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- posture
- acquisition unit
- dimensional shape
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 24
- 238000005259 measurement Methods 0.000 claims description 197
- 238000004364 calculation method Methods 0.000 claims description 112
- 230000008859 change Effects 0.000 claims description 55
- 238000013461 design Methods 0.000 claims description 40
- 230000002123 temporal effect Effects 0.000 claims description 18
- 238000003384 imaging method Methods 0.000 claims description 12
- 230000036962 time dependent Effects 0.000 claims description 7
- 238000000691 measurement method Methods 0.000 claims description 6
- 230000009466 transformation Effects 0.000 claims description 5
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 238000004891 communication Methods 0.000 description 19
- 238000012937 correction Methods 0.000 description 15
- 239000004973 liquid crystal related substance Substances 0.000 description 12
- 230000006870 function Effects 0.000 description 9
- 238000004458 analytical method Methods 0.000 description 8
- 238000009412 basement excavation Methods 0.000 description 8
- 238000012545 processing Methods 0.000 description 8
- 240000004050 Pentaglottis sempervirens Species 0.000 description 6
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 6
- 230000001133 acceleration Effects 0.000 description 6
- 230000007423 decrease Effects 0.000 description 5
- 238000011161 development Methods 0.000 description 5
- 238000009434 installation Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000010276 construction Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000002474 experimental method Methods 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 102100023927 Asparagine synthetase [glutamine-hydrolyzing] Human genes 0.000 description 2
- 101100380329 Homo sapiens ASNS gene Proteins 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 239000003550 marker Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000002360 preparation method Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000004904 shortening Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 206010034719 Personality change Diseases 0.000 description 1
- 239000003086 colorant Substances 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000013213 extrapolation Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000005507 spraying Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
- 230000005641 tunneling Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Landscapes
- Length Measuring Devices By Optical Means (AREA)
Description
本発明は、構造物等の表面形状などの三次元形状情報等を非接触で計測する三次元形状計測装置、三次元形状計測方法、及びプログラムに関するものである。 The present invention relates to a three-dimensional shape measuring apparatus, a three-dimensional shape measuring method, and a program for measuring three-dimensional shape information such as a surface shape of a structure or the like in a non-contact manner.
従来、車両等の移動体に搭載され、トンネル等の計測対象の三次元形状情報を計測する装置が知られている(例えば、特許文献1、2参照)。このような装置では、三次元形状情報の精度を高めるため、移動体の位置姿勢の計測精度が重要となる。 2. Description of the Related Art Conventionally, an apparatus that is mounted on a moving body such as a vehicle and measures three-dimensional shape information of a measurement target such as a tunnel is known (for example, see Patent Documents 1 and 2). In such an apparatus, in order to improve the accuracy of the three-dimensional shape information, the measurement accuracy of the position and orientation of the moving body is important.
特許文献1には、車両に搭載した二次元レーザスキャナでトンネル内を走査し、車両位置の計測情報に基づいて、走査情報を三次元化して三次元形状情報を取得する三次元形状情報取得装置に関する技術が開示されている。この特許文献1では、トータルステーション(TS)又はGPS(Global Positioning System)により取得した車両の位置情報、姿勢情報はジャイロセンサ等の角速度センサにより取得した車両の姿勢情報を組み合わせることで、車両の位置姿勢を特定している。 Patent Document 1 discloses a three-dimensional shape information acquisition device that scans a tunnel with a two-dimensional laser scanner mounted on a vehicle, and obtains three-dimensional shape information by converting the scanning information into three dimensions based on vehicle position measurement information. Techniques related to this are disclosed. In Patent Document 1, vehicle position information and posture information acquired by a total station (TS) or GPS (Global Positioning System) is combined with vehicle position information acquired by an angular velocity sensor such as a gyro sensor, thereby Has been identified.
また、特許文献2には、車両に二次元レーザスキャナを搭載し、GPSに基づいて車両の位置姿勢を特定するが、車両がトンネル内を走行中である場合等、GPSを使用できない場合は、角速度センサ及び車輪の回転センサの計測値に基づいたオドメトリ演算によって車両の位置姿勢を特定する断面計測装置に関する技術が開示されている。 In Patent Document 2, a two-dimensional laser scanner is mounted on the vehicle, and the position and orientation of the vehicle are specified based on the GPS. If the vehicle cannot be used, such as when the vehicle is traveling in a tunnel, A technique related to a cross-section measuring device that specifies the position and orientation of a vehicle by odometry calculation based on measurement values of an angular velocity sensor and a wheel rotation sensor is disclosed.
一方、画像計測処理装置にカメラを接続し、カメラで撮像した被計測対象物の画像情報と予め記憶した被計測対象物の特徴点の実座標に基づいて、被計測対象物を基準としてカメラ位置及び角度を算出し、このカメラ位置及び角度に基づいて、被計測対象上の特徴点の3次元位置座標を算出する画像計測処理装置に関する技術が開示されている(特許文献3参照)。 On the other hand, a camera is connected to the image measurement processing device, and the camera position is determined based on the measured object based on the image information of the measured object captured by the camera and the actual coordinates of the feature points of the measured object stored in advance. In addition, a technique relating to an image measurement processing apparatus that calculates a three-dimensional position coordinate of a feature point on a measurement target based on the camera position and angle is calculated (see Patent Document 3).
しかしながら、集合住宅やオフィスビルの基礎工事現場など高低差が多い場所では、車両を走行させて計測することが困難である。このような状況では、背負子等に装置を搭載し作業者が移動体となって背負子を担いで移動することで計測する方法が効果的である。しかし、特許文献2に記載の断面計測装置では、背負子に搭載した状態ではオドメトリが使用できなくなるため、角速度センサのみで位置を特定することとなり、累積誤差が大きくなって計測精度が低下する。 However, it is difficult to measure by running a vehicle in a place where there are many differences in height, such as a basic construction site of an apartment house or an office building. In such a situation, it is effective to mount a device on the backpack and measure by moving the operator carrying the backpack as a moving body. However, in the cross-section measuring apparatus described in Patent Document 2, since the odometry cannot be used when mounted on the backpack, the position is specified only by the angular velocity sensor, and the accumulated error becomes large and the measurement accuracy decreases.
また、特許文献3に記載の画像計測処理装置では、サンプリングレートが遅い、スケールを定めるために対象物寸法の一部等を別途計測しておく必要がある、動く物体が映ると精度が低下する要因となるなど、計測精度や計測スピードが満足できるものではない。 Further, in the image measurement processing device described in Patent Document 3, the sampling rate is slow, and it is necessary to separately measure a part of the object size in order to determine the scale. When moving objects are reflected, the accuracy decreases. Measurement accuracy and measurement speed are not satisfactory.
これに対して、特許文献1に記載の三次元形状情報取得装置では、GPSが使えない場所でもTSと角速度センサとの組み合わせによって位置を特定することができ、トンネル内等でも移動体の位置の計測時の誤差の発生を抑制して、三次元形状情報を精度よく取得することができる。ただし、角速度センサには経時誤差があるため、このようなセンサを用いた場合でも、誤差の発生の抑制の維持効果が高く、高い精度で三次元形状の計測の精度を長時間でも行うことが可能な技術の開発が望まれている。 On the other hand, in the three-dimensional shape information acquisition device described in Patent Document 1, the position can be specified by a combination of the TS and the angular velocity sensor even in a place where GPS cannot be used. Generation of errors during measurement can be suppressed, and three-dimensional shape information can be acquired with high accuracy. However, since angular velocity sensors have errors over time, even when such sensors are used, the effect of maintaining the suppression of error generation is high, and measurement accuracy of three-dimensional shapes can be performed with high accuracy even for a long time. Development of possible technologies is desired.
本発明は、上記の事情に鑑みて為されたもので、構造物等の計測対象の三次元形状を、より速く、より高精度に計測することが可能な三次元形状計測装置を提供することを目的としている。 The present invention has been made in view of the above circumstances, and provides a three-dimensional shape measuring apparatus capable of measuring a three-dimensional shape of a measurement target such as a structure faster and with higher accuracy. It is an object.
前記目的を達成するために、本発明の三次元形状計測装置は、計測対象の三次元形状情報を計測する三次元形状計測装置であって、移動体と、移動体に取り付けられ、計測対象の複数の所定の計測点までの距離情報を取得する距離情報取得部と、距離情報取得部の位置情報を取得する位置情報取得部と、距離情報取得部の第1の姿勢情報を取得する慣性情報取得部と、所定の撮像領域を撮像し複数の撮像画像を取得する少なくとも1つの画像情報取得部と、位置情報、第1の姿勢情報、及び複数の撮像画像を解析して取得した距離情報取得部の第2の姿勢情報に基づいて、距離情報取得部の絶対位置情報及び絶対姿勢情報を計算し、絶対位置情報及び絶対姿勢情報に基づいて、距離情報取得部で取得した複数の距離情報を座標変換して計測対象の三次元形状情報を取得する計算部と、を備えたことを特徴とする。 In order to achieve the above object, a three-dimensional shape measurement apparatus of the present invention is a three-dimensional shape measurement apparatus for measuring three-dimensional shape information of a measurement object, and is attached to the mobile object and the measurement object. Distance information acquisition unit for acquiring distance information to a plurality of predetermined measurement points, position information acquisition unit for acquiring position information of the distance information acquisition unit, and inertia information for acquiring first posture information of the distance information acquisition unit An acquisition unit, at least one image information acquisition unit that captures a predetermined imaging region and acquires a plurality of captured images, and position information, first attitude information, and distance information acquisition obtained by analyzing the plurality of captured images The absolute position information and the absolute posture information of the distance information acquisition unit are calculated based on the second posture information of the unit, and the plurality of distance information acquired by the distance information acquisition unit is calculated based on the absolute position information and the absolute posture information. Transform coordinates to measure Characterized in that and a calculation unit that obtains a three-dimensional shape information.
また、本発明の三次元形状計測装置において、計算部は、第1の姿勢情報の経時誤差が所定量となるごとに、画像情報取得部から撮像画像を取得し、該撮像画像を解析して第2の姿勢情報を算出し、該第2の姿勢情報に基づいて第1の姿勢情報を補正することで、絶対姿勢情報を算出する構成とすることができる。 In the three-dimensional shape measurement apparatus of the present invention, the calculation unit acquires a captured image from the image information acquisition unit and analyzes the captured image every time the time error of the first posture information reaches a predetermined amount. By calculating the second posture information and correcting the first posture information based on the second posture information, the absolute posture information can be calculated.
また、本発明の三次元形状計測装置において、計算部は、三次元形状情報と、予め設定された設計情報とを照合して差異を算出する構成とすることができる。 In the three-dimensional shape measurement apparatus of the present invention, the calculation unit can be configured to calculate the difference by comparing the three-dimensional shape information with preset design information.
また、本発明の三次元形状計測装置は、計算部で算出された三次元形状情報、及び三次元形状情報と予め設定された設計情報との照合結果の少なくとも一方を表示する表示部を備えた構成とすることができる。 Further, the three-dimensional shape measurement apparatus of the present invention includes a display unit that displays at least one of the three-dimensional shape information calculated by the calculation unit and the collation result between the three-dimensional shape information and preset design information. It can be configured.
また、本発明の三次元形状計測装置において、計算部は、距離情報取得部の第2の位置情報を慣性情報取得部から取得し、該第2の位置情報を用いて絶対位置情報を補間する構成とすることができる。 In the three-dimensional shape measuring apparatus of the present invention, the calculation unit acquires the second position information of the distance information acquisition unit from the inertia information acquisition unit, and interpolates the absolute position information using the second position information. It can be configured.
また、本発明の三次元形状計測装置において、計算部は、距離情報取得部の第2の位置情報を慣性情報取得部から取得し、撮像画像を解析することで第3の位置情報を取得し、該第2の位置情報と該第3の位置情報を位置情報と組み合わせることで、絶対位置情報を計算する構成とすることができる。 In the three-dimensional shape measurement apparatus of the present invention, the calculation unit acquires the second position information of the distance information acquisition unit from the inertia information acquisition unit, and acquires the third position information by analyzing the captured image. The absolute position information can be calculated by combining the second position information and the third position information with the position information.
さらに、本発明の三次元形状計測装置において、計算部は、移動体が静止している状態において慣性情報取得部によって取得された第1の姿勢情報及び第2の位置情報の経時変化を予め取得し、第1の姿勢情報の経時変化が所定量以上であるときに、第1の姿勢情報の経時変化に基づいて、慣性情報取得部の経時誤差量を計算し、該経時誤差量、第1の姿勢情報及び第2の姿勢情報に基づいて、絶対姿勢情報を計算する構成とすることができる。 Furthermore, in the three-dimensional shape measurement apparatus according to the present invention, the calculation unit acquires in advance changes with time in the first posture information and the second position information acquired by the inertia information acquisition unit while the moving body is stationary. Then, when the temporal change of the first posture information is greater than or equal to a predetermined amount, the temporal error amount of the inertia information acquisition unit is calculated based on the temporal change of the first posture information, and the temporal error amount, Based on the posture information and the second posture information, absolute posture information can be calculated.
また、本発明の三次元形状計測方法は、距離情報取得部で取得した計測対象の複数の所定の計測点までの距離情報に基づいて、計測対象の三次元形状情報を取得する三次元形状計測方法であって、距離情報取得部の位置情報を取得する工程と、距離情報取得部の第1の姿勢情報を取得する工程と、距離情報取得部から距離情報を取得する工程と、所定の撮像領域を撮像した複数の撮像画像を取得する工程と、位置情報に基づいて距離情報取得部の絶対位置情報を取得する工程と、複数の撮像画像を解析して距離情報取得部の第2の姿勢情報を取得する工程と、第1の姿勢情報及び第2の姿勢情報に基づいて距離情報取得部の絶対姿勢情報を取得する工程と、絶対位置情報及び絶対姿勢情報に基づいて距離情報取得部で取得した複数の距離情報を座標変換して計測対象の前記三次元形状情報を取得する工程と、を有することを特徴とする。 Further, the 3D shape measurement method of the present invention is a 3D shape measurement method for acquiring 3D shape information of a measurement object based on distance information to a plurality of predetermined measurement points of the measurement object acquired by a distance information acquisition unit. A method of acquiring position information of a distance information acquisition unit, a step of acquiring first posture information of the distance information acquisition unit, a step of acquiring distance information from the distance information acquisition unit, and a predetermined imaging A step of acquiring a plurality of captured images obtained by imaging a region, a step of acquiring absolute position information of a distance information acquisition unit based on the position information, and a second posture of the distance information acquisition unit by analyzing the plurality of captured images A step of acquiring information, a step of acquiring absolute posture information of the distance information acquisition unit based on the first posture information and the second posture information, and a distance information acquisition unit based on the absolute position information and the absolute posture information. Acquired multiple distance information A step of acquiring the three-dimensional shape information of the measurement object to coordinate transformation, characterized by having a.
また、本発明のプログラムは、コンピュータに、上記三次元形状計測方法を実行させるためのプログラムである。 Moreover, the program of this invention is a program for making a computer perform the said three-dimensional shape measuring method.
このように構成された本発明の三次元形状計測装置は、位置情報取得部により距離情報取得部の位置情報を取得し、慣性情報取得部により距離情報取得部の第1の姿勢情報を取得し、画像情報取得部は所定の撮像領域を撮像し撮像画像を取得する。計算部は撮像画像に基づいて距離情報取得部の第2の姿勢情報を取得する。また、計算部は位置情報、第1の姿勢情報、及び第2の姿勢情報に基づいて距離情報取得部の絶対位置情報及び絶対姿勢情報を算出し、算出された絶対位置情報及び絶対姿勢情報に基づいて、距離情報取得部で取得した複数の距離情報を座標変換して計測対象の三次元形状情報を取得する。 The three-dimensional shape measuring apparatus of the present invention configured as described above acquires the position information of the distance information acquisition unit by the position information acquisition unit, and acquires the first posture information of the distance information acquisition unit by the inertia information acquisition unit. The image information acquisition unit captures a predetermined imaging area and acquires a captured image. The calculation unit acquires the second posture information of the distance information acquisition unit based on the captured image. The calculation unit calculates the absolute position information and the absolute posture information of the distance information acquisition unit based on the position information, the first posture information, and the second posture information, and adds the calculated absolute position information and absolute posture information to the calculated absolute position information and absolute posture information. Based on this, coordinate conversion is performed on the plurality of distance information acquired by the distance information acquisition unit to acquire the three-dimensional shape information to be measured.
このように、位置情報取得部により取得される位置情報と、慣性情報取得部により取得される第1の姿勢情報に加え、複数の撮像画像を解析して取得した第2の姿勢情報を用いることで、位置情報や姿勢情報の経時変化を補間することができる。これにより、距離情報取得部の絶対位置と絶対姿勢とを高精度に取得することができ、計測対象の三次元形状を、より迅速に、より高精度に計測することが可能となる。 Thus, in addition to the position information acquired by the position information acquisition unit and the first posture information acquired by the inertia information acquisition unit, the second posture information acquired by analyzing a plurality of captured images is used. Thus, it is possible to interpolate changes with time in position information and posture information. Thereby, the absolute position and absolute posture of the distance information acquisition unit can be acquired with high accuracy, and the three-dimensional shape to be measured can be measured more quickly and with higher accuracy.
(第1の実施形態)
以下、本発明の第1の実施形態について図面を参照しながら説明する。図1は、三次元形状情報取得装置の一例である本実施形態の三次元形状計測装置100の全体構成(外観)を概略的に示した側面図である。図2は、本実施形態の三次元形状計測装置100の機能を説明するための機能ブロック図である。
(First embodiment)
Hereinafter, a first embodiment of the present invention will be described with reference to the drawings. FIG. 1 is a side view schematically showing an overall configuration (appearance) of a three-dimensional shape measurement apparatus 100 of this embodiment which is an example of a three-dimensional shape information acquisition apparatus. FIG. 2 is a functional block diagram for explaining functions of the three-dimensional shape measuring apparatus 100 of the present embodiment.
図1に示すように、本実施形態に係る三次元形状計測装置100は、移動可能な移動体1と、移動体1に搭載された三次元形状計測ユニット5と、移動体1から離れた位置に設置された位置追跡部10と、とを備えて構成される。 As shown in FIG. 1, the three-dimensional shape measurement apparatus 100 according to the present embodiment includes a movable body 1 that is movable, a three-dimensional shape measurement unit 5 that is mounted on the movable body 1, and a position away from the movable body 1. And a position tracking unit 10 installed in the apparatus.
三次元形状計測ユニット5は、距離計測部(距離情報取得部)20と、位置取得部30と、慣性計測部(慣性情報取得部)40と、画像取得部(画像情報取得部)50と、計算部60とを備えて構成される。 The three-dimensional shape measurement unit 5 includes a distance measurement unit (distance information acquisition unit) 20, a position acquisition unit 30, an inertia measurement unit (inertia information acquisition unit) 40, an image acquisition unit (image information acquisition unit) 50, And a calculation unit 60.
移動体1は、三次元形状計測ユニット5を搭載した状態で構造物等の計測対象に沿って移動する移動手段として機能する。本実施形態の移動体1は、図1に示すように、三次元形状計測ユニット5が載置される台車本体2aと、ハンドル2bと車輪2cとを備えた台車2により構成している。以下、本実施形態に係る三次元形状計測装置100を、台車型の三次元形状計測装置100ということがある。 The moving body 1 functions as a moving means that moves along a measurement object such as a structure in a state where the three-dimensional shape measurement unit 5 is mounted. As shown in FIG. 1, the moving body 1 of the present embodiment includes a carriage body 2 a on which a three-dimensional shape measurement unit 5 is placed, a carriage 2 including a handle 2 b and wheels 2 c. Hereinafter, the three-dimensional shape measurement apparatus 100 according to the present embodiment may be referred to as a cart-type three-dimensional shape measurement apparatus 100.
なお、三次元形状計測の精度向上のために、距離計測部20と、位置取得部30と、慣性計測部40と、画像取得部50との相対位置を高精度に保つ必要がある。そのため、これらは台車本体2aに固定された同一のプレート2d上に固定している。 In addition, in order to improve the accuracy of the three-dimensional shape measurement, it is necessary to maintain the relative positions of the distance measurement unit 20, the position acquisition unit 30, the inertia measurement unit 40, and the image acquisition unit 50 with high accuracy. Therefore, these are fixed on the same plate 2d fixed to the cart body 2a.
本実施形態では、作業者等がハンドル2bを保持して移動体1を引っ張ることで、三次元形状計測ユニット5とともに移動体1を図1、図3等に示す矢印方向に移動させる構成としている。しかし、本願がこの構成に限定されることはなく、作業者が移動体1を押して移動させる構成とすることもできる。 In the present embodiment, the operator or the like holds the handle 2b and pulls the moving body 1, thereby moving the moving body 1 together with the three-dimensional shape measurement unit 5 in the arrow direction shown in FIGS. . However, the present application is not limited to this configuration, and a configuration in which the operator pushes and moves the moving body 1 can also be adopted.
位置追跡部10は、距離計測部20に近接して移動体1上に設置された位置取得部30を計測用ターゲットとして、その位置情報を取得(計測)する。したがって、位置追跡部10と位置取得部30とで、距離計測部20の位置情報を取得する位置情報取得部として機能する。また、位置追跡部10は、移動体1とともに移動する位置取得部30の位置情報を、所定時間ごとに取得することで、距離計測部20の追跡手段(追尾手段)としても機能する。 The position tracking unit 10 acquires (measures) the position information using the position acquisition unit 30 installed on the moving body 1 in the vicinity of the distance measurement unit 20 as a measurement target. Therefore, the position tracking unit 10 and the position acquisition unit 30 function as a position information acquisition unit that acquires position information of the distance measurement unit 20. Further, the position tracking unit 10 also functions as a tracking unit (tracking unit) of the distance measuring unit 20 by acquiring the position information of the position acquisition unit 30 that moves together with the moving body 1 every predetermined time.
位置追跡部10は、計測用ターゲットである位置取得部30から所定距離離れた位置に設置され、光波、レーザ光などを用いて計測用ターゲットまでの距離や角度などを計測する計測装置(光波測距儀)である。 The position tracking unit 10 is installed at a position away from the position acquisition unit 30 that is a measurement target by a predetermined distance, and measures a distance, an angle, and the like to the measurement target using a light wave, a laser beam, or the like (light wave measurement). Distance).
本実施形態では、位置追跡部10は、作業者が単独作業可能なように、計測用ターゲットを自動的に探すような自動追尾機能付きのトータルステーション(TS:Total Station、以下、「TS」という)11によって構成している。また、位置追跡部10は、TS11で計測した位置情報等の各種情報を三次元形状計測ユニット5側に送信する情報通信装置としての無線通信モデム12を備えている。 In the present embodiment, the position tracking unit 10 is a total station (TS: Total Station, hereinafter referred to as “TS”) having an automatic tracking function that automatically searches for a measurement target so that an operator can work alone. 11. In addition, the position tracking unit 10 includes a wireless communication modem 12 as an information communication apparatus that transmits various information such as position information measured by the TS 11 to the three-dimensional shape measurement unit 5 side.
本実施形態のように、位置追跡部10にTS11を用いることで、トンネル内などでも精度よく位置情報や姿勢情報を取得することができる。なお、本実施形態では、位置追跡部10のTS11及び無線通信モデム12を、1セットのみ設けて簡素化、低コスト化を図っている。しかし、本願がこの構成に限定されることはなく、2セット以上設けた構成とすることもでき、この場合複数のTS11からの計測情報に基づいて、より精度よく位置情報、姿勢情報を取得することが可能となる。 By using the TS 11 for the position tracking unit 10 as in the present embodiment, position information and attitude information can be acquired with high accuracy even in a tunnel or the like. In the present embodiment, only one set of the TS 11 and the wireless communication modem 12 of the position tracking unit 10 is provided for simplification and cost reduction. However, the present application is not limited to this configuration, and a configuration in which two or more sets are provided can be obtained. In this case, position information and posture information are obtained more accurately based on measurement information from a plurality of TS11s. It becomes possible.
位置取得部30は、TS11の計測用ターゲットとしての全周プリズム31と、全周プリズム31が移動可能に設けられたガイドレール32(図3参照)とを備えて構成される。 The position acquisition unit 30 includes an all-around prism 31 as a measurement target of the TS 11 and a guide rail 32 (see FIG. 3) on which the all-around prism 31 is movably provided.
全周プリズム31は、距離計測部20にできる限り近接して移動体1上に搭載され、入射したレーザ光等を入射した方向へ反射させることができる光学要素である。全周プリズム31は、移動体1上に設置されたガイドレール32上を、基準位置(BASIC POINT)P1から参照位置(REFERENCE POINT)P2に移動可能となっている(図4参照)。 The all-round prism 31 is an optical element that is mounted on the moving body 1 as close as possible to the distance measuring unit 20 and can reflect incident laser light or the like in the incident direction. The all-round prism 31 is movable from a reference position (BASIC POINT) P1 to a reference position (REFERENCE POINT) P2 on a guide rail 32 installed on the moving body 1 (see FIG. 4).
なお、全周プリズム31は、ガイドレール32上を作業者等が手作業により移動させる構成とすることができる。または、電動モータその他の駆動手段を利用して自動的に移動させるような構成とすることもできる。 The all-round prism 31 can be configured such that an operator or the like moves manually on the guide rail 32. Or it can also be set as the structure which moves automatically using an electric motor other drive means.
また、位置追跡部10は、所定時間ごとに、基準位置P1における全周プリズム31の位置情報をTS11により計測することで、移動体1とともに移動する距離計測部20を追跡して、その位置情報を定期的に取得する。取得した位置情報は、無線通信モデム12と無線通信モデム63とを介して計算部60に送信される。 In addition, the position tracking unit 10 tracks the distance measuring unit 20 that moves together with the moving body 1 by measuring the position information of the all-around prism 31 at the reference position P1 at a predetermined time by the TS 11, and the position information Get on a regular basis. The acquired position information is transmitted to the calculation unit 60 via the wireless communication modem 12 and the wireless communication modem 63.
本実施形態では、TS11の自動追尾機能を利用して、基準位置P1での全周プリズム31の位置情報の計測が終了した後、自動的に、参照位置P2にある全周プリズム31を探すことができるようにしている。そのため、作業者が全周プリズム31を手動によりガイドレール32上において参照位置P2まで移動させる場合であっても、TS11が自動的に参照位置P2の全周プリズム31を探して距離を計測するように動作する。これにより、作業者は単独であっても、本実施形態に係る三次元形状計測装置100によって計測対象の三次元形状情報を取得することが可能となっている。 In the present embodiment, the automatic tracking function of TS11 is used to automatically search for the all-round prism 31 at the reference position P2 after the measurement of the position information of the all-round prism 31 at the reference position P1 is completed. To be able to. Therefore, even when the operator manually moves the all-round prism 31 to the reference position P2 on the guide rail 32, the TS 11 automatically searches for the all-round prism 31 at the reference position P2 and measures the distance. To work. Thereby, even if an operator is independent, it is possible to acquire the 3D shape information of the measurement target by the 3D shape measurement apparatus 100 according to the present embodiment.
距離計測部20は、構造物等の計測対象の複数の計測点までの距離情報を計測(取得)するものであり、本実施形態では、距離計測部20として、2次元(2D)レーザスキャナを用いている。 The distance measurement unit 20 measures (acquires) distance information to a plurality of measurement points to be measured such as structures, and in this embodiment, a two-dimensional (2D) laser scanner is used as the distance measurement unit 20. Used.
2Dレーザスキャナは、例えば、180°方向、より好ましくは190°以上の方向に回転して放射状にレーザビームを出射し、計測対象とセンサとの間をレーザパルスが往復する時間を計測することで距離を計測し、同時にレーザビームを発射した方向を計測する。これにより、所定の計測対象点の2次元座標情報を取得するように構成されている。 The 2D laser scanner, for example, rotates in a direction of 180 °, more preferably in a direction of 190 ° or more, emits a laser beam radially, and measures the time that the laser pulse reciprocates between the measurement target and the sensor. The distance is measured, and the direction in which the laser beam is emitted is measured at the same time. Thereby, it is comprised so that the two-dimensional coordinate information of a predetermined measurement target point may be acquired.
慣性計測部40は、距離計測部20の相対的な姿勢情報(第1の姿勢情報)や相対的な位置情報(第2の位置情報)に関する情報を取得する。第1の姿勢情報としては、例えば、ピッチ角φp、ロール角φr、ヨー角φyが挙げられる。該姿勢情報は、例えば角速度の計測値を時間積分することにより算出される。 The inertial measurement unit 40 acquires information related to relative posture information (first posture information) and relative position information (second position information) of the distance measurement unit 20. Examples of the first posture information include a pitch angle φp, a roll angle φr, and a yaw angle φy. The posture information is calculated by, for example, integrating the measured value of angular velocity over time.
慣性計測部40は、特に限定されることはなく従来公知のものを用いることができる。本実施形態では、3軸ジャイロセンサ等の角速度センサ、3方向加速度センサを備える慣性計測装置(IMU:Inertial Measurement Unit)を用いている。 The inertia measuring unit 40 is not particularly limited, and a conventionally known one can be used. In the present embodiment, an inertial measurement unit (IMU) including an angular velocity sensor such as a three-axis gyro sensor and a three-direction acceleration sensor is used.
画像取得部50は、所定の撮像領域を所定間隔で撮像して複数の撮像画像を取得する撮像手段である。撮像画像としては、連続した静止画像であってもよいし、動画等であってもよい。本実施形態では、画像取得部50としてデジタルカメラを用いている。 The image acquisition unit 50 is an imaging unit that acquires a plurality of captured images by capturing a predetermined imaging region at predetermined intervals. The captured image may be a continuous still image or a moving image. In the present embodiment, a digital camera is used as the image acquisition unit 50.
画像取得部50は、移動体1に1台以上設置する。姿勢算出精度向上のためには2台以上設置することが好ましい。本実施形態では、図4に示すように、2台の画像取得部50を、互いの視野が重複しないように移動体1上に設置している。これにより、撮像画像中に動く物体が映りこむことによる精度低下を防ぐことができる。画像取得部50で撮像された撮像画像は、計算部60に出力される。 One or more image acquisition units 50 are installed in the moving body 1. In order to improve posture calculation accuracy, two or more units are preferably installed. In the present embodiment, as shown in FIG. 4, the two image acquisition units 50 are installed on the moving body 1 so that the fields of view do not overlap each other. Thereby, it is possible to prevent a decrease in accuracy due to a moving object appearing in the captured image. The captured image captured by the image acquisition unit 50 is output to the calculation unit 60.
計算部60は、距離計測部20、慣性計測部40、及び画像取得部50と、接続コード等で接続され、各部で取得された各種情報が計算部60に入力される。計算部60は、入力された各種情報に基づいて、計測対象の三次元形状情報を算出して出力する。なお、各部と計算部60とは、無線LAN等で無線により接続された構成とすることもできる。 The calculation unit 60 is connected to the distance measurement unit 20, the inertia measurement unit 40, and the image acquisition unit 50 with a connection cord or the like, and various information acquired by each unit is input to the calculation unit 60. The calculation unit 60 calculates and outputs three-dimensional shape information to be measured based on the various pieces of input information. In addition, each part and the calculation part 60 can also be set as the structure connected by radio | wireless by wireless LAN etc. FIG.
計算部60は、CPU(Central Processing Unit)と、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ等の不揮発性の半導体メモリ、SDカード、又は外付けハードディスク等の記録媒体からなる記憶部(メモリ)とを備えた計算装置からなる。本実施形態では、計算部60として、いわゆるデスクトップ型のパーソナルコンピュータ(以下、「PC」という)61を用いている。 The calculation unit 60 includes a CPU (Central Processing Unit), a RAM (Random Access Memory), a ROM (Read Only Memory), a non-volatile semiconductor memory such as a flash memory, an SD card, or an external hard disk. It consists of a calculation apparatus provided with the memory | storage part (memory). In the present embodiment, a so-called desktop personal computer (hereinafter referred to as “PC”) 61 is used as the calculation unit 60.
計算部60は、ROMに予め記憶されている三次元形状計測プログラムに従って、例えばRAMをワークメモリとして用いて、三次元形状計測装置100全体の作動制御を行うことができる。 The calculation unit 60 can control the operation of the entire three-dimensional shape measurement apparatus 100 using, for example, a RAM as a work memory, according to a three-dimensional shape measurement program stored in advance in the ROM.
計算部60(PC61)には、バッテリ等からなる電源62と、無線通信モデム63と、ノート型PC64とが接続されている。 A power source 62 composed of a battery or the like, a wireless communication modem 63, and a notebook PC 64 are connected to the calculator 60 (PC 61).
電源62は、計算部60(PC61)に電力を供給する。また、電源62は、無線通信モデム63、ノート型PC64、距離計測部20、慣性計測部40、画像取得部50等と接続し、これらに電力を供給する構成とすることもできる。 The power source 62 supplies power to the calculation unit 60 (PC 61). Further, the power source 62 may be connected to the wireless communication modem 63, the notebook PC 64, the distance measuring unit 20, the inertia measuring unit 40, the image acquiring unit 50, and the like, and supply power to them.
無線通信モデム63は、位置追跡部10の無線通信モデム12から送信される計測情報を受信し、計算部60(PC61)に出力する。 The wireless communication modem 63 receives the measurement information transmitted from the wireless communication modem 12 of the position tracking unit 10 and outputs it to the calculation unit 60 (PC 61).
なお、無線通信モデム63等を介して、PC61から計測現場から離れた管理センタ或いは作業現場事務所等のPC等へ各種情報を送信するように構成することもできる。また、無線通信モデム63や無線通信モデム12などを介して、管理センタ或いは作業現場事務所等のPCから、位置追跡部10、距離計測部20、慣性計測部40等の各種制御を遠隔操作等により行うことができるように構成することもできる。 Note that various types of information may be transmitted from the PC 61 to a management center or a PC at a work site office, etc., away from the measurement site, via the wireless communication modem 63 or the like. Further, various controls such as the position tracking unit 10, the distance measuring unit 20, and the inertia measuring unit 40 are remotely operated from a PC such as a management center or a work site office via the wireless communication modem 63 or the wireless communication modem 12. It can also be comprised so that it can carry out by.
ノート型PC64は、計算部60と有線又は無線により接続され、計算部60で算出された三次元形状情報等を表示する表示部としての液晶ディスプレイ65、計算部60に対して計測開始指示やパラメータ等、各種指示を入力する入力部としてのキーボード66やマウス等を備えている。本実施形態では、液晶ディスプレイ65を表示部としているが、音声を発するスピーカや光を発する可視光レーザ光源等を表示部とすることもできる。 The notebook PC 64 is connected to the calculation unit 60 by wire or wirelessly, and has a liquid crystal display 65 as a display unit for displaying the three-dimensional shape information calculated by the calculation unit 60, a measurement start instruction and parameters for the calculation unit 60 And a keyboard 66 and a mouse as an input unit for inputting various instructions. In the present embodiment, the liquid crystal display 65 is used as the display unit. However, a speaker that emits sound, a visible light laser light source that emits light, or the like may be used as the display unit.
次に、計算部60の機能について図2を参照しながら説明する。計算部60は、位置計算部71と、姿勢計算部72と、形状計算部73と、照合計算部74と、設計情報記憶部75と、計算結果出力部76とを備えている。位置計算部71、姿勢計算部72、形状計算部73、照合計算部74、設計情報記憶部75、及び計算結果出力部76は、上述したCPUや記憶部によって実現される。 Next, the function of the calculation unit 60 will be described with reference to FIG. The calculation unit 60 includes a position calculation unit 71, an attitude calculation unit 72, a shape calculation unit 73, a collation calculation unit 74, a design information storage unit 75, and a calculation result output unit 76. The position calculation unit 71, the posture calculation unit 72, the shape calculation unit 73, the collation calculation unit 74, the design information storage unit 75, and the calculation result output unit 76 are realized by the above-described CPU and storage unit.
位置計算部71は、位置追跡部10で計測した位置情報を基準として、慣性計測部40で取得した相対的な位置変化(以下、「第2の位置情報」という)によって補間することで、距離計測部20の絶対的な位置情報(絶対位置情報)をより高頻度に算出することができる。 The position calculation unit 71 uses the position information measured by the position tracking unit 10 as a reference and interpolates the relative position change acquired by the inertial measurement unit 40 (hereinafter referred to as “second position information”), thereby obtaining a distance. Absolute position information (absolute position information) of the measurement unit 20 can be calculated more frequently.
姿勢計算部72は、位置追跡部10で取得(追跡)した複数の地点での距離計測部20の位置情報と、慣性計測部40で取得した第1の姿勢情報と、画像取得部50で撮像された複数の撮像画像を解析して得られた第2の姿勢情報とに基づいて、相対的な姿勢変化を算出し、予め計測した絶対姿勢情報の初期値と合算して距離計測部20の絶対的な姿勢情報(絶対姿勢情報)を算出する。 The posture calculation unit 72 captures the position information of the distance measurement unit 20 at a plurality of points acquired (tracked) by the position tracking unit 10, the first posture information acquired by the inertia measurement unit 40, and the image acquisition unit 50. Based on the second posture information obtained by analyzing the plurality of captured images, a relative posture change is calculated and added to the initial value of the absolute posture information measured in advance, and the distance measurement unit 20 Absolute posture information (absolute posture information) is calculated.
形状計算部73は、位置計算部71で算出された絶対位置情報及び姿勢計算部72で算出された絶対姿勢情報に基づいて、距離計測部20で取得した複数の計測点の距離情報を、共通する1つの座標系に座標変換し、計測対象の三次元形状情報を算出する。 Based on the absolute position information calculated by the position calculation unit 71 and the absolute posture information calculated by the posture calculation unit 72, the shape calculation unit 73 uses the distance information of a plurality of measurement points acquired by the distance measurement unit 20 as common. Coordinate conversion into one coordinate system to calculate the three-dimensional shape information of the measurement object.
設計情報記憶部75には、三次元形状の計測対象の設計情報が予め記憶されている。照合計算部74は、形状計算部73で算出された三次元形状情報(実測値)と、設計情報記憶部75から取得した設計情報とを照合し、差異を算出する。 The design information storage unit 75 stores in advance design information about a three-dimensional shape measurement target. The collation calculation unit 74 collates the three-dimensional shape information (actual measurement value) calculated by the shape calculation unit 73 with the design information acquired from the design information storage unit 75 to calculate a difference.
計算結果出力部76は、照合計算部74で算出された三次元形状情報(実測値)と、設計情報との差異を表す画像や値、実測値に基づく三次元画像等を編集し、ノート型PC64の液晶ディスプレイ65に表示する。また、音声情報を編集して、スピーカから音声を発生させたり、光源を制御して光を発生させたりすることもできる。 The calculation result output unit 76 edits an image and a value representing a difference between the 3D shape information (actual measurement value) calculated by the collation calculation unit 74 and the design information, a 3D image based on the actual measurement value, and the like. It displays on the liquid crystal display 65 of PC64. In addition, sound information can be edited to generate sound from a speaker, or light can be generated by controlling a light source.
上述のような構成の本実施形態に係る三次元形状計測装置100では、図3に示すように、作業者が移動体1を移動させながら、距離計測部20により構造物等の計測対象の表面形状情報(二次元座標情報)を計測する。距離計測部20によって移動体1の位置に応じて取得される表面形状情報と、位置追跡部10、慣性計測部40、及び画像取得部50により取得される移動体1(距離計測部20)の絶対位置情報及び絶対姿勢情報と、を関連付けることで、計測対象の三次元形状情報を取得するようになっている。 In the three-dimensional shape measuring apparatus 100 according to this embodiment configured as described above, as shown in FIG. 3, the surface of a measurement target such as a structure is measured by the distance measuring unit 20 while the operator moves the moving body 1. Shape information (two-dimensional coordinate information) is measured. The surface shape information acquired by the distance measuring unit 20 according to the position of the moving body 1 and the moving body 1 (distance measuring unit 20) acquired by the position tracking unit 10, the inertia measuring unit 40, and the image acquiring unit 50. By associating the absolute position information and the absolute posture information, the three-dimensional shape information to be measured is acquired.
図4を用いて、座標変換における三次元形状情報の取得原理について説明する。距離計測部20で計測した二次元座標情報は、まずレーザスキャナ座標系(センサ座標系:Σs)にて記録される。本実施例では距離計測部20が移動体1に固定されているため、センサ座標系Σsをそのまま移動体座標系(Σo)として用いることができる。更に、計測対象である構造物の座標系である構造物座標系に対する位置情報及び姿勢情報に基づいて、最終的に構造物座標系(ΣI)に変換されるようになっている。 The acquisition principle of three-dimensional shape information in coordinate transformation will be described with reference to FIG. The two-dimensional coordinate information measured by the distance measuring unit 20 is first recorded in a laser scanner coordinate system (sensor coordinate system: Σs). In this embodiment, since the distance measuring unit 20 is fixed to the moving body 1, the sensor coordinate system Σs can be used as it is as the moving body coordinate system (Σo). Furthermore, based on the position information and posture information with respect to the structure coordinate system which is the coordinate system of the structure to be measured, the structure is finally converted into the structure coordinate system (ΣI).
以下、本実施形態の三次元形状計測装置100を用いた三次元形状計測の動作(三次元形状計測方法)を、図7のフローチャートに従って説明する。 Hereinafter, the operation of the three-dimensional shape measurement (three-dimensional shape measurement method) using the three-dimensional shape measurement apparatus 100 of the present embodiment will be described with reference to the flowchart of FIG.
ステップS1では、位置追跡部10及び慣性計測部40により、それぞれ距離計測部20の初期の位置情報及び姿勢情報を取得する。そのために、図4に示すように、三次元形状計測装置100の静止状態で、位置追跡部10のTS11によって基準位置P1に配置した全周プリズム31の位置情報Ip1=(Ix1,Iy1,Iz1)を取得する。次に、ガイドレール32上の基準位置P1とは異なる参照位置P2へ全周プリズム31を移動させ、その位置情報Ip2=(Ix2,Iy2,Iz2)を取得する。計測された位置情報は、無線通信モデム12,63を介して位置追跡部10から計算部60に入力される。 In step S1, the position tracking unit 10 and the inertial measurement unit 40 obtain initial position information and posture information of the distance measurement unit 20, respectively. For this purpose, as shown in FIG. 4, in the stationary state of the three-dimensional shape measuring apparatus 100, the position information I p 1 = ( I x 1 , of the all-round prism 31 arranged at the reference position P 1 by the TS 11 of the position tracking unit 10. I y 1 , I z 1 ) is acquired. Next, move the omnidirectional prism 31 to a different reference position P2 from the reference position P1 on the guide rail 32, and acquires the positional information I p 2 = a (I x 2, I y 2 , I z 2). The measured position information is input from the position tracking unit 10 to the calculation unit 60 via the wireless communication modems 12 and 63.
また、慣性計測部40の角速度センサ及び加速度センサによって、第2の位置情報及び第1の姿勢情報としての角速度及び加速度が随時計測され、計算部60に入力される。 Further, the angular velocity sensor and acceleration sensor of the inertial measurement unit 40 measure the angular velocity and acceleration as the second position information and the first posture information as needed, and input them to the calculation unit 60.
ステップS2では、位置計算部71及び姿勢計算部72が、位置追跡部10からの位置情報、及び慣性計測部40からの第1の姿勢情報に基づいて、距離計測部20の初期の位置情報及び姿勢情報を計算する。 In step S <b> 2, the position calculation unit 71 and the posture calculation unit 72 perform initial position information of the distance measurement unit 20 based on the position information from the position tracking unit 10 and the first posture information from the inertia measurement unit 40. Calculate attitude information.
以下、ステップS2の処理を、図4を用いて具体的に説明する。位置計算部71が、基準位置P1の位置情報Ip1と、基準位置P1に対する距離計測部20の位置関係、つまり、距離計測部20の計測中心Oから基準位置P1までの距離0p1=(0x1,0y1,0z1)に基づいて、距離計測部20の初期の位置情報(絶対位置情報)Ip0(x0,y0,z0)を算出する。 Hereinafter, the process of step S2 will be specifically described with reference to FIG. Position calculating unit 71, a location information I p 1 of the reference position P1, the positional relationship of the distance measuring unit 20 with respect to the reference position P1, i.e., the distance from the measurement center O of the distance measuring unit 20 to the reference position P1 0 p 1 = based on (0 x 1, 0 y 1 , 0 z 1), and calculates the initial position information of the distance measuring unit 20 (absolute position information) I p 0 (x 0, y 0, z 0).
一方、姿勢計算部72は慣性計測部40から入力された角速度センサ及び加速度センサの計測値から、現在のロール角(ロール絶対角度)φr、ピッチ角(ピッチ絶対角度)φpを取得する。さらに姿勢計算部72は、基準位置P1での位置情報Ip1=(Ix1,Iy1,Iz1)、参照位置P2での位置情報Ip2=(Ix2,Iy2,Iz2)、及びロール角(ロール絶対角度)φr、ピッチ角(ピッチ絶対角度)φpに基づいて、下記計算式(1)を用いて、ヨー角(ヨー絶対角度)φyを算出する。 On the other hand, the posture calculation unit 72 acquires the current roll angle (roll absolute angle) φr and pitch angle (pitch absolute angle) φp from the measurement values of the angular velocity sensor and the acceleration sensor input from the inertia measurement unit 40. Further, the posture calculation unit 72 includes position information I p 1 = ( I x 1 , I y 1 , I z 1 ) at the reference position P1, and position information I p 2 = ( I x 2 , I y at the reference position P2. 2 , I z 2 ), the roll angle (roll absolute angle) φr, and the pitch angle (pitch absolute angle) φp, the yaw angle (absolute yaw angle) φy is calculated using the following formula (1). .
上記計算式(1)において、IΔx、IΔyは下記計算式(2)、0Δx’、0Δy’は下記計算式(3)を用いて算出する。 In the above formula (1), I Δx and I Δy are calculated using the following formula (2), and 0 Δx ′ and 0 Δy ′ are calculated using the following formula (3).
ただし、上記計算式(3)中、0Δx、0Δy、0Δzは、距離計測部20の計測中心Oから基準位置P1,参照位置P2までの距離を、それぞれ0p1=(0x1,0y1,0z1)、0p2=(0x2,0y2,0z2)としたとき、下記計算式(4)を用いて算出する。 However, in the calculation formula (3), 0 Δx, 0 Δy, and 0 Δz represent the distances from the measurement center O of the distance measuring unit 20 to the reference position P1 and the reference position P2, respectively, 0 p 1 = ( 0 x 1 , 0 y 1 , 0 z 1 ), 0 p 2 = ( 0 x 2 , 0 y 2 , 0 z 2 ), the following calculation formula (4) is used.
以上により、距離計測部20の計測中心Oの初期の第1の姿勢情報(絶対姿勢情報)θo=(φro,φpo,φyo)を取得することができる。 Thus, the first posture information of the measurement center O of the distance measuring unit 20 initial (absolute posture information) θ o = (φr o, φp o, φy o) can be acquired.
次に、ステップS3では、移動体1を移動させながら、距離計測部20にて、計測中心Oから計測対象の所定の計測点までの距離を計測して距離情報を取得する。また、位置追跡部10のTS11にて位置情報を取得し、慣性計測部40にて姿勢情報を取得し、画像取得部50にて撮像画像を取得する。これらの情報は、所定間隔で計算部60に入力される。 Next, in step S <b> 3, while moving the moving body 1, the distance measurement unit 20 measures the distance from the measurement center O to a predetermined measurement point to be measured, and acquires distance information. In addition, position information is acquired by TS 11 of position tracking unit 10, posture information is acquired by inertial measurement unit 40, and a captured image is acquired by image acquisition unit 50. These pieces of information are input to the calculation unit 60 at predetermined intervals.
ステップS4では、位置計算部71が、位置情報及び姿勢情報に基づいて距離計測部20の絶対位置を算出する。以下、ステップS4の処理の詳細を説明する。なお、図5(a)に、位置情報及び第1の姿勢情報(相対的な位置変化情報)の入力タイミングと、位置情報の補正タイミングとをグラフ化したものを示す。図5(a)中、「TS」は位置追跡部10のTS11からの位置情報の入力タイミングを、「IMU」は慣性計測部40からの姿勢情報の入力タイミングを、「位置」は位置情報の補正イメージを示す。 In step S4, the position calculation unit 71 calculates the absolute position of the distance measurement unit 20 based on the position information and the posture information. Details of the process in step S4 will be described below. FIG. 5A is a graph showing the input timing of the position information and the first posture information (relative position change information) and the correction timing of the position information. In FIG. 5A, “TS” is the input timing of the position information from the TS 11 of the position tracking unit 10, “IMU” is the input timing of the posture information from the inertial measurement unit 40, and “Position” is the position information. The correction image is shown.
まず、位置計算部71は、慣性計測部(IMU)40から入力される姿勢情報(本実施形態では、加速度センサからの加速度情報)を積分することにより、相対位置変化ΔPIを算出する。慣性計測部40からの姿勢情報は、図5(a)に示すように、高速に(例えば数十ミリ秒オーダー)入力されるため、相対位置変化ΔPIも高速に更新される。しかしながら、相対位置変化ΔPIは経時誤差を含んでいる。 First, the position calculator 71 calculates the relative position change ΔPI by integrating the posture information (acceleration information from the acceleration sensor in this embodiment) input from the inertia measuring unit (IMU) 40. As shown in FIG. 5A, the posture information from the inertial measurement unit 40 is input at high speed (for example, on the order of several tens of milliseconds), so the relative position change ΔPI is also updated at high speed. However, the relative position change ΔPI includes a temporal error.
位置計算部71は、この経時誤差を線形補正するため、相対位置変化ΔPIから経時誤差係数Edp×経過時間tを差し引く。この経時誤差係数Edpは、予備実験またはセンサの仕様に基づいて予め算出しておく。このようにして得られた線形補正後の相対姿勢変化ΔPIを、Pに代入する(後述の計算式(5)に相対位置変化ΔPIを代入して絶対位置情報Pを算出する)。 The position calculation unit 71 subtracts the time error coefficient Edp × the elapsed time t from the relative position change ΔPI in order to linearly correct this time error. The time error coefficient Edp is calculated in advance based on preliminary experiments or sensor specifications. The thus obtained linear posture-changed relative posture change ΔPI is substituted into P (the absolute position information P is calculated by substituting the relative position change ΔPI into the calculation formula (5) described later).
次に、位置追跡部10のTS11から入力される位置取得部30の絶対位置情報PRを取得する。図5(a)に示すように、TS11からの絶対位置情報PRは比較的低速(例えば数秒オーダー)で更新される。絶対位置情報PRが更新されたら即座に、線形補正後の相対姿勢変化ΔPIの現在値をΔPIcとして他のメモリに記憶し、かつ経過時間t=0とする。 Next, the absolute position information PR of the position acquisition unit 30 input from the TS 11 of the position tracking unit 10 is acquired. As shown in FIG. 5A, the absolute position information PR from the TS 11 is updated at a relatively low speed (for example, on the order of several seconds). As soon as the absolute position information PR is updated, the current value of the relative posture change ΔPI after linear correction is stored in another memory as ΔPIc, and the elapsed time t = 0.
位置計算部71は、下記計算式(5)を用いて、計測中心Oの絶対位置情報Pを算出する。下記式(5)中、PRは絶対位置情報を、ΔPIは現在の相対姿勢変化を、ΔPIcは前回の絶対位置情報PR取得時の相対姿勢変化を、Edpは経時誤差係数を、tは絶対位置情報PR取得時からの経過時間を示す。 The position calculation unit 71 calculates the absolute position information P of the measurement center O using the following calculation formula (5). In the following equation (5), PR is the absolute position information, ΔPI is the current relative posture change, ΔPIc is the relative posture change when the previous absolute position information PR was acquired, Edp is the time error coefficient, and t is the absolute position. The elapsed time since the information PR acquisition is shown.
P = PR+ΔPI−ΔPIc−Edp×t (5) P = PR + ΔPI−ΔPIc−Edp × t (5)
次に、ステップS5では、姿勢計算部72が、位置情報、第1の姿勢情報、及び第2の姿勢情報に基づいて、距離計測部20(計測中心O)の相対的な姿勢変化を算出する。以下、ステップS5の処理の詳細を説明する。なお、図5(b)に、初期の位置情報、第1の姿勢情報、及び第2の姿勢情報の入力タイミングと、姿勢情報の補正イメージとをグラフ化したものを示す。図5(b)中、「TS」は位置追跡部10のTS11からの位置情報(初期姿勢θ0のヨー角φy取得用)の入力タイミングを、「IMU」は慣性計測部(IMU)40からの第1の姿勢情報の入力タイミングを、「SfM」は画像取得部50での撮像画像に基づく第2の姿勢情報の入力タイミングを、「姿勢」は姿勢情報の補正イメージを示す。 Next, in step S5, the posture calculation unit 72 calculates a relative posture change of the distance measurement unit 20 (measurement center O) based on the position information, the first posture information, and the second posture information. . Details of the process in step S5 will be described below. FIG. 5B is a graph showing the initial position information, the first posture information, the second posture information input timing, and the posture information correction image. In FIG. 5B, “TS” is the input timing of the position information (for obtaining the yaw angle φy of the initial posture θ 0 ) from TS 11 of the position tracking unit 10, and “IMU” is from the inertia measuring unit (IMU) 40. The first posture information input timing, “SfM” indicates the second posture information input timing based on the image captured by the image acquisition unit 50, and “posture” indicates the posture information correction image.
姿勢計算部72は、慣性計測部(IMU)40から入力される第1の姿勢情報(本実施形態では、角速度センサであるジャイロセンサからの角速度)を積分することにより、第1の相対姿勢変化ΔθIを取得する。ΔθIは高速に(例えば数十ミリ秒オーダーで)更新される。しかしながら、第1の相対姿勢変化ΔθIは経時誤差を含んでいる。この経時誤差が所定量変化するたびに、以下のように画像取得部50での撮像画像の取得と、撮像画像に基づく第2の姿勢情報を用いた第1の姿勢情報の補正とを行っている。 The posture calculation unit 72 integrates the first posture information (in this embodiment, the angular velocity from the gyro sensor that is an angular velocity sensor) input from the inertia measurement unit (IMU) 40 to thereby change the first relative posture change. Obtain ΔθI. ΔθI is updated at high speed (for example, on the order of several tens of milliseconds). However, the first relative posture change ΔθI includes an error with time. Every time this time-dependent error changes by a predetermined amount, the captured image is acquired by the image acquisition unit 50 and the first posture information is corrected using the second posture information based on the captured image as follows. Yes.
姿勢計算部72では、この第1の相対姿勢変化ΔθIの経時誤差を線形補正するため、ΔθIから経時誤差係数Ed×経過時間tを差し引く。この経時誤差係数Edも、予備実験またはセンサの仕様に基づいて予め算出しておく。このようにして得られた線形補正後の第1の相対姿勢変化ΔθIを、相対姿勢Δθに代入する(後述の計算式(6)に第1の相対姿勢ΔθIを代入して相対姿勢Δθを算出する)。 The posture calculation unit 72 subtracts the time error coefficient Ed × the elapsed time t from ΔθI in order to linearly correct the time error of the first relative posture change ΔθI. The time error coefficient Ed is also calculated in advance based on preliminary experiments or sensor specifications. The first relative posture change ΔθI after linear correction obtained in this way is substituted into the relative posture Δθ (the relative posture Δθ is calculated by substituting the first relative posture ΔθI into the calculation formula (6) described later). To do).
次に、姿勢計算部72は、画像取得部50によって得られた複数の撮像画像(連続画像や動画像)に基づいて、既存の画像処理技術を用いて回転やスケールに不変な特徴点を抽出する。この画像処理技術としては、例えばSIFT(Scale-invariant feature transform)、SURF(Speed-Upped Robust Feature)、AKAZE(Accelerated KAZE)等が挙げられる。 Next, the posture calculation unit 72 extracts feature points that are invariant to rotation and scale using existing image processing technology based on a plurality of captured images (continuous images and moving images) obtained by the image acquisition unit 50. To do. Examples of this image processing technique include SIFT (Scale-invariant feature transform), SURF (Speed-Upped Robust Feature), AKAZE (Accelerated KAZE), and the like.
抽出した特徴点を、既存の画像処理技術で解析することにより、第2の姿勢情報としての第2の相対姿勢変化ΔθVを取得する。この画像処理技術としては、例えば、SfM(Structure from Motion)、VisualSLAM、オプティカルフロー等が挙げられる。本実施形態では、実時間SfMを用いている。 By analyzing the extracted feature points using an existing image processing technique, a second relative posture change ΔθV as second posture information is acquired. Examples of this image processing technique include SfM (Structure from Motion), Visual SLAM, optical flow, and the like. In the present embodiment, the real time SfM is used.
実時間SfMを用いた第2の姿勢変化の算出手順を以下に説明する。まず、2台の画像取得部50によって、それぞれ同時に撮像画像を取得する。画像取得部50ごとに、一定時間内に取得した複数の撮像画像に対して、上記特徴点の抽出を行った後、SfMを実行し、ヨー角φyを算出する。 A procedure for calculating the second posture change using the real time SfM will be described below. First, captured images are acquired simultaneously by the two image acquisition units 50. For each image acquisition unit 50, the feature points are extracted from a plurality of captured images acquired within a predetermined time, and then SfM is executed to calculate the yaw angle φy.
次に、2台の画像取得部50のSfMの結果の差分を算出する。この差分が、一定値以上の場合は、予め指定した一方の画像取得部50のヨー角φyを第2の姿勢変化ΔθVとして採用する。一方、差分が一定値未満の場合は、2つの画像取得部50のヨー角φyの平均値を第2の姿勢変化ΔθVとして採用する。 Next, the difference between the SfM results of the two image acquisition units 50 is calculated. If this difference is greater than or equal to a certain value, the yaw angle φy of one of the image acquisition units 50 designated in advance is adopted as the second posture change ΔθV. On the other hand, when the difference is less than a certain value, the average value of the yaw angles φy of the two image acquisition units 50 is adopted as the second posture change ΔθV.
なお、画像取得部50が3台以上の場合は、SfM結果の平均μ及び標準偏差σを算出する。これらに基づいて、棄却検定を実行する。棄却検定としては、例えば、μ±ασ(αは、予め設定した1〜9程度の値)の範囲外となる値を除外する。棄却されなかったヨー角φyの平均値を算出し、第2の姿勢変化ΔθVとして採用する。 When there are three or more image acquisition units 50, the average μ and standard deviation σ of the SfM results are calculated. Based on these, a rejection test is performed. As the rejection test, for example, a value outside the range of μ ± ασ (α is a preset value of about 1 to 9) is excluded. An average value of the yaw angles φy that are not rejected is calculated and adopted as the second posture change ΔθV.
また、画像取得部50が1台の場合は、この1台の画像取得部50でのSfM結果のヨー角φyを第2の姿勢変化ΔθVとして採用する。 In addition, when there is one image acquisition unit 50, the yaw angle φy of the SfM result from this one image acquisition unit 50 is adopted as the second posture change ΔθV.
ここで、第2の相対姿勢変化ΔθVは比較的低速(例えば数十秒オーダー)で更新される(図5(b)参照)。更新速度を速めるために、時間的に近傍の撮像画像に限定して解析を行った場合、第2の相対姿勢変化ΔθVは累積誤差を含むことがある。この累積誤差を低減するために、位置追跡部10のTS11から取得した相対位置変化を、第2の相対姿勢変化ΔθV算出における制約条件として利用して解析することもできる。 Here, the second relative posture change ΔθV is updated at a relatively low speed (eg, on the order of several tens of seconds) (see FIG. 5B). When analysis is performed only on captured images that are temporally close to increase the update speed, the second relative posture change ΔθV may include a cumulative error. In order to reduce the accumulated error, the relative position change acquired from the TS 11 of the position tracking unit 10 can be analyzed by using it as a constraint condition in calculating the second relative attitude change ΔθV.
第2の相対姿勢変化ΔθVが更新されたら即座に、第1の相対姿勢変化ΔθIの現在値をΔθIcとして他のメモリに記憶し、かつ経過時間t=0とする。 As soon as the second relative posture change ΔθV is updated, the current value of the first relative posture change ΔθI is stored in another memory as ΔθIc, and the elapsed time t = 0.
姿勢計算部72は、下記計算式(6)を用いて、相対姿勢Δθを算出する。下記式(6)中、ΔθVは第2の姿勢変化を、ΔθIは第1の姿勢変化を、ΔθIcは前回の第2の姿勢変化取得時の第1の相対姿勢変化を、Edは経時誤差係数を、tは第2の姿勢変化取得時からの経過時間を示す。 The posture calculation unit 72 calculates the relative posture Δθ using the following calculation formula (6). In the following equation (6), ΔθV is the second posture change, ΔθI is the first posture change, ΔθIc is the first relative posture change at the time of the previous acquisition of the second posture change, and Ed is the time error coefficient. , T indicates the elapsed time from the acquisition of the second posture change.
Δθ = ΔθV+ΔθI−ΔθIc−Ed×t (6) Δθ = ΔθV + ΔθI−ΔθIc−Ed × t (6)
次にステップS6において、下記計算式(7)を用いて、計算式(6)で算出した相対姿勢変化Δθを、ステップS1で算出した初期の姿勢情報(絶対姿勢情報)θoに加算することで、絶対姿勢情報θ=(φr,φp,φy)を時系列で取得することができる。 Next, in step S6, using the following calculation formula (7), the relative posture change Δθ calculated by the calculation formula (6) is added to the initial posture information (absolute posture information) θ o calculated in step S1. Thus, the absolute posture information θ = (φr, φp, φy) can be acquired in time series.
θ = Δθ+θo (7) θ = Δθ + θ o (7)
以上のように、慣性計測部40で取得した第1の相対姿勢変化を線形補正し、さらに、画像取得部50で取得した撮像画像の解析による第2の相対姿勢変化で補正することで、経時変化を抑制して、絶対姿勢情報θをより高精度に取得することができる。 As described above, the first relative posture change acquired by the inertial measurement unit 40 is linearly corrected, and further corrected by the second relative posture change by analysis of the captured image acquired by the image acquisition unit 50. The absolute posture information θ can be acquired with higher accuracy while suppressing the change.
図6に、移動体が静止している状態において、慣性計測部40の角速度センサとして光ファイバジャイロを用いて取得した姿勢情報の計測値(実測値)aと、該計測値を線形補正した後の計測値bと、SfM解析によって得られた第2の姿勢情報で計測値bを補正した後の計測値cとの一例をグラフで示す。 FIG. 6 shows a posture information measurement value (actual measurement value) a obtained using an optical fiber gyroscope as an angular velocity sensor of the inertial measurement unit 40 and a linear correction of the measurement value when the moving body is stationary. The graph shows an example of the measured value b and the measured value c after correcting the measured value b with the second posture information obtained by the SfM analysis.
図6の例では、線形補正では、初期値と2時間経過時の生データとを直線で結んだときの傾きを0とするように補正した。また、SfM解析による補正では、線形補正後の相対姿勢変化を、3分ごとに画像取得部50からの撮像画像をSfM解析して取得した第2の相対姿勢変化に置換することで補正した。このシミュレーション例では、SfM解析で補正したヨー角φyの精度が±0.25度となり、線形補正のみの場合と比較して高い精度を実現することができる。 In the example of FIG. 6, in the linear correction, the inclination when the initial value and the raw data after the lapse of 2 hours are connected by a straight line is corrected to zero. In the correction by the SfM analysis, the relative posture change after the linear correction is corrected by replacing the captured image from the image acquisition unit 50 with the second relative posture change acquired by the SfM analysis every 3 minutes. In this simulation example, the accuracy of the yaw angle φy corrected by the SfM analysis is ± 0.25 degrees, and higher accuracy can be realized as compared with the case of only linear correction.
次に、ステップS7では、形状計算部73により、計測対象の三次元形状情報を算出する。まず、形状計算部73は、位置追跡部10を基準とする絶対位置情報Pの座標系を、予め決められた設計情報と同じ構造物座標系ΣIに変換する。座標系の変換は、前述したような既存の座標変換技術により行うことができる。 Next, in step S7, the shape calculation unit 73 calculates the three-dimensional shape information of the measurement target. First, the shape calculation unit 73 converts the coordinate system of the absolute position information P with the position tracking unit 10 as a reference into the same structure coordinate system ΣI as the predetermined design information. The transformation of the coordinate system can be performed by the existing coordinate transformation technique as described above.
次に、形状計算部73は、PC61等によって各計測値に付与されたタイムスタンプに基づいて、絶対位置情報P、絶対姿勢情報θ、及び距離情報(距離情報D)を関連付ける。例えば、時刻をtとしたとき、ある時刻tに最も近い時刻の絶対位置情報P、絶対姿勢情報θ、及び距離情報Dを時刻tに関連付けることによって互いを関連付ける。 Next, the shape calculation unit 73 associates the absolute position information P, the absolute posture information θ, and the distance information (distance information D) based on the time stamp given to each measurement value by the PC 61 or the like. For example, when the time is t, the absolute position information P, the absolute posture information θ, and the distance information D at the time closest to a certain time t are associated with each other by associating with the time t.
関連付けの他の例として、時刻tに最も近い時刻の絶対位置情報P、絶対姿勢情報θ、及び距離情報Dを、それぞれ2時刻ずつ抽出し、その2つの値に基づいてt時点での値を線形補間または線形補外によって算出する。これにより、絶対位置情報P、絶対姿勢情報θ、及び距離情報Dを関連付ける。 As another example of the association, the absolute position information P, the absolute posture information θ, and the distance information D at the time closest to the time t are extracted for each two times, and the value at the time t is calculated based on the two values. Calculate by linear interpolation or linear extrapolation. Thereby, the absolute position information P, the absolute posture information θ, and the distance information D are associated.
以上のように関連付けを行ったら距離計測部20で計測した計測対象の各計測点の位置を算出する。時刻tごとに、絶対位置情報Pを絶対姿勢情報θの方向に距離情報Dだけずらした位置を、計測点の構造物座標系ΣIにおける位置座標とする。以上により、計測対象の三次元形状情報を取得することができる。 When the association is performed as described above, the position of each measurement point of the measurement target measured by the distance measurement unit 20 is calculated. A position obtained by shifting the absolute position information P by the distance information D in the direction of the absolute posture information θ at each time t is set as a position coordinate in the structure coordinate system ΣI of the measurement point. As described above, the three-dimensional shape information of the measurement target can be acquired.
ステップS8では、照合計算部74が、ステップS7で算出された三次元形状情報と設計情報とを照合して、その差異を算出する。例えば、三次元形状情報に基づいて、図3に示すように、作業者が、予め指定した立方体Cに内包される計測点の位置座標を、計測対象の断面形状として抽出する。この抽出した断面形状の数値を設計情報記憶部75の設計情報の数値と照合し、その差異を算出する。 In step S8, the collation calculation unit 74 collates the 3D shape information calculated in step S7 with the design information, and calculates the difference. For example, based on the three-dimensional shape information, as shown in FIG. 3, the operator extracts the position coordinates of the measurement points included in the cube C designated in advance as the cross-sectional shape of the measurement target. The extracted numerical value of the cross-sectional shape is collated with the numerical value of the design information in the design information storage unit 75, and the difference is calculated.
なお、計測対象が、トンネルなどの長尺な構造物の場合は、線形(構造物の長手方向を示す曲線)を予め入力することで、線形に沿って等間隔に立方体Cを生成することもできる。 In addition, when the measurement target is a long structure such as a tunnel, a cube (C curve indicating the longitudinal direction of the structure) is input in advance to generate cubes C at equal intervals along the alignment. it can.
次にステップS9において、計算結果出力部76が、ステップS8で算出した差異に基づいて表示画像を編集し、液晶ディスプレイ65に表示する。 Next, in step S9, the calculation result output unit 76 edits the display image based on the difference calculated in step S8 and displays it on the liquid crystal display 65.
以上、本実施形態に係る三次元形状計測装置100及び三次元形状計測方法によれば、位置追跡部10での位置情報を、慣性計測部40での第2の位置情報に基づいて補間して絶対位置情報を算出している。また、画像取得部50からの複数の撮像画像をSfM等で解析することにより算出された第2の姿勢情報を、慣性計測部40で得られた第1の姿勢情報に基づいて補正することで絶対姿勢情報を算出している。これらにより、距離計測部20の絶対位置情報及び絶対姿勢情報を高速かつ高精度に取得することができ、距離計測部20による三次元形状の計測を、より速く、より高精度に計測することが可能となる。 As described above, according to the three-dimensional shape measurement apparatus 100 and the three-dimensional shape measurement method according to the present embodiment, the position information in the position tracking unit 10 is interpolated based on the second position information in the inertial measurement unit 40. Absolute position information is calculated. Further, by correcting the second posture information calculated by analyzing a plurality of captured images from the image acquisition unit 50 with SfM or the like, based on the first posture information obtained by the inertia measurement unit 40, Absolute posture information is calculated. Thus, the absolute position information and absolute posture information of the distance measuring unit 20 can be acquired at high speed and with high accuracy, and the measurement of the three-dimensional shape by the distance measuring unit 20 can be performed faster and with higher accuracy. It becomes possible.
また、計算部60の姿勢計算部72では、第1の姿勢情報の経時誤差が所定量となるごとに、画像取得部50から撮像画像を取得し、該撮像画像を解析して第2の姿勢情報を算出し、該第2の姿勢情報に基づいて第1の姿勢情報を補正し、絶対姿勢情報を算出している。また位置追跡部10からの通信が遮られる等の要因によって一定時間以上にわたって位置情報が取得できないときは、画像取得部50からの撮像画像に基づいて第3の位置情報を取得することもできる。これにより、絶対姿勢情報及び絶対位置情報の経時誤差の増大を抑制して、より高精度に三次元形状を計測することが可能となる。 In addition, the posture calculation unit 72 of the calculation unit 60 acquires a captured image from the image acquisition unit 50 every time the temporal error of the first posture information reaches a predetermined amount, analyzes the captured image, and analyzes the second posture. Information is calculated, the first posture information is corrected based on the second posture information, and absolute posture information is calculated. In addition, when position information cannot be acquired for a certain time or more due to factors such as interruption of communication from the position tracking unit 10, the third position information can be acquired based on the captured image from the image acquisition unit 50. Thereby, it is possible to measure a three-dimensional shape with higher accuracy while suppressing an increase in the error with time of the absolute posture information and the absolute position information.
また、計算部60の照合計算部74において、三次元形状情報と、設計情報とを照合して差異を算出している。これにより、例えば、現場打設コンクリートや配筋や掘削部の出来形の品質を定量的に評価することができ、品質向上を図ることができる。 Further, the collation calculation unit 74 of the calculation unit 60 collates the three-dimensional shape information and the design information to calculate the difference. Thereby, for example, the quality of the cast-in-place concrete, the reinforcement, and the shape of the excavation part can be quantitatively evaluated, and the quality can be improved.
また、計算部60の計算結果出力部76により、三次元形状情報や、三次元形状情報と予め設定された設計情報との照合結果(差異)を液晶ディスプレイ65等の表示部に表示している。これにより、実測値と設計情報との差異を容易に把握することができる。 In addition, the calculation result output unit 76 of the calculation unit 60 displays the three-dimensional shape information and the matching result (difference) between the three-dimensional shape information and preset design information on the display unit such as the liquid crystal display 65. . Thereby, the difference between the actual measurement value and the design information can be easily grasped.
また、本実施形態では、位置情報を補間するための経時誤差係数Edpや姿勢情報を補正するための経時誤差係数Edを、予備実験等に基づいて予め算出している。例えば、位置追跡部10によって取得された位置情報の経時変化及び慣性計測部40によって取得された第1の姿勢情報の経時変化を予め取得し、位置情報の経時変化が所定量以下であり、かつ第1の姿勢情報の経時変化が所定量以上であるときに、第1の姿勢情報の経時変化に基づいて、慣性計測部40の経時誤差量を計算し、経時誤差係数Edとする。このように経時誤差量、第1の姿勢情報及び第2の姿勢情報に基づいて、絶対姿勢情報を計算することで、慣性計測部40の経時誤差を補間して、絶対姿勢情報を高精度に取得することができる。また、位置情報、経時誤差量、及び第1の姿勢情報に基づいて、絶対位置情報を計算することで、位置追跡部10の経時誤差を補間して、絶対位置情報を高精度に取得することができる。 In this embodiment, the temporal error coefficient Edp for interpolating position information and the temporal error coefficient Ed for correcting posture information are calculated in advance based on preliminary experiments and the like. For example, the temporal change of the positional information acquired by the position tracking unit 10 and the temporal change of the first posture information acquired by the inertia measuring unit 40 are acquired in advance, and the temporal change of the positional information is a predetermined amount or less, and When the temporal change of the first posture information is equal to or greater than a predetermined amount, the temporal error amount of the inertial measurement unit 40 is calculated based on the temporal change of the first posture information and is set as the temporal error coefficient Ed. In this way, by calculating the absolute posture information based on the temporal error amount, the first posture information, and the second posture information, the time-dependent error of the inertial measurement unit 40 is interpolated, so that the absolute posture information is highly accurate. Can be acquired. Further, by calculating the absolute position information based on the position information, the time error amount, and the first posture information, the time position error of the position tracking unit 10 is interpolated to obtain the absolute position information with high accuracy. Can do.
また、本実施形態の三次元形状計測方法を実行させるためのプログラムを、コンピュータにインストールすることで、位置追跡部10、距離計測部20、慣性計測部40及び画像取得部50から入力される各種情報に基づいて、三次元形状の計測を、より速く、より高精度に計測することが可能となる。また、本プログラムをインストールしたコンピュータに、既存の距離計測部、慣性計測部、位置追跡部等を有線又は無線で接続することで、本発明の三次元計測装置、三次元計測方法を実現することができる。 Moreover, various programs input from the position tracking unit 10, the distance measuring unit 20, the inertia measuring unit 40, and the image acquiring unit 50 by installing a program for executing the three-dimensional shape measuring method of the present embodiment in the computer. Based on the information, the three-dimensional shape can be measured faster and with higher accuracy. In addition, the existing distance measuring unit, inertia measuring unit, position tracking unit, etc. are connected to the computer on which this program is installed by wire or wirelessly, thereby realizing the three-dimensional measuring apparatus and the three-dimensional measuring method of the present invention. Can do.
また、本実施形態に係る三次元形状計測装置100は、三次元形状計測ユニット5が移動体1によって移動可能であるため、レーザ光が計測対象に対して直角に近い状態で当たらないといった照射角度の問題や、計測対象までの距離の相違に起因する計測情報疎密の発生の問題を解消することができる。また、三次元形状計測ユニット5と構造物との間に障害物があっても、これを避けて計測することができるため、計測に死角が生じ難く、広い範囲に亘って抜けの無い精度の高い三次元形状計測(取得)を行うことができる。したがって、三次元形状計測装置100の計測精度を向上させることができる。 Further, in the three-dimensional shape measurement apparatus 100 according to the present embodiment, the three-dimensional shape measurement unit 5 can be moved by the moving body 1, so that the irradiation angle is such that the laser light does not strike the measurement object at a right angle. And the problem of the occurrence of measurement information sparseness due to the difference in distance to the measurement target can be solved. In addition, even if there is an obstacle between the three-dimensional shape measurement unit 5 and the structure, measurement can be performed while avoiding this, so that it is difficult to cause blind spots in the measurement, and the accuracy with no omission over a wide range is possible. High three-dimensional shape measurement (acquisition) can be performed. Therefore, the measurement accuracy of the three-dimensional shape measuring apparatus 100 can be improved.
また、移動体1として台車を用いていることから、比較的広大な範囲であっても短時間で精度の高い三次元形状計測を行うことができる。そのため、作業時間の軽減や工期の短縮にも貢献することができる。 In addition, since the carriage is used as the moving body 1, highly accurate three-dimensional shape measurement can be performed in a short time even in a relatively wide range. Therefore, it can contribute to reduction of work time and shortening of construction period.
なお、本実施形態では、移動体1として台車2を利用して説明したが、本願がこれに限定されるものではない。例えば、移動体1として、電動カートや軽自動車等の車両、重機、レール上を移動するトロッコ、貨車等に、三次元形状計測ユニット5を搭載して用いることもできる。 In addition, in this embodiment, although demonstrated using the trolley | bogie 2 as the mobile body 1, this application is not limited to this. For example, as the moving body 1, the three-dimensional shape measurement unit 5 can be mounted on a vehicle such as an electric cart or a light car, a heavy machine, a trolley moving on a rail, a freight car, or the like.
次に、本実施形態に係る台車型の三次元形状計測装置100の利用例(実施例)について具体的に説明する。 Next, a usage example (example) of the cart-type three-dimensional shape measuring apparatus 100 according to the present embodiment will be specifically described.
本実施形態に係る台車型の三次元形状計測装置100は、トンネル覆工ボリューム予想に好適に利用することができる。それには、例えば、NATM工法(New Austrian Tunneling Method)等における一次覆工(コンクリート吹付け工事)後の3次元表面形状を本実施形態に係る三次元形状計測装置100で計測する。照合計算部74において、計測した三次元形状を二次覆工(仕上げ形状)の設計情報と比較し、差異を求める。 The cart-type three-dimensional shape measuring apparatus 100 according to the present embodiment can be suitably used for tunnel lining volume prediction. For this purpose, for example, a three-dimensional surface shape after primary lining (concrete spraying work) in the NATM method (New Austrian Tunneling Method) or the like is measured by the three-dimensional shape measuring apparatus 100 according to the present embodiment. In the collation calculation unit 74, the measured three-dimensional shape is compared with design information of the secondary lining (finished shape), and a difference is obtained.
ここで、トンネルの計測情報と設計情報との差異を三次元鳥瞰図や二次元展開図で表示するための手順を具体的に説明する。この場合、照合計算部74では、計測点(距離計測部20で計測された点の位置座標)1点1点ごとに、以下の手順で算出する。なお事前準備として予め、設計情報記憶部75の設計情報を非構造格子(ポリゴンメッシュ)で表現しておく。 Here, the procedure for displaying the difference between the tunnel measurement information and the design information in a three-dimensional bird's-eye view or a two-dimensional development view will be specifically described. In this case, the collation calculation unit 74 calculates the measurement points (position coordinates of the points measured by the distance measurement unit 20) for each point by the following procedure. As advance preparation, the design information in the design information storage unit 75 is expressed in advance as an unstructured grid (polygon mesh).
(1)準備:予め格子の各面(ポリゴン)全てに対して木構造(例えばkd−tree等)を構築しておく。
(2)最近傍点候補選定1:重心が計測点に最も近いポリゴンから順に複数(例えば10個程度)、木構造を利用して高速に探索する。
(3)最近傍点候補選定2:(2)で探索された各ポリゴンに計測点から垂線をおろし、ポリゴンと垂線の交点の三次元座標を求める。
(4)最近傍点候補選定3:(3)の各交点から計測点までの距離を計算し、それが最も短くなるポリゴンを選定する。
(5)最近傍点の決定:(4)で選定されたポリゴンの各頂点と計測点との距離を求め、それが最小となる頂点を選定する。
(6)選定された頂点と計測点との距離を、計測情報と設計情報の差異とする。
(7)差異の統計値(最大、最小、平均など)を算出し、記憶部に記憶する。
(1) Preparation: A tree structure (for example, kd-tree) is constructed in advance for all the faces (polygons) of the lattice.
(2) Neighbor point candidate selection 1: A plurality of (for example, about 10) centroids in order from the polygon closest to the measurement point are searched at high speed using a tree structure.
(3) Nearest neighbor candidate selection 2: A perpendicular is drawn from the measurement point to each polygon searched in (2), and the three-dimensional coordinates of the intersection of the polygon and the perpendicular are obtained.
(4) Nearest neighbor point candidate selection 3: The distance from each intersection point of (3) to the measurement point is calculated, and the polygon with the shortest is selected.
(5) Determination of nearest neighbor point: The distance between each vertex of the polygon selected in (4) and the measurement point is obtained, and the vertex having the minimum value is selected.
(6) The distance between the selected vertex and the measurement point is the difference between the measurement information and the design information.
(7) A statistical value (maximum, minimum, average, etc.) of the difference is calculated and stored in the storage unit.
この算出結果に基づいて、計算結果出力部76が表示画像を編集し、図8に示すように、液晶ディスプレイ65に表示する。図8は、トンネルの距離計測結果の三次元鳥瞰図65a、横断図65b、及び二次元展開図65cを表示した例を示す。三次元鳥瞰図65a及び二次元展開図65cでは、計測結果と設計情報との差異を色分け表示することで、差異をより分かり易くすることができる。また、二次元展開図65cでは、1回の計測断面情報を縦1列の直線状に表示し、それを横方向に連ねることで生成している。 Based on the calculation result, the calculation result output unit 76 edits the display image and displays it on the liquid crystal display 65 as shown in FIG. FIG. 8 shows an example in which a three-dimensional bird's-eye view 65a, a cross-sectional view 65b, and a two-dimensional development view 65c of the tunnel distance measurement result are displayed. In the three-dimensional bird's-eye view 65a and the two-dimensional development view 65c, the difference can be more easily understood by displaying the difference between the measurement result and the design information in different colors. Further, in the two-dimensional development view 65c, the measurement cross-section information of one time is displayed in a straight line of one column and is generated by connecting it in the horizontal direction.
また、三次元鳥瞰図65aは、回転、移動、拡大縮小等を可能とすることで、差異をより把握し易くすることができる。図9は、三次元鳥瞰図65aの拡大図を示す。この図9に示すように、差異を拡大して表示することで、実際には目に見えない程度の差異であっても、差異が協調して表示され、差異が大きい箇所等を見た目で分かり易くすることができる。 Further, the three-dimensional bird's-eye view 65a can be rotated, moved, enlarged / reduced, etc., thereby making it easier to grasp the difference. FIG. 9 shows an enlarged view of the three-dimensional bird's-eye view 65a. As shown in FIG. 9, by displaying the difference in an enlarged manner, even if the difference is invisible to the naked eye, the difference is displayed in a coordinated manner, and it is understood by looking at the part where the difference is large. Can be made easier.
また、図10に、トンネルの横断図65bの表示例を示す。図10の横断図65bには、設計情報(設計図)と、計測情報とが表示されている。計測情報は、一次覆工完了時と二次覆工完了時の2回計測しており、これらの計測情報に基づいて横断図を編集して表示することで、以下のような用途に用いることができる。 FIG. 10 shows a display example of a tunnel cross-sectional view 65b. Design information (design drawing) and measurement information are displayed in a cross-sectional view 65b in FIG. The measurement information is measured twice at the completion of the primary lining and at the completion of the secondary lining, and is used for the following purposes by editing and displaying the cross section based on these measurement information. Can do.
第1の用途として、一次覆工完了時において、図10の横断図65bに示すように、一次覆工形状(計測情報)と二次覆工形状(設計情報)とを表示し、その差異を示す寸法を放射状に表示する。この差異に基づいて、さらに、二次覆工の生コンクリート打設数量を算出し、液晶ディスプレイ65やプリンタに出力する。この数量を活用することで、二次覆工工事の材料や工程の管理を合理化することができる。 As the first use, when the primary lining is completed, the primary lining shape (measurement information) and the secondary lining shape (design information) are displayed as shown in the cross-sectional view 65b of FIG. The indicated dimensions are displayed radially. Based on this difference, the raw concrete placement quantity of the secondary lining is calculated and output to the liquid crystal display 65 or the printer. By utilizing this quantity, it is possible to rationalize the management of materials and processes for secondary lining work.
第2の用途として、二次覆工完了時において、二次覆工形状(計測情報)と、設計形状(設計情報)との差異を計算する。この差異の大きさを数値または色分けで横断図に表示することで二次覆工の出来形品質を確認することができる。 As a second application, when the secondary lining is completed, a difference between the secondary lining shape (measurement information) and the design shape (design information) is calculated. The quality of the secondary lining can be confirmed by displaying the magnitude of this difference in a cross-sectional view with numerical values or color coding.
第3の用途として、一次覆工前の掘削時において、掘削中に掘削出来形(計測情報)と掘削設計形状(設計情報)とを比較してリアルタイムに差異を計測する。これにより、例えば差異の統計値(最大、最小、平均など)が設定値を超えたタイミングで、可視光レーザを照射させたり発光させたり音を発生させたりして注意喚起することで、掘削作業者に掘削あるいは埋戻しが必要な箇所を知らせることができ、掘削作業の品質向上に貢献することができる。 As a third application, during excavation before the primary lining, the excavation ready shape (measurement information) and the excavation design shape (design information) are compared during excavation and the difference is measured in real time. This enables excavation work, for example, by irradiating a visible laser, emitting light, or generating a sound when the statistical value of the difference (maximum, minimum, average, etc.) exceeds the set value. It is possible to inform the person where excavation or backfilling is necessary and contribute to improving the quality of excavation work.
さらに、本実施形態の台車型の三次元形状計測装置100は、トンネル建築限界チェックにも好適に利用することができる。より具体的には、計測したトンネルの三次元形状と、設計図上の建築限界とを照合計算部74で比較する。そして、計算結果出力部76にて差異を色分けする等して液晶ディスプレイ65等に表示したり、建築限界を超えている箇所では表示部としてのスピーカや可視光レーザ光源から、音や光を発生させたりすることで、建築限界のチェックを効率化する。なお建築限界の設計情報は3次元CADでなく断面図でしか入手できないことが多いため、照合計算部74では、本装置の位置や姿勢に合わせて設計情報を変更して照合に使用することも可能である。 Furthermore, the cart-type three-dimensional shape measuring apparatus 100 of the present embodiment can be suitably used for a tunnel building limit check. More specifically, the collation calculation unit 74 compares the measured three-dimensional shape of the tunnel with the building limit on the design drawing. The calculation result output unit 76 displays the difference on the liquid crystal display 65 or the like by color-coding, or generates sound or light from a speaker or a visible light laser light source as a display unit in places where the building limit is exceeded. To make building limit checks more efficient. Since design information on building limits is often available only in cross-sectional views instead of three-dimensional CAD, the collation calculation unit 74 may change design information according to the position and orientation of the apparatus and use it for collation. Is possible.
(第2の実施形態)
次に、移動体として背負子を用いて第2の実施形態に係る三次元形状計測装置について説明する。図11は、第2の実施形態に係る三次元形状計測装置を作業者が背負った状態を示す概略図である。
(Second Embodiment)
Next, a three-dimensional shape measuring apparatus according to the second embodiment will be described using a backpack as the moving body. FIG. 11 is a schematic diagram illustrating a state in which an operator carries the three-dimensional shape measurement apparatus according to the second embodiment.
図11に示すように、第2の実施形態に係る三次元形状計測装置100Aは、背負子3からなる移動体1上に、2つの距離計測部20A1,20A2と、全周プリズム31等を有する位置取得部30と、慣性計測部40と、二台の画像取得部50と、計算部60であるPC61と、電源62と、無線通信モデム63と、表示部としてのノート型PC64と、等を備えた三次元形状計測ユニット5Aを搭載して構成されるとともに、移動体1から離れた位置に設置した位置追跡部10を備えている。 As shown in FIG. 11, the three-dimensional shape measuring apparatus 100A according to the second embodiment has a position having two distance measuring units 20A1 and 20A2, an all-round prism 31 and the like on a moving body 1 including a backpack 3. An acquisition unit 30, an inertia measurement unit 40, two image acquisition units 50, a PC 61 as a calculation unit 60, a power source 62, a wireless communication modem 63, a notebook PC 64 as a display unit, and the like are provided. And a position tracking unit 10 installed at a position distant from the moving body 1.
第2の実施形態に係る三次元形状計測装置100Aは、背負子3からなる移動体1によって作業者の背中に背負って使用すること、2つの距離計測部20A1,20A2を用いること以外は、第1の実施形態の係る三次元形状計測装置100と同様の構成及び作用を有している。そのため、以下では第1の実施形態とは異なる構成及び作用等を説明する。 The three-dimensional shape measuring apparatus 100A according to the second embodiment is the first except that it is carried on the operator's back by the moving body 1 including the backpack 3, and the two distance measuring units 20A1 and 20A2 are used. The three-dimensional shape measuring apparatus 100 according to the embodiment has the same configuration and operation. Therefore, hereinafter, a configuration and an operation different from those in the first embodiment will be described.
移動体1としての背負子3は、片持ち梁状のフレーム本体3aに、作業者の肩に掛ける肩ベルト3bが取り付けられている。フレーム本体3aは、たわみが0.01mm以下になる強度で設計することが望ましい。また、作業者が操作や画像の確認をしながら計測作業を行えるように、フレーム本体3aの側面から前方に突出形成されたアーム3cに、ノート型PC64を載置することもできる。 The backpack 3 as the movable body 1 is attached to a cantilever-shaped frame main body 3a with a shoulder belt 3b to be hung on an operator's shoulder. It is desirable to design the frame body 3a with a strength such that the deflection is 0.01 mm or less. In addition, the notebook PC 64 can be placed on the arm 3c formed to project forward from the side surface of the frame body 3a so that the operator can perform measurement work while confirming operations and images.
本実施形態では、ノート型PC64への計測結果表示までの時間を縮める目的で、移動体1である背負子3に計算部60(PC61)を搭載している。しかし、本願がこれに限定されることはなく、三次元形状計測ユニット5Aの軽量化を図る場合には、他の人が背負う背負子に計算部60を設置する構成とすることもできる。また、通信環境が整っている現場では、事務所や管理センタに計算部60を設置することもできる。また、ノート型PC64を計算部60として用いることもできる。また、ノート型PC64もアーム3cも背負子3に設置せずに、他の人の背負子や事務所、管理センタに設置することもできる。 In the present embodiment, for the purpose of shortening the time until the measurement result is displayed on the notebook type PC 64, the calculation unit 60 (PC 61) is mounted on the backpack 3 that is the moving body 1. However, the present application is not limited to this, and in the case of reducing the weight of the three-dimensional shape measurement unit 5A, a configuration in which the calculation unit 60 is installed on a backpack carried by another person can also be adopted. In addition, in a site where a communication environment is in place, the calculation unit 60 can be installed in an office or a management center. A notebook PC 64 can also be used as the calculation unit 60. Further, the notebook PC 64 and the arm 3c can be installed in another person's backpack, office, or management center without being installed in the backpack 3.
本実施形態では、天井と地面の両方を計測する目的で、2つの距離計測部20A1,20A2を用い、一方の距離計測部20A1を天井方向に向けて設置し、他方の距離計測部20A2を地面方向に向けて設置している。なお、距離計測部20A1,20A2の設置形態や設置数が本実施形態に限定されることはなく、計測対象や計測環境等によって適宜の設置形態や設置数とすることができる。 In this embodiment, for the purpose of measuring both the ceiling and the ground, the two distance measuring units 20A1 and 20A2 are used, one distance measuring unit 20A1 is installed facing the ceiling, and the other distance measuring unit 20A2 is installed on the ground. It is installed in the direction. In addition, the installation form and the number of installation of distance measurement part 20A1, 20A2 are not limited to this embodiment, It can be set as an appropriate installation form and the number of installations by a measurement object, measurement environment, etc.
画像取得部50は、撮像視野に人などの移動体が映りこむことによる精度低下を避けるため、できるだけ高い位置に取り付けることが望ましい。ただし天井の低いところでも使用できるように、作業者の肩上から1m以下となる位置に取り付けることが望ましい。 The image acquisition unit 50 is preferably attached at a position as high as possible in order to avoid a decrease in accuracy due to a moving object such as a person appearing in the imaging field of view. However, it is desirable to attach it to a position that is 1 m or less above the operator's shoulder so that it can be used even at a low ceiling.
位置取得部30についても、人や障害物に遮られることを極力避けるため、できるだけ高い位置に取り付けることが望ましい。ただし高すぎても天井の低いところで使用できない場合や剛性の低下、質量の増加等が懸念されるため、作業者の肩上から1m以下にすることが望ましい。 The position acquisition unit 30 is also preferably installed at a position as high as possible in order to avoid being blocked by a person or an obstacle as much as possible. However, if it is too high, it cannot be used at a low ceiling, or there is a concern about a decrease in rigidity, an increase in mass, or the like.
本実施形態の位置取得部30の全周プリズム31も、図1と同様に基準位置P1から参照位置P2に移動可能となっているが、この基準位置P1から参照位置P2までの距離(ベクトルP1−P2の絶対値)は、長いほど初期姿勢情報の精度が向上する。幅の狭い階段等などでの安全性を考慮して、当該距離を0.3〜0.6mとすることが望ましい。 Similarly to FIG. 1, the all-round prism 31 of the position acquisition unit 30 of the present embodiment is also movable from the reference position P1 to the reference position P2, but the distance from the reference position P1 to the reference position P2 (vector P1). The longer the absolute value of -P2, the higher the accuracy of the initial posture information. In consideration of safety on a narrow staircase or the like, the distance is preferably set to 0.3 to 0.6 m.
また、本実施形態においても、三次元形状計測の精度向上のために、距離計測部20A1,20A2、位置取得部30、慣性計測部40、及び画像取得部50は、同一のプレート3d上に配置し、各々の相対位置を高精度に保っている。 Also in the present embodiment, the distance measurement units 20A1 and 20A2, the position acquisition unit 30, the inertia measurement unit 40, and the image acquisition unit 50 are arranged on the same plate 3d in order to improve the accuracy of three-dimensional shape measurement. In addition, the relative position of each is maintained with high accuracy.
以上、第2の実施形態に係る三次元形状計測装置100Aでも、画像取得部50からの撮像画像に基づいて取得した第2の姿勢情報に基づいて第1の姿勢情報を補正することで、より速く、より高精度に三次元形状を計測することができる。また位置追跡部10からの通信が遮られる等の要因によって一定時間以上にわたって位置情報が取得できないときは、画像取得部50からの撮像画像に基づいて第3の位置情報を取得して位置情報を補正することで、高精度に三次元形状を計測することもできる。 As described above, even in the three-dimensional shape measurement apparatus 100A according to the second embodiment, by correcting the first posture information based on the second posture information acquired based on the captured image from the image acquisition unit 50, it is more possible. It is possible to measure a three-dimensional shape faster and with higher accuracy. Further, when the position information cannot be acquired for a certain time or more due to factors such as interruption of communication from the position tracking unit 10, the third position information is acquired based on the captured image from the image acquisition unit 50 to obtain the position information. By correcting, the three-dimensional shape can be measured with high accuracy.
また、作業者が背中に背負って移動しながら計測対象の三次元形状を計測することができるため、集合住宅やオフィスビルの基礎工事現場など高低差が多い場所であっても、移動しながらの計測を容易に行うことができる。 In addition, since the operator can measure the three-dimensional shape of the measurement object while moving on the back, even in places where there are many differences in height, such as the foundation construction site of an apartment house or office building, Measurement can be performed easily.
次に、本実施形態に係る背負子型の三次元形状計測装置100Aの利用例(実施例)について具体的に説明する。 Next, a usage example (example) of the backpack type three-dimensional shape measuring apparatus 100A according to the present embodiment will be specifically described.
本実施形態に係る背負子型の三次元形状計測装置100Aは、例えば、山留め壁やトンネル切羽の変位変状モニタリングに好適に利用することができる。この場合、三次元形状計測装置100Aによって定期的に山留め壁やトンネル切羽の三次元形状を計測して過去の計測値と比較し、山留め壁の傾き、滑動、変形など、経時的な変化を把握する。その変化を色分けする等してディスプレイ等に表示したり、変化量が設定値を超えている箇所では音や光を発生させたりすることで、変状を即座に把握し事故を防ぐことができる。 The backpack-type three-dimensional shape measuring apparatus 100A according to the present embodiment can be suitably used, for example, for monitoring displacement deformation of a retaining wall or a tunnel face. In this case, the three-dimensional shape measuring device 100A periodically measures the three-dimensional shape of the retaining wall and the tunnel face and compares it with past measurement values, and grasps changes over time such as inclination, sliding, and deformation of the retaining wall. To do. The change can be displayed on a display etc. by color coding, etc., or by generating sound or light where the change amount exceeds the set value, the change can be immediately grasped and accidents can be prevented. .
また、本実施形態に係る背負子型の三次元形状計測装置100Aは、配筋の本数とピッチ確認にも好適に利用することができる。この場合、配筋の三次元設計図面(設計情報)及び基準点(親墨)位置を予め設計情報記憶部75に記憶しておく。計測によって形状計算部73で算出された配筋の三次元形状に円柱を当てはめることで、その本数とピッチを計算する。得られた本数とピッチを設計図面とを比較し、差異を色分けする等してディスプレイ等に表示したり、音や光を発生させたりすることで、配筋のケアレスミスを防ぐことができる。 The backpack type three-dimensional shape measuring apparatus 100A according to the present embodiment can also be suitably used for checking the number of bars and the pitch. In this case, the three-dimensional design drawing (design information) and the reference point (parent ink) position of the bar arrangement are stored in the design information storage unit 75 in advance. The number and pitch are calculated by fitting a cylinder to the three-dimensional shape of the bar arrangement calculated by the shape calculation unit 73 by measurement. By comparing the obtained number and pitch with a design drawing and displaying the difference on a display or the like by color-coding or generating sound or light, careless mistakes in bar arrangement can be prevented.
以上、図面を参照して、本発明の実施形態を詳述してきたが、具体的な構成は、この実施形態に限らず、本発明の要旨を逸脱しない程度の設計的変更は、本発明に含まれる。 The embodiment of the present invention has been described in detail with reference to the drawings. However, the specific configuration is not limited to this embodiment, and design changes that do not depart from the gist of the present invention are not limited to the present invention. included.
例えば、上記各実施形態では、TS11の計測用ターゲットとして全周プリズム31を用いているが、本願がこれに限定されることはなく、計測用ターゲットとして、例えば、球状プリズム、面状プリズム、ARマーカ等を用いることもできる。 For example, in each of the above embodiments, the all-round prism 31 is used as the measurement target of the TS 11, but the present application is not limited thereto, and examples of the measurement target include a spherical prism, a planar prism, and an AR. A marker or the like can also be used.
また、上記各実施形態では、TS11で取得した位置情報に基づいて、位置計算部71が初期の位置情報や初期の姿勢情報のヨー角度を算出しているが、本願がこれに限定されることはない。TS11内の計算部で、計測値に基づいて初期の位置情報や初期の姿勢情報のヨー角度を算出し、算出結果を計算部60に出力するように構成することもできる。 Moreover, in each said embodiment, although the position calculation part 71 calculates the yaw angle of initial position information and initial attitude information based on the position information acquired by TS11, this application is limited to this. There is no. The calculation unit in the TS 11 may be configured to calculate the yaw angle of the initial position information and the initial posture information based on the measurement value and output the calculation result to the calculation unit 60.
また、本願の位置情報取得部が、TS11(位置追跡部10)及び全周プリズム31等の計測ターゲット(位置取得部30)を用いた構成に限定されることはなく、例えば、GPS(Global Positioning System)等のGNSS(Global Navigation Satellite System)を用いることができる。具体的には、位置取得部30として移動体1にGNSS受信機(例えば、GPS受信機)を搭載し、図1に二点鎖線で示す位置取得部30としての衛星13からGNSS送信機(例えば、GPS送信機)を介して送信される信号を受信することで位置情報及び姿勢情報を取得する。これにより、特に屋外での位置情報の取得を精度よく行うことができる。なお、GNSSを用いる場合は、位置取得部30を2以上設置した構成とすることもできる。 Further, the position information acquisition unit of the present application is not limited to the configuration using the measurement target (position acquisition unit 30) such as the TS 11 (position tracking unit 10) and the all-around prism 31; for example, GPS (Global Positioning) GNSS (Global Navigation Satellite System) such as System) can be used. Specifically, a GNSS receiver (for example, a GPS receiver) is mounted on the moving body 1 as the position acquisition unit 30, and a GNSS transmitter (for example, the satellite 13 as the position acquisition unit 30 indicated by a two-dot chain line in FIG. The position information and the posture information are acquired by receiving a signal transmitted via a GPS transmitter. Thereby, it is possible to obtain position information particularly outdoors with high accuracy. In addition, when using GNSS, it can also be set as the structure which installed the two or more position acquisition parts 30. FIG.
また、位置情報取得部として、いわゆる屋内GPSと呼ばれるIMES(Indoor MEssaging System)を用いることもでき、トンネル内や屋内であっても位置情報の取得を精度よく行うことができる。 In addition, an IMES (Indoor MEssaging System) called a so-called indoor GPS can be used as the position information acquisition unit, and the position information can be accurately acquired even in a tunnel or indoors.
また、位置情報取得部として、モーションキャプチャやデジタルビデオカメラ(位置追跡部10)とマーカ(位置取得部30)との組み合わせを用いることもできる。 Further, as the position information acquisition unit, a combination of motion capture or a digital video camera (position tracking unit 10) and a marker (position acquisition unit 30) can be used.
また、上記各実施形態では、距離計測部20,20A1,20A2として2Dレーザスキャナを用いているが、三次元形状計測装置100の所定の位置から計測対象の所定の複数の計測点までの距離情報を取得できれば、2Dレーザスキャナに限定されることはない。例えば、点群情報を取得する1次元(1D)レーザスキャナ、三次元の座標情報を取得する3次元(3D)レーザスキャナ等を用いることもできる。 Further, in each of the above embodiments, the 2D laser scanner is used as the distance measuring units 20, 20A1, and 20A2, but distance information from a predetermined position of the three-dimensional shape measuring apparatus 100 to a plurality of predetermined measurement points to be measured. If it can acquire, it will not be limited to 2D laser scanner. For example, a one-dimensional (1D) laser scanner that acquires point cloud information, a three-dimensional (3D) laser scanner that acquires three-dimensional coordinate information, and the like can also be used.
上記各実施形態では、画像取得部50をデジタルカメラで構成しているが、撮像機能を有するものであれば、デジタルカメラに限定されることはない。例えば、デジタルビデオカメラ、撮像機能を備えたスマートフォン、携帯電話機、PDA(Personal Data Assistant)、タブレット端末等を用いることもできる。 In each of the embodiments described above, the image acquisition unit 50 is configured by a digital camera, but is not limited to a digital camera as long as it has an imaging function. For example, a digital video camera, a smartphone having an imaging function, a mobile phone, a PDA (Personal Data Assistant), a tablet terminal, or the like can be used.
また、上記各実施形態では、計算部60によって画像取得部50で取得した撮像画像に基づいて第2の姿勢情報を算出しているが、本願がこれに限定されることはない。画像取得部50のICチップ等を、計算部として使用し、該計算部で第2の姿勢情報を計算し、計算部60に出力する構成とすることもできる。 Moreover, in each said embodiment, although 2nd attitude | position information is calculated based on the captured image acquired with the image acquisition part 50 by the calculation part 60, this application is not limited to this. An IC chip or the like of the image acquisition unit 50 may be used as a calculation unit, and the calculation unit may calculate the second posture information and output the second posture information to the calculation unit 60.
また、上記各実施形態において、画像取得部50を2台以上用いる場合にはそれぞれの視野が重複しないように配置しているが、視野が重複するように配置することによって、SfM解析におけるカメラ間距離(基線長)を一部固定して姿勢算出精度を高めることもできる。 In each of the above embodiments, when two or more image acquisition units 50 are used, the fields of view are arranged so as not to overlap each other. It is also possible to improve posture calculation accuracy by fixing a part of the distance (baseline length).
また、上記各実施形態では、三次元形状計測の精度向上のために、計測機器(距離計測部20、位置取得部30、慣性計測部40、画像取得部50)を同一のプレート2d,3d上に固定しているが、例えばプレート2d,3d上に直動機構や回転機構を介してこれらの計測機器を固定し、かつこれらの機構による相対的な位置姿勢変化をロータリーエンコーダ等で計測することで、これらの計測機器の相対位置姿勢を容易に変更可能かつ高精度に把握可能な構成とすることもできる。 In each of the above embodiments, in order to improve the accuracy of the three-dimensional shape measurement, the measurement devices (distance measurement unit 20, position acquisition unit 30, inertia measurement unit 40, image acquisition unit 50) are placed on the same plates 2d and 3d. For example, these measuring devices are fixed on the plates 2d and 3d via a linear motion mechanism or a rotation mechanism, and relative position and orientation changes due to these mechanisms are measured with a rotary encoder or the like. Thus, the relative position and orientation of these measuring devices can be easily changed and can be grasped with high accuracy.
また、上記各本実施形態では、計算部60をデスクトップ型のPC61で構成しているが、本願がこれに限定されることはなく、ノート型PC、タブレット型PC等で構成することもできる。また、本実施形態では、ノート型PC64の液晶ディスプレイ65、スピーカ等を表示部とし、キーボード、マウス等を入力部としている。しかし、本願がこれに限定されることはなく、PC61に、単体の液晶モニタ、スピーカ等を接続して表示部とし、キーボード、マウス等を接続して入力部とした構成とすることもできる。入力部をマイクやタッチパッドやタッチパネルモニタとすることもできる。ノート型PC64をタブレット端末やウェアラブル装置(眼鏡型や時計型等)で置き換えることもできる。 Further, in each of the embodiments described above, the calculation unit 60 is configured by the desktop PC 61, but the present application is not limited to this, and may be configured by a notebook PC, a tablet PC, or the like. In the present embodiment, the liquid crystal display 65 of the notebook PC 64, a speaker, and the like are used as a display unit, and a keyboard, a mouse, and the like are used as input units. However, the present application is not limited to this, and a configuration may be adopted in which a single liquid crystal monitor, a speaker, or the like is connected to the PC 61 as a display unit, and a keyboard, a mouse, or the like is connected as an input unit. The input unit can be a microphone, a touch pad, or a touch panel monitor. The notebook PC 64 can be replaced with a tablet terminal or a wearable device (glasses type, watch type, etc.).
また、上記各実施形態では、情報通信装置として、無線通信モデム63,12を用いているが、本願がこれに限定されるものではなく、有線モデムを用いることもできる。 In each of the above embodiments, the wireless communication modems 63 and 12 are used as the information communication apparatus. However, the present application is not limited to this, and a wired modem can also be used.
1,1A 移動体 2 台車(移動体) 3 背負子(移動体)
10 位置追跡部(位置情報取得部)
20,20A1,20A2 距離計測部(距離情報取得部)
30 位置取得部(位置情報取得部)
40 慣性計測部(慣性情報取得部)
50 画像取得部(画像情報取得部)
60 計算部 61 パーソナルコンピュータ(計算部)
65 液晶ディスプレイ(表示部) 100,100A 三次元形状計測装置
1,1A Moving object 2 Carriage (moving object) 3 Backpack (moving object)
10 Location tracking unit (location information acquisition unit)
20, 20A1, 20A2 Distance measurement unit (distance information acquisition unit)
30 position acquisition unit (position information acquisition unit)
40 Inertial measurement unit (Inertia information acquisition unit)
50 Image acquisition unit (image information acquisition unit)
60 Calculator 61 Personal computer (Calculator)
65 Liquid crystal display (display unit) 100, 100A Three-dimensional shape measuring device
Claims (8)
移動体と、
前記移動体に取り付けられ、前記計測対象の複数の所定の計測点までの距離情報を取得する距離情報取得部と、
前記距離情報取得部の位置情報を取得する位置情報取得部と、
前記距離情報取得部の第1の姿勢情報を取得する慣性情報取得部と、
所定の撮像領域を撮像し複数の撮像画像を取得する少なくとも1つの画像情報取得部と、
前記位置情報、前記第1の姿勢情報、及び前記複数の撮像画像を解析して取得した前記距離情報取得部の第2の姿勢情報に基づいて、前記距離情報取得部の絶対位置情報及び絶対姿勢情報を計算し、前記絶対位置情報及び前記絶対姿勢情報に基づいて、前記距離情報取得部で取得した複数の距離情報を座標変換して前記計測対象の前記三次元形状情報を取得する計算部と、を備え、
前記計算部は、前記距離情報取得部の第2の位置情報を前記慣性情報取得部から取得し、前記移動体が静止している状態において前記慣性情報取得部によって取得された前記第1の姿勢情報及び前記第2の位置情報の経時変化を取得し、前記第1の姿勢情報の前記経時変化が所定量以上であるときに、前記第1の姿勢情報の前記経時変化に基づいて、前記慣性情報取得部の経時誤差量を計算し、該経時誤差量、前記第1の姿勢情報及び前記第2の姿勢情報に基づいて、前記絶対姿勢情報を計算することを特徴とする三次元形状計測装置。 A three-dimensional shape measuring apparatus for measuring three-dimensional shape information of a measurement object,
A moving object,
A distance information acquisition unit that is attached to the moving body and acquires distance information to a plurality of predetermined measurement points to be measured;
A position information acquisition unit for acquiring position information of the distance information acquisition unit;
An inertia information acquisition unit for acquiring first posture information of the distance information acquisition unit;
At least one image information acquisition unit that images a predetermined imaging region and acquires a plurality of captured images;
Based on the position information, the first posture information, and the second posture information of the distance information acquisition unit acquired by analyzing the plurality of captured images, the absolute position information and the absolute posture of the distance information acquisition unit A calculation unit that calculates information and performs coordinate conversion of a plurality of distance information acquired by the distance information acquisition unit based on the absolute position information and the absolute posture information to acquire the three-dimensional shape information of the measurement target; , equipped with a,
The calculation unit acquires the second position information of the distance information acquisition unit from the inertia information acquisition unit, and the first posture acquired by the inertia information acquisition unit in a state where the moving body is stationary. Information and the time-dependent change of the second position information are acquired, and when the time-dependent change of the first posture information is equal to or greater than a predetermined amount, the inertia is based on the time-dependent change of the first posture information. A three-dimensional shape measuring apparatus that calculates a time error amount of an information acquisition unit and calculates the absolute posture information based on the time error amount, the first posture information, and the second posture information .
前記距離情報取得部の位置情報を取得する工程と、
前記距離情報取得部の第1の姿勢情報を取得する工程と、
前記距離情報取得部から前記距離情報を取得する工程と、
所定の撮像領域を撮像した複数の撮像画像を取得する工程と、
前記位置情報に基づいて前記距離情報取得部の絶対位置情報を取得する工程と、
前記複数の撮像画像を解析して前記距離情報取得部の第2の姿勢情報を取得する工程と、
前記距離情報取得部の第2の位置情報を前記慣性情報取得部から取得する工程と、
前記第1の姿勢情報及び前記第2の位置情報の経時変化を取得する工程と、
前記経時変化に基づいて前記慣性情報取得部の経時誤差量を計算する工程と、
前記経時誤差量、前記第1の姿勢情報及び前記第2の姿勢情報に基づいて前記距離情報取得部の絶対姿勢情報を取得する工程と、
前記絶対位置情報及び前記絶対姿勢情報に基づいて前記距離情報取得部で取得した複数の距離情報を座標変換して前記計測対象の前記三次元形状情報を取得する工程と、
を有することを特徴とする三次元形状計測方法。 The three-dimensional shape information of the measurement target based on the distance information to a plurality of predetermined measurement points of the measurement target acquired by the distance information acquisition unit and the posture information of the distance information acquisition unit acquired by the inertia information acquisition unit A three-dimensional shape measurement method for obtaining
Obtaining position information of the distance information obtaining unit;
Obtaining first posture information of the distance information obtaining unit;
Obtaining the distance information from the distance information obtaining unit;
Obtaining a plurality of captured images obtained by imaging a predetermined imaging region;
Acquiring absolute position information of the distance information acquisition unit based on the position information;
Analyzing the plurality of captured images and obtaining second posture information of the distance information obtaining unit;
Acquiring the second position information of the distance information acquisition unit from the inertia information acquisition unit;
Obtaining temporal changes of the first posture information and the second position information;
Calculating a time-dependent error amount of the inertia information acquisition unit based on the time-dependent change;
Acquiring absolute posture information of the distance information acquisition unit based on the temporal error amount, the first posture information, and the second posture information;
Obtaining the three-dimensional shape information of the measurement target by performing coordinate transformation of a plurality of distance information acquired by the distance information acquisition unit based on the absolute position information and the absolute posture information;
A three-dimensional shape measuring method characterized by comprising:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015140576A JP6594686B2 (en) | 2015-07-14 | 2015-07-14 | Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2015140576A JP6594686B2 (en) | 2015-07-14 | 2015-07-14 | Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2017020972A JP2017020972A (en) | 2017-01-26 |
| JP6594686B2 true JP6594686B2 (en) | 2019-10-23 |
Family
ID=57888052
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2015140576A Active JP6594686B2 (en) | 2015-07-14 | 2015-07-14 | Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6594686B2 (en) |
Families Citing this family (26)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6770826B2 (en) * | 2016-05-06 | 2020-10-21 | 計測ネットサービス株式会社 | Automatic collimation method and automatic collimation device for measuring the placement position of structures |
| WO2018155590A1 (en) * | 2017-02-24 | 2018-08-30 | 国立研究開発法人理化学研究所 | Identifying device, identifying method and program for identifying position of wall surface inside tunnel appearing in photographic image |
| JP6653674B2 (en) * | 2017-03-14 | 2020-02-26 | 朝日航洋株式会社 | Inspection device for underside of pier upper part, inspection system for underside of pier upper part, and inspection method for underside of pier upper part |
| JP7076086B2 (en) * | 2017-03-27 | 2022-05-27 | 西松建設株式会社 | How to measure the empty displacement in the tunnel |
| JP6686950B2 (en) * | 2017-03-27 | 2020-04-22 | 東京電力ホールディングス株式会社 | Space temperature scanner |
| JP6994879B2 (en) * | 2017-09-20 | 2022-02-04 | 株式会社トプコン | Surveying system |
| JP6807821B2 (en) | 2017-10-31 | 2021-01-06 | 株式会社東芝 | Inspection system |
| WO2019103154A1 (en) * | 2017-11-27 | 2019-05-31 | 株式会社トプコン | Surveying device, surveying system, surveying method, and surveying program |
| JP7355484B2 (en) | 2018-01-12 | 2023-10-03 | 株式会社トプコン | 3D surveying equipment and 3D surveying method |
| JP7097709B2 (en) * | 2018-02-01 | 2022-07-08 | 株式会社トプコン | Surveying system |
| JP7147176B2 (en) * | 2018-02-27 | 2022-10-05 | 国際航業株式会社 | Portable laser survey instrument pedestal, measurement vehicle, and laser measurement method |
| JP2019173393A (en) * | 2018-03-28 | 2019-10-10 | 前田建設工業株式会社 | Steel support work building method and building system |
| US11270426B2 (en) | 2018-05-14 | 2022-03-08 | Sri International | Computer aided inspection system and methods |
| JP7253982B2 (en) * | 2019-06-03 | 2023-04-07 | 三菱電機株式会社 | Tunnel displacement measuring device and tunnel displacement measuring method |
| DE102019120702A1 (en) * | 2019-07-31 | 2021-02-04 | Navvis Gmbh | Frame for at least one scanning device and space detection device with at least one scanning device |
| JP7330008B2 (en) * | 2019-07-31 | 2023-08-21 | 清水建設株式会社 | Excavation management apparatus and method |
| JP7304781B2 (en) * | 2019-09-17 | 2023-07-07 | 株式会社安藤・間 | Tunnel face state display system and tunnel face state display method |
| JP2021068205A (en) * | 2019-10-24 | 2021-04-30 | ピクシーダストテクノロジーズ株式会社 | Information processing device, method, and program |
| JP7341861B2 (en) * | 2019-11-11 | 2023-09-11 | 株式会社トプコン | Management system and method using eyewear device |
| JP7620915B2 (en) * | 2020-12-02 | 2025-01-24 | 大成建設株式会社 | Drilling Support System |
| JP7764177B2 (en) | 2021-09-24 | 2025-11-05 | 株式会社トプコン | Marking device, control method and program for marking device |
| JP2023050513A (en) * | 2021-09-30 | 2023-04-11 | 株式会社トプコン | Uneven level inspection device, uneven level inspection method, and program |
| JP2023112253A (en) * | 2022-02-01 | 2023-08-14 | K’zシステム株式会社 | Tunnel Secondary Lining Fresh Concrete Amount Measuring System and Tunnel Secondary Lining Fresh Concrete Amount Measuring Method |
| CN114791278B (en) * | 2022-04-14 | 2024-08-16 | 中南大学 | Attitude angle sensing device and monitoring method based on geomagnetic field and gravity field perception |
| CN119594883B (en) * | 2024-12-05 | 2025-09-19 | 安徽华景建设有限公司 | House deformation monitoring method and system |
| JP7754562B1 (en) * | 2025-05-09 | 2025-10-15 | 株式会社丸善建設 | Pipe measurement equipment |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH06307863A (en) * | 1993-04-23 | 1994-11-04 | Mitsui Constr Co Ltd | Tunnel cavity section shape measuring device |
| JPH10318743A (en) * | 1997-05-19 | 1998-12-04 | Nakanihon Koku Kk | Method and apparatus for surveying by using flying object |
| AU2011305154B2 (en) * | 2010-09-24 | 2015-02-05 | Irobot Corporation | Systems and methods for VSLAM optimization |
| JP5748566B2 (en) * | 2011-05-31 | 2015-07-15 | 東急建設株式会社 | Three-dimensional shape information acquisition device |
| US9400930B2 (en) * | 2013-09-27 | 2016-07-26 | Qualcomm Incorporated | Hybrid photo navigation and mapping |
-
2015
- 2015-07-14 JP JP2015140576A patent/JP6594686B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2017020972A (en) | 2017-01-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6594686B2 (en) | Three-dimensional shape measuring apparatus, three-dimensional shape measuring method, and program | |
| US10876307B2 (en) | Construction management system and method | |
| Becerik-Gerber et al. | Assessment of target types and layouts in 3D laser scanning for registration accuracy | |
| Scaioni et al. | Photogrammetric techniques for monitoring tunnel deformation | |
| US9250073B2 (en) | Method and system for position rail trolley using RFID devices | |
| EP3086283B1 (en) | Providing a point cloud using a surveying instrument and a camera device | |
| EP2972084B1 (en) | System and method for positioning a tool in a work space | |
| JP5748566B2 (en) | Three-dimensional shape information acquisition device | |
| US20140336928A1 (en) | System and Method of Automated Civil Infrastructure Metrology for Inspection, Analysis, and Information Modeling | |
| Chen et al. | Development of low-cost mobile laser scanning for 3D construction indoor mapping by using inertial measurement unit, ultra-wide band and 2D laser scanner | |
| JP6634229B2 (en) | Method for creating a bar arrangement model using a handheld three-dimensional laser scanner | |
| US11994588B2 (en) | Three-dimensional surface scanning | |
| JP5204955B2 (en) | Scanning method for 3D laser scanner | |
| CN105136134A (en) | Heading machine position and posture detection and adjustment method and system | |
| US12462424B2 (en) | Localization of a surveying instrument | |
| Lee et al. | A study on scan data matching for reverse engineering of pipes in plant construction | |
| Montero et al. | Intelligent robotic system for autonomous crack detection and caracterization in concrete tunnels | |
| JPWO2012077662A1 (en) | CAD information generation system, CAD information generation program, and CAD information generation method | |
| Rashidi et al. | Capturing geometry for labeling and mapping built infrastructure: an overview of technologies | |
| JP7760743B2 (en) | Surveying systems and methods | |
| JP6759625B2 (en) | Measuring device | |
| RU2581722C1 (en) | Method of determining values of deformations of walls of vertical cylindrical reservoir | |
| Turkan et al. | Towards automated progress tracking of erection of concrete structures | |
| JP2013124954A (en) | Method and system for measuring shape of civil engineering structure | |
| EP3943979A1 (en) | Indoor device localization |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180705 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190424 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190507 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190618 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190903 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190925 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6594686 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |