JP6829626B2 - Reference plane generation method and device from point cloud data - Google Patents
Reference plane generation method and device from point cloud data Download PDFInfo
- Publication number
- JP6829626B2 JP6829626B2 JP2017037624A JP2017037624A JP6829626B2 JP 6829626 B2 JP6829626 B2 JP 6829626B2 JP 2017037624 A JP2017037624 A JP 2017037624A JP 2017037624 A JP2017037624 A JP 2017037624A JP 6829626 B2 JP6829626 B2 JP 6829626B2
- Authority
- JP
- Japan
- Prior art keywords
- point cloud
- reference plane
- cloud data
- point
- median
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Length Measuring Devices With Unspecified Measuring Means (AREA)
Description
本発明は、道路等から測定装置で取得した平面状の点群データを解析するため、当該点群データから基準平面を生成する方法及び装置に関する。 The present invention relates to a method and an apparatus for generating a reference plane from the point cloud data in order to analyze planar point cloud data acquired from a road or the like by a measuring device.
一般に道路は車両等の通行により経時的に轍や凹凸が生じ、これらを補修する必要がある。このような道路の補修を行うため、道路の点検を行い、道路の路面性状についてのデータ、即ち路面の凹凸の状態についてのデータを取得する。これらの路面性状についてのデータは、測定員による測定や、路面測定車を測定対象となる道路の測定経路に沿って走行して取得される。路面測定車には、路面にスキャン光を照射して路面の各点の高さを計測する測定装置が搭載されている。 In general, roads have ruts and irregularities over time due to the passage of vehicles and the like, and these need to be repaired. In order to repair such a road, the road is inspected and data on the road surface properties, that is, data on the state of unevenness of the road surface is acquired. Data on these road surface properties are obtained by measurement by a measurer or by traveling a road surface measuring vehicle along a measurement route of a road to be measured. The road surface measuring vehicle is equipped with a measuring device that irradiates the road surface with scan light to measure the height of each point on the road surface.
特許文献1には、移動体を平面の縦断方向に移動させつつ光を平面に向けて投光し投光結果により平面の段差を計測する装置において、移動距離を検出する手段と投光手段、光照射ラインを撮像する手段、高さデータを取得する横断方向データ演算手段、縦方向データ演算手段、3次元データ演算手段、を備える構成とする。以上の構成により移動体が所定距離移動するごとに平面の横断方向に沿って1本の照射ラインが平面上に形成されるように移動体から平面に向け光が投光され、上記各種手段により凹凸プロフィルをリアルタイムに取得する技術が記載されている。 Patent Document 1 describes a means for detecting a moving distance and a means for projecting light in a device that projects light toward a plane while moving a moving body in a longitudinal direction of the plane and measures a step on the plane based on the result of the projection. The configuration includes means for imaging a light irradiation line, cross-sectional data calculation means for acquiring height data, vertical data calculation means, and three-dimensional data calculation means. With the above configuration, every time the moving body moves a predetermined distance, light is projected from the moving body toward the plane so that one irradiation line is formed on the plane along the transverse direction of the plane, and by the above-mentioned various means. A technique for acquiring an uneven profile in real time is described.
このような路面性状車にあっては、路面の高さ測定は、GNSS(Global Navigation STtellite System:全地球航法衛星システム)で位置を取得しつつ測定装置のスキャナにより車両の斜め前方にスキャン光をスパイラル状に照射して周囲の構造物からの反射光を受信することにより行われる。ここで、測定装置は、複数、例えば32個の測定素子を備え、この測定素子を回転駆動して順次スキャンを行い、周囲の構造物までの距離を取得して全周にわたる点群データを得る。 In such a road surface condition vehicle, the height of the road surface is measured by scanning light diagonally forward of the vehicle by the scanner of the measuring device while acquiring the position by GNSS (Global Navigation STtellite System). It is performed by irradiating in a spiral shape and receiving reflected light from surrounding structures. Here, the measuring device includes a plurality of measuring elements, for example, 32 measuring elements, and the measuring elements are rotationally driven to perform sequential scanning to acquire the distance to the surrounding structure and obtain the point group data over the entire circumference. ..
道路点群の凹凸を評価する方法として、道路点群から基準平面を計算し、道路点群の各点が基準平面からどれだけ離れているかを指標とすることが行われている。 As a method of evaluating the unevenness of the road point cloud, a reference plane is calculated from the road point cloud, and how far each point of the road point cloud is from the reference plane is used as an index.
上述した道路点群から基準平面を生成(フィッティング)する手法として最小二乗法(LS:Least Square Fitting:非特許文献1参照)や、主成分分析(PCA:Principal Component Analysis:非特許文献2参照)が広く知られている。この主成分分析は、古典的主成分分析とも称されるが、最小二乗法に比べて精度が高く、点群への平面フィッティングで主流の方法となっている(非特許文献2参照)。 As a method for generating (fitting) a reference plane from the above-mentioned road point cloud, the least squares method (LS: Least Square Fitting: see Non-Patent Document 1) and principal component analysis (PCA: Principal Component Analysis: see Non-Patent Document 2). Is widely known. This principal component analysis, which is also called classical principal component analysis, has higher accuracy than the least squares method and is the mainstream method for plane fitting to a point cloud (see Non-Patent Document 2).
しかしながら、最小二乗法や上述した古典的な主成分分析は、外れ値に弱いことが知られている。測定装置で得られた道路の点群データには、点群データを取得するために使用されるレーザスキャナそのもののノイズや、道路標識、電柱、他車両、縁石やガードレールなど、道路以外のものによる点群が存在する。このようなノイズや点群は道路面から大きく離れ座標をもっている外れ値であり、道路点群に対して基準平面のフィッティングを行うとき影響を与える。 However, the least squares method and the classical principal component analysis described above are known to be vulnerable to outliers. The point cloud data of the road obtained by the measuring device is due to the noise of the laser scanner itself used to acquire the point cloud data, road signs, electric poles, other vehicles, curbs, guard rails, etc. other than the road. There is a point cloud. Such noise and point clouds are outliers that have coordinates that are far from the road surface, and have an effect when fitting the reference plane to the road point cloud.
そこで、本発明は、ほぼ平面状に分布すると共に極端に大きな外れ値をもつノイズが存在する点群データから、当該ノイズの影響を受けることなく基準平面を生成することができる点群データへの基準平面の生成方法、及び装置を提供することを目的とする。 Therefore, the present invention provides point cloud data that can generate a reference plane without being affected by the noise from the point cloud data in which noise that is distributed almost in a plane and has extremely large outliers exists. It is an object of the present invention to provide a method for generating a reference plane and an apparatus.
前記課題を解決する請求項1に記載の発明は、測定経路に沿って移動させた測定装置で取得した道路の各点の位置を示す平面状の点群データから当該点群データの評価基準となる基準平面を生成する方法であって、前記点群データの中央値を求め、前記点群データの各点と前記中央値との距離を求め、前記各点に前記距離が大きくなるほど小さい値となる寄与率を求め、前記寄与率を乗じて基準平面を生成することを特徴とする点群データからの基準平面生成方法である。 The invention according to claim 1, which solves the above-mentioned problems, uses a planar point group data indicating the position of each point on the road acquired by a measuring device moved along a measurement path as an evaluation standard for the point group data. In this method of generating a reference plane, the median value of the point group data is obtained, the distance between each point of the point group data and the median value is calculated, and the larger the distance is, the smaller the value is. This is a method for generating a reference plane from point group data, which is characterized in that a reference plane is generated by obtaining the contribution ratio to be obtained and multiplying the contribution ratio.
同じく請求項2に係る発明は、請求項1に記載の点群データからの基準平面生成方法において、前記寄与率は前記距離に反比例することを特徴とする。 Similarly, the invention according to claim 2 is characterized in that the contribution rate is inversely proportional to the distance in the reference plane generation method from the point cloud data according to claim 1.
同じく請求項3に係る発明は、請求項1に記載の点群データからの基準平面生成方法において、前記基準平面の生成には主成分分析(PCA:Principal Component Analysis)を使用し、PCAの計算に幾何中央値共分散行列(MCM:Median Covariation Matrix)を用い、重み付き確率的勾配降下法によって幾何中央値共分散行列を更新し、この更新を収束まで繰り返すことを特徴とする。 Similarly, in the invention according to claim 3, in the reference plane generation method from the point group data according to claim 1, principal component analysis (PCA: Principal Component Analysis) is used to generate the reference plane, and PCA is calculated. The feature is that the geometric median covariance matrix (MCM) is used, the geometric median covariance matrix is updated by the weighted stochastic gradient descent method, and this update is repeated until convergence.
同じく請求項4に係る発明は、請求項3に記載の点群データからの基準平面生成方法において、前記幾何中央値共分散行列の更新を繰り返すに際し、すべての点群に対して計算が1回終了するごとに全点の読み込順をランダムシャッフルすることを特徴とする。 Similarly, in the invention according to claim 4, in the reference plane generation method from the point cloud data according to claim 3, when the update of the geometric median covariance matrix is repeated, the calculation is performed once for all the point clouds. It is characterized by randomly shuffling the reading order of all points each time it finishes.
同じく請求項5に係る発明は、測定経路に沿って移動させた測定装置で取得した道路の各点の位置を示す平面状の点群データから当該点群データの評価基準となる基準平面を生成する装置であって、前記点群データの中央値を求める手段と、前記点群データの各点と前記中央値との距離を求める手段と、前記各点に前記距離が大きくなるほど小さい値となる寄与率を求める手段と、前記寄与率を乗じて基準平面を生成する手段と、を備えることを特徴とする点群データへの基準平面生成装置である。 Similarly, the invention according to claim 5 generates a reference plane as an evaluation standard of the point group data from the planar point group data indicating the position of each point on the road acquired by the measuring device moved along the measurement path. The means for obtaining the median value of the point group data, the means for obtaining the distance between each point of the point group data and the median value, and the larger the distance to each point, the smaller the value. It is a reference plane generation device for point group data, which comprises means for obtaining a contribution rate and means for generating a reference plane by multiplying the contribution rate.
本発明に係る点群データへの基準平面の生成方法、及び装置によれば、ほぼ平面状に分布すると共に極端に大きな外れ値をもつノイズが存在する点群データから、当該ノイズの影響を受けることなく基準平面を生成することができる。 According to the method for generating a reference plane to the point cloud data according to the present invention and the apparatus, the point cloud data is affected by the noise from the point cloud data which is distributed almost in a plane and has noise having extremely large outliers. A reference plane can be generated without any need.
即ち、請求項1に記載の点群データからの基準平面生成方法、及び請求項5に記載の点群データへの基準平面生成装置によれば、測定経路に沿って移動させた測定装置で取得した道路の各点の位置を示す平面状の点群データから当該点群データの評価基準となる基準平面を生成するに際して、点群データの中央値を求め、点群データの各点と中央値との距離を求め、各点に前記距離が大きくなるほど小さい値となる寄与率を求め、前記寄与率を乗じて基準平面を生成する。
これにより、大きな外れ値をもつノイズは小さな寄与率が乗じられてて基準平面生成に与える影響が小さくなる。
That is, according to the reference plane generation method from the point group data according to claim 1 and the reference plane generation device for the point group data according to claim 5, the measurement device is moved along the measurement path. When generating a reference plane that serves as an evaluation standard for the point group data from the planar point group data indicating the position of each point on the road, the median value of the point group data is obtained, and each point and the median value of the point group data The distance to and from is obtained, the contribution rate that becomes smaller as the distance increases at each point is obtained, and the reference plane is generated by multiplying the contribution rate.
As a result, noise with large outliers is multiplied by a small contribution factor to reduce the effect on reference plane generation.
また、請求項2に記載の点群データからの基準平面生成方法によれば、寄与率は距離に反比例する。
これにより、大きな外れ値のノイズは、距離に反比例して小さい値となり、基準平面生成に与える影響が小さくなる。
Further, according to the reference plane generation method from the point cloud data according to claim 2, the contribution rate is inversely proportional to the distance.
As a result, the noise with a large outlier becomes a small value in inverse proportion to the distance, and the influence on the generation of the reference plane becomes small.
また、請求項3に記載の点群データからの基準平面生成方法によれば、基準平面の生成には主成分分析(PCA:Principal Component Analysis)を使用し、主成分分析(PCA)の計算に幾何中央値共分散行列(MCM:Median Covariation Matrix)を用い、重み付き確率的勾配降下法によって幾何中央値共分散行列を更新し、この更新を収束まで繰り返す。
これにより、大きな外れ値のノイズは、距離に反比例して小さい値となり、基準平面生成に与える影響が小さくなる。
Further, according to the reference plane generation method from the point group data according to claim 3, principal component analysis (PCA: Principal Component Analysis) is used to generate the reference plane, and the principal component analysis (PCA) is calculated. Using the Median Covariance Matrix (MCM), the geometric median covariance matrix is updated by the weighted stochastic gradient descent method, and this update is repeated until convergence.
As a result, the noise with a large outlier becomes a small value in inverse proportion to the distance, and the influence on the generation of the reference plane becomes small.
そして、請求項4に記載の点群データからの基準平面生成方法によれば、幾何中央値共分散行列の更新を繰り返すに際し、すべての点群に対して計算が1回終了するごとに全点の読み込順をランダムシャッフルする。
これにより、局所解に陥るのを防止できる。
Then, according to the reference plane generation method from the point cloud data according to claim 4, when the geometric median covariance matrix is repeatedly updated, all points are obtained every time the calculation is completed for all the point clouds. Randomly shuffle the reading order of.
As a result, it is possible to prevent falling into a local solution.
以下、本発明の実施形態に係る点群データからの基準平面生成方法、及び装置について説明する。本発明に係る点群データからの基準平面生成方法は、平面状の点群データの中央値を求め、点群データの各点と中央値との距離を求め、各点に前記距離が大きくなるほど小さい値となる寄与率を求め、各点に前記寄与率を乗じて補正点群データを生成し、補正点群データに基づいて評価基準となる基準平面を生成する。 Hereinafter, a reference plane generation method and an apparatus from the point cloud data according to the embodiment of the present invention will be described. In the reference plane generation method from the point group data according to the present invention, the median value of the planar point group data is obtained, the distance between each point of the point group data and the median value is obtained, and the larger the distance becomes, the larger the distance becomes. The contribution rate, which is a small value, is obtained, and each point is multiplied by the contribution rate to generate correction point group data, and a reference plane as an evaluation standard is generated based on the correction point group data.
近年、中央値の概念をテンソルへ拡張する様々な数学モデルが提案されており、PCAへの適応では,(幾何)中央値共分散行列(MCM: Median Covariation Matrix)が注目されている(非特許文献3参照)。本実施形態に係る点群データからの基準平面生成方法では、外れ値に堅牢な「重み付きMCM−PCA」を大規模データに対して適用して計算を行い、基準平面を効率的に推定する。外れ値は、幾何中央からの距離が大きいと仮定し、その逆数をMCM−PCAの重みとして用いる。 In recent years, various mathematical models that extend the concept of median to tensors have been proposed, and the (geometric) median covariance matrix (MCM) is drawing attention for adaptation to PCA (non-patent). Reference 3). In the reference plane generation method from the point cloud data according to the present embodiment, the reference plane is efficiently estimated by applying the robust "weighted MCM-PCA" to the outliers to the large-scale data and performing the calculation. .. The outliers are assumed to have a large distance from the center of the geometry, and their reciprocals are used as the weights of MCM-PCA.
本実施形態では、公知のMCM−PCA(非特許文献4参照)に重み付け係数を導入し、重み付き確率的勾配降下法によって幾何中央値共分散行列を更新する。この更新を収束するまで繰り返すが、全点群に対して計算が1回終了するごとに全点の読み込順をランダムシャッフルする。これにより局所解に陥るのを回避する。 In this embodiment, a weighting coefficient is introduced into a known MCM-PCA (see Non-Patent Document 4), and the geometric median covariance matrix is updated by a weighted stochastic gradient descent method. This update is repeated until it converges, but the reading order of all points is randomly shuffled every time the calculation is completed for all point groups. This avoids falling into a local solution.
以下、本発明の実施形態に係る基準平面生成装置について説明する。まず、点群データの取得から解析までの概略手順を説明する。図1は本発明の実施形態に係る生成装置の構成を示すブロック図、図2は路面測定装置による路面の測定状態を示す模式図であり、(a)は側面図、(b)は平面図、図3は道路に配置された構造物を示す模式図である。 Hereinafter, the reference plane generator according to the embodiment of the present invention will be described. First, a general procedure from acquisition of point cloud data to analysis will be described. 1 is a block diagram showing a configuration of a generator according to an embodiment of the present invention, FIG. 2 is a schematic view showing a road surface measurement state by a road surface measuring device, FIG. 1A is a side view, and FIG. 2B is a plan view. , FIG. 3 is a schematic view showing a structure arranged on a road.
点群データは路面測定装置300により取得する。路面測定装置300は、MMS(モバイルマッピングシステム:Mobile Mapping System)を構成している。即ち、路面測定装置300は、道路を含む所定の範囲をスキャンして路面測定装置300が通過した道路及び道路周辺の構造物についての点群データ(道路点群データ)と、路面測定装置300の移動軌跡を示す軌跡点列データと基準平面生成装置100に出力する。 The point cloud data is acquired by the road surface measuring device 300. The road surface measuring device 300 constitutes an MMS (Mobile Mapping System: Mobile Mapping System). That is, the road surface measuring device 300 scans a predetermined range including the road, and points group data (road point group data) about the road and the structures around the road that the road surface measuring device 300 has passed through, and the road surface measuring device 300. The locus point sequence data showing the movement locus and the reference plane generation device 100 are output.
基準平面生成装置100は、取得した道路点群データに基づいて、軌跡に沿って順次処理を行う単位とする単位領域UAを設定し、この単位領域UAごとの道路点群データであるエリア点群データを抽出し、更にエリア点群データからこの単位領域における基準平面CPを生成する。生成した基準平面CPは、道路点群データ及び軌跡点データと共に路面評価装置200に送出される。路面評価装置200は、順次取得した基準平面CP、道路点群データ及び軌跡点列データを解析して道路の状態を判定する。 The reference plane generation device 100 sets a unit area UA as a unit for sequentially processing along the trajectory based on the acquired road point cloud data, and the area point cloud which is the road point cloud data for each unit area UA. Data is extracted, and a reference plane CP in this unit area is generated from the area point cloud data. The generated reference plane CP is sent to the road surface evaluation device 200 together with the road point cloud data and the locus point data. The road surface evaluation device 200 determines the state of the road by analyzing the reference plane CP, the road point cloud data, and the locus point sequence data sequentially acquired.
図2(a)に示すように、路面測定装置300は、走行して移動する車両に搭載され、スキャナ及び画像による高精度な構造物400の実測データを取得する。この測定は、スキャナ310の道路の周辺についてなされるが、構造物400としては、道路410の他、信号、道路標識等の道路の付属物420、建築物430、立木440があり、路面測定装置300は、これらについての点群データ及び画像を取得する。 As shown in FIG. 2A, the road surface measuring device 300 is mounted on a traveling vehicle and acquires high-precision actual measurement data of the structure 400 by a scanner and an image. This measurement is performed around the road of the scanner 310, and the structure 400 includes a road 410, road accessories such as signals and road signs 420, a building 430, and a standing tree 440, and is a road surface measuring device. The 300 acquires point group data and images for these.
道路の評価を行う際には、道路以外のものについて得られた点群データが存在する道路の基準平面の設定等が正確にできない。このため、基準平面生成装置100は、道路面以外から取得された点群データの影響を少なくする処理を行って基準平面を生成する。 When evaluating a road, it is not possible to accurately set the reference plane of the road on which the point cloud data obtained for something other than the road exists. Therefore, the reference plane generation device 100 generates the reference plane by performing a process of reducing the influence of the point cloud data acquired from other than the road surface.
路面測定装置300は、図2(a)に示すように、道路410を走行する車両340に搭載される。路面測定装置300は、測定装置であるスキャナ310と、全周カメラ320と、GNSS(Global Navigation Satellite System)装置330と、路面測定装置300の姿勢検出装置、加速度計等を備える。路面測定装置300はGNSS装置で位置を取得しつつスキャナ310により車両340の斜め前方にスキャン光Laをスパイラル状に走査して照射し、構造物400である例えば道路410からの反射光Lbを受信する。 As shown in FIG. 2A, the road surface measuring device 300 is mounted on the vehicle 340 traveling on the road 410. The road surface measuring device 300 includes a scanner 310 which is a measuring device, an all-around camera 320, a GNSS (Global Navigation Satellite System) device 330, an attitude detection device of the road surface measuring device 300, an accelerometer, and the like. The road surface measuring device 300 spirally scans and irradiates the scan light La diagonally forward of the vehicle 340 with the scanner 310 while acquiring the position by the GNSS device, and receives the reflected light Lb from the structure 400, for example, the road 410. To do.
路面測定装置300は、この受信までの時間に基づいて道路の測定データ(道路点群データ)を取得する。このため、構造物400における、スキャン光Laの軌跡Tは、スパイラル状となる。なお、図2(b)には、道路410に照射されたスキャン光Laだけを記載している。スキャナ310には、32個の測定素子が配置されている。この測定素子は発光素子と受光素子とを備え、発光素子からはパルス状に測定光が射出され、受光素子は構造物400による測定光の反射を受光する。しかし、この反射光には道路410、付属物420、建築物430、立木440からの反射光や、太陽光によるノイズ、装置に起因するするノイズが含まれることがある。 The road surface measuring device 300 acquires road measurement data (road point cloud data) based on the time until reception. Therefore, the locus T of the scan light La in the structure 400 has a spiral shape. Note that FIG. 2B shows only the scan light La irradiated on the road 410. 32 measuring elements are arranged in the scanner 310. This measuring element includes a light emitting element and a light receiving element, and the measuring light is emitted in a pulse shape from the light emitting element, and the light receiving element receives the reflection of the measured light by the structure 400. However, this reflected light may include reflected light from the road 410, the accessory 420, the building 430, and the standing tree 440, noise due to sunlight, and noise due to the device.
また、路面測定装置300は、同時に全周カメラ320により全周にわたり道路の画像を取得する。GNSS装置330は、人工衛星の電波をとらえ、路面測定装置300の平面位置と高度を取得して路面測定装置300の走行経路、即ち測定経路を取得する。そして、路面測定装置300の座標を一定時間間隔、例えば100回/秒間隔の軌跡点を取得して軌跡点列データを座標として出力する。 Further, the road surface measuring device 300 simultaneously acquires an image of the road over the entire circumference by the all-around camera 320. The GNSS device 330 captures the radio waves of the artificial satellite, acquires the plane position and altitude of the road surface measuring device 300, and acquires the traveling path of the road surface measuring device 300, that is, the measuring path. Then, the coordinates of the road surface measuring device 300 are acquired at regular time intervals, for example, locus points at intervals of 100 times / second, and the locus point sequence data is output as coordinates.
基準平面生成装置100は、長大な道路点群データを指定された範囲の単位領域ごとの基準平面CPを、道路点群データ及び軌跡データを路面評価装置200に順次送出する。路面評価装置200は、この点群データを単位領域UAごとに解析して路面性状の評価を行う。 The reference plane generation device 100 sequentially transmits the long road point cloud data to the road surface evaluation device 200 for the reference plane CP for each unit area in the designated range, and the road point cloud data and the trajectory data. The road surface evaluation device 200 analyzes this point cloud data for each unit region UA and evaluates the road surface properties.
図4は点群データの概略状態を示すものであり、(a)は単位領域における点群データの分布を模式的に示す斜視図、図5は点群データの中央値と距離とを示す模式図である。図4(a)に示すように、路面評価装置200は、単位領域UAごとに道路点群データと基準平面CPと軌跡点列データとを受け取り、図4(b)に示すように、道路の各位置における点群データの基準平面CPからの離間量を算出し、この値を画像表示する等して道路の評価を行う。 FIG. 4 shows a schematic state of the point cloud data, FIG. 4A is a perspective view schematically showing the distribution of the point cloud data in the unit region, and FIG. 5 is a schematic showing the median value and the distance of the point cloud data. It is a figure. As shown in FIG. 4A, the road surface evaluation device 200 receives the road point group data, the reference plane CP, and the locus point sequence data for each unit area UA, and as shown in FIG. 4B, the road surface evaluation device 200 receives the road point group data. The amount of distance from the reference plane CP of the point group data at each position is calculated, and this value is displayed as an image to evaluate the road.
以下、基準平面生成装置100について詳細に説明する。図1に示すように、基準平面生成装置100は、単位領域切出部110、初期値算出部120、距離算出部130、寄与率算出部140、中央値・共分散行列更新部150、及び平面生成部160を備える。 Hereinafter, the reference plane generator 100 will be described in detail. As shown in FIG. 1, the reference plane generation device 100 includes a unit area cutting unit 110, an initial value calculation unit 120, a distance calculation unit 130, a contribution rate calculation unit 140, a median / covariance matrix update unit 150, and a plane. A generation unit 160 is provided.
本実施形態に係る基準平面生成装置100は、処理装置としてCPU(Central Processing Unit)、主記憶装置としてRAM(Random Access Memory)、ROM(Read Only Memory)、補助記憶装置としてHDD(Hard Disc Drive)等を備えたコンピュータとして構成される。基準平面生成装置100では、CPUによりプログラムを実行することにより基準平面生成装置100が実現する手段、即ち単位領域切出部110、初期値算出部120、距離算出部130、寄与率算出部140、中央値・共分散行列更新部150、及び平面生成部160の機能を実現する。基準平面生成装置100は点群データからの基準平面生成方法を実現するプログラムをインストールしたノート型のパーソナルコンピュータで実現できる。 The reference plane generation device 100 according to the present embodiment has a CPU (Central Processing Unit) as a processing device, a RAM (Random Access Memory) and a ROM (Read Only Memory) as a main storage device, and an HDD (Hard Disk Drive) as an auxiliary storage device. It is configured as a computer equipped with such as. In the reference plane generation device 100, the means realized by the reference plane generation device 100 by executing the program by the CPU, that is, the unit area cutting unit 110, the initial value calculation unit 120, the distance calculation unit 130, the contribution rate calculation unit 140, The functions of the median / covariance matrix update unit 150 and the plane generation unit 160 are realized. The reference plane generation device 100 can be realized by a notebook-type personal computer in which a program for realizing a reference plane generation method from point cloud data is installed.
単位領域切出部110は、路面測定装置300から取得した道路点群データを単位領域UAごとに切り出してエリア点群データとして出力する。単位領域UAの大きさは必要に応じて設定することができるが、例えば車幅方向に4m、測定方向に3mとすることができる。 The unit area cutting unit 110 cuts out the road point cloud data acquired from the road surface measuring device 300 for each unit area UA and outputs it as area point cloud data. The size of the unit area UA can be set as needed, and can be, for example, 4 m in the vehicle width direction and 3 m in the measurement direction.
初期値算出部120は、エリア点群データの幾何中央値(メジアン)を算出する。幾何中央値Cは、測地座標系に基づく三次元座標につき、分布する道路点群データの幾何学的座標値の中央となる値を求める。これを幾何中央値の初期値C1として保存する。また、求めた幾何中央値Cを用いて、幾何中央値共分散行列の初期値V1を計算し、保存する。なお、点群データは測地系により出力座標系が異なり、経度・緯度による場合や、基準地点を原点としてx方向を東、y方向を北、z方向を標高とする方法など多様である。 The initial value calculation unit 120 calculates the geometric median of the area point cloud data. The geometric median value C is a value that is the center of the geometric coordinate values of the distributed road point cloud data for the three-dimensional coordinates based on the geodetic coordinate system. This is saved as the initial value C1 of the geometric median. Further, the initial value V1 of the geometric median covariance matrix is calculated and stored using the obtained geometric median value C. The output coordinate system of the point cloud data differs depending on the geodetic system, and there are various methods such as the case of longitude / latitude, the method of setting the reference point as the origin, the x direction as the east, the y direction as the north, and the z direction as the altitude.
距離算出部130は、幾何中央値Cnとエリア点群データの各点Pnとの距離Wnを求める(図5参照)。なお、点群データは極座標など直交座標系(デカルト座標)以外で得られる場合もあり、点間距離を求めるにはピタゴラスの定理に限らず、所定の手法による。 The distance calculation unit 130 obtains the distance Wn between the geometric median Cn and each point Pn of the area point cloud data (see FIG. 5). Note that the point cloud data may be obtained in a system other than the Cartesian coordinates (Cartesian coordinates) such as polar coordinates, and the distance between points is not limited to the Pythagorean theorem and is determined by a predetermined method.
寄与率算出部140は、寄与率を計算する。寄与率は、各点について距離が大きくなるほど小さい値として、例えば距離の逆数(1/Wn)とする。寄与率は、Wnが大きくなるに応じて値が小さくなるような任意の関数を用いることもできる。なお、寄与率の算出は、今回、各点の中央値からの距離の逆数に、任意の定数係数を乗じる関数としているが、指数や対数を用いるものや、更に複雑な関数を用いることもできる。寄与率を表す関数は、「中央値から離れるほど寄与率は小さくなる」という性質をもつものであれば差し支えない。 The contribution rate calculation unit 140 calculates the contribution rate. The contribution rate is set to a smaller value as the distance increases for each point, for example, the reciprocal of the distance (1 / Wn). As the contribution rate, an arbitrary function can be used in which the value decreases as Wn increases. This time, the contribution rate is calculated by multiplying the reciprocal of the distance from the median of each point by an arbitrary constant coefficient, but an exponent or logarithm or a more complicated function can also be used. .. The function representing the contribution rate may have the property that "the contribution rate decreases as the distance from the median increases".
中央値・共分散行列更新部150は、重み付き確率的勾配降下法によって、寄与率を付与しながら幾何中央値共分散行列Vを更新し、この更新を収束まで繰り返す。これにより、ノイズ成分による影響を軽減した基準平面CPが生成できる。ここで「重み付き確率的勾配降下法」とは、最適化問題の解法として既知である確率的勾配降下法に重み付けを導入し、外れ値への影響を軽減すると共に局所解に陥ることを避ける処理である。 The median / covariance matrix update unit 150 updates the geometric median covariance matrix V while imparting a contribution rate by a weighted stochastic gradient descent method, and repeats this update until convergence. As a result, a reference plane CP in which the influence of the noise component is reduced can be generated. Here, the "weighted stochastic gradient descent method" introduces weighting into the stochastic gradient descent method, which is known as a solution of optimization problems, to reduce the influence on outliers and avoid falling into a local solution. It is a process.
平面生成部160は、古典的PCAで用いられる幾何平均値、共分散行列の代わりに、中央値・共分散行列更新部150で更新された幾何中央値と幾何中央値分散共分散行列を用いて、基準平面CPを計算する。 The plane generator 160 uses the median / covariance matrix updated by the median / covariance matrix updater 150 instead of the geometric mean and covariance matrix used in the classical PCA. , Calculate the geometric mean CP.
以上の処理の流れをまとめると次のようになる。図6は本発明の実施形態に係る点群データからの基準平面生成方法の処理を示すフローチャートである。ここでは、単位領域UAを定め、エリア点群データを取得するところから説明する。基準平面生成装置100は、路面測定装置300から単位領域点群データ(点群データP:点数N)を読み取る(ステップST1)。ついで、初期値算出部120により点群データPのすべての点の座標から幾何中央値Cを算出する。これを幾何中央値の初期値C1として保存する。また、求めた幾何中央値Cを用いて、幾何中央値共分散行列の初期値V1を計算し保存する(ステップST2)。 The above processing flow can be summarized as follows. FIG. 6 is a flowchart showing the processing of the reference plane generation method from the point cloud data according to the embodiment of the present invention. Here, the unit area UA is defined and the area point cloud data is acquired. The reference plane generation device 100 reads the unit area point cloud data (point cloud data P: point N) from the road surface measuring device 300 (step ST1). Then, the initial value calculation unit 120 calculates the geometric median value C from the coordinates of all the points in the point cloud data P. This is saved as the initial value C1 of the geometric median. Further, the initial value V1 of the geometric median covariance matrix is calculated and saved using the obtained geometric median value C (step ST2).
そして、n=1;n≦N;n++に従って、ステップST4、ステップST5の処理を繰り返す(ステップST3〜ステップST7)。即ち、距離算出部130により点群データPの点Pnと幾何中央値Cnとの距離Wnを計算する(ステップST4)。そして、寄与率算出部140により寄与率unを計算し(ステップST5)、中央値・共分散行列更新部150で、寄与率unを乗じる重み付き確率的勾配降下法に基づき、幾何中央値Cnと幾何中央値共分散行列Vnを更新する(ステップST6)。 Then, the processes of step ST4 and step ST5 are repeated according to n = 1; n ≦ N; n ++ (steps ST3 to ST7). That is, the distance calculation unit 130 calculates the distance Wn between the point Pn of the point cloud data P and the geometric median Cn (step ST4). Then, the contribution rate un is calculated by the contribution rate calculation unit 140 (step ST5), and the geometric median value Cn is calculated by the median / covariance matrix update unit 150 based on the weighted probabilistic gradient descent method for multiplying the contribution rate un. The geometric median covariance matrix Vn is updated (step ST6).
そして、N個の点に対して幾何中央値CnとVnを更新し、得られた幾何中央値をCN、幾何中央値共分散行列をVNとする。ついで、得られたVNとCNとを保存する(ステップST8)。そして、幾何中央値共分散行列の初期値V1と、VNの各成分の二乗平方和を計算し(ステップST9)、これがあらかじめ定めた収束判定閾値εを下回っていない場合、ステップST10により点群の各点の読み出し順をランダムにシャッフルする。そして、初期値C1とV1にそれぞれCN、とVNを代入し(ステップST11)、ステップST3〜ステップST7を繰り返す。これにより、各点の寄与率によって外れ値の影響が修正された中央値と共分散行列が得られる。 Then, the geometric median values Cn and Vn are updated for N points, and the obtained geometric median value is CN and the geometric median covariance matrix is VN. Then, the obtained VN and CN are stored (step ST8). Then, the initial value V1 of the geometric median covariance matrix and the root mean square of each component of VN are calculated (step ST9), and if this is not less than the predetermined convergence determination threshold value ε, the point group is subjected to step ST10. Randomly shuffle the read order of each point. Then, CN and VN are substituted into the initial values C1 and V1, respectively (step ST11), and steps ST3 to ST7 are repeated. This gives a median and covariance matrix in which the effects of outliers are corrected by the contribution of each point.
そして、平面生成部160が、収束するまで更新された幾何中央値と幾何中央値共分散行列を用いて、例えばPCAにより平面フィッティングを行って基準平面CPを生成し(ステップST12)、結果を保存する(ステップST13)。平面フィッティングには他の方法を用いることもできる。 Then, the plane generation unit 160 generates a reference plane CP by performing plane fitting by, for example, PCA, using the geometric median and the geometric median covariance matrix updated until convergence (step ST12), and saves the result. (Step ST13). Other methods can be used for plane fitting.
次に、基準平面生成までの一連の処理の計算方法について説明する。図7は幾何中央値と幾何中央値共分散行列の更新を行うための数式を示すものである。式1から式3は幾何中央値共分散行列の初期値V1と幾何中央値の初期値C1を求めるものであり、初期値算出部120に相当する。 Next, a calculation method for a series of processes up to the generation of the reference plane will be described. FIG. 7 shows a mathematical formula for updating the geometric median and the geometric median covariance matrix. Equations 1 to 3 obtain the initial value V1 of the geometric median covariance matrix and the initial value C1 of the geometric median value, and correspond to the initial value calculation unit 120.
図7の式4は距離算出部130、式5は寄与率算出部140、式6から式9は中央値・共分散行列更新部150の処理を各点ごとに繰り返す計算式である。nは点群の点の番号であり、n=1からn=N(Nは点全体の数)まで順不同にデータを読み込んで1点ごとに値を更新する。これを繰り返してn=Nまで更新し、その段階でのVN及びCNを保存する。 Equation 4 in FIG. 7 is a distance calculation unit 130, equation 5 is a contribution ratio calculation unit 140, and equations 6 to 9 are calculation formulas in which the processing of the median / covariance matrix update unit 150 is repeated for each point. n is the number of a point in the point cloud, and data is read in no particular order from n = 1 to n = N (N is the number of all points), and the value is updated for each point. This is repeated until n = N, and the VN and CN at that stage are stored.
初期値V1及びC1をVN及びCNとして代入し、再び同様に全点に対して更新処理を繰り返す。このとき点の読み出し順をランダムにシャッフルする。このように繰り返し処理1周回ごとに読み出し順をランダムにシャッフルすることにより、不適切な局所解に陥ることを回避し、最適解へ収束させることができる。収束するとV1とVNの各成分の差分の二乗和の差が非常に小さくなる。あらかじめ定めた収束判定閾値εを下回ったとき、収束したとみなして反復計算を終了する。 The initial values V1 and C1 are substituted as VN and CN, and the update process is repeated for all points in the same manner. At this time, the reading order of the points is shuffled at random. By randomly shuffling the reading order for each round of the iterative process in this way, it is possible to avoid falling into an inappropriate local solution and converge to the optimum solution. When converged, the difference in the sum of squares of the differences between the components of V1 and VN becomes very small. When it falls below the predetermined convergence test threshold value ε, it is regarded as having converged and the iterative calculation is terminated.
次に、基準平面生成装置100による処理の結果を説明する。図8は本発明の実施形態に係る点群データへの基準平面生成装置の処理結果を示すものであり、(a)は生成された平面を示す模式図、(b)はノイズが点群から生成した平面に対するノイズがある点群から生成した平面の傾きを処理方法別に示したグラフである。 Next, the result of the processing by the reference plane generator 100 will be described. FIG. 8 shows the processing result of the reference plane generator for the point cloud data according to the embodiment of the present invention, (a) is a schematic diagram showing the generated plane, and (b) is noise from the point cloud. It is a graph which showed the inclination of the plane generated from the point cloud with noise with respect to the generated plane by the processing method.
図8(a)に示す図は、処理対象は、正方形の単位領域UAに分布した点群データPであり、この点群データPには、大量インパルスノイズ(全体の10%:振幅はランダム)を加えている。この条件で基準平面CPを求めた。なお、基準平面CPの法線をNで示している。 In the figure shown in FIG. 8A, the processing target is the point cloud data P distributed in the square unit region UA, and the point cloud data P includes a large amount of impulse noise (10% of the total: the amplitude is random). Is added. The reference plane CP was obtained under these conditions. The normal of the reference plane CP is indicated by N.
図8(a)(i)は実施形態に係る基準平面生成装置100で処理した場合を示し、同(ii)は従来の方法で処理した場合を示している。まったく同一の点群データPnに対して実施形態に係る基準平面生成装置100では、基準平面CPが単位領域UA平面にほぼ沿っているのに対して、従来の方法では基準平面CPが単位領域UAに交差する方向に配置され、ノイズの影響を大きく受けることがわかる。 8 (a) and 8 (i) show the case where the reference plane generator 100 according to the embodiment processed, and FIG. 8 (ii) shows the case where the process was performed by the conventional method. In the reference plane generator 100 according to the embodiment for exactly the same point cloud data Pn, the reference plane CP is substantially along the unit region UA plane, whereas in the conventional method, the reference plane CP is the unit region UA. It can be seen that it is arranged in the direction intersecting with and is greatly affected by noise.
図8(b)(i)はインパルスノイズの数を変化させ、同(ii)ではノイズの振幅を変化させた場合における本実施形態と従来例の結果を比較している。なお、各グラフにおいて縦軸はノイズがない理想的平面との法線角度差を示している。グラフ中「W−MCM」が本実施形態に係る処理、「Our」は実施形態に係る処理においてメモリ消費量を圧縮するため、点群データの一部を処理中にRAMからHDDへ一時的に保存して実施したものである。計算方法は同一であるが、RAMに保存できないような非常に大規模な点群データに対しても対応できることを示している。 8 (b) and 8 (i) compare the results of the present embodiment and the conventional example when the number of impulse noises is changed and the amplitude of the noise is changed in the same (ii). In each graph, the vertical axis shows the difference in normal angle from the ideal plane without noise. In the graph, "W-MCM" is the process according to the present embodiment, and "Our" is the process according to the embodiment. Therefore, in order to compress the memory consumption, a part of the point cloud data is temporarily transferred from the RAM to the HDD during the process. It was saved and implemented. Although the calculation method is the same, it shows that it can handle very large point cloud data that cannot be stored in RAM.
各図により、本発明の実施形態は、公知の既存法である最小二乗法(LSF:Least Square Fitting)、リッジ回帰(RR:Ridge Regression)、主成分分析(PCA:Principal Component Analysis)、Weiszfeld法、幾何中央値を用いたPCA(MCM−PCA:MedianCovariation Matrix PCA)の各処理方法に比べてノイズ数やノイズ振幅を増加させても、生成される基準平面CPの配置角度が変化せず、ノイズによる影響が少ないことがわかる。 According to each figure, embodiments of the present invention are known existing methods such as Least Square Fitting (LSF), Ridge Regression (RR), Principal Component Analysis (PCA), and Weiszfeld method. Even if the number of noises and noise amplitude are increased compared to each processing method of PCA (MCM-PCA: MedianCovariation Matrix PCA) using geometric median, the arrangement angle of the generated reference plane CP does not change and noise. It can be seen that the effect of
100:基準平面生成装置
110:単位領域切出部
120:初期値算出部
130:距離算出部
140:寄与率算出部
150:幾何中央値・共分散行列更新部
160:平面生成部
200:路面評価装置
300:路面測定装置
310:スキャナ
320:全周カメラ
330:GNSS装置
340:車両
400:構造物
100: Reference plane generation device 110: Unit area cutting unit 120: Initial value calculation unit 130: Distance calculation unit 140: Contribution rate calculation unit 150: Geometric center value / covariance matrix update unit 160: Plane generation unit 200: Road surface evaluation Device 300: Road surface measuring device 310: Scanner 320: All-around camera 330: GNSS device 340: Vehicle 400: Structure
Claims (5)
前記点群データの中央値を求め、
前記点群データの各点と前記中央値との距離を求め、
前記各点に前記距離が大きくなるほど小さい値となる寄与率を求め、
前記寄与率を乗じて基準平面を生成することを特徴とする点群データからの基準平面生成方法。 It is a method of generating a reference plane as an evaluation standard of the point cloud data from the planar point cloud data indicating the position of each point of the road acquired by the measuring device moved along the measurement path.
Find the median of the point cloud data
Find the distance between each point in the point cloud data and the median,
The contribution rate, which becomes smaller as the distance increases, is obtained for each of the points.
A method for generating a reference plane from point cloud data, which comprises multiplying the contribution rate to generate a reference plane.
前記点群データの中央値を求める手段と、
前記点群データの各点と前記中央値との距離を求める手段と、
前記各点に前記距離が大きくなるほど小さい値となる寄与率を求める手段と、
前記寄与率を乗じて基準平面を生成する手段と、
を備えることを特徴とする点群データへの基準平面生成装置。
A device that generates a reference plane as an evaluation standard for the point cloud data from the planar point cloud data indicating the position of each point on the road acquired by the measuring device moved along the measurement path.
A means for obtaining the median value of the point cloud data,
A means for obtaining the distance between each point of the point cloud data and the median,
A means for obtaining a contribution rate that becomes a smaller value as the distance increases at each of the points.
A means of multiplying the contribution ratio to generate a reference plane, and
A reference plane generator for point cloud data, which comprises.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017037624A JP6829626B2 (en) | 2017-02-28 | 2017-02-28 | Reference plane generation method and device from point cloud data |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017037624A JP6829626B2 (en) | 2017-02-28 | 2017-02-28 | Reference plane generation method and device from point cloud data |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018141759A JP2018141759A (en) | 2018-09-13 |
| JP6829626B2 true JP6829626B2 (en) | 2021-02-10 |
Family
ID=63526624
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017037624A Active JP6829626B2 (en) | 2017-02-28 | 2017-02-28 | Reference plane generation method and device from point cloud data |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6829626B2 (en) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109271944B (en) * | 2018-09-27 | 2021-03-12 | 百度在线网络技术(北京)有限公司 | Obstacle detection method, obstacle detection device, electronic apparatus, vehicle, and storage medium |
| JP7366797B2 (en) * | 2020-02-19 | 2023-10-23 | 株式会社Ihiインフラシステム | Concrete slab flatness measuring device |
| CN112070880A (en) * | 2020-08-19 | 2020-12-11 | 上海思客琦自动化工程有限公司 | Novel three-dimensional point cloud data plane fitting implementation method |
| JP2023024085A (en) | 2021-08-06 | 2023-02-16 | 富士通株式会社 | Program, data processing method, and data processing apparatus |
| CN114486571B (en) * | 2022-01-07 | 2023-11-07 | 武汉理工大学 | Pavement comprehensive performance evaluation method based on pavement service performance and structural performance |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5748355B2 (en) * | 2011-10-12 | 2015-07-15 | 日本電信電話株式会社 | Three-dimensional coordinate calculation apparatus, three-dimensional coordinate calculation method, and program |
| JP2013205130A (en) * | 2012-03-28 | 2013-10-07 | Zenrin Co Ltd | Method for generating road surface shape data, device for generating road surface shape data and computer program |
| JP6285037B2 (en) * | 2014-08-29 | 2018-02-28 | 日立オートモティブシステムズ株式会社 | Manufacturing method of parts, manufacturing apparatus using the same, volume measuring method, shape measuring method |
| US10329723B2 (en) * | 2014-12-18 | 2019-06-25 | Federal Signal Corporation | Vehicle with internal and/or external monitoring |
-
2017
- 2017-02-28 JP JP2017037624A patent/JP6829626B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2018141759A (en) | 2018-09-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6829626B2 (en) | Reference plane generation method and device from point cloud data | |
| CN110673108B (en) | A Signal Processing Method for Airborne Marine Lidar Based on Iterative Klett | |
| Park et al. | Radar localization and mapping for indoor disaster environments via multi-modal registration to prior LiDAR map | |
| CN108414998B (en) | Satellite laser altimeter echo waveform analog simulation method and device | |
| ES2998607T3 (en) | Method and device for detecting deviations of an object surface | |
| JP6745169B2 (en) | Laser measuring system and laser measuring method | |
| JP5464915B2 (en) | Object detection apparatus and object detection method | |
| Rodríguez-Quiñonez et al. | Improve 3D laser scanner measurements accuracy using a FFBP neural network with Widrow-Hoff weight/bias learning function | |
| CN113835101A (en) | A vehicle positioning method, device and storage medium based on radar point cloud | |
| Abed et al. | Echo amplitude normalization of full-waveform airborne laser scanning data based on robust incidence angle estimation | |
| JP6073944B2 (en) | Laser measurement system, reflection target body, and laser measurement method | |
| JP2005043333A (en) | Method and system for inverse estimation of wave direction spectrum from radar image | |
| CN115587291A (en) | Denoising characterization method and system based on crack ultrasonic scattering matrix | |
| Antova | Registration process of laser scan data in the field of deformation monitoring | |
| JP6397386B2 (en) | Region division processing apparatus, method, and program | |
| CN113256483A (en) | De-dithering of point cloud data for target identification | |
| Li et al. | Damage detection for historical architectures based On TLS intensity data | |
| Richter et al. | Refined geometric modeling of laser pulse propagation in airborne LiDAR bathymetry: Verbesserte geometrische modellierung der laserpulsausbreitung in der laserbathymetrie | |
| KR101074277B1 (en) | Boundary extraction apparatus and method of structure | |
| CN114609632A (en) | Phase error compensation method and device in SAR tomography | |
| Kerekes et al. | Two-epoch TLS deformation analysis of a double curved wooden structure using approximating B-spline surfaces and fully-populated synthetic covariance matrices | |
| CN103927536B (en) | A kind of method for rapidly positioning of the light spot image center based on derivative method | |
| Zhang et al. | Quantitative analysis on geometric size of LiDAR footprint | |
| Roncat | Backscatter signal analysis of small-footprint full-waveform lidar data | |
| RU2625091C1 (en) | Method of road surface cross cut smoothness (wheel tracking) determining |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20170301 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200228 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201216 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201225 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210122 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6829626 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |