JP7830376B2 - Geological feature change detection device and geological feature change detection method - Google Patents
Geological feature change detection device and geological feature change detection methodInfo
- Publication number
- JP7830376B2 JP7830376B2 JP2023044213A JP2023044213A JP7830376B2 JP 7830376 B2 JP7830376 B2 JP 7830376B2 JP 2023044213 A JP2023044213 A JP 2023044213A JP 2023044213 A JP2023044213 A JP 2023044213A JP 7830376 B2 JP7830376 B2 JP 7830376B2
- Authority
- JP
- Japan
- Prior art keywords
- feature
- mask
- information
- image
- change detection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Image Analysis (AREA)
Description
本発明は、地物の変化を検知するための地物変化検知装置と地物変化検知方法に関する。 This invention relates to a geological feature change detection device and a geological feature change detection method for detecting changes in geological features.
航空機などによる上空からのセンシングや人工衛星からのセンシングは、地上の広範囲に渡る状況把握に用いられており、例えば災害発生時の被害状況の把握に活用される。また、無線通信技術の発展やカメラなどのハードウェアの小型化と高性能化が進んだことで、今日ではドローンを活用したリアルタイムなセンシングが一般的になっている。 Sensing from aircraft and satellites is used to understand the situation over a wide area on the ground, for example, to assess the extent of damage during a disaster. Furthermore, with advancements in wireless communication technology and the miniaturization and increased performance of hardware such as cameras, real-time sensing using drones has become commonplace today.
災害発生時には、避難誘導や救助活動を迅速かつ正確に行うために、災害による被害状況をいち早く把握することが非常に重要である。被害状況を測るための要素としては、例えば、土砂の流出領域を表す情報、洪水による浸水領域を表す情報、及び建物の倒壊や道路の破断・陥没を表す情報などがある。これらの情報を迅速かつ正確に把握することで、災害の被害を最小限に抑えることができる。 In the event of a disaster, it is crucial to quickly assess the extent of the damage in order to conduct swift and accurate evacuation guidance and rescue operations. Factors used to assess damage include, for example, information indicating areas of landslides, flood-induced inundation, and information indicating building collapses and road ruptures/sinkholes. By quickly and accurately gathering this information, disaster damage can be minimized.
災害による被害状況を認識する従来の方法として、例えば、災害発生後に上空から撮影した画像に対して、予め所定の被災状況を撮影した画像データなどを学習した認識モデルを用いることで、災害発生後の撮影画像内に災害が発生しているか否かを判定したり、被災箇所を表示したりする方法がある。 Conventional methods for recognizing the extent of damage caused by disasters include, for example, using a recognition model that has been trained on image data of predetermined damage conditions to determine whether or not damage occurred in images taken from above after a disaster, and displaying the damaged areas.
特許文献1には、上空から撮影した画像と、災害発生前に取得された建物ポリゴンとから、建物の災害被害を推定する装置が記載されている。建物ポリゴンは、地表面での2次元の建物形状(建物の位置と領域)を表すデータである。この装置は、建物ポリゴンに対応する建物の被害状況を推定するための学習モデルを備え、ブルーシート被覆状態などを対象の被害状況として設定し、学習モデルの推定結果を特徴画像として出力し、建物ポリゴンごとに当該ポリゴンに対応する特徴画像を参照して、当該建物に発生している災害被害を推定する。 Patent Document 1 describes a device for estimating disaster damage to a building from images taken from above and building polygons acquired before a disaster occurred. Building polygons are data representing the two-dimensional shape of a building (location and area of the building) on the ground surface. This device includes a learning model for estimating the damage status of buildings corresponding to building polygons. The device sets the condition of the building (e.g., the state of blue tarp covering) as the target damage status, outputs the estimation results of the learning model as feature images, and estimates the disaster damage occurring to the building by referring to the feature images corresponding to each building polygon.
一般に、カメラで上空または高所から撮像された光学画像では、レンズ収差による幾何的な変形が生じるため、画像中の建物は、事前に取得された建物ポリゴンとの間で位置にズレが生じることがある。従来の技術では、カメラを所定の手順でキャリブレーションすることでレンズ収差を除去した場合でも、撮像された画像と実際の地図とで位置を合わせないと、画像中の建物と建物ポリゴンとの間で位置が一致せず、特徴画像において建物の位置が実際と異なり、災害による被害状況を十分に正確かつ迅速に把握できないという課題がある。 Generally, optical images captured from above or at high altitudes by cameras suffer from geometric distortions due to lens aberrations. This can result in discrepancies between the building's position in the image and pre-acquired building polygons. Even with conventional techniques that eliminate lens aberrations through camera calibration, if the captured image is not aligned with an actual map, the building's position in the image will not match the building polygon. This leads to inaccurate and inaccurate representations of building positions in feature images, hindering the accurate and timely assessment of disaster damage.
このため、上空から撮像された画像における地物(地上に存在する物体)の位置と実際の地物の位置との差異(位置ズレ)を低減して、地物の変化を正確に検知できる技術が望まれている。 Therefore, there is a need for technology that can reduce the difference (positional discrepancy) between the position of geographic features (objects on the ground) in images taken from above and their actual positions, thereby enabling accurate detection of changes in geographic features.
本発明の目的は、画像から得られた地物の位置と実際の地物の位置との差異を低減して、地物の変化に関する情報を提供できる、地物変化検知装置と地物変化検知方法を提供することである。 The objective of this invention is to provide a feature change detection device and a feature change detection method that can reduce the difference between the location of a feature obtained from an image and the actual location of the feature, thereby providing information regarding changes in the feature.
本発明による地物変化検知装置は、上空または高所から地物を撮像した画像である比較対象画像を撮像するカメラと、前記比較対象画像の撮像時点よりも前の時点で上空または高所から前記地物を撮像した画像である過去画像と、前記比較対象画像とのそれぞれから、前記地物の位置情報を表す地物マスクを生成する地物マスク推定部と、前記地物の位置情報が予め登録された地物領域情報と、前記過去画像から生成された前記地物マスクと前記比較対象画像から生成された前記地物マスクとのそれぞれに対して、前記地物領域情報に登録された前記地物との重複度を求め、前記地物との前記重複度が閾値以上である前記地物に対応する領域を、補正済みの前記地物マスクとして補正済みマスク情報に登録する地物マスク補正部と、前記過去画像の前記地物マスクを用いて得られた前記補正済みマスク情報と、前記比較対象画像の前記地物マスクを用いて得られた前記補正済みマスク情報との差分を求めることで、前記地物の時間変化を検知する地物変化検知部とを備える。 The feature change detection device according to the present invention comprises: a camera that captures a comparison image, which is an image of a feature taken from above or a high place; a feature mask estimation unit that generates a feature mask representing the location information of the feature from a past image, which is an image of the feature taken from above or a high place at a time prior to the capture of the comparison image, and from the comparison image; feature area information in which the location information of the feature is pre-registered; a feature mask correction unit that calculates the degree of overlap with the feature registered in the feature area information for each of the feature masks generated from the past image and the feature mask generated from the comparison image, and registers the area corresponding to the feature whose degree of overlap is above a threshold as the corrected feature mask in the corrected mask information; and a feature change detection unit that detects the temporal change of the feature by calculating the difference between the corrected mask information obtained using the feature mask of the past image and the corrected mask information obtained using the feature mask of the comparison image.
本発明による地物変化検知方法は、上空または高所から撮像された地物の画像を比較対象画像とし、前記地物の位置情報が予め登録された地物領域情報を備える地物変化検知装置に実行され、前記地物変化検知装置が、前記比較対象画像の撮像時点よりも前の時点で上空または高所から前記地物を撮像した画像である過去画像と、前記比較対象画像とのそれぞれから、前記地物の位置情報を表す地物マスクを生成する地物マスク推定ステップと、前記地物変化検知装置が、前記過去画像から生成された前記地物マスクと前記比較対象画像から生成された前記地物マスクとのそれぞれに対して、前記地物領域情報に登録された前記地物との重複度を求め、前記地物との前記重複度が閾値以上である前記地物に対応する領域を、補正済みの前記地物マスクとして補正済みマスク情報に登録する地物マスク補正ステップと、前記地物変化検知装置が、前記過去画像の前記地物マスクを用いて得られた前記補正済みマスク情報と、前記比較対象画像の前記地物マスクを用いて得られた前記補正済みマスク情報との差分を求めることで、前記地物の時間変化を検知する地物変化検知ステップとを備える。 The present invention provides a method for detecting changes in geographic features, which is performed on a geographic feature change detection device equipped with geographic feature area information in which the location information of the geographic feature is pre-registered. The method includes a geographic feature mask estimation step in which the geographic feature change detection device generates a geographic feature mask representing the location information of the geographic feature from both a past image, which is an image of the geographic feature taken from the air or a high place at a time prior to the time the comparison image was taken, and the comparison image. The method also includes a step in which the geographic feature change detection device generates a geographic feature mask representing the location information of the geographic feature from the geographic feature mask generated from the past image and the comparison image. The system includes a feature mask correction step in which, for each of the created feature masks, the degree of overlap with the feature registered in the feature area information is calculated, and the area corresponding to the feature whose degree of overlap is greater than or equal to a threshold is registered in the corrected mask information as the corrected feature mask; and a feature change detection step in which the feature change detection device detects the temporal change of the feature by calculating the difference between the corrected mask information obtained using the feature mask of the past image and the corrected mask information obtained using the feature mask of the comparison target image.
本発明によると、画像から得られた地物の位置と実際の地物の位置との差異を低減して、地物の変化に関する情報を提供できる、地物変化検知装置と地物変化検知方法を提供することができる。 According to the present invention, a feature change detection device and a feature change detection method can be provided that reduce the difference between the location of a feature obtained from an image and the actual location of the feature, thereby providing information regarding changes in the feature.
本発明による地物変化検知装置と地物変化検知方法では、互いに異なる時点で上空または高所から地物を撮像した少なくとも2枚の画像と、事前に取得された地物の位置情報とから、画像の撮像時点の間に生じた地物の変化を検知する。本発明によると、画像から得られた地物の位置と実際の地物の位置(事前に取得された地物の位置)との差異を低減して、地物の変化に関する情報を提供でき、地物の変化を正確に検知することができる。 The feature change detection device and method according to the present invention detect changes in a feature that occurred between the time points in which the images were taken, using at least two images of the feature taken from the air or a high place at different times, and previously acquired location information of the feature. According to the present invention, the difference between the location of the feature obtained from the images and the actual location of the feature (previously acquired location) can be reduced, providing information about changes in the feature and enabling accurate detection of changes in the feature.
従来の技術では、地物を認識するための学習モデルを作成するために、地物の変化を起こす災害などを被った建物の画像を事前に大量に取得して学習する必要がある。しかし、災害の発生頻度は一般的に低く、学習に好適な画像を大量に取得することは非常に困難である。本発明では、地物の変化を検知するのに、学習に必要な画像を大量に取得する必要がない。 Conventional technologies require the acquisition and training of a large number of images of buildings affected by disasters that cause changes in geographic features, in order to create a learning model for recognizing geographic features. However, disasters generally occur infrequently, making it extremely difficult to acquire a large number of images suitable for training. This invention eliminates the need to acquire a large number of images necessary for training in order to detect changes in geographic features.
また、従来の技術では、地物(例えば建物)が消失したか否かを判別するのが困難である。これは、画像から単純に得られた情報からは、地物が当初から存在しなかったのか消失したのかを区別できず、例えば、建物ポリゴンの情報に誤りがあり建物がそもそも存在しなかったのか、それとも災害によって建物が消失したのかを判別することができないからである。本発明では、建物が消失したか否かを容易に判別することができる。 Furthermore, conventional techniques make it difficult to determine whether or not a geographical feature (such as a building) has disappeared. This is because information simply obtained from an image cannot distinguish whether the feature never existed in the first place or has disappeared. For example, it's impossible to determine whether there was an error in the building polygon information and the building never existed in the first place, or whether the building disappeared due to a disaster. This invention makes it easy to determine whether or not a building has disappeared.
以下、本発明の実施例による地物変化検知装置と地物変化検知方法を、図面を用いて説明する。本発明の実施例による地物変化検知方法は、本発明の実施例による地物変化検知装置が実行する。 The following describes a geological feature change detection device and method according to an embodiment of the present invention, using the drawings. The geological feature change detection method according to the embodiment of the present invention is performed by the geological feature change detection device according to the embodiment of the present invention.
本明細書において、地物とは、地上に存在する物体のことであり、例えば建物、道路、及び送電線などの人工物と、例えば植生などの自然物とを含めることができる。地物の変化とは、例えば、地物の形状や位置の変化や、地物の消失や出現のことである。また、地物の位置情報とは、地物の位置と領域(輪郭)を示す情報であり、単に地物の位置とも呼ぶ。 In this specification, "land features" refers to objects existing on the ground, and can include artificial structures such as buildings, roads, and power lines, as well as natural structures such as vegetation. Changes in land features refer to changes in their shape or location, or their disappearance or appearance. Furthermore, location information for land features refers to information indicating the location and area (outline) of a land feature, and is also simply called the location of a land feature.
なお、本明細書で用いる図面において、同一のまたは対応する構成要素には同一の符号を付け、これらの構成要素については繰り返しの説明を省略する場合がある。 In the drawings used in this specification, identical or corresponding components are denoted by the same reference numeral, and repeated descriptions of these components may be omitted.
本発明の実施例1による、地物変化検知装置と地物変化検知方法を説明する。 This section describes a geological feature change detection device and method according to Embodiment 1 of the present invention.
図1は、本実施例による地物変化検知装置10の機能構成図である。本実施例による地物変化検知装置10は、カメラ11を備えるとともに、地物マスク推定部21、地物マスク補正部22、及び地物変化検知部23の機能部を備える。さらに、地物変化検知装置10は、過去画像31と、地物マスク推定モデル32と、地物領域情報33を備える。 Figure 1 is a functional configuration diagram of the feature change detection device 10 according to this embodiment. The feature change detection device 10 according to this embodiment includes a camera 11, and also comprises a feature mask estimation unit 21, a feature mask correction unit 22, and a feature change detection unit 23. Furthermore, the feature change detection device 10 includes past images 31, a feature mask estimation model 32, and feature area information 33.
カメラ11は、地上の画像を上空または高所から撮像する撮像装置である。カメラ11は、任意の位置に固定されてもよく、航空機やドローンなどの制御された移動体に設置されてもよい。以下では、カメラ11が撮像した画像を比較対象画像35と呼ぶ。比較対象画像35には、カメラ11が撮像した地物が含まれている。 Camera 11 is an imaging device that captures images of the ground from above or from a high vantage point. Camera 11 may be fixed in any position, or it may be mounted on a controlled mobile device such as an aircraft or drone. Hereinafter, the image captured by camera 11 will be referred to as the comparison image 35. The comparison image 35 includes features captured by camera 11.
過去画像31は、カメラ11が比較対象画像35を撮像した時点よりも前の時点で、上空または高所から地物を撮像した画像である。過去画像31から、過去の地物の位置情報が分かる。過去画像31は、地物変化検知装置10に保存されている。 The past image 31 is an image of the terrain captured from above or from a high vantage point at a time prior to when the camera 11 captured the comparison image 35. The past location information of the terrain can be determined from the past image 31. The past image 31 is stored in the terrain change detection device 10.
地物マスク推定モデル32は、比較対象画像35と過去画像31から地物マスク36を生成するためのモデルである。地物マスク36とは、画像から得られた地物の位置情報、すなわち、画像から得られた地物の位置と領域を表す情報である。地物マスク36には、1つまたは複数の地物についてのマスクが含まれる。地物マスク推定モデル32は、例えば、画像から地物の位置と領域を認識する機械学習モデルであり、学習用に与えられた画像を用いた機械学習によって予め作成することができる。地物マスク推定モデル32は、地物変化検知装置10に保存されている。 The feature mask estimation model 32 is a model for generating a feature mask 36 from the comparison image 35 and the past image 31. The feature mask 36 is location information of features obtained from the image, that is, information representing the location and area of features obtained from the image. The feature mask 36 includes masks for one or more features. The feature mask estimation model 32 is, for example, a machine learning model that recognizes the location and area of features from an image, and can be pre-created by machine learning using images provided for training. The feature mask estimation model 32 is stored in the feature change detection device 10.
地物マスク推定部21は、地物マスク推定モデル32を用いて地物マスク36を推定する。具体的には、地物マスク推定部21は、カメラ11が撮像した比較対象画像35と、過去画像31のうち比較対象画像35と少なくとも一部が重複する画像を入力し、地物マスク推定モデル32を用いて、比較対象画像35と過去画像31のそれぞれに対して地物マスク36を生成する。地物マスク推定部21は、生成した地物マスク36を地物マスク補正部22に出力する。 The feature mask estimation unit 21 estimates the feature mask 36 using the feature mask estimation model 32. Specifically, the feature mask estimation unit 21 receives the comparison image 35 captured by the camera 11 and past images 31 that overlap with the comparison image 35 in at least part, and uses the feature mask estimation model 32 to generate a feature mask 36 for both the comparison image 35 and the past images 31. The feature mask estimation unit 21 outputs the generated feature mask 36 to the feature mask correction unit 22.
なお、地物マスク36は、地物の位置情報(地物の位置と領域を示す情報)、または任意の処理によって地物の位置情報が得られる情報で表現されればよい。地物マスク36は、任意の形式で表現でき、例えば、地物の輪郭を形成する多角形の頂点や、地物を表すポリゴンなどを用いて表してもよい。 The feature mask 36 can be represented using location information of the feature (information indicating the location and area of the feature), or information from which location information of the feature can be obtained through any processing. The feature mask 36 can be represented in any format; for example, it may be represented using the vertices of a polygon forming the outline of the feature, or a polygon representing the feature.
地物領域情報33は、地物の位置情報(地物の位置と領域を示す情報)が予め登録された情報であり、地物変化検知装置10に保存されている。地物領域情報33には、予め定められた地物についての位置情報が登録されている。地物領域情報33は、地図などの公知の情報から取得した情報であり、地物変化検知装置10の操作者や管理者が作成した情報でもよい。例えば、地物領域情報33は、地物が存在する領域とそれ以外の領域とを区別したビットマップデータでもよく、または、国土地理院が公開している基盤地図情報に代表される、地物の輪郭を表すポリゴン情報でもよい。 The feature area information 33 is pre-registered information regarding the location of a feature (information indicating the location and area of the feature) and is stored in the feature change detection device 10. The feature area information 33 contains location information for predetermined features. The feature area information 33 is information obtained from publicly available information such as maps, and may also be information created by the operator or administrator of the feature change detection device 10. For example, the feature area information 33 may be bitmap data that distinguishes between the area where the feature exists and other areas, or it may be polygon information representing the outline of the feature, such as the base map information published by the Geospatial Information Authority of Japan.
また、地物領域情報33には、単一の地物が複数の地物に分割されたことにより形成された地物についての情報が登録されてもよく、複数の地物が単一の地物に統合されたことにより形成された地物についての情報が登録されてもよい。このように、地物領域情報33に登録される地物の単位(1つの地物として扱う範囲)は、任意に定めることができる。 Furthermore, the feature area information 33 may also register information about features formed by the division of a single feature into multiple features, or information about features formed by the integration of multiple features into a single feature. Thus, the unit of features registered in the feature area information 33 (the scope treated as a single feature) can be arbitrarily defined.
地物マスク補正部22は、過去画像31から生成された地物マスク36aと比較対象画像35から生成された地物マスク36bのそれぞれに対して、地物領域情報33に登録されている地物との重複度を求め、地物領域情報33に登録されている地物と地物マスク36a、36bとが、重複度を用いた所定の判定条件を満たす場合には、この地物が存在すると判定する。そして、地物マスク補正部22は、補正済みマスク情報37を作成して出力する。 The feature mask correction unit 22 calculates the degree of overlap between the feature mask 36a generated from the past image 31 and the feature mask 36b generated from the comparison image 35, and the features registered in the feature area information 33. If the features registered in the feature area information 33 and the feature masks 36a and 36b satisfy predetermined criteria using the degree of overlap, the unit determines that the feature exists. The feature mask correction unit 22 then creates and outputs the corrected mask information 37.
補正済みマスク情報37とは、過去画像31と比較対象画像35のそれぞれから生成された地物マスク36を、地物領域情報33を用いて補正した情報である。補正済みマスク情報37には、地物マスク36で表された地物のうち地物領域情報33により存在が確認された地物について、この地物に対応する領域が補正済みの地物マスクとして登録されている。補正済みマスク情報37には、地物領域情報33に登録されている各地物が存在するか否かも記録される。なお、補正済みマスク情報37は、文字データや画像データなど、任意のデータ形式で表現することができる。 The corrected mask information 37 is information obtained by correcting the feature masks 36 generated from the past image 31 and the comparison image 35 using feature area information 33. The corrected mask information 37 registers the area corresponding to the feature whose existence has been confirmed by the feature area information 33 among the features represented by the feature mask 36, as the corrected feature mask. The corrected mask information 37 also records whether or not each feature registered in the feature area information 33 exists. The corrected mask information 37 can be expressed in any data format, such as text data or image data.
地物マスク補正部22は、上記の処理を実施することで、過去画像31から生成された地物マスク36aを用いて、補正済みマスク情報37aを作成し、比較対象画像35から生成された地物マスク36bを用いて、補正済みマスク情報37bを作成する。 The feature mask correction unit 22 performs the above processing to create corrected mask information 37a using the feature mask 36a generated from the past image 31, and then creates corrected mask information 37b using the feature mask 36b generated from the comparison image 35.
地物マスク補正部22について詳しく説明する。 The feature mask correction unit 22 will be explained in detail.
まず、地物マスク補正部22は、地物マスク推定部21から地物マスク36を取得する。次に、地物マスク補正部22は、地物領域情報33の中から、取得した地物マスク36に含まれる地物が存在する領域(すなわち、過去画像31と比較対象画像35の撮像領域に対応する領域)を抽出する。以下では、抽出した地物領域情報33の領域を、地物領域情報33の参照領域と呼ぶ。 First, the feature mask correction unit 22 obtains the feature mask 36 from the feature mask estimation unit 21. Next, the feature mask correction unit 22 extracts from the feature area information 33 the area where the features included in the obtained feature mask 36 exist (i.e., the area corresponding to the imaging area of the past image 31 and the comparison image 35). Hereafter, the extracted area of the feature area information 33 will be referred to as the reference area of the feature area information 33.
なお、本実施例では、一例として、過去画像31と比較対象画像35の撮像領域の全てが互いに一致した場合を例に挙げて説明する。過去画像31と比較対象画像35の撮像領域の一部が互いに一致する場合には、一致する領域に対応する地物領域情報33を抽出してもよい。この場合でも、本実施例と同様の効果を得ることができる。 In this embodiment, as an example, we will explain the case where the entire imaging area of the past image 31 and the comparison image 35 match each other. If only a portion of the imaging areas of the past image 31 and the comparison image 35 match, the feature area information 33 corresponding to the matching area may be extracted. Even in this case, the same effects as in this embodiment can be obtained.
次に、地物マスク補正部22は、取得した地物マスク36と、地物領域情報33の参照領域との位置を合わせる。地物マスク補正部22は、この位置合わせを、任意の方法で行う。例えば、カメラ11の設置位置と姿勢を表す外部パラメータから計算によってカメラ11の撮像領域を求め、この撮像領域に対応する地物領域情報33を求めることで、地物マスク36bと地物領域情報33の参照領域との位置を合わせてもよい。また、比較対象画像35を撮像した際に記録した、カメラ11またはカメラ11が設置された移動体(例えば航空機やドローン)の位置情報を、GPS情報などから取得し、この位置情報を用いて地物マスク36bと地物領域情報33の参照領域との位置を合わせてもよい。 Next, the feature mask correction unit 22 aligns the acquired feature mask 36 with the reference area of the feature area information 33. The feature mask correction unit 22 performs this alignment using any method. For example, the imaging area of the camera 11 may be calculated from external parameters representing the camera's installation position and orientation, and the feature area information 33 corresponding to this imaging area may be determined, thereby aligning the feature mask 36b with the reference area of the feature area information 33. Alternatively, the position information of the camera 11 or the mobile object on which the camera 11 is installed (e.g., an aircraft or drone), recorded when the comparison image 35 was captured, may be obtained from GPS information, and this position information may be used to align the feature mask 36b with the reference area of the feature area information 33.
次に、地物マスク補正部22は、地物領域情報33の参照領域に含まれる地物の中から1つの地物を選択する。そして、地物マスク補正部22は、選択した地物と、地物マスク36のうち選択した地物に対応するマスクとの重複度を基に、選択した地物が存在するか否かを判定する。地物マスク補正部22は、上記の処理を、地物領域情報33の参照領域に含まれる他の地物についても繰り返して、補正済みマスク情報37を作成する。 Next, the feature mask correction unit 22 selects one feature from among the features included in the reference area of the feature area information 33. Then, the feature mask correction unit 22 determines whether the selected feature exists based on the degree of overlap between the selected feature and the corresponding mask in the feature mask 36. The feature mask correction unit 22 repeats the above process for other features included in the reference area of the feature area information 33 to create the corrected mask information 37.
地物マスク補正部22は、選択した地物が存在するか否かの判定に用いる重複度として、例えば、選択した地物(地物領域情報33に含まれる地物)の領域と、地物マスク36のうち選択した地物に対応するマスクとの重複面積を使用することができる。また、地物マスク補正部22は、重複度として、選択した地物の領域の面積に対する、上記の重複面積の割合を使用してもよい。これらの面積は、例えば、画像上で領域を構成するピクセルの数などで表してもよい。 The feature mask correction unit 22 can use, for example, the overlapping area between the area of the selected feature (the feature included in the feature area information 33) and the mask corresponding to the selected feature in the feature mask 36 as the degree of overlap used to determine whether or not the selected feature exists. Alternatively, the feature mask correction unit 22 may use the ratio of the above-mentioned overlapping area to the area of the selected feature's region as the degree of overlap. These areas may be represented, for example, by the number of pixels constituting the area on the image.
地物マスク補正部22は、地物領域情報33に登録されている単一の地物を複数の地物に分割して形成した地物を、新たな地物として再定義してもよく、複数の地物を単一の地物に統合して形成した地物を、新たな地物として再定義してもよい。例えば、地物が建物である場合には、1つの建物を4つに分割し、これら4つの地物のそれぞれを新たな地物として登録してもよい。このようにすると、単一の建物のうち一部のみが災害などで消失した場合に、建物の一部の消失を検知することができる。 The feature mask correction unit 22 may redefine a feature formed by dividing a single feature registered in the feature area information 33 into multiple features as a new feature, or it may redefine a feature formed by integrating multiple features into a single feature as a new feature. For example, if the feature is a building, one building may be divided into four parts, and each of these four features may be registered as a new feature. In this way, if only a part of a single building is destroyed by a disaster or other event, the loss of a portion of the building can be detected.
さらに、地物マスク補正部22は、地物のうち特定の領域を指定して、この領域での地物の有無の判定方法を、他の領域での判定方法と変えてもよい。例えば、地物が貯水ダムであるとすると、貯水ダムの輪郭の頂点部分は、多くの場合には認識できるが、その他の部分は、認識される領域が例えば貯水湖の貯水量によって動的に変化する。このような場合には、貯水ダムの輪郭の頂点部分以外の部分を特定の領域として指定し、この特定の領域では、判定に用いる重複度の閾値を、貯水ダムの頂点部分よりも低くしたり、後述する図2に示す入力部12から受け取った貯水ダムの貯水量に従って動的に変化させたりしてもよい。 Furthermore, the feature mask correction unit 22 may specify a particular area of the feature and change the method for determining the presence or absence of the feature in this area compared to other areas. For example, if the feature is a reservoir dam, the vertices of the dam's outline can often be recognized, but the recognized area of other parts changes dynamically, for example, depending on the water level of the reservoir. In such cases, the area other than the vertices of the dam's outline can be designated as a specific area, and in this specific area, the threshold for the degree of overlap used for determination can be set lower than that of the dam's vertices, or dynamically changed according to the water level of the reservoir dam received from the input unit 12 shown in Figure 2 (described later).
地物変化検知部23は、過去画像31の撮像時点と比較対象画像35の撮像時点との間での、地物の時間変化を検知する。地物変化検知部23は、過去画像31の地物マスク36aを用いて得られた補正済みマスク情報37aと、比較対象画像35の地物マスク36bを用いて得られた補正済みマスク情報37bとの差分を求める。地物変化検知部23が求めた差分(補正済みマスク情報37aと補正済みマスク情報37bとの相違点)は、比較対象画像35の撮像時点での、過去画像31の撮像時点から変化した地物を表す。 The feature change detection unit 23 detects the temporal changes in features between the time the past image 31 was captured and the time the comparison image 35 was captured. The feature change detection unit 23 calculates the difference between the corrected mask information 37a obtained using the feature mask 36a of the past image 31 and the corrected mask information 37b obtained using the feature mask 36b of the comparison image 35. The difference calculated by the feature change detection unit 23 (the difference between the corrected mask information 37a and the corrected mask information 37b) represents the features that have changed from the time the past image 31 was captured to the time the comparison image 35 was captured.
地物変化検知部23は、このようにして、互いに異なる時点で撮像された画像から作成された、少なくとも2つ以上の補正済みマスク情報37の間の差分を抽出する。この差分は、地物変化検知部23が検知した地物の時間変化である。地物変化検知部23は、求めた差分を、地物変化情報34として出力する。 The feature change detection unit 23 extracts the difference between at least two corrected mask information sets 37, which were created from images captured at different points in time. This difference represents the temporal change of the feature detected by the feature change detection unit 23. The feature change detection unit 23 outputs the obtained difference as feature change information 34.
地物変化情報34は、地物変化検知部23が検知した地物の時間変化についての情報である。地物変化情報34は、比較対象画像35に含まれる地物について、変化の有無を記録した情報を含むことができる。 The feature change information 34 is information about the temporal changes of features detected by the feature change detection unit 23. The feature change information 34 may include information recording whether or not there have been changes in the features included in the comparison image 35.
図2は、本実施例による地物変化検知装置10のハードウェア構成の例を示す図である。地物変化検知装置10は、図1に示したカメラ11の他に、入力部12、出力部13、CPU(Central Processing Unit)14、主記憶装置15、及び補助記憶装置16を備える。 Figure 2 shows an example of the hardware configuration of the feature change detection device 10 according to this embodiment. In addition to the camera 11 shown in Figure 1, the feature change detection device 10 includes an input unit 12, an output unit 13, a CPU (Central Processing Unit) 14, a main memory 15, and an auxiliary memory 16.
入力部12は、例えばキーボードやマウスなどで構成することができ、地物変化検知装置10の操作者による入力を受け付ける。また、入力部12は、カメラ11が撮像した比較対象画像35など、地物変化検知装置10が必要とする画像や情報を入力する。 The input unit 12 can be configured, for example, with a keyboard or mouse, and receives input from the operator of the terrain change detection device 10. The input unit 12 also receives images and information required by the terrain change detection device 10, such as the comparison image 35 captured by the camera 11.
出力部13は、例えば液晶ディスプレイなどの画面を有し、操作者に対して各種情報を表示するのに用いられる。また、出力部13は、例えばハードディスクドライブなどの記憶装置を備えることができ、例えば、地物変化検知装置10の出力を画像データなどの形式で保存してもよい。 The output unit 13 has a screen, such as a liquid crystal display, and is used to display various information to the operator. The output unit 13 may also include a storage device, such as a hard disk drive, and may, for example, save the output of the geological change detection device 10 in the form of image data.
CPU14は、地物変化検知装置10の制御やデータの演算などを行う。CPU14は、各種のプログラムやデータを主記憶装置15に展開し、これらのプログラムを実行することで、地物変化検知装置10が備える機能(例えば、地物マスク推定部21、地物マスク補正部22、及び地物変化検知部23)を実現する。 The CPU 14 controls the feature change detection device 10 and performs data calculations. The CPU 14 loads various programs and data into the main memory 15 and executes these programs to realize the functions of the feature change detection device 10 (for example, the feature mask estimation unit 21, the feature mask correction unit 22, and the feature change detection unit 23).
主記憶装置15は、例えばRAM(Random Access Memory)などで構成することができる。主記憶装置15には、例えば、地物マスク推定部21、地物マスク補正部22、及び地物変化検知部23などの機能を実現するプログラムが展開される。 The main memory 15 can be configured, for example, as RAM (Random Access Memory). The main memory 15 stores programs that implement functions such as the feature mask estimation unit 21, the feature mask correction unit 22, and the feature change detection unit 23.
補助記憶装置16は、例えばハードディスクドライブなどで構成することができる。補助記憶装置16は、例えば、過去画像31、地物マスク推定モデル32、及び地物領域情報33などの各種データを記憶する。 The auxiliary storage device 16 can be configured as, for example, a hard disk drive. The auxiliary storage device 16 stores various types of data, such as past images 31, feature mask estimation models 32, and feature area information 33.
図3は、実施例1において、地物変化検知装置10が実行する処理の内容を説明する図である。図3には、過去画像31と、比較対象画像35と、過去画像31から生成された地物マスク36aと、比較対象画像35から生成された地物マスク36bと、地物マスク36aを補正して得られた補正済みマスク情報37aと、地物マスク36bを補正して得られた補正済みマスク情報37bを示している。 Figure 3 illustrates the processing performed by the feature change detection device 10 in Embodiment 1. Figure 3 shows the past image 31, the comparison image 35, the feature mask 36a generated from the past image 31, the feature mask 36b generated from the comparison image 35, the corrected mask information 37a obtained by correcting the feature mask 36a, and the corrected mask information 37b obtained by correcting the feature mask 36b.
図3には、一例として、地物が建物であり、地物変化検知装置10が、撮像した建物の変化を検知する例を示す。地物マスク36には、建物マスクが含まれる。補正済みマスク情報37には、補正した建物マスクである補正済み建物マスクが含まれる。 Figure 3 shows an example where the feature is a building, and the feature change detection device 10 detects changes in the imaged building. The feature mask 36 includes the building mask. The corrected mask information 37 includes the corrected building mask.
過去画像31には、地物として、建物T1、建物T2、建物T3、建物T4、及び建物T5が含まれている。 Past image 31 includes buildings T1, T2, T3, T4, and T5 as features.
比較対象画像35は、過去画像31が撮像された時点よりも後に撮像された画像である。過去画像31が撮像された時点と、比較対象画像35が撮像された時点の間に、土砂崩れが発生したとする。比較対象画像35には、建物T1、建物T2、建物T4、及び建物T5が、土砂の流出によって押し流されて消失した後の様子が示されている。比較対象画像35では、建物T3が現存している。 Comparison image 35 was taken after past image 31 was taken. Assume a landslide occurred between the time past image 31 was taken and the time comparison image 35 was taken. Comparison image 35 shows buildings T1, T2, T4, and T5 after they have been swept away and disappeared due to the mudslide. In comparison image 35, building T3 is still present.
地物マスク推定部21は、過去画像31と比較対象画像35を入力し、過去画像31に対して地物マスク36aを生成し、比較対象画像35に対して地物マスク36bを生成する。 The feature mask estimation unit 21 receives the past image 31 and the comparison image 35 as input, generates a feature mask 36a for the past image 31, and generates a feature mask 36b for the comparison image 35.
図3に示す例では、地物マスク推定部21が、地物マスク推定モデル32として、画像のピクセルごとに、当該ピクセルが認識対象に含まれるか否かを判定する機械学習アルゴリズムの一種であるセマンティック・セグメンテーション(Semantic segmentation)を用いた場合を示している。地物マスク推定部21は、例えば、画像中で、建物が含まれる領域を1で表し、その他の領域を0で表した地物マスク36を推定する。図3には、この地物マスク36を画像で表示したものを、地物マスク36aと地物マスク36bとして示している。 In the example shown in Figure 3, the feature mask estimation unit 21 uses semantic segmentation, a type of machine learning algorithm, as the feature mask estimation model 32. This algorithm determines whether each pixel in the image is included in the recognition target. For example, the feature mask estimation unit 21 estimates a feature mask 36 in the image, where areas containing buildings are represented by 1s and other areas by 0s. Figure 3 shows this feature mask 36 displayed as feature mask 36a and feature mask 36b.
一般的に、セマンティック・セグメンテーションを始めとする機械学習アルゴリズムの推定結果には、誤差が含まれる。例えば、図3に示す例では、建物T4は、過去画像31に示すように実際は南北方向(図3の上下方向)に長い長方形であるが、地物マスク36aでは、建物T4に対応するマスクの形状が楕円形になっており、建物T4の本来の輪郭にズレなく沿ったマスクが得られていない。機械学習アルゴリズムでは、このような誤差が発生することが一般的である。 Generally, estimation results from machine learning algorithms, including semantic segmentation, contain errors. For example, in the example shown in Figure 3, building T4 is actually a long rectangle in the north-south direction (vertical direction in Figure 3), as shown in the historical image 31. However, in the feature mask 36a, the shape of the mask corresponding to building T4 is elliptical, and a mask that accurately follows the original contour of building T4 is not obtained. Such errors are common in machine learning algorithms.
このため、従来の技術のように、地物マスク36aと地物マスク36bとの差分を計算して地物の変化を求めると、上記の誤差(実際の地物と地物マスク36でこの地物を表すマスクとの間の誤差)が、差分として検知されてしまうことがある。このように、従来の技術には、上記の誤差を、本来検知するべき建物の変化と混同するという課題がある。 Therefore, if the change in a feature is determined by calculating the difference between feature mask 36a and feature mask 36b, as in conventional techniques, the above-mentioned error (the error between the actual feature and the mask representing this feature in feature mask 36) may be detected as the difference. Thus, conventional techniques have the problem of confusing the above-mentioned error with the building change that should be detected.
本実施例では、この課題を解決するために、地物マスク補正部22は、地物領域情報33に含まれる地物の領域を用いて、地物マスク36を補正する。具体的には、地物マスク補正部22は、地物マスク36aと地物領域情報33に登録されている地物との重複度を求め、この地物と地物マスク36aとが重複度を用いた所定の判定条件を満たす場合には、この地物が存在すると判定する。そして、地物マスク補正部22は、地物マスク36bと地物領域情報33に登録されている地物との重複度を求め、この地物と地物マスク36bとが重複度を用いた所定の判定条件を満たす場合には、この地物が存在すると判定する。 In this embodiment, to solve this problem, the feature mask correction unit 22 corrects the feature mask 36 using the feature area included in the feature area information 33. Specifically, the feature mask correction unit 22 determines the degree of overlap between the feature mask 36a and the features registered in the feature area information 33, and determines that the feature exists if the feature and the feature mask 36a satisfy predetermined determination conditions using the degree of overlap. Then, the feature mask correction unit 22 determines the degree of overlap between the feature mask 36b and the features registered in the feature area information 33, and determines that the feature exists if the feature and the feature mask 36b satisfy predetermined determination conditions using the degree of overlap.
地物マスク補正部22は、このような判定を行い、存在する地物に対応する地物マスク36a、36bを求めることで地物マスク36a、36bを補正して、地物マスク36aを補正して得られた補正済みマスク情報37aと、地物マスク36bを補正して得られた補正済みマスク情報37bを求める。 The feature mask correction unit 22 performs this determination and corrects the feature masks 36a and 36b by determining the feature masks 36a and 36b corresponding to the existing feature. It then obtains corrected mask information 37a obtained by correcting feature mask 36a and corrected mask information 37b obtained by correcting feature mask 36b.
地物マスク補正部22は、地物領域情報33に登録されている地物のそれぞれに対して上記の処理を実施することで、補正済みマスク情報37aと補正済みマスク情報37bを作成して出力する。 The feature mask correction unit 22 performs the above processing on each feature registered in the feature area information 33, thereby creating and outputting corrected mask information 37a and corrected mask information 37b.
地物変化検知部23は、補正済みマスク情報37aと補正済みマスク情報37bとの差分を抽出して求め、求めた差分を地物変化情報34として出力する。 The feature change detection unit 23 extracts and calculates the difference between the corrected mask information 37a and the corrected mask information 37b, and outputs the calculated difference as feature change information 34.
以下では、地物マスク補正部22の処理の詳細を説明する。 The following describes the processing details of the feature mask correction unit 22.
図4は、地物マスク補正部22の処理の内容の例を説明する図である。図4には、一例として、検知対象の地物が建物であり、地物領域情報33が地物の輪郭を表すポリゴン情報である例を示している。 Figure 4 illustrates an example of the processing content of the feature mask correction unit 22. As an example, Figure 4 shows a case where the detected feature is a building, and the feature area information 33 is polygon information representing the outline of the feature.
図4には、地物マスク36aと地物マスク36bを代表する地物マスク36として、地物マスク36cを示している。地物マスク36cは、地物(建物)として4つのマスクM、すなわちマスクM1、マスクM2、マスクM3、及びマスクM4を含む。 Figure 4 shows feature mask 36c as a representative feature mask 36 of feature masks 36a and 36b. Feature mask 36c includes four masks M as features (buildings): mask M1, mask M2, mask M3, and mask M4.
また、図4には、地物領域情報33の参照領域(地物マスク36に含まれる地物が存在する領域)として、地物領域情報33cを示している。地物領域情報33cには、4つの地物領域R、すなわち地物領域R1、地物領域R2、地物領域R3、及び地物領域R4が登録されている。 Furthermore, Figure 4 shows feature area information 33c as the reference area of feature area information 33 (the area where features included in feature mask 36 exist). Feature area information 33c contains four feature areas R, namely feature area R1, feature area R2, feature area R3, and feature area R4.
また、図4には、地物マスク36cと地物領域情報33cとを重畳した図である重畳図41を示している。 Furthermore, Figure 4 shows an overlay diagram 41, which is a diagram in which the feature mask 36c and the feature area information 33c are superimposed.
さらに、図4には、重畳図41を利用して地物マスク36cと地物領域情報33cとから得られた補正済みマスク情報37cを示す図を示している。 Furthermore, Figure 4 shows a diagram illustrating the corrected mask information 37c obtained from the feature mask 36c and feature area information 33c using the superimposed diagram 41.
図4に示す例では、地物マスク補正部22は、地物マスク36cを入力し、地物マスク36cに含まれるマスクMと地物領域情報33cに登録されている地物(地物領域R)との重複度を求め、補正済みマスク情報37cを作成する。地物領域Rは、建物の輪郭を表すポリゴンで表されているとする。マスクM1~M4は、それぞれ地物領域R1~R4に対応する。 In the example shown in Figure 4, the feature mask correction unit 22 receives the feature mask 36c as input, calculates the degree of overlap between the mask M included in the feature mask 36c and the feature (feature area R) registered in the feature area information 33c, and creates corrected mask information 37c. It is assumed that the feature area R is represented by a polygon representing the outline of a building. Masks M1 to M4 correspond to feature areas R1 to R4, respectively.
また、図4に示す例では、地物マスク補正部22は、各建物が存在するか否かの判定基準である重複度として、重複割合を用いる。重複割合とは、地物領域Rの面積に対する、重複面積の割合のことである。重複面積とは、地物領域Rと、地物マスク36cのうち地物領域Rに対応する領域(マスクM)とが重複する面積のことである。そして、重複割合の閾値として50%を用いることとする。すなわち、地物マスク補正部22は、重複割合が50%以上であると、建物が存在すると判定する。なお、この閾値は、50%に限らず、任意の値に定めることができる。 Furthermore, in the example shown in Figure 4, the feature mask correction unit 22 uses the overlap ratio as the overlap degree, which is the criterion for determining whether or not each building exists. The overlap ratio is the ratio of the overlapping area to the area of the feature region R. The overlapping area is the area where the feature region R and the area of the feature mask 36c corresponding to the feature region R (mask M) overlap. A threshold of 50% is used for the overlap ratio. That is, the feature mask correction unit 22 determines that a building exists if the overlap ratio is 50% or higher. Note that this threshold is not limited to 50% and can be set to any value.
以下の説明では、地物マスク補正部22が行う、重複度を用いた、地物が存在するか否かの判定の条件を、所定の判定条件と呼ぶ。上記の例では、所定の判定条件は、重複度が閾値以上(重複割合が50%以上)であると建物が存在すると判定する、という条件である。 In the following explanation, the condition used by the feature mask correction unit 22 to determine whether or not a feature exists, based on the degree of overlap, is referred to as the predetermined determination condition. In the example above, the predetermined determination condition is that a building is determined to exist if the degree of overlap is above a threshold (overlap rate of 50% or more).
なお、建物(地物)が存在するか否かの判定基準には、重複割合に限らず、任意の基準を用いることができ、例えば、重複面積の絶対値を用いてもよい。判定基準の閾値には、上述したように、任意の値を用いることができる。これらの判定基準と閾値は、予め補助記憶装置16が記憶していてもよく、入力部12を介して地物変化検知装置10の操作者が設定してもよい。 Furthermore, the criteria for determining whether or not a building (landmark) exists are not limited to the overlap ratio; any arbitrary criteria can be used. For example, the absolute value of the overlapping area may be used. As mentioned above, any value can be used for the threshold of the determination criterion. These determination criteria and thresholds may be pre-stored in the auxiliary storage device 16, or they may be set by the operator of the landmark change detection device 10 via the input unit 12.
図4に示す例では、地物マスク36cと地物領域情報33cとを重畳すると、重畳図41に示すように、地物領域R1の面積に対する、地物領域R1とマスクM1との重複面積の割合(重複割合)は、50%以上である。重複割合が閾値(50%)以上であるので、マスクM1は、地物領域R1に対応する建物の認識に成功している。 In the example shown in Figure 4, when the feature mask 36c and feature area information 33c are superimposed, as shown in the superimposed figure 41, the ratio of the overlapping area between feature area R1 and mask M1 (overlap ratio) to the area of feature area R1 is 50% or more. Since the overlap ratio is above the threshold (50%), mask M1 successfully recognizes the building corresponding to feature area R1.
地物マスク補正部22は、地物領域R1について重複割合が閾値以上であるので、地物領域R1に対応する建物が存在すると判定する。そして、地物マスク補正部22は、補正済みマスク情報37cにおいて、地物領域R1に対応する領域を建物が存在する領域とする。すなわち、地物マスク補正部22は、マスクM1が示す地物領域R1を、存在する建物として補正済みマスク情報37cに記録する。 The feature mask correction unit 22 determines that a building exists in feature area R1 because the overlap ratio is greater than or equal to a threshold. Then, in the corrected mask information 37c, the feature mask correction unit 22 designates the area corresponding to feature area R1 as the area where a building exists. In other words, the feature mask correction unit 22 records the feature area R1 indicated by mask M1 as an existing building in the corrected mask information 37c.
地物マスク補正部22は、地物領域R2に対しても、マスクM2についての重複割合が閾値以上であるので(重畳図41)、地物領域R2に対応する建物が存在すると判定し、補正済みマスク情報37cにおいて、地物領域R2に対応する領域を建物が存在する領域とする。すなわち、地物マスク補正部22は、マスクM2が示す地物領域R2を、存在する建物として補正済みマスク情報37cに記録する。 The feature mask correction unit 22 determines that a building exists in feature area R2 because the overlap ratio of mask M2 with respect to feature area R2 is above a threshold (overlap diagram 41). Therefore, in the corrected mask information 37c, the area corresponding to feature area R2 is treated as the area where a building exists. In other words, the feature mask correction unit 22 records the feature area R2 indicated by mask M2 as an existing building in the corrected mask information 37c.
また、地物領域R4は、地物マスク36cに含まれるいずれのマスクM1~M4とも重複せず、重複面積と重複割合がゼロである(重畳図41)。地物マスク補正部22は、地物領域R4について重複割合が閾値未満であるので、地物領域R4に対応する建物が存在しないと判定する。 Furthermore, feature area R4 does not overlap with any of the masks M1 to M4 included in feature mask 36c, and the overlapping area and overlapping ratio are zero (overlay diagram 41). The feature mask correction unit 22 determines that since the overlapping ratio for feature area R4 is below the threshold, there is no building corresponding to feature area R4.
また、図4に示す例では、重畳図41に示すように、マスクM3は、地物領域情報33cに登録された地物領域Rのいずれとも領域が重複しない。このため、マスクM3は、地物マスク推定部21が建物を誤認識したために出現したマスクであることが推測できる。 Furthermore, in the example shown in Figure 4, as shown in the superimposed diagram 41, the mask M3 does not overlap with any of the feature areas R registered in the feature area information 33c. Therefore, it can be inferred that the mask M3 appeared because the feature mask estimation unit 21 misidentified a building.
さらに、重畳図41に示すように、マスクM4は、地物領域R3と領域が重複しているものの、重複割合が閾値(50%)未満である。このため、マスクM4は、地物マスク推定部21が建物を誤認識したために出現したマスクであることが推測できる。そして、地物マスク補正部22は、地物領域R3に対応する建物が存在しないと判定する。 Furthermore, as shown in the superimposed diagram 41, although mask M4 overlaps with feature area R3, the overlap rate is less than the threshold (50%). Therefore, it can be inferred that mask M4 appeared because the feature mask estimation unit 21 misidentified a building. The feature mask correction unit 22 then determines that no building exists corresponding to feature area R3.
地物マスク補正部22は、以上のような処理を地物領域R1~R4のそれぞれに対して実施して、補正済みマスク情報37cを作成する。補正済みマスク情報37cでは、地物マスク36cが地物領域情報33cを用いて補正され、マスクM1、M2にそれぞれ対応する補正済み建物マスクM11、M22が示されている。また、補正済みマスク情報37cでは、補正済み建物マスクM11、M22の輪郭の形状は、地物領域情報33cによって補正され、それぞれ地物領域R1、R2と一致するようにマスクM1、M2から変化している。 The feature mask correction unit 22 performs the above processing for each of the feature regions R1 to R4 to create corrected mask information 37c. In the corrected mask information 37c, the feature mask 36c is corrected using the feature region information 33c, and corrected building masks M11 and M22 corresponding to masks M1 and M2 are shown. Furthermore, in the corrected mask information 37c, the contour shapes of the corrected building masks M11 and M22 are corrected by the feature region information 33c, and are modified from masks M1 and M2 to match feature regions R1 and R2, respectively.
なお、図4では、一例として、補正済みマスク情報37cが、補正された地物の領域情報をビットマップ画像として出力した形式の情報である例を示している。補正済みマスク情報37は、例えば、地物の輪郭を表すポリゴンの情報でもよく、任意のデータ形式で表現することができる。 Figure 4 shows an example where the corrected mask information 37c is information in the format of a bitmap image outputting the corrected feature area information. The corrected mask information 37 may also be, for example, polygon information representing the feature's outline, and can be expressed in any data format.
上述したように、一般的な機械学習アルゴリズムでは、データを潤沢に学習したモデルを利用した場合でも、地物マスク36の生成に微小な誤差が生じることがある。このため、従来の技術において、過去画像31と比較対象画像35のそれぞれに対して生成した地物マスク36aと地物マスク36bとの差分を計算して地物の変化を検知すると、地物の実際の変化による差分だけでなく、地物マスク36に生じた微小な誤差の影響などによる差分もノイズとして現れてしまう。このため、従来の技術では、このようなノイズのために、誤報や失報が発生することがある。 As mentioned above, even with general machine learning algorithms that utilize models trained on ample data, minute errors can occur in the generation of the feature mask 36. Therefore, in conventional techniques, when detecting changes in features by calculating the difference between the feature mask 36a and feature mask 36b generated for each of the past image 31 and the comparison image 35, not only the difference due to the actual change in the feature but also the difference due to minute errors in the feature mask 36 appear as noise. Consequently, in conventional techniques, false alarms and missed alarms can occur due to this noise.
本実施例では、地物領域情報33を用いて地物マスク36を補正した情報である補正済みマスク情報37を用い、過去画像31から得られた補正済みマスク情報37aと比較対象画像35から得られた補正済みマスク情報37bとを比較する。補正済みマスク情報37a、37bでは、地物領域情報33に予め登録されている地物の位置情報に基づいて、地物の位置情報が得られている(すなわち、地物マスク36が補正されている)。このため、本実施例では、地物マスク36の生成で生じた誤差などの影響を受けることなく、時間の経過とともに生じた地物の変化を検知することができる。 In this embodiment, corrected mask information 37, which is information obtained by correcting the feature mask 36 using feature area information 33, is used to compare corrected mask information 37a obtained from past images 31 with corrected mask information 37b obtained from comparison images 35. In the corrected mask information 37a and 37b, the location information of the features is obtained based on the location information of the features pre-registered in the feature area information 33 (i.e., the feature mask 36 is corrected). Therefore, in this embodiment, changes in features that occur over time can be detected without being affected by errors that occurred during the generation of the feature mask 36.
図5は、本実施例による地物変化検知装置10が実行する処理を示すフローチャートの例である。 Figure 5 is an example flowchart showing the process performed by the geological feature change detection device 10 according to this embodiment.
ステップS101で、地物マスク推定部21は、過去画像31と、少なくとも1つ以上の比較対象画像35を入力し、過去画像31と比較対象画像35のそれぞれに対して地物マスク36を生成する。以下では、説明を分かり易くするために、比較対象画像35が1つである場合を考え、過去画像31に対応する地物マスク36を地物マスク36aと称し、比較対象画像35に対応する地物マスク36を地物マスク36bと称する。 In step S101, the feature mask estimation unit 21 receives the past image 31 and at least one comparison image 35 as input, and generates a feature mask 36 for each of the past image 31 and comparison image 35. For the sake of clarity, in the following explanation, we will consider the case where there is only one comparison image 35, and refer to the feature mask 36 corresponding to the past image 31 as feature mask 36a, and the feature mask 36 corresponding to the comparison image 35 as feature mask 36b.
ステップS102で、地物マスク補正部22は、地物マスク36(36a、36b)を入力し、地物領域情報33のうち、取得した地物マスク36に含まれる地物が存在する領域(すなわち、過去画像31と比較対象画像35の撮像領域に対応する領域)を抽出する。この抽出は、例えば、過去画像31と比較対象画像35が持っている位置情報(座標値)を用いて行うことができる。 In step S102, the feature mask correction unit 22 receives the feature mask 36 (36a, 36b) as input and extracts the region from the feature region information 33 in which the features included in the acquired feature mask 36 exist (i.e., the region corresponding to the imaging region of the past image 31 and the comparison image 35). This extraction can be performed, for example, using the positional information (coordinate values) contained in the past image 31 and the comparison image 35.
ステップS103で、地物マスク補正部22は、後述の補正処理で補正されていない地物マスク36を1つ選択する。地物マスク補正部22は、複数の地物マスク36を入力した場合には、全ての地物マスク36に対して補正処理を実施する。本実施例では、地物マスク補正部22が、初めに地物マスク36aを選択し、次に地物マスク36bを選択する場合を説明する。 In step S103, the feature mask correction unit 22 selects one feature mask 36 that has not been corrected in the correction process described later. If multiple feature masks 36 are input, the feature mask correction unit 22 performs the correction process on all of them. This embodiment describes the case where the feature mask correction unit 22 first selects feature mask 36a, and then selects feature mask 36b.
ステップS104からステップS108が、地物マスク36に対する補正処理である。 Steps S104 to S108 are correction processes for the feature mask 36.
ステップS104で、地物マスク補正部22は、ステップS102で抽出した地物領域情報33に登録されている地物の領域(地物領域情報33の参照領域)のうち、地物が存在するか否かの判定(地物の存在判定)が実施されていない領域を1つ選択する。 In step S104, the feature mask correction unit 22 selects one region from the feature region information 33 extracted in step S102 (reference region of feature region information 33) where a determination of whether or not a feature exists (feature existence determination) has not been performed.
ステップS105で、地物マスク補正部22は、ステップS104で選択した地物領域と、地物マスク36との重複度を計算する。重複度は、既に説明したように、選択した地物が存在するか否かの判定に用いる値(所定の判定条件で使用される値)である。本実施例では、重複度として、既に説明した重複割合を用いる。重複割合は、ステップS104で選択した地物領域の面積に対する、重複面積の割合であり、重複面積は、この地物領域と、地物マスク36のうちこの地物領域に対応する領域とが重複する面積である。 In step S105, the feature mask correction unit 22 calculates the degree of overlap between the feature region selected in step S104 and the feature mask 36. As previously explained, the degree of overlap is a value used to determine whether or not the selected feature exists (a value used under predetermined determination conditions). In this embodiment, the overlap ratio, as previously explained, is used as the degree of overlap. The overlap ratio is the ratio of the overlapping area to the area of the feature region selected in step S104, and the overlapping area is the area where this feature region overlaps with the area of the feature mask 36 corresponding to this feature region.
ステップS106で、地物マスク補正部22は、所定の判定条件に従い、ステップS105で計算して求めた重複度が、予め設定された閾値以上であるか否かを判定する。重複度が閾値以上である場合には、地物マスク補正部22は、ステップS104で選択した地物領域に対応する地物が存在すると判定し、ステップS107の処理を実施する。一方、重複度が閾値未満である場合には、地物マスク補正部22は、ステップS104で選択した地物領域に対応する地物が存在しないと判定し、ステップS108の処理を実施する。 In step S106, the feature mask correction unit 22 determines, according to predetermined criteria, whether the overlap rate calculated in step S105 is equal to or greater than a preset threshold. If the overlap rate is equal to or greater than the threshold, the feature mask correction unit 22 determines that a feature exists corresponding to the feature area selected in step S104, and performs the process in step S107. On the other hand, if the overlap rate is less than the threshold, the feature mask correction unit 22 determines that no feature exists corresponding to the feature area selected in step S104, and performs the process in step S108.
ステップS107で、地物マスク補正部22は、ステップS104で選択した地物領域に対応する地物が存在するので、補正済みマスク情報37において、この地物領域に対応する領域を地物が存在する領域とする。すなわち、地物マスク補正部22は、地物マスク36が示す地物領域を、存在する地物として補正済みマスク情報37に記録する。 In step S107, the feature mask correction unit 22 determines that a feature exists corresponding to the feature area selected in step S104. Therefore, in the corrected mask information 37, it designates the area corresponding to this feature area as the area where the feature exists. That is, the feature mask correction unit 22 records the feature area indicated by the feature mask 36 as an existing feature in the corrected mask information 37.
補正済みマスク情報37は、1つの地物マスク36に対して少なくとも1つ作成される。本実施例では、地物マスク補正部22は、地物マスク36aに対応する補正済みマスク情報37aと、地物マスク36bに対応する補正済みマスク情報37bの2つを作成する。 At least one corrected mask information 37 is created for each feature mask 36. In this embodiment, the feature mask correction unit 22 creates two corrected mask information 37a, corresponding to feature mask 36a, and corrected mask information 37b, corresponding to feature mask 36b.
ステップS108で、地物マスク補正部22は、ステップS102で抽出した地物領域情報33に登録されている全ての地物の領域に対して、地物が存在するか否かの判定(地物の存在判定)が実施されたか否かを判定する。地物の存在判定が実施されていない地物領域がある場合には、地物マスク補正部22は、ステップS104の処理を実施し、地物の存在判定が実施されていない地物領域を新たに1つ選択する。全ての地物領域に対して地物の存在判定が実施された場合には、地物マスク補正部22は、ステップS109の処理を実施する。 In step S108, the feature mask correction unit 22 determines whether or not a feature exists (feature existence determination) has been performed for all feature regions registered in the feature region information 33 extracted in step S102. If there are feature regions for which the feature existence determination has not been performed, the feature mask correction unit 22 performs the process in step S104 and selects one new feature region for which the feature existence determination has not been performed. If the feature existence determination has been performed for all feature regions, the feature mask correction unit 22 performs the process in step S109.
ステップS109で、地物マスク補正部22は、ステップS101で生成された全ての地物マスク36に対して、上述の補正処理(ステップS104からステップS108)が実施されたか否かを判定する。全ての地物マスク36に対して補正処理が実施された場合には、地物変化検知部23がステップS110の処理を実施する。全ての地物マスク36に対して補正処理が実施されていない場合には、地物マスク補正部22がステップS103の処理を実施する。本実施例では、地物マスク補正部22が、初めに地物マスク36aを選択し、次に地物マスク36bを選択する。地物マスク36bに対して補正処理が実施されていない場合には、地物マスク補正部22は、ステップS103の処理を実施し、地物マスク36bを選択する。 In step S109, the feature mask correction unit 22 determines whether the correction process described above (steps S104 to S108) has been performed on all feature masks 36 generated in step S101. If the correction process has been performed on all feature masks 36, the feature change detection unit 23 performs the process in step S110. If the correction process has not been performed on all feature masks 36, the feature mask correction unit 22 performs the process in step S103. In this embodiment, the feature mask correction unit 22 first selects feature mask 36a, and then selects feature mask 36b. If the correction process has not been performed on feature mask 36b, the feature mask correction unit 22 performs the process in step S103 and selects feature mask 36b.
ステップS110で、地物変化検知部23は、ステップS107で作成された、複数の補正済みマスク情報37を比較し、その差分を記録する。具体的には、地物変化検知部23は、過去画像31の地物マスク36aを補正して得られた補正済みマスク情報37aと、比較対象画像35の地物マスク36bを補正して得られた補正済みマスク情報37bとの差分を求め、求めた差分を地物変化情報34として出力する。地物変化検知部23は、このようにして、過去画像31の撮像時点と比較対象画像35の撮像時点との間での、地物の変化を検知する。 In step S110, the feature change detection unit 23 compares the multiple corrected mask information 37 created in step S107 and records the difference. Specifically, the feature change detection unit 23 calculates the difference between the corrected mask information 37a obtained by correcting the feature mask 36a of the past image 31 and the corrected mask information 37b obtained by correcting the feature mask 36b of the comparison image 35, and outputs the calculated difference as feature change information 34. In this way, the feature change detection unit 23 detects changes in features between the time the past image 31 was captured and the time the comparison image 35 was captured.
例えば、過去画像31の撮像時点と比較対象画像35の撮像時点との間に消失した地物を検知することが目的の場合には、地物変化検知部23は、補正済みマスク情報37aから補正済みマスク情報37bを差し引いた結果を求め、得られた結果を地物変化情報34として記録する。 For example, if the objective is to detect features that have disappeared between the time the past image 31 was captured and the time the comparison image 35 was captured, the feature change detection unit 23 calculates the result of subtracting the corrected mask information 37b from the corrected mask information 37a, and records the obtained result as feature change information 34.
また、例えば、地物が建物であり、過去画像31の撮像時点と比較対象画像35の撮像時点との間に新たに建築された建物を検知することが目的の場合には、補正済みマスク情報37bから補正済みマスク情報37aを差し引いた結果を求め、得られた結果を地物変化情報34として記録する。 Furthermore, for example, if the feature is a building, and the objective is to detect a newly constructed building between the time the past image 31 was captured and the time the comparison image 35 was captured, the result of subtracting the corrected mask information 37a from the corrected mask information 37b is obtained, and the resulting result is recorded as feature change information 34.
なお、本実施例では、1つの地物マスク36には、1つの種類の地物を表すマスクだけが存在する例を説明した(例えば、図4の地物マスク36cには、建物を表すマスクM1~M4だけが存在する)。1つの地物マスク36には、複数の種類の地物(例えば、建物と道路)を表すマスクを含めることができる。 In this embodiment, we have described an example where one feature mask 36 contains only masks representing one type of feature (for example, the feature mask 36c in Figure 4 contains only masks M1 to M4 representing buildings). However, one feature mask 36 can contain masks representing multiple types of features (e.g., buildings and roads).
また、地物の種類ごとに地物マスク36を生成することができる。例えば、地物が建物と道路であるとすると、建物を表すマスクを含む地物マスク36と道路を表すマスクを含む地物マスク36という、2種類の地物マスク36を生成してもよい。この場合には、ステップS102では、地物領域情報33のうち、地物マスク36が表す種類の地物が存在する領域を抽出する。 Furthermore, a feature mask 36 can be generated for each type of feature. For example, if the features are buildings and roads, two types of feature masks 36 may be generated: one containing a mask representing buildings and another containing a mask representing roads. In this case, in step S102, the region containing the features represented by the feature masks 36 is extracted from the feature region information 33.
図6は、本実施例による地物変化検知装置10が出力する表示画面60の例を示す図である。出力部13(図2)は、例えば液晶ディスプレイなどの画面に表示画面60を表示する。 Figure 6 shows an example of the display screen 60 output by the geological feature change detection device 10 according to this embodiment. The output unit 13 (Figure 2) displays the display screen 60 on a screen such as a liquid crystal display.
図6に示す表示画面60は、過去画像31の表示領域61と、比較対象画像35の表示領域65と、地物変化検知部23が検知した地物の変化を示す画像(検知結果画像)の表示領域63を備える。過去画像31の表示領域61は、比較対象画像35に対応する領域の過去画像31を表示する。比較対象画像35の表示領域65は、例えば、カメラ11が撮像した比較対象画像35を表示する。 The display screen 60 shown in Figure 6 comprises a display area 61 for past images 31, a display area 65 for comparison images 35, and a display area 63 for an image (detection result image) showing the changes in features detected by the feature change detection unit 23. The display area 61 for past images 31 displays the past image 31 for the area corresponding to the comparison image 35. The display area 65 for comparison images 35 displays, for example, the comparison image 35 captured by the camera 11.
検知結果画像の表示領域63は、例えば、過去画像31に対する補正済みマスク情報37aと、比較対象画像35に対する補正済みマスク情報37bとの差分から得られる画像を、検知結果画像として表示する。すなわち、検知結果画像には、過去画像31の地物マスク36aを用いて得られた補正済みマスク情報37aと、比較対象画像35の地物マスク36bを用いて得られた補正済みマスク情報37bとで変化があった地物が表示されている。 The display area 63 of the detection result image displays, for example, an image obtained from the difference between the corrected mask information 37a for the past image 31 and the corrected mask information 37b for the comparison image 35. That is, the detection result image displays features that have changed between the corrected mask information 37a obtained using the feature mask 36a of the past image 31 and the corrected mask information 37b obtained using the feature mask 36b of the comparison image 35.
図6の検知結果画像の表示領域63には、一例として、倒壊して消失した建物、すなわち、過去画像31には存在するが比較対象画像35には存在しない建物が表示されている。この建物は、過去画像31に対する補正済みマスク情報37aと、比較対象画像35に対する補正済みマスク情報37bとで変化があった地物である。 In the display area 63 of the detection result image in Figure 6, as an example, a building that has collapsed and disappeared is displayed. That is, a building that exists in the past image 31 but not in the comparison image 35. This building is a feature that has changed between the corrected mask information 37a for the past image 31 and the corrected mask information 37b for the comparison image 35.
また、表示画面60は、設定領域67を備えることができる。設定領域67は、地物変化検知装置10の操作者が表示画面60に表示する画像を設定するための領域である。 Furthermore, the display screen 60 may include a setting area 67. The setting area 67 is an area for the operator of the feature change detection device 10 to set the image to be displayed on the display screen 60.
操作者は、入力部12(図2)を用いて設定領域67を操作して、検知結果画像の表示領域63に表示する情報を変更することができる。例えば、操作者は、設定領域67のチェックボックスやラジオボタンにより、表示領域63に表示する地物(建物)を選ぶことができる。図6に示す例では、操作者は、倒壊した建物または現存する建物を表示することができる。また、例えば、操作者は、設定領域67のスライダーにより、地物マスク補正部22が地物の存在判定を実施するときに使用する重複度の閾値を変更することができる。 The operator can change the information displayed in the display area 63 of the detection result image by manipulating the setting area 67 using the input unit 12 (Figure 2). For example, the operator can select the features (buildings) to display in the display area 63 using checkboxes or radio buttons in the setting area 67. In the example shown in Figure 6, the operator can display collapsed buildings or existing buildings. Furthermore, for example, the operator can change the overlap threshold used by the feature mask correction unit 22 when determining the presence of features using a slider in the setting area 67.
また、表示画面60は、操作者が設定領域67を操作することにより、地物領域情報33や、地物マスク推定部21が生成した地物マスク36を、過去画像31と比較対象画像35とに重ねて表示してもよい。 Furthermore, the display screen 60 may display the feature area information 33 and the feature mask 36 generated by the feature mask estimation unit 21 overlaid on the past image 31 and the comparison image 35, by the operator operating the setting area 67.
さらに、表示画面60は、例えば、操作者が入力部12のマウスを操作し、マウスカーソルを過去画像31の地物上に移動させた際に、この地物の情報をポップアップなどの追加のウィンドウなどで表示してもよい。このような情報の例には、地物を管理するための通し番号である地物IDや、地物の存在判定の結果(例えば、建物の消失と現存)が含まれる。 Furthermore, the display screen 60 may, for example, display information about a feature in an additional window such as a pop-up when the operator moves the mouse cursor over a feature in the past image 31 using the mouse on the input unit 12. Examples of such information include the feature ID, which is a serial number for managing the feature, and the result of the feature's existence determination (e.g., whether the building has disappeared or still exists).
本実施例による地物変化検知装置10は、地物として登録されていない物体の位置情報を、地物領域情報33に含めることができる。すなわち、地物領域情報33には、地物として登録されていない物体の位置情報も登録されていてもよい。以下では、地物として登録されていないが、位置情報が既知の物体を、非地物物体と呼ぶ。地物領域情報33は、地図情報などとして、非地物物体の位置情報を持つことができる。 The feature change detection device 10 according to this embodiment can include location information of objects not registered as features in the feature area information 33. That is, the feature area information 33 may also contain location information of objects not registered as features. Hereinafter, objects that are not registered as features but whose location information is known will be referred to as non-feature objects. The feature area information 33 can contain location information of non-feature objects as map information, etc.
非地物物体には、過去画像31や比較対象画像35に映らない物体が含まれ、例えば、地中に埋設された水道管、光ファイバーケーブル、及び送電線などが含まれる。地上の送電線も、過去画像31や比較対象画像35に映らなければ、非地物物体に含めることができる。 Non-terrain objects include objects that do not appear in past images 31 or comparison images 35, such as buried water pipes, fiber optic cables, and power lines. Above-ground power lines can also be included as non-terrain objects if they do not appear in past images 31 or comparison images 35.
地物変化検知部23は、地物領域情報33を用いて非地物物体の位置情報を参照し、非地物物体と同じ位置または非地物物体の近傍の位置にある地物の変化を検知した結果から、非地物物体の変化を推定して求めることができる。例えば、地物変化検知部23は、変化を検知した地物と同じ位置または近傍の位置にある非地物物体が、過去画像31の撮像時点と比較対象画像35の撮像時点との間で、地物と同様に変化したと推定する。 The feature change detection unit 23 uses feature area information 33 to refer to the position information of non-feature objects and can estimate changes in non-feature objects based on the results of detecting changes in features at the same location as the non-feature object or in its vicinity. For example, the feature change detection unit 23 estimates that non-feature objects at the same location as or in the vicinity of the feature whose change was detected have changed in the same way as the feature between the time the past image 31 was captured and the time the comparison image 35 was captured.
例えば、地物が道路であり、非地物物体がこの道路の下の地中に埋まっている水道管であるとする。そして、地物変化検知部23は、地物の変化として、この道路の破断や陥没などの事象を検知したとする。このとき、地物変化検知部23は、この道路と同じ位置またはこの道路の近傍の位置に水道管がある場合には、この水道管も道路と同様に破損していると推定する。具体的には、地物変化検知部23は、道路の破断を検知した際に、この破断の位置と同一またはこの破断の位置から一定の半径内に水道管が設置されている場合には、この水道管が破損している可能性が高いため、この水道管が破損している、またはこの水道管を要検証な物体として記録する。 For example, suppose the geographical feature is a road, and the non-geographical feature is a water pipe buried underground beneath this road. The geographical feature change detection unit 23 detects an event such as a fracture or subsidence in the road as a geographical feature change. In this case, if the water pipe is located at the same position as the road or in the vicinity of the road, the geographical feature change detection unit 23 estimates that the water pipe is also damaged, similar to the road. Specifically, when the geographical feature change detection unit 23 detects a road fracture, if the water pipe is located at the same position as the fracture or within a certain radius of the fracture, it considers the water pipe to be highly likely to be damaged, and therefore records the water pipe as damaged or as an object requiring verification.
以上の処理により、本実施例による地物変化検知装置10は、地物として登録されていない物体や画像に映らない物体の変化を推定することができる。 Through the above processing, the feature change detection device 10 according to this embodiment can estimate changes in objects that are not registered as features or objects that do not appear in the image.
本実施例による地物変化検知装置10は、以上説明したように、過去画像31から生成された地物マスク36aと比較対象画像35から生成された地物マスク36bのそれぞれに対して、地物領域情報33に登録されている地物との重複度を求めて補正済みマスク情報37を作成することで、画像から得られた地物の位置と実際の地物の位置との差異を低減して、地物の変化に関する情報を提供することができる。 As described above, the feature change detection device 10 according to this embodiment reduces the difference between the location of the feature obtained from the image and the actual location of the feature by calculating the degree of overlap with the features registered in the feature area information 33 for each of the feature masks 36a generated from the past image 31 and the feature mask 36b generated from the comparison image 35, thereby creating corrected mask information 37 and providing information about changes in the feature.
本発明の実施例2による、地物変化検知装置と地物変化検知方法を説明する。以下では、本実施例による地物変化検知装置と地物変化検知方法について、実施例1と異なる点を主に説明する。 This section describes a geological feature change detection device and method according to Embodiment 2 of the present invention. The following primarily explains the differences between this embodiment and Embodiment 1.
実施例1では、地物変化検知装置10が、互いに異なる時点で撮像された画像(過去画像31と比較対象画像35)から地物マスク36を生成し、地物マスク36を用いて作成された補正済みマスク情報37(37a、37b)の間の差分から、地物の変化を検知する。 In Example 1, the feature change detection device 10 generates a feature mask 36 from images captured at different time points (past image 31 and comparison image 35), and detects changes in features from the difference between the corrected mask information 37 (37a, 37b) created using the feature mask 36.
本実施例では、比較対象画像35と過去画像31のそれぞれに対して、地物マスク36に加えて地上属性マスクを推定して生成することで、地物の変化が曖昧である場合でも、地物の変化に関する情報を提供することができる。 In this embodiment, by estimating and generating a ground attribute mask in addition to the feature mask 36 for both the comparison image 35 and the past image 31, it is possible to provide information about changes in features even when the changes in features are ambiguous.
地上属性とは、地物とカメラ11の間に存在し、カメラ11による地物の撮像を遮る物体のことである。すなわち、カメラ11が撮像した画像において、地物は、地上属性と重なって地上属性に隠れており、一部または全てが映っていない。 Ground attributes refer to objects that exist between a feature and the camera 11, obstructing the image of the feature captured by the camera 11. In other words, in the image captured by the camera 11, the feature overlaps with and is hidden by the ground attributes, resulting in parts or all of it being obscured.
地物・地上属性マスクとは、地物マスクと地上属性マスクの総称である。地上属性マスクは、画像から得られた地上属性の位置情報、すなわち、画像から得られた地上属性の位置と領域を表す情報である。従って、地物・地上属性マスクは、画像から得られた地物と地上属性の位置情報、すなわち、画像から得られた地物と地上属性の位置と領域を表す情報である。地物・地上属性マスクは、地物マスクと地上属性マスクの両方を含むので、地物・地上属性マスクには、1つまたは複数の地物と地上属性についてのマスクが含まれる。 A feature/ground attribute mask is a general term encompassing both feature masks and ground attribute masks. A ground attribute mask represents the location information of ground attributes obtained from an image; that is, information representing the location and area of ground attributes obtained from the image. Therefore, a feature/ground attribute mask represents the location information of features and ground attributes obtained from an image; that is, information representing the location and area of features and ground attributes obtained from the image. Since a feature/ground attribute mask includes both feature masks and ground attribute masks, it contains masks for one or more features and ground attributes.
図7は、本実施例による地物変化検知装置10の機能構成図である。本実施例による地物変化検知装置10は、地物マスク推定部21と地物マスク補正部22の構成が実施例1と異なるとともに、地物マスク推定モデル32の代わりに地物・地上属性マスク推定モデル32aを備える点が実施例1と異なる。 Figure 7 is a functional configuration diagram of the feature change detection device 10 according to this embodiment. The feature change detection device 10 according to this embodiment differs from Embodiment 1 in that the configuration of the feature mask estimation unit 21 and the feature mask correction unit 22 are different, and it also differs from Embodiment 1 in that it includes a feature/ground attribute mask estimation model 32a instead of the feature mask estimation model 32.
地物・地上属性マスク推定モデル32aは、比較対象画像35と過去画像31から地物・地上属性マスク38(すなわち、地物マスクと地上属性マスクの両方)を生成するためのモデルである。地物・地上属性マスク推定モデル32aは、例えば機械学習により予め作成することができ、地物変化検知装置10に保存されている。 The feature/ground attribute mask estimation model 32a is a model for generating feature/ground attribute masks 38 (i.e., both feature masks and ground attribute masks) from the comparison image 35 and the past image 31. The feature/ground attribute mask estimation model 32a can be pre-created, for example, using machine learning, and is stored in the feature change detection device 10.
地物マスク推定部21は、地物・地上属性マスク推定モデル32aを用いて、比較対象画像35と過去画像31のそれぞれに対して地物・地上属性マスク38を推定して生成する。地物マスク推定部21は、生成した地物・地上属性マスク38を地物マスク補正部22に出力する。 The feature mask estimation unit 21 uses the feature/ground attribute mask estimation model 32a to estimate and generate feature/ground attribute masks 38 for both the comparison image 35 and the past image 31. The feature mask estimation unit 21 outputs the generated feature/ground attribute masks 38 to the feature mask correction unit 22.
地物マスク補正部22は、過去画像31から生成された地物・地上属性マスク38aと比較対象画像35から生成された地物・地上属性マスク38bのそれぞれに対して、地物領域情報33に登録されている地物との重複度を求め、補正済みマスク情報37を作成して出力する。本実施例では、補正済みマスク情報37とは、過去画像31と比較対象画像35のそれぞれから生成された地物・地上属性マスク38を、地物領域情報33を用いて補正した情報である。補正済みマスク情報37には、地物・地上属性マスク38で表された地物のうち地物領域情報33により存在が確認された地物について、この地物に対応する領域が補正済みの地物マスクとして登録されているとともに、地物・地上属性マスク38と地物領域情報33により要検証とされた地物(要検証地物)についての情報が含まれる。 The feature mask correction unit 22 calculates the degree of overlap with features registered in the feature area information 33 for each of the feature/ground attribute masks 38a generated from the past image 31 and the feature/ground attribute mask 38b generated from the comparison image 35, and creates and outputs corrected mask information 37. In this embodiment, the corrected mask information 37 is information obtained by correcting the feature/ground attribute masks 38 generated from the past image 31 and the comparison image 35 using the feature area information 33. The corrected mask information 37 includes information on features represented by the feature/ground attribute mask 38 whose existence has been confirmed by the feature area information 33, with the area corresponding to these features registered as a corrected feature mask, as well as information on features that require verification based on the feature/ground attribute mask 38 and the feature area information 33 (features requiring verification).
地物マスク補正部22は、地物領域情報33に登録されている地物が地物マスクと所定の判定条件(実施例1で説明した、重複度を用いた所定の判定条件)を満たす場合には、この地物が存在すると判定する。そして、地物マスク補正部22は、地物領域情報33に登録されている地物が地上属性マスクと所定の判定条件を満たす場合には、この地物が地上属性付加地物であると判定する。地上属性付加地物とは、地物のうち、カメラ11が撮像した画像において、地上属性と重なって地上属性の陰になり、一部または全てが映っていない地物のことである。なお、本実施例では、実施例1での所定の判定条件において、地物マスク補正部22は、地物・地上属性マスク38(地物マスクと地上属性マスク)と地物領域情報33に登録されている地物との重複度を求める。 The feature mask correction unit 22 determines that a feature exists if it satisfies the predetermined determination conditions (the predetermined determination conditions using the degree of overlap, as explained in Example 1) with respect to the feature mask. Furthermore, the feature mask correction unit 22 determines that a feature is a feature with added ground attributes if it satisfies the predetermined determination conditions with respect to the ground attribute mask. A feature with added ground attributes is a feature that, in the image captured by the camera 11, overlaps with the ground attributes, is obscured by the shadow of the ground attributes, and is partially or completely not visible. In this embodiment, using the predetermined determination conditions in Example 1, the feature mask correction unit 22 calculates the degree of overlap between the feature/ground attribute mask 38 (feature mask and ground attribute mask) and the features registered in the feature area information 33.
地物マスク補正部22は、上記の処理を実施することで、過去画像31から生成された地物・地上属性マスク38aを用いて、補正済みマスク情報37aを作成し、比較対象画像35から生成された地物・地上属性マスク38bを用いて、補正済みマスク情報37bを作成する。また、地物マスク補正部22は、地上属性付加地物が存在する場合には、地上属性付加地物である地物についての情報を、地物変化検知部23に出力する。 The feature mask correction unit 22, by performing the above processing, creates corrected mask information 37a using the feature/ground attribute mask 38a generated from the past image 31, and creates corrected mask information 37b using the feature/ground attribute mask 38b generated from the comparison image 35. Furthermore, if there are features with added ground attributes, the feature mask correction unit 22 outputs information about those features to the feature change detection unit 23.
地物変化検知部23は、補正済みマスク情報37aと補正済みマスク情報37bとの差分を抽出して求め、求めた差分を地物変化情報34として出力する。また、地物変化検知部23は、地上属性付加地物が存在する場合には、地上属性付加地物である地物を要検証地物とし、この地物についての情報を出力する。地上属性付加地物は、画像において地上属性と重なっている地物であり、地上属性のために実際に存在するか否かが不明なことがある。このため、地上属性付加地物である地物を、実際に存在するか否かの検証が必要な要検証地物とする。 The feature change detection unit 23 extracts and calculates the difference between the corrected mask information 37a and the corrected mask information 37b, and outputs the calculated difference as feature change information 34. Furthermore, if a feature with added ground attributes exists, the feature with added ground attributes is designated as a feature requiring verification, and information about this feature is output. Features with added ground attributes are features that overlap with ground attributes in the image, and their actual existence may be unclear due to the ground attributes. Therefore, features with added ground attributes are designated as features requiring verification to determine their actual existence.
出力部13(図2)は、例えば液晶ディスプレイなどの画面に、地上属性付加地物である地物を、要検証地物として表示することができる。 The output unit 13 (Figure 2) can display, for example, a surface with added ground attributes as a surface requiring verification on a screen such as a liquid crystal display.
図8は、実施例2において、地物変化検知装置10が実行する処理の内容を説明する図である。図8には、過去画像31と、比較対象画像35と、過去画像31から生成された地物・地上属性マスク38aと、比較対象画像35から生成された地物・地上属性マスク38bと、地物・地上属性マスク38aを補正して得られた補正済みマスク情報37aと、地物・地上属性マスク38bを補正して得られた補正済みマスク情報37bを示している。 Figure 8 illustrates the processing performed by the feature change detection device 10 in Example 2. Figure 8 shows the past image 31, the comparison image 35, the feature/ground attribute mask 38a generated from the past image 31, the feature/ground attribute mask 38b generated from the comparison image 35, the corrected mask information 37a obtained by correcting the feature/ground attribute mask 38a, and the corrected mask information 37b obtained by correcting the feature/ground attribute mask 38b.
図8には、一例として、地物が建物であり、地上属性が植生であり、地物変化検知装置10が、撮像した建物の変化を検知する例を示す。なお、地上属性は、植生に限らず、例えば、雲、送電線、及び飛行物などでもよい。地物・地上属性マスク38には、地物マスクである建物マスクと、地上属性マスクである植生マスクが含まれる。補正済みマスク情報37には、補正した建物マスクである補正済み建物マスクと、地上属性付加地物39が含まれる。 Figure 8 shows an example where the feature is a building, the ground attribute is vegetation, and the feature change detection device 10 detects changes in the imaged building. Note that the ground attribute is not limited to vegetation; for example, it could be clouds, power lines, or flying objects. The feature/ground attribute mask 38 includes the building mask (which is the feature mask) and the vegetation mask (which is the ground attribute mask). The corrected mask information 37 includes the corrected building mask (which is the corrected building mask) and the ground attribute-added feature 39.
過去画像31には、地物として、建物T1、建物T2、建物T3、建物T4、及び建物T5が含まれているとともに、地上属性として、植生Pが含まれている。過去画像31において、建物T3と建物T4は、植生Pと重なって植生Pに隠れており、一部が映っていない。 Past image 31 includes buildings T1, T2, T3, T4, and T5 as features, and also includes vegetation P as a ground attribute. In past image 31, buildings T3 and T4 are overlapped with and hidden by vegetation P, and parts of them are not visible.
比較対象画像35は、過去画像31が撮像された時点よりも後に撮像された画像である。過去画像31が撮像された時点と、比較対象画像35が撮像された時点の間に、土砂崩れが発生したとする。比較対象画像35には、建物T1、建物T2、建物T4、及び建物T5が、土砂の流出によって押し流されて消失した後の様子が示されている。比較対象画像35では、建物T3が現存している。 Comparison image 35 was taken after past image 31 was taken. Assume a landslide occurred between the time past image 31 was taken and the time comparison image 35 was taken. Comparison image 35 shows buildings T1, T2, T4, and T5 after they have been swept away and disappeared due to the mudslide. In comparison image 35, building T3 is still present.
地物マスク推定部21は、過去画像31と比較対象画像35を入力し、過去画像31に対して地物・地上属性マスク38aを生成し、比較対象画像35に対して地物・地上属性マスク38bを生成する。地物・地上属性マスク38aには、建物T1~T5に対応する地物マスク(建物マスク)と、植生Pに対応する地上属性マスク(植生マスク)が含まれる。地物・地上属性マスク38bには、植生マスクのみが含まれる。 The feature mask estimation unit 21 receives the past image 31 and the comparison image 35 as input. It generates a feature/ground attribute mask 38a for the past image 31 and a feature/ground attribute mask 38b for the comparison image 35. The feature/ground attribute mask 38a includes feature masks (building masks) corresponding to buildings T1 to T5 and ground attribute masks (vegetation masks) corresponding to vegetation P. The feature/ground attribute mask 38b includes only the vegetation mask.
図8に示す例では、地物マスク推定部21が、地物・地上属性マスク推定モデル32aとして、画像のピクセルごとに、当該ピクセルが認識対象に含まれるか否かを判定する機械学習アルゴリズムの一種であるセマンティック・セグメンテーション(Semantic segmentation)を用いた場合を示している。地物マスク推定部21は、例えば、画像中で、建物が含まれる領域を1で表し、植生が含まれる領域を2で表し、その他の領域を0で表した地物・地上属性マスク38を推定する。図8には、この地物・地上属性マスク38を画像で表示したものを、地物・地上属性マスク38aと地物・地上属性マスク38bとして示している。 In the example shown in Figure 8, the feature mask estimation unit 21 uses semantic segmentation, a type of machine learning algorithm, as the feature/ground attribute mask estimation model 32a, determining whether each pixel in the image is included in the recognition target. For example, the feature mask estimation unit 21 estimates a feature/ground attribute mask 38 in the image, where areas containing buildings are represented by 1, areas containing vegetation by 2, and other areas by 0. Figure 8 shows this feature/ground attribute mask 38 displayed as an image, labeled as feature/ground attribute mask 38a and feature/ground attribute mask 38b.
なお、地物マスク推定部21は、地物・地上属性マスク38として、複数の種類のマスクを生成してもよい。例えば、地物マスク推定部21は、画像中で、建物が含まれる領域を1で表し、その他の領域を0で表した地物・地上属性マスク38と、植生が含まれる領域を1で表し、その他の領域を0で表した地物・地上属性マスク38という、2種類の地物・地上属性マスク38を生成してもよい。地物マスク推定部21は、このように、任意の方法で表した地物・地上属性マスク38を生成することができる。 The feature mask estimation unit 21 may generate multiple types of feature/ground attribute masks 38. For example, the feature mask estimation unit 21 may generate two types of feature/ground attribute masks 38: one where areas containing buildings are represented by 1 and other areas by 0, and another where areas containing vegetation are represented by 1 and other areas by 0. The feature mask estimation unit 21 can thus generate feature/ground attribute masks 38 represented in any way.
地物マスク補正部22は、地物・地上属性マスク38aに対して、地物領域情報33に登録されている地物との重複度を求め、この地物と地物マスクとが所定の判定条件を満たす場合には、この地物が存在すると判定し、この地物と地上属性マスクとが所定の判定条件を満たす場合には、この地物を地上属性付加地物39であると判定する。そして、地物マスク補正部22は、地物・地上属性マスク38bに対して、地物領域情報33に登録されている地物との重複度を求め、この地物と地物マスクとが所定の判定条件を満たす場合には、この地物が存在すると判定し、この地物と地上属性マスクとが所定の判定条件を満たす場合には、この地物を地上属性付加地物39であると判定する。なお、地物と地物マスクとの間の判定条件と、地物と地上属性マスクとの間の判定条件は、例えば重複度の定義や重複度の閾値などが、互いに異なっていてもよい。 The feature mask correction unit 22 calculates the degree of overlap between the feature/ground attribute mask 38a and the features registered in the feature area information 33. If the feature and its mask satisfy predetermined criteria, the unit determines that the feature exists. If the feature and its ground attribute mask satisfy predetermined criteria, the unit determines that the feature is a ground attribute-added feature 39. The feature mask correction unit 22 then calculates the degree of overlap between the feature/ground attribute mask 38b and the features registered in the feature area information 33. If the feature and its mask satisfy predetermined criteria, the unit determines that the feature exists. If the feature and its ground attribute mask satisfy predetermined criteria, the unit determines that the feature is a ground attribute-added feature 39. Note that the criteria between a feature and its mask, and the criteria between a feature and its ground attribute mask, may differ, for example, in terms of the definition of overlap and the threshold for overlap.
地物マスク補正部22は、地物・地上属性マスク38aと地物・地上属性マスク38bに含まれる地物のそれぞれに対して上記の処理を実施することで、地物・地上属性マスク38aを補正して得られた補正済みマスク情報37aと、地物・地上属性マスク38bを補正して得られた補正済みマスク情報37bを作成して出力する。 The feature mask correction unit 22 performs the above processing on each of the features included in the feature/ground attribute mask 38a and the feature/ground attribute mask 38b, thereby creating and outputting corrected mask information 37a obtained by correcting the feature/ground attribute mask 38a, and corrected mask information 37b obtained by correcting the feature/ground attribute mask 38b.
図8に示す例で、補正済みマスク情報37a、37bに地上属性付加地物39である建物T3が存在するのは、建物T3は、地物領域情報33に登録されており、地物・地上属性マスク38a、38bの地上属性マスク(植生マスク)と重複している地物だからである。地上属性付加地物39である建物T3は、要検証地物である。 In the example shown in Figure 8, the presence of building T3, which is a ground attribute-added feature 39, in the corrected mask information 37a and 37b is because building T3 is registered in the feature area information 33 and is a feature that overlaps with the ground attribute mask (vegetation mask) of the feature/ground attribute masks 38a and 38b. Building T3, which is a ground attribute-added feature 39, is a feature that requires verification.
地物変化検知部23は、補正済みマスク情報37aと補正済みマスク情報37bとの差分を抽出して求め、求めた差分を地物変化情報34として出力する。 The feature change detection unit 23 extracts and calculates the difference between the corrected mask information 37a and the corrected mask information 37b, and outputs the calculated difference as feature change information 34.
図8に示す例では、過去画像31と比較対象画像35のどちらでも、前景に植生Pが含まれている。このため、過去画像31と比較対象画像35では、地上属性である植生Pのために、建物T3の一部が撮像されておらず、建物T3の変化を正確に把握することが難しい。 In the example shown in Figure 8, both the historical image 31 and the comparison image 35 include vegetation P in the foreground. Therefore, in both the historical image 31 and the comparison image 35, a portion of the building T3 is not captured due to the ground-level vegetation P, making it difficult to accurately grasp the changes in the building T3.
本実施例による地物変化検知装置10では、地上属性の影響で全体が撮像されてなく検知できない地物を地上属性付加地物39とすることにより、この地物が地上属性のために検知できない旨を地物変化検知装置10の操作者に提示することができる。例えば、図8に示した例では、地物変化検知装置10は、地上属性付加地物39である建物T3を、要検証地物として記録し、表示画面60に表示してもよい。建物T3は、要検証地物であり、地上属性(植生P)のために地物・地上属性マスク38bでは検知されなかったが、実際には存在する地物である可能性がある。そこで、操作者は、建物T3が要検証地物であると表示画面60に表示されたのを受けて、例えば、建物T3を消失した建物と同様に扱い、救助隊を派遣するなどのオペレーションの策定に役立てることができる。 In this embodiment of the feature change detection device 10, features that cannot be detected because their entirety is not imaged due to the influence of ground attributes are designated as features with added ground attributes 39. This allows the operator of the feature change detection device 10 to be informed that the feature cannot be detected due to ground attributes. For example, in the example shown in Figure 8, the feature change detection device 10 may record building T3, which is a feature with added ground attributes 39, as a feature requiring verification and display it on the display screen 60. Building T3 is a feature requiring verification; it was not detected by the feature/ground attribute mask 38b due to ground attributes (vegetation P), but it may actually exist. Therefore, upon seeing the display screen 60 indicating that building T3 is a feature requiring verification, the operator can, for example, treat building T3 similarly to a lost building and use this information to formulate operations such as dispatching a rescue team.
比較対象画像を図示していないが、次のような例も考えられる。例えば、植生Pと建物T3は、過去画像31(図8)の撮像時には存在したが、比較対象画像の撮像時には存在していないとする。そして、比較対象画像では、植生Pと建物T3が撮像されておらず、建物T3の位置にある地面が撮像されているとする。 Although the comparison image is not shown, the following example is also conceivable. For instance, suppose vegetation P and building T3 existed when the past image 31 (Figure 8) was captured, but did not exist when the comparison image was captured. Furthermore, suppose the comparison image does not capture vegetation P or building T3, but instead captures the ground at the location of building T3.
この場合には、建物T3に対応する地物は、補正済みマスク情報37aには地上属性付加地物39として登録され、補正済みマスク情報37bには存在していない地物として登録される。建物T3は、過去画像31を撮像した時点では地上属性付加地物39として登録され、要検証地物であるので、存在するか否かが不明である。しかし、建物T3は、比較対象画像を撮像した時点では存在しないことが確定しているため、消失した地物として登録される。なお、地物変化検知部23が差分を抽出する条件は、上記の実施例に限定されるものではなく、様々な例が含まれる。 In this case, the feature corresponding to building T3 is registered as a ground attribute-added feature 39 in the corrected mask information 37a, and as a non-existent feature in the corrected mask information 37b. At the time the past image 31 was captured, building T3 was registered as a ground attribute-added feature 39 and is a feature requiring verification, so its existence is uncertain. However, since it is confirmed that building T3 does not exist at the time the comparison image was captured, it is registered as a lost feature. Note that the conditions under which the feature change detection unit 23 extracts the difference are not limited to the above embodiment, but include various examples.
なお、本発明は、上記の実施例に限定されるものではなく、様々な変形が可能である。例えば、上記の実施例は、本発明を分かりやすく説明するために詳細に説明したものであり、本発明は、必ずしも説明した全ての構成を備える態様に限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能である。また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、削除したり、他の構成を追加・置換したりすることが可能である。 Furthermore, the present invention is not limited to the embodiments described above, and various modifications are possible. For example, the embodiments described above are detailed explanations provided to clearly illustrate the present invention, and the present invention is not necessarily limited to embodiments comprising all the described configurations. Also, it is possible to replace parts of the configuration of one embodiment with those of another embodiment. It is also possible to add configurations from other embodiments to the configuration of one embodiment. Furthermore, it is possible to delete parts of the configuration of each embodiment, or to add or replace other configurations.
10…地物変化検知装置、11…カメラ、12…入力部、13…出力部、14…CPU、15…主記憶装置、16…補助記憶装置、21…地物マスク推定部、22…地物マスク補正部、23…地物変化検知部、31…過去画像、32…地物マスク推定モデル、32a…地物・地上属性マスク推定モデル、33、33c…地物領域情報、34…地物変化情報、35…比較対象画像、36、36a、36b、36c…地物マスク、37、37a、37b、37c…補正済みマスク情報、38、38a、38b…地物・地上属性マスク、39…地上属性付加地物、41…重畳図、60…表示画面、61…過去画像の表示領域、63…検出結果画像の表示領域、65…比較対象画像の表示領域、67…設定領域、M、M1~M4…マスク、M11、M22…補正済み建物マスク、P…植生、R、R1~R4…地物領域、T1~T5…建物。 10...Feature change detection device, 11...Camera, 12...Input unit, 13...Output unit, 14...CPU, 15...Main memory, 16...Auxiliary memory, 21...Feature mask estimation unit, 22...Feature mask correction unit, 23...Feature change detection unit, 31...Past image, 32...Feature mask estimation model, 32a...Feature/ground attribute mask estimation model, 33, 33c...Feature area information, 34...Feature change information, 35...Comparison target image, 36, 36a, 36b, 36c...Ground Object mask, 37, 37a, 37b, 37c... Corrected mask information, 38, 38a, 38b... Feature/ground attribute mask, 39... Feature with added ground attribute, 41... Overlay map, 60... Display screen, 61... Display area of past images, 63... Display area of detection result image, 65... Display area of comparison target image, 67... Setting area, M, M1-M4... Mask, M11, M22... Corrected building mask, P... Vegetation, R, R1-R4... Feature area, T1-T5... Building.
Claims (9)
前記比較対象画像の撮像時点よりも前の時点で上空または高所から前記地物を撮像した画像である過去画像と、前記比較対象画像とのそれぞれから、前記地物の位置情報を表す地物マスクを生成する地物マスク推定部と、
前記地物の位置情報が予め登録された地物領域情報と、
前記過去画像から生成された前記地物マスクと前記比較対象画像から生成された前記地物マスクとのそれぞれに対して、前記地物領域情報に登録された前記地物との重複度を求め、前記地物との前記重複度が閾値以上である前記地物に対応する領域を、補正済みの前記地物マスクとして補正済みマスク情報に登録する地物マスク補正部と、
前記過去画像の前記地物マスクを用いて得られた前記補正済みマスク情報と、前記比較対象画像の前記地物マスクを用いて得られた前記補正済みマスク情報との差分を求めることで、前記地物の時間変化を検知する地物変化検知部と、
を備えることを特徴とする地物変化検知装置。 A camera that captures comparison images, which are images of geographical features taken from above or at a high altitude,
A feature mask estimation unit generates a feature mask representing the location information of the feature from a past image, which is an image of the feature taken from above or at a high altitude at a time prior to the acquisition of the comparison image, and from the comparison image.
The location information of the aforementioned feature is registered in advance as feature area information,
A feature mask correction unit calculates the degree of overlap with the feature registered in the feature area information for each of the feature masks generated from the aforementioned past image and the feature mask generated from the aforementioned comparison image, and registers the area corresponding to the feature whose degree of overlap with the feature is greater than or equal to a threshold as the corrected feature mask in the corrected mask information.
A feature change detection unit detects the temporal change of a feature by calculating the difference between the corrected mask information obtained using the feature mask of the past image and the corrected mask information obtained using the feature mask of the comparison target image,
A geological feature change detection device characterized by comprising the following:
前記地物マスク推定部は、前記地物マスク推定モデルを用いて前記地物マスクを生成する、
請求項1に記載の地物変化検知装置。 Equipped with a feature mask estimation model created using machine learning,
The feature mask estimation unit generates the feature mask using the feature mask estimation model.
The geological feature change detection device according to claim 1.
前記地物マスク推定部は、前記過去画像と前記比較対象画像とのそれぞれから、前記地物と前記地上属性との位置情報を表す地物・地上属性マスクを生成する、
請求項1に記載の地物変化検知装置。 Objects existing between the camera and the feature are defined as ground attributes.
The feature mask estimation unit generates a feature/ground attribute mask representing the positional information of the feature and the ground attribute from the past image and the comparison image, respectively.
The geological feature change detection device according to claim 1.
前記地物マスク補正部は、
前記過去画像から生成された前記地物・地上属性マスクと前記比較対象画像から生成された前記地物・地上属性マスクとのそれぞれに対して、前記地物領域情報に登録された前記地物との重複度を求め、
前記地上属性マスクとの前記重複度が閾値以上である前記地物に対応する領域を、地上属性付加地物として前記補正済みマスク情報に登録する、
請求項3に記載の地物変化検知装置。 The feature/ground attribute mask comprises the feature mask and a ground attribute mask representing the location information of the ground attribute.
The aforementioned feature mask correction unit is
For each of the feature/ground attribute masks generated from the aforementioned past images and the feature/ground attribute masks generated from the aforementioned comparison images, the degree of overlap with the features registered in the feature area information is calculated.
The region corresponding to the feature whose degree of overlap with the aforementioned ground attribute mask is greater than or equal to a threshold is registered in the corrected mask information as a feature with added ground attributes.
The geological feature change detection device according to claim 3.
前記出力部は、前記過去画像の前記地物マスクを用いて得られた前記補正済みマスク情報と、前記比較対象画像の前記地物マスクを用いて得られた前記補正済みマスク情報とで変化があった前記地物を、前記画面に表示する、
請求項1に記載の地物変化検知装置。 It has an output unit with a screen,
The output unit displays on the screen the features that have changed between the corrected mask information obtained using the feature mask of the past image and the corrected mask information obtained using the feature mask of the comparison image.
The geological feature change detection device according to claim 1.
前記出力部は、前記地上属性付加地物を前記画面に表示する、
請求項4に記載の地物変化検知装置。 It has an output unit with a screen,
The output unit displays the ground attribute-added feature on the screen.
The geological feature change detection device according to claim 4.
前記地物変化検知部は、時間変化を検知した前記地物と同じ位置または近傍の位置にある前記物体が、前記過去画像の撮像時点と前記比較対象画像の撮像時点との間で変化したと推定する、
請求項1に記載の地物変化検知装置。 The aforementioned feature area information includes location information of objects that are not registered as features.
The feature change detection unit estimates that an object located at the same or nearby position as the feature whose time change was detected has changed between the time the past image was captured and the time the comparison image was captured.
The geological feature change detection device according to claim 1.
前記地物の位置情報が予め登録された地物領域情報を備える地物変化検知装置に実行され、
前記地物変化検知装置が、前記比較対象画像の撮像時点よりも前の時点で上空または高所から前記地物を撮像した画像である過去画像と、前記比較対象画像とのそれぞれから、前記地物の位置情報を表す地物マスクを生成する地物マスク推定ステップと、
前記地物変化検知装置が、前記過去画像から生成された前記地物マスクと前記比較対象画像から生成された前記地物マスクとのそれぞれに対して、前記地物領域情報に登録された前記地物との重複度を求め、前記地物との前記重複度が閾値以上である前記地物に対応する領域を、補正済みの前記地物マスクとして補正済みマスク情報に登録する地物マスク補正ステップと、
前記地物変化検知装置が、前記過去画像の前記地物マスクを用いて得られた前記補正済みマスク情報と、前記比較対象画像の前記地物マスクを用いて得られた前記補正済みマスク情報との差分を求めることで、前記地物の時間変化を検知する地物変化検知ステップと、
を備えることを特徴とする地物変化検知方法。 Images of geographical features taken from above or from a high vantage point are used as comparison images.
The location information of the aforementioned feature is executed by a feature change detection device that has pre-registered feature area information,
The feature change detection device performs a feature mask estimation step, which generates a feature mask representing the location information of the feature from a past image, which is an image of the feature taken from above or at a high altitude at a time prior to the time the comparison target image was taken, and from the comparison target image.
The feature change detection device performs a feature mask correction step in which it calculates the degree of overlap with the feature registered in the feature area information for each of the feature masks generated from the past image and the feature mask generated from the comparison target image, and registers the area corresponding to the feature whose degree of overlap with the feature is greater than or equal to a threshold as the corrected feature mask in the corrected mask information.
The feature change detection device performs a feature change detection step in which it detects the temporal change of the feature by calculating the difference between the corrected mask information obtained using the feature mask of the past image and the corrected mask information obtained using the feature mask of the comparison target image,
A method for detecting changes in geological features, characterized by comprising the following:
前記地物マスク推定ステップでは、前記過去画像と前記比較対象画像とのそれぞれから、前記地物と地上属性との位置情報を表す地物・地上属性マスクを生成し、
前記地物・地上属性マスクは、前記地物マスクと、前記地上属性の位置情報を表す地上属性マスクを備え、
前記地物マスク補正ステップでは、
前記過去画像から生成された前記地物・地上属性マスクと前記比較対象画像から生成された前記地物・地上属性マスクとのそれぞれに対して、前記地物領域情報に登録された前記地物との重複度を求め、
前記地上属性マスクとの前記重複度が閾値以上である前記地物に対応する領域を、地上属性付加地物として前記補正済みマスク情報に登録する、
請求項8に記載の地物変化検知方法。 Objects existing between the camera that captured the comparison image and the feature are defined as ground attributes.
In the feature mask estimation step, a feature/ground attribute mask representing the positional information of the feature and ground attributes is generated from the past image and the comparison image, respectively.
The feature/ground attribute mask comprises the feature mask and a ground attribute mask representing the location information of the ground attribute.
In the feature mask correction step,
For each of the feature/ground attribute masks generated from the aforementioned past images and the feature/ground attribute masks generated from the aforementioned comparison images, the degree of overlap with the features registered in the feature area information is calculated.
The region corresponding to the feature whose degree of overlap with the aforementioned ground attribute mask is greater than or equal to a threshold is registered in the corrected mask information as a feature with added ground attributes.
The method for detecting changes in geological features according to claim 8.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023044213A JP7830376B2 (en) | 2023-03-20 | 2023-03-20 | Geological feature change detection device and geological feature change detection method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023044213A JP7830376B2 (en) | 2023-03-20 | 2023-03-20 | Geological feature change detection device and geological feature change detection method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2024134102A JP2024134102A (en) | 2024-10-03 |
| JP7830376B2 true JP7830376B2 (en) | 2026-03-16 |
Family
ID=92909934
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023044213A Active JP7830376B2 (en) | 2023-03-20 | 2023-03-20 | Geological feature change detection device and geological feature change detection method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7830376B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2026030933A (en) | 2024-08-09 | 2026-02-24 | セイコーエプソン株式会社 | projector |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004198530A (en) | 2002-12-16 | 2004-07-15 | Hitachi Ltd | Map update system, map update method, and computer program |
| JP2005234603A (en) | 2005-04-12 | 2005-09-02 | Hitachi Ltd | Map information updating method and map updating apparatus |
| US20200387704A1 (en) | 2019-06-07 | 2020-12-10 | Pictometry International Corp. | Systems and methods for automated detection of changes in extent of structures using imagery |
| JP2021033584A (en) | 2019-08-22 | 2021-03-01 | 株式会社パスコ | Building change identification device and program |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH10312466A (en) * | 1997-03-12 | 1998-11-24 | N T T Data:Kk | Image processing apparatus, image processing method, and recording medium |
-
2023
- 2023-03-20 JP JP2023044213A patent/JP7830376B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004198530A (en) | 2002-12-16 | 2004-07-15 | Hitachi Ltd | Map update system, map update method, and computer program |
| JP2005234603A (en) | 2005-04-12 | 2005-09-02 | Hitachi Ltd | Map information updating method and map updating apparatus |
| US20200387704A1 (en) | 2019-06-07 | 2020-12-10 | Pictometry International Corp. | Systems and methods for automated detection of changes in extent of structures using imagery |
| JP2021033584A (en) | 2019-08-22 | 2021-03-01 | 株式会社パスコ | Building change identification device and program |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2024134102A (en) | 2024-10-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US9911038B2 (en) | Survey data processing device, survey data processing method, and program therefor | |
| US11408740B2 (en) | Map data update apparatus, map data update method, and computer readable medium | |
| CN103262127B (en) | Object display device and object display method | |
| JP5366190B2 (en) | BUILDING CHANGE DETECTION DEVICE, BUILDING CHANGE DETECTION METHOD, AND PROGRAM | |
| JP2013186816A (en) | Moving image processor, moving image processing method and program for moving image processing | |
| JP4418225B2 (en) | Information presentation system | |
| US9736360B2 (en) | Survey data processing device, survey data processing method, and program therefor | |
| WO2002082181A1 (en) | Corridor mapping system and method | |
| JP4825836B2 (en) | Road map data creation system | |
| US20220138467A1 (en) | Augmented reality utility locating and asset management system | |
| JP6982242B2 (en) | Learning data generator, change area detection method and computer program | |
| JP7830376B2 (en) | Geological feature change detection device and geological feature change detection method | |
| JP6829800B2 (en) | Receiver suitability determination method and receiver suitability determination system | |
| US10331972B2 (en) | Survey data processing device, survey data processing method, and program therefor | |
| Yoo et al. | True orthoimage generation by mutual recovery of occlusion areas | |
| JP7495502B2 (en) | MAPPING DEVICE, TRACKER, MAPPING METHOD, AND PROGRAM | |
| KR101289885B1 (en) | Apparatus and method for modeling building | |
| JP4850161B2 (en) | Road map data creation device | |
| US10907977B1 (en) | Human-aided geo-rectification of geospatial metadata in video using a graphical interface | |
| JP2007188117A (en) | Cave-in area extraction method, device and program | |
| CN113566847B (en) | Navigation calibration method and device, electronic equipment and computer readable medium | |
| JP2009295062A (en) | Image processing apparatus, image processing method and image processing program | |
| KR20170108552A (en) | Information system for analysis of waterfront structure damage | |
| US20240096090A1 (en) | Damage Detection and Image Alignment Based on Polygonal Representation of Objects | |
| EP4181087A1 (en) | Visibility determination system, visibility determination method, and program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20250508 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20260122 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20260203 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20260304 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7830376 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |