Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7632198B2 - Drainage abnormality detection device, trained model generation device, drainage abnormality detection method, and trained model generation method - Google Patents
[go: Go Back, main page]

JP7632198B2 - Drainage abnormality detection device, trained model generation device, drainage abnormality detection method, and trained model generation method - Google Patents

Drainage abnormality detection device, trained model generation device, drainage abnormality detection method, and trained model generation method Download PDF

Info

Publication number
JP7632198B2
JP7632198B2 JP2021150736A JP2021150736A JP7632198B2 JP 7632198 B2 JP7632198 B2 JP 7632198B2 JP 2021150736 A JP2021150736 A JP 2021150736A JP 2021150736 A JP2021150736 A JP 2021150736A JP 7632198 B2 JP7632198 B2 JP 7632198B2
Authority
JP
Japan
Prior art keywords
abnormality
drainage
trained model
rainwater
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021150736A
Other languages
Japanese (ja)
Other versions
JP2023043237A (en
Inventor
香織 小河
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2021150736A priority Critical patent/JP7632198B2/en
Publication of JP2023043237A publication Critical patent/JP2023043237A/en
Application granted granted Critical
Publication of JP7632198B2 publication Critical patent/JP7632198B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Sewage (AREA)

Description

本開示は、雨水の異常を検知するために用いられる学習済みモデルを生成する学習済みモデル生成装置、雨水の異常を検知する雨水異常検知装置、学習済みモデル生成方法、及び雨水検知方法に関する。 The present disclosure relates to a trained model generation device that generates a trained model used to detect abnormalities in rainwater, a rainwater anomaly detection device that detects abnormalities in rainwater, a trained model generation method, and a rainwater detection method.

従来、種々の施設から排出される雨水は、環境保全の観点から、敷地外にでるまでに、人が常時監視することにより異常がないか検査されている。雨水の人による常時監視は、監視する人の負担が大きいので、雨水の検査は、自動で実行されることが望ましい。 Conventionally, from the perspective of environmental conservation, rainwater discharged from various facilities is constantly inspected by humans to check for abnormalities before it leaves the premises. However, constant manual monitoring of rainwater places a heavy burden on the people doing the monitoring, so it would be desirable for the inspection of rainwater to be carried out automatically.

水の異常を自動で検査する方法として、例えば、特許文献1には、河川からの取水を行うにあたり水質の良否を適切に判定することができる情報処理方法が開示されている。この情報処理方法は、取水口付近の水を撮像した画像を取得し、取水口付近の水の画像を入力した場合に取水の良否を判定した判定結果を出力する学習済みモデルに、取得した画像を入力し、学習済みモデルから判定結果を出力するものである。そして、この学習済みモデルは、種々の濁度の水を用意して収集した教師データを用いた学習をコンピュータに実行させることにより生成される。 As a method for automatically inspecting water for abnormalities, for example, Patent Document 1 discloses an information processing method that can appropriately determine the quality of water quality when taking water from a river. This information processing method involves acquiring an image of water near a water intake, inputting the acquired image into a trained model that outputs a judgment result of whether the water intake is good or bad when an image of water near the intake is input, and outputting the judgment result from the trained model. This trained model is then generated by having a computer carry out learning using training data collected by preparing water of various turbidities.

特開2020―125618号公報JP 2020-125618 A

しかしながら、施設から排出される雨水などの排水には、泥などが混入する可能性がある。このような排水は、本来異常ではないにも関わらず、泥による着色によって見かけ上の濁度が変化するため、従来技術のような濁度のみを基準としては、排水の異常の有無を判断することはできない。このため、上記手法で収集した教師データを用いて生成した学習済みモデルを利用した場合、本来異常でない排水であっても、誤って異常と判定されてしまう可能性がある。 However, there is a possibility that mud and other substances may be mixed into wastewater such as rainwater discharged from facilities. Even though such wastewater is not actually abnormal, the apparent turbidity of the wastewater changes due to the coloring caused by the mud. Therefore, it is not possible to determine whether or not there is an abnormality in the wastewater based solely on turbidity, as in conventional technology. For this reason, when using a trained model generated using training data collected by the above method, there is a possibility that wastewater that is not actually abnormal may be mistakenly determined to be abnormal.

そこで、排水に混入することで異常と誤認識され得る色である非異常要因色によって着色された排水を異常と過検知することを抑制し、排水の異常の検知精度を向上させることができる技術が望まれている。 Therefore, there is a need for technology that can prevent wastewater colored with non-abnormal factor colors, which may be mistakenly recognized as abnormal if mixed into wastewater, from being over-detected as abnormal, and can improve the accuracy of detecting abnormalities in wastewater.

本開示は、以下の形態として実現することが可能である。
本開示の一形態によれば、色彩として現れる、施設からの排水の異常を検知する排水異常検知装置が提供される。この排水異常検知装置は、排水の撮像画像である排水画像を取得する画像取得部と、排水の異常を示す異常要因色の成分と、排水に混入することで異常と誤認識され得る色である非異常要因色の成分とを混合して得られる複数の模擬排水であって、前記非異常要因色の成分の濃度が異なることでそれぞれ異なる色彩が現れている複数の模擬排水の撮像画像を含む複数の模擬排水画像と、各前記模擬排水画像の異常の程度の評価とを対応付ける対応情報を教師データとして用いた学習により生成され、排水画像を入力とし、異常の程度の評価を出力とする学習済みモデルを用いて、前記施設からの排水の異常を検知し、その結果を出力する検知部と、を備える。
本開示の一形態によれば、色彩として現れる、施設からの排水の異常を検知するために用いられる学習済みモデルを生成する学習済みモデル生成装置が提供される。この学習済みモデル生成装置は、排水の異常を示す異常要因色の成分と、排水に混入することで異常と誤認識され得る色である非異常要因色の成分とを混合して得られる複数の模擬排水であって、前記非異常要因色の成分の濃度が異なることでそれぞれ異なる色彩が現れている複数の模擬排水の撮像画像を含む複数の模擬排水画像と、各前記模擬排水画像の異常の程度の評価とを対応付ける対応情報を教師データとして取得する教師データ取得部と、前記教師データを用いた学習により、排水画像を入力とし、異常の程度の評価を出力とする学習済みモデルを生成する学習部と、を備える。
なお、本開示は、以下の形態として実現することも可能である。
The present disclosure can be realized in the following forms.
According to one embodiment of the present disclosure, there is provided a drainage abnormality detection device that detects abnormality in drainage from a facility, which appears as a color. The drainage abnormality detection device includes an image acquisition unit that acquires a drainage image, which is an image of drainage, and a detection unit that detects abnormality in drainage from the facility using a trained model that detects abnormality in drainage from the facility using a trained model that receives drainage images as input and outputs an evaluation of the degree of abnormality, and detects the abnormality in drainage from the facility using a trained model that ...
According to one embodiment of the present disclosure, there is provided a trained model generation device for generating a trained model used to detect an abnormality in wastewater from a facility, which appears as a color. The trained model generation device includes a teacher data acquisition unit that acquires, as teacher data, correspondence information that associates a plurality of simulated wastewater images including captured images of a plurality of simulated wastewaters obtained by mixing an abnormality factor color component indicating an abnormality in the wastewater and a non-abnormality factor color component that is a color that may be mistakenly recognized as an abnormality when mixed into the wastewater, the simulated wastewater images each appearing in a different color due to a different concentration of the non-abnormality factor color component, with an evaluation of the degree of abnormality of each of the simulated wastewater images, and a learning unit that generates a trained model that uses the teacher data to learn and outputs an evaluation of the degree of abnormality.
The present disclosure can also be realized in the following forms.

(1)本開示の一形態によれば、色彩として現れる、施設からの排水の異常を検知する排水異常検知装置が提供される。この排水異常検知装置は、排水の撮像画像である排水画像を取得する画像取得部と、排水の異常を示す異常要因色の成分と、排水に混入することで異常と誤認識され得る色である非異常要因色の成分とを混合して得られる複数の模擬排水であって、それぞれ異なる色彩が現れている複数の模擬排水の撮像画像である複数の模擬排水画像と、各前記模擬排水画像の異常の程度の評価とを対応付ける対応情報を教師データとして用いた学習により生成され、排水画像を入力とし、異常の程度の評価を出力とする学習済みモデルを用いて、前記施設からの排水の異常を検知し、その結果を出力する検知部と、を備える。
上記形態の排水異常検知装置によれば、水に混入することで異常と誤認識され得る色である非異常要因色によって着色された排水を異常と過検知することを抑制し、排水の異常の検知精度を向上させることができる。
(2)上記形態の排水異常検知装置において、前記画像取得部は、外光が遮断された照明下において、白色の底部を有する流路を流れる排水を撮像することによって得られる白色背景画像を、前記排水画像として取得する、としてもよい。
この排水異常検知装置によれば、外光のような外乱を抑制して、排水の異常の検知精度を向上させることができる。
(3)上記形態の排水異常検知装置において、前記画像取得部は、外光が遮光された照明下において、白色の底部を有する流路を流れる排水を撮像することによって得られる白色背景画像、及び、白色以外の色に着色された底部を有する流路を流れる排水を撮像することによって得られる着色背景画像を、前記排水画像として取得し、前記検知部は、前記画像取得部で取得される白色背景画像に対しては、前記学習済みモデルとして、白色背景画像を入力とし、異常の程度の評価を出力とする白色背景用学習済みモデルを用い、前記画像取得部で取得される着色背景画像に対しては、前記学習済みモデルとして、着色背景画像を入力とし、異常の程度の評価を出力とする着色背景用学習済みモデルを用いて、前記施設からの排水の異常を検知する、としてもよい。
この排水異常検知装置によれば、例えば、排水に白色系塗料が混入した場合、白色背景画像では過検知の可能が高くなるので、着色背景画像による検知を行うことにより、排水の異常の検知精度を向上させることができる。
(4)上記各形態の排水異常検知装置において、前記排水は雨水であり、前記非排水異常要因色は、前記雨水に混入する泥の色である、としてもよい。
この形態の排水異常検知装置によれば、泥が混入する雨水の異常の検知精度を向上させることができる。
(5)本開示の他の一形態によれば、色彩として現れる、施設からの排水の異常を検知するために用いられる学習済みモデルを生成する学習済みモデル生成装置が提供される。この学習済みモデル生成装置は、排水の異常を示す異常要因色の成分と、排水に混入することで異常と誤認識され得る色である非異常要因色の成分とを混合して得られる複数の模擬排水であって、それぞれ異なる色彩が現れている複数の模擬排水の撮像画像である複数の模擬排水画像と、各前記模擬排水画像の異常の程度の評価とを対応付ける対応情報を教師データとして取得する教師データ取得部と、前記教師データを用いた学習により、排水画像を入力とし、異常の程度の評価を出力とする学習済みモデルを生成する学習部と、を備える。
この形態の学習済みモデル生成装置によれば、水に混入することで異常と誤認識され得る色である非異常要因色によって着色された排水を異常と過検知することを抑制し、排水の異常の検知精度を向上させることができる学習済みモデルを生成することができる。
(1) According to one embodiment of the present disclosure, there is provided a drainage abnormality detection device that detects an abnormality in drainage from a facility that appears as a color. The drainage abnormality detection device includes an image acquisition unit that acquires a drainage image that is an image of drainage, and a detection unit that detects an abnormality in drainage from the facility using a trained model that receives drainage images as input and outputs an evaluation of the degree of abnormality, and detects the abnormality in drainage from the facility using the trained model, which is generated by learning using a plurality of simulated drainage images that are imaged images of a plurality of simulated drainages that are obtained by mixing an abnormality factor color component that indicates an abnormality in the drainage and a non-abnormality factor color component that is a color that may be mistakenly recognized as an abnormality when mixed into the drainage, and that corresponds to an evaluation of the degree of abnormality of each of the simulated drainage images as teacher data.
According to the drainage abnormality detection device of the above-described form, it is possible to suppress overdetection of drainage colored with a non-abnormal factor color, which is a color that may be mistakenly recognized as an abnormality if mixed into water, as an abnormality, thereby improving the accuracy of detecting drainage abnormalities.
(2) In the drainage abnormality detection device of the above-described form, the image acquisition unit may acquire as the drainage image a white background image obtained by imaging drainage water flowing through a flow path having a white bottom under lighting that blocks external light.
According to this drainage abnormality detection device, it is possible to suppress disturbances such as external light and improve the accuracy of detecting drainage abnormalities.
(3) In the drainage abnormality detection device of the above embodiment, the image acquisition unit acquires, as the drainage images, a white background image obtained by imaging drainage flowing through a flow path having a white bottom under lighting that blocks external light, and a colored background image obtained by imaging drainage flowing through a flow path having a bottom colored a color other than white, and the detection unit may detect abnormalities in drainage from the facility by using, for the white background image acquired by the image acquisition unit, a trained model for white background that takes a white background image as an input and outputs an evaluation of the degree of abnormality, and, for the colored background image acquired by the image acquisition unit, a trained model for colored background that takes a colored background image as an input and outputs an evaluation of the degree of abnormality.
With this drainage abnormality detection device, for example, if white paint is mixed into the drainage, there is a high possibility of overdetection using a white background image, so by performing detection using a colored background image, the accuracy of detecting drainage abnormalities can be improved.
(4) In the drainage anomaly detection device according to any of the above aspects, the drainage may be rainwater, and the non-drainage anomaly factor color may be the color of mud mixed into the rainwater.
According to the drainage abnormality detection device of this embodiment, it is possible to improve the accuracy of detecting abnormalities in rainwater containing mud.
(5) According to another aspect of the present disclosure, there is provided a trained model generation device that generates a trained model used to detect an abnormality in wastewater from a facility, which appears as a color. The trained model generation device includes a teacher data acquisition unit that acquires, as teacher data, correspondence information that associates a plurality of simulated wastewater images, which are captured images of a plurality of simulated wastewaters each appearing in a different color, obtained by mixing an abnormality factor color component indicating an abnormality in the wastewater and a non-abnormality factor color component that is a color that may be mistakenly recognized as an abnormality when mixed into the wastewater, with an evaluation of the degree of abnormality of each of the simulated wastewater images, and a learning unit that generates a trained model that uses the teacher data to learn and outputs an evaluation of the degree of abnormality.
According to this form of trained model generation device, it is possible to generate a trained model that can suppress overdetection of wastewater colored with non-abnormal factor colors, which are colors that may be mistakenly recognized as abnormal if mixed into water, and can improve the accuracy of detecting abnormalities in wastewater.

本開示は、上記形態の排水異常検知装置や学習済みモデル生成装置だけでなく、排水異常検知方法や学習済みモデル生成方法、予め定めた施設からの排水の異常を検知する処理をコンピュータに実行させるプログラムや学習済みモデルを生成する処理をコンピュータに実行させるプログラム等の種々の形態で実現することができる。 The present disclosure can be realized in various forms, such as the drainage anomaly detection device and trained model generation device described above, as well as a drainage anomaly detection method, a trained model generation method, a program that causes a computer to execute a process for detecting drainage anomalies from a predetermined facility, and a program that causes a computer to execute a process for generating a trained model.

第1実施形態の排水異常検知システムとしての雨水異常検知システムの構成例を示す模式図である。1 is a schematic diagram illustrating a configuration example of a rainwater anomaly detection system as a drainage anomaly detection system of a first embodiment. FIG. 制御部による雨水異常検知処理の手順の一例を示すフローチャートである。10 is a flowchart illustrating an example of a procedure for a rainwater abnormality detection process performed by a control unit. 学習済みモデル生成装置の構成例を示す模式図である。FIG. 1 is a schematic diagram illustrating an example of the configuration of a trained model generation device. 制御部による学習済みモデル生成処理の手順の一例を示すフローチャートである。13 is a flowchart illustrating an example of a procedure for a trained model generation process performed by a control unit. 教師データとして利用される複数のデータセットの一例を示す表の一部である。1 is a portion of a table showing an example of multiple data sets used as training data. 教師データとして利用される複数のデータセットの一例を示す表の他の一部である。13 is another part of a table showing an example of multiple data sets used as training data. 第2実施形態の雨水異常検知システムの構成例を示す模式図である。FIG. 13 is a schematic diagram illustrating a configuration example of a rainwater anomaly detection system according to a second embodiment. 第3実施形態の雨水異常検知システムの構成例を示す模式図である。FIG. 13 is a schematic diagram illustrating a configuration example of a rainwater anomaly detection system according to a third embodiment.

A.第1実施形態:
図1は、第1実施形態の排水異常検知システムとしての雨水異常検知システム10の構成例を示す模式図である。雨水異常検知システム10は、工場などの種々の施設から排出される雨水を排水の例として、雨水が施設の敷地外に出るまでの間に、雨水に異常が無いか自動的に検知する排水異常検知システムである。例えば、工場において、雨水に、環境に悪影響を与えるような金属等の物質が含まれることによる、異常な着色が発生していないかを、自動的に検知する。なお、以下では、図1に示すように、雨水側溝20の側溝流路22を流れて、流入口26から雨水槽24に流入する前の雨水を異常検知の対象として説明する。なお、図1に示す雨水側溝20は、図示を容易にするため、側溝流路22の手前側の側壁を省略して示しており、以降で示す図においても同様である。
A. First embodiment:
FIG. 1 is a schematic diagram showing a configuration example of a rainwater abnormality detection system 10 as a drainage abnormality detection system of the first embodiment. The rainwater abnormality detection system 10 is a drainage abnormality detection system that automatically detects whether there is an abnormality in rainwater, taking rainwater discharged from various facilities such as a factory as an example of drainage, before the rainwater leaves the premises of the facility. For example, in a factory, the system automatically detects whether there is an abnormal coloring in rainwater due to the inclusion of a substance such as metal that has a negative effect on the environment. In the following, as shown in FIG. 1, the rainwater that flows through the gutter flow path 22 of the rainwater gutter 20 and before flowing into the rainwater tank 24 from the inlet 26 is described as the target of abnormality detection. In addition, in the rainwater gutter 20 shown in FIG. 1, the side wall on the front side of the gutter flow path 22 is omitted for ease of illustration, and the same applies to the figures shown below.

雨水異常検知システム10は、排水異常検知装置としての雨水異常検知装置100と撮像装置200と、を備えている。撮像装置200は、雨水異常検知装置100によって制御可能に接続されている。 The rainwater anomaly detection system 10 includes a rainwater anomaly detection device 100 as a drainage anomaly detection device, and an imaging device 200. The imaging device 200 is connected so as to be controllable by the rainwater anomaly detection device 100.

撮像装置200は、種々のカメラで構成可能であり、動画あるいは静止画を撮像し、撮像した画像(動画あるいは静止画)を雨水異常検知装置100に出力する装置である。撮像装置200は、側溝流路22の予め設定した撮像領域IAに対応する流路部分における雨水を撮像する。 The imaging device 200 can be configured with various cameras, and is a device that captures video or still images and outputs the captured images (video or still images) to the rainwater abnormality detection device 100. The imaging device 200 captures an image of rainwater in a flow path portion that corresponds to a preset imaging area IA of the gutter flow path 22.

雨水異常検知装置100は、サーバ装置やパーソナルコンピュータ等の種々のコンピュータ装置で構成可能である。雨水異常検知装置100は、撮像装置200が撮像した排水画像である雨水画像を取得し、後述する学習済みモデル134を用いて、取得した雨水画像の入力に対して雨水の異常の状態を検知する。 The rainwater anomaly detection device 100 can be configured with various computer devices such as a server device or a personal computer. The rainwater anomaly detection device 100 acquires a rainwater image, which is a drainage image captured by the imaging device 200, and detects an abnormal state of rainwater for the input of the acquired rainwater image using a trained model 134 described later.

雨水異常検知装置100は、制御部110と、インターフェイス(IF)120と、記憶部130と、を有している。 The rainwater abnormality detection device 100 has a control unit 110, an interface (IF) 120, and a memory unit 130.

IF120は、撮像装置200や外部コンピュータ(不図示)との間を通信可能に接続するインターフェイスである。 IF120 is an interface that enables communication between the imaging device 200 and an external computer (not shown).

記憶部130は、SRAM(Static Random Access Memory)、DRAM(Dynamic Random Access Memory)、フラッシュメモリ等の揮発性記憶領域及び、EEPROMやハードディスク等の不揮発性記憶領域を有している。記憶部130には、プログラム132及び処理時に参照するデータが予め記憶されている。記憶部130に記憶されたプログラム132は、雨水異常検知装置100が読み取り可能な記録媒体(不図示)から読み出されたプログラム132を記憶したものであってもよい。また、不図示の通信網に接続されている不図示の外部コンピュータからプログラム132をダウンロードし、記憶部130に記憶させたものであってもよい。また、記憶部130には、学習済みモデル134を構成するファイル134fが保存されている。この学習済みモデルのファイル134fも、プログラム132と同様に、雨水異常検知装置100が読み取り可能な記録媒体から読み出された学習済みモデルのファイル134fを記憶したものであってもよい。なお、記録媒体は、後述する学習済みモデル生成装置300において、生成された学習済みモデルのファイル134fを記録することにより作成されたものである。また、不図示の通信網に接続されている学習済みモデル生成装置300から学習済みモデルのファイル134fをダウンロードし、記憶部130に記憶させたものであってもよい。 The storage unit 130 has a volatile storage area such as a static random access memory (SRAM), a dynamic random access memory (DRAM), or a flash memory, and a non-volatile storage area such as an EEPROM or a hard disk. The storage unit 130 stores the program 132 and data to be referenced during processing in advance. The program 132 stored in the storage unit 130 may be a program 132 read from a recording medium (not shown) that can be read by the rainwater anomaly detection device 100. The program 132 may also be a program downloaded from an external computer (not shown) connected to a communication network (not shown) and stored in the storage unit 130. The storage unit 130 also stores a file 134f that constitutes the trained model 134. The trained model file 134f may also be a trained model file 134f read from a recording medium that can be read by the rainwater anomaly detection device 100, like the program 132. The recording medium is created by recording the trained model file 134f generated by the trained model generation device 300 described below. The trained model file 134f may also be downloaded from the trained model generation device 300 connected to a communication network (not shown) and stored in the storage unit 130.

制御部110は、一又は複数のCPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)等の演算処理装置を有している。制御部110は、記憶部130に記憶されたプログラム132を読み出して実行し、学習済みモデルのファイル134fを読み出すことにより、撮像装置200から出力された雨水画像を取得(受信)し、雨水の異常の状態を検知するための各種の機能ブロックとして機能する。具体的には、制御部110は、撮像装置200からIF120を介して受信した雨水画像を取得する画像取得部112、雨水画像を入力とし、雨水の異常の程度の評価を出力する学習済みモデル134を用いて、雨水の異常を検知する検知部114、及び、雨水の異常の検知結果を出力する検知結果出力部116として機能する。なお、学習済みモデルのファイル134fは、予め、後述する学習済みモデル生成装置300(図3参照)によって生成されて、雨水異常検知装置100の記憶部130に記憶されている。 The control unit 110 has one or more arithmetic processing devices such as a central processing unit (CPU), a micro-processing unit (MPU), or a graphics processing unit (GPU). The control unit 110 reads and executes the program 132 stored in the storage unit 130, and reads the trained model file 134f to acquire (receive) the rainwater image output from the imaging device 200 and function as various functional blocks for detecting the abnormal state of the rainwater. Specifically, the control unit 110 functions as an image acquisition unit 112 that acquires the rainwater image received from the imaging device 200 via the IF 120, a detection unit 114 that detects the abnormality of the rainwater using the trained model 134 that receives the rainwater image as an input and outputs an evaluation of the degree of the abnormality of the rainwater, and a detection result output unit 116 that outputs the detection result of the abnormality of the rainwater. The trained model file 134f is generated in advance by the trained model generation device 300 (see FIG. 3) described later and stored in the storage unit 130 of the rainwater anomaly detection device 100.

図2は、制御部110による雨水異常検知処理(排水異常検知方法)の手順の一例を示すフローチャートである。制御部110は、画像取得部112によって撮像装置200が撮像した雨水画像を取得する(ステップS110)。そして、制御部110は、取得した雨水画像を学習済みモデル134に入力し、検知部114によって学習済みモデル134が出力する雨水の異常の程度の評価に従って雨水の異常を検知し(ステップS120)、検知結果出力部116によって雨水異常の検知結果を出力する(ステップS130)。 Figure 2 is a flowchart showing an example of the procedure for the rainwater abnormality detection process (drainage abnormality detection method) by the control unit 110. The control unit 110 acquires a rainwater image captured by the imaging device 200 via the image acquisition unit 112 (step S110). The control unit 110 then inputs the acquired rainwater image to the trained model 134, detects an abnormality in the rainwater via the detection unit 114 according to the evaluation of the degree of the abnormality in the rainwater output by the trained model 134 (step S120), and outputs the detection result of the rainwater abnormality via the detection result output unit 116 (step S130).

なお、雨水異常の検知結果の出力としては、例えば、学習済みモデル134は、雨水の異常の程度の評価として雨水の異常の有無を出力するものとして、雨水の異常の有無の情報を不図示の表示部に表示し、雨水異常を監視する監視者に対して通知することが考えられる。特に、雨水の異常が有ることを検知した場合には、その表示に加えて、音や光等で監視者に通知して、監視者に表示の確認を促すようにしてもよい。 As an output of the rainwater abnormality detection result, for example, the trained model 134 may output the presence or absence of rainwater abnormality as an evaluation of the degree of the rainwater abnormality, and may display the information on the presence or absence of rainwater abnormality on a display unit (not shown) to notify the monitor monitoring the rainwater abnormality. In particular, when a rainwater abnormality is detected, in addition to the display, the monitor may be notified by sound or light, etc., to prompt the monitor to check the display.

上記の学習済みモデル134は、以下で説明する学習済みモデル生成装置300によって生成可能である。図3は、学習済みモデル生成装置300の構成例を示す模式図である。学習済みモデル生成装置300は、パーソナルコンピュータ等の種々のコンピュータ装置で構成可能である。学習済みモデル生成装置300は、以下で説明するように、教師データを取得し、取得した教師データを用いた学習により、雨水を撮像した雨水画像の入力に対して雨水の異常の状態を判定した情報を出力する学習済みモデルを生成する。 The trained model 134 can be generated by the trained model generation device 300 described below. FIG. 3 is a schematic diagram showing an example of the configuration of the trained model generation device 300. The trained model generation device 300 can be configured with various computer devices such as a personal computer. As described below, the trained model generation device 300 acquires training data and, by learning using the acquired training data, generates a trained model that outputs information that determines the abnormal state of rainwater in response to an input of a rainwater image that captures rainwater.

学習済みモデル生成装置300は、制御部310と、インターフェイス(IF)320と、記憶部330と、を有している。 The trained model generating device 300 has a control unit 310, an interface (IF) 320, and a memory unit 330.

IF320は、教師データに利用されるデータセットの入力を許容するインターフェイスである。データセットには、後述する模擬排水画像としての模擬雨水画像のデータと、この模擬雨水画像に対して対応付けられた評価結果としての分類のデータと、が含まれる。分類は、模擬雨水の異常の状態の評価結果として、模擬雨水が正常な状態か異常な状態であるかを示すデータである。 IF320 is an interface that allows input of a data set to be used for training data. The data set includes data of a simulated rainwater image as a simulated drainage image, which will be described later, and classification data as an evaluation result associated with the simulated rainwater image. The classification is data that indicates whether the simulated rainwater is in a normal or abnormal state, as an evaluation result of the abnormal state of the simulated rainwater.

記憶部330は、雨水異常検知装置100の記憶部130(図1参照)と同様に、揮発性記憶領域及び不揮発性記憶領域を有している。記憶部330には、プログラム332及び処理時に参照するデータがあらかじめ記憶してある。記憶部330に記憶されたプログラム332は、モデル生成装置300が読み取り可能な記録媒体(不図示)から読み出されたプログラム332を記憶したものであってもよい。また、不図示の通信網に接続されている不図示の外部コンピュータからプログラム332をダウンロードし、記憶部330に記憶させたものであってもよい。また、記憶部330には、後述するように、取得された複数のデータセットが教師データ334として記憶され、生成された学習済みモデル134を構成するファイル134fが記憶される。 The storage unit 330 has a volatile storage area and a non-volatile storage area, similar to the storage unit 130 (see FIG. 1) of the rainwater anomaly detection device 100. The storage unit 330 stores a program 332 and data to be referenced during processing in advance. The program 332 stored in the storage unit 330 may be a program 332 read from a recording medium (not shown) that is readable by the model generating device 300. The program 332 may also be a program downloaded from an external computer (not shown) connected to a communication network (not shown) and stored in the storage unit 330. In addition, the storage unit 330 stores a plurality of acquired data sets as teacher data 334, as described below, and stores a file 134f that constitutes the generated trained model 134.

制御部310は、雨水異常検知装置100の制御部110(図1参照)と同様に、一又は複数のCPU、MPU、GPU等の演算処理装置を有している。制御部310は、記憶部330に記憶されたプログラム332を読み出して実行することにより、雨水を撮像した雨水画像を入力とし、異常の程度の評価(異常の有無)を出力とする学習済みモデルを生成する各種の機能ブロックとして機能する。具体的には、制御部310は、IF320を介して、教師データに利用されるデータセットを取得する教師データ取得部312、及び、教師データを用いた学習により、雨水画像を入力とし、雨水の異常の程度の評価(異常の有無)を出力とする学習済みモデル134を生成する学習部314として機能する。 The control unit 310 has one or more arithmetic processing units such as a CPU, MPU, GPU, etc., similar to the control unit 110 (see FIG. 1) of the rainwater anomaly detection device 100. The control unit 310 reads and executes the program 332 stored in the memory unit 330 to function as various functional blocks that take rainwater images captured of rainwater as input and generate a trained model that outputs an evaluation of the degree of anomaly (presence or absence of anomaly). Specifically, the control unit 310 functions as a teacher data acquisition unit 312 that acquires a data set used for teacher data via the IF 320, and a learning unit 314 that uses the teacher data to learn and generate a trained model 134 that takes rainwater images as input and outputs an evaluation of the degree of anomaly (presence or absence of anomaly).

図4は、制御部310による学習済みモデル生成処理(モデル生成方法)の手順の一例を示すフローチャートである。制御部310は、教師データ取得部312によって、IF320を介して入力された複数のデータセットを取得し、教師データ334として記憶部330に保存する(ステップS310)。そして、制御部310は、学習部314によって、教師データ334を用いた学習により構築された学習済みモデル134を生成し、学習済みモデル134を構成するファイル134fを記憶部330に記憶する。 Figure 4 is a flowchart showing an example of the procedure of a trained model generation process (model generation method) by the control unit 310. The control unit 310 acquires multiple data sets input via the IF 320 by the teacher data acquisition unit 312, and stores them in the memory unit 330 as teacher data 334 (step S310). The control unit 310 then generates a trained model 134 constructed by learning using the teacher data 334 by the learning unit 314, and stores a file 134f constituting the trained model 134 in the memory unit 330.

学習部314は、模擬雨水画像と、この模擬雨水画像に対応付けられた模擬雨水の異常の程度の評価結果としての分類(異常あるいは正常)と、を対応付ける対応情報としての複数のデータセットを教師データ334として用いて、ディープラーニングを行う。これにより、学習部314は、雨水画像を入力とし、雨水画像の示す雨水の異常の有無を異常の程度の評価として出力とするニューラルネットワークを学習済みモデル134として構築(生成)する。なお、ニューラルネットワークはCNN(Convolution Neural Network)である。但し、学習済みモデル134はCNNに限定されるものではなく、CNN以外のニューラルネットワークなど、他の学習アルゴリズムで構築された学習済みモデル134であってもよい。 The learning unit 314 performs deep learning using multiple data sets as teacher data 334, which are correspondence information that associates the simulated rainwater image with a classification (abnormal or normal) as an evaluation result of the degree of abnormality of the simulated rainwater associated with the simulated rainwater image. As a result, the learning unit 314 constructs (generates) a neural network as the trained model 134, which receives the rainwater image as input and outputs the presence or absence of an abnormality in the rainwater shown in the rainwater image as an evaluation of the degree of abnormality. Note that the neural network is a CNN (Convolution Neural Network). However, the trained model 134 is not limited to a CNN, and may be a trained model 134 constructed with another learning algorithm, such as a neural network other than a CNN.

図5A及び図5Bは、教師データ334として利用される複数のデータセットの一例を示す表である。複数のデータセットは、以下で説明するようにして取得可能である。 Figures 5A and 5B are tables showing examples of multiple data sets used as training data 334. The multiple data sets can be obtained as described below.

異常な状態の雨水を実際に用意することは難しいので、雨水を模した複数の模擬雨水を用意して、複数の模擬雨水画像を取得する。模擬雨水画像は、雨水異常検知システム10で用いられる撮像装置200(図1参照)と同様の撮像装置を用いて、用意した模擬雨水を撮像することにより取得される。 Because it is difficult to actually prepare rainwater in an abnormal state, multiple simulated rainwater samples are prepared to obtain multiple simulated rainwater images. The simulated rainwater images are obtained by capturing images of the prepared simulated rainwater using an imaging device similar to the imaging device 200 (see FIG. 1) used in the rainwater abnormality detection system 10.

模擬雨水は、異常の状態に応じた着色による色彩の変化を意図的に作製するために、雨水の異常を示す異常要因色の成分と、雨水に混入することで異常と誤認識され得る色である非異常要因色の成分とを混合することにより作製される。異常要因色の色、異常要因色の濃度、及び非異常要因色の濃度の組み合わせは、複数の模擬雨水を撮像した複数の模擬雨水画像及びそれぞれの評価結果を、効率良く網羅的に取得するために、L18直交表を利用して作製した18種類の模擬雨水(図5A及び図5B参照)を利用するものとした。但し、これに限定されるものでなく、複数の模擬雨水を撮像した複数の模擬雨水画像及びそれぞれの評価結果を網羅的に取得できれば、どのような異常要因色の色、異常要因色の濃度、及び非異常要因色の濃度の組み合わせとしてもよい。 In order to intentionally create color changes due to coloring according to abnormal conditions, the simulated rainwater is created by mixing abnormality factor color components that indicate abnormalities in rainwater with non-abnormality factor color components that may be mistakenly recognized as abnormal when mixed into rainwater. The combination of abnormality factor color, abnormality factor color density, and non-abnormality factor color density uses 18 types of simulated rainwater (see Figures 5A and 5B) created using an L18 orthogonal array in order to efficiently and comprehensively obtain multiple simulated rainwater images obtained by capturing multiple simulated rainwater images and their respective evaluation results. However, this is not limited to this, and any combination of abnormality factor color, abnormality factor color density, and non-abnormality factor color density may be used as long as multiple simulated rainwater images obtained by capturing multiple simulated rainwater images and their respective evaluation results can be comprehensively obtained.

なお、雨水の異常を示す異常要因色は、上記したように、環境に悪影響を与えるような金属等の物質が含まれることによって雨水が着色される色である。本例では、異常要因色の色として、赤、黄、黒の3種類の色を例とした。異常要因色の濃度は、原液の濃度、原液の100倍希釈液の濃度、原液の1000倍希釈液の濃度、の3段階の濃度を例とした。なお、赤色の原液は、一例として、1Lの水を、2.5gの赤色の着色料(例えば、食紅)で着色させた着色液とした。黄色の原液及び黒色の原液も同様である。また、非異常要因色の色は、泥の色を例とし、非異常要因色の濃度は、泥の混入量によるものとし、混入なし、混入少、混入多の3段階の濃度を例とした。なお、一例として、1Lの水に対して30gの泥の混入を混入少、60gの泥の混入を混入多とした。但し、これに限定されるものではなく、複数の模擬雨水を撮像した複数の模擬雨水画像及びそれぞれの評価結果を、網羅的に取得できるように、異常要因色の色及び異常要因色の濃度に対して、複数の非異常要因色の濃度を組み合わせることができればよい。なお、異常要因色には、環境への悪影響と関係なく、本来、観測対象となる雨水が示すべきでなく、多くの人にとって、着色が認識され得る色が含まれ得る。 As described above, the abnormality factor colors that indicate abnormality in rainwater are colors that are caused by the inclusion of metals or other substances that have a negative impact on the environment. In this example, three types of abnormality factor colors are used as examples: red, yellow, and black. The concentrations of the abnormality factor colors are three levels: the concentration of the original solution, the concentration of a 100-fold dilution of the original solution, and the concentration of a 1000-fold dilution of the original solution. As an example, the red original solution is a colored solution in which 1 L of water is colored with 2.5 g of red coloring (e.g., food coloring). The same applies to the yellow original solution and the black original solution. As an example, the color of mud is used as an example of the color of non-abnormality factor colors, and the concentrations of non-abnormality factor colors are determined by the amount of mud mixed in, and three levels of concentration are used: no mixing, little mixing, and much mixing. As an example, the mixing of 30 g of mud in 1 L of water is called little mixing, and the mixing of 60 g of mud is called much mixing. However, this is not a limitation, and it is sufficient if the densities of multiple non-anomalous factor colors can be combined with the color and density of the abnormal factor color so that multiple simulated rainwater images captured from multiple simulated rainwater samples and their respective evaluation results can be comprehensively obtained. Note that the abnormal factor colors may include colors that are not related to adverse effects on the environment and should not be shown by the rainwater that is the subject of observation, and that many people may recognize as colored.

各模擬雨水の異常の程度の分類は、例えば、各模擬雨水について、それぞれ、予め定めた人数の評価者が、撮像した模擬雨水画像を予め定めたスコアリング方法に従って評価した評価結果を予め定めた分類条件に従って分類することによって実行される。なお、図5A及び図5Bに示した分類は、一例として、以下のようにして実行されたものである。雨水の管理をしている評価者50人が、それぞれ、各種類の模擬雨水に対して撮像された3枚の模擬雨水画像についてスコアリングし、スコアの平均値を評価結果として取得する。スコアリング方法としては、問題なしと判断する場合をスコア1、傾向を注視する必要があると判断する場合をスコア2、現地にて確認する必要があると判断する場合をスコア3、すぐに回収する必要があると判断する場合をスコア4として、スコアリングするものである。分類条件は、スコアの平均値が2未満の場合を正常、2以上の場合を異常とするものである。但し、上記のスコアリング方法及び分類条件は、一例であって、これに限定されるものではなく、雨水の異常の度合いをスコアリングし、スコアの平均値の大きさに応じて雨水の異常の程度を正常と異常とに分類できる種々のスコアリング方法及び分類条件であればよい。 The classification of the degree of abnormality of each simulated rainwater is performed, for example, by having a predetermined number of evaluators evaluate the captured simulated rainwater images according to a predetermined scoring method for each type of simulated rainwater, and classifying the evaluation results according to predetermined classification conditions. The classification shown in Figures 5A and 5B is performed as follows, as an example. Fifty evaluators who manage the rainwater each score three simulated rainwater images captured for each type of simulated rainwater, and the average score is obtained as the evaluation result. The scoring method is as follows: if it is judged that there is no problem, score 1 is given; if it is judged that the trend needs to be closely watched, score 2 is given; if it is judged that the site needs to be checked, score 3 is given; and if it is judged that the item needs to be collected immediately, score 4 is given. The classification conditions are that an average score of less than 2 is normal, and an average score of 2 or more is abnormal. However, the above scoring method and classification conditions are merely examples and are not limited to these. Any scoring method and classification conditions can be used as long as they can score the degree of abnormality in rainwater and classify the degree of abnormality in rainwater into normal and abnormal depending on the average value of the score.

なお、教師データ334として利用されるデータセットとしては、上記の模擬雨水に関する18種類のデータセットだけでなく、正常な状態と判断される実際の雨水に関するデータセットを含むようにしてもよい。 The datasets used as the teacher data 334 may include not only the 18 types of datasets related to simulated rainwater described above, but also datasets related to actual rainwater that is determined to be in a normal state.

学習済みモデル生成装置300によって生成された学習済みモデル134を構成するファイル134fは、学習済みモデル生成装置300において不図示の記録装置を介して不図示の記録媒体に記録され、この記録媒体を介して雨水異常検知装置100(図1参照)の記憶部130に記憶可能である。また、不図示の通信網で接続されている雨水異常検知装置100に対して、通信網を介して送信されることにより雨水異常検知装置100の記憶部130に記憶されるようにしてもよい。 The file 134f constituting the trained model 134 generated by the trained model generating device 300 is recorded on a recording medium (not shown) in the trained model generating device 300 via a recording device (not shown), and can be stored in the memory unit 130 of the rainwater anomaly detection device 100 (see FIG. 1) via this recording medium. In addition, the file 134f may be stored in the memory unit 130 of the rainwater anomaly detection device 100 by being transmitted via a communication network to the rainwater anomaly detection device 100 connected via a communication network (not shown).

以上説明した学習済みモデル生成装置300では、排水の異常を示す異常要因色の成分と、排水に混入することで異常と誤認識され得る色である非異常要因色の成分とを混合して得られる複数の模擬雨水を利用して、学習済みモデル134を生成している。具体的には、複数の模擬雨水を撮像した複数の模擬雨水画像と、各模擬雨水画像の示す模擬雨水の異常の程度の評価としての分類(異常あるいは正常)と、を対応付ける対応情報としての複数のデータセットによる教師データ334を学習することにより、学習済みモデル134を生成している。従って、この学習済みモデル134を用いた雨水異常検知装置100では、泥の混入によって着色された雨水を異常と過検知してしまうことを抑制することができ、雨水の異常の検知精度を向上させることができる。 In the trained model generating device 300 described above, the trained model 134 is generated using multiple simulated rainwater obtained by mixing anomaly factor color components indicating drainage abnormalities with non-anomalous factor color components that may be mistakenly recognized as abnormal when mixed with drainage. Specifically, the trained model 134 is generated by learning teacher data 334 from multiple data sets as correspondence information that corresponds multiple simulated rainwater images obtained by capturing multiple simulated rainwater images with classifications (abnormal or normal) as an evaluation of the degree of abnormality of the simulated rainwater shown by each simulated rainwater image. Therefore, the rainwater anomaly detection device 100 using this trained model 134 can suppress overdetection of rainwater colored by mud contamination as abnormal, and can improve the detection accuracy of rainwater anomalies.

B.第2実施形態:
図6は、第2実施形態の雨水異常検知システム10Bの構成例を示す模式図である。第1実施形態の雨水異常検知システム10(図1参照)では、外光である太陽光などの外的要因の影響(外乱)によって撮像装置200の撮像条件が変化して、撮像された雨水画像が変化する可能性がある。そこで、第2実施形態の雨水異常検知システム10Bは、撮像装置200から撮像領域IAまでの経路を含む空間周辺を、黒色の遮光板232及び遮光幕234で構成される遮光装置230で覆うとともに、遮光された空間領域をLED照明等の照明装置240で照明して、撮像領域IAに対応する流路部分の照度が一定となるような構成としている。また、撮像領域IAに対応する流路部分を流れる雨水の色を明確にするため、例えば、側溝流路22の流路底部に白色板WBが配置された構成として、撮像領域IAに対応する流路部分の流路底部の面が白色となるようにしている。
B. Second embodiment:
FIG. 6 is a schematic diagram showing a configuration example of the rainwater abnormality detection system 10B of the second embodiment. In the rainwater abnormality detection system 10 of the first embodiment (see FIG. 1), the imaging conditions of the imaging device 200 may change due to the influence (disturbance) of external factors such as sunlight, which is external light, and the captured rainwater image may change. Therefore, the rainwater abnormality detection system 10B of the second embodiment is configured to cover the space surrounding the path from the imaging device 200 to the imaging area IA with a black light-shielding device 230 composed of a light-shielding plate 232 and a light-shielding curtain 234, and to illuminate the light-shielded space area with an illumination device 240 such as an LED illumination, so that the illuminance of the flow path portion corresponding to the imaging area IA is constant. In addition, in order to clarify the color of the rainwater flowing in the flow path portion corresponding to the imaging area IA, for example, a white plate WB is arranged on the flow path bottom of the gutter flow path 22, so that the surface of the flow path bottom of the flow path portion corresponding to the imaging area IA is white.

制御部110の画像取得部112は、白色板WBが配置された白色流路部分を流れる雨水の雨水画像を白色背景画像として取得する。 The image acquisition unit 112 of the control unit 110 acquires a rainwater image of rainwater flowing through the white flow path portion where the white plate WB is placed as a white background image.

制御部110の学習済みモデル134は、白色背景画像の入力に対して雨水の異常の状態を判定した情報を出力する白色背景用学習済みモデル134wであり、記憶部130に記憶されている学習済みモデルのファイル134fは、白色背景用学習済みモデル134wを構成するファイル134wfである。 The trained model 134 of the control unit 110 is a trained model 134w for a white background that outputs information determining an abnormal state of rainwater in response to an input of a white background image, and the trained model file 134f stored in the memory unit 130 is a file 134wf constituting the trained model 134w for a white background.

なお、白色背景用学習済みモデル134wは、上記の側溝流路22の撮像領域IAに対応する白色流路部分と同様の環境において撮像された模擬雨水画像を用いて、上記した学習済みモデル生成装置300(図3参照)によって生成可能である。 The trained model 134w for the white background can be generated by the trained model generating device 300 (see FIG. 3) described above using a simulated rainwater image captured in an environment similar to the white channel portion corresponding to the imaging area IA of the above-mentioned gutter channel 22.

第2実施形態では、外光などの外的容易による影響(外乱)を抑制して、雨水の異常の検知精度を向上させることが可能である。 In the second embodiment, it is possible to improve the accuracy of detecting abnormalities in rainwater by suppressing the influence (disturbance) of external factors such as external light.

C.第3実施形態:
図7は、第3実施形態の雨水異常検知システム10Cの構成例を示す模式図である。第2実施形態の雨水異常検知システム10B(図6参照)では、白色板WBを背景として撮像した白色背景画像によって雨水の異常を検知するので、白色塗料が混入した雨水のような白色系に着色された雨水についての異常を検知することは難しい。そこで、第3実施形態の雨水異常検知システム10Cは、第2実施形態の雨水異常検知システム10Bと同様に、遮光装置230、照明装置240及び側溝流路22の白色流路底部に配置された白色板WB、を備えるのに加えて、白色板WBに隣接して側溝流路22の着色流路底部に配置された黒色の着色板BBを備える構成としている。これにより、撮像装置200が撮像する雨水画像には、白色流路底部の白色流路部分に配置された白色板WBを背景とする白色背景画像と、着色流路底部の着色流路部分に配置された着色板BBを背景とする着色背景画像の両方が含まれる。
C. Third embodiment:
FIG. 7 is a schematic diagram showing a configuration example of the rainwater abnormality detection system 10C of the third embodiment. In the rainwater abnormality detection system 10B of the second embodiment (see FIG. 6), an abnormality in rainwater is detected by a white background image captured against the background of a white plate WB, so it is difficult to detect an abnormality in rainwater colored white, such as rainwater mixed with white paint. Therefore, the rainwater abnormality detection system 10C of the third embodiment is configured to include a shading device 230, a lighting device 240, and a white plate WB arranged at the bottom of the white channel of the side gutter channel 22, as in the rainwater abnormality detection system 10B of the second embodiment, and further includes a black colored plate BB arranged at the bottom of the colored channel of the side gutter channel 22 adjacent to the white plate WB. As a result, the rainwater image captured by the imaging device 200 includes both a white background image with the white plate WB arranged at the white channel part at the bottom of the white channel as the background, and a colored background image with the colored plate BB arranged at the colored channel part at the bottom of the colored channel as the background.

また、雨水異常検知装置100Cの制御部110は、記憶部130に記憶されたプログラム132Cを読み出して実行し、白色背景用学習済みモデルのファイル134wf及び着色背景用学習済みモデルのファイル134bfを読み出すことにより、画像取得部112C、白色背景用学習済みモデル134w及び着色背景用用学習済みモデル134bを用いて、雨水の異常を検知する検知部114C、及び、検知結果出力部116として機能する。 The control unit 110 of the rainwater anomaly detection device 100C also reads and executes the program 132C stored in the memory unit 130, and by reading the file 134wf of the trained model for the white background and the file 134bf of the trained model for the colored background, functions as a detection unit 114C that detects anomalies in rainwater and a detection result output unit 116 using the image acquisition unit 112C, the trained model for the white background 134w, and the trained model for the colored background 134b.

画像取得部112Cは、撮像装置200から撮像領域IAの雨水を撮像した雨水画像を取得するとともに、取得した雨水画像から、白色板WBを背景とする雨水画像である白色背景画像と、着色板BBを背景とする雨水画像である着色背景画像と、を抽出する。白色背景画像は白色背景用学習済みモデル134wに入力され、着色背景画像は着色背景用学習済みモデル134bに入力される。白色背景用学習済みモデル134wは、白色背景画像の入力に対して雨水の異常の程度の評価を出力する。着色背景用学習済みモデル134bは、着色背景画像の入力に対して雨水の異常の程度の評価を出力する。検知部114Cは、白色背景用学習済みモデル134wから出力される評価結果と、着色背景用学習済みモデル134bから出力される評価結果に基づいて、雨水の異常を検知する。具体的には、検知部114Cは、両方の評価結果が雨水の状態は正常であることを示している場合には、雨水の状態は正常と検知し、少なくとも一方の評価結果が雨水の状態は異常であることを示している場合には、雨水の状態は異常と検知する。 The image acquisition unit 112C acquires a rainwater image of rainwater in the imaging area IA from the imaging device 200, and extracts from the acquired rainwater image a white background image, which is a rainwater image with a white board WB as the background, and a colored background image, which is a rainwater image with a colored board BB as the background. The white background image is input to the trained model for white background 134w, and the colored background image is input to the trained model for colored background 134b. The trained model for white background 134w outputs an evaluation of the degree of abnormality of the rainwater for the input of the white background image. The trained model for colored background 134b outputs an evaluation of the degree of abnormality of the rainwater for the input of the colored background image. The detection unit 114C detects abnormalities in the rainwater based on the evaluation results output from the trained model for white background 134w and the evaluation results output from the trained model for colored background 134b. Specifically, if both evaluation results indicate that the rainwater condition is normal, the detection unit 114C detects that the rainwater condition is normal, and if at least one evaluation result indicates that the rainwater condition is abnormal, the detection unit 114C detects that the rainwater condition is abnormal.

なお、白色背景用学習済みモデル134w及び着色背景用学習済みモデル134bは、それぞれ、上記の側溝流路22の撮像領域IAに対応する白色流路部分及び着色流路部分と同様の環境において撮像された模擬雨水画像を用いて、上記した学習済みモデル生成装置300(図3参照)によって生成可能である。 The trained model for white background 134w and the trained model for colored background 134b can be generated by the trained model generating device 300 (see FIG. 3) described above using simulated rainwater images captured in an environment similar to the white channel portion and colored channel portion corresponding to the imaging area IA of the above-mentioned gutter channel 22, respectively.

第3実施形態では、白色板WBを背景として撮像された白色背景画像では検知することが難しく過検知の可能性が高くなるような白色系に着色された雨水の異常を、黒色の着色板BBを背景として撮像された着色背景画像で検知することができるので、検知精度を向上させることができる。 In the third embodiment, abnormalities in rainwater colored in a white color, which would be difficult to detect in a white background image captured against a white plate WB and would be prone to overdetection, can be detected in a colored background image captured against a black colored plate BB, thereby improving detection accuracy.

なお、上記実施形態では、黒色の着色板BBとして説明しているが、これに限定されるものではなく、白色板WBを背景とした白色画像では検知することが困難な色に着色された雨水を検知可能な画像とすることができれば、他の色の着色板、例えば、白色よりも輝度の低い灰色等の無彩色の着色板であってもよい。 In the above embodiment, the colored plate BB is described as black, but the present invention is not limited to this color. As long as it is possible to create an image that can detect rainwater colored in a color that is difficult to detect in a white image with the white plate WB as the background, the colored plate may be of another color, for example, an achromatic color such as gray that is less bright than white.

D.他の実施形態:
(D1)上記実施形態では、雨水の異常の程度の評価として雨水の状態が異常か否かを検知する場合を例に説明したが、これに限定されるものではない。雨水の異常の程度の評価として雨水の異常度を検知するものとしてもよい。この場合、学習済みモデルは、雨水画像の入力に対して雨水の異常度を出力するものとすればい。そして、この場合の学習済みモデルは、データセットとして、模擬雨水画像と、この模擬雨水画像に対応付けられた評価結果として異常度に関する情報と、を含むデータセットを複数収集することで教師データを取得し、取得した教師データを学習させて生成するようにすればよい。
D. Other embodiments:
(D1) In the above embodiment, the case where the state of rainwater is detected as an abnormality is described as an example to evaluate the degree of abnormality of rainwater, but the present invention is not limited to this. The degree of abnormality of rainwater may be detected as an evaluation of the degree of abnormality of rainwater. In this case, the trained model may output the degree of abnormality of rainwater in response to the input of a rainwater image. In this case, the trained model may acquire teacher data by collecting multiple datasets including simulated rainwater images and information on the degree of abnormality as an evaluation result associated with the simulated rainwater images, and generate the acquired teacher data by training.

(D2)また、上記実施形態では、雨水を排水の例として説明したが、これに限定されるものではなく、施設、例えば、排水処理場の各処理槽から排出される種々の排水にも適用可能である。また、上記実施形態では、排水に混入することで異常と誤認識され得る色である非異常要因色として雨水に混入する泥の色を例とした場合について説明したが、これに限定されるものではなく、繁殖した藻のように泥以外の物質が、排水に混入することで異常と誤認識され得る色、藻の場合には、緑~褐色、である種々の非異常要因色にも適用可能である。 (D2) In the above embodiment, rainwater is used as an example of wastewater, but the present invention is not limited to this and can be applied to various types of wastewater discharged from facilities, for example, each treatment tank at a wastewater treatment plant. In the above embodiment, the color of mud mixed into rainwater is used as an example of a non-abnormal factor color that can be mistakenly recognized as an abnormality when mixed into wastewater, but the present invention is not limited to this and can be applied to various non-abnormal factor colors that can be mistakenly recognized as an abnormality when substances other than mud, such as proliferated algae, are mixed into wastewater, in the case of algae, and range from green to brown.

本開示は、上述の実施形態に限られるものではなく、その趣旨を逸脱しない範囲において種々の構成で実現することができる。例えば、発明の概要の欄に記載した各形態中の技術的特徴に対応する実施形態の技術的特徴は、上述の課題の一部又は全部を解決するために、あるいは、上述の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。 The present disclosure is not limited to the above-described embodiments, and can be realized in various configurations without departing from the spirit of the present disclosure. For example, the technical features of the embodiments corresponding to the technical features in each form described in the Summary of the Invention column can be replaced or combined as appropriate to solve some or all of the above-described problems or to achieve some or all of the above-described effects. Furthermore, if a technical feature is not described as essential in this specification, it can be deleted as appropriate.

10…雨水異常検知システム、10B…雨水異常検知システム、10C…雨水異常検知システム、20…雨水側溝、22…雨水槽、24…流入口、100…雨水異常検知装置、100C…雨水異常検知装置、110…制御部、112…画像取得部、112C…画像取得部、114…検知部、114C…検知部、116…検知結果出力部、130…記憶部、132…プログラム、132C…プログラム、134…学習済みモデル、134f…学習済みモデルのファイル、134b…着色背景用学習済みモデル、134bf…着色背景用学習済みモデルのファイル、134w…白色背景用学習済みモデル、134wf…白色背景用学習済みモデルのファイル、200…撮像装置、230…遮光装置、232…遮光板、234…遮光幕、240…照明装置、300…学習済みモデル生成装置、310…制御部、312…教師データ取得部、314…学習部、330…記憶部、332…プログラム、334…教師データ、RW…側溝流路、IA…撮像領域、BB…着色板、WB…白色板 10...Rainwater abnormality detection system, 10B...Rainwater abnormality detection system, 10C...Rainwater abnormality detection system, 20...Rainwater gutter, 22...Rainwater tank, 24...Inlet, 100...Rainwater abnormality detection device, 100C...Rainwater abnormality detection device, 110...Control unit, 112...Image acquisition unit, 112C...Image acquisition unit, 114...Detection unit, 114C...Detection unit, 116...Detection result output unit, 130...Memory unit, 132...Program, 132C...Program, 134...Trained model, 134f...Trained model file, 134b...Colored background trained model for, 134bf...file of trained model for colored background, 134w...trained model for white background, 134wf...file of trained model for white background, 200...imaging device, 230...shading device, 232...shading plate, 234...shading screen, 240...illumination device, 300...trained model generating device, 310...control unit, 312...teaching data acquisition unit, 314...learning unit, 330...storage unit, 332...program, 334...teaching data, RW...side drain channel, IA...imaging area, BB...colored plate, WB...white plate

Claims (7)

色彩として現れる、施設からの排水の異常を検知する排水異常検知装置であって、
排水の撮像画像である排水画像を取得する画像取得部と、
排水の異常を示す異常要因色の成分と、排水に混入することで異常と誤認識され得る色である非異常要因色の成分とを混合して得られる複数の模擬排水であって、前記非異常要因色の成分の濃度が異なることでそれぞれ異なる色彩が現れている複数の模擬排水の撮像画像を含む複数の模擬排水画像と、各前記模擬排水画像の異常の程度の評価とを対応付ける対応情報を教師データとして用いた学習により生成され、排水画像を入力とし、異常の程度の評価を出力とする学習済みモデルを用いて、前記施設からの排水の異常を検知し、その結果を出力する検知部と、
を備える、排水異常検知装置。
A drainage abnormality detection device that detects abnormalities in drainage from a facility, which appear as colors,
An image acquisition unit that acquires a drainage image, which is a captured image of drainage;
a detection unit that detects abnormalities in the drainage from the facility using a trained model that receives an input of a drainage image and outputs an evaluation of the degree of abnormality, and generates a learning result using correspondence information that corresponds a plurality of simulated drainage images including captured images of the simulated drainage obtained by mixing an abnormality factor color component that indicates an abnormality in the drainage with a non-abnormality factor color component that is a color that may be mistakenly recognized as an abnormality when mixed into the drainage, the simulated drainage images including captured images of the simulated drainage appearing in different colors due to different concentrations of the non-abnormality factor color components, and an evaluation of the degree of abnormality of each of the simulated drainage images; and
A drainage abnormality detection device comprising:
請求項1に記載の排水異常検知装置であって、
前記画像取得部は、外光が遮断された照明下において、白色の底部を有する流路を流れる排水を撮像することによって得られる白色背景画像を、前記排水画像として取得する、
排水異常検知装置。
The drainage abnormality detection device according to claim 1,
The image acquisition unit acquires, as the drainage image, a white background image obtained by imaging drainage flowing through a flow path having a white bottom under lighting that blocks external light.
Drainage abnormality detection device.
請求項1に記載の排水異常検知装置であって、
前記画像取得部は、外光が遮光された照明下において、白色の底部を有する流路を流れる排水を撮像することによって得られる白色背景画像、及び、白色以外の色に着色された底部を有する流路を流れる排水を撮像することによって得られる着色背景画像を、前記排水画像として取得し、
前記検知部は、前記画像取得部で取得される白色背景画像に対しては、前記学習済みモデルとして、白色背景画像を入力とし、異常の程度の評価を出力とする白色背景用学習済みモデルを用い、前記画像取得部で取得される着色背景画像に対しては、前記学習済みモデルとして、着色背景画像を入力とし、異常の程度の評価を出力とする着色背景用学習済みモデルを用いて、前記施設からの排水の異常を検知する、
排水異常検知装置。
The drainage abnormality detection device according to claim 1,
The image acquisition unit acquires, as the drainage image, a white background image obtained by imaging the drainage flowing through a flow path having a white bottom under lighting that blocks external light, and a colored background image obtained by imaging the drainage flowing through a flow path having a bottom colored in a color other than white;
The detection unit detects an abnormality in the wastewater from the facility by using, as the trained model, a trained model for a white background, which receives a white background image as an input and outputs an evaluation of the degree of abnormality, for the white background image acquired by the image acquisition unit, and by using, as the trained model, a trained model for a colored background, which receives a colored background image as an input and outputs an evaluation of the degree of abnormality, for the colored background image acquired by the image acquisition unit.
Drainage abnormality detection device.
請求項1から請求項3のいずれか一項に記載の排水異常検知装置であって、
前記排水は雨水であり、
前記非異常要因色は、前記雨水に混入する泥の色である、
排水異常検知装置。
The drainage abnormality detection device according to any one of claims 1 to 3,
The drainage is rainwater,
The non-abnormal factor color is the color of mud mixed in the rainwater.
Drainage abnormality detection device.
色彩として現れる、施設からの排水の異常を検知するために用いられる学習済みモデルを生成する学習済みモデル生成装置であって、
排水の異常を示す異常要因色の成分と、排水に混入することで異常と誤認識され得る色である非異常要因色の成分とを混合して得られる複数の模擬排水であって、前記非異常要因色の成分の濃度が異なることでそれぞれ異なる色彩が現れている複数の模擬排水の撮像画像を含む複数の模擬排水画像と、各前記模擬排水画像の異常の程度の評価とを対応付ける対応情報を教師データとして取得する教師データ取得部と、
前記教師データを用いた学習により、排水画像を入力とし、異常の程度の評価を出力とする学習済みモデルを生成する学習部と、
を備える、学習済みモデル生成装置。
A trained model generation device that generates a trained model used to detect an abnormality in wastewater from a facility, the abnormality appearing as a color,
a teacher data acquisition unit that acquires, as teacher data, correspondence information that associates a plurality of simulated drainage images including captured images of the plurality of simulated drainages obtained by mixing an abnormality factor color component that indicates an abnormality in the drainage with a non-abnormality factor color component that is a color that may be mistakenly recognized as an abnormality when mixed into the drainage, each of which appears in a different color due to a different concentration of the non-abnormality factor color component, with an evaluation of the degree of abnormality of each of the simulated drainage images;
A learning unit that generates a trained model that receives a drainage image as an input and outputs an evaluation of the degree of abnormality by learning using the teacher data;
A trained model generation device comprising:
色彩として現れる、施設からの排水の異常を検知する排水異常検知方法であって、
排水の撮像画像である排水画像を取得し、
排水の異常を示す異常要因色の成分と、排水に混入することで異常と誤認識され得る色である非異常要因色の成分とを混合して得られる複数の模擬排水であって、前記非異常要因色の成分の濃度が異なることでそれぞれ異なる色彩が現れている複数の模擬排水の撮像画像を含む複数の模擬排水画像と、各前記模擬排水画像の異常の程度の評価とを対応付ける対応情報を教師データとして用いた学習により生成され、排水画像を入力とし、異常の程度の評価を出力とする学習済みモデルを用いて、前記施設からの排水の異常を検知する、
排水異常検知方法。
A method for detecting an abnormality in drainage from a facility, the abnormality being manifested as a color, comprising:
A drainage image is obtained, which is an image of the drainage.
A plurality of simulated wastewater images including images of the simulated wastewater obtained by mixing an abnormality factor color component indicating an abnormality in the wastewater with a non-abnormality factor color component which is a color that may be mistakenly recognized as an abnormality if mixed into the wastewater, each of which appears in a different color due to a different concentration of the non-abnormality factor color component , are generated by learning using correspondence information that associates the simulated wastewater images with an evaluation of the degree of abnormality as training data, and an abnormality in the wastewater from the facility is detected using a trained model that takes the wastewater images as input and outputs an evaluation of the degree of abnormality.
A method for detecting drainage abnormalities.
色彩として現れる、施設からの排水の異常を検知するために用いられる学習済みモデルを生成する学習済みモデル生成方法であって、
排水の異常を示す異常要因色の成分と、排水に混入することで異常と誤認識され得る色である非異常要因色の成分とを混合して得られる複数の模擬排水であって、前記非異常要因色の成分の濃度が異なることでそれぞれ異なる色彩が現れている複数の模擬排水の撮像画像を含む複数の模擬排水画像と、各前記模擬排水画像の異常の程度の評価とを対応付ける対応情報を教師データとして取得し、
前記教師データを用いた学習により、排水画像を入力とし、異常の程度の評価を出力とする学習済みモデルを生成する、
学習済みモデル生成方法。
A trained model generation method for generating a trained model used to detect an abnormality in wastewater from a facility, which appears as a color, comprising:
A plurality of simulated drainage images including images of the simulated drainage obtained by mixing an abnormality factor color component indicating an abnormality in the drainage with a non-abnormality factor color component which is a color that may be mistakenly recognized as an abnormality when mixed into the drainage, each of which appears in a different color due to a different concentration of the non-abnormality factor color component , are obtained as teacher data, and correspondence information that corresponds the evaluation of the degree of abnormality of each of the simulated drainage images is obtained ;
A trained model is generated by training using the teacher data, the trained model inputting a drainage image and outputting an evaluation of the degree of abnormality.
How to generate trained models.
JP2021150736A 2021-09-16 2021-09-16 Drainage abnormality detection device, trained model generation device, drainage abnormality detection method, and trained model generation method Active JP7632198B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021150736A JP7632198B2 (en) 2021-09-16 2021-09-16 Drainage abnormality detection device, trained model generation device, drainage abnormality detection method, and trained model generation method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021150736A JP7632198B2 (en) 2021-09-16 2021-09-16 Drainage abnormality detection device, trained model generation device, drainage abnormality detection method, and trained model generation method

Publications (2)

Publication Number Publication Date
JP2023043237A JP2023043237A (en) 2023-03-29
JP7632198B2 true JP7632198B2 (en) 2025-02-19

Family

ID=85725293

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021150736A Active JP7632198B2 (en) 2021-09-16 2021-09-16 Drainage abnormality detection device, trained model generation device, drainage abnormality detection method, and trained model generation method

Country Status (1)

Country Link
JP (1) JP7632198B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009145092A (en) 2007-12-12 2009-07-02 Tobishima Corp Groundwater flow and turbidity measurement device
JP2019086427A (en) 2017-11-08 2019-06-06 住友重機械エンバイロメント株式会社 Water quality monitoring system
JP2020125618A (en) 2019-02-04 2020-08-20 東京電力ホールディングス株式会社 Information processing method, program, intake control system, and method of generating learned model
JP2020164235A (en) 2019-03-29 2020-10-08 アクアス株式会社 Underground infiltration prevention equipment

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2539179B2 (en) * 1994-09-14 1996-10-02 株式会社日立製作所 Device for monitoring substances suspended in water

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009145092A (en) 2007-12-12 2009-07-02 Tobishima Corp Groundwater flow and turbidity measurement device
JP2019086427A (en) 2017-11-08 2019-06-06 住友重機械エンバイロメント株式会社 Water quality monitoring system
JP2020125618A (en) 2019-02-04 2020-08-20 東京電力ホールディングス株式会社 Information processing method, program, intake control system, and method of generating learned model
JP2020164235A (en) 2019-03-29 2020-10-08 アクアス株式会社 Underground infiltration prevention equipment

Also Published As

Publication number Publication date
JP2023043237A (en) 2023-03-29

Similar Documents

Publication Publication Date Title
CN110349145B (en) Defect detection method, defect detection device, electronic equipment and storage medium
Mertens et al. Dirt detection on brown eggs by means of color computer vision
US20200356820A1 (en) Speckle contrast analysis using machine learning for visualizing flow
US5774177A (en) Textile fabric inspection system
CN101426150B (en) Video image quality evaluation method and system
Brusa et al. Increasing the precision of canopy closure estimates from hemispherical photography: Blue channel analysis and under-exposure
Arivazhagan et al. External and internal defect detection of egg using machine vision
RU2008117397A (en) METHOD AND APPARATUS FOR DETERMINING THE CHARACTER OF SKIN DEFECTS AND METHOD FOR ESTIMATING EFFECT OF COSMETIC AGENT AGAINST AGING OF SKIN
Gebejes et al. Hyperspectral imaging for identification of irregular-shaped microplastics in water
CN114813593A (en) Method for detecting total acid content of fermented grains based on hyperspectral imaging technology
CN116542963B (en) A float glass defect detection system and detection method based on machine learning
CN109060842A (en) Citrus detection method of surface flaw, computer program based on surface fitting correction
CN108844957A (en) A kind of tobacco leaf oil new detecting method based on machine vision
Chopin et al. Land-based crop phenotyping by image analysis: consistent canopy characterization from inconsistent field illumination
CN110321944A (en) A kind of construction method of the deep neural network model based on contact net image quality evaluation
Zhang et al. Prediction model of iron reverse flotation tailings grade based on multi-feature fusion
CN120894286A (en) A Method for Surface Detection of Foamed Silicone Rubber Based on Image Visual Recognition
JP7632198B2 (en) Drainage abnormality detection device, trained model generation device, drainage abnormality detection method, and trained model generation method
JP2002330336A5 (en)
Agaian et al. A new method for judging thermal image quality with applications
Wyeth et al. Videograms: a method for repeatable unbiased quantitative behavioral analysis without scoring or tracking
US10453189B2 (en) Process and device for direct measurements of plant stomata
Garcias-Bonet et al. Coral-CAT: A semi-automatic coral color analysis tool
JP7557195B2 (en) Highly intelligent inspection system for ship wall inspection
CN116485766B (en) A method for detecting and counting imperfect grains based on improved YOLOX

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240214

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241029

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241211

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250107

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250120

R150 Certificate of patent or registration of utility model

Ref document number: 7632198

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150