Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7691063B2 - Smoke detection devices - Google Patents
[go: Go Back, main page]

JP7691063B2 - Smoke detection devices - Google Patents

Smoke detection devices Download PDF

Info

Publication number
JP7691063B2
JP7691063B2 JP2021092095A JP2021092095A JP7691063B2 JP 7691063 B2 JP7691063 B2 JP 7691063B2 JP 2021092095 A JP2021092095 A JP 2021092095A JP 2021092095 A JP2021092095 A JP 2021092095A JP 7691063 B2 JP7691063 B2 JP 7691063B2
Authority
JP
Japan
Prior art keywords
smoke
image
pixel
ema
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021092095A
Other languages
Japanese (ja)
Other versions
JP2022184321A (en
Inventor
賢治 寺田
那留 岩藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nohmi Bosai Ltd
University of Tokushima NUC
Original Assignee
Nohmi Bosai Ltd
University of Tokushima NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nohmi Bosai Ltd, University of Tokushima NUC filed Critical Nohmi Bosai Ltd
Priority to JP2021092095A priority Critical patent/JP7691063B2/en
Publication of JP2022184321A publication Critical patent/JP2022184321A/en
Application granted granted Critical
Publication of JP7691063B2 publication Critical patent/JP7691063B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Analysis (AREA)
  • Fire-Detection Mechanisms (AREA)

Description

本開示は、監視カメラにより撮像された画像に対して画像処理を施すことにより、煙の発生を検出する技術に関する。 This disclosure relates to a technology for detecting the occurrence of smoke by applying image processing to images captured by a surveillance camera.

画像処理技術を応用し、監視カメラが撮像した監視対象領域の中から、煙の領域だけを抽出できる従来装置がある(例えば、特許文献1参照)。このような従来装置は、監視カメラにより撮像された画像に対して画像処理を施すことで、煙に起因した特徴量を抽出し、煙が発生した状態を、定常状態とは異なる異常状態として検出している。 There are conventional devices that use image processing technology to extract only the smoke areas from within a monitored area captured by a surveillance camera (see, for example, Patent Document 1). Such conventional devices extract features caused by smoke by applying image processing to the image captured by the surveillance camera, and detect a state in which smoke has been generated as an abnormal state that differs from a steady state.

特開2010-97265号公報JP 2010-97265 A

しかしながら、従来技術には、以下のような課題がある。
画像処理技術を応用した従来の煙検出手法では、複数の特徴量による多次元特徴空間上で、教師データから学習した識別境界に基づき、「煙」と「煙以外」とを判別することで、煙の検出精度の向上を図っている。
However, the conventional techniques have the following problems.
Conventional smoke detection methods that apply image processing technology aim to improve the accuracy of smoke detection by distinguishing between "smoke" and "non-smoke" based on a discrimination boundary learned from training data in a multidimensional feature space consisting of multiple feature values.

しかしながら、従来の煙検出手法に用いられている特徴量の種類としては、煙特有の輝度の揺らぎを評価するものが不足している。例えば、照明あるいは太陽光による輝度変化、人が通過したことによる輝度変化等を、煙として誤認識しやすいといった問題があった。従って、煙特有の輝度の揺らぎに着目した特徴量を用いて、煙を誤認識してしまうことを抑制することが望まれている。 However, the types of features used in conventional smoke detection methods are lacking in those that evaluate the luminance fluctuations that are characteristic of smoke. For example, there is a problem in that luminance changes due to lighting or sunlight, or luminance changes due to a person passing by, are easily mistaken for smoke. Therefore, it is desirable to use features that focus on the luminance fluctuations that are characteristic of smoke, in order to prevent erroneous recognition of smoke.

本開示は、前記のような課題を解決するためになされたものであり、煙特有の輝度の揺らぎに着目した特徴量を用いて監視対象領域内に発生した煙を検出し、煙を誤認識してしまうことを抑制することのできる煙検出装置を得ることを目的とする。 The present disclosure has been made to solve the problems described above, and aims to provide a smoke detection device that can detect smoke occurring within a monitored area using features focusing on the luminance fluctuations that are characteristic of smoke, and can reduce false recognition of smoke.

本開示に係る煙検出装置は、監視カメラにより撮像された監視対象画像内の煙候補領域に対して画像処理を施すことにより、煙の発生を検出する煙検出装置であって、監視カメラにより撮像された監視対象画像について、煙候補領域における各画素の輝度値を用いて同時生起行列を算出し、算出した同時生起行列に基づきテクスチャ特徴量を算出する特徴量抽出部と、特徴量抽出部により算出されたテクスチャ特徴量に基づき監視対象画像内の煙候補領域において煙が発生したか否かを判断する煙発生検出部とを備える煙検出装置であって、監視カメラにより撮像された監視対象画像を、あらかじめ決められたサンプリング周期ごとに時系列監視対象画像として記憶する画像メモリをさらに備え、特徴量抽出部は、時系列監視対象画像に含まれる時系列的に隣接した2以上の監視対象画像内の煙候補領域おける各画素の輝度値を用いて、1枚の画像における注目画素と注目画素に対する隣接画素との隣接関係を考慮するとともに、時系列的に前後のフレームにおける注目画素と同じ位置の画素に対する隣接関係をさらに考慮し、同時生起行列を算出するものである。 The smoke detection device according to the present disclosure is a smoke detection device that detects the occurrence of smoke by applying image processing to a smoke candidate region in a monitoring target image captured by a surveillance camera, and includes a feature extraction unit that calculates a co-occurrence matrix for the monitoring target image captured by the surveillance camera using the luminance values of each pixel in the smoke candidate region and calculates a texture feature based on the calculated co-occurrence matrix, and a smoke occurrence detection unit that determines whether smoke has occurred in the smoke candidate region in the monitoring target image based on the texture feature calculated by the feature extraction unit, and further includes an image memory that stores the monitoring target images captured by the surveillance camera as time-series monitoring target images at a predetermined sampling period, and the feature extraction unit calculates the co-occurrence matrix using the luminance values of each pixel in the smoke candidate region in two or more chronologically adjacent monitoring target images included in the time-series monitoring target images, taking into account the adjacency relationship between a pixel of interest in one image and adjacent pixels relative to the pixel of interest, and further taking into account the adjacency relationship with pixels at the same position as the pixel of interest in previous and subsequent frames in the chronological order .

また、本開示に係る煙検出装置は、監視カメラにより撮像された監視対象画像内の煙候補領域に対して画像処理を施すことにより、煙の発生を検出する煙検出装置であって、監視時に、あらかじめ決められたサンプリング周期ごとに監視カメラにより撮像された監視対象画像を時系列監視対象画像として記憶する画像メモリと、それぞれの画素に関して、時系列監視対象画像を用いて指数移動平均を行った結果である画素からなるEMA画像を順次算出し、それぞれの画素について、EMA画像を算出したときあるいは次のサンプリング周期において撮像された監視対象画像の輝度値と、EMA画像の輝度値とを比較して、その大小により2値画像を生成する前処理部と、前処理部で煙候補領域内において生成された2値画像に基づき監視対象画像内の煙候補領域において煙が発生したか否かを判断する煙発生検出部とを備えるものである。 The smoke detection device according to the present disclosure is a smoke detection device that detects the occurrence of smoke by performing image processing on a smoke candidate region in a monitoring target image captured by a surveillance camera, and includes an image memory that stores the monitoring target image captured by the surveillance camera at each predetermined sampling period during surveillance as a time-series monitoring target image, a pre-processing unit that sequentially calculates an EMA image consisting of pixels that are the result of performing an exponential moving average using the time-series monitoring target image for each pixel, and compares the luminance value of the EMA image with the luminance value of the monitoring target image captured when the EMA image was calculated or in the next sampling period, for each pixel, to generate a binary image based on the magnitude of the luminance value, and a smoke occurrence detection unit that determines whether smoke has occurred in the smoke candidate region in the monitoring target image based on the binary image generated in the pre-processing unit within the smoke candidate region.

本開示によれば、煙特有の輝度の揺らぎに着目した特徴量を用いて監視対象領域内に発生した煙を検出し、煙を誤認識してしまうことを抑制することのできる煙検出装置を得ることができる。 According to the present disclosure, it is possible to obtain a smoke detection device that can detect smoke occurring within a monitored area using features that focus on the brightness fluctuations that are characteristic of smoke, and can reduce the false recognition of smoke.

本開示の実施の形態1における煙検出装置の構成図である。1 is a configuration diagram of a smoke detection device according to a first embodiment of the present disclosure. 本開示の実施の形態1における移動物体の種類によるEMA差分画像の違いを説明するための図である。11A and 11B are diagrams for explaining differences in EMA difference images depending on the type of moving object in the first embodiment of the present disclosure. 本開示の実施の形態1における特徴量抽出部によって、1枚の画像入力からGLCMを作成する手法を説明するためのイメージ図である。FIG. 11 is an image diagram for explaining a technique for creating a GLCM from a single image input by a feature extraction unit according to the first embodiment of the present disclosure. 本開示の実施の形態1における特徴量抽出部によって、時系列に並んだ複数枚の画像入力からGLCMを作成する手法を説明するためのイメージ図である。FIG. 11 is an image diagram for explaining a method for creating a GLCM from multiple image inputs arranged in chronological order by a feature extraction unit according to the first embodiment of the present disclosure. 本開示の実施の形態1において、煙シーンと人が動くシーンのそれぞれに対してエントロピーを求めた際の高低を可視化した画像である。11 is an image that visualizes the highs and lows of entropy calculated for a smoky scene and a scene with moving people in the first embodiment of the present disclosure. 本開示の実施の形態1における煙領域と非煙領域における、エントロピーの確率密度分布を示した図である。1 is a diagram showing the probability density distribution of entropy in a smoke region and a non-smoke region in embodiment 1 of the present disclosure. FIG. 本開示の実施の形態1において、煙シーンと人が動くシーンのそれぞれに対して不均一性を求めた際の高低を可視化した画像である。11 is an image that visualizes the highs and lows when non-uniformity is calculated for a smoky scene and a scene in which people are moving in the first embodiment of the present disclosure. 本開示の実施の形態1における煙領域と非煙領域における、不均一性の確率密度分布を示した図である。11 is a diagram showing a probability density distribution of non-uniformity in a smoke region and a non-smoke region in the first embodiment of the present disclosure. FIG. 本開示の実施の形態1において、煙シーンと人が動くシーンのそれぞれに対してエネルギーを求めた際の高低を可視化した画像である。11 is an image that visualizes the highs and lows of energy obtained for a smoky scene and a scene in which people are moving in the first embodiment of the present disclosure. 本開示の実施の形態1における煙領域と非煙領域における、エネルギーの確率密度分布を示した図である。1 is a diagram showing the energy probability density distribution in a smoke region and a non-smoke region in embodiment 1 of the present disclosure. FIG.

以下、本開示の煙検出装置の好適な実施の形態につき、図面を用いて説明する。本開示は、GLCM(Gray Level Co-occurrence Matrix:同時生起行列)、EMA(Exponential Moving Average:指数移動平均)、あるいはGLCMとEMAとの組み合わせを用いて、煙特有の輝度の揺らぎに着目した特徴量を算出することを技術的特徴としている。 The following describes a preferred embodiment of the smoke detection device of the present disclosure with reference to the drawings. The present disclosure has a technical feature of calculating features that focus on the luminance fluctuations that are characteristic of smoke using GLCM (Gray Level Co-occurrence Matrix), EMA (Exponential Moving Average), or a combination of GLCM and EMA.

そこで、GLCMとEMAとの組み合わせに基づく煙検出手法についてまず説明し、その後、GLCM単独、あるいはEMA単独に基づく煙検出手法について説明する。 Therefore, we will first explain a smoke detection method based on a combination of GLCM and EMA, and then explain smoke detection methods based on GLCM alone or EMA alone.

実施の形態1.
図1は、本開示の実施の形態1における煙検出装置の構成図である。本実施の形態1における煙検出装置は、画像メモリ10および検出処理部20を備えている。画像メモリ10は、撮像素子に相当する監視カメラ1によりあらかじめ決められたサンプリング周期ごとに撮像された監視対象画像を、過去一定期間分、時系列監視対象画像として記憶できるように、複数フレーム分の画像メモリとして構成されている。1フレーム分の画像は、複数の画素から構成される。
Embodiment 1.
1 is a configuration diagram of a smoke detection device according to a first embodiment of the present disclosure. The smoke detection device according to the first embodiment includes an image memory 10 and a detection processing unit 20. The image memory 10 is configured as an image memory for a plurality of frames so that images of a monitoring target captured at a predetermined sampling period by a monitoring camera 1 corresponding to an image sensor can be stored as time-series monitoring target images for a certain period of time in the past. One frame of an image is composed of a plurality of pixels.

また、検出処理部20は、前処理部21、特徴量抽出部22、および煙発生検出部23を含んで構成されており、監視カメラ1により撮像された監視対象画像内の煙候補領域に対して画像処理を施すことにより、煙の発生を検出する。まず始めに、検出処理部20の一連処理の概要について説明する。 The detection processing unit 20 is also configured to include a preprocessing unit 21, a feature extraction unit 22, and a smoke generation detection unit 23, and detects the generation of smoke by performing image processing on a smoke candidate area in the monitored image captured by the surveillance camera 1. First, an overview of the series of processes performed by the detection processing unit 20 will be described.

前処理部21は、時系列監視対象画像を用いて、指数移動平均を行った結果である画素からなるEMA画像を順次算出する。さらに、前処理部21は、それぞれの画素について、EMA画像を算出したときのサンプリング周期に撮像された監視対象画像の輝度値あるいは次のサンプリング周期に撮像された監視対象画像の輝度値と、EMA画像の輝度値とを比較して、その大小により2値画像を生成する。 The pre-processing unit 21 sequentially calculates EMA images consisting of pixels that are the result of performing exponential moving averages using the time-series images of the monitored object. Furthermore, for each pixel, the pre-processing unit 21 compares the brightness value of the monitored object image captured in the sampling period when the EMA image was calculated or the brightness value of the monitored object image captured in the next sampling period with the brightness value of the EMA image, and generates a binary image based on the magnitude of the comparison.

特徴量抽出部22は、前処理部21によって煙候補領域内において順次生成された2値画像における各画素の2値を用いて同時生起行列を算出する。さらに、特徴量抽出部22は、算出した同時生起行列に対して煙の存在の有無を識別するための統計処理を施すことで、煙候補領域内におけるテクスチャ特徴量を算出する。 The feature extraction unit 22 calculates a co-occurrence matrix using the binary values of each pixel in the binary images sequentially generated within the smoke candidate region by the pre-processing unit 21. Furthermore, the feature extraction unit 22 calculates texture features within the smoke candidate region by performing statistical processing on the calculated co-occurrence matrix to identify the presence or absence of smoke.

煙発生検出部23は、特徴量抽出部22で算出されたテクスチャ特徴量に基づいて、監視対象画像内の煙候補領域において煙が発生したか否かを判断する。 The smoke generation detection unit 23 determines whether smoke has been generated in a smoke candidate region in the monitored image based on the texture features calculated by the feature extraction unit 22.

次に、煙特有の輝度の揺らぎに着目したテクスチャ特徴量を求める前段階として、EMA差分画像を求める演算処理、およびGLCMを求める演算処理、のそれぞれについて詳細に説明する。 Next, we will provide a detailed explanation of the computational process to obtain the EMA difference image and the computational process to obtain the GLCM, which are preliminary steps to obtaining texture features that focus on the luminance fluctuations that are unique to smoke.

<EMA差分画像について>
時系列的な情報を持たせた特徴量を算出するための前処理として、前処理部21によってEMA差分画像の算出処理が行われる。まず始めに、EMA画像の作成方法について説明し、次に、EMA差分画像の作成方法について説明する。
(1)EMA画像の作成方法
前処理部21は、一連の時系列画像に相当する時系列監視対象画像のそれぞれの画像内の各輝度について、時系列方向に指数移動平均(以下、EMAと称す)を算出する。本開示において、EMAを算出した各値を輝度値とした画像のことをEMA画像と定義する。
<About EMA difference images>
As a preprocessing for calculating a feature amount having time-series information, a calculation process of an EMA difference image is performed by the preprocessing unit 21. First, a method for creating an EMA image will be described, and then a method for creating an EMA difference image will be described.
(1) Method for Creating EMA Image The preprocessing unit 21 calculates an exponential moving average (hereinafter referred to as EMA) in the time series direction for each luminance in each image of the time series monitoring target image corresponding to a series of time series images. In this disclosure, an image in which each calculated EMA value is set as a luminance value is defined as an EMA image.

EMA画像は、時間経過によって逐次更新され続ける画像であり、監視対象画像に変化が起こらない場合には、EMA画像上でも変化が起こらない。一方、移動物体が視野内を横切るような動きをする場合には、EMA画像上において、移動物体の移動軌跡が残像として残る。また、画面全体の照度が徐々に変化する場合には、EMA画像は、逐次適応して、徐々に輝度が変化する。 The EMA image is an image that is updated sequentially over time, and if there is no change in the monitored image, there will be no change in the EMA image either. On the other hand, if a moving object moves across the field of view, the trajectory of the moving object's movement will remain as an afterimage on the EMA image. Also, if the illuminance of the entire screen changes gradually, the EMA image will adapt sequentially and its brightness will change gradually.

EMAの算出式は、それぞれの画素に関して、下式(1)として示される。
=α×Y+(1-α)×St-1 (1)
ただし、S:今回のサンプリング周期である時刻tにおける指数移動平均
t-1:前回のサンプリング周期である時刻t-1における指数移動平均
:時刻tにおいて前記監視カメラにより撮像された監視対象画像の輝度値
α:0~1の間の値として設定される平滑化係数
The calculation formula for EMA for each pixel is shown as the following formula (1).
S t = α×Y t + (1-α)×S t-1 (1)
where S t is the exponential moving average at time t, which is the current sampling period.
S t-1 : exponential moving average at time t-1, which is the previous sampling period
Y t : The brightness value of the image of the target captured by the surveillance camera at time t
α: A smoothing coefficient set as a value between 0 and 1

監視対象の環境、外乱となる要素の影響による輝度変化のスピード等に応じて、平滑化係数αの値を適切に設定することで、時間経過によって逐次更新され続けるEMA画像において、現在のサンプリング時刻におけるEMAの値を求める際の、1回前のサンプリング時刻におけるEMAの値の重み付けの度合を変更できる。 By appropriately setting the value of the smoothing coefficient α according to the monitored environment, the speed of brightness change due to the influence of disturbing elements, etc., it is possible to change the degree of weighting of the EMA value at the previous sampling time when calculating the EMA value at the current sampling time in an EMA image that is continuously updated over time.

(2)EMA差分画像の作成
次に、前処理部21は、それぞれの画素について、EMA画像を算出したときにサンプリング周期あるいは次のサンプリング周期において撮像された監視対象画像の輝度値である第1の輝度値と、EMA画像の輝度値である第2の輝度値とを比較する。そして、前処理部21は、第1の輝度値と第2の輝度値の大小関係に応じて、EMA差分画像の作成を行う。
(2) Creation of EMA Difference Image Next, the pre-processing unit 21 compares, for each pixel, a first luminance value, which is the luminance value of the monitored image captured in the sampling period when the EMA image was calculated or in the next sampling period, with a second luminance value, which is the luminance value of the EMA image. Then, the pre-processing unit 21 creates an EMA difference image according to the magnitude relationship between the first luminance value and the second luminance value.

一例として、前処理部21は、それぞれの画素に関して、第1の輝度値が第2の輝度値よりも高い場合には白とし、第1の輝度値が第2の輝度値以下の場合には黒とする2値化処理を行うことで、EMA差分画像を作成する。ここで、第1の輝度値および第2の輝度値のそれぞれを0~255の256階調とすると、白は255、黒は0に相当する。 As an example, the pre-processing unit 21 performs binarization processing on each pixel to make it white if the first luminance value is higher than the second luminance value, and to make it black if the first luminance value is equal to or lower than the second luminance value, thereby creating an EMA difference image. Here, if the first luminance value and the second luminance value each have 256 gradations from 0 to 255, then white corresponds to 255 and black corresponds to 0.

なお、ここでは、説明を簡略化するために、EMA差分画像を2値画像としているが、第1の輝度値と第2の輝度値の差分を複数段階に分けた3値以上の値のグレースケール画像としてEMA差分画像を作成することも可能である。 Note that, for the sake of simplicity, the EMA difference image is a binary image here, but it is also possible to create an EMA difference image as a grayscale image with three or more values in which the difference between the first luminance value and the second luminance value is divided into multiple levels.

このようにして作成されたEMA差分画像の特徴について説明する。図2は、本開示の実施の形態1における移動物体の種類によるEMA差分画像の違いを説明するための図である。図2(a)は、監視対象領域内において動きがないシーンに対して作成されたEMA差分画像を示しており、図2(b)は、監視対象領域内において煙発生領域が含まれている場合に作成されたEMA差分画像を示しており、図2(c)は、監視対象領域内において移動物体である人が含まれている場合に作成されたEMA差分画像を示している。 The characteristics of the EMA difference image created in this manner will be described. FIG. 2 is a diagram for explaining the difference in EMA difference images depending on the type of moving object in embodiment 1 of the present disclosure. FIG. 2(a) shows an EMA difference image created for a scene in which there is no movement within the monitored area, FIG. 2(b) shows an EMA difference image created when a smoke generation area is included within the monitored area, and FIG. 2(c) shows an EMA difference image created when a person, which is a moving object, is included within the monitored area.

EMA差分画像は、監視対象領域内における被写体の動き方、表面のテクスチャ変化の周期性などが要因となって、異なる見た目となる。画面内で変化が起こらない場合には、図2(a)に示したように、EMA差分画像上には、走査線あるいはAGC(オートゲインコントロール)による細かな画素値の揺らぎによるランダムノイズが画面全体にわたって現れる。 The EMA difference image appears differently depending on factors such as the movement of the subject within the monitored area and the periodicity of changes in the surface texture. When no changes occur within the screen, random noise caused by minute fluctuations in pixel values due to the scanning lines or AGC (auto gain control) appears across the entire screen in the EMA difference image, as shown in Figure 2(a).

また、人物等の移動物体によって監視対象領域内で輝度の変化が起きた場合には、図2(c)に示したように、EMA差分画像上の移動物体領域内には、その物体の輝度の高低に応じた模様と移動軌跡上の残像とが現れる。 In addition, when a change in brightness occurs within the monitored area due to a moving object such as a person, a pattern corresponding to the brightness level of the object and an afterimage on the moving trajectory appear in the moving object area on the EMA difference image, as shown in Figure 2(c).

また、部屋の照明あるいは外光による照度の変化によって監視対象領域の明るさが大きく変化する場合には、EMA差分画像上には、変化直後の第1の輝度と第2の輝度との差が大きい間は、画面内の物体が濃淡に応じてシルエット上に現れる。その後、EMA画像が照度変化後の画面に適用し、第1の輝度値と第2の輝度値との差が小さくなるにつれて、EMA差分画像はランダムノイズへと戻る。 In addition, when the brightness of the monitored area changes significantly due to changes in illuminance caused by room lighting or external light, the EMA difference image shows objects on the screen in silhouette according to their shades while the difference between the first luminance and the second luminance immediately after the change is large. After that, as the EMA image is applied to the screen after the illuminance change and the difference between the first luminance value and the second luminance value becomes smaller, the EMA difference image returns to random noise.

一方、本来の検出対象である煙発生領域が監視対象領内に現れた場合には、図2(b)に示したように、EMA差分画像上の煙発生領域内には、煙の流動と周期性によって生じる特有の濃淡模様が現れる。 On the other hand, when a smoke generation area, which is the actual detection target, appears within the monitored area, a unique shading pattern caused by the flow and periodicity of the smoke appears within the smoke generation area on the EMA difference image, as shown in Figure 2 (b).

<GLCMについて>
上述したようにして算出されたEMA差分画像では、画面内の移動物体の有無、あるいは移動物体の移動方向の違いによって、異なるテクスチャが現れる。従って、これらの違いをテクスチャ特徴量によって定量的に識別することで、煙が発生した領域があるか否かを特定することが可能となる。そこで、煙特有の輝度の揺らぎに着目したテクスチャ特徴量を抽出するために用いられる、GLCMの作成方法について説明する。
About GLCM
In the EMA difference image calculated as described above, different textures appear depending on the presence or absence of a moving object in the screen or the difference in the moving direction of the moving object. Therefore, by quantitatively identifying these differences using texture features, it becomes possible to identify whether or not there is an area where smoke has occurred. Here, a method for creating a GLCM used to extract texture features focusing on the luminance fluctuations specific to smoke will be described.

なお、GLCMに関しては、1枚の画像からGLCMを求める場合と、時系列的に並ぶ複数の画像からGLCMを求める場合とが考えられる。本開示では、前者を2次元のGLCMと称し、後者を3次元のGLCMと称することとする。特徴量抽出部22によって行われるGLCMの具体的な作成方法、およびGLCMに基づく煙検出に適したテクスチャ特徴量の算出について、2次元と3次元に分けて、次に説明する。 Regarding GLCM, there are cases where the GLCM is derived from a single image, and cases where the GLCM is derived from multiple images arranged in time series. In this disclosure, the former is referred to as a two-dimensional GLCM, and the latter is referred to as a three-dimensional GLCM. The specific method of creating a GLCM performed by the feature extraction unit 22, and the calculation of texture features suitable for smoke detection based on GLCM, will be explained below for two dimensions and three dimensions.

(1)2次元のGLCMの作成
図3は、本開示の実施の形態1における特徴量抽出部22によって、1枚の画像入力からGLCMを作成する手法を説明するためのイメージ図である。図3(a)は、入力画像の一例として、5×5画素の2値画像を示している。また、図3(b)は、入力画像に基づいて特徴量抽出部22により作成されるGLCMに相当する行列Aを示している。
(1) Creation of a Two-Dimensional GLCM Fig. 3 is an image diagram for explaining a method for creating a GLCM from one image input by the feature extraction unit 22 in the first embodiment of the present disclosure. Fig. 3(a) shows a binary image of 5 x 5 pixels as an example of an input image. Fig. 3(b) shows a matrix A corresponding to the GLCM created by the feature extraction unit 22 based on the input image.

GLCMは、画素同士の位置関係に基づく輝度のばらつき具合を定量的に表現した行列Aに相当する。2次元のGLCMを作成するに当たっては、行に注目画素の輝度値、列に注目画素周囲の輝度値をとる。すなわち、図3(b)に示した行列Aの各要素をAi、jとしたとき、iは、注目画素における濃度値を意味し、jは、近傍画素における濃度値を意味する。 The GLCM corresponds to matrix A, which quantitatively expresses the degree of luminance variation based on the positional relationship between pixels. When creating a two-dimensional GLCM, the luminance value of the pixel of interest is taken as the row, and the luminance values of the surrounding pixels of the pixel of interest are taken as the column. In other words, when each element of matrix A shown in FIG. 3B is A i,j , i means the density value of the pixel of interest, and j means the density value of the neighboring pixel.

特徴量抽出部22は、Ai、jのそれぞれの要素ごとの累積加算結果を求めることで、行列Aを算出する。具体的には、A0、0、A0、1、A1、0、A1、1の各要素は、次のような条件が成立する場合に、カウントアップされる。
0、0:注目画素の輝度値が0、近傍画素の輝度値が0の場合に、+1される。
0、1:注目画素の輝度値が0、近傍画素の輝度値が1の場合に、+1される。
1、0:注目画素の輝度値が1、近傍画素の輝度値が0の場合に、+1される。
1、1:注目画素の輝度値が1、近傍画素の輝度値が1の場合に、+1される。
The feature extraction unit 22 calculates the matrix A by obtaining the cumulative sum of each element of A i,j . Specifically, each element of A 0,0 , A 0,1 , A 1,0 , and A 1,1 is counted up when the following condition is met:
A 0,0 : If the luminance value of the pixel of interest is 0 and the luminance value of the neighboring pixel is 0, then +1 is added.
A 0,1 : If the luminance value of the pixel of interest is 0 and the luminance value of the neighboring pixel is 1, then +1 is added.
A 1,0 : If the luminance value of the pixel of interest is 1 and the luminance value of the neighboring pixel is 0, +1 is added.
A 1,1 : If the luminance value of the pixel of interest is 1 and the luminance value of the neighboring pixel is 1, then +1 is added.

例えば、図3(a)に示した2値の入力画像における二重線で囲った画素を注目画素とし、右側の画素と左側の画素をそれぞれ近傍画素とした場合について説明する。この場合、注目画素の濃度値は「0」であり、右側の近傍画素の濃度値は「1」であり、下側の近傍画素の濃度値は「0」である。従って、行列Aの4つの要素のうち、A0、0とA0、1に1が加算されることとなる。 For example, let us consider a case where the pixel surrounded by a double line in the binary input image shown in Fig. 3(a) is the pixel of interest, and the pixels on the right and left are neighboring pixels. In this case, the density value of the pixel of interest is "0", the density value of the neighboring pixel on the right is "1", and the density value of the neighboring pixel below is "0". Therefore, of the four elements of matrix A, 1 is added to A0,0 and A0,1 .

ブロック内のすべての画素に対して、順次、注目画素を移動させながら同様の処理を繰り返し行うことで、特徴量抽出部22は、要素ごとの累積加算結果を求めることができる。さらに、特徴量抽出部22は、行列Aのそれぞれの要素における累積加算結果を、全要素の累積加算結果の総和で割ることで、正規化された行列Aを求めることができる。 By repeatedly performing the same process for all pixels in the block while moving the pixel of interest in sequence, the feature extraction unit 22 can obtain the cumulative sum result for each element. Furthermore, the feature extraction unit 22 can obtain a normalized matrix A by dividing the cumulative sum result for each element of matrix A by the sum of the cumulative sum results for all elements.

正規化を行うことで、各要素Ai、jは、画素の輝度値が(0、0)、(0、1)、(1、0)、(1、1)として隣り合う確率を表すこととなる。 By performing normalization, each element A i,j represents the probability that the luminance values of pixels are adjacent to each other as (0,0), (0,1), (1,0), and (1,1).

なお、図3で説明した具体例では、EMA差分画像の輝度値は、0と1の2値としたため、GLCMに相当する行列Aは、2×2の行列となっている。しかしながら、これは一例であり、例えば、EMA差分画像を0、1、2、3の4値とした場合には、GLCMに相当する行列Aは、4×4の行列となる。 In the specific example described in FIG. 3, the brightness values of the EMA difference image are binary, 0 and 1, so matrix A equivalent to the GLCM is a 2x2 matrix. However, this is just one example. For example, if the EMA difference image has four values, 0, 1, 2, and 3, matrix A equivalent to the GLCM will be a 4x4 matrix.

また、図3で説明した具体例では、右と下の2画素を隣接画像としたが、右と下以外の画素を隣接画素とすることも可能である。例えば、左と上の2画素を隣接画像とすることも可能である。また、斜めの画素を隣接画素とすることも可能である。 In the specific example described in FIG. 3, the two pixels on the right and bottom are considered to be adjacent images, but it is also possible to use pixels other than the right and bottom as adjacent pixels. For example, it is also possible to use the two pixels on the left and top as adjacent images. It is also possible to use diagonal pixels as adjacent pixels.

特徴量抽出部22は、入力画像に対して、上述した演算処理を実行することで、2次元のGLCMに相当する行列Aを算出することができる。 The feature extraction unit 22 can calculate the matrix A that corresponds to the two-dimensional GLCM by performing the above-mentioned calculation process on the input image.

(2)3次元のGLCMの作成
上述した2次元のGLCMは、特徴量を算出する周期にあわせて、一定間隔ごとに作成された1枚の差分画像を入力画像として算出されることとなる。この場合、ランダムノイズの偏り方によって特徴量が安定しない課題が考えられる。あるいは、差分画像が作成されない大部分のフレームにおいて特徴量抽出が行われないことにより、十分な数の特徴量が得られないといった課題も考えられる。
(2) Creation of a 3D GLCM The above-mentioned 2D GLCM is calculated by using one difference image created at regular intervals in accordance with the period for calculating the feature amount as an input image. In this case, there may be a problem that the feature amount is not stable due to the bias of random noise. Alternatively, there may be a problem that a sufficient number of features cannot be obtained because feature amount extraction is not performed for most of the frames for which a difference image is not created.

従って、煙検出精度の向上を図るためには、統計的に安定した特徴量を抽出するためのGLCMの作成が望まれる。そこで、これらの課題を解決するためには、1枚の入力画像における画素同士の位置関係に基づく輝度のばらつき具合を定量的に表現した2次元のGLCMに代えて、時系列的に前後方向の隣接関係も考慮して3次元のGLCMを作成することが考えられる。 Therefore, in order to improve smoke detection accuracy, it is desirable to create a GLCM that can extract statistically stable features. In order to solve these problems, instead of a two-dimensional GLCM that quantitatively expresses the degree of luminance variation based on the positional relationship between pixels in a single input image, it is possible to create a three-dimensional GLCM that also takes into account the relationship between adjacent pixels in the forward and backward directions in a chronological order.

一例として、EMA差分画像を32フレーム分蓄積し、32画素×32画素×32フレームから構成される立方体ボクセルごとに、3次元のGLCMの作成及びテクスチャ解析を行うことが考えられる。 As an example, it is possible to accumulate 32 frames of EMA difference images and perform three-dimensional GLCM creation and texture analysis for each cubic voxel consisting of 32 pixels x 32 pixels x 32 frames.

図4は、本開示の実施の形態1における特徴量抽出部22によって、時系列に並んだ複数枚の画像入力からGLCMを作成する手法を説明するためのイメージ図である。図4(a)は、EMA差分画像を32フレーム分蓄積した時系列2値画像としての立方体ボクセルを示している。 Figure 4 is an image diagram for explaining a method for creating a GLCM from multiple image inputs arranged in time series by the feature extraction unit 22 in embodiment 1 of the present disclosure. Figure 4(a) shows a cubic voxel as a time-series binary image in which 32 frames of EMA difference images are accumulated.

また、図4(b)は、サンプリング時刻tにおける入力画像に加え、時系列的に1つ前のサンプリング時刻t-1における入力画像と、時系列的に1つ後のサンプリング時刻t+1における入力画像を考慮し、合計3枚の入力画像を用いて3次元のGLCMを求める場合を例示している。 Figure 4(b) also shows an example of a case where a three-dimensional GLCM is calculated using a total of three input images, taking into consideration the input image at sampling time t, the input image at the previous sampling time t-1, and the input image at the next sampling time t+1.

先の図3で説明した2次元のGLCMの作成に当たっては、1枚の画像において、注目画素と、右および下の2つの隣接画素との隣接関係を考慮していた。これに対して、図4に示したように、3次元のGLCMの作成に当たっては、時系列的に前後のフレームにおける、注目画素と同じ位置の画素に対しても、さらに隣接関係を考慮し、画素同士の位置関係に基づく輝度のばらつき具合を定量的に評価している。 When creating the two-dimensional GLCM described above in Figure 3, the adjacent relationships between the pixel of interest and the two adjacent pixels to the right and below in a single image were taken into consideration. In contrast, as shown in Figure 4, when creating a three-dimensional GLCM, the adjacent relationships between pixels in the same position as the pixel of interest in the previous and following frames in the chronological order are also taken into consideration, and the degree of luminance variation based on the positional relationships between pixels is quantitatively evaluated.

特徴量抽出部22は、時刻tの入力画像における注目画素に対して、時刻tの入力画像における右側と下側の2つの隣接画素(x、y方向)に加え、時刻t-1および時刻t+1の入力画像における、時刻tの入力画像の注目画素と同じ位置にある2つの隣接画素を考慮して、4つの隣接画素を用いて行列Aを作成する。 The feature extraction unit 22 creates a matrix A using four adjacent pixels for a pixel of interest in the input image at time t, taking into consideration two adjacent pixels (in the x and y directions) to the right and below in the input image at time t, as well as two adjacent pixels in the input images at times t-1 and t+1 that are in the same position as the pixel of interest in the input image at time t.

このようにして、特徴量抽出部22は、時系列的に並んだ3枚の入力画像に基づく4つの隣接画素を用いて、3次元のGLCMを作成することができる。この結果、2次元のGLCMを作成する場合と比較して、より多くのサンプリング周期における監視対象画像を考慮し、より安定した特徴量を算出するためのGLCMを作成することが可能となる。 In this way, the feature extraction unit 22 can create a three-dimensional GLCM using four adjacent pixels based on three input images arranged in chronological order. As a result, compared to creating a two-dimensional GLCM, it is possible to create a GLCM that takes into account images to be monitored over a greater number of sampling periods and calculates more stable features.

(3)GLCMに基づくテクスチャ特徴量の抽出処理
次に、2次元のGLCMあるいは3次元のGLCMとして行列Aが作成された後に、特徴量抽出部22によって、A行列から煙検出の判断に使用されるテクスチャ特徴量を抽出する具体的な統計処理例について説明する。
(3) Extraction Processing of Texture Features Based on GLCM Next, a specific example of statistical processing will be described in which, after matrix A is created as a two-dimensional GLCM or a three-dimensional GLCM, the feature extraction unit 22 extracts texture features from matrix A that are used to determine smoke detection.

本開示では、テクスチャ特徴量として、GLCMに対して統計処理を施すことで、エントロピー、不均一性、およびエネルギーの3つのテクスチャ特徴量を抽出する場合を具体例として、以下に説明する。なお、テクスチャ特徴量を抽出するにあたっては、他のテクスチャ特徴量を用いることも可能である。 In this disclosure, a specific example will be described below in which three texture features, entropy, heterogeneity, and energy, are extracted by performing statistical processing on GLCM as texture features. Note that other texture features can also be used to extract the texture features.

(3-1)エントロピーについて
GLCMをP(A)としたとき、エントロピーは、下式(2)として算出することができる。
(3-1) Entropy When GLCM is P(A), the entropy can be calculated as the following formula (2).

先の図2に示した差分画像を例に説明すると、エントロピーは、差分画像における白と黒の並びが図2(a)の「動きのないシーン」のようにランダムであるほど高い値となる。その一方で、白と黒の並びが規則的であったり、図2(c)の「移動物体(人)」における人の後方の残像部分のように、白または黒が一様であったりする場合には、エントロピーは、低い値となる。 Taking the difference image shown in Figure 2 above as an example, the more random the arrangement of black and white in the difference image is, such as in the "motionless scene" in Figure 2(a), the higher the entropy value. On the other hand, if the arrangement of black and white is regular, or if the white or black is uniform, such as the afterimage behind the person in the "moving object (person)" in Figure 2(c), the entropy value will be low.

図5は、本開示の実施の形態1において、煙シーンと人が動くシーンのそれぞれに対してエントロピーを求めた際の高低を可視化した画像である。具体的には、図5(a)は、煙シーンにおけるエントロピーの高低を可視化した画像であり、図5(b)は、人が動くシーンにおけるエントロピーの高低を可視化した画像である。 Figure 5 is an image that visualizes the entropy obtained for a smoky scene and a scene in which people are moving in the first embodiment of the present disclosure. Specifically, Figure 5(a) is an image that visualizes the entropy in a smoky scene, and Figure 5(b) is an image that visualizes the entropy in a scene in which people are moving.

さらに、図6は、本開示の実施の形態1における煙領域と非煙領域における、エントロピーの確率密度分布を示した図である。具体的には、図6(a)は、2次元のGLCMに対して求めたエントロピーの確率密度分布であり、図6(b)は、3次元のGLCMに対して求めたエントロピーの確率密度分布である。 Furthermore, FIG. 6 shows the probability density distribution of entropy in smoke and non-smoke regions in embodiment 1 of the present disclosure. Specifically, FIG. 6(a) shows the probability density distribution of entropy calculated for a two-dimensional GLCM, and FIG. 6(b) shows the probability density distribution of entropy calculated for a three-dimensional GLCM.

また、図6(a)、図6(b)のそれぞれでは、煙領域内におけるエントロピーの確率密度分布を「分布1」、非煙領域内におけるエントロピーの確率密度分布を「分布2」として示している。 In addition, in each of Figures 6(a) and 6(b), the probability density distribution of entropy in the smoke region is shown as "distribution 1," and the probability density distribution of entropy in the non-smoke region is shown as "distribution 2."

図6に示したように、煙領域内におけるエントロピーの確率密度分布である分布1は、エントロピーが小さくなる傾向がある。このため、図6(a)、図6(b)のそれぞれで、分布1は、分布2と比較して、ピークが低く、かつ、左側にピークがずれていることが判る。また、図6(a)と図6(b)との比較から、3次元のGLCMに基づいて算出したテクスチャ特徴量の方が、分布1と分布2の違いがより明確に表れていることがわかる。 As shown in Figure 6, distribution 1, which is the probability density distribution of entropy within a smoke region, tends to have small entropy. For this reason, in each of Figures 6(a) and 6(b), it can be seen that distribution 1 has a lower peak and the peak is shifted to the left compared to distribution 2. Furthermore, a comparison of Figures 6(a) and 6(b) shows that the difference between distribution 1 and distribution 2 is more clearly evident in the texture features calculated based on the three-dimensional GLCM.

従って、煙発生検出部23は、特徴量抽出部22によって算出されたエントロピーに関するテクスチャ特徴量の確率密度分布から、監視対象領域において煙が発生したか否かを定量的に判断することができる。 Therefore, the smoke generation detection unit 23 can quantitatively determine whether or not smoke has occurred in the monitored area from the probability density distribution of the texture features related to the entropy calculated by the feature extraction unit 22.

(3-2)不均一性について
GLCMをP(A)としたとき、不均一性は、下式(3)として算出することができる。
(3-2) Regarding heterogeneity When GLCM is P(A), the heterogeneity can be calculated as the following formula (3).

差分画像における白または黒の画素が連続する確率が低い場合に、不均一性は高い値となる。従って、不均一性の値は、煙内部では低く、ランダムノイズが発生している領域では高くなる傾向がある。 The non-uniformity value is high when the probability of consecutive white or black pixels in the difference image is low. Thus, non-uniformity values tend to be low inside smoke and high in areas where random noise is present.

図7は、本開示の実施の形態1において、煙シーンと人が動くシーンのそれぞれに対して不均一性を求めた際の高低を可視化した画像である。具体的には、図7(a)は、煙シーンにおける不均一性の高低を可視化した画像であり、図7(b)は、人が動くシーンにおける不均一性の高低を可視化した画像である。 Figure 7 shows images that visualize the level of non-uniformity obtained for a smoky scene and a scene in which people are moving in the first embodiment of the present disclosure. Specifically, Figure 7(a) shows an image that visualizes the level of non-uniformity in a smoky scene, and Figure 7(b) shows an image that visualizes the level of non-uniformity in a scene in which people are moving.

さらに、図8は、本開示の実施の形態1における煙領域と非煙領域における、不均一性の確率密度分布を示した図である。具体的には、図8(a)は、2次元のGLCMに対して求めた不均一性の確率密度分布であり、図8(b)は、3次元のGLCMに対して求めた不均一性の確率密度分布である。 Furthermore, FIG. 8 shows the probability density distribution of inhomogeneity in smoke and non-smoke regions in embodiment 1 of the present disclosure. Specifically, FIG. 8(a) shows the probability density distribution of inhomogeneity calculated for a two-dimensional GLCM, and FIG. 8(b) shows the probability density distribution of inhomogeneity calculated for a three-dimensional GLCM.

また、図8(a)、図8(b)のそれぞれでは、煙領域内における不均一性の確率密度分布を「分布1」、非煙領域内における不均一性の確率密度分布を「分布2」として示している。 In addition, in each of Figures 8(a) and 8(b), the probability density distribution of non-uniformity within the smoke region is shown as "distribution 1," and the probability density distribution of non-uniformity within the non-smoke region is shown as "distribution 2."

図8に示したように、煙領域内における不均一性の確率密度分布である分布1は、不均一性が小さくなる傾向がある。このため、図8(a)、図8(b)のそれぞれで、分布1は、分布2と比較して、左側にピークがずれていることが判る。また、図8(a)と図8(b)との比較から、3次元のGLCMに基づいて算出したテクスチャ特徴量の方が、分布1と分布2の違いがより明確に表れていることがわかる。 As shown in Figure 8, distribution 1, which is the probability density distribution of heterogeneity within a smoke region, tends to have smaller heterogeneity. For this reason, it can be seen in both Figures 8(a) and 8(b) that the peak of distribution 1 is shifted to the left compared to distribution 2. Furthermore, a comparison of Figures 8(a) and 8(b) shows that the difference between distribution 1 and distribution 2 is more clearly shown in the texture features calculated based on the three-dimensional GLCM.

従って、煙発生検出部23は、特徴量抽出部22によって算出された不均一性に関するテクスチャ特徴量の確率密度分布から、監視対象領域において煙が発生したか否かを定量的に判断することができる。 Therefore, the smoke generation detection unit 23 can quantitatively determine whether or not smoke has occurred in the monitored area from the probability density distribution of the texture features related to non-uniformity calculated by the feature extraction unit 22.

(3-2)エネルギーについて
GLCMをP(A)としたとき、エネルギーは、下式(4)として算出することができる。
(3-2) Regarding Energy When GLCM is P(A), the energy can be calculated as the following formula (4).

差分画像において白または黒で一様な場合、あるいは特定なパターンが繰り返される場合に、エネルギーは高い値となる。従って、エネルギーの値は、煙内部では高く、ランダムノイズが発生している領域では低くなる傾向がある。 Energy has high values when the difference image is solidly white or black, or when certain patterns are repeated. Thus, energy values tend to be high inside smoke and low in areas where random noise is present.

図9は、本開示の実施の形態1において、煙シーンと人が動くシーンのそれぞれに対してエネルギーを求めた際の高低を可視化した画像である。具体的には、図9(a)は、煙シーンにおけるエネルギーの高低を可視化した画像であり、図9(b)は、人が動くシーンにおけるエネルギーの高低を可視化した画像である。 Figure 9 is an image that visualizes the energy levels obtained for a smoky scene and a scene in which people are moving in the first embodiment of the present disclosure. Specifically, Figure 9(a) is an image that visualizes the energy levels in a smoky scene, and Figure 9(b) is an image that visualizes the energy levels in a scene in which people are moving.

さらに、図10は、本開示の実施の形態1における煙領域と非煙領域における、エネルギーの確率密度分布を示した図である。具体的には、図10(a)は、2次元のGLCMに対して求めたエネルギーの確率密度分布であり、図10(b)は、3次元のGLCMに対して求めたエネルギーの確率密度分布である。 Furthermore, FIG. 10 is a diagram showing the energy probability density distribution in the smoke region and the non-smoke region in the first embodiment of the present disclosure. Specifically, FIG. 10(a) is the energy probability density distribution calculated for a two-dimensional GLCM, and FIG. 10(b) is the energy probability density distribution calculated for a three-dimensional GLCM.

また、図10(a)、図10(b)のそれぞれでは、煙領域内における不均一性の確率密度分布を「分布1」、非煙領域内における不均一性の確率密度分布を「分布2」として示している。 In addition, in each of Figures 10(a) and 10(b), the probability density distribution of non-uniformity within the smoke region is shown as "distribution 1," and the probability density distribution of non-uniformity within the non-smoke region is shown as "distribution 2."

図10に示したように、煙領域内におけるエネルギーの確率密度分布である分布1は、エネルギーが大きくなる傾向がある。このため、図10(a)、図10(b)のそれぞれで、分布1は、分布2と比較して、右側にピークがずれていることが判る。また、図10(a)と図10(b)との比較から、3次元のGLCMに基づいて算出したテクスチャ特徴量の方が、分布1と分布2の違いがより明確に表れていることがわかる。 As shown in Figure 10, distribution 1, which is the probability density distribution of energy within a smoke region, tends to have large energy. For this reason, it can be seen in both Figures 10(a) and 10(b) that the peak of distribution 1 is shifted to the right compared to distribution 2. Furthermore, a comparison of Figures 10(a) and 10(b) shows that the texture features calculated based on the three-dimensional GLCM more clearly show the difference between distribution 1 and distribution 2.

従って、煙発生検出部23は、特徴量抽出部22によって算出されたエネルギーに関するテクスチャ特徴量の確率密度分布から、監視対象領域において煙が発生したか否かを定量的に判断することができる。 Therefore, the smoke generation detection unit 23 can quantitatively determine whether or not smoke has occurred in the monitored area from the probability density distribution of the texture features related to energy calculated by the feature extraction unit 22.

なお、本実施の形態1では、煙特有の輝度の揺らぎに着目した特徴量を算出するために、EMA差分画像を入力画像としてGLCMを作成し、統計処理を施すことで監視対象領域において煙が発生したか否かを定量的に判断する場合について詳細に説明した。しかしながら、本開示に係る煙検出装置は、このような構成に限定されるものではない。 In the first embodiment, a detailed description has been given of a case in which a GLCM is created using an EMA difference image as an input image to calculate a feature quantity focusing on the luminance fluctuations specific to smoke, and a statistical process is then performed to quantitatively determine whether or not smoke has occurred in a monitored area. However, the smoke detection device according to the present disclosure is not limited to such a configuration.

そこで、EMA差分画像を用いてGLCMを用いない構成、および、EMA差分画像を用いずにGLCMを用いる構成、のそれぞれについて、以下に補足説明する。 Therefore, we provide additional explanation below on a configuration that uses an EMA difference image but does not use GLCM, and a configuration that uses GLCM without using an EMA difference image.

<EMA差分画像を用いてGLCMを用いない構成について>
このような構成は、検出処理部20を、以下のような前処理部21および煙発生検出部23として構成することで実現できる。
<Configuration using EMA difference image without using GLCM>
Such a configuration can be realized by configuring the detection processing unit 20 as a pre-processing unit 21 and a smoke generation detection unit 23 as described below.

画像メモリ10には、監視時において、あらかじめ決められたサンプリング周期ごとに監視カメラ1により撮像された監視対象画像が時系列監視対象画像として記憶される。 During monitoring, images of the monitored object captured by the monitoring camera 1 at a predetermined sampling period are stored in the image memory 10 as time-series images of the monitored object.

前処理部21は、それぞれの画素に関して、時系列監視対象画像を用いて指数移動平均を行った結果である画素からなるEMA画像を順次算出する。さらに、前処理部21は、それぞれの画素について、EMA画像を算出したときあるいは次のサンプリング周期において撮像された監視対象画像の輝度値と、EMA画像の輝度値とを比較して、その大小により2値画像を生成する。 The pre-processing unit 21 sequentially calculates an EMA image consisting of pixels that are the result of performing an exponential moving average on the time-series monitored image for each pixel. Furthermore, the pre-processing unit 21 compares the brightness value of the EMA image for each pixel with the brightness value of the monitored image captured when the EMA image was calculated or in the next sampling period, and generates a binary image based on the magnitude of the brightness value.

そして、煙発生検出部23は、前処理部21で煙候補領域内において生成された2値画像に基づき、監視対象画像内の煙候補領域において煙が発生したか否かを判断する。 Then, the smoke generation detection unit 23 determines whether or not smoke has been generated in the smoke candidate region in the monitored image based on the binary image generated in the smoke candidate region by the preprocessing unit 21.

すなわち、検出処理部20は、このような演算処理を施し、先の図2に示したようなEMA差分画像に対してGLCMを求めることなしに、EMA差分画像から、煙特有の輝度の揺らぎに着目した特徴量を算出することで、図2(b)に示した状態を特定することができ、煙を誤認識してしまうことを抑制することができる。 In other words, the detection processing unit 20 performs this type of calculation processing, and without calculating the GLCM for the EMA difference image as shown in Figure 2 above, calculates features from the EMA difference image that focus on the brightness fluctuations that are unique to smoke, thereby being able to identify the state shown in Figure 2 (b), and preventing erroneous recognition of smoke.

<EMA差分画像を用いずにGLCMを用いる構成について>
このような構成は、検出処理部20を、以下のような特徴量抽出部22および煙発生検出部23として構成することで実現できる。
<Configuration using GLCM without using EMA difference image>
Such a configuration can be realized by configuring the detection processing unit 20 as a feature extraction unit 22 and a smoke generation detection unit 23 as described below.

特徴量抽出部22は、監視カメラ1により撮像された監視対象画像について、煙候補領域における各画素の輝度値を用いて同時生起行列を作成する。さらに、特徴量抽出部22は、作成した同時生起行列に基づき、テクスチャ特徴量を算出する。 The feature extraction unit 22 creates a co-occurrence matrix using the luminance values of each pixel in the smoke candidate region for the monitored image captured by the surveillance camera 1. Furthermore, the feature extraction unit 22 calculates texture features based on the created co-occurrence matrix.

具体的には、特徴量抽出部22は、EMA差分画像の代わりに、監視カメラ1により撮像された監視対象画像を用いて、監視対象画像として例えば256階調の輝度としての画像を2値以上の256階調以下の濃淡画像に変換した後に、同時生起行列を作成する。 Specifically, the feature extraction unit 22 uses the monitored image captured by the surveillance camera 1 instead of the EMA difference image, converts the monitored image, for example an image with 256 gradations of luminance, into a binary or higher grayscale image with 256 gradations or less, and then creates a co-occurrence matrix.

そして、煙発生検出部23は、特徴量抽出部により算出されたテクスチャ特徴量に基づき監視対象画像内の煙候補領域において煙が発生したか否かを判断する。 Then, the smoke generation detection unit 23 determines whether smoke has been generated in the smoke candidate region in the monitored image based on the texture features calculated by the feature extraction unit.

すなわち、検出処理部20は、このような演算処理を施し、EMA差分画像を用いずにGLCMを作成することによっても、煙特有の輝度の揺らぎに着目した特徴量を算出することで、煙が発生したか否かを判断することができ、煙を誤認識してしまうことを抑制することができる。 In other words, even by performing this type of calculation processing and creating a GLCM without using an EMA difference image, the detection processing unit 20 can determine whether smoke has occurred by calculating features that focus on the luminance fluctuations that are unique to smoke, thereby preventing erroneous recognition of smoke.

1 監視カメラ、10 画像メモリ、20 検出処理部、21 前処理部、22 特徴量抽出部、23 煙発生検出部。 1 Surveillance camera, 10 Image memory, 20 Detection processing unit, 21 Preprocessing unit, 22 Feature extraction unit, 23 Smoke generation detection unit.

Claims (4)

監視カメラにより撮像された監視対象画像内の煙候補領域に対して画像処理を施すことにより、煙の発生を検出する煙検出装置であって、
前記監視カメラにより撮像された前記監視対象画像について、前記煙候補領域における各画素の輝度値を用いて同時生起行列を算出し、算出した前記同時生起行列に基づきテクスチャ特徴量を算出する特徴量抽出部と、
前記特徴量抽出部により算出された前記テクスチャ特徴量に基づき前記監視対象画像内の前記煙候補領域において煙が発生したか否かを判断する煙発生検出部と
を備える煙検出装置であって、
前記監視カメラにより撮像された前記監視対象画像を、あらかじめ決められたサンプリング周期ごとに時系列監視対象画像として記憶する画像メモリをさらに備え、
前記特徴量抽出部は、前記時系列監視対象画像に含まれる時系列的に隣接した2以上の監視対象画像内の前記煙候補領域おける各画素の輝度値を用いて、1枚の画像における注目画素と前記注目画素に対する隣接画素との隣接関係を考慮するとともに、時系列的に前後のフレームにおける前記注目画素と同じ位置の画素に対する隣接関係をさらに考慮し、前記同時生起行列を算出する
煙検出装置。
A smoke detection device that detects smoke generation by performing image processing on a smoke candidate region in a monitoring target image captured by a monitoring camera,
a feature extraction unit that calculates a co-occurrence matrix using a luminance value of each pixel in the smoke candidate region for the monitoring target image captured by the monitoring camera, and calculates a texture feature based on the calculated co-occurrence matrix;
a smoke generation detection unit that determines whether or not smoke has been generated in the smoke candidate region in the monitoring target image based on the texture feature calculated by the feature extraction unit,
The image memory stores the images of the object to be monitored captured by the monitoring camera as time-series images of the object to be monitored at each predetermined sampling period,
The feature extraction unit calculates the co-occurrence matrix by using the luminance values of each pixel in the smoke candidate region in two or more chronologically adjacent monitoring target images included in the time-series monitoring target images, taking into consideration an adjacency relationship between a pixel of interest in one image and adjacent pixels to the pixel of interest, and further taking into consideration an adjacency relationship with pixels at the same position as the pixel of interest in previous and subsequent frames.
Smoke detection devices.
監視カメラにより撮像された監視対象画像内の煙候補領域に対して画像処理を施すことにより、煙の発生を検出する煙検出装置であって、
監視時に、あらかじめ決められたサンプリング周期ごとに前記監視カメラにより撮像された前記監視対象画像を時系列監視対象画像として記憶する画像メモリと、
それぞれの画素に関して、前記時系列監視対象画像を用いて指数移動平均を行った結果である画素からなるEMA画像を順次算出し、それぞれの画素について、前記EMA画像を算出したときあるいは次のサンプリング周期において撮像された前記監視対象画像の輝度値と、前記EMA画像の輝度値とを比較して、その大小により2値画像を生成する前処理部と、
前記前処理部で前記煙候補領域内において生成された前記2値画像に基づき前記監視対象画像内の前記煙候補領域において煙が発生したか否かを判断する煙発生検出部と
を備える煙検出装置。
A smoke detection device that detects smoke generation by performing image processing on a smoke candidate region in a monitoring target image captured by a monitoring camera,
an image memory for storing, during monitoring, the images of the object to be monitored captured by the monitoring camera at each predetermined sampling period as time-series images of the object to be monitored;
a pre-processing unit which sequentially calculates, for each pixel, an EMA image consisting of pixels that is a result of performing an exponential moving average using the time-series monitoring target image, and compares, for each pixel, a luminance value of the EMA image with a luminance value of the monitoring target image captured when the EMA image was calculated or in the next sampling period, and generates a binary image based on the magnitude of the luminance value of the EMA image;
a smoke generation detection unit that determines whether smoke has been generated in the smoke candidate region in the monitored image based on the binary image generated within the smoke candidate region by the preprocessing unit.
前記前処理部で前記煙候補領域内において順次生成された前記2値画像における各画素の2値を用いて同時生起行列を算出し、算出した前記同時生起行列に基づきテクスチャ特徴量を算出する特徴量抽出部をさらに備え、
前記煙発生検出部は、前記2値画像を用いる代わりに、前記特徴量抽出部により算出された前記テクスチャ特徴量に基づき前記監視対象画像内の前記煙候補領域において煙が発生したか否かを判断する
請求項に記載の煙検出装置。
A feature extraction unit is further provided which calculates a co-occurrence matrix using the binary values of each pixel in the binary images sequentially generated within the smoke candidate region by the pre-processing unit, and calculates a texture feature based on the calculated co-occurrence matrix,
The smoke detection device according to claim 2 , wherein the smoke generation detection unit determines whether or not smoke has been generated in the smoke candidate region in the monitored image based on the texture feature calculated by the feature extraction unit, instead of using the binary image.
前記前処理部は、前記サンプリング周期ごとに順次生成した前記2値画像を時系列2値画像として前記画像メモリに記憶させ、
前記特徴量抽出部は、前記時系列2値画像に含まれる時系列的に隣接した2以上の2値画像の前記煙候補領域における各画素の2値を用いて前記同時生起行列を算出する
請求項に記載の煙検出装置。
the preprocessing unit stores the binary images sequentially generated for each sampling period in the image memory as time-series binary images;
The smoke detection device according to claim 3 , wherein the feature extraction unit calculates the co-occurrence matrix using binary values of each pixel in the smoke candidate region of two or more chronologically adjacent binary images included in the time- series binary image.
JP2021092095A 2021-06-01 2021-06-01 Smoke detection devices Active JP7691063B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021092095A JP7691063B2 (en) 2021-06-01 2021-06-01 Smoke detection devices

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021092095A JP7691063B2 (en) 2021-06-01 2021-06-01 Smoke detection devices

Publications (2)

Publication Number Publication Date
JP2022184321A JP2022184321A (en) 2022-12-13
JP7691063B2 true JP7691063B2 (en) 2025-06-11

Family

ID=84437531

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021092095A Active JP7691063B2 (en) 2021-06-01 2021-06-01 Smoke detection devices

Country Status (1)

Country Link
JP (1) JP7691063B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116883764B (en) * 2023-09-07 2023-11-24 武汉船用电力推进装置研究所(中国船舶集团有限公司第七一二研究所) Battery system fault identification method and device

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015197787A (en) 2014-04-01 2015-11-09 能美防災株式会社 Laminar smoke detection device and laminar smoke detection method
US20200012859A1 (en) 2017-03-28 2020-01-09 Zhejiang Dahua Technology Co., Ltd. Methods and systems for fire detection
JP2020057236A (en) 2018-10-03 2020-04-09 ホーチキ株式会社 Smoke detection device and smoke identification method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015197787A (en) 2014-04-01 2015-11-09 能美防災株式会社 Laminar smoke detection device and laminar smoke detection method
US20200012859A1 (en) 2017-03-28 2020-01-09 Zhejiang Dahua Technology Co., Ltd. Methods and systems for fire detection
JP2020057236A (en) 2018-10-03 2020-04-09 ホーチキ株式会社 Smoke detection device and smoke identification method

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Yu Chunyu et al.,Texture Analysis of Smoke for Real-Time Fire Detection,2009 Second International Workshop on Computer Science and Engineering,2009年,https://ieeexplore.ieee.org/document/5403225
中村 昭宏 外2名,テクスチャ特徴と機械学習を用いた煙検出に関する検討,電気学会研究会資料,日本,社団法人電気学会,2011年
岡本 啓嗣 外2名,固定長の時空間画像による映像クラスタリング,電子情報通信学会技術研究報告,Vol.102 No.155,日本,社団法人電子情報通信学会,2002年

Also Published As

Publication number Publication date
JP2022184321A (en) 2022-12-13

Similar Documents

Publication Publication Date Title
CN119091234B (en) Intelligent decision-making and response method and system based on data analysis
Bloisi et al. Independent multimodal background subtraction.
CN111368771A (en) A kind of tunnel fire warning method, device, computer equipment and computer-readable storage medium based on image processing
Sengar et al. Detection of moving objects based on enhancement of optical flow
Huang et al. Motion detection with pyramid structure of background model for intelligent surveillance systems
CN113344879B (en) Image target segmentation and anomaly detection method based on pollution source discharge port
WO2013102797A1 (en) System and method for detecting targets in maritime surveillance applications
CN117475357B (en) Surveillance video image occlusion detection method and system based on deep learning
CN112541486A (en) Infrared weak and small target detection algorithm based on improved Pixel segmentation
WO2016019973A1 (en) Method for determining stationary crowds
CN109949308A (en) A Fast Extraction Method of Space Relative Navigation Targets Against Starlight Interference
JP7691063B2 (en) Smoke detection devices
CN121258970A (en) Image processing leather surface defect identification method and system
AU2002232008B2 (en) Method of detecting a significant change of scene
AU2002232008A1 (en) Method of detecting a significant change of scene
CN117274900A (en) A severe weather identification method and device for highways
CN114494342B (en) A method for detecting and tracking marine targets using synchronous orbit satellite visible light sequence images
TWI381735B (en) Image processing system and method for automatic adjustment of image resolution for image surveillance apparatus
CN119168901A (en) A label-independent, non-monotonic method for evaluating event camera denoising
JP5272890B2 (en) Image processing apparatus, image processing method, and program
Mahoor et al. An improved motion detection algorithm using ViBe
Plosz et al. Fast multiscale 3d reconstruction using single-photon lidar data
Filonenko et al. Fast fire flame detection on videos using AdaBoost and parallel processing
Zhao et al. Flame detection using generic color model and improved block-based PCA in active infrared camera
CN115482253A (en) Moving object detection method and device and perimeter intrusion detection system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240228

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20241213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241224

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250521

R150 Certificate of patent or registration of utility model

Ref document number: 7691063

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150