JP6526953B2 - Object identification method - Google Patents
Object identification method Download PDFInfo
- Publication number
- JP6526953B2 JP6526953B2 JP2014185852A JP2014185852A JP6526953B2 JP 6526953 B2 JP6526953 B2 JP 6526953B2 JP 2014185852 A JP2014185852 A JP 2014185852A JP 2014185852 A JP2014185852 A JP 2014185852A JP 6526953 B2 JP6526953 B2 JP 6526953B2
- Authority
- JP
- Japan
- Prior art keywords
- flow line
- calculation unit
- object identification
- movement
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Image Analysis (AREA)
- Closed-Circuit Television Systems (AREA)
Description
物体を検出し、その種別を識別する装置、および当該装置を用いた方法に関する。 The present invention relates to an apparatus for detecting an object and identifying its type, and a method using the apparatus.
近年、犯罪防止や犯罪捜査の支援を目的とした監視カメラや、運転支援を目的とした車載カメラなどが開発され普及しつつある。従来、監視カメラでは、膨大な映像を人の目視により確認することで犯罪の瞬間や犯人が映っているシーンを見つけていた。人の目視による確認の労力を低減するために、撮像、録画した画像を警察官、警備員、ユーザに見せるだけでなく、画像処理により移動物体を自動的に検出する機能が搭載されてきている。 In recent years, surveillance cameras for the purpose of crime prevention and crime investigation support and in-vehicle cameras for the purpose of driving assistance have been developed and disseminated. Conventionally, in surveillance cameras, a scene of a crime or a criminal is found by checking a huge image by visual inspection of a person. In order to reduce the effort of visual confirmation of human beings, in addition to showing captured and recorded images to police officers, security guards and users, there is also a function to automatically detect moving objects by image processing. .
画像中から人を自動的に検出する技術としては、特許文献1に記載された方法が提案されている。これは、過去の画像と現在の画像の差分から移動物体の領域を検出し、移動物体を追跡することで、風で揺れている草木等を除去し、連続的に移動する人のみを検出するものである。 As a technique for automatically detecting a person from an image, a method described in Patent Document 1 has been proposed. This detects the area of the moving object from the difference between the past image and the current image, and tracks the moving object, thereby removing plants swaying in the wind, etc. and detecting only people who move continuously. It is a thing.
しかしながら、特許文献1に記載された手法によれば、風で揺れている草木のように大きく移動しない物体を人として検出してしまう誤検出を防止することはできるが、人と二輪車のように連続的に移動する物体の種別を識別することはできないといった問題がある。 However, according to the method described in Patent Document 1, it is possible to prevent false detection in which an object that does not move as large as a plant swaying in the wind is detected as a person can be prevented. There is a problem that the type of the continuously moving object can not be identified.
前記課題を解決するための一態様として、本発明に係る物体識別装置は主として、動画像中から移動している物体を検出する物体検出部と、物体検出部により検出した物体の動線を求める動線算出部と、動線算出部で求めた動線の形状を解析することで物体の種別を識別または物体の属性を識別する物体識別部とを具備することを特徴とする。 As one mode for solving the above problem, an object identification apparatus according to the present invention mainly determines an object detection unit that detects an object moving in a moving image, and a flow line of the object detected by the object detection unit. A motion line calculation unit, and an object identification unit that identifies the type of the object or analyzes the attribute of the object by analyzing the shape of the movement line obtained by the motion line calculation unit.
上記一態様によれば、移動物体を検出することに加え、移動物体の種別、属性を識別可能な装置、および当該装置を用いた方法を提供できるので、犯罪防止や犯罪捜査の支援を目的とした監視カメラで物体の種別を識別し、特定の物体が映っている映像のみをユーザに提示することにより、人の目視確認に必要な時間をさらに削減することができる。 According to the above aspect, since it is possible to provide a device capable of identifying the type and attribute of the moving object and a method using the device in addition to detecting the moving object, it is possible to support crime prevention and criminal investigation. By identifying the type of the object with the monitoring camera and presenting only the image in which the specific object is shown to the user, it is possible to further reduce the time required for visual confirmation of the person.
以下、図面を参照して、本実施の形態について説明する。
(第1の実施の形態)
図1は、第1の実施の形態における物体識別装置の基本構成の例を示したブロック図である。詳細は後述する。
Hereinafter, the present embodiment will be described with reference to the drawings.
First Embodiment
FIG. 1 is a block diagram showing an example of the basic configuration of an object identification apparatus according to the first embodiment. Details will be described later.
第1の実施の形態は、撮像装置であるカメラから取り込んだ画像を処理し、画像に映っている物体を検出するとともに、物体の種別を識別する物体識別装置、および当該装置を適用した画像処理装置について説明する。 In the first embodiment, an object identification apparatus that processes an image captured from a camera that is an imaging apparatus and detects an object shown in the image and identifies the type of the object, and image processing to which the apparatus is applied The apparatus will be described.
まず、図6を用いて、本実施の形態に係る画像処理装置について説明する。 First, an image processing apparatus according to the present embodiment will be described with reference to FIG.
本実施の形態に係る物体識別装置1は、図6に示すような画像処理装置41において、例えばCPU6またはこれに相当するユニットに適用されて、画像処理装置41が備えるカメラ4(撮像装置)により撮像された周囲の環境の画像を取り込み、取り込んだ画像を処理して物体を検出する機能を実現することができる。 In the image processing apparatus 41 as shown in FIG. 6, the object identification apparatus 1 according to the present embodiment is applied to, for example, the CPU 6 or a unit corresponding thereto, and the camera 4 (imaging apparatus) included in the image processing apparatus 41 A function of capturing an image of the captured surrounding environment and processing the captured image to detect an object can be realized.
この画像処理装置41は、図6に示す通り撮像素子であるカメラ4と、このカメラ4にて撮像した画像を処理するための処理手段であるCPU6、CPU6用の記録手段であるメモリ9、プログラムやデータの記録手段であるROM7と、前記カメラ4を制御するとともに画像を取り込む画像入力手段5で構成され、これらがバス11で接続されている。 The image processing apparatus 41 includes a camera 4 as an imaging device as shown in FIG. 6, a CPU 6 as processing means for processing an image picked up by the camera 4, a memory 9 as recording means for the CPU 6, The ROM 7 is a data recording means, and an image input means 5 for controlling the camera 4 and taking in an image, which are connected by a bus 11.
本画像処理装置41のカメラ4は、例えばCCDやCMOS撮像素子を搭載する。画像入力手段5は、カメラ4で撮像した画像をメモリ9に格納し、ROM7に保存されているプログラムおよびデータをもとにCPU6が画像を処理する。処理結果はI/F14に接続されているモニタ16に表示する、物体が検出された場合にスピーカ17から警告音を発する等によりユーザに物体が検出さらた旨を通知する。入力機器15は、画像処理装置41の設定等を変更するためのもである。ただし、この構成は必須な要件ではなく、CPU6に加え、さらに画像処理LSIを搭載して処理の一部を専用のLSIで処理する構成や、1つのメモリのみでなくを画像処理LSI用のRAMなど複数のメモリを用いる構成でも良い。あるいはROM7の代わりに図示しないハードディスク等の記憶装置であっても良い。 The camera 4 of the image processing apparatus 41 mounts, for example, a CCD or a CMOS imaging device. The image input means 5 stores the image picked up by the camera 4 in the memory 9 and the CPU 6 processes the image based on the program and data stored in the ROM 7. The processing result is displayed on the monitor 16 connected to the I / F 14, and when the object is detected, a warning sound is emitted from the speaker 17 or the like to notify the user that the object has been detected. The input device 15 is also for changing settings of the image processing apparatus 41 and the like. However, this configuration is not an essential requirement, and in addition to the CPU 6, a configuration in which an image processing LSI is mounted and a part of processing is processed by a dedicated LSI, and not only one memory but also a RAM for the image processing LSI Alternatively, a configuration using a plurality of memories may be used. Alternatively, a storage device such as a hard disk not shown may be used instead of the ROM 7.
また図7に示すようにカメラユニット42と処理ユニット43から構成されても良い。この場合は、カメラユニット42は、I/F12から画像および処理に必要なカメラのシャッタースピード、ゲイン、焦点距離等の情報を、データ伝送手段3を介し、I/F13を通して処理ユニットと通信する。さらに図8に示す通り、記録装置31をさらに具備することで長時間の画像を保存する画像記録システム45を構成することもできる。そして、図9のように記録装置31をコンピュータ等にUSB等のI/F18に接続し、録画した画像を処理して物体の種別、属性を識別し、自動的に特定の種別、属性の物体が映っている画像を検索する画像検索システム44の構成であっても良い。 Further, as shown in FIG. 7, the camera unit 42 and the processing unit 43 may be provided. In this case, the camera unit 42 communicates with the processing unit through the I / F 13 via the data transmission means 3 the information such as the camera shutter speed, gain and focal length necessary for the image and processing from the I / F 12. Furthermore, as shown in FIG. 8, an image recording system 45 for storing an image for a long time can be configured by further providing the recording device 31. Then, as shown in FIG. 9, the recording device 31 is connected to a computer or other I / F 18 such as a USB, and the recorded image is processed to identify the type and attribute of the object, and the object of the specific type and attribute is automatically identified. It may be a configuration of the image search system 44 that searches for an image in which the image is displayed.
次に、図1に示すの物体識別装置の構成を例に説明する。物体識別装置1は、主として、図6において上述した画像処理装置41のCPU6がプログラムを実行し、カメラ4から取得した動画像を処理して移動している物体を検出する物体検出部20と、検出した物体の移動軌跡である動線算出部21と、動線の形状を解析して物体の種別あるいは属性を識別する物体識別部22から構成される。 Next, the configuration of the object identification device shown in FIG. 1 will be described as an example. The object identification device 1 mainly executes the program executed by the CPU 6 of the image processing device 41 described above with reference to FIG. 6, and processes an moving image acquired from the camera 4 to detect an object moving. It comprises a movement line calculation unit 21 which is a movement trajectory of the detected object, and an object identification unit 22 which analyzes the shape of the movement line and identifies the type or attribute of the object.
物体検出部20は、公知の背景差分やフレーム間差分等により移動している物体を検出する機能を有する。 The object detection unit 20 has a function of detecting an object moving by a known background difference, an inter-frame difference, or the like.
動線算出部21は、物体領域の重心の系列を動線として算出する、物体領領域中の特徴点を追跡処理により撮像タイミングの異なる画像間で対応付けることで動線を求める機能を有する。 The movement line calculation unit 21 has a function of calculating a series of the center of gravity of the object area as a movement line, and obtaining a movement line by associating feature points in the object area with images having different imaging timings by tracking processing.
物体識別部22は、動線の周波数、振幅、動線を構成する個々の線分のばらつき、平均移動方向と動線を構成する個々の線分の成す角度、動線を構成する線分の系列等から物体の種別を識別する機能を有する。 The object identification unit 22 includes the frequency and amplitude of the flow line, the variation of individual line segments constituting the flow line, the angle formed by the average movement direction and the individual line segments constituting the flow line, and the line segments constituting the flow line. It has a function of identifying the type of an object from a series or the like.
本実施の形態に係る物体識別装置の全体の処理を図11に示すフローチャートに沿って説明する。まず、過去画像の作成、動線情報のクリア等の初期化を行う(ステップ101)。ステップ102は、連続して稼働している途中に、照明条件が大きく変化した、カメラの設置位置・角度が変化した場合等に初期化タイミングか否かを判定(ステップ102)し、初期化タイミングであれば(ステップ103)システムの起動直後以外でも初期化処理を実行する(ステップ111)。そしてステップ112では、過去画像(例えば時刻t−1)と現在(時刻t)の画像の差分により移動している物体を検出する。ステップ113では、時刻t−1の画像中から公知のHarris検出器、Susan検出器等により上下方向、左右方向ともに輝度変化のあるコーナーを特徴点として検出する。あるいは、頭部等を検出して、検出した頭部領域の中心等を特徴点としても良い。もちろん頭部以外に、動体、腕、足等でも良い。このとき時刻t−1で追跡が成功している場合は追跡により求めた点をそのまま用い、追跡に失敗した場合は今まで追跡していた特徴点を除去して、新たに検出した特徴点を追跡する点として追加する。 The entire processing of the object identification device according to the present embodiment will be described along the flowchart shown in FIG. First, creation of a past image, clearing of flow line information, etc. are initialized (step 101). In step 102, it is judged whether or not it is the initialization timing when the lighting conditions are largely changed, the installation position and the angle of the camera are changed during the continuous operation, and the initialization timing If it is (step 103), the initialization process is executed other than immediately after system startup (step 111). Then, in step 112, the moving object is detected by the difference between the past image (for example, time t-1) and the current (time t) image. In step 113, a corner having a change in luminance in the vertical and horizontal directions is detected as a feature point from the image at time t-1 using a known Harris detector, Susan detector or the like. Alternatively, the head or the like may be detected, and the center or the like of the detected head region may be used as the feature point. Of course, other than the head, a moving body, an arm, a leg, etc. may be used. At this time, when the tracking is successful at time t-1, the point obtained by the tracking is used as it is, and when the tracking fails, the feature point which has been tracked up to now is removed and the newly detected feature point is Add as a tracking point.
次に、時刻t−1の画像の特徴点から、時刻tの画像上の特徴点の座標を求める。この処理を逐次繰り返すことで、図2に示すように人が歩いてきた動線、二輪が移動してきた動線を求めることができる(ステップ114)。そして、求めた動線の長さを閾値と比較し、となり、動線の長さが十分か否かを判定し(ステップ120)、この長さが十分であると判定されればステップ115に移行する。 Next, the coordinates of the feature point on the image at time t are determined from the feature points on the image at time t-1. By sequentially repeating this process, as shown in FIG. 2, it is possible to obtain a flow line that a person walks in, and a flow line in which a two-wheeler has moved (step 114). Then, the calculated length of the flow line is compared with the threshold value, and it is determined whether the length of the flow line is sufficient (step 120). If it is determined that the length is sufficient, step 115 is performed. Transition.
ステップ115では、動線の形状を解析し、動線の振幅、周波数、動線の平均方向と動線を構成する各線分のばらつき、動線の平均方向と動線を構成する各線分の成す角度の少なくともいずれか一つを特徴量として求める。 In step 115, the shape of the flow line is analyzed, and the amplitude of the flow line, the frequency, the average direction of the flow line and the variation of each line segment constituting the flow line, the average direction of the flow line and each line segment constituting the flow line At least one of the angles is determined as a feature value.
ステップ116では、ステップ115で求めた情報をもとに物体を識別する。例えば、振幅が閾値以上であれば人、閾値未満であれば二輪とする。あるいは、事前に学習させておいた学習結果23を用いて、公知のニューラルネットワーク、SVM(Support Vector Machine)、ランダムフォレスト等の機械学習、判別分析等により識別しても良い。 In step 116, an object is identified based on the information obtained in step 115. For example, if the amplitude is equal to or higher than the threshold value, it is a person, and if less than the threshold value, two wheels are used. Alternatively, identification may be made by known learning of neural network, SVM (Support Vector Machine), machine learning such as random forest, discriminant analysis or the like using the learning result 23 learned in advance.
ステップ117は、過去の識別結果を考慮して物体識別結果が正しいか否かを検証し、識別結果を確定する。そしてステップ118では、物体種別に応じたフラグを設定する。例えば、二輪車の場合はフラグを1に、人の場合はフラグを2にセットする。最後にステップ119は、何フレーム分の動線を算出できているかに基づいて信頼度を求める。例えば、100フレーム分以上の動線が求められている場合は信頼度を100、1フレーム分の動線のみしか求められていない場合は信頼度を1とする。もちろん、指数関数、対数、多項式等を用いて信頼度を算出する構成や、ルックアップテーブルにより動線の長さから信頼度に変換する構成でも良い。 Step 117 verifies whether or not the object identification result is correct in consideration of the past identification result, and determines the identification result. Then, in step 118, a flag corresponding to the object type is set. For example, in the case of a two-wheeled vehicle, the flag is set to 1, and in the case of a person, the flag is set to 2. Finally, in step 119, the degree of reliability is determined based on how many frames of flow lines have been calculated. For example, when a flow line of 100 frames or more is required, the reliability is 100, and when only a flow line of one frame is obtained, the reliability is 1. Of course, the configuration may be such that the reliability is calculated using an exponential function, logarithm, polynomial, or the like, or the configuration may be such that the flow line length is converted to the reliability using a lookup table.
ステップ114の動線算出の処理フローについて、図12を用いて詳細に説明する。本処理フローは、図1に示した物体識別装置1のうち、動線算出部21が実行する。まず、物体がカメラ4の視野内から外れた場合等の初期化タイミングか否かを判定する(ステップ120)。初期化タイミングであれば(121)、ステップ126により過去の追跡情報をクリアしし、ステップ127で動線を求める対象の物体が存在する場合は新しい特徴点を登録する。ステップ122は、公知のSSD(Sum of Squared Difference)、SAD(Sum of Abusolute Difference)、NCC(Normalized Cross−Correlation)、勾配法(Lucas−Kanade法)等により、時刻t−1の特徴点の座標と時刻tの特徴点の座標の対応関係を求める。ここでは、勾配法を用いた特徴点の追跡(オプティカルフロー)について述べる。画像中の画素p=(x, y)の画素の時刻tにおける輝度を、I(x, y, t)とする。この画素が時刻t+Δtに座標(x+Δx, y+Δy)に移動したとする。画像の画素の値が移動後も変わらないとすると、式(1)が成り立つ。
右辺をTaylor展開し高次の項を無視すると、式(2)を得る。
両編をΔtで割り、Δt→0とすると、
が得られる。
ただし、
である。
The process flow of the flow line calculation of step 114 will be described in detail with reference to FIG. The flow line calculation unit 21 of the object identification device 1 shown in FIG. 1 executes this processing flow. First, it is determined whether or not it is an initialization timing such as when the object is out of the field of view of the camera 4 (step 120). If it is the initialization timing (121), the past tracking information is cleared at step 126, and if there is an object whose flow line is to be determined at step 127, a new feature point is registered. In step 122, coordinates of the feature point at time t-1 are determined by a known sum of squared difference (SSD), sum of abusolution difference (SAD), normalized cross-correlation (NCC), gradient method (Lucas-Kanade method) or the like. The correspondence between the coordinates of the feature point at time t and the point t is determined. Here, tracking of feature points (optical flow) using the gradient method will be described. The luminance at a time t of the pixel p = (x, y) in the image is I (x, y, t). It is assumed that this pixel is moved to coordinates (x + Δx, y + Δy) at time t + Δt. Assuming that the values of the pixels of the image do not change after movement, equation (1) holds.
Equation (2) is obtained by Taylor expansion of the right side and ignoring higher order terms.
If both parts are divided by Δt and Δt → 0,
Is obtained.
However,
It is.
局所領域内の各点の移動量uが等しいと仮定すると、局所領域内で式(3)の関係式が最も当てはまるuを求めればよく、式(5)に示される局所領域Rの各画素の2乗誤差Eを最小とするuを求めればよい。
Assuming that the displacement amounts u of the respective points in the local region are equal, it is sufficient to find u in which the relational expression of equation (3) is most applicable in the local region, and for each pixel of the local region R shown in equation (5) It is sufficient to find u that minimizes the squared error E.
ステップ123では、特徴点の対応付けに失敗すればステップ126へ、成功すればステップ124に移行し動線の情報を更新する。動線の情報とは、動線が時刻t-Nから時刻tまで求まっているとすると、時刻t-Nから時刻tの特徴点の座標の系列、動線の開始フレームはNフレーム前といった情報である。これを逐次繰り返していくことで動線を求めることができる。 In step 123, if the feature point correspondence fails, the process proceeds to step 126, and if successful, the process proceeds to step 124, and the information on the flow line is updated. The information on the flow line is a series of coordinates of feature points from time t-N to time t, and the start frame of the flow line is information such as N frames before, assuming that the flow line is obtained from time tN to time t. The flow line can be obtained by repeating this one by one.
ここで、図11における動線の形状を分析する処理(ステップ115)の一例を、図4と図5を用いて説明する。動線は、フレーム間の特徴点の移動量であるため、図4に示す通り時刻tと時刻t−1の移動量、時刻t−1と時刻t−2の移動量、・・・、時刻t−(N−1)と時刻t−Nの移動量の複数の線分から成る。つまりN+1点の座標の系列である。この座標の系列をフーリエ変換等により周波数成分に変換することで周波数を求めることができる。また、図5に示すように動線の平均を求め、平均の直線と動線の座標の距離を求め、その距離を振幅とすることもできる。さらに、動線の平均の移動方向と各動線の線分の成す角度θ、動線の平均の移動方向ベクトル、動線の平均の移動方向ベクトルの大きさ、動線の平均の移動方向と各動線の線分の成す角度θのヒストグラム等を求めても良い。 Here, an example of the process (step 115) of analyzing the shape of the flow line in FIG. 11 will be described using FIGS. 4 and 5. Since the movement line is the movement amount of the feature point between the frames, as shown in FIG. 4, the movement amount at time t and time t-1, the movement amount at time t-1 and time t-2, ..., time It consists of a plurality of line segments of movement amounts of t- (N-1) and time t-N. That is, it is a series of coordinates of N + 1 points. The frequency can be determined by converting the series of coordinates into frequency components by Fourier transform or the like. Alternatively, as shown in FIG. 5, the flow line may be averaged, the distance between the average straight line and the coordinates of the flow line may be determined, and the distance may be used as the amplitude. In addition, the average movement direction of the movement line and the angle θ formed by the line segments of each movement line, the movement direction vector of the movement line average, the size of the movement direction vector of the movement line average, and the movement direction of the movement line average A histogram or the like of the angle θ formed by the line segments of each flow line may be obtained.
図11における物体の種別を識別する処理(ステップ116)の一例を、図14を用いて説明する。ランダムフォレストを例に説明するが、公知の識別器、分析手法等で代替可能である。まず、ステップ115で求めた周波数、振幅、平均の直線と動線の各線分の成す角度θ、動線の線分の系列等のうち少なくとも一つを特徴量ベクトルとし、識別器の入力とする。例えば、特徴量ベクトルx=(周波数 振幅 動線の平均の移動方向と動線の各線分の成す角度)である。特徴量ベクトルx を、L個の二分決定木に入力する。各二分決定木のノードでは各特徴量の値から物体の物体種別を分類する。これを末端のノードまで繰り返すことで物体がいずれの物体種別に属するかを各二分決定木毎に判定する。この処理がL個の二分決定木で行われるため,判定結果を集約した判定結果のヒストグラムyを作成し,最も投票値の多い物体種別を識別結果とする。図14の例では物体種別3と識別することができる。ランダムフォレストも図14に示したものは一例であり、例えば2分決定木ではなく、各ノードで3つ以上に分類する決定木でも良い。また、物体の種別とは、例えば自転車、バイク、歩行者、自転車の上半身、バイクの上半身、歩行者の上半身である。識別する物体の種別の総数に制約は無く、4足歩行の動物、自動車等のように足で歩行している物体と車輪で移動している物体を識別対象に加えても良い。また、自転車とバイクのように人が動力源の物体と原動機を搭載している物体を識別対象とすることもできる。 An example of the process (step 116) of identifying the type of the object in FIG. 11 will be described with reference to FIG. Although a random forest will be described by way of example, it may be replaced by a known classifier, analysis method or the like. First, at least one of the frequency, the amplitude, the angle θ formed by the straight line and the line segment of the flow line, the line segment of the flow line, etc. determined in step 115 is used as a feature quantity vector and is input as a classifier. . For example, the feature quantity vector x = (the angle between the moving direction of the average of the frequency amplitude motion line and each line segment of the motion line). The feature quantity vector x is input to L binary decision trees. Each binary decision tree node classifies the object type of the object from the value of each feature amount. By repeating this to the terminal node, it is determined for each binary decision tree which object type the object belongs to. Since this process is performed on L binary decision trees, a histogram y of the determination results obtained by collecting the determination results is created, and the object type with the largest voting value is determined as the identification result. Object type 3 can be identified in the example of FIG. The random forest is also an example shown in FIG. 14 and is not an example of a binary decision tree, but may be a decision tree classified into three or more at each node. Further, the type of the object is, for example, a bicycle, a motorcycle, a pedestrian, a bicycle upper body, a motorcycle upper body, or a pedestrian upper body. There is no restriction on the total number of types of objects to be identified, and an object walking on a foot and an object moving on a wheel, such as a four-legged animal or a car, may be added as an identification target. Also, it is possible to identify an object on which a person is a power source and an object on which a motor is mounted, such as a bicycle and a motorcycle.
解析に用いる動線の長さは、歩行の周期に基づいて決定することができる。例えば、1歩進む間であれば0.5周期、2歩進む間であれば1周期である。1秒で2歩き、動画像のフレームレートが30fps(frames per second)の場合であれば、それぞれ15フレーム以上、30フレーム以上の動線を用いれば良いということになる。2秒で2歩の場合はその倍である。もちろんこれ以下であっても識別処理を実行することは可能である。この周期は、歩行だけでなく、自転車を漕ぐ足の動作等であっても良い。 The length of the flow line used for analysis can be determined based on the walking cycle. For example, if it is while advancing one step, it is 0.5 period, and if it is advancing two steps, it is one period. In the case where the moving image has a frame rate of 30 fps (frames per second), it means that it is sufficient to use flow lines of 15 frames or more and 30 frames or more, respectively. In the case of 2 steps in 2 seconds, it is double. Of course, it is possible to execute the identification process even below this. This cycle may be not only walking but also movement of a foot over a bicycle or the like.
以上までに述べた方法は、カメラを1台用いるカメラに関して説明したが、カメラが2第以上存在する場合でも本実施の形態を適用することができるのは明らかである。また、1つの点の動線を求める場合について説明したが、図2(b)の通り物体領域中から複数の特徴点を検出し複数の動線を求める、または頭部、腕、胴体、足等の各部位を検出し各部位の動線を求めても良い。複数の動線を求めることで、動線の算出誤差にロバストになるだけでなく、物体の一部分のみを比較すると同じ動きをしている場合であっても、複数の動線を用いることで物体の種別を識別できる。例えば、物体の重心の系列を動線とすると、二輪車と人の動線が類似する場合であっても、物体領域中に複数の動線を求めると足や手等の領域で異なった動線が得られるため、正しく物体の種別を識別することができる。 Although the method described above has been described with respect to a camera using one camera, it is apparent that the present embodiment can be applied even when there are two or more cameras. Further, although the case of obtaining the flow line of one point has been described, as shown in FIG. 2B, a plurality of feature points are detected from the object area to obtain a plurality of flow lines, or a head, an arm, a body, a foot , Etc. may be detected to determine the flow line of each part. Finding a plurality of flow lines not only makes the calculation error of the flow lines robust, but also comparing the only part of the object, even if the same movement is performed, using a plurality of flow lines makes the object Can identify the type of For example, assuming that a series of gravity centers of objects is a flow line, even if the flow lines of a two-wheeled vehicle and a human are similar, different flow lines in areas such as feet and hands if a plurality of flow lines are determined in the object area Since it is possible to correctly identify the type of object.
二輪車は人が跨って乗る乗り物であるため、形状が類似してしまう。特に、カメラに近づいてくる、あるいは離れていく方向に移動しているときに差異が小さい。本第1の実施の形態を用いることで、形状が類似してしまった物体も正しく識別できる利点がある。 The two-wheeled vehicle is similar in shape because a person straddles. In particular, the difference is small when moving in a direction approaching or away from the camera. By using the first embodiment, there is an advantage that an object whose shape is similar can be correctly identified.
また、図3(a)に示す通り人の上半身のみ映った場合と、二輪車全体が画像の下端に映った場合も輪郭が類似してしまい、従来のHOG(Histogram of Oriented Gradient)特徴量、Haar−like特徴量など物体の形状を用いる手法では誤識別が発生してしまう。この問題についても本第1の実施の形態で解決できる。 Further, as shown in FIG. 3 (a), the contours of the two-wheeled vehicle are similar to the case where only the upper body of a person appears at the lower end of the image, and the conventional HOG (Histogram of Oriented Gradient) feature, Haar In the method using the shape of the object such as -like feature amount, erroneous identification occurs. This problem can also be solved in the first embodiment.
さらに図3(b)のように歩いている人の上半身と二輪に乗った人の上半身も、二輪車がカメラの視野外であるため形状が類似する。この場合も、足で歩行している人と、二輪で移動している人では動線の形状に差異が生じるため、正しく識別することができる。 Furthermore, as shown in FIG. 3B, the upper body of the walking person and the upper body of the person riding a two-wheel vehicle are similar in shape because the two-wheeled vehicle is outside the field of view of the camera. Also in this case, the shape of the flow line is different between a person walking with a foot and a person moving with two wheels, so it can be correctly identified.
1つの物体に対して1つの動線でなく、図2(b)のように1ついの物体に対して複数の動線を求めても良い。 Instead of one flow line for one object, a plurality of flow lines may be obtained for one object as shown in FIG. 2 (b).
識別する物体は、人と二輪車以外に、縦横比が類似してしまう車と4足歩行の動物、車と台車を押している(引いている)人等であっても良い。 The object to be identified may be, other than a person and a two-wheeled vehicle, a car having a similar aspect ratio, a four-legged animal, a person pushing (pulling) a car and a truck, or the like.
ステップ112の物体検出処理は、背景差分やフレーム間差分のように、過去の画像と現在の画像の差分を取ることで物体を検出する方法を例に説明した。カメラが移動している場合、これらの手法では物体を検出することができない。その場合は、公知のHOG特徴量、Haar−like特徴量を用い、SVM等の識別器により物体を検出しても良い。または、フレーム間の画素の移動量を表すオプティカルフローから静止物と移動物体を分離することもできる。 The object detection process of step 112 has been described by way of example of a method of detecting an object by taking a difference between a past image and a current image, such as a background difference or an inter-frame difference. If the camera is moving, these techniques can not detect the object. In that case, an object may be detected by a classifier such as SVM using a known HOG feature amount and Haar-like feature amount. Alternatively, a stationary object and a moving object can be separated from an optical flow representing the amount of movement of pixels between frames.
オプティカルフローの代わりに、本発明で用いる動線を用いて静止物と移動物体を分離しても良い。その場合、物体検出部20が動線を算出し、クラスタリング処理により類似した動線を1つの物体として検出し、静止物と移動物体を分離する。動線算出部21は、物体検出部20で検出した移動物体の領域に含まれる動線のみを抽出すれば良い。 Instead of the optical flow, a moving line used in the present invention may be used to separate a stationary object and a moving object. In that case, the object detection unit 20 calculates flow lines, detects similar flow lines by clustering processing as one object, and separates a stationary object from a moving object. The movement line calculation unit 21 may extract only the movement line included in the area of the moving object detected by the object detection unit 20.
物体が1個の場合を例に説明したが、物体が複数存在する場合も適用できる。複数物体が存在する場合は、図15に示すように公知のラベリングアルゴリズムでそれぞれの物体領域に異なったラベルを付与する、または各物体の外接矩形を求める等の処理を行う。時刻tの特徴点の座標が時刻tのラベル1の領域に含まれるときは、その動線をラベル1が付与されている物体の動線と判定できる。あるいは、時刻tの特徴点の座標が外接矩形1の領域内に含まれる場合は、その動線が外接矩形1の物体の動線と判定する。 Although the case of one object is described as an example, the present invention can be applied to the case where there are a plurality of objects. When a plurality of objects are present, as shown in FIG. 15, processing such as assigning different labels to the respective object regions or finding a circumscribed rectangle of each object is performed by a known labeling algorithm. When the coordinates of the feature point at time t are included in the area of label 1 at time t, the flow line can be determined as the flow line of the object to which label 1 is applied. Alternatively, when the coordinates of the feature point at time t are included in the area of the circumscribed rectangle 1, the flow line is determined to be the flow line of the object of the circumscribed rectangle 1.
さらに物体識別部の結果に基づいて、ユーザに警報を発することができる。例えば、二輪車を検出した場合は、スピーカ17から音声を発し、モニタ16に検出した二輪車が映っている映像を表示する。もちろん二輪車でなく、人の場合に警報を発しても良い。 Furthermore, based on the result of the object identification unit, an alarm can be issued to the user. For example, when a two-wheeled vehicle is detected, sound is emitted from the speaker 17 and an image showing the detected two-wheeled vehicle is displayed on the monitor 16. Of course, in the case of a person, not a two-wheeled vehicle, an alarm may be issued.
図9に示す画像検索システム44では、物体識別部の結果に基づいてある種別の物体が映っている画像を検索し、ステップ119で求めた信頼度をもとに信頼度の高い映像から優先的にユーザに提示することができる。物体の種別は入力機器15で指定することもできる。
(第2の実施の形態)
第2の実施の形態について、図面を参照して詳細に説明する。
The image search system 44 shown in FIG. 9 searches for an image in which an object of a certain type is shown based on the result of the object identification unit, and gives priority to images with high reliability based on the reliability obtained in step 119. Can be presented to the user. The type of the object can also be designated by the input device 15.
Second Embodiment
The second embodiment will be described in detail with reference to the drawings.
第2の実施の形態は、撮像装置であるステレオカメラから取り込んだ画像を処理し、画像に映っている物体を検出するとともに、物体の種別を識別する物体識別装置、および当該装置を適用した画像処理装置について説明する。 The second embodiment processes an image captured from a stereo camera which is an imaging device, detects an object shown in the image, and identifies an object type, and an image to which the device is applied. The processing apparatus will be described.
本実施の形態に係る物体識別装置は、図10に示すような画像処理装置41における例えばCPU6またはこれに相当するユニットに適用されて、この画像処理装置41が備える複数のカメラ4aとカメラ4bにより周囲の環境を撮像し、撮像した画像を処理して物体を検出する機能を実現する。このとき、カメラは3つ以上備えていても良い。 The object identification apparatus according to the present embodiment is applied to, for example, the CPU 6 in the image processing apparatus 41 as shown in FIG. 10 or a unit corresponding thereto, and a plurality of cameras 4a and 4b included in the image processing apparatus 41. An image of a surrounding environment is processed, and a captured image is processed to realize a function of detecting an object. At this time, three or more cameras may be provided.
図13は、本実施の形態に係るステレオカメラの3次元計測の原理を説明する図である。本図に示す通り、距離bだけ離れた視点の異なる2台のカメラにより、視野の重複したシーンを撮像すると距離Z離れた計測点は、2台の画像から取得した画像上で視差δだけずれた位置に投影される。つまり、この視差δを求めれば三角測量の原理に依り画像上の点の3次元座標を算出することができる。このとき、公知のカメラキャリブレーションによりカメラ間の位置関係のずれや、レンズの焦点距離のずれ、レンズ歪みのカメラ間の差異などを補正しておくことで精度良く3次元を計測できる。 FIG. 13 is a diagram for explaining the principle of three-dimensional measurement of the stereo camera according to the present embodiment. As shown in the figure, when capturing a scene with an overlapping field of view by two cameras with different viewpoints separated by a distance b, the measurement point separated by a distance Z deviates by the parallax δ on the image acquired from the two images Projected on the That is, by obtaining the parallax δ, it is possible to calculate three-dimensional coordinates of points on the image according to the principle of triangulation. At this time, three-dimensional measurement can be performed with high accuracy by correcting the deviation of the positional relationship between the cameras, the deviation of the focal distance of the lenses, the difference between the cameras of the lens distortion, and the like by known camera calibration.
3次元座標を求めることができるステレオカメラを用いることで、2次元の画像上の動線から3次元の動線を求めることができる。これにより、例えば横向きに歩いている人と、カメラの前後方向に歩いている人では、2次元の画像上の動線の形状は異なるが、3次元空間に変換すると、方向が異なるのみで形状は類似する。この3次元の動線から前述の周波数等の特徴量を求めることで、高精度に物体の種別を識別することができる。あるいは、カメラの光軸方向に移動している物体の動線、斜め方向に移動している物体の動線、横方向に移動している物体の動線を、基準の方向(例えば横方向)に回転、平行移動により変換し、2次元座標に写像してから動線の振幅等の特徴量を求めても良い。
(第3の実施の形態)
第3の実施の形態について、図面を参照して詳細に説明する。
By using a stereo camera that can obtain three-dimensional coordinates, it is possible to obtain three-dimensional flow lines from flow lines on a two-dimensional image. Thereby, for example, the shape of the flow line on the two-dimensional image is different between the person walking sideways and the person walking in the front-rear direction of the camera, but when converted to a three-dimensional space, the shape is different only by the direction. Are similar. The type of the object can be identified with high accuracy by obtaining the feature quantity such as the above-mentioned frequency from the three-dimensional flow line. Alternatively, the flow line of an object moving in the optical axis direction of the camera, the flow line of an object moving in an oblique direction, and the flow line of an object moving in a lateral direction It may be converted by rotation or parallel movement, and may be mapped to a two-dimensional coordinate to obtain a feature quantity such as the amplitude of the flow line.
Third Embodiment
The third embodiment will be described in detail with reference to the drawings.
図16は、本実施の形態に係る特徴量を利用した人物判定の例を説明する図である。
本発明に係る物体識別装置は、図10に示すような画像処理装置41における例えばCPU6またはこれに相当するユニットに適用されて、この画像処理装置41が備える撮像装置である複数のカメラ4aとカメラ4bから取り込んだ画像を処理し、画像に映っている物体を検出するとともに、物体の種別を識別する物体識別方法である。このときカメラは同じ方向を向いている必要はない。
FIG. 16 is a diagram for explaining an example of person determination using the feature amount according to the present embodiment.
An object identification apparatus according to the present invention is applied to, for example, a CPU 6 or a unit corresponding thereto in an image processing apparatus 41 as shown in FIG. 10, and a plurality of cameras 4a and cameras which are imaging apparatuses included in the image processing apparatus 41. This is an object identification method of processing an image captured from 4b to detect an object shown in the image and identifying the type of the object. At this time, the cameras do not have to face in the same direction.
カメラ4aの撮像エリア内を人Aおよび人Bが通過し、その後カメラ4bの撮像エリア内に人Cおよび人D入った場合に、人物Aが人物Cと人Bのいずれに対応するかを判定することで、広範囲の人の追跡が可能となる。このとき、人Aの動線の形状を解析して得られる特徴量Aと、人Cと人Dの動線の形状を解析して得られる特徴量Cおよび特徴量Dを照合することで同一人物か否かを識別する。 When person A and person B pass through the imaging area of camera 4a and then person C and person D enter the imaging area of camera 4b, it is determined whether person A corresponds to person C or person B This makes it possible to track a wide range of people. At this time, the feature amount A obtained by analyzing the shape of the flow line of the person A is identical to the feature amount C obtained by analyzing the shape of the flow line of the person C and the person D and the feature amount D. Identify whether or not a person.
ステップ116の処理で、カメラ4a内の人Aから算出した動線の特徴量Aと、カメラ4b内の人Cから算出した動線の特徴量Cおよび人Dから算出した動線の特徴量Dを比較することで、人Aと人Cが同一人物か否か、あるいは人Aと人Dが同一人物か否かを判定する。例えば、人Aの動線の振幅Aや周波数Aと、人Cの動線の振幅Cや周波数Cの差分が閾値の範囲内であれば同一人物とする。このとき、動線の情報以外に、色、濃淡、輪郭、テクスチャ等のアピアランス特徴を併用しても良い。または、人Aの動線の平均の移動方向と動線の各線分の成す角度θのヒストグラムAと、人Cの動線の平均の移動方向と動線の各線分の成す角度θのヒストグラムCとの、公知のヒストグラム距離(例えば、Bhattacharyya Distance)を求め、その距離が閾値以下のときは同一の人物と判定しても良い。あるいは、人D動線の平均の移動方向と動線の各線分の成す角度θのヒストグラムDを求め、ヒストグラムAとヒストグラムCのヒストグラム距離、ヒストグラムAとヒストグラムDのヒストグラム距離を求め、距離が近い方を同一人物と判定できる。もちろん、事前に各人物の特徴量を計測可能なのであれば、SVMやランダムフォレスト等の識別器を用いて、識別しても良い。 In the process of step 116, the feature amount A of the flow line calculated from the person A in the camera 4a, the feature amount C of the flow line calculated from the person C in the camera 4b, and the feature amount D of the flow line calculated from the person D It is determined whether the person A and the person C are the same person or whether the person A and the person D are the same person by comparing. For example, if the difference between the amplitude A or frequency A of the flow line of the person A and the amplitude C or frequency C of the flow line of the person C is within the range of the threshold, the same person is used. At this time, in addition to the flow line information, appearance features such as color, gradation, contour, texture, etc. may be used in combination. Or, a histogram A of the angle θ formed by the average moving direction of the movement line of the person A and the line segments of the movement line, and a histogram C of the angle θ formed by the average movement direction of the movement line of the person C and the line segments A known histogram distance (for example, Bhattacharyya Distance) may be obtained, and when the distance is equal to or less than a threshold value, it may be determined as the same person. Alternatively, the histogram D of the angle θ of the movement direction of the human D movement line and each line segment of the movement line is determined, the histogram distance of the histogram A and the histogram C, and the histogram distance of the histogram A and the histogram D are determined. It can be determined that the same person. Of course, if the feature amount of each person can be measured in advance, identification may be performed using a classifier such as SVM or random forest.
カメラ4aとカメラ4bのカメラ2台のときについて説明したが、カメラが3台以上であっても同様に本手法を適用できる。また、カメラが1台であっても、過去に通過した人と、現在通過した人が同一人物か否かを識別することもできる。
(第4の実施の形態)
第4の実施の形態について、図面を参照して詳細に説明する。
Although the case of two cameras, the camera 4a and the camera 4b, has been described, the present method can be applied similarly even if there are three or more cameras. In addition, even if there is only one camera, it is possible to identify whether a person who has passed in the past and a person who has currently passed are the same person.
Fourth Embodiment
The fourth embodiment will be described in detail with reference to the drawings.
第4の実施の形態では、撮像装置である複数のカメラ4から取り込んだ画像を処理し、画像に映っている物体を検出するとともに、物体の属性を識別する物体識別装置について説明する。 In the fourth embodiment, an object identification apparatus will be described which processes an image captured from a plurality of cameras 4 which are imaging devices, detects an object shown in the image, and identifies an attribute of the object.
物体の属性とは、例えば傘をさしている人と、傘をさしていない人である。男性と女性、子供と大人といった年齢層、手に鞄を持った人と鞄を手に持っていない人、持っている荷物が鞄か台車かといった荷物の種別、ヒールの高い靴を履いた人とヒールの低い靴を履いた人、スカートを履いた人とパンツを履いた人等を属性として識別することもできる。人という同じ物体の種別であっても、性別、服装、持っている荷物で動線の形状が変化するため、本発明によりこれらの物体の属性を識別することができる。 The attributes of an object are, for example, a person holding an umbrella and a person not holding an umbrella. People with age groups such as men and women, children and adults, people with handcuffs and those who do not have handcuffs, types of luggage such as carrying bags or carrying carts, people with high heeled shoes It is also possible to identify a person wearing low-heeled shoes, a person wearing a skirt and a person wearing shorts as attributes. Even in the case of the same object type of human being, the shape of the flow line changes depending on the gender, clothes, and luggage carried, so that the attributes of these objects can be identified by the present invention.
物体の属性を識別する処理は、ステップ116の処理において、物体の種別の代わりに、物体の属性を識別クラスとして事前に学習させておき、入力された動画からステップ115で得られた特徴量から属性を識別する。図14の物体種別1から物体種別5が、物体属性1から物体属性5となる違いはあるが、処理は同等である。もちろん物体の属性は5つである必要はなくそれ以上であってもそれ以下でも良い。 In the process of identifying the attribute of the object, in the process of step 116, instead of the type of the object, the attribute of the object is learned in advance as an identification class, and the feature amount obtained in step 115 from the input moving image Identifies an attribute The processing is equivalent although there is a difference that the object type 1 to the object type 5 in FIG. 14 become the object attribute 1 to the object attribute 5. Of course, the attribute of the object does not have to be five, and may be more or less.
ステップ115で動線から得られる特徴量のみを説明したが、画像の画素の濃淡値や色、物体領域中の輝度変化や色の変化、背景差分やフレーム間差分により抽出した移動物体領域の形状等を特徴量として併用しても良い。
Although only the feature quantities obtained from the flow lines in step 115 have been described, the gray level and color of the pixels of the image, the change in luminance and color in the object area, and the shape of the moving object area extracted by the background difference and the interframe difference You may use together etc. as a feature-value.
1・・・物体識別方法、3・・・データ伝送手段、4・・・カメラ、5・・・画像入力手段、6・・・CPU、7・・・ROM、9・・・メモリ、11・・・バス、12・・・インターフェース(I/F)、13・・・インターフェース(I/F)、14・・・インターフェース(I/F)、15・・・入力機器、16・・・モニタ、17・・・スピーカ、18・・・インターフェース(I/F)、20・・・物体検出部、21・・・動線算出部、22・・・物体識別部、23・・・学習結果、31・・・記録装置、41・・・画像処理装置、42・・・カメラユニット、43・・・処理ユニット、44・・・画像検索システム、45・・・画像記録システム、 DESCRIPTION OF SYMBOLS 1 ... object identification method, 3 ... data transmission means, 4 ... camera, 5 ... image input means, 6 ... CPU, 7 ... ROM, 9 ... memory, 11 ... · · · · · · Bus, 12 · · · interface (I / F), 13 · · · interface (I / F), 14 · · · interface (I / F), 15 · · · input device, 16 · · · monitor, 17: speaker 18: interface (I / F) 20: object detection unit 21: movement line calculation unit 22: object identification unit 23: learning result 31 ... recording device, 41 ... image processing device, 42 ... camera unit, 43 ... processing unit, 44 ... image search system, 45 ... image recording system,
Claims (11)
物体検出部により検出した物体の動線を求める動線算出部と、
動線算出部で求めた動線の形状に基づいて、脚で歩行している物体と二輪車とを識別する物体識別部と、を具備し、
前記動線算出部で求めた動線の長さを元に物体の種別または属性の識別結果の信頼度を算出することを特徴とした物体識別装置。 An object detection unit that detects an object moving from a moving image;
A movement line calculation unit for calculating a movement line of the object detected by the object detection unit;
An object identification unit for identifying an object being walked by a leg and a two-wheeled vehicle based on the shape of the flow line obtained by the flow line calculation unit ;
An object identification apparatus characterized in that the reliability of the identification result of the type or attribute of an object is calculated based on the length of the flow line obtained by the flow line calculation unit .
車輪で移動している物体と前記脚で歩行している物体を識別することを特徴とする物体識別装置。 In the object identification device of claim 1,
An object identification apparatus characterized by identifying an object moving with a wheel and an object walking with the leg.
物体の属性として同一物体の個体を識別することを特徴とする物体識別装置。 In the object identification device of claim 1,
An object identification apparatus characterized by identifying an individual of the same object as an attribute of the object.
前記動線算出部は物体の部位毎、または物体領域中の特徴点毎に複数の動線を算出することを特徴とする物体識別装置。 In the object identification device of claim 1,
The object identification device, wherein the movement line calculation unit calculates a plurality of movement lines for each part of an object or for each feature point in an object region.
物体識別部は動線算出部で求めた動線に加え、物体の形状を解析することで物体の種別あるいは物体の属性を識別することを特徴とする物体識別装置。 In the object identification device of claim 1,
An object identification apparatus identifies the type of an object or the attribute of an object by analyzing the shape of an object in addition to the flow line obtained by the flow line calculation unit.
複数の撮像装置から取得した複数の動画像から物体を検出し、それぞれの動画像中の物体の動線を求め、動線の形状を解析することで、カメラ間で映っている物体が同一であるか否かを識別することを特徴とする物体識別装置。 In the object identification device of claim 1,
An object is detected from a plurality of moving images acquired from a plurality of imaging devices, a flow line of the object in each moving image is determined, and the shape of the flow line is analyzed. An object identification apparatus that identifies whether or not there is an object.
物体の属性として性別、年齢、服装、持っている荷物の種別の少なくとも1つを識別することを特徴とした物体識別装置。 In the object identification device of claim 1,
An object identification apparatus characterized by identifying at least one of gender, age, clothes, and the type of package carried as an attribute of the object.
物体の移動動作の周期に基づいて、動線算出部で求めた動線から形状の解析に用いる動線の長さを決定することを特徴とする物体識別装置。 In the object identification device of claim 1,
An object identification apparatus characterized in that a length of a flow line used for analysis of a shape is determined from a flow line obtained by a flow line calculation unit based on a cycle of movement operation of an object.
前記動線とは、検出した物体の重心の系列である、ことを特徴とする物体識別装置。 In the object identification device according to claim 1,
An object identification apparatus , wherein the flow line is a series of center of gravity of a detected object .
物体検出部により検出した物体の動線を求める動線算出部と、
動線算出部で求めた動線の形状に基づいて、物体の種別または物体の属性を識別する物体識別部と、を有し、
動線算出部で求めた動線の長さを元に前記種別または前記属性の識別結果の信頼度を算出することを特徴とする物体識別装置。 An object detection unit that detects an object moving from a moving image;
A movement line calculation unit for calculating a movement line of the object detected by the object detection unit;
An object identification unit that identifies the type of the object or the attribute of the object based on the shape of the flow line obtained by the flow line calculation unit;
An object identification apparatus, which calculates the reliability of the identification result of the type or the attribute based on the length of the flow line obtained by the flow line calculation unit .
物体検出部により検出した物体の動線を求める動線算出部と、
動線算出部で求めた動線の形状に基づいて、物体の種別または物体の属性を識別する物体識別部と、を有し、
動線算出部で求めた動線の長さを元に前記種別または前記属性の識別結果の信頼度を算出することを特徴とする画像処理装置。 An object detection unit that detects an object moving from a moving image;
A movement line calculation unit for calculating a movement line of the object detected by the object detection unit;
An object identification unit that identifies the type of the object or the attribute of the object based on the shape of the flow line obtained by the flow line calculation unit;
An image processing apparatus characterized by calculating the reliability of the identification result of the type or the attribute based on the length of the flow line obtained by the flow line calculation unit .
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014185852A JP6526953B2 (en) | 2014-09-12 | 2014-09-12 | Object identification method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014185852A JP6526953B2 (en) | 2014-09-12 | 2014-09-12 | Object identification method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2016057998A JP2016057998A (en) | 2016-04-21 |
| JP6526953B2 true JP6526953B2 (en) | 2019-06-05 |
Family
ID=55758717
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2014185852A Active JP6526953B2 (en) | 2014-09-12 | 2014-09-12 | Object identification method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6526953B2 (en) |
Families Citing this family (15)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6364101B1 (en) * | 2017-01-31 | 2018-07-25 | 森ビル株式会社 | Air monitoring device, air monitoring method and program |
| JP7125843B2 (en) * | 2018-01-12 | 2022-08-25 | 株式会社日立国際電気 | Fault detection system |
| JP2020013206A (en) * | 2018-07-13 | 2020-01-23 | 日本ユニシス株式会社 | Motorcycle detection device, program and system from video / camera |
| JP6978986B2 (en) * | 2018-07-30 | 2021-12-08 | 株式会社トヨタシステムズ | Warning system, warning control device and warning method |
| JP6678706B2 (en) * | 2018-07-30 | 2020-04-08 | 株式会社トヨタシステムズ | Type determination program, type determination device and type determination method |
| WO2020179730A1 (en) * | 2019-03-04 | 2020-09-10 | 日本電気株式会社 | Information processing device, information processing method, and program |
| JPWO2020240851A1 (en) * | 2019-05-31 | 2021-09-13 | ニューラルポケット株式会社 | Information processing system, information processing device, server device, program, or method |
| JP7469144B2 (en) * | 2020-05-29 | 2024-04-16 | 株式会社Soken | Transportation System |
| JP7494130B2 (en) * | 2021-01-19 | 2024-06-03 | 株式会社東芝 | Information processing system, information processing method, and program |
| JP7113930B1 (en) * | 2021-03-12 | 2022-08-05 | 荏原環境プラント株式会社 | Fallen Person Detection System, Fallen Person Detection Method, and Fallen Person Detection Program |
| JP7162761B1 (en) * | 2021-05-26 | 2022-10-28 | 三菱電機株式会社 | Person tracking device and person tracking method |
| JP7635699B2 (en) * | 2021-11-01 | 2025-02-26 | トヨタ自動車株式会社 | Method for determining type of movement of a person, device for determining type of movement of a person, and program for determining type of movement of a person |
| CN115546830A (en) * | 2022-09-30 | 2022-12-30 | 星宠王国(北京)科技有限公司 | Missing dog searching method, device and equipment |
| WO2025164745A1 (en) * | 2024-01-31 | 2025-08-07 | 日本電気通信システム株式会社 | Object state grasping device, object state grasping system, object state grasping method, and program |
| WO2026083803A1 (en) * | 2024-10-18 | 2026-04-23 | 日本電気株式会社 | Monitoring device, monitoring method, and program |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2001056853A (en) * | 1999-08-19 | 2001-02-27 | Matsushita Electric Ind Co Ltd | BEHAVIOR DETECTING DEVICE AND TYPE IDENTIFYING DEVICE, BEHAVIOR DETECTING METHOD, AND RECORDING MEDIUM CONTAINING BEHAVIOR DETECTING PROGRAM |
| CN101398890B (en) * | 2004-08-03 | 2010-12-08 | 松下电器产业株式会社 | Person determination device |
| CN103189898B (en) * | 2011-03-22 | 2016-01-20 | 松下电器产业株式会社 | Moving body pick-up unit and moving body detection method |
| JP5975353B2 (en) * | 2011-03-31 | 2016-08-23 | パナソニックIpマネジメント株式会社 | People counting device |
-
2014
- 2014-09-12 JP JP2014185852A patent/JP6526953B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2016057998A (en) | 2016-04-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6526953B2 (en) | Object identification method | |
| Gowsikhaa et al. | Automated human behavior analysis from surveillance videos: a survey | |
| Hu et al. | Moving object detection and tracking from video captured by moving camera | |
| Guerrero-Gómez-Olmedo et al. | Vehicle tracking by simultaneous detection and viewpoint estimation | |
| Köhler et al. | Early detection of the pedestrian's intention to cross the street | |
| Jodoin et al. | Urban tracker: Multiple object tracking in urban mixed traffic | |
| Keller et al. | The benefits of dense stereo for pedestrian detection | |
| Wojek et al. | Monocular 3d scene understanding with explicit occlusion reasoning | |
| Zhou et al. | Moving object detection and segmentation in urban environments from a moving platform | |
| CN104517095B (en) | A kind of number of people dividing method based on depth image | |
| US20160275695A1 (en) | System and a method for tracking objects | |
| D'Orazio et al. | A survey of automatic event detection in multi-camera third generation surveillance systems | |
| Lee et al. | Driving recorder based on-road pedestrian tracking using visual SLAM and constrained multiple-kernel | |
| Qureshi et al. | Highway traffic surveillance over UAV dataset via blob detection and histogram of gradient | |
| Sotelo et al. | Pedestrian detection using SVM and multi-feature combination | |
| Nieto-Hidalgo et al. | Vision based gait analysis for frontal view gait sequences using RGB camera | |
| Lateef et al. | Motion and geometry-related information fusion through a framework for object identification from a moving camera in urban driving scenarios | |
| Mujtaba et al. | Drone Based Traffic Surveillance using Semantic Segmentation and DeepSort | |
| TW201520907A (en) | Vision-based cyclist and pedestrian detection system and the methods | |
| Levi et al. | Tracking and motion cues for rear-view pedestrian detection | |
| Mumcu et al. | Complexvad: Detecting interaction anomalies in video | |
| JP2025512743A (en) | Sports timing based on camera systems | |
| Kilicarslan et al. | DeepStep: Direct detection of walking pedestrian from motion by a vehicle camera | |
| JP4816240B2 (en) | Data processing apparatus, data processing method, recognition apparatus, and recognition method | |
| Victoria Priscilla et al. | Pedestrian detection-a survey |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20170117 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20170124 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170222 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170222 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180219 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180306 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180419 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180420 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180918 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181106 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190409 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190509 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6526953 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |