JP7647189B2 - 物体位置検出装置及び方法 - Google Patents
物体位置検出装置及び方法 Download PDFInfo
- Publication number
- JP7647189B2 JP7647189B2 JP2021038305A JP2021038305A JP7647189B2 JP 7647189 B2 JP7647189 B2 JP 7647189B2 JP 2021038305 A JP2021038305 A JP 2021038305A JP 2021038305 A JP2021038305 A JP 2021038305A JP 7647189 B2 JP7647189 B2 JP 7647189B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- data including
- radar signal
- radar
- detection device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/50—Systems of measurement based on relative movement of target
- G01S13/52—Discriminating between fixed and moving objects or between objects moving at different speeds
- G01S13/536—Discriminating between fixed and moving objects or between objects moving at different speeds using transmission of continuous unmodulated waves, amplitude-, frequency-, or phase-modulated waves
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/06—Systems determining position data of a target
- G01S13/08—Systems for measuring distance only
- G01S13/32—Systems for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated
- G01S13/34—Systems for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated using transmission of continuous, frequency-modulated waves while heterodyning the received signal, or a signal derived therefrom, with a locally-generated signal related to the contemporaneously transmitted signal
- G01S13/343—Systems for measuring distance only using transmission of continuous waves, whether amplitude-, frequency-, or phase-modulated, or unmodulated using transmission of continuous, frequency-modulated waves while heterodyning the received signal, or a signal derived therefrom, with a locally-generated signal related to the contemporaneously transmitted signal using sawtooth modulation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/06—Systems determining position data of a target
- G01S13/42—Simultaneous measurement of distance and other co-ordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/50—Systems of measurement based on relative movement of target
- G01S13/58—Velocity or trajectory determination systems; Sense-of-movement determination systems
- G01S13/583—Velocity or trajectory determination systems; Sense-of-movement determination systems using transmission of continuous unmodulated waves, amplitude-, frequency-, or phase-modulated waves and based upon the Doppler effect resulting from movement of targets
- G01S13/584—Velocity or trajectory determination systems; Sense-of-movement determination systems using transmission of continuous unmodulated waves, amplitude-, frequency-, or phase-modulated waves and based upon the Doppler effect resulting from movement of targets adapted for simultaneous range and velocity measurements
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/89—Radar or analogous systems specially adapted for specific applications for mapping or imaging
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/91—Radar or analogous systems specially adapted for specific applications for traffic control
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/35—Details of non-pulse systems
- G01S7/352—Receivers
- G01S7/356—Receivers involving particularities of FFT processing
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S7/00—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
- G01S7/02—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00
- G01S7/41—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
- G01S7/417—Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S13/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section involving the use of neural networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/01—Detecting movement of traffic to be counted or controlled
- G08G1/04—Detecting movement of traffic to be counted or controlled using optical or ultrasonic detectors
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/065—Traffic control systems for road vehicles by counting the vehicles in a section of the road or in a parking area, i.e. comparing incoming count with outgoing count
-
- G—PHYSICS
- G08—SIGNALLING
- G08G—TRAFFIC CONTROL SYSTEMS
- G08G1/00—Traffic control systems for road vehicles
- G08G1/16—Anti-collision systems
- G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/02—Systems using reflection of radio waves, e.g. primary radar systems; Analogous systems
- G01S13/50—Systems of measurement based on relative movement of target
- G01S13/52—Discriminating between fixed and moving objects or between objects moving at different speeds
- G01S13/538—Discriminating between fixed and moving objects or between objects moving at different speeds eliminating objects that have not moved between successive antenna scans, e.g. area MTi
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/881—Radar or analogous systems specially adapted for specific applications for robotics
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S13/00—Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
- G01S13/88—Radar or analogous systems specially adapted for specific applications
- G01S13/93—Radar or analogous systems specially adapted for specific applications for anti-collision purposes
- G01S13/931—Radar or analogous systems specially adapted for specific applications for anti-collision purposes of land vehicles
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10032—Satellite or aerial image; Remote sensing
- G06T2207/10044—Radar image
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20048—Transform domain processing
- G06T2207/20056—Discrete and fast Fourier transform, [DFT, FFT]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20224—Image subtraction
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30236—Traffic on road, railway or crossing
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30242—Counting objects in image
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
Landscapes
- Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Electromagnetism (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Radar Systems Or Details Thereof (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
Description
レーダ装置からのレーダ信号に基づいて、物体の位置を検出する物体位置検出装置であって、
前記レーダ信号を含む画像データに基づいて、前記物体の位置を表す所定の教師画像データにより学習された機械学習モデルを用いて、前記物体の有無及び位置を推定して、前記推定された物体の有無及び位置を表す画像データを出力する位置推定部を、
備える。
本発明者らは、レーダ装置を用いた例えば通行車両数計測のアプリケーションにおいて、トンネル内や防音壁が近接する場所等で、マルチパスフェージングやクラッタが発生する環境内で、計数がうまくいかないという課題があることを知り、それに対する解決手段として本発明の実施形態を考案したものである。
図1は実施形態に係る物体推定時の物体位置検出装置の構成例を示すブロック図であり、図2は実施形態に係る学習時の物体位置検出装置の構成例を示すブロック図である。
信号処理部2及び入力処理部3の信号処理(信号データの種類)と
出力データフォーマット
――――――――――――――――――――――――――――――――――
レーダ装置1のI/Q信号取得処理(複素数データ):
フレーム数×チャープ数×仮想受信アンテナ数×取得サンプル数
――――――――――――――――――――――――――――――――――
レーダ装置1のチャープ信号の積算処理(複素数データ):
フレーム数×仮想受信アンテナ数×取得サンプル数
――――――――――――――――――――――――――――――――――
距離FFT処理(複素数データ):
フレーム数×仮想受信アンテナ数×距離ビン数
――――――――――――――――――――――――――――――――――
到来方向推定処理(デジタルビームフォーミング法)(複素数データ):
フレーム数×方位ビン数×距離ビン数
――――――――――――――――――――――――――――――――――
到来方向推定処理後のI/Q信号の振幅絶対値演算及び対数変換処理
(複素数データ):
フレーム数×方位ビン数×距離ビン数
――――――――――――――――――――――――――――――――――
時間差分処理(複素数データ):
(フレーム数-1)×方位ビン数×距離ビン数
――――――――――――――――――――――――――――――――――
正規化処理(複素数データ):
(フレーム数-1)×方位ビン数×距離ビン数
――――――――――――――――――――――――――――――――――
(時間,距離,方位,チャネル)=(80,128,80,1)
(距離,方位,チャネル)=(128,80,1)
(距離,方位,チャネル)=(128,80,1)
(距離,方位,チャネル)=(128,80,1)
(1)教師画像データにおける前記物体ラベルの各次元方向におけるサイズは、点反射源からの反射波を検出したときの各次元方向におけるメインローブ幅を上限として設定され、もしくは
(2)教師画像データにおける前記物体ラベルの各次元方向におけるサイズは、前記レーダ装置の方位方向のチャンネル数及びレーダ帯域幅から定まる各次元方向におけるメインローブ幅を上限として設定される、
ことが好ましい。
(1)入力データは、各方位及び各距離における反射強度の情報を含むレーダ画像を時間フレームで後退差分したヒートマップを表す画像データある。
(2)距離及び方位の範囲はアプリケーションに合わせて任意に設定可能である。
(3)入力される画像データは必ずしも3次元である必要はなく、時系列をなくして1フレームで推論してもよい。
(4)入力と出力の距離及び方位の範囲(画像サイズ)は必ずしも同じである必要はない。
(5)入力データのモーダルを増やすことも可能であって、例えば、時間差分前の反射強度画像を2つ目のモーダルとして、RGB画像のように2つ目のチャネルとして用意してもよい。
(1)教師画像データ及び出力画像データは、例えば0~1の出力範囲で表現されたグレースケールの画像を含む。
(2)検出対象となる物標以外の背景等を0として表現する。
(3)検出対象となる物標を1とし、複数画素の所定形状の図形の物体ラベルで表現する。
(4)物標の位置は時系列中の特定のフレームを基準に決定し、図6A~図8Cの実施例では時系列中の中心フレームを基準に物標の位置を決定した。
(5)物体ラベルの中心座標は物標の位置情報を示す。
(6)物体ラベルのサイズは物標のサイズには依存せず一定のサイズで表す。
(1)最大値フィルタ(6×6のフィルタであって、正解ラベルサイズやアプリケーションに応じて任意にサイズを決定することが可能)を用いて最大値のピーク位置を検索し、検索結果の画素を有する画像データを得る。
(2)次いで、得られた画像データに対してマスク処理を行うことで元の配列と同じ値を持つ要素だけ残した画像データを得る。
(3)さらに、得られた画像データに対してノイズ除去のために、所定のしきい値以下の低値ピークの画素を排除して画像データを得る。
以上説明したように、本実施形態によれば、物標の位置を推定する手段としてCFARとクラスタリングを組み合わせる方法ではなく、信号処理によって生成した時間差分時系列情報と画像認識用の機械学習モデルを用いることで、物標の位置に対応する物体ラベルを描画した画像データを生成することができる。それにより、CFARやクラスタリングで課題が発生する状況においても、それぞれの物標の位置を、従来技術に比較して高精度に推定することが可能になった。ここで、従来技術であるドップラーFFT、CFAR、クラスタ分析では計数がうまくいかない物体近接状況において、正しく波源数を計数でき位置を検出できるという、特有の効果を有する。
(1)信号処理部2において、信号を分離するためのドップラー速度FFT処理が不要になる。なお、従来技術では、距離(レンジ)及びドップラー速度(相対速度)の2次元FFT処理を行うことが一般的である。
(2)CFAR及びクラスタ分析が不要である。
(3)クラッタやサイドローブを抑圧する必要がない。
(4)所望する物標からの反射信号が微弱であっても検知が可能である。
(5)実施形態に係る物体検出処理では、レーダ画像の情報は欠損しない。
(6)アンテナ素子が少なくても高精度な検知が可能である。
図10は変形例に係る物体位置検出装置で用いる画像データの次元を示す図である。以上の実施形態では、方位に対する距離を表す2次元画像データを用いて物標を検出している。しかし、本発明はこれに限らず、図10に示すように、方位及び距離の次元にさらに、相対速度(ドップラー速度)を含み、方位に対する距離及び速度を表す3次元画像データを用いて物標を検出してもよい。この場合、距離FFT部22に代えて、距離及び速度FFT部を備え、公知の距離及び速度の2次元FFT処理を行う。
本実施形態に係る物体位置検出装置の応用例について以下に説明する。
レーダ装置はトンネル内の天井に搭載されて、トンネル内の交通流(交通トラフィック)の監視のために使用される。本発明の実施形態によって、内壁や車両同士による虚像の影響を受けずに観測エリアに存在する物標(移動体)の位置を正しく検出することができる。また、その結果に対してトラッキングを加えることで交通流の監視や通知の制御に適用することができる。
レーダ装置は高速道路の防音壁(遮音壁)のように道路に近接する大きな構造物が存在する環境の路側機に搭載されて、交通流の監視のために使用される。本発明の実施形態によって、防音壁や車両同士による虚像の影響を受けずに観測エリアに存在する物標(移動体)の位置を正しく検出することができる。また、その結果に対してトラッキングを加えることで交通流の監視や通知の制御に適用することができる。
レーダ装置は交差点の路側機に搭載されて、交通流の監視のために使用される。本発明の実施形態によって、人間同士や電柱や建物などによる虚像の影響を受けずに観測エリアに存在する物標(移動体)の位置を正しく検出し、その結果が歩行者の安全監視や通知の制御に用いられる。
レーダ装置は工場内で稼働する自動搬送車や自走ロボットに搭載され、障害物を検知するために使用される。本発明の実施形態によって、工場内における製造ラインの機械や作業者などによる虚像の影響を受けずに観測エリアに存在する物標(障害物)の位置を正しく検出し、その結果が自動搬送車や自走ロボットの走行制御に用いられる。
本発明の実施形態では、機械学習モデル40は、物体の位置に対応する情報を画像データとして出力することを特徴としている。ここで、機械学習モデル40の入力データは、方位に対する距離の各位置における反射強度の情報を含むレーダ信号の画像データを時間フレームで差分した後、時系列化した画像データである。また、機械学習モデル40の教師出力データは、物体の位置情報を複数の画素で表すことを特徴としている。これにより、例えばRAD(Range Azimuth Doppler)のヒートマップのテンソル及び正解ボックスのクラス及び位置を用いる従来技術に比較して、複数の物体の有無と位置に関する情報を1枚の画像データの形式で出力するために、計算コストがきわめて小さい。また、機械学習モデル40の構造も従来技術に比較して簡単である。
2 信号処理部
3 入力処理部
4 物体検出部
5 出力処理部
6 物体座標検出部
7 表示部
8 記憶部
21 AD変換部
22 距離FFT部
23 到来方向推定部
31 時間差分部
32 正規化部
40,40A,40B 機械学習モデル
41 3次元畳み込みエンコーダ
42 2次元畳み込みデコーダ
51 2次元畳み込みエンコーダ
52 2次元畳み込みデコーダ
61 テンプレートマッチング部
62 ピークサーチ部
81 学習済み機械学習モデル
101 物標が存在する座標点に対応する画素
Claims (19)
- レーダ装置からのレーダ信号に基づいて、物体の位置を検出する物体位置検出装置であって、
前記レーダ信号を含む画像データに基づいて、前記物体の位置を表す所定の教師画像データにより学習された機械学習モデルを用いて、前記物体の有無及び位置を推定して、前記推定された物体の有無及び位置を表す画像データを出力する位置推定部を備え、
前記教師画像データは、前記物体の位置を示す複数の画素から構成された図形である物体ラベルで表わされ、
前記物体ラベルは、各次元方向に凸である形状を有し、
前記教師画像データにおける前記物体ラベルの各次元方向におけるサイズは、点反射源からの反射波を検出したときの各次元方向におけるメインローブ幅を上限として設定される、
物体位置検出装置。 - レーダ装置からのレーダ信号に基づいて、物体の位置を検出する物体位置検出装置であって、
前記レーダ信号を含む画像データに基づいて、前記物体の位置を表す所定の教師画像データにより学習された機械学習モデルを用いて、前記物体の有無及び位置を推定して、前記推定された物体の有無及び位置を表す画像データを出力する位置推定部を備え、
前記教師画像データは、前記物体の位置を示す複数の画素から構成された図形である物体ラベルで表わされ、
前記物体ラベルは、各次元方向に凸である形状を有し、
前記教師画像データにおける前記物体ラベルの各次元方向におけるサイズは、前記レーダ装置の方位方向のチャンネル数及びレーダ帯域幅から定まる各次元方向におけるメインローブ幅を上限として設定される、
物体位置検出装置。 - 前記画像データは、方位に対する距離の2次元画像データである、
請求項1又は2に記載の物体位置検出装置。 - 前記画像データは、距離、方位及び速度のうちの少なくとも2つの次元を有する画像データである、
請求項1又は2に記載の物体位置検出装置。 - 前記物体ラベルは、前記物体の位置が前記物体ラベルの中心に位置するように構成される、請求項1又は2に記載の物体位置検出装置。
- 前記レーダ信号を含む画像データは、方位に対する距離の各位置における反射強度を含む画像データである、
請求項1~5のいずれか1項に記載の物体位置検出装置。 - 前記レーダ信号を含む画像データは、前記方位に対する距離の各位置における反射強度を含む画像データに基づいて、複数の異なる時刻で取得された時系列の複数の画像データである、
請求項6に記載の物体位置検出装置。 - 前記レーダ信号を含む画像データは、前記複数の異なる時刻で取得された時系列の複数の画像データに対して、時間差分の反射強度を計算することで得られる前記時間差分の反射強度を含む画像データである、
請求項7に記載の物体位置検出装置。 - 前記レーダ信号を含む画像データは、
前記方位に対する距離の各位置における反射強度を含む画像データに対してドップラーFFTを行った後、前記ドップラーFFTにより得られたゼロドップラー成分を、前記レーダ信号を含む画像データから減算し、当該減算された画像データに基づいて複数の異なる時刻で取得された時系列の複数の画像データである、
請求項7に記載の物体位置検出装置。 - 前記物体位置検出装置は、
(1)トンネル内の交通流を測定するトンネル交通流監視センサ装置と、
(2)所定の構造物の傍に設けられた交通流監視センサ装置、
(3)交差点に設けられ、交差点の歩行者を測定する歩行者監視センサ装置と、
(4)工場内での自動搬送車もしくは自走ロボットの障害物を検出するセンサ装置との
いずれかである、請求項1~9のいずれか1項に記載の物体位置検出装置。 - レーダ装置からのレーダ信号に基づいて、物体の位置を検出する物体位置検出装置の物体位置検出方法であって、
位置推定部が、前記レーダ信号を含む画像データに基づいて、前記物体の位置を表す所定の教師画像データにより学習された機械学習モデルを用いて、前記物体の有無及び位置を推定して、前記推定された物体の有無及び位置を表す画像データを出力するステップを含み、
前記教師画像データは、前記物体の位置を示す複数の画素から構成された図形である物体ラベルで表わされる、
前記物体ラベルは、各次元方向に凸である形状を有し、
前記教師画像データにおける前記物体ラベルの各次元方向におけるサイズは、点反射源からの反射波を検出したときの各次元方向におけるメインローブ幅を上限として設定される、
物体位置検出方法。 - レーダ装置からのレーダ信号に基づいて、物体の位置を検出する物体位置検出装置の物体位置検出方法であって、
位置推定部が、前記レーダ信号を含む画像データに基づいて、前記物体の位置を表す所定の教師画像データにより学習された機械学習モデルを用いて、前記物体の有無及び位置を推定して、前記推定された物体の有無及び位置を表す画像データを出力するステップを含み、
前記教師画像データは、前記物体の位置を示す複数の画素から構成された図形である物体ラベルで表わされる、
前記物体ラベルは、各次元方向に凸である形状を有し、
前記教師画像データにおける前記物体ラベルの各次元方向におけるサイズは、前記レーダ装置の方位方向のチャンネル数及びレーダ帯域幅から定まる各次元方向におけるメインローブ幅を上限として設定される、
物体位置検出方法。 - 前記画像データは、方位に対する距離の2次元画像データである、
請求項11又は12に記載の物体位置検出方法。 - 前記画像データは、距離、方位及び速度のうちの少なくとも2つの次元を有する画像データである、
請求項11又は12に記載の物体位置検出方法。 - 前記物体ラベルは、前記物体の位置が前記物体ラベルの中心に位置するように構成される、請求項11又は12に記載の物体位置検出方法。
- 前記レーダ信号を含む画像データは、方位に対する距離の各位置における反射強度を含む画像データである、
請求項11~15のいずれか1項に記載の物体位置検出方法。 - 前記レーダ信号を含む画像データは、前記方位に対する距離の各位置における反射強度を含む画像データに基づいて、複数の異なる時刻で取得された時系列の複数の画像データである、
請求項16に記載の物体位置検出方法。 - 前記レーダ信号を含む画像データは、前記複数の異なる時刻で取得された時系列の複数の画像データに対して、時間差分の反射強度を計算することで得られる前記時間差分の反射強度を含む画像データである、
請求項17に記載の物体位置検出方法。 - 前記レーダ信号を含む画像データは、
前記方位に対する距離の各位置における反射強度を含む画像データに対してドップラーFFTを行った後、前記ドップラーFFTにより得られたゼロドップラー成分を、前記レーダ信号を含む画像データから減算し、当該減算された画像データに基づいて複数の異なる時刻で取得された時系列の複数の画像データである、
請求項17に記載の物体位置検出方法。
Priority Applications (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021038305A JP7647189B2 (ja) | 2021-03-10 | 2021-03-10 | 物体位置検出装置及び方法 |
| US18/279,296 US20240142600A1 (en) | 2021-03-10 | 2022-03-08 | Object-position detector apparatus and detection method for estimating position of object based on rader information from rader apparatus |
| CN202280017396.3A CN116888502A (zh) | 2021-03-10 | 2022-03-08 | 物体位置检测装置及方法 |
| EP22767151.8A EP4307001A4 (en) | 2021-03-10 | 2022-03-08 | DEVICE AND METHOD FOR DETECTING POSITIONS OF OBJECTS |
| PCT/JP2022/010041 WO2022191197A1 (ja) | 2021-03-10 | 2022-03-08 | 物体位置検出装置及び方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021038305A JP7647189B2 (ja) | 2021-03-10 | 2021-03-10 | 物体位置検出装置及び方法 |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2022138425A JP2022138425A (ja) | 2022-09-26 |
| JP2022138425A5 JP2022138425A5 (ja) | 2023-09-04 |
| JP7647189B2 true JP7647189B2 (ja) | 2025-03-18 |
Family
ID=83226760
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021038305A Active JP7647189B2 (ja) | 2021-03-10 | 2021-03-10 | 物体位置検出装置及び方法 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US20240142600A1 (ja) |
| EP (1) | EP4307001A4 (ja) |
| JP (1) | JP7647189B2 (ja) |
| CN (1) | CN116888502A (ja) |
| WO (1) | WO2022191197A1 (ja) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20250201114A1 (en) * | 2022-03-11 | 2025-06-19 | Hitachi Astemo, Ltd. | External environment recognition device and external environment recognition method |
| CN116228632A (zh) * | 2022-12-01 | 2023-06-06 | 航天科工深圳(集团)有限公司 | 一种用于无人艇感知系统的水天线检测方法 |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019152543A (ja) | 2018-03-02 | 2019-09-12 | 株式会社東芝 | 目標認識装置、目標認識方法及びプログラム |
| WO2020022110A1 (ja) | 2018-07-27 | 2020-01-30 | パナソニック株式会社 | レーダデータ処理装置、物体判別装置、レーダデータ処理方法、および物体判別方法 |
| US20200278444A1 (en) | 2019-03-01 | 2020-09-03 | Samsung Electronics Co., Ltd. | Determining relevant signals using multi-dimensional radar signals |
| WO2020261525A1 (ja) | 2019-06-28 | 2020-12-30 | 日本電気株式会社 | レーダ装置、イメージング方法およびイメージングプログラム |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB9023909D0 (en) * | 1990-11-02 | 1990-12-12 | Secr Defence | Radar apparatus |
| JP6699904B2 (ja) | 2017-06-06 | 2020-05-27 | 株式会社東芝 | レーダ装置及びそのレーダ信号処理方法 |
| US10962637B2 (en) * | 2018-06-25 | 2021-03-30 | Texas Instruments Incorporated | Radar data processing using neural network classifier and confidence metrics |
-
2021
- 2021-03-10 JP JP2021038305A patent/JP7647189B2/ja active Active
-
2022
- 2022-03-08 WO PCT/JP2022/010041 patent/WO2022191197A1/ja not_active Ceased
- 2022-03-08 US US18/279,296 patent/US20240142600A1/en active Pending
- 2022-03-08 CN CN202280017396.3A patent/CN116888502A/zh active Pending
- 2022-03-08 EP EP22767151.8A patent/EP4307001A4/en active Pending
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019152543A (ja) | 2018-03-02 | 2019-09-12 | 株式会社東芝 | 目標認識装置、目標認識方法及びプログラム |
| WO2020022110A1 (ja) | 2018-07-27 | 2020-01-30 | パナソニック株式会社 | レーダデータ処理装置、物体判別装置、レーダデータ処理方法、および物体判別方法 |
| US20200278444A1 (en) | 2019-03-01 | 2020-09-03 | Samsung Electronics Co., Ltd. | Determining relevant signals using multi-dimensional radar signals |
| WO2020261525A1 (ja) | 2019-06-28 | 2020-12-30 | 日本電気株式会社 | レーダ装置、イメージング方法およびイメージングプログラム |
Non-Patent Citations (1)
| Title |
|---|
| SANCHEZ-LOPEZ, Jose Luis, 外2名,"Semantic situation awareness of ellipse shapes via deep learning for multirotor aerial robots with a 2D LIDAR",2020 INTERNATIONAL CONFERENCE ON UNMANNED AIRCRAFT SYSTEMS (ICUAS) [online],2020年10月06日,Pages 1014-1023,<URL: https://doi.org/10.1109/ICUAS48674.2020.9214063 > |
Also Published As
| Publication number | Publication date |
|---|---|
| CN116888502A (zh) | 2023-10-13 |
| JP2022138425A (ja) | 2022-09-26 |
| EP4307001A4 (en) | 2025-03-05 |
| WO2022191197A1 (ja) | 2022-09-15 |
| US20240142600A1 (en) | 2024-05-02 |
| EP4307001A1 (en) | 2024-01-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3252501B1 (en) | Enhanced object detection and motion state estimation for a vehicle environment detection system | |
| US20220156967A1 (en) | Device and method for detection and localization of vehicles | |
| US11719811B2 (en) | Method and device to improve radar data using reference data | |
| JP2020091281A (ja) | レーダーデータを処理する装置及び方法 | |
| CN103176185B (zh) | 用于检测道路障碍物的方法及系统 | |
| JP7704874B2 (ja) | 自動車グレードのレーダ信号においてオブジェクトを検出するための方法 | |
| CN115701289A (zh) | 汽车成像中的集群 | |
| CN111386476B (zh) | 确定车辆雷达系统中的对象运动和加速度矢量 | |
| JP6733060B2 (ja) | 車両レーダシステム用の逆合成開口レーダ | |
| EP3982160A1 (en) | Method and system for indoor multipath ghosts recognition | |
| US11709260B2 (en) | Data driven resolution function derivation | |
| CN115061113B (zh) | 用于雷达的目标检测模型训练方法、装置及存储介质 | |
| JP7647189B2 (ja) | 物体位置検出装置及び方法 | |
| CN117214884A (zh) | 雷达与摄像头传感器组合探测的方法 | |
| CN118115971A (zh) | 多传感器融合的自动驾驶复杂环境感知系统及方法 | |
| CN113640802A (zh) | 一种基于多融合传感器的机器人空间定位方法和系统 | |
| EP4369028A1 (en) | Interface for detection representation of hidden activations in neural networks for automotive radar | |
| Ren et al. | Discrimination of automotive radar distributed targets | |
| EP4667968A1 (en) | Data processing method of radar sensor, and related apparatus | |
| Hu | Doppler principle based situational awareness method for autonomous driving | |
| JP7461160B2 (ja) | 3次元情報推定システム、3次元情報推定方法、及びコンピュータが実行可能なプログラム | |
| Prajwal et al. | Implementation of Radar-Camera fusion for Efficient Object Detection and Distance Estimation in Autonomous Vehicles | |
| EP4737947A1 (en) | Method and device for determining position of obstacle in surrounding environment of vehicle | |
| WO2024147881A1 (en) | Processing for machine learning based object detection using sensor data |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230824 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240116 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240827 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241024 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241210 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250116 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250204 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250217 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7647189 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |