JP4065770B2 - Moving body detection device - Google Patents
Moving body detection device Download PDFInfo
- Publication number
- JP4065770B2 JP4065770B2 JP2002359487A JP2002359487A JP4065770B2 JP 4065770 B2 JP4065770 B2 JP 4065770B2 JP 2002359487 A JP2002359487 A JP 2002359487A JP 2002359487 A JP2002359487 A JP 2002359487A JP 4065770 B2 JP4065770 B2 JP 4065770B2
- Authority
- JP
- Japan
- Prior art keywords
- sound source
- moving body
- sound
- vehicle
- calculated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
- Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
- Traffic Control Systems (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、道路を走行する複数の移動体から発生した騒音を複数のマイクロホンで集音し、集音した騒音から複数の移動体を検出する移動体検出装置に関する。
【0002】
【従来の技術】
従来、車両から発生した騒音を集音し、集音した騒音が予め設定された種類の騒音か否かを判定することにより予め分類された種類の騒音を発生する車両を検出する車両検出装置が知られている。
【0003】
図6に示す従来の車両検出装置は、車両から発生した音を集音する集音器3と、車両を撮像するビデオカメラ4と、集音器3が集音した音が特定の車両から発生した音であることを認識する音響認識装置6と、音響認識装置6が特定の車両であることを認識したとき、特定の車両を撮影するビデオ装置8とを備え、音響認識装置6は予め保持した特定の車両の音と集音器3が集音した音とを比較し、比較した結果に基づいて特定の車両を認識するようになっていた(例えば特許文献1参照)。
【0004】
【特許文献1】
特開2000−30184号公報(第2頁)
【0005】
【発明が解決しようとする課題】
しかしながら、従来の車両検出装置は、車両から発生した騒音の音圧レベルが極大になる時刻の車両を検出するようにしていたので、複数の車両が絶間なく走行する道路では、騒音が複数の車両の何れから発生したのかを判定することが難しいという問題があった。
【0006】
本発明は、従来の問題を解決するためになされたもので、複数の移動体が絶間なく走行する道路であっても、騒音が複数の移動体の何れから発生したのかを判定することが容易な移動体検出装置を提供するものである。
【0007】
【課題を解決するための手段】
本発明の移動体検出装置は、移動体の発する音を所定の範囲内で集音する複数のマイクロホンと、前記複数のマイクロホンの出力信号をもとに前記移動体の存在する方向を算出する方向算出手段と、前記方向の変化を検出して前記所定の範囲内における前記移動体の移動状態を算出する移動状態算出手段と、前記移動状態をもとに前記移動状態が所定の位置を通過する通過時刻を算出する通過時刻算出手段と、前記通過時刻に前記所定の位置で集音された音をもとに前記移動体の発する音の種別を判定する音種別判定手段とを備えた構成を有している。
【0008】
この構成により、複数の移動体が所定の位置を通過する時刻をそれぞれ算出することができ、算出した時刻に収集した音が予め設定された種類の音か否かを判定し、予め設定された種類の音を発生する移動体を検出することができる。
【0009】
本発明の移動体検出装置は、前記移動状態算出手段は、前記移動状態の典型を示す複数のテンプレートを有し、前記複数のテンプレートと前記方向算出手段の算出結果との比較を行って、前記移動体の移動状態を算出する構成を有している。
【0010】
この構成により、複数のテンプレートと方向算出手段の算出結果とを比較して複数の移動体の移動状態を算出することができる。
【0011】
本発明の移動体検出装置は、前記移動状態算出手段は、前記移動体が異なる方向に進行した場合の移動状態の典型を示す複数のテンプレートを有し、前記複数のテンプレートと前記方向算出手段の算出結果との比較を行って、前記移動体の移動状態を算出する構成を有している。
【0012】
この構成により、複数のテンプレートと方向算出手段の算出結果とを比較して複数の移動体の移動状態を算出することができる。
【0013】
本発明の移動体検出装置は、前記移動状態算出手段は、前記移動体が異なる速度で進行した場合の移動状態の典型を示す複数のテンプレートを有し、前記複数のテンプレートと前記方向算出手段の算出結果との比較を行って、前記移動体の移動状態を算出する構成を有している。
【0014】
この構成により、複数のテンプレートと方向算出手段の算出結果とを比較して複数の移動体の移動状態を算出することができる。
【0027】
【発明の実施の形態】
以下、本発明の実施の形態について、図面を参照して説明する。
【0028】
図1に示すように、本発明の実施の形態の車両検出装置は、道路を走行する車両から発生した騒音を集音し、集音した騒音を複数の騒音信号に変換し、変換した複数の騒音信号を入力するM個(M>2)のマイクロホン103a〜103cと、M個のマイクロホン103a〜103cから入力された騒音信号を時間軸に沿って複数のフレームに分割し、分割したフレーム毎にM個の騒音信号から音源方向を算出する音源方向算出手段104と、方向の変化を検出して所定の範囲内における車両の移動状態を算出する移動状態算出手段と、算出された移動状態をもとに音源方向算出手段104によって算出された音源方向から複数の車両がM個のマイクロホン103a〜103cの正面を通過する時刻をそれぞれ算出する通過時刻算出手段105と、この通過時刻算出手段105によって算出された時刻にM個のマイクロホン103a〜103cの何れか少なくとも1つが集音した騒音から音圧レベルを算出する音圧レベル算出手段115と、この音圧レベル算出手段115によって算出された音圧レベルが予め設定された閾値を超えたか否かを判定し、音圧レベルが予め設定された閾値を超えたと判定したとき、通過時刻算出手段105によって算出された時刻に集音された騒音を分析し、分析した騒音が予め分類された複数の種類の騒音の何れに含まれるのかを判定する音種別判定手段116と、この音種別判定手段116によって判定された騒音が予め分類された複数の種類の騒音の何れか少なくとも1つに含まれるか否かを判定することにより複数の種類の騒音の何れか少なくとも1つに含まれる騒音を発生する車両を検出する車両検出手段125とを備えている。
【0029】
本発明の実施の形態の車両検出装置は、さらに通過時刻算出手段105によって算出された時刻にM個のマイクロホン103a〜103cの正面を通過した車両を撮像する撮像手段102a,102bと、この撮像手段102a,102bによって撮像された車両の撮像情報を蓄積する情報蓄積手段127と、車両検出手段125が予め分類された複数の種類の騒音の少なくとも1つに含まれる騒音を発生する車両を検出したとき、車両検出手段125によって検出された車両の撮像情報を情報蓄積手段127から読み取り、読み取った撮像情報と音種別判定手段116によって判定された騒音の音種別に関連する情報を予め設定された送信先に送信する通信手段126とを備えている。
【0030】
また、通過時刻算出手段105は、音源方向算出手段104によってフレーム毎に算出された音源方向を音源方向データとして蓄積する音源方向蓄積バッファ106と、道路を予め設定された一定の速度で第1方向に走行する車両から発生した騒音が音源方向の動きとして示された第1テンプレートを保持する第1テンプレート保持部108aと、第1方向に対向する第2方向に走行する車両から発生した騒音が音源方向の動きとして示された第2テンプレートとを保持する第2テンプレート保持部108bと、予め設定された複数の速度に対応する複数のテンプレートを生成するよう第1テンプレート保持部108aと第2テンプレート保持部108bに保持されたテンプレートの時間軸を伸縮する時間軸伸縮部109と、第1テンプレート保持部108aに保持された第1テンプレートと音源方向蓄積バッファ106に蓄積された音源方向データとの差分の絶対値の総和を第1距離として算出し、さらに第2テンプレート保持部108bに保持された第2テンプレートと音源方向蓄積バッファ106に蓄積された音源方向データとの差分の絶対値の総和を第2距離として算出する距離算出部107とを備え、複数の車両がM個のマイクロホン103a〜103cの正面をそれぞれ通過する時刻を算出するようになっている。
【0031】
また、音種別判定手段116は、通過時刻算出手段105によって算出された時刻にM個のマイクロホン103a〜103cの何れか少なくとも1つが集音した騒音の周波数特性を算出する周波数特性算出部117と、音種別判定に用いる判別係数を算出する判別係数算出部119と、音種別判定に用いる重心を算出する重心算出部121と、判別係数算出部119によって算出された判別係数を用いて騒音の座標を算出する座標算出部118と、この座標算出部118によって算出された騒音の座標と重心算出部121によって算出された重心との距離を算出する距離算出部120とを備え、通過時刻算出手段105によって算出された時刻にM個のマイクロホン103a〜103cの何れか少なくとも1つが集音した騒音の音種別を判定するようになっている。
【0032】
また、音源方向算出手段104は、図3に示すように、M個のマイクロホン103a〜103cによって入力されたM個の騒音信号を時間軸に沿って複数のフレームにそれぞれ分割するようM個の騒音信号の波形を切り出すM個の波形切出し部303a〜303cと、この波形切出し部303a〜303cによって切り出されたフレーム毎にM個の騒音信号から予め設定された複数の周波数成分を抽出するようM個の騒音信号の周波数成分をそれぞれ分析するM個の周波数分析部304a〜304cと、M個の周波数分析部304a〜304cによって抽出された複数の周波数成分から相関行列を算出する相関行列算出部305と、音源方向を算出する走査範囲を設定する走査範囲設定部306と、方向制御ベクトルを生成する方向制御ベクトル生成部307と、相関行列算出部305によって算出された相関行列と方向制御ベクトル生成部307によって生成された方向制御ベクトルから騒音の方向別パワーを算出する方向別パワー算出部308と、この方向別パワー算出部308によって算出された方向別パワーから音源方向を算出する方向算出部309とを備え、フレーム毎に音源方向を算出するようになっている。
【0033】
また、距離算出部107は、第1距離を算出するとき、音源方向データに対して第1テンプレートを時間軸に沿って予め設定された時間ずつシフトし、シフトする毎に第1距離を算出し、算出した複数の第1距離から極小値が存在するか否かを判定し、さらに第2距離を算出するとき、音源方向データに対して第2テンプレートを時間軸に沿って予め設定された時間ずつシフトし、シフトする毎に第2距離を算出し、算出した複数の第2距離から極小値が存在するか否かを判定し、第1距離と第2距離のうち極小値が存在する方の算出結果から車両の進行方向を判定し、さらに極小値から車両がM個のマイクロホンの103a〜103cの正面を通過する時刻を算出するようになっている。
【0034】
本実施の形態では、通過時刻算出手段105が、音源方向算出手段104によってフレーム毎に算出された音源方向を音源方向データとして蓄積する音源方向蓄積バッファ106と、道路を予め設定された一定の速度で第1方向に走行する車両から発生した騒音が音源方向の動きとして示された第1テンプレートを保持する第1テンプレート保持部108aと、第1方向に対向する第2方向に走行する車両から発生した騒音が音源方向の動きとして示された第2テンプレートとを保持する第2テンプレート保持部108bと、第1テンプレート保持部108aに保持された第1テンプレートと音源方向蓄積バッファ106に蓄積された音源方向データとの差分の絶対値の総和を第1距離として算出し、さらに第2テンプレート保持部108bに保持された第2テンプレートと音源方向蓄積バッファ106に蓄積された音源方向データとの差分の絶対値の総和を第2距離として算出する距離算出部107とを備え、複数の車両がM個のマイクロホン103a〜103cの正面を通過する時刻と進行方向と進行速度とを算出するようになっているが、複数の車両がM個のマイクロホン103a〜103cの正面を通過する時刻だけを算出するのであれば、通過時刻算出手段105は、音源方向算出手段104によってフレーム毎に算出された音源方向を音源方向データとして蓄積する音源方向蓄積バッファ106と、道路を予め設定された一定の速度で走行する車両から発生した騒音が音源方向の動きとして示された少なくとも1つのテンプレートを保持するテンプレート保持部108と、このテンプレート保持部108に保持されたテンプレートと音源方向蓄積バッファ106に蓄積された音源方向データとの差分の絶対値の総和をテンプレートと音源方向データとの距離として算出する距離算出部107とを備え、距離算出部107が、音源方向データに対してテンプレートを時間軸に沿って予め設定された時間ずつシフトし、シフトする毎に距離を算出し、算出した複数の距離から極小値を検出し、検出した極小値から車両がM個のマイクロホン103a〜103cの正面を通過する時刻を算出するよう構成してもよい。
【0035】
また、通過時刻算出手段105が、音源方向算出手段104によってフレーム毎に算出された音源方向を音源方向データとして蓄積する音源方向蓄積バッファ106と、道路を予め設定された一定の速度で走行する車両から発生した騒音が車両の予め設定された複数の速度に対応した音源方向の動きとして示された複数のテンプレートを保持するテンプレート保持部108と、このテンプレート保持部108に保持された複数のテンプレート夫々と音源方向蓄積バッファ106に蓄積された音源方向データとの差分の絶対値の総和をテンプレートと音源方向データとの距離として算出する距離算出部107とを備え、テンプレート保持部108に車両の複数の速度に対応する複数のテンプレートを保持してもよい。
【0036】
また、通過時刻算出手段105が、音源方向算出手段104によってフレーム毎に算出された音源方向を音源方向データとして蓄積する音源方向蓄積バッファ106と、道路を予め設定された一定の速度で走行する車両から発生した騒音が音源方向の動きとして示された少なくとも1つのテンプレートを保持するテンプレート保持部108と、車両の複数の速度に対応した複数のテンプレートを生成するようテンプレート保持部108に保持されたテンプレートの時間軸を伸縮する時間軸伸縮部109と、この時間軸伸縮部109によって時間軸が伸縮された複数のテンプレート夫々と音源方向蓄積バッファ106に蓄積された音源方向データとの差分の絶対値の総和をテンプレートと音源方向データとの距離として算出する距離算出部107とを備え、テンプレート保持部108に保持されたテンプレートの時間軸を伸縮することによって予め設定された複数の速度に対応する複数のテンプレートを生成し、生成した複数のテンプレートを用いて車両の速度を算出してもよい。
【0037】
ここで、M個のマイクロホン103a〜103cは、道路101の車両進行方向に平行な直線上に等間隔dで配置されている。これらM個のマイクロホン103a〜103cの間隔は、必ずしも等間隔である必要はないが、以下に説明する音源方向の算出において方向制御ベクトルの算出が簡単になるため、ここでは等間隔dとしている。また、この間隔dは、対象とする音源信号の波長の半分よりも短くする必要があり、車両によって周波数特性は異なるものの、500Hzから3kHzの範囲は多くの車種で十分なパワーが出力されるため、この範囲の音源方向が検出できるようにマイクロホン103a〜103cの間隔dは5cm〜34cmであることが望ましい。特に、間隔dを5cm〜10cmにすると、センサのサイズを小さくすることができる。また、マイクロホン103a〜103cの個数Mは、音源方向の算出精度を向上させるため、少なくとも「想定される音源(車両)の数+1」以上とすることが望ましい。
【0038】
次に、図2のフローチャートを参照し、固有値解析による方法に基いて音源方向を算出し、車両を検出する動作について説明する。なお、本実施の形態では、音源方向の算出精度が比較的に高い固有値解析による方法に基いて音源方向の方向別パワーを算出するが、音源方向を算出する方法として白色化相関法を適用してもよい。図2のフローチャートは、音源方向の方向別パワーが算出される工程から車両が検出される工程までの動作の概略を示したものである。
【0039】
道路を走行する複数の車両から発生した騒が集音され、集音された騒音がM個のマイクロホン103a〜103cによって複数の騒音信号に変換され、変換された複数の騒音信号がM個の波形切出し部303a〜303cにそれぞれ入力され、入力されたM個の騒音信号がM個の波形切出し部303a〜303cによって予め設定された時間窓で時間軸に沿って騒音信号を切出すよう複数のフレームに分割される。
【0040】
ここで、M個の騒音信号が切出される時間窓の形状は矩形窓でもよいが、ハニング窓のように両端部の振幅が小さいものがさらに好ましい。また、窓長Wを小さくすればするほど音源方向の算出精度が劣化する。一方、窓長Wを長くすればするほど音源の移動に追従できなくなるので、音源の移動速度に応じて最適な窓長Wを選択する必要がある。例えば、M個のマイクロホン103a〜103cから距離L=10[m]離れた位置を、時速40[km]程度で移動する音源を推定する場合には、窓長Wは2[ms]から10[ms]の範囲が適している。また、切出し周期は、W/2から2Wの範囲が最適である。
【0041】
次いで、M個の波形切出し部303a〜303cによって窓長Wで切出されたM個の騒音信号は、M個の周波数分析部304a〜304cにそれぞれ入力され、入力されたM個の騒音信号に含まれる周波数成分がそれぞれ分析され、予め設定された複数の周波数成分の複素振幅が算出される。
【0042】
ここで、複素振幅の算出方法には、公知の高速フーリエ変換(以下単に、FFTという。)による方法を用いるが、算出される周波数成分の数が少ない場合には公知の離散的フーリエ変換による方法を用いてもよい。また、周波数が高ければ高いほど音源方向の推定精度が高くなるが、実用的にはc/10r以上c/2r未満の範囲の周波数が適している。但し、cは音速、rは複数のマイクロホン103a〜103cの間隔である。
【0043】
次いで、周波数分析部304a〜304cによって算出された複素振幅が周波数成分毎に(式1)のように列ベクトルX[m]で表わされ、相関行列算出部305に入力される。
【0044】
【式1】
ただし、xm(m=1〜M)はm番目のマイクロホンの複素振幅である。また、記号Tは行列[x1,x2,・・・,xm]の転置行列を意味する。
【0045】
次いで、列ベクトルX[m]から(式2)で示すように相関行列R[m、m]が相関行列算出部305によって算出される。
【0046】
【式2】
ただし、記号Hは転置複素共役を意味する。また、m=1〜Mである。
【0047】
次いで、方向制御ベクトルが(式3)によりd[m]として表わされる。
【0048】
【式3】
ただし、τ[m]は音源と各マイクロホン103a〜103c間の時間差を表わしており、各マイクロホン103a〜103cの座標(x[m],y[m])と、各マイクロホン103a〜103cと音源との距離Lと、音源の方向αとを用いて(式4)で算出される。
【0049】
【式4】
ただし、各マイクロホン103a〜103cと音源との距離Lは、実用的にマイクロホン103a〜103cと道路中央との直線距離が設定される。また、音源方向を推定する範囲として、0°〜180°までの範囲を走査範囲設定部306に設定することができるが、0°および180°近傍では音源方向算出精度が低下するので、実用的には30°〜150°の範囲に設定するのが好ましい。
【0050】
次いで、相関行列R[m、m]の固有ベクトルv1[m],v2[m],・・・,vM[m] (m=1〜M)が方向別パワー算出部308によって算出される(ステップS201e)。ここでは、相関行列R[m、m]がエルミート行列であることから、公知のハウスホルダー法により3重対角行列に変換され、さらに公知のQR法を用いて固有ベクトルが算出される。
【0051】
次いで、K個の音源がある場合の雑音成分に相当する行列Rn[m、m]が(式5)のように算出される。
【0052】
【式5】
ただし、音源数Kは、「マイクロホンの数M−1」以下にすることが好ましいが、予め音源数が想定できない場合にはK=1としてもよい。
【0053】
次いで、走査範囲設定部306に設定された範囲で下限から上限まで離散的に角度を変化させて(式6)に従って騒音の方向別パワーが方向別パワー算出部308によって算出される。
【0054】
【式6】
ここで、角度の変化幅は0.1°〜5°の範囲内に設定するのが実用的である。
【0055】
次いで、ステップS201gで方向別パワー算出部308によって算出された方向別パワーから音源方向算出手段309によって音源方向が算出される(ステップS202)。
【0056】
次いで、音源方向算出手段104によってフレーム毎に算出された音源方向が音源方向蓄積バッファ106に音源方向データとして蓄積される(ステップS203)。ここで、バッファに蓄積される時間は車両の速度に依存し、車両の速度が遅くなるほど多くの蓄積時間を必要とする。例えば、時速60[km]程度の車両を対象とする場合には最低1[秒]間以上のバッファが必要であり、車両の速度が半分になるとその倍のバッファが必要となる。図4は、音源方向蓄積バッファ106に蓄積された音源方向データの蓄積例であり、横軸が時間の経過を、縦軸が音源方向を示している。図4に示すように、音源方向をプロットした○印が時間の経過とともに右肩上がりに変化している部分、例えば、楕円で囲った部分では車両が通過したことを示している。
【0057】
次いで、第1テンプレート保持部108aに保持されたテンプレートAおよび第2テンプレート保持部108bに保持されたテンプレートBの時間軸が時間軸伸縮部109によって伸縮される(ステップS204)。ここで、テンプレートAおよびテンプレートBは、それぞれ進行方向Aおよび進行方向Bの方向に走行する車両に対応するテンプレートを示している。
【0058】
図5に示すテンプレートAおよびテンプレートBは何れも複数のマイクロホン103a〜103cからの距離が10[m]で、車両の速度が40[km/h]を想定して作成されたものである。また、第1テンプレート保持部108aまたは第2テンプレート保持部108bに予め保持されたテンプレートが車両の速度40[km/h]に対応したものであっても、時間軸伸縮部109によってテンプレートの時間軸が伸縮され、車両の速度に対応するよう任意の速度のテンプレートが作成される。また、テンプレートの数を多くしすぎると距離算出部107で距離の演算量が多くなるので、10[km/h]程度の間隔でテンプレートを作成するのが好ましい。
【0059】
なお、本実施の形態では、複数の速度に対応した複数のテンプレートの情報を予め保持する必要のないよう時間軸伸縮部109を設けた構成としたが、複数の速度に対応したテンプレートを予め保持しておき時間軸伸縮部109を設けない構成とすることもできる。このように予め複数のテンプレートを保持することによって時間軸伸縮部109がテンプレートを伸縮する演算量を削減することができる。
【0060】
また、周囲に他の車両や騒音源がない条件下で車両を予め設定された複数の速度でそれぞれ走行させて取得した音源方向データをテンプレートとしてもよい。
【0061】
次いで、音源方向蓄積バッファ106に蓄積された音源方向データとテンプレートとの距離Dが(式7)に従って算出される(ステップS205)。
【0062】
【式7】
ここでは、音源方向蓄積バッファ106に蓄積された音源方向データをf[i]、テンプレートをt[i]で表している。また、距離DはテンプレートのサイズWsで正規化される。この距離Dは、音源方向蓄積バッファ106に蓄積された音源方向データとテンプレートが類似しているほど「0」に近づく。
【0063】
図4は、音源方向データの一例に距離Dの算出例が重ねて示されている。楕円の枠で示した部分のように音源方向が右上がりに変化するところでは距離Dが極小値をとっている。この時刻は車両が複数のマイクロホン103a〜103cの正面を通過する時刻に対応している。
【0064】
以上説明したように、距離Dが極小になる位置を算出することによって、単に騒音の音圧レベルが極大となる時刻を検出する方法に比べて車両が複数のマイクロホン103a〜103cの正面を通過する時刻がより正確に検出できることを示している。
【0065】
本実施の形態では、車両検出方法として、車両通過時刻、車両進行方向、および車両の速度を算出できる。車両通過時刻の算出方法は、時間軸の伸縮を行わないテンプレートAおよびテンプレートBのそれぞれを用いて、音源方向蓄積バッファ106に蓄積された音源方向データとの距離が算出され、何れかが極小値をとる時刻が車両通過時刻として決定される。
【0066】
また、車両進行方向の算出方法は、テンプレートAおよびテンプレートBの何れのテンプレートで最小値が検出されたかによって車両の進行方向が決定される。
【0067】
さらに、車両進行方向の算出方法は、車両の速度に対応するようテンプレートの時間軸を伸縮して複数のテンプレートが時間軸伸縮部109によって作成され、作成された複数のテンプレートと音源方向蓄積バッファ106に蓄積された音源方向データとの距離Dがそれぞれ算出され、算出された距離Dが最小になったテンプレートによって車両の時速が決定される。
【0068】
本実施の形態では、車両検出情報として、車両が複数のマイクロホン103a〜103cの正面を通過する時刻と進行方向と速度が算出される構成としたが、これらのうちの一つまたは、二つが算出される構成としてもよい。例えば、車両が複数のマイクロホン103a〜103cの正面を通過する時刻のみを算出したい場合には、車両の速度を算出する目的でテンプレートの時間軸伸縮を行う必要がないので時間軸伸縮部109を省略することができる。
【0069】
次いで、車両が検出された場合にはステップS207に進み、車両が検出されない場合にはステップS101に戻り次のフレームが処理される(ステップS206)
【0070】
次いで、音圧レベルが音圧レベル算出手段115によって算出される。(ステップS207)ここでは、車両が1つのマイクロホン103aの正面を通過するまでの時間差を吸収するため、1つのマイクロホン103aの出力が信号蓄積バッファ114に予め設定された時間だけ蓄積される。次いで、信号蓄積バッファ114に蓄積された騒音信号から車両が複数のマイクロホン103a〜103cの正面を通過した時刻に収集された騒音の音圧レベルが算出される。この音圧レベルの算出時間長は、10[ms]〜100[ms]の範囲に設定するのが好ましい。また、騒音測定に一般に用いられている公知のA特性もしくはC特性が実用的である。
【0071】
次いで、騒音の種別が音種別判定手段116によって判定される。(ステップS208)音種別判定とは、音の特徴を表す特徴量をもとに音の種別を判定することである。本実施の形態のように車両の音種別判定を行う目的としては、普通車やバイクやトラック等の車種の検出を行う車種検出がある。また、他の目的としていわゆる暴走車や整備不良車などを検出する整備不良車両検出がある。この種の判定を行う方法としては、統計的手法やニューロモデルを用いた方法など、多くの方法があるが、ここでは、統計的手法として公知の判別分析を用いた方法に従って説明する。
【0072】
音種別判定を行う前段階として音の特徴を表す特徴量を決定し、音種別判定に用いる判別係数と重心座標が予め算出される。特徴量としては、音の周波数特性を表す帯域レベルが用いられる。帯域レベルは、公知のFFTにより周波数毎にパワーが算出され、帯域毎にパワーが加算されたのち、デシベル値に変換される。このときの帯域幅は、1オクターブまたは1/3オクターブバンド幅が適しており、1/3オクターブバンド幅の場合には中心周波数50Hzから12.5kHzまでとするのが適している。判別係数と重心座標の算出は、車種判別の場合には、普通車、バイク、トラック等の判別を行いたい判別グループ毎に最低10以上の音サンプルについて帯域レベルを特徴量として算出し、各車種が分類できる判別係数と重心座標を公知の判別分析に従って算出しておく。また、整備不良車両検出の場合には、暴走車や整備不良車等の検出を行いたい判別グループ毎に最低10以上の音サンプルを準備すると同時に、工事音や緊急自動車等の警報音など、音圧レベルが大きく誤検出の原因となると想定される各判別グループについても最低10以上の音サンプルを準備し、各判別グループについて帯域レベルを特徴量として算出し、各車種が分類できるよう判別係数と重心座標を公知の判別分析に従って算出しておく。
【0073】
次いで、車両が複数のマイクロホン103a〜103cの正面を通過する時刻に一つのマイクロホン103aが受信した騒音の周波数特性が周波数特性算出部117によって算出される(ステップS209)。周波数特性の算出方法は高速フーリエ変換により周波数毎にレベルを算出する方法もあるが、後工程での音種別判定の演算量が大きくなるため、帯域レベルを算出する方法が適している。
【0074】
次いで、判別分析により予め算出された判別係数を用いて判別関数上の座標Xj(j=1〜M)が(式8)に従って座標算出部118によって算出される(ステップS210)。
【0075】
【式8】
ここで、次元数Mは判別グループの数−1であり、αijは判別係数である。
【0076】
次いで、判別分析により予め算出されたYk(k=1〜M−1)で表される重心座標とステップS210で算出された座標との距離Dk(k=1〜M−1)が距離算出部120によって(式9)に従って算出され、算出された距離Dkが最小になる判別グループが音種別として出力される(ステップS211)。
【0077】
【式9】
次いで、音圧レベルが予め設定された閾値の音圧レベルよりも大きく、かつステップS211で判定された騒音が予め分類された複数の種類の騒音の何れか少なくとも一つに含まれるか否かが車両検出手段125によって判定される(ステップS212)。
【0078】
次いで、騒音の音圧レベルが予め設定された閾値よりも大きく、かつ複数の種類の騒音の何れか少なくとも1つに含まれると判定されたとき、2台の撮像手段102a,102bのうち少なくとも1つによって撮像された車両の画像情報と騒音に関連する情報が予め設定された通信先に送信される。(ステップS213)。
【0079】
以上説明したように、単に音圧レベルが極大になる時刻を検出する方法と比較して、車両がM個のマイクロホン103a〜103cの正面を通過する時刻をより正確に検出することができる。したがって2台の撮像手段102a,102bの間にM個のマイクロホン103a〜103cを配置し、2台の撮像手段102a,102bがM個のマイクロホン103a〜103cの正面付近を撮像することにより、車両を運転する運転者の画像やナンバープレート情報を含む車両の前面を撮像することができる。
【0080】
【発明の効果】
以上説明したように、本発明の車両検出装置は、複数の車両が絶間なく走行する道路であっても、騒音が複数の車両の何れから発生したのかを判定することが容易な車両検出装置を提供することができる。
【図面の簡単な説明】
【図1】本発明の実施の形態の車両検出装置の構成を示すブロック図
【図2】本発明の実施の形態の車両検出装置の動作を示すフローチャート
【図3】本発明の実施の形態の車両検出装置の音源方向算出手段の構成を示すブロック図
【図4】本発明の実施の形態の車両検出装置が算出した音源方向の一例を示す図
【図5】本発明の実施の形態の車両検出装置のテンプレート保持部に保持されたテンプレートの一例を示す図
【図6】従来の車両検出装置の構成を示すブロック図
【符号の説明】
102a、102b 撮像手段
103a、103b、103c マイクロホン
104 音源方向算出手段
105 移動体状態算出手段
106 音源方向蓄積バッファ
107 距離算出部
108a 第1テンプレート保持部
108b 第2テンプレート保持部
109 時間軸伸縮部
114 信号蓄積バッファ
115 音圧レベル算出手段
116 音種別判定手段
117 周波数特性算出部
118 座標算出部
119 判別係数算出部
120 距離算出部
121 重心算出部
125 車両検出手段
126 通信手段
127 情報蓄積手段
303a、303b、303c 波形切出し部
304a、304b、304c 周波数分析部
305 相関行列算出部
306 走査範囲設定部
307 方向制御ベクトル生成部
308 方向別パワー算出部
309 方向算出部[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a moving body detection apparatus that collects noise generated from a plurality of moving bodies traveling on a road with a plurality of microphones and detects the plurality of moving bodies from the collected noise.
[0002]
[Prior art]
2. Description of the Related Art Conventionally, a vehicle detection device that collects noise generated from a vehicle and detects a vehicle that generates a pre-classified type of noise by determining whether or not the collected noise is a preset type of noise. Are known.
[0003]
The conventional vehicle detection device shown in FIG. 6 has a
[0004]
[Patent Document 1]
JP 2000-30184 A (page 2)
[0005]
[Problems to be solved by the invention]
However, since the conventional vehicle detection device detects the vehicle at the time when the sound pressure level of the noise generated from the vehicle is maximized, the noise is generated on the road where the plurality of vehicles continuously travel. There is a problem that it is difficult to determine from which of the above.
[0006]
The present invention has been made to solve the conventional problems, and it is easy to determine from which of a plurality of moving bodies noise is generated even on a road where a plurality of moving bodies continuously travel. A mobile object detection apparatus is provided.
[0007]
[Means for Solving the Problems]
The moving body detection device of the present invention calculates a direction in which the moving body exists based on a plurality of microphones that collect sound emitted by the moving body within a predetermined range and output signals of the plurality of microphones. A calculating means; a moving state calculating means for detecting a change in the direction to calculate a moving state of the moving body within the predetermined range; and the moving state passes a predetermined position based on the moving state. A configuration comprising: passage time calculating means for calculating passage time; and sound type determining means for determining the type of sound emitted by the mobile body based on the sound collected at the predetermined position at the passage time. Have.
[0008]
With this configuration, it is possible to calculate the time at which a plurality of moving bodies pass through a predetermined position, and determine whether or not the sound collected at the calculated time is a preset type of sound. It is possible to detect a moving body that generates various kinds of sounds.
[0009]
In the moving body detection apparatus of the present invention, the moving state calculating unit includes a plurality of templates that represent typical moving states, and compares the plurality of templates with the calculation result of the direction calculating unit, and It has the structure which calculates the movement state of a moving body.
[0010]
With this configuration, it is possible to compare the plurality of templates and the calculation result of the direction calculation means to calculate the movement states of the plurality of moving bodies.
[0011]
The moving body detection apparatus of the present invention is Movement state calculation means Has a plurality of templates showing typical moving states when the moving body travels in different directions, and compares the plurality of templates with the calculation result of the direction calculating means to move the moving body. It has a configuration for calculating the state.
[0012]
With this configuration, it is possible to compare the plurality of templates and the calculation result of the direction calculation means to calculate the movement states of the plurality of moving bodies.
[0013]
The moving body detection apparatus of the present invention is Movement state calculation means Has a plurality of templates showing typical moving states when the moving body travels at different speeds, and compares the plurality of templates with the calculation result of the direction calculating means to move the moving body. It has a configuration for calculating the state.
[0014]
With this configuration, it is possible to compare the plurality of templates and the calculation result of the direction calculation means to calculate the movement states of the plurality of moving bodies.
[0027]
DETAILED DESCRIPTION OF THE INVENTION
Embodiments of the present invention will be described below with reference to the drawings.
[0028]
As shown in FIG. 1, the vehicle detection apparatus according to the embodiment of the present invention collects noise generated from a vehicle traveling on a road, converts the collected noise into a plurality of noise signals, and converts the converted plurality of noise signals. The M (M> 2)
[0029]
The vehicle detection apparatus according to the embodiment of the present invention further includes imaging means 102a and 102b for imaging a vehicle that has passed the front of
[0030]
The passage
[0031]
In addition, the sound
[0032]
Further, as shown in FIG. 3, the sound source
[0033]
Further, when calculating the first distance, the
[0034]
In the present embodiment, the passage
[0035]
Further, the passage
[0036]
Further, the passage
[0037]
Here, the
[0038]
Next, the operation of calculating the sound source direction based on the eigenvalue analysis method and detecting the vehicle will be described with reference to the flowchart of FIG. In this embodiment, the power for each direction of the sound source direction is calculated based on a method based on eigenvalue analysis with relatively high sound source direction calculation accuracy, but the whitening correlation method is applied as a method for calculating the sound source direction. May be. The flowchart in FIG. 2 shows an outline of the operation from the step of calculating the power for each direction of the sound source to the step of detecting the vehicle.
[0039]
Noise generated from a plurality of vehicles traveling on the road is collected, and the collected noise is converted into a plurality of noise signals by
[0040]
Here, the shape of the time window from which the M noise signals are cut out may be a rectangular window, but it is more preferable that the amplitude at both ends is small like a Hanning window. In addition, the calculation accuracy of the sound source direction deteriorates as the window length W is reduced. On the other hand, since the longer the window length W is, the more difficult it is to follow the movement of the sound source, it is necessary to select the optimal window length W according to the moving speed of the sound source. For example, when estimating a sound source that moves at a distance of L = 10 [m] from M
[0041]
Next, the M noise signals cut out with the window length W by the M
[0042]
Here, as a method for calculating the complex amplitude, a method based on a known fast Fourier transform (hereinafter simply referred to as FFT) is used, but when the number of frequency components to be calculated is small, a method based on a known discrete Fourier transform. May be used. Moreover, the higher the frequency, the higher the estimation accuracy of the sound source direction, but a frequency in the range of c / 10r to less than c / 2r is suitable for practical use. Here, c is the speed of sound, and r is the interval between the plurality of
[0043]
Next, the complex amplitude calculated by the frequency analysis units 304 a to 304 c is represented by a column vector X [m] for each frequency component as shown in (Expression 1), and is input to the correlation
[0044]
[Formula 1]
Here, xm (m = 1 to M) is a complex amplitude of the mth microphone. Symbol T means a transposed matrix of the matrix [x1, x2,..., Xm].
[0045]
Next, a correlation matrix R [m, m] is calculated from the column vector X [m] by the correlation
[0046]
[Formula 2]
However, the symbol H means transposed complex conjugate. Further, m = 1 to M.
[0047]
Next, the direction control vector is expressed as d [m] by (Equation 3).
[0048]
[Formula 3]
However, (tau) [m] represents the time difference between a sound source and each
[0049]
[Formula 4]
However, the distance L between each
[0050]
Next, the eigenvectors v1 [m], v2 [m],..., VM [m] (m = 1 to M) of the correlation matrix R [m, m] are calculated by the direction-specific power calculation unit 308 (steps). S201e). Here, since the correlation matrix R [m, m] is a Hermitian matrix, it is converted into a tridiagonal matrix by a known householder method, and an eigenvector is calculated by using a known QR method.
[0051]
Next, a matrix Rn [m, m] corresponding to a noise component when there are K sound sources is calculated as in (Equation 5).
[0052]
[Formula 5]
However, it is preferable that the number of sound sources K is equal to or less than “the number of microphones M−1”. However, if the number of sound sources cannot be assumed in advance, K = 1 may be set.
[0053]
Next, the direction-specific
[0054]
[Formula 6]
Here, it is practical to set the change width of the angle within a range of 0.1 ° to 5 °.
[0055]
Next, the sound source direction is calculated by the sound source direction calculation means 309 from the direction-specific power calculated by the direction-specific
[0056]
Next, the sound source direction calculated for each frame by the sound source direction calculating means 104 is stored in the sound source
[0057]
Next, the time axis of the template A held in the first
[0058]
Each of the template A and the template B shown in FIG. 5 is created assuming that the distance from the plurality of
[0059]
In this embodiment, the time axis expansion /
[0060]
Further, sound source direction data acquired by running a vehicle at a plurality of preset speeds under conditions where there are no other vehicles or noise sources in the surroundings may be used as a template.
[0061]
Next, the distance D between the sound source direction data stored in the sound source
[0062]
[Formula 7]
Here, the sound source direction data stored in the sound source
[0063]
FIG. 4 shows an example of calculating the distance D superimposed on an example of sound source direction data. The distance D takes the minimum value where the sound source direction changes to the right as shown by the oval frame. This time corresponds to the time when the vehicle passes in front of the plurality of
[0064]
As described above, by calculating the position where the distance D is minimized, the vehicle passes through the front of the plurality of
[0065]
In the present embodiment, the vehicle passage time, the vehicle traveling direction, and the vehicle speed can be calculated as the vehicle detection method. The vehicle passing time is calculated by calculating the distance from the sound source direction data stored in the sound source
[0066]
In addition, in the calculation method of the vehicle traveling direction, the traveling direction of the vehicle is determined depending on which of the template A and the template B the minimum value is detected.
[0067]
Further, the vehicle traveling direction is calculated by extending the time axis of the template so as to correspond to the speed of the vehicle, thereby creating a plurality of templates by the time axis expanding /
[0068]
In this embodiment, as vehicle detection information, the time, the traveling direction, and the speed at which the vehicle passes through the front of the plurality of
[0069]
Next, if a vehicle is detected, the process proceeds to step S207. If no vehicle is detected, the process returns to step S101 to process the next frame (step S206).
[0070]
Next, the sound pressure level is calculated by the sound pressure level calculation means 115. (Step S207) Here, in order to absorb the time difference until the vehicle passes the front of one
[0071]
Next, the type of noise is determined by the sound
[0072]
As a step before performing the sound type determination, a feature amount representing a sound characteristic is determined, and a discrimination coefficient and barycentric coordinates used for the sound type determination are calculated in advance. As the feature amount, a band level representing the frequency characteristic of sound is used. The band level is converted into a decibel value after the power is calculated for each frequency by a known FFT and the power is added for each band. The bandwidth at this time is suitably 1 octave or 1/3 octave bandwidth. In the case of 1/3 octave bandwidth, the center frequency is preferably 50 Hz to 12.5 kHz. In the case of vehicle type discrimination, the discrimination coefficient and the barycentric coordinates are calculated by calculating the band level as a feature amount for at least 10 or more sound samples for each discrimination group to be discriminated such as a normal car, a motorcycle, a truck, etc. The discriminant coefficients and barycentric coordinates that can be classified are calculated according to known discriminant analysis. In addition, in the case of detection of poorly maintained vehicles, at least 10 sound samples are prepared for each discrimination group to detect runaway vehicles, poorly maintained vehicles, etc., and at the same time, sound such as construction sounds and warning sounds of emergency vehicles etc. Prepare at least 10 sound samples for each discrimination group that is assumed to cause a false detection with a large pressure level, calculate the band level as a feature value for each discrimination group, and determine the discrimination coefficient so that each vehicle type can be classified. The barycentric coordinates are calculated according to a known discriminant analysis.
[0073]
Next, the frequency
[0074]
Next, the coordinate Xj (j = 1 to M) on the discriminant function is calculated by the coordinate calculating
[0075]
[Formula 8]
Here, the number of dimensions M is the number of discrimination groups minus 1, and αij is the discrimination coefficient.
[0076]
Next, a distance Dk (k = 1 to M−1) between the center-of-gravity coordinates represented by Yk (k = 1 to M−1) calculated in advance by discriminant analysis and the coordinates calculated in step S210 is a distance calculation unit. The discriminant group calculated by 120 according to (Equation 9) and having the calculated distance Dk is minimized is output as the sound type (step S211).
[0077]
[Formula 9]
Next, whether or not the sound pressure level is greater than a preset sound pressure level and whether or not the noise determined in step S211 is included in at least one of a plurality of types of noise classified in advance. It is determined by the vehicle detection means 125 (step S212).
[0078]
Next, when it is determined that the sound pressure level of the noise is greater than a preset threshold and is included in at least one of the plurality of types of noise, at least one of the two
[0079]
As described above, it is possible to more accurately detect the time when the vehicle passes the front of the
[0080]
【The invention's effect】
As described above, the vehicle detection device of the present invention is a vehicle detection device that makes it easy to determine from which of a plurality of vehicles noise is generated even on a road on which a plurality of vehicles travel continuously. Can be provided.
[Brief description of the drawings]
FIG. 1 is a block diagram showing a configuration of a vehicle detection device according to an embodiment of the present invention.
FIG. 2 is a flowchart showing the operation of the vehicle detection apparatus according to the embodiment of the present invention.
FIG. 3 is a block diagram showing a configuration of sound source direction calculation means of the vehicle detection apparatus according to the embodiment of the present invention.
FIG. 4 is a diagram illustrating an example of a sound source direction calculated by the vehicle detection device according to the embodiment of the present invention.
FIG. 5 is a diagram showing an example of a template held in a template holding unit of the vehicle detection device according to the embodiment of the present invention.
FIG. 6 is a block diagram showing a configuration of a conventional vehicle detection device.
[Explanation of symbols]
102a, 102b Imaging means
103a, 103b, 103c Microphone
104 Sound source direction calculation means
105 Moving object state calculation means
106 Sound source direction accumulation buffer
107 Distance calculator
108a First template holding unit
108b Second template holding unit
109 Time axis expansion / contraction
114 Signal accumulation buffer
115 Sound pressure level calculation means
116 Sound type determination means
117 Frequency characteristic calculator
118 Coordinate calculator
119 discrimination coefficient calculation unit
120 Distance calculator
121 Center of gravity calculator
125 Vehicle detection means
126 Communication means
127 Information storage means
303a, 303b, 303c Waveform cutout
304a, 304b, 304c Frequency analyzer
305 correlation matrix calculator
306 Scanning range setting unit
307 Direction control vector generator
308 Directional power calculator
309 Direction calculation unit
Claims (4)
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002359487A JP4065770B2 (en) | 2002-12-11 | 2002-12-11 | Moving body detection device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2002359487A JP4065770B2 (en) | 2002-12-11 | 2002-12-11 | Moving body detection device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2004191180A JP2004191180A (en) | 2004-07-08 |
| JP4065770B2 true JP4065770B2 (en) | 2008-03-26 |
Family
ID=32758870
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2002359487A Expired - Fee Related JP4065770B2 (en) | 2002-12-11 | 2002-12-11 | Moving body detection device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4065770B2 (en) |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4248458B2 (en) * | 2004-07-29 | 2009-04-02 | 日東紡音響エンジニアリング株式会社 | Sound pressure measurement method |
| JP5244434B2 (en) * | 2008-03-27 | 2013-07-24 | 東芝テック株式会社 | Sound evaluation method, sound evaluation apparatus, and sound evaluation program |
| JP5480009B2 (en) * | 2010-05-12 | 2014-04-23 | リオン株式会社 | Noise measurement device |
| JP5443454B2 (en) * | 2011-09-20 | 2014-03-19 | トヨタ自動車株式会社 | Sound source detection device |
| WO2018047805A1 (en) * | 2016-09-09 | 2018-03-15 | 日本電気株式会社 | Device for estimating speed of moving sound source, speed monitoring system, method for estimating speed of moving sound source, and storage medium in which program for estimating speed of moving sound source is stored |
| JP6850709B2 (en) * | 2017-10-02 | 2021-03-31 | 株式会社日立製作所 | Sound diagnostic equipment, diagnostic methods, and diagnostic systems |
| CN109858479B (en) * | 2018-07-10 | 2022-11-18 | 上海其高电子科技有限公司 | Image Registration Based Motor Vehicle Illegal Horn Capture System |
-
2002
- 2002-12-11 JP JP2002359487A patent/JP4065770B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2004191180A (en) | 2004-07-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2002008189A (en) | Vehicle detection device and vehicle detection method | |
| US11398235B2 (en) | Methods, apparatuses, systems, devices, and computer-readable storage media for processing speech signals based on horizontal and pitch angles and distance of a sound source relative to a microphone array | |
| JP5178276B2 (en) | Image recognition device | |
| US20150117652A1 (en) | Sound source detection device, noise model generation device, noise reduction device, sound source direction estimation device, approaching vehicle detection device and noise reduction method | |
| KR101405583B1 (en) | Apparatus and method for estimating velocity of vehicle | |
| JP2004168286A (en) | Road surface state estimation device, road surface friction state estimation device, road surface state physical quantity calculation device, and road surface state notification device | |
| JPWO2012086821A1 (en) | Positioning device and positioning method | |
| JP7053057B2 (en) | Mobile tracking device and mobile tracking method | |
| JP4065770B2 (en) | Moving body detection device | |
| JP2010079582A (en) | Apparatus, method and program for detecting object | |
| CN116092193B (en) | A pedestrian dead reckoning method based on human motion state recognition | |
| JP6884893B2 (en) | Methods and devices for determining optical flow using image sequences acquired by vehicle cameras | |
| JP5692006B2 (en) | Sound source estimation apparatus, method, program, and moving object | |
| CN117995187A (en) | A customer service robot and dialogue processing system and method based on deep learning | |
| KR102105705B1 (en) | Apparatus and method for detecting overspeeding-vehicle | |
| JP2008310440A (en) | Pedestrian detection device | |
| JP2024040220A (en) | vehicle | |
| CN117452496A (en) | A method for detecting and identifying targets with seismic sensors | |
| JP7286896B2 (en) | Sound source separation system, sound source localization system, sound source separation method, and sound source separation program | |
| CN119724232A (en) | Automobile ambient sound enhancement method, device, electronic equipment and storage medium | |
| Astapov et al. | A hierarchical algorithm for moving vehicle identification based on acoustic noise analysis | |
| JP3448640B2 (en) | Vehicle tracking method and vehicle tracking device | |
| Shariff et al. | Wet road detection using cnn with transfer learning | |
| CN118828290A (en) | Intelligent adjustment method and system for vehicle audio based on driving monitoring | |
| CN108962234A (en) | Improve temporarily impaired speech knowledge method for distinguishing in vehicle |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050826 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20061207 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070918 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20071116 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20071211 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080107 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110111 Year of fee payment: 3 |
|
| LAPS | Cancellation because of no payment of annual fees |