JP4127211B2 - Sound source discrimination device and its discrimination method - Google Patents
Sound source discrimination device and its discrimination method Download PDFInfo
- Publication number
- JP4127211B2 JP4127211B2 JP2004011660A JP2004011660A JP4127211B2 JP 4127211 B2 JP4127211 B2 JP 4127211B2 JP 2004011660 A JP2004011660 A JP 2004011660A JP 2004011660 A JP2004011660 A JP 2004011660A JP 4127211 B2 JP4127211 B2 JP 4127211B2
- Authority
- JP
- Japan
- Prior art keywords
- sound
- sound source
- cause
- waveform
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
Description
本発明は、発生原因が不明な音源の発生原因を判別するための音源判別装置及びその判別方法に係り、特に、筐体を通して外部に放射される機械騒音に含まれる複数種の音の発生原因を推定して判別するに有効な音源判別装置及びその判別方法に関するものである。 The present invention relates to a sound source discriminating apparatus and a discriminating method for discriminating the cause of a sound source whose cause of occurrence is unknown, and in particular, causes of the generation of a plurality of types of sounds included in mechanical noise radiated to the outside through a housing. The present invention relates to a sound source discriminating apparatus and a discriminating method that are effective for estimating and discriminating the noise.
近年、オフィスにおける快適性や知的生産性の向上を支援するためにオフィス環境の向上が求められている。このような動きを受けて、例えばオフィスで使用される複写機、プリンタ等の画像形成装置についてもその装置から発せられる騒音を低減することが求められている。 In recent years, there has been a demand for improvement in the office environment in order to support improvement in comfort and intellectual productivity in the office. In response to such a movement, for example, an image forming apparatus such as a copying machine or a printer used in an office is required to reduce noise generated from the apparatus.
図6は、一般的な電子写真方式を利用したプリンタが稼動中に発生する騒音の時間波形を示したものである。この図に示されるように、騒音の音圧が経時的に変動していることがわかる。図中の丸印で示した波形部分は、数10〜数100ミリ秒程度の短時間の高い音圧からなる音、いわゆる衝撃音が発生している部分を示している。このような衝撃音とも呼ばれる音は、部品どうしの衝突、用紙と部品と衝突などにより発生するものであり、具体的には、ソレノイド、電磁クラッチ、モータ等に代表される可動部品の動作時や、用紙位置合わせ部における用紙先端と位置合わせ部材との衝突時などで発生する。 FIG. 6 shows a time waveform of noise generated during operation of a printer using a general electrophotographic system. As shown in this figure, it can be seen that the sound pressure of the noise varies with time. A waveform portion indicated by a circle in the drawing indicates a portion where a sound having a high sound pressure for a short time of about several tens to several hundred milliseconds, that is, a so-called impact sound is generated. Such a sound called an impact sound is generated by a collision between parts, a collision between a sheet and a part, and specifically, when a movable part represented by a solenoid, an electromagnetic clutch, a motor or the like is operated. This occurs at the time of a collision between the leading edge of the sheet and the alignment member in the sheet alignment unit.
そして、この衝撃音のような音は、一般に短時間に大きな音圧変動を示すことから、騒音のなかでも特に人に認知されやすく不快感を与えやすい。 Such a sound such as an impact sound generally shows a large fluctuation in sound pressure in a short time, and therefore, it is easily recognized by humans and is likely to cause discomfort among noises.
このため、騒音対策を必要とする製品開発時においては、衝撃音のような音の低減に注力した研究開発を行うことが多い。しかし、前記した画像形成装置のような音源対象物の一部のものについては、かかる衝撃音の発生原因を特定することが非常に難しいとされている。 For this reason, when developing products that require noise countermeasures, research and development are often conducted with a focus on reducing the impact noise. However, for some of the sound source objects such as the image forming apparatus described above, it is considered extremely difficult to identify the cause of the impact sound.
これは、複写機、プリンタ等の画像形成装置のような音源対象物では、一般の家電製品や機械構造物などと比べて可動部品やそれと関連する部品の点数が桁違いに多く、しかもその可動部品等が種々のタイミングで動作することにより、様々な音源から様々なタイミングで音が発生することとなり、複数種の衝撃音が混在しているという特徴によるものである。また、かかる画像形成装置では、その小型化や高機能化が進むにつれて、その構成部品どうしが非常に接近した位置関係で配置されるようになるという特徴や、部品自体が更に小さくなるとともに新たな部品が追加されるようにもなるという特徴によるものである。 This is because sound source objects such as image forming apparatuses such as copying machines and printers have orders of magnitude more moving parts and related parts than ordinary household electrical appliances and mechanical structures. When components or the like operate at various timings, sounds are generated from various sound sources at various timings, and this is due to the feature that a plurality of types of impact sounds are mixed. In addition, in such an image forming apparatus, as the size and functionality of the image forming apparatus advance, the components are arranged in a very close positional relationship, and the components themselves become smaller and new. This is due to the feature that parts are added.
そこで、本出願人は、このような多くの音源からランダムに発せられる音の発生原因を短時間でかつ正確に判断するための信号判断装置に関する提案を行っている(特許文献1、2)。 In view of this, the present applicant has proposed a signal determination apparatus for accurately determining the cause of generation of sounds randomly generated from such many sound sources in a short time (Patent Documents 1 and 2).
この信号判断装置は、例えば、発生原因が明らかな音源からの複数種の音を収音して得られる音響信号に関する波形ベクトルを既知波形ベクトル(基準空間)として用意する一方で、判断対象となる発生原因が不明な音源の音を収音して得られる音響信号に関する波形ベクトルを判断対象波形ベクトルとして取り込み、それについて前記既知波形ベクトルとの間の距離測度(例えばマハラノビス距離)を算出する。そして、その判断対象波形ベクトルの距離測度を、既知波形ベクトルの原因別の距離測度データに基づいて設定する判別用の閾値と比較することにより、かかる判断対象の波形ベクトルがどの既知波形ベクトルの音源群に含まれるものであるかを推定して判断するものである。 For example, the signal determination device prepares a waveform vector related to an acoustic signal obtained by collecting a plurality of types of sound from a sound source whose cause of occurrence is clear as a known waveform vector (reference space), and becomes a determination target. A waveform vector related to an acoustic signal obtained by collecting sound of a sound source whose occurrence is unknown is taken as a judgment target waveform vector, and a distance measure (for example, Mahalanobis distance) between the waveform vector and the known waveform vector is calculated. Then, by comparing the distance measure of the judgment target waveform vector with a discrimination threshold set based on the distance measure data for each cause of the known waveform vector, the sound source of which known waveform vector is the judgment target waveform vector Judgment is made by estimating whether the material is included in the group.
しかしながら、このような信号判断装置にあっては、次のような課題がある。 However, such a signal determination device has the following problems.
すなわち、判断対象となる音源の音響信号に関する距離測度がその音源の発生原因ごとに異なった特定の数値領域にそれぞれ規則的に分布する場合であれば、前記した閾値との比較により発生原因を正確に判断することが可能である。ところが、その距離測度が発生原因の異なる音源の数値領域の一部に入り込むように分布する特性をもつ音源が存在する場合には、当該音源とその他の音源との距離測度どうしが逆転した大小関係となる(総合すると、一部の数値領域で重なり合った状態で分布することになる)ため、それら音源の発生原因を前記閾値との比較によって判別することができなくなる。 In other words, if the distance measure related to the sound signal of the sound source to be judged is regularly distributed in specific numerical ranges that differ for each cause of the sound source, the cause of the occurrence can be accurately determined by comparison with the above-mentioned threshold value. It is possible to judge. However, if there is a sound source with characteristics that are distributed so that the distance measure enters a part of the numerical range of the sound source with different causes, the magnitude relationship in which the distance measures between the sound source and other sound sources are reversed. (Overall, they are distributed in an overlapping state in some numerical regions), so that the cause of the sound sources cannot be determined by comparison with the threshold value.
図11は、前記信号判断装置により画像形成装置の音源判別を行った場合における各音源の距離測度(マハラノビス距離)の計測結果を示すものである。この図に示すように、発生原因が明らかな、金属部材の衝突音、プラスチック部材の衝突音および用紙音(用紙先端部衝突音と用紙後端部はね音)という3つの音源の各距離測度は、そのいずれのサンプルについてもほぼ同じ数値領域に規則的に繰り返して分布する。これに対して、その用紙音のうち特に用紙の搬送方向後端部のはね音の距離測度について見ると、そのサンプルによってはときどき用紙先端部衝突音の距離測度の数値領域に入り込む(逆転する)ように分布することがある。このため、用紙先端部衝突音と用紙後端部はね音については、一定の閾値を用いて単純に判別することができない場合が発生するのである。 FIG. 11 shows the measurement result of the distance measure (Mahalanobis distance) of each sound source when the signal determination device performs sound source discrimination of the image forming apparatus. As shown in this figure, each distance measure of three sound sources of which the cause of occurrence is obvious, such as a collision sound of a metal member, a collision sound of a plastic member, and a paper sound (paper front edge collision sound and paper rear edge splash sound). Are regularly and repeatedly distributed in almost the same numerical range for all the samples. On the other hand, when looking at the distance measure of the splash sound of the paper sound, particularly the trailing edge of the paper in the conveyance direction, depending on the sample, it sometimes enters the numerical area of the distance measure of the paper leading edge collision sound. ) May be distributed as follows. For this reason, there is a case where the paper leading edge collision sound and the paper trailing edge splash sound cannot be simply determined using a certain threshold.
なお、従来においては、音源の周波数成分の識別に加えて音源の継続時間の差異を測定する音源認識装置に関する提案がある(特許文献3)。この認識装置は、音源(例えば短いクラクションと長いクラクション)をその音信号の継続時間の違いによっても認識できるようにしたものである。継続時間とは、音信号がある電圧レベルを超えてそれ以下になるまでの経過時間を示している。 Conventionally, there is a proposal related to a sound source recognition device that measures a difference in duration of sound sources in addition to identifying frequency components of sound sources (Patent Document 3). This recognizing device can recognize a sound source (for example, a short horn and a long horn) by a difference in duration of the sound signal. The duration indicates an elapsed time until the sound signal exceeds a certain voltage level and becomes lower than that.
しかし、この認識装置であっても、前述したような距離測度がランダムに分布するような音源の判別を行うことは困難である。つまり、衝撃音のような音は、例えば衝突する部材の条件(表面硬度など)が異なると、その音圧の振幅の立ち上がり曲線や減衰極性などの過渡的な特性に大きな差異があることが知られており、その音信号の継続時間を単に計測しただけでは時間経過に伴う特性に現われる特徴を総合的に判断して判別できないのである。 However, even with this recognition device, it is difficult to determine a sound source in which the distance measure as described above is randomly distributed. In other words, sound such as impact sound, for example, is known to have large differences in transient characteristics such as the rising curve of the sound pressure amplitude and attenuation polarity when the conditions of the colliding member (surface hardness, etc.) differ. Therefore, simply measuring the duration of the sound signal cannot be determined by comprehensively judging the characteristics appearing in the characteristics over time.
本発明は、このような事情に鑑みてなされたものであり、その主な目的とするところは、発生原因が不明な判別対象の音源として、その発生音が種々の要因で安定せず異なってしまうような特性を示す音源が存在する場合であっても、かかる音源からの音(主に衝撃音)の発生原因についても適切に判別することができる音源判別装置と音源判別方法を提供することにある。 The present invention has been made in view of such circumstances, and the main purpose of the present invention is that the generated sound is unstable and different due to various factors as a sound source to be identified whose cause of occurrence is unknown. To provide a sound source discriminating apparatus and a sound source discriminating method capable of appropriately discriminating the cause of sound (mainly impact sound) from such a sound source even when there is a sound source exhibiting such a characteristic. It is in.
本発明の音源判別装置は、音源からの音を収音して音響信号として取り込む収音部と、この取り込んだ音響信号から判別対象となる音部分の音響信号を複数個分切り出す音切り出し部と、この切り出した複数個の音響信号どうしの波形の類似性を示す指標を演算する類似性演算部と、この演算された波形の類似性指標について、予め発生原因が明らかな音源の発生原因別の各音響信号に関する波形の類似性指標に基づいて設定された判別用の閾値と比較して判別対象の音源の発生原因を判断する判断部とを有することを特徴とするものである。 The sound source discriminating apparatus of the present invention includes a sound collecting unit that collects sound from a sound source and captures it as an acoustic signal, and a sound cutout unit that extracts a plurality of acoustic signals of a sound part to be determined from the captured acoustic signal. The similarity calculation unit for calculating an index indicating the similarity of the waveforms of the plurality of cut-out acoustic signals, and the calculated waveform similarity index according to the source of the sound source whose cause of occurrence is clear in advance And a determination unit configured to determine a cause of generation of a sound source to be determined in comparison with a determination threshold set based on a waveform similarity index for each acoustic signal.
収音部は、例えば、所定の音源から発せられる音を電気信号からなる音響信号として捕捉することが可能なマイクロフォンにて構成できる。収音部は、マイクロフォンに加えて、マイクロフォンで取り込んだ音響信号を記憶・格納することが可能なデータ記憶部とで構成することも可能である。このように構成した場合には、音の収録だけを先に実施し、その後で収録した音響波形の分析や演算に関する処理を一括してオフライン処理することができる。データ記憶部としては、音響信号をアナログ/デジタル(A/D)交換器にて変換し、デジタル信号として記憶・格納することが可能なDAT(Digital Audio Taperecorder)やHD(Hard Disc)装置やMD(Mini Disc)レコーダなどを採用するとよい。収音する音は、判断対象となる発生原因が不明な音源からの音や、発生原因が明らかな音源からの音である。 The sound collection unit can be configured by, for example, a microphone that can capture sound emitted from a predetermined sound source as an acoustic signal including an electrical signal. The sound collection unit can be configured by a data storage unit that can store and store an acoustic signal captured by the microphone, in addition to the microphone. In the case of such a configuration, only the sound recording is performed first, and then the processing relating to the analysis and calculation of the recorded acoustic waveform can be collectively performed offline. As the data storage unit, DAT (Digital Audio Tape Recorder), HD (Hard Disc) devices, MDs that can convert acoustic signals with analog / digital (A / D) exchangers and store / store them as digital signals A (Mini Disc) recorder may be used. The sound to be collected is a sound from a sound source whose cause of determination is unknown or a sound from a sound source whose cause of occurrence is clear.
音切り出し部は、収音部で取り込んだ音響信号から判別対象となる音部分の音響信号を複数個分繰り返して切り出すが、その切り出しは音響信号における波形の立ち上がり部や振幅最大部などとなる時間軸上の波形特徴部分を基準に設定される所定の範囲に対して行われる。この切り出す個数は、判別対象となる音部分の類似性を算出することが可能な数量であればよく、2個でも構わないが、少なくとも3個以上であることが好ましい。このような音切り出し部は、例えば、PC(パーソナルコンピュータ)に取り込む音響解析用ソフトウェアや、トリガー機能を備えたデータロガーなどにより構成することができる。 The sound cutout unit repeatedly cuts out a plurality of sound signals of the sound part to be discriminated from the sound signal taken in by the sound collection unit, and the cutout is the time when the waveform rises or the maximum amplitude part in the sound signal. This is performed for a predetermined range set based on the waveform feature on the axis. The number to be cut out may be a number that can calculate the similarity of the sound part to be discriminated, and may be two, but is preferably at least three or more. Such a sound cut-out unit can be configured by, for example, acoustic analysis software imported into a PC (personal computer), a data logger having a trigger function, or the like.
判別対象の音部分は、本発明による判別方式により発生原因の判別ができるものであればよく、主に衝撃音である。衝撃音としては、その音響持続時間が1秒(sec)以下、好ましくは100m秒(msec)以下となる音である。この判別対象の音部分を切り出すためには、上記収音部において当該音部分が少なくとも所定の個数分だけ含まれる量の音を(繰り返して発生させて)予め取り込んでおく必要があることはいうまでもない。 The sound part to be determined is not limited as long as the cause of occurrence can be determined by the determination method according to the present invention, and is mainly an impact sound. The impact sound is a sound whose acoustic duration is 1 second (sec) or less, preferably 100 milliseconds (msec) or less. In order to cut out the sound portion to be discriminated, it is necessary to capture in advance (by repeatedly generating) an amount of sound that includes at least a predetermined number of the sound portions in the sound collecting portion. Not too long.
また、音切り出し部は、上記切り出しを行う前に取り込んだ音響信号を所定の補正フィルタにより聴感補正する聴感補正部を備えたものでもよい。その補正フィルタとしては、低周波の暗騒音成分を除去するためのハイパスフィルタや、他の独自に定める特性フィルタを使用することもできるが、一般的に人の聴覚に近いといわれているA特性フィルタを用いることが好ましい。さらに、切り出した音響信号については、その時間波形の振幅の最大値や最小値が所定の大きさとなるように振幅を基準化するように構成するとよい。 The sound cutout unit may include an audibility correction unit that corrects the audibility of a sound signal acquired before performing the cutout by a predetermined correction filter. As the correction filter, a high-pass filter for removing low-frequency background noise components and other characteristic filters that are uniquely defined can be used. However, the A characteristic is generally said to be close to human hearing. It is preferable to use a filter. Further, the cut-out acoustic signal may be configured such that the amplitude is normalized so that the maximum value and the minimum value of the amplitude of the time waveform have a predetermined magnitude.
類似性演算部は、判別対象の音部分について切り出した複数個の音響信号どうしの波形に関する類似性を示す指標を演算するが、その波形類似性については音響信号の波形特性(経時的な音圧変動特性または周波数変動特性など)を互いに対比してその類似する度合いを分析するようにすればよい。この類似性演算部では、発生原因が明らかな音源から収音して得る複数個分の音響信号どうしの波形に関する類似性の指標についても演算する。 The similarity calculation unit calculates an index indicating the similarity between the waveforms of a plurality of acoustic signals cut out for the sound portion to be discriminated, and the waveform similarity is determined based on the waveform characteristics of the acoustic signals (sound pressure over time). The degree of similarity may be analyzed by comparing the fluctuation characteristics or the frequency fluctuation characteristics). This similarity calculation unit also calculates a similarity index related to the waveforms of a plurality of acoustic signals obtained by collecting sounds from a sound source whose cause of occurrence is clear.
音圧変動特性については、一般的な音響解析装置、音響波形解析ソフトウェア等の分析手段を用いて演算することができる。一方、周波数変動特性については、FFT解析、ウエーブレット解析、一般化調和解析などの一般的な周波数分析手段を用いて演算することができる。また、周波数変動特性により類似性を分析する場合には、その分析対象となる時間波形に対してハニングウインドウ、ハミングウインドウ、フラットトップウインドウ等の窓関数による窓関数処理を施すように構成してもよい。このような処理を施すことにより、折り返し誤差や漏れ誤差等の周波数分析上の問題を軽減し、実状に即した周波数特性の演算を行うことができるようになる。 The sound pressure fluctuation characteristic can be calculated using an analysis means such as a general acoustic analysis device or acoustic waveform analysis software. On the other hand, the frequency variation characteristic can be calculated using general frequency analysis means such as FFT analysis, wavelet analysis, and generalized harmonic analysis. Further, in the case of analyzing the similarity by the frequency variation characteristic, the time waveform to be analyzed may be subjected to window function processing using window functions such as a Hanning window, a Hamming window, and a flat top window. Good. By performing such processing, problems in frequency analysis such as aliasing error and leakage error can be reduced, and calculation of frequency characteristics in accordance with the actual situation can be performed.
上記波形の類似性については、一般的な相関係数や統計学上の空間距離などを指標として用いることで算出される。 The similarity of the waveform is calculated by using a general correlation coefficient or a statistical spatial distance as an index.
類似性を示す指標として相関係数を用いる場合には、収音して得る各音響信号の複数分のデータ(デジタル信号:演算処理するためのデータとして表現される数値列や数値行列)についての平均、共分散、標準偏差などを予め求めた後に相関係数を算出し、その相関係数の値を音響信号(変量)どうしの類似性の有無やその度合いの判断基準とする。つまり、相関係数が0に近い値になるほど音響信号どうしの相関がなく、類似性の度合いが低い傾向にあることがわかり、また相関係数が1に近い値になるほど音響信号どうしの相関があり、類似性の度合いが高い傾向にあることがわかる。 When a correlation coefficient is used as an index indicating similarity, a plurality of pieces of data (digital signal: numerical sequence or numerical matrix expressed as data for arithmetic processing) of each acoustic signal obtained by sound collection After obtaining the average, covariance, standard deviation, etc. in advance, the correlation coefficient is calculated, and the value of the correlation coefficient is used as a criterion for the presence or absence of similarity between the acoustic signals (variables). In other words, it can be seen that the closer the correlation coefficient is to 0, the less the correlation between the acoustic signals is, and the lower the degree of similarity is, and the closer the correlation coefficient is to 1, the more the correlation between the acoustic signals is. It can be seen that the degree of similarity tends to be high.
空間距離を演算するための距離の測度としては、統計学上の判別分析やクラスター分析で用いられる一般的な距離測度、例えば、ユークリッドの距離、標準化ユークリッドの距離、ミンコフスキーの距離、マハラノビスの距離等を用いることができる。例えば、類似性を示す指標としてマハラノビスの距離を使用する場合、収音して得る各音響信号の複数個分のデータについての平均、分散、共分散などを予め求めた後にマハラノビス距離を算出し、そのマハラノビス距離の値を音響信号(変量)どうしの相関の程度を表す指標として利用して類似性の有無やその度合いの判断基準とする。 General distance measures used in statistical discriminant analysis and cluster analysis, such as Euclidean distance, standardized Euclidean distance, Minkowski distance, Mahalanobis distance, etc. Can be used. For example, when the Mahalanobis distance is used as an index indicating similarity, the Mahalanobis distance is calculated after obtaining in advance the average, variance, covariance, etc. of the data for a plurality of acoustic signals obtained by collecting the sound, The value of the Mahalanobis distance is used as an index representing the degree of correlation between acoustic signals (variables) and used as a criterion for the presence or absence of similarity.
判断部は、判断対象の音源の発生原因を判断する前処理として、予め発生原因が明らかな音源の音に関する波形の類似性指標が求められる。この発生原因が明らかな音源とは、判断対象の音源から放射される可能性のある発生原因別の音(可動部品やその動作に関連する部品などを要因とする音)を前記収音部においてそれぞれ収音して音響信号として複数個分採取し、その発生原因ごとの音響信号どうしの波形類似性を示す指標が前記類似性演算部にて算出されて用意される。この採取する音の個数は、判別対象の音源から採取する音の個数と同数であっても、あるいはそれよりも少ない数であってもよい。このようにして得られる発生原因別の音源の波形類似性指標に関する全データに基づいて、その発生原因別の音源について区別するに適当な指標値を判別用の閾値として適宜設定する。例えば、類似性指標として相関係数などを使用した場合には、相関係数が互いに近い値を示す発生原因が異なる音どうしの両相関係数の中間値を閾値として設定することができる。 As a pre-process for determining the cause of occurrence of the sound source to be determined, the determination unit obtains a waveform similarity index relating to the sound of the sound source in which the cause of occurrence is clear in advance. A sound source whose cause of occurrence is clear is a sound according to the cause of occurrence that may be radiated from a sound source to be judged (a sound caused by a movable part or a part related to its operation) in the sound collection unit. Each sound is picked up and collected as a plurality of acoustic signals, and an index indicating the waveform similarity between the acoustic signals for each cause is calculated and prepared by the similarity calculation unit. The number of sounds to be collected may be the same as the number of sounds collected from the sound source to be discriminated, or may be a smaller number. Based on all data related to the waveform similarity index of the sound source for each cause obtained in this way, an appropriate index value for distinguishing the sound source for each cause of occurrence is appropriately set as a threshold for determination. For example, when a correlation coefficient or the like is used as the similarity index, an intermediate value between the two correlation coefficients of sounds having different generation causes that indicate values close to each other can be set as a threshold value.
そして、判断部では、類似性演算部で演算された判断対象の音源の波形に関する類似性指標を予め用意した上記判別用の閾値と比較することで、その判断対象の音源の発生原因を推定して判断する。 Then, the determination unit estimates the cause of the generation of the sound source of the determination target by comparing the similarity index regarding the waveform of the sound source of the determination target calculated by the similarity calculation unit with the prepared threshold for determination. Judgment.
一方、本発明の音源判別方法は、音源からの音を収音して音響信号として取り込む収音工程と、この取り込んだ音響信号から判別対象となる音部分の音響信号を複数個分切り出す音切り出し工程と、この切り出した複数個の音響信号どうしの波形の類似性を示す指標を演算する類似性演算工程と、この演算された波形の類似性指標について、予め発生原因が明らかな音源の発生原因別の各音響信号に関する波形の類似性指標に基づいて設定された判別用の閾値と比較して判別対象の音源の発生原因を判断する判断工程とを有することを特徴とするものである。 On the other hand, the sound source discrimination method of the present invention is a sound collection step of picking up sound from a sound source and capturing it as an acoustic signal, and sound extraction for extracting a plurality of acoustic signals of a sound part to be determined from the acquired acoustic signal A similarity calculation step of calculating an index indicating the similarity between waveforms of the plurality of cut-out acoustic signals, and a cause of sound source in which the cause of occurrence is clear in advance for the calculated similarity index of waveforms A judgment step of judging the cause of the generation of the sound source to be discriminated by comparing with a discrimination threshold set based on a waveform similarity index for each of the other acoustic signals.
この判別方法における各工程は、前記した音源判別装置における各機能部(収音部、音切り取り部、類似性演算部、判別部)の動作によって実現することができる。 Each step in this discrimination method can be realized by the operation of each functional unit (sound collection unit, sound cutout unit, similarity calculation unit, discrimination unit) in the sound source discrimination device described above.
本発明の音源判別装置およびその判別方法は、発生原因が不明な複数種の音源を有する音源のうち、特にその発生音が種々の要因で安定せず異なってしまうような特性を示す音源を含む音源の発生原因判別時に適用すると有効である。発生音が種々の要因で安定せず異なる特性の音源を含む音源とは、例えば、同じ発生原因の音源であるにもかかわらず、その発生音が繰り返して発生させた場合に安定せず異なるような音源である。このような特殊な音源を含む音源としては、発生原因が不明な音源が筐体の内部に存在する複数種の音源が挙げられ、具体的には例えば前記した画像形成装置が挙げられる。画像形成装置に対する音源判別を行う場合には、特にその画像形成に使用する用紙に関連する音(用紙先端部の衝突音、用紙後端部のはね音など)を正確に判別すること可能となる。 The sound source discriminating apparatus and the discriminating method of the present invention include, among sound sources having a plurality of types of sound sources whose cause of occurrence is unknown, in particular, a sound source exhibiting characteristics that cause the generated sound to be unstable and different due to various factors. It is effective when applied when determining the source of sound source. A sound source that does not stabilize due to various factors and includes a sound source with different characteristics, such as a sound source that has the same cause of occurrence, does not appear to be stable when it is repeatedly generated. Sound source. Examples of the sound source including such a special sound source include a plurality of types of sound sources in which a sound source whose occurrence is unknown is present inside the casing, and specifically includes, for example, the above-described image forming apparatus. When performing sound source determination for an image forming apparatus, it is possible to accurately determine sound relating to the paper used for image formation (such as a collision sound at the front end of the paper, a splashing sound at the rear end of the paper). Become.
このような音源判別装置およびその判別方法によれば、発生原因が不明な音源の音(衝撃音など)を繰り返して発生させて複数個分採取し、その繰り返した各音の音響信号どうし間における波形の類似性から当該音源の発生原因が判別される。このように発生原因が不明な音源の音について、その時間に対する波形特性(音圧変動特性や周波数特性など)そのものではなく、かかる波形特性の繰り返し間での類似性を指標として発生原因を判別することになる。 According to such a sound source discriminating apparatus and its discriminating method, a sound source (impact sound, etc.) whose cause of occurrence is unknown is repeatedly generated and sampled in plural, and the sound signals of the repeated sounds are between each sound signal. The cause of the sound source is determined from the similarity of waveforms. In this way, for the sound of a sound source whose cause of occurrence is unknown, the cause of the sound is determined not using the waveform characteristics (sound pressure fluctuation characteristics, frequency characteristics, etc.) itself with respect to the time but using the similarity between repetitions of such waveform characteristics as an index. It will be.
これにより、発生音が種々の要因で安定せず異なってしまうような特性の音源を含む音源の判別を行う場合であっても、音源の繰り返し発生時における波形の類似特性を基準に行う比較的簡易な波形比較処理により精度の高い音源判別が可能になる。 As a result, even when a sound source including a sound source having characteristics that cause the generated sound to be unstable and different due to various factors is determined, the relative characteristics of the waveform when the sound source is repeatedly generated are comparatively performed. A simple waveform comparison process enables accurate sound source discrimination.
図8〜図10は、本発明の判別装置および方法を適用し、複写機から放射される3種の音を2回ずつ繰り返して測定した時間−音圧波形を示すものである。図8はソレノイドの動作音の波形、図9は用紙先端部の衝突音の波形、図10は用紙後端部のはね音の波形をそれぞれ示す。また、各図の欄外には波形どうしの類似性を示す指標として相関係数rを併記している。これらの図からわかるように、ソレノイドの動作音はその2つの波形の類似性が高い(r=0.76)のに対し、用紙後端部のはね音はその波形の類似性が低く(r=0.43)、用紙先端部の衝突音はその波形の類似性が両音の類似性を基準にしてみると中間的なレベルにある(r=0.62)ことが明らかである。このような違いが発生するのは以下の理由によるものと推考される。 FIGS. 8 to 10 show time-sound pressure waveforms obtained by measuring the three kinds of sounds emitted from the copying machine twice by applying the discrimination apparatus and method of the present invention. FIG. 8 shows the waveform of the operation sound of the solenoid, FIG. 9 shows the waveform of the collision sound at the leading end of the sheet, and FIG. 10 shows the waveform of the splashing sound at the trailing end of the sheet. In addition, the correlation coefficient r is also written as an index indicating the similarity between waveforms in the margin of each figure. As can be seen from these figures, the operation sound of the solenoid has a high similarity between the two waveforms (r = 0.76), whereas the splash sound at the rear end of the paper has a low waveform similarity ( r = 0.43), it is clear that the similarity of the waveform of the collision sound at the leading edge of the sheet is at an intermediate level (r = 0.62) when the similarity of both sounds is used as a reference. It is assumed that such a difference occurs due to the following reasons.
すなわち、ソレノイド等の可動部品の動作音は、その構成部品が金属やプラスチックなどの比較的剛性の高い材料で主に構成されているため可動時に構成部品どうしの衝突状態などが毎回安定し、その結果、構成部品どうしが衝突等することで発生する音も毎回ほぼ安定して再現される傾向にあるためと考えられる。これに対し、用紙に関連する音は、用紙そのものの剛性が低いため音が発生する際の用紙の変形状態や振動状態などが安定せず、その結果、音発生時毎に生じる音も異なって発生する傾向にあるためと考えられる。 In other words, the operating sound of moving parts such as solenoids is stable each time the moving parts collide with each other because they are mainly composed of relatively rigid materials such as metal and plastic. As a result, it is considered that the sound generated when the component parts collide tends to be reproduced almost stably every time. On the other hand, the sound related to the paper is not stable due to the low rigidity of the paper itself. As a result, the sound generated when the sound is generated is different. This is probably due to the tendency to occur.
また、用紙に関連する音どうしについては、まず用紙先端部の衝突音は、単に用紙の位置合わせ部品等との衝突現象により紙自身が紙面方向に振動することで発生するものであり、後述するはね音のように用紙自体が大きく変形することで発生するものでないため比較的似通った音として発生する傾向にあるためと考えられる。これに対し、用紙後端部のはね音は、例えばその後端部が数mm〜数十mm程度変形しながら段差部などを乗り上げて通過するときに弾かれるような挙動現象により発生するものであり、その変形度合いの違いに応じて発生する音の波形も変化してしまう傾向にあるためと考えられる。実際、複写機内を搬送される用紙の後端部がはねる様子を観察したところ、その用紙後端部の変形状態が画像形成サイクル毎に変化することが確認されている。 As for the sounds related to the paper, first, the collision sound at the front end of the paper is generated by the vibration of the paper itself in the direction of the paper surface due to the collision phenomenon with the paper positioning component, etc., which will be described later. This is presumably because it does not occur when the paper itself is greatly deformed like a splash sound, and therefore tends to be generated as a relatively similar sound. On the other hand, the splashing sound at the rear end of the paper is generated by a behavior phenomenon that is repelled when the rear end is deformed by several mm to several tens mm and passes over a stepped portion or the like. This is because the waveform of the sound generated according to the difference in the degree of deformation tends to change. Actually, when the state of the trailing edge of the sheet conveyed through the copying machine is observed, it is confirmed that the deformation state of the trailing edge of the sheet changes every image forming cycle.
このような事実からも見ても、判別対象の音源からの音を複数回繰り返して発生させ、その複数回分の音(音響信号)どうしの波形の類似性を調べて対比すれば、その音源の発生原因を推定して判別できることが明らかである。 Even in view of these facts, if the sound from the sound source to be discriminated is generated multiple times, and the similarities of the waveforms of the sound (acoustic signals) of the multiple times are examined and compared, It is clear that the cause of occurrence can be estimated and discriminated.
以上説明したように、本発明の音源判別装置および判別方法によれば、発生原因が不明な判別対象の音源として、その発生音が種々の要因で安定せず異なってしまうような特性を示す音源が存在する場合であっても、かかる音源からの音の発生原因についても適切に判別することができる。例えば、画像形成装置において発生する用紙後端部のはね音のような音源が存在しても、そのはね音と用紙先端部の衝突音との発生原因の判別を適正に行うことが可能となる。 As described above, according to the sound source discriminating apparatus and the discriminating method of the present invention, as a discrimination target sound source for which the cause of occurrence is unknown, a sound source exhibiting characteristics that cause the generated sound to be unstable and different due to various factors Even when there is sound, it is possible to appropriately determine the cause of the sound from such a sound source. For example, even if there is a sound source such as a splash sound at the trailing edge of the paper generated in the image forming apparatus, it is possible to properly determine the cause of the occurrence of the splash sound and the collision sound at the leading edge of the paper. It becomes.
《実施の形態1》
図1は、本発明の実施例に係る音源判別システム100の構成を説明するものである。この音源判別システム100が判別する対象とする音源は、複写機Tから放射される騒音である。
Embodiment 1
FIG. 1 illustrates the configuration of a sound
そして、この判別システム100は、その騒音の原因が原因(1):可動部品(ソレノイド)の動作音、原因(2):記録用紙の搬送方向先端部の衝突音、原因(3):記録用紙の搬送方向後端部のはね音のいずれであるかを判断するものである。このような発生原因の音の判別を行うのは以下の観点から決定したものである。まず、メーカーや機種が異なる20種類の既存の複写機やプリンタを対象に、これらの画像形成装置から放射される約100種類の衝撃音の発生原因を入念に調べたところ、上記原因(1)に該当する音が「42」、原因(2)に該当する音が「18」、原因(3)に該当する音が「25」という割合で比較的多く発生することが判明した。このため、かかる画像形成装置の騒音中における衝撃音の発生が問題になった際に、その3種類の音のいずれに該当する音なのかが明らかになれば、その騒音対策を講じる上で非常に有用であるからである。
In the
信号判断システム100の全体は、複写機Tからの騒音を収音する収音手段としてのマイクロフォン1と、マイクロフォン1に接続されるDAT2と、DAT2に接続されるパーソナルコンピュータシステムCとから構成される。さらにこのパーソナルコンピュータシステムCは、コンピュータ本体3と、入力手段としてのキーボード4a、マウス4b、出力手段としてのディスプレイ装置5などを備えている。
The entire
このコンピュータ本体3内のハードウェア資源としては、演算制御手段としてのCPU、主記憶手段としてのRAM、補助記憶手段としてのハードディスク、入出力制御装置など(いずれも図示せず)を有し、コンピュータ本体3内のソフトウェア資源としては、オペレーティングシステム、音響波形解析ソフトウェア、数値解析ソフトウェアなど(いずれも図示せず)を有している。このハードウェア資源とソフトウェア資源との共同作業により、次の図2に示す波形切り出し部30、波形類似性演算部40および判断部50の各機能を実現している。
The hardware resources in the computer
図2は、この判別システム100の基本的な機能ブロック図である。この判別システム100における基本的な機能は、処理の流れに沿って順に、マイクロフォン1等で構成される収音部10と、DATレコーダ2で構成されるデータ記憶部20と、コンピュータ本体3で構成される波形切り出し部30、波形類似性演算部40および判断部50と、ディスプレイ装置5で構成される表示部60とである。これらの機能ブロックどうしで入出力される信号は、アナログ電気信号AS、デジタル信号DS、判断結果Rである。
FIG. 2 is a basic functional block diagram of the
図3は図2に示した波形切り出し部30の構成を、図4は図2に示した類似性演算部40の構成をそれぞれより詳細に示した機能ブロック図である。
3 is a functional block diagram showing the configuration of the
波形切り出し部30は、図3に示すように、聴感補正部31、繰り返し音検出部32、繰り返し波形切り出し部33および振幅基準化部34を備えている。類似性演算部40は、図4に示すように、繰り返し波形のベクトルを生成する波形ベクトル演算部41と、その波形ベクトルについての平均値、分散、標準偏差等を算出して、波形の類似性指標としての相関係数rを演算する相関係数演算部42とを備えている。波形切り出し部30および類似性演算部40の各機能ブロックどうしで入出力される信号はいずれも、デジタル信号(具体的にはPC内の内部データとして表現される数値列)である。
As shown in FIG. 3, the
判断部50は、判別対象の音に関して演算した相関係数r(の平均値)と、予め用意して記憶されている判別用の閾値との比較を行い、どの発生原因の音源であるか否かを判断する。閾値は、予め発生原因が明らかな音源の発生原因別の繰り返し波形に関する類似性指標としての相関係数r(の平均値)を求め、その発生原因別の各平均相関係数に基づいて適宜設定され、判断部に記憶されている。
The
次に、この音源判別システム100の基本的な動作について説明する。
Next, the basic operation of the sound
まず、図5に示すように、音源判別システム100の使用に先立って、予め前処理がなされる(ステップS1)。
First, as shown in FIG. 5, prior to the use of the sound
この前処理では、発生原因が明らかな各発生原因(1)〜(n)別の音を波形ベクトルとして所定の繰り返し数量分(m個)だけ得て、その各原因(1)〜(n)毎に、しかも繰り返し単位毎に平均ベクトルμ(1)〜(n)、共分散ベクトルs(1)〜(n)、標準偏差ベクトルσ(1)〜(n)をそれぞれ演算した後、同じ発生原因の音の各繰り返し単位間おける相関係数r(1)〜(n)を求め、その結果を判断部50に記憶する。ここで上記相関係数は、データ列(xi,yi)の相関係数rxyとして表した場合、rxy=sxy/(σx・σy)となる。また、判別部50には、その各原因別の相関係数r(1)〜(n)の各平均値(r´)に基づいて近接する平均相関係数r´どうし間における中間値を閾値THとしてそれぞれ設定して記憶保持しておく。
In this pre-processing, each cause (1) to (n) for which the cause is obvious is obtained as a waveform vector for a predetermined number of repetitions (m), and each cause (1) to (n) is obtained. The same occurrence occurs after calculating the average vector μ (1) to (n), the covariance vectors s (1) to (n), and the standard deviation vectors σ (1) to (n) for each repeating unit. Correlation coefficients r (1) to (n) between each repeating unit of the cause sound are obtained, and the result is stored in the
本実施例では、前記した原因(1)、原因(2)および原因(3)からなる3種類の発生原因を判別するものであるためn=3である。また、ひとつの原因に対して10回のサンプル音響信号を取り込んだためm=10である。発生原因が明らかな上記原因(1)〜(3)ごとの音は次のように発生させた。原因(1)については、サイズや駆動力が異なる複数のソレノイドを様々な条件で順次動作させることにより発生させた。原因(2)については、坪量やサイズが異なる種々の用紙をその用紙搬送速度を変えて平板やロール周面の一側面(軸方向に沿う面)に用紙先端部から衝突させることにより発生させた。原因(3)については、坪量やサイズが異なる種々の用紙をその用紙搬送速度を変えて様々な曲率や段差を有する用紙搬送路を通過させて用紙後端部のはね音を発生させた。 In this embodiment, n = 3 because three types of causes including cause (1), cause (2), and cause (3) described above are discriminated. In addition, m = 10 because 10 sampled sound signals are captured for one cause. The sound for each of the above causes (1) to (3), whose cause of occurrence is clear, was generated as follows. The cause (1) is generated by sequentially operating a plurality of solenoids having different sizes and driving forces under various conditions. Cause (2) is caused by causing various types of paper with different basis weights and sizes to collide from the front end of the paper to one side (the surface along the axial direction) of the flat plate or roll peripheral surface while changing the paper conveyance speed. It was. As for cause (3), various papers having different basis weights and sizes were passed through paper transport paths having various curvatures and steps by changing the paper transport speed, and a splash sound was generated at the rear end of the paper. .
そして、この各原因別の音は、上記各条件を種々変えることで計100通りの条件下の音として発生させた。そして、その各音を前記繰り返し数量分だけ収音した。また、その原因別の各音の相関係数を求めるまでの各演算は類似性演算部40において行う。各発生原因の音の相関係数は、その発生原因ごとに収音した100通りの音の相関係数を発生原因ごとに平均したものである。
The sound for each cause was generated as a sound under a total of 100 conditions by variously changing the above conditions. Each sound was picked up by the repetitive quantity. In addition, the
前処理(ステップS1)が終了すると、発生原因の不明な音源、即ち複写機から放射される騒音の発生原因の判別が行われる(図5のステップS2〜S6)。 When the preprocessing (step S1) is completed, the cause of the noise radiated from the sound source whose generation cause is unknown, that is, the copier is determined (steps S2 to S6 in FIG. 5).
まず、マイクロフォン1により、判断対象となる(発生原因の不明な)音響信号が収音される(ステップS2)。本実施例では複写機Tに近接して(複写機の筐体である外装カバーから10cmだけ離れた位置に)設置されるマイクロフォン1により複写機Tからの騒音が計測される。この収音は、複写機Tの1サイクルのコピー動作が複数回実行されるときに発生する音を収音するように行っている。マイクロフォン1で収音される音は、電気信号に変換されてアナログの音響信号ASとしてDAT2に取り込まれる。
First, the microphone 1 collects an acoustic signal to be determined (unknown cause) (step S2). In this embodiment, the noise from the copying machine T is measured by the microphone 1 installed close to the copying machine T (at a
アナログ信号ASは、DAT2に内蔵されているA/D変換回路によりデジタル信号DSに変換される(ステップS3)。このときのデジタル信号はDAT2のカセット式磁気テープに一旦記録される。図6は、このDAT2に記録されたデジタル信号DSを示すグラフである。本実施例ではDAT2のA/D変換回路の分解能(サンプリング周波数)は48kHzであるため、得られるデジタル信号DSは1秒間に48000点のサンプリングデータとして得られる。ここで、複写機のような画像形成装置を収音する場合、そのサンプリング周波数としては、少なくとも10kHz以上、好ましくは20kHz以上のものを適用することが望ましい。 The analog signal AS is converted into a digital signal DS by an A / D conversion circuit built in DAT2 (step S3). The digital signal at this time is once recorded on the cassette type magnetic tape of DAT2. FIG. 6 is a graph showing the digital signal DS recorded in the DAT2. In this embodiment, since the resolution (sampling frequency) of the A / D conversion circuit of DAT2 is 48 kHz, the obtained digital signal DS is obtained as 48000 points of sampling data per second. Here, when picking up an image forming apparatus such as a copying machine, it is desirable to apply a sampling frequency of at least 10 kHz or more, preferably 20 kHz or more.
次に、波形切り取り部30において、DAT2に記録されたデジタル信号DSがパーソナルコンピュータCの本体3(ハードディスク)に対して取り込まれた後、判別対象となる音部分(衝撃音)の切り出しが行われる(ステップS4)。
Next, after the digital signal DS recorded in the DAT 2 is taken into the main body 3 (hard disk) of the personal computer C, the
まず、聴感補正部31により、取り込んだデジタル信号DSの聴感補正を行う。この実施例では、暗騒音に多く含まれる数10kHz以下の低周波数成分の信号をカットするため人の聴感に近いA特性フィルタにより補正を行った。
First, the
続いて、この聴感補正された新たなデジタル信号DS’は、繰り返し音検出部32により、判別対象となる衝撃音の波形が検出されるとともに、繰り返し波形切り出し部33によりその衝撃音の波形データが所定の繰り返し数m個分だけ切り出される。この実施例では、音圧値Pが最大値(MAX)なる時間軸上の位置を基準にし、その前方側に存在する32点のデータと、その後方側に存在する31点のデータとからなる計64点からなる波形データを1単位)を所定の繰り返し数m個分、同様にして抽出している。図7は、その切り出された1個のデジタル信号ΔDS'を示すグラフである。このグラフの縦軸は音圧を、横軸はサンプル番号をそれぞれ示している。
Subsequently, for the new digital signal DS ′ whose auditory sensation is corrected, the waveform of the impact sound to be determined is detected by the repeated
続いて、この切り出されたm個分の波形データは、振幅基準化部34により、その各波形の振幅の最大値が一定値となるように基準化される。これは、予め基準化部34に設定されている基準値Sとデジタル信号ΔDS'に含まれる音圧の絶対値の最大値P(MAX)とに基づいてデジタル信号ΔDS'を基準化し、基準化済みのデジタル信号Sm1,Sm2,・・・,Smkを得る(図3参照)。ここで、「Smk」におけるmは前記した繰り返し回数であり、その繰り返しm個目の波形の信号であることを示す。kは発生原因ごとにおいて選定した設定条件の数を示す。この例ではk=64とした。
Subsequently, the extracted m pieces of waveform data are standardized by the
次に、このように切り出されたデジタル信号Sm1,Sm2,・・・,Sm64は類似性演算部40に出力され(図3)、その繰り返し波形間の類似性指標について演算される(ステップS5)。まず、デジタル信号Sm1,Sm2,・・・,Sm64は波形ベクトル演算部41において64行×m列の繰り返し波形ベクトルに変換される。この例では、繰り返し数mをm=4とすることで、波形ベクトルを64行×4列の数値行列とした。
Next, the digital signals S m1 , S m2 ,..., S m64 cut out in this way are output to the similarity calculation unit 40 (FIG. 3), and the similarity index between the repeated waveforms is calculated ( Step S5). First, the digital signals S m1 , S m2 ,..., S m64 are converted into a repetitive waveform vector of 64 rows × m columns in the waveform
続いて、この波形ベクトルのデータに基づいて相関係数演算部42において、その波形ベクトルの繰り返し単位ごとに平均ベクトルμ、共分散ベクトルs、標準偏差ベクトルσが演算されて、その繰り返し単位間における相関係数行列Aが演算された後、その行列Aから相関係数rの平均値(平均相関係数)r´が類似性指標として求められる。この演算された平均相関係数r´は、判別対象の音源ごとに判別部50に出力される。
Subsequently, in the correlation
次に、判断部50においては、類似性演算部40から出力された判別対象の音源に関する平均相関係数r´を、予め設定されている閾値THと比較する。この比較結果により、判別対象の音源が前記した3つの発生原因(1)〜(3)のいずれに該当するものであるかを判別する。この判断部50により、判断対象となる音源の発生原因が判断され、その発生原因に関する判断結果Rを得る(ステップS6)。
Next, the
この実施形態では、前記前処理において発生原因(1)〜(3)ごとの音に関する平均相関係数r´を算出した結果が原因(1)ではr1´=0.64、原因(2)ではr2´=0.48、原因(3)ではr3´=0.32であった。閾値THについては、各発生原因の平均相関係数の中間値[(r1´+r2´)/2、(r2´+r3´)/2]]を第1閾値TH1、第2閾値TH2としてそれぞれ設定した。すなわち、第1閾値TH1は(0.64+0.48)/2=0.56、第2閾値TH2は(0.48+0.32)/2=0.40とした。 In this embodiment, the result of calculating the average correlation coefficient r ′ relating to the sound of each occurrence cause (1) to (3) in the preprocessing is r 1 ′ = 0.64 in the cause (1), and the cause (2). In this case, r 2 ′ = 0.48, and in cause (3), r 3 ′ = 0.32. For the threshold value TH, an intermediate value [(r 1 ′ + r 2 ′) / 2, (r 2 ′ + r 3 ′) / 2]] of the average correlation coefficient of each occurrence cause is used as the first threshold value TH1 and the second threshold value TH2. Set as each. That is, the first threshold value TH1 was (0.64 + 0.48) /2=0.56, and the second threshold value TH2 was (0.48 + 0.32) /2=0.40.
続いて、判断部50において、波形類似性演算部40から入力される判別対象の音源の平均相関係数r´が第1閾値TH1よりも大きい場合にはその音源が原因(1)の音であると判別し、その平均相関係数rが第1閾値TH1〜第2閾値TH2の間(0.40〜0.56)である場合にはその音源が原因(2)の音であると判別し、その平均相関係数rが第2閾値TH2よりも小さい場合にはその音源が原因(3)の音であると判別することになる。
Subsequently, in the
そして最後に、ディスプレイ装置5により、原因判断結果Rが表示される(ステップS7)。例えば、判断対象となる音源は、前記原因(1)の「可動部品の動作音」である場合には、その旨がディスプレイ装置5の画面に表示される(図2参照)。しかる後、次の音源判別が必要であれば上記工程(S2〜S7)が同様に繰り返されるが、その後の音源判別がなければ終了する(ステップS8)。 Finally, the cause determination result R is displayed on the display device 5 (step S7). For example, when the sound source to be determined is the “operation sound of the movable part” of the cause (1), that effect is displayed on the screen of the display device 5 (see FIG. 2). Thereafter, if the next sound source discrimination is necessary, the above steps (S2 to S7) are similarly repeated, but if there is no subsequent sound source discrimination, the process is ended (step S8).
以下、この実施の形態1に係る音源判別システム100の判別能力を調べた結果について説明する。
Hereinafter, the result of examining the discrimination capability of the sound
まず音源判別システム100により、前記した原因(1)〜(3)に該当する音を複写機の騒音の中から10種類ずつ選定して収音し、その各音の4回分の繰り返し音をそれぞれ切り出して各繰り返し波形間の相関係数の平均値r´をそれぞれ求めた。しかる後、その各平均相関係数r´を前記第1閾値TH1、第2閾値TH2と比較することにより、各音の発生原因について判別した。
First, the sound
このときの判別結果を表1に示す。表1は、例えば最上欄を例にして説明すると、発生原因(1)に該当する音(全10種類)の判別結果として正しく原因(1)と判別した出力数(正解数)が「8」であり、誤って原因(2)と判別した出力数が「1」、誤って原因(3)と判別した出力数が「1」であることを示している。 The discrimination results at this time are shown in Table 1. In Table 1, for example, the top column will be described as an example. The number of outputs (the number of correct answers) correctly determined as the cause (1) as the determination result of the sound (all 10 types) corresponding to the cause (1) is “8”. The number of outputs erroneously determined as the cause (2) is “1”, and the number of outputs erroneously determined as the cause (3) is “1”.
この判別結果の再現率および精度について調べたところ、表2に示すような結果が得られた。 When the reproducibility and accuracy of this discrimination result were examined, the results shown in Table 2 were obtained.
再現率は、正しく判別した場合(正解)の見落としの少なさを示すものである。例えば表2において発生原因(1)の再現率は、「原因(1)と正しく判別された出力数(正解数)/原因(1)に該当する音の総数(全正解数)」の百分率で示されている。 The recall rate indicates that there are few oversights when correctly determined (correct answer). For example, in Table 2, the reproduction rate of the cause (1) is a percentage of “number of outputs correctly identified as the cause (1) (number of correct answers) / total number of sounds corresponding to the cause (1) (total number of correct answers)”. It is shown.
一方、精度は、出力結果中の誤りの少なさを示すものである。例えば表2において発生原因(1)の精度は「原因(1)と正しく判別された出力数(正解数)/原因(1)と判別した出力総数(8+1+0)」の百分率で、発生原因(2)の精度は「原因(2)と正しく判別された出力数(正解数)/原因(2)と判別した出力総数(1+7+3)」の百分率でそれぞれ示されている。 On the other hand, the accuracy indicates the number of errors in the output result. For example, in Table 2, the accuracy of the cause (1) is expressed as a percentage of “number of outputs correctly determined as cause (1) (number of correct answers) / total number of outputs determined as cause (1) (8 + 1 + 0)”. ) Is indicated as a percentage of “number of outputs correctly determined as cause (2) (number of correct answers) / total number of outputs determined as cause (2) (1 + 7 + 3)”.
表2に示す結果から、発生原因の違いにかかわらず、再現率が70%、精度が60%をそれぞれ超えるものとなり、十分な判別能力があることが確認された。特に、従来判別しにくかった用紙先端部の衝突音と用紙後端部のはね音との判別が適切にできることが判明した。 From the results shown in Table 2, it was confirmed that the reproducibility exceeded 70% and the accuracy exceeded 60% regardless of the cause of occurrence, and there was sufficient discrimination ability. In particular, it has been found that it is possible to properly discriminate between a collision sound at the leading end of the paper and a splashing sound at the trailing end of the paper, which has been difficult to distinguish.
《実施の形態2》
実施の形態2に係る音源判別システムは、波形の類似性指標として、前記実施の形態1で使用した相関係数に代えて空間距離(例えばマハラノビスの距離)を使用した以外は実施の形態1に係る音源判別システム100と同じ構成からなるものである。
<< Embodiment 2 >>
The sound source discrimination system according to Embodiment 2 is the same as that of Embodiment 1 except that a spatial distance (for example, Mahalanobis distance) is used instead of the correlation coefficient used in Embodiment 1 as a waveform similarity index. The sound
すなわち、この実施の形態に係る音源判別システム100は、実施の形態1で説明した波形類似性演算部40(図2)における相関係数演算部42(図4)を、図12に示すように空間距離演算部43に変更したものである。空間距離演算部43では、波形類似性演算部40の波形ベルトル演算部41から得られる波形ベクトルについて、後述するようにその波形の類似性指標としての空間距離を演算する。
That is, in the sound
次に、この音源判別システム100の基本的な動作について説明する。なお、その動作については、基本的に、実施の形態1に係るシステムの場合と同様であるため(例えば図5に示すステップS4まで)、以下、その異なる部分について主に説明する。
Next, the basic operation of the sound
はじめに、実施の形態1の場合と同様に、前述したようなステップS1〜S4を経ることにより、最終的に波形切り出し部30において切り出される基準済みのデジタル信号Sm1,Sm2,・・・,Sm64が類似性演算部40に入力される。そして、この類似性演算部40に入力される上記デジタル信号は、その繰り返し波形間の類似性指標について演算される(ステップS5)。
First, similarly to the case of the first embodiment, the reference-completed digital signals S m1 , S m2 ,..., Which are finally cut out by the
まず、そのデジタル信号Sm1,Sm2,・・・,Sm64は、波形ベクトル演算部41において64行×m列の繰り返し波形ベクトルに変換される。この例では、繰り返し数mをm=4とすることで、波形ベクトルを64行×4列の数値行列とした。
First, the digital signals S m1 , S m2 ,..., S m64 are converted into a repetitive waveform vector of 64 rows × m columns in the waveform
続いて、この波形ベクトルのデータに基づいて空間距離演算部43において、その波形ベクトルの繰り返し単位ごとに平均ベクトルμ、共分散ベクトルs、標準偏差ベクトルσが演算されて、その繰り返し単位ごとに空間距離としてマハラノビスの距離:D2(i)がi=1〜m個分だけ演算され、そのばらつき幅:DR(空間距離値の最大値と最小値の比)が類似性指標として求められる。この演算された空間距離のばらつき幅:DRは、判別対象の音源ごとに判別部50に出力される。
Subsequently, an average vector μ, a covariance vector s, and a standard deviation vector σ are calculated for each repetition unit of the waveform vector based on the waveform vector data, and a space is calculated for each repetition unit. As the distance, Mahalanobis distance: D 2 (i) is calculated for i = 1 to m, and its variation width: DR (ratio between the maximum value and the minimum value of the spatial distance value) is obtained as the similarity index. The calculated spatial distance variation DR: is output to the
上記空間距離の演算としては、以下に示すようなマハラノビス汎距離演算を用いた。この空間距離を演算するためには、その算出をする基準となる基準空間が必要であるが、これを次のようにあらかじめ設定しておく。 As the calculation of the spatial distance, the Mahalanobis general distance calculation as shown below was used. In order to calculate this spatial distance, a reference space serving as a reference for calculating the spatial distance is necessary. This is set in advance as follows.
まず、基準空間とする、前記発生原因が明らかな原因(1)の音(可動部品の動作音)を100音収録し、その各音の音圧値Pが最大値(MAX)なる時間軸上の位置を基準にし、その前方側に存在する32点のデータと、その後方側に存在する31点のデータとからなる計64点からなる波形データをSi1,Si2,・・・,Si64(i=1〜100)を作成する。 First, as a reference space, 100 sounds of the cause (1) whose cause of occurrence is obvious (moving sound of moving parts) are recorded, and the sound pressure value P of each sound is on the time axis that is the maximum value (MAX). S i1 , S i2 ,..., S are waveform data consisting of a total of 64 points consisting of 32 points of data existing on the front side and 31 points of data existing on the rear side. i64 (i = 1 to 100) is created.
次いで、この波形データを高速フーリエ変換により周波数分析して32点の周波数波形データyi1,yi2,・・・,yi32を得る。これを必要なデータ数i=100音分だけ同様に実行することで周波数波形データとしてy=(yi1,yi2,・・・,yi32)を得る。そして、この周波数波形データy(=yi1,yi2,・・・,yi32)は、i=100個のデータから正規化される。正規化は、以下の式1に基づいて行う。式中、iは1〜32の整数、σは標準偏差を示す。 Next, the waveform data is subjected to frequency analysis by fast Fourier transform to obtain 32 points of frequency waveform data y i1 , y i2 ,..., Y i32 . This is similarly performed for the necessary number of data i = 100 sounds to obtain y = (y i1 , y i2 ,..., Y i32 ) as frequency waveform data. The frequency waveform data y (= y i1 , y i2 ,..., Y i32 ) is normalized from i = 100 data. Normalization is performed based on Equation 1 below. In the formula, i represents an integer of 1 to 32, and σ represents a standard deviation.
続いて、相関係数行列Aの算出と、その相関係数行列Aの逆行列R-1の算出を行う。相関係数行列を求めるために、相関係数rを算出する。相関係数rは以下の式2により算出した。式中において、上付きバーで表示したyはyの平均値、p、qはいずれも1〜32の整数を示す。 Subsequently, the correlation coefficient matrix A and the inverse matrix R −1 of the correlation coefficient matrix A are calculated. In order to obtain a correlation coefficient matrix, a correlation coefficient r is calculated. The correlation coefficient r was calculated by the following formula 2. In the formula, y displayed as a superscript bar represents an average value of y, and p and q both represent integers of 1 to 32.
相関係数行列Aは、以下の式3により求めた。式中においてaは逆行列の計算により求めた要素、kは1〜32の整数を示す。
The correlation coefficient matrix A was obtained by the following
このように求められた原因(1)に関する基準空間の相関係数行列Aは、デジタルデータとしてPC上で読み出せるファイルに保管される。このあらかじめ求められている相関係数行列Aを用いて、類似性演算部40に入力された前記デジタル信号Sm1,Sm2,・・・,Sm64のマハラノビスの距離D2が次の式4に基づいて算出される。式中のY´i1,Y´i2,・・・,Y´ik)は、前述した基準空間を求める場合と同様にしてデジタル信号Sm1,Sm2,・・・,Sm64を周波数分析した後、それをさらに正規化して求められる周波数波形データである。 The correlation coefficient matrix A in the reference space related to the cause (1) thus determined is stored as a digital data in a file that can be read on the PC. Using the correlation coefficient matrix A obtained in advance, the Mahalanobis distance D 2 of the digital signals S m1 , S m2 ,. Is calculated based on Y ′ i1 , Y ′ i2 ,..., Y ′ ik ) in the equation is a frequency analysis of the digital signals S m1 , S m2 ,. Later, it is frequency waveform data obtained by further normalizing it.
以上のような手順でマハラノビスの距離(距離測度)を4回(m=4)繰り返して演算することにより、空間距離(D21〜D24)が求められる。 By calculating more steps Mahalanobis distance, such as (distance measure) to 4 times (m = 4) repeatedly, the spatial distance (D 2 1 to D 2 4) is obtained.
次に、判断部50においては、類似性演算部40から出力された判別対象の音源に関する空間距離(D21〜D24)のばらつき幅DRを、予め設定されている閾値THと比較する。この比較結果により、判別対象の音源が前記した3つの発生原因(1)〜(3)のいずれかに該当するものであるかを判別する。この判断部50により、判断対象となる音源の発生原因が判断され、その発生原因に関する判断結果Rを得る(ステップS6)。
Next, the determining
この実施形態では、前記前処理(ステップS1)において発生原因(1)〜(3)ごとの音に関する空間距離(D21〜D24)のばらつき幅DRを算出した結果が以下の通りであった。原因(1)ではDR1=(D2max/D2min)=4.3/2.5=1.7、原因(2)ではDR2=(D2max/D2min)=52350/10020=5.2、原因(3)ではDR3=(D2max/D2min)=185360/9020=21であった。D2maxは空間距離(D21〜D24)のうちの最大値を示し、D2minは空間距離(D21〜D24)のうちの最小値を示す。 In this embodiment, the pretreatment cause (Step S1) (1) ~ are as variation result of calculating the width DR is less than the spatial distance in the sound of each (3) (D 2 1~D 2 4) there were. For cause (1), DR 1 = (D 2 max / D 2 min) = 4.3 / 2.5 = 1.7, and for cause (2), DR 2 = (D 2 max / D 2 min) = 52350 / 10020 = 5.2, and in cause (3), DR 3 = (D 2 max / D 2 min) = 185360/9020 = 21. D 2 max represents the maximum value of the spatial distance (D 2 1~D 2 4), D 2 min denotes the minimum value of the spatial distance (D 2 1~D 2 4).
また、閾値THについては、各発生原因のばらつき幅DRの中間値[(DR1+DR2)/2、(DR2+DR3)/2]]を第1閾値TH1、第2閾値TH2としてそれぞれ設定した。すなわち、第1閾値TH1は(1.7+5.2)/2=3.5、第2閾値TH2は(5.2+21)/2=13とした。 As for the threshold value TH, intermediate values [(DR 1 + DR 2 ) / 2, (DR 2 + DR 3 ) / 2]] of the variation width DR of each occurrence cause are set as the first threshold value TH1 and the second threshold value TH2, respectively. did. That is, the first threshold value TH1 was (1.7 + 5.2) /2=3.5, and the second threshold value TH2 was (5.2 + 21) / 2 = 13.
続いて、判断部50において、波形類似性演算部40から入力される判別対象の音源の空間距離に関するばらつき幅(DR1,DR2,DR3)が第1閾値TH1よりも大きい場合にはその音源が原因(1)の音であると判別し、そのばらつき幅が第1閾値TH1〜第2閾値TH2の間(3.5〜13)である場合にはその音源が原因(2)の音であると判別し、その平均相関係数rが第2閾値TH2よりも小さい場合にはその音源が原因(3)の音であると判別することになる。
Subsequently, when the
そして、この原因判断結果Rは、実施の形態1の場合と同様に、ディスプレイ装置5により表示される(ステップS7)。しかる後、次の音源判別が必要であれば上記工程(S2〜S7)が同様に繰り返されるが、その後の音源判別がなければ終了する(ステップS8)。 Then, the cause determination result R is displayed on the display device 5 as in the case of the first embodiment (step S7). Thereafter, if the next sound source discrimination is necessary, the above steps (S2 to S7) are similarly repeated, but if there is no subsequent sound source discrimination, the process is ended (step S8).
以下、この実施の形態2に係る音源判別システム100の判別能力を調べた結果について説明する。
Hereinafter, the result of examining the discrimination capability of the sound
まず音源判別システム100により、前記した原因(1)〜(3)に該当する音を複写機の騒音の中から10種類ずつ選定して収音し、その各音の4回分の繰り返し音をそれぞれ切り出して各繰り返し波形間の空間距離(D21〜D24)のばらつき幅DRをそれぞれ求めた。しかる後、その各ばらつき幅(DR1,DR2,DR3)を前記第1閾値TH1、第2閾値TH2と比較することにより、各音の発生原因について判別した。このときの判別結果を表3に示す。表3の表示の意味は実施の形態1における表1の場合と同じである。
First, the sound
この判別結果の現率および精度について実施の形態1の場合(表2)と同様に調べたところ、表4に示すような結果が得られた。 When the current rate and accuracy of this discrimination result were examined in the same manner as in the case of Embodiment 1 (Table 2), the results shown in Table 4 were obtained.
表4に示す結果から、発生原因の違いにかかわらず、再現率が80%以上となり、精度が70%を超えるものとなり、十分な判別能力があることが確認された。特に、従来判別しにくかった用紙先端部の衝突音と用紙後端部のはね音との判別が適切にできることが判明した。 From the results shown in Table 4, it was confirmed that the reproducibility was 80% or more and the accuracy exceeded 70% regardless of the cause of occurrence, and that there was sufficient discrimination ability. In particular, it has been found that it is possible to properly discriminate between a collision sound at the leading end of the paper and a splashing sound at the trailing end of the paper, which has been difficult to distinguish.
10…収音部、30…波形切り出し部、40…波形類似性演算部、50…判断部、100…音源判別システム(音源判別装置)、T…複写機(音源)。
DESCRIPTION OF
Claims (10)
この演算された波形の類似性指標について、予め発生原因が明らかな音源の発生原因別の各音響信号に関する波形の類似性指標に基づいて設定された判別用の閾値と比較して判別対象の音源の発生原因を判断する判断部と
を有することを特徴とする音源判別装置。 A similarity calculation unit that collects a plurality of sounds of sound sources whose cause of occurrence is unknown as an acoustic signal to be discriminated, and calculates an index indicating the similarity of the waveforms of the plurality of collected acoustic signals;
The calculated waveform similarity index is compared with the discrimination threshold set based on the waveform similarity index for each acoustic signal for each sound source of the sound source whose cause is clear in advance. A sound source discriminating apparatus comprising: a judgment unit that judges the cause of occurrence of the sound source.
前記類似性演算部で演算する波形の類似性指標として相関係数を使用する音源判別装置。 The discrimination device according to claim 1,
A sound source discriminating apparatus that uses a correlation coefficient as a waveform similarity index calculated by the similarity calculation unit.
前記類似性演算部で演算する波形の類似性指標として統計学上の空間距離を使用する音源判別装置。 The discrimination device according to claim 1,
A sound source discriminating apparatus that uses a statistical spatial distance as a waveform similarity index calculated by the similarity calculation unit.
前記統計学上の空間距離がマハラノビスの距離である音源判別装置。 In the discrimination device according to claim 3,
A sound source discriminating apparatus in which the statistical spatial distance is Mahalanobis distance.
前記類似性演算部が音響信号の音圧変動特性または周波数変動特性に基づく類似性を演算する音源判別装置。 In the discrimination device according to any one of claims 1 to 4,
A sound source determination device in which the similarity calculation unit calculates similarity based on sound pressure fluctuation characteristics or frequency fluctuation characteristics of an acoustic signal.
この演算された波形の類似性指標について、予め発生原因が明らかな音源の発生原因別の各音響信号に関する波形の類似性指標に基づいて設定された判別用の閾値と比較して判別対象の音源の発生原因を判断する判断工程とThe calculated waveform similarity index is compared with the discrimination threshold set based on the waveform similarity index for each acoustic signal for each sound source of the sound source whose cause is clear in advance. Judgment process to determine the cause of
を有することを特徴とする音源判別方法。A sound source discrimination method characterized by comprising:
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2004011660A JP4127211B2 (en) | 2003-02-10 | 2004-01-20 | Sound source discrimination device and its discrimination method |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2003031920 | 2003-02-10 | ||
| JP2004011660A JP4127211B2 (en) | 2003-02-10 | 2004-01-20 | Sound source discrimination device and its discrimination method |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2004264292A JP2004264292A (en) | 2004-09-24 |
| JP2004264292A5 JP2004264292A5 (en) | 2007-02-08 |
| JP4127211B2 true JP4127211B2 (en) | 2008-07-30 |
Family
ID=33133803
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2004011660A Expired - Fee Related JP4127211B2 (en) | 2003-02-10 | 2004-01-20 | Sound source discrimination device and its discrimination method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4127211B2 (en) |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4590649B2 (en) * | 2004-12-28 | 2010-12-01 | 株式会社メガチップス | Alarm device identification device, system and method |
| JP4967474B2 (en) * | 2006-06-28 | 2012-07-04 | オムロン株式会社 | Judgment knowledge creation device, judgment knowledge creation method, program, and recording medium |
| EP2297557B1 (en) * | 2008-07-08 | 2013-10-30 | Brüel & Kjaer Sound & Vibration Measurement A/S | Reconstructing an acoustic field |
| US8731851B2 (en) * | 2008-07-08 | 2014-05-20 | Bruel & Kjaer Sound & Vibration Measurement A/S | Method for reconstructing an acoustic field |
| WO2024237102A1 (en) * | 2023-05-18 | 2024-11-21 | パナソニックIpマネジメント株式会社 | Information processing method, information processing device, and program |
-
2004
- 2004-01-20 JP JP2004011660A patent/JP4127211B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2004264292A (en) | 2004-09-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Bishop et al. | Livestock vocalisation classification in farm soundscapes | |
| JP2026503596A (en) | Mobile fault detection method and system for dynamic equipment | |
| US11138989B2 (en) | Sound quality prediction and interface to facilitate high-quality voice recordings | |
| JP2009251134A (en) | Device, method and program for determining voice/nonvoice | |
| JP4606800B2 (en) | System for detecting non-stationary signal components and method used in a system for detecting non-stationary signal components | |
| CN118918926B (en) | Baling event detection method and system based on acoustic event recognition and emotion recognition | |
| US20190074030A1 (en) | Voice extraction device, voice extraction method, and non-transitory computer readable storage medium | |
| US20220155258A1 (en) | Stamping quality inspection system and stamping quality inspection method | |
| Rahman et al. | Dynamic time warping assisted SVM classifier for Bangla speech recognition | |
| JP2019066339A (en) | Diagnostic device, diagnostic method and diagnostic system each using sound | |
| JP4127211B2 (en) | Sound source discrimination device and its discrimination method | |
| Hafiz et al. | Comparison of mel frequency cepstral coefficient (MFCC) and mel spectrogram techniques to classify industrial machine sound | |
| JP6935655B2 (en) | Signal analysis systems, methods and programs | |
| JP2021071586A (en) | Sound extraction system and sound extraction method | |
| Smith | A quantitative method for the detection of edges in noisy time–series | |
| JP2021124887A (en) | Acoustic diagnostic methods, acoustic diagnostic systems, and acoustic diagnostic programs | |
| JP4020024B2 (en) | Sound source discrimination device and its discrimination method | |
| US8326557B2 (en) | Detection of an abnormal signal in a compound sampled | |
| JP3896804B2 (en) | Signal judgment device | |
| Yingthawornsuk | Spectral entropy in speech for classification of depressed speakers | |
| JP2005208186A (en) | Apparatus for judging cause | |
| JP7472012B2 (en) | Abnormal signal extraction device | |
| JP2004205215A (en) | Sound source diagnosing device | |
| JP2005221408A (en) | Sound source analyzing apparatus and sound source analytical method | |
| JP4127214B2 (en) | Sound source discrimination device and its discrimination method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| RD05 | Notification of revocation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7425 Effective date: 20050121 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20061219 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20061219 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071212 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080129 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080331 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20080422 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20080505 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110523 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110523 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120523 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130523 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140523 Year of fee payment: 6 |
|
| LAPS | Cancellation because of no payment of annual fees |