Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7697497B2 - Sound collection device, sound collection program, and sound collection method - Google Patents
[go: Go Back, main page]

JP7697497B2 - Sound collection device, sound collection program, and sound collection method - Google Patents

Sound collection device, sound collection program, and sound collection method Download PDF

Info

Publication number
JP7697497B2
JP7697497B2 JP2023129522A JP2023129522A JP7697497B2 JP 7697497 B2 JP7697497 B2 JP 7697497B2 JP 2023129522 A JP2023129522 A JP 2023129522A JP 2023129522 A JP2023129522 A JP 2023129522A JP 7697497 B2 JP7697497 B2 JP 7697497B2
Authority
JP
Japan
Prior art keywords
sound
null
former
output
microphone
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023129522A
Other languages
Japanese (ja)
Other versions
JP2025025072A (en
Inventor
大 藤枝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP2023129522A priority Critical patent/JP7697497B2/en
Publication of JP2025025072A publication Critical patent/JP2025025072A/en
Application granted granted Critical
Publication of JP7697497B2 publication Critical patent/JP7697497B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Obtaining Desirable Characteristics In Audible-Bandwidth Transducers (AREA)
  • Circuit For Audible Band Transducer (AREA)

Description

この発明は収音装置、収音プログラム及び収音方法に関し、例えば、特定のエリアから発せられた音声だけを音声認識させるために、当該特定のエリア以外の音を抑制して、当該特定のエリアの音だけを強調するエリア収音処理に適用し得る。 This invention relates to a sound collection device, a sound collection program, and a sound collection method, and can be applied to area sound collection processing that suppresses sounds outside a specific area and emphasizes only sounds from that specific area, for example, in order to recognize only sounds emitted from that specific area.

雑音環境下で音声認識システムを利用する場合、必要な目的音と同時に混入する周囲の雑音は、収録された音声の音声認識率の低下をもたらす厄介な存在である。 When using a speech recognition system in a noisy environment, ambient noise that mixes in with the desired target sound can be a nuisance, reducing the speech recognition rate of the recorded voice.

従来、このような複数の音源が存在する環境下において、特定の方向の音のみを収音することで、不要音の混入を避け必要な目的音を得る技術として、マイクアレイを用いたビームフォーミングがある。ビームフォーミングとは、各マイクに到達する信号の時間差を利用して指向性を形成する技術である(非特許文献1参照)。ビームフォーミングを行うマイクアレイはビームフォーマとも呼ばれる。 Conventionally, in an environment where multiple sound sources exist, beamforming using a microphone array is a technology that collects only sounds from a specific direction and obtains the required target sound while avoiding the inclusion of unwanted sounds. Beamforming is a technology that forms directivity by utilizing the time difference between signals arriving at each microphone (see Non-Patent Document 1). A microphone array that performs beamforming is also called a beamformer.

一方、ビームフォーマは特定の方向の音をすべて収音するため、特定のエリア(以下、「目的エリア」とも呼ぶ)だけを収音したい場合には、ビームフォーマから見て同じ方向にある目的エリアの外にある音も収音してしまう。そこで、特許文献1では、複数のビームフォーマを用い、それぞれ別の方向から目的エリアへ指向性を向け、該指向性を目的エリアで交差させることで目的音を収音する手法(エリア収音)を提案している。 Beamformers, on the other hand, pick up all sounds from a specific direction, so if you want to pick up only a specific area (hereafter also referred to as the "target area"), they will also pick up sounds outside the target area in the same direction as the beamformer. Therefore, Patent Document 1 proposes a method (area sound collection) that uses multiple beamformers, directs their directivity toward the target area from different directions, and crosses the directivity at the target area to pick up the target sound.

特開2013-183358号公報JP 2013-183358 A

浅野太著,“音響テクノロジーシリーズ16 音のアレイ信号処理-音源の定位・追跡と分離-”,日本音響学会編,コロナ社,2011年2月25日発行Futoshi Asano, "Acoustic Technology Series 16: Array Signal Processing of Sound - Localization, Tracking and Separation of Sound Sources", edited by the Acoustical Society of Japan, Corona Publishing, published on February 25, 2011

ところで、人間の音声を収音する場合エリア収音では、目的エリアを形成するために、ビームフォーマに鋭い指向性を持つことが望ましい。例えば、人の音声を収音する場合におけるビームフォーマのビーム幅は、概ね60度以下であることが望ましい。 When collecting human voices, it is desirable for the beamformer to have sharp directivity in order to form a target area. For example, when collecting human voices, it is desirable for the beamformer's beam width to be approximately 60 degrees or less.

そして、加算型・減算型いずれのビームフォーマにおいても、鋭い指向性を形成には多数のマイクが必要である。例えば、最小分散無ひずみ応答法(Minimum Variance Distortionless Response:MVDR)では、抑制したい雑音源の数+1のマイクが必要となる。このような多数マイクを有するエリア収音は、実験室で試験的に実現することはできるが、部品コストと設置スペースの点で市販の製品には適さない。 In both additive and subtractive beamformers, a large number of microphones are required to form sharp directivity. For example, the Minimum Variance Distortionless Response (MVDR) method requires one more microphone than the number of noise sources to be suppressed. Although area recording with such a large number of microphones can be experimentally achieved in a laboratory, it is not suitable for commercial products in terms of component costs and installation space.

一方、特許文献1に記載の技術では、周波数領域上でスペクトル減算(振幅スペクトル同士を減算するが、減算結果が負になる場合はゼロや小さい数で置き換える方法)を用いることで、少数マイクで鋭い指向性を実現している。目的エリア方向に死角を形成したヌルフォーマを作り、マイク入力振幅スペクトルから該ヌルフォーマ振幅スペクトルをスペクトル減算することで、目的エリア方向に鋭い指向性を形成する。この方法を使えば、わずか2マイクで鋭い指向性を形成できるが、ミュージカルノイズの発生やエリア音成分の欠落等のひずみを生じる。 On the other hand, the technology described in Patent Document 1 uses spectral subtraction in the frequency domain (a method in which amplitude spectra are subtracted from each other, but if the subtraction result is negative, it is replaced with zero or a small number) to achieve sharp directivity with a small number of microphones. A null former that forms a blind spot in the direction of the target area is created, and sharp directivity is formed in the direction of the target area by spectrally subtracting the null former amplitude spectrum from the microphone input amplitude spectrum. Using this method, sharp directivity can be formed with just two microphones, but it causes distortions such as musical noise and missing area sound components.

したがって、従来の技術では、エリア収音を実現するために多数マイクを必要とするために装置が大規模になったり、少数マイクでスペクトル減算を用いることで抽出したエリア音がひずんだりする課題があった。 Therefore, with conventional technology, there were issues such as the need for multiple microphones to achieve area sound collection, which resulted in large equipment size, and the use of spectral subtraction with a small number of microphones resulted in distortion of the extracted area sound.

以上のような問題に鑑みて、目的エリアの音を収音するエリア収音処理を行う際に収音される音の歪みを抑制する収音装置、収音プログラム及び収音方法が望まれている。 In view of the above problems, there is a need for a sound collection device, a sound collection program, and a sound collection method that suppress distortion of sounds collected when performing area sound collection processing to collect sounds from a target area.

第1の本発明は、3以上のマイクで構成されるマイク群から供給される音響信号に基づいて、前記マイク群の前記マイクの組み合わせで構成可能な複数のマイクアレイのそれぞれに対して目的エリアの外に死角を形成する複数のヌルフォーマを計算してヌルフォーマ出力音を取得するヌルフォーマ処理手段と、それぞれの前記ヌルフォーマの前記ヌルフォーマ出力音に基づいて、前記目的エリアの音を抽出したエリア音を取得するエリア音抽出手段とを有し、前記エリア音抽出手段は、それぞれの前記マイクアレイについて、周波数毎に複数の前記ヌルフォーマ出力音から出力が最小の前記ヌルフォーマ出力音を選んで前記マイクアレイのビームフォーマ出力音とするヌルフォーマ選択部と、複数の前記ビームフォーマ出力音から出力が最小の前記ビームフォーマ出力音を選んでエリア音とするビームフォーマ選択部とを有し、前記ヌルフォーマ処理手段は、それぞれの前記マイクアレイについて-π/2から0までで且つ目的エリア方向を除く範囲の第1の方位角範囲と、π/2から0までで且つ目的エリア方向を除く範囲の第2の方位角範囲のそれぞれから同じ数ずつ前記ヌルフォーマ出力音を取得することを特徴とする。 The first invention has a null-former processing means for calculating a plurality of null-formers forming a blind spot outside a target area for each of a plurality of microphone arrays that can be configured by a combination of the microphones of the microphone group based on an acoustic signal supplied from a microphone group consisting of three or more microphones, and acquiring a null-former output sound, and an area sound extraction means for acquiring an area sound obtained by extracting a sound of the target area based on the null-former output sound of each of the null formers, and the area sound extraction means calculates a plurality of the null-former output sounds for each of the microphone arrays for each frequency. the null former selection unit selecting the null former output sound having the smallest output from among the force sounds as the beamformer output sound of the microphone array, and the beamformer selection unit selecting the beamformer output sound having the smallest output from among the plurality of beamformer output sounds as an area sound , wherein the null former processing means acquires the null former output sounds in equal numbers from a first azimuth angle range ranging from -π/2 to 0 and excluding the target area direction, and a second azimuth angle range ranging from π/2 to 0 and excluding the target area direction, for each of the microphone arrays .

第2の本発明の収音プログラムは、コンピュータを、3以上のマイクで構成されるマイク群から供給される音響信号に基づいて、前記マイク群の前記マイクの組み合わせで構成可能な複数のマイクアレイのそれぞれに対して目的エリアの外に死角を形成する複数のヌルフォーマを計算してヌルフォーマ出力音を取得するヌルフォーマ処理手段と、それぞれの前記ヌルフォーマの前記ヌルフォーマ出力音に基づいて、前記目的エリアの音を抽出したエリア音を取得するエリア音抽出手段として機能させ、前記エリア音抽出手段は、それぞれの前記マイクアレイについて、周波数毎に複数の前記ヌルフォーマ出力音から出力が最小の前記ヌルフォーマ出力音を選んで前記マイクアレイのビームフォーマ出力音とするヌルフォーマ選択部と、複数の前記ビームフォーマ出力音から出力が最小の前記ビームフォーマ出力音を選んでエリア音とするビームフォーマ選択部とを有し、前記ヌルフォーマ処理手段は、それぞれの前記マイクアレイについて-π/2から0までで且つ目的エリア方向を除く範囲の第1の方位角範囲と、π/2から0までで且つ目的エリア方向を除く範囲の第2の方位角範囲のそれぞれから同じ数ずつ前記ヌルフォーマ出力音を取得することを特徴とする。 A sound collection program according to a second aspect of the present invention causes a computer to function as a null-former processing means for calculating, based on an acoustic signal supplied from a microphone group consisting of three or more microphones, a plurality of null formers forming blind spots outside a target area for each of a plurality of microphone arrays that can be configured by a combination of the microphones of the microphone group, and acquiring a null-former output sound, and an area sound extraction means for acquiring an area sound obtained by extracting a sound of the target area based on the null-former output sound of each of the null formers, and the area sound extraction means calculates a plurality of null formers for each frequency for each of the microphone arrays. The system includes a null former selection unit that selects the null former output sound with the smallest output from the null former output sounds and sets it as a beamformer output sound of the microphone array, and a beamformer selection unit that selects the beamformer output sound with the smallest output from a plurality of the beamformer output sounds and sets it as an area sound, and the null former processing means acquires the null former output sounds in equal numbers from each of a first azimuth angle range ranging from -π/2 to 0 and excluding the target area direction, and a second azimuth angle range ranging from π/2 to 0 and excluding the target area direction, for each of the microphone arrays .

第3の本発明は、収音装置が行う収音方法において、前記収音装置は、ヌルフォーマ処理手段とエリア音抽出手段とを備え、前記エリア音抽出手段は、ヌルフォーマ選択部とビームフォーマ選択部とを有し、前記ヌルフォーマ処理手段は、3以上のマイクで構成されるマイク群から供給される音響信号に基づいて、前記マイク群の前記マイクの組み合わせで構成可能な複数のマイクアレイのそれぞれに対して目的エリアの外に死角を形成する複数のヌルフォーマを計算してヌルフォーマ出力音を取得し、前記エリア音抽出手段は、それぞれの前記ヌルフォーマの前記ヌルフォーマ出力音に基づいて、前記目的エリアの音を抽出したエリア音を取得し、前記ヌルフォーマ選択部は、それぞれの前記マイクアレイについて、周波数毎に複数の前記ヌルフォーマ出力音から出力が最小の前記ヌルフォーマ出力音を選んで前記マイクアレイのビームフォーマ出力音とし、前記ビームフォーマ選択部は、複数の前記ビームフォーマ出力音から出力が最小の前記ビームフォーマ出力音を選んでエリア音とし、前記ヌルフォーマ処理手段は、それぞれの前記マイクアレイについて-π/2から0までで且つ目的エリア方向を除く範囲の第1の方位角範囲と、π/2から0までで且つ目的エリア方向を除く範囲の第2の方位角範囲のそれぞれから同じ数ずつ前記ヌルフォーマ出力音を取得することを特徴とする。 The third aspect of the present invention is a sound collection method performed by a sound collection device, the sound collection device comprising a null former processing means and an area sound extraction means, the area sound extraction means having a null former selection unit and a beamformer selection unit, the null former processing means calculating a plurality of null formers forming blind spots outside a target area for each of a plurality of microphone arrays that can be configured by a combination of the microphones of the microphone group based on an acoustic signal supplied from a microphone group consisting of three or more microphones, and acquiring a null former output sound, and the area sound extraction means acquiring an area sound obtained by extracting a sound of the target area based on the null former output sound of each of the null formers. The null former selection unit selects, for each of the microphone arrays, the null former output sound with the smallest output from the multiple null former output sounds for each frequency to set it as the beamformer output sound of the microphone array, the beamformer selection unit selects the beamformer output sound with the smallest output from the multiple beamformer output sounds to set it as an area sound , and the null former processing means acquires the same number of null former output sounds from each of a first azimuth angle range ranging from -π/2 to 0 and excluding the target area direction, and a second azimuth angle range ranging from π/2 to 0 and excluding the target area direction, for each of the microphone arrays .

本発明によれば、目的エリアの音を収音するエリア収音処理を行う際に収音される音の歪みを抑制する収音装置、収音プログラム及び収音方法を提供することができる。 The present invention provides a sound collection device, a sound collection program, and a sound collection method that suppress distortion of sounds collected when performing area sound collection processing to collect sounds in a target area.

第1の実施形態に係る収音装置の機能的構成について示したブロック図である。1 is a block diagram showing a functional configuration of a sound collection device according to a first embodiment. 第1の実施形態に係るマイクアレイと目的エリアとの位置関係の例について示した図(その1)である。FIG. 1 is a diagram (part 1) illustrating an example of the positional relationship between a microphone array and a target area according to the first embodiment. 第1の実施形態に係るマイクアレイと目的エリアとの位置関係の例について示した図(その2)である。FIG. 2 is a diagram (part 2) illustrating an example of the positional relationship between the microphone array and the target area according to the first embodiment. 第1の実施形態に係る収音装置のハードウェア構成の例について示したブロック図である。1 is a block diagram showing an example of a hardware configuration of a sound collection device according to a first embodiment. 第1の実施形態に係る任意のマイクアレイに適用されるヌルフォーマの方向の例について示した図である。1A to 1C are diagrams showing examples of directions of null formers applied to an arbitrary microphone array according to the first embodiment. 第1の実施形態に係るビームフォーマ選択部の最小選択で選ばれる音の性質について表形式で示した図であるFIG. 1 is a table showing the characteristics of sounds selected by the minimum selection of the beamformer selection unit according to the first embodiment; 第2の実施形態に係る収音装置の機能的構成について示したブロック図である。FIG. 11 is a block diagram showing a functional configuration of a sound collection device according to a second embodiment. 第2の実施形態に係るマイクアレイと目的エリアとの位置関係の例について示した図(その1)である。FIG. 11 is a diagram (part 1) showing an example of the positional relationship between a microphone array and a target area according to the second embodiment; 第2の実施形態に係るマイクアレイと目的エリアとの位置関係の例について示した図(その2)である。FIG. 13 is a diagram (part 2) illustrating an example of the positional relationship between a microphone array and a target area according to the second embodiment.

(A)第1の実施形態
以下、本発明による収音装置、収音プログラム及び収音方法の第1の実施形態を、図面を参照しながら詳述する。
(A) First Embodiment Hereinafter, a first embodiment of a sound collection device, a sound collection program, and a sound collection method according to the present invention will be described in detail with reference to the drawings.

(A-1)第1の実施形態の構成
図1は、第1の実施形態に係る収音装置10の機能的構成について示したブロック図である。
(A-1) Configuration of the First Embodiment FIG. 1 is a block diagram showing the functional configuration of a sound collection device 10 according to the first embodiment.

収音装置10は、2個のマイクアレイMA(MA1、MA2)が捕捉した音響信号に基づいて、目的エリアの外で発せられた音を抑圧し、目的エリア内で発せられた音を収音する。 The sound collection device 10 suppresses sounds emitted outside the target area and collects sounds emitted within the target area based on the acoustic signals captured by the two microphone arrays MA (MA1, MA2).

この実施形態では、マイクアレイMA1、MA2は、それぞれ2個のマイクを備えるマイクアレイであるものとする。マイクアレイMA1は2個のマイクM(M1、M2)を備え、マイクアレイMA2も2個のマイクM(M3、M4)を備えている。つまり、第1の実施形態では、4つのマイクM1~M4で構成されるマイク群を用いて2個のマイクアレイMA1、MA2が構成されている。 In this embodiment, the microphone arrays MA1 and MA2 are each assumed to be microphone arrays equipped with two microphones. The microphone array MA1 is equipped with two microphones M (M1, M2), and the microphone array MA2 is also equipped with two microphones M (M3, M4). In other words, in the first embodiment, the two microphone arrays MA1 and MA2 are configured using a microphone group consisting of four microphones M1 to M4.

なお、この実施形態の収音装置10は、2個のマイクを備えるマイクアレイが2個の構成に対応するものとして説明するが、3以上のマイクアレイに対応するようにしてもよいし、各マイクアレイは3以上のマイクを備えるようにしてもよい。ただし、部品コストと設置スペースの観点で、この実施形態の収音装置10が対応するマイクアレイ/マイクの数はなるべく少なくすることが望まれるため、最小構成となる図1の構成(2個の2chマイクアレイの構成)が最も好適である。 In this embodiment, the sound collection device 10 is described as a device that supports two configurations with a microphone array having two microphones, but it may be configured to support three or more microphone arrays, and each microphone array may be configured to have three or more microphones. However, from the standpoint of parts cost and installation space, it is desirable to keep the number of microphone arrays/microphones that the sound collection device 10 of this embodiment supports as small as possible, so the minimum configuration shown in Figure 1 (two 2ch microphone array configuration) is most suitable.

図2は、2個のマイクアレイ(マイクアレイMA1、MA2)と目的エリアTAとの位置関係の例について示した図である。 Figure 2 shows an example of the positional relationship between two microphone arrays (microphone arrays MA1 and MA2) and the target area TA.

図2では、マイクアレイMA1の正面方向と、マイクアレイMA2の正面方向が交差する領域を目的エリアTAとして図示している。図2では目的エリアTAにハッチング(斜線)を付している。なお、この実施形態では、図2に示すように、各マイクアレイを構成するマイクの数を2個、マイクアレイの数を2個として説明するが、それぞれ2個以上であればマイクとマイクアレイの数を増やしても良い。例えば、図3に示すように、4個のマイクを備えるマイクアレイを3個配置する構成(12個のマイクで構成されるマイク群から3個のマイクアレイを構成)としてもよい。図3では、目的エリアTAの周囲にマイクM1~M4を備えるマイクアレイMA1、マイクM5~M8を備えるマイクアレイMA2、マイクM9~M12を備えるマイクアレイMA3が配置されている。図3では、マイクアレイMA1~MA3の各正面方向が交差する領域を目的エリアTAとし、ハッチング(斜線)を付している。 In FIG. 2, the area where the front direction of the microphone array MA1 and the front direction of the microphone array MA2 intersect is illustrated as the target area TA. In FIG. 2, the target area TA is hatched (diagonal lines). In this embodiment, as shown in FIG. 2, the number of microphones constituting each microphone array is two, and the number of microphone arrays is two, but the number of microphones and microphone arrays may be increased as long as each is two or more. For example, as shown in FIG. 3, a configuration in which three microphone arrays each having four microphones are arranged (three microphone arrays are arranged from a microphone group consisting of 12 microphones) may be used. In FIG. 3, the microphone array MA1 having microphones M1 to M4, the microphone array MA2 having microphones M5 to M8, and the microphone array MA3 having microphones M9 to M12 are arranged around the target area TA. In FIG. 3, the area where the front directions of the microphone arrays MA1 to MA3 intersect is illustrated as the target area TA, and is hatched (diagonal lines).

図3では目的エリアTAにハッチング(斜線)を付している。 In Figure 3, the destination area TA is hatched (diagonal lines).

次に、図1に基づいて、収音装置10の内部構成について説明する。 Next, the internal configuration of the sound collection device 10 will be described with reference to FIG.

収音装置10は、ヌルフォーマ処理部101、ヌルフォーマ選択部102及びビームフォーマ選択部103を有している。 The sound collection device 10 has a null former processing unit 101, a null former selection unit 102, and a beam former selection unit 103.

ヌルフォーマ処理部101は、2個のマイクアレイMA1、MA2が捕捉した音響信号に基づいて、それぞれ目的エリアの外(目的エリアを含まない方向)に死角を向けたヌルフォーマを複数形成し、複数のヌルフォーマ出力音を得る。第1の実施形態では、ヌルフォーマ処理部101がマイクアレイMA1、MA2が捕捉した音響信号をアナログ信号からデジタル信号に変換し、さらに周波数領域に変換する手段(以下、「信号入力手段」と呼ぶ)を備えているものとする。 The null former processing unit 101 forms multiple null formers, each with a blind spot facing outside the target area (in a direction not including the target area), based on the acoustic signals captured by the two microphone arrays MA1 and MA2, and obtains multiple null former output sounds. In the first embodiment, the null former processing unit 101 is equipped with a means (hereinafter referred to as a "signal input means") for converting the acoustic signals captured by the microphone arrays MA1 and MA2 from analog signals to digital signals and further converting them into the frequency domain.

ヌルフォーマ選択部102は、ヌルフォーマ処理部101が算出した複数のヌルフォーマ出力音に基づいて、マイクアレイごとに、目的エリア方向に指向性が形成された音(以下、「ビームフォーマ出力音」呼ぶ)を得る。 The null former selection unit 102 obtains a sound (hereinafter referred to as "beamformer output sound") with directivity formed in the direction of the target area for each microphone array based on the multiple null former output sounds calculated by the null former processing unit 101.

ビームフォーマ選択部103は、ヌルフォーマ選択部102がマイクアレイごとに算出したビームフォーマ出力音に基づいて、目的エリア音を抽出した結果(以下、「エリア音」と呼ぶ)を得る。 The beamformer selection unit 103 obtains the result of extracting the target area sound (hereinafter referred to as "area sound") based on the beamformer output sound calculated for each microphone array by the null former selection unit 102.

以上のように、第1の実施形態では、ヌルフォーマ選択部102とビームフォーマ選択部103により、ヌルフォーマを用いたエリア収音処理を行うエリア音抽出手段が構成されている。 As described above, in the first embodiment, the null former selection unit 102 and the beam former selection unit 103 constitute an area sound extraction means that performs area sound collection processing using a null former.

図4は、収音装置10のハードウェア構成の例について示したブロック図である。 Figure 4 is a block diagram showing an example of the hardware configuration of the sound collection device 10.

図4では、収音装置10を、ソフトウェア(コンピュータ)を用いて構成する際のハードウェア構成の例について示している。 Figure 4 shows an example of the hardware configuration when the sound collection device 10 is configured using software (computer).

図4に示す収音装置10は、ハードウェア的な構成要素として、プログラム(実施形態の収音プログラムを含む)がインストールされたコンピュータ300を有している。また、コンピュータ300は、収音プログラム専用のコンピュータとしてもよいし、他の機能のプログラムと共用される構成としてもよい。 The sound collection device 10 shown in FIG. 4 has, as a hardware component, a computer 300 on which a program (including the sound collection program of the embodiment) is installed. The computer 300 may be a computer dedicated to the sound collection program, or may be configured to be shared with programs of other functions.

図4に示すコンピュータ300は、プロセッサ301、一次記憶部302、及び二次記憶部303を有している。一次記憶部302は、プロセッサ301の作業用メモリ(ワークメモリ)として機能する記憶手段であり、例えば、DRAM(Dynamic Random Access Memory)等の高速動作するメモリを適用することができる。二次記憶部303は、OS(Operating System)やプログラムデータ(実施形態に係る収音プログラムのデータを含む)等の種々のデータを記録する記憶手段であり、例えば、FLASH(登録商標)メモリやHDDやSSD等の不揮発性メモリを適用することができる。この実施形態のコンピュータ300では、プロセッサ301が起動する際、二次記憶部303に記録されたOSやプログラム(実施形態に係る収音プログラムを含む)を読み込み、一次記憶部302上に展開して実行する。 The computer 300 shown in FIG. 4 has a processor 301, a primary storage unit 302, and a secondary storage unit 303. The primary storage unit 302 is a storage unit that functions as a working memory (work memory) for the processor 301, and can be, for example, a high-speed memory such as a dynamic random access memory (DRAM). The secondary storage unit 303 is a storage unit that records various data such as an operating system (OS) and program data (including data of the sound collection program according to the embodiment), and can be, for example, a non-volatile memory such as a FLASH (registered trademark) memory, HDD, or SSD. In the computer 300 of this embodiment, when the processor 301 starts up, the OS and programs (including the sound collection program according to the embodiment) recorded in the secondary storage unit 303 are read, deployed on the primary storage unit 302, and executed.

なお、コンピュータ300の具体的な構成は図4の構成に限定されないものであり、種々の構成を適用することができる。例えば、一次記憶部302が不揮発メモリ(例えば、FLASHメモリ等)であれば、二次記憶部303については除外した構成としてもよい。 The specific configuration of the computer 300 is not limited to the configuration in FIG. 4, and various configurations can be applied. For example, if the primary storage unit 302 is a non-volatile memory (e.g., a flash memory, etc.), the secondary storage unit 303 may be excluded.

(A-2)第1の実施形態の動作
次に、以上のような構成を有する第1の実施形態の収音装置10の動作(実施形態に係る収音方法)を説明する。
(A-2) Operation of the First Embodiment Next, the operation of the sound collection device 10 of the first embodiment having the above-mentioned configuration (sound collection method according to the embodiment) will be described.

ヌルフォーマ処理部101では、信号入力手段により、マイクアレイMA1、MA2(マイクM1~M4)で捕捉された音響信号がアナログ信号からデジタル信号へと変換され、任意の周波数変換が行われ、得られた周波数スペクトル(以下、「入力スペクトル」と呼ぶ)が取得される。信号入力手段で入力スペクトルを得るための周波数変換方式は、高速フーリエ変換を用いるのが最も好適であるがこれに限定されないものであり、離散ガボール変換やウェーブレット変換、フィルタバンク等を用いるようにしても良い。 In the null former processing unit 101, the signal input means converts the acoustic signals captured by the microphone arrays MA1 and MA2 (microphones M1 to M4) from analog signals to digital signals, performs arbitrary frequency conversion, and obtains the resulting frequency spectrum (hereinafter referred to as the "input spectrum"). The frequency conversion method for obtaining the input spectrum by the signal input means is most preferably, but is not limited to, the fast Fourier transform, and discrete Gabor transform, wavelet transform, filter bank, etc. may also be used.

ヌルフォーマ処理部101は、供給された入力スペクトルに基づいて、マイクアレイごとに、目的エリア以外の所定の方向に死角を形成する複数のヌルフォーマを算出し、得られたヌルフォーマスペクトル(以下、「ヌルフォーマ出力音」と呼ぶ)をヌルフォーマ選択部102に供給する。 The null former processing unit 101 calculates, for each microphone array, multiple null formers that form blind spots in specific directions other than the target area based on the supplied input spectrum, and supplies the obtained null former spectrum (hereinafter referred to as "null former output sound") to the null former selection unit 102.

次に、ヌルフォーマ処理部101の処理の詳細について説明する。 Next, we will explain the details of the processing of the null formatter processing unit 101.

図5は、任意のマイクアレイMAaにおけるヌルフォーマの方向の例について示した図である。 Figure 5 shows an example of the direction of the null former in an arbitrary microphone array MAa.

以下では「MAa」等における「a」はマイクアレイの番号(識別子;ID)を示すものとする。ここでは、マイクアレイMA1の番号を1、マイクアレイMA2の番号を2とする。 In the following, the "a" in "MAa" etc. indicates the microphone array number (identifier; ID). Here, the microphone array MA1 is numbered 1, and the microphone array MA2 is numbered 2.

つまり、図5に示すマイクアレイMAaは、マイクアレイMA1又はMA2のいずれか(任意のマイクアレイ)を示しているものとする。図5では、マイクアレイMAaはマイクML、MRを備える旨を図示している。例えば、マイクアレイMAaがマイクアレイMA1である場合マイクML、MRはそれぞれマイクM1、M2となり、マイクアレイMAaがマイクアレイMA2である場合マイクML、MRはそれぞれマイクM3、M4となる。図5のイメージ図では、図示の都合上目的エリアTAの形状を円形として図示しているが、この実施形態において目的エリアTAの実際の形状は図2のような形状となる。 In other words, the microphone array MAa shown in FIG. 5 indicates either the microphone array MA1 or MA2 (any microphone array). FIG. 5 illustrates that the microphone array MAa includes microphones ML and MR. For example, when the microphone array MAa is the microphone array MA1, the microphones ML and MR are microphones M1 and M2, respectively, and when the microphone array MAa is the microphone array MA2, the microphones ML and MR are microphones M3 and M4, respectively. In the image diagram of FIG. 5, the shape of the target area TA is illustrated as a circle for convenience of illustration, but in this embodiment, the actual shape of the target area TA is as shown in FIG. 2.

ここでは、マイクアレイMAaの正面方向(0度の方向)を、2個のマイクML、MRの位置(中心位置)を結んだ直線に直交し、2個のマイクML、MRの中心点から目的エリアTAの中心点(重心でも良い)に向かう方向とのなす角が最も小さい方向と定義するものとする。 Here, the front direction (0 degree direction) of the microphone array MAa is defined as the direction that is perpendicular to the line connecting the positions (center positions) of the two microphones ML and MR and that forms the smallest angle with the direction from the center point of the two microphones ML and MR toward the center point (which can be the center of gravity) of the target area TA.

ところで、図2に示すように、目的エリアTAは点ではなく範囲を持つため、各マイクアレイから見た目的エリア方向も範囲を持つことになる。そのため、ここでは、マイクアレイMA1における目的エリア方向(目的エリア方向の範囲)をθ1L~θ1R(rad)(-π/2<θ1L<0<θ1R<π/2)、マイクアレイMA2における目的エリア方向(目的エリア方向の範囲)をθ2L~θ2R(rad)(-π/2<θ2L<0<θ2R<π/2)とする。 As shown in Figure 2, the target area TA is not a point but has a range, so the apparent area direction from each microphone array also has a range. Therefore, here, the target area direction (range of target area direction) in microphone array MA1 is θ1L to θ1R (rad) (-π/2<θ1L<0<θ1R<π/2), and the target area direction (range of target area direction) in microphone array MA2 is θ2L to θ2R (rad) (-π/2<θ2L<0<θ2R<π/2).

上記の通り、ヌルフォーマ処理部101の各ヌルフォーマに適用される所定の死角方向は、目的エリア方向の外側(目的エリア方向の範囲を含まない方向)としなければならない。したがって、マイクアレイMAa(a=1,2)のn番目の死角方向φan(rad)(n=1,…,N)は、-π-θaL<φan<θaL、または、θaR<φan<π-θaLを満たす必要がある。 As described above, the specified blind spot direction applied to each null former of the null former processing unit 101 must be outside the target area direction (a direction that does not include the range of the target area direction). Therefore, the nth blind spot direction φan(rad) (n=1,...,N) of the microphone array MAa (a=1,2) must satisfy -π-θaL<φan<θaL or θaR<φan<π-θaL.

ここで、マイクアレイMAaを構成するマイクは2個であるため、φanに死角を形成するとπ-φan(=-π-φan)にも死角が形成される。また、雑音がどの方向から到来するのかを事前に知ることは難しいため、所定の死角方向は予め設計で決めておく(予め設計された固定値を適用する)ことが望ましい。 Here, since the microphone array MAa consists of two microphones, if a blind spot is formed in φan, a blind spot is also formed in π-φan (=-π-φan). Also, since it is difficult to know in advance from which direction noise will come, it is desirable to determine the specified blind spot direction in advance by design (applying a predesigned fixed value).

以上から、ヌルフォーマ処理部101の各ヌルフォーマに適用する所定の死角方向は、-π/2≦φan<θaL、および、θaR<φan≦π/2の2つの範囲内から、それぞれ同じ数ずつ決めておくのが好適である。ヌルフォーマ処理部101において、マイクアレイごとに設定する所定の死角方向の数(ヌルフォーマ処理部101において、各マイクアレイMAaに対して設定するヌルフォーマの数)や、死角方向の組み合わせについては限定されないものである。例えば、所定の死角方向の数Nを6とする場合(N=6とする場合)、φa1=-π/2、φa2=-π/3、φa3=-π/6、φa4=π/6、φa5=π/3、φa6=π/2と選ぶことができ、また、この選び方が好適である。 From the above, it is preferable to determine the same number of predetermined blind spot directions to be applied to each null former of the null former processing unit 101 from the two ranges of -π/2≦φan<θaL and θaR<φan≦π/2. In the null former processing unit 101, the number of predetermined blind spot directions set for each microphone array (the number of null formers set for each microphone array MAa in the null former processing unit 101) and the combination of blind spot directions are not limited. For example, when the number N of predetermined blind spot directions is 6 (when N=6), it is possible to select φa1=-π/2, φa2=-π/3, φa3=-π/6, φa4=π/6, φa5=π/3, and φa6=π/2, and this selection method is preferable.

次に、ヌルフォーマ処理部101における各ヌルフォーマの具体的処理の例について説明する。 Next, we will explain examples of specific processing of each null former in the null former processing unit 101.

マイクアレイMAaの入力スペクトルをXaL(ω)、XaR(ω)とおいたとき、ヌルフォーマ処理部101は、(1)式を用いて複数のヌルフォーマスペクトルYan(ω)を算出する。ここで、ω(オメガ)は角周波数、iは虚数単位、dはマイク間隔、cは音速である。

Figure 0007697497000001
When the input spectrum of the microphone array MAa is X aL (ω) and X aR (ω), the null former processing unit 101 calculates a plurality of null former spectra Y an (ω) using equation (1), where ω (omega) is the angular frequency, i is the imaginary unit, d is the microphone spacing, and c is the speed of sound.
Figure 0007697497000001

次に、ヌルフォーマ選択部102の具体的処理について説明する。 Next, we will explain the specific processing of the null format selection unit 102.

ヌルフォーマ選択部102は、供給された複数のヌルフォーマスペクトルに基づいて、マイクアレイごとに、且つ、周波数ごとに、ヌルフォーマスペクトルの振幅が最小となるものを選択し、得られたスペクトル(以下、「ビームフォーマスペクトル」と呼ぶ)をビームフォーマ出力音として取得し、ビームフォーマ選択部103に供給する。具体的には、ヌルフォーマ選択部102は、マイクアレイMAaに由来するビームフォーマスペクトル(ビームフォーマ出力音)B(ω)を、(2)式、(3)式を用いて算出する。ここで、ν(ω)(ν:ニュー)はヌルフォーマスペクトルが最小となる死角角度のインデックス番号であり、argmin_n{}は{}内を最小にするnを出力する演算子である。 The null former selection unit 102 selects the null former spectrum with the smallest amplitude for each microphone array and for each frequency based on the multiple null former spectra supplied, acquires the obtained spectrum (hereinafter referred to as the "beamformer spectrum") as a beamformer output sound, and supplies it to the beamformer selection unit 103. Specifically, the null former selection unit 102 calculates the beamformer spectrum (beamformer output sound) B a (ω) derived from the microphone array MAa using equations (2) and (3). Here, v(ω) (v: nu) is the index number of the blind angle at which the null former spectrum is the smallest, and argmin_n{} is an operator that outputs n that minimizes the value in {}.

つまり、ビームフォーマスペクトルB(ω)はマイクアレイMA1において、目的エリア方向(目的エリア方向の範囲)の音となり、ビームフォーマスペクトルB(ω)はマイクアレイMA2において、目的エリア方向(目的エリア方向の範囲)の音となる。ヌルフォーマ選択部102は、マイクアレイMA1のビームフォーマスペクトルB(ω)と、マイクアレイMA2のビームフォーマスペクトルB(ω)を、ビームフォーマ選択部103に供給する。

Figure 0007697497000002
That is, the beamformer spectrum B1 (ω) becomes sound in the target area direction (range in the target area direction) at the microphone array MA1, and the beamformer spectrum B2 (ω) becomes sound in the target area direction (range in the target area direction) at the microphone array MA2. The null former selection unit 102 supplies the beamformer spectrum B1 (ω) of the microphone array MA1 and the beamformer spectrum B2 (ω) of the microphone array MA2 to the beamformer selection unit 103.
Figure 0007697497000002

次に、ビームフォーマ選択部103の具体的処理について説明する。 Next, we will explain the specific processing of the beamformer selection unit 103.

ビームフォーマ選択部103は、供給されたビームフォーマスペクトルB(ω)、B(ω)から、周波数毎に、振幅が最小となるものを選択して得られたスペクトル(以下、「エリア音スペクトル」と呼ぶ)をエリア音として取得する。具体的には、ビームフォーマ選択部103は、エリア音スペクトルZ(ω)を(4)式、(5)式を用いて算出する。

Figure 0007697497000003
The beamformer selection unit 103 acquires a spectrum (hereinafter referred to as an "area sound spectrum") obtained by selecting the beamformer spectrum B1 (ω) and B2 (ω) with the smallest amplitude for each frequency from the supplied beamformer spectra B1(ω) and B2(ω) as the area sound. Specifically, the beamformer selection unit 103 calculates the area sound spectrum Z(ω) using equations (4) and (5).
Figure 0007697497000003

なお、特許文献1では、ビームフォーマスペクトルの振幅に対して2回のスペクトル減算を行うことでエリア音スペクトルを抽出するが、この実施形態において(4)式と(5)式を用いても同様の処理を実現できる。 In addition, in Patent Document 1, the area sound spectrum is extracted by performing two spectral subtractions on the amplitude of the beamformer spectrum, but in this embodiment, the same processing can be achieved by using equations (4) and (5).

図6は、ビームフォーマ選択部103の最小選択で選ばれる音の性質について表形式で示した図である。 Figure 6 is a table showing the characteristics of sounds selected by the beamformer selection unit 103 in minimum selection.

図6において、第1のビームフォーマの範囲内はマイクアレイMA1のビームフォーマスペクトルB(ω)の指向性の範囲内のことであり、第2のビームフォーマの範囲内はマイクアレイMA2のビームフォーマスペクトルB(ω)の指向性の範囲内のことである。 In FIG. 6, the range of the first beamformer is the range of the directivity of the beamformer spectrum B 1 (ω) of the microphone array MA1, and the range of the second beamformer is the range of the directivity of the beamformer spectrum B 2 (ω) of the microphone array MA2.

図6に示す通り、ある周波数について、両方ビームフォーマの範囲内に音が存在する場合(目的エリア内に音が存在する場合)は、どちらのビームフォーマの音(振幅)が選択された場合でも、目的エリア音の成分が選択されることになる。また、図6に示す通り、いずれか一方のビームフォーマの範囲内にのみ音が存在する場合は、最小選択により音が存在しない側のビームフォーマが選択されることになる。さらに、図6に示すとおり、いずれのビームフォーマの範囲外に音が存在する場合は、どちらのビームフォーマの音(振幅)が選択された場合でも、目的エリアの外の音が選択されることはない。したがって、図6に示すように、ビームフォーマ選択部103における最小選択の処理により、音が両方のビームフォーマの範囲内に存在する場合(つまり目的エリア内でエリア音が発せられた場合)にのみ音が収音され、そうでない場合(つまり音が目的エリアの外で発せられた場合)にはその音は収音されないという結果となる。 As shown in FIG. 6, when sound exists within the range of both beamformers for a certain frequency (when sound exists within the target area), the target area sound component will be selected regardless of which beamformer's sound (amplitude) is selected. Also, as shown in FIG. 6, when sound exists only within the range of one of the beamformers, the beamformer on the side where sound does not exist will be selected by minimum selection. Furthermore, as shown in FIG. 6, when sound exists outside the range of either beamformer, sound outside the target area will not be selected regardless of which beamformer's sound (amplitude) is selected. Therefore, as shown in FIG. 6, the minimum selection process in the beamformer selection unit 103 results in sound being picked up only when sound exists within the range of both beamformers (i.e., when area sound is generated within the target area), and when it is not (i.e., when sound is generated outside the target area), the sound is not picked up.

(A-3)第1の実施形態の効果
第1の実施形態によれば、以下のような効果を奏することができる。
(A-3) Advantages of the First Embodiment According to the first embodiment, the following advantages can be achieved.

第1の実施形態の収音装置10では、目的エリア方向以外の方向から到来する音を抑圧し、目的エリア方向のみを収音するビームフォーマを形成し、このビームフォーマ出力を用いて目的エリア音を収音する。これにより、第1の実施形態の収音装置10では、スペクトル減算で生じるようなひずみを生じさせずにエリア音のみを収音することができる。 The sound collection device 10 of the first embodiment suppresses sounds coming from directions other than the target area direction, forms a beamformer that collects only the target area direction, and collects the target area sound using the output of this beamformer. This allows the sound collection device 10 of the first embodiment to collect only the area sound without causing distortion such as that caused by spectral subtraction.

(B)第2の実施形態
以下、本発明による収音装置、収音プログラム及び収音方法の第2の実施形態を、図面を参照しながら詳述する。
(B) Second Embodiment Hereinafter, a second embodiment of the sound collection device, the sound collection program, and the sound collection method according to the present invention will be described in detail with reference to the drawings.

(B-1)第2の実施形態の構成
図7は、第2の実施形態に係る収音装置10Aの機能的構成について示したブロック図であり、上述の図1と同一部分又は対応部分には、同一符号又は対応符号を付している。
(B-1) Configuration of the second embodiment FIG. 7 is a block diagram showing the functional configuration of a sound collection device 10A according to the second embodiment, and parts that are the same as or correspond to those in FIG. 1 above are given the same or corresponding symbols.

第1の実施形態では、マイクを配置する時点でマイクアレイを用意(第1の実施形態の例では2chマイクアレイを2個用意)することが明示的な制約となっていた。しかしながら、(2)式~(5)式を見ると、最終的に目的エリア音に含まれる成分がどのマイクアレイに由来するかどうかに関わらず、すべてのヌルフォーマスペクトルの中から出力が最小のものを選択すればエリア音スペクトルが得られることがわかる。 In the first embodiment, there was an explicit constraint that a microphone array must be prepared when placing the microphones (two 2-channel microphone arrays must be prepared in the example of the first embodiment). However, looking at equations (2) to (5), it can be seen that the area sound spectrum can be obtained by selecting the null former spectrum with the smallest output, regardless of which microphone array the components contained in the target area sound ultimately originate from.

そこで、第2の実施形態の収音装置10Aは、目的エリアを囲むように自由に配置された3以上のマイクを備えるマイク群を用いて2以上のマイクアレイを設定し、すべてのマイクアレイのヌルフォーマスペクトルの中から出力が最小のものを選択することでエリア音スペクトルを抽出するものとする。 The second embodiment of the sound collection device 10A therefore sets up two or more microphone arrays using a microphone group with three or more microphones arranged freely to surround the target area, and extracts the area sound spectrum by selecting the null former spectrum of all the microphone arrays with the smallest output.

次に、図7を用いて、収音装置10Aの内部構成について説明する。 Next, the internal configuration of the sound collection device 10A will be described using FIG. 7.

収音装置10Aは、M個(Mは3以上)のマイクM1~MMが捕捉した音響信号に基づいて、2以上のマイクアレイのヌルフォーマを取得し、取得した各ヌルフォーマに基づいて目的エリアの外で発せられた音を抑圧し、目的エリア内で発せられた音を収音する。 The sound collection device 10A acquires null forms for two or more microphone arrays based on the acoustic signals captured by M (M is 3 or more) microphones M1 to MM, suppresses sounds emitted outside the target area based on each acquired null form, and collects sounds emitted within the target area.

図8、図9は、第2の実施形態におけるマイクアレイの構成例について示した図である。 Figures 8 and 9 show an example of the configuration of a microphone array in the second embodiment.

図8では、目的エリアTAの周囲を囲むように3個のマイクM1~M3が配置されており(M=3)、3個のマイクM1~M3により2個のマイクアレイMA1、MA2が構成される例について示している。また、図9では、目的エリアTAの周囲を囲むように、4つのマイクM1~M4が配置されており(M=4)、4つのマイクM1~M4により3個のマイクアレイMA1~MA3が構成される例について示している。なお、図8、図9では、各マイクアレイの正面方向が交差する領域を目的エリアTAとし、ハッチング(斜線)を付している。目的エリアTAにハッチング(斜線)を付している。第2の実施形態では、図8、図9に示すように、予めマイクアレイとして構成されたわけではないマイク(マイク群)が目的エリアTAの周囲に配置されており、収音装置10A側で任意のマイクを組み合わせてマイクアレイとして使用する構成となっているものとする。図8、図9では、目的エリアTAの周囲で最も近いマイク同士を組み合わせてマイクアレイを構成する例について示しているが、必ずしも最も近いマイク同士でマイクアレイを構成する必要はない。例えば、図9において、マイクM1、M3でマイクアレイを構成するようにしてもよい。 In FIG. 8, three microphones M1 to M3 are arranged around the target area TA (M=3), and two microphone arrays MA1 and MA2 are formed by the three microphones M1 to M3. In FIG. 9, four microphones M1 to M4 are arranged around the target area TA (M=4), and three microphone arrays MA1 to MA3 are formed by the four microphones M1 to M4. In FIG. 8 and FIG. 9, the area where the front directions of the microphone arrays intersect is the target area TA, and is hatched (diagonal lines). The target area TA is hatched (diagonal lines). In the second embodiment, as shown in FIG. 8 and FIG. 9, microphones (microphone group) that are not previously configured as a microphone array are arranged around the target area TA, and the sound collection device 10A is configured to use any combination of microphones as a microphone array. 8 and 9 show an example in which the microphone array is formed by combining the closest microphones around the target area TA, but it is not necessary to form the microphone array with the closest microphones. For example, in FIG. 9, the microphone array may be formed with microphones M1 and M3.

図7に示すように、収音装置10Aは、マイクアレイ選択部201、ヌルフォーマ処理部101A及びヌルフォーマ選択部202を有している。 As shown in FIG. 7, the sound collection device 10A has a microphone array selection unit 201, a null former processing unit 101A, and a null former selection unit 202.

マイクアレイ選択部201は、M個のマイクM1~MMから、複数の組み合わせを選択して、各組み合わせ(複数のマイクの組み合わせ)をマイクアレイとして構成(機能)させる。各マイクアレイに対するマイクの選択では、異なるマイクアレイが全く同じマイクの組み合わせとならない限り自由だが、目的エリアTAを形成できるように(言い換えると、後で形成される複数のビームフォーマの指向性の共通部分が閉じた形状にできるように)選択しなければならない。なお、図8や図9のように、異なるマイクアレイ間で一部のマイクが共通するような組み合わせとしてもよい。 The microphone array selection unit 201 selects multiple combinations from M microphones M1 to MM, and configures (functions) each combination (combination of multiple microphones) as a microphone array. The microphones for each microphone array can be freely selected as long as different microphone arrays do not have exactly the same combination of microphones, but they must be selected so that a target area TA can be formed (in other words, so that the common portion of the directivities of multiple beamformers formed later can have a closed shape). Note that combinations in which some microphones are common between different microphone arrays may be used, as shown in Figures 8 and 9.

第2の実施形態において、最も好適なのは、マイクの数を少なくしながら目的エリアTAを比較的自由に設計できる図2の構成(2chマイクアレイを2組の構成)であるが、例えば、図3で示したように、12個のマイクで3個のマイクアレイを構成(4chマイクアレイを3組の構成)してもよい。 In the second embodiment, the most suitable configuration is that shown in FIG. 2 (two sets of 2ch microphone arrays), which allows relatively free design of the target area TA while reducing the number of microphones. However, for example, as shown in FIG. 3, three microphone arrays may be configured with 12 microphones (three sets of 4ch microphone arrays).

なお、第2の実施形態では、マイクアレイ選択部201が、マイクM1~MMにより捕捉された音響信号をアナログ信号からデジタル信号に変換し、さらに周波数領域に変換する信号入力手段を備えているものとする。 In the second embodiment, the microphone array selection unit 201 is equipped with a signal input means for converting the acoustic signals captured by the microphones M1 to MM from analog signals to digital signals, and further converting them into the frequency domain.

ヌルフォーマ処理部101Aは、各マイクアレイによって選択されたマイクが捕捉した音響信号に基づいて、それぞれ目的エリアの外に死角を向けたヌルフォーマを複数形成し、複数のヌルフォーマ出力音を得る。つまり、ヌルフォーマ処理部101Aは、マイクアレイ選択部201が構成したマイクアレイのそれぞれについて、目的エリアの外に死角を向けたヌルフォーマを複数形成してヌルフォーマ出力音を得る。 The null former processing unit 101A forms multiple null formers each facing a blind spot outside the target area based on the acoustic signal captured by the microphone selected by each microphone array, and obtains multiple null former output sounds. In other words, the null former processing unit 101A forms multiple null formers facing a blind spot outside the target area for each microphone array configured by the microphone array selection unit 201, and obtains null former output sounds.

ヌルフォーマ選択部202は、ヌルフォーマ処理部101Aが算出した複数のヌルフォーマ出力音に基づいて、エリア音を得る。 The null former selection unit 202 obtains an area sound based on the multiple null former output sounds calculated by the null former processing unit 101A.

以上のように、第2の実施形態では、ヌルフォーマ選択部202により、ヌルフォーマを用いたエリア収音処理を行うエリア音抽出手段が構成されている。 As described above, in the second embodiment, the null former selection unit 202 constitutes an area sound extraction means that performs area sound collection processing using a null former.

(B-2)第2の実施形態の動作
次に、以上のような構成を有する第2の実施形態の収音装置10Aの動作(実施形態に係る収音方法)を説明する。
(B-2) Operation of the Second Embodiment Next, the operation of the sound collection device 10A of the second embodiment having the above-mentioned configuration (sound collection method according to the embodiment) will be described.

マイクアレイ選択部201では、信号入力手段により、マイクM1~MMで捕捉された音響信号が、アナログ信号からデジタル信号へと変換され、さらに任意の周波数変換が行われ、得られた周波数スペクトルが入力スペクトルとして取得される。信号入力手段の処理については、第1の実施形態と同様の処理を適用することができるため、詳しい説明を省略する。 In the microphone array selection unit 201, the signal input means converts the acoustic signals captured by the microphones M1 to MM from analog signals to digital signals, and then performs an arbitrary frequency conversion, and the resulting frequency spectrum is acquired as the input spectrum. The processing of the signal input means can be the same as that in the first embodiment, so a detailed explanation will be omitted.

マイクアレイ選択部201は、所定のマイク選択リスト等に則って所定のR個(Rは2以上の整数)のマイクアレイにマイクを割り当てて、マイクM1~MMから供給された入力スペクトルを、構成されたマイクアレイごとにヌルフォーマ処理部101Aに供給する。なお、マイクアレイ選択部201で設定されるマイクアレイの数や各マイクアレイに対応付けられるマイクの選択処理については予め設定(設計)されたパラメータやプログラムに基づいて行うようにしてもよいし、動的に変化させるようにしてもよい。 The microphone array selection unit 201 assigns microphones to a predetermined number of R microphone arrays (R is an integer equal to or greater than 2) in accordance with a predetermined microphone selection list or the like, and supplies the input spectrum supplied from microphones M1 to MM to the null former processing unit 101A for each configured microphone array. Note that the number of microphone arrays set by the microphone array selection unit 201 and the selection process of the microphones associated with each microphone array may be performed based on previously set (designed) parameters or programs, or may be changed dynamically.

ヌルフォーマ処理部101Aは、供給された入力スペクトルに基づいて、マイクアレイごとに、目的エリア以外の所定の方向に死角を形成する複数のヌルフォーマを算出し、得られたヌルフォーマスペクトル(ヌルフォーマ出力音)をヌルフォーマ選択部202に供給する。 The null former processing unit 101A calculates multiple null formers that form blind spots in specific directions other than the target area for each microphone array based on the supplied input spectrum, and supplies the obtained null former spectrum (null former output sound) to the null former selection unit 202.

ヌルフォーマ処理部101Aの詳細な動作は、第1の実施形態に係るヌルフォーマ処理部101と同様であるため詳しい説明を省略する。ここでは、ヌルフォーマ処理部101Aにより得られた複数のヌルフォーマスペクトルは、第1の実施形態と同様にYan(ω)と記すものとする。 The detailed operation of the null former processing unit 101A is similar to that of the null former processing unit 101 according to the first embodiment, and therefore a detailed description thereof will be omitted. Here, the multiple null former spectra obtained by the null former processing unit 101A will be denoted as Y an (ω) as in the first embodiment.

ヌルフォーマ選択部202は、供給された複数のヌルフォーマスペクトルに基づいて、周波数ごとに、ヌルフォーマスペクトルの振幅が最小となるものを選択し、得られたエリア音スペクトル(エリア音)を出力する。具体的には、ヌルフォーマ選択部202は、エリア音スペクトルZ(ω)について、(6)式、(7)を用いて算出する。

Figure 0007697497000004
The null former selection unit 202 selects a null former spectrum with a minimum amplitude for each frequency based on the multiple null former spectra supplied, and outputs the obtained area sound spectrum (area sound). Specifically, the null former selection unit 202 calculates the area sound spectrum Z(ω) using equations (6) and (7).
Figure 0007697497000004

(B-3)第2の実施形態の効果
第2の実施形態では、第1の実施形態の効果に加えてさらに以下のような効果を奏することができる。
(B-3) Advantages of the Second Embodiment In addition to the advantages of the first embodiment, the second embodiment can achieve the following advantages.

第2の実施形態の収音装置10Aでは、マイクアレイ選択部201によりマイク群から任意の組み合わせでマイクアレイを設定することができるので、第1の実施形態よりもマイクの配置とマイクアレイの構成をより柔軟に選択することが可能となる。 In the sound collection device 10A of the second embodiment, the microphone array selection unit 201 can set a microphone array in any combination from a group of microphones, making it possible to select the microphone arrangement and microphone array configuration more flexibly than in the first embodiment.

(C)他の実施形態
本発明は、上記の各実施形態に限定されるものではなく、以下に例示するような変形実施形態も挙げることができる。
(C) Other Embodiments The present invention is not limited to the above-described embodiments, and modified embodiments such as those exemplified below can also be mentioned.

(C-1)上記の各実施形態では、収音装置10、10Aが信号入力手段(各マイクが捕捉した音響信号をアナログ信号からデジタル信号に変換し、さらに周波数領域に変換する手段)を備える構成について示したが、収音装置10、10Aの外部に信号入力手段を配置(各マイクと収音装置10、10Aとの間に配置)するようにしてもよい。 (C-1) In each of the above embodiments, the sound collection devices 10, 10A are shown to have a signal input means (means for converting the acoustic signal captured by each microphone from an analog signal to a digital signal and then converting it to the frequency domain), but the signal input means may be arranged outside the sound collection devices 10, 10A (arranged between each microphone and the sound collection devices 10, 10A).

10、10A…収音装置,101…ヌルフォーマ処理部,101A…ヌルフォーマ処理部,102…ヌルフォーマ選択部,103…ビームフォーマ選択部,201…マイクアレイ選択部,202…ヌルフォーマ選択部,M1~MM…マイク、MA1~MA3…マイクアレイ。 10, 10A...sound collection device, 101...null former processing unit, 101A...null former processing unit, 102...null former selection unit, 103...beamformer selection unit, 201...microphone array selection unit, 202...null former selection unit, M1 to MM...microphones, MA1 to MA3...microphone array.

Claims (4)

3以上のマイクで構成されるマイク群から供給される音響信号に基づいて、前記マイク群の前記マイクの組み合わせで構成可能な複数のマイクアレイのそれぞれに対して目的エリアの外に死角を形成する複数のヌルフォーマを計算してヌルフォーマ出力音を取得するヌルフォーマ処理手段と、
それぞれの前記ヌルフォーマの前記ヌルフォーマ出力音に基づいて、前記目的エリアの音を抽出したエリア音を取得するエリア音抽出手段とを有し、
前記エリア音抽出手段は、
それぞれの前記マイクアレイについて、周波数毎に複数の前記ヌルフォーマ出力音から出力が最小の前記ヌルフォーマ出力音を選んで前記マイクアレイのビームフォーマ出力音とするヌルフォーマ選択部と、
複数の前記ビームフォーマ出力音から出力が最小の前記ビームフォーマ出力音を選んでエリア音とするビームフォーマ選択部とを有し、
前記ヌルフォーマ処理手段は、それぞれの前記マイクアレイについて-π/2から0までで且つ目的エリア方向を除く範囲の第1の方位角範囲と、π/2から0までで且つ目的エリア方向を除く範囲の第2の方位角範囲のそれぞれから同じ数ずつ前記ヌルフォーマ出力音を取得する
ことを特徴とする収音装置。
a null-former processing means for calculating a plurality of null-formers that form blind spots outside a target area for each of a plurality of microphone arrays that can be configured by a combination of the microphones of the microphone group based on an acoustic signal supplied from the microphone group that is configured from three or more microphones, and acquiring a null-former output sound;
and an area sound extraction means for acquiring an area sound obtained by extracting a sound of the target area based on the null former output sound of each of the null formers,
The area sound extraction means
a null former selection unit that selects the null former output sound having the smallest output from the plurality of null former output sounds for each frequency of the microphone array as the beamformer output sound of the microphone array;
a beamformer selection unit that selects the beamformer output sound having the smallest output from the plurality of beamformer output sounds as an area sound ,
The null former processing means acquires the null former output sounds from a first azimuth angle range from −π/2 to 0 and excluding the target area direction, and a second azimuth angle range from π/2 to 0 and excluding the target area direction, for each of the microphone arrays, by the same number.
A sound collecting device characterized by the above.
前記マイク群から、複数の組み合わせの前記マイクを選択して、選択した組み合わせごとに前記マイクアレイを構成するマイクアレイ選択手段をさらに備え、
前記ヌルフォーマ処理手段は、前記マイクアレイ選択手段が構成した前記マイクアレイのそれぞれに対して複数の前記ヌルフォーマを計算して前記ヌルフォーマ出力音を取得し、
前記エリア音抽出手段は、周波数ごとに複数の前記ヌルフォーマ出力音から出力が最小の前記ヌルフォーマ出力音を選んでエリア音とする
ことを特徴とする請求項1に記載の収音装置。
a microphone array selection unit that selects a plurality of combinations of microphones from the group of microphones and configures the microphone array for each selected combination;
the null former processing means calculates a plurality of null formers for each of the microphone arrays configured by the microphone array selection means to obtain the null former output sounds;
2. The sound collection device according to claim 1, wherein the area sound extraction means selects the null form output sound having the smallest output from the plurality of null form output sounds for each frequency, and sets the selected null form output sound as the area sound.
コンピュータを、
3以上のマイクで構成されるマイク群から供給される音響信号に基づいて、前記マイク群の前記マイクの組み合わせで構成可能な複数のマイクアレイのそれぞれに対して目的エリアの外に死角を形成する複数のヌルフォーマを計算してヌルフォーマ出力音を取得するヌルフォーマ処理手段と、
それぞれの前記ヌルフォーマの前記ヌルフォーマ出力音に基づいて、前記目的エリアの音を抽出したエリア音を取得するエリア音抽出手段として機能させ、
前記エリア音抽出手段は、
それぞれの前記マイクアレイについて、周波数毎に複数の前記ヌルフォーマ出力音から出力が最小の前記ヌルフォーマ出力音を選んで前記マイクアレイのビームフォーマ出力音とするヌルフォーマ選択部と、
複数の前記ビームフォーマ出力音から出力が最小の前記ビームフォーマ出力音を選んでエリア音とするビームフォーマ選択部とを有し、
前記ヌルフォーマ処理手段は、それぞれの前記マイクアレイについて-π/2から0までで且つ目的エリア方向を除く範囲の第1の方位角範囲と、π/2から0までで且つ目的エリア方向を除く範囲の第2の方位角範囲のそれぞれから同じ数ずつ前記ヌルフォーマ出力音を取得する
ことを特徴とする収音プログラム。
Computer,
a null-former processing means for calculating a plurality of null-formers that form blind spots outside a target area for each of a plurality of microphone arrays that can be configured by a combination of the microphones of the microphone group based on an acoustic signal supplied from the microphone group that is configured from three or more microphones, and acquiring a null-former output sound;
functioning as an area sound extraction means for acquiring an area sound obtained by extracting a sound of the target area based on the null former output sound of each of the null formers;
The area sound extraction means
a null former selection unit that selects the null former output sound having the smallest output from the plurality of null former output sounds for each frequency of the microphone array as the beamformer output sound of the microphone array;
a beamformer selection unit that selects the beamformer output sound having the smallest output from the plurality of beamformer output sounds as an area sound ,
The null former processing means acquires the null former output sounds from a first azimuth angle range from −π/2 to 0 and excluding the target area direction, and a second azimuth angle range from π/2 to 0 and excluding the target area direction, for each of the microphone arrays, by the same number.
A sound recording program characterized by:
収音装置が行う収音方法において、
前記収音装置は、ヌルフォーマ処理手段とエリア音抽出手段とを備え、
前記エリア音抽出手段は、ヌルフォーマ選択部とビームフォーマ選択部とを有し、
前記ヌルフォーマ処理手段は、3以上のマイクで構成されるマイク群から供給される音響信号に基づいて、前記マイク群の前記マイクの組み合わせで構成可能な複数のマイクアレイのそれぞれに対して目的エリアの外に死角を形成する複数のヌルフォーマを計算してヌルフォーマ出力音を取得し、
前記エリア音抽出手段は、それぞれの前記ヌルフォーマの前記ヌルフォーマ出力音に基づいて、前記目的エリアの音を抽出したエリア音を取得し、
前記ヌルフォーマ選択部は、それぞれの前記マイクアレイについて、周波数毎に複数の前記ヌルフォーマ出力音から出力が最小の前記ヌルフォーマ出力音を選んで前記マイクアレイのビームフォーマ出力音とし、
前記ビームフォーマ選択部は、複数の前記ビームフォーマ出力音から出力が最小の前記ビームフォーマ出力音を選んでエリア音とし、
前記ヌルフォーマ処理手段は、それぞれの前記マイクアレイについて-π/2から0までで且つ目的エリア方向を除く範囲の第1の方位角範囲と、π/2から0までで且つ目的エリア方向を除く範囲の第2の方位角範囲のそれぞれから同じ数ずつ前記ヌルフォーマ出力音を取得する
ことを特徴とする収音方法。
In the sound collection method performed by the sound collection device,
The sound collection device includes a null former processing means and an area sound extraction means,
The area sound extraction means includes a null former selection unit and a beam former selection unit,
the null former processing means calculates a plurality of null formers that form blind spots outside a target area for each of a plurality of microphone arrays that can be configured by a combination of the microphones of the microphone group based on an acoustic signal supplied from a microphone group consisting of three or more microphones, and acquires null former output sounds;
The area sound extraction means acquires an area sound obtained by extracting a sound of the target area based on the null former output sound of each of the null formers,
the null former selection unit selects, for each of the microphone arrays, the null former output sound having the smallest output from the plurality of null former output sounds for each frequency, as the beamformer output sound of the microphone array;
the beamformer selection unit selects the beamformer output sound having the smallest output from the plurality of beamformer output sounds as an area sound ;
The null former processing means acquires the null former output sounds from a first azimuth angle range from −π/2 to 0 and excluding the target area direction, and a second azimuth angle range from π/2 to 0 and excluding the target area direction, for each of the microphone arrays, by the same number.
A sound collection method comprising:
JP2023129522A 2023-08-08 2023-08-08 Sound collection device, sound collection program, and sound collection method Active JP7697497B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023129522A JP7697497B2 (en) 2023-08-08 2023-08-08 Sound collection device, sound collection program, and sound collection method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023129522A JP7697497B2 (en) 2023-08-08 2023-08-08 Sound collection device, sound collection program, and sound collection method

Publications (2)

Publication Number Publication Date
JP2025025072A JP2025025072A (en) 2025-02-21
JP7697497B2 true JP7697497B2 (en) 2025-06-24

Family

ID=94644473

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023129522A Active JP7697497B2 (en) 2023-08-08 2023-08-08 Sound collection device, sound collection program, and sound collection method

Country Status (1)

Country Link
JP (1) JP7697497B2 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013183358A (en) 2012-03-02 2013-09-12 Oki Electric Ind Co Ltd Sound pickup device and program
JP2020141160A (en) 2019-02-26 2020-09-03 国立大学法人 筑波大学 Sound information processing equipment and programs
JP2022169998A (en) 2021-04-28 2022-11-10 沖電気工業株式会社 Sound collection device, sound collection program, sound collection method, and keyboard

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013183358A (en) 2012-03-02 2013-09-12 Oki Electric Ind Co Ltd Sound pickup device and program
JP2020141160A (en) 2019-02-26 2020-09-03 国立大学法人 筑波大学 Sound information processing equipment and programs
JP2022169998A (en) 2021-04-28 2022-11-10 沖電気工業株式会社 Sound collection device, sound collection program, sound collection method, and keyboard

Also Published As

Publication number Publication date
JP2025025072A (en) 2025-02-21

Similar Documents

Publication Publication Date Title
JP4690072B2 (en) Beam forming system and method using a microphone array
JP5229053B2 (en) Signal processing apparatus, signal processing method, and program
JP2011124872A (en) Sound source separation device, method and program
JP2018170717A (en) Sound collecting apparatus, program and method
JP4066197B2 (en) Microphone device
JP2020155971A (en) Sound collection device, sound collection program, sound collection method, and sound collection system
JP6879340B2 (en) Sound collecting device, sound collecting program, and sound collecting method
JP7697497B2 (en) Sound collection device, sound collection program, and sound collection method
JP2020120261A (en) Sound pickup device, sound pickup program, and sound pickup method
US20100189279A1 (en) Microphone array signal processing apparatus, microphone array signal processing method, and microphone array system
JP7814400B2 (en) Hybrid Audio Beamforming System
JP7158976B2 (en) Sound collecting device, sound collecting program and sound collecting method
JP7673864B1 (en) Sound collection device, sound collection program, and sound collection method
JP2019068133A (en) Sound pick-up device, program, and method
JP6863004B2 (en) Sound collectors, programs and methods
JP6908142B1 (en) Sound collecting device, sound collecting program, and sound collecting method
JP5105336B2 (en) Sound source separation apparatus, program and method
JP2016163135A (en) Sound collection device, program and method
JP7715222B1 (en) Sound collection device, sound collection program, and sound collection method
JP6725014B1 (en) Sound collecting device, sound collecting program, and sound collecting method
JP7687466B1 (en) Sound collection device, sound collection program, and sound collection method
JP6923025B1 (en) Sound collectors, programs and methods
JP6624256B1 (en) Sound pickup device, program and method
CN115665606A (en) Sound reception method and sound reception device based on four microphones
JP6624255B1 (en) Sound pickup device, program and method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240919

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250513

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250526

R150 Certificate of patent or registration of utility model

Ref document number: 7697497

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150