Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4625709B2 - ステレオオーディオ信号符号化装置 - Google Patents
[go: Go Back, main page]

JP4625709B2 - ステレオオーディオ信号符号化装置 - Google Patents

ステレオオーディオ信号符号化装置 Download PDF

Info

Publication number
JP4625709B2
JP4625709B2 JP2005089855A JP2005089855A JP4625709B2 JP 4625709 B2 JP4625709 B2 JP 4625709B2 JP 2005089855 A JP2005089855 A JP 2005089855A JP 2005089855 A JP2005089855 A JP 2005089855A JP 4625709 B2 JP4625709 B2 JP 4625709B2
Authority
JP
Japan
Prior art keywords
block
channel
determined
block length
audio signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005089855A
Other languages
English (en)
Other versions
JP2006267943A (ja
JP2006267943A5 (ja
Inventor
広和 竹内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2005089855A priority Critical patent/JP4625709B2/ja
Publication of JP2006267943A publication Critical patent/JP2006267943A/ja
Publication of JP2006267943A5 publication Critical patent/JP2006267943A5/ja
Application granted granted Critical
Publication of JP4625709B2 publication Critical patent/JP4625709B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、左右チャネルのオーディオ信号をそれぞれ可変長のブロック単位で時間周波数変換する処理を伴う、例えばAAC(Advanced Audio Coding)やMP3(MPEG-1 Audio Layer-3)などのステレオオーディオ信号符号化方法で符号化を行うステレオオーディオ信号符号化装置に関する。
AACやMP3等の符号化では、入力信号の急激な振幅変化に伴うプリエコーを抑制するために、可変長のブロック切替えが行われる。このブロック切替えでは、心理聴覚モデルに基づく知覚エントロピーや時間域の振幅変化(パワー比)などの判定パラメータが閾値を越えた場合に、時間解像度の高いショートブロックに切替える。
「Advanced Audio Coding(AAC)」,ISO/IEC 13818-7 Information technology -Generic coding of moving pictures and associated audio information-,国際標準化機構/国際電気標準会議,1997年12月1日
左右の相関が高いステレオ信号を符号化する場合で、左右のチャネルの判定パラメータの微妙な違いのためにブロック切換の判定結果が異なった場合には、ロングブロックおよびショートブロックの符号化効率等の違いに伴い、左右の量子化雑音の違いが異音として検知されることがあった。
本発明はこのような事情を考慮してなされたものであり、その目的とするところは、左右の量子化雑音の違いに伴う異音の発生を抑止できるステレオオーディオ信号符号化装置を提供することにある。
一態様によるステレオオーディオ信号符号化装置は、左チャネルのオーディオ信号および右チャネルのオーディオ信号をそれぞれ可変長のブロック単位で時間周波数変換する処理を伴うステレオオーディオ信号符号化を行うステレオオーディオ信号符号化装置において、前記左チャネルと前記右チャネルの間の相互相関値を求める手段と、前記左チャネルのオーディオ信号の特性を表すとともにブロック判定に必要な左チャネル用の判定パラメータと、前記右チャネルのオーディオ信号の特性を表すとともにブロック判定に必要な右チャネル用の判定パラメータとを算出する算出手段と、前記左チャネルのブロック長を、前記左チャネル用の判定パラメータが第1の閾値未満である場合に第1のブロック長として、また前記左チャネル用の判定パラメータが前記第1の閾値以上である場合に前記第1のブロック長よりも短い第2のブロック長としてそれぞれ判定するとともに、前記右チャネルのブロック長を、前記右チャネル用の判定パラメータが前記第1の閾値未満である場合に前記第1のブロック長として、また前記右チャネル用の判定パラメータが前記第1の閾値以上である場合に前記第2のブロック長としてそれぞれ判定する判定手段と、前記判定された左チャネルおよび右チャネルのブロック長が互いに異なり、かつ前記相互相関値が第2の閾値以上であるときに、前記判定されたブロック長が前記第2のブロック長であるチャネル用の前記判定パラメータが前記第1の閾値よりも大きな第3の閾値未満である場合には、前記左チャネルおよび前記右チャネルともに前記第1のブロック長を前記時間周波数に使用するブロック長として確定し、前記判定されたブロック長が前記第2のブロック長であるチャネル用の前記判定パラメータが前記第3の閾値以上である場合には、前記左チャネルおよび前記右チャネルともに前記第2のブロック長を前記時間周波数変換に使用するブロック長として確定する確定手段とを備える。
本発明によれば、左右の量子化雑音の違いに伴う異音の発生を抑止可能となる。
以下、図面を参照して本発明の一実施形態について説明する。
図1は本実施形態に係るステレオオーディオ信号符号化装置(以下、符号化装置と称する)のブロック図である。
この符号化装置は、入力されるステレオPCM信号に対して符号化処理を行い、符号化ビットストリームを出力するものである。この符号化装置は、フレーム切り出し部1、心理聴覚モデル部2、フィルタバンク部3、量子化歪み/レート制御部4、ホストプロセッサ5、スケーリング部6、量子化部7、符号化部8およびフォーマッタ9を含む。なお、これらの各部は、ハードウェアによりそれぞれを構成することも可能であるし、各部の機能をDSP(Digital Signal Processor)等によるソフトウェア処理によって実現することも可能である。
フレーム切り出し部1には、符号化の対象となるステレオPCM信号が与えられる。このステレオPCM信号は、時間域の信号である。フレーム切り出し部1は、このステレオPCM信号からコーデックの処理単位となる規定のフレームサイズのサンプル数毎にデータを切り出す。そしてフレーム切り出し部1は、この切り出した信号を出力する。
心理聴覚モデル部2は、フレーム切り出し部1が出力する信号に対してDFT(Discrete Fourier Transform)、DCT(Discrete Cosine Transform)、あるいはMDCT(Modified DCT)等の直交変換を行い、これにより時間域の信号から周波数領域の信号に変換する。心理聴覚モデル部2は、上記の直交変換により得られる変換係数(周波数成分)から知覚エントロピーと呼ばれるパラメータを計算する。このパラメータは、上記の変換係数から、聴感上の周波数分解能、周波数成分の拡散、予測不能性、信号の調音性(tonality)を解析することにより1フレームを符号化するのに必要とされる情報量を推定するためのものであり、計算方法の詳細はISO/IECにより制定された国際標準規格13818-7にて規定されている。
ところで心理聴覚モデル部2は、ブロック切替え部2aおよびSMR算出部2bを有する。ブロック切替え部2aは、上記の知覚エントロピーに基づいて、あるいはそれに代替する過去信号とのパワー比に基づいて、実際に符号化する時の直交変換処理(MDCT処理)で用いるブロック長を判定する。このブロック切替えは、直交変換による符号化方式でアタック信号(急峻な振幅変化を伴う信号)を符号化した際に量子化誤差の影響で生じる耳障りなノイズ(プリエコー)を抑制するために行われる。図2は、直交変換としてAAC等で使われるMDCTを使った場合のフレームとブロック切替えの様子を示した図である。図2(a)はロングブロックを、図2(b)はショートブロックをそれぞれ示す。プリエコーの原因となるノイズはMDCT処理単位に拡がるため、アタック信号を含むと判定される場合には、MDCTする処理単位を8分割したショートブロックで処理することによりノイズが発生する範囲を抑える。なお、ショートブロックとロングブロックの繋ぎ目は両者の整合を取るための特殊な窓形状によるMDCT処理となる。ブロック切替え部2aは、この判定の結果を示したブロック長情報をフィルタバンク部3へ出力する。SMR算出部2bは、聴覚上の周波数分解能を考慮した尺度(バーク、メル等)での等間隔の帯域毎に、信号に対してマスクされる音、つまりノイズとして存在しても知覚されない許容雑音の量の比を示すSMR(Signal to Mask Ratio)を算出する。SMR算出部2bは、上記算出したSMRを、量子化歪み/レート制御部4へ出力する。
フィルタバンク部3は、フレーム切り出し部1の出力信号を、心理聴覚モデル部2から出力されるブロック長情報に従って直交変換する。フィルタバンク部3は、上記の直交変換により得られた周波数変換係数を出力する。なお、符号化方式としてAACを採用している場合、フィルタバンク部3での直交変換はMDCTとなる。
量子化歪み/レート制御部4は、ホストプロセッサ5が指示する符号化レートと、心理聴覚モデル部2が出力するSMRとに基づいて、フレーム毎に割当可能な符号量を算出する。量子化歪み/レート制御部4は、上記算出した符号量を符号化フレームの目標符号量として、スケーリング部6、量子化部7および符号化部8を制御する。例えば量子化歪み/レート制御部4は、量子化部7から与えられる量子化係数から量子化歪み量を算出し、その結果と心理聴覚モデル部2から得られるSMRに応じてスケーリング部6および量子化部7へと出力指示を与える。また量子化歪み/レート制御部4は、符号化部8から通知される符号量が上記目標符号量以内になるまで繰り返し制御を行い、目標符号量以内になった時点で符号化部8へと出力指示を与える。
スケーリング部6は、フィルタバンク部3から出力される周波数変換係数(MDCT係数)を、所定のスケーリング係数でスケーリングする。そしてスケーリング部6は、上記のスケーリングの結果を量子化部7へ出力する。またスケーリング部6は、量子化歪み/レート制御部4からの指示に応じてスケーリング係数をフォーマッタ9へ出力する。
量子化部7は、スケーリング部6から出力された周波数変換係数を規定の式に従って補正したのち、全ての周波数変換係数について量子化を行う。量子化部7は、量子化したのちの係数を、量子化歪み誤差がSMR値に基づく許容誤差であるかを判定するための情報として量子化歪み/レート制御部4へと出力する。量子化部7は、量子化歪み/レート制御部4からの出力指示に応じて、量子化後の周波数変換係数を符号化部8へ出力する。
符号化部8は、量子化部7の出力を所定の符号化方式に従って圧縮符号化する。例えば、AACの場合は上述の符号化方式としてハフマン符号化方式が適用される。符号化部8は、符号化後の符号量を量子化歪み/レート制御部4へと出力する。符号化部8は、量子化歪み/レート制御部4からの出力指示に応じて、符号化後の周波数変換係数をフォーマッタ9へ出力する。
フォーマッタ9は、符号化部8の出力とスケーリング部6から出力されるスケーリング係数とを所定のフォーマットに従って多重化する。フォーマッタ9は、上記の多重化の結果を、符号化オーディオ信号として出力する。
次に以上のように構成された符号化装置の動作について説明する。なお、本願発明のポイントは、ブロック切替え部2aにおけるブロック長の判定処理にある。そこでここでは、この処理について詳細に説明する。この他の処理については、AACに準拠する既存の符号化装置と同様な処理を適用可能である。
図3は図1中のブロック切替え部2aにおけるブロック切替え処理の動作フローを示す図である。
フレーム切り出し部1で切り出された規定のフレームサイズのステレオPCM信号が入力されると、このフレームを処理対象として図3に示す処理を実行する。
ステップSa1においてブロック切替え部2aは、左右のチャネル毎にブロック判定に必要な判定パラメータを算出する。判定パラメータとしては、心理聴覚モデルに基づく知覚エントロピーや、アタック信号を検出するために時間域でフレームあるいはサブブロック(フレームより小さい単位)毎でのパワー比等がある。ステップSa2においてブロック切替え部2aは、上記の判定パラメータに基づいてチャネル毎のブロック形状(ブロック長)を判定する。ブロック形状の判定は、判定パラメータと閾値αとの比較によって行われる。判定パラメータが閾値α未満であるとき、定常的な信号と判断することができるため、ブロック切替え部2aはブロック形状をロングブロックと判定する。一方、判定パラメータが閾値α以上であるとき、アタックを含む急峻な信号であると判断されるため、ブロック切替え部2aはブロック形状をショートブロックと判定する。
ステップSa3においてブロック切替え部2aは、左右のそれぞれのチャネルについて判定されたブロック形状が互いに同一であるか否かを確認する。この確認の結果がYESであるならば、ブロック切替え部2aはステップSa3からステップSa9へ進む。しかしながら、上記の確認の結果がNOであるならば、ブロック切替え部2aはステップSa3からステップSa4へ進む。
ステップSa4においてブロック切替え部2aは、左右チャネル間の相互相関値を算出する。相互相関値Corrは、Lチャネル側の信号L(k)、Rチャネル側の信号をR(k)、判定すべき信号の範囲をNとした場合、次式で求められる。なお、ここで算出する相互相関値は、時間域であっても、周波数領域であっても良い。
Figure 0004625709
ステップSa5においてブロック切替え部2aは、上記の相互相関値が閾値β以上であるか否かを確認する。左右チャネル間の相関が小さく、上記の確認の結果がNOとなるのであれば、ブロック切替え部2aはステップSa5からステップSa9へ進み、ステップSa2で判定したブロック形状をそのまま用いる。しかしながら、左右チャネル間の相関が大きく、上記の確認の結果がYESとなるのであれば、ブロック切替え部2aはステップSa5からステップSa6へ進む。
ステップSa6においてブロック切替え部2aは、ショートブロックと判定されているチャネルに関してステップSa1で算出された判定パラメータが閾値α′以上であるか否かを確認する。閾値α′は、閾値αよりも若干大きな値に設定される。上記の確認の結果がYESとなるのであれば、ブロック切替え部2aはステップSa6からステップSa7へ進む。ステップSa7においてブロック切替え部2aは、ロングブロックと判定されているチャネル(ロング側チャネル)をショートブロックに変更する。この後にブロック切替え部2aは、ステップSa9へ進む。これに対して、上記の確認の結果がNOとなるのであれば、ブロック切替え部2aはステップSa6からステップSa8へ進む。ステップSa8においてブロック切替え部2aは、ショートブロックと判定されているチャネル(ショート側チャネル)をロングブロックに変更する。この後にブロック切替え部2aは、ステップSa9へ進む。
ステップSa9においてブロック切替え部2aは、ここへ進んだ時点における各チャネルのブロック形状を、今回の処理対象としているブロックに関するブロック形状として確定し、これをフィルタバンク部3へ通知する。
かくして本実施形態によれば、判定パラメータと閾値αとの比較に基づいて判定されるブロック形状が左右のチャネルで互いに同一であれば、左右チャネルともにその判定されたブロック形状に確定される。
判定パラメータと閾値αとの比較に基づいて判定されるブロック形状が左右のチャネルで互いに異なり、かつ左右チャネル間の相関が比較的大きいのであれば、左右のチャネルのブロック形状が強制的に共通化される。左右の量子化雑音の違いは小さく抑えられ、異音の発生が抑えられる。
なお本実施形態では、ショート側チャネルの判定パラメータが閾値αよりも若干大きな閾値α′以上であるならば、左右のチャネルのブロック形状はショートブロックに共通化され、そうでないならばロングブロックに共通化される。従って、ショート側チャネルが、判定パラメータが閾値αより若干大きいためにショートブロックと判定されているのであれば、これをロングブロックに変更しても大きくは品質低下を来さないから、ロングブロックに共通化することで符号化効率を向上させることができる。しかし、ショート側チャネルが、判定パラメータが閾値αよりも十分に大きいのであれば、これをロングブロックに変更することによる品質低下が大きくなってしまう。そこで、ショートブロックに共通化することにより、品質を向上させることができる。
判定パラメータと閾値αとの比較に基づいて判定されるブロック形状が左右のチャネルで互いに異なったとしても、左右チャネル間の相関が比較的小さいのであれば、左右のチャネルともにその判定されたブロック形状に確定される。左右チャネル間の相関が比較的小さいステレオPCM信号としては、デュアルモノ音源に係わる信号が想定される。このデュアルモノ音源の場合、チャネル毎独立に聴聞する利用が想定されるため、チャネル間の影響を受けないように独立に符号化することが望ましく、無理にブロック形状を強制的に共通化すると音質劣化が引き起こされる恐れがある。しかし本実施形態では、上記のように左右チャネル間の相関が比較的小さい場合には、左右のチャネルのブロック形状が異なることを許容しているので、デュアルモノ音源に係わる信号も高品質に符号化できる。
この実施形態は、次のような種々の変形実施が可能である。
ブロック形状を強制的に共通化する場合に、無条件にロングブロックまたはショートブロックのいずれかに共通化しても良い。例えば、符号化効率を優先するならばロングブロックに、また品質を優先するならばショートブロックにそれぞれ共通化することが考えられる。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。また、上記実施形態に開示されている複数の構成要素の適宜な組み合わせにより、種々の発明を形成できる。例えば、実施形態に示される全構成要素から幾つかの構成要素を削除してもよい。
本発明の一実施形態に係るステレオオーディオ信号符号化装置のブロック図。 MDCT処理におけるブロック切り替えの様子を示す図。 図1中のブロック切替え部2aにおけるブロック切替え処理の動作フローを示す図。
符号の説明
1…フレーム切り出し部、2…心理聴覚モデル部、2a…ブロック切替え部、2b…SMR算出部、3…フィルタバンク部、4…量子化歪み/レート制御部、5…ホストプロセッサ、6…スケーリング部、7…量子化部、8…符号化部、9…フォーマッタ。

Claims (4)

  1. 左チャネルのオーディオ信号および右チャネルのオーディオ信号をそれぞれ可変長のブロック単位で時間周波数変換する処理を伴うステレオオーディオ信号符号化を行うステレオオーディオ信号符号化装置において、
    前記左チャネルと前記右チャネルの間の相互相関値を求める手段と、
    前記左チャネルのオーディオ信号の特性を表すとともにブロック判定に必要な左チャネル用の判定パラメータと、前記右チャネルのオーディオ信号の特性を表すとともにブロック判定に必要な右チャネル用の判定パラメータとを算出する算出手段と、
    前記左チャネルのブロック長を、前記左チャネル用の判定パラメータが第1の閾値未満である場合に第1のブロック長として、また前記左チャネル用の判定パラメータが前記第1の閾値以上である場合に前記第1のブロック長よりも短い第2のブロック長としてそれぞれ判定するとともに、前記右チャネルのブロック長を、前記右チャネル用の判定パラメータが前記第1の閾値未満である場合に前記第1のブロック長として、また前記右チャネル用の判定パラメータが前記第1の閾値以上である場合に前記第2のブロック長としてそれぞれ判定する判定手段と、
    前記判定された左チャネルおよび右チャネルのそれぞれのブロック長が互いに異なり、かつ前記相互相関値が第2の閾値以上であるときに、前記判定されたブロック長が前記第2のブロック長であるチャネル用の前記判定パラメータが前記第1の閾値よりも大きな第3の閾値未満である場合には、前記左チャネルおよび前記右チャネルともに前記第1のブロック長を前記時間周波数に使用するブロック長として確定し、前記判定されたブロック長が前記第2のブロック長であるチャネル用の前記判定パラメータが前記第3の閾値以上である場合には、前記左チャネルおよび前記右チャネルともに前記第2のブロック長を前記時間周波数変換に使用するブロック長として確定する確定手段とを具備したことを特徴とするステレオオーディオ信号符号化装置。
  2. 前記確定手段は、前記判定された左チャネルおよび右チャネルのそれぞれのブロック長が互いに同一であるときに、前記判定されたブロック長のそれぞれを前記時間周波数変換に使用するブロック長として確定する請求項1に記載のステレオオーディオ信号符号化装置。
  3. 前記確定手段は、前記判定された左チャネルおよび右チャネルのそれぞれのブロック長が互いに異なり、かつ前記相互相関値が第2の閾値未満であるときに、前記判定されたブロック長のそれぞれを前記時間周波数変換に使用するブロック長として確定する請求項1に記載のステレオオーディオ信号符号化装置。
  4. 前記算出手段は、心理聴覚モデルに基づく知覚エントロピー、または時間域でフレームあるいはサブブロック毎でのパワー比を前記判定パラメータとして算出する請求項1に記載のステレオオーディオ信号符号化装置。
JP2005089855A 2005-03-25 2005-03-25 ステレオオーディオ信号符号化装置 Expired - Fee Related JP4625709B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005089855A JP4625709B2 (ja) 2005-03-25 2005-03-25 ステレオオーディオ信号符号化装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005089855A JP4625709B2 (ja) 2005-03-25 2005-03-25 ステレオオーディオ信号符号化装置

Publications (3)

Publication Number Publication Date
JP2006267943A JP2006267943A (ja) 2006-10-05
JP2006267943A5 JP2006267943A5 (ja) 2008-04-17
JP4625709B2 true JP4625709B2 (ja) 2011-02-02

Family

ID=37203938

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005089855A Expired - Fee Related JP4625709B2 (ja) 2005-03-25 2005-03-25 ステレオオーディオ信号符号化装置

Country Status (1)

Country Link
JP (1) JP4625709B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4743228B2 (ja) * 2008-05-22 2011-08-10 三菱電機株式会社 デジタル音声信号解析方法、その装置、及び映像音声記録装置
JP5793675B2 (ja) * 2009-07-31 2015-10-14 パナソニックIpマネジメント株式会社 符号化装置および復号装置
US11270710B2 (en) * 2017-09-25 2022-03-08 Panasonic Intellectual Property Corporation Of America Encoder and encoding method

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3175446B2 (ja) * 1993-11-29 2001-06-11 ソニー株式会社 情報圧縮方法及び装置、圧縮情報伸張方法及び装置、圧縮情報記録/伝送装置、圧縮情報再生装置、圧縮情報受信装置、並びに記録媒体
JP2905191B1 (ja) * 1998-04-03 1999-06-14 日本放送協会 信号処理装置、信号処理方法および信号処理プログラムを記録したコンピュータ読み取り可能な記録媒体
JP4347634B2 (ja) * 2003-08-08 2009-10-21 富士通株式会社 符号化装置及び符号化方法

Also Published As

Publication number Publication date
JP2006267943A (ja) 2006-10-05

Similar Documents

Publication Publication Date Title
US20240347067A1 (en) Post-processor, pre-processor, audio encoder, audio decoder and related methods for enhancing transient processing
US7143030B2 (en) Parametric compression/decompression modes for quantization matrices for digital audio
JP4934427B2 (ja) 音声信号復号化装置及び音声信号符号化装置
JP4413257B2 (ja) マルチチャネル信号を処理する装置および方法
EP2250641B1 (en) Apparatus for mixing a plurality of input data streams
KR101428487B1 (ko) 멀티 채널 부호화 및 복호화 방법 및 장치
KR101798117B1 (ko) 후방 호환성 다중 해상도 공간적 오디오 오브젝트 코딩을 위한 인코더, 디코더 및 방법
CN116665683A (zh) 用于参数化多声道编码的方法
KR100814673B1 (ko) 오디오 부호화
CN116114016A (zh) 音频量化器和音频去量化器以及相关方法
EP3826011A1 (en) Method for estimating noise in an audio signal, noise estimator, audio encoder, audio decoder, and system for transmitting audio signals
JP4625709B2 (ja) ステレオオーディオ信号符号化装置
JP2009502086A (ja) 仮想音源位置情報に基づいたチャネル間レベル差量子化及び逆量子化方法
JP4116628B2 (ja) オーディオ符号化方法およびオーディオ符号化装置
JP2006201375A (ja) オーディオ符号化方法およびオーディオ符号化装置
KR20070035410A (ko) 멀티 채널 오디오 신호의 공간 정보 부호화/복호화 방법 및장치
MXPA06009933A (en) Device and method for processing a multi-channel signal
HK1149838B (en) Apparatus for mixing a plurality of input data streams

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080304

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080304

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100804

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100810

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101012

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101108

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131112

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees