JP5741064B2

JP5741064B2 - Video / audio processing apparatus and video / audio processing method

Info

Publication number: JP5741064B2
Application number: JP2011043686A
Authority: JP
Inventors: 佐藤　大介; 大介佐藤
Original assignee: NEC Corp
Current assignee: NEC Corp
Priority date: 2011-03-01
Filing date: 2011-03-01
Publication date: 2015-07-01
Anticipated expiration: 2031-03-01
Also published as: JP2012182618A

Description

本発明は、映像符号化装置におけるリアルタイムエンコーダーに関し、特に、符号化遅延が１フレーム未満の低遅延符号化装置における非圧縮音声の符号化回路に関する。 The present invention relates to a real-time encoder in a video encoding device, and more particularly to an uncompressed audio encoding circuit in a low-delay encoding device with an encoding delay of less than one frame.

映像信号と同期している音声信号では、映像のフレーム周波数が２９．９７Ｈｚであり音声のサンプリング周波数が４８ｋＨｚである場合、映像１フレームに対する音声サンプル数が整数倍にならない。 In the audio signal synchronized with the video signal, when the frame frequency of the video is 29.97 Hz and the sampling frequency of the audio is 48 kHz, the number of audio samples for one frame of video does not become an integral multiple.

ＳＭＰＴＥ３０２Ｍ規格では、映像ストリームに多重化する非圧縮の音声ストリームを、映像フレーム単位でＰＥＳ化するものと定められている。また、ＳＭＰＴＥ３０２Ｍ規格では、ＡＥＳ３ヘッダーは、ＡＥＳ３ヘッダーに続けて配置されるＡＥＳ３ペイロードデータのサイズ（以下、ＡＥＳ３ペイロードサイズと称する場合がある。）を示すものと規定されている。 In the SMPTE 302M standard, it is defined that an uncompressed audio stream multiplexed into a video stream is converted to PES in units of video frames. In the SMPTE 302M standard, the AES3 header is defined to indicate the size of AES3 payload data (hereinafter, sometimes referred to as AES3 payload size) arranged subsequent to the AES3 header.

非圧縮の入力音声信号を処理する回路では、映像１フレーム期間に入力された音声のサンプル数をカウントして、ＡＥＳ３ペイロードサイズを求める。非圧縮音声処理回路は、非圧縮音声ストリームの構造上、ＡＥＳ３ペイロードデータをＡＥＳ３ヘッダーの後に配置して出力する。このため、ＡＥＳ３ペイロードサイズを確定するためには、1フレーム以上の遅延が必要となる。 A circuit that processes an uncompressed input audio signal counts the number of audio samples input during one video frame period to obtain the AES3 payload size. The uncompressed audio processing circuit arranges and outputs the AES3 payload data after the AES3 header in view of the structure of the uncompressed audio stream. For this reason, in order to determine the AES3 payload size, a delay of one frame or more is required.

一方で、映像符号化に関しては、Ｈ．２６４方式などに従って１フレーム未満での映像符号化遅延を実現する処理回路が使用されていることから、非圧縮の音声ストリームの遅延を１フレーム未満に抑える必要がある。 On the other hand, H. Since a processing circuit that realizes a video encoding delay in less than one frame according to the H.264 system or the like is used, it is necessary to suppress the delay of an uncompressed audio stream to less than one frame.

なお、本発明に関連する技術としては、例えば、特許文献１乃至３に開示される技術がある。 In addition, as a technique relevant to this invention, there exists a technique disclosed by patent document 1 thru | or 3, for example.

特開２００３−１３４４７９号公報JP 2003-134479 A 特開平１１−２１９５６４号公報JP-A-11-219564 特開平１１−２５２０５８号公報Japanese Patent Laid-Open No. 11-252058

図６に、本発明に関連する映像音声処理装置の構成例を示す。図６に例示するように、映像音声処理装置は、入力映像信号を低遅延で符号化する映像符号化装置４０１と、映像ストリームデータと音声ストリームデータを多重化する映像ストリームデータ・音声ストリームデータ多重化部４０２と、ＰＥＳヘッダーを生成するＰＥＳヘッダー生成部４０３入力音声信号からＡＥＳ３ペイロードデータを３生成するＡＥＳ３ペイロード生成部４０４と、入力音声信号のサンプル数をカウントするサンプル数カウンタ４０５と、カウントした音声サンプル数を反映してＡＥＳ３ヘッダーを生成するＡＥＳ３ヘッダー生成部４０６と、生成したＰＥＳヘッダーの遅延を調整するＰＥＳヘッダー遅延メモリ４０７と、生成したＡＥＳ３ペイロードデータの遅延を調整するＡＥＳ３ペイロード遅延メモリ４０８と、ＰＥＳヘッダー、ＡＥＳ３ヘッダー、ＡＥＳ３ペイロードデータからなる音声ストリームデータを生成する音声ストリームデータ生成部４０９と、生成した音声ストリームデータの遅延を調整する遅延メモリ４１０と、を備えている。 FIG. 6 shows a configuration example of a video / audio processing apparatus related to the present invention. As illustrated in FIG. 6, the video / audio processing apparatus includes a video encoding apparatus 401 that encodes an input video signal with low delay, and video stream data / audio stream data multiplexing that multiplexes video stream data and audio stream data. , A PES header generation unit 403 that generates a PES header, an AES3 payload generation unit 404 that generates 3 AES3 payload data from an input audio signal, a sample number counter 405 that counts the number of samples of the input audio signal, An AES3 header generation unit 406 that generates an AES3 header reflecting the number of audio samples, a PES header delay memory 407 that adjusts the delay of the generated PES header, and an AES3 payload delay memory 408 that adjusts the delay of the generated AES3 payload data When, ES header, AES3 header, and a voice stream data generation unit 409 generates the audio stream data composed of AES3 payload data, the delay memory 410 to adjust the generated delay in the audio stream data, the.

図６に例示した構成の映像音声処理装置では、低遅延符号化を１フレーム未満で行うことができるものの、ＳＭＰＴＥ３０２Ｍ規格に準拠した非圧縮の音声ストリームの処理に関しては、ＰＥＳ化に使用した１フレーム内の音声サンプル数に基づいてＡＥＳ３ペイロードサイズを求め、その求めたＡＥＳ３ペイロードサイズを、ＡＥＳ３ヘッダーに含ませる必要がある。 In the video / audio processing apparatus having the configuration illustrated in FIG. 6, low-delay encoding can be performed in less than one frame. However, for processing of an uncompressed audio stream conforming to the SMPTE302M standard, one frame used for PES conversion is used. It is necessary to obtain the AES3 payload size based on the number of audio samples, and to include the obtained AES3 payload size in the AES3 header.

しかし、ＡＥＳ３ヘッダーは、ストリームのＡＥＳ３ペイロードデータよりも前に配置されるため、入力音声信号の音声サンプル数をカウントした後にＡＥＳ３ヘッダーを生成する回路では、１フレームの音声信号の入力が終わるまでの間はＡＥＳ３ヘッダーを生成することができない。そのため、少なくとも１フレーム分の音声信号の遅延が必要になるという問題があった。 However, since the AES3 header is arranged before the AES3 payload data of the stream, the circuit that generates the AES3 header after counting the number of audio samples of the input audio signal until the input of the audio signal of one frame is completed. AES3 header cannot be generated during this time. Therefore, there has been a problem that a delay of the audio signal for at least one frame is required.

そこで本発明の目的は、これらの課題を解決し、音声ストリームの符号化遅延を短縮することが可能な映像音声処理装置および映像音声処理方法を提供することである。 Accordingly, an object of the present invention is to provide a video / audio processing apparatus and a video / audio processing method capable of solving these problems and reducing the encoding delay of the audio stream.

本発明の第１の態様にかかる映像音声処理装置は、所定のフォーマットに従って、入力映像信号を低遅延で圧縮符号化して映像ストリームデータを出力する映像符号化部と、前記入力映像信号の符号化を開始する場合に、前記入力映像信号の先頭フレームのタイミングで、前記入力映像信号と入力音声信号に基づいて、映像パケットのヘッダーと、音声パケットのヘッダーと、音声のデジタル化データと、を含む音声ストリームデータを生成し、当該生成した音声ストリームデータを、前記映像ストリームデータのタイミングに合うように遅延させて出力する音声処理部と、所定のフォーマットに従って、前記映像ストリームデータと前記音声ストリームデータを多重化して出力する映像ストリームデータ・音声ストリームデータ多重化部と、を備え、前記音声処理部は、前記入力映像信号に基づいて前記映像パケットのヘッダーを生成する手段と、前記入力映像信号の符号化開始前の所定のフレーム単位での、前記入力音声信号の音声サンプル数をカウントする手段と、前記カウントした音声サンプル数のパターンに基づいて、前記入力映像信号の符号化を開始する場合におけるフレームの音声サンプルを予測する手段と、前記入力音声信号のステータス情報と、前記予測した音声サンプル数と、に基づいて、前記音声のデジタル化データのサイズ情報を計算し、当該計算したサイズ情報を含む前記音声パケットのヘッダーを生成する手段と、前記入力音声信号を前記音声のデジタル化データに変換する手段と、を備える。 A video / audio processing apparatus according to a first aspect of the present invention includes a video encoding unit that compresses and encodes an input video signal with a low delay according to a predetermined format, and outputs video stream data; and encoding the input video signal Including a video packet header, a voice packet header, and digitized audio data based on the input video signal and the input audio signal at the timing of the first frame of the input video signal. An audio processor that generates audio stream data, outputs the generated audio stream data with a delay in accordance with the timing of the video stream data, and outputs the video stream data and the audio stream data according to a predetermined format; Multiplexed video stream data / audio stream data multiplexing unit and The audio processing unit includes: means for generating a header of the video packet based on the input video signal; and audio of the input audio signal in a predetermined frame unit before the encoding of the input video signal is started. Means for counting the number of samples; means for predicting audio samples of a frame when encoding of the input video signal is started based on a pattern of the counted number of audio samples; and status information of the input audio signal; Calculating the size information of the digitized data of the audio based on the predicted number of audio samples, and generating a header of the audio packet including the calculated size information; and Means for converting to voice digitized data.

本発明の第２の態様にかかる映像音声処理方法は、所定のフォーマットに従って、入力映像信号を低遅延で圧縮符号化して映像ストリームデータを出力する映像符号化部と、前記入力映像信号の符号化を開始する場合に、前記入力映像信号の先頭フレームのタイミングで、前記入力映像信号と入力音声信号に基づいて、映像パケットのヘッダーと、音声パケットのヘッダーと、音声のデジタル化データと、を含む音声ストリームデータを生成し、当該生成した音声ストリームデータを、前記映像ストリームデータのタイミングに合うように遅延させて出力する音声処理部と、所定のフォーマットに従って、前記映像ストリームデータと前記音声ストリームデータを多重化して出力する映像ストリームデータ・音声ストリームデータ多重化部と、を備える映像音声処理装置における映像音声処理方法である。映像音声処理方法は、前記入力映像信号に基づいて前記映像パケットのヘッダーを生成するステップと、前記入力映像信号の符号化開始前の所定のフレーム単位での、前記入力音声信号の音声サンプル数をカウントするステップと、前記カウントした音声サンプル数のパターンに基づいて、前記入力映像信号の符号化を開始する場合におけるフレームの音声サンプルを予測するステップと、前記入力音声信号のステータス情報と、前記予測した音声サンプル数と、に基づいて、前記音声のデジタル化データのサイズ情報を計算し、当該計算したサイズ情報を含む前記音声パケットのヘッダーを生成するステップと、前記入力音声信号を前記音声のデジタル化データに変換するステップと、を含む。 A video / audio processing method according to a second aspect of the present invention includes a video encoding unit that compresses and encodes an input video signal with low delay according to a predetermined format, and outputs video stream data; and encoding of the input video signal Including a video packet header, a voice packet header, and digitized audio data based on the input video signal and the input audio signal at the timing of the first frame of the input video signal. An audio processor that generates audio stream data, outputs the generated audio stream data with a delay in accordance with the timing of the video stream data, and outputs the video stream data and the audio stream data according to a predetermined format; Multiplexed video stream data / audio stream data multiplexing unit and A video and audio processing method in the video audio processing device comprising a. In the video / audio processing method, a step of generating a header of the video packet based on the input video signal, and the number of audio samples of the input audio signal in a predetermined frame unit before the encoding of the input video signal is started. A step of counting, a step of predicting audio samples of a frame when encoding of the input video signal is started based on the pattern of the counted number of audio samples, status information of the input audio signal, and the prediction Calculating the size information of the digitized data of the voice based on the number of voice samples, generating a header of the voice packet including the calculated size information, and converting the input voice signal into the voice digital Converting to digitized data.

本発明によれば、音声ストリームの符号化遅延を短縮することが可能な映像音声処理装置および映像音声処理方法を提供することができる。 According to the present invention, it is possible to provide a video / audio processing apparatus and a video / audio processing method capable of reducing the encoding delay of an audio stream.

実施の形態１に係る映像音声処理装置の構成図である。1 is a configuration diagram of a video / audio processing apparatus according to Embodiment 1. FIG. 実施の形態１に係る映像音声処理装置の動作例を示す図である。5 is a diagram illustrating an operation example of the video / audio processing device according to Embodiment 1. FIG. 各フレームで発生しうる音声サンプル数のパターンと、予測サンプル数と、の関係を例示する表である。It is a table | surface which illustrates the relationship between the pattern of the number of audio | voice samples which can generate | occur | produce in each flame | frame, and the prediction sample number. 実施の形態２に係る映像音声処理装置の構成図である。3 is a configuration diagram of a video / audio processing apparatus according to Embodiment 2. FIG. 本発明の原理を説明するための図である。It is a figure for demonstrating the principle of this invention. 本発明に関連する技術を説明するための図である。It is a figure for demonstrating the technique relevant to this invention.

まず、本発明の実施の形態について説明するのに先立ち、図５を参照して本発明の原理について説明する。図５に示すように、本発明にかかる映像音声処理装置は、映像符号化部５０１と、映像ストリームデータ・音声ストリームデータ多重化部５０２と、音声処理部５０３と、を備えている。 Prior to describing the embodiment of the present invention, the principle of the present invention will be described with reference to FIG. As shown in FIG. 5, the video / audio processing apparatus according to the present invention includes a video encoding unit 501, a video stream data / audio stream data multiplexing unit 502, and an audio processing unit 503.

映像符号化部５０１は、所定のフォーマット（Ｈ．２６４フォーマット）に従って、入力映像信号を低遅延で圧縮符号化して映像ストリームデータを出力する。映像ストリームデータ・音声ストリームデータ多重化部５０２は、所定のフォーマット（ＭＰＥＧ２−ＴＳフォーマット）に従って、映像ストリームデータと音声ストリームデータを多重化して出力する。 The video encoding unit 501 compresses and encodes the input video signal with low delay according to a predetermined format (H.264 format), and outputs video stream data. The video stream data / audio stream data multiplexing unit 502 multiplexes and outputs the video stream data and the audio stream data according to a predetermined format (MPEG2-TS format).

音声処理部５０３は、入力映像信号の符号化を開始する場合に、入力映像信号の先頭フレームのタイミングで、入力映像信号と入力音声信号に基づいて、パケットのヘッダー（ＰＥＳヘッダー）と、音声パケットのヘッダー（ＡＥＳ３ヘッダー）と、音声のデジタル化データ（ＡＥＳ３ペイロードデータ）と、を含む音声ストリームデータを生成し、当該生成した音声ストリームデータを、映像ストリームデータのタイミングに合うように遅延させて出力する。 When starting the encoding of the input video signal, the audio processing unit 503 starts the packet header (PES header) and the audio packet based on the input video signal and the input audio signal at the timing of the first frame of the input video signal. Audio stream data including the header (AES3 header) and audio digitized data (AES3 payload data) is generated, and the generated audio stream data is output after being delayed in accordance with the timing of the video stream data. To do.

音声処理部５０３は、入力映像信号に基づいて映像パケットのヘッダーを生成する手段６０１と、入力映像信号の符号化開始前の所定のフレーム単位での、入力音声信号の音声サンプル数をカウントする手段６０２と、カウントした音声サンプル数のパターンに基づいて、入力映像信号の符号化を開始する場合におけるフレームの音声サンプルを予測する手段６０３と、入力音声信号のステータス情報と、予測した音声サンプル数と、に基づいて、音声のデジタル化データのサイズ情報を計算し、当該計算したサイズ情報を含む音声パケットのヘッダーを生成する手段６０４と、入力音声信号を音声のデジタル化データに変換する手段６０５と、を備えている。 The audio processing unit 503 generates means 601 for generating a video packet header based on the input video signal, and means for counting the number of audio samples of the input audio signal in a predetermined frame unit before starting the encoding of the input video signal. 602, means 603 for predicting the audio sample of the frame when encoding of the input video signal is started based on the pattern of the counted audio samples, status information of the input audio signal, and the estimated number of audio samples , Means 604 for calculating the size information of the voice digitized data, generating a voice packet header including the calculated size information, and means 605 for converting the input voice signal into the voice digitized data. It is equipped with.

本発明によれば、非圧縮の音声ストリームのＰＥＳパケット生成におけるＡＥＳ３ペイロードサイズを、入力映像信号の符号化開始前の所定のフレーム単位での、入力音声信号の音声サンプル数をカウントして、カウントした音声サンプル数のパターンに基づいて、入力映像信号の符号化を開始する場合におけるフレームの音声サンプルを予測し、この予測した音声サンプル数に基づいて、音声のデジタル化データのサイズ情報を計算して音声パケットのヘッダーを生成することで、音声ストリームの符号化遅延の短縮化を図ることができる。 According to the present invention, the AES3 payload size in PES packet generation of an uncompressed audio stream is counted by counting the number of audio samples of the input audio signal in a predetermined frame unit before starting the encoding of the input video signal. Based on the audio sample number pattern, the audio sample of the frame when encoding the input video signal is started is predicted, and the size information of the audio digitized data is calculated based on the predicted audio sample number. Thus, by generating the header of the voice packet, it is possible to shorten the coding delay of the voice stream.

実施の形態１．
以下、図１乃至図３を参照して、本実施の形態について説明する。図１乃至図３では、本実施の形態に係る映像符号化装置において、映像ストリームデータと非圧縮の音声ストリームデータを１フレーム未満の符号化遅延で出力する例を示す。 Embodiment 1 FIG.
Hereinafter, the present embodiment will be described with reference to FIGS. 1 to 3 show an example in which video stream data and uncompressed audio stream data are output with a coding delay of less than one frame in the video coding apparatus according to the present embodiment.

図１は、本実施の形態に係る映像音声処理装置の構成図である。図に示す様に、映像音声処理装置は、映像符号化部２０１と、映像ストリームデータ・音声ストリームデータ多重化部２０２と、ＰＥＳヘッダー生成部２０３と、ＡＥＳ３ペイロード生成部２０４と、ＡＥＳ３ヘッダー生成部２０５と、非圧縮音声ストリームデータ生成部２０６と、遅延メモリ２０７と、プリカウンタ部２０８と、サンプル数予測部２０９と、を備えている。映像ストリームデータ・音声ストリームデータ多重化部２０２などを含む部分で、映像符号化部２０１を除いた部分が、音声処理部に相当する。 FIG. 1 is a configuration diagram of a video / audio processing apparatus according to the present embodiment. As shown in the figure, the video / audio processing apparatus includes a video encoding unit 201, a video stream data / audio stream data multiplexing unit 202, a PES header generation unit 203, an AES3 payload generation unit 204, and an AES3 header generation unit. 205, an uncompressed audio stream data generation unit 206, a delay memory 207, a pre-counter unit 208, and a sample number prediction unit 209. The part including the video stream data / audio stream data multiplexing unit 202 and the like, excluding the video encoding unit 201, corresponds to the audio processing unit.

映像符号化部２０１は、Ｈ．２６４フォーマットに従って、入力映像信号２１を、映像ストリームデータ２２に低遅延で圧縮符号化する。また、映像符号化部２０１は、入力映像信号２１のフレーム周期に基づいて、映像フレームタイミング信号２３を出力する。ここでは、入力映像信号２１は、フレーム周波数２９．９７Ｈｚの映像信号である。また、映像フレームタイミング信号２３は、２９．９７Ｈｚの映像フレームタイミング信号である。 The video encoding unit 201 is an H.264 format. In accordance with the H.264 format, the input video signal 21 is compressed and encoded into the video stream data 22 with low delay. The video encoding unit 201 outputs a video frame timing signal 23 based on the frame period of the input video signal 21. Here, the input video signal 21 is a video signal having a frame frequency of 29.97 Hz. The video frame timing signal 23 is a video frame timing signal of 29.97 Hz.

映像ストリームデータ・音声ストリームデータ多重化部２０２は、入力される映像ストリームデータ２２と音声ストリームデータ３１を、ＭＰＥＧ２−ＴＳフォーマットに多重化する。映像ストリームデータ・音声ストリームデータ多重化部２０２は、映像ストリームデータ２２と音声ストリームデータ３１を、ＴＳパケットサイズで多重化したＭＰＥＧ−２ＴＳストリームデータ３２として出力する。 The video stream data / audio stream data multiplexing unit 202 multiplexes the input video stream data 22 and audio stream data 31 into the MPEG2-TS format. The video stream data / audio stream data multiplexing unit 202 outputs the video stream data 22 and the audio stream data 31 as MPEG-2 TS stream data 32 multiplexed with the TS packet size.

ＰＥＳヘッダー生成部２０３は、入力映像信号２１のフレーム単位で、音声ストリームデータ３０に含まれるＳＭＰＴＥ３０２Ｍ規格のＰＥＳヘッダー２８を生成する。ＰＥＳヘッダー生成部２０３は、入力される映像フレームタイミング信号２３に基づいて、入力映像信号２１のフレームの開始タイミングで、ＰＥＳヘッダー２８を生成する。 The PES header generation unit 203 generates the SMPTE 302M standard PES header 28 included in the audio stream data 30 for each frame of the input video signal 21. The PES header generation unit 203 generates the PES header 28 at the start timing of the frame of the input video signal 21 based on the input video frame timing signal 23.

ＡＥＳ３ペイロード生成部２０４は、入力音声信号２４から、音声データワード、バリディティビット、ユーザービット、チャンネルステータスビット、およびＺフラグを抽出してデジタル化し、ＳＭＰＴＥ３０２Ｍ規格で定められるＡＥＳ３ペイロードデータ２７を生成する。ＡＥＳ３ペイロード生成部２０４は、入力される映像フレームタイミング信号２３に基づいて、入力映像信号２１のフレームの開始タイミングで、ＡＥＳ３ペイロードデータ２７の生成を開始する。 The AES3 payload generation unit 204 extracts and digitizes an audio data word, a validity bit, a user bit, a channel status bit, and a Z flag from the input audio signal 24, and generates AES3 payload data 27 defined by the SMPTE302M standard. . Based on the input video frame timing signal 23, the AES3 payload generation unit 204 starts generating the AES3 payload data 27 at the start timing of the frame of the input video signal 21.

ＡＥＳ３ヘッダー生成部２０５は、入力音声信号２４のステータス情報と、次の映像１フレーム中での予測される音声サンプル数２６と、に基づいて、ＡＥＳ３ペイロードサイズを計算し、計算したペイロードサイズを含むＡＥＳ３ヘッダー２９を生成する。 The AES3 header generation unit 205 calculates the AES3 payload size based on the status information of the input audio signal 24 and the predicted number of audio samples 26 in the next video 1 frame, and includes the calculated payload size. An AES3 header 29 is generated.

非圧縮音声ストリームデータ生成部２０６は、ＰＥＳヘッダー生成部２０３で生成したＰＥＳヘッダー２８と、ＡＥＳ３ペイロード生成部２０４で生成したＡＥＳ３ヘッダー２９と、ＡＥＳ３ヘッダー生成部２０５で生成したＡＥＳ３ペイロードデータ２７と、が入力されて、ＰＥＳヘッダー２８、ＡＥＳ３ヘッダー２９、ＡＥＳ３ペイロードデータ２７の順で選択し、非圧縮の音声ストリームデータ３０として出力する。ここで、音声ストリームデータ３０は、ＳＭＰＴＥ３０２Ｍ規格に規定されるＭＰＥＧ−２ＰＥＳパケットの形式である。 The uncompressed audio stream data generation unit 206 includes a PES header 28 generated by the PES header generation unit 203, an AES3 header 29 generated by the AES3 payload generation unit 204, AES3 payload data 27 generated by the AES3 header generation unit 205, Are selected in the order of PES header 28, AES3 header 29, and AES3 payload data 27, and output as uncompressed audio stream data 30. Here, the audio stream data 30 is in the format of an MPEG-2 PES packet defined in the SMPTE 302M standard.

遅延メモリ２０７は、入力される音声ストリームデータ３０を一時的に保持し、映像ストリームデータ２２の符号化遅延に合わせて遅延調整する。 The delay memory 207 temporarily holds the input audio stream data 30 and adjusts the delay according to the encoding delay of the video stream data 22.

プリカウンタ部２０８は、入力映像信号２１の１フレームに対応する入力音声信号２４の１フレーム中のサンプル数を、所定のフレーム分連続でカウントする。プリカウンタ部２０８は、入力される映像フレームタイミング信号２３に基づいて、映像信号のフレームのタイミングで、直前フレームで入力音声信号２４のサンプル数をカウントし、カウントしたプリカウンタ値２５を出力する。ここでは、プリカウンタ部２０８は、入力音声信号２４について、１フレーム中のサンプル数を、映像５フレーム分連続でカウントする。 The pre-counter unit 208 continuously counts the number of samples in one frame of the input audio signal 24 corresponding to one frame of the input video signal 21 for a predetermined frame. Based on the input video frame timing signal 23, the precounter unit 208 counts the number of samples of the input audio signal 24 in the immediately preceding frame at the frame timing of the video signal, and outputs the counted precounter value 25. Here, the pre-counter unit 208 counts the number of samples in one frame for the input audio signal 24 continuously for five frames of video.

サンプル数予測部２０９は、１フレーム中の音声サンプル数を所定のフレーム分取り込み、取り込んだ音声サンプル数のパターンに基づいて、次のフレームの音声サンプル数を予測する。サンプル数予測部２０９は、所定のフレーム単位で取り込んだプリカウンタ値２５に基づいて次のフレームの音声サンプル数を予測し、予測音声サンプル数２６を出力する。ここでは、サンプル数予測部２０９は、１フレーム中の音声サンプル数を、５回分（５フレーム分）取り込み、次のフレームの音声サンプル数を予測する。 The sample number prediction unit 209 captures the number of audio samples in one frame for a predetermined frame, and predicts the number of audio samples in the next frame based on the acquired audio sample number pattern. The sample number prediction unit 209 predicts the number of audio samples of the next frame based on the pre-counter value 25 captured in a predetermined frame unit, and outputs the predicted number of audio samples 26. Here, the sample number prediction unit 209 captures the number of sound samples in one frame for five times (for five frames), and predicts the number of sound samples in the next frame.

図２は、本実施の形態に係る映像音声処理装置の動作例を示す図である。
映像符号化部２０１は、フレーム周波数２９．９７Ｈｚの入力映像信号２１を受け、１フレーム未満（例えば１０ｍｓ）の符号化遅延で符号化処理して、Ｈ．２６４フォーマットの映像ストリームデータ２２を出力する。また、映像符号化部２０１は、入力映像信号２１のフレーム周期を、映像フレームタイミング信号２３として出力する。 FIG. 2 is a diagram showing an operation example of the video / audio processing apparatus according to the present embodiment.
The video encoding unit 201 receives the input video signal 21 having a frame frequency of 29.97 Hz, performs encoding processing with an encoding delay of less than one frame (for example, 10 ms), and H.264 format video stream data 22 is output. In addition, the video encoding unit 201 outputs the frame period of the input video signal 21 as the video frame timing signal 23.

プリカウンタ部２０８は、映像フレームタイミング信号２３に従って、映像フレーム中の入力音声信号２４のサンプル数をカウントして、直前フレームにおける入力音声信号２４のサンプル数をプリカウンタ値２５として出力する。 The pre-counter unit 208 counts the number of samples of the input audio signal 24 in the video frame according to the video frame timing signal 23 and outputs the number of samples of the input audio signal 24 in the immediately preceding frame as a pre-counter value 25.

サンプル数予測部２０９は、直前の連続５フレームのプリカウンタ値２５を収集し、入力映像信号２１の符号化を開始する場合における、次の映像フレームのサンプル数を予測する（すなわち、現在これから処理すべき映像フレームに対応する、ＡＥＳ３ペイロードデータ２７に含まれる音声サンプル数の予測サンプル数２６を求める）。 The sample number predicting unit 209 collects the pre-counter value 25 of the immediately preceding five frames, and predicts the number of samples of the next video frame when the encoding of the input video signal 21 is started (that is, currently processed from now on). The predicted number of samples 26 of the number of audio samples included in the AES3 payload data 27 corresponding to the video frame to be obtained is obtained).

ここで、予測サンプル数２６の算出方法をより具体的に説明する。
まず、映像信号と音声信号の同期に関して、フレーム周波数２９．９７Ｈｚの映像信号と、サンプリング周波数４８ｋＨｚの音声信号と、が同期している場合には、次に示すように、映像１フレーム中の音声サンプル数には端数が存在することになる。
映像１フレーム中の音声サンプル数
＝（１／２９．９７Ｈｚ）÷（１／４８ｋＨｚ）＝１６０１．６サンプル Here, the calculation method of the predicted sample number 26 will be described more specifically.
First, regarding the synchronization of the video signal and the audio signal, when the video signal having the frame frequency of 29.97 Hz and the audio signal having the sampling frequency of 48 kHz are synchronized, the audio in one frame of the video is shown as follows. There will be a fraction in the number of samples.
Number of audio samples in one frame of video = (1 / 29.97 Hz) ÷ (1/48 kHz) = 1601.6 samples

しかし、次に示すように、映像フレームを５フレーム単位とすることで、音声サンプル数が整数倍となるため、同期関係として扱うことができる。
映像５フレームの音声サンプル数＝８００８サンプル However, as shown below, since the number of audio samples is an integer multiple by setting the video frame to 5 frames, it can be handled as a synchronous relationship.
Number of audio samples for 5 video frames = 8008 samples

そして、映像フレームについて、連続５フレームのうちの各フレームのサンプル数を、整数で切り捨てると、例えば次に示すパターンでサンプル数が取得されることになり、任意の連続５フレームの合計サンプル数は、８００８サンプルになる。
１６０２、１６０１、１６０２、１６０１、１６０２、・・・・(以下繰り返し) Then, if the number of samples of each frame of the continuous five frames is rounded down to an integer for the video frame, for example, the number of samples is acquired with the following pattern, and the total number of samples of any continuous five frames is 8008 samples.
1602, 1601, 1602, 1601, 1602, ... (repeated below)

図３は、各フレームで発生しうる音声サンプル数のパターンと、予測サンプル数と、の関係を例示する表である。図３では、連続５フレームについて、第１フレームから第５フレームそれぞれの音声サンプル数と、次の映像フレームでの予測音声サンプル数２６との関係を表形式で例示している。各パターンと予測サンプル数は映像信号のフレーム周波数と、音声信号のサンプリング周波数の関係から生成される値であり、図３は映像信号のフレーム周波数が２９．９７Ｈｚと音声サンプリング周波数が４８ｋＨｚの場合の関係を表すものである。サンプル数予測部２０９は、取り込んだ音声サンプル数のパターンに基づいて、次のフレームの音声サンプル数を予測する。 FIG. 3 is a table illustrating the relationship between the pattern of the number of audio samples that can occur in each frame and the number of predicted samples. In FIG. 3, the relationship between the number of audio samples in each of the first to fifth frames and the predicted number of audio samples 26 in the next video frame is illustrated in tabular form for five consecutive frames. Each pattern and the number of predicted samples are values generated from the relationship between the frame frequency of the video signal and the sampling frequency of the audio signal. FIG. 3 shows the case where the frame frequency of the video signal is 29.97 Hz and the audio sampling frequency is 48 kHz. It represents a relationship. The sample number predicting unit 209 predicts the number of audio samples of the next frame based on the captured audio sample number pattern.

図２に戻って説明を続ける。
ＡＥＳ３ヘッダー生成部２０５は、サンプル数予測部２０９が予測した音声サンプル数２６と、入力音声信号２４のステータス情報と、に基づいて、現在の映像フレームにおいて生成されるＡＥＳ３ペイロードサイズを計算し、計算したＡＥＳ３ペイロードサイズを含むＳＭＰＴＥ３０２Ｍ規格のＡＥＳ３ヘッダー２９を生成する。 Returning to FIG. 2, the description will be continued.
The AES3 header generation unit 205 calculates the AES3 payload size generated in the current video frame based on the audio sample number 26 predicted by the sample number prediction unit 209 and the status information of the input audio signal 24. The AES3 header 29 of the SMPTE 302M standard including the AES3 payload size is generated.

ＰＥＳヘッダー生成部２０３は、入力映像信号２１について符号化を開始する場合に、映像フレームの開始タイミングで、ＳＭＰＴＥ３０２Ｍ規格のＰＥＳヘッダー２８を生成する。 The PES header generation unit 203 generates the SMPTE 302M standard PES header 28 at the start timing of the video frame when encoding of the input video signal 21 is started.

ＡＥＳ３ペイロード生成部２０４は、入力音声信号２４から、音声データワード、バリディティビット、ユーザービット、チャンネルステータスビット、およびＺフラグを抽出して、ＳＭＰＴＥ３０２Ｍ規格のＡＥＳ３ペイロードデータ２７を生成する。 The AES3 payload generation unit 204 extracts an audio data word, a validity bit, a user bit, a channel status bit, and a Z flag from the input audio signal 24, and generates AES3 payload data 27 of the SMPTE302M standard.

音声ストリームデータ生成部２０６は、ＰＥＳヘッダー２８、ＡＥＳ３ヘッダー２９、ＡＥＳ３ペイロードデータ２７を受け、ＰＥＳヘッダー２８、ＡＥＳ３ヘッダー２９、ＡＥＳ３ペイロードデータ２７の順に、ＭＰＥＧ−２ＰＥＳパケット形式の非圧縮の音声ストリームデータ３０を出力する。 The audio stream data generation unit 206 receives the PES header 28, the AES3 header 29, and the AES3 payload data 27. Data 30 is output.

遅延メモリ２０７は、映像ストリームデータ２２の符号化遅延と同じ遅延になるように音声ストリームデータ３０を調整して、音声ストリームデータ３１として出力する。例えば、映像符号化遅延が１０ｍｓ、音声ストリームデータ３０の遅延が４ｍｓである場合、遅延メモリ２０７を用いて６ｍｓの遅延を付加して、１０ｍｓ遅延の音声ストリームデータ３１を出力する。 The delay memory 207 adjusts the audio stream data 30 so as to have the same delay as the encoding delay of the video stream data 22 and outputs it as the audio stream data 31. For example, when the video encoding delay is 10 ms and the delay of the audio stream data 30 is 4 ms, a delay of 6 ms is added using the delay memory 207 and the audio stream data 31 having a 10 ms delay is output.

映像ストリームデータ・音声ストリームデータ多重化部２０２は、映像ストリームデータ２２と音声ストリームデータ３１を、ＴＳパケットサイズにそれぞれ分割して多重化を行い、ＭＰＥＧ−２ＴＳストリーム形式のＭＰＥＧ−２ＴＳストリームデータ３２として出力する。 The video stream data / audio stream data multiplexing unit 202 multiplexes the video stream data 22 and the audio stream data 31 by dividing the video stream data 22 and the audio stream data 31 into TS packet sizes, respectively, and MPEG-2 TS stream data 32 in the MPEG-2 TS stream format. Output as.

以上説明したように、本実施の形態によれば、ＳＭＰＴＥ３０２Ｍ規格に準拠した非圧縮の音声ストリームに関して、非圧縮の音声ストリームのＰＥＳパケット生成におけるＡＥＳ３ペイロードサイズを、映像フレームの前方５フレーム期間の音声サンプル数と、サンプル数の出現パターンと、に基づいて推測して、この推測したＡＥＳ３ペイロードサイズに基づいて、ＰＥＳ化フレームの開始時点においてＡＥＳ３ヘッダーを生成することで、音声ストリームの符号化遅延の短縮化を図ることができる。 As described above, according to the present embodiment, with respect to an uncompressed audio stream compliant with the SMPTE 302M standard, the AES3 payload size in the PES packet generation of the uncompressed audio stream is set to the audio for the 5 frame periods ahead of the video frame. By estimating based on the number of samples and the appearance pattern of the number of samples and generating an AES3 header at the start of the PES frame based on the estimated AES3 payload size, the encoding delay of the audio stream can be reduced. Shortening can be achieved.

映像符号化の圧縮方式としてＨ．２６４を使用する場合には、符号化遅延に関して、これまでのＭＰＥＧ−２と同等に符号化遅延を数百ｍｓ（例えば３００ｍｓから１秒）で行う方法の他に、符号化遅延を１フレーム未満（例えば１０ｍｓ）の低遅延符号化とすることが可能である。しかし、音声の符号化遅延に１フレームを要した場合には、受信機側で音声の再生が映像の再生より遅れてしまうことになり、映像と音声のリップシンクにずれが生じる。そこで、本実施の形態では、低遅延での映像符号化部と、音声の符号化遅延を映像の符号化遅延よりも短くし、かつ、遅延メモリを用いて映像符号化の遅延に合わせた調整を可能とする音声符号化回路と、を組み合わせた装置として実現することで、映像と音声のリップシンクにずれが生じない、低遅延符号化装置を実現することができる。 As a video encoding compression method, H.264 is used. When H.264 is used, the encoding delay is less than one frame in addition to the encoding delay of several hundred ms (for example, 300 ms to 1 second) equivalent to the conventional MPEG-2. Low-delay encoding (for example, 10 ms) is possible. However, when one frame is required for the audio encoding delay, the audio reproduction on the receiver side is delayed from the video reproduction, and a deviation occurs between the video and audio lip sync. Therefore, in the present embodiment, the video encoding unit with low delay and the audio encoding delay are made shorter than the video encoding delay, and the delay memory is used to adjust the video encoding delay. By implementing this as a device that combines an audio encoding circuit that enables the above, it is possible to realize a low-delay encoding device that does not cause a shift in lip sync between video and audio.

実施の形態２．
上述した実施の形態１と比較して、本実施の形態にかかる映像音声処理装置は、映像フレーム中の入力音声信号の異常を検出した場合に、異常に対する処置を可能とするものである。上述した実施の形態１と比較して、本実施の形態では、音声入力監視部およびＭＵＴＥ回路を更に備えることを特徴する。なお、その他の基本的な構成は実施の形態１と同じであるため、以下では、相違点を中心に説明し、共通点についてはその詳細な説明を省略する。 Embodiment 2. FIG.
Compared to the first embodiment described above, the video / audio processing apparatus according to the present embodiment enables a measure for an abnormality when an abnormality of the input audio signal in the video frame is detected. Compared with the first embodiment described above, this embodiment is characterized by further including a voice input monitoring unit and a MUTE circuit. Since the other basic configuration is the same as that of the first embodiment, the following description will focus on the differences, and the detailed description of common points will be omitted.

図４は、本実施の形態に係る映像音声処理装置の構成図である。図４に示す映像音声処理装置は、フレーム周波数２９．９７Ｈｚの映像信号と、映像信号に同期したサンプリング周波数４８ｋＨｚの音声信号と、が入力されて、Ｈ．２６４フォーマットで映像信号の低遅延符号化を行い、ＳＭＰＴＥ３０２Ｍ形式のＰＥＳデータに音声信号の非圧縮符号化を行う回路の例である。 FIG. 4 is a block diagram of the video / audio processing apparatus according to the present embodiment. 4 receives a video signal having a frame frequency of 29.97 Hz and an audio signal having a sampling frequency of 48 kHz synchronized with the video signal. This is an example of a circuit that performs low-delay encoding of a video signal in the H.264 format and performs non-compression encoding of an audio signal on PES data in the SMPTE 302M format.

図４に示す様に、映像音声処理装置は、映像符号化部３０１と、映像ストリームデータ・音声ストリームデータ多重化部３０２と、ＰＥＳヘッダー生成部３０３と、ＡＥＳ３ペイロード生成部３０４と、ＡＥＳ３ヘッダー生成部３０５と、非圧縮音声ストリームデータ生成部３０６と、遅延メモリ３０７と、プリカウンタ部３０８と、サンプル数予測部３０９と、音声入力監視部３１０と、ＭＵＴＥ回路３１１と、を備えている。 As shown in FIG. 4, the video / audio processing apparatus includes a video encoding unit 301, a video stream data / audio stream data multiplexing unit 302, a PES header generation unit 303, an AES3 payload generation unit 304, and an AES3 header generation. Unit 305, uncompressed audio stream data generation unit 306, delay memory 307, precounter unit 308, sample number prediction unit 309, audio input monitoring unit 310, and MUTE circuit 311.

映像符号化部３０１は、入力映像信号４１を、Ｈ．２６４フォーマットに従って、入力映像信号４１を、映像ストリームデータ４２に低遅延で圧縮符号化する。また、映像符号化部３０１は、入力映像信号４１のフレーム周期に基づいて、映像フレームタイミング信号４３を出力する。 The video encoding unit 301 converts the input video signal 41 into H.264. In accordance with the H.264 format, the input video signal 41 is compressed and encoded into the video stream data 42 with low delay. Also, the video encoding unit 301 outputs a video frame timing signal 43 based on the frame period of the input video signal 41.

映像ストリームデータ・音声ストリームデータ多重化部３０２は、入力される映像ストリームデータ４２と音声ストリームデータ５１を、ＭＰＥＧ２−ＴＳフォーマットに多重化する。 The video stream data / audio stream data multiplexing unit 302 multiplexes the input video stream data 42 and audio stream data 51 into the MPEG2-TS format.

ＰＥＳヘッダー生成部３０３は、映像信号のフレーム単位で、音声ストリームデータのＳＭＰＴＥ３０２Ｍ規格のＰＥＳヘッダー４８を生成する。 The PES header generation unit 303 generates the SMPTE 302M standard PES header 48 of the audio stream data for each frame of the video signal.

ＡＥＳ３ペイロード生成部３０４は、入力音声信号４４から、音声データワード、バリディティビット、ユーザービット、チャンネルステータスビット、およびＺフラグを抽出して、ＳＭＰＴＥ３０２Ｍ規格のＡＥＳ３ペイロードデータ４７を生成する。 The AES3 payload generation unit 304 extracts an audio data word, a validity bit, a user bit, a channel status bit, and a Z flag from the input audio signal 44, and generates AES3 payload data 47 of the SMPTE 302M standard.

ＡＥＳ３ヘッダー生成部３０５は、入力音声信号４４のステータス情報と、映像１フレーム中の音声サンプル数４６と、に基づいてＡＥＳ３ペイロードサイズを計算し、計算したペイロードサイズを含むＡＥＳ３ヘッダー４９を生成する。 The AES3 header generation unit 305 calculates the AES3 payload size based on the status information of the input audio signal 44 and the number of audio samples 46 in one video frame, and generates an AES3 header 49 including the calculated payload size.

非圧縮音声ストリームデータ生成部３０６は、ＰＥＳヘッダー生成部３０３で生成したＰＥＳヘッダー４８と、ＡＥＳ３ペイロード生成部３０４で生成したＡＥＳ３ヘッダー４９と、ＡＥＳ３ヘッダー生成部３０５で生成したＡＥＳ３ペイロードデータ４７と、が入力されて、ＰＥＳヘッダー４８、ＡＥＳ３ヘッダー４９、ＡＥＳ３ペイロードデータ４７の順で選択し、非圧縮の音声ストリームデータ５０として出力する。ここで、音声ストリームデータ５０は、ＳＭＰＴＥ３０２Ｍ規格で定められるＭＰＥＧ−２ＰＥＳパケットの形式である。 The uncompressed audio stream data generation unit 306 includes a PES header 48 generated by the PES header generation unit 303, an AES3 header 49 generated by the AES3 payload generation unit 304, AES3 payload data 47 generated by the AES3 header generation unit 305, Are selected in the order of PES header 48, AES3 header 49, and AES3 payload data 47, and output as uncompressed audio stream data 50. Here, the audio stream data 50 is in the format of an MPEG-2 PES packet defined by the SMPTE 302M standard.

遅延メモリ３０７は、入力される音声ストリームデータ５０を一時的に保持し、映像ストリームデータ４２の符号化遅延に合わせて遅延調整する。 The delay memory 307 temporarily holds the input audio stream data 50 and adjusts the delay according to the encoding delay of the video stream data 42.

プリカウンタ部３０８は、入力音声信号３４について、１フレーム中のサンプル数を、所定のフレーム分連続でカウントする。プリカウンタ部３０８は、入力される映像フレームタイミング信号４３に基づいて、映像信号のフレームのタイミングで、直前フレームで入力音声信号３４のサンプル数をカウントし、カウントしたプリカウンタ値４５を出力する。ここでは、プリカウンタ部３０８は、入力音声信号４４について、１フレーム中のサンプル数を、映像５フレーム分連続でカウントする。 The pre-counter unit 308 continuously counts the number of samples in one frame for the input audio signal 34 for a predetermined number of frames. Based on the input video frame timing signal 43, the precounter unit 308 counts the number of samples of the input audio signal 34 in the immediately preceding frame at the frame timing of the video signal, and outputs the counted precounter value 45. Here, the pre-counter unit 308 continuously counts the number of samples in one frame for five frames of the input audio signal 44.

サンプル数予測部３０９は、１フレーム中の音声サンプル数を所定のフレーム分取り込み、次のフレームの音声サンプル数を予測する。サンプル数予測部３０９は、プリカウンタ値４５に基づいて次のフレームの音声サンプル数を予測し、予測音声サンプル数４６を出力する。ここでは、サンプル数予測部３０９は、１フレーム中の音声サンプル数を、５回分（５フレーム分）取り込み、次のフレームの音声サンプル数を予測する。 The sample number prediction unit 309 captures a predetermined number of audio samples in one frame and predicts the number of audio samples in the next frame. The sample number prediction unit 309 predicts the number of audio samples of the next frame based on the precounter value 45, and outputs a predicted audio sample number 46. Here, the sample number prediction unit 309 captures the number of audio samples in one frame for five times (5 frames), and predicts the number of audio samples in the next frame.

音声入力監視部３１０は、映像フレーム中の入力音声信号４４の異常を検出し、異常を検出した場合には、次の映像フレームまでの間、アラーム信号５３を出力し続ける。音声入力監視部３１０は、入力音声信号４４を監視し、入力音声信号４４が不連続であるとの異常を検出した場合には、次の映像フレームまでの間異常であるとの判定を継続し、アラーム信号５３を出力し続ける。 The audio input monitoring unit 310 detects an abnormality of the input audio signal 44 in the video frame, and when detecting the abnormality, continues to output the alarm signal 53 until the next video frame. The audio input monitoring unit 310 monitors the input audio signal 44, and if it detects an abnormality that the input audio signal 44 is discontinuous, it continues to determine that it is abnormal until the next video frame. The alarm signal 53 is continuously output.

ＭＵＴＥ回路３１１は、アラーム信号５３を受けている間、ＡＥＳ３ペイロードデータ４７をダミーデータに置き換える。ＭＵＴＥ回路３１１は、ＡＥＳ３ペイロードデータ４７に関して、アラーム信号５３によりアラームが発生したタイミングから、そのタイミングのＡＥＳ３ペイロードデータ４７の最後のデータまでを、ダミーデータ（例えば'０'データ）に置き換え、異常パケットを出力しないように処置する。 While receiving the alarm signal 53, the MUTE circuit 311 replaces the AES3 payload data 47 with dummy data. The MUTE circuit 311 replaces the AES3 payload data 47 from the timing when the alarm is generated by the alarm signal 53 to the last data of the AES3 payload data 47 at that timing with dummy data (for example, “0” data), and the abnormal packet To prevent output.

本実施の形態によれば、音声入力監視部３１０およびＭＵＴＥ回路３１１を更に備えることで、入力音声信号４４に異常を検出した場合には、異常パケットを出力しないように処置することが可能となる。 According to the present embodiment, by further including the voice input monitoring unit 310 and the MUTE circuit 311, when an abnormality is detected in the input voice signal 44, it is possible to take a measure not to output an abnormal packet. .

なお、本発明は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。 Note that the present invention is not limited to the above-described embodiment, and can be changed as appropriate without departing from the spirit of the present invention.

２０１、３０１、５０１映像符号化部、
２０２、３０２、５０２映像ストリームデータ・音声ストリームデータ多重化部、
２０３、３０３ＰＥＳヘッダー生成部、
２０４、３０４ＡＥＳ３ペイロード生成部、
２０５、３０５ＡＥＳ３ヘッダー生成部、
２０６、３０６非圧縮音声ストリームデータ生成部、
２０７、３０７遅延メモリ、
２０８、３０８プリカウンタ部、
２０９、３０９サンプル数予測部、
３１０音声入力監視部、
３１１ＭＵＴＥ回路、
５０３音声処理部、
６０１映像パケットのヘッダーを生成する手段、
６０２音声サンプル数をカウントする手段、
６０３音声サンプルを予測する手段、
６０４音声パケットのヘッダーを生成する手段、
６０５音声のデジタルデータに変換する手段、

２１、４１入力映像信号、
２２、４２映像ストリームデータ、
２３、４３映像フレームタイミング信号、
２４、４４入力音声信号、
２５、４５プリカウンタ値、
２６、４６予測音声サンプル数、
２７、４７ＡＥＳ３ペイロードデータ、
２８、４８ＰＥＳヘッダー、
２９、４９ＡＥＳ３ヘッダー、
３０、５０音声ストリームデータ、
３１、５１音声ストリームデータ、
３２、５２ＭＰＥＧ−２ＴＳストリームデータ、
５３アラーム信号、 201, 301, 501 video encoding unit,
202, 302, 502 Video stream data / audio stream data multiplexing unit,
203, 303 PES header generator,
204, 304 AES3 payload generator,
205, 305 AES3 header generator,
206, 306 Uncompressed audio stream data generation unit,
207, 307 delay memory,
208, 308 pre-counter section,
209, 309 Sample number prediction unit,
310 voice input monitoring unit,
311 MUTE circuit,
503 voice processing unit,
601 means for generating a video packet header;
602, means for counting the number of audio samples,
603 means for predicting speech samples;
604 means for generating a voice packet header;
605 means for converting to audio digital data;

21, 41 Input video signal,
22, 42 Video stream data,
23, 43 Video frame timing signal,
24, 44 Input audio signal,
25, 45 Precounter value,
26, 46 The number of predicted speech samples,
27, 47 AES3 payload data,
28, 48 PES header,
29, 49 AES3 header,
30, 50 audio stream data,
31, 51 Audio stream data,
32, 52 MPEG-2 TS stream data,
53 Alarm signal,

Claims

A video encoding unit that compresses and encodes an input video signal with low delay according to a predetermined format and outputs video stream data;
When encoding of the input video signal is started, a video packet header, an audio packet header, and an audio packet based on the input video signal and the input audio signal at the timing of the first frame of the input video signal. An audio processing unit that generates audio stream data including the digitized data, and outputs the generated audio stream data with a delay to match the timing of the video stream data;
A video stream data / audio stream data multiplexing unit that multiplexes and outputs the video stream data and the audio stream data according to a predetermined format;
The voice processing unit
Means for generating a header of the video packet based on the input video signal;
Means for counting the number of audio samples of the input audio signal in a predetermined frame unit before encoding of the input video signal;
Means for predicting the number of audio samples of a frame when starting to encode the input video signal based on the pattern of the counted number of audio samples;
Calculate size information of the audio digitized data based on the information recorded in the channel status bits included in the input audio signal and the predicted number of audio samples, and the audio packet including the calculated size information A means of generating a header;
Means for converting the input audio signal into digitized audio data;
A video / audio processing apparatus comprising:

The voice processing unit
Means for continuously outputting an alarm signal until the next video frame of the next input video signal when an abnormality of the input audio signal is detected;
The video / audio processing apparatus according to claim 1, further comprising: a unit that replaces the digitized data of the audio with dummy data and outputs the data while receiving the alarm signal.

The voice processing unit
The video / audio processing apparatus according to claim 1, further comprising a delay memory that delays and outputs the audio stream data so as to match the timing of the video stream data.

A video encoding unit that compresses and encodes an input video signal with low delay according to a predetermined format and outputs video stream data;
When encoding of the input video signal is started, a video packet header, an audio packet header, and an audio packet based on the input video signal and the input audio signal at the timing of the first frame of the input video signal. An audio processing unit that generates audio stream data including the digitized data, and outputs the generated audio stream data with a delay to match the timing of the video stream data;
A video / audio processing method in a video / audio processing apparatus comprising: a video stream data / audio stream data multiplexing unit that multiplexes and outputs the video stream data and the audio stream data according to a predetermined format,
Generating a header of the video packet based on the input video signal;
Counting the number of audio samples of the input audio signal in a predetermined frame unit before starting encoding of the input video signal;
Predicting the number of audio samples of a frame when starting to encode the input video signal based on the pattern of the counted number of audio samples;
Calculate size information of the audio digitized data based on the information recorded in the channel status bits included in the input audio signal and the predicted number of audio samples, and the audio packet including the calculated size information Generating a header;
Converting the input audio signal into digitized audio data;
An audio / video processing method including:

Continuing to output an alarm signal until the next video frame of the next input video signal when an abnormality of the input audio signal is detected;
While receiving the alarm signal, replacing the voice digitized data with dummy data and outputting,
The video / audio processing method according to claim 4, further comprising:

The video / audio processing method according to claim 4, further comprising a step of using a delay memory to delay and output the audio stream data so as to match the timing of the video stream data.