Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7560969B2 - Video input device, video output device, video transmission system and program - Google Patents
[go: Go Back, main page]

JP7560969B2 - Video input device, video output device, video transmission system and program - Google Patents

Video input device, video output device, video transmission system and program Download PDF

Info

Publication number
JP7560969B2
JP7560969B2 JP2020104865A JP2020104865A JP7560969B2 JP 7560969 B2 JP7560969 B2 JP 7560969B2 JP 2020104865 A JP2020104865 A JP 2020104865A JP 2020104865 A JP2020104865 A JP 2020104865A JP 7560969 B2 JP7560969 B2 JP 7560969B2
Authority
JP
Japan
Prior art keywords
video
image
pixels
divided
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020104865A
Other languages
Japanese (ja)
Other versions
JP2021197700A (en
Inventor
貴弘 佐藤
史人 伊藤
史弥 山岸
直彦 居相
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Broadcasting Corp filed Critical Japan Broadcasting Corp
Priority to JP2020104865A priority Critical patent/JP7560969B2/en
Publication of JP2021197700A publication Critical patent/JP2021197700A/en
Application granted granted Critical
Publication of JP7560969B2 publication Critical patent/JP7560969B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、映像入力装置、映像出力装置、映像伝送システムおよびプログラムに関する。 The present invention relates to a video input device, a video output device, a video transmission system, and a program.

7680画素×4320画素からなる8K映像の衛星放送が開始され、臨場感あふれる超高精細映像を家庭でも楽しめるようになっている。8K映像の番組のさらなる拡充のためには、番組制作設備の8K化の必要があり、そのような番組制作設備の1つとして、撮像した映像を無線伝送するワイヤレスカメラがある。 Satellite broadcasting of 8K video, consisting of 7680 x 4320 pixels, has begun, making it possible to enjoy immersive, ultra-high definition video at home. To further expand 8K video programs, it is necessary to upgrade program production equipment to 8K, and one such program production equipment is a wireless camera that wirelessly transmits captured video.

ワイヤレスカメラで撮像された映像を伝送するには、無線信号の伝送帯域に制限があるため、HEVC(High Efficiency Video Coding)などの映像圧縮技術を用いたコーデックを用いるのが一般的である。送信側では、エンコーダにより圧縮された映像信号(TS(Transport Stream)信号)を伝送し、受信側では、デコーダにより元の映像を復元する。しかしながら、8K映像を圧縮するコーデックは、市場で入手可能な製品がほとんど存在せず、存在したとしても、非常に大型で高価である。一方、4K映像のコーデックは、複数の製品が存在し、小型で比較的安価な製品が入手できるようになっている。 When transmitting video captured by a wireless camera, due to limitations on the transmission bandwidth of wireless signals, it is common to use a codec that uses video compression technology such as HEVC (High Efficiency Video Coding). On the sending side, a compressed video signal (TS (Transport Stream) signal) is transmitted by an encoder, and on the receiving side, the original video is restored by a decoder. However, there are almost no codec products available on the market that compress 8K video, and even if there are, they are very large and expensive. On the other hand, there are multiple codec products for 4K video, and small, relatively inexpensive products are now available.

そこで、送信側では、8K映像を3840画素×2160画素からなる4つの4K映像に分割し、4つの4K映像それぞれを4つのエンコーダで圧縮して伝送し、受信側では、4つのデコーダで元の8K映像を復元する映像伝送システムが検討されている(例えば、特許文献1および非特許文献1参照)。8K映像のインタフェースとして、12G-SDI(Serial Digital Interface)ケーブル4本を用いることが知られている。12G-SDIケーブルで伝送される信号は4K信号であるので、上述した映像伝送システムへの適用に適している。 A video transmission system has been developed in which, on the transmitting side, 8K video is divided into four 4K videos of 3840 pixels x 2160 pixels, each of which is compressed and transmitted by four encoders, and on the receiving side, the original 8K video is restored by four decoders (see, for example, Patent Document 1 and Non-Patent Document 1). It is known to use four 12G-SDI (Serial Digital Interface) cables as an interface for 8K video. The signal transmitted by the 12G-SDI cables is a 4K signal, so it is suitable for application to the above-mentioned video transmission system.

特開2019-97076号公報JP 2019-97076 A

兼六館出版 放送技術2019年10月号Kenrokukan Publishing Broadcasting Technology October 2019 issue

上述した8K映像を4つの4K映像に分割して伝送する映像伝送システムについて、より詳細に説明する。 The following describes in more detail the video transmission system that splits the above-mentioned 8K video into four 4K videos for transmission.

図14は、8K映像を4つの4K映像に分割して伝送する映像伝送システム1Aにおける、映像を伝送する送信側の構成例を示す図である。 Figure 14 shows an example of the configuration of the transmitting side that transmits video in a video transmission system 1A that divides an 8K video into four 4K videos and transmits them.

図14に示すように、映像伝送システム1Aにおける送信側は、8Kカメラ2と、4つの4Kエンコーダ3(4Kエンコーダ3a~3d)と、TS信号多重器4と、送信機5とを備える。 As shown in FIG. 14, the transmitting side of the video transmission system 1A includes an 8K camera 2, four 4K encoders 3 (4K encoders 3a to 3d), a TS signal multiplexer 4, and a transmitter 5.

8Kカメラ2は、8K映像を撮像し、図15に示すように、撮像した8K映像を垂直方向と水平方向とにそれぞれ2等分して(田の字状に分割して)、放送用4Kフォーマット(3840画素×2160画素)の4つの4K映像a~dを生成する。図14を再び参照すると、8Kカメラ2は、4つの4K映像a~dをそれぞれ、対応する4Kエンコーダ3a~3dに出力する。つまり、8Kカメラ2は、4K映像aを対応する4Kエンコーダ3aに出力し、4K映像bを対応する4Kエンコーダ3bに出力し、4K映像cを対応する4Kエンコーダ3cに出力し、4K映像dを対応する4Kエンコーダ3dに出力する。 The 8K camera 2 captures 8K video and, as shown in FIG. 15, divides the captured 8K video vertically and horizontally in half (in a cross-shaped pattern) to generate four 4K videos a-d in the 4K broadcast format (3840 pixels x 2160 pixels). Referring again to FIG. 14, the 8K camera 2 outputs the four 4K videos a-d to the corresponding 4K encoders 3a-3d, respectively. That is, the 8K camera 2 outputs 4K video a to the corresponding 4K encoder 3a, outputs 4K video b to the corresponding 4K encoder 3b, outputs 4K video c to the corresponding 4K encoder 3c, and outputs 4K video d to the corresponding 4K encoder 3d.

4Kエンコーダ3は、放送用4Kフォーマットの4K映像をエンコード(圧縮)するエンコーダである。4Kエンコーダ3は、8Kカメラ2から入力された、対応する4K映像をエンコードしてTS信号を生成し、TS信号多重器4に出力する。 The 4K encoder 3 is an encoder that encodes (compresses) 4K video in the 4K broadcast format. The 4K encoder 3 encodes the corresponding 4K video input from the 8K camera 2 to generate a TS signal, which it outputs to the TS signal multiplexer 4.

TS信号多重器4は、4Kエンコーダ3a~3dそれぞれから出力されたTS信号を1つのTS信号に多重し、送信機5に出力する。 The TS signal multiplexer 4 multiplexes the TS signals output from each of the 4K encoders 3a to 3d into one TS signal and outputs it to the transmitter 5.

送信機5は、TS信号多重器4から出力されたTS信号を伝送する。 The transmitter 5 transmits the TS signal output from the TS signal multiplexer 4.

次に、上述した映像伝送システム1Aにおける、伝送された映像を受信する受信側の構成について説明する。図16は、映像伝送システム1Aにおける受信側の構成例を示す図である。 Next, we will explain the configuration of the receiving side that receives the transmitted video in the above-mentioned video transmission system 1A. Figure 16 is a diagram showing an example of the configuration of the receiving side in the video transmission system 1A.

図16に示すように、映像伝送システム1Aにおける受信側は、受信機6と、TS信号分離器7と、4つの4Kデコーダ8(4Kデコーダ8a~8d)と、表示器9とを備える。 As shown in FIG. 16, the receiving side of the video transmission system 1A includes a receiver 6, a TS signal separator 7, four 4K decoders 8 (4K decoders 8a to 8d), and a display 9.

受信機6は、送信機5から送信されてきたTS信号を受信し、TS信号分離器7に出力する。 The receiver 6 receives the TS signal transmitted from the transmitter 5 and outputs it to the TS signal separator 7.

TS信号分離器7は、受信機6から出力されたTS信号を、TS信号多重器4により多重される前の4つのTS信号に分離し、分離した4つのTS信号をそれぞれ、4Kデコーダ8a~8dに出力する。 The TS signal separator 7 separates the TS signal output from the receiver 6 into four TS signals that were not multiplexed by the TS signal multiplexer 4, and outputs each of the four separated TS signals to the 4K decoders 8a to 8d.

4Kデコーダ8は、TS信号分離器7から出力されたTS信号をデコード(復元)して元の放送用4Kフォーマットの4K映像を生成し、表示器9に出力する。 The 4K decoder 8 decodes (restores) the TS signal output from the TS signal separator 7 to generate 4K video in the original 4K broadcast format, and outputs it to the display 9.

表示器9は、4Kデコーダ8a~8dそれぞれから出力された4K映像を統合して元の8K映像を表示する。 The display 9 combines the 4K images output from each of the 4K decoders 8a to 8d to display the original 8K image.

上述した映像伝送システム1Aにおいては、8K映像を空間的に分割した4つの4K映像を、4Kエンコーダ3a~3dがそれぞれ独立に圧縮し、4Kデコーダ8a~8dがそれぞれ独立に復元するため、4つの4K映像の画質に差が現れることがある。このような場合、分割した映像を受信側において統合すると、図15に示すように、4K映像が隣り合う部分に画質の差による境界線が現われ、受信側における8K映像の品質劣化を招いてしまう。 In the above-mentioned video transmission system 1A, the 4K encoders 3a to 3d compress the four 4K videos obtained by spatially dividing the 8K video independently, and the 4K decoders 8a to 8d restore the four 4K videos independently, which can result in differences in image quality between the four 4K videos. In such a case, when the divided videos are integrated on the receiving side, as shown in FIG. 15, a boundary line due to the difference in image quality appears between adjacent 4K videos, resulting in a deterioration in the quality of the 8K video on the receiving side.

受信側における8K映像の品質を向上させるためには、上述した境界線が目立たないようにすることが望ましい。境界線が目立たないようにするために、4K映像a~dを拡大し、図17に示すように、隣り合う4K映像同士で一部を重複させる方法が考えられる。 To improve the quality of the 8K video on the receiving side, it is desirable to make the above-mentioned boundary lines less noticeable. In order to make the boundary lines less noticeable, one possible method is to enlarge the 4K videos a to d and have adjacent 4K videos partially overlap each other, as shown in Figure 17.

4K映像を拡大して、隣り合う4K映像同士を重複させるためには、放送用4Kフォーマットよりも広い解像度に対応するコーデックが必要となる。4K映像のエンコーダとして、シネマ用4Kフォーマット(4096画素×2160画素)の4K映像をエンコードするコーデックがある。このコーデックを用いることで、4K映像を水平方向に拡大することができる。4K映像を水平方向に拡大して隣り合う4K映像同士を重複させることで、垂直方向に生じる境界線を目立たなくすることができる。一方、垂直方向の解像度を2160画素以上に拡大した4Kコーデックは現状では入手困難であるため、垂直方向に4K映像を拡大することは困難である。そのため、映像を分割して伝送する際に、水平方向に生じる境界線の発生を抑制することはできなかった。 In order to enlarge 4K video and overlap adjacent 4K videos, a codec that supports a wider resolution than the 4K broadcast format is required. As a 4K video encoder, there is a codec that encodes 4K video in the 4K cinema format (4096 pixels x 2160 pixels). By using this codec, 4K video can be enlarged in the horizontal direction. By enlarging 4K video horizontally and overlapping adjacent 4K videos, the vertical boundary lines can be made less noticeable. On the other hand, 4K codecs that enlarge the vertical resolution to 2160 pixels or more are currently difficult to obtain, so it is difficult to enlarge 4K video vertically. Therefore, it has not been possible to suppress the occurrence of horizontal boundary lines when dividing and transmitting video.

本発明の目的は、上述した課題を解決し、送信側において映像を分割して伝送し、受信側において分割された映像を統合する場合に、隣り合う映像間の境界線の発生を抑制することができる映像入力装置、映像出力装置、映像伝送システムおよびプログラムを提供することにある。 The object of the present invention is to provide a video input device, a video output device, a video transmission system, and a program that can solve the above-mentioned problems and suppress the occurrence of borders between adjacent images when a video is divided and transmitted on the transmitting side and the divided images are integrated on the receiving side.

上記課題を解決するため、本発明に係る映像入力装置は、入力映像を4つの分割映像に分割し、前記4つの分割映像のそれぞれに対応する第1から第4のエンコーダに前記4つの分割映像を入力する映像入力装置であって、前記第1から第3のエンコーダは、垂直方向に前記入力映像の垂直方向の画素数の半分の画素数を有し、水平方向に前記入力映像の水平方向の画素の半分よりも大きい画素数を有する映像をエンコード処理可能であり、前記第4のエンコーダは、垂直方向に前記入力映像の垂直方向の画素数の半分の画素数を有し、水平方向に前記入力映像の水平方向の画素数の半分以上の画素数を有する映像をエンコード処理可能であり、前記入力映像を、垂直方向と水平方向とにそれぞれ2分割して、前記4つの分割映像が垂直方向と水平方向とにそれぞれ2つずつ並ぶように分割する分割部と、前記分割映像を対応するエンコーダがエンコード処理可能な映像の画素数に合わせて整形して、前記対応するエンコーダに入力する整形部と、を備え、前記分割部は、隣り合う分割映像同士がそれぞれ、一部が重複し、かつ、前記4つの分割映像のうち、少なくとも一部の分割映像について、水平方向の画素数が対応するエンコーダがエンコード処理可能な映像の水平方向の画素数よりも小さく、垂直方向の画素数が対応するエンコーダがエンコード処理可能な映像の垂直方向の画素数よりも大きくなるように、前記入力映像を分割し、前記整形部は、前記4つの分割映像それぞれの、対応するエンコーダがエンコード処理可能な映像から垂直方向にはみ出すはみ出し領域の映像が、前記第1から第4のエンコーダがエンコード処理可能な映像のうち、対応する分割映像が割り当てられていない未割当領域に割り当てられるように、前記4つの分割映像の一部を整形する。 In order to solve the above problem, the video input device of the present invention is a video input device that divides an input video into four divided videos and inputs the four divided videos to first to fourth encoders corresponding to the four divided videos, the first to third encoders being capable of encoding video having half the number of pixels in the vertical direction of the input video and a number of pixels greater than half the number of pixels in the horizontal direction of the input video, the fourth encoder being capable of encoding video having half the number of pixels in the vertical direction of the input video and a number of pixels greater than half the number of pixels in the horizontal direction of the input video, the input video being divided into two in the vertical direction and the horizontal direction, the four divided videos being arranged two by two in each direction, and the divided videos being input to the corresponding encoders. and a shaping unit that shapes the input video to match the number of pixels of the video that can be encoded by the corresponding encoder and inputs the video to the corresponding encoder, the division unit divides the input video so that adjacent divided videos overlap each other and at least some of the four divided videos have a smaller number of pixels in the horizontal direction than the number of pixels in the horizontal direction of the video that can be encoded by the corresponding encoder and a larger number of pixels in the vertical direction than the number of pixels in the vertical direction of the video that can be encoded by the corresponding encoder, and the shaping unit shapes a portion of the four divided videos so that an image in an overflow area that extends vertically beyond the image that can be encoded by the corresponding encoder is assigned to an unallocated area of the video that can be encoded by the first to fourth encoders to which the corresponding divided video is not assigned.

また、本発明に係る映像入力装置において、前記整形部は、前記分割映像の前記はみ出し領域の映像を前記未割当領域に割り当てる場合、前記分割映像の垂直方向の両端部のうち、前記分割映像と垂直方向に並ぶ分割映像から遠い端部側の映像を前記未割当領域に割り当てることが好ましい。 In addition, in the video input device according to the present invention, when the shaping unit assigns the image of the overflow area of the split image to the unallocated area, it is preferable that, of both vertical ends of the split image, the image on the end side farthest from the split image that is vertically aligned with the split image is assigned to the unallocated area.

また、本発明に係る映像入力装置において、前記整形部は、前記分割映像に対応するエンコーダがエンコード処理可能な映像における前記未割当領域に、前記分割映像のはみ出し領域の映像を割り当てることが好ましい。 In the video input device according to the present invention, it is preferable that the shaping unit assigns an image of the overflow area of the divided video to the unassigned area in the video that can be encoded by the encoder corresponding to the divided video.

また、本発明に係る映像入力装置において、前記整形部は、複数の前記分割映像それぞれの前記はみ出し領域の映像を、1つのエンコーダがエンコード処理可能な映像における前記未割当領域に割り当てることが好ましい。 In addition, in the video input device according to the present invention, it is preferable that the shaping unit assigns the image of the protruding area of each of the multiple divided images to the unallocated area in the image that can be encoded by one encoder.

また、本発明に係る映像入力装置において、前記第1から第4のエンコーダは、M画素×M画素単位でエンコードを行い、前記分割部は、垂直方向に並ぶ分割映像同士が重複する領域の垂直方向の画素数、および、水平方向に並ぶ分割映像同士が重複する領域の水平方向の画素数が、Mの整数倍となるように、前記入力映像を分割することが好ましい。 Furthermore, in the video input device according to the present invention, it is preferable that the first to fourth encoders perform encoding in units of M pixels x M pixels, and the division unit divides the input video so that the number of vertical pixels in an area where vertically aligned divided videos overlap, and the number of horizontal pixels in an area where horizontally aligned divided videos overlap, are an integer multiple of M.

また、上記課題を解決するため、本発明に係る映像出力装置は、上述したいずれかの映像入力装置により前記第1から第4のエンコーダに入力され、前記第1から第4のエンコーダによるエンコード後の分割映像が第1から第4のデコーダによりデコードされた分割映像から、前記入力映像を出力する映像出力装置であって、前記第1から第4のデコーダによりデコードされた整形後の前記4つの分割映像において前記未割当領域に相当する領域の映像を元の位置に移動し、前記4つの分割映像を再構成する再構成部と、前記再構成部により再構成された前記4つの分割映像から前記入力映像を復元して出力する復元部と、を備える。 In order to solve the above problem, the video output device according to the present invention is a video output device that outputs an input video from split videos that are input to the first to fourth encoders by any of the video input devices described above and are decoded by the first to fourth decoders from the split videos encoded by the first to fourth encoders, and includes a reconstruction unit that moves the video of an area corresponding to the unallocated area in the four split videos after shaping decoded by the first to fourth decoders to their original positions and reconstructs the four split videos, and a restoration unit that restores and outputs the input video from the four split videos reconstructed by the reconstruction unit.

また、上記課題を解決するため、本発明に係る映像伝送システムは、入力映像を4つの分割映像に分割し、前記4つの分割映像のそれぞれに対応する第1から第4のエンコーダに前記4つの分割映像を入力する映像入力装置と、前記第1から第4のエンコーダによるエンコード後の分割映像が第1から第4のデコーダによりデコードされた分割映像から、前記入力映像を出力する映像出力装置と、を備え、前記第1から第3のエンコーダは、垂直方向に前記入力映像の垂直方向の画素数の半分の画素数を有し、水平方向に前記入力映像の水平方向の画素の半分よりも大きい画素数を有する映像をエンコード処理可能であり、前記第4のエンコーダは、垂直方向に前記入力映像の垂直方向の画素数の半分の画素数を有し、水平方向に前記入力映像の水平方向の画素数の半分以上の画素数を有する映像をエンコード処理可能であり、前記映像入力装置は、前記入力映像を、垂直方向と水平方向とにそれぞれ2分割して、前記4つの分割映像が垂直方向と水平方向とにそれぞれ2つずつ並ぶように分割する分割部と、前記分割映像を対応するエンコーダがエンコード処理可能な映像の画素数に合わせて整形して、前記対応するエンコーダに入力する整形部と、を備え、前記映像出力装置は、前記第1から第4のデコーダによりデコードされた整形後の前記4つの分割映像において、対応する分割映像が割り当てられていない未割当領域に相当する領域の映像を元の位置に移動し、前記4つの分割映像を再構成する再構成部と、前記再構成部により再構成された前記4つの分割映像から前記入力映像を復元して出力する復元部と、を備え、前記分割部は、隣り合う分割映像同士がそれぞれ、一部が重複し、かつ、前記4つの分割映像のうち、少なくとも一部の分割映像について、水平方向の画素数が対応するエンコーダがエンコード処理可能な映像の水平方向の画素数よりも小さく、垂直方向の画素数が対応するエンコーダがエンコード処理可能な映像の垂直方向の画素数よりも大きくなるように、前記入力映像を分割し、前記整形部は、前記4つの分割映像それぞれの、対応するエンコーダがエンコード処理可能な映像から垂直方向にはみ出すはみ出し領域の映像が、前記第1から第4のエンコーダがエンコード処理可能な映像のうち、前記未割当領域に割り当てられるように、前記4つの分割映像の一部を整形する。
In order to solve the above problem, a video transmission system according to the present invention includes a video input device that divides an input video into four divided videos and inputs the four divided videos to first to fourth encoders corresponding to the four divided videos, respectively, and a video output device that outputs the input video from divided videos that have been encoded by the first to fourth encoders and decoded by first to fourth decoders, wherein the first to third encoders have half the number of pixels in the vertical direction of the input video and half the number of pixels in the horizontal direction of the input video. the fourth encoder is capable of encoding an image having a number of pixels larger than half of the number of pixels in the vertical direction of the input image, and the fourth encoder is capable of encoding an image having a number of pixels in the vertical direction that is half the number of pixels in the vertical direction of the input image and a number of pixels in the horizontal direction that is equal to or greater than half the number of pixels in the horizontal direction of the input image, and the image input device includes a division unit that divides the input image into two in the vertical direction and the horizontal direction so that the four divided images are lined up two by two in the vertical direction and two by two in the horizontal direction, and a division unit that shapes the divided images to match the number of pixels of an image that can be encoded by a corresponding encoder, and a shaping unit that inputs the input video to the corresponding encoder, and the video output device comprises a reconstruction unit that moves video of areas corresponding to unallocated areas to which corresponding split videos are not assigned in the four split videos after shaping decoded by the first to fourth decoders to their original positions and reconstructs the four split videos, and a restoration unit that restores the input video from the four split videos reconstructed by the reconstruction unit and outputs the input video, and the division unit divides the input video so that adjacent split videos partially overlap each other and so that at least some of the four split videos have a horizontal pixel count smaller than the horizontal pixel count of the video that the corresponding encoder can encode and so that the vertical pixel count of at least some of the four split videos is larger than the vertical pixel count of the video that the corresponding encoder can encode, and the shaping unit shapes some of the four split videos so that video of an overflow area that vertically overflows from the video that the corresponding encoder can encode is assigned to the unallocated area of the video that the first to fourth encoders can encode.

また、上記課題を解決するため、本発明に係るプログラムは、コンピュータを、上述したいずれかの映像入力装置として機能させる。 To solve the above problem, the program of the present invention causes a computer to function as any of the above-mentioned video input devices.

また、上記課題を解決するため、本発明に係るプログラムは、コンピュータを、上述した映像出力装置として機能させる。 To solve the above problem, the program according to the present invention causes a computer to function as the above-mentioned video output device.

本発明に係る映像入力装置、映像出力装置、映像伝送システムおよびプログラムによれば、送信側において映像を分割し、受信側において分割された映像を統合する場合に、隣り合う映像間の境界線の発生を抑制することができる。 The video input device, video output device, video transmission system, and program of the present invention can prevent the occurrence of boundary lines between adjacent images when video is divided on the transmitting side and the divided video is integrated on the receiving side.

本発明の一実施形態に係る映像伝送システムの送信側の構成例を示す図である。FIG. 2 is a diagram illustrating an example of a configuration of a transmitting side of a video transmission system according to an embodiment of the present invention. 図1に示す映像入力装置の構成例を示す図である。FIG. 2 is a diagram illustrating an example of the configuration of the video input device illustrated in FIG. 1 . 本発明の一実施形態に係る映像伝送システムの受信側の構成例を示す図である。FIG. 2 is a diagram illustrating an example of a configuration of a receiving side of a video transmission system according to an embodiment of the present invention. 図3に示す映像出力装置の構成例を示す図である。FIG. 4 is a diagram illustrating an example of the configuration of the video output device illustrated in FIG. 3 . 図1に示す4Kエンコーダがエンコード処理可能な映像について説明するための図である。2 is a diagram for explaining video that can be encoded by the 4K encoder shown in FIG. 1 . FIG. 図2に示す分割部による入力映像の分割の一例を示す図である。3 is a diagram showing an example of division of an input video by the division unit shown in FIG. 2; 図2に示す整形部の動作を説明するための図である。3 is a diagram for explaining the operation of the shaping unit shown in FIG. 2 . FIG. 図2に示す整形部の動作を説明するための図である。3 is a diagram for explaining the operation of the shaping unit shown in FIG. 2 . FIG. 図2に示す整形部の動作を説明するための図である。3 is a diagram for explaining the operation of the shaping unit shown in FIG. 2 . FIG. 図2に示す整形部による分割映像の整形の一例を示す図である。3 is a diagram showing an example of shaping of divided images by the shaping unit shown in FIG. 2 . エンコードの処理単位であるCTUについて説明するための図である。FIG. 2 is a diagram for explaining a CTU, which is a processing unit for encoding. 図2に示す分割部による入力映像の分割の他の一例を示す図である。3 is a diagram showing another example of division of an input video by the division unit shown in FIG. 2 . FIG. 図2に示す整形部による分割映像の整形の他の一例を示す図である。3 is a diagram showing another example of shaping of divided images by the shaping unit shown in FIG. 2 . FIG. 図2に示す映像入力装置の動作の一例を示すフローチャートである。3 is a flowchart showing an example of an operation of the video input device shown in FIG. 2 . 図4に示す映像出力装置の動作の一例を示すフローチャートである。5 is a flowchart showing an example of an operation of the video output device shown in FIG. 4 . 従来の映像伝送システムの送信側の構成例を示す図である。FIG. 1 is a diagram illustrating an example of the configuration of a transmitting side of a conventional video transmission system. 図14に示す8Kカメラによる8K映像の分割について説明するための図である。FIG. 15 is a diagram for explaining division of an 8K video by the 8K camera shown in FIG. 14 . 従来の映像伝送システムの受信側の構成例を示す図である。FIG. 1 is a diagram illustrating an example of the configuration of a receiving side of a conventional video transmission system. 8K映像の分割の他の一例を示す図である。FIG. 13 is a diagram showing another example of division of 8K video.

以下、本発明の実施の形態について図面を参照して説明する。 The following describes an embodiment of the present invention with reference to the drawings.

図1は、本発明の一実施形態に係る映像伝送システム1の送信側の構成例を示す図である。本実施形態に係る映像伝送システム1は、送信側において、8K映像などの入力映像を分割して伝送し、受信側において、分割された映像から元の映像を復元して表示するものである。以下では、8K映像を4つの分割映像に分割して伝送する例を用いて説明する。図1において、図14と同様の構成には同じ符号を付し、説明を省略する。 Figure 1 is a diagram showing an example of the configuration of the transmitting side of a video transmission system 1 according to one embodiment of the present invention. The video transmission system 1 according to this embodiment divides and transmits an input video such as 8K video on the transmitting side, and restores and displays the original video from the divided videos on the receiving side. Below, an example in which 8K video is divided into four divided videos and transmitted will be described. In Figure 1, the same components as those in Figure 14 are given the same reference numerals, and description will be omitted.

図1に示すように、本実施形態に係る映像伝送システム1の送信側は、8Kカメラ2と、4つの4Kエンコーダ3(4Kエンコーダ3a~3d(第1から第4のエンコーダ))と、TS信号多重器4と、送信機5と、映像入力装置10とを備える。本実施形態に映像伝送システム1は、図14に示す映像伝送システム1Aと比較して、映像入力装置10が追加された点が異なる。 As shown in FIG. 1, the transmitting side of the video transmission system 1 according to this embodiment includes an 8K camera 2, four 4K encoders 3 (4K encoders 3a to 3d (first to fourth encoders)), a TS signal multiplexer 4, a transmitter 5, and a video input device 10. The video transmission system 1 according to this embodiment differs from the video transmission system 1A shown in FIG. 14 in that a video input device 10 is added.

映像入力装置10は、8Kカメラ2と4Kエンコーダ3a~3dとの間に設けられる。映像入力装置10は、8Kカメラ2から、8K映像を4つに分割した、放送用4Kフォーマットの4K映像が入力される。映像入力装置10は、4つの4K映像を統合して8K映像を復元し、復元した8K映像(入力映像)を垂直方向および水平方向に2分割して4つの分割映像を生成する。映像入力装置10は、生成した4つの分割映像をそれぞれ、対応する4Kエンコーダ3a~3dに整形後の4K映像として出力する。4Kエンコーダ3a~3dに入力された整形後の4K映像はそれぞれエンコードされ、TS信号としてTS信号多重器4に入力される。 The video input device 10 is provided between the 8K camera 2 and the 4K encoders 3a to 3d. The video input device 10 receives 4K video in a 4K broadcast format, which is an 8K video split into four, from the 8K camera 2. The video input device 10 integrates the four 4K videos to restore the 8K video, and splits the restored 8K video (input video) vertically and horizontally to generate four split videos. The video input device 10 outputs each of the four split videos to the corresponding 4K encoders 3a to 3d as shaped 4K video. The shaped 4K videos input to the 4K encoders 3a to 3d are each encoded and input to the TS signal multiplexer 4 as a TS signal.

図2は、映像入力装置10の構成例を示す図である。 Figure 2 shows an example configuration of the video input device 10.

図2に示すように、映像入力装置10は、バッファ11と、分割部12と、整形部13とを備える。 As shown in FIG. 2, the video input device 10 includes a buffer 11, a splitting unit 12, and a shaping unit 13.

バッファ11は、8Kカメラ2から出力された、放送用4Kフォーマットの4つの4K映像が入力される。バッファ11は、入力された4K映像を格納し、4つの4K映像を統合した1つの8K映像を分割部12に出力する。 The buffer 11 receives four 4K images in 4K broadcast format output from the 8K camera 2. The buffer 11 stores the input 4K images and outputs one 8K image that combines the four 4K images to the splitter 12.

分割部12は、バッファ11から出力された8K映像(入力映像)を、垂直方向と水平方向とにそれぞれ2分割して4つの分割映像を生成する。1つの8K映像が垂直方向と水平方向とにそれぞれ2分割されるため、垂直方向と水平方向とにそれぞれ2つずつ分割映像が並ぶ。分割部12は、生成した4つの分割映像を整形部13に出力する。 The division unit 12 divides the 8K video (input video) output from the buffer 11 into two parts each in the vertical and horizontal directions to generate four divided videos. Since one 8K video is divided into two parts each in the vertical and horizontal directions, two divided videos are arranged in each of the vertical and horizontal directions. The division unit 12 outputs the four divided videos it has generated to the shaping unit 13.

整形部13は、分割部12から入力された分割映像を、対応する4Kエンコーダ3a~3dがエンコード処理可能な映像の画素数に合わせて整形し、整形後の分割映像(整形後の4K映像)を対応する4Kエンコーダ3a~3dに出力する。 The shaping unit 13 shapes the divided video input from the splitting unit 12 to match the number of pixels of the video that can be encoded by the corresponding 4K encoders 3a to 3d, and outputs the shaped divided video (shaped 4K video) to the corresponding 4K encoders 3a to 3d.

分割部12および整形部13の動作の詳細については後述する。 The operation of the splitting unit 12 and the shaping unit 13 will be described in detail later.

次に、本実施形態に係る映像伝送システム1の受信側の構成について、図3を参照して説明する。図3において、図16と同様の構成には同じ符号を付し、説明を省略する。 Next, the configuration of the receiving side of the video transmission system 1 according to this embodiment will be described with reference to FIG. 3. In FIG. 3, the same components as those in FIG. 16 are given the same reference numerals, and the description thereof will be omitted.

図3に示すように、本実施形態に係る映像伝送システム1の受信側は、受信機6と、TS信号分離器7と、4つの4Kデコーダ(4Kデコーダ8a~8d(第1から第4のデコーダ))と、表示器9と、映像出力装置20とを備える。本実施形態に係る映像伝送システム1は、図16に示す映像伝送システム1Aと比較して、映像出力装置20が追加された点が異なる。 As shown in FIG. 3, the receiving side of the video transmission system 1 according to this embodiment includes a receiver 6, a TS signal separator 7, four 4K decoders (4K decoders 8a to 8d (first to fourth decoders)), a display 9, and a video output device 20. The video transmission system 1 according to this embodiment differs from the video transmission system 1A shown in FIG. 16 in that a video output device 20 is added.

映像出力装置20は、4Kデコーダ8a~8dと表示器9との間に設けられる。映像出力装置20は、4Kデコーダ8a~8dから、上述した整形部13による整形後の分割映像(整形後の4K映像)が入力される。映像出力装置20は、入力された整形後の分割映像から、整形部13による整形前の4つの分割映像を再構成する。映像出力装置20は、再構成した4つの分割映像から元の8K映像を復元し、復元した8K映像を放送用4Kフォーマットの4K映像に分割して表示器9に出力する。 The video output device 20 is provided between the 4K decoders 8a to 8d and the display device 9. The video output device 20 receives the split video (shape-processed 4K video) from the 4K decoders 8a to 8d after shaping by the shaping unit 13. The video output device 20 reconstructs the four split videos before shaping by the shaping unit 13 from the input shaping-processed split video. The video output device 20 restores the original 8K video from the four reconstructed split videos, and splits the restored 8K video into 4K video in the broadcast 4K format and outputs it to the display device 9.

図4は、映像出力装置20の構成例を示す図である。 Figure 4 shows an example configuration of the video output device 20.

図4に示すように、映像出力装置20は、再構成部21と、復元部22と、バッファ23とを備える。 As shown in FIG. 4, the video output device 20 includes a reconstruction unit 21, a restoration unit 22, and a buffer 23.

再構成部21は、4Kデコーダ8a~8dによりデコードされた整形後の4つの分割映像(整形後の4K映像)から、4つの分割映像(整形部13による整形前の分割映像)を再構成する。再構成部21は、再構成した4つの分割映像を復元部22に出力する。 The reconstruction unit 21 reconstructs four split images (split images before shaping by the shaping unit 13) from the four shaped split images (4K images after shaping) decoded by the 4K decoders 8a to 8d. The reconstruction unit 21 outputs the four reconstructed split images to the restoration unit 22.

復元部22は、再構成部21により再構成された4つの分割映像から元の8K映像を復元し、バッファ23に出力する。 The restoration unit 22 restores the original 8K video from the four split videos reconstructed by the reconstruction unit 21 and outputs it to the buffer 23.

バッファ23は、復元部22により復元された8K映像を格納し、格納した8K映像を放送用4Kフォーマットの4K映像に分割して表示器9に出力する。 The buffer 23 stores the 8K video restored by the restoration unit 22, divides the stored 8K video into 4K video in the 4K broadcast format, and outputs it to the display device 9.

再構成部21および復元部22の動作の詳細については後述する。 The operation of the reconstruction unit 21 and the restoration unit 22 will be described in detail later.

次に、分割部12および整形部13の動作について説明する。まず、本実施形態における4Kエンコーダ3a~3dがエンコード処理可能な映像について説明する。 Next, the operation of the division unit 12 and the shaping unit 13 will be described. First, the video that can be encoded by the 4K encoders 3a to 3d in this embodiment will be described.

上述したように、図14においては、4Kエンコーダ3a~3dは、放送用4Kフォーマットの4K映像をエンコードするエンコーダである。図14においては、4Kエンコーダ3a~3dは、放送用4Kフォーマット(3840画素×2160画素)の4K映像をエンコード処理可能である。 As described above, in FIG. 14, the 4K encoders 3a to 3d are encoders that encode 4K video in the 4K broadcast format. In FIG. 14, the 4K encoders 3a to 3d are capable of encoding 4K video in the 4K broadcast format (3840 pixels x 2160 pixels).

一方、本実施形態においては、4Kエンコーダ3a~3c(第1から第3のエンコーダ)として、シネマ用4Kフォーマット(4096画素×2160画素)の4K映像をエンコードするエンコーダを用いる。図5に示すように、4Kエンコーダ3a~3cは、垂直方向に入力映像である8K映像の垂直方向の画素数(4320画素)の半分の画素数(2160画素)を有し、水平方向に8K映像の水平方向の画素数(7680画素)の半分よりも大きい画素数(4096画素)を有する映像をエンコード処理可能である。 In this embodiment, on the other hand, the 4K encoders 3a to 3c (first to third encoders) are encoders that encode 4K video in a 4K cinema format (4096 pixels x 2160 pixels). As shown in FIG. 5, the 4K encoders 3a to 3c are capable of encoding video that has half the number of pixels (2160 pixels) in the vertical direction of the 8K video input video (4320 pixels), and has a number of pixels (4096 pixels) in the horizontal direction that is greater than half the number of pixels (7680 pixels) in the horizontal direction of the 8K video.

また、本実施形態においては、4Kエンコーダ3d(第4のエンコーダ)として、放送用4Kフォーマットの4K映像をエンコードするエンコーダまたはシネマ用4Kフォーマットの4K映像をエンコードするエンコーダを用いる。4Kエンコーダ3dは、垂直方向に入力映像である8K映像の垂直方向(4320画素)の画素数の半分の画素数(2160画素)を有し、水平方向に8K映像の水平方向の画素数(7680画素)の半分以上の画素数を有する映像をエンコード処理可能である。以下では、4Kエンコーダ3dは、図5に示すように、放送用4Kフォーマット(3840画素×2160画素)の4K映像をエンコード処理可能であるとする。 In the present embodiment, an encoder that encodes 4K video in a 4K broadcasting format or an encoder that encodes 4K video in a 4K cinema format is used as the 4K encoder 3d (fourth encoder). The 4K encoder 3d is capable of encoding video that has half the number of pixels (2160 pixels) in the vertical direction (4320 pixels) of the 8K video that is the input video, and has more than half the number of pixels (7680 pixels) in the horizontal direction of the 8K video. In the following, it is assumed that the 4K encoder 3d is capable of encoding 4K video in a 4K broadcasting format (3840 pixels x 2160 pixels) as shown in FIG. 5.

次に、分割部12の動作について説明する。 Next, the operation of the splitter 12 will be described.

上述したように、分割部12は、入力映像である8K映像を、垂直方向と水平方向とにそれぞれ2分割して、垂直方向と水平方向とにそれぞれ2つずつ分割映像が並ぶように分割する。さらに、分割部12は、隣り合う分割映像同士が、一部が重複するように8K映像を分割する。また、分割部12は、4つの分割映像のうち、少なくとも一部の分割映像について、水平方向の画素数が対応する4Kエンコーダ3がエンコード処理可能な映像の水平方向の画素数よりも小さく、垂直方向の画素数が対応するエンコーダ3がエンコード処理可能な映像の垂直方向の画素数よりも大きくなるように、8K映像を分割する。 As described above, the splitter 12 splits the 8K video, which is the input video, into two vertically and horizontally, so that two split videos are lined up in each of the vertical and horizontal directions. Furthermore, the splitter 12 splits the 8K video so that adjacent split videos partially overlap. The splitter 12 also splits the 8K video so that, for at least some of the four split videos, the number of pixels in the horizontal direction is smaller than the number of pixels in the horizontal direction of the video that the corresponding 4K encoder 3 can encode, and the number of pixels in the vertical direction is greater than the number of pixels in the vertical direction of the video that the corresponding encoder 3 can encode.

図6は、分割部12による入力映像である8K映像の分割の一例を示す図である。以下では、図6に示すように、8K映像を垂直方向および水平方向に2分割した4つの4K映像(分割映像)のうち、左上の映像を分割映像Aと称し、右上の映像を分割映像Bと称し、左下の映像を分割映像Cと称し、右下の映像を分割映像Dと称する。 Fig. 6 is a diagram showing an example of division of an 8K image, which is an input image, by the division unit 12. In the following, of the four 4K images (divided images) obtained by dividing the 8K image vertically and horizontally as shown in Fig. 6, the upper left image is referred to as divided image A, the upper right image is referred to as divided image B, the lower left image is referred to as divided image C, and the lower right image is referred to as divided image D.

図6に示すように、分割部12は、分割映像A,Cの水平方向の画素数が、8K映像の左端から(3840+Hover)画素となり、分割映像B,Dの水平方向の画素数が、8K映像の右端から3840画素となるように、8K映像を分割する。また、分割部12は、分割映像A,Bの垂直方向の画素数が、8K映像の上端から(2160+Vover)画素となり、分割映像C,Dの垂直方向の画素数が2160画素となるように、8K映像を分割する。分割部12は、分割映像A,Bがそれぞれ分割映像C,Dと垂直方向にVover画素だけ重複し、分割映像A,Cがそれぞれ分割映像B,Dと水平方向にHover画素だけ重複するように、8K映像を分割する。なお、分割部12は、分割映像A~Dの水平方向の画素数が、対応する4Kエンコーダ3がエンコード処理可能な映像の水平方向の画素数を超えないように、8K映像を分割する。 As shown in FIG. 6, the division unit 12 divides the 8K video such that the number of pixels in the horizontal direction of the divided images A and C is (3840+H over ) pixels from the left end of the 8K video, and the number of pixels in the horizontal direction of the divided images B and D is 3840 pixels from the right end of the 8K video. The division unit 12 also divides the 8K video such that the number of pixels in the vertical direction of the divided images A and B is (2160+V over ) pixels from the top end of the 8K video, and the number of pixels in the vertical direction of the divided images C and D is 2160 pixels. The division unit 12 divides the 8K video such that the divided images A and B overlap with the divided images C and D in the vertical direction by V over pixels, respectively, and the divided images A and C overlap with the divided images B and D in the horizontal direction by H over pixels, respectively. The division unit 12 divides the 8K video such that the number of pixels in the horizontal direction of the divided images A to D does not exceed the number of pixels in the horizontal direction of the video that the corresponding 4K encoder 3 can encode.

上述したように、分割映像A,Bに対応する4Kエンコーダ3a,3bは、4096画素×2160画素の映像をエンコード処理可能である。したがって、図6に示す例では、分割部12は、分割映像A,Bが、水平方向の画素数が対応する4Kエンコーダ3a,3bがエンコード処理可能な映像の水平方向の画素数よりも小さく、垂直方向の画素数が対応する4Kエンコーダ3a,3bがエンコード処理可能な映像の垂直方向の画素数よりも大きくなるように、8K映像を分割する。 As described above, the 4K encoders 3a and 3b corresponding to the divided images A and B are capable of encoding an image of 4096 pixels x 2160 pixels. Therefore, in the example shown in FIG. 6, the division unit 12 divides the 8K image so that the number of pixels in the horizontal direction of the divided images A and B is smaller than the number of pixels in the horizontal direction of the image that can be encoded by the corresponding 4K encoders 3a and 3b, and the number of pixels in the vertical direction is greater than the number of pixels in the vertical direction of the image that can be encoded by the corresponding 4K encoders 3a and 3b.

次に、整形部13の動作について、図7A~図7Cを参照して説明する。 Next, the operation of the shaping unit 13 will be described with reference to Figures 7A to 7C.

図7Aは、分割映像Aと分割映像Aに対応する4Kエンコーダ3aがエンコード処理可能な映像とを重ね合わせた図である。図7Aにおいては、実線の矩形が、分割映像Aを示し、破線の矩形が、4Kエンコーダ3aがエンコード処理可能な映像を示す。図7Aにおいて、分割映像Aのうち、4Kエンコーダ3aがエンコード処理可能な映像と重なる領域は、4Kエンコーダ3aによるエンコードが可能な領域である。 Figure 7A is a diagram in which divided image A is superimposed on an image that can be encoded by the 4K encoder 3a and corresponds to divided image A. In Figure 7A, the solid-line rectangle indicates divided image A, and the dashed-line rectangle indicates an image that can be encoded by the 4K encoder 3a. In Figure 7A, the area of divided image A that overlaps with the image that can be encoded by the 4K encoder 3a is an area that can be encoded by the 4K encoder 3a.

図6を参照して説明したように、分割映像Aの垂直方向の画素数は(2160+Vover)画素であり、分割映像Aの水平方向の画素数は(3840+Hover)画素(<4096)である。したがって、図7Aに示すように、分割映像Aのうち、垂直方向にVover画素、水平方向に(3840+Hover)画素の領域は、4Kエンコーダ3aがエンコード処理可能な映像からはみ出す。以下では分割映像のうち、対応する4Kエンコーダ3がエンコード処理可能な映像からはみ出す領域をはみ出し領域と称する。 As described with reference to Fig. 6, the number of pixels in the vertical direction of the divided video A is (2160 + V over ) pixels, and the number of pixels in the horizontal direction of the divided video A is (3840 + H over ) pixels (< 4096). Therefore, as shown in Fig. 7A, an area of the divided video A that is V over pixels in the vertical direction and (3840 + H over ) pixels in the horizontal direction extends beyond the image that can be encoded by the 4K encoder 3a. Hereinafter, an area of the divided video that extends beyond the image that can be encoded by the corresponding 4K encoder 3 is referred to as an extension area.

図7Aに示すように、4Kエンコーダ3aがエンコード処理可能な映像のうち、垂直方向に2160画素、水平方向に(256-Hover)画素の領域には、4Kエンコーダ3aに対応する分割映像Aが割り当てられていない。以下では、4Kエンコーダ3がエンコード処理可能な映像のうち、整形部13による整形前の分割映像が割り当てられていない領域を未割当領域と称する。 7A, in the video that can be encoded by the 4K encoder 3a, an area of 2160 pixels in the vertical direction and (256-H over ) pixels in the horizontal direction is not assigned the divided video A corresponding to the 4K encoder 3a. Hereinafter, an area in the video that can be encoded by the 4K encoder 3 that is not assigned the divided video before shaping by the shaping unit 13 is referred to as an unallocated area.

整形部13は、分割映像Aのはみ出し領域の映像が、4Kエンコーダ3aがエンコード処理可能な映像における未割当領域に割り当てられるように、分割映像Aを整形する。具体的には、整形部13は、図7Bに示すように、垂直方向にVover画素、水平方向に(3840+Hover)画素からなるはみ出し領域の映像を、未割当領域の水平方向の画素数(256-Hover)に合わせて、垂直方向にVover画素、水平方向にHcut(=256-Hover)画素の、N個(NはN≧(3840+Hover)/Hcutを満たす最小の整数)のブロックに分割する。ただし、N個目のブロックの水平方向の画素数はHcut画素以下となる。 The shaping unit 13 shapes the divided video A so that the video of the overflow area of the divided video A is assigned to an unallocated area in the video that can be encoded by the 4K encoder 3a. Specifically, as shown in FIG. 7B, the shaping unit 13 divides the video of the overflow area consisting of V over pixels in the vertical direction and (3840+H over ) pixels in the horizontal direction into N blocks (N is the smallest integer that satisfies N≧(3840+H over )/H cut ) of V over pixels in the vertical direction and H cut (=256-Hover ) pixels in the horizontal direction in accordance with the number of pixels (256-H over ) in the horizontal direction of the unallocated area. However, the number of pixels in the horizontal direction of the Nth block is equal to or less than H cut pixels.

整形部13は、図7Cに示すように、はみ出し領域の映像を分割したN個のブロックが未割当領域に割り当てられるように、分割映像Aを整形しはみ出し領域の映像を移動させる。このように整形部13は、分割映像のうち、対応する4Kエンコーダ3がエンコード処理可能な映像から垂直方向にはみ出すはみ出し領域の映像が未割当領域に割り当てられるように、分割映像を整形する。そのため、垂直方向にも分割映像を拡大して重複させることができるので、送信側において映像を分割して伝送する場合に、受信側で復元される映像に分割映像の境界線が生じにくくすることができる。特に、本発明においては、垂直方向にも分割映像を拡大して重複させることで、水平方向に生じる境界線の発生を抑制することができる。 As shown in FIG. 7C, the shaping unit 13 shapes the divided video A and moves the video of the overflow area so that the N blocks obtained by dividing the video of the overflow area are assigned to the unallocated area. In this way, the shaping unit 13 shapes the divided video so that the video of the overflow area that vertically overflows from the video that can be encoded by the corresponding 4K encoder 3 is assigned to the unallocated area. Therefore, since the divided video can be expanded and overlapped vertically as well, when the video is divided and transmitted on the transmitting side, it is possible to make it difficult for boundaries between the divided videos to appear in the video restored on the receiving side. In particular, in the present invention, the occurrence of boundaries in the horizontal direction can be suppressed by expanding and overlapping the divided video vertically as well.

なお、整形部13は、はみ出し領域の映像が割り当てられていない未割当領域には、例えば、単一色の映像など情報量の少ない映像を付加する。 The shaping unit 13 adds an image with less information, such as a single-color image, to the unallocated area where no image of the protruding area is allocated.

図8は、分割映像A~Dそれぞれに対する整形部13の処理を示す図である。 Figure 8 shows the processing performed by the shaping unit 13 on each of the divided images A to D.

図7A~図7Cを参照して説明したように、整形部13は、分割映像Aのうち、はみ出し領域の映像を4Kエンコーダ3aがエンコード処理可能な映像における未割当領域に割り当てる。 As described with reference to Figures 7A to 7C, the shaping unit 13 allocates the image of the protruding area of the divided image A to an unallocated area in the image that can be encoded by the 4K encoder 3a.

分割映像Bは、3840画素×(2160+Vover)画素の映像である。したがって、分割映像Bのうち、垂直方向にVover画素、水平方向に3840画素の領域の映像は、4Kエンコーダ3bがエンコード処理可能な映像(4096×2160画素)からはみ出す。整形部13は、分割映像Aと同様に、はみ出し領域の映像が、4Kエンコーダ3bがエンコード処理可能な映像における未割当領域(256画素×2160画素の領域)に割り当てられるように、分割映像Bを整形して、4Kエンコーダ3bに出力する。 The divided video B is an image of 3840 pixels x (2160 + V over ) pixels. Therefore, an area of divided video B that is V over pixels in the vertical direction and 3840 pixels in the horizontal direction protrudes from the image (4096 x 2160 pixels) that can be encoded by the 4K encoder 3b. The shaping unit 13 shapes the divided video B so that the image of the protruding area is assigned to an unassigned area (area of 256 pixels x 2160 pixels) in the image that can be encoded by the 4K encoder 3b, similar to the divided video A, and outputs the result to the 4K encoder 3b.

分割映像Cは、(3840+Hover)画素×2160画素の映像であり、4Kエンコーダ3cがエンコード処理可能な映像(4096画素×2160画素の映像)内に収まる。したがって、整形部13は、分割映像Cをそのまま4Kエンコーダ3cに出力する。 The divided video C is a video of (3840+H over )×2160 pixels, which falls within the video (video of 4096×2160 pixels) that can be encoded by the 4K encoder 3c. Therefore, the shaping unit 13 outputs the divided video C to the 4K encoder 3c as is.

分割映像Dは、3840画素×2160画素の映像であり、4Kエンコーダ3dがエンコード処理可能な映像(3840×2160画素の映像)内に収まる。したがって、整形部13は、分割映像Dをそのまま4Kエンコーダ3dに出力する。 The divided image D is a 3840 x 2160 pixel image, which fits within the image that can be encoded by the 4K encoder 3d (3840 x 2160 pixel image). Therefore, the shaping unit 13 outputs the divided image D to the 4K encoder 3d as is.

図8においては、分割映像のはみ出し領域の映像を未割当領域に割り当てる場合、その分割映像に対応する4Kエンコーダ3がエンコード処理可能な映像における未割当領域に割り当てる例を用いて説明したが、これに限られるものではない。要は、整形部13は、4つの分割映像それぞれのはみ出し領域の映像が、4Kエンコーダ3a~3dのいずれかがエンコード処理可能な映像における未割当領域に割り当てられるように、4つの分割映像の一部を整形すればよい。したがって、整形部13は、分割映像のはみ出し領域の映像が、その分割映像に対応する4Kエンコーダ3以外の4Kエンコーダ3がエンコード処理可能な映像における未割当領域に割り当てられるように、分割映像を整形してもよい。 In FIG. 8, an example has been described in which the image of the overflow area of a split image is assigned to an unallocated area in an image that can be encoded by the 4K encoder 3 corresponding to that split image, but this is not limiting. In short, the shaping unit 13 only needs to shape parts of the four split images so that the image of the overflow area of each of the four split images is assigned to an unallocated area in an image that can be encoded by any of the 4K encoders 3a to 3d. Therefore, the shaping unit 13 may shape the split images so that the image of the overflow area of a split image is assigned to an unallocated area in an image that can be encoded by a 4K encoder 3 other than the 4K encoder 3 corresponding to that split image.

なお、4Kエンコーダ3は、図9に示すように、M画素×M画素単位(Mは16,32または64)でエンコードを行う。M画素×M画素のエンコードの単位は、HEVCにおいてCTU(Coding Tree Unit)と称される。4Kエンコーダ3は、図9に示すように、CTUを水平方向および垂直方向にずらしながら、CTU内の映像のエンコードを行う。 As shown in FIG. 9, the 4K encoder 3 performs encoding in units of M pixels x M pixels (M is 16, 32, or 64). In HEVC, the M pixel x M pixel encoding unit is called a CTU (Coding Tree Unit). As shown in FIG. 9, the 4K encoder 3 encodes the video within a CTU while shifting the CTU in the horizontal and vertical directions.

分割部12は、Vover=Hoverであり、かつ、VoverおよびHoverがMの整数倍となるように、8K映像を分割する。こうすることで、はみ出し領域の映像が割り当てられていない未割当領域はCTU単位となるので、4Kエンコーダ3によるエンコードの対象から除外することができる。その結果、4Kエンコーダ3の処理負荷を低減することができる。 The division unit 12 divides the 8K video so that V over =H over and V over and H over are integer multiples of M. In this way, the unallocated area to which the video of the protruding area is not allocated becomes a CTU unit, and can be excluded from the target for encoding by the 4K encoder 3. As a result, the processing load of the 4K encoder 3 can be reduced.

図7A,7Cを参照して説明したように、整形部13は、分割映像Aのうち、分割映像Aの上端から垂直方向にVout画素分の領域をはみ出し領域とし、この領域の映像を未割当領域に割り当てる。整形部13は、分割映像のはみ出し領域の映像を未割当領域に割り当てる場合、分割映像の垂直方向の両端部のうち、当該分割映像と垂直方向に並ぶ分割映像から遠い端部側の映像を未割当領域に割り当てる。 As described with reference to Figures 7A and 7C, the shaping unit 13 sets an area of Vout pixels vertically from the top end of the divided image A as an overflow area, and allocates the image of this area to an unallocated area. When allocating the image of the overflow area of the divided image to an unallocated area, the shaping unit 13 allocates the image of the end side farthest from the divided image that is aligned vertically with the divided image, out of both vertical ends of the divided image, to the unallocated area.

はみ出し領域の映像を未割当領域に割り当てて、はみ出し領域の映像を移動させた場合には、受信側で映像を復元した場合に、映像を移動させた部分の品質の劣化が生じる可能性がある。ここで、分割映像の垂直方向の両端部のうち、当該分割映像と垂直方向に並ぶ分割映像から近い端部側の映像(元の映像の中央付近の映像)を移動させると、受信側で映像を復元した場合に、視覚上の影響が大きくなる。そこで、分割映像の垂直方向の両端部のうち、当該分割映像と垂直方向に並ぶ分割映像から遠い端部側の映像(元の映像の上端あるいは下端付近の映像)を移動させることで、視覚上の影響を抑制することができる。 If the image of the overflow area is allocated to an unallocated area and the image of the overflow area is moved, there is a possibility that the quality of the moved part will deteriorate when the image is restored on the receiving side. Here, if the image on the end side closest to the divided image aligned vertically with the divided image (image near the center of the original image) is moved, the visual impact will be large when the image is restored on the receiving side. Therefore, the visual impact can be reduced by moving the image on the end side farthest from the divided image aligned vertically with the divided image (image near the top or bottom of the original image) of the divided images in the vertical direction.

また、本実施形態では、分割映像のはみ出し領域の映像を、その分割映像に対応する4Kエンコーダ3の未割当領域に割り当てる(1つの4Kエンコーダ3の未割当領域に割り当てる)例を用いて説明した。この例では、4Kエンコーダ3a,3bにおいて、元の分割映像と、はみ出し領域の映像であり、未割当領域に移動させた映像とが隣接する不連続面が生じる。このような不連続面は受信側において8K映像を復元した際に、品質に影響を及ぼす可能性がある。 Also, in this embodiment, an example has been described in which the image of the overflow area of a divided image is assigned to an unallocated area of the 4K encoder 3 corresponding to that divided image (assigned to an unallocated area of one 4K encoder 3). In this example, in the 4K encoders 3a and 3b, a discontinuous surface is generated where the original divided image and the image of the overflow area that has been moved to the unallocated area are adjacent to each other. Such a discontinuous surface may affect the quality when the 8K image is restored on the receiving side.

そこで、映像入力装置10は、複数の分割映像それぞれのはみ出し領域の映像が、1つの4Kエンコーダ3がエンコード処理可能な映像の未割当領域に割り当てられるように、分割映像を整形してもよい。こうすることで、不連続面が生じるエンコーダ3の数を減らすことができるので、受信側での映像品質の劣化を抑制することができる。以下に、複数の分割映像それぞれのはみ出し領域の映像を、1つの4Kエンコーダ3がエンコード処理可能な映像の未割当領域に割り当てる場合の、分割部12および整形部13の動作について説明する。 The video input device 10 may therefore shape the split videos so that the video of the overflow areas of each of the multiple split videos is assigned to an unallocated area of the video that can be encoded by a single 4K encoder 3. This can reduce the number of encoders 3 where discontinuous surfaces occur, thereby suppressing degradation of video quality on the receiving side. Below, the operation of the splitting unit 12 and the shaping unit 13 when the video of the overflow areas of each of the multiple split videos is assigned to an unallocated area of the video that can be encoded by a single 4K encoder 3 will be described.

図10は、分割部12による8K映像(入力映像)の分割の他の一例を示す図である。 Figure 10 shows another example of division of 8K video (input video) by the division unit 12.

図10に示すように、分割部12は、分割映像A,Cの水平方向の画素数が、8K映像の左端から4096画素となり、分割映像B,Dの画素数が、8K映像の右端から(3584+Hover)画素となるように、8K映像を分割する。また、分割部12は、分割映像A,Bの垂直方向の画素数が(2160+Vover)画素となり、分割映像C,Dの垂直方向の画素数が2160画素となるように、8K映像を分割する。分割部12は、分割映像A,Bがそれぞれ分割映像C,Dと垂直方向にVover画素だけ重複し、分割映像A,Cがそれぞれ分割映像B,Dと水平方向にHover画素だけ重複するように、8K映像を分割する。また、分割部12は、分割映像A,Cの水平方向の画素数が、対応する4Kエンコーダ3a,3cがエンコード処理可能な映像の水平方向の画素数と同じになるように、8K映像を分割する。 As shown in FIG. 10, the division unit 12 divides the 8K video such that the number of pixels in the horizontal direction of the divided images A and C is 4096 pixels from the left end of the 8K video, and the number of pixels in the divided images B and D is (3584+H over ) pixels from the right end of the 8K video. The division unit 12 also divides the 8K video such that the number of pixels in the vertical direction of the divided images A and B is (2160+V over ) pixels, and the number of pixels in the vertical direction of the divided images C and D is 2160 pixels. The division unit 12 divides the 8K video such that the divided images A and B overlap with the divided images C and D by V over pixels in the vertical direction, respectively, and the divided images A and C overlap with the divided images B and D by H over pixels in the horizontal direction, respectively. The division unit 12 also divides the 8K video such that the number of pixels in the horizontal direction of the divided images A and C is the same as the number of pixels in the horizontal direction of the video that can be encoded by the corresponding 4K encoders 3a and 3c.

上述したように、分割映像Bに対応する4Kエンコーダ3bは、4096画素×2160画素の映像をエンコード処理可能である。したがって、図10に示す例では、分割部12は、分割映像Bが、水平方向の画素数が対応する4Kエンコーダ3bがエンコード処理可能な映像の水平方向の画素数よりも小さく、垂直方向の画素数が対応する4Kエンコーダ3bがエンコード処理可能な映像の垂直方向の画素数よりも大きくなるように、8K映像を分割する。 As described above, the 4K encoder 3b corresponding to the divided image B is capable of encoding an image of 4096 pixels x 2160 pixels. Therefore, in the example shown in FIG. 10, the division unit 12 divides the 8K image so that the number of pixels in the horizontal direction of the divided image B is smaller than the number of pixels in the horizontal direction of the image that can be encoded by the corresponding 4K encoder 3b, and the number of pixels in the vertical direction is greater than the number of pixels in the vertical direction of the image that can be encoded by the corresponding 4K encoder 3b.

図11は、分割映像A~Dそれぞれに対する整形部13の処理を示す図である。 Figure 11 shows the processing performed by the shaping unit 13 on each of the divided images A to D.

上述したように、分割映像Aは、4096画素×(2160+Vover)画素の映像である。したがって、分割映像Aのうち、垂直方向にVover画素、水平方向に4096画素の領域は、4Kエンコーダ3aがエンコード処理可能な映像(4096画素×2160画素)からはみ出す。ただし、分割映像Aの水平方向の画素数と4Kエンコーダ3aがエンコード処理可能な映像の水平方向の画素数とが同じであるため、未割当領域が存在しない。 As described above, the divided video A is an image of 4096 pixels x (2160 + V over ) pixels. Therefore, an area of the divided video A that is V over pixels in the vertical direction and 4096 pixels in the horizontal direction extends beyond the image (4096 pixels x 2160 pixels) that can be encoded by the 4K encoder 3a. However, since the number of pixels in the horizontal direction of the divided video A is the same as the number of pixels in the horizontal direction of the image that can be encoded by the 4K encoder 3a, there is no unallocated area.

分割映像Bは、(3584+Hover)画素×(2160+Vover)画素の映像である。したがって、分割映像Bのうち、垂直方向にVover画素、水平方向に(3584+Hover)画素の領域は、4Kエンコーダ3bがエンコード処理可能な映像(4096画素×2160画素)からはみ出す。整形部13は、図11に示すように、分割映像Aのはみ出し領域の映像および分割映像Bのはみ出し領域の映像を、4Kエンコーダ3bがエンコード処理可能な映像における未割当領域に割り当てるように、分割映像A,Bを整形して、4Kエンコーダ3a,3bに出力する。なお、図11においては、分割映像Aのはみ出し領域の映像を右斜め上がりのハッチングを付して示し、分割映像Bのはみ出し領域の映像を右斜め下がりのハッチングを付して示している。 Split video B is an image of (3584+H over ) pixels×(2160+V over ) pixels. Therefore, an area of split video B with V over pixels in the vertical direction and (3584+H over ) pixels in the horizontal direction protrudes from the image (4096 pixels×2160 pixels) that can be encoded by the 4K encoder 3b. As shown in FIG. 11, the shaping unit 13 shapes split video A and B so that the image of the protruding area of split video A and the image of the protruding area of split video B are assigned to an unassigned area in the image that can be encoded by the 4K encoder 3b, and outputs the shaped images to the 4K encoders 3a and 3b. In FIG. 11, the image of the protruding area of split video A is shown with hatching diagonally upward to the right, and the image of the protruding area of split video B is shown with hatching diagonally downward to the right.

分割映像Cは、4096画素×2160画素の映像であり、4Kエンコーダ3cがエンコード処理可能な映像(4096画素×2160画素の映像)内に収まる。したがって、整形部13は、分割映像Cをそのまま4Kエンコーダ3cに出力する。 The divided image C is a 4096 pixel x 2160 pixel image, which fits within the image that the 4K encoder 3c can encode (4096 pixel x 2160 pixel image). Therefore, the shaping unit 13 outputs the divided image C to the 4K encoder 3c as is.

分割映像Dは、(3584+Hover)画素×2160画素の映像である。分割映像Dの水平方向の画素数が、4Kエンコーダ3dがエンコード処理可能な映像(3840画素×2160画素の映像)内に収まる場合、整形部13は、分割映像Dをそのまま4Kエンコーダ3dに出力する。 The divided video D is an image of (3584+H over ) pixels×2160 pixels. If the number of pixels in the horizontal direction of the divided video D falls within the range of an image that can be encoded by the 4K encoder 3d (an image of 3840 pixels×2160 pixels), the shaping unit 13 outputs the divided video D as is to the 4K encoder 3d.

このように、整形部13は、複数の分割映像のはみ出し領域の映像が、1つの4Kエンコーダ3がエンコード処理可能な映像における未割当領域に割り当てられるように、複数の分割映像を整形してもよい。 In this way, the shaping unit 13 may shape the multiple split images so that the images of the overflow areas of the multiple split images are assigned to unallocated areas in the images that can be encoded by a single 4K encoder 3.

次に、再構成部21および復元部22の動作について説明する。 Next, the operation of the reconstruction unit 21 and the restoration unit 22 will be described.

再構成部21は、4Kデコーダ8a~8dによりデコードされた、整形後の分割映像(整形後の4K映像)が入力されると、整形部13と逆の処理を行うことで、整形部13により移動された映像を元の領域に戻し、整形前の分割映像を再構成する。再構成部21は、4Kエンコーダ3がエンコード処理可能な映像の未割当領域に割り当てられた映像を、はみ出し領域に戻して、整形前の分割映像を再構成する。 When the reconstruction unit 21 receives the shaped divided images (shaped 4K images) decoded by the 4K decoders 8a to 8d, it performs the reverse process of the shaping unit 13 to return the images moved by the shaping unit 13 to their original areas and reconstruct the divided images before shaping. The reconstruction unit 21 returns the images that have been allocated to unallocated areas of the images that can be encoded by the 4K encoder 3 to the overflow areas, and reconstructs the divided images before shaping.

復元部22は、再構成部21により再構成された分割映像を統合して、入力映像である8K映像を生成する。ここで、復元部22は、分割映像同士が重複する領域の映像を用いたフィルタ処理により平滑化を行ってもよい。復元部22は、復元した8K映像をバッファ23に出力する。 The restoration unit 22 integrates the split images reconstructed by the reconstruction unit 21 to generate an 8K image, which is an input image. Here, the restoration unit 22 may perform smoothing by a filter process using images of areas where the split images overlap. The restoration unit 22 outputs the restored 8K image to the buffer 23.

次に、映像入力装置10の動作について、図12に示すフローチャートを参照して説明する。 Next, the operation of the video input device 10 will be described with reference to the flowchart shown in FIG. 12.

ステップS11において、映像入力装置10の分割部12は、入力映像である8K映像を、垂直方向と水平方向とにそれぞれ2分割して、垂直方向と水平方向とにそれぞれ2つずつ分割映像が並ぶように分割する。ここで、分割部12は、隣り合う分割映像同士がそれぞれ、一部が重複するように、8K映像を分割する。また、分割部12は、4つの分割映像のうち、少なくとも一部の分割映像について、水平方向の画素数が対応する4Kエンコーダ3がエンコード処理可能な映像の水平方向の画素数よりも小さく、垂直方向の画素数が対応する4Kエンコーダ3がエンコード処理可能な映像の垂直方向の画素数よりも大きくなるように、8K映像を分割する。 In step S11, the splitter 12 of the video input device 10 splits the 8K video, which is the input video, into two vertically and horizontally, so that two split videos are lined up in each of the vertical and horizontal directions. Here, the splitter 12 splits the 8K video so that adjacent split videos partially overlap. In addition, the splitter 12 splits the 8K video so that, for at least some of the four split videos, the number of pixels in the horizontal direction is smaller than the number of pixels in the horizontal direction of the video that can be encoded by the corresponding 4K encoder 3, and the number of pixels in the vertical direction is greater than the number of pixels in the vertical direction of the video that can be encoded by the corresponding 4K encoder 3.

ステップS12において、映像入力装置10の整形部13は、分割映像を対応するエンコーダ3がエンコード処理可能な映像の画素数に合わせて整形して、対応する4Kエンコーダ3に入力する。ここで、整形部13は、4つの分割映像それぞれの、対応する4Kエンコーダ3がエンコード処理可能な映像から垂直方向にはみ出すはみ出し領域の映像が、4Kエンコーダ3がエンコード処理可能な映像のうち、対応する分割映像が割り当てられていない未割当領域に割り当てられるように、4つの分割映像の一部を整形する。 In step S12, the shaping unit 13 of the video input device 10 shapes the divided video to match the number of pixels of the video that can be encoded by the corresponding encoder 3, and inputs the result to the corresponding 4K encoder 3. Here, the shaping unit 13 shapes a part of the four divided videos so that the video of the protruding area that protrudes vertically from the video that can be encoded by the corresponding 4K encoder 3 is assigned to an unallocated area of the video that can be encoded by the 4K encoder 3 to which the corresponding divided video is not assigned.

少なくとも一部の分割映像が、対応する4Kエンコーダ3がエンコード処理可能な映像に対して、垂直方向には大きく、水平方向には小さくなるよう入力映像を分割し、分割映像を対応する4Kエンコーダ3がエンコード処理可能な映像に合わせて整形することで、分割映像における、垂直方向にはみ出した領域の映像を、4Kエンコーダ3がエンコード処理可能な映像における未割当領域に割り当てることができる。そのため、垂直方向にも分割映像を拡大して重複させることができるので、送信側において映像を分割して伝送する場合に、受信側で復元される映像に分割映像の境界線が生じにくくなり、受信側における映像の品質劣化を抑制することができる。 By dividing the input video so that at least some of the divided images are larger in the vertical direction and smaller in the horizontal direction than the video that the corresponding 4K encoder 3 can encode, and shaping the divided images to match the video that the corresponding 4K encoder 3 can encode, it is possible to allocate the video in the vertically protruding area of the divided images to unallocated areas in the video that the 4K encoder 3 can encode. Therefore, since the divided images can be expanded and overlapped in the vertical direction as well, when the video is divided and transmitted on the transmitting side, the boundary lines of the divided images are less likely to appear in the video restored on the receiving side, and degradation of the quality of the video on the receiving side can be suppressed.

次に、映像出力装置20の動作について、図13に示すフローチャートを参照して説明する。 Next, the operation of the video output device 20 will be described with reference to the flowchart shown in FIG. 13.

ステップS21において、映像出力装置20の再構成部21は、4Kデコーダ8a~8dによりデコードされた整形後の4つの分割映像において未割当領域に相当する領域の映像を元の位置に移動し、4つの分割映像(整形部13による整形前の分割映像)を再構成する。 In step S21, the reconstruction unit 21 of the video output device 20 moves the image of the area corresponding to the unallocated area in the four divided images after shaping decoded by the 4K decoders 8a to 8d to the original position, and reconstructs the four divided images (the divided images before shaping by the shaping unit 13).

ステップS22において、映像出力装置20の復元部22は、再構成部21により再構成された4つの分割映像から元の入力映像を復元して出力する。 In step S22, the restoration unit 22 of the video output device 20 restores and outputs the original input video from the four split videos reconstructed by the reconstruction unit 21.

このように本実施形態においては、映像入力装置10は、入力映像を、垂直方向と水平方向とにそれぞれ2分割して、4つの分割映像が垂直方向と水平方向とにそれぞれ2つずつ並ぶように分割する分割部12と、分割映像を対応する4Kエンコーダ3がエンコード処理可能な映像の画素数に合わせて整形して、対応する4Kエンコーダ3に入力する整形部13と、を備える。分割部12は、隣り合う分割映像同士がそれぞれ、一部が重複し、かつ、4つの分割映像のうち、少なくとも一部の分割映像について、水平方向の画素数が対応する4Kエンコーダ3がエンコード処理可能な映像の水平方向の画素数よりも小さく、垂直方向の画素数が対応する4Kエンコーダ3がエンコード処理可能な映像の垂直方向の画素数よりも大きくなるように、入力映像を分割する。整形部13は、4つの分割映像それぞれの、対応する4Kエンコーダ3がエンコード処理可能な映像から垂直方向にはみ出すはみ出し領域の映像が、4Kエンコーダ3がエンコード処理可能な映像のうち、対応する分割映像が割り当てられていない未割当領域に割り当てられるように、4つの分割映像の一部を整形する。 Thus, in this embodiment, the video input device 10 includes a splitting unit 12 that splits the input video into two vertically and horizontally so that four split videos are arranged two by two in each of the vertical and horizontal directions, and a shaping unit 13 that shapes the split videos to match the number of pixels of a video that can be encoded by the corresponding 4K encoder 3 and inputs them to the corresponding 4K encoder 3. The splitting unit 12 splits the input video so that adjacent split videos overlap in part, and so that at least some of the four split videos have a smaller number of pixels in the horizontal direction than the number of pixels in the horizontal direction of a video that can be encoded by the corresponding 4K encoder 3 and a larger number of pixels in the vertical direction than the number of pixels in the vertical direction of a video that can be encoded by the corresponding 4K encoder 3. The shaping unit 13 shapes a part of the four divided images so that the image of the protruding area of each of the four divided images that protrudes vertically from the image that can be encoded by the corresponding 4K encoder 3 is assigned to an unallocated area of the image that can be encoded by the 4K encoder 3 to which the corresponding divided image is not assigned.

また、本実施形態においては、映像出力装置20は、4Kデコーダ8a~8dによりデコードされた整形後の4つの分割映像において未割当領域に相当する領域の映像を元の位置に移動し、4つの分割映像を再構成する再構成部21と、再構成部21により再構成された4つの分割映像から入力映像を復元して出力する復元部22と、を備える。 In addition, in this embodiment, the video output device 20 includes a reconstruction unit 21 that moves the video of the area corresponding to the unallocated area in the four divided videos after shaping decoded by the 4K decoders 8a to 8d to the original position and reconstructs the four divided videos, and a restoration unit 22 that restores and outputs the input video from the four divided videos reconstructed by the reconstruction unit 21.

このように、送信側に設けられる映像入力装置10では、少なくとも一部の分割映像が、対応する4Kエンコーダ3がエンコード処理可能な映像に対して、垂直方向には大きく、水平方向には小さくなるよう入力映像が分割される。また、分割映像が、対応する4Kエンコーダ3がエンコード処理可能な映像に合わせて整形される。また、受信側に設けられる映像出力装置20では、整形後の分割映像から元の分割映像が再構成され、再構成された分割映像から元の入力映像が復元される。 In this way, in the video input device 10 provided on the transmitting side, the input video is divided so that at least some of the divided videos are larger in the vertical direction and smaller in the horizontal direction than the video that the corresponding 4K encoder 3 can encode. The divided videos are also shaped to match the video that the corresponding 4K encoder 3 can encode. In addition, in the video output device 20 provided on the receiving side, the original divided videos are reconstructed from the shaped divided videos, and the original input video is restored from the reconstructed divided videos.

こうすることで、分割映像における、垂直方向にはみ出した領域の映像を、4Kエンコーダ3がエンコード処理可能な映像における未割当領域に割り当てることができる。そのため、垂直方向にも分割映像を拡大して重複させることができるので、送信側において映像を分割し、受信側において分割された映像を統合する場合、隣り合う映像間の境界線の発生を抑制することができる。 By doing this, the image of the area that protrudes vertically in the divided images can be assigned to an unallocated area in the image that can be encoded by the 4K encoder 3. Therefore, the divided images can be expanded and overlapped in the vertical direction as well, so that when the image is divided on the transmitting side and the divided images are integrated on the receiving side, the occurrence of boundary lines between adjacent images can be suppressed.

なお、実施形態では特に触れていないが、コンピュータを、映像入力装置10または映像出力装置20として機能させるプログラムが提供されてもよい。また、プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD-ROM、DVD-ROMなどの記録媒体であってもよい。 Although not specifically mentioned in the embodiment, a program may be provided that causes a computer to function as the video input device 10 or the video output device 20. The program may also be recorded on a computer-readable medium. The computer-readable medium can be used to install the program on a computer. Here, the computer-readable medium on which the program is recorded may be a non-transient recording medium. The non-transient recording medium is not particularly limited, and may be, for example, a recording medium such as a CD-ROM or a DVD-ROM.

あるいは、映像入力装置10および映像出力装置20が行う各処理を実行するためのプログラムを記憶するメモリ、および、メモリに記憶されたプログラムを実行するプロセッサによって構成され、映像入力装置10または映像出力装置20に搭載されるチップが提供されてもよい。 Alternatively, a chip may be provided that is configured with a memory that stores programs for executing the processes performed by the video input device 10 and the video output device 20, and a processor that executes the programs stored in the memory, and is mounted on the video input device 10 or the video output device 20.

上述の実施形態は代表的な例として説明したが、本発明の趣旨および範囲内で、多くの変更および置換が可能であることは当業者に明らかである。したがって、本発明は、上述の実施形態によって制限するものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形および変更が可能である。例えば、実施形態の構成図に記載の複数の構成ブロックを1つに組み合わせたり、あるいは1つの構成ブロックを分割したりすることが可能である。 The above-mentioned embodiment has been described as a representative example, but it will be apparent to those skilled in the art that many modifications and substitutions are possible within the spirit and scope of the present invention. Therefore, the present invention should not be interpreted as being limited by the above-mentioned embodiment, and various modifications and changes are possible without departing from the scope of the claims. For example, it is possible to combine multiple configuration blocks shown in the configuration diagram of the embodiment into one, or to divide one configuration block.

1,1A 映像伝送システム
2 8Kカメラ
3,3a~3d 4Kエンコーダ
4 TS信号多重器
5 送信機
6 受信機
7 TS信号分離器
8,8a~8d 4Kデコーダ
9 表示器
10 映像入力装置
11 バッファ
12 分割部
13 整形部
20 映像出力装置
21 再構成部
22 復元部
23 バッファ
REFERENCE SIGNS LIST 1, 1A video transmission system 2 8K camera 3, 3a to 3d 4K encoder 4 TS signal multiplexer 5 transmitter 6 receiver 7 TS signal separator 8, 8a to 8d 4K decoder 9 display 10 video input device 11 buffer 12 division section 13 shaping section 20 video output device 21 reconstruction section 22 restoration section 23 buffer

Claims (9)

入力映像を4つの分割映像に分割し、前記4つの分割映像のそれぞれに対応する第1から第4のエンコーダに前記4つの分割映像を入力する映像入力装置であって、
前記第1から第3のエンコーダは、垂直方向に前記入力映像の垂直方向の画素数の半分の画素数を有し、水平方向に前記入力映像の水平方向の画素の半分よりも大きい画素数を有する映像をエンコード処理可能であり、
前記第4のエンコーダは、垂直方向に前記入力映像の垂直方向の画素数の半分の画素数を有し、水平方向に前記入力映像の水平方向の画素数の半分以上の画素数を有する映像をエンコード処理可能であり、
前記入力映像を、垂直方向と水平方向とにそれぞれ2分割して、前記4つの分割映像が垂直方向と水平方向とにそれぞれ2つずつ並ぶように分割する分割部と、
前記分割映像を対応するエンコーダがエンコード処理可能な映像の画素数に合わせて整形して、前記対応するエンコーダに入力する整形部と、を備え、
前記分割部は、
隣り合う分割映像同士がそれぞれ、一部が重複し、かつ、
前記4つの分割映像のうち、少なくとも一部の分割映像について、水平方向の画素数が対応するエンコーダがエンコード処理可能な映像の水平方向の画素数よりも小さく、垂直方向の画素数が対応するエンコーダがエンコード処理可能な映像の垂直方向の画素数よりも大きくなるように、前記入力映像を分割し、
前記整形部は、前記4つの分割映像それぞれの、対応するエンコーダがエンコード処理可能な映像から垂直方向にはみ出すはみ出し領域の映像が、前記第1から第4のエンコーダがエンコード処理可能な映像のうち、対応する分割映像が割り当てられていない未割当領域に割り当てられるように、前記4つの分割映像の一部を整形する、映像入力装置。
A video input device that divides an input video into four divided videos and inputs the four divided videos to first to fourth encoders corresponding to the four divided videos,
the first to third encoders are capable of encoding an image having half the number of pixels in the vertical direction of the input image and having more than half the number of pixels in the horizontal direction of the input image;
the fourth encoder is capable of encoding an image having a number of pixels in a vertical direction that is half the number of pixels in the vertical direction of the input image, and a number of pixels in a horizontal direction that is equal to or greater than half the number of pixels in the horizontal direction of the input image;
a division unit that divides the input image into two in a vertical direction and a horizontal direction, so that the four divided images are arranged in pairs in the vertical direction and two in the horizontal direction;
a shaping unit that shapes the divided video in accordance with a number of pixels of a video that can be encoded by a corresponding encoder and inputs the divided video to the corresponding encoder;
The division unit is
Adjacent split images overlap in part, and
Dividing the input video such that, for at least some of the four divided videos, the number of pixels in the horizontal direction is smaller than the number of pixels in the horizontal direction of a video that can be encoded by a corresponding encoder, and the number of pixels in the vertical direction is greater than the number of pixels in the vertical direction of a video that can be encoded by a corresponding encoder;
The shaping unit shapes a portion of the four split images so that an image of an overhanging area of each of the four split images that extends vertically beyond the image that can be encoded by the corresponding encoder is assigned to an unallocated area of the images that can be encoded by the first to fourth encoders to which the corresponding split image is not assigned.
請求項1に記載の映像入力装置において、
前記整形部は、前記分割映像の前記はみ出し領域の映像を前記未割当領域に割り当てる場合、前記分割映像の垂直方向の両端部のうち、前記分割映像と垂直方向に並ぶ分割映像から遠い端部側の映像を前記未割当領域に割り当てる、映像入力装置。
2. The video input device according to claim 1,
A video input device in which, when the shaping unit assigns an image of the overflow area of the split image to the unallocated area, the image of the end side farthest from the split image that is vertically aligned with the split image is assigned to the unallocated area, out of both vertical ends of the split image.
請求項1または2に記載の映像入力装置において、
前記整形部は、前記分割映像に対応するエンコーダがエンコード処理可能な映像における前記未割当領域に、前記分割映像のはみ出し領域の映像を割り当てる、映像入力装置。
3. The video input device according to claim 1,
The shaping unit assigns an image of a protruding area of the divided image to the unassigned area in an image that can be encoded by an encoder corresponding to the divided image.
請求項1または2に記載の映像入力装置において、
前記整形部は、複数の前記分割映像それぞれの前記はみ出し領域の映像を、1つのエンコーダがエンコード処理可能な映像における前記未割当領域に割り当てる、映像入力装置。
3. The video input device according to claim 1,
A video input device, wherein the shaping unit allocates the image of the protruding area of each of the plurality of divided images to the unallocated area in an image that can be encoded by a single encoder.
請求項1から4のいずれか一項に記載の映像入力装置において、
前記第1から第4のエンコーダは、M画素×M画素単位でエンコードを行い、
前記分割部は、垂直方向に並ぶ分割映像同士が重複する領域の垂直方向の画素数、および、水平方向に並ぶ分割映像同士が重複する領域の水平方向の画素数が、Mの整数倍となるように、前記入力映像を分割する、映像入力装置。
5. The video input device according to claim 1,
The first to fourth encoders perform encoding in units of M pixels by M pixels,
A video input device, wherein the division unit divides the input video so that the number of vertical pixels in an area where vertically aligned divided videos overlap, and the number of horizontal pixels in an area where horizontally aligned divided videos overlap, are integer multiples of M.
請求項1から5のいずれか一項に記載の映像入力装置により前記第1から第4のエンコーダに入力され、前記第1から第4のエンコーダによるエンコード後の分割映像が第1から第4のデコーダによりデコードされた分割映像から、前記入力映像を出力する映像出力装置であって、
前記第1から第4のデコーダによりデコードされた整形後の前記4つの分割映像において前記未割当領域に相当する領域の映像を元の位置に移動し、前記4つの分割映像を再構成する再構成部と、
前記再構成部により再構成された前記4つの分割映像から前記入力映像を復元して出力する復元部と、を備える映像出力装置。
A video output device that outputs the input video from divided videos that are input to the first to fourth encoders by the video input device according to any one of claims 1 to 5 and are decoded by first to fourth decoders from divided videos that have been encoded by the first to fourth encoders,
a reconstruction unit that moves an image of an area corresponding to the unallocated area in the four divided images after shaping decoded by the first to fourth decoders to an original position, and reconstructs the four divided images;
a restoration unit that restores the input video from the four divided videos reconstructed by the reconstruction unit and outputs the restored video.
入力映像を4つの分割映像に分割し、前記4つの分割映像のそれぞれに対応する第1から第4のエンコーダに前記4つの分割映像を入力する映像入力装置と、
前記第1から第4のエンコーダによるエンコード後の分割映像が第1から第4のデコーダによりデコードされた分割映像から、前記入力映像を出力する映像出力装置と、を備え、
前記第1から第3のエンコーダは、垂直方向に前記入力映像の垂直方向の画素数の半分の画素数を有し、水平方向に前記入力映像の水平方向の画素の半分よりも大きい画素数を有する映像をエンコード処理可能であり、
前記第4のエンコーダは、垂直方向に前記入力映像の垂直方向の画素数の半分の画素数を有し、水平方向に前記入力映像の水平方向の画素数の半分以上の画素数を有する映像をエンコード処理可能であり、
前記映像入力装置は、
前記入力映像を、垂直方向と水平方向とにそれぞれ2分割して、前記4つの分割映像が垂直方向と水平方向とにそれぞれ2つずつ並ぶように分割する分割部と、
前記分割映像を対応するエンコーダがエンコード処理可能な映像の画素数に合わせて整形して、前記対応するエンコーダに入力する整形部と、を備え、
前記映像出力装置は、
前記第1から第4のデコーダによりデコードされた整形後の前記4つの分割映像において、対応する分割映像が割り当てられていない未割当領域に相当する領域の映像を元の位置に移動し、前記4つの分割映像を再構成する再構成部と、
前記再構成部により再構成された前記4つの分割映像から前記入力映像を復元して出力する復元部と、を備え、
前記分割部は、
隣り合う分割映像同士がそれぞれ、一部が重複し、かつ、
前記4つの分割映像のうち、少なくとも一部の分割映像について、水平方向の画素数が対応するエンコーダがエンコード処理可能な映像の水平方向の画素数よりも小さく、垂直方向の画素数が対応するエンコーダがエンコード処理可能な映像の垂直方向の画素数よりも大きくなるように、前記入力映像を分割し、
前記整形部は、前記4つの分割映像それぞれの、対応するエンコーダがエンコード処理可能な映像から垂直方向にはみ出すはみ出し領域の映像が、前記第1から第4のエンコーダがエンコード処理可能な映像のうち、前記未割当領域に割り当てられるように、前記4つの分割映像の一部を整形する、映像伝送システム。
a video input device that divides an input video into four divided videos and inputs the four divided videos to first to fourth encoders corresponding to the four divided videos;
a video output device that outputs the input video from the divided videos that have been encoded by the first to fourth encoders and decoded by first to fourth decoders,
the first to third encoders are capable of encoding an image having half the number of pixels in the vertical direction of the input image and having more than half the number of pixels in the horizontal direction of the input image;
the fourth encoder is capable of encoding an image having a number of pixels in a vertical direction that is half the number of pixels in the vertical direction of the input image, and a number of pixels in a horizontal direction that is equal to or greater than half the number of pixels in the horizontal direction of the input image;
The video input device is
a division unit that divides the input image into two in a vertical direction and a horizontal direction, so that the four divided images are arranged in pairs in the vertical direction and two in the horizontal direction;
a shaping unit that shapes the divided video in accordance with a number of pixels of a video that can be encoded by a corresponding encoder and inputs the divided video to the corresponding encoder;
The video output device is
a reconstruction unit that moves, in the four divided images after shaping decoded by the first to fourth decoders , images of areas corresponding to unallocated areas to which no corresponding divided images are assigned , to their original positions, and reconstructs the four divided images;
a restoration unit that restores the input video from the four divided videos reconstructed by the reconstruction unit and outputs the restored video,
The division unit is
Adjacent split images overlap in part, and
Dividing the input video such that, for at least some of the four divided videos, the number of pixels in the horizontal direction is smaller than the number of pixels in the horizontal direction of a video that can be encoded by a corresponding encoder, and the number of pixels in the vertical direction is greater than the number of pixels in the vertical direction of a video that can be encoded by a corresponding encoder;
The shaping unit shapes a portion of the four divided images so that an image of an overhanging area of each of the four divided images that vertically extends beyond the image that can be encoded by the corresponding encoder is assigned to the unallocated area of the image that can be encoded by the first to fourth encoders.
コンピュータを、請求項1から5のいずれか一項に記載の映像入力装置として機能させる、プログラム。 A program that causes a computer to function as a video input device according to any one of claims 1 to 5. コンピュータを、請求項6に記載の映像出力装置として機能させる、プログラム。 A program that causes a computer to function as the video output device described in claim 6.
JP2020104865A 2020-06-17 2020-06-17 Video input device, video output device, video transmission system and program Active JP7560969B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020104865A JP7560969B2 (en) 2020-06-17 2020-06-17 Video input device, video output device, video transmission system and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020104865A JP7560969B2 (en) 2020-06-17 2020-06-17 Video input device, video output device, video transmission system and program

Publications (2)

Publication Number Publication Date
JP2021197700A JP2021197700A (en) 2021-12-27
JP7560969B2 true JP7560969B2 (en) 2024-10-03

Family

ID=79196114

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020104865A Active JP7560969B2 (en) 2020-06-17 2020-06-17 Video input device, video output device, video transmission system and program

Country Status (1)

Country Link
JP (1) JP7560969B2 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014230068A (en) 2013-05-22 2014-12-08 株式会社Jvcケンウッド Moving image encoding device, moving image encoding method and moving image encoding program
JP2015173404A (en) 2014-03-12 2015-10-01 富士通株式会社 Moving picture coding apparatus, moving picture coding method, and moving picture coding computer program
WO2019039012A1 (en) 2017-08-23 2019-02-28 ソニーセミコンダクタソリューションズ株式会社 Image processing device and image processing method

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014230068A (en) 2013-05-22 2014-12-08 株式会社Jvcケンウッド Moving image encoding device, moving image encoding method and moving image encoding program
JP2015173404A (en) 2014-03-12 2015-10-01 富士通株式会社 Moving picture coding apparatus, moving picture coding method, and moving picture coding computer program
WO2019039012A1 (en) 2017-08-23 2019-02-28 ソニーセミコンダクタソリューションズ株式会社 Image processing device and image processing method

Also Published As

Publication number Publication date
JP2021197700A (en) 2021-12-27

Similar Documents

Publication Publication Date Title
US7899115B2 (en) Method for scalably encoding and decoding video signal
US20190379894A1 (en) Video decoding method and apparatus
JP6305279B2 (en) Video compression device and video playback device
KR101173335B1 (en) Image partition based ultra-high definition video encoder and decoder and controlling method for the same
JP2015536087A (en) SAO offset compensation method and apparatus for encoding inter-layer prediction error
KR101625910B1 (en) Method and device for image processing by image division
CN103229506A (en) Image processing device and image processing method
US20040252900A1 (en) Spatial scalable compression
CN102780881A (en) Encoder, decoder, encoder system, decoder system, encoding method, decoding method, transmission adapter, and imaging apparatus
KR20200047723A (en) Video decoding method and apparatus using transform according to block size in video coding system
KR102279310B1 (en) Encoding method and device, and decoding method and device
JP2010226672A (en) Image segmentation device, segmented image encoding device, and program
JP7560969B2 (en) Video input device, video output device, video transmission system and program
JP2018160909A (en) Encoding device, decoding device, encoding method, and decoding method
JP4355914B2 (en) Multi-view image transmission system and method, multi-view image compression device and method, multi-view image decompression device and method, and program
JPH08130733A (en) Device and method for processing moving picture
JP2018011197A (en) Video distribution device, video coding device, video distribution method, video coding method, video distribution program and video coding program
TWI805926B (en) Image encoding device, image decoding device, image encoding method, image decoding method
JP2018011198A (en) Video coding device, video coding method and video coding program
KR20060059769A (en) A method of coding fine information for using a vector of a base layer picture when encoding a video signal and a decoding method using the fine information
JP2019087850A (en) Region dividing device, divided region combining device, encoding device, decoding device, and program
JP6098226B2 (en) Image encoding apparatus and image decoding apparatus
KR20090103414A (en) Method for encoding and decoding video, and apparatus for encoding and decoding video
JP2018032913A (en) Video encoding apparatus, program and method, video decoding apparatus, program and method, and video transmission system
JP2022011207A (en) Coding device, decoding device, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230517

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240516

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240614

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240827

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240920

R150 Certificate of patent or registration of utility model

Ref document number: 7560969

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150