Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7445904B2 - Video output device, video output method, and video output system - Google Patents
[go: Go Back, main page]

JP7445904B2 - Video output device, video output method, and video output system - Google Patents

Video output device, video output method, and video output system Download PDF

Info

Publication number
JP7445904B2
JP7445904B2 JP2022146045A JP2022146045A JP7445904B2 JP 7445904 B2 JP7445904 B2 JP 7445904B2 JP 2022146045 A JP2022146045 A JP 2022146045A JP 2022146045 A JP2022146045 A JP 2022146045A JP 7445904 B2 JP7445904 B2 JP 7445904B2
Authority
JP
Japan
Prior art keywords
video data
noise
video
gradation
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022146045A
Other languages
Japanese (ja)
Other versions
JP2022173290A (en
Inventor
竜司 渕上
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2022146045A priority Critical patent/JP7445904B2/en
Publication of JP2022173290A publication Critical patent/JP2022173290A/en
Application granted granted Critical
Publication of JP7445904B2 publication Critical patent/JP7445904B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Studio Devices (AREA)
  • Picture Signal Circuits (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

本開示は、比較的高いフレームレートを有する映像の表示に好適な映像表示システム等に用いられる映像出力装置、映像出力方法および映像出力システムに関する。 The present disclosure relates to a video output device, a video output method, and a video output system used in a video display system suitable for displaying video having a relatively high frame rate.

動画像の映像信号に対して画像処理及び伝送を行い、表示装置に映像を表示する映像表示システムは、人の視覚を考慮して60fps(frame per seconds)以下のフレームレートにて動作するよう設計されるのが一般的である。このような映像表示システムでは、撮像装置によって取得した映像が表示装置にて表示されるまでの間に、撮像、画像処理、伝送の各処理の実行によって、システム全体としてある程度の遅延が発生することになる。例えば、フレームレートが60fpsの場合には、1フレームあたりの時間が約16.6msとなり、映像表示の遅延として例えば100ms程度の遅延が発生することがある。 A video display system that processes and transmits video signals of moving images and displays the video on a display device is designed to operate at a frame rate of 60 fps (frames per seconds) or less, taking human vision into consideration. It is common that In such a video display system, a certain amount of delay may occur in the entire system due to the execution of imaging, image processing, and transmission processing until the video acquired by the imaging device is displayed on the display device. become. For example, when the frame rate is 60 fps, the time per frame is about 16.6 ms, and a delay of about 100 ms may occur as a delay in video display.

撮像装置によって撮像した映像出力に対する上記のような映像表示の遅延は、システムの動作に悪影響を及ぼし得る。例えば、遠隔から映像を見ながらロボットアームを制御して不規則に動くものを掴むような場合において、映像の遅延は安定した操作を阻害する要因となるため、映像表示の遅延を解消することが望まれる。リアルタイム映像を利用する内視鏡手術及び遠隔手術、災害救助ロボットの遠隔操作などに用いられる映像表示システムにおいても、映像表示の遅延の解消が有益となる。 The above-described delay in displaying an image relative to the output of an image captured by an imaging device can adversely affect the operation of the system. For example, when controlling a robot arm to grasp an object that moves irregularly while viewing images from a remote location, it is necessary to eliminate the delay in image display because image delays can hinder stable operation. desired. Eliminating video display delays is also beneficial in video display systems used for endoscopic surgery and remote surgery that utilize real-time video, remote control of disaster relief robots, and the like.

一方で、映像に比較的高いフレームレート(例えば、480fps)を適用することにより、映像表示の遅延を抑制する技術も想定されるが、単にフレームレートを増大させた場合には、伝送量及び演算量の増大を招くことになる。 On the other hand, a technology that suppresses the delay in video display by applying a relatively high frame rate (for example, 480 fps) to the video is also envisioned, but simply increasing the frame rate would reduce the amount of transmission and calculation. This will lead to an increase in the amount.

映像の高解像度を維持しつつ伝送量を抑制するための技術として、例えば、監視用カメラによって撮影された映像に関し、人が出入りするドアの付近などに注目し、この監視したい注目監視エリアを高フレームレートで表示し、植物が置かれた場所や壁など注目監視エリアの背景となるようなエリアをネットワーク帯域の有効利用を考慮して低フレームレートで伝送を行うようにしたものが知られている。 As a technique for suppressing the amount of transmission while maintaining high resolution of images, for example, with respect to images taken by surveillance cameras, we focus on areas such as the areas near doors where people enter and exit, and increase the focus on the surveillance areas that we want to monitor. There is a known method that displays the area at a frame rate and transmits areas such as plants and walls that serve as the background of the monitored area at a low frame rate in consideration of effective use of network bandwidth. There is.

特開2008-219484号公報JP2008-219484A

上記特許文献1に記載された従来技術では、高フレームレートとして30fps程度が想定されている。ここで、映像の高解像度を維持するために、より高いフレームレート(例えば、480fps)を適用した場合には、高フレームレートの適用が注目監視エリアのような画像の一部であったとしても、伝送量及び演算量の増大は問題となり得る。 In the conventional technology described in Patent Document 1, a high frame rate of about 30 fps is assumed. Here, if a higher frame rate (for example, 480 fps) is applied to maintain the high resolution of the video, even if the high frame rate is applied to a part of the image such as the surveillance area of interest. , an increase in the amount of transmission and calculation can be a problem.

本開示は、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することができる映像出力装置、映像出力方法および映像出力システムを提供することを目的とする。 The present disclosure makes it possible to suppress an increase in the amount of video transmission and the amount of calculation while suppressing a deterioration in the quality of the displayed image when acquiring a video having a relatively high frame rate and transmitting it to a display device. The purpose of the present invention is to provide a video output device, a video output method, and a video output system.

本開示は、入力された第1の映像データの輝度値に基づいて、前記第1の映像データにノイズを付加するノイズ付加部と、前記ノイズを付加した第2の映像データを、前記第1の映像データから得られる第1階調よりも階調値が小さい第2階調の表示映像データに変換する変調部と、前記第2階調の表示映像データを出力する映像出力部と、を備え、前記ノイズ付加部は、前記第1の映像データの輝度値が低輝度領域の場合には、広く設定された振幅範囲で発生させたノイズを付加し、前記第1の映像データの輝度値が高輝度領域の場合には、狭く設定された振幅範囲で発生させた前記ノイズを付加する、映像出力装置を提供する。 The present disclosure includes a noise adding unit that adds noise to the first video data based on a luminance value of the input first video data; a modulation unit that converts the video data into second gradation display video data having a smaller gradation value than the first gradation obtained from the video data; and a video output unit that outputs the second gradation display video data. When the brightness value of the first video data is in a low brightness region, the noise adding section adds noise generated in a widely set amplitude range, and increases the brightness value of the first video data. Provided is a video output device that adds the noise generated in a narrowly set amplitude range when the noise is in a high brightness area .

また、本開示は、映像出力装置が行う映像出力方法であって、入力された第1の映像データの輝度値に基づいて、前記第1の映像データに前記第1の映像データの輝度値が低輝度領域の場合には、広く設定された振幅範囲で発生させたノイズを付加し、前記第1の映像データの輝度値が高輝度領域の場合には、狭く設定された振幅範囲で発生させた前記ノイズを付加するステップと、前記ノイズを付加した第2の映像データを前記第1の映像データから得られる第1階調よりも階調値が小さい第2階調の表示映像データに変換するステップと、前記第2階調の表示映像データを出力するステップと、を実行する、映像出力方法を提供する。 The present disclosure also provides a video output method performed by a video output device, in which a brightness value of the first video data is set in the first video data based on a brightness value of the input first video data. In the case of a low brightness area, noise generated in a wide set amplitude range is added, and when the brightness value of the first video data is in a high brightness area, noise is generated in a narrowly set amplitude range. and converting the second video data to which the noise has been added into display video data of a second gradation value that is smaller than the first gradation value obtained from the first video data. and outputting display video data of the second gradation.

また、本開示は、撮像デバイスと、前記撮像デバイスと通信可能な映像出力装置と、前記映像出力装置と通信可能な表示装置と、を備える映像出力システムであって、前記撮像デバイスは、撮像により第1の映像データを生成して、前記映像出力装置に出力し、前記映像出力装置は、前記第1の映像データの輝度値に基づいて、前記第1の映像データに前記第1の映像データの輝度値が低輝度領域の場合には、広く設定された振幅範囲で発生させた前記ノイズを付加し、前記第1の映像データの輝度値が高輝度領域の場合には、狭く設定された振幅範囲で発生させた前記ノイズを付加した第2の映像データを生成し、前記第2の映像データを、前記第1の映像データから得られる第1階調よりも階調値が小さい第2階調の表示映像データに変換して、前記表示装置に出力し、前記表示装置は、出力された前記表示映像データを表示する、映像出力システムを提供する。 The present disclosure also provides a video output system including an imaging device, a video output device capable of communicating with the imaging device, and a display device capable of communicating with the video output device, wherein the imaging device First video data is generated and output to the video output device, and the video output device converts the first video data into the first video data based on the luminance value of the first video data. If the brightness value of the first video data is in a low brightness region, the noise generated in a wide set amplitude range is added, and if the brightness value of the first video data is in a high brightness region, the noise generated in a wide set amplitude range is added. generating second video data to which the noise generated in the amplitude range is added; A video output system is provided in which the data is converted into gradation display video data and outputted to the display device, and the display device displays the output display video data.

本開示によれば、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制できる。 According to the present disclosure, when acquiring a video having a relatively high frame rate and transmitting it to a display device, it is possible to suppress a decrease in the quality of the displayed video and an increase in the amount of video transmission and the amount of calculation. .

本実施の形態に係る撮像装置を含む映像表示システムの構成の第1例を示すブロック図A block diagram showing a first example of the configuration of a video display system including an imaging device according to the present embodiment 本実施の形態に係る撮像装置におけるノイズ特性の一例を示す図A diagram showing an example of noise characteristics in the imaging device according to the present embodiment 本実施の形態に係る撮像装置において映像データにノイズを加算する動作例を示す図A diagram showing an operation example of adding noise to video data in the imaging device according to the present embodiment. 本実施の形態に係る撮像装置を含む映像表示システムの構成の第2例を示すブロック図A block diagram showing a second example of the configuration of a video display system including an imaging device according to the present embodiment 撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、ノイズが発生しない仮想状態を示した図FIG. 2 is a diagram illustrating an example of the relationship between the output brightness value of a video signal and a noise level in an imaging device, and is a diagram illustrating a virtual state in which no noise occurs. 撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、光ショットノイズが発生する実際の撮像デバイスの状態を示した図2 is a diagram illustrating an example of the relationship between the output brightness value of a video signal and a noise level in an imaging device, and is a diagram illustrating an actual state of an imaging device in which optical shot noise occurs. FIG. 比較例の撮像装置における動作例を示す図Diagram showing an example of operation in an imaging device of a comparative example 本実施の形態の撮像装置における動作例を示す図A diagram showing an example of operation in the imaging device of this embodiment

以下、適宜図面を参照しながら、本開示に係る構成を具体的に開示した各実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。 DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, each embodiment specifically disclosing a configuration according to the present disclosure will be described in detail with reference to the drawings as appropriate. However, more detailed explanation than necessary may be omitted. For example, detailed explanations of well-known matters or redundant explanations of substantially the same configurations may be omitted. This is to avoid unnecessary redundancy in the following description and to facilitate understanding by those skilled in the art. The accompanying drawings and the following description are provided to enable those skilled in the art to fully understand the present disclosure, and are not intended to limit the subject matter recited in the claims.

本実施の形態では、比較的高いフレームレートを有する映像を表示する映像表示システムの構成を例示し、この映像表示システムにおいて高フレームレートの映像を取得して伝送する撮像装置の構成及び動作の一例について説明する。高フレームレートの映像表示システムとして、例えば、フレームレート480fpsの映像を表示する場合の構成を示す。フレームレートは、480fps、960fpsなど、通常映像に用いられる30fps~60fpsに比べて十分に高い値を用いる。本実施の形態は、高フレームレートの映像表示によって遅延を抑制するとともに、映像の伝送量及び演算量の増大を抑制する構成例を示すものである。 In this embodiment, a configuration of a video display system that displays video having a relatively high frame rate will be exemplified, and an example of the configuration and operation of an imaging device that acquires and transmits high frame rate video in this video display system will be described. I will explain about it. As a high frame rate video display system, a configuration for displaying a video with a frame rate of 480 fps, for example, is shown. The frame rate used is a value such as 480 fps or 960 fps, which is sufficiently higher than the 30 fps to 60 fps used for normal video. This embodiment shows an example of a configuration in which delay is suppressed by displaying a video at a high frame rate, and an increase in the amount of video transmission and the amount of calculation is suppressed.

ここで、視覚系のコントラスト感度関数(CSF:Contrast Sensitivity Function)の時間特性について説明する。CSFの時間周波数に関して、刺激をコントラスト反転したときにフリッカーが知覚されなくなる時間周波数は臨界融合周波数(CFF:Critical Flicker Frequency)と呼ばれ、CFFは一定のコントラストのもとで刺激が検出できる最大の時間周波数に相当する。人間のCFFは50Hz程度とされており、速くても60~120Hzがコントラストの変化を検知できる限界と考えられる。この人間に知覚可能な上限値を本明細書では人間の視覚時間感度(視覚情報処理の時間的解像度)と呼ぶことにする。人間の視覚時間感度を超えるような例えば480fps以上のフレームレートの高速映像は、人間は複数フレームにまたがって残像的に映像を認知することになる。 Here, the temporal characteristics of the contrast sensitivity function (CSF) of the visual system will be explained. Regarding the temporal frequency of CSF, the temporal frequency at which no flicker is perceived when the contrast of the stimulus is reversed is called the critical fusion frequency (CFF), and CFF is the maximum detectable frequency of the stimulus under a certain contrast. Corresponds to time frequency. The human CFF is said to be about 50 Hz, and 60 to 120 Hz is considered to be the limit at which contrast changes can be detected at the fastest. In this specification, this upper limit perceptible to humans will be referred to as human visual temporal sensitivity (temporal resolution of visual information processing). In the case of high-speed video with a frame rate of 480 fps or higher, which exceeds the visual temporal sensitivity of humans, humans perceive the video as an afterimage across multiple frames.

このような人間の視覚特性を考慮し、本実施の形態では、撮像デバイスにて撮像した比較的高いフレームレートの映像データに対して、ランダムなノイズを加算し、輝度値のビット数を減らして階調を落とした状態で伝送する。この場合、映像データの階調値を小さくしつつ、ランダムなノイズの付加によっていわゆるディザ処理を施して出力することになる。これにより、映像データのデータ量を削減するとともに、階調値の低減により失われた階調成分を、人間の目による複数フレームの残像的な知覚によって回復させて擬似的な階調を与え、表示映像の品質低下を抑制する。 Considering such human visual characteristics, in this embodiment, random noise is added to video data at a relatively high frame rate captured by an imaging device, and the number of bits of the brightness value is reduced. Transmit with reduced gradation. In this case, while reducing the gradation value of the video data, so-called dither processing is performed by adding random noise and outputting the data. As a result, the amount of video data is reduced, and the gradation components lost due to the reduction of gradation values are restored by the human eye's afterimage perception of multiple frames, giving pseudo gradations. Suppressing the deterioration in quality of displayed images.

信号にランダムなノイズを加算することによって、確率共鳴が発生することが知られている。本実施の形態では、確率共鳴を利用し、映像データにランダムなノイズを意図的に加算して閾値未満の信号成分をある確率のもとで検出可能とすることにより、階調値の低減により失われた階調成分を回復させる。 It is known that stochastic resonance occurs by adding random noise to a signal. In this embodiment, by using stochastic resonance and intentionally adding random noise to video data to make it possible to detect signal components below a threshold value with a certain probability, the gradation value can be reduced. Recover lost tone components.

また、本実施形態では、撮像デバイスにおいて発生する固有ノイズの一例としての光ショットノイズを考慮し、映像データに付加するランダムなノイズのノイズレベル(すなわち加算ノイズの振幅範囲)を調整する。この場合、映像データの輝度値に応じて変動する光ショットノイズのノイズレベルに対して、ノイズレベルの総和が輝度値に関わらず一様となるように、加算ノイズの振幅範囲を変化させる。加算ノイズの詳細については後述する。 Furthermore, in this embodiment, the noise level of random noise added to video data (that is, the amplitude range of addition noise) is adjusted in consideration of optical shot noise as an example of inherent noise generated in an imaging device. In this case, with respect to the noise level of optical shot noise that varies depending on the brightness value of video data, the amplitude range of the addition noise is changed so that the sum of the noise levels is uniform regardless of the brightness value. Details of the addition noise will be described later.

図1は、本実施の形態に係る撮像装置を含む映像表示システムの構成の第1例を示すブロック図である。映像表示システム1は、任意の対象物を撮像する撮像装置10と、撮像装置10から出力された映像データ(映像信号)がリアルタイムで入力される高速表示装置(表示装置)30とを有する。 FIG. 1 is a block diagram showing a first example of the configuration of a video display system including an imaging device according to the present embodiment. The video display system 1 includes an imaging device 10 that images an arbitrary object, and a high-speed display device (display device) 30 into which video data (video signal) output from the imaging device 10 is input in real time.

撮像装置10は、撮像デバイス11と、映像出力部12とを有する。撮像装置10は、撮像デバイス11及び映像出力部12を一体的に構成した例えば1チップの半導体装置で構成されるものであってもよいし、撮像デバイス11と映像出力部12とを別体にした例えば複数チップの半導体装置を含む構成であってもよい。 The imaging apparatus 10 includes an imaging device 11 and a video output section 12. The imaging device 10 may be composed of, for example, a one-chip semiconductor device in which the imaging device 11 and the video output section 12 are integrated, or the imaging device 11 and the video output section 12 may be configured separately. For example, the structure may include a plurality of chips of semiconductor devices.

撮像デバイス11は、CCD(Charge Coupled Device)型イメージセンサ又はCMOS(Complementary Metal Oxide Semiconductor)型イメージセンサ等による固体撮像素子を含んで構成される。撮像デバイス11は、図示しない撮像レンズにより結像された被写体の画像を撮像し、人間の視覚時間感度を超える例えば480fps以上の高フレームレートの撮像信号を取得する。そして、撮像デバイス11は、第1のビット数(例えば8ビット)を有する第1階調の映像データ(以下、撮像映像データとも称する)を生成する。撮像映像データのフレームレートは、例えば約1000fpsとする。第1階調の映像データは、第1階調(例えば8ビット)の輝度値を有する。よって、撮像デバイス11は、被写体像を光電変換した撮像画像について、例えば、R,G,Bの各色について8ビットずつ合計24ビットの映像データを生成して出力する。このとき、撮像デバイス11は、ユーザ設定等により入力されるゲイン設定値に従って、所定のゲインによる第1階調の映像データを出力する。 The imaging device 11 includes a solid-state imaging element such as a CCD (Charge Coupled Device) type image sensor or a CMOS (Complementary Metal Oxide Semiconductor) type image sensor. The imaging device 11 captures an image of a subject formed by an imaging lens (not shown), and obtains an imaging signal at a high frame rate of, for example, 480 fps or higher, which exceeds human visual temporal sensitivity. The imaging device 11 then generates first gradation video data (hereinafter also referred to as captured video data) having a first number of bits (for example, 8 bits). The frame rate of the captured video data is, for example, about 1000 fps. The video data of the first gradation has a luminance value of the first gradation (for example, 8 bits). Therefore, the imaging device 11 generates and outputs video data of a total of 24 bits, for example, 8 bits for each color of R, G, and B, for a captured image obtained by photoelectrically converting a subject image. At this time, the imaging device 11 outputs video data of the first gradation with a predetermined gain according to the gain setting value inputted by the user setting or the like.

映像出力部12は、第1階調の映像データを符号化して第1のビット数よりも小さい第2のビット数(例えば4ビット)を有する第2階調の映像データ(以下、表示映像データとも称する)を生成して出力する。すなわち、映像出力部12は、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する。映像出力部12は、演算部13と、ノイズ発生器14と、加算器15と、量子化器16とを有する。ここで、演算部13、ノイズ発生器14、及び加算器15がノイズ付加部の一例としての機能を有し、量子化器16が変調部の一例としての機能を有する。 The video output unit 12 encodes the first gradation video data and generates second gradation video data (hereinafter referred to as display video data) having a second number of bits (for example, 4 bits) smaller than the first number of bits. ) is generated and output. That is, the video output unit 12 generates and outputs display video data of a second gradation value, which is smaller in gradation value than the first gradation value normally obtained from the captured video data. The video output section 12 includes a calculation section 13 , a noise generator 14 , an adder 15 , and a quantizer 16 . Here, the calculation section 13, the noise generator 14, and the adder 15 have a function as an example of a noise adding section, and the quantizer 16 has a function as an example of a modulation section.

演算部13は、撮像デバイス11から出力される映像データの輝度値に基づき、輝度値に応じた加算ノイズの振幅範囲を算出する。このとき、演算部13は、ユーザ設定等により入力されるゲイン設定値に従って、輝度値に応じた加算ノイズの振幅範囲を算出する。なお、演算部13は、撮像デバイス11より出力される撮像デバイスの温度計測値を用いて、温度による補正値を加えた振幅範囲を算出してもよい。ノイズ発生器14は、例えば三角波を発生する発振器、又は乱数を発生する乱数発生器等を有して構成され、演算部13により算出された振幅範囲において変動するランダムな値を有する加算ノイズを生成する。加算器15は、撮像デバイス11から順次出力される現フレームに関する第1階調の映像データと、ノイズ発生器14から出力される加算ノイズとを加算し、ノイズ付加後の映像データを量子化器16に対して出力する。 Based on the brightness value of the video data output from the imaging device 11, the calculation unit 13 calculates the amplitude range of the addition noise according to the brightness value. At this time, the calculation unit 13 calculates the amplitude range of the addition noise according to the luminance value according to the gain setting value inputted by the user setting or the like. Note that the calculation unit 13 may use the temperature measurement value of the imaging device output from the imaging device 11 to calculate the amplitude range to which a correction value based on temperature is added. The noise generator 14 is configured with, for example, an oscillator that generates a triangular wave or a random number generator that generates random numbers, and generates addition noise having random values that vary within the amplitude range calculated by the calculation unit 13. do. The adder 15 adds the video data of the first gradation regarding the current frame sequentially output from the imaging device 11 and the addition noise output from the noise generator 14, and converts the video data after adding the noise into a quantizer. Output for 16.

量子化器16は、第1階調の映像データに対してノイズが付加された映像データを、第2階調の映像データに量子化して順次出力する。この量子化器16により、撮像デバイス11の出力に対して階調を下げたデータ(量子化データ)を生成することができる。したがって、撮像装置10は、撮像により得られた高フレームレートの映像データとして、撮像時点の第1階調の撮像映像データよりもデータ量を削減した第2階調の表示映像データを出力する。 The quantizer 16 quantizes the video data of the first gradation to which noise has been added, into video data of the second gradation, and sequentially outputs the quantized video data. The quantizer 16 can generate data (quantized data) with a lower gradation than the output of the imaging device 11. Therefore, the imaging device 10 outputs, as high frame rate video data obtained by imaging, second gradation display video data whose data amount is reduced compared to the first gradation captured video data at the time of imaging.

高速表示装置30は、液晶ディスプレイ、有機EL(ElectroLuminescence)ディスプレイ、プラズマディスプレイ等の公知の構成を有する表示デバイスを含んで構成される。高速表示装置30は、撮像装置10から伝送される映像データ(表示映像データ)を入力し、人間の視覚時間感度を超える高フレームレート(例えば480fps以上)の高速映像を表示可能となっている。この際、撮像装置10から高速表示装置30へ表示映像データを伝送して表示するまでの遅延は、例えば表示映像データのフレームレートが1000fpsの場合、約1ms程度に小さくできる。 The high-speed display device 30 includes a display device having a known configuration, such as a liquid crystal display, an organic EL (Electro Luminescence) display, and a plasma display. The high-speed display device 30 receives video data (display video data) transmitted from the imaging device 10 and is capable of displaying high-speed video at a high frame rate (for example, 480 fps or higher) that exceeds human visual temporal sensitivity. At this time, the delay between transmitting the display video data from the imaging device 10 to the high-speed display device 30 and displaying it can be reduced to about 1 ms when the frame rate of the display video data is 1000 fps, for example.

図2は、本実施の形態に係る撮像装置におけるノイズ特性の一例を示す図である。ここで図2を用いて、本実施の形態における加算ノイズの振幅範囲について説明する。撮像装置10の撮像デバイス11において、固有ノイズとして光ショットノイズが発生し、出力される撮像信号に光ショットノイズNsの成分が含まれる。光ショットノイズNsは、光子の数の平方根に比例するため、撮像信号の輝度値により、輝度値が増加するにつれてノイズレベルが増加する。また、撮像デバイス11において、周囲温度に応じた熱雑音Ntが発生する。熱雑音Ntは、撮像信号の輝度値に関わらず、ノイズレベルはほぼ一定の値である。 FIG. 2 is a diagram showing an example of noise characteristics in the imaging device according to this embodiment. Here, the amplitude range of addition noise in this embodiment will be explained using FIG. 2. In the imaging device 11 of the imaging apparatus 10, optical shot noise is generated as inherent noise, and the output image signal includes a component of the optical shot noise Ns. Since the optical shot noise Ns is proportional to the square root of the number of photons, the noise level increases as the brightness value increases depending on the brightness value of the imaging signal. Further, in the imaging device 11, thermal noise Nt is generated depending on the ambient temperature. The thermal noise Nt has a noise level that is approximately constant regardless of the brightness value of the imaging signal.

本実施形態では、輝度値のビット数低減により失われた階調成分を回復させるためにランダムなノイズを意図的に加算する際に、輝度値による光ショットノイズNsの変動を考慮し、加算ノイズの振幅範囲Naを設定する。すなわち、加算ノイズの振幅範囲Naは、輝度値が増加するにつれてノイズレベルが減少するように、輝度値に応じて変動する振幅範囲を設定する。例えば、輝度値が8ビット(0~255)で表され、8ビットの輝度値を4ビットに量子化する場合、0~15の振幅範囲の一様分布の乱数を加算ノイズとして加算する。このとき、加算ノイズの振幅範囲(乱数の発生範囲)を輝度値に応じて変化させる。より具体的には、低輝度領域では広い振幅範囲で発生させた加算ノイズを付加し、高輝度領域では狭い振幅範囲で発生させた加算ノイズを付加する。これにより、撮像装置10における各輝度値のノイズレベルの総和を輝度値全体に渡って一様になるように、すなわちノイズレベルの総和を輝度値に関わらず一様とし、加算ノイズを過度に加算しすぎないようにする。 In this embodiment, when adding random noise intentionally to recover gradation components lost due to a reduction in the number of bits of a luminance value, the addition noise is Set the amplitude range Na. That is, the amplitude range Na of the addition noise is set to vary according to the brightness value so that the noise level decreases as the brightness value increases. For example, when a brightness value is represented by 8 bits (0 to 255) and the 8-bit brightness value is quantized to 4 bits, random numbers with a uniform distribution in the amplitude range of 0 to 15 are added as addition noise. At this time, the amplitude range of the addition noise (random number generation range) is changed according to the luminance value. More specifically, addition noise generated in a wide amplitude range is added in a low brightness area, and addition noise generated in a narrow amplitude range is added in a high brightness area. As a result, the total sum of the noise level of each brightness value in the imaging device 10 is made uniform over the entire brightness value, that is, the sum of the noise level is made uniform regardless of the brightness value, and the added noise is not added excessively. Avoid doing too much.

映像データのフレームレートが低い場合は、ノイズを付加してもちらつきやノイズが増えるだけである。これに対し、人間の視覚時間感度を超える高フレームレートの場合は、複数フレームが残像として重なって見えるため、適切な量で、規定時間内に加算ノイズの平均値と変動値を収めることにより、人間の視覚にとっては、ちらつきを感じることなく、擬似的に階調を増加させて視認させることが可能となる。 If the frame rate of the video data is low, adding noise will only increase flickering and noise. On the other hand, in the case of a high frame rate that exceeds the human visual temporal sensitivity, multiple frames appear to overlap as afterimages, so by keeping the average value and fluctuation value of the added noise within the specified time with an appropriate amount, For human vision, it is possible to visually increase the gradation in a pseudo manner without perceiving flicker.

加算ノイズの振幅範囲Naは、例えば以下の(1)式のように示すことができる。
Na=Q2-sqrt(y)×Cg+Nt …(1)
ここで、Q2は第2階調への量子化範囲であり、例えば第2のビット数が4ビットの場合は16となる。yは撮像デバイス11より出力される撮像映像データの輝度値であり、例えば第1のビット数が8ビットの場合は0~255のいずれかの値となる。sqrt(y)は輝度値yの平方根を示す。よって、sqrt(y)×Cgは光ショットノイズNsの成分に比例する値の標準偏差に相当する。Cgはゲイン補正値であり、撮像装置10のゲイン設定値に応じた所定の定数を用いればよい。撮像デバイス11の出力の輝度値に対応する光子の数は、ゲイン設定値によって変化するので、ゲイン補正値Cgによりゲイン設定値に応じた補正を行う。Ntは撮像デバイス11において推定される熱雑音の値である。なお、補正値としてさらに所定の係数を加えてもよい。
The amplitude range Na of the addition noise can be expressed, for example, as in equation (1) below.
Na=Q2-sqrt(y)×Cg+Nt...(1)
Here, Q2 is the quantization range to the second gradation, and is 16 if the second number of bits is 4 bits, for example. y is the brightness value of the captured video data output from the imaging device 11, and for example, when the first number of bits is 8 bits, it takes a value from 0 to 255. sqrt(y) indicates the square root of the brightness value y. Therefore, sqrt(y)×Cg corresponds to the standard deviation of the value proportional to the component of the optical shot noise Ns. Cg is a gain correction value, and a predetermined constant depending on the gain setting value of the imaging device 10 may be used. Since the number of photons corresponding to the brightness value of the output of the imaging device 11 changes depending on the gain setting value, the gain correction value Cg is used to perform correction according to the gain setting value. Nt is the value of thermal noise estimated in the imaging device 11. Note that a predetermined coefficient may be further added as a correction value.

撮像装置10における固有ノイズと加算ノイズとを含むノイズレベルの総和Nは、N≒Ns+Na+Ntであるので、上記(1)式のように輝度値に応じて変動する加算ノイズの振幅範囲Naを設定することによって、ノイズレベルの総和Nを輝度値に関わらず一様にすることができる。ノイズレベルの総和は、例えば、撮像装置10から出力される映像データの統計分析によって輝度とノイズの関係を抽出し、輝度値に関わらず一様であるかどうかを判別可能である。 Since the total sum N of the noise level including inherent noise and additive noise in the imaging device 10 is N≈Ns+Na+Nt, the amplitude range Na of the additive noise that varies depending on the luminance value is set as in equation (1) above. By doing so, the total sum N of noise levels can be made uniform regardless of the brightness value. For example, it is possible to determine whether the total noise level is uniform regardless of the brightness value by extracting the relationship between brightness and noise through statistical analysis of video data output from the imaging device 10.

図3は、本実施の形態に係る撮像装置において映像データにノイズを加算する動作例を示す図である。図3では、説明を簡単にするために、加算ノイズの振幅範囲を固定値とした場合を例示する。図示例は、映像データの輝度値を0~240の各階調値とし、加算ノイズの振幅範囲を16とし、加算ノイズを0~15の間でランダムに変動する変動値とした例である。加算器15は、撮像デバイス11から出力される映像データの輝度値と、ノイズ発生器14から出力される加算ノイズとを加算し、順次積分した積分値をノイズ付加後の映像データとして量子化器16に対して出力する。量子化器16は、ノイズ付加後の映像データを第2階調の映像データに変換して順次出力する。 FIG. 3 is a diagram showing an example of the operation of adding noise to video data in the imaging device according to the present embodiment. In FIG. 3, in order to simplify the explanation, a case is illustrated in which the amplitude range of the addition noise is set to a fixed value. In the illustrated example, the luminance value of the video data is set to each gradation value from 0 to 240, the amplitude range of the addition noise is set to 16, and the addition noise is set to a variable value that randomly varies between 0 to 15. The adder 15 adds the luminance value of the video data output from the imaging device 11 and the addition noise output from the noise generator 14, and converts the sequentially integrated integral value into a quantizer as video data after adding noise. Output for 16. The quantizer 16 converts the noise-added video data into second gradation video data and sequentially outputs the video data.

図4は、本実施の形態に係る撮像装置を含む映像表示システムの構成の第2例を示すブロック図である。映像表示システム1Aは、任意の対象物を撮像する撮像装置20と、撮像装置20から出力された映像データがリアルタイムで入力される高速表示装置30とを有する。第2例は、第1例の撮像装置10の代わりに、アナログ回路により構成した撮像装置20を有する他の構成例である。ここでは、第1例と異なる構成要素について説明し、同様の構成については説明を適宜省略する。 FIG. 4 is a block diagram showing a second example of the configuration of a video display system including the imaging device according to the present embodiment. The video display system 1A includes an imaging device 20 that images an arbitrary object, and a high-speed display device 30 into which video data output from the imaging device 20 is input in real time. The second example is another configuration example including an imaging device 20 configured by an analog circuit instead of the imaging device 10 of the first example. Here, components different from those in the first example will be described, and descriptions of similar components will be omitted as appropriate.

撮像装置20は、撮像デバイス21と、アナログ構成の映像出力部22とを有する。撮像装置20は、撮像デバイス21及び映像出力部22を一体的に構成した例えば1チップの半導体装置で構成されるものであってもよいし、撮像デバイス21と映像出力部22とを別体にした例えば複数チップの半導体装置を含む構成であってもよい。 The imaging apparatus 20 includes an imaging device 21 and a video output section 22 having an analog configuration. The imaging device 20 may be composed of, for example, a one-chip semiconductor device in which the imaging device 21 and the video output section 22 are integrated, or the imaging device 21 and the video output section 22 may be configured separately. For example, the structure may include a plurality of chips of semiconductor devices.

撮像デバイス21は、高フレームレートの撮像信号を取得し、アナログ信号の映像信号(撮像映像データ)として出力する。映像出力部22は、撮像デバイス21から出力される映像信号を変調し、撮像時の撮像映像データから通常得られる第1階調(例えば8ビット)よりも階調値が小さい第2階調(例えば4ビット)の映像データ(表示映像データ)を生成して出力する。映像出力部22は、ノイズ発生器23と、可変増幅器(AMP)24と、加算増幅回路25と、ADコンバータ(ADC)26とを有する。ここで、ノイズ発生器23、可変増幅器24、及び加算増幅回路25がノイズ加算部の一例としての機能を有し、ADコンバータ26が変調部の一例としての機能を有する。 The imaging device 21 acquires a high frame rate imaging signal and outputs it as an analog video signal (captured video data). The video output unit 22 modulates the video signal output from the imaging device 21 to produce a second gradation (for example, 8 bits) that is smaller in gradation value than the first gradation (for example, 8 bits) normally obtained from the captured video data at the time of imaging. For example, 4 bits) video data (display video data) is generated and output. The video output section 22 includes a noise generator 23, a variable amplifier (AMP) 24, an summing amplifier circuit 25, and an AD converter (ADC) 26. Here, the noise generator 23, the variable amplifier 24, and the addition amplifier circuit 25 have a function as an example of a noise addition section, and the AD converter 26 has a function as an example of a modulation section.

ノイズ発生器23は、例えば三角波を発生する発振器、又はアナログノイズ発生回路等を有して構成され、所定レベルのランダムな加算ノイズを生成し出力する。可変増幅器24は、撮像デバイス21から出力される映像信号の輝度値を制御入力とし、ノイズ発生器23にて生成した加算ノイズを信号入力とし、輝度値に応じて変化させたゲインによって加算ノイズを増幅して出力する。これにより、可変増幅器24の出力は、輝度値に応じた振幅の加算ノイズが出力される。加算増幅回路25は、撮像デバイス21から出力される映像信号(撮像映像データ)と、可変増幅器24から出力される加算ノイズとを入力し、両者を加算(重畳)して増幅し出力する。ADコンバータ26は、加算増幅回路25から出力されるノイズ付加後のアナログの映像信号を第2のビット数(例えば4ビット)を有する第2階調のディジタルデータに変換し、表示映像データとして順次出力する。これにより、撮像装置10は、撮像により得られた高フレームレートの映像データとして、撮像デバイス21の出力に対して階調を下げてデータ量を削減した第2階調の表示映像データを出力する。 The noise generator 23 includes, for example, an oscillator that generates a triangular wave or an analog noise generation circuit, and generates and outputs random addition noise of a predetermined level. The variable amplifier 24 takes the brightness value of the video signal output from the imaging device 21 as a control input, takes the addition noise generated by the noise generator 23 as a signal input, and uses a gain changed according to the brightness value to suppress the addition noise. Amplify and output. As a result, the variable amplifier 24 outputs additive noise with an amplitude corresponding to the luminance value. The addition amplifier circuit 25 inputs the video signal (captured video data) output from the imaging device 21 and the addition noise output from the variable amplifier 24, adds (superimposes) the two, amplifies and outputs the result. The AD converter 26 converts the noise-added analog video signal output from the summing amplifier circuit 25 into digital data of a second gradation having a second number of bits (for example, 4 bits), and sequentially displays the digital data as display video data. Output. Thereby, the imaging device 10 outputs second gradation display video data, which is obtained by lowering the gradation to reduce the amount of data compared to the output of the imaging device 21, as the high frame rate video data obtained by imaging. .

次に、本実施の形態に係る撮像装置の動作例を説明する。ここでは、撮像映像データの輝度値に対する、出力される表示映像データの階調及びノイズレベルの一例を示す。 Next, an example of the operation of the imaging device according to this embodiment will be described. Here, an example of the gradation and noise level of output display video data with respect to the luminance value of captured video data is shown.

図5は、撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、ノイズが発生しない仮想状態を示した図である。図5の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、人間の目に見える階調を表している。図5の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。撮像映像データの輝度値の全範囲にわたってノイズレベルが0の場合、第1階調(例えば8ビット)の映像データを第2階調(例えば4ビット)の映像データに符号化すると、出力の表示映像データの階調は粗くなる。この場合、人間の視覚においては階段状の階調変化として視認される。 FIG. 5 is a diagram illustrating an example of the relationship between the output luminance value of the video signal and the noise level in the imaging device, and is a diagram illustrating a virtual state in which no noise occurs. The upper part of FIG. 5 shows the statistical average value of the output of display video data with respect to the luminance value of captured video data, and represents the gradation visible to the human eye. The lower part of FIG. 5 shows the statistical average value of the noise level output with respect to the luminance value of the captured video data. When the noise level is 0 over the entire range of brightness values of captured video data, when the first gradation (e.g. 8 bits) video data is encoded into the second gradation (e.g. 4 bits) video data, the output display The gradation of the video data becomes rough. In this case, it is visually recognized as a step-like gradation change in human vision.

図6は、撮像装置における映像信号の出力輝度値とノイズレベルとの関係の一例を示す図であり、光ショットノイズが発生する実際の撮像デバイスの状態を示した図である。図6の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、図6の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。ここでは、わかりやすくするために非常にノイズが多い状況を想定し、0~255の各輝度値において、正規分布のノイズをそれぞれ10000個発生させたシミュレーション結果を示している。この場合、撮像映像データには撮像装置において自然発生する固有ノイズとして光ショットノイズNsの成分が加算される。このため、第1階調から第2階調の映像データに符号化した際、ノイズ加算によって人間の視覚において擬似的な階調が付与され、ビット数低減により失われた階調成分が回復する。光ショットノイズNsは、撮像映像データの輝度値が増加するにつれてノイズレベルが大きくなるため、人間の目の見え方として高輝度領域ほど滑らかな階調変化が得られる。 FIG. 6 is a diagram illustrating an example of the relationship between the output luminance value of a video signal and a noise level in an imaging device, and is a diagram illustrating an actual state of an imaging device in which optical shot noise occurs. The upper part of FIG. 6 shows the statistical average value of the output of the display video data with respect to the luminance value of the captured video data, and the lower part of FIG. 6 shows the statistical average value of the output of the noise level with respect to the luminance value of the captured video data. It shows. Here, for the sake of clarity, we assume a very noisy situation, and show simulation results in which 10,000 normally distributed noises are generated for each luminance value from 0 to 255. In this case, a component of optical shot noise Ns is added to the captured video data as inherent noise naturally generated in the imaging device. Therefore, when encoding video data from the first gradation to the second gradation, a pseudo gradation is given to human vision due to noise addition, and the gradation component lost due to the reduction in the number of bits is recovered. . The noise level of the optical shot noise Ns increases as the luminance value of the captured video data increases, so that the higher the luminance area is, the smoother the gradation change can be obtained as seen by the human eye.

図7は、比較例の撮像装置における動作例として、映像信号の出力輝度値とノイズ値との関係の一例を示す図であり、各輝度値において一様な範囲で加算ノイズを付加した状態を示した図である。図7の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、図7の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。ここでは、わかりやすくするために非常にノイズが多い状況を想定し、0~255の各輝度値において、正規分布のノイズをそれぞれ10000個発生させたシミュレーション結果を示している。比較例は、低輝度から高輝度まで一様な範囲で加算ノイズNaを付加する例である。この比較例では、ノイズレベルの総和Nは、加算ノイズNaが一定であるため、光ショットノイズNsに連動して輝度値が増加するにつれて大きくなる。この場合、高輝度領域では加算ノイズを過度に加算した状態となり、ノイズレベルの標準偏差が増加するため、出力の変動が大きくなり、出力レベルが所定範囲に収まらないことが生じ得る。このことは、出力映像に歪が生じてちらつきの要因となる。また、低輝度領域と高輝度領域の両端において階調が得られない課題が生じ得る。このように、低輝度から高輝度にわたって安定的にダイナミックレンジを確保できない場合があり、表示映像の品質低下を招くおそれがある。 FIG. 7 is a diagram showing an example of the relationship between the output luminance value of the video signal and the noise value as an operation example of the imaging device of the comparative example. FIG. The upper part of FIG. 7 shows the statistical average value of the output of the display video data with respect to the luminance value of the captured video data, and the lower part of FIG. 7 shows the statistical average value of the output of the noise level with respect to the luminance value of the captured video data. It shows. Here, for the sake of clarity, we assume a very noisy situation, and show simulation results in which 10,000 normally distributed noises are generated for each luminance value from 0 to 255. The comparative example is an example in which addition noise Na is added in a uniform range from low brightness to high brightness. In this comparative example, the total noise level N increases as the luminance value increases in conjunction with the optical shot noise Ns because the addition noise Na is constant. In this case, in the high brightness region, excessive noise is added, and the standard deviation of the noise level increases, resulting in large fluctuations in the output, which may result in the output level not falling within a predetermined range. This causes distortion in the output video and causes flickering. Furthermore, a problem may arise in which gradations cannot be obtained at both ends of the low-luminance region and the high-luminance region. In this way, it may not be possible to stably secure a dynamic range from low to high brightness, which may lead to a decline in the quality of displayed images.

図8は、本実施の形態の撮像装置における動作例として、映像信号の出力輝度値とノイズ値との関係の一例を示す図であり、輝度値に応じて範囲を変動させて加算ノイズを付加した状態を示した図である。図8の上部は撮像映像データの輝度値に対する表示映像データの出力の統計的な平均値を示しており、図8の下部は撮像映像データの輝度値に対するノイズレベルの出力の統計的な平均値を示している。ここでは、わかりやすくするために非常にノイズが多い状況を想定し、0~255の各輝度値において、正規分布のノイズをそれぞれ10000個発生させ、分散が輝度値に比例するよう発生させたシミュレーション結果を示している。実際には、撮像対象が明るい場合は撮像装置のゲイン設定値を下げることによりS/Nが変化し、ノイズレベルを下げることができる。よって、輝度値に応じて加算ノイズの振幅範囲を設定するとともに、ゲイン設定値に応じた振幅範囲の補正を行う。 FIG. 8 is a diagram showing an example of the relationship between the output brightness value of the video signal and the noise value as an example of the operation of the imaging device according to the present embodiment, in which addition noise is added by varying the range according to the brightness value. FIG. The upper part of FIG. 8 shows the statistical average value of the output of the display video data with respect to the luminance value of the captured video data, and the lower part of FIG. 8 shows the statistical average value of the output of the noise level with respect to the luminance value of the captured video data. It shows. Here, for the sake of clarity, we assume a very noisy situation, and for each brightness value from 0 to 255, we generate 10,000 pieces of normally distributed noise, and we simulate it so that the variance is proportional to the brightness value. Showing results. In fact, when the object to be imaged is bright, the S/N ratio changes by lowering the gain setting value of the imaging device, and the noise level can be lowered. Therefore, the amplitude range of addition noise is set according to the luminance value, and the amplitude range is corrected according to the gain setting value.

本実施の形態では、各輝度値においてノイズレベルの総和Nが一様となるように、輝度値に応じた光ショットノイズNsの増加に対して加算ノイズNaを減少させ、撮像映像データに加算する。これにより、映像データの出力偏差の増加を抑制できる。このように輝度値の増加に応じてノイズレベルが小さくなるように加算ノイズNaを変動させることにより、輝度値に関わらず常に適切なノイズ付加を可能とし、低輝度から高輝度にわたって安定的にダイナミックレンジを確保する。これにより、人間の視覚においては輝度値の全体で滑らかな階調変化が得られ、階調値の低減により失われた階調成分を回復でき、表示映像の品質低下を抑制できる。 In this embodiment, the addition noise Na is decreased in response to an increase in the light shot noise Ns according to the brightness value, and added to the captured video data so that the total noise level N is uniform for each brightness value. . This makes it possible to suppress an increase in output deviation of video data. In this way, by varying the addition noise Na so that the noise level decreases as the brightness value increases, it is possible to always add appropriate noise regardless of the brightness value, and it is possible to stably and dynamically add noise from low to high brightness. Secure a microwave. As a result, smooth gradation changes can be obtained in the entire luminance value in human vision, and gradation components lost due to reduction in gradation values can be recovered, and deterioration in the quality of displayed images can be suppressed.

以上のように、本実施の形態の撮像装置10、20は、撮像により人間の視覚時間感度を超える高フレームレートの撮像映像データを取得する撮像デバイス11、21と、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する映像出力部12、22と、を有する。映像出力部12、22は、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、撮像映像データに対して加算ノイズを付加するノイズ付加部(演算部13、ノイズ発生器14、加算器15、又はノイズ発生器23、可変増幅器24、加算増幅回路25)と、加算ノイズを付加した後の映像データを第2階調の表示映像データに変換する変調部(量子化器16又はADコンバータ26)と、を含む。本実施の形態では、高フレームレートの撮像映像データを取得して表示装置に対して伝送する際に、撮像映像データに加算ノイズを付加し、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成して出力する。このような信号処理によって、映像データのデータ量を削減して遅延を抑制するとともに、階調値の低減により失われた階調成分を、人間の目による複数フレームの残像的な知覚によって回復させる。このとき、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるようにすることで、加算ノイズが過度に付加されることを防止し、映像のちらつき発生等の品質低下を抑制できる。これにより、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することが可能になる。 As described above, the imaging apparatuses 10 and 20 of the present embodiment include the imaging devices 11 and 21 that acquire captured video data with a high frame rate that exceeds human visual temporal sensitivity through imaging, and It has video output units 12 and 22 that generate and output display video data of a second gradation having a smaller gradation value than the first gradation. The video output units 12 and 22 each include a noise adding unit (calculation unit) that adds addition noise to the captured video data so that the sum of the noise levels of each luminance value is uniform over the entire luminance value of the captured video data. unit 13, noise generator 14, adder 15, or noise generator 23, variable amplifier 24, addition amplifier circuit 25), converts the video data to which addition noise has been added into display video data of the second gradation. A modulation section (quantizer 16 or AD converter 26). In this embodiment, when acquiring high frame rate captured video data and transmitting it to a display device, additive noise is added to the captured video data, and the first gradation is higher than the first gradation normally obtained from the captured video data. Display video data of a second gradation having a small gradation value is generated and output. This kind of signal processing reduces the amount of video data and suppresses delays, while also restoring the gradation components lost due to the reduction of gradation values through the human eye's perception of multiple frames as afterimages. . At this time, by making the sum of the noise levels of each luminance value uniform over the entire luminance value of the captured video data, it is possible to prevent excessive additive noise from being added, and to prevent flickering of the image. can suppress quality deterioration. This makes it possible to suppress an increase in the amount of video transmission and the amount of calculation while suppressing a deterioration in the quality of displayed images.

また、撮像装置10において、映像出力部12は、撮像デバイス11から出力される第1のビット数を有する第1階調の撮像映像データに基づき、第1のビット数よりも小さい第2のビット数を有する第2階調の表示映像データを生成して出力する。これにより、映像データの輝度値のビット数低減によってデータ量を削減し、遅延を抑制することが可能となる。 Furthermore, in the imaging device 10, the video output unit 12 outputs a second bit smaller than the first number of bits based on the captured video data of the first gradation having the first number of bits output from the imaging device 11. second gradation display video data having a number of numbers is generated and output. This makes it possible to reduce the amount of data and suppress delays by reducing the number of bits of the luminance value of video data.

また、撮像装置10において、映像出力部12は、ノイズ付加部として、第1階調の撮像映像データの輝度値に応じた加算ノイズの振幅範囲を算出する演算部13と、算出された振幅範囲のランダムなノイズを加算ノイズとして出力するノイズ発生器14と、撮像映像データと加算ノイズとを加算する加算器15と、を含む。また、映像出力部12は、変調部として、第1階調の撮像映像データに対して加算ノイズが付加された映像データを、第2階調の映像データに量子化して表示映像データとして順次出力する量子化器16を含む。これにより、ディジタル信号処理を実行する構成によって、撮像映像信号に対して意図的にノイズを付加し、階調値の低減により失われた階調成分を回復させるとともに、映像データのデータ量を削減して遅延を抑制することが可能となる。 In the imaging device 10, the video output unit 12 also includes, as a noise addition unit, a calculation unit 13 that calculates the amplitude range of addition noise according to the luminance value of the captured video data of the first gradation, and The noise generator 14 includes a noise generator 14 that outputs random noise as addition noise, and an adder 15 that adds the captured video data and the addition noise. Further, the video output unit 12, as a modulation unit, quantizes the video data to which addition noise has been added to the captured video data of the first gradation, into video data of the second gradation, and sequentially outputs the quantized video data as display video data. A quantizer 16 is included. As a result, noise is intentionally added to the captured video signal using a configuration that performs digital signal processing, and the gradation components lost due to the reduction in gradation values are recovered, and the amount of video data is reduced. This makes it possible to suppress delays.

また、撮像装置20において、映像出力部22は、ノイズ付加部として、装置においてノイズ発生器23等で発生されるランダムなノイズを、撮像デバイス21から出力される撮像映像データの輝度値に応じた振幅に増幅し、加算ノイズとして出力する可変増幅器24と、撮像デバイス21から出力される撮像映像データと加算ノイズとを重畳して出力する加算増幅回路25と、を含む。また、映像出力部22は、変調部として、加算増幅回路25から出力されるノイズ付加後のアナログの映像信号を、第2階調のディジタルデータに変換して表示映像データとして順次出力するADコンバータ26を含む。これにより、アナログ信号処理を実行する構成によって、撮像映像信号に対して意図的にノイズを付加し、階調値の低減により失われた階調成分を回復させるとともに、映像データのデータ量を削減して遅延を抑制することが可能となる。 In addition, in the imaging device 20, the video output unit 22 functions as a noise addition unit, and adds random noise generated by a noise generator 23 or the like in the device to a luminance value of the captured video data output from the imaging device 21. It includes a variable amplifier 24 that amplifies the amplitude and outputs it as addition noise, and an addition amplification circuit 25 that superimposes the captured video data output from the imaging device 21 and the addition noise and outputs the superimposed image data. The video output section 22 also serves as a modulation section and converts the noise-added analog video signal outputted from the summing amplifier circuit 25 into digital data of a second gradation, and sequentially outputs the digital data as display video data. Contains 26. As a result, by using a configuration that performs analog signal processing, noise is intentionally added to the captured video signal, recovering the gradation components lost due to the reduction of gradation values, and reducing the amount of video data. This makes it possible to suppress delays.

また、撮像装置10、20において、高フレームレートの撮像映像データとして480fps以上のフレームレートの映像データを取得する。このように、480fps以上の高いフレームレートの映像データを用いて、高速な映像表示を行う場合に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することが可能となる。 Further, in the imaging devices 10 and 20, video data with a frame rate of 480 fps or more is acquired as high frame rate captured video data. In this way, when performing high-speed video display using video data with a high frame rate of 480 fps or higher, it is possible to suppress the increase in the amount of video transmission and the amount of calculation while suppressing the deterioration in the quality of the displayed video. It becomes possible.

また、撮像装置10、20において、映像出力部12、22のノイズ付加部は、撮像映像データの輝度値が増加するにつれて加算ノイズを減少させて付加し、撮像デバイス11、21において発生する固有ノイズと加算ノイズとを含むノイズレベルの総和が撮像映像データの輝度値全体に渡って一様となっている。これにより、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるようにすることができ、特に高輝度領域においてノイズを加算しすぎることを防止し、映像のちらつき発生等の品質低下を抑制できる。 In addition, in the imaging devices 10 and 20, the noise addition units of the video output units 12 and 22 reduce and add added noise as the luminance value of the captured video data increases, and add noise that is unique to the imaging devices 11 and 21. The sum of the noise levels including the noise and the addition noise is uniform over the entire brightness value of the captured video data. As a result, it is possible to make the sum of the noise levels of each brightness value uniform over the entire brightness value of the captured video data, and to prevent adding too much noise, especially in high brightness areas, and to improve the image quality. Quality deterioration such as flickering can be suppressed.

本実施の形態の映像出力方法は、撮像デバイス11、21により撮像した人間の視覚時間感度を超える高フレームレートの撮像映像データを取得するステップと、撮像映像データの輝度値全体に渡って各輝度値のノイズレベルの総和が一様になるように、撮像映像データに対して加算ノイズを付加するステップと、加算ノイズを付加した後の映像データを用いて、撮像映像データから通常得られる第1階調よりも階調値が小さい第2階調の表示映像データを生成するステップと、第2階調の表示映像データを高速表示装置30に出力するステップと、を有する。これにより、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することが可能になる。 The video output method of the present embodiment includes the steps of acquiring captured video data captured by the imaging devices 11 and 21 at a high frame rate that exceeds human visual temporal sensitivity, and The step of adding additive noise to the captured video data so that the sum of the noise levels of the values is uniform, and using the video data after adding the additive noise, the first The present invention includes a step of generating display video data of a second gradation having a gradation value smaller than the gradation, and a step of outputting display video data of the second gradation to the high-speed display device 30. As a result, when acquiring video with a relatively high frame rate and transmitting it to a display device, it is possible to suppress a decrease in the quality of the displayed video and an increase in the amount of video transmission and calculation amount. become.

以上、図面を参照しながら各種の実施形態について説明したが、本発明はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例又は修正例に想到し得ることは明らかであり、それらについても当然に本発明の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上記実施形態における各構成要素を任意に組み合わせてもよい。 Although various embodiments have been described above with reference to the drawings, it goes without saying that the present invention is not limited to such examples. It is clear that those skilled in the art can come up with various changes or modifications within the scope of the claims, and these naturally fall within the technical scope of the present invention. Understood. Further, each component in the above embodiments may be arbitrarily combined without departing from the spirit of the invention.

本開示は、比較的高いフレームレートを有する映像を取得して表示装置に対して伝送する際に、表示映像の品質低下を抑制しつつ、映像の伝送量及び演算量の増大を抑制することができる映像出力装置、映像出力方法および映像出力システムとして有用である。 The present disclosure makes it possible to suppress an increase in the amount of video transmission and the amount of calculation while suppressing a deterioration in the quality of the displayed image when acquiring a video having a relatively high frame rate and transmitting it to a display device. The present invention is useful as a video output device, a video output method, and a video output system.

1、1A 映像表示システム
10、20 撮像装置
11、21 撮像デバイス
12、22 映像出力部
13 演算部
14 ノイズ発生器
15 加算器
16 量子化器
23 ノイズ発生器
24 可変増幅器
25 加算増幅回路
26 ADコンバータ
30 高速表示装置
1, 1A Video display system 10, 20 Imaging device 11, 21 Imaging device 12, 22 Video output section 13 Arithmetic section 14 Noise generator 15 Adder 16 Quantizer 23 Noise generator 24 Variable amplifier 25 Summing amplifier circuit 26 AD converter 30 High-speed display device

Claims (6)

入力された第1の映像データの輝度値に基づいて、前記第1の映像データにノイズを付
加するノイズ付加部と、
前記ノイズを付加した第2の映像データを、前記第1の映像データから得られる第1階
調よりも階調値が小さい第2階調の表示映像データに変換する変調部と、
前記第2階調の表示映像データを出力する映像出力部と、を備え
前記ノイズ付加部は、前記第1の映像データの輝度値が低輝度領域の場合には、広く設定された振幅範囲で発生させた前記ノイズを付加し、前記第1の映像データの輝度値が高輝度領域の場合には、狭く設定された振幅範囲で発生させた前記ノイズを付加する、
映像出力装置。
a noise adding unit that adds noise to the first video data based on the luminance value of the input first video data;
a modulation unit that converts the second video data to which the noise is added into display video data of a second gradation having a smaller gradation value than the first gradation obtained from the first video data;
a video output unit that outputs the display video data of the second gradation ;
When the brightness value of the first video data is in a low brightness region, the noise adding section adds the noise generated in a wide set amplitude range, so that the brightness value of the first video data is In the case of a high brightness area, adding the noise generated in a narrowly set amplitude range ;
Video output device.
前記変調部は、前記第2の映像データを、前記第2階調の映像データに量子化して前記
表示映像データとして順次出力する量子化器を含む、
請求項1に記載の映像出力装置。
The modulation unit includes a quantizer that quantizes the second video data into video data of the second gradation and sequentially outputs the quantized video data as the display video data.
The video output device according to claim 1.
前記第1の映像データは、480fps以上のフレームレートの映像データである、
請求項1に記載の映像出力装置。
The first video data is video data with a frame rate of 480 fps or more,
The video output device according to claim 1.
前記ノイズと、前記第1の映像データを生成するデバイスにおいて発生する固有ノイズ
とを含むノイズレベルの総和は、前記第2の映像データの輝度値全体に亘って一様である

請求項1に記載の映像出力装置。
The sum of the noise levels including the noise and inherent noise generated in the device that generates the first video data is uniform over the entire brightness value of the second video data.
The video output device according to claim 1.
映像出力装置が行う映像出力方法であって、
入力された第1の映像データの輝度値に基づいて、前記第1の映像データに前記第1の映像データの輝度値が低輝度領域の場合には、広く設定された振幅範囲で発生させたノイズを付加し、前記第1の映像データの輝度値が高輝度領域の場合には、狭く設定された振幅範囲で発生させた前記ノイズを付加するステップと、
前記ノイズを付加した第2の映像データを前記第1の映像データから得られる第1階調
よりも階調値が小さい第2階調の表示映像データに変換するステップと、
前記第2階調の表示映像データを出力するステップと、を実行する、
映像出力方法。
A video output method performed by a video output device, comprising:
Based on the brightness value of the input first video data, if the brightness value of the first video data is in a low brightness region, the first video data is generated in a wide set amplitude range. adding noise, and when the luminance value of the first video data is in a high luminance region, adding the noise generated in a narrowly set amplitude range;
converting the second video data to which the noise has been added into display video data of a second gradation having a smaller gradation value than the first gradation obtained from the first video data;
outputting the display video data of the second gradation;
Video output method.
撮像デバイスと、
前記撮像デバイスと通信可能な映像出力装置と、
前記映像出力装置と通信可能な表示装置と、を備える映像出力システムであって、
前記撮像デバイスは、
撮像により第1の映像データを生成して、前記映像出力装置に出力し、
前記映像出力装置は、
前記第1の映像データの輝度値に基づいて、前記第1の映像データに前記第1の映像データの輝度値が低輝度領域の場合には、広く設定された振幅範囲で発生させたノイズを付加し、前記第1の映像データの輝度値が高輝度領域の場合には、狭く設定された振幅範囲で発生させた前記ノイズを付加した
第2の映像データを生成し、
前記第2の映像データを、前記第1の映像データから得られる第1階調よりも階調値が
小さい第2階調の表示映像データに変換して、前記表示装置に出力し、
前記表示装置は、
出力された前記表示映像データを表示する、
映像出力システム。
an imaging device;
a video output device capable of communicating with the imaging device;
A video output system comprising: a display device capable of communicating with the video output device,
The imaging device includes:
generating first video data by imaging and outputting it to the video output device;
The video output device includes:
Based on the brightness value of the first video data, if the brightness value of the first video data is in a low brightness region, noise generated in a wide set amplitude range is added to the first video data. and when the brightness value of the first video data is in a high brightness region, generating second video data to which the noise generated in a narrowly set amplitude range is added;
converting the second video data into display video data of a second gradation having a smaller gradation value than the first gradation obtained from the first video data, and outputting it to the display device;
The display device includes:
displaying the outputted display video data;
Video output system.
JP2022146045A 2018-06-22 2022-09-14 Video output device, video output method, and video output system Active JP7445904B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022146045A JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018119132A JP7149514B2 (en) 2018-06-22 2018-06-22 Imaging device and video output method
JP2022146045A JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2018119132A Division JP7149514B2 (en) 2018-06-22 2018-06-22 Imaging device and video output method

Publications (2)

Publication Number Publication Date
JP2022173290A JP2022173290A (en) 2022-11-18
JP7445904B2 true JP7445904B2 (en) 2024-03-08

Family

ID=69097170

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2018119132A Active JP7149514B2 (en) 2018-06-22 2018-06-22 Imaging device and video output method
JP2022146045A Active JP7445904B2 (en) 2018-06-22 2022-09-14 Video output device, video output method, and video output system

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2018119132A Active JP7149514B2 (en) 2018-06-22 2018-06-22 Imaging device and video output method

Country Status (1)

Country Link
JP (2) JP7149514B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111601031B (en) * 2020-04-02 2022-02-01 维沃移动通信有限公司 Shooting parameter adjusting method and device

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004274179A (en) 2003-03-05 2004-09-30 Minolta Co Ltd Image processing method and apparatus
JP2004318131A (en) 2003-04-02 2004-11-11 Sharp Corp Driving device for image display device, image display device, television receiver, driving method for image display device, image display method, and program and recording medium thereof

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3919613B2 (en) * 2002-06-28 2007-05-30 キヤノン株式会社 Image processing apparatus and method, computer program, and computer-readable storage medium

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004274179A (en) 2003-03-05 2004-09-30 Minolta Co Ltd Image processing method and apparatus
JP2004318131A (en) 2003-04-02 2004-11-11 Sharp Corp Driving device for image display device, image display device, television receiver, driving method for image display device, image display method, and program and recording medium thereof

Also Published As

Publication number Publication date
JP2019220925A (en) 2019-12-26
JP7149514B2 (en) 2022-10-07
JP2022173290A (en) 2022-11-18

Similar Documents

Publication Publication Date Title
JP6451669B2 (en) Evaluation apparatus, evaluation method, and camera system
JP6824084B2 (en) Imaging device and its control method, program, storage medium
US10110929B2 (en) Method of pre-processing digital images, and digital image preprocessing system
KR20160130005A (en) Optical compensation system and Optical compensation method thereof
CN106575434B (en) Image processing device, imaging device, and image processing method
JP7445904B2 (en) Video output device, video output method, and video output system
JP5491616B2 (en) Film judder correction method and correction system
CN107924664B (en) Display device, display method, control program, recording medium, and television receiver
KR20190046860A (en) Video signal processing apparatus, video signal processing method, and video signal processing system
JP5609788B2 (en) Image processing apparatus and image processing method
JP6673424B2 (en) Signal processing device, signal processing method, and camera system
JP5609787B2 (en) Image processing apparatus and image processing method
JP7113282B2 (en) Video display system and video display method
JP6397261B2 (en) Image processing apparatus and method
JP2008263313A (en) Image processing apparatus and image processing program
JP2010098553A (en) Gradation correction device, gradation correction method, program, image capturing apparatus and image processing apparatus
JP7186374B2 (en) VIDEO SIGNAL PROCESSING DEVICE, VIDEO DISPLAY SYSTEM, AND VIDEO SIGNAL PROCESSING METHOD
US11270421B2 (en) Image processing apparatus and image processing method that reduce image noise, and storage medium
JP4046044B2 (en) Imaging device
US11245901B2 (en) Video signal processing device, video display system, and video signal processing method
JP2003348454A (en) Camera system
JP2019220925A5 (en)
JP4995623B2 (en) Image display device and image display method
JP2014179807A (en) Image processing apparatus, image processing system, image processing method and program
JP2008123472A (en) Video signal processor

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220914

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230720

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230822

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231020

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240116

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240215

R151 Written notification of patent or utility model registration

Ref document number: 7445904

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S131 Request for trust registration of transfer of right

Free format text: JAPANESE INTERMEDIATE CODE: R313133

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350