Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP6441833B2 - Quantization method, quantization apparatus, and quantization program - Google Patents
[go: Go Back, main page]

JP6441833B2 - Quantization method, quantization apparatus, and quantization program - Google Patents

Quantization method, quantization apparatus, and quantization program Download PDF

Info

Publication number
JP6441833B2
JP6441833B2 JP2016000175A JP2016000175A JP6441833B2 JP 6441833 B2 JP6441833 B2 JP 6441833B2 JP 2016000175 A JP2016000175 A JP 2016000175A JP 2016000175 A JP2016000175 A JP 2016000175A JP 6441833 B2 JP6441833 B2 JP 6441833B2
Authority
JP
Japan
Prior art keywords
composite
class
composite element
value
elements
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016000175A
Other languages
Japanese (ja)
Other versions
JP2017123501A (en
Inventor
幸浩 坂東
幸浩 坂東
誠之 高村
誠之 高村
清水 淳
淳 清水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2016000175A priority Critical patent/JP6441833B2/en
Publication of JP2017123501A publication Critical patent/JP2017123501A/en
Application granted granted Critical
Publication of JP6441833B2 publication Critical patent/JP6441833B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は、量子化方法、量子化装置及び量子化プログラムに関する。   The present invention relates to a quantization method, a quantization apparatus, and a quantization program.

近年、画像の高品質化に伴い、広ダイナミックレンジ映像への期待が高まっている。広ダイナミックレンジを有する画像信号に対する高いビット深度を用いた表現が検討されている。従来の8ビットから10ビット以上に拡張した高ビット深度信号を取得可能なデバイスが登場している。   In recent years, with the improvement of image quality, expectations for wide dynamic range images are increasing. Expression using a high bit depth for an image signal having a wide dynamic range has been studied. Devices that can acquire a high bit depth signal expanded from the conventional 8 bits to 10 bits or more have appeared.

画像の符号量は、画像信号の高ビット深度化に応じて増大する。このため、効率的な符号化方法が求められている。図5は、従来の高ビット深度信号の第1の符号化方法を示す図である。従来の高ビット深度信号の第1の符号化方法では、符号化装置は、高ビット深度信号の画像信号にビット深度変換処理を施すことで、画像信号を低ビット深度信号に変換して符号化及び復号処理を行う。さらに、符号化装置は、復号画像に対して逆ビット深度変換処理を行い、高ビット深度画像を生成する。最後に、符号化装置は、高ビット深度画像と入力信号との差分信号を符号化する。符号化装置の出力は、差分信号の符号化ストリームと、低ビット深度信号の符号化ストリームとである。このように、従来の高ビット深度信号の第1の符号化方法は、ビット深度のスケーラブル符号化に対応した方法である。   The code amount of the image increases as the bit depth of the image signal is increased. For this reason, an efficient encoding method is required. FIG. 5 is a diagram illustrating a first conventional encoding method of a high bit depth signal. In the first conventional high bit depth signal encoding method, the encoding apparatus performs bit depth conversion processing on the image signal of the high bit depth signal, thereby converting the image signal into a low bit depth signal and encoding the image signal. And decryption processing. Further, the encoding device performs inverse bit depth conversion processing on the decoded image to generate a high bit depth image. Finally, the encoding device encodes a differential signal between the high bit depth image and the input signal. The output of the encoding device is an encoded stream of a differential signal and an encoded stream of a low bit depth signal. As described above, the first conventional encoding method of a high bit depth signal is a method corresponding to the bit depth scalable encoding.

図6は、従来の高ビット深度信号の第2の符号化方法を示す図である。図6では、符号化装置は、差分信号の符号化ストリームを出力しない。符号化装置は、取得した画像信号にビット深度変換処理を施すことで、画像信号を復号信号に変換して符号化及び復号処理を行う。その後、符号化装置は、低ビット深度画像の復号信号に逆ビット深度変換処理を施し、高ビット深度画像の復号信号を出力する。   FIG. 6 is a diagram illustrating a second conventional encoding method of a high bit depth signal. In FIG. 6, the encoding device does not output the encoded stream of the difference signal. The encoding device performs a bit depth conversion process on the acquired image signal, thereby converting the image signal into a decoded signal and performing encoding and decoding processes. Thereafter, the encoding apparatus performs inverse bit depth conversion processing on the decoded signal of the low bit depth image, and outputs the decoded signal of the high bit depth image.

図5に示す従来の高ビット深度信号の第1の符号化方法における符号化効率は、ビット深度変換処理に大きく依存する。従来の高ビット深度信号の第1の符号化方法においては、入力信号と逆ビット深度変換処理後の復号信号との差分値の二乗和(以下、「ビット深度変換誤差」という。)を抑えることで、符号化器の出力信号の符号量を抑えることができる。ビット深度変換処理において、いくつかのトーンマッピング(Tone Mapping)を用いた方法が非特許文献1に開示されている。符号化効率を向上させるためには、ビット深度変換誤差を最小化するようにビット深度変換が設計される必要がある。   The coding efficiency in the first coding method of the conventional high bit depth signal shown in FIG. 5 largely depends on the bit depth conversion process. In the first conventional high bit depth signal encoding method, the sum of squares of the difference value between the input signal and the decoded signal after the inverse bit depth conversion process (hereinafter referred to as “bit depth conversion error”) is suppressed. Thus, the code amount of the output signal of the encoder can be suppressed. Non-Patent Document 1 discloses a method using several tone mappings in bit depth conversion processing. In order to improve the coding efficiency, the bit depth conversion needs to be designed so as to minimize the bit depth conversion error.

E. Reinhard, M. Stark, P. Shirley, and J. Ferwerda, "Photographic Tone Reproduction for Digital Images", In SIGGRAPH 2002 Conference Proceeding, ACM SIGGRAPH, Addison Wesley, pp. 267-277, August 2002.E. Reinhard, M. Stark, P. Shirley, and J. Ferwerda, "Photographic Tone Reproduction for Digital Images", In SIGGRAPH 2002 Conference Proceeding, ACM SIGGRAPH, Addison Wesley, pp. 267-277, August 2002.

従来のビット深度変化処理は、画像信号のヒストグラムに対する一種の量子化処理とみなせる。符号化効率向上のためには、ビット深度変換誤差を最小化するようにビット深度変換を設計する必要がある。しかしながら、ビット深度変換誤差を最小化するようにビット深度変換を設計すると演算量が増加してしまうという問題がある。すなわち、従来の量子化方法は、信号の階調変換を行う際に発生する変換誤差を最小化する場合、量子化に要する演算量を低減することができないという問題がある。   The conventional bit depth change process can be regarded as a kind of quantization process for a histogram of an image signal. In order to improve the coding efficiency, it is necessary to design the bit depth conversion so as to minimize the bit depth conversion error. However, if the bit depth conversion is designed so as to minimize the bit depth conversion error, there is a problem that the amount of calculation increases. That is, the conventional quantization method has a problem in that the amount of calculation required for quantization cannot be reduced when the conversion error generated when performing gradation conversion of a signal is minimized.

上記事情に鑑み、本発明は、信号の階調変換を行う際に発生する変換誤差を最小化する場合でも、量子化に要する演算量を低減することが可能である量子化方法、量子化装置及び量子化プログラムを提供することを目的としている。   In view of the above circumstances, the present invention provides a quantization method and a quantization apparatus that can reduce the amount of calculation required for quantization even when the conversion error that occurs when performing gradation conversion of a signal is minimized. And to provide a quantization program.

本発明の一態様は、第1のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第1のレベル数よりも少ない第2のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置における量子化方法であって、前記入力信号のヒストグラム内の要素の集合である複合要素を構成するステップと、複数の前記複合要素に含まれる一つ以上の値を代表値で近似した場合の近似誤差を、前記複合要素の集合であるクラスの最下端の前記複合要素内の要素を下端とし、前記クラスの最上端の前記複合要素内の要素を上端として構成される前記入力信号のヒストグラムの区間に対する近似誤差の下限値として定義して、前記クラスの境界であるクラス境界の候補を前記複合要素に制限し、前記クラス境界までの前記近似誤差の累積値を最小化する量子化値と、前記近似誤差の累積値の最小値とをメモリに格納するステップと、前記クラス境界を選択する際、格納した前記最小値を前記メモリから呼び出し、前記メモリから呼び出した前記最小値を前記クラス境界の選択における前記近似誤差の計算に用いることで、前記クラス境界の全ての前記複合要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するクラス境界選択処理を行うステップと、前記クラス境界として選択された前記複合要素が複数の要素を含む場合、選択された前記複合要素を上部分集合と下部分集合とに分割し、分割により得られた前記上部分集合と前記下部分集合を新たに部分集合複合要素に加え、前記クラス境界選択処理を行い、前記クラス境界として選択された前記複合要素の要素数が一つになるまで繰り返すステップと、を含む量子化方法である。   According to one aspect of the present invention, a histogram of an input signal representing a value that can take a range expressed by the first number of levels is taken as a range expressed by a second number of levels smaller than the first level. A quantization method in a quantization device that approximates with a histogram of an output signal that represents a value to be obtained, comprising: forming a composite element that is a set of elements in the histogram of the input signal; and included in the plurality of composite elements An approximation error when approximating one or more values with a representative value is defined as an element in the composite element at the bottom end of the class that is a set of the composite elements, and an element in the composite element at the top end of the class. By defining the lower limit value of the approximation error for the histogram section of the input signal configured with an element as the upper end, class boundary candidates that are boundaries of the class are limited to the composite element, and the class Storing a quantized value for minimizing the accumulated value of the approximation error up to a boundary and a minimum value of the accumulated value of the approximate error in a memory, and the stored minimum value when selecting the class boundary And the minimum value called from the memory is used for the calculation of the approximation error in the selection of the class boundary, thereby minimizing the sum of the approximation errors for all the complex elements of the class boundary. Performing class boundary selection processing for selecting the class boundary to be converted, and when the composite element selected as the class boundary includes a plurality of elements, the selected composite element is defined as an upper subset and a lower subset. The upper subset and the lower subset obtained by the division are newly added to the subset composite element, the class boundary selection process is performed, and the class boundary is And repeating until the number of elements selected the composite element is one as a quantization method comprising a.

本発明の一態様は、上記の量子化方法であって、複数の前記複合要素を代表値で近似した場合の前記近似誤差として、前記最下端の前記複合要素の最大レベル値の要素を下端とし、前記最上端の前記複合要素の最小レベル値の要素を上端として構成される前記入力信号のヒストグラムの区間に対する前記近似誤差として定義するステップを更に含む量子化方法である。   One aspect of the present invention is the quantization method described above, in which, as the approximation error when a plurality of the composite elements are approximated by representative values, the element of the maximum level value of the composite element at the lowermost end is set as the lower end. The quantization method further includes the step of defining the approximation error with respect to the histogram section of the input signal configured with the element of the minimum level value of the composite element at the uppermost end as an upper end.

本発明の一態様は、上記の量子化方法であって、前記クラス境界として選択された前記複合要素を前記上部分集合と前記下部分集合に分割した場合、前記上部分集合と前記上部分集合のクラスの一段上のクラスの前記クラス境界の前記複合要素を分割して得た前記上部分集合により定まる前記複合要素の集合に対する前記近似誤差を算出するステップと、前記上部分集合に分割前の前記複合要素とその他の前記複合要素の集合に対する前記近似誤差を再利用して、後段の前記クラス境界を選択する処理を行った結果に基づいて、前記上部分集合とその他の前記複合要素により定まる前記複合要素の集合に対する前記近似誤差を算出するステップと、を更に含む量子化方法である。   One aspect of the present invention is the quantization method described above, wherein when the composite element selected as the class boundary is divided into the upper subset and the lower subset, the upper subset and the upper subset Calculating the approximation error for the set of composite elements determined by the upper subset obtained by dividing the composite element of the class boundary of the class one level above Based on the result of performing the process of selecting the class boundary in the subsequent stage by reusing the approximation error for the composite element and the set of other composite elements, the upper subset and the other composite elements are used. Calculating the approximation error for the set of composite elements.

本発明の一態様は、上記の量子化方法であって、前記クラス境界として選択された前記複合要素を前記上部分集合と前記下部分集合に分割した場合、前記下部分集合とその他の前記複合要素により定まる前記複合要素の集合に対する前記近似誤差を算出し、後段の前記クラス境界を選択する処理を行うステップを更に含む量子化方法である。   One aspect of the present invention is the above-described quantization method, wherein when the composite element selected as the class boundary is divided into the upper subset and the lower subset, the lower subset and the other composite The quantization method further includes a step of calculating the approximation error for the set of complex elements determined by an element and selecting the class boundary in the subsequent stage.

本発明の一態様は、上記の量子化方法であって、前記複合要素の集合は、前記最下端の前記複合要素の要素である値の最小レベル値が前記最上端の前記複合要素の要素である値の最大レベル値よりも小さい前記複合要素により構成されるステップを更に含む量子化方法である。   One aspect of the present invention is the quantization method described above, wherein the set of composite elements includes an element of the composite element at the uppermost end, and a minimum level value of values of the elements of the composite element at the lowermost end. It is a quantization method further including the step comprised by the said composite element smaller than the maximum level value of a certain value.

本発明の一態様は、第1のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第1のレベル数よりも少ない第2のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置であって、前記入力信号のヒストグラム内の要素の集合である複合要素を構成するヒストグラム生成部と、複数の前記複合要素に含まれる一つ以上の値を代表値で近似した場合の近似誤差を、前記複合要素の集合であるクラスの最下端の前記複合要素内の要素を下端とし、前記クラスの最上端の前記複合要素内の要素を上端として構成される前記入力信号のヒストグラムの区間に対する近似誤差の下限値として定義して、前記クラスの境界であるクラス境界の候補を前記複合要素に制限し、前記クラス境界までの前記近似誤差の累積値を最小化する量子化値と、前記近似誤差の累積値の最小値とをメモリに格納する最小値決定部と、前記クラス境界を選択する際、格納した前記最小値を前記メモリから呼び出し、前記メモリから呼び出した前記最小値を前記クラス境界の選択における前記近似誤差の計算に用いることで、前記クラス境界の全ての前記複合要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するクラス境界選択処理を行い、前記クラス境界として選択された前記複合要素が複数の要素を含む場合、選択された前記複合要素を上部分集合と下部分集合とに分割し、分割により得られた前記上部分集合と前記下部分集合を新たに部分集合複合要素に加え、前記クラス境界選択処理を行い、前記クラス境界として選択された前記複合要素の要素数が一つになるまで繰り返す上端追跡部と、を備える量子化装置である。   According to one aspect of the present invention, a histogram of an input signal representing a value that can take a range expressed by the first number of levels is taken as a range expressed by a second number of levels smaller than the first level. A quantization apparatus for approximating with a histogram of an output signal representing a value to be obtained, comprising: a histogram generation unit constituting a composite element that is a set of elements in the histogram of the input signal; and one included in the plurality of composite elements The approximation error when approximating the above values with representative values is defined as the element in the composite element at the bottom end of the class that is a set of the composite elements, and the element in the composite element at the top end of the class. Defining a lower limit value of an approximation error with respect to a section of the histogram of the input signal configured as an upper end, limiting class boundary candidates that are boundaries of the class to the composite element, and the class boundary A minimum value determining unit that stores in a memory a quantized value that minimizes the accumulated value of the approximate error in memory, a minimum value of the accumulated value of the approximate error, and the stored minimum when the class boundary is selected. By calling a value from the memory and using the minimum value called from the memory for calculating the approximation error in the selection of the class boundary, the sum of the approximation errors is calculated for all the complex elements of the class boundary. When class boundary selection processing for selecting the class boundary to be minimized is performed, and the composite element selected as the class boundary includes a plurality of elements, the selected composite element is divided into an upper subset and a lower subset. The upper subset and the lower subset obtained by the division are newly added to the subset composite element, the class boundary selection process is performed, and the class boundary is selected. It said number of elements of the composite element is a quantizer; and a upper track section repeated until one.

本発明の一態様は、第1のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第1のレベル数よりも少ない第2のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置のコンピュータに、前記入力信号のヒストグラム内の要素の集合である複合要素を構成する手順と、複数の前記複合要素に含まれる一つ以上の値を代表値で近似した場合の近似誤差を、前記複合要素の集合であるクラスの最下端の前記複合要素内の要素を下端とし、前記クラスの最上端の前記複合要素内の要素を上端として構成される前記入力信号のヒストグラムの区間に対する近似誤差の下限値として定義して、前記クラスの境界であるクラス境界の候補を前記複合要素に制限し、前記クラス境界までの前記近似誤差の累積値を最小化する量子化値と、前記近似誤差の累積値の最小値とをメモリに格納する手順と、前記クラス境界を選択する際、格納した前記最小値を前記メモリから呼び出し、前記メモリから呼び出した前記最小値を前記クラス境界の選択における前記近似誤差の計算に用いることで、前記クラス境界の全ての前記複合要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するクラス境界選択処理を行う手順と、前記クラス境界として選択された前記複合要素が複数の要素を含む場合、選択された前記複合要素を上部分集合と下部分集合とに分割し、分割により得られた前記上部分集合と前記下部分集合を新たに部分集合複合要素に加え、前記クラス境界選択処理を行い、前記クラス境界として選択された前記複合要素の要素数が一つになるまで繰り返す手順と、を実行させるための量子化プログラムである。   According to one aspect of the present invention, a histogram of an input signal representing a value that can take a range expressed by the first number of levels is taken as a range expressed by a second number of levels smaller than the first level. A method of configuring a composite element that is a set of elements in the histogram of the input signal in a computer of a quantization device that approximates with a histogram of an output signal representing a value to be obtained, and one or more included in the plurality of composite elements The approximation error when the value is approximated with a representative value is defined as an element in the composite element at the bottom end of the class that is a set of the composite elements, and an element in the composite element at the top end of the class as the top. The lower limit value of the approximation error for the section of the histogram of the input signal to be configured is defined, the class boundary candidates that are the boundary of the class are limited to the composite element, and up to the class boundary The quantization value for minimizing the approximate value of the approximate error and the minimum value of the approximate value of the approximate error are stored in the memory, and when the class boundary is selected, the stored minimum value is stored from the memory. The class that minimizes the sum of the approximation errors for all the complex elements of the class boundary by using the minimum value called from the memory to calculate the approximation error in the selection of the class boundary A class boundary selection process for selecting a boundary; and when the composite element selected as the class boundary includes a plurality of elements, the selected composite element is divided into an upper subset and a lower subset, The upper subset and the lower subset obtained by the division are newly added to the subset composite element, the class boundary selection process is performed, and the class boundary selected The number of elements of application elements are quantized program for executing a procedure repeated until one.

本発明により、信号の階調変換を行う際に発生する変換誤差を最小化する場合でも、量子化に要する演算量を低減することが可能となる。   According to the present invention, it is possible to reduce the amount of calculation required for quantization even when the conversion error generated when performing gradation conversion of a signal is minimized.

実施形態における、量子化装置の構成の例を示す図である。It is a figure which shows the example of a structure of the quantization apparatus in embodiment. 実施形態における、第m段における複合要素内の要素の下限及び上限を定める処理の手順を示す図である。It is a figure which shows the procedure of the process which determines the minimum and upper limit of the element in the composite element in the m-th stage in embodiment. 実施形態における、適応量子化処理を示すフローチャートである。It is a flowchart which shows the adaptive quantization process in embodiment. 実施形態における、ステップS205の詳細を示すフローチャートである。It is a flowchart which shows the detail of step S205 in embodiment. 従来の高ビット深度信号の第1の符号化方法を示す図である。It is a figure which shows the 1st encoding method of the conventional high bit depth signal. 従来の高ビット深度信号の第2の符号化方法を示す図である。It is a figure which shows the 2nd encoding method of the conventional high bit depth signal.

本発明の実施形態について、図面を参照して詳細に説明する。
以下、図又は式において変数等の上に付された記号(^:ハット、〜:チルダ)は、変数の前に記載する。例えば、「^」が上に付されたcは、「^c」と表記する。以下、図又は式において変数又は記号の下付きの記号等と上付きの記号等とでは、下付きの記号等を先に記載する。例えば、下付き「1」と上付き「*」とが付された変数Δは、「Δ 」と表記する。例えば、下付き「i=0」と上付き「m」とが付された記号Σは、「Σi=0 」と表記する。
Embodiments of the present invention will be described in detail with reference to the drawings.
In the following, symbols (^: hat, ~: tilde) attached to variables etc. in the figure or formula are described before the variables. For example, “c” with “^” on top is expressed as “^ c”. Hereinafter, the subscript symbols and the like are described first in the subscript symbols and the superscript symbols and the like of the variables or symbols in the drawings or formulas. For example, a variable Δ with a subscript “1” and a superscript “*” is expressed as “Δ 1 * ”. For example, a symbol Σ with a subscript “i = 0” and a superscript “m” is expressed as “Σ i = 0 m ”.

[適応量子化装置]
図1は、量子化装置1の構成の例を示す図である。量子化装置1は、パーソナルコンピュータ、タブレット端末、スマートフォン端末、サーバ装置等の情報処理装置である。量子化装置1は、第1のレベル数(階調数)で表現される範囲を取り得る値を表す入力信号のヒストグラムを、第1のレベル数よりも少ない第2のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化処理(適応量子化)を実行する。
[Adaptive quantizer]
FIG. 1 is a diagram illustrating an example of the configuration of the quantization device 1. The quantization device 1 is an information processing device such as a personal computer, a tablet terminal, a smartphone terminal, or a server device. The quantizing device 1 expresses a histogram of an input signal representing a value that can take a range expressed by the first number of levels (number of gradations) with a second number of levels smaller than the first level number. Quantization processing (adaptive quantization) that is approximated by a histogram of an output signal representing a value that can take a range is executed.

量子化装置1は、ヒストグラム生成部11と、要素数記憶部12と、クラス数記憶部13と、近似誤差決定部14と、近似誤差記憶部15と、初期化部16と、複合要素記憶部17と、最小値決定部18と、最小記憶部19と、上端追跡部20と、上端記憶部21と、更新判定部22と、要素更新部23と、インデックス変換部24と、切替部25とを備える。   The quantization device 1 includes a histogram generation unit 11, an element number storage unit 12, a class number storage unit 13, an approximate error determination unit 14, an approximate error storage unit 15, an initialization unit 16, and a composite element storage unit. 17, minimum value determination unit 18, minimum storage unit 19, upper end tracking unit 20, upper end storage unit 21, update determination unit 22, element update unit 23, index conversion unit 24, and switching unit 25 Is provided.

ヒストグラム生成部11と、近似誤差決定部14と、初期化部16と、最小値決定部18と、上端追跡部20と、更新判定部22と、要素更新部23と、インデックス変換部24と、切替部25との一部または全部は、例えば、CPU(Central Processing Unit)等のプロセッサが、記憶部に記憶されたプログラムを実行することにより機能するソフトウェア機能部である。また、これらの機能部のうち一部または全部は、LSI(Large Scale Integration)やASIC(Application Specific Integrated Circuit)等のハードウェア機能部であってもよい。   A histogram generation unit 11, an approximation error determination unit 14, an initialization unit 16, a minimum value determination unit 18, an upper end tracking unit 20, an update determination unit 22, an element update unit 23, an index conversion unit 24, Part or all of the switching unit 25 is a software function unit that functions when a processor such as a CPU (Central Processing Unit) executes a program stored in the storage unit. Some or all of these functional units may be hardware functional units such as LSI (Large Scale Integration) and ASIC (Application Specific Integrated Circuit).

要素数記憶部12と、クラス数記憶部13と、近似誤差記憶部15と、複合要素記憶部17と、最小記憶部19と、上端記憶部21との一部または全部は、例えば、磁気ハードディスク装置や半導体記憶装置等の不揮発性の記憶媒体(非一時的な記録媒体)を有する記憶装置を用いて構成される。各記憶部は、例えば、RAM(Random Access Memory)やレジスタなどの揮発性の記憶媒体を有していてもよい。   Some or all of the element number storage unit 12, the class number storage unit 13, the approximate error storage unit 15, the composite element storage unit 17, the minimum storage unit 19, and the upper end storage unit 21 may be, for example, a magnetic hard disk It is configured using a storage device having a nonvolatile storage medium (non-temporary recording medium) such as a device or a semiconductor storage device. Each storage unit may include, for example, a volatile storage medium such as a RAM (Random Access Memory) or a register.

ヒストグラム生成部11は、入力信号を取得する。ヒストグラム生成部11は、入力信号のヒストグラムを生成する。ヒストグラム生成部11は、入力信号のヒストグラム及び入力信号のレベル数Kを、要素数記憶部12に記憶させる。
要素数記憶部12は、入力信号のヒストグラムと、入力信号のレベル数Kとを記憶する。
クラス数記憶部13は、量子化クラス数Mを記憶する。
The histogram generation unit 11 acquires an input signal. The histogram generator 11 generates a histogram of the input signal. The histogram generation unit 11 stores the histogram of the input signal and the level number K of the input signal in the element number storage unit 12.
The element number storage unit 12 stores a histogram of input signals and a level number K of input signals.
The class number storage unit 13 stores a quantization class number M.

近似誤差決定部14は、入力信号のヒストグラムと、入力信号のレベル数Kとを、要素数記憶部12から取得する。近似誤差決定部14は、量子化クラス数Mをクラス数記憶部13から取得する。近似誤差決定部14は、ヒストグラム内の区間を代表値で近似した場合の近似誤差を算出する。
近似誤差記憶部15は、ヒストグラム内の区間を代表値で近似した場合の近似誤差を記憶する。
The approximate error determination unit 14 acquires the histogram of the input signal and the number K of input signal levels from the element number storage unit 12. The approximate error determination unit 14 acquires the quantization class number M from the class number storage unit 13. The approximation error determination unit 14 calculates an approximation error when the section in the histogram is approximated with a representative value.
The approximation error storage unit 15 stores an approximation error when a section in the histogram is approximated with a representative value.

以下、Kは、入力信号のレベル数(以下、「入力レベル数」という。)を示す。M(M<K)は、量子化された入力信号に基づく出力信号のレベル数(以下、「量子化レベル数」という。)を示す。画素値kのヒストグラム(頻度)をh[k](k=0,…,K−1)と表記する。   Hereinafter, K represents the number of levels of the input signal (hereinafter referred to as “number of input levels”). M (M <K) indicates the number of levels of the output signal based on the quantized input signal (hereinafter referred to as “quantization level number”). A histogram (frequency) of the pixel value k is expressed as h [k] (k = 0,..., K−1).

初期化部16は、ヒストグラムh[k](k=0,…,K−1)を要素数記憶部12から取得する。初期化部16は、入力信号値のヒストグラムh[k](k=0,…,K−1)を、G(n)={g(n)[〜k]|〜k=0,…,〜K(n)−1}にグループ化する。nは、後述するアルゴリズムのループ回数(更新回数)を表すインデックスである。初期化部16は、ヒストグラムh[k](k=0,…,K−1)の複合要素g(n)[〜k]の初期値を、G(0)={g(0)[〜k]|〜k=0,…,〜K(0)−1}と定める。 The initialization unit 16 acquires the histogram h [k] (k = 0,..., K−1) from the element number storage unit 12. The initialization unit 16 converts the histogram h [k] (k = 0,..., K−1) of the input signal values into G (n) = {g (n) [˜k] | ˜k = 0,. ˜K (n) −1}. n is an index representing the loop count (update count) of an algorithm described later. The initialization unit 16 sets the initial value of the composite element g (n) [˜k] of the histogram h [k] (k = 0,..., K−1) as G (0) = {g (0) [˜ k] | ˜k = 0,..., ˜K (0) −1}.

複合要素記憶部17は、ヒストグラムh[k](k=0,…,K−1)の複合要素を記憶する。以下、代表値を付与して近似を行う複合要素の集合を、「複合量子化クラス」という。   The composite element storage unit 17 stores composite elements of the histogram h [k] (k = 0,..., K−1). Hereinafter, a set of composite elements that are approximated with a representative value is referred to as a “composite quantization class”.

最小値決定部18は、遷移先の複合要素内の最大要素と遷移元の複合要素内の最小要素を両端点とするヒストグラム内の区間に対して、同区間の重心で近似した場合の複合量子化クラスの近似誤差を算出する。最小値決定部18は、近似誤差記憶部15に記憶されている近似誤差の値を、必要な近似誤差の値として扱う。   The minimum value determination unit 18 is configured to approximate the composite quantum in the case where the maximum element in the transition destination composite element and the minimum element in the transition source composite element are approximated by the centroid of the same section. Approximation error of the optimization class The minimum value determination unit 18 treats the approximation error value stored in the approximation error storage unit 15 as a necessary approximation error value.

最小値決定部18は、複合要素の最適な複合量子化クラスを決定する。最小値決定部18は、複合要素の最適な複合量子化クラスに対応する近似誤差を、最小値記憶部19に記憶させる。最小値記憶部19は、複合要素の最適な複合量子化クラスに対応する近似誤差を記憶する。   The minimum value determination unit 18 determines an optimal composite quantization class of the composite element. The minimum value determination unit 18 causes the minimum value storage unit 19 to store an approximation error corresponding to the optimal composite quantization class of the composite element. The minimum value storage unit 19 stores an approximation error corresponding to the optimal composite quantization class of the composite element.

上端追跡部20は、最小値決定部18が算出した複合要素の最適な複合量子化クラスを表す複合量子化クラスの上端にあたる複合要素のインデックスを、上端記憶部21に記憶させる。   The upper end tracking unit 20 causes the upper end storage unit 21 to store the index of the composite element corresponding to the upper end of the composite quantization class representing the optimal composite quantization class of the composite element calculated by the minimum value determining unit 18.

更新判定部22は、最適な複合量子化クラスの上端に相当する全ての複合要素内の要素数を取得する。更新判定部22は、全ての要素数が1である場合、最適な複合量子化クラスの上端に相当する複合要素を、切替部25を介して要素更新部23に送信する。更新判定部22は、要素数のいずれかが1でない場合、トリガー信号を、切替部25を介してインデックス変換部24に送信する。   The update determination unit 22 acquires the number of elements in all composite elements corresponding to the upper end of the optimal composite quantization class. When the number of all elements is 1, the update determination unit 22 transmits the composite element corresponding to the upper end of the optimal composite quantization class to the element update unit 23 via the switching unit 25. If any of the number of elements is not 1, the update determination unit 22 transmits a trigger signal to the index conversion unit 24 via the switching unit 25.

要素更新部23は、最適な複合量子化クラスの上端に相当する複合要素を取得する。要素更新部23は、要素数が2以上となる複合要素を、上部分集合と下部分集合に分解する。要素更新部23は、上部分集合と下部分集合との頻度値の差がなるべく小さくなるように、要素数が2以上となる複合要素を分割する。要素更新部23は、分割により得られた上部分集合と下部分集合を、新たな複合要素として、複合要素記憶部17に記憶させる。   The element update unit 23 acquires a composite element corresponding to the upper end of the optimal composite quantization class. The element update unit 23 decomposes a composite element having two or more elements into an upper subset and a lower subset. The element update unit 23 divides the composite element having the number of elements of 2 or more so that the difference in frequency values between the upper subset and the lower subset is as small as possible. The element update unit 23 causes the composite element storage unit 17 to store the upper subset and the lower subset obtained by the division as new composite elements.

要素更新部23は、分割により得られた上部分集合を、複合量子化クラスの上端の候補として複合要素記憶部17に記憶させる。要素更新部23は、分割により得られた下部分集合を、複合量子化クラスの下端の候補として複合要素記憶部17に記憶させる。   The element update unit 23 causes the composite element storage unit 17 to store the upper subset obtained by the division as a candidate for the upper end of the composite quantization class. The element update unit 23 stores the lower subset obtained by the division in the composite element storage unit 17 as a candidate for the lower end of the composite quantization class.

インデックス変換部24は、トリガー信号を更新判定部22から取得した場合、上端記憶部21に記憶されている複合量子化クラスの上端にあたるM個の複合要素のインデックスを取得する。インデックス変換部24は、上記の各複合要素に含まれる要素に対する要素インデックスを、最適な量子化クラスの上端を表す情報として各々出力する。
切替部25は、更新判定部22による制御に応じて、信号の経路を切り替える。
When acquiring the trigger signal from the update determination unit 22, the index conversion unit 24 acquires the indexes of M composite elements corresponding to the upper end of the composite quantization class stored in the upper end storage unit 21. The index conversion unit 24 outputs the element index for the element included in each composite element as information representing the upper end of the optimal quantization class.
The switching unit 25 switches the signal path in accordance with the control by the update determination unit 22.

[量子化器の設計]
画像信号(輝度信号)が8ビットである場合、画素値kの取り得る範囲は、0から「入力レベル数−1」までの整数、すなわち、0から255の値となる。入力レベル数Kの画像信号を量子化レベル数の画像信号に量子化する場合を考える。求めるべきパラメータは、式(1)を満たすM個のパラメータである。
[Quantizer design]
When the image signal (luminance signal) is 8 bits, the possible range of the pixel value k is an integer from 0 to “number of input levels−1”, that is, a value from 0 to 255. Consider a case in which an image signal having an input level number K is quantized into an image signal having a quantization level number. The parameters to be obtained are M parameters that satisfy Expression (1).

Figure 0006441833
Figure 0006441833

ここで、Lは、ヒストグラムにおける第m区間の上端であり、式(2)で定義される。 Here, L m is the upper end of the m-th section in the histogram and is defined by Expression (2).

Figure 0006441833
Figure 0006441833

ここで、Δはヒストグラムの第m区間の区間幅を表す。また、量子化後の各階調が、少なくとも一つ以上、量子化前の階調を含む必要があることから、L(0≦m≦M−2)は、m≦L≦K−(M−m)の範囲に制限される。LM−1がLM−1=K−1に固定されているので、Lについては、m=M−1を省略し、m≦M−2を考えれば良い。 Here, delta m represents the section width of the m section of the histogram. Since each gradation after quantization needs to include at least one gradation before quantization, L m (0 ≦ m ≦ M−2) is m ≦ L m ≦ K− ( M-m). Since L M-1 is fixed to L M-1 = K-1, for L m , m = M-1 may be omitted and m ≦ M-2 may be considered.

e(L−(Δ−1),L)は、式(3)によって表される。式(3)は、ヒストグラムの区間[L−(Δ−1),L]を代表値c(L−(Δ−1),L)で近似した場合の近似誤差である。 e (L m − (Δ m −1), L m ) is expressed by Equation (3). Equation (3) is an approximation error when the histogram section [L m − (Δ m −1), L m ] is approximated by the representative value c (L m − (Δ m −1), L m ). .

Figure 0006441833
Figure 0006441833

さらに、^c(L−(Δ−1),L)は、式(4)によって求まる実数値c(L−(Δ−1),L)を四捨五入して整数化した値である。 Furthermore, ^ c (L m − (Δ m −1), L m ) is an integer obtained by rounding off the real value c (L m − (Δ m −1), L m ) obtained by the equation (4). Value.

Figure 0006441833
Figure 0006441833

c(L−(Δ−1),L)は、ヒストグラムの区間[L−(Δ−1),L]における重心位置を表す。以下、ヒストグラムの区間[L−(Δ−1),L] を、「第m量子化クラス」という。 c (L m − (Δ m −1), L m ) represents the position of the center of gravity in the section [L m − (Δ m −1), L m ] of the histogram. Hereinafter, the section [L m − (Δ m −1), L m ] of the histogram is referred to as “mth quantization class”.

M個のパラメータ(Δ,…,Δ)の取り得る組み合わせは、Mとともに指数関数的に増加するため、この中から最適な組み合わせ(Δ ,…,Δ )を総当りで探索するのは、計算量的に困難である。そこで、第m量子化クラスの量子化誤差e(L−(Δ−1),L)が同クラスの上端Lと同クラスの区間幅Δに依存することに着目し、以下のように最適解を算出する。さらに、その際、ヒストグラムの非有意要素に基づく演算量削減を行う。 The M parameter (Δ 1, ..., Δ M ) Possible combinations of, for increases exponentially with M, optimal combination from among the (Δ 1 *, ..., Δ M *) in a round robin Searching is difficult computationally. Therefore, focusing on the fact that the quantization error e (L m − (Δ m −1), L m ) of the m-th quantization class depends on the upper end L m of the same class and the section width Δ m of the same class, The optimal solution is calculated as follows. Further, at that time, the calculation amount is reduced based on the non-significant elements of the histogram.

[基本解法]
まず、ヒストグラムの区間[0,L]を(m+1)分割した際の近似誤差和Σi=0 e(L−(Δ−1),L)の最小値を、S(L)と表記する。つまり、最適なΔm,…,Δを用いた場合のΣi=0 e(L−(Δ−1),L)に対する最小値である。ここで、e(L−(Δ−1),L)が第m量子化クラスの上端Lと同クラスの区間幅Δm に依存することに着目すると、S(L)は、Sm−1(L−Δ)を用いて、式(5)によって表わされる。
[Basic solution]
First, a histogram of the interval [0, L m] (m + 1) approximation error sum during the divided Σ i = 0 m e (L i - (Δ i -1), L i) the minimum value of, S m ( L m ). In other words, the optimal Δm, ..., Σ i = 0 m e in the case of using the Δ 0 (L i - (Δ i -1), L i) is a minimum for. Here, focusing on the fact that e (L m − (Δ m −1), L m ) depends on the section width Δm of the same class as the upper end L m of the m th quantization class, S m (L m ) is , S m−1 (L m −Δ m ), and is expressed by equation (5).

Figure 0006441833
Figure 0006441833

なお、m=1,…,M−1である。また、L=m,…,K−(M−m)である。Δ の範囲は、式(6)のようになる。Lm−1=L−Δであることから、L−Δの範囲は、m−1≦L−Δ≦K−(M−m+1)となる。このため、Δの範囲は、与えられたLを用いて、式(6)によって表わされる。 Note that m = 1,..., M-1. Further, L m = m,..., K− (M−m). Range of delta m is as shown in equation (6). Because it is L m-1 = L m -Δ m, the range of L m - [delta m is, m-1 ≦ L m -Δ m ≦ K- (M-m + 1) become. Therefore, the range of delta m, using the given L m, represented by the formula (6).

Figure 0006441833
Figure 0006441833

さらに、Δ≧1であることを考慮すると、式(7)を得る。 Further, considering that Δ m ≧ 1, Equation (7) is obtained.

Figure 0006441833
Figure 0006441833

ここで、算出したS(L)を格納しておき、Sm+1(Lm+1)の計算で用いる。さらに、式(13)の右辺を最小化するΔの値をΔ (Lm)として、各L(=m,…,k−M+m)に対して^Lm−1[L]=L−Δ (Lm)を格納する。式(1)の最小化問題は、式(8)のように表わされる。 Here, the calculated S m (L m ) is stored and used in the calculation of S m + 1 (L m + 1 ). Further, as an expression of the value of delta m that minimizes the right-hand side delta m (Lm) of (13), each of L m (= m, ..., k-M + m) with respect to ^ L m-1 [L m ] = L m −Δ m (Lm) is stored. The minimization problem of Equation (1) is expressed as Equation (8).

Figure 0006441833
Figure 0006441833

式(8)を最小化するΔM−1を、式(9)に示すようにΔM−1 と表記する。 Δ M−1 that minimizes Equation (8) is expressed as Δ M−1 * as shown in Equation (9).

Figure 0006441833
Figure 0006441833

このΔM−1 を用いて、第M−2クラスの上端の最適値は、LM−2 =LM−1 −ΔM−1 =K−1−ΔM−1 と求まる。第M−3クラスの上端の最適値は、LM−2 に対する最適解として、^LM−3[LM−2 ]として格納されているので、該当する値を参照し、LM−3 =^LM−3[LM−2]となる。この結果、第M−2クラスの区間幅は、ΔM−2 =LM−2 −LM−3 と求まる。 Using this ΔM -1 * , the optimum value of the upper end of the M-2 class is obtained as LM -2 * = LM -1− ΔM -1 * = K−1−ΔM -1 *. . Optimal value of the upper end of the M-3 class, the optimal solution to the L M-2 *, ^ L M-3 because it is stored as [L M-2 *], with reference to the appropriate value, L M −3 * = ^ L M−3 [L M−2 ]. As a result, the section width of the M-2 class is obtained as ΔM -2 * = LM -2 * -LM -3 * .

以下、同様の参照処理をLM−4 =^LM−4[LM−3 ],…,L =^L[L ]として繰り返し、得られた各クラスの上端値を用いて、ΔM−3 =LM−3 −LM−4 ,…,Δ =L −L−1 として求める。なお、L−1=−1である。 Hereinafter, the same reference process L M-4 * = ^ L M-4 [L M-3 *], ..., L 0 * = ^ L 0 [L 1 *] repeated as the upper end of each obtained class using the values, Δ M-3 * = L M-3 * -L M-4 *, ..., Δ 0 * = L 0 * calculated as -L -1 *. Note that L −1 = −1.

視覚系は、低輝度の画素値の変化に比べて、高輝度の画素値の変化に鈍感である。そこで、こうした視覚特性を考慮して量子化を行う場合は、以下のように行う。以下、w[k]は、画素値k(k=0,…,K−1)に対する重み係数を示す。重み係数w[k]は、予め定められる。例えば、高輝度(大きなk)の重みを低輝度(小さなk)の重みより小さな値に設定すれば、高輝度と低輝度との差(輝度差)に対する視覚特性を量子化処理に組み込むことが可能になる。重み係数w[k]を用いて、画素値kに対する頻度h[k]を〜h[k]=w[k]h[k]として補正し、この補正後のヒストグラム〜h[k]に対して、前述の量子化処理を実施する。   The visual system is less sensitive to changes in high luminance pixel values than changes in low luminance pixel values. Therefore, when quantization is performed in consideration of such visual characteristics, the following is performed. Hereinafter, w [k] represents a weighting factor for the pixel value k (k = 0,..., K−1). The weighting coefficient w [k] is determined in advance. For example, if the weight of high luminance (large k) is set to a value smaller than the weight of low luminance (small k), the visual characteristic for the difference (luminance difference) between high luminance and low luminance can be incorporated into the quantization process. It becomes possible. Using the weighting coefficient w [k], the frequency h [k] for the pixel value k is corrected as ˜h [k] = w [k] h [k], and the corrected histogram ˜h [k] is corrected. Then, the above-described quantization process is performed.

[クラスの統合及び分割に基づく演算量削減]
初期化部16は、入力信号値のヒストグラムh[k](k=0,…,K−1)を、G(n)={g(n)[〜k]|〜k=0,…,〜K(n)−1}にグループ化する。ここで、複合要素g(n)[〜k]は、第〜k番目のグループとして、ヒストグラムの第l[〜k](n)要素から第u[〜k](n)要素までをグループ化したヒストグラムの要素の集合である。g(n)[〜k]は、g(n)[〜k]={h[k]|k=l[〜k](n),…,u[〜k](n)}のように表される。
[Computation volume reduction based on class integration and division]
The initialization unit 16 converts the histogram h [k] (k = 0,..., K−1) of the input signal values into G (n) = {g (n) [˜k] | ˜k = 0,. ˜K (n) −1}. Here, the composite element g (n) [˜k] is grouped from the 1st [˜k] (n) element to the u [˜k] (n) element of the histogram as the 1st to kth groups. This is a set of histogram elements. g (n) [˜k] is as follows: g (n) [˜k] = {h [k] | k = l [˜k] (n) ,..., u [˜k] (n) } expressed.

また、第〜kグループ内のヒストグラムの要素数を、「||g(n)[〜k]||=u[〜k](n)−l[〜k](n)+1」と表す。なお、l[0](n)=0であり、u[〜K](n)=K−1である。複合要素g(n)[〜k]におけるl[〜k](n)要素(最下端の要素)を、「最下位要素インデックス」という。また、複合要素g(n)[〜k]におけるu[〜k](n)要素(最上端の要素)を、「最上位要素インデックス」という。 In addition, the number of elements of the histogram in the ˜kth group is expressed as “|| g (n) [˜k] || = u [˜k] (n) −1 [˜k] (n) +1”. Note that l [0] (n) = 0 and u [˜K] (n) = K−1. The l [˜k] (n) element (lowermost element) in the composite element g (n) [˜k] is referred to as “lowest element index”. In addition, the u [˜k] (n) element (uppermost element) in the composite element g (n) [˜k] is referred to as “uppermost element index”.

[グループ化されたヒストグラムに対する量子化]
複合要素の集合{g(n)[〜k]|〜k=0,…,L〜m}を(〜m+1)個の部分集合に分割し、部分集合ごとに代表値でヒストグラムを近似することを考える。複合量子化クラス近似に対して、対応するヒストグラムの区間の近似誤差の下限値を用いて評価する。
[Quantization for grouped histograms]
The set of composite elements {g (n) [~k] | ~k = 0, ..., L ~m} a (~m + 1) is divided into subsets, approximating the histogram representative value for each subset think of. The complex quantization class approximation is evaluated using the lower limit value of the approximation error in the corresponding histogram section.

このとき、求めるべきパラメータは、式(10)を満たす〜M個のパラメータである。   At this time, the parameters to be obtained are ˜M parameters that satisfy Expression (10).

Figure 0006441833
Figure 0006441833

ここで、L〜mは、複合要素の集合における第〜m部分集合の上端であり、式(11)によって表される。 Here, L to m are the upper ends of the ˜m-th subsets of the set of composite elements, and are represented by Expression (11).

Figure 0006441833
Figure 0006441833

ここで、Δ〜mは、複合要素の第〜m部分集合の複合要素数を表す。〜e(L〜m−(Δ〜m−1),L〜m)は、式(12)によって求まる値である。〜e(L〜m−(Δ〜m−1),L〜m)は、第L〜m−(Δ〜m−1)番目の複合要素内の最大要素と第L〜m番目の複合要素内の最小要素を両端点とするヒストグラム内の区間に対して、同区間の重心で近似した場合の近似誤差である。 Here, Δ ~ m represents the number of composite elements of the ~ mth subset of composite elements. ~e (L ~m - (Δ ~m -1), L ~m) is a value obtained by equation (12). ~e (L ~m - (Δ ~m -1), L ~m) is the L ~m - (Δ ~m -1) th maximum element and the L ~m th complex element within the composite element This is an approximation error in the case of approximating the section in the histogram having the smallest element in the both ends as the center of gravity of the section.

Figure 0006441833
Figure 0006441833

式(12)の値は、複合要素の部分集合[L〜m−Δ〜m−1),L〜m]に対して、第L〜m−(Δ〜m−1)番目の複合要素内のいずれかの要素と第L〜m番目の複合要素内のいずれかの要素とを両端点とするヒストグラム内の区間に対して、同区間の重心で近似した場合の近似誤差の下限値として導入した値である。以下、複合要素の部分集合[L〜m−(Δ〜m−1),L〜m]を、「第〜m複合量子化クラス」という。 The value of Expression (12) is the value in the (L to m − (Δ to m −1)) th composite element with respect to the subset [L to m −Δ to m −1), L to m ] of the composite element. Introduced as the lower limit value of the approximation error when approximating with the centroid of the same section for the section in the histogram whose end points are any one of the elements and any element in the L-th to m- th composite elements It is the value. Hereinafter, the subset [L to m − (Δ to m −1), L to m ] of the composite element is referred to as “the m-th composite quantization class”.

上記の近似誤差の下限値の和Σi=0 〜m〜e(L−(Δ−1),L)の最小値を、S〜m(L〜m)と表記する。つまり、最適なΔ〜m,…,Δを用いた場合のΣi=0 〜m〜e(L−(Δ−1),L)に対する最小値である。ここで、〜e(L〜m−(Δ〜m−1),L〜m)が第〜m複合量子化クラスの上端L〜mと同クラスの区間幅Δ〜mに依存することに着目すると、S〜m(L〜m)は、S〜m−1(L〜m−Δ〜m)を用いて、式(13)によって表わされる。 The minimum value of the sum Σ i = 0 to m to e (L i − (Δ i −1), L i ) of the lower limit values of the approximation errors is denoted as S to m (L to m ). In other words, the optimal Δ~m, ..., Σ i = 0 ~m ~e when using Δ 0 (L i - (Δ i -1), L i) is a minimum for. Here, ~e (L ~m - (Δ ~m -1), L ~m) is focused on the fact that depends on the ~m upper L ~m and section width delta ~m the same class of composite quantization class Then, Sm ( Lm ) is represented by Formula (13) using Sm-1 ( Lm- ( DELTA ) m ).

Figure 0006441833
Figure 0006441833

なお、〜m=1,…,〜M−1である。また、L〜m=〜m,…,〜K−(〜M−〜m)である。 Note that ~ m = 1, ..., ~ M-1. Moreover, it is L- m = -m, ..., -K- (-M--m).

Δ〜mの範囲は、次のようになる。L〜m−1=L〜m−Δ〜mであることから、L〜m−Δ〜mの範囲は、〜m−1≦L〜m−Δ〜m≦〜K−(〜M−〜m+1)となる。このため、Δ〜mの範囲は、与えられたL〜mを用いて式(14)によって表される。 The range of Δ to m is as follows. Because it is L ~m-1 = L ~m -Δ ~m, the range of L ~m - [delta ~m is, ~m-1 ≦ L ~m -Δ ~m ≦ ~K- (~M-~ m + 1). For this reason, the range of (DELTA) -m is represented by Formula (14) using the given L- m .

Figure 0006441833
Figure 0006441833

さらに、Δ〜m≧1であることを考慮すると、式(15)を得る。 Further, considering that Δ ˜m ≧ 1, Equation (15) is obtained.

Figure 0006441833
Figure 0006441833

ここで、算出したS〜m(L〜m)を格納しておき、S〜m+1(L〜m+1)の計算で用いるものとする。さらに、式(13) の右辺を最小化するΔ〜mの値をΔ〜m (L〜m)として、各L〜m(=〜m,…,〜K−〜M+〜m)に対して^L〜m−1[L〜m]=L〜m−Δ〜m (L〜m)を格納しておくものとする。式(1)の最小化問題は、式(16)によって表される。 Here, the calculated S 1 to m (L 1 to m 2 ) are stored and used in the calculation of S 1 to m + 1 (L 1 to m + 1 ). Further, Δ ~ m ( L ~ m ) that minimizes the right side of the expression (13) is Δ ~ m ( L ~ m ) , and for each of L ~ m (= ~ m, ..., ~ K- ~ M + ~ m). ^ L to m−1 [L to m ] = L to m −Δ to m ( L to m ) are stored. The minimization problem of equation (1) is represented by equation (16).

Figure 0006441833
Figure 0006441833

以下、式(16)を最小化するΔ〜M−1を、「Δ〜M−1 」と表記する。Δ〜M−1 は、式(17)によって表される。 Hereinafter, Δ to M−1 that minimizes the expression (16) will be referred to as “Δ to M−1 * ”. Δ˜M−1 * is expressed by Expression (17).

Figure 0006441833
Figure 0006441833

第〜M−2複合量子化クラスの上端の最適値は、L〜M−2 =L〜M−1−Δ〜M−1 =〜K−1−Δ〜M−1 と定まる。第〜M−3複合量子化クラスの上端の最適値は、L〜M−2 に対する最適解^L〜M−3[L〜M−2 ]として格納されている。第〜M−3複合量子化クラスの上端の最適値は、格納されている値に基づいて、L〜M−3 =^L〜M−3[L〜M−2 ]と定まる。第〜M−2複合量子化クラスの区間幅は、Δ〜M−2 =L〜M−2 −L〜M−3 と定まる。 Optimal value of the upper end of the ~M-2 complex quantization classes, L ~M-2 * = L ~M-1 -Δ ~M-1 * = ~K-1-Δ ~M-1 * and determined. Optimal value of the upper end of the ~M-3 complex quantization class is stored as the optimum solution ^ L ~M-3 [L ~M -2 *] for L ~M-2 *. The optimum value at the upper end of the ˜M-3th complex quantization class is determined as L 1 −M−3 * = ^ L 3 −M 3 [L 1 −M−2 * ] based on the stored value. The section width of the ˜M-2 composite quantization class is determined as Δ˜M−2 * = L˜M−2 * −L˜M−3 * .

以下、同様の参照処理をL〜M−4 =^L〜M−4 [L〜M−3 ],…,L =^L [L ]として繰り返し、得られた各複合量子化クラスの上端値を用いて、Δ〜M−3 =L〜M−3 −L〜M−4 ,…,Δ =L −L−1 として求める。なお、L−1 =−1である。 Hereinafter, like reference processing L ~M-4 * = ^ L ~M-4 * [L ~M-3 *], ..., L 0 * = ^ L 0 * repeatedly as [L 1 *], obtained Using the upper end value of each composite quantization class, Δ˜M−3 * = L˜M−3 * −L˜M−4 * ,..., Δ 0 * = L 0 * −L −1 * . Note that L −1 * = − 1.

上記の処理で得られたg(n)[L〜m ](〜m=0,…,〜M)に対して、終了条件の判定を行う。終了条件は、最適解として得られた全ての複合要素が単一の要素のみから構成されるようになること、すなわち、||g(n)[L〜m ]||=1(〜m=0,…,〜M)を満たすことである。 The termination condition is determined for g (n) [L ~ m * ] (~ m = 0, ..., ~ M) obtained by the above processing. The termination condition is that all the composite elements obtained as the optimal solution are composed of only a single element, that is, || g (n) [L ~ m * ] || = 1 (~ m = 0, ..., ~ M).

上記の条件を満たさない場合、つまり、||g(n)[L〜m ]||>1を満たす複合要素が存在する場合、同要素を分割して、分割により得られた複合要素の集合に対して、上記と同様の量子化処理を行う。この反復を上述の終了条件を満たすまで繰り返す。なお、この複合要素の分割方法は後述する。 When the above condition is not satisfied, that is, when there is a composite element satisfying || g (n) [L to m * ] ||> 1, the same element is divided, and the composite element obtained by the division A quantization process similar to the above is performed on the set. This iteration is repeated until the above termination condition is satisfied. A method for dividing the composite element will be described later.

[複合要素の構成方法]
図2は、第m段における複合要素内の要素の下限及び上限を定める処理の手順を示す図である。複合要素内の頻度値和は、図2に示す処理の手順によって、可能な範囲で均等になる。図2に示す処理の手順を以下に説明する。複合要素のインデックスに初期値0を代入する(ステップS101)。
[How to configure composite elements]
FIG. 2 is a diagram showing a processing procedure for determining the lower limit and the upper limit of elements in the composite element in the m-th stage. The frequency value sum in the composite element is equalized within a possible range by the processing procedure shown in FIG. The procedure of the process shown in FIG. 2 will be described below. An initial value 0 is assigned to the index of the composite element (step S101).

後段の処理で用いる変数を0に初期化する(ステップS102)。
第m段におけるl[0]はl[0]=mに設定される(ステップS103)。これは、第m段における選択可能なヒストグラムの要素は、m≦k≦m−M+Kであるためである。
不等式「m≦k≦m−M+K」が示すヒストグラムの区間に対して、ステップS105〜S110を繰り返す(ステップS104)。
Variables used in subsequent processing are initialized to 0 (step S102).
L [0] in the m-th stage is set to l [0] = m (step S103). This is because the selectable histogram elements in the m-th stage are m ≦ k ≦ m−M + K.
Steps S105 to S110 are repeated for the section of the histogram indicated by the inequality “m ≦ k ≦ m−M + K” (step S104).

ヒストグラムの区間の累積頻度値和を変数sに格納する(ステップS105)。変数sの累積頻度値和が閾値θを超えた場合(ステップS106)、そのときのインデックスkを複合要素の上限とする(ステップS107)。
複合要素のインデックス〜kをインクリメントする(ステップS108)。
次の複合要素の下限値としてインデックス〜kを格納する(ステップS109)。
ヒストグラムの区間の累積頻度値和を格納するための変数sを0に初期化する(ステップS110)。上記で用いた閾値θは、式(18)によって表される。式(18)に示す閾値θは、実数「Σk=0 K−1h[k]/〜K(n)」を超えない最大の整数である。
The cumulative frequency value sum of the histogram sections is stored in the variable s (step S105). When the cumulative frequency value sum of the variable s exceeds the threshold θ (step S106), the index k at that time is set as the upper limit of the composite element (step S107).
The composite element index ~ k is incremented (step S108).
The index .about.k is stored as the lower limit value of the next composite element (step S109).
A variable s for storing the cumulative frequency value sum of the histogram sections is initialized to 0 (step S110). The threshold value θ used above is expressed by equation (18). The threshold value θ shown in Expression (18) is the maximum integer that does not exceed the real number “Σ k = 0 K−1 h [k] / ˜K (n)”.

Figure 0006441833
Figure 0006441833

あるいは、複合要素の別の構成例として、複合要素内の要素数が均等になるように、同要素数として固定値Bを与えることも可能である。複合要素に対するトレリス遷移図は、複合要素間のパスに関する以下の条件を満たすように設定する。   Alternatively, as another configuration example of the composite element, it is possible to give a fixed value B as the number of elements so that the number of elements in the composite element becomes equal. The trellis transition diagram for the composite element is set so as to satisfy the following condition regarding the path between the composite elements.

[複合要素の分割方法]
最適な複合量子化クラスの上端にあたる複合要素が、複数の要素から構成されている場合、同複合要素を2個の部分集合に分割する。具体的な分割は、分割対象となる複合要素に対して、分割後の複合要素内の頻度値和がなるべく均等になるように実施する。以下、分割により得られる2個の部分集合のうち大きな要素インデックスを含む部分集合を、「上部分集合」という。以下、分割により得られる2個の部分集合のうち小さな要素インデックスを含む部分集合を、「下部分集合」という。
[How to divide composite elements]
When the composite element corresponding to the upper end of the optimal composite quantization class is composed of a plurality of elements, the composite element is divided into two subsets. The specific division is performed so that the sum of the frequency values in the composite element after the division is as uniform as possible with respect to the composite element to be divided. Hereinafter, a subset including a large element index among two subsets obtained by division is referred to as an “upper subset”. Hereinafter, a subset including a small element index among two subsets obtained by division is referred to as a “lower subset”.

最適な第m−1番目の複合量子化クラスの上端にあたる複合要素を分割して得た下部分集合に対して、同下部分集合を複合量子化クラスの下端の候補として追加する。なお、このとき、複合量子化クラスの上端として設定可能な複合要素の条件は、複合量子化クラスの上端となる複合要素内の最上位要素インデックスが前述の下部分集合に対応する複合量子化クラスの下端となる複合要素内の最下位要素インデックスよりも大きな値となることである。   The lower subset is added as a candidate for the lower end of the composite quantization class to the lower subset obtained by dividing the composite element corresponding to the upper end of the optimal (m-1) th composite quantization class. At this time, the condition of the composite element that can be set as the upper end of the composite quantization class is the composite quantization class in which the highest element index in the composite element that is the upper end of the composite quantization class corresponds to the lower subset described above. This is a value that is larger than the lowest element index in the composite element that is the lower end of.

第m段における遷移可能な複合要素(上記の分割により生成された上部分集合と、下部分集合とを含む)に対して、新しい遷移パスを追加する。また、追加した遷移パスに対するコスト値もあわせて算出する。   A new transition path is added to the transitionable composite element in the m-th stage (including the upper subset and the lower subset generated by the above division). In addition, the cost value for the added transition path is also calculated.

最適な第m−1番目の複合量子化クラスの上端にあたる複合要素を分割して得た上部分集合に対して、同上部分集合を複合量子化クラスの上端の候補として追加する。なお、このとき、複合量子化クラスの上端として設定可能な複合要素の条件は、複合量子化クラスの上端となる複合要素内の最上位要素インデックスが前述の上部分集合に対応する複合量子化クラスの下端となる複合要素内の最下位要素インデックスよりも大きな値となることである。   For the upper subset obtained by dividing the composite element corresponding to the upper end of the optimal (m−1) -th composite quantization class, the same subset is added as a candidate for the upper end of the composite quantization class. At this time, the condition of the composite element that can be set as the upper end of the composite quantization class is the composite quantization class in which the highest element index in the composite element that is the upper end of the composite quantization class corresponds to the above-mentioned upper subset. This is a value that is larger than the lowest element index in the composite element that is the lower end of.

同上部分集合を下端とする複合量子化クラスの上端として、最適な第m番目の複合量子化クラスの上端にあたる複合要素を分割して得た上部分集合を用いる場合、同複合量子化クラスの近似誤差は、新たに参照テーブルから取得される。一方、同複合量子化クラスの上端として、上記以外の複合要素を用いる場合、同複合量子化クラスの近似誤差は、同上部分集合の分割前の複合量子化クラスの上端にあたる複合要素を同複合量子化クラスの下端とした場合の近似誤差と同一である。これは、同上部分集合の分割前の複合量子化クラスの上端にあたる複合要素を同上部分集合の上端にあたる複合要素は同一である為である。   When the upper subset obtained by dividing the composite element corresponding to the upper end of the optimal m-th composite quantization class is used as the upper end of the composite quantization class with the same subset as the lower end, the approximation of the composite quantization class is used. The error is newly acquired from the reference table. On the other hand, when a composite element other than the above is used as the upper end of the same composite quantization class, the approximation error of the same composite quantization class causes the composite element corresponding to the upper end of the composite quantization class before division of the same subset to be the same. It is the same as the approximation error in the case of the lower end of the conversion class. This is because the composite element corresponding to the upper end of the composite quantization class before division of the same subset is the same as the composite element corresponding to the upper end of the same subset.

第m段における最適パス上の複合要素が複数の要素から構成されており、同複合要素が下部分集合と上部分集合に分割された場合、第m−1段における上部分集合から第m段における分割後の上部分集合に対して新たしい遷移パスを追加する。この追加した遷移パス以外は、第m−1段の分割前の複合要素から第m段における分割前の複合要素に対する遷移コストと同一である。なお、第m段における最適パス上の複合要素が単一要素で構成されており、同複合要素に対する分割がなされない場合は、新たな遷移パスの追加は行われない。   When the composite element on the optimal path in the m-th stage is composed of a plurality of elements, and the composite element is divided into a lower subset and an upper subset, the m-th stage from the upper subset in the m-1 stage A new transition path is added to the upper subset after division in. Except for the added transition path, the transition cost is the same as the transition cost from the composite element before the division at the (m−1) -th stage to the composite element before the division at the m-th stage. Note that if the composite element on the optimal path in the m-th stage is composed of a single element and no division is performed on the composite element, no new transition path is added.

第m−1段における複合要素から遷移可能な第m段における複合要素とは、第m段における複合要素の最上位要素インデックスが第m−1段における複合要素の最下位要素インデックスよりも大きな値となる複合要素である。   The composite element in the m-th stage that can be transitioned from the composite element in the (m-1) th stage is a value in which the highest element index of the composite element in the m-th stage is larger than the lowest element index of the composite element in the (m-1) th stage. Is a composite element.

なお、別の分割方法として、複合要素内の要素数が均等になるように、分割することも可能である。複合要素内の要素間に遷移可能なパスがある場合は、複合要素間のパスを設けるものとする。複合要素間のパスが有する遷移コストは複合要素内の要素間のパスの遷移コストの最小値とする。   As another division method, it is also possible to divide so that the number of elements in the composite element becomes equal. When there is a transitionable path between elements in the composite element, a path between the composite elements is provided. The transition cost of the path between the composite elements is the minimum value of the transition cost of the path between the elements in the composite element.

[適応量子化処理]
図3は、適応量子化処理を示すフローチャートである。
ヒストグラム生成部11は、入力信号を取得する。ヒストグラム生成部11は、入力信号値のヒストグラムh[K](k=0,…,K−1)を生成する(ステップS201)。
近似誤差決定部14は、入力信号値のヒストグラムを取得する。近似誤差決定部14は、ヒストグラム内の区間を代表値で近似した場合の近似誤差を、式(3)に基づいて算出する。近似誤差決定部14は、算出した近似誤差を近似誤差記憶部15の参照テーブルに格納する(ステップS202)。
[Adaptive quantization]
FIG. 3 is a flowchart showing the adaptive quantization process.
The histogram generation unit 11 acquires an input signal. The histogram generator 11 generates a histogram h [K] (k = 0,..., K−1) of input signal values (step S201).
The approximate error determination unit 14 acquires a histogram of input signal values. The approximate error determination unit 14 calculates an approximate error when the section in the histogram is approximated with the representative value based on the equation (3). The approximate error determination unit 14 stores the calculated approximate error in the reference table of the approximate error storage unit 15 (step S202).

初期化部16は、ステップS201で生成したヒストグラムを取得する。初期化部16は、ヒストグラムを複合要素に分割する。すなわち、初期化部16は、取得したヒストグラムh[k](k=0,…,K−1)の複合要素を、図2に示す処理手順に基づいて、G(0)={g(0)[〜k]|〜k=0,…,〜K(0)−1}と定める(ステップS203)。 The initialization unit 16 acquires the histogram generated in step S201. The initialization unit 16 divides the histogram into composite elements. That is, the initialization unit 16 converts the composite element of the acquired histogram h [k] (k = 0,..., K−1) to G (0) = {g (0 ) [~k] | ~k = 0 , ..., defined as ~K (0) -1} (step S203).

最小値決定部18は、ヒストグラムと、各複合要素の上端及び下端とを取得する。最小値決定部18は、ヒストグラム内の区間を代表値で近似した場合の近似誤差を、式(12)に基づいて算出する。最小値決定部18は、算出した近似誤差を各複合量子化クラスの近似誤差として、最小値記憶部19の参照テーブルに格納する。最小値決定部18は、遷移先の複合要素内の最大要素と遷移元の複合要素内の最小要素を両端点とするヒストグラム内の区間に対して、同区間の重心で近似した場合の近似誤差として設定する。最小値決定部18は、ステップS202で生成した参照テーブルを参照することで、近似誤差を定める(ステップS204)。   The minimum value determination unit 18 acquires a histogram and the upper and lower ends of each composite element. The minimum value determination unit 18 calculates an approximation error when the section in the histogram is approximated with the representative value based on the equation (12). The minimum value determination unit 18 stores the calculated approximation error in the reference table of the minimum value storage unit 19 as an approximation error of each composite quantization class. The minimum value determination unit 18 approximates an error in the case of approximating the section in the histogram having the maximum element in the transition destination composite element and the minimum element in the transition source composite element as both end points with the center of gravity of the same section. Set as. The minimum value determination unit 18 determines the approximation error by referring to the reference table generated in step S202 (step S204).

最小値決定部18は、複合要素の最適な複合量子化クラスを決定する(ステップS205)。最適な複合量子化クラスの上端に相当する全ての複合要素内の要素数を取得する。最小値決定部18は、全ての要素数が1であるか否かを判定する(ステップS206)。   The minimum value determination unit 18 determines an optimal composite quantization class of the composite element (step S205). Get the number of elements in all composite elements corresponding to the top of the optimal composite quantization class. The minimum value determination unit 18 determines whether or not the number of all elements is 1 (step S206).

最小値決定部18は、最適な複合量子化クラスの上端に相当する複合要素を取得する。最小値決定部18は、要素数が2以上となる複合要素を上部分集合と下部分集合とに分解する。最小値決定部18は、上部分集合と下部分集合との頻度値の差がなるべく小さくなるように、要素数が2以上となる複合要素を分割する(ステップS207)。   The minimum value determination unit 18 acquires a composite element corresponding to the upper end of the optimal composite quantization class. The minimum value determination unit 18 decomposes a composite element having two or more elements into an upper subset and a lower subset. The minimum value determination unit 18 divides the composite element having the number of elements of 2 or more so that the difference between the frequency values of the upper subset and the lower subset is as small as possible (step S207).

要素更新部23は、量子化後のクラスm=1,…,M−1について、ステップS209及びステップS210を繰り返す(ステップS208)。
要素更新部23は、最適な第m−1番目の複合量子化クラスの上端にあたる複合要素を分割して得た下部分集合に対して、同下部分集合を複合量子化クラスの下端の候補として追加する。なお、このとき、複合量子化クラスの上端として設定可能な複合要素の条件は、複合量子化クラスの上端となる複合要素内の最上位要素インデックスが前述の下部分集合に対応する複合量子化クラスの下端となる複合要素内の最下位要素インデックスよりも大きな値となることである(ステップS209)。
The element updating unit 23 repeats Step S209 and Step S210 for the quantized classes m = 1,..., M−1 (Step S208).
The element updating unit 23 uses the lower subset as a candidate for the lower end of the composite quantization class with respect to the lower subset obtained by dividing the composite element corresponding to the upper end of the optimal (m−1) -th composite quantization class. to add. At this time, the condition of the composite element that can be set as the upper end of the composite quantization class is the composite quantization class in which the highest element index in the composite element that is the upper end of the composite quantization class corresponds to the lower subset described above. This is a value that is larger than the lowest element index in the composite element that is the lower end of (step S209).

要素更新部23は、最適な第m−1番目の複合量子化クラスの上端にあたる複合要素を分割して得た上部分集合に対して、同上部分集合を複合量子化クラスの上端の候補として追加する。なお、このとき、複合量子化クラスの上端として設定可能な複合要素の条件は、複合量子化クラスの上端となる複合要素内の最上位要素インデックスが前述の上部分集合に対応する複合量子化クラスの下端となる複合要素内の最下位要素インデックスよりも大きな値となることである。   The element updating unit 23 adds the above subset as a candidate for the top end of the composite quantization class to the top subset obtained by dividing the composite element corresponding to the top end of the optimal (m-1) -th composite quantization class. To do. At this time, the condition of the composite element that can be set as the upper end of the composite quantization class is the composite quantization class in which the highest element index in the composite element that is the upper end of the composite quantization class corresponds to the above-mentioned upper subset. This is a value that is larger than the lowest element index in the composite element that is the lower end of.

要素更新部23は、同上部分集合を下端とする複合量子化クラスの上端として、最適な第m番目の複合量子化クラスの上端にあたる複合要素を分割して得た上部分集合を用いる場合、同複合量子化クラスの近似誤差を、新たに参照テーブルから取得する。一方、同複合量子化クラスの上端として、上記以外の複合要素を用いる場合、同複合量子化クラスの近似誤差は、同上部分集合の分割前の複合量子化クラスの上端にあたる複合要素を同複合量子化クラスの下端とした場合の近似誤差と同一である(ステップS210)。   When the upper subset obtained by dividing the composite element corresponding to the upper end of the optimal m-th composite quantization class is used as the upper end of the composite quantization class having the same subset as the lower end, the element update unit 23 An approximate error of the composite quantization class is newly acquired from the reference table. On the other hand, when a composite element other than the above is used as the upper end of the same composite quantization class, the approximation error of the same composite quantization class causes the composite element corresponding to the upper end of the composite quantization class before division of the same subset to be the same. This is the same as the approximation error when the lower end of the conversion class is set (step S210).

要素更新部23は、量子化後のクラスmがM未満であるか否かを判定する(ステップS211)。量子化後のクラスmがMである場合、ステップS208に処理を戻す。量子化後のクラスmがM未満である場合、ステップS205に処理を戻す。   The element update unit 23 determines whether the quantized class m is less than M (step S211). If the class m after quantization is M, the process returns to step S208. If the quantized class m is less than M, the process returns to step S205.

インデックス変換部24は、最適な複合量子化クラスの上端にあたるM個の複合要素の要素インデックスを出力する。同複合要素はいずれも要素を1個しか含まないため、同複合要素の要素としては一意に同定できる(ステップS212)。   The index conversion unit 24 outputs element indexes of M composite elements corresponding to the upper end of the optimal composite quantization class. Since each composite element includes only one element, the composite element can be uniquely identified (step S212).

図4は、図3に示すステップS205の詳細を示すフローチャートである。なお、図4では、〜mをmと表記する。〜MをMと表記する。〜kをkと表記する。LをL_0と表記する。L〜mをL_mと表記する。 FIG. 4 is a flowchart showing details of step S205 shown in FIG. In FIG. 4, ~ m is represented as m. ~ M is written as M. ~ K is expressed as k. The L 0 is referred to as L_0. L to m are expressed as L_m.

最小値決定部18は、入力信号のヒストグラムを取得する(ステップS301)。
最小値決定部18は、Lを0に初期化する(ステップS302)。
最小値決定部18は、i=1,…,〜K−〜M+1について、S(i)を0に初期化する(ステップS303)。
最小値決定部18は、量子化後のレベル〜m=1,…,〜M−1について、ステップS305からステップS313を繰り返す(ステップS304)。
The minimum value determination unit 18 acquires a histogram of the input signal (step S301).
Minimum value determining unit 18 initializes the L 0 to 0 (step S302).
The minimum value determining unit 18 initializes S 0 (i) to 0 for i = 1,..., K− to M + 1 (step S303).
The minimum value determination unit 18 repeats Steps S305 to S313 for the levels after quantization ˜m = 1,..., M−1 (Step S304).

最小値決定部18は、上端L〜m=〜m,…,〜K−(〜M−〜m)−1について、ステップS306からステップS312を繰り返す。L〜mは、〜m番目の量子化レベルに対応するヒストグラムの区間の上端を表す(ステップS305)。
最小値決定部18は、区間幅Δ〜m=1,…,L〜m−(〜m−1)−1について、ステップS307からステップS309を繰り返す。Δ〜mは、m番目の量子化レベルに対応するヒストグラムの区間の区間幅を示す(ステップS306)。
The minimum value determination unit 18 repeats Steps S306 to S312 for the upper ends L ~ m = ~ m, ..., ~ K- (~ M- ~ m) -1. L˜m represent the upper end of the section of the histogram corresponding to the ˜mth quantization level (step S305).
The minimum value determination unit 18 repeats Steps S307 to S309 for the section widths Δ ~ m = 1, ..., L ~ m- (~ m-1) -1. Δ˜m indicate the section width of the section of the histogram corresponding to the mth quantization level (step S306).

最小値決定部18は、第L〜m=(Δ〜m−1)番目の複合要素内の最大の要素インデックスと、第L〜m番目の複合要素内の最小の要素インデックスと、近似誤差を格納したテーブルとを取得する。最小値決定部18は、複合要素の部分集合[L〜m−(Δ〜m−1),L〜m]に対する近似誤差の下限値〜e(L〜m−(Δ〜m−1),L〜m]を、式(12)に基づいて算出する(ステップS307)。 The minimum value determination unit 18 calculates an approximation error and a maximum element index in the L.sup.m = (. DELTA..about.m- 1) th composite element, a minimum element index in the L.sup.mth composite element, and an approximation error. Get the stored table. The minimum value determination unit 18 uses a lower limit value ~ e (L ~ m-(Δ ~ m -1) of approximation errors for a subset [L ~ m-(Δ ~ m -1), L ~ m ]] of composite elements, Lm ] is calculated based on the equation (12) (step S307).

最小値決定部18は、S〜m−1(L〜m−Δ〜m)及び〜e(L〜m−(Δ〜m−1),L〜m)を取得する。最小値決定部18は、S〜m−1(L〜m−Δ〜m)+〜e(L〜m−(Δ〜m−1),L〜m)を算出する(ステップS308)。
最小値決定部18は、区間幅Δ〜mがL−(m−1)未満であるか否かを判定する(ステップS309)。最小値決定部18は、区間幅Δ〜mがL−(m−1)未満である場合、ステップS306に処理を戻す。
The minimum value determination unit 18 acquires S to m−1 (L to m −Δ to m ) and to e (L to m − (Δ to m −1), L to m ). Minimum value determining unit 18, S ~m-1 (L ~m -Δ ~m) + ~e (L ~m - (Δ ~m-1), L ~m) is calculated (step S308).
The minimum value determining unit 18 determines whether or not the section widths Δ to m are less than L m − (m−1) (step S309). The minimum value determination unit 18 returns the process to step S306 when the section widths Δ to m are less than L m − (m−1).

最小値決定部18は、区間幅Δ〜mがL−(m−1)である場合、Δ〜m=1,…,L−(m−1)について、S〜m−1(L〜m−Δ〜m)+〜e(L〜m−(Δ〜m−1),L〜m)の最小値を算出し、変数S〜m(L〜m)に格納する(ステップS310)。 When the section widths Δ to m are L m − (m−1), the minimum value determining unit 18 performs S to m−1 (L for Δ to m = 1,..., L m − (m−1). ~m -Δ ~m) + ~e (L ~m - (Δ ~m -1), calculates the minimum value of L ~m), is stored in a variable S ~m (L ~m) (step S310) .

最小値決定部18は、S〜m−1(L〜m−Δ〜m)+〜e(L〜m−(Δ〜m−1),L〜m)を最小化するΔ〜mの値を、Δ〜m (L〜m)と定める。最小値決定部18は、各L〜mについて、^L〜m−1[L〜m]=L〜m−Δ〜m (L〜m)を格納する(ステップS311)。 The minimum value determining unit 18 is a value of Δ to m that minimizes S to m−1 (L to m −Δ to m ) + to e (L to m − (Δ to m−1 ), L to m ). Is defined as Δ ~ m (L ~ m ) . The minimum value determination unit 18 stores, for each of L to m , ^ L to m −1 [L to m ] = L to m −Δ to m ( L to m ) (step S311).

最小値決定部18は、上端L〜mが〜K−(〜M−〜m)未満であるか否かを判定する(ステップS312)。最小値決定部18は、上端L〜mが〜K−(〜M−〜m)未満である場合、ステップS305に処理を戻す。
最小値決定部18は、上端L〜mが〜K−(〜M−〜m)である場合、量子化後のレベル〜mが〜M未満であるか否かを判定する(ステップS313)。
The minimum value determination unit 18 determines whether or not the upper ends L to m are less than ~ K- (~ M- ~ m) (step S312). The minimum value determination unit 18 returns the process to step S305 when the upper ends L to m are less than ~ K- (~ M- ~ m).
When the upper ends L to m are ˜K− (˜M− to m), the minimum value determination unit 18 determines whether or not the level ˜m after quantization is less than ˜M (step S313).

上端追跡部20(上端決定部)は、量子化後のレベル〜mが〜M未満である場合、第〜M−1複合量子化クラスの最適化区間幅を式(17)に従って算出し、変数Δ〜M−1 に格納する。上端追跡部20は、第〜M−2複合量子化クラスの上端の最適値〜k−1−Δ〜M−1 を算出し、変数L〜M−2 に格納する(ステップS314)。
上端追跡部20は、量子化後のレベル〜m=〜M−2,…,0について、〜mの増分を−1にして、ステップS316を繰り返す(ステップS315)。
The upper end tracking unit 20 (upper end determination unit) calculates the optimization interval width of the first to (M-1) th complex quantization classes according to the equation (17) when the level after quantization ˜m is less than ˜M, and the variable Store in Δ˜M−1 * . The upper end tracking unit 20 calculates the optimum values ˜k−1−Δ to M−1 * of the upper end of the ˜M−2 complex quantization class, and stores them in the variables L to M−2 * (step S314).
The upper end tracking unit 20 repeats step S316 with the increment of ~ m set to -1 for the quantized level ~ m = ~ M-2, ..., 0 (step S315).

上端追跡部20は、複合量子化クラスの上端値L〜m=^L〜m[L〜m+1 ]を算出する(ステップS316)。
上端追跡部20は、量子化後のレベル〜mが0以上であるか否かを判定する。上端追跡部20は、量子化後のレベル〜mが0以上である場合、ステップS315に処理を戻す。上端追跡部20は、量子化後のレベル〜mが−1である場合、図3に示すステップS205を終了する。
The upper end tracking unit 20 calculates the upper end values L to m = ^ L to m [L to m + 1 * ] of the composite quantization class (step S316).
The upper end tracking unit 20 determines whether or not the level ˜m after quantization is 0 or more. The upper end tracking part 20 returns a process to step S315, when the level -m after quantization is 0 or more. The upper end tracking unit 20 ends step S205 illustrated in FIG. 3 when the level after quantization ˜m is −1.

以上のように、量子化装置1は、第1のレベル数(入力レベル数)で表現される範囲を取り得る値を表す入力信号のヒストグラムを、第1のレベル数よりも少ない第2のレベル数(量子化レベル数)で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する。量子化装置1は、ヒストグラム生成部11と、最小値決定部18と、上端追跡部20とを備える。ヒストグラム生成部11は、入力信号のヒストグラム内の要素の集合である複合要素を構成(生成)する。最小値決定部18は、複数の複合要素に含まれる一つ以上の値を代表値で近似した場合の近似誤差を、複合要素の集合であるクラスの最下端の複合要素内の要素を下端とし、クラスの最上端の複合要素内の要素を上端として構成される入力信号のヒストグラムの区間に対する近似誤差の下限値として定義して、クラスの境界であるクラス境界の候補を複合要素に制限し、クラス境界までの近似誤差の累積値を最小化する量子化値と、近似誤差の累積値の最小値とをメモリに格納する。上端追跡部20は、クラス境界を選択する際、格納した最小値をメモリから呼び出し、メモリから呼び出した最小値をクラス境界の選択における近似誤差の計算に用いることで、クラス境界の全ての複合要素に対して近似誤差の総和を最小化するクラス境界を選択するクラス境界選択処理を行い、クラス境界として選択された複合要素が複数の要素を含む場合、選択された複合要素を上部分集合と下部分集合とに分割し、分割により得られた上部分集合と下部分集合を新たに部分集合複合要素に加え、クラス境界選択処理を行い、クラス境界として選択された複合要素の要素数が一つになるまで繰り返す。   As described above, the quantization apparatus 1 uses the second level that is smaller than the first level number as the histogram of the input signal that represents a value that can take a range represented by the first level number (input level number). It approximates with the histogram of the output signal showing the value which can take the range represented by a number (quantization level number). The quantization device 1 includes a histogram generation unit 11, a minimum value determination unit 18, and an upper end tracking unit 20. The histogram generation unit 11 configures (generates) a composite element that is a set of elements in the histogram of the input signal. The minimum value determination unit 18 uses an approximation error when approximating one or more values included in a plurality of composite elements as a representative value, and uses the element in the lowest composite element of the class that is a set of composite elements as the lower end. , By defining the lower limit of the approximation error for the histogram section of the input signal composed of the elements in the uppermost composite element of the class as the upper end, limiting the class boundary candidates that are class boundaries to composite elements, A quantized value that minimizes the cumulative value of the approximation error up to the class boundary and the minimum value of the cumulative value of the approximation error are stored in the memory. When selecting the class boundary, the upper end tracking unit 20 calls the stored minimum value from the memory, and uses the minimum value called from the memory for calculating the approximation error in the selection of the class boundary. When class boundary selection processing that selects a class boundary that minimizes the sum of approximation errors is performed, and the composite element selected as the class boundary includes multiple elements, the selected composite element is Dividing into subsets, the upper and lower subsets obtained by the division are newly added to the subset composite element, class boundary selection processing is performed, and the number of elements of the composite element selected as the class boundary is one. Repeat until.

これによって、量子化装置1は、信号の階調変換を行う際に発生する変換誤差を最小化する場合でも、量子化に要する演算量を低減することが可能である。   As a result, the quantization device 1 can reduce the amount of calculation required for quantization even when the conversion error that occurs when performing gradation conversion of a signal is minimized.

量子化方法は、複数の複合要素を代表値で近似した場合の近似誤差として、最下端の複合要素の最大レベル値の要素を下端とし、最上端の複合要素の最小レベル値の要素を上端として構成(生成)される入力信号のヒストグラムの区間に対する近似誤差として定義するステップ
を更に含む。
The quantization method uses the maximum level element of the lowest composite element as the lower end and the lowest level element of the highest composite element as the upper end as an approximation error when approximating multiple composite elements with representative values. The method further includes the step of defining as an approximation error for a section of the histogram of the input signal to be constructed (generated).

量子化方法は、クラス境界として選択された複合要素を上部分集合と下部分集合に分割した場合、上部分集合と上部分集合のクラスの一段上のクラスのクラス境界の複合要素を分割して得た上部分集合により定まる複合要素の集合に対する近似誤差を算出するステップと、上部分集合に分割前の複合要素とその他の複合要素の集合に対する近似誤差を再利用して、後段のクラス境界を選択する処理を行った結果に基づいて、上部分集合とその他の複合要素により定まる複合要素の集合に対する近似誤差を算出するステップとを更に含む。   In the quantization method, when a composite element selected as a class boundary is divided into an upper subset and a lower subset, the composite element at the class boundary of the upper class of the upper subset and the upper subset class is divided. By calculating the approximation error for the set of composite elements determined by the obtained upper subset, and reusing the approximation error for the composite element before splitting and the set of other composite elements in the upper subset And a step of calculating an approximation error for a set of composite elements determined by the upper subset and other composite elements based on a result of performing the selecting process.

量子化方法は、クラス境界として選択された複合要素を上部分集合と下部分集合に分割した場合、下部分集合とその他の複合要素により定まる複合要素の集合に対する近似誤差を算出し、後段のクラス境界を選択する処理を行うステップを更に含む。   In the quantization method, when a composite element selected as a class boundary is divided into an upper subset and a lower subset, an approximation error for the set of composite elements determined by the lower subset and other composite elements is calculated, and the class in the subsequent stage is calculated. The method further includes a step of performing a process of selecting a boundary.

量子化方法は、複合要素の集合は、最下端の複合要素の要素である値の最小レベル値が最上端の複合要素の要素である値の最大レベル値よりも小さい複合要素により構成されるステップを更に含む。   In the quantization method, the set of composite elements includes a composite element in which a minimum level value of a value that is an element of the lowest composite element is smaller than a maximum level value of a value that is an element of the highest composite element Is further included.

上述した実施形態における量子化装置の少なくとも一部をコンピュータで実現するようにしてもよい。その場合、この機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよく、FPGA(Field Programmable Gate Array)等のプログラマブルロジックデバイスを用いて実現されるものであってもよい。   You may make it implement | achieve at least one part of the quantization apparatus in embodiment mentioned above with a computer. In that case, a program for realizing this function may be recorded on a computer-readable recording medium, and the program recorded on this recording medium may be read into a computer system and executed. Here, the “computer system” includes an OS and hardware such as peripheral devices. The “computer-readable recording medium” refers to a storage device such as a flexible medium, a magneto-optical disk, a portable medium such as a ROM and a CD-ROM, and a hard disk incorporated in a computer system. Furthermore, the “computer-readable recording medium” dynamically holds a program for a short time like a communication line when transmitting a program via a network such as the Internet or a communication line such as a telephone line. In this case, a volatile memory inside a computer system serving as a server or a client in that case may be included and a program held for a certain period of time. Further, the program may be a program for realizing a part of the above-described functions, and may be a program capable of realizing the functions described above in combination with a program already recorded in a computer system. You may implement | achieve using programmable logic devices, such as FPGA (Field Programmable Gate Array).

以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。   The embodiment of the present invention has been described in detail with reference to the drawings. However, the specific configuration is not limited to this embodiment, and includes designs and the like that do not depart from the gist of the present invention.

1…量子化装置、11…ヒストグラム生成部、12…要素数記憶部、13…クラス数記憶部、14…近似誤差決定部、15…近似誤差記憶部、16…初期化部、17…複合要素記憶部、18…最小値決定部、19…最小値記憶部、20…上端追跡部、21…上端記憶部、22…更新判定部、23…要素更新部、24…インデックス変換部、25…切替部 DESCRIPTION OF SYMBOLS 1 ... Quantizer, 11 ... Histogram generation part, 12 ... Element number memory | storage part, 13 ... Class number memory | storage part, 14 ... Approximation error determination part, 15 ... Approximation error memory | storage part, 16 ... Initialization part, 17 ... Composite element Storage unit, 18 ... minimum value determination unit, 19 ... minimum value storage unit, 20 ... upper end tracking unit, 21 ... upper end storage unit, 22 ... update determination unit, 23 ... element update unit, 24 ... index conversion unit, 25 ... switch Part

Claims (7)

第1のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第1のレベル数よりも少ない第2のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置における量子化方法であって、
前記入力信号のヒストグラム内の要素の集合である複合要素を構成するステップと、
複数の前記複合要素に含まれる一つ以上の値を代表値で近似した場合の近似誤差を、前記複合要素の集合であるクラスの最下端の前記複合要素内の要素を下端とし、前記クラスの最上端の前記複合要素内の要素を上端として構成される前記入力信号のヒストグラムの区間に対する近似誤差の下限値として定義して、前記クラスの境界であるクラス境界の候補を前記複合要素に制限し、前記クラス境界までの前記近似誤差の累積値を最小化する量子化値と、前記近似誤差の累積値の最小値とをメモリに格納するステップと、
前記クラス境界を選択する際、格納した前記最小値を前記メモリから呼び出し、前記メモリから呼び出した前記最小値を前記クラス境界の選択における前記近似誤差の計算に用いることで、前記クラス境界の全ての前記複合要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するクラス境界選択処理を行うステップと、
前記クラス境界として選択された前記複合要素が複数の要素を含む場合、選択された前記複合要素を上部分集合と下部分集合とに分割し、分割により得られた前記上部分集合と前記下部分集合を新たに部分集合複合要素に加え、前記クラス境界選択処理を行い、前記クラス境界として選択された前記複合要素の要素数が一つになるまで繰り返すステップと、
を含む量子化方法。
A histogram of an input signal representing a value that can take a range expressed by the first number of levels is represented by an output signal that represents a value that can take a range expressed by the second number of levels less than the first number of levels. A quantization method in a quantization device approximating with a histogram,
Constructing a composite element that is a set of elements in a histogram of the input signal;
An approximation error when approximating one or more values included in a plurality of the composite elements with a representative value is defined as an element in the composite element at the lowest end of the class that is a set of the composite elements, and By defining the lower limit value of the approximation error for the histogram section of the input signal configured with the element in the uppermost end of the composite element as the upper end, class boundary candidates that are boundaries of the class are limited to the composite element. Storing a quantized value that minimizes a cumulative value of the approximation error up to the class boundary and a minimum value of the cumulative value of the approximation error in a memory;
When selecting the class boundary, the stored minimum value is called from the memory, and the minimum value called from the memory is used for the calculation of the approximation error in the selection of the class boundary. Performing a class boundary selection process for selecting the class boundary that minimizes the sum of the approximation errors for the composite element;
When the composite element selected as the class boundary includes a plurality of elements, the selected composite element is divided into an upper subset and a lower subset, and the upper subset and the lower part obtained by the division are divided Adding a set to a new subset composite element, performing the class boundary selection process, repeating until the number of elements of the composite element selected as the class boundary becomes one;
Including a quantization method.
複数の前記複合要素を代表値で近似した場合の前記近似誤差として、前記最下端の前記複合要素の最大レベル値の要素を下端とし、前記最上端の前記複合要素の最小レベル値の要素を上端として構成される前記入力信号のヒストグラムの区間に対する前記近似誤差として定義するステップ
を更に含む、請求項1に記載の量子化方法。
As the approximation error when approximating a plurality of the composite elements with representative values, the element of the maximum level value of the composite element at the bottom end is the lower end, and the element of the minimum level value of the composite element at the top end is the upper end The quantization method according to claim 1, further comprising: defining the approximation error with respect to a section of a histogram of the input signal configured as follows.
前記クラス境界として選択された前記複合要素を前記上部分集合と前記下部分集合に分割した場合、前記上部分集合と前記上部分集合のクラスの一段上のクラスの前記クラス境界の前記複合要素を分割して得た前記上部分集合により定まる前記複合要素の集合に対する前記近似誤差を算出するステップと、
前記上部分集合に分割前の前記複合要素とその他の前記複合要素の集合に対する前記近似誤差を再利用して、後段の前記クラス境界を選択する処理を行った結果に基づいて、前記上部分集合とその他の前記複合要素により定まる前記複合要素の集合に対する前記近似誤差を算出するステップと、
を更に含む、請求項1に記載の量子化方法。
When the composite element selected as the class boundary is divided into the upper subset and the lower subset, the composite element of the class boundary of the upper class of the upper subset and the class of the upper subset Calculating the approximation error for the set of composite elements determined by the upper subset obtained by dividing;
Based on the result of performing the process of selecting the class boundary in the subsequent stage by reusing the approximation error for the composite element before division and the set of other composite elements into the upper subset. Calculating the approximation error for the set of composite elements determined by the other composite elements;
The quantization method according to claim 1, further comprising:
前記クラス境界として選択された前記複合要素を前記上部分集合と前記下部分集合に分割した場合、前記下部分集合とその他の前記複合要素により定まる前記複合要素の集合に対する前記近似誤差を算出し、後段の前記クラス境界を選択する処理を行うステップ
を更に含む、請求項1に記載の量子化方法。
When the composite element selected as the class boundary is divided into the upper subset and the lower subset, the approximation error for the set of composite elements determined by the lower subset and the other composite elements is calculated, The quantization method according to claim 1, further comprising: performing a process of selecting the class boundary in the subsequent stage.
前記複合要素の集合は、前記最下端の前記複合要素の要素である値の最小レベル値が前記最上端の前記複合要素の要素である値の最大レベル値よりも小さい前記複合要素により構成されるステップ
を更に含む、請求項1から請求項4のいずれか一項に記載の量子化方法。
The set of composite elements is configured by the composite elements having a minimum level value that is an element of the composite element at the lowest end smaller than a maximum level value of a value that is an element of the composite element at the top end. The quantization method according to claim 1, further comprising a step.
第1のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第1のレベル数よりも少ない第2のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置であって、
前記入力信号のヒストグラム内の要素の集合である複合要素を構成するヒストグラム生成部と、
複数の前記複合要素に含まれる一つ以上の値を代表値で近似した場合の近似誤差を、前記複合要素の集合であるクラスの最下端の前記複合要素内の要素を下端とし、前記クラスの最上端の前記複合要素内の要素を上端として構成される前記入力信号のヒストグラムの区間に対する近似誤差の下限値として定義して、前記クラスの境界であるクラス境界の候補を前記複合要素に制限し、前記クラス境界までの前記近似誤差の累積値を最小化する量子化値と、前記近似誤差の累積値の最小値とをメモリに格納する最小値決定部と、
前記クラス境界を選択する際、格納した前記最小値を前記メモリから呼び出し、前記メモリから呼び出した前記最小値を前記クラス境界の選択における前記近似誤差の計算に用いることで、前記クラス境界の全ての前記複合要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するクラス境界選択処理を行い、前記クラス境界として選択された前記複合要素が複数の要素を含む場合、選択された前記複合要素を上部分集合と下部分集合とに分割し、分割により得られた前記上部分集合と前記下部分集合を新たに部分集合複合要素に加え、前記クラス境界選択処理を行い、前記クラス境界として選択された前記複合要素の要素数が一つになるまで繰り返す上端追跡部と、
を備える量子化装置。
A histogram of an input signal representing a value that can take a range expressed by the first number of levels is represented by an output signal that represents a value that can take a range expressed by the second number of levels less than the first number of levels. A quantization device approximating with a histogram,
A histogram generator that constitutes a composite element that is a set of elements in the histogram of the input signal;
An approximation error when approximating one or more values included in a plurality of the composite elements with a representative value is defined as an element in the composite element at the lowest end of the class that is a set of the composite elements, and By defining the lower limit value of the approximation error for the histogram section of the input signal configured with the element in the uppermost end of the composite element as the upper end, class boundary candidates that are boundaries of the class are limited to the composite element. A minimum value determination unit that stores a quantized value that minimizes a cumulative value of the approximation error up to the class boundary and a minimum value of the cumulative value of the approximation error in a memory;
When selecting the class boundary, the stored minimum value is called from the memory, and the minimum value called from the memory is used for the calculation of the approximation error in the selection of the class boundary. A class boundary selection process for selecting the class boundary that minimizes the sum of the approximation errors is performed on the composite element, and when the composite element selected as the class boundary includes a plurality of elements, the selected The composite element is divided into an upper subset and a lower subset, the upper subset and the lower subset obtained by the division are newly added to the subset composite element, the class boundary selection process is performed, and the class boundary is selected. An upper end tracking unit that repeats until the number of elements of the composite element selected as
A quantization apparatus comprising:
第1のレベル数で表現される範囲を取り得る値を表す入力信号のヒストグラムを、前記第1のレベル数よりも少ない第2のレベル数で表現される範囲を取り得る値を表す出力信号のヒストグラムで近似する量子化装置のコンピュータに、
前記入力信号のヒストグラム内の要素の集合である複合要素を構成する手順と、
複数の前記複合要素に含まれる一つ以上の値を代表値で近似した場合の近似誤差を、前記複合要素の集合であるクラスの最下端の前記複合要素内の要素を下端とし、前記クラスの最上端の前記複合要素内の要素を上端として構成される前記入力信号のヒストグラムの区間に対する近似誤差の下限値として定義して、前記クラスの境界であるクラス境界の候補を前記複合要素に制限し、前記クラス境界までの前記近似誤差の累積値を最小化する量子化値と、前記近似誤差の累積値の最小値とをメモリに格納する手順と、
前記クラス境界を選択する際、格納した前記最小値を前記メモリから呼び出し、前記メモリから呼び出した前記最小値を前記クラス境界の選択における前記近似誤差の計算に用いることで、前記クラス境界の全ての前記複合要素に対して前記近似誤差の総和を最小化する前記クラス境界を選択するクラス境界選択処理を行う手順と、
前記クラス境界として選択された前記複合要素が複数の要素を含む場合、選択された前記複合要素を上部分集合と下部分集合とに分割し、分割により得られた前記上部分集合と前記下部分集合を新たに部分集合複合要素に加え、前記クラス境界選択処理を行い、前記クラス境界として選択された前記複合要素の要素数が一つになるまで繰り返す手順と、
を実行させるための量子化プログラム。
A histogram of an input signal representing a value that can take a range expressed by the first number of levels is represented by an output signal that represents a value that can take a range expressed by the second number of levels less than the first number of levels. To the computer of the quantizer that approximates with a histogram,
Configuring a composite element that is a set of elements in a histogram of the input signal;
An approximation error when approximating one or more values included in a plurality of the composite elements with a representative value is defined as an element in the composite element at the lowest end of the class that is a set of the composite elements, and By defining the lower limit value of the approximation error for the histogram section of the input signal configured with the element in the uppermost end of the composite element as the upper end, class boundary candidates that are boundaries of the class are limited to the composite element. A procedure for storing a quantized value for minimizing a cumulative value of the approximation error up to the class boundary and a minimum value of the cumulative value of the approximation error in a memory;
When selecting the class boundary, the stored minimum value is called from the memory, and the minimum value called from the memory is used for the calculation of the approximation error in the selection of the class boundary. Performing a class boundary selection process for selecting the class boundary that minimizes the sum of the approximation errors for the composite element;
When the composite element selected as the class boundary includes a plurality of elements, the selected composite element is divided into an upper subset and a lower subset, and the upper subset and the lower part obtained by the division are divided Adding a new set to a subset composite element, performing the class boundary selection process, and repeating until the number of elements of the composite element selected as the class boundary becomes one;
Quantization program to execute.
JP2016000175A 2016-01-04 2016-01-04 Quantization method, quantization apparatus, and quantization program Active JP6441833B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016000175A JP6441833B2 (en) 2016-01-04 2016-01-04 Quantization method, quantization apparatus, and quantization program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016000175A JP6441833B2 (en) 2016-01-04 2016-01-04 Quantization method, quantization apparatus, and quantization program

Publications (2)

Publication Number Publication Date
JP2017123501A JP2017123501A (en) 2017-07-13
JP6441833B2 true JP6441833B2 (en) 2018-12-19

Family

ID=59305959

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016000175A Active JP6441833B2 (en) 2016-01-04 2016-01-04 Quantization method, quantization apparatus, and quantization program

Country Status (1)

Country Link
JP (1) JP6441833B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024252553A1 (en) * 2023-06-07 2024-12-12 日本電信電話株式会社 Quantization method, quantization device, and computer program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5345977B2 (en) * 2010-06-14 2013-11-20 日本電信電話株式会社 Adaptive quantization method, adaptive quantization apparatus, and adaptive quantization program
JP5757446B2 (en) * 2011-06-09 2015-07-29 ソニー株式会社 Image processing apparatus and method

Also Published As

Publication number Publication date
JP2017123501A (en) 2017-07-13

Similar Documents

Publication Publication Date Title
JP7783376B2 (en) Concepts for encoding parameters of neural networks.
JP4695706B2 (en) Method and apparatus for entropy encoding and decoding
JP7337950B2 (en) Method and apparatus for quantization, adaptive block partitioning, and codebook coding for neural network model compression, and computer program
CN107967517A (en) The method and apparatus quantified for neutral net
JP2019530333A (en) Method and apparatus for encoding data using Polar code
JP6748022B2 (en) Division shape determining apparatus, learning apparatus, division shape determining method, and division shape determining program
CN115699020A (en) Quantization for neural networks
JPWO2010050152A1 (en) Pixel predicted value generation procedure automatic generation method, image encoding method, image decoding method, apparatus thereof, program thereof, and recording medium on which these programs are recorded
KR20130030299A (en) Method and apparatus for determining mapping between a syntax element and a code word for variable length coding
JP5231839B2 (en) Pattern recognition apparatus and method
EP4059219A1 (en) Method and apparatus for end-to-end task-oriented latent compression with deep reinforcement learning
WO2022190195A1 (en) Information processing system, encoding device, decoding device, model learning device, information processing method, encoding method, decoding method, model learning method, and program storage medium
US20240171743A1 (en) End-to-end neural compression with deep reinforcement learning
JP2011176407A (en) Image encoder, image decoder, image encoding method, image decoding method and program therefor
JP6441833B2 (en) Quantization method, quantization apparatus, and quantization program
JP5345977B2 (en) Adaptive quantization method, adaptive quantization apparatus, and adaptive quantization program
CN113748626B (en) Iterative Detection in Communication Systems
US6771831B2 (en) Data compression method and system using globally optimal scalar quantization
Goyal et al. On optimal permutation codes
JP5426506B2 (en) Adaptive quantization method, adaptive quantization apparatus, and adaptive quantization program
JP6368287B2 (en) Adaptive quantization method, adaptive quantization apparatus, and adaptive quantization program
JP6538572B2 (en) Quantization method, quantization device and quantization program
KR101461840B1 (en) Low complexity target vector identification
US12425594B2 (en) Encoding device, decoding device, encoding method, decoding method, and program
JP6312312B2 (en) Context model generation device, encoding device, and decoding device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20181112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181120

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181122

R150 Certificate of patent or registration of utility model

Ref document number: 6441833

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150