JP6199749B2 - Noise judgment device and noise judgment method - Google Patents
Noise judgment device and noise judgment method Download PDFInfo
- Publication number
- JP6199749B2 JP6199749B2 JP2014005804A JP2014005804A JP6199749B2 JP 6199749 B2 JP6199749 B2 JP 6199749B2 JP 2014005804 A JP2014005804 A JP 2014005804A JP 2014005804 A JP2014005804 A JP 2014005804A JP 6199749 B2 JP6199749 B2 JP 6199749B2
- Authority
- JP
- Japan
- Prior art keywords
- noise
- data
- frequency
- noise determination
- component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 33
- 239000011159 matrix material Substances 0.000 claims description 21
- 238000000354 decomposition reaction Methods 0.000 claims description 11
- 230000002776 aggregation Effects 0.000 claims description 6
- 238000004220 aggregation Methods 0.000 claims description 6
- 238000010606 normalization Methods 0.000 claims description 4
- 238000005070 sampling Methods 0.000 description 28
- 230000015654 memory Effects 0.000 description 11
- 238000006243 chemical reaction Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 238000001914 filtration Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000013139 quantization Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Description
本発明はノイズ判定技術に関し、特に画像信号に含まれるノイズの判定技術に関する。 The present invention relates to a noise determination technique, and more particularly, to a determination technique for noise included in an image signal.
固体撮像素子などのイメージセンサを用いて撮像された画像信号に含まれるノイズを検出し除去する技術については、従来から種々の技術が提案されている。 Conventionally, various techniques have been proposed for detecting and removing noise contained in an image signal captured using an image sensor such as a solid-state image sensor.
例えば、特許文献1には、クロマ成分に含まれるノイズを検出し、除去する技術が開示されている。
For example,
固体撮像素子などのイメージセンサを用いた撮像装置は、監視カメラとして使用されることがあるが、監視カメラは、明るい場所での使用に限定されず、照度の低い場所でも使用されることがある。 An imaging apparatus using an image sensor such as a solid-state imaging device may be used as a surveillance camera. However, the surveillance camera is not limited to use in a bright place, and may be used in a place with low illuminance. .
このような場合、ノイズの比率が高くなり、特許文献1をはじめとして、従来のノイズ検出技術では効果的なノイズ判定ができず、十分なノイズ除去ができないという問題があった。
In such a case, the noise ratio becomes high, and conventional noise detection techniques including
本発明は上記のような問題を解決するためになされたものであり、どのような状況下で撮像された画像であってもノイズ判定を行うことが可能なノイズ判定技術を提供することを目的とする。 The present invention has been made to solve the above-described problems, and an object thereof is to provide a noise determination technique capable of performing noise determination on an image captured under any circumstances. And
本発明に係るノイズ判定装置の第1の態様は、フレーム単位で与えられる画像データのノイズの有無を判定するノイズ判定装置であって、前記画像データを周波数分解し、得られた周波数成分について、周波数が比較的低い低周波成分および周波数が比較的高い高周波成分について、それぞれ所定数のデータをサンプリングし、低周波側データに対する高周波側データの比率に基づいて、ノイズの有無を判定する。 A first aspect of the noise determination apparatus according to the present invention is a noise determination apparatus that determines the presence or absence of noise in image data given in units of frames, and frequency-decomposes the image data, and regarding the obtained frequency components, A predetermined number of data is sampled for each of a low frequency component having a relatively low frequency and a high frequency component having a relatively high frequency, and the presence or absence of noise is determined based on the ratio of the high frequency data to the low frequency data.
本発明に係るノイズ判定装置の第2の態様は、前記ノイズ判定装置は、1つのフレームの前記画像データを所定の画素数のマトリクスに分割してデータブロックとして周波数分解を行う周波数分解部と、前記周波数分解部で得られた周波数成分について、前記データブロックの低周波成分側および高周波成分側のそれぞれで、所定数ずつの周波数成分をサンプリングして、前記低周波側データおよび前記高周波側データとし、前記低周波側データに対する前記高周波側データの比率が、予め定めた第1の閾値よりも大きいか否かでノイズの有無を解析する周波数解析部と、を備えている。 According to a second aspect of the noise determination device of the present invention, the noise determination device divides the image data of one frame into a matrix having a predetermined number of pixels and performs frequency decomposition as a data block; For the frequency components obtained by the frequency resolving unit, a predetermined number of frequency components are sampled on each of the low frequency component side and the high frequency component side of the data block to obtain the low frequency side data and the high frequency side data. A frequency analysis unit that analyzes the presence or absence of noise based on whether a ratio of the high-frequency data to the low-frequency data is greater than a predetermined first threshold value.
本発明に係るノイズ判定装置の第3の態様は、前記ノイズ判定装置が、前記周波数解析部においてノイズを有すると解析された前記データブロックの個数が、予め定めた閾値よりも多い場合は、前記1つのフレームにノイズを有するものと判定するフレーム単体ノイズ判定部を備えている。 A third aspect of the noise determination device according to the present invention is such that when the number of the data blocks analyzed by the frequency analysis unit as having noise is larger than a predetermined threshold, A single frame noise determination unit that determines that one frame has noise is provided.
本発明に係るノイズ判定装置の第4の態様は、前記ノイズ判定装置が、前記フレーム単体ノイズ判定部においてノイズを有するものと判定された複数のフレームが、予め定めた判定条件を満たす場合は、動画像にノイズを有するものと判定する複数フレームノイズ判定部を備えている。 In a fourth aspect of the noise determination apparatus according to the present invention, when the noise determination apparatus satisfies a predetermined determination condition when a plurality of frames determined to have noise in the single frame noise determination unit, A multi-frame noise determination unit that determines that a moving image has noise is provided.
本発明に係るノイズ判定装置の第5の態様は、前記ノイズ判定装置が、1つのフレームの前記画像データを所定の画素数のマトリクスに分割してデータブロックとして周波数分解を行う周波数分解部と、前記周波数分解部で得られた周波数成分について、前記データブロックの低周波成分側および高周波成分側のそれぞれで、所定数ずつの周波数成分をサンプリングして、前記低周波側データおよび前記高周波側データとし、前記1つのフレームを構成する全ての前記データブロックについて対応する周波数成分ごとにデータの加算を行ったデータ集約マトリクスを作成し、前記データ集約マトリクスにおける、前記低周波側データに対する前記高周波側データの比率が、予め定めた第1の閾値よりも大きいか否かでノイズの有無を解析する周波数解析部と、を備えている。 According to a fifth aspect of the noise determination apparatus of the present invention, the noise determination apparatus divides the image data of one frame into a matrix of a predetermined number of pixels and performs frequency decomposition as a data block; For the frequency components obtained by the frequency resolving unit, a predetermined number of frequency components are sampled on each of the low frequency component side and the high frequency component side of the data block to obtain the low frequency side data and the high frequency side data. Creating a data aggregation matrix in which data is added for each corresponding frequency component for all the data blocks constituting the one frame, and the high frequency side data is compared with the low frequency side data in the data aggregation matrix. The presence / absence of noise is analyzed based on whether the ratio is greater than a predetermined first threshold. It is provided with a wave number analysis unit.
本発明に係るノイズ判定装置の第6の態様は、前記ノイズ判定装置が、前記周波数解析部においてノイズを有するものと判定された複数のフレームが、予め定めた判定条件を満たす場合は、動画像にノイズを有するものと判定する複数フレームノイズ判定部を備えている。 According to a sixth aspect of the noise determination apparatus of the present invention, when the plurality of frames determined as having noise by the frequency analysis unit satisfy a predetermined determination condition, the noise determination apparatus is a moving image. Are provided with a multi-frame noise determination unit that determines that the signal has noise.
本発明に係るノイズ判定装置の第7の態様は、前記判定条件が、動画像を構成する複数のフレームのうち、ノイズを有するフレームの比率で規定される。 In a seventh aspect of the noise determination device according to the present invention, the determination condition is defined by a ratio of frames having noise among a plurality of frames constituting the moving image.
本発明に係るノイズ判定装置の第8の態様は、前記判定条件が、動画像を構成する複数のフレームのうち、ノイズを有するフレームの連続数で規定される。 In an eighth aspect of the noise determination apparatus according to the present invention, the determination condition is defined by a continuous number of frames having noise among a plurality of frames constituting the moving image.
本発明に係るノイズ判定装置の第9の態様は、前記周波数分解部が、離散コサイン変換により周波数分解を行い、前記周波数解析部は、前記周波数分解部での離散コサイン変換により得られた変換係数の交流成分を直流成分で割ることで前記交流成分の正規化を行い、正規化後の交流成分を前記低周波側データおよび前記高周波側データとする。 In a ninth aspect of the noise determination apparatus according to the present invention, the frequency decomposition unit performs frequency decomposition by discrete cosine transform, and the frequency analysis unit obtains a transform coefficient obtained by discrete cosine transform in the frequency decomposition unit. The AC component is normalized by dividing the AC component by the DC component, and the AC component after normalization is used as the low-frequency data and the high-frequency data.
本発明に係るノイズ判定装置の第10の態様は、前記周波数解析部は、前記正規化後の前記高周波側データが、予め定めた第2の閾値よりも大きいか否かの判定をさらに行って、ノイズの有無を解析する。 In a tenth aspect of the noise determination apparatus according to the present invention, the frequency analysis unit further determines whether the high-frequency side data after the normalization is larger than a predetermined second threshold value. Analyzing the presence or absence of noise.
本発明に係るノイズ判定装置の第11の態様は、前記画像データとしてベイヤーデータを使用する。 An eleventh aspect of the noise determination device according to the present invention uses Bayer data as the image data.
本発明に係るノイズ判定方法の態様は、フレーム単位で与えられる画像データのノイズの有無を判定するノイズ判定方法であって、前記画像データを周波数分解するステップ(a)と、前記ステップ(a)で得られた周波数成分について、周波数が比較的低い低周波成分および周波数が比較的高い高周波成分について、それぞれ所定数のデータをサンプリングし、低周波側データに対する高周波側データの比率に基づいて、ノイズの有無を判定するステップ(b)と、を備えている。
An aspect of the noise determination method according to the present invention is a noise determination method for determining presence / absence of noise in image data given in frame units, the step (a) for frequency-decomposing the image data, and the step (a). For the frequency components obtained in
本発明に係るノイズ判定装置によれば、低周波側データに対する高周波側データの比率に基づいて、ノイズの有無を判定するので、どのような状況下で撮像された画像であっても、比較的簡便にノイズの有無を解析できる。 According to the noise determination device according to the present invention, since the presence or absence of noise is determined based on the ratio of the high frequency side data to the low frequency side data, an image captured under any circumstances is relatively Easily analyze the presence or absence of noise.
<実施の形態>
図1は本発明に係る実施の形態のノイズ判定装置を有した、ノイズ除去装置100の構成を示すブロック図である。
<Embodiment>
FIG. 1 is a block diagram showing a configuration of a
図1に示すように、ノイズ除去装置100は、画像データを受け、当該画像データにノイズが含まれるか否かを判定するノイズ判定装置1と、画像データに含まれるノイズを除去するフィルタ回路2と、ノイズ判定装置1でのノイズ判定結果に基づいて、フィルタ回路2から出力されるフィルタ処理済み画像データを選択するか、あるいはフィルタ処理されていない画像データを選択して出力する選択回路3とを有している。
As shown in FIG. 1, the
図2には、ノイズ判定装置1の構成をブロック図で示す。図2に示すように、ノイズ判定装置1には、画像データとしてベイヤーデータが入力されるが、当該ベイヤーデータは、ラインメモリ群11に一時的に保存される。後に説明するが、ノイズ判定装置1は、1フレーム分の画像データを8×8画素単位、または4×4画素単位のマトリクスで処理するので、ラインメモリ群11は、8×8画素単位の場合は7個のラインメモリを含み、3×3画素単位の場合は3個のラインメモリを含むこととなる。
In FIG. 2, the structure of the
ラインメモリ群11に保存されたベイヤーデータは、先入れ先出し(FIFO)処理で4×4画素単位または8×8画素単位でDCT(離散コサイン)変換部12に与えられ、それは4ラインまたは8ラインのベイヤーデータが与えられるまで連続して行われる。
The Bayer data stored in the
DCT変換部12(周波数分解部)では、与えられたベイヤーデータ(以後、ベイヤーデータブロックと呼称)に対して離散コサイン変換を施して周波数分解し、得られた周波数成分についての変換係数を出力する。 The DCT transform unit 12 (frequency resolving unit) performs discrete cosine transform on the given Bayer data (hereinafter referred to as Bayer data block) to perform frequency decomposition, and outputs a transform coefficient for the obtained frequency component. .
そして、DCT変換部12から出力される変換係数に対して、周波数解析部13で解析を行うことで、4×4画素単位または8×8画素単位でノイズを有しているか否かの解析結果が得られ、当該解析結果をメモリ等で構成される解析結果格納部14に格納する。
Then, the
解析結果格納部14に1フレーム分の画像データに対する解析結果が格納されると、当該1フレーム分の画像データに対する解析結果は、フレーム単体ノイズ判定部15に与えられる。
When the analysis result for the image data for one frame is stored in the analysis
フレーム単体ノイズ判定部15では、1フレーム分の画像データに対する解析結果のうち、ノイズを有していると解析されたベイヤーデータブロックが幾つあるかに基づいて、当該1フレーム分の画像データがノイズを有した画像データであるか否か、すなわち、ノイズを有したフレームであるか否かの判定を行う。
The single frame
そして、フレーム単体ノイズ判定部15での判定結果は複数フレームノイズ判定部16に与えられ、所定数の複数フレームのうち、ノイズを有したフレームが幾つあるかに基づいて、最終的なノイズ判定を行い、判定結果に基づいた制御信号を選択回路3に与え、選択回路3での画像データの選択動作を制御する。
Then, the determination result in the single frame
なお、ノイズ判定装置1は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)およびワイヤードロジック等で構成され、ROM内に格納されたプログラムを読み出し、当該プログラムをCPUで実行することによって、ノイズ判定装置1を機能的に実現する。
The
<ノイズ判定処理>
次に、図3に示すフローチャートを用いて、ノイズ判定装置1におけるノイズ判定処理について説明する。なお、以下の説明は、図2に示した周波数解析部13以下での処理であり、DCT処理は周知の技術であるので説明は省略する。
<Noise judgment processing>
Next, the noise determination process in the
まず、ステップS1において、周波数解析部13では、DCT変換部12から出力される変換係数(DCT係数)のマトリクス(8×8のベイヤーデータブロックに対応)において、AC(交流)成分をDC(直流)成分で割ることでAC成分の正規化を行う。
First, in step S1, the
ここで、8×8のベイヤーデータブロックに対応するDCT係数のマトリクスを図4に示す。図4において、マトリクスの先頭(左上角部)がDC成分であり、マトリクスの水平方向が垂直周波数成分(V)を、マトリクスの垂直方向が水平周波数成分(H)を表している。そして、DC成分に近いAC成分ほど低周波であり、マトリクスのDC成分とは対角をなす角部に近いAC成分ほど高周波となっている。 Here, FIG. 4 shows a matrix of DCT coefficients corresponding to an 8 × 8 Bayer data block. In FIG. 4, the top (upper left corner) of the matrix is a DC component, the horizontal direction of the matrix represents the vertical frequency component (V), and the vertical direction of the matrix represents the horizontal frequency component (H). An AC component closer to the DC component has a lower frequency, and an AC component closer to a corner that forms a diagonal with the DC component of the matrix has a higher frequency.
なお、図4において、DC成分側寄りのAC成分である低周波成分(低域成分)のサンプリング領域をサンプリング領域LSR(低域サンプリング領域)とし、DC成分とは対角をなす側のAC成分である高周波成分(高域成分)のサンプリング領域をサンプリング領域HSR(高域サンプリング領域)として示している。 In FIG. 4, a sampling region of a low frequency component (low frequency component) that is an AC component closer to the DC component is defined as a sampling region LSR (low frequency sampling region), and the AC component on the side that forms a diagonal with the DC component. A sampling region of a high frequency component (high frequency component) is shown as a sampling region HSR (high frequency sampling region).
次に、周波数解析部13は、ステップS2において、図4に示すサンプリング領域LSRでの正規化されたDCT係数の総数(Σ低域)に対する、サンプリング領域HSRでの正規化されたDCT係数の総数(Σ高域)の比率(Σ高域/Σ低域)を算出し、予め定めた閾値Aとの比較を行う。そして、当該比率が、閾値Aを超える場合にはステップS3に進むが、閾値A以下の場合は、処理対象となっているベイヤーデータブロックはノイズを有さないものと判断し、判断結果を解析結果格納部14に格納する(ステップS11)。その後は、ステップS5に進む。
Next, in step S2, the
なお、図4では、サンプリング領域LSRの周波数成分の数も、サンプリング領域HSRの周波数成分の数も、全体の3割程度に設定されているが、これは、領域を広くし過ぎると有意な結果が得にくくなるためであるが、基本的には任意に設定可能である。 In FIG. 4, the number of frequency components in the sampling region LSR and the number of frequency components in the sampling region HSR are set to about 30% of the whole, but this is a significant result if the region is made too wide. However, it can be set arbitrarily.
ステップS3では、正規化されたDCT係数のサンプリング領域HSRでの総数(Σ高域)と、予め定めた閾値Bとの比較を行う。これは、例えば、DC成分が多く、AC成分が少ないような変化に乏しい画像において、高周波成分が少しだけあるような場合、ステップS2の判断ステップだけでは、ノイズありと誤判断されている可能性があるので、これを回避するための措置である。ステップS3での比較の結果、高周波成分が所定数を超えて存在すると判断される場合は、ステップS2の判断は正確であるものと判断する。 In step S3, the total number of normalized DCT coefficients in the sampling region HSR (Σhigh region) is compared with a predetermined threshold B. This is because, for example, in an image with little change in which there are many DC components and few AC components, there is a small amount of high-frequency components. There are measures to avoid this. As a result of the comparison in step S3, if it is determined that there are more than a predetermined number of high frequency components, it is determined that the determination in step S2 is accurate.
従って、ステップS3において、正規化されたDCT係数のサンプリング領域HSRでの総数が閾値Bを超えると判断された場合は、処理対象となっているベイヤーデータブロックはノイズを有するものと判断して、判断結果を解析結果格納部14に格納する(ステップS4)。 Therefore, if it is determined in step S3 that the total number of normalized DCT coefficients in the sampling region HSR exceeds the threshold B, it is determined that the Bayer data block to be processed has noise, The determination result is stored in the analysis result storage unit 14 (step S4).
次に、周波数解析部13では、ステップS5において、1つのフレームを構成する全てのベイヤーデータブロックについてノイズ判定を終了したか否かを判断し、全てのベイヤーデータブロックについてノイズ判定を終了した場合には、ステップS6に進むが、未処理のベイヤーデータブロックがある場合は、ステップS1以下の処理を繰り返す。
Next, in step S5, the
ステップS6では、フレーム単体ノイズ判定部15において、解析結果格納部14に格納された判断結果に基づいて、1フレーム中のベイヤーデータについて、ノイズを有すると判断されたベイヤーデータブロックの個数が、予め定めた閾値Cよりも多いか否かの判断を行う。そして、ノイズを有するベイヤーデータブロックの個数が、予め定めた閾値Cよりも多いと判定される場合は、当該フレームはフレーム単体でノイズを有するものと判断され、判断結果を解析結果格納部14に格納する(ステップS7)。一方、ステップS6で、ノイズを有するベイヤーデータブロックの個数が、予め定めた閾値C以下と判定される場合は、当該フレームはフレーム単体ではノイズを有さないものと判断され、判断結果を解析結果格納部14に格納する(ステップS12)。
In step S6, the number of Bayer data blocks determined to have noise for Bayer data in one frame based on the determination result stored in the analysis
この場合、例えば1フレーム中の全ベイヤーデータブロックのうち、3割にノイズがある場合は、ノイズを有するフレームであると判定させるなど、閾値Cは任意の個数に設定することができる。 In this case, for example, when there is noise in 30% of all Bayer data blocks in one frame, the threshold value C can be set to an arbitrary number such as determining that the frame has noise.
その後、複数フレームノイズ判定部16において、ステップS7で、フレーム単体でノイズを有するものと判断されたフレームの数や、連続数などを確認し、複数フレームが予め定めた所定の判定条件を満たすか否かを判断する(ステップS8)。そして、当該判定条件を満たす場合には、動画像にノイズを有するものと判定し(ステップS9)、ノイズを除去されたデータが出力されるように、所定の制御信号を選択回路3に与える(ステップS10)。その後は、ノイズ除去装置100の電源がオフされるなどして、画像データの入力がなくなるまでステップS1以下の処理を繰り返す。
Thereafter, in step S7, the multiple frame
一方、ステップS8で、所定の判定条件を満たさないと判断された場合には、動画像にノイズを有さないものと判定し(ステップS13)、所定の制御信号を選択回路3に与える(ステップS10)。なお、制御信号はノイズがあると判定された場合もノイズがないと判定された場合も制御信号が出力されるが、例えば、ノイズがある場合の制御信号は「0」、ノイズがない場合の制御信号は「1」とすることで、選択回路3はそれぞれに対応した選択動作を行う。
On the other hand, if it is determined in step S8 that the predetermined determination condition is not satisfied, it is determined that the moving image has no noise (step S13), and a predetermined control signal is given to the selection circuit 3 (step S13). S10). The control signal is output both when it is determined that there is noise and when it is determined that there is no noise. For example, the control signal when there is noise is “0”, and there is no noise. By setting the control signal to “1”, the
ここで、ステップS8における判定動作について説明する。通常、動画像は1秒間60フレームの画像で構成されている。従って、ステップS8では、60フレームの画像データのそれぞれについてステップS1〜S7、S12の処理が終了するのを待って判定を行う。この判定においては、判定条件として、例えば、60フレームのうち、ノイズを有するフレームが半数を超える場合には、動画像にノイズが含まれているとして、61フレーム目以降の画像データに対しては、フィルタ回路2を通してノイズを除去したフィルタ処理済み画像データが選択回路3を通って出力されるように、選択回路3の選択動作を制御する制御信号を出力する。
Here, the determination operation in step S8 will be described. Usually, a moving image is composed of 60 frames per second. Accordingly, in step S8, determination is made after the processing of steps S1 to S7 and S12 is completed for each of the 60 frames of image data. In this determination, as a determination condition, for example, when more than half of the 60 frames have noise, it is assumed that the moving image includes noise, and for the image data from the 61st frame onwards. The control signal for controlling the selection operation of the
なお、換言すれば、最終判定に必要な、60フレームの画像データが集まるまでは、フィルタ処理されていない画像データが選択回路3を通って出力されていると言うことになる。
In other words, until 60 frames of image data necessary for the final determination are collected, image data that has not been subjected to filter processing is output through the
以後、61フレーム目以降の画像データはフィルタ処理済み画像データとなるが、ステップS1〜S13の処理を繰り返し、ノイズが含まれないフレームが多くなって、上記判定条件を満たさない撮像状況になった場合は、フィルタ処理されていない画像データが選択回路3を通って出力されることになる。
Thereafter, the image data after the 61st frame becomes the image data after filtering, but the processing of steps S1 to S13 is repeated, and the number of frames that do not include noise increases, resulting in an imaging situation that does not satisfy the above-described determination condition. In this case, unfiltered image data is output through the
このような処理を行う理由は、フィルタ処理を行った場合と、フィルタ処理を行わない場合とでは撮像画像に大きな違いが出るが、フィルタ処理のオン、オフを頻繁に繰り返すと、撮像画像がちらつくなどの原因となるので、これを回避するためである。 The reason why such processing is performed is that there is a large difference in the captured image between when the filtering process is performed and when the filtering process is not performed, but when the filtering process is frequently turned on and off, the captured image flickers. This is to avoid this.
なお、上記判定条件は、上述したようなノイズを有すると判定されたフレームの数に限定されるものではなく、ノイズを有すると判定されたフレームが、所定数だけ連続するような場合、例えば、60フレームのうち10フレーム以上連続するのであれば、動画像にノイズが含まれているとして、61フレーム目以降の画像データに対しては、フィルタ回路2を通してノイズを除去したフィルタ処理済み画像データが選択回路3を通って出力されるように、選択回路3の選択動作を制御する制御信号を出力するようにしても良い。
Note that the determination condition is not limited to the number of frames determined to have noise as described above, and when a predetermined number of frames determined to have noise are continuous, for example, If 10 frames or more out of 60 frames are continuous, it is assumed that the moving image includes noise. For image data after the 61st frame, filtered image data from which noise has been removed through the
ここで、上記ステップS1〜S3の処理は、入力されたベイヤーデータのGb(青側の緑)、Gr(赤側の緑)、R(赤)、B(青)の4つの色のそれぞれについて実行することで、判定の精度を高めることができる。なお、緑成分は輝度情報を含んでいるので、Gbのデータだけ、あるいはGrのデータだけについて上記ステップS1〜S3の処理を実行するようにしても良い。 Here, the processing of the above steps S1 to S3 is performed for each of the four colors Gb (green on the blue side), Gr (green on the red side), R (red), and B (blue) of the input Bayer data. By executing, the accuracy of determination can be increased. Note that since the green component includes luminance information, the processes of steps S1 to S3 may be executed for only Gb data or only Gr data.
<ノイズ判定処理装置の変形例>
次に、ノイズ判定装置1の変形例について説明する。図5は、ノイズ判定装置1の変形例であるノイズ判定装置1Aのブロック図である。
<Modification of Noise Determination Processing Device>
Next, a modified example of the
図5に示すように、ノイズ判定装置1Aには、画像データとしてベイヤーデータが入力されるが、当該ベイヤーデータは、ラインメモリ群11に一時的に保存される。後に説明するが、ノイズ判定装置1は、1フレーム分の画像データを8×8画素単位、または4×4画素単位で処理するので、ラインメモリ群11は、8×8画素単位の場合は7個のラインメモリを含み、3×3画素単位の場合は3個のラインメモリを含むこととなる。
As shown in FIG. 5, Bayer data is input as image data to the
ラインメモリ群11に保存されたベイヤーデータは、先入れ先出し(FIFO)処理で4×4画素単位または8×8画素単位でDCT(離散コサイン)変換部12に与えられ、それは4ラインまたは8ラインのベイヤーデータが与えられるまで連続して行われる。
The Bayer data stored in the
DCT変換部12では、与えられた8×8画素のベイヤーデータブロックに対して離散コサイン変換を施し、変換係数を出力する。
The
そして、DCT変換部12から出力される変換係数に対して、周波数解析部13で周波数解析を行うことで、4×4画素単位または8×8画素単位でノイズを有しているか否かの解析結果が得られ、当該解析結果を解析結果格納部14に格納する。
Then, the
解析結果格納部14に1フレームの画像データに対する解析結果が格納されると、当該1フレームの画像データに対する解析結果は、複数フレームノイズ判定部16に与えられ、所定数の複数フレームのうち、ノイズを有したフレームが幾つあるかに基づいて、最終的なノイズ判定を行い、判定結果に基づいた制御信号を選択回路3に与え、選択回路3での画像データの選択動作を制御する。
When the analysis result for one frame of image data is stored in the analysis
次に、図6に示すフローチャートを用いて、ノイズ判定装置1Aにおけるノイズ判定処理について説明する。
Next, the noise determination process in the
まず、ステップS21において、周波数解析部13では、DCT変換部12から出力される変換係数(DCT係数)のマトリクス(8×8のベイヤーデータブロックに対応)において、AC(交流)成分をDC(直流)成分で割ることでAC成分の正規化を行う。
First, in step S21, the
次に、周波数解析部13は、ステップS22において、1つのフレームを構成する全てのベイヤーデータブロックのそれぞれの正規化されたDCT係数のマトリクスについて、対応する周波数成分ごとにDCT係数の加算を行う。この結果、全てのマトリクスのDCT係数が集約された1つのマトリクス(データ集約マトリクス)が得られる。
Next, in step S22, the
次に、周波数解析部13は、データ集約マトリクスにおいて、低域サンプリング領域での正規化されたDCT係数の総数(Σ低域)に対する、高域サンプリング領域での正規化されたDCT係数の総数(Σ高域)の比率(Σ高域/Σ低域)を算出し、予め定めた閾値Aとの比較を行う。そして、当該比率が、閾値Aを超える場合にはステップS24に進むが、閾値A以下の場合は、処理対象となっているフレームはノイズを有さないものと判断し、判断結果を解析結果格納部14に格納する(ステップS29)。その後は、ステップS26に進む。
Next, in the data aggregation matrix, the
周波数解析部13は、ステップS14において、正規化されたDCT係数の高域サンプリング領域での総数(Σ高域)と、予め定めた閾値Bとの比較を行う。これは、例えば、DC成分が多く、AC成分が少ないような変化に乏しい画像において、高周波成分が少しだけあるような場合、ステップS23の判断ステップだけでは、ノイズありと誤判断されている可能性があるので、これを回避するための措置である。ステップS24での比較の結果、高周波成分が所定数を超えて存在すると判断される場合は、ステップS23の判断は正確であるものと判断する。
In step S14, the
従って、ステップS24において、正規化されたDCT係数の高域サンプリング領域での総数が閾値Bを超えると判断された場合は、処理対象となっているフレームはノイズを有するものと判断して、判断結果を解析結果格納部14に格納する(ステップS25)。 Therefore, if it is determined in step S24 that the total number of normalized DCT coefficients in the high-frequency sampling region exceeds the threshold value B, it is determined that the processing target frame has noise, and the determination is made. The result is stored in the analysis result storage unit 14 (step S25).
そして、複数フレームノイズ判定部16において、ステップS25で、ノイズを有するとして格納されたフレームの数や、連続数などを確認し、複数フレームが、予め定めた所定の判定条件を満たすか否かを判断する(ステップS26)。そして、当該判定条件を満たす場合には、動画像にノイズを有するものと判定し(ステップS27)、ノイズを除去されたデータが出力されるように、所定の制御信号を選択回路3に与える(ステップS28)。その後は、ノイズ除去装置100の電源がオフされるなどして、画像データの入力がなくなるまでステップS21以下の処理を繰り返す。
Then, in step S25, the number of frames stored as having noise, the number of consecutive frames, and the like are confirmed in the multiple frame
一方、ステップS26で、所定の判定条件を満たさないと判断された場合には、動画像にノイズを有さないものと判定し(ステップS30)、所定の制御信号を選択回路3に与える(ステップS28)。なお、制御信号はノイズがあると判定された場合もノイズがないと判定された場合も制御信号が出力されるが、例えば、ノイズがある場合の制御信号は「0」、ノイズがない場合の制御信号は「1」とすることで、選択回路3はそれぞれに対応した選択動作を行う。
On the other hand, if it is determined in step S26 that the predetermined determination condition is not satisfied, it is determined that there is no noise in the moving image (step S30), and a predetermined control signal is given to the selection circuit 3 (step S30). S28). The control signal is output both when it is determined that there is noise and when it is determined that there is no noise. For example, the control signal when there is noise is “0”, and there is no noise. By setting the control signal to “1”, the
なお、ステップS26における判定動作は、図3を用いて先に説明したステップS8での判定動作と同じである。 Note that the determination operation in step S26 is the same as the determination operation in step S8 described above with reference to FIG.
ここで、上記ステップS21〜S24の処理は、入力されたベイヤーデータのGb(青側の緑)、Gr(赤側の緑)、R(赤)、B(青)の4つの色のそれぞれについて実行することで、判定の精度を高めることができる。なお、緑成分は輝度情報を含んでいるので、Gbのデータだけ、あるいはGrのデータだけについて上記ステップS21〜S24の処理を実行するようにしても良い。 Here, the processes in steps S21 to S24 are performed for each of the four colors Gb (green on the blue side), Gr (green on the red side), R (red), and B (blue) of the input Bayer data. By executing, the accuracy of determination can be increased. Since the green component includes luminance information, the processes in steps S21 to S24 may be executed only for Gb data or only for Gr data.
なお、上述したノイズ判定装置1および1Aは、単独で用いても良いが、両者を並列的に用いて、それぞれ行ったノイズ判定処理結果に基づいて総合的なノイズ判定を行っても良い。
In addition, although the
すなわち、ノイズ判定装置1におけるノイズ判定処理は、ベイヤーデータブロック単位でノイズを判定するので、複雑な画像において、ノイズの判定が難しい領域が偏って存在するような場合でも正確なノイズ判定が可能であるという特徴がある。
That is, since the noise determination processing in the
一方、ノイズ判定装置1Aにおけるノイズ判定処理は、1つのフレームの全領域を集約して1つのベイヤーデータブロックでノイズを判定するので、処理ステップ数が少なくて済み、比較的簡単にノイズ判定ができるので、単純な画像において、ノイズが均一に存在するような場合に適しているという特徴がある。
On the other hand, the noise determination process in the
従って、ノイズ判定装置1および1Aを用いることで、上記2つの特徴を併せ持つことができると共に、短所を互いに補完しあうことで、より正確なノイズ判定が可能となる。
Therefore, by using the
<サンプリング領域の設定>
先に説明したようにサンプリング領域の周波数成分の数は任意に設定することができるが、その設定に際してフレーム全体におけるGbおよびGrのデータの平均値に基づいて設定することができる。
<Sampling area setting>
As described above, the number of frequency components in the sampling region can be set arbitrarily, but can be set based on the average value of Gb and Gr data in the entire frame.
すなわち、緑成分は輝度情報を含んでいるので、画像の輝度(明るさ)に応じてサンプリング領域を設定することで、以下に説明するような効果が得られる。 That is, since the green component includes luminance information, the effects described below can be obtained by setting the sampling area according to the luminance (brightness) of the image.
例えば、画像の輝度が高い場合には、S/N比が大きくなるので、サンプル数を減らすことができ、図7に示すようにサンプリング領域LSRおよびサンプリング領域HSRを共に小さくする。サンプリング領域が小さくなることで、処理するデータ量が減って、処理速度を高めることができる。 For example, when the luminance of the image is high, the S / N ratio increases, so the number of samples can be reduced, and both the sampling area LSR and the sampling area HSR are reduced as shown in FIG. By reducing the sampling area, the amount of data to be processed can be reduced and the processing speed can be increased.
一方、画像の輝度が低い場合には、S/N比が小さくなるので、図8に示すようにサンプリング領域LSRおよびサンプリング領域HSRを共に大きくすることで、サンプル数を増やして判定精度の低下を抑制することができる。 On the other hand, when the luminance of the image is low, the S / N ratio is small. Therefore, by increasing both the sampling area LSR and the sampling area HSR as shown in FIG. Can be suppressed.
なお、図4、図7および図8では、サンプリング領域LSRもサンプリング領域HSRも同じ周波数成分の数となるように設定された例を示したが、どちらか一方が大きく、他方が小さくなるように設定しても良い。 4, 7, and 8 show examples in which the sampling region LSR and the sampling region HSR are set to have the same number of frequency components, but either one is larger and the other is smaller. May be set.
<効果>
以上説明したように、本発明に係る実施の形態においては、周波数解析部13において、Σ高域/Σ低域を算出してノイズの有無を解析するので、比較的簡便にノイズの有無を解析できる。また、画像データとしてベイヤーデータを用いてノイズ判定を行うので、ベイヤーデータを取り込み、補間処理を行って色変換した後のデータを用いる場合に比べてノイズ検出の精度を高めることができる。
<Effect>
As described above, in the embodiment according to the present invention, the
なお、以上説明したノイズ判定装置が、コーデックと共に画像処理装置等に実装されている場合には、コーデックのDCT部および量子化部が共有できるので、より簡便な回路構成でノイズの有無を判定できるという効果がある。 When the above-described noise determination device is mounted on an image processing apparatus or the like together with a codec, the DCT unit and the quantization unit of the codec can be shared, so that the presence or absence of noise can be determined with a simpler circuit configuration. There is an effect.
<他の適用例>
以上説明した本発明に係る実施の形態においては、画像データとしてベイヤーデータを用いてノイズ判定を行う構成について説明したが、YCbCrデータやYUVデータを用いてノイズ判定を行っても良い。
<Other application examples>
In the embodiments according to the present invention described above, the configuration for performing noise determination using Bayer data as image data has been described. However, noise determination may be performed using YCbCr data or YUV data.
また、以上の説明では、周波数分解のためにDCTを使用した例について示したが、FFT(高速フーリエ変換)やウエーブレット変換などを使用してノイズ判定を行っても良い。 In the above description, an example in which DCT is used for frequency decomposition has been described. However, noise determination may be performed using FFT (Fast Fourier Transform), wavelet transform, or the like.
なお、本発明は、その発明の範囲内において、実施の形態を適宜、変形、省略することが可能である。 In the present invention, the embodiments can be appropriately modified and omitted within the scope of the invention.
12 周波数分解部
13 周波数解析部
15 フレーム単体ノイズ判定部
16 複数フレームノイズ判定部
12
Claims (12)
前記画像データを周波数分解し、得られた周波数成分について、周波数が比較的低い低周波成分および周波数が比較的高い高周波成分について、それぞれ所定数のデータをサンプリングし、低周波側データに対する高周波側データの比率に基づいて、ノイズの有無を判定することを特徴とするノイズ判定装置。 A noise determination device for determining the presence or absence of noise in image data given in units of frames,
The image data is frequency-decomposed, and for the obtained frequency component, a predetermined number of data is sampled for each of a low frequency component having a relatively low frequency and a high frequency component having a relatively high frequency, and the high frequency side data for the low frequency side data is sampled A noise determination device that determines the presence or absence of noise based on the ratio.
1つのフレームの前記画像データを所定の画素数のマトリクスに分割してデータブロックとして周波数分解を行う周波数分解部と、
前記周波数分解部で得られた周波数成分について、前記データブロックの低周波成分側および高周波成分側のそれぞれで、所定数ずつの周波数成分をサンプリングして、前記低周波側データおよび前記高周波側データとし、前記低周波側データに対する前記高周波側データの比率が、予め定めた第1の閾値よりも大きいか否かでノイズの有無を解析する周波数解析部と、を備える、請求項1記載のノイズ判定装置。 The noise determination device
A frequency resolving unit that divides the image data of one frame into a matrix of a predetermined number of pixels and performs frequency decomposition as a data block;
For the frequency components obtained by the frequency resolving unit, a predetermined number of frequency components are sampled on each of the low frequency component side and the high frequency component side of the data block to obtain the low frequency side data and the high frequency side data. The noise determination according to claim 1, further comprising: a frequency analysis unit that analyzes presence / absence of noise based on whether a ratio of the high frequency side data to the low frequency side data is greater than a predetermined first threshold value. apparatus.
前記周波数解析部においてノイズを有すると解析された前記データブロックの個数が、予め定めた閾値よりも多い場合は、前記1つのフレームにノイズを有するものと判定するフレーム単体ノイズ判定部を備える、請求項2記載のノイズ判定装置。 The noise determination device
A single frame noise determination unit that determines that the one frame has noise when the number of the data blocks analyzed as having noise in the frequency analysis unit is greater than a predetermined threshold; Item 3. The noise determination device according to Item 2.
前記フレーム単体ノイズ判定部においてノイズを有するものと判定された複数のフレームが、予め定めた判定条件を満たす場合は、動画像にノイズを有するものと判定する複数フレームノイズ判定部を備える、請求項3記載のノイズ判定装置。 The noise determination device
The frame single noise determination unit includes a multiple frame noise determination unit that determines that a moving image has noise when a plurality of frames determined to have noise satisfy a predetermined determination condition. 3. The noise determination device according to 3.
1つのフレームの前記画像データを所定の画素数のマトリクスに分割してデータブロックとして周波数分解を行う周波数分解部と、
前記周波数分解部で得られた周波数成分について、前記データブロックの低周波成分側および高周波成分側のそれぞれで、所定数ずつの周波数成分をサンプリングして、前記低周波側データおよび前記高周波側データとし、前記1つのフレームを構成する全ての前記データブロックについて対応する周波数成分ごとにデータの加算を行ったデータ集約マトリクスを作成し、前記データ集約マトリクスにおける、前記低周波側データに対する前記高周波側データの比率が、予め定めた第1の閾値よりも大きいか否かでノイズの有無を解析する周波数解析部と、を備える、請求項1記載のノイズ判定装置。 The noise determination device
A frequency resolving unit that divides the image data of one frame into a matrix of a predetermined number of pixels and performs frequency decomposition as a data block;
For the frequency components obtained by the frequency resolving unit, a predetermined number of frequency components are sampled on each of the low frequency component side and the high frequency component side of the data block to obtain the low frequency side data and the high frequency side data. Creating a data aggregation matrix in which data is added for each corresponding frequency component for all the data blocks constituting the one frame, and the high frequency side data is compared with the low frequency side data in the data aggregation matrix. The noise determination apparatus according to claim 1, further comprising: a frequency analysis unit that analyzes presence / absence of noise based on whether the ratio is greater than a predetermined first threshold value.
前記周波数解析部においてノイズを有するものと判定された複数のフレームが、予め定めた判定条件を満たす場合は、動画像にノイズを有するものと判定する複数フレームノイズ判定部を備える、請求項5記載のノイズ判定装置。 The noise determination device
6. The multi-frame noise determination unit according to claim 5, further comprising: a plurality of frames determined to have noise in the frequency analysis unit when a predetermined determination condition is satisfied, wherein the frame is determined to have noise in the moving image. Noise judgment device.
動画像を構成する複数のフレームのうち、ノイズを有するフレームの比率で規定される、請求項4または請求項6記載のノイズ判定装置。 The determination condition is as follows:
The noise determination apparatus according to claim 4 or 6, which is defined by a ratio of frames having noise among a plurality of frames constituting a moving image.
動画像を構成する複数のフレームのうち、ノイズを有するフレームの連続数で規定される、請求項4または請求項6記載のノイズ判定装置。 The determination condition is as follows:
The noise determination apparatus according to claim 4 or 6, which is defined by a continuous number of frames having noise among a plurality of frames constituting a moving image.
離散コサイン変換により周波数分解を行い、
前記周波数解析部は、
前記周波数分解部での離散コサイン変換により得られた変換係数の交流成分を直流成分で割ることで前記交流成分の正規化を行い、正規化後の交流成分を前記低周波側データおよび前記高周波側データとする、請求項2または請求項5記載のノイズ判定装置。 The frequency resolving unit is
Perform frequency decomposition by discrete cosine transform,
The frequency analysis unit
The AC component is normalized by dividing the AC component of the transform coefficient obtained by the discrete cosine transform in the frequency resolution unit by the DC component, and the AC component after normalization is converted to the low frequency side data and the high frequency side. The noise determination device according to claim 2 or 5, wherein the data is data.
前記正規化後の前記高周波側データが、予め定めた第2の閾値よりも大きいか否かの判定をさらに行って、ノイズの有無を解析する、請求項9記載のノイズ判定装置。 The frequency analysis unit
The noise determination apparatus according to claim 9, further determining whether or not the high-frequency data after the normalization is greater than a predetermined second threshold, and analyzing the presence or absence of noise.
(a)前記画像データを周波数分解するステップと、
(b)前記ステップ(a)で得られた周波数成分について、周波数が比較的低い低周波成分および周波数が比較的高い高周波成分について、それぞれ所定数のデータをサンプリングし、低周波側データに対する高周波側データの比率に基づいて、ノイズの有無を判定するステップと、を備えることを特徴とするノイズ判定方法。 A noise determination method for determining the presence or absence of noise in image data given in units of frames,
(A) frequency-decomposing the image data;
(B) For the frequency component obtained in the step (a), a predetermined number of data is sampled for each of the low frequency component having a relatively low frequency and the high frequency component having a relatively high frequency, and the high frequency side with respect to the low frequency side data is sampled. And a step of determining the presence or absence of noise based on the ratio of data.
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014005804A JP6199749B2 (en) | 2014-01-16 | 2014-01-16 | Noise judgment device and noise judgment method |
| US14/580,439 US9342874B2 (en) | 2014-01-16 | 2014-12-23 | Noise determination apparatus and method, and noise filter |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2014005804A JP6199749B2 (en) | 2014-01-16 | 2014-01-16 | Noise judgment device and noise judgment method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2015136001A JP2015136001A (en) | 2015-07-27 |
| JP6199749B2 true JP6199749B2 (en) | 2017-09-20 |
Family
ID=53767611
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2014005804A Expired - Fee Related JP6199749B2 (en) | 2014-01-16 | 2014-01-16 | Noise judgment device and noise judgment method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6199749B2 (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2015154454A (en) * | 2014-02-19 | 2015-08-24 | 株式会社メガチップス | Moving picture coding apparatus, program, and integrated circuit |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4415188B2 (en) * | 2004-08-09 | 2010-02-17 | カシオ計算機株式会社 | Image shooting device |
| JP2006246231A (en) * | 2005-03-04 | 2006-09-14 | Nec Access Technica Ltd | Image quality determining device, method, program, and auto preset system and image signal receiver using these |
| JP5464656B2 (en) * | 2010-01-12 | 2014-04-09 | Necカシオモバイルコミュニケーションズ株式会社 | Image quality evaluation device, terminal device, image quality evaluation system, image quality evaluation method, and program |
-
2014
- 2014-01-16 JP JP2014005804A patent/JP6199749B2/en not_active Expired - Fee Related
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2015154454A (en) * | 2014-02-19 | 2015-08-24 | 株式会社メガチップス | Moving picture coding apparatus, program, and integrated circuit |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2015136001A (en) | 2015-07-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20250166137A1 (en) | Detecting Keypoints In Image Data | |
| JP5767064B2 (en) | Image edge enhancement method | |
| TWI573464B (en) | An image processing apparatus, an image processing method, an image processing program, and a recording medium | |
| JP2012256202A (en) | Image processing apparatus and method, and program | |
| KR20210018136A (en) | Method and apparatus for image processing | |
| CN106504281A (en) | The image quality for being applied to cmos image sensor strengthens and filtering method | |
| US10755399B2 (en) | Image processing device, image processing method, and image processing program | |
| CN104506755A (en) | Method for real-time automatic defogging of high-definition videos based on FPGA | |
| TW201742001A (en) | Method and device for image noise estimation and image capture apparatus | |
| JP4803178B2 (en) | Image processing apparatus, computer program product, and image processing method | |
| US20100231758A1 (en) | Image processing apparatus, image processing method and computer program | |
| US9342874B2 (en) | Noise determination apparatus and method, and noise filter | |
| CN104751417B (en) | A kind of method, apparatus and image processing system of removal color noise | |
| KR100869134B1 (en) | Image processing apparatus and method | |
| JP6199749B2 (en) | Noise judgment device and noise judgment method | |
| CN104967840B (en) | Method and device for detecting video image exceeding standard | |
| US20140037207A1 (en) | System and a method of adaptively suppressing false-color artifacts | |
| JP6339811B2 (en) | Noise judgment device and noise judgment method | |
| US9007494B2 (en) | Image processing apparatus, method for controlling the same and storage medium | |
| US8471931B2 (en) | Video recording system | |
| KR20040052150A (en) | Image Processing Method and Device Using CMOS Image Sensor, Colour Interpolation Algorithms and White Balance Algorithms. | |
| CN101605268B (en) | A System for Edge Direction Detection on Comb Filters | |
| US9635330B2 (en) | Image processing device, image processing method, and program | |
| KR100769561B1 (en) | Threshold Determination Apparatus and Method Used for Noise Rejection | |
| KR100769558B1 (en) | Threshold Determination Apparatus and Method Used for Color Interpolation |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20161216 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20170720 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170808 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170824 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6199749 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| LAPS | Cancellation because of no payment of annual fees |