JP5771430B2 - Wrinkle removal image processing apparatus, wrinkle removal image processing method, and wrinkle removal image processing program - Google Patents
Wrinkle removal image processing apparatus, wrinkle removal image processing method, and wrinkle removal image processing program Download PDFInfo
- Publication number
- JP5771430B2 JP5771430B2 JP2011086599A JP2011086599A JP5771430B2 JP 5771430 B2 JP5771430 B2 JP 5771430B2 JP 2011086599 A JP2011086599 A JP 2011086599A JP 2011086599 A JP2011086599 A JP 2011086599A JP 5771430 B2 JP5771430 B2 JP 5771430B2
- Authority
- JP
- Japan
- Prior art keywords
- transmittance
- pixel
- input image
- image processing
- pixel value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 230000037303 wrinkles Effects 0.000 title claims description 49
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000002834 transmittance Methods 0.000 claims description 84
- 238000004364 calculation method Methods 0.000 claims description 71
- 238000000034 method Methods 0.000 claims description 14
- 239000011159 matrix material Substances 0.000 claims description 11
- 230000002093 peripheral effect Effects 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 7
- 239000004071 soot Substances 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 239000000470 constituent Substances 0.000 description 3
- 238000012886 linear function Methods 0.000 description 3
- 239000002245 particle Substances 0.000 description 3
- 238000004501 airglow Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000035699 permeability Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
- Facsimile Image Signal Circuits (AREA)
Description
画像からの霞を除去する霞除去画像処理装置、霞除去画像処理方法及び霞除去画像処理プログラムに関する。 The present invention relates to a wrinkle removal image processing apparatus, a wrinkle removal image processing method, and a wrinkle removal image processing program for removing wrinkles from an image.
風景写真を撮影するとしばしば遠くの山などに霞が掛かって見えることがある。そこで、霞の密度を推定し、霞の除去に関する技術として、例えば、非特許文献1が発表されている。この論文では、以下の手順で霞を除去する。まず、入力画像の各画素のRGBを大気光のRGBで割ることで入力画像を補正する。補正した入力画像に対して、ダークチャネルと呼ばれる局所領域でのRGBの最小値を使い霞の密度を推定する。この霞密度から粗い精度の透過率を求める。さらにソフトマッティングと呼ばれる手法で、細かい精度の透過率を求める。この透過率を使って画像から霞を除去する処理を行う。
When taking a landscape photograph, it often appears that a mountain is far away. Thus, Non-Patent
ダークチャネルを求めるために使用する局所領域は、透過率がほぼ一定とみなされる領域が望ましい。しかし非特許文献1の方法では、局所領域は、ダークチャネルを求めようとする画素を中心にした予め定められた大きさの正方形が常に用いられているため、局所領域内で、透過率が異なる場合が発生する。そのため推定した透過率は、粗い精度のものとなってしまう。そこで、透過率精度を上げるために、ソフトマッティングを行っているが、ソフトマッティングは膨大な演算量が必要になり、実用上、時間がかかりすぎるという課題がある。
The local region used for obtaining the dark channel is desirably a region in which the transmittance is regarded as substantially constant. However, in the method of Non-Patent
本発明は、上記の点に鑑みてなされたもので、高速かつ高精度に画像中の霞を除去する霞除去画像処理装置、霞除去画像処理方法及び霞除去画像処理プログラムを提供することを目的とする。 The present invention has been made in view of the above points, and an object thereof is to provide a wrinkle removal image processing device, a wrinkle removal image processing method, and a wrinkle removal image processing program that remove wrinkles in an image at high speed and with high accuracy. And
本発明の画像処理装置の一態様は、入力画像を大気光の画素値で補正する大気光補正部と、入力画像の注目画素に対して、注目画素を含み透過率が一定とみなせるような局所領域を算出する領域算出部と、大気光の画素値により補正された入力画像における前記局所領域内での最小画素値を選択する最小画素値選択部と、最小画素値から前記注目画素の透過率を算出する透過率算出部と、を有することを特徴とする。
また、本発明の画像処理装置の別の態様は、入力画像を大気光の画素値で補正する大気光補正部と、入力画像の注目画素と注目画素の周辺画素との類似度を算出し、前記類似度を用いて注目画素を含み透過率が一定とみなせるような局所領域を算出する領域算出部と、大気光の画素値により補正された入力画像における局所領域内での最小画素値を選択する最小画素値選択部と、最小画素値から注目画素の透過率を算出する透過率算出部と、透過率を用いて入力画像から霞成分を除去する霞除去画像生成部と、を有することを特徴とする。
One aspect of the image processing apparatus of the present invention, the atmospheric exposure compensation unit that corrects the pixel value of the atmospheric optical input image, the target pixel of the input image, such as a pixel of interest unrealized transmittance considered to be constant A region calculation unit for calculating a local region, a minimum pixel value selection unit for selecting a minimum pixel value in the local region in the input image corrected by the pixel value of the atmospheric light, and transmission of the target pixel from the minimum pixel value And a transmittance calculating unit that calculates the rate.
Another aspect of the image processing apparatus of the present invention calculates the similarity between the atmospheric light correction unit that corrects the input image with the pixel value of the atmospheric light, and the target pixel of the input image and the peripheral pixels of the target pixel, said similarity area calculation unit that the pixel of interest unrealized transmittance to calculate the local region that considered to be constant with the minimum pixel value in the local region of the input image corrected by the pixel value of airglow A minimum pixel value selection unit to select, a transmittance calculation unit to calculate the transmittance of the target pixel from the minimum pixel value, and a wrinkle removal image generation unit to remove the wrinkle component from the input image using the transmittance It is characterized by.
また、本発明の画像処理方法の一態様は、入力画像を大気光の画素値で補正するステップと、力画像の注目画素に対して、注目画素を含み透過率が一定とみなせるような局所領域を算出するステップと、気光の画素値により補正された入力画像における局所領域内での最小画素値を選択するステップと、最小画素値から前記注目画素の透過率を算出するステップと、透過率を用いて入力画像から霞成分を除去するステップと、を有することを特徴とする。
Another embodiment of the image processing method of the present invention includes the steps of correcting an input image pixel values of atmospheric light, such as the target pixel force image, the target pixel unrealized transmittance considered to be constant local A step of calculating a region, a step of selecting a minimum pixel value in the local region in the input image corrected by the pixel value of light, a step of calculating the transmittance of the target pixel from the minimum pixel value, and transmission Removing the wrinkle component from the input image using the rate.
また、本発明の画像処理プログラムの一態様は、入力画像を大気光の画素値で補正するステップと、入力画像の注目画素に対して、注目画素を含み透過率が一定とみなせるような局所領域を算出するステップと、大気光の画素値により補正された入力画像における局所領域内での最小画素値を選択するステップと、最小画素値から注目画素の透過率を算出するステップと、透過率を用いて入力画像から霞成分を除去するステップと、をコンピュータに発揮させることを特徴とする。 Another embodiment of the image processing program of the present invention includes the steps of correcting an input image pixel values of atmospheric light, such as the target pixel of the input image, a pixel of interest unrealized transmittance considered to be constant local A step of calculating a region, a step of selecting a minimum pixel value in the local region in the input image corrected by the pixel value of the atmospheric light, a step of calculating a transmittance of the target pixel from the minimum pixel value, and a transmittance Removing the wrinkle component from the input image using a computer, and causing the computer to exhibit.
本発明によれば、ダークチャネルを求めるために使用する領域をダークチャネルを求めようとする画素ごとに求めることで、高速かつ高精度に画像中の霞を除去する霞除去画像処理装置、霞除去画像処理方法、霞除去画像処理プログラムを提供することができる。 According to the present invention, a wrinkle removal image processing apparatus that removes wrinkles in an image at high speed and with high accuracy by obtaining a region used for obtaining a dark channel for each pixel for which a dark channel is to be obtained, and flaw removal An image processing method and a wrinkle removal image processing program can be provided.
以下、本発明を実施するための形態を図面を参照して説明する。
[第1実施形態]
図1に示すように、本発明の第1実施形態に係る霞除去画像処理装置100は、大気光画素値算出部200と、大気光補正部300と、領域算出部400と、最小画素値算出部500と、透過率算出部600と、霞除去画像生成部700と、を有している。大気光画素値算出部200は、大気光補正部300と霞除去画像生成部700と接続している。大気光補正部300は、最小画素値算出部500に接続している。領域算出部400は、最小画素値算出部500と接続している。最小画素値算出部500は、透過率算出部600と接続している。透過率算出部600は、霞除去画像生成部700と接続している。
Hereinafter, embodiments for carrying out the present invention will be described with reference to the drawings.
[First Embodiment]
As shown in FIG. 1, the wrinkle removal image processing apparatus 100 according to the first embodiment of the present invention includes an atmospheric light pixel
なお、ここで霞とは大気中の粒子のため遠くにある被写体がはっきりと見えない現象をいう。また、霧、靄、煙霧等の気象現象により被写体が見えづらくなる現象も含む。 Note that the soot is a phenomenon in which a distant subject cannot be clearly seen due to particles in the atmosphere. Also included is a phenomenon in which the subject is difficult to see due to weather phenomena such as fog, haze, and haze.
遠方にある被写体を撮像する場合等において、被写体が大気光の影響を受け白く霞むことがある。ここで、大気光とは、大気中の粒子による散乱光のことを示す。画像の画素値のうち、粒子の散乱光により得られる成分を大気光画素値とする。入力画像が入力されると、大気光画素値算出部200は大気光画素値を算出し、出力する。大気光画素値の算出方法は、非特許文献1記載の方法により算出する。本実施例では、大気光画素値算出部200は入力画像全体に対し一つの大気光画素値を求める。また、非特許文献1では入力画像のダークチャネルを用いて大気光画素値を算出しているが、領域算出部400で求めた領域を用いたダークチャネルを利用して大気光画素値を求めてもよい。
When photographing a subject at a distant location, the subject may be white due to the influence of atmospheric light. Here, atmospheric light refers to light scattered by particles in the atmosphere. Among the pixel values of the image, the component obtained by the scattered light of the particles is set as the atmospheric light pixel value. When the input image is input, the atmospheric light pixel
なお、大気光画素値の求め方は、入力画像から求めるこの方法に限られたものではない。例えば、ユーザが大気光画素値を設定してもよい。 Note that the method of obtaining the atmospheric light pixel value is not limited to this method of obtaining from the input image. For example, the user may set the atmospheric light pixel value.
大気光補正部300は、入力画像と大気光画素値算出部200により算出された大気光画素値を入力する。入力画像の各画素値を大気光画素値で割った値を画素値とする画像を出力する。割り算はチャネル毎に行う。例えば、画像がR、G、Bの3チャネルから成るRGB画像の場合、入力画像の各画素において、各画素のRを大気光のRで、各画素のGを大気光のGで、各画素のBを大気光のBで、それぞれ割る。入力画像が輝度1チャネルから成るY画像の場合、入力画像の各画素のYを大気光のYで割る。この大気光補正部300の出力画像を以後、大気光補正画像と呼ぶ。
The atmospheric light correction unit 300 inputs the input image and the atmospheric light pixel value calculated by the atmospheric light pixel
領域算出部400は、入力画像を入力し、入力画像の注目画素のダークチャネルを求めるための領域を算出し、算出された領域を表す情報を出力する。領域算出の詳細については後述する。
The
ここで注目画素のダークチャネルとは、注目画素を含む局所領域内の全ての画素の全てのチャネルの値の最小値をいう。R、G、Bの3チャネルから成るRGB画像の場合、注目画素のダークチャネルは、注目画素を含む局所領域内の全ての画素のR、G、Bのうちの最小値となる。輝度1チャネルから成るY画像の場合は、注目画素のダークチャネルは、その画素を含む局所領域内の全ての画素のYの最小値となる。なお、入力画像は、RGB画像やY画像とは異なるチャネルで構成される画像であっても構わない。 Here, the dark channel of the target pixel refers to the minimum value of all channel values of all the pixels in the local region including the target pixel. In the case of an RGB image composed of three channels of R, G, and B, the dark channel of the target pixel is the minimum value of R, G, and B of all the pixels in the local region including the target pixel. In the case of a Y image composed of one luminance channel, the dark channel of the target pixel is the minimum Y value of all the pixels in the local region including that pixel. Note that the input image may be an image configured by a channel different from that of the RGB image or the Y image.
ダークチャネルを求めるための領域は、透過率がほぼ一定とみなされる領域が望ましい。そこで、画素毎に、ダークチャネルを求めるのに適切な領域として、透過率がほぼ一定とみなせることができる領域を決定する。透過率に関しては後述する。 The region for obtaining the dark channel is preferably a region where the transmittance is regarded as substantially constant. Therefore, for each pixel, an area where the transmittance can be regarded as almost constant is determined as an appropriate area for obtaining the dark channel. The transmittance will be described later.
最小画素値算出部500は、大気光補正部300により出力された大気光補正画像と領域算出部400により算出されたダークチャネルを求めるための領域を表す情報を入力する。そして、大気光補正画像の画素ごとに、領域算出部400により算出された情報で示される局所領域に基づきダークチャネルを求め出力する。
The minimum pixel
透過率は、ダークチャネルとの関数式より算出することができる。透過率算出部600は、最小画素値算出部500が出力した画素ごとに算出されたダークチャネルを入力して、以下の式(1)を用いて透過率を画素ごとに求める。
Trn=1−ω×Drk (1)
ここで、Drkはダークチャネル、Trnは透過率、ωは霞除去の強さを制御するために予め与えられたパラメータである。
The transmittance can be calculated from a functional equation with the dark channel. The
Trn = 1−ω × Drk (1)
Here, Drk is a dark channel, Trn is transmittance, and ω is a parameter given in advance to control the strength of wrinkle removal.
なお、霞除去後の画像のノイズや不自然さの原因になり易い小さすぎる透過率を避けるため、透過率Trnが予め定めた閾値Trn0より小さかったら、Trn0に置き換えることも可能である。つまり、
Trn=max(Trn,Trn0) (2)
ここで、max(a,b)は、aとbのうち大きい方を表す。図2は、このようにして求めた透過率とダークチャネルの関係を示すグラフである。透過率算出部600は、求めた透過率を出力する。
In order to avoid an excessively low transmittance that tends to cause noise and unnaturalness in the image after removal of wrinkles, it can be replaced with Trn0 if the transmittance Trn is smaller than a predetermined threshold value Trn0. That means
Trn = max (Trn, Trn0) (2)
Here, max (a, b) represents the larger of a and b. FIG. 2 is a graph showing the relationship between the transmittance obtained in this way and the dark channel. The
霞除去画像生成部700は、入力画像と大気光画素値算出部200により算出された大気光画素値と、透過率算出部600により算出された透過率を入力し、画素ごとに以下の式(3)を計算することで、霞を除去した画像を求める。
The wrinkle removal
次に、領域算出部400による領域決定方法を図3のフローチャートを用いて説明する。本実施形態では注目画素を含む複数の候補領域の中から注目画素のダークチャネルを求めるための領域を選択する方法について説明する。本実施例では全ての候補領域の画素数が同一ではない場合について説明する。
Next, a region determination method by the
ステップS301で、候補領域の画素数を大きいほうから順にN(1)、N(2)、・・・、N(m)と設定する。ここで、候補領域の画素数の大きさの順位1、2、・・・、mを画素数順位と呼ぶことにする。例えば、N(1)=64とすれば、画素数N(1)の候補領域の例として、8×8の正方形で注目画素の位置が右上の頂点の場合、注目画素の位置が右下の頂点の場合、注目画素の位置が左下の頂点の場合、注目画素の位置が左下の頂点の場合、注目画素の位置が中心の場合、の5通りと、さらに4×16の長方形で注目画素の位置が右上の頂点の場合、注目画素の位置が右下の頂点の場合、注目画素の位置が左下の頂点の場合、注目画素の位置が左下の頂点の場合、注目画素の位置が中心の場合、の5通りの10種類の候補領域を挙げることができる。ここで、候補領域の形は四角以外でもよく、また注目画素の位置も領域内であればどこでもよく、画素数の同じ候補領域の種類もいくつであっても構わない。画素数順位をiとする。ステップS302で、画素数順位iを1に設定する。ステップS303で、選択された画素数N(i)の全ての候補領域と注目画素との類似度を、候補領域ごとに求める。候補領域Ωと注目画素pとの類似度は、次のようにして計算する。
In step S301, the number of pixels in the candidate area is set to N (1), N (2),..., N (m) in order from the largest. Here, the
必ずしもこの式でなくてもよく、例えば、 This is not necessarily the case, for example
また、
Also,
変換関数Fとしては、例えば、傾きが0以下の1次関数でもよいし、傾きが0以下の複数の直線で構成される折れ線関数でもよいし、入力がある閾値より小さい場合は1、そうでない場合は0を出力する関数でもよい。図4に(a)1次関数の場合、(b)折れ線関数の場合、(c)閾値による関数を示す。また、ガウス関数でもよいし、予め定められたルックアップテーブルでもよい。
The conversion function F may be, for example, a linear function with a slope of 0 or less, a polyline function composed of a plurality of straight lines with a slope of 0 or less, or 1 if the input is smaller than a certain threshold value. In this case, a function that outputs 0 may be used. FIG. 4 shows (a) a linear function, (b) a broken line function, and (c) a function based on a threshold value. Further, it may be a Gaussian function or a predetermined lookup table.
ステップS304で、最大類似度Smaxを探索し、最大類似度を有する候補領域を求める。ステップS305で、画素数順位iが最後の画素数順位mに達したかを判定する。最後の画素数順位mに達した場合、ステップS306で、最大類似度を持つ候補領域を、注目画素のダークチャネル求めるのに適切な領域と決定する。最後の画素数順位mに達していない場合は、ステップS307で、最大類似度が予め定められた閾値Uより小さいかどうかを判定する。閾値よりも最大類似度が小さくない場合、ステップS306で、この最大類似度を持つ候補領域を注目画素のダークチャネルを求めるのに適切な領域に決定する。閾値よりも最大類似度が小さい場合、ステップS308で画素数順位iを一つ増やして、同様の処理を実施する。以下、注目画素のダークチャネルを求めるのに適切な領域が決定するまで、このような処理を繰り返していく。 In step S304, the maximum similarity Smax is searched to obtain a candidate region having the maximum similarity. In step S305, it is determined whether the pixel number order i has reached the last pixel number order m. When the final pixel number rank m is reached, a candidate region having the maximum similarity is determined as an appropriate region for obtaining the dark channel of the target pixel in step S306. If the final pixel number rank m has not been reached, it is determined in step S307 whether the maximum similarity is smaller than a predetermined threshold value U. If the maximum similarity is not smaller than the threshold value, a candidate region having this maximum similarity is determined as an appropriate region for obtaining the dark channel of the target pixel in step S306. If the maximum similarity is smaller than the threshold value, the pixel number rank i is increased by one in step S308, and the same processing is performed. Hereinafter, such a process is repeated until an appropriate region for determining the dark channel of the target pixel is determined.
そして、領域決定後、領域算出部400は、決定された領域情報を出力する。
以上のように、領域算出部400は、ダークチャネルを求めるのに最適な領域を注目画素ごとに決定する。そのため、本実施形態では、ソフトマッティングを使わなくても、ダークチャネルから細かい精度の透過率を推定することが可能となる。
Then, after determining the region, the
As described above, the
注目画素のダークチャネルを求める領域の画素数が少なすぎると、ダークチャネルが霞の密度と対応しなくなってしまう可能性が高くなる。一方、ダークチャネルを求める領域の画素数が多すぎると領域内の透過率がほぼ一定と見なせなくなる可能性が高くなる。本実施形態では、候補領域のうち画素数が多いものから探索し、注目画素と十分に類似していなければ、画素数のより少ない領域の中から探索することで、出来る限り大きい領域で、しかも透過率がほぼ一定と見なすことができる領域を、ダークチャネルを求めるのに適切な領域として設定することができる。 If the number of pixels in the area for obtaining the dark channel of the target pixel is too small, there is a high possibility that the dark channel will not correspond to the density of wrinkles. On the other hand, if the number of pixels in the area for obtaining the dark channel is too large, there is a high possibility that the transmittance in the area cannot be regarded as almost constant. In the present embodiment, a search is performed from a candidate area having a large number of pixels, and if it is not sufficiently similar to the target pixel, a search is performed from an area having a smaller number of pixels, so that the area is as large as possible. A region where the transmittance can be regarded as almost constant can be set as a region suitable for obtaining the dark channel.
また、候補領域の中から適切な領域を選択するため、演算量が少なくて済む。
なお、本実施例では全ての候補領域の画素数が同一ではない場合について説明したが全ての候補領域の画素数を同一とすることも可能である。この場合、領域算出部400は、全ての候補領域の個数をN(1)に設定する(ステップ301)。全ての候補領域を選択する(ステップS302)。選択された全ての候補領域と注目画素との類似度を前述の式より求める(ステップS303)。最大類似度Smaxを求める(ステップS304)。そして、最大類似度を有する候補領域を注目画素のダークチャネルを求める領域に決定する(ステップS306)。つまり、図3のフローチャートのうち、ステップS305,ステップS307,ステップS308が省略されたフローとなる。
Further, since an appropriate area is selected from the candidate areas, the amount of calculation is small.
In the present embodiment, the case where the number of pixels in all candidate areas is not the same has been described. However, the number of pixels in all candidate areas may be the same. In this case, the
[第2実施形態]
図5は、本発明の第2実施形態の霞除去画像処理装置の構成図である。第1実施形態の領域算出部400を領域算出部800に変更したものであり、それ以外の部分は第1実施形態と同様の構成となる。第1実施形態と重複する部分に関しては説明を省略し、ここでは領域算出部800について説明する。
[Second Embodiment]
FIG. 5 is a configuration diagram of a wrinkle removal image processing apparatus according to the second embodiment of the present invention. The
図6は、領域算出部800の構成図である。類似度算出部801では、注目画素とその周囲の予め定められた範囲の画素との類似度を求める。ここで予め定められた範囲は、ダークチャネルを求めるための範囲よりも大きな領域とする。類似度は、例えば、二つの画素のチャネル毎の値の差の絶対値の和を、予め定められた関数で変換して求める。つまり、
FIG. 6 is a configuration diagram of the
また、二つの画素のチャネル毎の値の差の絶対値に予め定められたチャネル毎の重みを掛けた重み付き和を用いてもよい。つまり、 Also, a weighted sum obtained by multiplying the absolute value of the difference between the values of the two pixels for each channel by a predetermined weight for each channel may be used. That means
さらに、二つの画素のチャネル毎の値の差の絶対値の和の代わりに、二つの画素のチャネル毎の値の差の二乗の和を使ってもよい。つまり、
Furthermore, instead of the sum of the absolute values of the differences between the two pixel channels, the sum of the squares of the difference between the two pixel values may be used. That means
次に、重心座標算出部802は類似度算出部801が求めた類似度を重みとした重心座標rを次のようにして求める。
Next, the center-of-gravity coordinate
共分散行列算出部803は類似度を重みにした重み付け共分散行列Mを次のようにして求める。
The covariance matrix calculation unit 803 obtains a weighted covariance matrix M with the similarity as a weight as follows.
重心座標算出部802が求めた重心座標rと共分散行列算出部803が求めた共分散行列Mを使って、座標pの画素のダークチャネルを求めるのに適切な領域Ψを次のように決める。
Using the centroid coordinate r obtained by the centroid coordinate
このように重心座標と共分散行列Mは、座標pの画素のダークチャネルを求めるのに適切であると決定した領域を表す情報となるので、領域算出部800は、この重心座標rと共分散行列Mを、決定した領域を表す情報として出力する。最小画素値算出部500は、この重心座標rと共分散行列Mを受けて、上記式(12)より領域Ψを求め、最小画素値を算出する。
Thus, the barycentric coordinate and the covariance matrix M are information representing the area determined to be appropriate for obtaining the dark channel of the pixel at the coordinate p. The matrix M is output as information representing the determined area. The minimum pixel
このようにして領域を決定することで、座標pの画素に類似度の高い画素が分布している領域を見つけることができる。このような領域は、透過率がほぼ一定とみなしても良いので、ダークチャネルを求めるのに適切な領域となり、ダークチャネルを求めるのに最適な領域を画素ごとに決定するので精度の高い透過率を算出できるようになる。また、ソフトマッティングを行うことなく精度の高い透過率を算出するため、演算量を低減した処理を行うことが可能となる。
[第3実施形態]
図7は、第3実施形態の霞除去画像装置の構成図である。第1実施形態と異なる点は、透過率ノイズ除去部900が追加されている点である。それ以外の部分は第1実施形態と同様の構成となる。第1実施形態と重複する部分に関しては説明を省略し、ここでは透過率ノイズ除去部900について説明する。
By determining the region in this way, it is possible to find a region in which pixels having a high degree of similarity are distributed to the pixel at the coordinate p. Such a region may be regarded as having almost constant transmittance, so that it becomes an appropriate region for obtaining the dark channel, and an optimum region for determining the dark channel is determined for each pixel, so that the transmittance with high accuracy is obtained. Can be calculated. In addition, since the transmittance with high accuracy is calculated without performing soft matting, it is possible to perform processing with a reduced amount of calculation.
[Third Embodiment]
FIG. 7 is a configuration diagram of a wrinkle removal image device according to the third embodiment. The difference from the first embodiment is that a transmittance
透過率ノイズ除去部900は、透過率算出部600が出力した透過率を入力し、ノイズを除去した透過率を出力する。ノイズ除去の方法はいろいろな方法が考えられるが、例えば、メディアンフィルタが挙げられる。
The transmittance
ソフトマッティングを用いる代わりに、画素毎にダークチャネルを求めるのに適切な領域を決定して、その領域を用いて求めたダークチャネルから透過率を推定する場合に発生する透過率のノイズを、透過率ノイズ除去手段によって、除去することで、霞を除去した画像の画質を向上させることができる。 Instead of using soft matting, determine the appropriate area for obtaining the dark channel for each pixel, and the transmission noise generated when estimating the transmittance from the dark channel obtained using that area, By removing by the transmittance noise removing means, the image quality of the image from which wrinkles are removed can be improved.
なお、本実施形態の透過率ノイズ除去部900は、上記第2実施形態にも同様に適用可能なことは勿論である。
[第4実施形態]
本実施形態の霞除去画像装置は、第1実施形態と同様の構成となる。よって、第1実施形態と重複する部分に関しては説明を省略し、ここでは候補領域内における注目画素の位置について説明する。
Needless to say, the transmittance
[Fourth Embodiment]
The wrinkle removal image apparatus of this embodiment has the same configuration as that of the first embodiment. Therefore, the description of the parts that overlap with those in the first embodiment is omitted, and here, the position of the target pixel in the candidate area will be described.
第1実施形態では、候補領域の画素数、形状、注目画素の位置は、様々なものが可能だが、本実施形態では、候補領域の画素数と形状は一定とし、注目画素の位置だけが異なる場合とする。 In the first embodiment, the number of pixels in the candidate area, the shape, and the position of the target pixel can be various. However, in this embodiment, the number of pixels and the shape of the candidate area are constant, and only the position of the target pixel is different. Suppose.
ここでは、簡単化のために、候補領域の画素数及び形状を、例えば7×7の正方形として説明する。 Here, for simplification, the number of pixels and the shape of the candidate area will be described as, for example, a 7 × 7 square.
この場合、図8に示すように、注目画素811に対する候補領域として、次の5つの領域候補の中から注目画素との類似度が最も高い候補領域を求める。
In this case, as shown in FIG. 8, a candidate area having the highest similarity with the target pixel is obtained from the following five area candidates as a candidate area for the
ここで、注目画素811の座標を(x,y)とする。注目画素と、(x−6,y−6)、(x−6,y)、(x,y−6)を頂点とする図8(A)の領域821、注目画素811と、(x,y−6)、(x+6,y−6)、(x+6,y)を頂点とする図8(B)の領域822、注目画素811と、(x−6,y)、(x−6,y+6)、(x,y+6)を頂点とする図8(C)の領域823、注目画素811と、(x,y+6)、(x+6,y)、(x+6,y+6)を頂点とする図8(D)の領域824、(x−3,y−3)、(x−3,y+3)、(x+3,y−3)、(x+3,y+3)を頂点とする図8(E)の領域825、の5つの領域が候補領域となる。
Here, the coordinates of the pixel of
領域算出部400は、これら5つの領域候補の中から注目画素との類似度が最も高い候補領域を求める。計算は前述の方法により求める。各候補領域と注目画素との類似度を計算し、最大類似度を求める。最大類似度を有する候補領域をダークチャネルを求める領域と決定する。
The
このように領域算出部400により、ダークチャネルを求めるのに最適な領域を画素ごとに決定するので精度の高い透過率を算出できるようになる。
As described above, the
また候補領域の画素数と形状が決まっているので、比較的容易な演算で類似度を調べることができる。 In addition, since the number of pixels and the shape of the candidate area are determined, the similarity can be examined by a relatively easy calculation.
以上、実施形態を用いて説明したように、本発明によれば、ダークチャネルを求めるのに最適な領域を注目画素ごとに決定するので、演算量の多いソフトマッティングを用いることなく、精度の高い透過率を算出できるようになり、精度の高い透過率を用いて入力画像中から霞を高速に除去することができる。 As described above with reference to the embodiment, according to the present invention, since an optimum region for obtaining a dark channel is determined for each pixel of interest, accuracy can be improved without using soft matting with a large amount of calculation. High transmittance can be calculated, and soot can be removed from the input image at high speed using highly accurate transmittance.
また、本発明は、注目画素と複数の候補領域との類似度を算出し、類似度が最も大きい候補領域を適切な領域として選択することが可能である。よって、最も注目画素と類似度の高い候補領域をダークチャネルを求めるのに最適な領域として選択できるので、精度の高い透過率を算出できるようになる。 Further, according to the present invention, it is possible to calculate the similarity between the target pixel and the plurality of candidate areas, and select the candidate area having the highest similarity as an appropriate area. Therefore, the candidate region having the highest similarity with the target pixel can be selected as the optimum region for obtaining the dark channel, and thus the transmittance with high accuracy can be calculated.
また、本発明は、画素数が異なる複数の候補領域からダークチャネルを求めるのに適切な領域を選択することが可能である。これにより、画素数が一定の候補領域から選択する場合に比べより適切な領域を注目画素ごとに設定することができる。 Further, according to the present invention, it is possible to select an appropriate region for obtaining a dark channel from a plurality of candidate regions having different numbers of pixels. As a result, a more appropriate region can be set for each target pixel as compared with a case where a candidate region having a fixed number of pixels is selected.
また、本発明は、画素数と形状は一定で、注目画素の位置だけが異なる複数の候補領域からダークチャネルを求めるのに適切な領域を選択することが可能である。これにより、比較的容易な演算で、注目画素ごとに適切な領域を設定することができる。 In addition, according to the present invention, it is possible to select an appropriate region for obtaining a dark channel from a plurality of candidate regions that have a fixed number of pixels and a different shape and differ only in the position of the target pixel. Thereby, it is possible to set an appropriate area for each target pixel with relatively easy calculation.
また、本発明では、候補領域を、注目画素を右下の頂点とする正方形、注目画素を右上の頂点とする正方形、注目画素を左下の頂点とする正方形、注目画素を左上の頂点とする正方形、注目画素を中心とする正方形、とすることで、簡単な演算で、注目画素ごとに適切な領域を設定することができる。 In the present invention, the candidate area is a square having the target pixel as the lower right vertex, a square having the target pixel as the upper right vertex, a square having the target pixel as the lower left vertex, and a square having the target pixel as the upper left vertex. By using a square centered on the target pixel, an appropriate area can be set for each target pixel with a simple calculation.
また、本発明では、画素値の平均値と注目画素の画素値との差の絶対値が小さいとき、前記候補領域と前記注目画素との類似度が高いとする。これにより、注目画素と候補領域との類似度を容易に算出することが可能である。 In the present invention, when the absolute value of the difference between the average pixel value and the pixel value of the target pixel is small, the similarity between the candidate region and the target pixel is high. Thereby, it is possible to easily calculate the similarity between the target pixel and the candidate region.
また、本発明では、ソフトマッティングを用いる代わりに、画素毎にダークチャネルを求めるのに適切な領域を決定して、その領域を用いて求めたダークチャネルから透過率を推定する場合に発生する透過率のノイズを除去し、ノイズ除去後の透過率を用いて画像から霞を除去することで、霞を除去した画像の画質を向上させることができる。 Further, in the present invention, instead of using soft matting, an appropriate region for determining a dark channel is determined for each pixel, and the transmittance is estimated from the dark channel obtained using the region. By removing noise from the transmittance and removing wrinkles from the image using the transmittance after noise removal, the image quality of the image from which wrinkles have been removed can be improved.
以上、実施形態に基づいて本発明を説明したが、本発明は上述した実施形態に限定されるものではなく、本発明の要旨の範囲内で種々の変形や応用が可能なことは勿論である。例えば、上記実施形態の機能を実現するソフトウェアのプログラムをコンピュータに供給し、当該コンピュータがこのプログラムを実行することによって、上記機能を実現することも可能である。 The present invention has been described above based on the embodiments. However, the present invention is not limited to the above-described embodiments, and various modifications and applications are possible within the scope of the gist of the present invention. . For example, the above functions can be realized by supplying a software program for realizing the functions of the above embodiments to a computer and executing the programs by the computer.
また、上記実施形態からは種々の発明が抽出され得る。例えば、実施形態に示される全構成要件から幾つかの構成要件が削除されても、効果が得られるのであればこの構成要件が削除された構成が発明として抽出され得る。 Further, various inventions can be extracted from the above embodiment. For example, even if several constituent requirements are deleted from all the constituent requirements shown in the embodiment, a configuration in which this constituent requirement is deleted can be extracted as an invention if an effect can be obtained.
100…画像処理装置、 200…大気光画素値算出部、 300…大気光補正部、 400…領域算出部、 500…最小画素値算出部、 600…透過率算出部、 700…霞除去画像生成部、 800…領域算出部、 801…類似度算出部、 802…最小画素値算出部、 803…領域算出部、 900…透過率ノイズ除去部。
DESCRIPTION OF SYMBOLS 100 ... Image processing apparatus, 200 ... Atmospheric light pixel value calculation part, 300 ... Atmospheric light correction part, 400 ... Area | region calculation part, 500 ... Minimum pixel value calculation part, 600 ... Transmittance calculation part, 700 ... Haze removal
Claims (13)
前記入力画像の注目画素に対して、前記注目画素を含み透過率が一定とみなせるような局所領域を算出する領域算出部と、
前記大気光の画素値により補正された入力画像における前記局所領域内での最小画素値を選択する最小画素値選択部と、
前記最小画素値から前記注目画素の前記透過率を算出する透過率算出部と、
前記透過率を用いて前記入力画像から霞成分を除去する霞除去画像生成部と、
を有することを特徴とする画像処理装置。 An atmospheric light correction unit for correcting the input image with the pixel value of the atmospheric light;
The pixel of interest of the input image, and the area calculation unit that the pixel of interest unrealized transmittance to calculate the local region that considered to be constant,
A minimum pixel value selection unit for selecting a minimum pixel value in the local region in the input image corrected by the pixel value of the atmospheric light;
A transmittance calculating unit that calculates the transmittance of the target pixel from the minimum pixel value;
A wrinkle removal image generating unit that removes a wrinkle component from the input image using the transmittance;
An image processing apparatus comprising:
前記霞除去画像生成部は、ノイズ除去後の透過率を用いて前記入力画像から霞成分を除去することを特徴とする請求項1に記載の画像処理装置。 A transmittance noise removing unit that performs noise removal on the transmittance calculated by the transmittance calculating unit;
The image processing apparatus according to claim 1, wherein the wrinkle removal image generation unit removes wrinkle components from the input image using the transmittance after noise removal.
前記入力画像の注目画素と前記注目画素の周辺画素との類似度を算出し、前記類似度を用いて前記注目画素を含み透過率が一定とみなせるような局所領域を算出する領域算出部と、
前記大気光の画素値により補正された入力画像における前記局所領域内での最小画素値を選択する最小画素値選択部と、
前記最小画素値から前記注目画素の前記透過率を算出する透過率算出部と、
前記透過率を用いて前記入力画像から霞成分を除去する霞除去画像生成部と、
を有することを特徴とする画像処理装置。 An atmospheric light correction unit for correcting the input image with the pixel value of the atmospheric light;
Calculating a similarity between peripheral pixels of the target pixel and the pixel of interest of the input image, unrealized transmittance the pixel of interest by using the similarity degree and the area calculation unit for calculating a local region that considered to be constant ,
A minimum pixel value selection unit for selecting a minimum pixel value in the local region in the input image corrected by the pixel value of the atmospheric light;
A transmittance calculating unit that calculates the transmittance of the target pixel from the minimum pixel value;
A wrinkle removal image generating unit that removes a wrinkle component from the input image using the transmittance;
An image processing apparatus comprising:
前記入力画像の注目画素に対して、前記注目画素を含み透過率が一定とみなせるような局所領域を算出するステップと、
前記大気光の画素値により補正された入力画像における前記局所領域内での最小画素値を選択するステップと、
前記最小画素値から前記注目画素の前記透過率を算出するステップと、
前記透過率を用いて前記入力画像から霞成分を除去するステップと、
を有することを特徴とする画像処理方法。 Correcting the input image with atmospheric light pixel values;
The pixel of interest of the input image, the steps of the pixel of interest unrealized transmittance to calculate the local region that considered to be constant,
Selecting a minimum pixel value in the local region in the input image corrected by the pixel value of the atmospheric light;
Calculating the transmittance of the pixel of interest from the minimum pixel value;
Removing wrinkle components from the input image using the transmittance;
An image processing method comprising:
ノイズ除去後の透過率を用いて前記入力画像から霞成分を除去することを特徴とする請求項10に記載の画像処理方法。 Further comprising the step of removing noise from the transmittance calculated by the step of calculating the transmittance;
The image processing method according to claim 10, wherein a wrinkle component is removed from the input image using the transmittance after noise removal.
前記入力画像の注目画素に対して、前記注目画素を含み透過率が一定とみなせるような局所領域を算出するステップと、
前記大気光の画素値により補正された入力画像における前記局所領域内での最小画素値を選択するステップと、
前記最小画素値から前記注目画素の前記透過率を算出するステップと、
前記透過率を用いて前記入力画像から霞成分を除去するステップと、
をコンピュータに発揮させることを特徴とする画像処理プログラム。 Correcting the input image with atmospheric light pixel values;
The pixel of interest of the input image, the steps of the pixel of interest unrealized transmittance to calculate the local region that considered to be constant,
Selecting a minimum pixel value in the local region in the input image corrected by the pixel value of the atmospheric light;
Calculating the transmittance of the pixel of interest from the minimum pixel value;
Removing wrinkle components from the input image using the transmittance;
An image processing program for causing a computer to exhibit the above.
ノイズ除去後の透過率を用いて前記入力画像から霞成分を除去することを特徴とする請求項12に記載の画像処理プログラム。 Further comprising the step of removing noise from the transmittance calculated by the step of calculating the transmittance;
The image processing program according to claim 12, wherein a wrinkle component is removed from the input image using the transmittance after noise removal.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011086599A JP5771430B2 (en) | 2011-04-08 | 2011-04-08 | Wrinkle removal image processing apparatus, wrinkle removal image processing method, and wrinkle removal image processing program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011086599A JP5771430B2 (en) | 2011-04-08 | 2011-04-08 | Wrinkle removal image processing apparatus, wrinkle removal image processing method, and wrinkle removal image processing program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2012221237A JP2012221237A (en) | 2012-11-12 |
| JP5771430B2 true JP5771430B2 (en) | 2015-08-26 |
Family
ID=47272665
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011086599A Expired - Fee Related JP5771430B2 (en) | 2011-04-08 | 2011-04-08 | Wrinkle removal image processing apparatus, wrinkle removal image processing method, and wrinkle removal image processing program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5771430B2 (en) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105354806A (en) * | 2015-11-20 | 2016-02-24 | 上海熙菱信息技术有限公司 | Dark channel based rapid defogging method and system |
| KR101791792B1 (en) * | 2016-07-12 | 2017-10-31 | 한양대학교 에리카산학협력단 | Real-time single image dehaze method and system using reliability guided fusion |
Families Citing this family (26)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103020902B (en) * | 2011-09-20 | 2016-08-31 | 富士通株式会社 | Exposure enhancement method and device for mist elimination image |
| CN103985086A (en) * | 2013-02-07 | 2014-08-13 | 株式会社日立制作所 | Image demisting device, camera device and image demisting method |
| KR101470831B1 (en) | 2013-05-28 | 2014-12-10 | 전남대학교산학협력단 | Appatatus for image dehazing using the user controllable radical root operation |
| JP6249638B2 (en) | 2013-05-28 | 2017-12-20 | キヤノン株式会社 | Image processing apparatus, image processing method, and program |
| JP6182056B2 (en) | 2013-11-25 | 2017-08-16 | 日本システムウエア株式会社 | Image processing device |
| JP6282095B2 (en) * | 2013-11-27 | 2018-02-21 | キヤノン株式会社 | Image processing apparatus, image processing method, and program. |
| CN103761720B (en) * | 2013-12-13 | 2017-01-04 | 中国科学院深圳先进技术研究院 | Image defogging method and image demister |
| KR101553140B1 (en) * | 2014-01-29 | 2015-09-14 | 경희대학교 산학협력단 | Method for compensating fogs image based on segmention |
| KR102182697B1 (en) * | 2014-02-27 | 2020-11-25 | 한화테크윈 주식회사 | Apparatus and method for processing image |
| JP6320115B2 (en) * | 2014-03-28 | 2018-05-09 | キヤノン株式会社 | Image processing apparatus, image processing method, and program |
| CN104253930B (en) * | 2014-04-10 | 2017-04-05 | 西南科技大学 | A real-time video defogging method |
| CN103914813B (en) * | 2014-04-10 | 2017-06-16 | 西安电子科技大学 | The restored method of colored haze image defogging and illumination compensation |
| JP6324192B2 (en) * | 2014-04-25 | 2018-05-16 | キヤノン株式会社 | Image processing apparatus, imaging apparatus, image processing method, and program |
| JP6488581B2 (en) | 2014-07-25 | 2019-03-27 | 株式会社ソシオネクスト | 霞 Image discrimination device and discrimination method |
| CN104574325A (en) * | 2014-12-18 | 2015-04-29 | 华中科技大学 | Skylight estimation method and system as well as image defogging method thereof |
| US9710715B2 (en) | 2014-12-26 | 2017-07-18 | Ricoh Company, Ltd. | Image processing system, image processing device, and image processing method |
| CN104599266B (en) * | 2014-12-31 | 2017-07-14 | 小米科技有限责任公司 | The detection method in fog region, device and terminal in image |
| JP6661268B2 (en) * | 2015-01-08 | 2020-03-11 | キヤノン株式会社 | Image processing apparatus, image processing method, and program |
| CN104966273B (en) * | 2015-05-29 | 2018-06-22 | 昆山数字城市信息技术有限公司 | DCM-HTM Haze Removal Method Applicable to Optical Remote Sensing Images |
| JP6352547B2 (en) * | 2015-09-29 | 2018-07-04 | 富士フイルム株式会社 | Image processing apparatus and image processing method |
| CN105973850B (en) * | 2016-03-14 | 2020-12-22 | 中国科学院合肥物质科学研究院 | Measurement method of atmospheric transmittance in visible light band based on single frame color image |
| KR101784350B1 (en) | 2016-06-02 | 2017-10-11 | 한국항공대학교산학협력단 | Dehazing method and device based on improved median dark channel prior |
| CN107481199B (en) * | 2017-07-27 | 2020-01-10 | Oppo广东移动通信有限公司 | Image defogging method and device, storage medium and mobile terminal |
| JP6494817B2 (en) * | 2018-01-24 | 2019-04-03 | キヤノン株式会社 | Image processing apparatus, image processing method, and program. |
| KR102096356B1 (en) * | 2018-09-07 | 2020-04-02 | 고려대학교 산학협력단 | Metohd and device of single image dehazing based on dark channel, recording medium for performing the method |
| CN116385340A (en) * | 2022-12-28 | 2023-07-04 | 中国科学院苏州生物医学工程技术研究所 | Medical endoscope image rapid defogging method and system |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4290193B2 (en) * | 2006-12-26 | 2009-07-01 | 三洋電機株式会社 | Image processing device |
| JP5369282B2 (en) * | 2008-11-14 | 2013-12-18 | 株式会社パスコ | Vegetation growth situation analysis method, program, and vegetation growth situation analysis apparatus |
| JP4807439B2 (en) * | 2009-06-15 | 2011-11-02 | 株式会社デンソー | Fog image restoration device and driving support system |
| JP5343726B2 (en) * | 2009-06-19 | 2013-11-13 | カシオ計算機株式会社 | Image processing apparatus and image processing program |
-
2011
- 2011-04-08 JP JP2011086599A patent/JP5771430B2/en not_active Expired - Fee Related
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN105354806A (en) * | 2015-11-20 | 2016-02-24 | 上海熙菱信息技术有限公司 | Dark channel based rapid defogging method and system |
| CN105354806B (en) * | 2015-11-20 | 2018-05-11 | 上海熙菱信息技术有限公司 | Rapid defogging method and system based on dark |
| KR101791792B1 (en) * | 2016-07-12 | 2017-10-31 | 한양대학교 에리카산학협력단 | Real-time single image dehaze method and system using reliability guided fusion |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2012221237A (en) | 2012-11-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5771430B2 (en) | Wrinkle removal image processing apparatus, wrinkle removal image processing method, and wrinkle removal image processing program | |
| US8478072B2 (en) | Device, method, and program for image processing | |
| US10466797B2 (en) | Pointing interaction method, apparatus, and system | |
| JP5620343B2 (en) | Object coordinate system conversion apparatus, object coordinate system conversion method, and object coordinate system conversion program | |
| JPWO2016114148A1 (en) | Image processing apparatus, image processing method, and program | |
| JP2013105245A (en) | Image processing method, device and program | |
| CN114897982B (en) | A method and system for estimating the pose of a weakly textured object | |
| WO2016062259A1 (en) | Transparency-based matting method and device | |
| JP7140209B2 (en) | Detection device, information processing device, detection method, and information processing program | |
| RU2018133450A (en) | DEVICE FOR GENERATING A SYNTHESIZED 2D IMAGE OF AN OBJECT WITH IMPROVED DEPTH OF SHARPNESS | |
| KR101028699B1 (en) | Painterly rendering device and method | |
| JP5034554B2 (en) | Correlation calculation device, correlation calculation method and program | |
| US9270883B2 (en) | Image processing apparatus, image pickup apparatus, image pickup system, image processing method, and non-transitory computer-readable storage medium | |
| JP6565951B2 (en) | Image region extraction method and image region extraction program | |
| JP5795556B2 (en) | Shadow information deriving device, shadow information deriving method and program | |
| JP2011175347A (en) | Information processing apparatus and method | |
| JP4996554B2 (en) | Image quality improvement device, method and program | |
| WO2011086594A1 (en) | Image processing apparatus and method therefor | |
| JP2007243987A (en) | Image processing method, image processing system, and image processing program | |
| JP6375778B2 (en) | Image processing method and image processing apparatus | |
| JP5941351B2 (en) | Image processing apparatus and control method thereof | |
| JP2010097355A (en) | Image separation device, image separation method, and image separation program | |
| Tyagi et al. | Side Searching and Object Improvement Methods for Unconstrained Face Recognition Environment. | |
| JP6940261B2 (en) | Image analysis processing device, image analysis processing method, and program | |
| JP5934019B2 (en) | Gradation restoration device and program thereof |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140311 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20141226 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150113 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150312 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150407 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150522 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150609 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150629 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 5771430 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |