JP4801626B2 - Outline enhancement device - Google Patents
Outline enhancement device Download PDFInfo
- Publication number
- JP4801626B2 JP4801626B2 JP2007132582A JP2007132582A JP4801626B2 JP 4801626 B2 JP4801626 B2 JP 4801626B2 JP 2007132582 A JP2007132582 A JP 2007132582A JP 2007132582 A JP2007132582 A JP 2007132582A JP 4801626 B2 JP4801626 B2 JP 4801626B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- luminance signal
- interest
- signal
- edge component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Picture Signal Circuits (AREA)
- Facsimile Image Signal Circuits (AREA)
- Endoscopes (AREA)
- Image Processing (AREA)
Description
本発明は、内視鏡スコープ等の撮像装置で得られた画像に対する輪郭強調を行うための輪郭強調装置に関する。 The present invention relates to a contour enhancement device for performing contour enhancement on an image obtained by an imaging device such as an endoscope scope.
内視鏡スコープ等の撮像素子で得られた画像信号は、一般的に、画像の特徴を強調するために輪郭強調が施された上でモニタ等に表示される。輪郭強調は、例えば特許文献1に記載されるようなラプラシアンフィルタ等を用いた2次微分により行われ、周辺画素と輝度差が相対的に大きい画素の輝度信号が相対的に大きく強調され、これにより撮影対象物の輪郭が明瞭にされて表示される。
しかし、輪郭強調は、周辺画素との輝度差が異なる全ての画素の輝度信号を強調するため、撮影対象物の輪郭のみならず、ノイズも強調して表示することになる。 However, the contour enhancement emphasizes the luminance signals of all the pixels having different luminance differences from the surrounding pixels, so that not only the contour of the object to be photographed but also noise is emphasized and displayed.
特に、内視鏡スコープに搭載される撮像素子は、近年高画素化されつつあり、画素単位で発生する微小なランダムノイズは増加する傾向にあり、また2次微分により輪郭強調を行う場合、微小ノイズが増幅される傾向にある。したがって、従来のように輝度信号に2次微分によって単純に輪郭強調を施すと、微小なランダムノイズが強調され、画像全体がざらつくような印象を与えることになる。 In particular, an imaging device mounted on an endoscope scope has recently been increased in the number of pixels, and there is a tendency that minute random noise generated in units of pixels increases. Noise tends to be amplified. Therefore, when the edge enhancement is simply applied to the luminance signal by second-order differentiation as in the prior art, minute random noise is emphasized, giving the impression that the entire image is rough.
そこで、本発明は、このような問題点に鑑みて成されたものであり、高画素化された画像であってもランダムノイズを強調しないで輪郭強調が施すことができる輪郭強調装置を提供することを目的とする。 Therefore, the present invention has been made in view of such a problem, and provides an edge emphasizing device that can perform edge emphasis without emphasizing random noise even in an image with a high pixel count. For the purpose.
本発明に係る輪郭強調装置は、注目画素、及び微小領域において注目画素の周辺に位置する第1の周辺画素の輝度信号を用いて、注目画素のノイズ除去信号を生成するノイズ除去手段と、注目画素、及び微小領域より広い広範囲領域において注目画素の周辺に位置する第2の周辺画素の輝度信号を用いて注目画素の広範囲エッジ成分を検出するエッジ強調手段と、ノイズ除去信号と広範囲エッジ成分とを加算して注目画素の処理済輝度信号を生成する加算手段とを備える。 An outline emphasizing device according to the present invention includes a noise removal unit that generates a noise removal signal of a pixel of interest using a luminance signal of the pixel of interest and a first peripheral pixel located around the pixel of interest in a minute region, Edge enhancement means for detecting a wide edge component of the pixel of interest using a luminance signal of a second peripheral pixel located around the pixel of interest in a wide area wider than the pixel and the minute area, a noise removal signal, and a wide edge component And adding means for generating a processed luminance signal of the target pixel.
ノイズ除去信号は、注目画素及び第1の周辺画素の輝度信号を用いて、注目画素の微小範囲エッジ成分を検出し、その微小範囲エッジ成分を注目画素の輝度信号から減じてノイズ除去信号を生成することが好ましい。また、広範囲エッジ成分及び微小範囲エッジ成分は、例えば2次微分により検出される。 The noise removal signal detects the minute range edge component of the target pixel using the luminance signal of the target pixel and the first peripheral pixel, and subtracts the minute range edge component from the luminance signal of the target pixel to generate the noise removal signal. It is preferable to do. Further, the wide range edge component and the minute range edge component are detected by, for example, second order differentiation.
本発明に係る輪郭強調方法は、注目画素、及び微小領域において注目画素の周辺に位置する第1の周辺画素の輝度信号を用いて、注目画素のノイズ除去信号を生成するノイズ除去ステップと、注目画素、及び微小領域より広い広範囲領域において注目画素の周辺に位置する第2の周辺画素の輝度信号を用いて注目画素の広範囲エッジ成分を検出するエッジ強調ステップと、ノイズ除去信号と広範囲エッジ成分とを加算して注目画素の処理済輝度信号を生成する加算ステップとを備える。 The contour emphasizing method according to the present invention includes a noise removal step for generating a noise removal signal of a target pixel using a luminance signal of the target pixel and a first peripheral pixel located around the target pixel in a minute region, An edge enhancement step of detecting a wide edge component of the pixel of interest using a luminance signal of a second peripheral pixel located around the pixel of interest in a wide area wider than the pixel and the micro area, a noise removal signal, and a wide edge component; And an adding step for generating a processed luminance signal of the target pixel.
本発明においては、広範囲の画素の輝度信号を参照してエッジを強調すると共に、微小範囲における画素の輝度信号を参照してノイズを除去することにより、ノイズ成分を強調することなく、各輝度信号のエッジ強調を行うことができる。 In the present invention, the edge is emphasized by referring to the luminance signal of a wide range of pixels, and each luminance signal is emphasized without enhancing the noise component by removing the noise by referring to the luminance signal of the pixel in the minute range. Edge enhancement can be performed.
以下、本発明の実施形態について添付図面を参照して説明する。
図1は本発明の一実施形態である画像輪郭強調装置を備えた内視鏡システムを示す。内視鏡システムは、スコープ10およびプロセッサ20から成る。スコープ10は被写体から画像信号を得るための撮像装置であり、プロセッサ20はスコープ10によって得られた画像信号を処理して観察画像として出力するための画像処理装置である。
Embodiments of the present invention will be described below with reference to the accompanying drawings.
FIG. 1 shows an endoscope system including an image contour emphasizing apparatus according to an embodiment of the present invention. The endoscope system includes a
スコープ10は、イメージセンサ11を有し、イメージセンサ11では被写体からの光によって画像が結像され、結像画像からアナログ画像信号が生成される。イメージセンサ11は、タイミングジェネレータ16によって画像信号の読込・読出タイミングが制御される。
The
アナログ画像信号は、AFE(アナログフロントエンド)12でデジタル信号に変換され、次いで色補間ブロック13で色補間が行われる。色補間が行われたアナログ画像信号は、マトリックス変換ブロック14でマトリックス変換が施され、RGB信号としてYC変換ブロック15に入力される。RGB信号は、YC変換ブロック15において、輝度信号Yと色差信号Cb、Crに変換される。輝度信号Y及び色差信号Cb、Crは、プロセッサ20に送られる。
The analog image signal is converted into a digital signal by an AFE (analog front end) 12, and then color interpolation is performed by a
プロセッサ20はCPU21を有し、CPU21によってプロセッサ20内の各ブロックの動作が制御される。プロセッサ20に送られた輝度信号Y及び色差信号Cb、Crは、ノイズ除去ブロック22でLPF(ローパスフィルタ)等によって色ノイズの除去が施された後、輝度信号Yが輪郭強調ブロック23で後述するエッジ強調が施される。色差信号Cb、Crは、輪郭強調ブロック23で輪郭強調は施されない。
The
色差信号Cb、Cr、及びエッジ強調が施された輝度信号Yは、RGB変換ブロック24でRGB信号に変換される。RGB信号は、スケール調整ブロック25で画像サイズが調整された後、カラーマネージメントブロック26で出力機器に応じた色調整が行われ、モニタ27又はプリンタ28に観察画像として出力される。
The color difference signals Cb and Cr and the luminance signal Y subjected to edge enhancement are converted into RGB signals by the
図2は、輪郭強調ブロック23の詳細を示すブロック図である。輪郭強調ブロック23は、第1ラインメモリブロック41と第1のフィルタ31と減算器32を含むノイズ除去部33と、第2ラインメモリブロック42と第2のフィルタ34を含むエッジ強調部35と、加算器36とを備える。輪郭強調ブロック23において、輝度信号Yは、ノイズ除去部31及びエッジ強調部35のいずれにも入力される。なお、以下の説明においては、輪郭強調ブロック23に入力された輝度信号Yは、入力輝度信号Y0とすると共に、輪郭強調ブロック23においてエッジ強調が施された輝度信号Yを処理済輝度信号Y’として説明する。
FIG. 2 is a block diagram showing details of the
ノイズ除去部33において、入力輝度信号Y0は、画素毎に順次第1ラインメモリブロック41及び減算器32に入力される。第1ラインメモリブロック41は、3×3領域の入力輝度信号Y0が第1フィルタ31に同時に入力可能なように、少なくとも3ライン分の入力輝度信号Y0を一時的に格納する。
In the
第1フィルタ31には、第1ラインメモリブロック41から各画素(注目画素P0)及びその注目画素P0の周辺に位置する第1の周辺画素P1の入力輝度信号Y0が第1フィルタ31に順次入力される。なお、第1の周辺画素P1とは、図3に示すように、注目画素P0を中心とする3×3領域(微小領域)R1内に位置する注目画素P0の周辺に位置する画素をいう。
The input luminance signal Y0 of each pixel (target pixel P0) and the first peripheral pixel P1 located around the target pixel P0 is sequentially input to the
第1フィルタ31は、注目画素P0及び第1の周辺画素P1に関する入力輝度信号Y0を用いて、エッジ強調を行い、注目画素P0のエッジ成分(微小範囲エッジ成分E1)を検出する。本実施形態の第1フィルタ31は、図4に示すように、注目画素P0の垂直方向及び鉛直方向に位置する周辺画素P1の入力輝度信号Y0を用いてエッジ強調を行うラプラシアンフィルタであって、2次微分によって注目画素P0の微小範囲エッジ成分E1を検出する。
The
微小範囲エッジ成分E1は減算器32に入力され、減算器32では、各注目画素P0について、入力輝度信号Y0から微小範囲エッジ成分E1が減ぜられて、各注目画素P0のノイズ除去信号F1が生成される。
The minute range edge component E1 is input to the
エッジ強調部35に入力された入力輝度信号Y0は、画素毎に順次、第2ラインメモリブロック42に入力され、第2ラインメモリブロック42に一時的に格納される。第2ラインメモリブロック42は、5×5領域の入力輝度信号Y0が第2フィルタ34に同時に入力可能なように、少なくとも5ライン分の入力輝度信号Y0を格納する。
The input luminance signal Y0 input to the
第2フィルタ34には、第2ラインメモリブロック42から各画素(注目画素P0)及びその注目画素P0の周辺に位置する第2の周辺画素P2の入力輝度信号Y0が第1フィルタ34に順次入力される。なお、第2の周辺画素P2とは、図5に示すように、注目画素P0を中心とする5×5領域(広範囲領域)R2内に位置する注目画素P0の周辺に位置する画素をいう。
The input luminance signal Y0 of each pixel (target pixel P0) and the second peripheral pixel P2 located around the target pixel P0 is sequentially input to the
第2フィルタ34は、注目画素P0及び第2の周辺画素P2の入力輝度信号Y0を用いて、エッジ強調を行い、注目画素P0のエッジ成分(広範囲エッジ成分E2)を検出する。本実施形態では、図6に示すように、第2フィルタ34は、エッジ強調を行う5×5ラプラシアンフィルタであって、2次微分によって広範囲エッジ成分E2を検出する。なお、第2フィルタ34は、5×5領域R2において注目画素P0に対して垂直方向及び水平方向に位置する周辺画素P2、及び注目画素P0を中心とする3×3領域において注目画素P0の斜め四方に位置する周辺画素P2を用いてエッジ強調を行う。このように、エッジ強調部35では、微小領域R1より広い広範囲領域R2において注目画素P0の周辺に位置する周辺画素P2が用いられて、エッジ強調が行われる。
The
同じ注目画素P0に関するノイズ除去信号F1及び広範囲エッジ成分E2は、同じタイミングで加算器36に入力されて、これらは加算器36において加算され、各注目画素P0の処理済輝度信号Y’が生成される。なお、色差信号Cb、Crはエッジ強調ブロック23では処理が行われずに、RGB変換ブロック24に入力され、RGB変換ブロック24では処理済輝度信号Y’及び色差信号Cb、CrからRGB信号が生成される。
The noise removal signal F1 and the wide-range edge component E2 relating to the same target pixel P0 are input to the
図7は、輪郭強調ブロック23で行われる信号処理の一例を示す。図7に示すように、本例では、イメージセンサから撮像された画像内の輝度信号Yは、被写体からの光に基づいて生成されたデータ成分Dと、ランダムノイズであるノイズ成分Nを有する。図7において、データ成分Dは、所定の輝度値を有する複数の画素の輝度信号から成り、ノイズ成分Nは、所定の1画素の輝度値が他の画素の輝度値より急峻に大きくなると共に、その画素の周辺の輝度値が0より小さくなって形成される。なお、図7の入力輝度信号Y0において、データ成分Dの信号レベルは、ノイズ成分Nの信号レベルと同一であって、図7においてはSで示す。
FIG. 7 shows an example of signal processing performed in the
一般的に、ノイズ成分Nは狭い領域における輝度変化が大きい一方、データ成分Dは狭い領域における輝度変化が小さい。したがって、参照領域が微小な第1フィルタ31を用いてエッジ強調を行うと、ノイズ成分Nのエッジ成分が大きく抽出される一方、データ成分Dのエッジ成分はそれほど大きく抽出されない。すなわち、微小範囲エッジ成分E1において、ノイズ成分Nの値が大きくなるが、データ成分Dの値はそれほど大きくならない。これにより、入力輝度信号Y0から微小範囲エッジ成分E1が減ぜられて得られたノイズ除去信号F1は、ノイズ成分Nが効率的に除去されることになるが、データ成分Dのエッジ成分DE1はそれほど大きく取り除かれてない。
In general, the noise component N has a large luminance change in a narrow region, while the data component D has a small luminance change in a narrow region. Therefore, when edge enhancement is performed using the
また、データ成分Dは狭い領域における輝度変化が少ないが、広範囲の領域における輝度変化は大きくなる。したがって、参照領域が広範な第2フィルタ34によって検出された、データ成分Dについての広範囲エッジ成分E2(エッジ成分DE2)は、データ成分Dについての微小範囲エッジ成分E1(エッジ成分DE1)に比べて大きくなる。
In addition, the data component D has a small luminance change in a narrow area, but the luminance change in a wide area is large. Therefore, the wide-range edge component E2 (edge component DE2) for the data component D, which is detected by the
すなわち、ノイズ除去信号F1では、データ成分Dのエッジ成分DE1が取り除かれているが、この取り除かれたエッジ成分DE1よりも、第2フィルタ34で検出されたエッジ成分DE2のほうが相対的に大きくなる。したがって、ノイズ除去信号F1に広範囲エッジ成分E2が加算された処理済輝度信号Y’では、データ成分Dのエッジ部分EPの輝度値が、入力輝度信号Y0よりも高められている。
That is, in the noise removal signal F1, the edge component DE1 of the data component D is removed, but the edge component DE2 detected by the
また、広範囲エッジ成分E2は、参照領域が広範な第2フィルタ34によって検出されたエッジ成分であって、高周波成分が比較的少ない。すなわち、広範囲エッジ成分E2におけるノイズ成分Nの量は、ノイズ除去部33で取り除かれる微小範囲エッジ成分E1のノイズ成分Nの量よりも少なくなる。したがって、ノイズ除去信号F1に広範囲エッジ成分E2が加算されて得られる処理済輝度信号Y’では、ノイズ成分Nの量が、入力輝度信号Y0におけるノイズ成分Nの量よりも小さくなる。
The wide-range edge component E2 is an edge component detected by the
以上のように、本実施形態では、広範囲の画素の輝度信号を参照してエッジを強調すると共に、微小範囲における画素の輝度信号を参照してノイズを除去することにより、ノイズ成分Nを強調することなく、データ成分Dのエッジ強調を行うことができる。 As described above, in the present embodiment, the edge is emphasized by referring to the luminance signal of a wide range of pixels, and the noise component N is enhanced by removing the noise by referring to the luminance signal of the pixel in the minute range. Therefore, the edge enhancement of the data component D can be performed.
また、内視鏡観察においては、一般的に、体内の水が溜まった部分が、光源からの光の反射によって、高輝度画素として観察され、その高輝度画素の周辺部ではキャッツアイや黒つぶれ等が発生しやすい。しかし、本実施形態では、高輝度画素の周辺部におけるノイズ強調が防止され、高輝度画素の周辺に発生する黒つぶれやキャッツアイの発生が防止される。 Further, in endoscopic observation, generally, a portion of the body where water has accumulated is observed as a high-luminance pixel by reflection of light from a light source, and a cat's eye or blackout is observed around the high-luminance pixel. Etc. are likely to occur. However, in this embodiment, noise enhancement at the periphery of the high luminance pixel is prevented, and blackout and cat's eyes that occur around the high luminance pixel are prevented.
なお、本実施形態では、第1及び第2フィルタ31、34として、ラプラシアンフィルタ以外のフィルタを用いることが可能であって、例えば1次微分を行うためのフィルタが用いられても良い。また、ノイズ除去部で行われるノイズ除去としては、微小領域Rの輝度信号を用いてノイズを除去できるものであれば、特に限定されるものではない。例えば、微小領域R1の注目画素P0及び周辺画素P1の輝度信号の平均を求めることによってノイズが除去されても良い。またはその他のLPFが用いられても良い。
In the present embodiment, a filter other than a Laplacian filter can be used as the first and
10 スコープ
20 プロセッサ
23 輪郭強調ブロック
31 第1フィルタ
33 ノイズ除去部
34 第2フィルタ
35 エッジ強調部
E1 微小範囲エッジ成分
E2 広範囲エッジ成分
F1 ノイズ除去信号
P0 注目画素
P1 第1周辺画素
P2 第2周辺画素
R1 微小領域
R2 広範囲領域
Y0 入力輝度信号
Y’ 処理済輝度信号
DESCRIPTION OF
Claims (4)
前記注目画素、及び前記微小領域より広い広範囲領域において前記注目画素の周辺に位置する第2の周辺画素の輝度信号を用いて前記注目画素の広範囲エッジ成分を検出するエッジ強調手段と、
前記ノイズ除去信号と広範囲エッジ成分とを加算して前記注目画素の処理済輝度信号を生成する加算手段と
を備える輪郭強調装置。 A noise removal unit that generates a noise removal signal of the pixel of interest using a luminance signal of the pixel of interest and a first peripheral pixel located around the pixel of interest in a minute region;
Edge enhancement means for detecting a wide range edge component of the pixel of interest using a luminance signal of a second peripheral pixel located around the pixel of interest in a wide area wider than the pixel of interest and the micro area;
An outline emphasizing device comprising: an adding unit that adds the noise removal signal and a wide-range edge component to generate a processed luminance signal of the pixel of interest.
前記注目画素、及び前記微小領域より広い広範囲領域において前記注目画素の周辺に位置する第2の周辺画素の輝度信号を用いて前記注目画素の広範囲エッジ成分を検出するエッジ強調ステップと、
前記ノイズ除去信号と広範囲エッジ成分とを加算して前記注目画素の処理済輝度信号を生成する加算ステップと
を備える輪郭強調方法。 A noise removal step of generating a noise removal signal of the pixel of interest using a luminance signal of the pixel of interest and a first peripheral pixel located around the pixel of interest in a minute region;
An edge enhancement step of detecting a wide range edge component of the target pixel using a luminance signal of a second peripheral pixel located around the target pixel in a wide range area wider than the target pixel and the minute area;
An outline emphasizing method comprising: an adding step of adding the noise removal signal and a wide range edge component to generate a processed luminance signal of the pixel of interest.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007132582A JP4801626B2 (en) | 2007-05-18 | 2007-05-18 | Outline enhancement device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007132582A JP4801626B2 (en) | 2007-05-18 | 2007-05-18 | Outline enhancement device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2008288942A JP2008288942A (en) | 2008-11-27 |
| JP4801626B2 true JP4801626B2 (en) | 2011-10-26 |
Family
ID=40148236
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2007132582A Active JP4801626B2 (en) | 2007-05-18 | 2007-05-18 | Outline enhancement device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4801626B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011254214A (en) * | 2010-06-01 | 2011-12-15 | Hoya Corp | Outline emphasis apparatus |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH04336880A (en) * | 1991-05-14 | 1992-11-25 | Hitachi Ltd | Contour correction circuit |
| JPH0686098A (en) * | 1992-08-31 | 1994-03-25 | Matsushita Electric Ind Co Ltd | Contour correcting device |
| JPH0877350A (en) * | 1994-09-05 | 1996-03-22 | Fuji Xerox Co Ltd | Image processor |
| JPH08298603A (en) * | 1995-04-26 | 1996-11-12 | Matsushita Electric Ind Co Ltd | Video signal processing device |
| JP3240371B2 (en) * | 1997-06-23 | 2001-12-17 | 松下電器産業株式会社 | Video signal processing device |
-
2007
- 2007-05-18 JP JP2007132582A patent/JP4801626B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2008288942A (en) | 2008-11-27 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US8170362B2 (en) | Edge-enhancement device and edge-enhancement method | |
| TWI416940B (en) | Image processing device and image processing program | |
| JP5343726B2 (en) | Image processing apparatus and image processing program | |
| JP5423697B2 (en) | Image processing apparatus, imaging apparatus, image processing program, and image processing method | |
| US8102445B2 (en) | Solid-state image-capturing apparatus, camera, and method of processing signal | |
| US9185265B2 (en) | Image processing method and image processing apparatus for performing a tone correction to acquire a combined image | |
| JP5541205B2 (en) | Image processing apparatus, imaging apparatus, image processing program, and image processing method | |
| CN103581537A (en) | Image processing device, image processing method and solid-state imaging device | |
| JP5789472B2 (en) | Image correction apparatus, image correction method, and endoscope apparatus | |
| EP2400741B1 (en) | Image processing device, method, and program | |
| JP2015094991A (en) | Image processing device, imaging device and image processing program | |
| JP4801626B2 (en) | Outline enhancement device | |
| JP4804387B2 (en) | Image processing apparatus, imaging apparatus, and image processing program | |
| JP5327245B2 (en) | Image processing apparatus, electronic camera, and image processing program | |
| JP5557635B2 (en) | Outline enhancement device | |
| JP2010278724A (en) | Image processing apparatus, image processing method, and image processing program | |
| JP2011193276A (en) | Imaging device, method for controlling the same, and program | |
| JP5115297B2 (en) | Image processing apparatus, imaging apparatus, image processing method, and program | |
| JP2009017037A (en) | Image processor | |
| JP2009033293A (en) | Image processing circuit, semiconductor device, and image processor | |
| TW201336303A (en) | Image capture system and image processing method applied to an image capture system | |
| JP5631153B2 (en) | Image processing apparatus, control method, and program | |
| JP5653098B2 (en) | Noise removal device | |
| JP6331339B2 (en) | Imaging apparatus, imaging system including the imaging apparatus, and false color removal method | |
| JP2016082390A (en) | Signal processing device |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100223 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110714 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20110802 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20110805 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140812 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4801626 Country of ref document: JP |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |