Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4128466B2 - コンテンツ表示装置 - Google Patents
[go: Go Back, main page]

JP4128466B2 - コンテンツ表示装置 - Google Patents

コンテンツ表示装置 Download PDF

Info

Publication number
JP4128466B2
JP4128466B2 JP2003037104A JP2003037104A JP4128466B2 JP 4128466 B2 JP4128466 B2 JP 4128466B2 JP 2003037104 A JP2003037104 A JP 2003037104A JP 2003037104 A JP2003037104 A JP 2003037104A JP 4128466 B2 JP4128466 B2 JP 4128466B2
Authority
JP
Japan
Prior art keywords
frame
content
unit
moving image
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003037104A
Other languages
English (en)
Other versions
JP2004248076A (ja
Inventor
麻奈美 内藤
田中  敦
一也 前嶋
透 室園
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2003037104A priority Critical patent/JP4128466B2/ja
Publication of JP2004248076A publication Critical patent/JP2004248076A/ja
Application granted granted Critical
Publication of JP4128466B2 publication Critical patent/JP4128466B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

【0001】
【発明の属する技術分野】
この発明は、コンテンツ表示装置に関するものである。
【0002】
【従来の技術】
従来のコンテンツ表示装置は、多数の動画または静止画のコンテンツをスクリーン上に表示しようとするとコンテンツの数や面積に応じて徐々に処理性能が劣化し、想定していたレートでの動画の表示ができなかったり、動きが遅れたりする問題があった。
【0003】
従来のコンテンツ表示装置の例として、特許文献1には複数の画像を任意の位置に配置し、画面合成を行う技術が開示されている。また、合成した画面を一定間隔で表示することによって擬似動画を表示する技術が開示されている。
【0004】
【特許文献1】
特開平6−339475号公報
【0005】
【発明が解決しようとする課題】
従来のコンテンツ表示装置では、静止画や動画、文字列などの多数のコンテンツが混在した状態では、動画の性能を劣化させることなく全画面動画を合成し、表示することは実現されていなかった。
【0006】
この発明は上記のような課題を解決するためになされたもので、動画を含む多数のコンテンツを、処理性能を落とさずに表示できるコンテンツ表示装置を得ることを目的とする。
0007
【課題を解決するための手段】
この発明に係るコンテンツ表示装置は、動画像のコンテンツおよび静止系のコンテンツからなる複数のコンテンツの画像データの、フレームメモリ上における格納位置を指定するレイアウト情報に基づいて、各コンテンツの配置位置を決定するコンテンツレイアウト部と、コンテンツレイアウト部により配置された全てのコンテンツを、動画像コンテンツ群と、動画像以外の静止系コンテンツ群に分別するコンテンツ分別部と、コンテンツレイアウト部によりフレームメモリ上における各コンテンツの格納位置が決定された状態で、動画像コンテンツ群の1つのフレーム画像を生成する処理を繰り返すことにより複数のフレーム画像を生成するフレーム生成部と、フレーム生成部で生成された複数のフレーム画像を集めることにより1つの合成動画像を生成する合成動画像生成部と、合成動画像の再生画像データをフレームメモリに格納する合成動画像再生部と、合成動画像再生部により格納された合成動画像が背景画像として重ねて表示されるように静止系コンテンツ群の画像データをフレームメモリに格納するコンテンツ描画部とを備えたものである。
0008
【発明の実施の形態】
以下、この発明の実施の様々な形態を説明する。
実施の形態1.
図1は、この発明の実施の形態1によるコンテンツ表示装置の構成を示すブロック図である。
図に示すように、コンテンツ表示装置は、コンテンツレイアウト部12、フレーム生成部18、フレーム画像格納部8、合成動画像生成部31、合成動画像再生部32、フレームメモリ17、スクリーン16を備える。フレーム生成部18は、コンテンツ再生部19、フレーム合成部30、再生時間設定部51、フレーム数決定部52、フレームレート設定部61を備える。
コンテンツレイアウト部12、フレーム生成部18、コンテンツ再生部19、フレーム合成部30、再生時間設定部51、フレーム数決定部52、フレームレート設定部61、合成動画像生成部31、合成動画像再生部32は、コンテンツ表示装置の中央演算処理装置を、該中央演算処理装置の動作を制御するプログラムのモジュールに従って便宜的に分割したものである。
0009
次に動作について説明する。
ここでは、スクリーン16上に、動画像1,3、静止画2、文字列4を表示する場合を考える。動画像1は320x240の形状でフレームレートは30frame/sec、再生時間は10secである。動画像3は、400x300の形状でフレームレートは20frame/sec長さは15secである。また、静止画2は400x300、文字列4は800x200の形状である。
0010
コンテンツレイアウト部12は、動画像1,3、静止画2、文字列4を読み込み、レイアウト情報bに基づいて各コンテンツのレイアウトを行う。
0011
レイアウト情報bには、フレームメモリ17内における各コンテンツのデータの格納位置が示されている。ここでは、動画像1を(640,50)から、静止画2を(100,100)から、動画像3を(200,650)から、文字列4を(300,512)から配置するという情報が記されている。
図2に、レイアウト情報bに基づくレイアウトの結果を示す。
0012
さらに、コンテンツレイアウト部12は、クリップ領域情報cに基づいてレイアウトを再調整する。クリップ領域情報cには、スクリーン16上でコンテンツを表示できない範囲に対応するフレームメモリ17の領域(以下、クリップ領域という。)が示されている。ここでは、(840,0),(940,0),(940,1024),(840,1024)で囲まれた矩形の範囲がクリップ領域に指定されている。図3にクリップ領域情報cを反映したレイアウトを示す。図中、斜線で示されたクリップ領域は、動画像1と文字列4に重なるレイアウトになる。このため、動画像1と文字列4を分割して配置する必要がある。この際、動画像1と文字列4を途中で2つに分割して配置するのではなく、それぞれを2つ配置し、必要な部分の矩形領域のみを表示する。それぞれ1A,1B,4A,4Bとする。
0013
具体的には、動画像1Aを始点(640,50)で配置して(640,50),(840,50),(840,290),(640,290)で示される矩形領域のみ表示するようにし、動画像1Bを始点(740,50)で配置して(860,50),(1060,50),(1060,290),(860,290)で示される矩形領域のみ表示するようにする。また、文字列4Aを始点(300,512)で配置して(300,512),(840,512),(840,712),(300,712)で示される矩形領域のみ表示し、文字列4Bを始点(400,512)で配置して(940,512),(1200,512),(1200,712),(940,1200)で示される矩形領域のみ配表示する。
0014
コンテンツレイアウト部12は、これらのコンテンツデータ、レイアウト情報b、およびクリップ領域情報cを、コンテンツ表示装置内から、あるいは電気通信回線を介して他のコンピュータから、または記録媒体等から取得する。
0015
次に、コンテンツレイアウト部12は、読み込まれたコンテンツのうち動画像1,3の再生時間を再生時間設定部51に渡す。再生時間設定部51は、動画像1の再生時間10secと、動画像3の再生時間15secの最小公倍数である30secを再生時間として算出する。再生時間設定部51は、算出結果をフレーム数決定部52に通知する。
0016
また、コンテンツレイアウト部12は、読み込まれたコンテンツのうち動画像1,3のフレームレートをフレームレート設定部61に渡す。フレームレート設定部61は、動画像1のフレームレート30frame/secと、動画像3のフレームレート20frame/secのうちの最大値30frame/secをフレームレートとして算出する。フレームレート設定部61は、算出結果をフレーム数決定部52に通知する。
0017
次に、フレーム数決定部52は、フレームレート設定部61から通知されたフレームレートと、再生時間設定部51から通知された再生時間から、再生するフレーム数を決定する。ここでは、30frame/secのフレームレートで30secの再生を行うため、フレーム数は900frameとなる。
フレーム数決定部52は、決定したフレーム数をコンテンツ再生部19に通知する。
0018
次にコンテンツ再生部19は、コンテンツレイアウト部12でレイアウトされた複数のコンテンツを1フレーム分再生し、再生した画像データをフレーム合成部30に渡す。
0019
フレーム合成部30は、渡された再生画像を全画面の1フレーム分のフレーム画像7として出力し、フレーム画像格納部8に保管する。図4に出力される画像を示す。
0020
コンテンツ再生部19は、次の1フレームの画像を再生し、同様にフレーム合成部30に渡す。フレーム合成部30はフレーム画像7を出力し、フレーム画像格納部8に保管する。
これらの処理をフレーム数決定部52により決定された900frame分繰り返す。その際、動画像データが終端まで言った場合には繰り返し再生を行う。すなわち、300frameで構成される動画像1は3回繰り返される。また、動画像3については、20frame/secのフレームレートを30frame/secに変換する必要があるので2フレームに1回同じフレームを再生し画像を補間する必要がある。このため、繰り返し回数は2回となる。
0021
次にフレーム画像格納部8は、格納された900フレーム分のフレーム画像を合成動画像生成部31に渡す。
0022
次に合成動画像生成部31は、渡された900フレーム分のフレーム画像を用いて1つの動画像データを生成し、合成動画像9として合成動画像再生部32に渡す。
0023
次に、合成動画像再生部32は、合成動画像9をフレームメモリ17に展開し、スクリーン16に表示する。図5にスクリーン16に表示された結果を示す。図に示すように、非常口等の存在により、表示できない範囲がある場合には、その部分を避けてコンテンツ画像が表示される。
0024
以上のように、この実施の形態1によれば、コンテンツレイアウト部12が動画像や静止画を含む複数のコンテンツをレイアウトし、フレーム生成部18がレイアウトされた複数のコンテンツを1フレームずつ再生して、全画面のフレーム画像を複数生成し、生成された複数のフレーム画像から、合成動画像生成部31が1つの合成動画像を生成するようにした。これにより、コンテンツが多数になっても、1つの合成動画像として処理できるので、処理性能を落とさず再生表示を行うことができる。また、動画像間の同期が完全に保証される。また、同じコンテンツを同じレイアウトで表示するのであれば、1度合成動画像を生成しておくことにより、合成動画像再生部32のみでコンテンツ表示を行うことができる。
0025
さらに、コンテンツレイアウト部12は、コンテンツが表示できないクリップ領域も含めてコンテンツのレイアウトを行うので、スクリーン上で表示できない部分を避けてコンテンツを表示することができる。
0026
また、再生時間設定部51が複数の動画像の再生時間の最小公倍数を、合成動画像の再生時間として設定し、フレーム数決定部52が設定された再生時間を基に生成するフレーム画像数を決定するようにしたので、複数の動画像が含まれる場合に、両方の画像を同時に最後まで取り込むことができる。
0027
また、フレームレート設定部61が複数の動画像のフレームレートの最大値を、合成動画像のフレームレートとして設定し、フレーム数決定部52が設定されたフレームレートを基に生成するフレーム画像数を決定するようにしたので、複数の動画像が含まれる場合に、コマ落ちなどを防ぐことができる。
0028
実施の形態2.
実施の形態2では、動画像のみを合成動画像として再構成し、背景動画像としてスクリーンに表示する。動画像以外のコンテンツは背景動画像の上に重ねて表示する。
0029
図6は、この発明の実施の形態2によるコンテンツ表示装置の構成を示すブロック図である。図1と同一の符号は同一の構成要素を表している。実施の形態2のコンテンツ表示装置は、コンテンツ分別部21、コンテンツ描画部14を備えている。また、フレーム生成部28は、図1のフレーム生成部18に相当する構成要素であるが、フレーム生成部28は、コンテンツ再生部19、フレーム合成部30、および外接矩形切り出し部41を有している。
コンテンツレイアウト部12、コンテンツ分別部21、コンテンツ描画部14、フレーム生成部28、コンテンツ再生部19、フレーム合成部30、外接矩形切り出し部41、合成動画像生成部31、および合成動画像再生部32は、コンテンツ表示装置の中央演算処理装置を、該中央演算処理装置の動作を制御するプログラムのモジュールに従って便宜的に分割したものである。
0030
次に動作について説明する。
実施の形態1と同様に、スクリーン16上に、動画像1,3、静止画2、文字列4を表示する場合を考える。動画像1は320x240の形状でフレームレートは30frame/sec、再生時間は10secである。動画像3は、400x300の形状でフレームレートは20frame/sec長さは15secである。また、静止画2は400x300、文字列4は800x200の形状である。
0031
コンテンツレイアウト部12は、動画像1,3、静止画2、文字列4を読み込み、レイアウト情報bに基づいて各コンテンツのレイアウトを行う。
0032
レイアウト情報bには、フレームメモリ17内における各コンテンツのデータの格納位置が示されている。ここでは、動画像1を(640,50)から、静止画2を(100,100)から、動画像3を(200,650)から、文字列4を(300,512)から配置するという情報が記されている。
図2に、レイアウト情報bに基づくレイアウトの結果を示す。
0033
次に、コンテンツ分別部21は、コンテンツを動画像(動画像コンテンツ群)と動画像以外の静止系コンテンツ(静止系コンテンツ群)に振り分ける。動画像はフレーム生成部28において処理され、静止系コンテンツはコンテンツ描画部14において処理される。
0034
ここでは、動画像1,3がフレーム生成部28に渡される。また、静止画2および文字列4が静止系のコンテンツとなり、コンテンツ描画部14に渡される。
0035
フレーム生成部28においては、コンテンツ再生部19がコンテンツレイアウト部12でレイアウトされたコンテンツを1フレーム分再生し、結果をフレーム合成部30に渡す。
0036
フレーム合成部30は、渡された再生画像を全画面の1フレーム分のフレーム画像7として出力し、外接矩形切り出し部41に渡す。
0037
外接矩形切り出し部41は、フレーム画像7から、動画像1,3に接する外接矩形を切り出し、フレーム画像7Aとして出力し、フレーム画像格納部8に保管する。図7に出力される画像を示す。
0038
コンテンツ再生部19は、次の1フレームの画像を再生し、同様にフレーム合成部30に渡す。フレーム合成部30はフレーム画像7を出力し、外接矩形切り出し部41に渡す。外接矩形切り出し部41は、フレームメモリ17を動画像1,3に接する外接矩形を切り出し、フレーム生成部28に格納する。
これらの処理を繰り返し、フレーム画像格納部8にフレーム画像を蓄積していく。
0039
次にフレーム画像格納部8は、格納された複数のフレーム画像を合成動画像生成部31に渡す。
0040
次に合成動画像生成部31は、渡された複数のフレーム画像を用いて1つの動画像データを生成し、合成動画像9として合成動画像再生部32に渡す。
0041
次に、合成動画像再生部32は、合成動画像9をフレームメモリ17に展開する。この際、合成動画像9がスクリーン16上で背景画像として表示されるようにフレームメモリ17に格納する。
0042
コンテンツ描画部14は、コンテンツレイアウト部12でレイアウトされた静止画2および文字列4の画像データをフレームメモリ17に格納する。図8にコンテンツ描画部14により格納される画像を示す。
この際、スクリーン16上で背景画像として表示される合成動画像9の上に重ねて表示されるようにフレームメモリ17に静止画2と文字列4を格納する。その結果、スクリーン16上には、図2のような画像が表示される。
0043
以上のように、この実施の形態2によれば、コンテンツ分別部21が、レイアウトされたコンテンツを動画像と静止系コンテンツに振り分け、動画像のみから合成動画像を生成する。合成動画像は合成動画像再生部32によりスクリーン上に背景画像として表示されるようフレームメモリ17に展開すると共に、静止系コンテンツはコンテンツ描画部14により合成動画像の上に表示されるようにフレームメモリ17に格納する。これにより、静止画や文字列の画質劣化を防ぐことができる。また、静止画や文字列の入れ替えも容易である。
0044
また、動画像については、動画像同士の同期が保証され、コンテンツ数の増加による性能劣化も防ぐことができる。また、動画像の外接矩形で切り出しを行うことにより動画のデータ量が削減され、処理効率のよい合成動画像が得られる。
0045
【発明の効果】
以上のように、この発明によれば、動画を含む多数のコンテンツを、処理性能を落とさずに表示できるコンテンツ表示装置を得られるという効果がある。
【図面の簡単な説明】
【図1】 この発明の実施の形態1によるコンテンツ表示装置の構成を示すブロック図である。
【図2】 この発明の実施の形態1によるコンテンツレイアウト部によるレイアウト情報に基づくレイアウトを示す図である。
【図3】 この発明の実施の形態1によるコンテンツレイアウト部によるクリップ領域情報を反映したレイアウトを示す図である。
【図4】 この発明の実施の形態1によるフレーム画像の例である。
【図5】 この発明の実施の形態1によるスクリーンに表示される画像の例である。
【図6】 この発明の実施の形態2によるコンテンツ表示装置の構成を示すブロック図である。
【図7】 この発明の実施の形態2によるフレーム画像の例である。
【図8】 この発明の実施の形態2によるコンテンツ描画部によりフレームメモリに格納される画像データに対応する画像の例である。
【符号の説明】
8 フレーム画像格納部、12 コンテンツレイアウト部、14 コンテンツ描画部、16 スクリーン、17 フレームメモリ、18 フレーム生成部、19 コンテンツ再生部、21 コンテンツ分別部、28 フレーム生成部、30 フレーム合成部、31 合成動画像生成部、32 合成動画像再生部、41 外接矩形切り出し部、51 再生時間設定部、52 フレーム数決定部、61 フレームレート設定部。

Claims (6)

  1. 動画像のコンテンツおよび静止系のコンテンツからなる複数のコンテンツの画像データの、フレームメモリ上における格納位置を指定するレイアウト情報に基づいて、各コンテンツの配置位置を決定するコンテンツレイアウト部と、
    上記コンテンツレイアウト部により配置された全てのコンテンツを、動画像コンテンツ群と、動画像以外の静止系コンテンツ群に分別するコンテンツ分別部と、
    上記コンテンツレイアウト部により上記フレームメモリ上における各コンテンツの格納位置が決定された状態で、上記動画像コンテンツ群の1つのフレーム画像を生成する処理を繰り返すことにより複数のフレーム画像を生成するフレーム生成部と、
    上記フレーム生成部で生成された複数のフレーム画像を集めることにより1つの合成動画像を生成する合成動画像生成部と、
    上記合成動画像の再生画像データを上記フレームメモリに格納する合成動画像再生部と、
    上記合成動画像再生部により格納された上記合成動画像が背景画像として重ねて表示されるように上記静止系コンテンツ群の画像データを上記フレームメモリに格納するコンテンツ描画部とを備えたコンテンツ表示装置。
  2. フレーム生成部は、
    上記動画像コンテンツ群の全てのコンテンツの1フレーム分を再生するコンテンツ再生部と、
    上記コンテンツ再生部により再生された1フレーム分の画像を上記動画像コンテンツ群の全てのコンテンツ分合成し、フレーム画像として出力するフレーム合成部とを備えたことを特徴とする請求項1記載のコンテンツ表示装置。
  3. コンテンツレイアウト部は、コンテンツが表示できない領域を指定するクリップ情報に基づいて、コンテンツが表示できない位置にコンテンツが配置されないように、各コンテンツの配置位置を決定することを特徴とする請求項1または請求項2記載のコンテンツ表示装置。
  4. フレーム生成部は、1フレーム分のフレーム画像から、複数の動画像が配置された領域のみを抽出してフレーム画像とするフレーム領域切り出し部を備えたことを特徴とする請求項1または請求項2記載のコンテンツ表示装置。
  5. フレーム生成部は、生成するフレームの再生時間を、レイアウトされた全ての動画の再生時間の長さの最小公倍数に設定する再生時間設定部と、
    上記再生時間設定部により設定された再生時間を用いて、生成するフレーム画像数を決定するフレーム数決定部を備えることを特徴とする請求項1または請求項2記載のコンテンツ表示装置。
  6. フレーム生成部は、生成するフレームのフレームレートを、レイアウトされた全ての動画のフレームレートのうち一番速いフレームレートの値に設定するフレームレート設定部と、
    上記フレームレート設定部により設定されたフレームレートを用いて、生成するフレーム画像数を決定するフレーム数決定部を備えることを特徴とする請求項1または請求項2記載のコンテンツ表示装置。
JP2003037104A 2003-02-14 2003-02-14 コンテンツ表示装置 Expired - Fee Related JP4128466B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003037104A JP4128466B2 (ja) 2003-02-14 2003-02-14 コンテンツ表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003037104A JP4128466B2 (ja) 2003-02-14 2003-02-14 コンテンツ表示装置

Publications (2)

Publication Number Publication Date
JP2004248076A JP2004248076A (ja) 2004-09-02
JP4128466B2 true JP4128466B2 (ja) 2008-07-30

Family

ID=33022016

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003037104A Expired - Fee Related JP4128466B2 (ja) 2003-02-14 2003-02-14 コンテンツ表示装置

Country Status (1)

Country Link
JP (1) JP4128466B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006203334A (ja) * 2005-01-18 2006-08-03 Canon Inc 画像記録装置及びその制御方法、並びにプログラム
JP5199640B2 (ja) * 2007-10-17 2013-05-15 株式会社東芝 超音波診断装置及び超音波診断プログラム
EP2610802A4 (en) * 2010-10-07 2015-01-21 Lg Electronics Inc METHOD FOR PRODUCING ADVERTISING CONTENTS BY A DISPLAY DEVICE AND DISPLAY DEVICE THEREFOR
JP7070533B2 (ja) * 2019-11-26 2022-05-18 セイコーエプソン株式会社 画像データ生成方法、プログラムおよび情報処理装置

Also Published As

Publication number Publication date
JP2004248076A (ja) 2004-09-02

Similar Documents

Publication Publication Date Title
EP1170942A1 (en) Image synthesizing device, recorded medium, and program
JP5317825B2 (ja) 画像処理装置及び画像処理方法
CN101197907A (zh) 图像数据再现装置、控制该装置的方法及其控制程序
US20060114327A1 (en) Photo movie creating apparatus and program
US8249425B2 (en) Method and apparatus for controlling image display
US6137947A (en) Method and apparatus for reproducing a video signal
JP4128466B2 (ja) コンテンツ表示装置
JP4215423B2 (ja) 画像データ出力装置
US6122020A (en) Frame combining apparatus
JP4127205B2 (ja) 画像記録装置
KR100224581B1 (ko) 자화면을 이용하는 영상 확대 장치 및 방법
JP2006222942A (ja) 映像合成装置、映像合成方法及び映像合成プログラム
JPH0622200A (ja) スチルビデオカメラ
JP3506412B2 (ja) ビデオ情報の再生方法と再生装置と再生方法の手順を格納した記録媒体及び動画像データ再生方法と編集方法
JP3587376B2 (ja) 画像情報再生装置
KR100418097B1 (ko) 분할화면 구성방법
JP2004282305A (ja) 画像処理システム
JP2007259193A (ja) 映像出力装置、及び方法
JPH11308567A (ja) ページ表示機能付きレイアウト映像編集方法及び装置及びそのプログラムを記録した記録媒体
JP2738274B2 (ja) トレール効果を生成する映像信号合成装置
JP4151122B2 (ja) 動画像合成装置
JP2005292414A (ja) 画像出画制御装置
JP2005339362A (ja) 画像表示装置、画像表示方法およびそのプログラム
JPH10155123A (ja) 圧縮復号データ表示システム
JP2004140687A (ja) 撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051220

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20071025

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20071025

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071025

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080118

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080129

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080319

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080415

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080514

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110523

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110523

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120523

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120523

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130523

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140523

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees