Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP2962266B2 - 画像の位置合わせ方法 - Google Patents
[go: Go Back, main page]

JP2962266B2 - 画像の位置合わせ方法 - Google Patents

画像の位置合わせ方法

Info

Publication number
JP2962266B2
JP2962266B2 JP5606097A JP5606097A JP2962266B2 JP 2962266 B2 JP2962266 B2 JP 2962266B2 JP 5606097 A JP5606097 A JP 5606097A JP 5606097 A JP5606097 A JP 5606097A JP 2962266 B2 JP2962266 B2 JP 2962266B2
Authority
JP
Japan
Prior art keywords
similarity measure
image
residual
overlapping area
overlapping
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP5606097A
Other languages
English (en)
Other versions
JPH1049681A (ja
Inventor
敏康 中尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
Nippon Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Electric Co Ltd filed Critical Nippon Electric Co Ltd
Priority to JP5606097A priority Critical patent/JP2962266B2/ja
Publication of JPH1049681A publication Critical patent/JPH1049681A/ja
Application granted granted Critical
Publication of JP2962266B2 publication Critical patent/JP2962266B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、基準となる画像に
対して位置合わせ対象となる画像を最もうまく重ね合わ
せることができる位置を求める画像の位置合わせ方法に
関する。
【0002】
【従来の技術】従来の画像間の位置合わせ処理では、画
像間の重ね合わせのよさを評価するために残差や相互相
関係数の指標を利用している。相互相関係数をはじめと
する、重なり部分の統計的性質を利用した位置合わせ処
理では実数演算が必要で、計算量の面で問題がある。こ
れに対し残差を利用した位置合わせ処理では、単純な整
数演算だけで実現可能であり、残差を計算する過程にお
いても残差逐次検定法などの高速化手法が適用できると
いうメリットがあるため、多くの場合に利用されてい
る。これらの手法の詳細については、「共立出版、bi
t別冊『コンピュータ・サイエンス』,エーシーエム・
コンピューティング・サーベイズ’92、77〜119
頁」、「昭晃堂、『画像処理ハンドブック』、303〜
305頁「東京大学出版会、『画像解析ハンドブッ
ク』、707〜746頁」および「尾上他、"残差逐次
検定法による画像の重ね合わせ"、情報処理、Vol.
17、No.7、1976頁」に詳しく説明されている
ため割愛する。
【0003】このように残差を利用する位置合わせ処理
は、相互相関係数を利用した位置合わせ処理に比べて多
くのメリットを有しているが、残差を利用する従来の位
置合わせ処理では、「対象画像が基準画像に完全に包含
されている」という仮定があり、残差が最小となる位置
を求めている。そのため、図13の様に重なり部分の大
きさ、形状が画像間の位置関係によって変化する場合に
は、残差が最小となる位置が必ずしも最良の結果とはな
らず、誤った結果を導く可能性が高いという問題があっ
た。勿論、相互相関係数等の重なり部分の統計的性質を
利用した位置合わせ処理ではこのような問題は回避され
るものの、前述したように実数演算が必要であったり、
高速化手法が適用できないため、計算量の面で問題が発
生する。
【0004】そこで、基準画像と対象画像との重なり部
分の大きさ、形状の影響を受けずに位置合わせ結果を求
めることができる方法として、特開平2−297148
号公報に見られるような位置合わせ方法が提案されてい
る。この方法は、基準画像と対象画像とをそれぞれm×
nのメッシュに分割して、各々のメッシュ中に含まれる
黒画素数を計数して得られる二次元配列a,bを作成
し、二次元配列a,bを上下左右に相対的にずらしなが
ら、下記の式で与えられる、重ね合わせのよさを示す指
標Dを計算する。
【0005】D=Σi,j|a(xd+i,yd+j)−
b(i,j)|×1/S (xd+i,yd+j),(i,j)∈E xd,Yd:二次元配列a,bの相対位置 E:演算を行う領域 S:領域Eの面積 そして、この指標Dが最小となる位置を、重ね合わせの
概略位置とする。
【0006】次に基準画像と対象画像との文書物理構造
を解析して、各々の文書構成要素を抽出し、抽出した文
書構成要素をもとに、前記概略位置を基準にして各文書
構成要素の重ね合わせ位置を正確に決定する。
【0007】
【発明が解決しようとする課題】上記の特開平2−29
7148号公報に記載された技術によれば、重複領域の
残差をその重複領域の大きさで正規化した指標を使って
いるために、基準画像と対象画像との重なり部分の大き
さ、形状の影響を受けずに概略位置を求めることができ
る。また、各文書構成要素を抽出し、概略位置を基準に
各文書構成要素の重ね合わせ位置を決定するため、正確
な位置合わせが可能であり、計算量を削減できる。
【0008】しかしながら、上記の従来技術では、文書
を含む画像を対象としており、文書構成要素を活用して
位置合わせを行っているため、文書を含まない一般的な
画像には適用することができない。勿論、上記の従来技
術の第1段目の処理のみを利用し、分割するメッシュの
サイズを画素単位まで縮小する方法も考えられるが、そ
うすると計算量が膨大になってしまうという問題が生じ
る。
【0009】そこで本発明は、このような従来の技術が
抱えていた問題を解決し、画像間の位置関係によって重
なり部分の大きさや形状が変化する場合にも正確な位置
合わせが行え、然も、高速な位置合わせが可能な方法を
提供することにある。
【0010】
【課題を解決するための手段】本発明は、基準となる画
像に対して位置合わせ対象となる画像を最もうまく重ね
合わせることができる位置を求める画像の位置合わせ方
法であって、基準画像と対象画像との位置合わせのよさ
の指標として、基準画像と対象画像との重複領域におけ
る残差をその重複領域に含まれる要素数により正規化し
た類似測度を用い、対象画像の基準画像に対する各重な
り位置の候補における類似測度のうち、最良の類似測度
が得られた重なり位置の候補を基準画像に対するその対
象画像の位置合わせ位置とする方法において、対象画像
の基準画像に対する各重なり位置の候補における類似測
度を求める際、今回の重なり位置の候補による両画像の
重複領域の要素数と今までの最良類似測度とから今回の
類似測度算出で使用する計算打切り用の閾値を設定する
ステップと、今回の重なり位置の候補による両画像の重
複領域における残差を計算する過程において、計算途中
の残差が前記閾値を超過した場合には残りの残差計算を
取り止めて次の重なり位置の候補における類似測度の算
出に進み、前記閾値を超過することなく残差計算が終了
した場合には得られた残差をその重複領域に含まれる要
素数により正規化した類似測度で最良類似測度を更新す
るステップとを含むことを特徴とする。また、重複領域
の要素数と今までの最良類似測度とを乗じた値を前記閾
値とすることを特徴とする。
【0011】このように画像間の重ね合わせのよさを評
価する指標として基準画像と対象画像との重複領域にお
ける残差をその重複領域に含まれる要素数により正規化
した類似測度を用いたことにより、画像間の位置関係に
よって重なり部分の大きさや形状が変化する場合にも正
確な位置合わせが行え、また、対象画像の基準画像に対
する或る重なり位置における類似測度を算出するに際し
て、両画像の重複部分の要素数と今までの最良類似測度
とを乗じた値を、今回の類似測度算出で使用する閾値の
値として設定し、重複領域における計算途中の残差が閾
値を超過した場合には、それまでの最良値を更新しない
ことが判明するため、残差計算を打切ることで、全体の
計算量が削減され、高速な位置合わせが可能となる。
【0012】
【発明の実施の形態】次に本発明の実施の形態の例につ
いて図面を参照して詳細に説明する。
【0013】図1は本発明の一実施例の方法を実施する
位置合わせ処理装置100の構成例を示すブロック図で
ある。この例の位置合わせ処理装置100は、制御手段
1、位置パラメータ候補群設定手段2、位置パラメータ
候補選択手段3、重複領域設定手段4、重複領域要素数
計算手段5、重複領域要素選択手段6、残差更新手段
7、残差初期化手段8、残差閾値比較手段9、閾値設定
手段10、最良類似測度更新手段11および最良類似測
度初期化手段12といった機能部と、位置パラメータ候
補メモリ13、画像メモリ14、重複領域メモリ15、
残差メモリ16、閾値メモリ17および最良類似測度メ
モリ18といった記憶部とを有し、外部との通信を行う
ための通信手段20に接続されている。位置合わせ処理
装置100中の各要素は以下のような機能等を有する。
【0014】画像メモリ14は、位置合わせ処理の基準
となる画像(基準画像)、位置合わせ処理の対象となる
画像(対象画像)、およびそれぞれの画像のサイズなど
の属性値を保存するメモリである。
【0015】位置パラメータ候補メモリ13は、基準画
像に対する対象画像がとりうる位置を示す位置パラメー
タの候補の集合を保存するメモリである。
【0016】位置パラメータ候補群設定手段2は、基準
画像に対する対象画像がとりうる位置を示す位置パラメ
ータの候補の集合を通信手段20を通して外部から取得
し、位置パラメータ候補メモリ13に格納する手段であ
る。
【0017】位置パラメータ候補選択手段3は、位置パ
ラメータ候補メモリ13に格納されている位置パラメー
タ候補群中から位置パラメータ候補を順番にかつ重複な
く選択する手段である。
【0018】重複領域設定手段4は、位置パラメータ候
補選択手段3により選択された位置パラメータ候補が示
す位置に対象画像を基準画像に重ねた場合の両画像の重
複領域を求め、この求めた重複領域を重複領域メモリ1
5に格納する手段である。
【0019】重複領域要素数計算手段5は、重複領域設
定手段4で求められた重複領域に含まれる要素数を計算
し、重複領域メモリ15に格納する手段である。
【0020】重複領域メモリ15は、重複領域設定手段
4により求められた基準画像と対象画像の重複領域と、
この重複領域について重複領域要素数計算手段5で計算
された要素数とを保持するメモリである。
【0021】重複領域要素選択手段6は、重複領域メモ
リ15に格納されている重複領域中の要素を順番にかつ
重複なく選択する手段である。
【0022】残差メモリ16は、位置パラメータ候補選
択手段3により選択された位置パラメータ候補の良否を
判断する指標である類似測度を求めるために計算される
残差の途中経過を格納するメモリである。
【0023】残差初期化手段8は、残差メモリ16に格
納されている値を新たな重複領域における残差の計算に
先立って初期化する手段である。
【0024】残差更新手段7は、重複領域要素選択手段
6により選択された重複領域中の要素に対応する、基準
画像および対象画像それぞれの画素値から残差を求め、
残差メモリ16中の値を更新する手段である。
【0025】最良類似測度メモリ18は、位置パラメー
タ候補メモリ13に格納されている位置パラメータ候補
群中のすでに類似測度が求められた位置パラメータ候補
のうちで、最良の類似測度となった位置パラメータ候補
と、その位置パラメータ候補により得られた重複領域の
要素数および類似測度を保持するメモリである。
【0026】最良類似測度初期化手段12は、最良類似
測度メモリ18の内容を初期化する手段である。
【0027】閾値設定手段10は、重複領域に対する残
差を求める処理において、処理の継続可否を判断し位置
合わせ処理の処理量を軽減するために利用される閾値
を、最良類似測度メモリ18に格納されている最良類似
測度と、重複領域メモリ15に格納されている重複領域
の要素数とから求め、閾値メモリ17に設定する手段で
ある。
【0028】閾値メモリ17は、閾値設定手段10によ
って設定された閾値を保持するメモリである。
【0029】残差閾値比較手段9は、重複領域に対する
残差を求める処理において、閾値メモリ17に設定され
た閾値とそれまでに得られている残差とを比較すること
で、残差を求める一連の処理の継続可否を判断し、残差
が閾値を超過していれば残差を求める処理を中断し、位
置合わせ処理の処理量を軽減する手段である。
【0030】最良類似測度更新手段11は、位置パラメ
ータ候補メモリ13に格納されている位置パラメータ候
補群中のすでに類似測度が求められた位置パラメータ候
補のうちで、最良の類似測度となった位置パラメータ候
補と、その位置パラメータ候補により得られた重複領域
の要素数および類似測度を、最良類似測度メモリ18に
格納する手段である。
【0031】制御手段1は、基準画像に対して対象画像
を最もうまく重ね合わせることができる位置を求めるた
めに、予め定められた手順に従って各手段を制御する手
段である。
【0032】図2は位置合わせ処理装置100の処理の
一例を示すフローチャートである。以下、図1および図
2を参照して、位置合わせ処理装置100の動作の概略
を説明する。
【0033】制御手段1は、先ず、通信手段20によ
り、位置合わせ処理の対象となる対象画像および位置合
わせ処理の基準となる基準画像を外部から画像メモリ1
4に読み込む(ステップA0)。次に、位置パラメータ
候補群設定手段2により、基準画像に対して対象画像が
とりうる位置パラメータの候補の集合を位置パラメータ
候補メモリ13に格納する(ステップA1)。そして、
最良類似測度初期化手段12により、最良類似測度メモ
リ18の内容(最良類似測度を与えた位置パラメータ候
補、その位置パラメータ候補により得られた重複領域の
要素数および類似測度の各項目)を初期化する(ステッ
プA2)。
【0034】続いて制御手段1は、位置パラメータ候補
選択手段3により、位置パラメータ候補メモリ13から
1つの位置パラメータ候補を選択し(ステップA3)、
この選択された位置パラメータ候補を対象画像に適用し
た際に対象画像と基準画像とが重なり合う部分である重
複領域を重複領域設定手段4により求めて重複領域メモ
リ15に設定し(ステップA4)、また、重複領域要素
数計算手段5によりその重複領域に含まれる要素数を計
算し(ステップA5)、それぞれを重複領域メモリ15
に格納する。さらに、制御手段1は、閾値設定手段10
により、重複領域メモリ15に格納された重複領域の要
素数と、最良類似測度メモリ18に格納されている今ま
での最良類似測度(従って、最初はステップA2で初期
化された類似測度)とから閾値を求めて閾値メモリ17
に設定する(ステップA6)。この閾値は、重複領域に
おける残差を計算する以下の手続きにおいて、手続きを
途中で打ち切るかどうかを判断するために利用される。
次に、制御手段1は、重複領域設定手段4により設定さ
れた重複領域に対する残差を求めるにあたり、残差初期
化手段8により、残差計算の途中経過を格納する残差メ
モリ16を初期化する(ステップA7)。
【0035】そして制御手段1は、重複領域要素選択手
段6により選択された重複領域内の要素に対応する、基
準画像と対象画像の画素値を画像メモリ14から読み取
り、それぞれの画素値から残差メモリ16内の値を残差
更新手段7により更新する(ステップA8、A9)。更
新された残差メモリ16内の値は、残差閾値比較手段9
により、閾値メモリ17内の閾値と比較され(ステップ
A10)、残差メモリ16内の値が閾値を上回っている
場合には、重複領域に対する残差を求める手続きを中断
し、ステップA3に戻って、位置パラメータ候補群内の
次の位置パラメータ候補に対して、ステップA3以降と
同様の処理を行う。一方、更新された残差メモリ16内
の値が閾値未満の場合には、重複領域内の次の要素を重
複領域要素選択手段6により選択し、同様に残差メモリ
16内の値を更新する処理を引き続き行う。
【0036】重複領域内の全ての要素に対して残差更新
手段7による残差メモリ16内の値を更新する処理を終
えた場合は、得られた結果に基づき、最良類似測度メモ
リ18内の位置パラメータ候補、その位置パラメータを
対象画像に適用した場合に得られる重複領域の残差、そ
の位置パラメータを対象画像に適用した場合に得られる
重複領域の残差、その重複領域に含まれる要素数のそれ
ぞれを、最良類似測度更新手段11により更新する(ス
テップA11)。そして、ステップA3に戻って、位置
パラメータ候補群の次の位置パラメータ候補を位置パラ
メータ候補選択手段3により選択し、ステップA3以降
の処理を繰り返す。
【0037】位置パラメータ候補群内の全ての位置パラ
メータ候補を位置パラメータ候補選択手段3により選択
し、それらに対して上記の処理を適用し終えると、最良
類似測度メモリ18には、位置パラメータ候補群内で最
良の類似測度を与えた位置パラメータと、その位置パラ
メータにより得られる重複領域の類似測度と、その重複
領域の要素数とが格納されていることになる。制御手段
1は、これらの値を位置合わせ結果とする。
【0038】以下、本発明の動作についてより具体的に
説明する。
【0039】先ず、図3を参照して、基準画像と対象画
像とについて説明する。位置合わせ処理の基準となる基
準画像(I)101と位置合わせ処理の対象となる対象
画像(T)102とは、例えば各画素が0から255の
範囲内の整数値をとる濃淡画像であり、基準画像101
の座標(x,y)の画素の画素値をI(x,y)、同様
に対象画像102の座標(x,y)の画素の画素値をT
(x,y)と表現する。また、対象画像102の位置
は、対象画像102の左上隅の点を原点とする、X軸お
よびY軸がそれぞれの画像のX軸、Y軸と平行な基準画
像座標系104で表現される。
【0040】次に、図1乃至図3を参照して基準画像1
01に対して対象画像102を最もうまく重ね合わせる
ことができる位置を求める処理の詳細について説明す
る。
【0041】まず、制御手段1は、通信手段20を介し
て、基準画像101および対象画像102を画像サイズ
などの属性値とともに画像メモリ14に読み込む(ステ
ップA0)。次に、位置パラメータ候補群設定手段2
は、通信手段20を介して外部から位置パラメータ候補
群を読み込み、位置パラメータ候補メモリ13に格納す
る(ステップA1)。
【0042】ここで、位置パラメータ候補群は対象画像
102が基準画像座標系104において取りうる位置の
集合であり、 P={(u,v)|U0≦u≦U1,V0≦v≦V1,u,v,U0,U1,V 0,V1は整数} (式1) のように表現されている。
【0043】位置パラメータ候補メモリ13に格納され
たこの位置パラメータ候補群Pは、後述するように位置
パラメータ候補選択手段3により、順番にかつ重複なく
選択されていく。この位置パラメータ候補群Pの各要素
には、位置パラメータ候補選択手段3により選択される
順に、重複なく順番に番号が付けられているものとす
る。この番号を位置パラメータ番号と呼ぶことにする。
位置パラメータ番号の例としては、集合Pの各要素を座
標と考えた場合にラスタ走査を行う順に番号をつけるも
のが考えられるが、この番号は説明の便宜を図るために
設定するものであり、本発明の本質に影響を与えるもの
ではない。
【0044】制御手段1は、この位置パラメータ候補群
Pの中から、基準画像101に対して対象画像102が
最もうまく重なる位置パラメータを決定するために、各
位置パラメータ候補に対して類似測度を計算する。本発
明による位置合わせ処理では、位置パラメータ候補によ
り生成される重複領域にて定義される残差を、その重複
領域の要素数で正規化した類似測度を利用することで、
残差が抱える「重なり部分の大きさ、形状の変化の影響
を受けて誤った解を導くことがある」という問題を解消
する。
【0045】位置パラメータ候補群Pの或る位置パラメ
ータ(u,v)を対象画像102に適用した場合に、基
準画像101と対象画像102とが重なり合う図3の重
複領域(D)103中の要素の集合をDとすると、重複
領域103における残差S(u,v)および類似測度A
(u,v)は、 S(u,v)=SUM{D,|I(p,q)−T(p−u,q−v)|} (式2−1) A(u,v)=S(u,v)÷NUM(D) (式2−2) となる。ただし、SUM{D,s(p,q)}は重複領
域Dの全ての要素(p,q)に対するs(p,q)の和
を、NUM(D)は重複領域Dに含まれる要素の数を、
それぞれ示す。類似測度は、重複領域103における画
素単位の残差を表しており、重複領域103において、
基準画像101と対象画像102の類似性が高いほど小
さくなる性質を持つ。
【0046】制御手段1は、基準画像101と対象画像
102の位置合わせ処理の結果として、位置パラメータ
候補メモリ13内の各位置パラメータ(u,v)の中
で、最小の類似測度A(u,v)を与える位置パラメー
タを、図2におけるステップA2〜ステップA11の処
理により、選択する。以下、これらの処理について詳細
に説明する。
【0047】まず、制御手段1は、最良類似測度メモリ
18内のデータを最良類似測度初期化手段12により初
期化する(ステップA2)。最良類似測度メモリ18
は、位置パラメータ候補群Pの要素のうち、既に類似測
度を求めた要素の中で、それまでの最良の(すなわち最
小の)類似測度A0、A0を与えた位置パラメータ候補
(u0,v0)およびその位置パラメータ候補により得
られた重複領域D0の要素数R0を保持するものである
が、1つの要素についても類似測度が求められていない
初期化の時点では、(u0,v0)、R0は初期化せず
に未定義のままとし、A0を、 A0←255 (式3) と初期化する。この255の値は、各画像が0から25
5までの画素値を持つ濃淡画像であるときに、最大(す
なわち重複領域103において、基準画像101と対象
画像102の類似性が最も低い)と考えられる類似測度
である。
【0048】次に図2におけるステップA3以降では、
最良類似測度メモリ18内の、A0よりも小さな、すな
わち、基準画像101と対象画像102の類似性がより
高い類似測度が得られる度に最良類似測度メモリ18内
のデータを更新することで、最良の類似測度とその類似
測度を与える位置パラメータおよび重複領域中の要素数
を常に保持する処理が行われる。
【0049】まず、制御手段1は、位置パラメータ候補
選択手段3により、位置パラメータ候補メモリ13内の
位置パラメータ候補(u,v)を順番にかつ重複なく選
択する。そして、各要素に対して図2におけるステップ
A4〜ステップA11の処理を適用する。
【0050】ステップA4では、選択された位置パラメ
ータ候補(u,v)を対象画像102に適用した場合に
得られる、基準画像101と対象画像102とが重なり
あう重複領域103を重複領域設定手段4により求め、
重複領域メモリ15に格納する。ここでは、重複領域1
03は、 D={(p,q)|P0≦p≦P1、Q0≦q≦Q1,p,q,P0,P1, Q0,Q1は整数} (式4) という集合で表現される矩形領域に含まれるすべての画
素である。ここでP0、P1、Q0、Q1は位置パラメ
ータ候補(u,v)の値、および各画像の大きさにより
決定される整数であり、基準画像座標系104で表現さ
れる。
【0051】例えば、各画像が(0,0)から(15
9,119)の座標で表わされる160×120画素の
大きさを持つ場合、 (u,v)=(80,60) (式5) ならば、 D={(p,q)|80≦p≦159、60≦q≦119,p,qは整数} (式6) となる。
【0052】以下では、この重複領域103の各要素に
は、重複領域要素選択手段6により選択される順に1か
ら重複なく整数で番号が付けられているものとし、これ
を重複領域要素番号と呼ぶことにする。位置パラメータ
番号と同様に、この重複領域要素番号の例として、重複
領域103をラスタ走査する順に番号をつけるものが考
えられるが、これは本発明の動作を説明するために便宜
上設定するものであり、本発明の本質には影響を与えな
い。
【0053】次に制御手段1は、ステップA5におい
て、重複領域103の要素数Rを、重複領域要素数計算
手段5により、 R=NUM(D)=(P1−P0+1)×(Q1−Q0+1) (式7) と求め、重複領域メモリ15に格納する。
【0054】次に制御手段1は、ステップA6におい
て、上記重複領域要素数計算手段5により求めた重複領
域103の要素数R、および最良類似測度メモリ18内
にある、それまでに得られた最良の類似測度A0から、 t←A0×R (式8) により定義される閾値tを、閾値設定手段10により計
算し、閾値メモリ17に格納する。この閾値tは、図2
におけるステップA7〜A11の、重複領域103に対
する残差を求める手続きにおいて、今回の位置パラメー
タ候補(u,v)により得られる重複領域103の類似
測度が、現在の最良類似測度A0を更新する見込みがあ
るかどうかを判定するために利用される。
【0055】次に制御手段1は、ステップA7におい
て、残差初期化手段8により残差メモリ16の残差を初
期化し、ステップA8において重複領域要素番号iの要
素が重複領域要素選択手段6により選択される度に、ス
テップA9において残差更新手段7により残差メモリ1
6の残差を更新していく。重複領域103における残差
は前述した式2−1により定義される。重複領域103
における残差を求める手続きでは、重複領域要素番号i
(1≦i≦R)に対して、次のように定義される部分残
差S(i)を利用する。
【0056】 S(i)=S(i−1)+|I(p(i),q(i))−T(p(i)−u ,q(i)−v)| (式9) ここで、 S(i):重複領域要素番号iに対する部分残差 p(i):重複領域要素番号iの要素のX方向成分 q(i):重複領域要素番号iの要素のY方向成分 である。このとき、 S(R)=重複領域Dにおける残差 (式10) となる。本実施例においては、重複領域D内のすべての
要素について、式9により部分残差S(i)を計算する
ことで、重複領域Dに対する残差を求める。この部分残
差S(i)の値は残差メモリ16に格納されており、初
期化時には残差初期化手段8により、 S(0)=0 (式11) として初期化され(ステップA7)、重複領域要素番号
iの要素が重複領域要素選択手段6により選択される度
に(ステップA8)、残差更新手段7により、式9に従
って更新される(ステップA9)。
【0057】図4に重複領域Dにおける残差計算の特徴
を説明するためのグラフの例を示す。この図4のグラフ
において、横軸は重複領域要素番号iを、縦軸は重複領
域要素番号iに対する部分残差S(i)の値を示してい
る。式9および図4のグラフにあるように、部分残差S
(i)は重複領域要素番号iの増加に対して単調増加す
る。
【0058】他方図5は本発明における閾値tを説明す
るためのグラフである。この図5のグラフは、最良類似
測度メモリ18に格納されている、既に求めた各位置パ
ラメータ候補に対する類似測度の中でそれまでの最良の
類似測度A0、A0を与えた位置パラメータ候補(u
0,v0)、およびその位置パラメータ候補(u0,v
0)により得られる重複領域Dにおける残差S0の関係
を図示したものである。図5のグラフにおいて、原点と
現在の最良類似測度を表す最良類似測度点301とを結
んだ直線の傾きがA0に相当する。この直線上の点に対
応する重複領域の要素数と残差を持つ重複領域は、重複
領域D0と同じ類似測度を持つ。重複領域の要素数がR
の場合にはこの直線上の点に対応する残差は、 A0×R (式12) となる。
【0059】先の部分残差S(i)の重複領域要素番号
iの増加に対して単調増加であるという性質から、部分
残差S(i)がこの閾値tを超過した場合には、S(i
+1)〜S(R)もすべてtよりも大きな値となる。す
なわち、 S(R)≧S(R−1)≧…≧S(i+1)≧S(i)>A0×R (式1 3) であり、各辺をR(>0)で割ると、 S(R)÷R≧S(R−1)÷R≧…≧S(i+1)÷R≧S(i)÷R> A0×R÷R=A0 (式14) が成立する。これは、S(i)がA0×Rを超えると、
重複領域Dにおける類似測度は必ずA0よりも大きくな
り、重複領域要素番号がi+1以降の処理を継続して
も、重複領域Dにおける類似測度が現在の最良類似測度
A0を更新する可能性がないことを示している。
【0060】また、全てのiに対して、 S(i)<A0×R (式15) ならば、 S(R)<A0×R (式16) であるから、重複領域Dにおける類似測度は、式16よ
り、 S(R)÷R<A0 (式17) となり、必ず、それまでの最良類似測度A0よりも、小
さな値を持つ。
【0061】類似測度、残差、重複領域要素数のこれら
の性質を利用して、本実施例では式8に従って閾値t
(=A0×R)を設定し、次のようにして計算量の削減
と最良類似測度の更新を実現する。
【0062】すなわち、ステップA9において部分残差
S(i)を更新する度に、ステップA10において閾値
tと更新した部分残差を比較し、 S(i)>t (式18) が成立した場合には、重複領域Dにおける部分残差更新
処理を中止して、次の位置パラメータ候補選択の手続き
(ステップA3)に戻るのである。一度も式18が成立
せず、全ての重複領域要素について、部分残差の更新を
行うことができた場合には、最良類似測度更新手段11
により、最良類似測度メモリ18内の最良類似測度A
0、A0を与えた位置パラメータ候補(u0,v0)お
よびその位置パラメータ候補により得られる重複領域D
の要素数R0を、それぞれ、 A0←S(R)÷R (式19−1) (u0,v0)←(u,v) (式19−2) R0←R (式19−3) に従って、更新する。そして、次の位置パラメータ候補
に対して同様の処理を行うべく、ステップA3以降を繰
り返すことで、全ての位置パラメータ候補の中で最良の
類似測度を与えるものを探し出し、基準画像101に対
して対象画像102が最もうまく重ね合わせることがで
きる位置を決定する。
【0063】以上本発明の実施例について説明したが、
本発明は以上の実施例にのみ限定されず各種の付加変更
が可能である。以下、その変形例等について説明する。
【0064】上記の実施例では、最良類似測度を式3に
より初期化したが、最良類似測度を或る程度予測できる
場合にはより解に近い値を最小類似測度の初期値として
設定しても良い。図4および図5より分かるように、最
良類似測度の初期値が解に近ければ近いほど、残差計算
が打ち切られるタイミングも早く(すなわち、重複領域
要素番号が小さいうちに)処理が中断されるため、この
場合にはより計算量を削減することが可能となる。
【0065】上記の実施例では、位置パラメータ候補と
して平行移動を与えるものだけを対象としたが、本発明
は、回転をはじめとするより複雑な位置パラメータに対
しても利用可能である。例えば、平行移動に、画像の左
上隅を中心とした時計方向の回転のパラメータを加え
た、 P={(u,v,θ)|U0≦u≦U1,V0≦v≦V1,Θ0≦θ≦Θ1 } (式20) に対しても同様に、類似測度を定義可能であり、それま
での類似測度と重複領域要素数から設定される閾値によ
り類似測度計算の計算量を削減することが可能である。
【0066】上記の実施例では、重複領域に含まれる要
素を基準画像と対象画像の重なり部分に存在する全ての
画素としたが、図7に示すように、基準画像と対象画像
との重なり部分に存在する全画素のうち或る規則に従っ
て選択した一部の画素を重複領域要素501とし、これ
ら重複領域要素501で重複領域を構成することも可能
である。例えば、X方向に対しては1つ置きに、Y方向
に関しては2つ置きに位置する画素のみを重複領域構成
要素501とすれば、重複領域要素数を6分の1にする
ことが可能であり、計算量を削減できる。残差を要素数
により正規化した類似測度を利用しているため、このよ
うに重複領域要素を基準画像と対象画像の重なり部分か
ら選択的に構成したとしても、正しい位置合わせ結果を
得ることができるのも本発明における大きな特徴であ
る。
【0067】上記の実施例では、通信手段20を通じて
外部から位置パラメータ候補群を読み込んだが、画像メ
モリ14内の画像データを参照して位置パラメータ候補
群を設定するようにしても良い。図6はこの方法で基準
画像401に対して対象画像402の位置パラメータ候
補を設定する一例を示している。位置パラメータ候補群
403は、対象画像402が基準画像401と重なりを
持つ全ての場合から構成されており、例えば、各画像が
(0,0)から(159,119)の座標で表わされる
160×120画素の大きさであれば、 P={(u,v)|−159≦u≦159,−119≦v≦119)} ( 式21) と設定される。これにより、外部から位置パラメータ候
補群を読み込むことなく、画像のみが入力された場合に
も位置合わせ処理を実行することが可能となる。なお、
上記の例は、対象画像402が基準画像401と重なり
を持つ全ての場合から構成される位置パラメータ候補群
を示したが、各画像を取得するためのカメラの位置の情
報や画像間の相対関係を示す情報が画像に付加されてい
るような場合、その情報を利用することで、位置パラメ
ータ候補群をより限定した領域に設定することもでき
る。
【0068】次に本発明における第2の実施の形態の例
について図面を参照して詳細に説明する。
【0069】第2の実施の形態の例は、画像マスクを適
用した画像間の位置合わせ処理において、ある位置パラ
メータ候補に対する類似測度を求める際に、本発明の第
1の実施例と同様に、閾値を利用して残差計算を打ち切
ることで、全体の計算量が削減され、高速な位置合わせ
が可能となる手法を適用するものである。
【0070】図10は画像マスクの例である。画像マス
クは、画像の各画素が有効画素(すなわち画像処理や表
示の対象となる画素)であるのか、または無効画素(す
なわち画像処理や表示の対象とならない画素)であるの
かを示す情報を保持している。画像マスクを利用するこ
とで、画像中の特定の範囲だけを画像処理の対象とする
ことが可能となる。図10においては、画像中心部の楕
円領域内に対応する画素が有効画素、楕円領域外の要素
が無効画素であることを示している。画像マスクを利用
した画像処理については「昭晃堂、『画像処理ハンドブ
ック』、252〜254頁」に詳細な説明があるのでこ
こでは割愛する。
【0071】図11は画像マスクを適用した画像間の位
置合わせ処理を説明するための図である。図11におい
て、位置合わせ処理の基準となる基準画像と位置合わせ
処理の対象となる対象画像が重複領域Dを形成している
が、重複領域Dの要素のうち画像間の重ね合わせのよさ
を評価する指標である類似測度を求める対象となるの
は、基準画像および対象画像の双方が有効画素を持つ有
効重複領域Eに含まれる要素である。
【0072】本発明の第1の実施例において説明したよ
うに、画像マスクを利用した位置合わせ処理等画像間の
有効重複領域が矩形とはならない場合でも、有効重複領
域Eに含まれる要素数とそれまでの最良類似測度とから
求めた閾値により、残差計算を打ち切ることで全体の計
算量が削減され、高速な位置合わせが可能である。
【0073】しかしながら、有効重複領域Eの形状が複
雑な場合、すなわち有効重複領域Eに含まれる要素数
(有効重複領域要素数)を系統的に求めることが困難な
場合がある。この場合は有効重複領域の要素数を求める
処理における処理コストが増大し、閾値を利用して残差
計算を打ち切るという本発明の効果が失われてしまう問
題が発生する場合がある。
【0074】本実施例はこの問題を回避し、画像マスク
を利用した画像間の位置合わせ処理においても高速に位
置合わせが行えるようにするために、ある位置パラメー
タ候補における類似測度を算出する際に、基準画像と対
象画像の重複領域の要素数と、無効領域要素数(または
有効領域要素数)と、それまでの最良類似測度とから求
めた値を閾値として利用するように構成したものであ
る。
【0075】以下、本発明の第2の実施例を図面を用い
て詳細に説明する。
【0076】図8は、本発明の第2の実施例の方法を実
施する位置合わせ処理装置200の構成例を示すブロッ
ク図である。この例の位置合わせ処理装置200は、第
1の実施例の方法を実施する位置合わせ処理装置100
と比較して、機能部においては領域要素数初期化手段3
1、領域要素数更新手段32、領域要素判定手段33
が、記憶部においてはマスクメモリ34、領域要素数メ
モリ35が追加された構成となっている。位置合わせ処
理装置200中の各要素は以下のような機能等を有す
る。
【0077】図8において本発明の第2の実施例の方法
を実施する位置合わせ処理装置200の各要素のうち、
制御手段1、位置パラメータ候補群設定手段2、位置パ
ラメータ候補選択手段3、重複領域設定手段4、重複領
域要素数計算手段5、重複領域要素選択手段6、残差更
新手段7、残差初期化手段8、残差閾値比較手段9、最
良類似測度初期化手段12、位置パラメータ候補メモリ
13、画像メモリ14、重複領域メモリ15、残差メモ
リ16、閾値メモリ17は、図1において本発明の第1
の実施例の方法を実施する位置合わせ処理装置100に
記載の同名の要素と同様の機能を有する。
【0078】また、図1において本発明の第1の実施例
の方法を実施する位置合わせ処理装置100に記載され
た手段と同名を持つ、閾値設定手段10、最良類似測度
更新手段11、最良類似測度メモリ18は、それぞれ、
次の機能を有する。
【0079】閾値設定手段10は、重複領域に対する残
差を求める処理において、処理の継続可否を判断し位置
合わせ処理の処理量を軽減するために利用される閾値
を、最良類似測度メモリ18に格納されている最良類似
測度と、重複領域メモリ15に格納されている重複領域
の要素数と、領域要素数メモリ35に格納されている領
域要素数とから求め、閾値メモリ17に設定する。
【0080】最良類似測度更新手段11は、位置パラメ
ータ候補メモリ13に格納されている位置パラメータ候
補群中のすでに類似測度が求められた位置パラメータ候
補のうちで、最良の類似測度となった位置パラメータ候
補と、その位置パラメータ候補により得られた重複領域
の要素数と、その位置パラメータ候補により得られた有
効重複領域の要素数または無効重複領域の要素数を示す
領域要素数および最良類似測度を、最良類似測度メモリ
18に格納する。
【0081】最良類似測度メモリ18は、処理の過程に
おいて、それまでに得られている最良の類似測度と、そ
の類似測度を与えた位置パラメータ候補と、その位置パ
ラメータ候補により得られる重複領域の全要素数および
領域要素数とを格納するメモリである。
【0082】また、図1における本発明の第1の実施例
の方法を実施する位置合わせ処理装置100と比較して
追加された、領域要素数初期化手段31、領域要素数更
新手段32、領域要素判定手段33、マスクメモリ3
4、領域要素数メモリ35は、それぞれ、次の機能を有
する。
【0083】マスクメモリ34は、画像メモリ14に保
存された画像の各画素が有効画(すなわち画像処理や表
示の対象となる画素)であるのか、または無効画素(す
なわち画像処理や表示の対象とならない画素)であるの
かを示す画像マスクを格納するメモリである。
【0084】領域要素数メモリ35は、重複領域の各要
素のうち、基準画像または対象画像のいずれか(または
両方)が無効画素である要素の数を示す無効領域要素数
と、基準画像と対象画像の両方が有効画素である要素の
数を示す有効領域要素数とを表す領域要素数を格納する
メモリである。
【0085】領域要素数初期化手段31は、領域要素数
メモリ35内の領域要素数を初期化する手段である。
【0086】領域要素判定手段33は、与えられた重複
領域の要素が類似測度計算の対象となる要素か否かをマ
スクメモリ34を参照して判定する手段である。
【0087】領域要素数更新手段32は、領域要素判定
手段33により判別された重複領域要素の種別に従っ
て、領域要素数メモリ35内の領域要素数を更新する手
段である。
【0088】図9は位置合わせ処理装置200の処理の
一例を示すフローチャートである。
【0089】以下、図8および図9を参照して、位置合
わせ処理装置200の動作の概略を説明する。
【0090】制御手段1は、先ず、通信手段20によ
り、位置合わせ処理の対象となる対象画像および位置合
わせ処理の基準となる基準画像を画像メモリ14に、そ
れぞれの画像マスクをマスクメモリ34に読み込む(ス
テップB0)。次に、位置パラメータ候補群設定手段2
により、基準画像に対して対象画像がとりうる位置パラ
メータの候補の集合を位置パラメータ候補メモリ13に
格納する(ステップB1)。そして、最良類似測度初期
化手段12により、最良類似測度メモリ18に含まれる
各値を初期化する(ステップB2)。
【0091】続いて制御手段1は、位置パラメータ候補
選択手段3により、位置パラメータ候補メモリ13から
1つの位置パラメータ候補を選択し(ステップB3)、
この選択された位置パラメータ候補を対象画像に適用し
た際に、対象画像と基準画像とが重なり合う部分である
重複領域を重複領域設定手段4により求めて重複領域メ
モリ15に設定し(ステップB4)、また、重複領域要
素数計算手段5によりその重複領域に含まれるすべての
要素数を計算し(ステップB5)、それぞれを重複領域
メモリ15に格納する。さらに、制御手段1は、領域要
素数メモリ35に格納されている、重複領域に含まれる
無効領域の要素数および有効領域の要素数を領域要素数
初期化手段31により初期化する(ステップB6)。そ
して、制御手段1は、重複領域設定手段4により設定さ
れた重複領域に含まれる要素のうち類似測度計算の対象
となる要素に対して残差を求める処理を開始する前に、
残差初期化手段8により、残差計算の途中経過を格納す
る残差メモリ16を初期化する(ステップB7)。
【0092】制御手段1は、重複領域要素選択手段6に
より重複領域内の一要素を選択し(ステップB8)、領
域要素判定手段33により、マスクメモリ34に格納さ
れている基準画像および対象画像それぞれの画像マスク
の情報から、選択された重複領域要素が、類似測度計算
の対象となる有効領域要素なのか、または、類似測度計
算の対象とならない無効領域要素なのかを判定する(ス
テップB9)。
【0093】選択された重複領域要素が有効領域要素の
場合は、第1の実施例を実施する位置合わせ処理装置1
00の処理の一例を示すフローチャートである図2にお
いて、部分残差を更新する処理(ステップA9)と同様
の手続きにより残差メモリ16内の部分残差を更新する
(ステップB10)。そして、領域要素数を更新し(ス
テップB11)、閾値設定手段10により、最良類似測
度メモリ18に格納されているそれまでの最良類似測度
と、重複領域メモリ15に格納されている重複領域に含
まれる全要素数と、領域要素数メモリ35内の無効領域
要素数または有効領域要素数とから閾値を求め、閾値メ
モリ17に設定する(ステップB12)。そして、図2
におけるステップA10と同様の手続きにより残差メモ
リ16内の部分残差と閾値メモリ17内の閾値を比較し
(ステップB13)、部分残差が閾値を超えた場合には
現在の位置パラメータに対する類似測度計算を中止し、
ステップB3以降を繰り返す。部分残差が閾値よりも小
さい場合は、他の重複領域要素に対して処理を適用する
ためにステップB8以降を繰り返す。
【0094】選択された重複領域要素が無効領域要素の
場合は、残差メモリ16内の部分残差を更新し(ステッ
プB15)、領域要素数更新手段32により領域要素数
メモリ35に格納されている無効領域要素数と有効領域
要素数を更新し(ステップB16)、他の重複領域要素
に対して処理を適用するためにステップB8以降を繰り
返す。
【0095】ステップB8において、現在の位置パラメ
ータ候補により生じる重複領域要素のすべてに対してス
テップB8以降の処理を適用した場合は、最良類似測度
更新手段11により、残差メモリ16内に格納されてい
る部分残差、重複領域メモリ15に格納されている重複
領域に含まれる全要素数、および領域要素数メモリ35
に格納されている重複領域に含まれる無効領域要素数ま
たは有効領域要素数から類似測度を計算し最良類似測度
メモリ18に格納されている最良類似測度を更新する。
同時に、現在の位置パラメータ候補、その位置パラメー
タ候補により得られた重複領域に含まれる全要素数およ
び無効領域要素数または有効領域要素数を最良類似測度
メモリ18に格納する(ステップB14)。そして、他
の位置パラメータ候補に対して類似測度を求めるため
に、ステップB3以降を繰り返す。
【0096】ステップB3において、位置パラメータ候
補選択手段3がすべての位置パラメータ候補に対してス
テップB4以降の処理を適用したと判断された場合は、
処理を終了する。この時、最良類似測度メモリ18に格
納されている類似測度が位置パラメータ候補群に対する
最良の類似測度であり、同じく最良類似測度メモリ18
に格納されている位置パラメータ候補が位置合わせ処理
の結果として得られる位置パラメータとなる。
【0097】以下、本発明の第2の実施例の動作につい
てより具体的に説明する。
【0098】図11において、基準画像I601と対象
画像T602の画素値および位置は、第1の実施例と同
様の方法で表現されているものとする。
【0099】本実施例では画像マスクは基準画像、対象
画像と同じ大きさを持ち、有効画素であれば1を、無効
画素であれば0の値を持つ2値画像で表現されるものと
する。すなわち、基準画像Iの画像マスクをMi(x,
y)、対象画像の画像マスクをMt(x,y)とする
と、 Mi(x,y)=0 : I(x,y)が無効画素の場合 (式21−1) =1 : I(x,y)が有効画素の場合 (式21−2) Mt(x,y)=0 : T(x,y)が無効画素の場合 (式22−1) =1 : T(x,y)が有効画素の場合 (式22−2) である。対象となる位置(x,y)の画素が無効画素で
ある場合、その画素は位置合わせ処理をはじめとする画
像処理の対象とならない。
【0100】なお、本実施例における画像マスクの形態
は説明の都合上2値画像としたが、これは本発明の適用
範囲を限定するものではない。各画素が有効画素である
のか無効画素であるのかを判断できるものであれば何で
もよく、多値画像や無効画素位置を記録した変換テーブ
ルなど他の形態を利用することも可能である。また、各
画像毎に異なる画像マスクを利用するものとしたが、各
画像の有効画素領域の大きさおよび形状が同じであれ
ば、単一の画像マスクを利用することも可能である。
【0101】まず、制御手段1は、通信手段20を介し
て、基準画像I601および対象画像T602を画像サ
イズなどの属性値とともに画像メモリ14に、それぞれ
の画像マスクMiおよびMtをマスクメモリ34に読み
込み(ステップB0)、位置パラメータ候補群設定手段
2により、通信手段20を介して外部から位置パラメー
タ候補群を位置パラメータ候補メモリ13に読み込む
(ステップB1)。位置パラメータ候補群は、対象画像
T602が基準画像座標系604において取りうる位置
の集合であり、第1の実施例と同様に式1で表現されて
おり、位置パラメータ候補群Pの各要素は、位置パラメ
ータ番号に従って、位置パラメータ候補選択手段3によ
り順番にかつ重複なく選択されていく。位置パラメータ
番号は説明の便宜を図るために設定するものであり、本
発明の本質に影響を与えるものではないことも第1の実
施例と同様である。
【0102】制御手段1は、基準画像I601に対して
対象画像T602が最もうまく重なる位置パラメータを
決定するために、各位置パラメータ候補に対して類似測
度を計算するが、本実施例では、第1の実施例と同様の
類似測度、すなわち、位置パラメータ候補により生成さ
れる有効重複領域にて定義される残差を、その有効重複
領域の要素数で正規化した類似測度を利用する。この
時、位置パラメータ候補群Pのある位置パラメータ
(u,v)を対象画像T602に適用した場合に、基準
画像I601と対象画像T602とが重なり合う図11
の有効重複領域E605において、残差S(u,v)お
よび類似測度A(u,v)は、 S(u,v)=SUM{E,|I(p,q)−T(p−u,q−v)|} (式23−1) A(u,v)=S(u,v)÷NUM(E) (式23−2) と定義される。
【0103】次に制御手段1は、第1の実施例と同様
に、最良類似測度メモリ18に含まれる各項目を初期化
する(ステップB2)。すなわち、それまでの最良の
(最小の)類似測度A0を、式3に従って初期化する。
【0104】図9におけるステップB3以降の処理は、
第1の実施例の方法を実施する例におけるステップA3
以降の処理と同様に、最良類似測度メモリ18内の、A
0よりも小さな、すなわち、基準画像I601と対象画
像T602の類似性がより高い類似測度が得られる度に
最良類似測度メモリ18内のデータを更新することで、
最良の類似測度とその類似測度を与える位置パラメータ
および重複領域中の要素数を常に保持する処理を行うも
のである。
【0105】本実施例では、ステップB4において、位
置パラメータ候補(u,v)を対象画像T602に適用
した場合に得られる、基準画像I601と対象画像T6
02とが重なりあう重複領域D603を重複領域設定手
段4により求め、重複領域メモリ15に格納する。この
とき重複領域D603は、第1の実施例の方法を実施す
る例と同様に、式4で表現される矩形領域に含まれるす
べての位置である。この重複領域は、画像マスクの形状
に関係なく求められるものであり、第1の実施例の方法
を実施する例と同様に、重複領域要素数計算手段5によ
り、式7に従って、その要素数Rを系統的に求めること
が可能である(ステップB5)。以下では、この重複領
域D603の各要素には、第1の実施例の方法を実施す
る例と同様に、重複領域要素選択手段6により選択され
る順に1から重複なく整数で重複領域要素番号が付加さ
れているものとする。これは本発明の動作を説明するた
めに便宜上設定するものであり、本発明の本質には影響
を与えない。
【0106】重複領域に含まれる各要素は類似測度計算
の対象となる有効領域要素か、類似測度計算の対象とな
らない無効領域要素のいずれかに分類できる。有効領域
要素とは基準画像I601と対象画像T602の両方の
画素が有効画素である重複領域要素であり、いずれか一
方(または両方)の画素が無効画素の場合は無効領域要
素となる。すなわち、重複領域D603は有効領域要素
から構成される有効重複領域E605と、無効領域要素
から構成される無効重複領域F606の2つに分割でき
る。
【0107】式23−1および式23−2にあるよう
に、位置パラメータ候補(u,v)に対する類似測度は
有効重複領域E605において定義されており、第1の
実施例におけるのと同様に処理を高速化するための閾値
および類似測度そのものを設定するためには、有効重複
領域E605の要素数Re(=NUM(E))を求める
必要がある。しかしながら、画像マスクの形状が複雑な
場合は系統的に求めることができず、重複領域D603
のすべての要素について、画像マスクを参照して有効領
域要素であるか否かを調べることで有効領域要素数を求
める処理を必要とする。しかしながらこの処理は、重複
領域D603における残差を求める処理と同様の処理コ
ストが必要であり、本発明の第1の実施例における閾値
を利用した残差計算打ち切りによる計算量削減の効果が
損なわれてしまうという問題がある。そこで、本実施例
では、最初に有効重複領域E605に含まれる要素数を
計算することは行わず、重複領域D603内の各要素を
順番にかつ重複無く選択しながら部分残差を更新してい
く過程において、すでに処理の終了した重複領域要素に
含まれていた無効領域要素数を加味した閾値を随時設定
することで、この問題を解消する。
【0108】そのために、領域要素数メモリ35に格納
されている、それまでに見つけた無効領域要素の数F
(i)および有効領域要素の数E(i)を、 E(0)←0 (式24−1) F(0)←0 (式24−2) により初期化する(ステップB6)。また、第1の実施
例の方法を実施する例におけるステップA7と同様に、
有効重複領域E605に対する残差を求めるために利用
する、残差メモリ16に格納されている部分残差S
(i)を、 S(0)←0 (式25) により初期化する(ステップB7)。
【0109】次に、重複領域D603に含まれる各重複
領域要素i(1≦i≦R)に対して以下の処理を適用す
る(ステップB8)。
【0110】まず、領域要素判定手段33により、重複
領域要素iが有効領域要素であるか無効領域要素である
かを基準画像および対象画像の画像マスクを参照するこ
とで決定する(ステップB9)。すなわち、 Mi(p(i),q(i))=1 かつ Mt(p(i)−u,q(i)v )=1 (式26−1) であれば、重複領域要素iは有効領域要素であり、この
条件を満たさない場合、すなわち、 Mi(p(i),q(i))=0 または Mt(p(i)−u,q(i) −v)=0 (式26−2) であれば、重複領域要素iは無効領域要素である。ここ
で、第1の実施例の方法を実施する例の説明と同様に、 p(i):重複領域要素番号iの要素のX方向成分 q(i):重複領域要素番号iの要素のY方向成分 である。
【0111】重複領域要素iが無効領域要素であった場
合は、部分残差S(i)の値を残差更新手段7により、 S(i)←S(i−1) (式27) に従って更新し(ステップB15)、同時に、領域要素
数更新手段32により、 E(i)←E(i−1) (式28−1) F(i)←F(i−1)+1 (式28−2) に従って有効領域要素数E(i)、無効領域要素数F
(i)を更新する(ステップB16)。
【0112】重複領域要素iが無効領域要素ではない場
合、すなわち、有効領域要素であった場合は、第1の実
施例の方法を実施する例の説明と同様に、残差更新手段
7により、 S(i)=S(i−1)+|I(p(i),q(i))−T(p(i)−u ,q(i)−v)| (式29) に従って残差メモリ16内の残差S(i)を更新する
(ステップB10)。また、領域要素数更新手段32に
より、有効領域要素数E(i)、無効領域要素数F
(i)を、 E(i)←E(i−1)+1 (式30−1) F(i)←F(i−1) (式30−2) と更新する(ステップB11)。
【0113】図12は、本発明における第2の実施例に
おける閾値T(i)を説明するためのグラフであり、第
1の実施例の方法を説明するための図5と同様に、既に
求めた各位置パラメータ候補に対する類似測度の中でそ
れまでの最良の類似測度A0、A0を与えた位置パラメ
ータ候補、およびその位置パラメータ候補により得られ
る有効重複領域数R0に対する残差の関係を図示したも
のである。図12のグラフにおいて、原点と現在の最良
類似測度A0を表す最良類似測度点301とを結んだ直
線の傾きがA0に相当する。この直線上の点に対応する
要素数と残差を与える有効重複領域は、類似測度点30
1を与える位置パラメータ候補により得られる有効重複
領域と同じ類似測度を持つ。
【0114】図12において、点701は、初期の閾値
に対応する点を示している。この時は、重複領域D60
3に含まれる全ての重複領域要素を有効領域要素とみな
した場合の閾値になる。しかしながら、重複領域D60
5には無効領域要素も含まれているため、この閾値は有
効領域要素E605に対する真の閾値A0×Reよりも
大きく、閾値を変更せずに有効重複領域E605に対す
る残差計算を続行した場合は、重複領域要素E605の
要素数Reがあらかじめわかっている場合には行う必要
のない残差更新処理が含まれる場合がある。
【0115】残差計算の過程において無効領域要素を発
見することは、重複領域D603に含まれる無効領域要
素数、すなわち無効重複領域F606の要素数の下限が
増加することに相当することから、相対的に重複領域D
603に含まれる有効領域要素、すなわち有効重複領域
E605の要素数の上限が減少することになる。これ
は、閾値を小さくできることを意味しており、本発明に
おける第2の実施例では、重複領域要素iに対する閾値
T(i)を、 T(i)←A0×(R−F(i)) (式31−1) または T(i)=A0×(R−i+E(i)) (式31−2) により逐次求める(ステップB12)。
【0116】ここで閾値T(i)と部分残差S(i)の
関係を考える。
【0117】本実施例では、ステップB9において領域
要素判定手段33により、重複領域要素iが有効領域要
素であるか無効領域要素であるかを判定し、重複領域要
素iが無効領域要素ではない(すなわち有効領域要素で
ある)場合のみ式29に基づいて部分残差が加算される
ように構成していることから、 S(1)≦S(2)≦…≦S(i)≦…≦S(R)=有効重複領域E605 における残差 (式32) となる。
【0118】式28−2および式30−2より、無効領
域要素数F(i)はiに関して単調増加であり、また、
すべての重複領域要素に対して処理を適用した場合の無
効領域要素数F(R)はNUM(F)と一致し、各重複
領域要素は無効領域要素または有効領域要素のいずれか
に必ず分類されることから、 0=F(0)≦F(1)≦…≦F(i−1)≦F(i)≦F(i+1)≦… ≦F(R)=NUM(F)=R−Re (式33−1) 0=E(0)≦E(1)≦…≦E(i−1)≦E(i)≦E(i+1)≦… ≦E(R)=NUM(E)=Re (式33−2) i=F(i)+E(i) (式33−3) がそれぞれ成立する。式33−1に式31−1を適用す
ると、T(1)=A0×(R−F(1))=A0×R≧
T(2)=A0×(R−F(2))≧…≧T(i)=A
0×(R−F(i))≧…≧T(R)=A0×(R−F
(R))=A0×Re (式34−1) であり、有効重複領域E605に対する本来の閾値A0
×ReとT(i)の間に、 T(1)≧T(2)≧…≧T(i)≧…≧T(R)=A0×Re (式34 −2) が成立する。これは、式31により求めた閾値T(i)
が有効重複領域E605に対する本来の閾値に収束する
ことを示しており、図12においては、閾値に対応する
点が、初期の閾値に対応する点701から有効重複領域
E605に対する真の閾値に対応する点702に徐々に
移動することに対応する。
【0119】ここで、部分残差S(i)が閾値T(i)
を越えたとすると、S(i)が単調増加であることか
ら、 S(R)≧S(i)>T(i)≧A0×Re (式35) であり、各項をRe(>0)で割ると、 A(u,v)=S(R)÷Re≧S(i)÷Re>A0×(R−F(i)) ÷Re≧A0 (式36) が成立する。これは、部分残差S(i)が閾値T(i)
を越えた場合は、有効重複領域E605における類似測
度が最良類似測度A0よりも必ず大きくなることを示し
ており、第1の実施例における方法の例と同様に、重複
領域要素i+1以降に対して処理を継続しても最良類似
測度を更新する可能性がないことを示している。そこ
で、残差閾値比較手段9は、部分残差S(i)と閾値T
(i)を比較して重複領域D605に対する処理の継続
是非を判断する(ステップB13)。すなわち、 S(i)>T(i) (式37) が成立すれば、その位置パラメータ候補に対する処理を
中断し、次の位置パラメータ候補に対してステップB3
以降の類似測度計算の処理をあらためて適用する。式3
7が成立しない場合は、次の重複領域要素i+1に対し
てステップB8以降の処理を適用する。
【0120】逆に、すべてのiについて式37が成立し
なかった場合、すなわち、 S(R)≦T(R) (式38) が成立した場合、式31から、 S(R)≦T(R)=A0×(R−F(R))=A0×(R−R+E(R) )=A0×Re (式39) が成立する。各項をRe(>0)で割ると、 A(u,v)=S(R)÷Re≦A0 (式40) であり、有効重複領域E605の類似測度は最良類似測
度A0を更新する。そこで、すべての重複領域要素に対
してステップB9以降の処理を適用した場合は、最良類
似測度更新手段11により、最良類似測度メモリ18に
格納されている各項目を更新する(ステップB13)。
すなわち、最良類似測度、最良類似測度を与えた位置パ
ラメータ候補、その位置パラメータ候補により得られる
重複領域の全要素数および無効領域要素数および有効領
域要素数を、 最良類似測度A0←S(R)÷(R−F(R))(式41−1) 位置パラメータ候補←(u,v) (式41−2) 重複領域要素数←R (式41−3) 無効重複領域要素数←F(R) (式41−4) 有効重複領域要素数←E(R) (式41−5) と更新する。
【0121】なお、上記の説明において、ステップB1
5では部分残差S(i)の値が、ステップB16におい
ては有効領域要素数E(i)の値が、ステップB11に
おいては無効領域要素数F(i)の値が、それぞれ式2
7、式28−1、式30−2により更新されるものとし
て説明したが、これは説明の便宜を図るためのものであ
り、本発明の適用をこれに限定するものではない。各更
新処理の前後で、それぞれの値は変化しないため、残差
メモリ16内の部分残差、領域要素数メモリ35内の有
効領域要素数および無効領域要素数が、それぞれ一つの
レジスタにより表現されている場合はこれらの更新処理
は必要としない。また有効領域要素数と無効領域要素数
の間には常に式33−3の関係が存在するため、有効領
域要素数または無効領域要素数のいずれか一方のみを記
録/更新するように構成することも可能である。
【0122】本発明の第2の実施例においても、第1の
実施例と同様の拡張が可能である。
【0123】すなわち、第2の実施例の説明において
は、位置パラメータ候補として平行移動を与えるものだ
けを対象としたが、回転をはじめとするより複雑な位置
パラメータに対しても利用可能である。また、図7に示
すように、基準画像と対象画像との重なり部分に存在す
る全画素のうち或る規則にしたがって選択した一部の画
素を重複領域要素とし、これら重複領域要素で重複領域
Dを構成することも可能である。さらには、上記の説明
では通信手段20を通じて外部から位置パラメータ候補
群を読み込んだが、画像メモリ14内の画像データを参
照して位置パラメータ候補群を設定するようにしても良
い。さらには、対象画像が基準画像と重なりを持つ全て
の場合から構成される位置パラメータ候補群を示した
が、各画像を取得するためのカメラの位置の情報や画像
間の相対関係を示す情報が画像に付加されているような
場合、その情報を利用することで、位置パラメータ候補
群をより限定した領域に設定することもできる。
【0124】本発明が対象とする画像の位置合わせは画
像処理の基本的な処理の一つであるため、各種の画像処
理分野に適用できる。本出願人は先の特許出願(特願平
08−26350号)において、撮像装置により撮像し
た対象の部分画像を撮像装置の移動によって複数取得
し、これら部分画像群から画像合成処理により合成画像
を生成する画像入力装置を提案したが、本発明はこのよ
うな装置における画像合成処理時における画像の位置合
わせに対しても勿論適用可能である。
【0125】
【発明の効果】以上説明したように本発明によれば以下
のような効果を得ることができる。
【0126】第1の効果は、位置合わせ処理の結果が基
準画像と対象画像との重なり部分の大きさ、形状の変化
の影響を受けず、基準画像に対して対象画像を最もうま
く重ね合わせることができる位置を正確に求めることが
できることである。これは、基準画像と対象画像との重
複領域における残差そのものを指標とするのではなく、
その残差を重複領域の要素数で正規化した類似測度を指
標として基準画像と対象画像との位置合わせのよさを評
価しているためである。
【0127】第2の効果は、高速な位置合わせが可能な
ことである。これは、対象画像の基準画像に対する各重
なり位置における類似測度を求める過程において、計算
途中の残差が、それまでの最良類似測度と重複領域の要
素数とから設定した閾値を超過し、最良類似測度を更新
する見込みがなくなった時点で、今回の残差の計算を打
ち切るようにして計算量を削減しているためである。
【0128】第3の効果は、画像マスクを利用した複雑
な形状を持つ画像間の位置合わせ処理においても、基準
画像と対象画像との重なり部分の大きさ、形状の変化の
影響を受けず、基準画像に対して対象画像を最もうまく
重ね合わせることができる位置を正確に求めることがで
きることである。これは、基準画像と対象画像との重複
領域における残差そのものを指標とするのではなく、そ
の残差を重複領域の要素数で正規化した類似測度を指標
として基準画像と対象画像との位置合わせのよさを評価
しているためである。
【0129】第4の効果は、画像マスクを利用した複雑
な形状を持つ画像間の位置合わせ処理においても高速な
位置合わせが可能なことである。これは、対象画像の基
準画像に対する各重なり位置における類似測度を求める
過程において、計算途中の残差を、それまでの最良類似
測度と重複領域の要素数とそれまでに発見した類似測度
計算の対象となる有効領域要素の数(または類似測度計
算の対象とならない無効領域要素の数)とから設定した
閾値と比較し、閾値を超過した時には最良類似測度を更
新する見込みがなくなったと判断し、残差の計算を打ち
切るようにして計算量を削減しているためである。
【図面の簡単な説明】
【図1】本発明の方法を実施する位置合わせ処理装置の
構成の一例を示すブロック図である。
【図2】本発明の方法を実施する位置合わせ処理装置の
処理の一例を示すフローチャートである。
【図3】基準画像と対象画像との説明図である。
【図4】基準画像と対象画像との重複領域における残差
計算の特徴を説明するためのグラフの例を示す図であ
る。
【図5】本発明における閾値を説明するためのグラフの
一例を示す図である。
【図6】画像メモリ内の画像データを参照して位置パラ
メータ候補群を設定する方法の説明図である。
【図7】基準画像と対象画像との重なり部分に存在する
画素のうちの一部の画素を重複領域要素として選択する
例の説明図である。
【図8】本発明の方法を実施する位置合わせ処理装置の
構成の一例を示すブロック図である。
【図9】本発明の方法を実施する位置合わせ処理装置の
処理の一例を示すフローチャートである。
【図10】画像マスクを説明するための説明図である。
【図11】本発明の第2の実施例における基準画像と対
象画像との説明図である。
【図12】本発明の第2の実施例における閾値を説明す
るためのグラフの一例を示す図である。
【図13】従来技術の問題点の説明図である。
【符号の説明】
1 制御手段 2 位置パラメータ候補群設定手段 3 位置パラメータ候補選択手段 4 重複領域設定手段 5 重複領域要素数計算手段 6 重複領域要素選択手段 7 残差更新手段 8 残差初期化手段 9 残差閾値比較手段 10 閾値設定手段 11 最良類似測度更新手段 12 最良類似測度初期化手段 13 位置パラメータ候補メモリ 14 画像メモリ 15 重複領域メモリ 16 残差メモリ 17 閾値メモリ 18 最良類似測度メモリ 20 通信手段 31 領域要素数初期化手段 32 領域要素数更新手段 33 領域要素数判定手段 34 マスクメモリ 35 領域要素数メモリ 100 位置合わせ処理装置 101 基準画像I 102 対象画像T 103 重複領域D 104 基準画像座標系 200 位置合わせ処理装置 301 現在の最良類似測度を与える点 401 基準画像 402 対象画像 403 位置パラメータ候補群 501 重複領域要素 600 画像マスク 601 基準画像I 602 対象画像T 603 重複領域D 604 基準画像座標系 605 有効重複領域E 606 無効重複領域F 701 初期閾値点 702 最適閾値点
フロントページの続き (58)調査した分野(Int.Cl.6,DB名) G06T 7/00

Claims (8)

    (57)【特許請求の範囲】
  1. 【請求項1】基準となる画像に対して位置合わせ対象と
    なる画像を最もうまく重ね合わせることができる位置を
    求める画像の位置合わせ方法であって、基準画像と対象
    画像との位置合わせのよさの指標として、基準画像と対
    象画像との重複領域における残差をその重複領域に含ま
    れる要素数により正規化した類似測度を用い、対象画像
    の基準画像に対する各重なり位置の候補における類似測
    度のうち、最良の類似測度が得られた重なり位置の候補
    を基準画像に対するその対象画像の位置合わせ位置とす
    る方法において、 対象画像の基準画像に対する各重なり位置の候補におけ
    る類似測度を求める際、今回の重なり位置の候補による
    両画像の重複領域の要素数と今までの最良類似測度とか
    ら今回の類似測度算出で使用する計算打切り用の閾値を
    設定するステップと、 今回の重なり位置の候補による両画像の重複領域におけ
    る残差を計算する過程において、計算途中の残差が前記
    閾値を超過した場合には残りの残差計算を取り止めて次
    の重なり位置の候補における類似測度の算出に進み、前
    記閾値を超過することなく残差計算が終了した場合には
    得られた残差をその重複領域に含まれる要素数により正
    規化した類似測度で最良類似測度を更新するステップと
    を含むことを特徴とする画像の位置合わせ方法。
  2. 【請求項2】重複領域の要素数と今までの最良類似測度
    とを乗じた値を前記閾値とすることを特徴とする請求項
    1記載の画像の位置合わせ方法。
  3. 【請求項3】対象画像が基準画像に対してとりうる重な
    り位置の候補を外部の機器から読み込むようにしたこと
    を特徴とする請求項2記載の画像の位置合わせ方法。
  4. 【請求項4】対象画像が基準画像に対してとりうる重な
    り位置を基準画像と対象画像とに基づいて自動的に設定
    することを特徴とする請求項2記載の画像の位置合わせ
    方法。
  5. 【請求項5】画像マスクを利用した画像処理で、基準と
    なる画像に対して位置合わせ対象となる画像を最もうま
    く重ね合わせることができる位置を求める画像の位置合
    わせ方法であって、基準画像と対象画像との位置合わせ
    のよさの指標として、基準画像と対象画像との重複領域
    における残差をその重複領域に含まれる要素数により正
    規化した類似測度を用い、対象画像の基準画像に対する
    各重なり位置の候補における類似測度のうち、最良の類
    似測度が得られた重なり位置の候補を基準画像に対する
    その対象画像の位置合わせ位置とする方法において、 今回の重なり位置の候補による前記基準画像と前記対象
    画像の両画像の重複領域における残差を計算するステッ
    プが、 対象画像の基準画像に対する各重なり位置の候補におけ
    る類似測度を求める際、今回の重なり位置の候補による
    両画像の重複領域の要素数と、今までの最良類似測度
    と、それまでに確認した類似測度計算の対象となる有効
    領域要素数または類似測度計算の対象とならない無効領
    域要素数とから今回の類似測度算出で使用する計算打切
    り用の閾値を設定するステップと、 計算途中の残差が前記閾値を超過した場合には残りの残
    差計算を取り止めて次の重なり位置の候補における類似
    測度の算出に進み、前記閾値を超過することなく残差計
    算が終了した場合には得られた残差をその重複領域に含
    まれる要素数により正規化した類似測度で最良類似測度
    を更新するステップとを含むことを特徴とする画像の位
    置合わせ方法。
  6. 【請求項6】今までの最良類似測度と、重複領域の要素
    数からそれまでに処理を適用した無効領域要素数を減じ
    た値とを乗じた値を前記閾値とすることを特徴とする請
    求項5記載の画像の位置合わせ方法。
  7. 【請求項7】対象画像が基準画像に対してとりうる重な
    り位置の候補を外部の機器から読み込むようにしたこと
    を特徴とする請求項6記載の画像の位置合わせ方法。
  8. 【請求項8】対象画像が基準画像に対してとりうる重な
    り位置を基準画像と対象画像とに基づいて自動的に設定
    することを特徴とする請求項6記載の画像の位置合わせ
    方法。
JP5606097A 1996-05-31 1997-03-11 画像の位置合わせ方法 Expired - Fee Related JP2962266B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP5606097A JP2962266B2 (ja) 1996-05-31 1997-03-11 画像の位置合わせ方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP16118796 1996-05-31
JP8-161187 1996-05-31
JP5606097A JP2962266B2 (ja) 1996-05-31 1997-03-11 画像の位置合わせ方法

Publications (2)

Publication Number Publication Date
JPH1049681A JPH1049681A (ja) 1998-02-20
JP2962266B2 true JP2962266B2 (ja) 1999-10-12

Family

ID=26396979

Family Applications (1)

Application Number Title Priority Date Filing Date
JP5606097A Expired - Fee Related JP2962266B2 (ja) 1996-05-31 1997-03-11 画像の位置合わせ方法

Country Status (1)

Country Link
JP (1) JP2962266B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3109469B2 (ja) 1998-02-20 2000-11-13 日本電気株式会社 画像入力装置
US6625332B1 (en) 1999-10-05 2003-09-23 Nec Corporation Computer-implemented image registration
JP3969984B2 (ja) * 2001-09-25 2007-09-05 ダイハツ工業株式会社 移動物体の認識方法
KR100981147B1 (ko) * 2009-11-16 2010-09-10 재단법인대구경북과학기술원 고속연산으로 이미지의 유사도를 측정하는 방법 및 장치
US8279500B2 (en) * 2011-01-27 2012-10-02 Seiko Epson Corporation System and method for integrated pair-wise registration of images using image based information and sensor coordinate and error information
JP6767811B2 (ja) * 2016-08-31 2020-10-14 キヤノン株式会社 位置検出方法、位置検出装置、リソグラフィ装置および物品製造方法

Also Published As

Publication number Publication date
JPH1049681A (ja) 1998-02-20

Similar Documents

Publication Publication Date Title
CN108520247B (zh) 对图像中的对象节点的识别方法、装置、终端及可读介质
RU2424561C2 (ru) Обучение сверточных нейронных сетей на графических процессорах
US6438507B1 (en) Data processing method and processing device
US7352919B2 (en) Method and system of generating a high-resolution image from a set of low-resolution images
US6820137B2 (en) Computer-readable recording medium storing resolution converting program, resolution converting device and resolution converting method
CN113838138B (zh) 一种优化特征提取的系统标定方法、系统、装置和介质
CN113344986A (zh) 点云配准结果的评估方法、装置、设备及存储介质
CN112330671B (zh) 细胞分布状态的分析方法、装置、计算机设备和存储介质
KR20220093492A (ko) 이미지 스티칭을 이용한 구조물 외관 조사망도 구축 시스템 및 방법
CN115115606B (zh) 图像坐标匹配方法、终端以及计算机可读存储介质
JP2962266B2 (ja) 画像の位置合わせ方法
JP2021135977A (ja) 情報処理装置及び方法
CN114677588A (zh) 障碍物检测的方法、装置、机器人和存储介质
CN117291957B (zh) 跨模态的光-sar图像配准方法、装置、设备和介质
US6681057B1 (en) Image registration system and method implementing PID control techniques
CN113393498B (zh) 图像配准方法、装置、计算机设备和存储介质
CN119399297B (zh) 镜头畸变校正系数标定方法、系统、装置和畸变校正方法
US20200202140A1 (en) Method and device for evaluating images, operating assistance method, and operating device
JP6355206B2 (ja) カメラキャリブレーション方法、カメラキャリブレーション装置及びカメラキャリブレーションプログラム
JPH1186003A (ja) 位置合わせ装置及び位置合わせプログラムを記録したコンピュータが読み取り可能な記録媒体
CN115222631B (zh) 畸变图像校正方法、装置、设备及可读存储介质
JP5928465B2 (ja) 劣化復元システム、劣化復元方法およびプログラム
CN114332447B (zh) 一种车牌矫正方法、车牌矫正装置和计算机可读存储介质
CN115134521A (zh) 视频拍摄防抖动方法、装置、设备及存储介质
JP2007034964A (ja) カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定方法、装置、カメラ視点運動並びに3次元情報の復元及びレンズ歪パラメータの推定プログラム

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 19990706

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070806

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080806

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080806

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090806

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090806

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100806

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110806

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110806

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120806

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130806

Year of fee payment: 14

LAPS Cancellation because of no payment of annual fees