Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4533659B2 - レーザー計測により地図画像を生成する装置及び方法 - Google Patents
[go: Go Back, main page]

JP4533659B2 - レーザー計測により地図画像を生成する装置及び方法 - Google Patents

レーザー計測により地図画像を生成する装置及び方法 Download PDF

Info

Publication number
JP4533659B2
JP4533659B2 JP2004142336A JP2004142336A JP4533659B2 JP 4533659 B2 JP4533659 B2 JP 4533659B2 JP 2004142336 A JP2004142336 A JP 2004142336A JP 2004142336 A JP2004142336 A JP 2004142336A JP 4533659 B2 JP4533659 B2 JP 4533659B2
Authority
JP
Japan
Prior art keywords
grid
image
occupied
images
obstacle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2004142336A
Other languages
English (en)
Other versions
JP2005326944A (ja
Inventor
高斉 松本
俊夫 守屋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP2004142336A priority Critical patent/JP4533659B2/ja
Publication of JP2005326944A publication Critical patent/JP2005326944A/ja
Application granted granted Critical
Publication of JP4533659B2 publication Critical patent/JP4533659B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Image Analysis (AREA)
  • Instructional Devices (AREA)

Description

本発明は、障害物までの方位と距離の計測が可能なレーザー距離センサを移動させながら計測することにより、移動するセンサの周囲の環境における障害物の位置を画像として自動的に生成及び/又は表示する装置及び方法に関する。
レーザー距離センサを移動させながらレーザー距離センサの周囲の環境を複数回計測し、各計測毎の値から環境の地図を画像として生成する手法としては、1回の計測で得られる或る領域の計測値と、他の1回の計測で得られる或る領域の計測値のと差の二乗和を評価値として、この評価値を最小とするような計測値間の変位を算出して(いわゆる、最小二乗法の算出手法によって)、これをセンサの移動距離とし、この移動距離に従って各回の計測値を共通の座標系に記録することで、地図状の画像として生成する手法が提案されている(例えば、非特許文献1と2を参照)。
根岸善朗、三浦純、 白井良明、「全方位ステレオとレーザレンジファインダの統合による移動ロボットの地図生成」、日本ロボット学会誌、Vol.21,No.6,pp.110-116,2003. D. Hahnel、W. Burgard、「Probabilistic Matching for 3D Scan Registration」、In Proc of the VDI-Conference Robotik 2002,2002.
しかしながら、上述した非特許文献1,2に記載されているような従来技術におけるレーザー距離センサ移動前後の計測値間の変位を最小二乗法算出手法で評価すると、必ずしも常に最適解が求まるということにならず、結果的に局所解を求めてしまうことが発生するという課題が生じていた。すなわち、センサ移動前後の計測値で評価した環境中の障害物の照合が、局所解によって正確に実施されない(センサ移動前後で或る障害物の照合が一致しない)という不都合が発生する。
本発明の目的は、センサの移動前後における画像間の相対位置と姿勢を精密に算出した場合における誤差の発生を抑制して、地図画像を精度良く生成又は表示する地図画像生成装置を提供することにある。
前記課題を解決するために、本発明は主として次のような構成を採用する。
障害物までの方位と距離を用いて前記距離センサ周囲の地図画像を生成する画像生成装置であって、
前記距離センサを移動させて前記障害物までの方位と距離の計測値を前記移動の前後のそれぞれで取得し、
前記計測値に基づいて前記距離センサの周囲における障害物の有無を、前記距離センサの分解能で決められたグリッド毎に割り当てられた占有(画像において障害物が占有)、非占有(画像において障害物が非占有)、未知(画像において障害物が占有しているかが未知)の状態によって表したグリッド画像を生成し、
前記計測値でそれぞれ得られた各グリッド画像において、障害物で占有された状態のグリッドを中心として或る範囲を示すウインドウを設け、前記ウインドウ内のグリッドの状態を占有、非占有、未知で表した際の各状態の出現頻度をヒストグラムで表したときに、占有状態のグリッドが多くて障害物の有無が未知な状態のグリッドが少ないウインドウを特徴点として抽出し、
現在の計測により求められたグリッド画像と前回の計測により求められたグリッド画像の2つのグリッド画像間において対応する前記特徴点の比較に際して、前記抽出された各グリッド画像の前記特徴点における占有グリッドの数と前記特徴点間の距離を各グリッド画像間で比較することで、各グリッド画像間の前記特徴点を照合し、
前記照合の結果に基づいて特徴点の最も良く一致するグリッド画像間で重ね合わせてグリッド画像を仮配置し、
前記仮配置したグリッド画像間において前記計測値によって前記グリッド画像間の相対位置と姿勢を演算して前記地図画像を生成する構成とする。
レーザー距離センサによる複数回の計測値から環境における障害物の有無を示す地図を画像として生成する画像生成方法であって、
レーザーにより前記障害物までの方位と距離の計測値を取得する取得工程と、
前記取得工程から取得された前記計測値に基づいて前記レーザー距離センサの周囲における障害物の有無を、前記距離センサの分解能で決められたグリッド毎に割り当てられた占有(画像において障害物が占有)、非占有(画像において障害物が非占有)、未知(画像において障害物が占有しているかが未知)の状態によって表したグリッド画像を生成する生成工程と、
前記生成工程でそれぞれ得られた各グリッド画像において、障害物で占有された状態のグリッドを中心として或る範囲を示すウインドウを設け、前記ウインドウ内のグリッドの状態を占有、非占有、未知で表した際の各状態の出現頻度をヒストグラムで表したときに、占有状態のグリッドが多くて障害物の有無が未知な状態のグリッドが少ないウインドウを特徴点として抽出する抽出工程と、
現在の計測により求められたグリッド画像と前回の計測により求められたグリッド画像の2つのグリッド画像間において対応する前記特徴点の比較に際して、前記抽出工程で得られた各グリッド画像の前記特徴点における占有グリッドの数と前記特徴点間の距離を各グリッド画像間で比較し照合することで、各グリッド画像間で一致する前記特徴点の識別を行う識別工程と、
前記識別工程で得られた照合結果に基づきグリッド画像間の前記特徴点が最も良く一致するときの相対位置と姿勢に従って各グリッド画像を共通の座標系に重ね合わせて仮配置し、仮配置された各グリッド画像間で重複する領域を算出する算出工程と、
前記算出工程で得られた前記重複領域に含まれる前記レーザー距離センサの計測値のみを用いてグリッド画像間の相対位置と姿勢を演算する演算工程と、
前記演算工程で得られたグリッド画像間の相対位置と姿勢に従って複数の画像を1枚の画像に合成する生成工程と、からなる画像生成方法。
本発明によれば、移動するレーザー距離センサにより複数回の計測毎に得られる環境中での障害物の占有する領域(占有グリッド)を示す画像において共通な特徴点を抽出し照合して、1枚の環境地図の画像として自動的に合成及び/又は表示することが可能となる。
また、より具体的には、複数回の計測毎に生成される複数の画像のそれぞれからヒストグラムの特徴点を抽出し、各画像間でヒストグラムとその相対位置を照合することにより、画像間の相対位置と姿勢を算出し、この相対位置と姿勢により求められる画像間のおよその重複領域を算出し、重複領域に含まれる方位と距離の計測値のみを用いることにより画像間において対応がとれない計測値を減らし、より精度良く画像間の相対位置と姿勢を算出することが可能となり、精度の良い環境地図画像の自動生成及び/又は表示が可能となる。
本発明の地図画像を生成する画像生成装置に係る実施の形態について、実施例を挙げて図面を参照しながら以下詳細に説明する。本発明の概要は、レーザー距離センサが移動した周囲の環境の障害物の有無を示す地図を精度良く生成及び/又は表示するという目的のために、計測毎にグリッド画像を生成して一致する特徴点を検出して、およその画像間の相対位置と姿勢を求める前処理を施す(具体的には、センサの移動前後でグリッド画像間の仮の位置合わせを行う)ことにより、グリッド画像間の相対位置と姿勢を精密に算出した場合における誤差の発生を抑制し(例えば、後述する図9に示す局所解904(最適解903ではない)への落ち込みを防ぎ)、環境地図画像を精度良く生成及び/又は表示するものである。
本発明の地図画像生成装置に係る実施例を図面を用いて説明する。ここでは、特に、水平面の走査を行うことで障害物に対する方位と距離の計測が可能なレーザー距離センサを車輪移動型のロボットに搭載して移動させ、複数回の計測を行い、この計測値を用いてセンサが移動した環境における障害物の存在の有無を画像として生成及び/又は表示する装置を例示して説明する。
図1は本発明の地図画像生成装置に係る実施例における処理の流れの概要を示す。処理が開始されると(101)、レーザー距離センサから環境の地図を生成及び/又は表示する処理(102〜109)とロボット制御(111)の処理が開始される。レーザー距離センサによる地図生成及び/又は表示の処理では、まずレーザー距離センサを制御することにより方位と距離の計測値の入力を行い(102)、入力された計測値より環境中の障害物の方位と距離を示す画像であるグリッド画像(後述する図5に示す枡目で示した全体の画像)を生成する(103)。
次いで、画像において障害物の占有する領域(占有グリッド)が多く、また占有されているかが未知の領域(未知グリッド)が少ない点を特徴点として抽出し(104)、画像間の特徴点のヒストグラムと特徴点の相対位置が画像間で保持されているかを基準として画像間の照合を行い、照合結果のうち画像間で最も特徴点が保持されるような画像の相対位置と姿勢を記録し(105)、この相対位置と姿勢に従って画像同士を共通の座標系に配置したときに重複する領域を算出する(106)。
さらに、重複する領域内に含まれる各画像の方位と距離の実測値を用いることにより画像間の相対位置と姿勢を精密に算出し(107)、算出された画像間の相対位置と姿勢に従って各画像を共通の座標系に配置して環境地図の画像を生成し(108)、生成された環境地図画像を表示する(109)。
以上のレーザー距離センサから環境の地図を生成及び/又は表示する処理(102〜109)と並行してロボット制御(111)の処理により、操作者の指令もしくは予め指定された経路に沿って移動する。目的とする環境の地図が生成及び/又は表示が終了してからプログラムを終了する(110)。
以上説明した処理の流れの概略を踏まえ、図1の処理の流れをより詳細にしたものを図2に示す。図1の102が図2の202に、図1の103が図2の203に、図1の104が図2の204〜206に、図1の105が図2の207に、図1の106が図2の208〜209に、図1の107が図2の210に、図1の108が図2の211に、図1の109が図2の212に、それぞれ対応している。
また、図2の207の処理を詳細に示したものを図3に示す。さらに、以上の処理を行うにあたり、ロボットが環境中を移動し、レーザー距離センサにより環境中の障害物の方位と位置を走査する様子を図4に示す。
図2において、プログラムが開始されると(201)、レーザー距離センサによりセンサから障害物に対する方位と距離の計測を行い、計測値を取り込む(202)。ここでは、図4に示される(405)の位置においてロボットが(404)で示されるように180度の方向にレーザー距離センサによる走査を行い、(401)の斜線の領域で示される環境中の障害物に対して、(402)のように図中で太線で示される範囲が障害物として検出されたものとし、同様の計測をロボットが(403)の位置に移動して繰り返し行って、地図を画像として表示する例を示す。なお、図4に示す図示例で最上部における障害物に対して太線を付していないのはセンサから遠隔地のために省略している。
このようにして移動するロボット上のレーザー距離センサで取り込んだ計測値からグリッド画像を生成する(203)。ここでの計測値とは(404)で示されるように一定の角度の範囲を走査して得られた各方位における障害物までの距離の集合であるとする。この計測値をもとにグリッド画像はセンサの位置を基準とする座標系においてセンサの計測誤差をもとに決められたグリッド(図5に示す1つの枡目)を設定し、このグリッドに計測値から推定されるグリッドの状態を示す3種類の色を割り当てることによって生成される。
図5にグリッド画像生成(103)の処理(203)の例を示す。図5は(507)の位置にセンサが配置されている状態で1回の計測につき水平面の180度の範囲にレーザー光線(505)による走査を行うことで、走査した範囲内で計測された障害物の方位と距離にもとづいて画像としたものである。図5において(501)が実際の計測値(507と501を結ぶ直線505における方位と距離)であるとする。
グリッド画像の各グリッドは3値の状態を持ち、それぞれ占有グリッド(503)、非占有グリッド(504)、未知グリッド(502)の値を持つ。占有グリッドは障害物があることが判明している領域を示す。非占有グリッドは、センサ位置と占有グリッドを結ぶ直線(505)上のグリッドには障害物が無いと仮定して非占有グリッドとする。センサ位置と占有グリッドを結ぶ直線上で占有グリッドを基準として、センサから離れる方向にあるグリッドは障害物の有無が判明していない未知の領域であるため未知グリッドとして設定する。なお、グリッドの大きさはセンサの計測誤差より決定される。ここではセンサの計測誤差が前後左右方向に±dと仮定し、1つのグリッドの大きさを2d×2dとする。これにより後述する画像の特徴点の照合時において誤差を考慮した照合を行うものとする。また、各グリッドは3値のいずれかの値(占有、非占有、未知)とともに(501)で示されるセンサの実測値(方位と距離)を保持するものとする。
次に、グリッド画像特徴点の抽出(104)を行う。図5はグリッド画像特徴点の抽出(104)の処理(204〜205)の例を示すものである。レーザー距離センサ値の入力(102)により入力された計測値から生成されるグリッド画像において、占有グリッドを中心とするウィンドウ(506)を設けてヒストグラム(占有、非占有、未知のそれぞれのグリッド数を示す数表)を作成し、これを特徴点とする。各特徴点のヒストグラムを比較し、占有グリッドが多い特徴点を選択し(204)、その内で未知グリッドが少ない特徴点を選択する(205)ことにより特徴点の抽出が行われる。次いで抽出された各特徴点のヒストグラム(後述する図6に示す表)と座標が記録される(206)。
図6は記録される特徴点のヒストグラムの値を表にしたものを示す。特徴点に固有の識別子として1〜5が割り振られたときの各特徴点のグリッドの状態の出現頻度を示す値が例として示されている。
次に、グリッド画像の特徴点照合(105)を行う。グリッド画像の特徴点照合は現在の計測により求められたグリッド画像と前回の計測にもとづくグリッド画像の2つのグリッド画像間において対応する特徴点の算出を行うものであり、図3に示される処理により行われる。ここでは、グリッド画像の特徴点照合(105)の処理の例として、図7を用いて図3の処理の説明を行う。図7の(A)は図4の位置(405)にて環境を計測したときのグリッド画像であり、また、図7の(B)は図4の位置(403)にて計測したときのグリッド画像の例を示している。なお、レーザー距離センサを搭載したロボットは自分自身の絶対位置を認識できないということが前提であり、ロボットの移動前後において自分で観察できる風景が描ければ地図を生成できるのである。
まず、各グリッド画像において抽出された特徴点のうち2つを選択し、これらの特徴点を通る座標系(701)を設定する(301)。この座標系における他の特徴点の座標を求める(302)。同様に他のグリッド画像においても基準とする座標系を設定し(702)、他の特徴点の座標を求める。次に、基準とする座標系の原点と姿勢が一致するように各グリッド画像の特徴点を配置することを考える(303)。このとき、各グリッド画像の特徴点のヒストグラムと相対位置の比較を行う(304)。より具体的には、ヒストグラムにおける占有グリッドの数の差が閾値以下である特徴点(図7に示すウインドウを指す)を選択し、その相対距離(ウインドウの中心グリッド位置の相対距離)が閾値以下の場合に限り、特徴点が一致したものとしてカウントする。この処理を2つの特徴点からなる全ての組み合わせの座標系に対して行う(305)。
グリッド画像の特徴点照合(105)の処理において特徴点の一致率が最も多かったときに選択された座標系を記録しておき(306)、各画像の座標系同士の原点と軸の方向が一致する(図7に示す座標系701と702を重ね合わせる)ようにして、各画像を同じ座標系に配置する(208)。処理(208)による配置は、後述する処理(210)による画像間の相対位置と姿勢を精密に算出するための前処理(仮の位置合わせ処理)であり、処理(207)による相対位置・姿勢の値は最終的な画像間の相対位置・姿勢として採用しないため(最終的な画像間相対位置・姿勢として採用するのは、後述する処理(210)の値である)、処理(208)による画像の配置は処理(209)を行うための仮配置(仮の位置合わせ)である。
処理(208)により同一座標系に仮配置された画像間の重複領域を算出する(209)。図8に処理(208)により仮配置された画像とその重複領域(801)を示す。この重複領域(801)に含まれる各占有グリッドに対応する方位と距離の実測値によって画像間の相対位置・姿勢を精密に算出する。ここでの画像間の相対位置と姿勢はIterative Closest Point(ICP)により算出する(210)。
図9において、横軸を位置・姿勢の解とし、縦軸を誤差とする座標系(901)において誤差の評価関数(902)を仮定した場合、単純に最小二乗法などにより位置と姿勢の解を求めようとした場合に局所解(904)を解として算出してしまう可能性があるが、前述のようにグリッド画像同士を仮配置して重複領域の値のみを用いることにより(図8に示す重複領域801以外のウインドウの計測値を採用しないことにより)、余分な計測値を間引き、画像間の位置・姿勢の最適解(903)がより求めやすくなる。換言すると、重複領域を一応確保した場合には、図9の横軸のO点より左のP点で解を求めることとなり、局所解(904)に落ち込むことなく最適解(903)が求められ得る。
次いで、処理(210)により算出された画像間の相対位置・姿勢にもとづいて各画像が重複するように1枚の画像を生成し、これを環境地図画像とする(211)。続いて生成された環境地図画像を表示する(212)。新たにセンサ値の入力がなければ(213)、プログラムは終了する(213)。
次に、図10を用いて本発明の地図画像生成装置に係る実施例の構成を説明する。本実施例は、プログラムにもとづいてデータの処理を行うメインプロセッサ(1001)、プログラムとデータを保持するメモリ等の主記憶(1009)とハードディスク等の補助記憶(1008)、ディスプレイ(1002)とグラフィックボード(1003)、障害物までの方位・距離の計測値の入力(102)を行うためのレーザー距離センサ(1004)とレーザー距離センサ制御ボード(1005)、センサを移動させるための台車となるロボット(1006)、ロボット制御ボード(1007)を備える。
図10に示す構成は、ハードウェア的には、プロセッサ、メモリ、その他のLSIで実現でき、ソフトウェア的にはメモリにロードされたプログラムなどによって実現されるが、図10にはそれらの連携によって実現される機能ブロックを記載している。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組み合わせによっていろいろな形で実現できるものである。
主記憶(1009)にて動作するプログラムとデータについて説明をする。オペレーティングシステム(1011)は、プログラムの実行等を管理する基本ソフトウェアである。方位と距離の計測値から環境地図画像を生成するプログラムとしては、全体の処理の流れを制御するメインプログラム(1012)、図1におけるレーザー距離センサ値取得(102)の処理に相当するレーザー距離センサ値取得プログラム(1013)、グリッド画像生成(103)の処理に相当するグリッド画像生成プログラム(1014)、グリッド画像の特徴点抽出(103)の処理に相当するグリッド画像特徴点抽出プログラム(1015)、グリッド画像の特徴点照合(105)の処理に相当するグリッド画像特徴点照合プログラム(1016)、グリッド画像間重複領域算出(106)の処理に相当するグリッド画像間重複領域算出プログラム(1017)、画像間相対位置と姿勢算出(107)の処理に相当する画像間相対位置・姿勢算出プログラム(1018)、環境地図画像生成(108)の処理に相当する環境地図画像生成プログラム(1019)、環境地図画像表示(109)の処理に相当する環境地図画像表示プログラム(1020)が存在する。
また、画像処理にあたって処理結果を保持する画像バッファ(1021)がある。また、補助記憶(1008)には主記憶(1009)に読み込まれる各種プログラム(1011〜1022)がプログラム(1010)として記憶されている。これらのプログラムは、メモリに読み込まれ、プロセッサによって実行されることによって処理が行われる。
各プログラムの処理について説明する。メインプログラム(1012)は図1〜図9に示したレーザー距離センサ値取得から環境地図画像の生成及び/又は表示までのプログラム全体の処理の流れを制御する。レーザー距離センサ値取得プログラム(1013)はレーザー距離センサ値取得(102)としてレーザー距離センサ制御ボード(1007)とレーザー距離センサ(1004)を制御することにより、レーザー距離センサにより得られる方位と距離の計測値を主記憶(1009)のバッファ(1021)に取り込む(図2の202)。なお、バッファ(1021)は以下における各種プログラムの作業領域としても用いられる。
次に、グリッド画像生成プログラム(1014)はレーザー距離センサ値取得(102)により取り込まれた方位・距離計測値よりグリッド画像の生成を行い(図2の処理203)、グリッド画像特徴点抽出プログラム(1015)は画像内の占有グリッドに設けたウィンドウ内のヒストグラムを特徴点として抽出し、ヒストグラムと座標を記録する(図2の処理204〜206)。
グリッド画像特徴点照合プログラム(1016)はグリッド画像間において特徴点のヒストグラムと座標の比較にもとづいた照合を行う(図2の処理207)。より具体的には、グリッド画像において選択した2つの特徴点を基準とした座標系を設定し、その座標系における他の特徴点の座標とヒストグラムをグリッド画像間で比較していき、画像間におけるヒストグラムの差と相対位置の差が閾値以下であれば特徴が一致するとみなし、一致する特徴点の数をカウントする。これにより最も一致率が高くなるようなグリッド画像間の相対位置と姿勢関係を算出する。
グリッド画像間重複領域算出プログラム(1017)はグリッド画像特徴点照合プログラム(1016)により得られた画像の特徴点の一致率が最大となるときの相対位置と姿勢に従って各グリッド画像を共通の座標系に仮配置し、仮配置された画像間で重複する領域を算出する。画像間相対位置・姿勢算出プログラム(1018)により重複領域に含まれる各グリッド画像の占有グリッドの方位と距離の実測値を用いてグリッド画像間の相対位置と姿勢を精密に算出する。
環境地図画像生成プログラム(1019)は求められた相対位置と姿勢に従って各グリッド画像を共通の座標系に配置し、環境地図画像を生成する。次いで環境地図画像表示プログラム(1020)は環境地図画像生成プログラム(1019)により生成された環境地図画像を表示する(図2の処理212)。
なお、前述した本発明の実施例の機能を実現するソフトウェアのプログラムを記録した記録媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のプロセッサが記録媒体に格納されたプログラムを読み出し実行することによっても、本発明の目的が達成されることはいうまでもない。
以上の説明においては、本発明の実施例として、特にレーザー距離センサを方位と距離の計測機器とする構成例を示したが、計測値を保存しているネットワーク上の記憶装置などから計測値を入力した場合でも、上述した構成例と同様の結果を得ることが可能である。また、複数回の環境の計測に伴うレーザー距離センサの移動方法についてはセンサをロボット以外の車両などに取り付けた場合、あるいはセンサを取り付けた三脚を人間が計測地点を変えるなどした場合においても類似した特徴が観測される範囲において計測地点を変えて計測を行うならば、同様の結果を得ることが可能である。また、本実施例では水平に180度の範囲内を走査するレーザー距離センサの例を示したが、走査範囲がより広い場合、また狭い場合においても同様の結果を得ることが可能である。
また、本発明の地図画像生成装置の産業応用の例としては、自動車や船舶などの移動物体に搭載されたレーザー距離センサにより撮影された複数回の方位と距離の計測値から、障害物が占有する領域を示す画像を生成し、1枚の環境地図の画像を自動的に生成及び/又は表示を行ったり、複数のレーザー距離センサを並べて得られる複数の画像から1枚の環境地図の画像を自動的に生成及び/又は表示することが可能となり、作業の省力化が期待できる。このように、本発明の実施例によれば、障害物の配置が未知の環境において、人力もしくは車両などの移動体によりレーザー距離センサを移動させながら一定の領域の計測を行っていくことにより、センサが移動した周囲の環境の地図を精度良く生成し、表示することが可能となる。
以上説明したように、本発明の特徴を取り纏めると、レーザー距離センサによる障害物までの方位と距離を複数回計測し、各計測により得られる障害物の位置を表す画像からヒストグラムによる特徴点を抽出し、各計測により生成される各画像の特徴点を計測前後の画像間で照合することにより画像間で共通する重複領域を算出し、この重複領域算出を元にして画像間の相対位置・姿勢を算出することによって、レーザー距離センサが移動した範囲の環境における障害物の位置を示す1枚の画像として生成し、表示するものである。
本発明の特徴について、敷衍して説明すると、障害物までの方位と距離の計測が可能なレーザー距離センサもしくはそれに類する機器、あるいは既に計測値が保存されている記憶装置を制御することにより計測値の入力を行い、入力された計測値から環境における障害物の占有位置を示す画像を生成し、複数回の計測に相当するそれぞれの画像における占有領域(占有グリッド)を中心とするある範囲(ウインドウ)を特徴点として抽出し、特徴点のヒストグラムと位置を記録し、特徴点のヒストグラムと特徴点同士の相対的な位置が類似するような特徴点を持つ画像間において、相対位置関係が保持されている特徴点のみを算出し、同じ特徴点を持つ画像間のおよその相対位置と姿勢を算出し、算出された相対位置と姿勢において画像同士を配置した場合に重複する領域を算出し、算出された重複領域に含まれる画像における占有領域(占有グリッド)のみを用いて各画像における占有領域(占有グリッド)間の距離の差の二乗が最小となるような相対位置と姿勢を精密に算出し、この相対位置と姿勢を画像間の相対位置と姿勢として、画像を重ね合わせて環境地図画像を生成し、表示するものである。
本発明の地図画像生成装置に係る実施例における処理の流れの概要を示す図である。 本実施例における全体の処理における詳細な流れを示す図である。 図2に示す全体の処理の流れの内でグリッド画像の特徴点照合に関する詳細な処理の流れを示す図である。 ロボットに搭載されたレーザ距離センサを用いて環境を走査している様子を示す図である。 図2に示す全体の処理の流れの内でグリッド画像生成に関わる処理とグリッド画像特徴点抽出に関する説明図である。 グリッド画像の特徴点のヒストグラムを表で示した図である。 図2に示す全体の処理の流れの内でグリッド画像特徴点照合に関する説明図である。 図2に示す全体の処理の流れの内でグリッド画像の仮配置と重複領域の算出に関する説明図である。 図8に示す仮配置したことによるグリッド画像間相対位置と姿勢算出時における効果を示す説明図である。 本発明の地図画像生成装置に係る実施例における全体構成を示す図である。
符号の説明
101 プログラムの開始処理
102 レーザー距離センサ値取得処理
103 グリッド画像生成処理
104 グリッド画像特徴点抽出処理
105 グリッド画像特徴点照合処理
106 グリッド画像間重複領域算出処理
107 グリッド画像間相対位置・姿勢算出処理
108 環境地図画像生成処理
109 環境地図画像表示処理
110 プログラムの終了処理
401 環境中の障害物
402 検出された障害物
403 移動後のロボット位置
404 走査範囲
405 移動前のロボット位置
501 実際の計測値
502 未知グリッド
503 占有グリッド
504 非占有グリッド
505 レーザ光線
506 ウインドウ
507 センサ配置位置

Claims (4)

  1. 障害物までの方位と距離を用いて前記距離センサ周囲の地図画像を生成する画像生成装置であって、
    前記距離センサを移動させて前記障害物までの方位と距離の計測値を前記移動の前後のそれぞれで取得し、
    前記計測値に基づいて前記距離センサの周囲における障害物の有無を、前記距離センサの分解能で決められたグリッド毎に割り当てられた占有(画像において障害物が占有)、非占有(画像において障害物が非占有)、未知(画像において障害物が占有しているかが未知)の状態によって表したグリッド画像を生成し、
    前記計測値でそれぞれ得られた各グリッド画像において、障害物で占有された状態のグリッドを中心として或る範囲を示すウインドウを設け、前記ウインドウ内のグリッドの状態を占有、非占有、未知で表した際の各状態の出現頻度をヒストグラムで表したときに、占有状態のグリッドが多くて障害物の有無が未知な状態のグリッドが少ないウインドウを特徴点として抽出し、
    現在の計測により求められたグリッド画像と前回の計測により求められたグリッド画像の2つのグリッド画像間において対応する前記特徴点の比較に際して、前記抽出された各グリッド画像の前記特徴点における占有グリッドの数と前記特徴点間の距離を各グリッド画像間で比較することで、各グリッド画像間の前記特徴点を照合し、
    前記照合の結果に基づいて特徴点の最も良く一致するグリッド画像間で重ね合わせてグリッド画像を仮配置し、
    前記仮配置したグリッド画像間において前記計測値によって前記グリッド画像間の相対位置と姿勢を演算して前記地図画像を生成する
    ことを特徴とする画像生成装置。
  2. 障害物までの方位と距離を計測可能なレーザー距離センサの計測値から前記レーザー距離センサ周囲の地図の画像を生成する画像生成装置であって、
    前記障害物までの方位と距離の計測値を取得可能なレーザー距離センサ値取得手段と、
    前記レーザー距離センサ値取得手段から取得された計測値に基づいて前記距離センサの周囲における障害物の有無を、前記距離センサの分解能で決められたグリッド毎に割り当てられた占有(画像において障害物が占有)、非占有(画像において障害物が非占有)、未知(画像において障害物が占有しているかが未知)の状態によって表したグリッド画像を生成するグリッド画像生成手段と、
    前記計測値でそれぞれ得られた各グリッド画像において、障害物で占有された状態のグリッドを中心として或る範囲を示すウインドウを設け、前記ウインドウ内のグリッドの状態を占有、非占有、未知で表した際の各状態の出現頻度をヒストグラムで表したときに、占有状態のグリッドが多くて障害物の有無が未知な状態のグリッドが少ないウインドウを特徴点として抽出するグリッド画像特徴点抽出手段と、
    現在の計測により求められたグリッド画像と前回の計測により求められたグリッド画像の2つのグリッド画像間において対応する前記特徴点の比較に際して、前記抽出された各グリッド画像の前記特徴点における占有グリッドの数と前記特徴点間の距離を各グリッド画像間で比較することで、各グリッド画像間の前記特徴点を照合するグリッド画像特徴点照合手段と、
    前記グリッド画像特徴点照合手段で得られた照合結果に基づきグリッド画像間の前記特徴点が最も良く一致するときの相対位置と姿勢に従って各グリッド画像を共通の座標系に重ね合わせて仮配置し、仮配置された各グリッド画像間で重複する領域を算出するグリッド画像間重複領域算出手段と、
    前記グリッド画像間重複領域算出手段で得られた前記重複領域に含まれる前記レーザー距離センサの計測値のみを用いてグリッド画像間の相対位置と姿勢を演算するグリッド画像相対位置・姿勢演算手段と、
    前記グリッド画像相対位置・姿勢演算手段で得られたグリッド画像間の相対位置と姿勢に従って複数の画像を1枚の画像に合成する地図画像生成手段と、を有する
    ことを特徴とする画像生成装置。
  3. レーザー距離センサによる複数回の計測値から環境における障害物の有無を示す地図を画像として生成する画像生成方法であって、
    レーザーにより前記障害物までの方位と距離の計測値を取得する取得工程と、
    前記取得工程から取得された前記計測値に基づいて前記レーザー距離センサの周囲における障害物の有無を、前記距離センサの分解能で決められたグリッド毎に割り当てられた占有(画像において障害物が占有)、非占有(画像において障害物が非占有)、未知(画像において障害物が占有しているかが未知)の状態によって表したグリッド画像を生成する生成工程と、
    前記生成工程でそれぞれ得られた各グリッド画像において、障害物で占有された状態のグリッドを中心として或る範囲を示すウインドウを設け、前記ウインドウ内のグリッドの状態を占有、非占有、未知で表した際の各状態の出現頻度をヒストグラムで表したときに、占有状態のグリッドが多くて障害物の有無が未知な状態のグリッドが少ないウインドウを特徴点として抽出する抽出工程と、
    現在の計測により求められたグリッド画像と前回の計測により求められたグリッド画像の2つのグリッド画像間において対応する前記特徴点の比較に際して、前記抽出工程で得られた各グリッド画像の前記特徴点における占有グリッドの数と前記特徴点間の距離を各グリッド画像間で比較し照合することで、各グリッド画像間で一致する前記特徴点の識別を行う識別工程と、
    前記識別工程で得られた照合結果に基づきグリッド画像間の前記特徴点が最も良く一致するときの相対位置と姿勢に従って各グリッド画像を共通の座標系に重ね合わせて仮配置し、仮配置された各グリッド画像間で重複する領域を算出する算出工程と、
    前記算出工程で得られた前記重複領域に含まれる前記レーザー距離センサの計測値のみを用いてグリッド画像間の相対位置と姿勢を演算する演算工程と、
    前記演算工程で得られたグリッド画像間の相対位置と姿勢に従って複数の画像を1枚の画像に合成する生成工程と、からなる
    ことを特徴とする画像生成方法。
  4. レーザーにより障害物までの方位と距離を計測可能なセンサの計測値からセンサ周囲の地図の画像を生成するコンピュータのプログラムであって、
    前記レーザーにより前記障害物までの方位と距離の計測値を取得する取得工程と、
    前記取得工程から取得された前記計測値に基づいて前記レーザー距離センサの周囲における障害物の有無を、前記距離センサの分解能で決められたグリッド毎に割り当てられた占有(画像において障害物が占有)、非占有(画像において障害物が非占有)、未知(画像において障害物が占有しているかが未知)の状態によって表したグリッド画像を生成する生成工程と、
    前記生成工程でそれぞれ得られた各グリッド画像において、障害物で占有された状態のグリッドを中心として或る範囲を示すウインドウを設け、前記ウインドウ内のグリッドの状態を占有、非占有、未知で表した際の各状態の出現頻度をヒストグラムで表したときに、占有状態のグリッドが多くて障害物の有無が未知な状態のグリッドが少ないウインドウを特徴点として抽出する抽出工程と、
    現在の計測により求められたグリッド画像と前回の計測により求められたグリッド画像の2つのグリッド画像間において対応する前記特徴点の比較に際して、前記抽出工程で得られた各グリッド画像の前記特徴点における占有グリッドの数と前記特徴点間の距離を各グリッド画像間で比較し照合することで、各グリッド画像間で一致する前記特徴点の識別を行う識別工程と、
    前記識別工程で得られた照合結果に基づきグリッド画像間の前記特徴点が最も良く一致するときの相対位置と姿勢に従って各グリッド画像を共通の座標系に重ね合わせて仮配置し、仮配置された各グリッド画像間で重複する領域を算出する算出工程と、
    前記算出工程で得られた前記重複領域に含まれる前記レーザー距離センサの計測値のみを用いてグリッド画像間の相対位置と姿勢を演算する演算工程と、
    前記演算工程で得られたグリッド画像間の相対位置と姿勢に従って複数の画像を1枚の画像に合成する生成工程と、を前記コンピュータに実行させる
    ことを特徴とする画像生成プログラム。
JP2004142336A 2004-05-12 2004-05-12 レーザー計測により地図画像を生成する装置及び方法 Expired - Fee Related JP4533659B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004142336A JP4533659B2 (ja) 2004-05-12 2004-05-12 レーザー計測により地図画像を生成する装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004142336A JP4533659B2 (ja) 2004-05-12 2004-05-12 レーザー計測により地図画像を生成する装置及び方法

Publications (2)

Publication Number Publication Date
JP2005326944A JP2005326944A (ja) 2005-11-24
JP4533659B2 true JP4533659B2 (ja) 2010-09-01

Family

ID=35473274

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004142336A Expired - Fee Related JP4533659B2 (ja) 2004-05-12 2004-05-12 レーザー計測により地図画像を生成する装置及び方法

Country Status (1)

Country Link
JP (1) JP4533659B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102097722B1 (ko) * 2019-03-25 2020-04-06 주식회사 트위니 빅셀그리드맵을 이용한 이동체의 자세 추정 방법, 이를 구현하기 위한 프로그램이 저장된 기록매체 및 이를 구현하기 위해 매체에 저장된 컴퓨터프로그램

Families Citing this family (38)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4375320B2 (ja) 2005-10-27 2009-12-02 株式会社日立製作所 移動ロボット
KR100772912B1 (ko) * 2006-05-16 2007-11-05 삼성전자주식회사 절대 방위각을 이용한 로봇 및 이를 이용한 맵 작성 방법
KR100843085B1 (ko) * 2006-06-20 2008-07-02 삼성전자주식회사 이동 로봇의 격자지도 작성 방법 및 장치와 이를 이용한영역 분리 방법 및 장치
KR100791386B1 (ko) 2006-08-18 2008-01-07 삼성전자주식회사 이동 로봇의 영역 분리 방법 및 장치
ES2322220B1 (es) * 2007-06-22 2010-03-24 Consejo Superior De Investigaciones Cientificas Dispositivo util para la generacion de mapas de contorno y sus aplicaciones.
US20090062974A1 (en) * 2007-09-03 2009-03-05 Junichi Tamamoto Autonomous Mobile Robot System
KR100881228B1 (ko) 2007-09-06 2009-02-05 포항공과대학교 산학협력단 초음파 센서를 이용한 물체 탐지 방법
JP5032953B2 (ja) * 2007-11-26 2012-09-26 パナソニック株式会社 自己位置認識システム
KR100917756B1 (ko) 2007-12-18 2009-09-15 한국전자통신연구원 도면을 이용한 격자지도 생성방법 및 장치
JP5018458B2 (ja) * 2007-12-25 2012-09-05 トヨタ自動車株式会社 座標補正方法、座標補正プログラム、及び自律移動ロボット
JP5349804B2 (ja) * 2008-01-10 2013-11-20 株式会社日立産機システム 移動ロボットシステム及びその制御方法
KR101437916B1 (ko) * 2008-01-14 2014-09-15 삼성전자주식회사 초음파 센서를 이용한 지도 작성 방법 및 이를 이용하는이동 로봇
US8351684B2 (en) * 2008-02-13 2013-01-08 Caterpillar Inc. Terrain map updating system
KR100949116B1 (ko) 2008-02-26 2010-03-23 삼성전자주식회사 이동 로봇의 위치 인식 및 지도 작성 방법
JP5215740B2 (ja) 2008-06-09 2013-06-19 株式会社日立製作所 移動ロボットシステム
US8825387B2 (en) * 2008-07-25 2014-09-02 Navteq B.V. Positioning open area maps
JP5304128B2 (ja) * 2008-09-16 2013-10-02 村田機械株式会社 環境地図修正装置及び自律移動装置
JP5216690B2 (ja) * 2009-06-01 2013-06-19 株式会社日立製作所 ロボット管理システム、ロボット管理端末、ロボット管理方法およびプログラム
KR101449218B1 (ko) * 2009-11-06 2014-10-08 가부시키가이샤 히타치세이사쿠쇼 이동 로봇 시스템
JP5205366B2 (ja) * 2009-12-25 2013-06-05 本田技研工業株式会社 移動可能領域抽出装置、移動可能領域抽出システム、移動可能領域抽出方法、およびプログラム
JP5068840B2 (ja) * 2010-03-30 2012-11-07 富士ソフト株式会社 ロボットのプログラム及び情報処理装置のプログラム
JP5206752B2 (ja) 2010-08-30 2013-06-12 株式会社デンソー 走行環境認識装置
FR2977023B1 (fr) * 2011-06-24 2014-02-21 Univ Angers Generation de donnees de carte
JP2013114329A (ja) * 2011-11-25 2013-06-10 Chiba Inst Of Technology 無人走行体を用いた環境情報の取得システム
US9123152B1 (en) * 2012-05-07 2015-09-01 Google Inc. Map reports from vehicles in the field
JP5728564B2 (ja) * 2013-12-20 2015-06-03 株式会社日立製作所 ロボットシステム及び地図更新方法
US9519061B2 (en) * 2014-12-26 2016-12-13 Here Global B.V. Geometric fingerprinting for localization of a device
JP5953393B2 (ja) * 2015-03-31 2016-07-20 株式会社日立製作所 ロボットシステム及び地図更新方法
JP6619967B2 (ja) * 2015-08-21 2019-12-11 シャープ株式会社 自律移動装置、自律移動システム及び環境地図評価方法
JP6559535B2 (ja) 2015-10-22 2019-08-14 株式会社東芝 障害物マップ生成装置、その方法、及び、そのプログラム
MY183262A (en) 2016-10-13 2021-02-18 Nissan Motor Parking assistance method and parking assistance device
RU2640311C1 (ru) * 2016-12-09 2017-12-27 Российская Федерация, от имени которой выступает Государственная корпорация по атомной энергии "Росатом" Способ поиска и обнаружения источников гамма-излучения в условиях неравномерного радиоактивного загрязнения
WO2018180175A1 (ja) * 2017-03-27 2018-10-04 日本電産株式会社 移動体、信号処理装置およびコンピュータプログラム
DE112017007479B4 (de) 2017-06-01 2021-05-20 Mitsubishi Electric Corporation Kartenverarbeitungseinrichtung, Kartenverarbeitungsverfahren und Kartenverarbeitungsprogramm
CN108508891B (zh) * 2018-03-19 2019-08-09 珠海市一微半导体有限公司 一种机器人重定位的方法
DE102018208277A1 (de) * 2018-05-25 2019-11-28 Robert Bosch Gmbh Trainingsverfahren für ein Fahrerassistenzverfahren, Fahrerassistenzverfahren, Steuergerät und Fahrzeug mit dem Steuergerät
JP7396618B2 (ja) * 2019-01-28 2023-12-12 株式会社データ変換研究所 移動体位置推定システム
JP7344743B2 (ja) * 2019-10-09 2023-09-14 日産自動車株式会社 占有マップの作成方法、及び、占有マップの作成装置

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3395393B2 (ja) * 1994-08-05 2003-04-14 日産自動車株式会社 車両周囲表示装置
JP2000181541A (ja) * 1998-12-21 2000-06-30 Komatsu Ltd 自走式車輌
JP2001334897A (ja) * 2000-05-25 2001-12-04 Daihatsu Motor Co Ltd 駐車支援装置及びその制御方法
JP2002342754A (ja) * 2001-05-21 2002-11-29 Nippon Telegr & Teleph Corp <Ntt> モザイク画像合成方法、モザイク画像合成装置、モザイク画像合成プログラム及びこのプログラムを記録した記録媒体
JP2003015739A (ja) * 2001-07-02 2003-01-17 Yaskawa Electric Corp 外環境地図、並びに自己位置同定装置および誘導制御装置
JP4016180B2 (ja) * 2002-03-15 2007-12-05 ソニー株式会社 平面抽出方法、その装置、そのプログラム、その記録媒体及び撮像装置
JP2003266345A (ja) * 2002-03-18 2003-09-24 Sony Corp 経路計画装置、経路計画方法及び経路計画プログラム並びに移動型ロボット装置
JP2003266349A (ja) * 2002-03-18 2003-09-24 Sony Corp 位置認識方法、その装置、そのプログラム、その記録媒体及び位置認識装置搭載型ロボット装置
JP4184703B2 (ja) * 2002-04-24 2008-11-19 大日本印刷株式会社 画像修正方法およびシステム
JP2004110802A (ja) * 2002-08-26 2004-04-08 Sony Corp 環境同定装置、環境同定方法、プログラム及び記録媒体、並びにロボット装置
JP3994950B2 (ja) * 2003-09-19 2007-10-24 ソニー株式会社 環境認識装置及び方法、経路計画装置及び方法、並びにロボット装置
JP4264009B2 (ja) * 2004-01-23 2009-05-13 シャープ株式会社 自走式掃除機
US20050190991A1 (en) * 2004-02-27 2005-09-01 Intergraph Software Technologies Company Forming a single image from overlapping images

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102097722B1 (ko) * 2019-03-25 2020-04-06 주식회사 트위니 빅셀그리드맵을 이용한 이동체의 자세 추정 방법, 이를 구현하기 위한 프로그램이 저장된 기록매체 및 이를 구현하기 위해 매체에 저장된 컴퓨터프로그램
WO2020197126A1 (ko) * 2019-03-25 2020-10-01 주식회사 트위니 빅셀그리드맵을 이용한 이동체의 자세 추정 방법, 이를 구현하기 위한 프로그램이 저장된 기록매체 및 이를 구현하기 위해 매체에 저장된 컴퓨터프로그램

Also Published As

Publication number Publication date
JP2005326944A (ja) 2005-11-24

Similar Documents

Publication Publication Date Title
JP4533659B2 (ja) レーザー計測により地図画像を生成する装置及び方法
US7864302B2 (en) Method for detecting objects with a pivotable sensor device
JP4788722B2 (ja) 自律移動ロボット、自己位置推定方法、環境地図の生成方法、環境地図の生成装置、及び環境地図のデータ構造
KR20160003776A (ko) 자세 추정 방법 및 로봇
JP6855491B2 (ja) ロボットシステム、ロボットシステム制御装置、およびロボットシステム制御方法
US12455354B2 (en) Autonomous mobile aircraft inspection system
WO2013049597A1 (en) Method and system for three dimensional mapping of an environment
JP5069439B2 (ja) 自己位置認識システム
Shim et al. A mobile robot localization using external surveillance cameras at indoor
CN110000793A (zh) 一种机器人运动控制方法、装置、存储介质和机器人
JP2022074331A (ja) 状態判定装置、状態判定システム及び状態判定方法
JP5212939B2 (ja) 自律移動装置
KR101735325B1 (ko) 점군 정합 장치
JP2021047516A (ja) 情報処理装置、座標変換システム、座標変換方法、及び座標変換プログラム
JP3516668B2 (ja) 3次元形状認識方法、装置およびプログラム
JP7278637B2 (ja) 自走式移動装置
CN118518116A (zh) 一种基于机器视觉的锚穴自动对中定位管理方法及系统
JPH10128686A (ja) ロボットマニピュレータの制御方法およびロボットマニピュレータの制御装置
ELzaiady et al. Next-best-view planning for environment exploration and 3D model construction
JP4793109B2 (ja) 物体検出法およびロボット
JP7451165B2 (ja) 走行位置検証システム、走行位置計測システム及び走行位置補正システム
JP2020004231A (ja) 自律移動装置、自律移動プログラム及び位置推定システム
EP4220080B1 (en) Method for ascertaining suitable positioning of measuring devices and simplified moving in measuring areas using vis data and reference trajectories
JP6670712B2 (ja) 自己位置推定装置、移動体及び自己位置推定方法
JP7543244B2 (ja) 位置検出装置及び位置検出方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061006

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090925

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20091027

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20091225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100413

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100506

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100525

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100614

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130618

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees