Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4253239B2 - 画像認識を用いた航法装置 - Google Patents
[go: Go Back, main page]

JP4253239B2 - 画像認識を用いた航法装置 - Google Patents

画像認識を用いた航法装置 Download PDF

Info

Publication number
JP4253239B2
JP4253239B2 JP2003348452A JP2003348452A JP4253239B2 JP 4253239 B2 JP4253239 B2 JP 4253239B2 JP 2003348452 A JP2003348452 A JP 2003348452A JP 2003348452 A JP2003348452 A JP 2003348452A JP 4253239 B2 JP4253239 B2 JP 4253239B2
Authority
JP
Japan
Prior art keywords
aircraft
navigation
acceleration
information
target point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003348452A
Other languages
English (en)
Other versions
JP2005115623A (ja
Inventor
章弘 山根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Subaru Corp
Original Assignee
Fuji Jukogyo KK
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Jukogyo KK filed Critical Fuji Jukogyo KK
Priority to JP2003348452A priority Critical patent/JP4253239B2/ja
Priority to US10/957,622 priority patent/US7373242B2/en
Publication of JP2005115623A publication Critical patent/JP2005115623A/ja
Application granted granted Critical
Publication of JP4253239B2 publication Critical patent/JP4253239B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/005Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 with correlation of navigation data from several sources, e.g. map or contour matching
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/10Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
    • G01C21/12Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
    • G01C21/16Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
    • G01C21/165Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments
    • G01C21/1656Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments with passive imaging devices, e.g. cameras
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/04Control of altitude or depth
    • G05D1/06Rate of change of altitude or depth
    • G05D1/0607Rate of change of altitude or depth specially adapted for aircraft
    • G05D1/0653Rate of change of altitude or depth specially adapted for aircraft during a phase of take-off or landing
    • G05D1/0676Rate of change of altitude or depth specially adapted for aircraft during a phase of take-off or landing specially adapted for landing
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/08Control of attitude, i.e. control of roll, pitch, or yaw
    • G05D1/0808Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for aircraft
    • G05D1/0858Control of attitude, i.e. control of roll, pitch, or yaw specially adapted for aircraft specially adapted for vertical take-off of aircraft

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Multimedia (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、画像認識を用いた航法装置に関する。
現在、ヘリコプタ等の垂直離着陸式の航空機をヘリポートや艦船に着地(着船)させるための誘導技術が種々提案されている。
例えば、ヘリコプタから発する音波をマイクロフォンで検出し、この音波に係る電気信号に基づいてヘリコプタの位置を算出し、算出結果をヘリコプタに送信して所定の目標地点にヘリコプタを誘導する技術が提案されている(特許文献1参照。)。また、地上に設置されたミリ波レーダ装置やステレオカメラ装置を用いて飛行体の位置情報を取得し、この位置情報を用いて所定の目標地点に飛行体を誘導する技術も提案されている(特許文献2参照。)。
また、近年においては、RTK−GPS等のDGPSを用いて、所定の目標地点に対する機体の相対的な位置情報を正確に計測し、この正確な位置情報に基づいて、慣性センサで取得した位置情報を補正する「DGPS/INS複合航法装置」が開発されている。かかる複合航法装置を使用することにより、所定の目標地点に機体を正確に誘導することが可能となる。
特開平8−7199号公報(第1頁、第1図) 特開平11−72558号公報(第1頁、第1図)
しかし、特許文献1又は特許文献2に記載の技術を採用すると、マイクロフォン、ミリ波レーダ装置、ステレオカメラ装置等の誘導制御用の地上設備を所定の目標地点近傍に事前に設置する必要がある。従って、これら誘導制御用の地上設備が設置されていない地点には、機体を誘導することができないという問題がある。
また、前記したDGPS/INS複合航法装置を用いた誘導技術においては、目標地点の位置情報と機体の位置情報との差分を、機体誘導用の相対位置情報として使用するため、目標地点の絶対座標を事前に計測しておく必要があり、この絶対座標の計測に手間や時間を要してしまう。また、DGPS用の補正情報を機体に向けて送信するGPS基地局を地上に設置する必要があるため、システム構成が複雑となる。さらに、DGPS解の収束を待つために、着陸前に目標地点近傍の空中でホバリングや低速飛行を行う必要がある。このため、飛行時間が長くなるとともに不要な燃料を消費してしまうという問題がある。
本発明の課題は、誘導制御用の地上設備やDGPSを用いることなく、所定の目標地点に対する機体の位置情報を精度良くかつ迅速に取得することができる航法装置を提供することである。
以上の課題を解決するために、請求項1に記載の発明は、画像認識を用いた航法装置であって、目標地点のステレオ画像を取得する撮像手段と、機体の姿勢角及び加速度を計測する慣性情報検出手段と、前記ステレオ画像及び前記姿勢角に基づいて前記目標地点に対する機体の相対位置を算出する画像処理演算手段と、前記加速度を積分して機体位置を算出し、前記相対位置と前記機体位置とを比較して位置誤差を算出し、前記加速度及び前記位置誤差に基づいて航法情報を生成し出力する航法演算手段と、を備えることを特徴とする。
請求項1に記載の発明によれば、画像処理演算手段は、撮像手段で取得した所定の目標地点の画像情報を処理することにより、目標地点に対する機体の相対位置を算出する。また、航法演算手段は、慣性情報検出手段で計測した機体の姿勢角及び加速度と、画像処理演算手段で算出した機体の相対位置と、に基づいて、航法情報(機体の位置情報等)を生成して出力する。すなわち、慣性情報検出手段で計測した機体の加速度を積分して算出したバイアス誤差を有する情報を、画像認識処理を用いて算出した比較的正確な機体の相対位置に係る情報を用いて補正して、より妥当な航法情報を算出することができる。
従って、所定の目標地点近傍にマイクロフォンやミリ波レーダ装置等の誘導制御用の地上設備を設置することなく、機体単独で、航法情報を精度良く取得することができる。この結果、誘導制御用の地上設備が設置されていない地点にも、機体を正確に誘導することができる。また、DGPSを用いることなく、機体単独で、航法情報を精度良く取得することができるので、目標地点の絶対座標の計測が不要となるため、絶対座標の計測に要していた手間や時間を削減することができる。また、GPS受信機の設置が不要となるのでシステム構成を簡素化することができ、さらに、DGPS解の収束を待つ必要がないので、航法情報を迅速に取得することができ、飛行時間を短縮するとともに燃料を節減することができる。
請求項2に記載の発明は、請求項1に記載の画像認識を用いた航法装置において、前記航法演算手段は、加速度を積分して速度を算出する速度算出部と、前記速度を積分して機体位置を算出する位置算出部と、前記相対位置と前記機体位置とを比較して位置誤差を算出する位置誤差算出部と、前記位置誤差に基づいて、前記加速度と前記速度と前記機体位置とを補正する補正値を算出する誤差推定フィルタと、を備え、前記補正値に基づいて補正した補正後の速度及び機体位置を前記航法情報として出力することを特徴とする。
本発明によれば、画像処理演算手段で算出した比較的正確な機体の相対位置を用いて、慣性情報検出手段で計測した機体の加速度を積分して算出したバイアス誤差を有する情報を補正して、より妥当な航法情報(機体の位置情報等)を算出するので、誘導制御用の地上設備やDGPSを用いることなく、機体単独で、目標地点に対する航法情報を精度良くかつ迅速に取得することができる。この結果、誘導制御用の地上設備が設置されていない地点にも機体を正確に誘導することができる。また、絶対座標の計測に要していた手間や時間を削減することができ、なおかつ、システム構成を簡素化することができる。また、飛行時間を短縮するとともに燃料を節減することができる。
以下、本発明の実施の形態を、図を用いて詳細に説明する。
なお、本発明の実施の形態に係る画像認識を用いた航法装置10は、有人のヘリコプタ1(図2(b)、(c)参照)に搭載されるものとする。ヘリコプタ1には、本実施の形態に係る航法装置10のほかに、GPS衛星から位置情報を受信するGPS受信機や、航法装置10から出力される位置情報等(航法出力)を受けて自動操縦を行う自動操縦装置等が搭載されている。
まず、図1から図3を用いて、本実施の形態に係る航法装置10の構成について説明する。
航法装置10は、ヘリコプタ1(図2(b)参照)の機体2の下方に固定されるステレオカメラ11、機体2の加速度及び姿勢角を計測する慣性センサ12、ステレオカメラ11で取得した目標地点の画像情報の処理を行う画像処理部13、画像処理部13により算出された目標地点の位置情報に基づいて、目標地点に対する機体2の相対位置情報を算出する画像位置演算部14、慣性センサ12で計測した機体2の加速度に基づいて、機体2の位置情報を算出する航法演算部15、等を備えて構成されている(図1参照)。
ステレオカメラ11は、図1に示すように、ヘリコプタ1を着陸させる目標地点(例えば着陸地点標識A)近傍の画像情報を取得するものであり、本発明における撮像手段である。慣性センサ12は、複数のジャイロ及び加速度計を有しており、機体2の姿勢角(ロール角φ、ピッチ角θ、ヨー角ψ)及び加速度を計測するものであり、本発明における慣性情報検出手段である。なお、慣性センサ12で計測される加速度は、機体固定座標系における加速度である。
画像処理部13は、ステレオカメラ11で取得した目標地点近傍の画像情報を処理して、画面上における目標地点の中心位置座標を算出する。具体的には、図2(a)に示すように、所定の画面の中心を原点とする座標系(IJ座標系)を設定し、目標地点の中心位置の座標(I、J)を求める。また、画像処理部13は、ステレオカメラ11で取得した目標地点近傍の画像情報をステレオ処理することにより、ステレオカメラ11から目標地点までの距離を算出する(図2(b)参照)。
画像位置演算部14は、慣性センサ12で計測された機体2の姿勢角と、画像処理部13により算出された目標地点までの距離と、に基づいて、目標地点に対する機体2の相対位置を算出する。ここで、画像位置演算部14による機体2の相対位置の算出方法について具体的に説明する。
まず、画像位置演算部14は、画像処理部13により算出された目標地点の画面内における画素位置(I、J)(=画面中心からの画素数)及び機体2の高度Hからなるパラメータ(I、J、H)を、以下のような式(A)を用いて、機体固定座標系における位置座標(XC、YC、ZC)(=機体からの距離)に変換する。なお、機体固定座標系とは、ステレオカメラ11のカメラ視軸方向(機体2の下方)にZC軸をとり、ステレオカメラ11の画面上方(機体2の前方)にXC軸をとり、ステレオカメラ11の画面右方向(機体2の右舷方向)にYC軸をとった3次元座標系である(図2(b)参照)。
Figure 0004253239
式(A)において、「K1」及び「K2」は、ステレオカメラ11の視野角によって決定される係数であり、以下のような式(B)及び式(C)で算出される。
Figure 0004253239
Figure 0004253239
式(B)及び式(C)において、αJ及びαIは、各々J方向及びI方向におけるステレオカメラ11の視野角の大きさである。
次いで、画像位置演算部14は、式(A)により算出された目標地点の機体固定座標系における位置座標(XC、YC、ZC)を、以下のような式(D)を用いて、慣性座標系における位置座標(XE、YE、ZE)に変換する。なお、慣性座標系とは、ステレオカメラ11の中心を原点として、北の方向にXE軸をとり、東の方向にYE軸をとり、鉛直下方にZE軸をとった3次元座標系である(図2(c)参照)。慣性座標系の原点は、機体2とともに移動する。
Figure 0004253239
続いて、画像位置演算部14は、式(D)により算出された目標地点の慣性座標系における位置座標(XE、YE、ZE)の符号を逆にすることにより、目標地点の中心を原点とした地球固定座標系における機体2の相対位置座標(X、Y、Z)を得る(式(E)参照)。なお、地球固定座標系とは、目標地点の中心を原点として、北の方向にX軸をとり、東の方向にY軸をとり、鉛直下方にZ軸をとった3次元座標系である(図2(c)参照)。
Figure 0004253239
ここで、地球固定座標系のZ軸は鉛直下方が正となるので、Z軸座標の符号を逆にすることにより、機体2の高度Hが得られる(図2(c)及び式(F)参照)。
Figure 0004253239
以上の工程を経て算出された(X、Y、H)は、目標地点に対する機体2の相対位置である。なお、画像処理部13及び画像位置演算部14は、本発明における画像処理演算手段を構成する。
航法演算部15は、図3に示すように、座標変換部15a、第1積分器15b及び第2積分器15cを有している。座標変換部15aは、慣性センサ12で計測した機体2の機体固定座標系における加速度を、慣性座標系における加速度に変換するものである。第1積分器15bは、座標変換部15aで得た慣性座標系における加速度を積分して機体2の速度を算出するものであり、本発明における速度算出部である。第2積分器15cは、第1積分器15bで算出した速度を積分して機体2の位置を算出するものであり、本発明における位置算出部である。これら座標変換部15a、第1積分器15b及び第2積分器15cにより、慣性センサ12で計測した加速度に基づいて目標地点に対する機体2の速度及び位置を算出することができる。
また、航法演算部15は、図3に示すように、位置誤差算出部15d及び誤差推定フィルタ15eを有している。位置誤差算出部15dは、画像位置演算部14で算出した機体2の相対位置と、第2積分器15cで算出した機体2の位置と、の差分(位置誤差)を算出するものである。誤差推定フィルタ15eは、位置誤差算出部15dで算出した位置誤差の入力を受けて、第2積分器15cで算出した機体2の位置等を補正するための補正値を出力するものである。誤差推定フィルタ15eとしては、線形フィルタやカルマン・フィルタを採用することができる。これら位置誤差算出部15d及び誤差推定フィルタ15eにより、慣性センサ12で計測した加速度に基づいて算出した機体2の位置等を、画像位置演算部14で算出した機体2の相対位置を用いて補正する。
次に、本実施の形態に係る航法装置10を用いたヘリコプタ1の自動着陸動作について説明する。本実施の形態においては、ヘリポートの着陸地点標識A(目標地点)にヘリコプタ1を自動着陸させることとする。
まず、操縦者は、ヘリコプタ1に搭載された自動操縦装置により、機体2を着陸地点標識A近傍の上空まで飛行させる。この際、ヘリコプタ1の航法演算部15は、慣性センサ12で計測した加速度に基づいて算出した機体2の速度及び位置を、GPS衛星から送信される速度及び位置に係る情報によって補正している。
次いで、ヘリコプタ1が着陸地点標識A近傍の上空に到達し、着陸地点標識Aの画像が取得可能となると、ステレオカメラ11は着陸地点標識Aの画像情報を自動的に取得する。
すると、画像処理部13は、この画像情報を処理して、着陸地点標識Aの中心位置の座標(I、J)と、機体2の高度Hと、からなるパラメータ(I、J、H)を算出する(図2(a)、(b)参照)。なお、本実施の形態においては、60画素×80画素の画面を例として用いており、着陸地点標識Aの中心位置の座標は(I、J)=(15画素、14画素)と算出されたものとする。
画像処理部13で算出したパラメータ(I、J、H)が画像位置演算部14に伝送されると、画像位置演算部14は、このパラメータ(I、J、H)に基づいて、着陸地点標識Aに対する機体2の相対位置(X、Y、H)を算出する(図2(c)参照)。
画像位置演算部14での算出結果が航法演算部15に伝送されると、航法演算部15の位置誤差算出部15dは、画像位置演算部14で算出した機体2の相対位置(X、Y、H)と、慣性センサ12で計測した加速度に基づいて算出した機体2の位置と、の差分(位置誤差dP)を算出する(図3参照)。そして、航法演算部15の誤差推定フィルタ15eは、位置誤差dPに基づいて、加速度誤差補正値ΔA、速度誤差補正値ΔV及び位置誤
差補正値ΔPを出力する(図3参照)。
これら加速度誤差補正値ΔA、速度誤差補正値ΔV及び位置誤差補正値ΔPにより、慣
性センサ12で計測した加速度と、積分演算で算出した速度及び位置と、が補正される。この結果、高精度な航法出力(着陸地点標識Aに対する機体2の速度及び位置に係る情報)が航法演算部15から自動操縦装置に伝送される。
その後、自動操縦装置は、航法演算部15からの高精度な航法出力を受けて、機体2の位置、高度、降下率等を制御しながら機体2を降下させて、ヘリコプタ1を着陸地点標識Aに着陸させる。なお、このときの着陸方法としては、本願発明者が既に出願した方法(例えば、特願2002−295174号参照)を採用することができる。
以上説明した実施の形態に係る航法装置10においては、慣性センサ12で計測した姿勢角と、ステレオカメラ11で取得した着陸地点標識Aの画像情報と、に基づいて、画像位置演算部14で着陸地点標識Aに対する機体2の相対位置(X、Y、H)を算出する。また、慣性センサ12で計測した機体2の加速度に基づいて、積分演算により機体2の位置を算出する。そして、画像位置演算部14で算出した機体2の相対位置(X、Y、H)を用いて、積分演算により算出した機体2の位置を補正する。すなわち、積分演算により算出したバイアス誤差を有する位置に係る情報を、画像認識を用いて算出した比較的正確な相対位置に係る情報を用いて補正することができる。
従って、着陸地点標識Aの近傍にマイクロフォンやミリ波レーダ装置等の誘導制御用の地上設備が設置されていない場合でも、航法情報(機体2の位置に係る情報)を精度良く取得することができ、機体2を正確に誘導して着陸させることができる。また、DGPSを用いることなく、航法情報を精度良く取得することができるので、着陸地点標識Aの絶対座標の計測が不要となるため、絶対座標の計測に要していた手間や時間を削減することができる。また、DGPS解の収束を待つ必要がないので、航法情報を迅速に取得することができ、飛行時間を短縮するとともに燃料を節減することができる。
なお、以上説明した実施の形態においては、ヘリコプタ1を所定の目標地点(ヘリポートの着陸地点標識A)に自動着陸させる際に航法装置10を用いた例を示したが、本実施の形態に係る航法装置10を用いて、所定の目標地点からヘリコプタ1を自動離陸させることもできる。また、定点上に所定高度でヘリコプタ1をホバリングさせる際にも、本発明に係る航法装置を用いることができる。
また、以上の実施の形態においては、本発明に係る航法装置をヘリコプタ1に搭載した例を示したが、垂直離着陸可能な他の航空機に本発明に係る航法装置を搭載した場合においても、同様の効果を得ることができる。
本発明の実施の形態に係る航法装置の全体構成を説明するためのブロック図である。 (a)は、図1に示した航法装置の画像処理部による画像処理を説明するための説明図であり、(b)、(c)は、図1に示した航法装置の画像処理演算部による位置座標算出処理を説明するための説明図である。 図1に示した航法装置の航法演算部の構成を説明するためのブロック図である。
符号の説明
2 機体
10 航法装置
11 ステレオカメラ(撮像手段)
12 慣性センサ(慣性情報検出手段)
13 画像処理部(画像処理演算手段)
14 画像位置演算部(画像処理演算手段)
15 航法演算部(航法演算手段)
15b 第1積分器(速度算出部)
15c 第2積分器(位置演算部)
A 着陸地点標識(目標地点)

Claims (2)

  1. 目標地点のステレオ画像を取得する撮像手段と、
    機体の姿勢角及び加速度を計測する慣性情報検出手段と、
    前記ステレオ画像及び前記姿勢角に基づいて前記目標地点に対する機体の相対位置を算出する画像処理演算手段と、
    前記加速度を積分して機体位置を算出し、前記相対位置と前記機体位置とを比較して位置誤差を算出し、前記加速度及び前記位置誤差に基づいて航法情報を算出する航法演算手段と、
    を備えることを特徴とする画像認識を用いた航法装置。
  2. 前記航法演算手段は、
    加速度を積分して速度を算出する速度算出部と、
    前記速度を積分して機体位置を算出する位置算出部と
    記相対位置と前記機体位置とを比較して位置誤差を算出する位置誤差算出部と、
    前記位置誤差に基づいて、前記加速度と前記速度と前記機体位置とを補正する補正値を算出する誤差推定フィルタと、を備え、
    前記補正値に基づいて補正した補正後の速度及び機体位置を前記航法情報として出力することを特徴とする請求項1に記載の画像認識を用いた航法装置。
JP2003348452A 2003-10-07 2003-10-07 画像認識を用いた航法装置 Expired - Fee Related JP4253239B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003348452A JP4253239B2 (ja) 2003-10-07 2003-10-07 画像認識を用いた航法装置
US10/957,622 US7373242B2 (en) 2003-10-07 2004-10-05 Navigation apparatus and navigation method with image recognition

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003348452A JP4253239B2 (ja) 2003-10-07 2003-10-07 画像認識を用いた航法装置

Publications (2)

Publication Number Publication Date
JP2005115623A JP2005115623A (ja) 2005-04-28
JP4253239B2 true JP4253239B2 (ja) 2009-04-08

Family

ID=34540644

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003348452A Expired - Fee Related JP4253239B2 (ja) 2003-10-07 2003-10-07 画像認識を用いた航法装置

Country Status (2)

Country Link
US (1) US7373242B2 (ja)
JP (1) JP4253239B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2433867A2 (en) 2010-09-28 2012-03-28 Kabushiki Kaisha Topcon Automatic take-off and landing system
EP2518580A2 (en) 2011-04-28 2012-10-31 Kabushiki Kaisha TOPCON Taking-off and landing target instrument and automatic taking-off and landing system
US8666571B2 (en) 2011-01-04 2014-03-04 Kabushiki Kaisha Topcon Flight control system for flying object
US8953933B2 (en) 2012-10-31 2015-02-10 Kabushiki Kaisha Topcon Aerial photogrammetry and aerial photogrammetric system
US9007461B2 (en) 2011-11-24 2015-04-14 Kabushiki Kaisha Topcon Aerial photograph image pickup method and aerial photograph image pickup apparatus
US9013576B2 (en) 2011-05-23 2015-04-21 Kabushiki Kaisha Topcon Aerial photograph image pickup method and aerial photograph image pickup apparatus
US9609282B2 (en) 2012-08-24 2017-03-28 Kabushiki Kaisha Topcon Camera for photogrammetry and aerial photographic device
JP2018021865A (ja) * 2016-08-05 2018-02-08 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 移動体、移動体の制御方法、移動体を制御するプログラム、制御システム、及び情報処理装置
US10983535B2 (en) 2016-08-05 2021-04-20 SZ DJI Technology Co., Ltd. System and method for positioning a movable object

Families Citing this family (88)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8947347B2 (en) * 2003-08-27 2015-02-03 Sony Computer Entertainment Inc. Controlling actions in a video game unit
US8797260B2 (en) 2002-07-27 2014-08-05 Sony Computer Entertainment Inc. Inertially trackable hand-held controller
US10086282B2 (en) 2002-07-27 2018-10-02 Sony Interactive Entertainment Inc. Tracking device for use in obtaining information for controlling game program execution
US7541974B2 (en) 2005-12-15 2009-06-02 Trimble Navigation Limited Managed traverse system and method to acquire accurate survey data in absence of precise GPS data
US8949011B2 (en) * 2005-09-14 2015-02-03 Novatel Inc. Helicopter ship board landing system
US7890260B2 (en) * 2005-11-01 2011-02-15 Honeywell International Inc. Navigation system with minimal on-board processing
US20080077284A1 (en) * 2006-04-19 2008-03-27 Swope John M System for position and velocity sense of an aircraft
KR101409627B1 (ko) * 2006-06-02 2014-06-18 씨더블유에프 해밀턴 앤드 컴퍼니 리미티드 해양 선박의 제어와 관련된 개선
US7693617B2 (en) * 2006-09-19 2010-04-06 The Boeing Company Aircraft precision approach control
DE112007003284T5 (de) * 2007-01-26 2009-12-24 Trimble Jena Gmbh Optisches Instrument und Verfahren zum Erhalten von Abstands- und Bildinformation
DE102007019808A1 (de) * 2007-04-26 2009-06-18 Esg Elektroniksystem- Und Logistik-Gmbh Landehilfesystem für senkrecht startende und landende Luftfahrzeuge, insbesondere Helikopter
CN101720476B (zh) * 2007-07-02 2013-06-05 特里伯耶拿有限公司 用于测量物体距离的特征检测装置和方法
US8255153B2 (en) * 2008-01-23 2012-08-28 Honeywell International Inc. Automatic alerting method and system for aerial vehicle target tracking
DE112008003743T5 (de) * 2008-02-28 2011-02-24 Inpho Gmbh Bildverarbeitungs-Verfahren, -Vorrichtung und -Einheit
US9189858B2 (en) 2008-02-29 2015-11-17 Trimble Ab Determining coordinates of a target in relation to a survey instrument having at least two cameras
US8897482B2 (en) 2008-02-29 2014-11-25 Trimble Ab Stereo photogrammetry from a single station using a surveying instrument with an eccentric camera
FR2937010B1 (fr) * 2008-10-13 2010-12-10 Dcns Procede et systeme de controle de l'appontage/decollage automatique d'un drone sur ou d'une grille circulaire d'appontage d'une plate-forme notamment navale
US20100164789A1 (en) * 2008-12-30 2010-07-01 Gm Global Technology Operations, Inc. Measurement Level Integration of GPS and Other Range and Bearing Measurement-Capable Sensors for Ubiquitous Positioning Capability
DE112010000812B4 (de) 2009-01-08 2024-11-28 Trimble Inc. (n.d.Ges.d.Staates Delaware) Verfahren und Vorrichtung zum Bestimmen eines Azimuts eines Zielpunktes
US7991575B2 (en) * 2009-01-08 2011-08-02 Trimble Navigation Limited Method and system for measuring angles based on 360 degree images
US8379929B2 (en) 2009-01-08 2013-02-19 Trimble Navigation Limited Methods and apparatus for performing angular measurements
US9057609B2 (en) * 2009-03-27 2015-06-16 National University Of Defense Technology Ground-based camera surveying and guiding method for aircraft landing and unmanned aerial vehicle recovery
EP2440982A4 (en) * 2009-06-12 2016-08-10 Saab Ab CENTERING OVER A PRE-DEFINED AREA OF A LAND AREA
US8773465B2 (en) * 2009-09-11 2014-07-08 Trimble Navigation Limited Methods and apparatus for providing navigational information associated with locations of objects
TWI397671B (zh) * 2009-12-16 2013-06-01 Ind Tech Res Inst 定位載體、估測載體姿態與建地圖之系統與方法
DE102009060901A1 (de) * 2009-12-31 2011-07-07 Deutsches Zentrum für Luft- und Raumfahrt e.V., 51147 Landehilfseinrichtung
KR20110080775A (ko) * 2010-01-07 2011-07-13 한국항공우주연구원 고도 측정 장치 및 방법
WO2011163454A1 (en) 2010-06-25 2011-12-29 Trimble Navigation Ltd. Method and apparatus for image-based positioning
US9182229B2 (en) 2010-12-23 2015-11-10 Trimble Navigation Limited Enhanced position measurement systems and methods
US10168153B2 (en) 2010-12-23 2019-01-01 Trimble Inc. Enhanced position measurement systems and methods
US9879993B2 (en) 2010-12-23 2018-01-30 Trimble Inc. Enhanced bundle adjustment techniques
US8363928B1 (en) 2010-12-24 2013-01-29 Trimble Navigation Ltd. General orientation positioning system
US9810533B2 (en) 2011-04-27 2017-11-07 Trimble Inc. Railway track monitoring
US9134127B2 (en) 2011-06-24 2015-09-15 Trimble Navigation Limited Determining tilt angle and tilt direction using image processing
US9109889B2 (en) 2011-06-24 2015-08-18 Trimble Navigation Limited Determining tilt angle and tilt direction using image processing
US9354045B1 (en) 2011-10-01 2016-05-31 Trimble Navigation Limited Image based angle sensor
CN102436261B (zh) * 2011-12-05 2014-04-30 北京航空航天大学 基于单目摄像头和led的机器人对接定位和导航方法
IL217501A (en) * 2012-01-12 2017-09-28 Israel Aerospace Ind Ltd A method and system for maneuvering aircraft
US8810435B2 (en) 2012-06-28 2014-08-19 Honeywell International Inc. Apparatus and method for displaying a helicopter approach to an airport landing pad
KR101709812B1 (ko) * 2012-09-13 2017-02-23 한국전자통신연구원 수직이착륙기의 착륙을 지원하는 지능형 헬리패드, 상기 지능형 헬리패드를 포함하는 시스템 및 방법
US8918234B2 (en) * 2012-09-17 2014-12-23 Bell Helicopter Textron Inc. Landing point indication system
US8880328B2 (en) * 2012-11-02 2014-11-04 Ge Aviation Systems Llc Method of optically locating an aircraft relative to an airport
US9235763B2 (en) 2012-11-26 2016-01-12 Trimble Navigation Limited Integrated aerial photogrammetry surveys
US9547991B2 (en) 2013-05-23 2017-01-17 Honeywell International Inc. Aircraft precision approach and shipboard landing control system and method
US9247239B2 (en) 2013-06-20 2016-01-26 Trimble Navigation Limited Use of overlap areas to optimize bundle adjustment
FR3009117B1 (fr) 2013-07-24 2016-11-25 Airbus Operations Sas Procede et systeme d'atterrissage automatique autonome
US8996311B1 (en) * 2013-12-06 2015-03-31 Novatel Inc. Navigation system with rapid GNSS and inertial initialization
CN103697883B (zh) * 2014-01-07 2016-03-30 中国人民解放军国防科学技术大学 一种基于天际线成像的飞行器水平姿态确定方法
US9541387B2 (en) * 2014-02-07 2017-01-10 Goodrich Corporation Passive altimeter
FR3018383B1 (fr) 2014-03-07 2017-09-08 Airbus Operations Sas Procede et dispositif de determination de parametres de navigation d'un aeronef lors d'une phase d'atterrissage.
DE102014003417B4 (de) * 2014-03-13 2020-05-14 Uwe Gaßmann Lade- oder Batteriewechselstation für Fluggeräte
EP3135580B1 (en) * 2014-04-25 2023-10-18 Sony Group Corporation Control device, imaging device, control method, imaging method, and computer program
FR3024127B1 (fr) 2014-07-25 2016-08-26 Airbus Operations Sas Procede et systeme d'atterrissage automatique autonome
EP2996009A1 (en) * 2014-08-14 2016-03-16 Sikorsky Aircraft Corporation Autonomous long-range landing using sensor data
DE102014014446A1 (de) * 2014-09-26 2016-03-31 Airbus Defence and Space GmbH Redundantes Bestimmen von Positionsdaten für ein automatisches Landesystem
CN104309803B (zh) * 2014-10-27 2017-07-21 广州极飞科技有限公司 旋翼飞行器自动降落系统及方法
US10001376B1 (en) * 2015-02-19 2018-06-19 Rockwell Collins, Inc. Aircraft position monitoring system and method
CN105059558B (zh) * 2015-07-16 2018-02-02 珠海云洲智能科技有限公司 无人船载无人机起降系统
US9738399B2 (en) * 2015-07-29 2017-08-22 Hon Hai Precision Industry Co., Ltd. Unmanned aerial vehicle control method and unmanned aerial vehicle using same
US9429953B1 (en) * 2015-08-25 2016-08-30 Skycatch, Inc. Autonomously landing an unmanned aerial vehicle
CN105676246A (zh) * 2016-01-06 2016-06-15 中国人民解放军海军航空工程学院青岛校区 一种基于实时动态定位和数据链的飞机监视系统及方法
CN105588563B (zh) * 2016-01-15 2018-06-12 武汉光庭科技有限公司 一种智能驾驶中双目相机与惯性导航联合标定方法
CN105599912A (zh) * 2016-01-27 2016-05-25 谭圆圆 无人飞行器的自动降落方法及自动降落装置
CN106094841B (zh) * 2016-05-31 2018-11-23 北京小米移动软件有限公司 飞行设备降落方法及装置
WO2017206073A1 (en) 2016-05-31 2017-12-07 Sz Dji Osmo Technology Co., Ltd. Method and system for adaptive gimbal
CN107466385B (zh) * 2016-08-03 2021-06-01 深圳市大疆灵眸科技有限公司 一种云台控制方法及系统
US10254767B1 (en) * 2017-01-25 2019-04-09 Amazon Technologies, Inc. Determining position or orientation relative to a marker
US10586349B2 (en) 2017-08-24 2020-03-10 Trimble Inc. Excavator bucket positioning via mobile device
US10969228B2 (en) * 2018-06-05 2021-04-06 Novatel Inc. Relative position navigation system for multiple moving vehicles
DE102018120198A1 (de) * 2018-08-20 2020-02-20 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Luftfahrzeug
JP7204390B2 (ja) * 2018-09-18 2023-01-16 株式会社東芝 位置制御装置および飛しょう体
CN110160553B (zh) * 2019-06-06 2023-03-28 中北大学 被约束体微小姿态动态测试装置以及解算方法
JP6929914B2 (ja) * 2019-10-11 2021-09-01 三菱重工業株式会社 垂直離着陸機の自動着陸システム、垂直離着陸機および垂直離着陸機の着陸制御方法
JP6929915B2 (ja) 2019-10-11 2021-09-01 三菱重工業株式会社 航空機の位置制御システム、航空機および航空機の位置制御方法
CN110706447B (zh) * 2019-10-14 2022-05-03 浙江大华技术股份有限公司 灾情位置的确定方法、装置、存储介质及电子装置
US11873116B2 (en) * 2019-10-15 2024-01-16 Skydio, Inc. Automated docking of unmanned aerial vehicle
CN110597297A (zh) * 2019-10-21 2019-12-20 深圳市道通智能航空技术有限公司 一种飞行器返航控制方法、装置、飞行器和存储介质
US10943360B1 (en) 2019-10-24 2021-03-09 Trimble Inc. Photogrammetric machine measure up
CN113079698B (zh) * 2019-11-05 2024-11-08 乐天集团股份有限公司 进行航空器的飞行控制的控制装置、及控制方法
US20220383541A1 (en) * 2019-11-13 2022-12-01 Battelle Energy Alliance, Llc Unmanned vehicle navigation, and associated methods, systems, and computer-readable medium
CN111123304B (zh) * 2019-11-28 2021-12-24 北京航空航天大学 一种视觉导航完好性监测计算方法
CN111649737B (zh) * 2020-05-08 2022-05-24 中国航空工业集团公司西安航空计算技术研究所 一种面向飞机精密进近着陆的视觉-惯性组合导航方法
JP7569665B2 (ja) 2020-11-13 2024-10-18 三菱重工業株式会社 垂直離着陸機の自動着陸システム、垂直離着陸機および垂直離着陸機の着陸制御方法
JP7482757B2 (ja) * 2020-11-13 2024-05-14 三菱重工業株式会社 航空機の位置制御システム、航空機、及び航空機の位置制御方法
JP7482756B2 (ja) 2020-11-13 2024-05-14 三菱重工業株式会社 航空機の制御システム、航空機、航空機の制御方法及びプログラム
JP7026272B1 (ja) 2021-03-31 2022-02-25 綜合警備保障株式会社 飛行体ユニットおよび点検システム
JP7753995B2 (ja) 2022-06-16 2025-10-15 株式会社デンソー 状態推定装置、状態推定方法
JP2025093573A (ja) * 2023-12-12 2025-06-24 株式会社日立製作所 飛行体誘導システム、飛行体、飛行体管理装置および飛行体誘導方法

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4866626A (en) * 1987-09-18 1989-09-12 Egli Werner H Navigation by a video-camera sensed ground array
IL88263A (en) * 1988-11-02 1993-03-15 Electro Optics Ind Ltd Navigation system
GB8925196D0 (en) * 1989-11-08 1990-05-30 Smiths Industries Plc Navigation systems
JPH03120297U (ja) * 1990-03-22 1991-12-10
JP2600503Y2 (ja) * 1993-02-19 1999-10-12 富士重工業株式会社 航空機の自動着陸装置
JP2610395B2 (ja) 1994-06-15 1997-05-14 東芝テスコ株式会社 ヘリコプタ誘導装置
JPH0991600A (ja) * 1995-09-26 1997-04-04 Honda Motor Co Ltd 航空機用ナビゲーション装置
US5894323A (en) * 1996-03-22 1999-04-13 Tasc, Inc, Airborne imaging system using global positioning system (GPS) and inertial measurement unit (IMU) data
JP3463721B2 (ja) * 1996-04-15 2003-11-05 三菱電機株式会社 自動着陸装置の着陸点平面度検出方法
US5716032A (en) * 1996-04-22 1998-02-10 United States Of America As Represented By The Secretary Of The Army Unmanned aerial vehicle automatic landing system
JP3305989B2 (ja) 1997-08-29 2002-07-24 株式会社東芝 目標標定装置及び着陸誘導装置
EP0899580A3 (en) * 1997-08-29 2000-02-02 Kabushiki Kaisha Toshiba Target locating system and approach guidance system
JP2000085694A (ja) * 1998-09-08 2000-03-28 Mitsubishi Heavy Ind Ltd 着陸支援センサ装置及び、これを用いた垂直離着陸機の着陸支援システム
JP3005682B1 (ja) * 1999-01-11 2000-01-31 科学技術庁航空宇宙技術研究所長 滑走路画像を用いた位置・姿勢の割出し方法およびその装置
JP2000214253A (ja) * 1999-01-27 2000-08-04 Mitsubishi Electric Corp 高分解能レ―ダ装置
US6157876A (en) * 1999-10-12 2000-12-05 Honeywell International Inc. Method and apparatus for navigating an aircraft from an image of the runway
FR2835314B1 (fr) * 2002-01-25 2004-04-30 Airbus France Procede de guidage d'un aeronef en phase finale d'atterrissage et dispositif correspondant
JP4300010B2 (ja) 2002-10-08 2009-07-22 富士重工業株式会社 無人ヘリコプタ、無人ヘリコプタの離陸方法及び無人ヘリコプタの着陸方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2433867A2 (en) 2010-09-28 2012-03-28 Kabushiki Kaisha Topcon Automatic take-off and landing system
JP2012071645A (ja) * 2010-09-28 2012-04-12 Topcon Corp 自動離着陸システム
US8630755B2 (en) 2010-09-28 2014-01-14 Kabushiki Kaisha Topcon Automatic taking-off and landing system
US8666571B2 (en) 2011-01-04 2014-03-04 Kabushiki Kaisha Topcon Flight control system for flying object
EP2518580A2 (en) 2011-04-28 2012-10-31 Kabushiki Kaisha TOPCON Taking-off and landing target instrument and automatic taking-off and landing system
US9020666B2 (en) 2011-04-28 2015-04-28 Kabushiki Kaisha Topcon Taking-off and landing target instrument and automatic taking-off and landing system
US9013576B2 (en) 2011-05-23 2015-04-21 Kabushiki Kaisha Topcon Aerial photograph image pickup method and aerial photograph image pickup apparatus
US9007461B2 (en) 2011-11-24 2015-04-14 Kabushiki Kaisha Topcon Aerial photograph image pickup method and aerial photograph image pickup apparatus
US9609282B2 (en) 2012-08-24 2017-03-28 Kabushiki Kaisha Topcon Camera for photogrammetry and aerial photographic device
US8953933B2 (en) 2012-10-31 2015-02-10 Kabushiki Kaisha Topcon Aerial photogrammetry and aerial photogrammetric system
JP2018021865A (ja) * 2016-08-05 2018-02-08 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 移動体、移動体の制御方法、移動体を制御するプログラム、制御システム、及び情報処理装置
US10983535B2 (en) 2016-08-05 2021-04-20 SZ DJI Technology Co., Ltd. System and method for positioning a movable object

Also Published As

Publication number Publication date
US20050125142A1 (en) 2005-06-09
US7373242B2 (en) 2008-05-13
JP2005115623A (ja) 2005-04-28

Similar Documents

Publication Publication Date Title
JP4253239B2 (ja) 画像認識を用いた航法装置
EP3158293B1 (en) Sensor fusion using inertial and image sensors
US10565732B2 (en) Sensor fusion using inertial and image sensors
EP3158417B1 (en) Sensor fusion using inertial and image sensors
US20230027342A1 (en) Automatic landing system for vertical takeoff/landing aircraft, vertical takeoff/landing aircraft, and control method for landing of vertical takeoff/landing aircraft
EP3158411B1 (en) Sensor fusion using inertial and image sensors
KR101494654B1 (ko) 무인항공기 착륙유도 방법 및 장치와 착륙제어 방법 및 장치
EP4026768B1 (en) Aircraft position control system, aircraft, and aircraft position control method
CN108255190B (zh) 基于多传感器的精确着陆方法及使用该方法的系留无人机
US10831216B2 (en) UAV positions method and apparatus
CN105843249A (zh) 基于Pixhawk飞控的无人机自动巡航系统及其巡航方法
US12372976B2 (en) Automatic landing system for vertical take-off and landing aircraft, vertical take-off and landing aircraft, and landing control method for vertical take-off and landing aircraft
EP4227216B1 (en) Aircraft position control system, aircraft, and aircraft position control method
US20250068179A1 (en) Automatic takeoff/landing system for vertical takeoff/landing aircraft, vertical takeoff/landing aircraft, and control method for takeoff/landing of vertical takeoff/landing aircraft
CN112797982A (zh) 一种基于机器视觉的无人机自主着陆测量方法
EP4620831A1 (en) Position control system for vertical takeoff and landing aircraft, vertical takeoff and landing aircraft, and position control method for vertical takeoff and landing aircraft
WO2022101894A1 (ja) 航空機の位置制御システム、航空機、及び航空機の位置制御方法
EP4620807A1 (en) Aircraft position control system, aircraft, and aircraft position control method
RU2773978C1 (ru) Способ точной посадки беспилотного летательного аппарата и устройство для реализации способа
US20260087605A1 (en) Rolling Shutter Artifact Correction And Metadata Integration For Geospatially Accurate Imaging Systems
JP2026050046A (ja) 位置取得システム及び位置取得方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060927

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080826

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081027

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090106

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090123

R150 Certificate of patent or registration of utility model

Ref document number: 4253239

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120130

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120130

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130130

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140130

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees