Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7523055B2 - 端末装置、ナビゲーション方法、および、ナビゲーションプログラム - Google Patents
[go: Go Back, main page]

JP7523055B2 - 端末装置、ナビゲーション方法、および、ナビゲーションプログラム - Google Patents

端末装置、ナビゲーション方法、および、ナビゲーションプログラム Download PDF

Info

Publication number
JP7523055B2
JP7523055B2 JP2020044543A JP2020044543A JP7523055B2 JP 7523055 B2 JP7523055 B2 JP 7523055B2 JP 2020044543 A JP2020044543 A JP 2020044543A JP 2020044543 A JP2020044543 A JP 2020044543A JP 7523055 B2 JP7523055 B2 JP 7523055B2
Authority
JP
Japan
Prior art keywords
terminal device
navigation
camera
processor
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020044543A
Other languages
English (en)
Other versions
JP2021144009A (ja
Inventor
健吾 三好
健太 堆朱
明夫 上杉
幸司 中西
勉 関部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to JP2020044543A priority Critical patent/JP7523055B2/ja
Publication of JP2021144009A publication Critical patent/JP2021144009A/ja
Application granted granted Critical
Publication of JP7523055B2 publication Critical patent/JP7523055B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Instructional Devices (AREA)
  • Navigation (AREA)
  • Traffic Control Systems (AREA)

Description

本開示は、端末装置、ナビゲーション方法、および、ナビゲーションプログラムに関する。
特許文献1には、カメラ及びカメラの撮像画像を表示するための表示器を備えた、ナビゲーション機能付きの携帯端末が記載されている。当該携帯端末は、当該携帯端末の現在位置を検出するための第1検出手段と、カメラの向きを検出するための第2検出手段と、目的地を設定するための設定手段と、設定手段によって設定された目的地と、第1検出手段によって検出された現在位置とに基づいて、現在位置から目的地までの経路に関する情報をサーバから取得する取得手段と、取得手段によって取得した経路に関する情報ならびに第2検出手段によって検出されたカメラの向きに基づいて、カメラの撮像画像上での進むべき方向を算出する算出手段と、カメラの撮像画像に算出手段によって算出された進むべき方向を示す指標を付加して表示器に表示させる手段と、を備える。
特開2006-194665号公報
本開示は、ユーザを適切にナビゲートすることができる、端末装置、ナビゲーション方法、および、ナビゲーションプログラムを提供する。
本開示は、ナビゲーションを実行可能な端末装置であって、プロセッサと、画面と、カメラと、メモリと、を備え、前記プロセッサは、記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させ、前記端末装置のユーザが前記ナビゲーションのルート上の昇降手段を使用していることを検知したときに、前記画面に、昇降中であることを示す情報を表示させ、前記ナビゲーション用オブジェクトを非表示にする、端末装置を提供する。
また、本開示は、ナビゲーションを実行可能な端末装置であって、プロセッサと、画面と、カメラと、メモリと、を備え、前記プロセッサは、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させ、床面から所定の高さにあるナビゲーション開始位置に向けられた前記端末装置の、前記床面に対する相対位置を算出し、前記ナビゲーション用オブジェクトを、前記画面に表示された前記床面から所定の高さになるように表示させる、端末装置を提供する。
また、本開示は、ナビゲーションを実行可能な端末装置であって、プロセッサと、画面と、カメラと、メモリと、を備え、前記プロセッサは、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させ、ナビゲーション機能の実行中に前記カメラによって平面を検出したときに、前記平面が床面に相当するか否かを判定し、前記平面が床面に相当する場合、前記端末装置の、前記平面に対する相対位置を算出し、前記ナビゲーション用オブジェクトの高さを、前記平面に対する前記カメラの高さに対して一定の高さの範囲内に収まるように変更する、端末装置を提供する。
また、本開示は、ナビゲーションを実行可能な端末装置であって、プロセッサと、画面と、カメラと、メモリと、を備え、前記プロセッサは、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させ、前記カメラによる撮像画像から特徴点情報を抽出して前記メモリに保存し、所定のタイミングで、前記特徴点情報を前記メモリから取得し、取得した前記特徴点情報に基づいて、前記ナビゲーション用オブジェクトの前記画面への表示位置を調整する、端末装置を提供する。
また、本開示は、ナビゲーションを実行可能な端末装置による、ナビゲーション方法であって、前記端末装置は、プロセッサと、画面と、カメラを備え、前記プロセッサが、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させるステップと、前記プロセッサが、前記端末装置のユーザが前記ナビゲーションのルート上の昇降手段を使用していることを検知したときに、前記画面に、昇降中であることを示す情報を表示させ、前記ナビゲーション用オブジェクトを非表示にするステップと、を有する、ナビゲーション方法を提供する。
また、本開示は、端末装置による、ナビゲーション方法であって、前記端末装置は、プロセッサと、画面と、カメラを備え、前記プロセッサが、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させるステップと、前記プロセッサが、床面から所定の高さにあるナビゲーション開始位置に向けられた前記端末装置の、前記床面に対する相対位置を算出し、前記ナビゲーション用オブジェクトを、前記画面に表示された前記床面から所定の高さになるように表示させるステップと、を有する、ナビゲーション方法を提供する。
また、本開示は、端末装置による、ナビゲーション方法であって、前記端末装置は、プロセッサと、画面と、カメラを備え、前記プロセッサが、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させるステップと、前記プロセッサが、ナビゲーション機能の実行中に前記カメラによって平面を検出したときに、前記平面が床面に相当するか否かを判定するステップと、前記平面が床面に相当する場合、前記端末装置の、前記平面に対する相対位置を算出し、前記ナビゲーション用オブジェクトの高さを、前記平面に対する前記カメラの高さに対して一定の高さの範囲内に収まるように変更するステップと、を有する、ナビゲーション方法を提供する。
また、本開示は、端末装置による、ナビゲーション方法であって、前記端末装置は、プロセッサと、画面と、カメラと、メモリを備え、前記プロセッサが、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させるステップと、前記プロセッサが、前記カメラによる撮像画像から特徴点情報を抽出して前記メモリに保存し、前記プロセッサが、所定のタイミングで、前記メモリから前記特徴点情報を取得し、取得した前記特徴点情報に基づいて、前記ナビゲーション用オブジェクトの前記画面への表示位置を調整するステップと、を有する、ナビゲーション方法を提供する。
また、本開示は、ナビゲーションプログラムであって、プロセッサと、画面と、カメラを備え、ナビゲーションを実行可能な端末装置に、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させる機能と、前記端末装置のユーザが前記ナビゲーションのルート上の昇降手段を使用していることを検知したときに、前記画面に、昇降中であることを示す情報を表示させ、前記ナビゲーション用オブジェクトを非表示にする機能と、を実行させる、ナビゲーションプログラムを提供する。
また、本開示は、ナビゲーションプログラムであって、プロセッサと、画面と、カメラを備えた端末装置に、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させる機能と、床面から所定の高さにあるナビゲーション開始位置に向けられた前記端末装置の、前記床面に対する相対位置を算出し、前記ナビゲーション用オブジェクトを、前記画面に表示された前記床面から所定の高さになるように表示させる機能と、を実行させる、ナビゲーションプログラムを提供する。
また、本開示は、ナビゲーションプログラムであって、プロセッサと、画面と、カメラを備えた端末装置に、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させる機能と、ナビゲーション機能の実行中に前記カメラによって平面を検出したときに、前記平面が床面に相当するか否かを判定する機能と、前記平面が床面に相当する場合、前記端末装置の、前記平面に対する相対位置を算出し、前記ナビゲーション用オブジェクトの高さを、前記平面に対する前記カメラの高さに対して一定の高さの範囲内に収まるように変更する機能と、を実行させる、ナビゲーションプログラムを提供する。
また、本開示は、ナビゲーションプログラムであって、プロセッサと、画面と、カメラと、メモリを備えた端末装置に、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させる機能と、前記カメラによる撮像画像から特徴点情報を抽出して前記メモリに保存する機能と、前記プロセッサが、所定のタイミングで、前記メモリから前記特徴点情報を取得し、取得した前記特徴点情報に基づいて、前記ナビゲーション用オブジェクトの前記画面への表示位置を調整する機能と、を実行させる、ナビゲーションプログラムを提供する。
本開示によれば、ユーザを適切にナビゲートすることができる。
本開示の実施形態に係る端末装置100を例示する概念図 端末装置100のシステム構成例を示す概念図 本開示の実施形態に係る端末装置100を用いた、ARナビゲーションの開始方法を示す概念図 端末装置100が電子看板10からIDを取得する際の、ディスプレイ106による表示例 ディスプレイ106による、目的地リスト204の表示例 端末装置100の初期高さ検出を行う際の、ディスプレイ106による表示例 端末装置100の現在の高さおよび向きが特定された際の、ディスプレイ106による表示例 ARナビゲーション開始時の、ディスプレイ106による表示例 端末装置100のカメラ103を電子看板10に向けていたユーザが、180度反転した際の、ディスプレイ106による表示例 上下移動注意喚起の第1態様における、ディスプレイ106による表示例 上下移動注意喚起の第2態様における、ディスプレイ106による表示例 上下移動注意喚起の第3態様における、ディスプレイ106による表示例 端末装置100の、AR空間における向き補正を示す概念図であり、(a)補正前、(b)補正後 ARナビゲーション終了時の、ディスプレイ106による表示例 初期高さ検出を行う際の、端末装置100の内部処理例を示すブロック図 高さ補正処理を行う際の、端末装置100の内部処理例を示すブロック図 高さ補正処理の第2の態様を行う際の、端末装置100の内部処理例を示すブロック図 上下移動注意喚起を行う際の、端末装置100の内部処理例を示すブロック図 上下移動補正の第1態様(向きの補正)を行う際の、端末装置100の内部処理例を示すブロック図 上下移動補正の第2態様(位置の補正)を行う際の、端末装置100の内部処理例を示すブロック図
(本開示に至る経緯)
GPS等の位置特定システムを用いて、人や車両などを目的地へと誘導するナビゲーションシステムが公知である。かかるナビゲーションシステムは、宇宙にある人工衛星から送出される電波を機器側で受信して、機器の現在位置を算出し、機器のユーザ(人、車両等)を目的地へと誘導(ナビゲート)する。
しかし、例えば駅の構内や地下街等のように、現在位置を特定するための電波が機器に届きにくい、あるいは電波が届かない場所が存在する。このような場所においては、従来のナビゲーションシステムでは、機器を携行するユーザを正しく誘導することはできなかった。
そこで、以下の実施の形態では、現在位置を特定するための電波が届きにくい、あるいは届かないような屋内等においても、ユーザを適切にナビゲートすることができる、端末装置、ナビゲーション方法、および、ナビゲーションプログラムの実施形態を説明する。
以下、適宜図面を参照しながら、本開示に係る端末装置、ナビゲーション方法、および、ナビゲーションプログラムを具体的に開示した実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば、既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になることを避け、当業者の理解を容易にするためである。なお、添付図面および以下の説明は、当業者が本開示を十分に理解するために提供されるものであり、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
図1は、本開示の実施形態に係る端末装置100を例示する概念図である。図2は、端末装置100のシステム構成例を示す概念図である。
端末装置100は、ユーザと共に移動可能な装置あり、例えばスマートフォンやタブレット端末、ノートパソコン、ヘッドマウントディスプレイ等であってよい。本例においては、例示として、端末装置100はスマートフォンであるという前提で、下記の説明を行う。
本例における端末装置100は、プロセッサ101、メモリ102、カメラ103、加速度センサ104、気圧センサ105、ディスプレイ106、ネットワークインタフェース107を備える。
プロセッサ101は、例えばCPUまたはFPGAを用いて構成され、メモリ102と協働して、端末装置100における各種の処理および制御を行う。具体的には、プロセッサ101は、メモリ102に保持されたプログラムを参照し、そのプログラムを実行することにより、端末装置100が備える各種の機能を実現する。なお、スマートフォンである端末装置100についてのプログラムは、スマートフォンアプリであってよい。
メモリ102は、例えばプロセッサ101の処理を実行する際に用いられるワークメモリとしてのRAMと、プロセッサ101の処理を規定したプログラムを格納するROMとを有する。RAMには、プロセッサ101により生成あるいは取得されたデータが一時的に保存される。ROMには、プロセッサ101の処理を規定するプログラムが書き込まれている。なお、スマートフォンである端末装置100に各種の機能を実行させるためのプログラムデータおよび、当該プログラムが用いるデータが、メモリ102に保存されていてよい。
メモリ102にはさらに、後述のARナビゲーションデータを保存してよい。ARナビゲーションデータは、メモリ102内に予め記憶されていてよく、サーバ20等から当該ARナビゲーションデータをダウンロードして、メモリ102内に記憶してもよい。
カメラ103は、端末装置100の所望の撮像範囲に含まれる被写体(人物、建物、景色等)を撮像する撮像用のカメラであってよい。また、カメラ103は、バーコードや二次元コード等の識別コードを読み取り可能なものであってよい。端末装置100を用いてユーザにナビゲーションを行う時、端末装置100は、カメラ103が撮像した画像に、後述のナビゲーション用ARオブジェクトを重畳して、ディスプレイ106に表示してもよい(ARナビゲーション)。
加速度センサ104は、端末装置100の加速度を検出する。加速度センサ104が測定するものの中には重力加速度も含まれてよく、人の動きや振動、衝撃等を、加速度センサ104によって検知することができる。例えば、加速度センサ104は、X軸、Y軸、Z軸の3軸加速度センサであってよい。より精密なセンサ情報を取得するために、加速度センサ104は、加速度だけでなく角速度も検知可能な6軸センサであってもよい。
気圧センサ105は、端末装置100の周辺の気圧を検出する。この気圧センサ105で周囲の気圧を測定することにより、端末装置100の現在位置の高さを、端末装置100は取得することができる。
ディスプレイ106は、端末装置100のユーザに情報を表示する。ディスプレイ106は、ユーザが指やスタイラスなどを用いてタッチすることにより情報を入力する入力機能と、情報を表示する表示機能とを併せ持つタッチパネルディスプレイであってよい。端末装置100が例えばノートパソコンであった場合は、ディスプレイ106は、キーボードやマウスなどの入力手段と、液晶モニタ等の表示手段の双方に相当してよい。ディスプレイ106や、ノートパソコンの液晶モニタ等の表示手段を、「画面」と表現することがある。
ネットワークインタフェース107は、端末装置100の外部との通信を行うためのインタフェースである。例えば、端末装置100がスマートフォンである場合、図2に示されているように、端末装置100は基地局BSを経由して、サーバ20等の外部装置と通信を行うことができる。この時のネットワークは、モバイルネットワークやbluetooth(登録商標)やWifiであってよい。ただし、これら以外のネットワークインタフェースを排除する意図はない。
端末装置100がのノートPC等である場合、ネットワークインタフェース107は、例えば有線LANアダプタや無線LANアダプタなどであってよい。また、通信回線は例えば、IPネットワークであってよい。
端末装置100が備える上記の各構成要素は、全て必須であるとは限らず、一部の構成要素はなくてもよい。逆に、端末装置100は他の構成要素を備えていてよい。例えば、端末装置100は、近接センサ、周囲光センサなどの、種々のセンサを備えていてよい。
図3は、本開示の実施形態に係る端末装置100を用いた、ARナビゲーションの開始方法を示す概念図である。本開示におけるナビゲーション(ユーザの誘導)には、AR(Augmented Reality:拡張現実)技術が用いられる。カメラ103が撮像した画像に、ARオブジェクト(例えば、目的地へ向けた進行方向を示す矢印等)を重畳させて、端末装置100の画面(ディスプレイ106)に表示させる。
ここで上述のように、本開示におけるナビゲーションは、GPS等の位置特定システム用の電波を受信するのが困難、あるいは受信することができない、駅の構内等での実施を前提としている。位置特定システム用の電波を受信できず、位置特定システムに基づく端末装置100の現在位置および現在の向きが特定できない場合であっても、ARナビゲーションの開始地点に対する端末装置100の最初の高さおよび向きを決定するために、例えば、LinkRay(登録商標)が用いられる。
LinkRay(登録商標)は、LED(Light Emitting Diode)光源を高速点滅させることによって発信される可視光の信号(具体的には、発信対象の情報又はデータが重畳された信号)を、スマートフォンやタブレット端末等に搭載されたカメラ103と、専用のアプリケーションとを用いて高速受信するサービスの名称である。専用のアプリケーションは、端末装置100において実行可能に予めインストールされ、メモリ102に記憶されてよい。LinkRay(登録商標)によれば、ユーザが端末装置100をLinkRay(登録商標)のサービス対象であるLED光源にかざすことで、端末装置100は、LED光源から発信された情報又はデータを取得できる。
図3に例示されているように、例えば駅構内の壁や柱などに、光源デバイスとして、電子看板10が配置されている。電子看板10は、床面FLに対してほぼ垂直に配置されている。電子看板10にはマーク11が表示されている。端末装置100のユーザは、電子看板10に、端末装置100のカメラ103を向ける。すると、上述のLinkRay(登録商標)技術により、端末装置100は電子看板10から、可視光の信号を受信する。この可視光の信号には、識別情報であるIDが含まれている。識別情報であるIDは、光源デバイス(電子看板10等)毎に異なる。説明の便宜上、図3に示されている電子看板10のIDを、111111であるとする。サーバ20から端末装置100への情報のダウンロードについては後述する。
図4は、端末装置100が電子看板10からIDを取得する際の、ディスプレイ106による表示例である。画面(ディスプレイ106)には、マーク201と、ダウンロード進捗表示バー202と、矩形枠203とが表示されている。マーク201は、図1におけるマーク11と同様であるので、説明を省略する。ダウンロード進捗表示バー202は、電子看板10からのIDの取得の進捗をユーザに提示する。矩形枠203は、ユーザが端末装置100をマーク201に対して正しく位置合わせするために表示された、位置合わせ用フレームである。なお、ID取得のためのマーク201を端末装置100が検知済みであることを、矩形枠203の色を黄色に変える、等の手段によってユーザに示してもよい。
IDを取得した端末装置100は、上述の識別情報(ID)を、図示を省略するLinkRayプラットフォーム(サーバ)に送信する。LinkRayプラットフォーム(サーバ)から、URL等のコンテンツ先情報が端末装置100へと送信される。このコンテンツ先情報には例えば、電子看板10の位置をナビゲーションの開始位置とする、1つまたは複数の目的地をそれぞれ示す、複数種類の情報が含まれてよい。
図5は、ディスプレイ106による、目的地リスト204の表示例である。この目的地リスト204を表示するための情報は、上述のコンテンツ先情報に含まれていてよい。また、電子看板10のIDに基づいてコンテンツ先情報を取得しているので、目的地リスト204に含まれる目的地は、いずれも、電子看板10が設置されている位置をナビゲーションの開始位置とした場合の目的地であってよい。ユーザは、端末装置100のディスプレイ106(タッチパネルディスプレイ)をタップして、これから向かいたい目的地を選択する。すると、端末装置100は、取得済みのコンテンツ先情報に基づいて、サーバ20から、指定コンテンツを受信(ダウンロード)する。説明の便宜上、ユーザは「〇〇〇センター1F」を、ARナビゲーションの目的地として選択した、という前提で説明する。
(サーバ20から端末装置100にダウンロードされるコンテンツ)
端末装置100は、光源デバイス(電子看板10等)毎に異なる識別情報であるIDに基づいて、指定コンテンツをサーバ20からダウンロードすることができる。当該ダウンロードされるコンテンツ(以下、DLコンテンツと表現することがある)には、例えば、以下のような情報が含まれていてよい。
・IDで特定された光源デバイス(電子看板10等)における、起点情報(マーク201等)を示す特徴量データ(DATA1)。
・IDで特定された光源デバイス(電子看板10等)における、起点情報(マーク201等)の設置高さや設置方向を示す位置情報データ(DATA2)。
・IDで特定された光源デバイス(電子看板10等)から目的地までのARナビゲーションデータ(DATA3)。
(コンテンツ取得ための他の実施例)
LinkRay(登録商標)を用いた、ARナビゲーションデータの取得について説明した。しかし例えば、ナビゲーション開始地点となる壁や柱等の固定位置に、二次元コードなどの、上述のIDに代替する情報を配置することにより、端末装置100は上述と同様に、所望のARナビゲーションデータをサーバ20から取得することができる。その他、ナビゲーション開始地点となる壁や柱等の固定位置に、上述のもの以外の近距離通信を用いて情報あるいはデータの送受信を行う近接通信機器(情報通信機器の一例)を接地してよい。近距離通信は、例えばビーコン端末であってよい。ビーコン端末は、例えば通信規格であるBLE(Bluetooth(登録商標) Low Energy)を用いて、上述のIDに相当する情報を含む信号を発信する。ビーコン端末は、IDに相当する情報を含む信号を、数秒に1回、自端末の設置位置を起点として半径数十センチメートルから数十メートルの範囲に発信する。
(端末装置100の初期高さ検出)
図6は、端末装置100の初期高さ検出を行う際の、ディスプレイ106による表示例である。目的選択(図5参照)に続いて、ユーザは、端末装置100のカメラ103を、再びマーク201に向ける(図6参照)。すると端末装置100は、カメラ103によってマーク201(起点情報)を取得(本例の場合はマークを撮像)し、撮像画像におけるマーク201の形状の歪みに基づいて、端末装置100の、床面FL(図3参照)に対する相対位置を算出する。この相対位置は、電子看板10に表示されたマーク201の位置を利用して算出することができる。マーク201は、床面FLから所定の高さに表示される。マーク201が表示されている位置を、ARナビゲーション開始位置とする。このARナビゲーション開始位置(マーク201が表示されている位置)と、床面FLとの間の位置関係は事前に定まっている。一方、端末装置100は、撮像画像におけるマーク201の形状の歪みに基づいて、マーク201が表示されている位置とカメラ103との間の相対位置関係を特定することができる。そのため、端末装置100は、床面FLとの位置関係が固定されたARナビゲーション開始位置と、上述のマーク201の形状の歪みから、端末装置100の現在の(床面FLからの)高さ、および向きを算出することができる。
なお、上記の例では、端末装置100の、床面FL(図3参照)に対する相対位置を算出するための起点となる情報(起点情報)として、マーク201を用いた。しかし、起点情報は、マーク201以外の情報であってもよい。例えば、ナビゲーション開始位置に配置された物体の形状、模様、当該物体に配置された識別コード等も、端末装置100の床面FLに対する相対位置を算出するための起点情報となり得る。
図15は、上記の初期高さ検出を行う際の、端末装置100の内部処理例を示すブロック図である。図中、「画面」はディスプレイ106に、「カメラ」はカメラ103に、「6軸センサ」は加速度センサ104に、「サーバ」はサーバ20に、それぞれ対応する。「ARエンジン」は、プロセッサ101内に実装されていてよい。また、ARエンジン用のチップ等が端末装置100内に実装されており、これがプロセッサ101の一部であってもよい。上述の対応関係は、図15~図20について同様であるため、図16~図20については、上述の対応関係についての説明を省略する。
サーバ20から取得したDLコンテンツには、マーク高さ情報(DATA2に含まれる)と、マーク特徴量情報(DATA1に含まれる)が含まれていてよい。カメラが取得した画像情報に基づいて、ARエンジンがルート描画を行う。このルート描画は、カメラが取得した画像情報に、ナビゲーション用ARオブジェクト(例えば図9の参照符号207)を重畳させる処理であってよい。ナビゲーション用ARオブジェクトは、DLコンテンツに含まれるARナビゲーションデータ(DATA3に含まれる)に基づいて、ARエンジンによって生成されてよい。
ナビゲーション用ARオブジェクトを、画面(ディスプレイ106)の、例えば床面FLから所定の高さに表示するために、端末装置100は、端末装置100の高さを検出する。当該高さの検出を行うために、ARエンジンが垂直面検出を行う。カメラが撮像した画像情報から垂直面を検出し、サーバ20から取得されたマーク特徴量に基づいて、垂直面内にあるマーク201の位置を、ARエンジンが特定する。端末装置100は、サーバ20から取得されたマーク高さ情報を用いて、画像情報から特定されたマーク201の位置が、床面FLからどの程度の高さにあるかを、算出することができる。また、端末装置100は例えばユーザが把持して動かしているので、端末装置100が備える6軸センサ等の手段によって、端末装置100の移動量を算出し、上述のマーク201の高さに端末装置100の移動量を加味して、端末装置100の現在の高さを検出する。以上のようにして、端末装置100の初期高さを検出することができる。なお、端末装置100の高さを基準にして、画像内の床面FLから所定の高さにナビゲーション用ARオブジェクトを重畳させる処理を、ARエンジンがルート描画処理にて行う。
図7は、端末装置100の現在の高さおよび向きが特定された際の、ディスプレイ106による表示例である。画面(ディスプレイ106)の上部には、選択された目的地である「〇〇〇センター1F」の文字列を含んだ、目的地ボックス205が表示される。また、画面の中央には、ARナビゲーションの開始を示すメッセージ画像206が表示される。ユーザが端末装置100をゆっくり振ると、端末装置100の振動を加速度センサ104が検知して、ARナビゲーションが開始される。
図8は、ARナビゲーション開始時の、ディスプレイ106による表示例である。目的地ボックス205には、ARナビゲーションの目的地である「〇〇〇センター1F」までの距離「217m」と、徒歩の場合に想定される、到着までにかかる予測時間「3分」が表示されている。なお、目的地ボックス205に表示される情報は、図9以降も同様であるため、以後説明を省略する。
ディスプレイ106の画面中央付近に、ナビゲーション用ARオブジェクト207が表示されている。本例においては、ナビゲーション用ARオブジェクト207は、幅のある線(図9以降参照)や矢印で構成されている。ただし、ナビゲーション用ARオブジェクト207の形状は、前述の態様には限定されない。ナビゲーション用ARオブジェクト207は、カメラ103が撮像した画像に重畳して表示される。
(高さ補正処理)
図9は、端末装置100のカメラ103を電子看板10に向けていたユーザが、180度反転した際の、ディスプレイ106による表示例である。端末装置100は、ナビゲーション用ARオブジェクト207を、画面に表示された床面FLから所定の高さhになるように表示させる。なお、h=0であってもよい。
上述の、マーク201を用いた端末装置100の初期高さ検出とは異なり、ARナビゲーションを開始した後は、マーク201を高さの基準として用いて、ナビゲーション用ARオブジェクト207の表示高さを調整することはできない。端末装置100は、初期位置から別の位置へと動いているからである。ARナビゲーションの開始後においては、カメラが撮像した画像に含まれる平面を基準にして、ナビゲーション用ARオブジェクト207の表示高さを補正する。
ARナビゲーションの実行中に、カメラ103が撮像した画像に基づいて、端末装置100が備えるARエンジンが平面を検出する。この平面は水平面であってよいが、厳密な水平面でなくともよく緩やかな斜面等であってもよい。このような平面の検出アルゴリズムは、既存技術を用いてよい。本開示では一例として、カメラ103が撮像した画像に含まれる特徴点を利用する。特徴点とは、撮像されている画像内で他の部分と比べて際立った特徴がある部分である。端末装置100の移動に伴い、この部分が平面的に移動していれば平面の一部であると推定できる。特徴点の直感的な例としては、壁や床の模様や汚れ等であるが、必ずしも肉眼で認識可能な部分である必要はない。特徴点の検出や追跡の手順は画像認識の分野で既知であるため、詳細な説明は省略する。
ここで、カメラ103の撮像画像に写りこむ水平面は1つの面だけとは限らない。図9に示されているように、床面FLの他に、例えば長椅子等であってよい物体OBJが、水平面(この例においては座面)を有していることがある。従って、端末装置100は、ARエンジンが検出した平面の中から、床面FLに相当する面を特定する、床面特定処理を行う。すなわち、プロセッサ101が、検出された平面が床面に相当するか否かを判定する。この判定により、画像中の床面FLは、床面に相当すると判定され、画像中の物体OBJの上面は、床面には相当しない判定される。なお、ある平面が床面に相当するか否かの判定基準として、例えば所定の面積以上の平面を床面であると判定してよく、それ以外の既存技術の判定基準が用いられてもよい。
端末装置100は、平面が床面FLに相当する場合、端末装置100の前記平面に対する相対位置を、撮像画像に基づいて算出する。端末装置100は、この相対位置に基づいて、ナビゲーション用ARオブジェクトを、画面(ディスプレイ106)に表示された平面から所定の高さhになるように表示させる。
図16は、上記の高さ補正処理を行う際の、端末装置100の内部処理例を示すブロック図である。図15と同様の部分については、説明を省略する。図16の右側に示されているように、カメラが撮像した画像情報に基づいて、ARエンジンが平面(例えば水平面)を検出する。端末装置100は、検出された平面の中から、床面に相当する平面を特定する。端末装置100は、床面に相当すると特定された平面についての情報と、ルート描画を行うARエンジンにおける、現在のルート高さ(ナビゲーション用ARオブジェクトの表示高さ)を示す情報から、高さ補正量を算出する。そしてARエンジンは、ルート描画処理において、算出済みの高さ補正量に基づいて、ナビゲーション用ARオブジェクトの表示高さを補正する。
(高さ補正処理の第2の態様)
ここで、ナビゲーション用ARオブジェクトの表示高さ補正についての、第2の態様を説明する。第2の態様においては、高さの閾値を用いる。
例えば端末装置100がスマートフォンであった場合、ユーザは当該スマートフォンを手で把持し、歩きながら目的地へと向かう。すると、端末装置100が備えるカメラの高さ(カメラ視点の高さ)が、床面FLから10cmの高さである、ということはほぼあり得ない。ユーザが、端末装置100で床面FLをなでるような姿勢で、目的地へ向かうのは不自然だからである。すなわち、ユーザが端末装置100を携行して移動することを想定すると、床面FLからみたカメラ103の高さは、所定の高さ範囲内に収まると考えられる。逆に、カメラ103の高さからみた床面FLの高さも、所定の高さ範囲内に収まると考えられる。
そこで、高さ補正処理の第2の態様においては、端末装置100(プロセッサ101)は、ナビゲーション用ARオブジェクト207の高さが、カメラ103の高さに対して一定の高さの範囲内に収まるように、ナビゲーション用ARオブジェクト207の高さを変更してよい。
図17は、上記の高さ補正処理の第2の態様を行う際の、端末装置100の内部処理例を示すブロック図である。図15や図16と同様の部分については、説明を省略する。図16に示したブロック図との相違点は、高さ補正量算出処理において、サーバ20から高さ閾値情報(一定の高さの範囲を示す情報)を取得し、この高さ閾値情報も用いて、高さ補正量を算出している点である。なお、高さ閾値情報は、上述のDLコンテンツに含まれていてよく、端末装置100がサーバ20から別途取得してもよく、端末装置100のメモリ102内に予め記憶されていてもよい。
(AR空間固定)
次に、カメラ103の撮像画像から抽出した特徴点の扱いについて説明する。端末装置100は、カメラ103が撮像した撮像画像から特徴点を抽出して画像認識を行ってよい。抽出された特徴点情報を記憶手段に保持しておけば、次に同じルートでARナビゲーションを行う際に、その特徴点情報を、ナビゲーションの目印として用いることができる。そこで、端末装置100(プロセッサ101)は、カメラ103による撮像画像から特徴点情報を抽出してメモリ102に保存しておき、所定のタイミングで、当該特徴点情報を出力する。特徴点情報の出力は、特徴点情報を含んだファイルを出力することであってよく、当該ファイルには、その特徴点の、AR空間における位置(座標系における座標値など)を示す情報が含まれていてよい。また、特徴点情報の出力は、前述のような特徴点情報を、サーバ20へアップロードすることであってもよい。
出力された特徴点情報は、次に同じルートでARナビゲーションを行う際の第2の端末装置(上記端末装置100と同じ端末装置であっても、別の端末装置であってもよい)によってダウンロード(取得)される。第2の端末装置は、取得した特徴点情報に基づいて、ナビゲーション用ARオブジェクト207の、画面(ディスプレイ106等)への表示位置を調整する。すなわち、端末装置100は、取得済みの特徴点情報に相当する特徴点を、カメラ103の撮像画像の中から探す(マッチング処理)。取得済みの特徴点情報に相当する特徴点が発見されたら、端末装置100は当該発見された特徴点のAR空間における座標値(位置)を、出力済みの特徴点情報が示す上述の座標値とする。すなわち、端末装置100は、当該発見された特徴点の位置を、出力済みの特徴点情報に基づいて特定し、ナビゲーション中の誤差を減らすことができる。
なお、AR空間における端末装置100の位置と、現実空間における端末装置100の位置との間に誤差が少ないのは、ARナビゲーションを開始したナビゲーション開始位置付近(上記の例では、電子看板10の付近)である。つまり、ナビゲーション開始位置に近い領域から、より遠い領域に向けて、徐々に特徴点情報を保存していくことが考えられる。そのため、端末装置100(プロセッサ101)が当該特徴点情報を出力する、前記の所定のタイミングは、ナビゲーション開始位置から所定の距離、前記ナビゲーション用ARオブジェクト207の表示に基づいて端末装置100を移動させた後であってよい。この所定の距離は、そのナビゲーションルートに沿ったARナビゲーションが行われるたびに増加してもよい。
なお、特徴点情報についての保存データ量の削減の観点から、保存および出力される特徴点情報は、ナビゲーション開始位置の周辺にある特徴点情報のみに限定されてよい。この場合、保存および出力された特徴点情報は、同じナビゲーション開始位置(例えば、同じ電子看板10)からスタートする、別の目的地へのARナビゲーションにも、利用することができる。
また、保存および出力される特徴点情報は、違うナビゲーション開始位置からスタートするARナビゲーションにおいても、利用することができる。仮に、ARナビゲーションによるナビゲーションルートが2つ、ルートAとルートBが存在したとする。ルートAとルートBとで、一部、共通する経路がある場合は、当該共通する経路に存在する特徴点についての特徴点情報は、ルートAによるARナビゲーションと、ルートBによるARナビゲーションとで共用されてよい。
(上下移動注意喚起の第1態様)
図10は、上下移動注意喚起の第1態様における、ディスプレイ106による表示例である。駅構内等においてユーザをナビゲートする際、ユーザは平面上を移動するとは限らず、ユーザは昇降手段を用いることがある。例えば、ナビゲーション開始位置が駅の1階にあり、目的地が駅の3階にある場合などである。昇降手段は、典型的には、階段、エスカレータ、エレベータ等である。ここで、画像の特徴点に基づいて現在位置を推定する仕組みでは、昇降手段が使われた場合の高さの変化を正確に追跡することは難しい。階段の場合は、段差の境界や影を特徴点として誤認して誤った平面を推定してしまったり、エレベータやエスカレータの場合は、エレベータ室内の壁や床またはエスカレータの段などの特徴点は見かけ上移動しないため、移動が発生したこと自体を認識することができなかったりするためである。
本開示においては、端末装置100がARナビゲーションのルート上に昇降手段(階段、エスカレータ、エレベータ等)を検知した場合、画面(ディスプレイ106)に、昇降手段の使用を促す情報を表示させる。この情報表示によって、端末装置100のユーザに対して、上下移動についての注意喚起を行うことができる。
図10は、端末装置100がARナビゲーションのルート上に昇降手段を検知した際の、ディスプレイ106による表示例を示している。画面(ディスプレイ106)には、下り階段が表示されている。この時点においては、ナビゲーション用ARオブジェクト207は、DLコンテンツ内に含まれるARナビゲーションデータ(DATA3)に基づいて、下り階段に沿うように重畳表示されてよい。昇降手段の使用を促す情報は、階段やエスカレータ等に沿うように表示されるナビゲーション用ARオブジェクト207であってよく、また、「階段を下ってください」等のメッセージ情報や、前記メッセージ情報を含んだ矩形ボックス等であってよい。
(上下移動注意喚起の第2態様)
図11は、上下移動注意喚起の第2態様における、ディスプレイ106による表示例である。端末装置100(プロセッサ101)は、端末装置100のユーザが昇降手段を使用していることを検知したときに、画面(ディスプレイ106)に、昇降中であることを示す情報210を表示させ、ナビゲーション用ARオブジェクト207を非表示にする。なお、昇降中であることを示す情報210と、上述の昇降手段の使用を促す情報は、同じ情報であってもよい。
ここで上述のように、本開示におけるナビゲーションは、GPS等の位置特定システム用の電波を受信するのが困難、あるいは受信することができない、駅の構内等での実施を前提としている。また、本開示におけるナビゲーションは、カメラ103による撮像画像に基づいて端末装置100の現在位置を特定するものである。そのため、端末装置100を携行したユーザが前方向だけでなく上下方向に移動した場合、画面(ディスプレイ106)に表示されるナビゲーション用ARオブジェクト207の表示位置に、誤差が生じる恐れがある。そこで、端末装置100のユーザが昇降手段を使用する際には、誤差が生じ得るナビゲーション用ARオブジェクト207を画面(ディスプレイ106)から非表示にし、代わりに、昇降中であることを示す情報210を表示させる。
(上下移動注意喚起の第3態様)
図12は、上下移動注意喚起の第3態様における、ディスプレイ106による表示例である。端末装置100(プロセッサ101)は、端末装置100のユーザが昇降手段の使用を終了したことを検知したときに、上述の昇降中であることを示す情報210を非表示にし、ナビゲーション用ARオブジェクト207を再び表示させる。そして、再表示されたナビゲーション用ARオブジェクト207を用いて、ARナビゲーションが継続される。
図18は、上下移動注意喚起を行う際の、端末装置100の内部処理例を示すブロック図である。図15~図17と同様の部分については、説明を省略する。図中、「気圧センサ」は気圧センサ105に対応する。
ARエンジンは、カメラが撮像した撮像画像に基づいて、端末装置100の移動量を検出する。この移動量は例えば、撮像画像から抽出された特徴点の、画像内における移動距離に基づいて算出してよい。端末装置100は、サーバ20から取得したルート情報(DATA3に含まれていてよい)と、検出した端末装置100の移動量とに基づいて、端末装置100の現在地を算出する。
また、位置補正量算出処理において、端末装置100(のプロセッサ101)は、各種の情報に基づいて、ナビゲーション用ARオブジェクト207の位置補正量を算出する。上記の各種情報は、気圧センサから取得した気圧情報、6軸センサから取得した端末装置100の移動量情報、算出済の端末装置100の現在地情報、および、サーバ20から取得した上下移動始点情報(DATA3に含まれ得る)および上下移動高さ情報(DATA3に含まれ得る)等であってよい。
ARエンジンは、算出された位置補正量に基づいてナビゲーション用ARオブジェクト207の位置を補正し、ルート描画を行う(図10参照)。つまり、端末装置100は、カメラからの撮像画像に重畳して、位置補正済みのナビゲーション用ARオブジェクト207を、画面(ディスプレイ106)に表示させる。階段などの昇降手段の始点(上下移動始点情報)および高さ(上下移動高さ情報)を加味して、ナビゲーション用ARオブジェクト207の位置を補正したので、図10に示されているように、ナビゲーション用ARオブジェクト207は階段などの昇降手段に沿うように表示される。
さらに、端末装置100が、ARナビゲーションのルート上に昇降手段を検知した場合、端末装置100のユーザが昇降手段を使用していることを検知した場合、または、端末装置100のユーザが昇降手段の使用を終了したことを検知した場合には、上述の上下移動注意喚起(第1態様、第2態様または第3態様)に係る表示を行う。第2態様においては、ルート描画処理に係るナビゲーション用ARオブジェクト207は非表示となる。第3態様においては、注意喚起描画処理に係る、昇降中であることを示す情報210は非表示となる。
(昇降手段の検知、昇降中であることの検知、昇降後であることの検知)
端末装置100は、気圧センサからの気圧情報や、6軸センサからの端末装置100の移動量情報に基づいて、端末装置100の上下方向の移動を検知することができる。端末装置100の上下方向の一定距離以上の移動を端末装置100が検知した場合、端末装置100のユーザが昇降手段を使用している(昇降中である)と判定してよい。この場合、端末装置100は、昇降中であることを示す情報210を画面(ディスプレイ106)に表示させ、ナビゲーション用ARオブジェクト207を非表示にする。
上記とは逆に、上下方向に移動していた端末装置100が上下方向に移動しなくなったことを端末装置100が検知した場合、端末装置100は、端末装置100のユーザが昇降手段の使用を終了した(昇降後である)と判定してよい。この場合、端末装置100は、昇降中であることを示す情報210を画面(ディスプレイ106)から非表示にし、ナビゲーション用ARオブジェクト207を再び表示させる。
現在地算出処理によって算出された現在地が、ルート情報に含まれている昇降手段がある位置(上下移動始点情報により特定可能)の手前の、所定距離内にある場合、端末装置100がARナビゲーションのルート上に昇降手段を検知したと判定してよい。この場合、端末装置100は、昇降手段の使用を促す情報を画面に表示させる。
現在地算出処理によって算出された現在地が、ルート情報に含まれている昇降手段がある位置(上下移動始点情報により特定可能)と重なっているならば、端末装置100は、端末装置100のユーザが昇降手段を使用している(昇降中である)と判定してよい。この場合、端末装置100は、昇降中であることを示す情報210を表示させ、ナビゲーション用ARオブジェクト207を非表示にする。
現在地算出処理によって算出された現在地が、ルート情報に含まれている昇降手段がある位置(図18においては図示を省略する、サーバから取得した、DATA3に含まれ得る上下移動終点情報により特定可能)の後ろにある場合、端末装置100は、端末装置100のユーザが昇降手段の使用を終了した(昇降後である)と判定してよい。この場合、端末装置100は、昇降中であることを示す情報210を画面(ディスプレイ106)から非表示にし、ナビゲーション用ARオブジェクト207を再び表示させる。
(上下移動補正の第1態様)
上述のように、本開示におけるナビゲーションは、GPS等の位置特定システム用の電波を受信するのが困難、あるいは受信することができない、駅の構内等での実施を前提としている。また、本開示におけるナビゲーションは、カメラ103による撮像画像に基づいて端末装置100の現在位置を特定するものである。そのため、端末装置100が移動するにつれて、端末装置100の実際の位置や向きと、AR空間上の位置や向きとの間に、誤差が生じ、この誤差が徐々に大きくなる可能性がある。
端末装置100を携行するユーザが、階段やエスカレータ等を使用している場合、この階段やエスカレータの向き(進行方向)は予め定まっている。階段やエスカレータの向き情報が、DLコンテンツ内のARナビゲーションデータ(DATA3)に含まれていてよい。そこで、端末装置100(のプロセッサ101)は、端末装置100のユーザが昇降手段を使用していることを検知したときに、昇降手段を使用した場合に想定される所定の進行方向に基づいて、端末装置100のAR空間における向きを補正する。
図13は、端末装置100の、AR空間における向き補正を示す概念図であり、(a)補正前、(b)補正後である。
ARナビゲーションデータには、階段STを示すデータが含まれている。例えば、階段STの向きを示す向き情報が、ARナビゲーションデータに含まれていてよい。また、階段STについての上下移動始点情報と、上下移動終点情報とが、ARナビゲーションデータに含まれていてもよい。階段STについての上下移動始点情報と上下移動終点情報から、階段STの向き情報を算出することも可能である。階段STの向きは、端末装置100のユーザが階段STを使用した場合に想定される進行方向に相当する。
図13(a)および(b)に示した白抜きの矢印は、階段ST上を歩行中のユーザが携行している端末装置100の、AR空間上の向きを示している。この向きは、端末がAR空間上で正しい移動方向だと認識している向き(この例では、階段STのAR空間内での向き)である。図13(a)の時点では、端末装置100のAR空間上の向きが、階段STの向きに対して斜め方向にずれている。
そこで、階段ST上を移動中の端末装置100は、端末装置100を携行するユーザが階段STを使用した場合に想定される所定の進行方向に、端末装置100のAR空間における向きを補正する。この補正処理後を示す図13(b)の時点では、端末装置100のAR空間上の向きが、階段STの向きに基づいて、適切に補正されている。
図19は、上下移動補正の第1態様(向きの補正)を行う際の、端末装置100の内部処理例を示すブロック図である。図15~図18と同様の部分については、説明を省略する。一般的に上下移動が発生する場合、上下移動が終了した直後の移動方向(上り切った直後の進行方向、あるいは、下り切った直後の進行方向)は限定されている。例えば、エレベータの場合は、エレベータの扉から出る移動方向にしか移動は発生し得ない。また、階段やエスカレータの場合も、移動方向は階段等を斜めに登った場合等の幅方向のずれはあるものの限定されている。そこで、本態様では、この性質を利用し、6軸センサや気圧センサ等を用いて上下移動の終了を検知した場合に、既知である昇降手段の向きに基づいて、端末装置100のAR座標空間上の向きを補正する。これにより、端末装置100の実際の向きと、AR空間上の向きとの間にあった誤差は減少し、ARナビゲーションを適切に継続することができる。なお、上下移動の終了の検知には、画像とは異なるセンサ(6軸センサ、気圧計、ジャイロセンサ、加速度センサ等)を用いるとよい。上述したとおり、画像を利用した移動の検知では、階段等での特徴点の誤認識が発生したり、エレベータおよびエスカレータで移動自体が検知できなかったりするためである。
(上下移動補正の第2態様)
上記の、上下移動補正の第1態様と同様に、GPS等の位置特定システムではなく、カメラ103による撮像画像に基づいて端末装置100の現在位置を特定するARナビゲーションにおいては、端末装置100が移動するにつれて、端末装置100の実際の位置と、AR空間上の位置との間に誤差が生じ、この誤差が徐々に大きくなる可能性がある。
端末装置100を携行するユーザが、階段、エスカレータまたはエレベータ等を使用した場合、この階段、エスカレータまたはエレベータの出口の位置や高さは予め定まっている。これらの昇降手段の終点(位置)情報や高さ情報は、DLコンテンツ内のARナビゲーションデータ(DATA3)に含まれていてよい。そこで、端末装置100(のプロセッサ101)は、端末装置100のユーザが昇降手段の使用を終了したことを検知したときに、端末装置100のAR空間における現在位置を、所定の箇所を示す座標値に基づいて補正する。なお、所定の箇所は、より具体的には、昇降手段の終点(階段、エスカレータ、エレベータ等の出口)であってよい。所定の箇所を示す座標値は、絶対座標による座標値であってよい。
図20は、上下移動補正の第2態様(位置の補正)を行う際の、端末装置100の内部処理例を示すブロック図である。図15~図19と同様の部分については、説明を省略する。一般的に上下移動が発生する場合、上下移動が終了した直後の位置(上り切った場所、あるいは、下り切った場所)は限定されている。例えば、エレベータの場合は、高さ方向の位置、水平方向の位置ともにエレベータの扉から出る位置に限定される。また、階段やエスカレータの場合も、高さは階段等を登り切った高さであることが確定しており、水平方向の位置も階段等の幅方向のずれはあるものの限定されている。そこで、本態様では、この性質を利用し、6軸センサや気圧センサ等を用いて上下移動の終了を検知した場合に、既知である昇降手段の位置に基づいて、端末装置100のAR座標空間上の現在位置を補正する。これにより、端末装置100の実際の位置と、AR空間上の位置との間にあった誤差は減少し、ARナビゲーションを適切に継続することができる。なお、階段等のように幅方向のズレが発生し得る場合、水平方向の座標のみ上下移動を開始した時点での座標を流用するか、階段等の幅のうちの任意の位置(例えば階段の中央付近)の座標を水平方向の座標として用いることが考えられる。なお、上下移動の終了の検知には、画像とは異なるセンサ(6軸センサ、気圧計、ジャイロセンサ、加速度センサ等)を用いるとよい。上述したとおり、画像を利用した移動の検知では、階段等での特徴点の誤認識が発生したり、エレベータおよびエスカレータで移動自体が検知できなかったりするためである。
図14は、ARナビゲーション終了時の、ディスプレイ106による表示例である。画面(ディスプレイ106)には、目的地周辺に到着したことを示すメッセージ211が表示される。
(変形例)
上述では、電子看板10から送信された光信号12(図3参照)をカメラ103で受信し、IDを取得する例を説明した。しかし、端末装置100は、他の方法でIDを取得してもよい。例えば、電子看板10に代えて、二次元コードが印刷されたポスターが所定の場所に設置されてもよい。そして、端末装置100は、カメラ103で二次元コードを読み取り、その二次元コードからIDを取得してもよい。この場合、ポスターに所定のマーク11が印刷されてよい。また、光信号12を用いる場合であっても、その信号の発信源は電子看板の形態である必要はなく、例えば、照明器具などであってもよい。また、この光信号12を発する照明器具をバックライトとしマーク11を印刷したカバーあるいはポスターで覆った看板であってもよい。すなわち、本開示においてカメラ103を向ける対象は、任意の設置物でよい。また、ナビゲーション開始時における端末装置100の位置については照明器具から取得し、ナビゲーション開始時における端末装置100の向きは電子看板から取得するなど、それぞれの情報を別々の設置物を用いて取得してもよい。
また、上述では、電子看板10から送信する情報はIDのみであり、他の情報はIDを用いてサーバ20から取得していたが、電子看板10自体に情報(上述のDLコンテンツなど)を記憶しておき、無線通信等によって全ての情報または一部の情報を端末装置100へ送信してもよい。
また、上述では、屋内向けのナビゲーションを目的としたシステムとして本開示の説明を行ったが、屋外のナビゲーションに用いても構わない。また、屋外と屋内の両方を移動するルートなどに本開示を応用する場合、GPS等の屋外でのみ取得可能な情報を用いて計算した位置および方位を用いて、現在位置を修正してもよい。また、本開示の一部または全部を歩行者向けのARナビゲーションのみならず、2次元表示のカーナビゲーションシステムなど他のナビゲーションシステムへ応用することも可能である。
また、上述では、DATA2として取得する設置高さの情報は、マーク11の正確な高さであってよいし、電子看板10の大まかな高さであってもよい。前者の場合はマーク11の位置を正確に計測する必要があるため、電子看板10の設置が煩雑になる一方、その高さをそのまま端末装置100の高さとして利用することができる。後者の場合は、電子看板10の設置の手間が軽減される一方、端末装置100の初期の高さとしての正確性は落ちるが、上述の通り、本開示では床面FLを検知して表示の高さを随時調整するため、ナビゲーションの見た目には大きな支障はない。
以上のように、前記プロセッサは、前記端末装置のユーザが前記昇降手段を使用していることを検知したときに、前記画面に、昇降中であることを示す情報を表示させ、前記ナビゲーション用オブジェクトを非表示にする。これにより、端末装置が昇降手段を使用する際に、誤差が生じ得るナビゲーション用オブジェクト以外の手段によって、ナビゲーションを継続することができる。
前記プロセッサは、前記端末装置のユーザが前記昇降手段を使用していることを検知したときに、前記昇降手段を使用した場合に想定される所定の進行方向に基づいて、前記端末装置の空間における向きを補正する。これにより、固定位置に存在する昇降手段を利用して、端末装置の向きについての誤差を補正することができる。
前記プロセッサは、前記端末装置のユーザが前記昇降手段の使用を終了したことを検知したときに、前記昇降中であることを示す情報を非表示にし、前記ナビゲーション用オブジェクトを表示させる。これにより、昇降手段から降りた後も、ナビゲーションを継続することができる。
前記プロセッサは、前記端末装置のユーザが前記昇降手段の使用を終了したことを検知したときに、前記端末装置の空間における現在位置を、所定の箇所を示す座標値に基づいて補正する。これにより、固定位置に存在する昇降手段を利用して、端末装置の現在位置についての誤差を補正することができる。
前記プロセッサは、床面から所定の高さにあるナビゲーション開始位置に向けられた前記端末装置の、前記床面に対する相対位置を算出し、前記ナビゲーション用オブジェクトを、前記画面に表示された前記床面から所定の高さになるように表示させる。これにより、固定位置であるナビゲーション開始位置を基準にして、所定の高さにナビゲーション用オブジェクトを重畳表示することができる。
前記プロセッサは、前記カメラが取得した、前記ナビゲーション開始位置に配置された起点情報に基づいて、前記端末装置の、前記床面に対する相対位置を算出する。また、前記起点情報が、物体の形状、模様、マーク、および識別コードのうちのいずれかであってよい。これにより、カメラから取得可能な種々の起点情報に基づいて、所定の高さにナビゲーション用オブジェクトを重畳表示することができる。
前記プロセッサは、ナビゲーション機能の実行中に前記カメラによって平面を検出したときに、前記平面が床面に相当するか否かを判定し、前記平面が床面に相当する場合、前記端末装置の、前記平面に対する相対位置を算出し、前記ナビゲーション用オブジェクトを、前記画面に表示された前記平面から所定の高さになるように表示させる。これにより、ナビゲーション中においても、カメラの撮像画像に含まれる水平面等の平面に基づいて、ナビゲーション用オブジェクトを一定の高さに表示することができる。
前記プロセッサは、前記ナビゲーション用オブジェクトの高さが、前記カメラの高さに対して一定の高さの範囲内に収まるように、前記ナビゲーション用オブジェクトの高さを変更する。これにより、ユーザが端末装置を携行していることを前提にして、不自然な高さにナビゲーション用オブジェクトが表示されることを防止することができる。
前記プロセッサは、前記カメラによる撮像画像から特徴点情報を抽出して前記メモリに保存し、所定のタイミングで、前記特徴点情報を出力する。これにより、抽出した特徴点情報を目印にして、次回以降のナビゲーションを、より誤差の少ないものにすることができる。
前記所定のタイミングは、ナビゲーション開始位置から所定の距離、前記ナビゲーション用オブジェクトの表示に基づいて前記端末装置を移動させた後であってよい。これにより、ナビゲーション開始位置から徐々に遠くまで、特徴点情報を活用可能な領域を広げていくことができる。
前記プロセッサは、前記特徴点情報をファイル出力するか、サーバにアップロードする。これにより、最初のナビゲーションを実行した端末装置とは異なる端末装置も、保存された特徴点情報を活用することができる。
前記プロセッサは、出力された前記特徴点情報を取得し、取得した前記特徴点情報に基づいて、前記ナビゲーション用オブジェクトの前記画面への表示位置を調整する。これにより、異なる端末装置が行ったナビゲーションにおいて保存された特徴点情報を活用することができる。
以上、図面を参照しながら各種の実施の形態について説明したが、本開示はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例、修正例、置換例、付加例、削除例、均等例に想到し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。また、発明の趣旨を逸脱しない範囲において、上述した各種の実施の形態における各構成要素を任意に組み合わせてもよい。
本開示は、ユーザを適切にナビゲートすることができる、端末装置、ナビゲーション方法、および、ナビゲーションプログラムとして有用である。
10 電子看板
11 マーク
20 サーバ
100 端末装置
101 プロセッサ
102 メモリ
103 カメラ
104 加速度センサ
105 気圧センサ
106 ディスプレイ
107 ネットワークインタフェース
201 マーク
202 ダウンロード進捗表示バー
203 矩形枠
204 目的地リスト
205 目的地ボックス
206 メッセージ画像
207 ナビゲーション用ARオブジェクト
BS 基地局
FL 床面
ST 階段

Claims (20)

  1. ナビゲーションを実行可能な端末装置であって、
    プロセッサと、画面と、カメラと、メモリと、を備え、
    前記プロセッサは、
    前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させ、
    前記端末装置のユーザが前記ナビゲーションのルート上の昇降手段を使用していることを検知したときに、前記画面に、昇降中であることを示す情報を表示させ、前記ナビゲーション用オブジェクトを非表示にする、
    端末装置。
  2. 前記プロセッサは、前記ナビゲーションのルート上に昇降手段を検知した場合、前記画面に、前記昇降手段の使用を促す情報を表示させる、
    請求項1に記載の端末装置。
  3. 前記プロセッサは、前記端末装置のユーザが前記昇降手段を使用していることを検知したときに、前記昇降手段を使用した場合に想定される所定の進行方向に基づいて、前記端末装置の空間における向きを補正する、
    請求項1に記載の端末装置。
  4. 前記プロセッサは、前記端末装置のユーザが前記昇降手段の使用を終了したことを検知したときに、前記昇降中であることを示す情報を非表示にし、前記ナビゲーション用オブジェクトを表示させる、
    請求項1から請求項3のいずれか一項に記載の端末装置。
  5. 前記プロセッサは、前記端末装置のユーザが前記昇降手段の使用を終了したことを検知したときに、前記端末装置の空間における現在位置を、所定の箇所を示す座標値に基づいて補正する、
    請求項1から請求項4のいずれか1項に記載の端末装置。
  6. ナビゲーションを実行可能な端末装置であって、
    プロセッサと、画面と、カメラと、メモリと、を備え、
    前記プロセッサは、
    前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させ、
    床面から所定の高さにあるナビゲーション開始位置に向けられた前記端末装置の、前記床面に対する相対位置を算出し、前記ナビゲーション用オブジェクトを、前記画面に表示された前記床面から所定の高さになるように表示させる、
    端末装置。
  7. 前記プロセッサは、前記カメラが取得した、前記ナビゲーション開始位置に配置された起点情報に基づいて、前記端末装置の、前記床面に対する相対位置を算出する、
    請求項6に記載の端末装置。
  8. 前記起点情報が、物体の形状、模様、マーク、および識別コードのうちのいずれかである、請求項7に記載の端末装置。
  9. ナビゲーションを実行可能な端末装置であって、
    プロセッサと、画面と、カメラと、メモリと、を備え、
    前記プロセッサは、
    前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させ、
    ナビゲーション機能の実行中に前記カメラによって平面を検出したときに、前記平面が床面に相当するか否かを判定し、
    前記平面が床面に相当する場合、前記端末装置の、前記平面に対する相対位置を算出し、前記ナビゲーション用オブジェクトの高さを、前記平面に対する前記カメラの高さに対して一定の高さの範囲内に収まるように変更する、
    端末装置。
  10. ナビゲーションを実行可能な端末装置であって、
    プロセッサと、画面と、カメラと、メモリと、を備え、
    前記プロセッサは、
    前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させ、
    前記カメラによる撮像画像から特徴点情報を抽出して前記メモリに保存し、
    所定のタイミングで、前記特徴点情報を前記メモリから取得し、取得した前記特徴点情報に基づいて、前記ナビゲーション用オブジェクトの前記画面への表示位置を調整する、
    端末装置。
  11. 前記所定のタイミングは、ナビゲーション開始位置から所定の距離、前記ナビゲーション用オブジェクトの表示に基づいて前記端末装置を移動させた後である、
    請求項10に記載の端末装置。
  12. 前記プロセッサは、前記特徴点情報をファイル出力するか、サーバにアップロードする、請求項10または請求項11に記載の端末装置。
  13. ナビゲーションを実行可能な端末装置による、ナビゲーション方法であって、
    前記端末装置は、プロセッサと、画面と、カメラを備え、
    前記プロセッサが、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させるステップと、
    前記プロセッサが、前記端末装置のユーザが前記ナビゲーションのルート上の昇降手段を使用していることを検知したときに、前記画面に、昇降中であることを示す情報を表示させ、前記ナビゲーション用オブジェクトを非表示にするステップと、
    を有する、
    ナビゲーション方法。
  14. 端末装置による、ナビゲーション方法であって、
    前記端末装置は、プロセッサと、画面と、カメラを備え、
    前記プロセッサが、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させるステップと、
    前記プロセッサが、床面から所定の高さにあるナビゲーション開始位置に向けられた前記端末装置の、前記床面に対する相対位置を算出し、前記ナビゲーション用オブジェクトを、前記画面に表示された前記床面から所定の高さになるように表示させるステップと、
    を有する、
    ナビゲーション方法。
  15. 端末装置による、ナビゲーション方法であって、
    前記端末装置は、プロセッサと、画面と、カメラを備え、
    前記プロセッサが、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させるステップと、
    前記プロセッサが、ナビゲーション機能の実行中に前記カメラによって平面を検出したときに、前記平面が床面に相当するか否かを判定するステップと、
    前記平面が床面に相当する場合、前記端末装置の、前記平面に対する相対位置を算出し、前記ナビゲーション用オブジェクトの高さを、前記平面に対する前記カメラの高さに対して一定の高さの範囲内に収まるように変更するステップと、
    を有する、
    ナビゲーション方法。
  16. 端末装置による、ナビゲーション方法であって、
    前記端末装置は、プロセッサと、画面と、カメラと、メモリを備え、
    前記プロセッサが、前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させるステップと、
    前記プロセッサが、前記カメラによる撮像画像から特徴点情報を抽出して前記メモリに保存し、
    前記プロセッサが、所定のタイミングで、前記メモリから前記特徴点情報を取得し、取得した前記特徴点情報に基づいて、前記ナビゲーション用オブジェクトの前記画面への表示位置を調整するステップと、
    を有する、
    ナビゲーション方法。
  17. ナビゲーションプログラムであって、
    プロセッサと、画面と、カメラを備え、ナビゲーションを実行可能な端末装置に、
    前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させる機能と、
    前記端末装置のユーザが前記ナビゲーションのルート上の昇降手段を使用していることを検知したときに、前記画面に、昇降中であることを示す情報を表示させ、前記ナビゲーション用オブジェクトを非表示にする機能と、
    を実行させる、
    ナビゲーションプログラム。
  18. ナビゲーションプログラムであって、
    プロセッサと、画面と、カメラを備えた端末装置に、
    前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させる機能と、
    床面から所定の高さにあるナビゲーション開始位置に向けられた前記端末装置の、前記床面に対する相対位置を算出し、前記ナビゲーション用オブジェクトを、前記画面に表示された前記床面から所定の高さになるように表示させる機能と、
    を実行させる、
    ナビゲーションプログラム。
  19. ナビゲーションプログラムであって、
    プロセッサと、画面と、カメラを備えた端末装置に、
    前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させる機能と、
    ナビゲーション機能の実行中に前記カメラによって平面を検出したときに、前記平面が床面に相当するか否かを判定する機能と、
    前記平面が床面に相当する場合、前記端末装置の、前記平面に対する相対位置を算出し、前記ナビゲーション用オブジェクトの高さを、前記平面に対する前記カメラの高さに対して一定の高さの範囲内に収まるように変更する機能と、
    を実行させる、
    ナビゲーションプログラム。
  20. ナビゲーションプログラムであって、
    プロセッサと、画面と、カメラと、メモリを備えた端末装置に、
    前記画面に、前記カメラが撮像した画像と、ナビゲーション用オブジェクトとを重畳表示させる機能と、
    前記カメラによる撮像画像から特徴点情報を抽出して前記メモリに保存する機能と、
    前記プロセッサが、所定のタイミングで、前記メモリから前記特徴点情報を取得し、取得した前記特徴点情報に基づいて、前記ナビゲーション用オブジェクトの前記画面への表示位置を調整する機能と、
    を実行させる、
    ナビゲーションプログラム。
JP2020044543A 2020-03-13 2020-03-13 端末装置、ナビゲーション方法、および、ナビゲーションプログラム Active JP7523055B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020044543A JP7523055B2 (ja) 2020-03-13 2020-03-13 端末装置、ナビゲーション方法、および、ナビゲーションプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020044543A JP7523055B2 (ja) 2020-03-13 2020-03-13 端末装置、ナビゲーション方法、および、ナビゲーションプログラム

Publications (2)

Publication Number Publication Date
JP2021144009A JP2021144009A (ja) 2021-09-24
JP7523055B2 true JP7523055B2 (ja) 2024-07-26

Family

ID=77766403

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020044543A Active JP7523055B2 (ja) 2020-03-13 2020-03-13 端末装置、ナビゲーション方法、および、ナビゲーションプログラム

Country Status (1)

Country Link
JP (1) JP7523055B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20240041053A (ko) * 2022-09-22 2024-03-29 주식회사 다비오 경로 안내 단말, 경로 안내 시스템 및 경로 안내 방법

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006194665A (ja) 2005-01-12 2006-07-27 Sanyo Electric Co Ltd ナビゲーション機能付き携帯型端末機
JP2011122954A (ja) 2009-12-11 2011-06-23 Navitime Japan Co Ltd ナビゲーションシステム、端末装置、ナビゲーションサーバ、ナビゲーション装置、および、ナビゲーション方法
JP2012215409A (ja) 2011-03-31 2012-11-08 Zenrin Datacom Co Ltd ナビゲーション装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3390624B2 (ja) * 1997-03-27 2003-03-24 富士通テン株式会社 ナビゲーション装置
KR20170088686A (ko) * 2016-01-25 2017-08-02 버츄얼빌더스 주식회사 실내 네비게이션 시스템 및 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006194665A (ja) 2005-01-12 2006-07-27 Sanyo Electric Co Ltd ナビゲーション機能付き携帯型端末機
JP2011122954A (ja) 2009-12-11 2011-06-23 Navitime Japan Co Ltd ナビゲーションシステム、端末装置、ナビゲーションサーバ、ナビゲーション装置、および、ナビゲーション方法
JP2012215409A (ja) 2011-03-31 2012-11-08 Zenrin Datacom Co Ltd ナビゲーション装置

Also Published As

Publication number Publication date
JP2021144009A (ja) 2021-09-24

Similar Documents

Publication Publication Date Title
CN111065891B (zh) 基于增强现实的室内导航系统
US10715963B2 (en) Navigation method and device
US20210019854A1 (en) Location Signaling with Respect to an Autonomous Vehicle and a Rider
US10677596B2 (en) Image processing device, image processing method, and program
US20090063047A1 (en) Navigational information display system, navigational information display method, and computer-readable recording medium
CN1755326B (zh) 导航装置
US11365974B2 (en) Navigation system
US10054441B2 (en) Building surveying device with an automatic plumb point finding functionality
JP2017106787A (ja) 情報処理装置、ナビゲーション・システム、情報処理方法、およびプログラム
US20160258760A1 (en) Providing directions to a location in a facility
US20150260539A1 (en) Three Dimensional Routing
CN110431378B (zh) 相对于自主车辆和乘客的位置信令
CN101970989A (zh) 人员导航辅助装置
JP2013195143A (ja) 位置検出装置、電子機器、位置検出システム、及びプログラム
JP2013190265A (ja) 移動量推定システム、移動量推定方法、移動端末
KR102622585B1 (ko) 실내 길안내 장치 및 그 방법
CN108398129B (zh) 用于消防救援中人员位置与地图快速匹配的方法
JP7523055B2 (ja) 端末装置、ナビゲーション方法、および、ナビゲーションプログラム
JP7265269B2 (ja) マップデータの修正方法及び修正プログラム
KR101512638B1 (ko) 센서를 이용한 길안내 서비스 제공장치 및 방법
JP2019215646A (ja) 駐車位置案内システムおよび駐車位置案内プログラム
KR102442239B1 (ko) 디지털 사이니지를 이용한 실내 길안내 장치
JP7293057B2 (ja) 放射線量分布表示システムおよび放射線量分布表示方法
JP2017181179A (ja) フロア間の遷移に基づいて位置の補正が可能な位置推定装置、プログラム及び方法
KR20210067607A (ko) 위치를 탐지하는 전자 장치 및 그 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231212

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240312

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240513

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240604

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240704

R150 Certificate of patent or registration of utility model

Ref document number: 7523055

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150