Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7693284B2 - 情報処理装置、情報処理方法及びープログラム - Google Patents
[go: Go Back, main page]

JP7693284B2 - 情報処理装置、情報処理方法及びープログラム - Google Patents

情報処理装置、情報処理方法及びープログラム Download PDF

Info

Publication number
JP7693284B2
JP7693284B2 JP2020082424A JP2020082424A JP7693284B2 JP 7693284 B2 JP7693284 B2 JP 7693284B2 JP 2020082424 A JP2020082424 A JP 2020082424A JP 2020082424 A JP2020082424 A JP 2020082424A JP 7693284 B2 JP7693284 B2 JP 7693284B2
Authority
JP
Japan
Prior art keywords
information processing
feature points
map
environment
processing device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020082424A
Other languages
English (en)
Other versions
JP2021177144A (ja
Inventor
彰人 今井
真和 藤木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2020082424A priority Critical patent/JP7693284B2/ja
Priority to US17/306,764 priority patent/US12367689B2/en
Publication of JP2021177144A publication Critical patent/JP2021177144A/ja
Application granted granted Critical
Publication of JP7693284B2 publication Critical patent/JP7693284B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional [3D] objects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20Instruments for performing navigational calculations
    • G01C21/206Instruments for performing navigational calculations specially adapted for indoor navigation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Description

本発明は、移動体の位置を推定する技術に関する。
工場や物流倉庫において無人搬送車(Automated Guided Vehicle、以下AGVと呼ぶ)のような移動ロボットが用いられている。また、こうした無人搬送車の現在位置や姿勢を推定する方法として、カメラやレーザーレンジスキャナをセンサとして使用したSLAM(Simultaneous Localization and Mapping)技術が知られている。例えば、特許文献1では、レーザーレンジスキャナを用いたSLAM技術により走行エリアの水平面上の環境マップを作成する。それをGUI(Graphical User Interface)上に表示して無人搬送車の走行経路を設定するシステムが開示されている。特許文献2には、車両に搭載されているレーザスキャナから周辺物体にレーザを照射する。レーザスキャナと周辺物体との距離と方位を示す計測値から三次元点群データを生成し、ユーザによって指定された視線位置および視線方向に基づいて、その三次元点群データを二次元投影処理することで点群画像を生成する技術が記載されている。
WO17/188292号公報 特許第6335389号公報
しかしながら、特許文献1または2の方法では、観測した三次元特徴点群すべてを二次元画像上に表示することで、経路設定に必要な特徴の位置を視認しづらくなる可能性があった。上記課題を解決する本発明にかかる情報処理装置は、三次元計測装置を有する移動体が計測した三次元計測結果をユーザに見やすいように表示することを目的とする。
上記の目的を達成する本発明に係る情報処理装置は、計測装置を有する移動体が移動する環境を示すマップを出力する情報処理装置であって、前記移動体が移動する天井を含む環境の特徴点の三次元位置を取得する取得手段と、前記特徴点の高さ方向の分布に基づいて、前記環境において前記天井の前記特徴点を除いた平面上の前記特徴点の位置を、前記環境における所定の平面に示す前記マップとして出力する出力手段と、を有することを特徴とする。
本発明によれば、三次元計測装置を有する移動体が計測した三次元計測結果をユーザに見やすいように表示できる。
情報処理装置のハードウェア構成例を示すブロック図 情報処理システムの機能構成例を示すブロック図 移動体の走行環境およびマップ画像の一例を示す図 情報処理装置が実行する処理の流れを示すフローチャート 出力部が実行する処理の流れを示すフローチャート 三次元空間中の特徴点群の水平方向の分布を示す図 三次元空間中の特徴点群の高さ方向の分布を示す度数折れ線グラフ 表示用データの投影結果の一例を示す図 位置姿勢情報の表示の一例を示す図 情報処理システムの機能構成例を示すブロック図 情報処理装置が実行する処理の流れを示すフローチャート GUIの一例を示す図 GUIの一例を示す図 情報処理装置が実行する処理の流れを示すフローチャート GUIの一例を示す図 表示用データの投影結果の一例を示す図 情報処理装置のハードウェア構成例を示すブロック図 情報処理システムの機能構成例を示すブロック図
以下、本発明の実施の形態について図面を参照して詳細に説明する。尚、以下の実施の形態は本発明の特許請求の範囲を限定するものではなく、また以下の実施の形態で説明されている特徴の組み合わせの全てが本発明を構成する上で必須のものとは限らない。
<第1の実施形態>
以下、本発明に係る第1の実施形態の情報処理装置について図面を参照して詳細に説明する。本実施形態では、周囲の形状を計測可能なセンサ(例えば、ステレオカメラ)等を搭載した自動運転車(以下、移動体と呼ぶ)が、周囲の環境をセンサで計測することによって、移動体自身の位置を推定する。移動体は、環境における特徴点の位置を示す環境マップにおいて事前にユーザによって設定された目的地まで走行する。なお、ここで説明する環境マップは、基本的には情報処理装置において移動体の位置を算出するために用いるマップで、環境(移動体が移動する現実空間)における特徴点の三次元位置を示す。ユーザはGUIを介してこの環境マップを参照できるものとする。このとき、移動体が計測した周囲の形状を三次元の特徴点(以下、点群データと呼ぶ)として、情報処理装置と接続された表示装置に表示することができる。しかしながら、三次元の点群データすべてを単純に二次元座標系にプロットしたマップは、例えば図6aに示すようなマップになるため、ユーザにとって地図として視認しづらい。また、環境マップに点群データを投影することで生成される図6bのようなマップは、例えば天井の形状といった余分な点群データを含むため、ユーザにとって視認性が低い。具体的には、一般に天井や床は特定の閉空間を構成する構造物であるため、移動体が移動する平面から所定の高さ(すなわち、床または天井の高さ)の平面において、天井または床を示す特徴点が一様に分布する。移動体の移動範囲を示す画像(すなわち、移動体を俯瞰してみたときの地図)を表示するためには、三次元特徴点を移動体が移動する平面に投影する。そのとき、高さ方向(Z軸とする)が異なっていても、移動体が移動する平面を成す方向(X軸方向とY軸方向とする)が一致する特徴点は同じ位置に投影される。そのため、他の壁や家具等の静止物体を示す特徴点が、床または天井を示す特徴点と同じ位置に投影されてしまうことがある。そうすると、壁や静止物体の表面(端点)の位置が分かりづらいマップになってしまう可能性がある。特に、車両が室内を走行する場合は、天井や床等の観測点が多く二次元画像に射影されるため、天井や床ではない構造物(環境内の障害物)の特徴部分が見づらくなる可能性があった。そこで、第1の実施形態では、移動体が利用する環境マップ内の点群データのうち、ユーザが見るためのマップに有効なデータを用いて、よりユーザが直感的に環境内の位置を把握しやすい表示用データを生成し、表示装置上に表示する。さらに、リアルタイムで移動している移動体の現在位置を表示用データに重畳して表示装置上に表示することにより、ユーザは移動体の現在位置を容易に把握することが可能となる。
(情報処理装置および情報処理システムの構成)
図1は、本実施形態に係る情報処理装置101および移動体120のハードウェア構成の一例を示す図である。情報処理装置101は一般的なPC機器の機能を備えており、CPU102、ROM103、RAM104、HDDやSSD等の記憶部105、USB等の汎用I/F106およびシステムバス107で構成される。CPU102は、RAM104をワークメモリとして、ROM103、記憶部105等に格納されたオペレーティングシステム(OS)や各種プログラムを実行し、システムバス107を介して各部を制御する。例えばCPU102が実行するプログラムには、後述する処理を実行するためのプログラムが含まれる。また、情報処理装置101には汎用I/F106を通じてキーボード等の操作部111、ディスプレイ等の表示装置112、通信部113が接続されており、あわせて情報処理システム110を形成している。さらに、情報処理システム110は通信部113を通じて1つ以上の移動体(120A等)とネットワーク接続されている。移動体120Aおよび120Bは、三次元環境マップの作成と三次元環境マップ内での自律走行が可能な無人搬送車である。移動体120Aには情報処理装置101と同様に、CPU102a、ROM103a、RAM104a、記憶部105a、通信I/F106aがバス107aによって接続されている。移動体120Aは、通信I/F106aを介して情報処理装置101や他の移動体と無線通信を行う。
情報処理システム110は、情報処理装置101の機能を用い、通信部113を通じて取得した移動体の情報を表示装置112が表示することによってユーザに提示する。また、本実施形態では詳細の説明を省略するが、操作部111を通じてユーザから移動体に指示を与える役割を持つ。
(情報処理装置の論理構成)
以下、本実施形態に係る情報処理装置の論理的な構成について説明する。以下に示す各部の処理は、ROM103等からコンピュータプログラムをRAM104上に読み込んだ後、CPU102によって該プログラムを実行することによってソフトウェアとして実施される。図2は、情報処理装置101、情報処理システム110および移動体120Aの論理的な構成を示すブロック図である。
三次元特徴点群取得部201は、移動体が有する三次元計測装置によって計測された特徴点であって、移動体が移動する環境の形状を示す特徴点を取得する。例えば、記憶部105や移動体120A上に保存された特徴点群データを取得する。三次元特徴点群取得部201は記憶部105に保存されている三次元環境マップを読み出し、環境マップ内の特徴点群データを取得する。環境マップの詳細については後述する。
表示用データ生成部202は、取得された特徴点群の一部から、環境における移動体の障害物の端部や境界を示す特徴点の位置を示すための特徴点を生成する。移動体にとって障害物になるかどうかは、移動体の高さを判断基準にすることができる。その他、天井・床の特徴は障害物にならないと判断することができる。特徴点群データを基に、天井または床の位置を示す特徴点を除いた画面表示用の三次元データを生成する。
投影部203は、環境における移動体の障害物の端部や境界を示す特徴点の位置を、環境における所定の平面に示したマップを投影する。すなわち、画面表示用の三次元データを所定の平面へ投影した2Dデータに変換する。所定の平面として、具体的には移動体が移動する平面(走行面)に対して特徴点群を射影する。これによって、移動体が移動可能な範囲をマップ上で示すことができる。
出力部204は、特徴点の一部に基づいて、環境において移動体が移動するときに障害となる物体の端部を示す特徴点の位置を、環境における所定の平面に示すマップとして出力する。境界とは具体的には壁や窓または物体(什器等)の他の物体との境界であり、移動体が移動する空間を仕切るものである。環境マップに存在する三次元特徴点群のうち、これらの境界の位置を示す特徴点は一部であるので、それ以外の特徴点を間引いて表示するために床や天井を示す特徴点群を除外して出力する。さらに、投影部203が、生成した2Dデータをはじめとする各種データを画像データに変換し、表示装置112上に表示する。位置姿勢取得部205は、通信部113を通じ、ネットワーク接続された移動体120Aや移動体120Bが後述する位置姿勢計測部213で計測した位置姿勢をリアルタイムに取得する。移動体120の装置上で自己位置推定した結果を取得してもよい。移動体の位置を推定する方法は既存の技術を用いればよい。移動体の位置を推定する方法は位置推定部213の説明において後述する。他の方法では、例えば、客観カメラから撮った画像から移動体の特徴(マーカやLEDライト)を検出して、環境マップにおける位置を特定してもよい。
(移動体の論理構成)
続いて、本実施形態において情報処理装置に接続されている移動体120Aの論理的な構成について説明する。なお、移動体120Bは、移動体120Aと同様の構成を持つ別個体である。環境マップは共通のものを使用すると仮定する。
計測装置217は、移動体に搭載され、移動体の周囲の環境を三次元特徴として計測する装置である。計測装置とは例えば、撮像装置(カメラ)や距離センサである。ここでは、計測装置として撮像装置を用いて、移動体の周囲の環境を撮像する。撮像した画像は画像取得部211に送信される。なお、計測装置には、グレースケールやカラーの輝度画像を取得するカメラやデプスカメラ、三次元-LiDARなどを利用する。また、ステレオカメラを使用したり、複数のカメラを移動体の各方向を向くように並べたりしても良い。本実施形態においては、移動体の正面方向に固定されたグレースケールの輝度画像を取得可能なステレオカメラを使用する。
画像取得部211は、計測装置によって移動体の周囲の環境を計測したデータ(画像)を取得する。具体的には、移動体の周囲の輝度画像や深度画像をデジタルデータとして取得する。ステレオカメラや距離センサを用いて、各画素に距離値を示す距離画像を取得してもよい。
記憶部212は、移動体120Aが利用する環境マップや経路情報を保存しているストレージである。例えば、計測装置によって計測された環境の形状を示す特徴点を環境マップとして記憶している。環境マップは事前に計測した特徴点群を用いて生成する。
位置姿勢計測部213は、画像取得部211が取得した画像と環境マップとに基づいて、移動体120Aの環境マップ上での現在の位置姿勢を計測する。ここで位置姿勢とは、三次元空間上での座標と回転との組み合わせからなら6自由度の情報である。
三次元環境マップ作成部214は、環境内を移動している移動体120A上の画像取得部211で連続的に取得した画像をもとに、位置姿勢計測部213で利用可能な環境マップを生成する。
本実施形態では、位置姿勢計測部213および三次元環境マップ作成部214の処理は、公知のステレオ画像を用いてSLAMとして実装されている。(例えばMur-Artal, ORB- SLAM2: an Open-Source SLAM System for Monocular, Stereo and RGB-D Cameras. IEEE. 2017.)。 Visual SLAMでは移動体上に搭載したカメラで連続的に画像を撮影する。そして、各時刻の画像から画像平面上の特徴点を抽出し、ステレオペアあるいは直近の別の時刻の画像の画像平面上の特徴点との対応をもとに、三次元空間上での特徴点の座標とカメラの位置姿勢を同時かつ連続的に推定する技術である。推定された三次元空間上での特徴点は後述する環境マップに随時登録され、以降の時刻でのカメラの位置姿勢の推定に利用される。
通信部215は、情報処理システム110内の各種装置と相互にネットワーク接続を行い、各種データの送受信を行う。各種データとは、例えば、計測装置によって計測された特徴点や、環境マップ、移動体の位置姿勢情報等である。なお、情報処理装置101に送る特徴点は、三次元マップに登録された特徴点をすべて送ってもよいし、天井または床を示す特徴点を省いた有効な特徴点のみを送ってもよい。送信する特徴点の選択方法については、後述する表示用データ生成部で行う処理と同様にして決定する。
移動制御部216は、位置姿勢計測部が計測した現在位置姿勢および経路情報に基づき、移動手段(タイヤ)を駆動して移動体を移動させる。あるいは、図示しないインターフェースに基づいて前進・後退・旋回・停止などの指示をユーザから直接取得し、移動体を移動させる。移動手段は例えば一部が動力と連動した複数のタイヤであり、移動体120Aは略平面である床面上を走行する。なお、移動体が走行する床面を所定の平面として三次元特徴点を投影する基準とする。これによって、走行経路と環境における障害物の端部や境界(壁の位置)とをユーザに見やすく表示できる。
(移動体の走行環境)
図3は、以降の処理の説明に用いる環境300の水平面のレイアウトを示した模式図である。図3中のグレーで示した領域は壁などの障害物であり、白で示された領域は走行可能で水平な床面である。この環境は室内であり、所定の高さの水平な天井で覆われているものとする。障害物の例として、物体301は、移動体が自力で飛び越えて走行できないような高さがある物体(具体的には、段差や階段)である。障害物の天面や障害物上の天井が走行する移動体120Aの画像取得部211から観測可能である。(ドアレール等の多少の窪みであれば移動体はそのまま走行できるものとする。)物体302は断面が円形の柱、物体303は断面が矩形の柱である。領域304は比較的薄い壁で覆われた、移動体120Aで進入可能な部屋である。302~304の柱や壁は床から天井まで垂直に伸びている。また、ここでは説明の都合上環境300には窓やガラスといった透明物体は、その透明物体の端部の特徴点を検出できるものとして説明する。
(環境マップ)
本実施形態で利用する環境マップは、公知のVisual SLAM処理で生成あるいは利用可能な(二次元または三次元の)データである。環境マップは、三次元空間上の離散的な特徴点群と、離散的な複数のキーフレーム(環境内で撮像された画像と、撮影時のカメラパラメータと、その画像から観測される三次元空間上の特徴点群との対応関係を記述したもの)を含む。またカメラパラメータは、カメラの位置姿勢を記述した外部パラメータと、カメラの画角や光学系の歪曲特性を記述した内部パラメータを含む。
本実施形態では画像取得部211にグレースケール画像を取得するステレオカメラを使用しているため、各キーフレームについてステレオカメラの左右それぞれに対応したグレースケール画像とカメラパラメータが保存されている。外部パラメータについては、例えば左カメラの撮影時の位置姿勢のみを記録し、右カメラの位置姿勢は左カメラとの相対位置姿勢に基づいて算出する方式をとっても良い。
環境マップの作成は一例として、移動体120A上の三次元環境マップ作成部214を起動した状態でユーザが移動体120Aを手動で操作して移動させ、環境内の自律移動を予定している領域をくまなく移動することで生成される。本実施形態のように移動体が走行する領域が水平な床面である場合、環境マップ作成中の移動体120Aの位置の履歴を平面近似することで水平面(床面)を推定する。水平面の取得は、姿勢が既知かつ画像からカメラとの相対姿勢を取得可能なマーカーを撮影することで推定してもよい。あるいは、移動体120Aに加速度センサを組み込み、静止時に得られる鉛直方向を元に水平面を取得してもよい。
(移動体の位置姿勢表示処理)
次に、本発明に係る情報処理装置を使用した情報処理方法に関わる、三次元情報の表示方法および移動体の位置姿勢表示方法について図4~図10を参照し説明する。ここでは、作成済みの環境マップの領域内を走行中の移動体120Aの現在位置を、同じ環境マップデータ中の特徴点群を元に生成した表示用データに重畳して表示する手順を説明する。
図4は、本実施形態における情報処理装置が実行する処理の流れを示すフローチャートである。以下の説明では、各工程(ステップ)について先頭にSを付けて表記することで、工程(ステップ)の表記を省略する。図4のフローチャートに示した処理は、コンピュータである図2のCPU101により記憶装置104に格納されているコンピュータプログラムに従って実行される。
S401では、情報処理装置101が、初期化を行う。ソフトウェアとして起動し、通信部113を通じて移動体120Aとの通信を確立し、移動体120Aが利用している三次元環境マップデータを記憶部105にコピーする。先述の通り、この三次元環境マップデータには三次元空間上の離散的な特徴点が含まれている。
S402では、出力部204が、特徴点の一部に基づいて、環境において移動体が移動するときに障害となる物体の端部を示す特徴点の位置を、環境における所定の平面に示すマップとして出力する。具体的には、出力部204が、記憶部105に保存された環境マップデータ中の特徴点データから表示用のデータを生成し、二次元の画像として表示装置112上に表示する、三次元情報の表示処理を行う。S402の処理は本実施形態の基幹となる部分であるため、詳細については後述する。
続くS403からS405の処理は、移動体の移動に伴いリアルタイムで反復的に実行される処理である。
S403では、位置姿勢取得部205が、環境を計測したデータと環境マップとに基づいて、移動体の位置姿勢を取得する。ここでは、各移動体がそれぞれ撮像した画像からSLAMの手法を用いて自己位置姿勢推定を行った結果を情報処理装置が取得するものとして説明する。なお、ステレオ画像による位置姿勢推定の方法は、上述した位置姿勢計測部213と同様にSLAM技術等を用いる。または、通信部113を通じて移動体120Aで算出された位置姿勢情報を取得してもよい。
S404では、出力部204が、環境において移動体が移動するときに障害となる物体の端部を示す前記特徴点の位置を、環境における所定の平面に示したマップに移動体120Aの位置姿勢情報を示したマップを出力する。具体的には、出力部204はS403で取得した6自由度の位置姿勢情報を水平面上の座標と向きを示す3自由度の情報に変換し、座標と向きとを把握可能な画像データに変換して表示データ上に重畳表示する。図9は重畳表示結果の一例を示す図である。901は移動体120Aの位置姿勢を示すグラフィックオブジェクトであり、移動体120Aの現在位置が物体「301と断面が円形の柱302の間であり、図中右方向を向いていることを示している。
S405は、位置姿勢表示処理を終了するか継続するかの分岐である。例えばユーザから処理終了の指示があった場合や、移動体120Aとの通信状態の悪化により位置姿勢情報の表示の継続が困難な場合、表示処理を終了する。そうでない場合、S403へもどり処理を継続する。処理を継続する際。S403からS405の処理が所定の頻度(例えば、1秒に1回)となるような待機時間を設けても良い。
なお、上記では移動体120Aの処理時点での位置姿勢情報を表示装置112上に表示する例について説明したが、ネットワーク上の他の移動体120Bや、複数の移動体の位置姿勢情報を表示しても良い。また、移動体の位置姿勢情報の履歴をRAM104上に保存し、移動の軌跡を表示するような形態をとっても良い。
(三次元情報の表示処理)
続いて、S402で実行される三次元情報の表示処理の詳細について説明する。図5は、三次元情報の表示処理の詳細な流れを示すフローチャートである。
S501では、三次元特徴点群取得部201が、移動体が移動する環境の特徴点を取得する。なお、三次元特徴点は記憶部105に保存された環境マップデータから特徴点群データを取得する。または、画像から三次元特徴点を検出することによって取得してもよい。
S502では、表示用データ生成部202が、取得された特徴点群の一部から、環境において移動体が移動するときに障害となる物体の端部を示す特徴点を生成する。すなわち、表示用データ生成部202が、読み込んだ特徴点群から水平面への投影に適した点群を抽出する。この処理の流れは大きく3つの処理に分けられる。(1)三次元特徴点の高さの分布取得(2)分布においてピーク(突出する値、コントラストが大きい範囲等)を検出(3)検出されたピークに含まれる三次元特徴点以外を変換用のデータとして取得する。
環境マップデータ上の三次元の特徴点群は壁・床・天井・物体301の天面などに由来する点が混在している。全ての点を水平面に投影した場合、床面や、移動体よりも背が低い物体301の領域にも床・天井・物体301の天面に由来する特徴点が投影される。そのため、投影画像から物体301や部屋304の壁面の認識が困難な場合がある。
図6aは環境マップデータ中のすべての特徴点を水平面に投影した場合の一例を示した図である。図6bは説明のため、投影した点群をマップ画像と重畳した図である。このような場合、図6aでは断面が円形の柱302や断面が矩形の柱303の存在した領域には点群の空白が認められるが、物体301や部屋304の壁、および通行可能なエリアの区別は困難と言える。従って、点群の投影に際しては、レイアウトの把握や走行上の障害物の判別に適した点群を事前に抽出する必要がある。本実施形態では、天井・床に由来する点を除外し、壁や物体301に由来する点のみを表示用の特徴点群として抽出する。このような点を抽出することによって、移動体が移動する環境において移動可能な範囲を示すことができるため、ユーザにとって見やすい表示ができる。
図7中の実線部分は、環境マップ中の特徴点の分布を高さ方向の度数折れ線グラフとして表示したものである。縦軸は高さ値であり、横軸は度数である。高さ値は移動体120Aの画像取得部211の高さを0とし、正方向に天井、負方向に床が存在する。ここで床面と天井はおよそ水平であるため、高さ方向の度数分布は天井に相当する高さにピーク701、床面に相当する高さにピーク702を持つ。低いピーク703は物体301に由来する特徴点の分布を示している。
表示用データ生成部202は度数分布からピークを検出した後、各々のピークに対してガウス関数による近似を行う。図7中の点線704は天井側のピークに対する近似結果を示しており、破線705はガウス関数のピークから原点側に半値半幅移動した高さを示している。同様に点線706は天井側のピークに対する近似結果を示しており、破線707はその原点側に半値半幅移動した高さを示している。表示用データ生成部202は破線705の高さを上限、破線707の高さを下限として特徴点の抽出を行うことで、壁や物体301に由来する点のみを自動的に抽出する。
なお上記では上限・下限値の高さの設定にガウス関数の半値の高さを用いているが、これはあくまで説明のための一例である。例えば天井・床に由来する特徴点をより積極的に除外する目的で、各々のピークから半値全幅(半値半幅の2倍)移動した高さを上限・下限値に用いても良い。また、ピーク値の検出にはガウス関数による近似以外の方法をとっても良く、例えば他の関数による近似や、天井側・床側それぞれの最大度数を階級の階級値を使用しても良い。あるいはGUIなどを通じたユーザからの指示によりピーク値あるいは上限・下限値を決定しても良い。
S503では、投影部203が、移動体が移動するときに障害となる物体の端部を示す特徴点の位置を所定の平面に示したマップと、移動体の位置とを投影する。すなわち、S502で抽出した表示用の特徴点群を水平面に投影し、投影データを生成する。図8aは投影結果を示した図である。図8bは説明のため、投影した点群を図3と重畳した図である。図8では図6と比較し、障害物と通路の区別、すなわち境界部分の視認が容易となっている。S504では、出力部204が投影データを表示装置112上に表示する。例えば、物体302や物体303は柱の内部に投影されていた特徴点が除去され、柱の外周を示す特徴点のみが投影されている。また、物体301は天井よりも低い位置にあるため、特徴点が残っている。なお、領域304は、移動体が内部まで移動して計測した特徴点が壁を示す特徴点として投影されている。そのため、最初の状態よりも領域304のような小部屋があることが視認しやすくなる。同時に領域304の内部は移動体が走行可能な領域であることがわかる。
以上、S402において図5で示した処理を実施することにより、情報処理装置101はユーザが環境内の位置関係を直感的に把握しやすい情報を表示装置112上に表示する。
(変形例1)
出力部204によって出力される特徴点群は、特徴点の高さ方向のピークに基づいて抽出したが、それ以外の方法を組み合わせて表示すべき特徴点を抽出してもよい。例えば、画像認識の学習モデルを用いることによって、移動体が回避すべき物体の位置またはその物体の特徴点の位置をマップに出力してもよい。具体的には、CNN(畳み込みニューラルネットワーク)を用いて、移動体に搭載された撮像装置で撮像された画像から、環境に存在する物体を検出し、その物体が何かを出力する。画像においてある物体が存在する領域を示すセマンティックセグメンテーションの技術を用いてもよい。これらの技術によって、例えば、ドアやガラスの窓や壁を認識する。ドアが開いている場合は、三次元計測装置からドアの特徴点を取得できず、結果としてドアの位置に何もないマップになってしまう可能性がある。この場合は、ドアの位置を認識させることによって、マップにドアの位置を出力できる。また、透明なガラス等の透明物体は三次元計測装置によって計測が難しい物体である。そのため、あらかじめガラス等の透明物体の特徴を学習したモデルを用いて、透明物体が存在しそうな位置を認識する。このように認識処理を組み合わせることによって、移動体が移動可能な範囲をより正確にユーザに提示できる。
(本実施形態における効果)
以上、本実施形態において説明した情報処理装置ならびに情報処理方法を実施することにより、ユーザが環境マップ内での物体の位置関係や障害物の有無を直感的に把握しやすい画面表示を実現することができる。また、ユーザはそれを利用し、移動体の現在位置を用意に把握することが可能となる。
<第2の実施形態>
第1の実施形態では、環境マップデータ中の特徴点群から生成した表示用データを移動体の位置姿勢情報と重畳表示する手法について説明した。しかしながら、表示用データの利用方法はこれに限らない。本実施形態では、生成した表示用データを利用して移動体の経路設定を行う手法について説明する。本実施形態における情報処理装置および移動体の構成、走行環境、環境マップデータは第1の実施形態と同様であるため、説明は省略する。
(情報処理装置の論理構成)
図10は、本実施形態における情報処理システム110の論理構成を示す図である。GUI制御部1001は、ユーザから情報処理システム110への指示に必要なGUIコンポーネント等を表示装置112上に表示する。また、操作部111を通じ、ユーザから情報処理システム110への指示を受け取る。経路設定部1002は、ユーザからの指示に基づき、環境マップ上の目標点座標の配列で構成された経路情報を生成する。
(マップ画像)
本実施形態で利用するマップ画像は、移動体が走行する空間の水平方向のレイアウトをユーザが視覚的に利用しやすい状態で提示可能なデジタル画像や、デジタル画像をレンダリング可能なアウトラインデータである。例として、部屋の間取り図やCAD図面などが好適である。以降の説明では、マップ画像の例として図3の図をとして用いる。
(経路設定処理)
次に、本発明に係る情報処理装置を使用した情報処理方法に関わる、移動体の経路設定方法について説明する。図11は、本実施形態における経路設定の処理の流れを示すフローチャートである。S401およびS402の処理については、第1の実施形態と同等であるため説明を省略する。S1103では、経路設定部1002が、記憶部105上に保存されたマップ画像の読み込みを行う。
S1104では、GUI制御部1001が表示用データおよびマップ画像を画面上に表示し、ユーザの指示に基づいて両者の位置合わせを行う。図12は位置合わせ処理のためにユーザに提示されるGUIの一例を示した図である。1201は投影データの点群1202およびマップ画像1203を表示する画像表示領域である。本実施形態で使用している環境マップデータは水平面については定義しているが、水平面上の上下左右の方向については特に定義していないため、表示用データとマップ画像との水平面上での向きが一致していない場合がある。また双方で縮尺が定義されているのでない場合、縮尺が一致しない場合がある。あるいは環境マップやマップ画像の精度により、両者の縦横比が一致しない場合も考えられる。
領域1204はユーザが位置合わせに利用する各種ボタン等を表示する操作領域である。ボタン1205は投影された点群(point cloud)あるいはマップ画像(map image)いずれに変形を施すかを選択するラジオボタンである。ボタン1206は変形の種類を選択するラジオボタンである。ここでは平行移動(translation)、回転(rotation)、拡大縮小(scaling)が選択可能である。ユーザは変形対象と変形の種類を選択し、マウス等のポインティングデバイスを利用して画像表示領域1201上の変形対象を操作することで、図8bのように特徴点群とマップ画像の示す座標が互いに一致した状態にする。ボタン1207は位置合わせ処理を完了するボタンである。
なお、変形の種類は上記に限らず、せん断や歪曲を含めても良い。あるいはオブジェクト上に複数の制御点を設定し、部分的な変形などより複雑な処理を行ってもよい。あるいは位置合わせのための変形を自動的に行ってもよい。一例としてはマップ画像から線分検出や輪郭抽出によって壁面に相当する領域を線として抽出し、投影データの点群とマップ画像から抽出した壁面との距離の二乗和が最小となるような最適化計算によって変形パラメータを算出してもよい。
S1105では、経路設定部1002が、GUI制御部1001を通じて経路設定用UIをユーザに提示し、ユーザの指示に基づいて経路データの生成を行う。
図13は経路設定時のGUIを示した図である。領域1301はユーザが経路設定に用いる各種ボタン等を表示する操作領域である。ボタン1302は画像表示領域に点群1202やマップ画像1203を表示するか否かを選択可能なトグルボタンである。図では双方を表示する状態になっている。
リスト1303は経路の目標地点(waypoint)を管理する目標地点リストである。一例として目標地点の番号と座標が表示されている。また、画像表示領域1201上には目標地点の番号と対応づいた丸数字で各目標地点の座標が示されている。矢印は目標地点を番号順に繋いだものであり、移動体が自律走行する経路を示す。目標地点の数は任意に設定可能であり、例えばユーザが目標地点リスト1303の+の部分を押下した場合、新たな目標地点を追加する。
ボタン1304は経路設定を完了するボタンである。ユーザが経路設定の完了を指示すると、経路設定部1002はGUI上のwaypointの座標を取得する。その後、S1104でユーザが投影データに施した変形処理のパラメータを基に各waypointの座標を環境マップの座標系に変換し、環境マップデータとセットで利用可能な経路データを生成する。
S1106では、経路設定部1002が、移動体120Aに経路データを送信する。移動体120Aは、自身の記憶部212に受信した経路データを保存する。記憶部212にはすでに環境マップデータが保存されているため、移動体120Aは受信した経路データに基づいた自律走行が可能となる。
あるいは経路設定部1002は、別の移動体120Bに対して経路データと環境マップデータをセットで送信しても良い。この場合も、移動体120Bは受信した経路データと環境マップデータに基づいた自律走行が可能となる。
<変形例>
本実施形態は移動体上で経路設定処理および三次元情報の表示処理を実施することでも実現可能である。
(移動体の構成)
図17は、本実施形態に係る移動体1701の構成の一例を示す図である。移動体1701は情報処理システム110の機能に加え、移動体120Aと同様の画像取得部211および移動手段を備えている。
(情報処理装置の論理構成)
以下、移動体の論理的な構成について説明する。図18は、移動体1701の論理的な構成を示すブロック図である。各部の挙動については、第2の実施形態で説明した情報処理装置101、情報処理システム110および移動体120Aと同様であるため省略する。
(経路設定方法)
本実施形態の移動体を使用した情報処理方法に関わる、環境マップデータの表示方法および移動体の経路設定方法については、第2の実施形態で説明したものと同様であるため、詳細な説明は省略する。なお、S401における環境マップデータの取得は移動体1701自身の記憶部105から取得しよい。また、S1106における経路情報の送信は、代わりに移動体1701自身の記憶部105に経路情報を保存してよい。
(本実施形態における発明の効果)
以上、本実施形態において説明した情報処理装置ならびに情報処理方法を実施することにより、ユーザが環境マップ内での物体の位置関係や障害物の有無を直感的に把握しやすい画面表示を実現することができる。また、それを利用し、移動体に対する経路設定を行うことが容易となる。
<第3の実施形態>
第1の実施形態では、環境マップデータ中の特徴点から水平面への投影に適した点群の抽出を高さ方向の分布に基づいて実施する手法について説明した。しかしながら、環境中に異なる高さの複数の天井が存在したり、天井が傾きを持っていたりする場合など、環境がより複雑な構造を持っている場合、高さ方向の分布だけでは天井の区別が難しい場合がある。本実施形態では、環境マップデータ中の特徴点にアノテーションや面近似を行うことで水平面への投影に適した情報を抽出する手法について説明する。
本実施形態における情報処理装置および移動体の構成、環境、環境マップは第1の実施形態と同様であるため、説明は省略する。ただし、本実施形態における環境には透明物体や特徴点の取得が難しい物体(繰り返しパターンを有する物体)があることで、表示すべき特徴点の一部が、画像からうまく検出されていない場合も考える。また、本実施形態における三次元情報の表示処理についても、S502における表示用データの生成処理を除き第1の実施形態と同様であるため、他の部分の説明は省略する。
また、本実施形態で説明する三次元情報の表示処理は、第1の実施形態で説明した移動体の位置姿勢情報表示処理、第2の実施形態で説明した移動体の経路設定処理のいずれにも利用可能である。
(三次元情報の表示処理)
本実施形態における、本発明に係る情報処理装置処が実行する処理について図14~図16を参照し説明する。
図14は、本実施形態における情報処理装置101が実行する、S502の処理の詳細な流れを示すフローチャートである。
S1401では、表示用データ生成部202が、記憶部105上の環境マップから環境画像を取得する。具体的には環境マップ中のキーフレーム群から環境内で撮像された画像と撮影時のカメラパラメータの組み合わせのデータを取得する。
S1402では、操作部111が、環境マップから取得した環境画像を用い、ユーザによって指示された、環境マップ中の特徴点に対し所属面のアノテーションの入力を受け付ける。
図15はアノテーション作業を行うGUIの一例を示した図である。1501は環境画像を表示する環境画像表示領域、1502は水平面に投影された特徴点とカメラの位置姿勢を表示する投影画像表示領域、1503はユーザがアノテーションに用いる各種ボタン等を表示する操作領域である。
領域1504は操作対象の環境画像を選択するプルダウンメニューである。環境マップ中の各キーフレームに対応した番号を選択可能である。環境画像表示領域1501にはここで選択したキーフレームの環境画像と画像上の特徴点が表示される。また投影画像表示領域1502にはその環境画像撮影時の位置姿勢と画角が1508のように表示される。
リスト1505はユーザがアノテーションした所属面を管理する所属面リストである。一例として0番と1番の2つの所属面が表示されている。colorの列は環境画像表示領域1501に表示する際の色を示している。例えば領域1509は0番の所属面としてユーザが選択した領域であり、2つに分かれている1510は1番の所属面としてユーザが選択した領域である。
cutの列は水平面に投影する際に該当の所属面を除外するか否かを示しており、各所属面に対しユーザが選択可能である。図中では0番の所属面は矩形の柱303の壁面である。ここは投影に適しているため除外しない設定(NO)となっている。一方、1番の所属面は天井であるため、投影に際し除外する設定(YES)となっている。所属面の数は任意に設定可能であり、例えばユーザがリスト中の+の部分を押下した場合、新たな所属面を追加する。
領域1506は所属面に対する操作を選択するボタン群の領域である。操作対象の所属面を選択するプルダウンメニューと、領域を追加(add)するか削除(erase)するかを選択するラジオボタンが表示されている。図中では0番の所属面の領域を追加するモードが選択されており、この状態でマウス等のポインティングデバイスを利用して環境画像表示領域1501の該当の所属面を塗ることで、領域1509のような領域を選択する。
ボタン1507はアノテーション処理を完了するボタンである。ユーザがこのボタンを押下した場合、処理はS1402へ進む。
S1403では、表示用データ生成部202が、特徴点と所属面の対応付けと近似面の生成を行う。例えば0番の所属面について、1209の領域と重なっている4つの特徴点との対応付けが行われ、また4つの特徴点の三次元座標から近似面が算出される。また、領域1209の範囲から、近似面の広さが決定される。近似に際しては、図示していないGUIに基づくユーザの指示に応じて水平あるいは水平面に垂直であるというような拘束条件を適用しても良い。あるいは平面や円筒の側面であるというような形状に関する拘束条件を適用しても良い。
S1404では、表示用データ生成部202が、投影に適した面および特徴点の抽出を行う。ここでは、S1403で除外対象として設定されなかった所属面に対応する近似面と、近似面に対応する特徴点群を表示用データとして抽出する。ここで近似面に対応する特徴点群は、各近似面からの距離閾値に応じて選択され、近似面の元となった所属面に対応づけられた特徴点群とは必ずしも一致しない。またある特徴点について距離閾値内に複数の近似面が存在する場合、特徴点は最も近い近似面に対応づけられる。あるいは、全体の近似面と点群から、除外対象とした所属面に対応する近似面とそれに対応する点群を除外し、残りを表示用データとしても良い。
図16aは、上記1403において抽出した面および点群データを、S503において投影した結果を示した図である。三次元空間中の面を平面に投影した場合の形状は一般には面であるが、抽出した近似面は投影面に対しておおよそ垂直であるため、投影結果は線分に近い形状となる。本実施形態では説明の簡便のため、投影部203が投影した面の形状を線分で近似したものとし、図16aでは投影結果を線分として表示している。しかしながら、投影した面の形状をそのまま表示しても良い。
また、矩形の柱303の一部の面のように、拘束条件なしで所属する特徴点が3点に満たない場合など、近似面が生成できない場合がある。このような場合、投影面上には該当の面は表示されない。図16bは説明のため、抽出した面を投影した線分を図3と重畳した図である。
なお、ガラス等の透明物体が存在する領域は、そもそも特徴点の位置がうまく検出できていない可能がある。そのような領域に対して、透明物体であることを示すアノテーションを入力する。その領域が撮像範囲に含まれる場合は、所定の指標(例えば、ガラスの壁があることを示す標識)を表示させてもよい。ドアに対してもドアであることを示すアノテーションを入力してもよい。この場合、ドアが開いている場合と閉まっている場合で、撮像された画像に含まれる特徴点が変わってくる。このような変化に対応するために、ドアや移動可能な物体がある領域に対してはドアがあることを示す指標を対応する位置に表示させてもよい。ユーザは上記で説明したGUIを用いて、ドアのある領域にドアがあることを示すアノテーションを入力する。出力部は、ドアがあることを示されるアノテーションに対しては、その領域にドアがあることを示す指標(例えば、ドアのアイコン)を出力する。このようにアノテーションを入力することによって、ユーザが環境についての補助的な情報を付与できるので、より視認性の高いマップ表示を実現できる。
(本実施形態における発明の効果)
以上、本実施形態において説明した情報処理装置ならびに情報処理方法を実施することにより、環境がより複雑な構造を持っている場合においても、ユーザが環境マップ内での物体の位置関係や障害物の有無を直感的に把握しやすい画面表示を実現することができる。
<その他の実施形態>
第1の実施形態では、環境マップデータ中の特徴点群から抽出された点群を水平面上に投影し表示する手法について説明した。しかしながら、本実施形態における特徴点群の取得方法はこれに限定されない。例えば環境マップ中の特徴点の分布が著しく疎である場合や、壁や障害物に由来する特徴点の割合が小さい場合など、投影時に視覚的に十分な量の点群が得られない場合がある。そのような場合の、環境マップデータからより密な点群を生成して利用しても良い。具体的には環境マップデータ中のキーフレーム群から環境内で撮像された画像と撮影時のカメラパラメータの組み合わせのデータを取得する。そして、公知のMulti View Stereo(MVS)等の手法によって壁面・障害物・天井・床などのより密な点群データを得る。(例えば、Yasutaka Furukawa and Jean Ponce , Accurate, Dense, and Robust Multi-View Stereopsis, PAMI 2008)。
密な点群データの生成は、環境マップの特徴点群より密で、投影時に視覚的に十分な量と精度となる点群が得られるのであれば他の手法を用いても良く、また必ずしも正確で欠損のない点群の生成を行う必要はない。例えば特徴点検出と対応点探索によって新たな特徴点を追加する方式であっても良い。あるいは既知のSemi-Global Matching(SGM)手法によって各キーフレームの位置姿勢から密なデプス画像を生成し、各画素をカメラパラメータとデプス値に基づいて三次元の点に変換しても良い。画像取得部211がデプスカメラである場合も同様に処理する。
また、第1の実施形態では表示用データの生成の後に投影処理を実施しているが、表示用データの生成処理と投影処理の順序は可換である。第1の実施形態の例で言えば、あらかじめ床・天井・物体「301の天面等に由来するものを含む全ての点を投影したデータを生成しておき、上限値・下限値の設定に従って各点の表示・非表示を切り替えるような形態をとっても良い。特にユーザの指示によって上限値・下限値の調整を行いながら画面表示を行うような場合、投影済みの各特徴点の表示・非表示のみを切り替えることで調整結果を迅速に表示に反映することができる。
また、第1の実施形態では、移動体120Aと移動体120Bを同じ構成の別個体であるとしたが、両者の構成に差異があっても良い。例えば移動体120Aは自律移動機能を持たない、三次元環境マップの作成に特化した装置であっても良い。このような場合、さらには移動制御部216や移動手段を省略し、ユーザが手持ちで搬送しつつ三次元環境マップを作成するような装置であっても良い。一例としては、本実施形態はカメラを装着したタブレットPCのような形態をとる。また、移動体120Bは三次元環境マップ作成部214を省略し、他の装置から三次元環境マップと経路情報を受け取って自律走行するための装置であっても良い。
また、第2の実施形態における移動体1701も、移動体120Aと同様に、自律移動機能を持たない、三次元環境マップの作成のための装置であっても良い。また同様に、移動制御部216や移動手段を省略し、ユーザが手持ちで搬送しつつ三次元環境マップを作成するような装置であっても良い。
あるいは移動体1701の三次元環境マップ作成部214を省略し、他の装置から三次元環境マップを取得した上で経路情報を設定し、自律走行するための装置としても良い。
また、上記実施形態で説明した移動体は略水平な平面である床面上を走行することを前提としていたが、本実施形態はそれ以外の面上を移動するものや、三次元の移動が可能な移動体に対しても適用可能である。例えば壁面上を移動する移動体であれば投影面は地面に垂直な面となりうる。さらなる例として、円筒形の柱の壁面を移動するような場合は、曲面である円筒側面を投影面とし、極座標を用いて投影を行っても良い。そのような場合、投影面を平面に展開した図をGUI上の表示等に使用することが望ましい。三次元の移動が可能な移動体を用いる場合、画面上に移動体の現在位置の高さ(投影面と垂直な方向の座標値)を表示したり、経路設定時に各目標点に個別に高さを設定するUIを設けたりすることが望ましい。
また、第3の実施形態では、ユーザのアノテーションに基づいて特徴点の面近似を行う手法について説明したが、面近似の方法はこれに限らず、またユーザによるアノテーションも必須ではない。例えば既知のRandom Forest法などを用いて特徴点群を複数のグループに分類し、各グループに対して面近似を行うような手法を取っても良い。
また、表示用データの生成処理は、第1の実施形態のように移動体が主に移動する面からの高さ値と、特徴点に紐づけられた面の向きの双方に基づいて特徴点や面の表示用データへの抽出を行ってもよい。
なお、上述した各処理部のうち、表示用データ生成部、三次元特徴点群取得部等 については、その代わりとして、機械学習された学習済みモデルを代わりに用いて処理しても良い。その場合には、例えば、その処理部への入力データと出力データとの組合せを学習データとして複数個準備し、それらから機械学習によって知識を獲得し、獲得した知識に基づいて入力データに対する出力データを結果として出力する学習済みモデルを生成する。学習済みモデルは、例えばニューラルネットワークモデルで構成可能である。そして、その学習済みモデルは、前記処理部と同等の処理をするためのプログラムとして、CPUあるいはGPUなどと協働で動作することにより、前記処理部の処理を行う。なお、上記学習済みモデルは、必要に応じて一定の処理後に更新しても良い。
また、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、データ通信用のネットワーク又は各種記憶媒体を介してシステム或いは装置に供給する。そして、そのシステム或いは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。また、そのプログラムをコンピュータが読み取り可能な記録媒体に記録して提供してもよい。本発明は上述したコンピュータプログラムを記載した記憶媒体の形態をとってもよい。本発明を構成するコンピュータプログラムの供給には様々な方法を取ることが可能であり、インターネット等のネットワークを介して配布される場合や、プログラムが暗号化或いは分割されて配布される場合も本発明の範疇である。
110 情報処理システム
101 情報処理装置
112 表示装置
212 記憶部
217 計測装置
120A,120B 移動体

Claims (21)

  1. 計測装置を有する移動体が移動する環境を示すマップを出力する情報処理装置であって、
    前記移動体が移動する天井を含む環境の特徴点の三次元位置を取得する取得手段と、
    前記環境の前記特徴点から、前記特徴点の高さ方向の度数分布から検出した高さ方向のピークに基づいて前記天井の前記特徴点を除き、前記天井の前記特徴点を除いた前記特徴点の位置を、前記環境における所定の平面に投影した前記マップを出力する出力手段と、を有することを特徴とする情報処理装置。
  2. 前記出力手段は、前記所定の平面として前記移動体が走行する平面に前記特徴点の位置を出力することを特徴とする請求項1に記載の情報処理装置。
  3. 前記出力手段は、前記環境における天井または床を示す前記特徴点を除いて出力することを特徴とする請求項1に記載の情報処理装置。
  4. 前記出力手段は、前記特徴点の高さ方向の分布に基づいて、所定の範囲に分布する前記特徴点を出力することを特徴とする請求項1乃至3の何れか1項に記載の情報処理装置。
  5. 前記出力手段は、前記特徴点の高さ方向の分布に基づいて、前記環境における床から天井の間の高さに分布する前記特徴点を出力することを特徴とする請求項4に記載の情報処理装置。
  6. 前記出力手段は、前記移動体の高さよりも所定の値だけ高い位置に分布する前記特徴点を除いて出力することを特徴とする請求項1乃至5の何れか1項に記載の情報処理装置。
  7. 前記特徴点の一部を抽出するための所定の条件を設定する設定手段をさらに有し、
    前記出力手段は、前記設定手段によって設定された前記所定の条件に基づいて、前記特徴点の一部を出力することを特徴とする請求項1乃至6の何れか1項に記載の情報処理装置。
  8. 前記設定手段は、ユーザによって指定された前記特徴点の高さ方向についての前記所定の条件を設定することを特徴とする請求項7に記載の情報処理装置。
  9. 前記出力手段は、前記移動体の位置を示した前記マップを出力することを特徴とする請求項1乃至8の何れか1項に記載の情報処理装置。
  10. 前記計測装置は撮像装置であって、
    前記取得手段は、前記撮像装置によって前記移動体の周囲の環境を撮像した画像データに基づいて生成された前記マップから、前記特徴点の三次元位置を取得することを特徴とする請求項9に記載の情報処理装置。
  11. 前記計測装置は距離センサであって、
    前記取得手段は、前記撮像装置によって前記移動体の周囲の環境を計測した三次元点群データに基づいて生成された前記マップから、前記特徴点の三次元位置を取得することを特徴とする請求項10に記載の情報処理装置。
  12. 前記環境における前記特徴点の位置を投影した前記マップを記憶する記憶手段を更に有し、
    前記取得手段は、前記マップに基づいて前記特徴点の位置を取得することを特徴とする請求項1乃至8の何れか1項に記載の情報処理装置。
  13. 前記出力手段によって出力された前記マップを表示装置に表示させる制御手段を更に有することを特徴とする請求項1乃至12の何れか1項に記載の情報処理装置。
  14. 前記出力手段によって出力された前記マップに対して、前記移動体が移動する経路を指定された結果を受け付ける受け付け手段をさらに有することを特徴とする請求項1乃至13の何れか1項に記載の情報処理装置。
  15. 前記計測装置によって計測されたデータに基づいて、所定の物体を認識する認識手段を更に有し、
    前記出力手段は、前記認識手段によって認識された前記物体の位置を更に出力することを特徴とする請求項1乃至14の何れか1項に記載の情報処理装置。
  16. 前記認識手段は、前記所定の物体としてドアを認識し、
    前記出力手段は、前記認識手段によって認識された前記ドアの位置を前記マップに示すことを特徴とする請求項15に記載の情報処理装置。
  17. 前記認識手段は、前記所定の物体として透明物体を認識し、
    前記出力手段は、前記透明物体の端部の位置を前記マップに出力することを特徴とする請求項15または16に記載の情報処理装置。
  18. 前記認識手段は、三次元計測装置である撮像装置によって撮像された画像から所定の物体を検出する学習モデルであることを特徴とする請求項15乃至17の何れか1項に記載の情報処理装置。
  19. コンピュータを、請求項1乃至18のいずれか1項に記載の情報処理装置が有する各手段として機能させるためのプログラム。
  20. 計測装置を有する移動体が移動する環境を示すマップを出力する情報処理方法であって、
    前記移動体が移動する天井を含む環境の特徴点の三次元位置を取得する取得工程と、
    前記環境の前記特徴点から、前記特徴点の高さ方向の度数分布から検出した高さ方向のピークに基づいて前記天井の前記特徴点を除き、前記天井の前記特徴点を除いた前記特徴点の位置を、前記環境における所定の平面に投影した前記マップを出力する出力工程と、を有することを特徴とする情報処理方法。
  21. 計測装置を有する移動体が移動する環境を示すマップを出力する情報処理システムであって、
    前記移動体には情報処理装置と表示装置とを有し、
    前記情報処理装置は、
    前記移動体が移動する天井を含む環境の特徴点の三次元位置を取得する取得手段と、
    前記環境の前記特徴点から、前記特徴点の高さ方向の度数分布から検出した高さ方向のピークに基づいて前記天井の前記前記天井の前記特徴点を除いた前記特徴点の位置を、前記環境における所定の平面に投影した前記マップを出力する出力手段と、を有し、
    前記表示装置は、
    前記出力手段によって出力された前記マップを表示する表示手段を有することを特徴とする情報処理装置。
JP2020082424A 2020-05-08 2020-05-08 情報処理装置、情報処理方法及びープログラム Active JP7693284B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2020082424A JP7693284B2 (ja) 2020-05-08 2020-05-08 情報処理装置、情報処理方法及びープログラム
US17/306,764 US12367689B2 (en) 2020-05-08 2021-05-03 Information processing apparatus, information processing method, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020082424A JP7693284B2 (ja) 2020-05-08 2020-05-08 情報処理装置、情報処理方法及びープログラム

Publications (2)

Publication Number Publication Date
JP2021177144A JP2021177144A (ja) 2021-11-11
JP7693284B2 true JP7693284B2 (ja) 2025-06-17

Family

ID=78409400

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020082424A Active JP7693284B2 (ja) 2020-05-08 2020-05-08 情報処理装置、情報処理方法及びープログラム

Country Status (2)

Country Link
US (1) US12367689B2 (ja)
JP (1) JP7693284B2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022081717A1 (en) * 2020-10-13 2022-04-21 Flyreel, Inc. Generating measurements of physical structures and environments through automated analysis of sensor data
JP7568985B2 (ja) * 2021-06-02 2024-10-17 日本電信電話株式会社 解析装置、解析方法、及びプログラム
US12361647B2 (en) * 2021-10-28 2025-07-15 Samsung Electronics Co., Ltd. System and method for depth and scene reconstruction for augmented reality or extended reality devices
CN114417524B (zh) * 2021-12-27 2023-05-12 西北工业大学 基于点云薄壁圆筒尺寸精度分析与ar可视化方法
JP2024009427A (ja) * 2022-07-11 2024-01-23 株式会社東芝 点検装置、点検方法及び点検プログラム
JP2024015868A (ja) * 2022-07-25 2024-02-06 株式会社ソニー・インタラクティブエンタテインメント ヘッドマウントディスプレイおよび画像表示方法
WO2024023949A1 (ja) * 2022-07-26 2024-02-01 日本電信電話株式会社 線状物検出装置、線状物検出方法、及び線状物検出プログラム
WO2024201868A1 (ja) * 2023-03-30 2024-10-03 株式会社Subaru 計測システム、計測装置、計測装置の制御方法及び記録媒体
JP2024153199A (ja) * 2023-04-17 2024-10-29 パナソニックIpマネジメント株式会社 図面作成装置および図面作成方法
KR102582166B1 (ko) * 2023-06-08 2023-09-25 주식회사 한다랩 전기자동차 자율충전로봇 탑재용 픽업 시스템
JP7786442B2 (ja) * 2023-10-06 2025-12-16 日本電気株式会社 3次元データ生成装置、3次元データ生成方法及びプログラム
KR20250062582A (ko) * 2023-10-31 2025-05-08 현대자동차주식회사 2d 라이다와 카메라 기반 동시적 위치 추정 및 지도 작성 방법 및 시스템
CN118329003A (zh) * 2024-03-22 2024-07-12 深圳市优必选科技股份有限公司 基于二维激光点云的建图方法、电子设备及可读存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011043419A (ja) 2009-08-21 2011-03-03 Sony Corp 情報処理装置、および情報処理方法、並びにプログラム
WO2011027557A1 (ja) 2009-09-04 2011-03-10 パナソニック株式会社 位置校正情報収集装置、位置校正情報収集方法、及び位置校正情報収集プログラム
JP2013200604A (ja) 2012-03-23 2013-10-03 Toyota Motor Corp 移動ロボット
JP2017211265A (ja) 2016-05-25 2017-11-30 三菱重工業株式会社 測量装置、移動体、測量方法及びプログラム
JP2019125345A (ja) 2018-01-12 2019-07-25 キヤノン株式会社 情報処理装置、情報処理方法、プログラム、およびシステム

Family Cites Families (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7003136B1 (en) * 2002-04-26 2006-02-21 Hewlett-Packard Development Company, L.P. Plan-view projections of depth image data for object tracking
KR100523514B1 (ko) * 2003-05-23 2005-10-25 엘지전자 주식회사 3차원 지도 내에서의 2차원 지명 표시방법
KR20100099896A (ko) * 2009-03-04 2010-09-15 삼성전자주식회사 메타데이터 생성 방법 및 장치, 그 메타데이터를 이용하여 영상을 처리하는 방법 및 장치
US20130202197A1 (en) * 2010-06-11 2013-08-08 Edmund Cochrane Reeler System and Method for Manipulating Data Having Spatial Co-ordinates
JP2013164643A (ja) * 2012-02-09 2013-08-22 Honda Elesys Co Ltd 画像認識装置、画像認識方法および画像認識プログラム
JP6080462B2 (ja) * 2012-10-01 2017-02-15 株式会社エスイー 橋桁におけるプレストレス導入用外ケーブルの定着装置
JP6013962B2 (ja) * 2013-03-28 2016-10-25 株式会社パスコ 地物表面検出装置、地物表面検出方法、及びプログラム
US9811714B2 (en) * 2013-08-28 2017-11-07 Autodesk, Inc. Building datum extraction from laser scanning data
US10115035B2 (en) * 2015-01-08 2018-10-30 Sungkyunkwan University Foundation For Corporation Collaboration Vision system and analytical method for planar surface segmentation
CN111380545B (zh) * 2015-02-10 2024-11-12 御眼视觉技术有限公司 用于自主车辆导航的方法、服务器、自主车辆以及介质
JP6335389B2 (ja) 2015-05-20 2018-05-30 三菱電機株式会社 点群画像生成装置および表示システム
US9285805B1 (en) * 2015-07-02 2016-03-15 Geodigital International Inc. Attributed roadway trajectories for self-driving vehicles
JP6769659B2 (ja) 2016-04-27 2020-10-14 日本電産シンポ株式会社 移動体の管理システム、方法、およびコンピュータプログラム
US11314262B2 (en) * 2016-08-29 2022-04-26 Trifo, Inc. Autonomous platform guidance systems with task planning and obstacle avoidance
WO2018098789A1 (en) * 2016-12-01 2018-06-07 SZ DJI Technology Co., Ltd. Method and system for detecting and tracking objects using characteristic points
TWI651686B (zh) * 2017-11-30 2019-02-21 國家中山科學研究院 一種光學雷達行人偵測方法
US10657691B2 (en) * 2018-03-27 2020-05-19 Faro Technologies, Inc. System and method of automatic room segmentation for two-dimensional floorplan annotation
JP2019179495A (ja) * 2018-03-30 2019-10-17 パナソニックIpマネジメント株式会社 センサ処理システム、測距システム、移動体、センサ処理方法及びプログラム
WO2019225249A1 (ja) * 2018-05-21 2019-11-28 ソニー株式会社 情報処理装置、サーバ、移動体デバイス、情報処理方法、およびプログラム
CN108764185B (zh) * 2018-06-01 2022-07-19 京东方科技集团股份有限公司 一种图像处理方法及装置
WO2019236554A1 (en) * 2018-06-04 2019-12-12 Timothy Coddington System and method for mapping an interior space
JP7135579B2 (ja) * 2018-08-20 2022-09-13 株式会社Soken 物体検知装置
JP7212486B2 (ja) * 2018-09-26 2023-01-25 フォルシアクラリオン・エレクトロニクス株式会社 位置推定装置
US11217012B2 (en) * 2018-11-16 2022-01-04 Uatc, Llc System and method for identifying travel way features for autonomous vehicle motion control
US10809073B2 (en) * 2018-12-05 2020-10-20 Here Global B.V. Local window-based 2D occupancy grids for localization of autonomous vehicles
JP7191671B2 (ja) * 2018-12-19 2022-12-19 フォルシアクラリオン・エレクトロニクス株式会社 キャリブレーション装置、キャリブレーション方法
US10846511B2 (en) * 2018-12-20 2020-11-24 Here Global B.V. Automatic detection and positioning of pole-like objects in 3D
US10930065B2 (en) * 2019-03-08 2021-02-23 X Development Llc Three-dimensional modeling with two dimensional data
US12141949B2 (en) * 2019-03-26 2024-11-12 Sony Semiconductor Solutions Corporation Vehicle-mounted camera apparatus and image distortion correction method
JP2021174288A (ja) * 2020-04-27 2021-11-01 富士通株式会社 カメラ高さ算出方法および画像処理装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011043419A (ja) 2009-08-21 2011-03-03 Sony Corp 情報処理装置、および情報処理方法、並びにプログラム
WO2011027557A1 (ja) 2009-09-04 2011-03-10 パナソニック株式会社 位置校正情報収集装置、位置校正情報収集方法、及び位置校正情報収集プログラム
JP2013200604A (ja) 2012-03-23 2013-10-03 Toyota Motor Corp 移動ロボット
JP2017211265A (ja) 2016-05-25 2017-11-30 三菱重工業株式会社 測量装置、移動体、測量方法及びプログラム
JP2019125345A (ja) 2018-01-12 2019-07-25 キヤノン株式会社 情報処理装置、情報処理方法、プログラム、およびシステム

Also Published As

Publication number Publication date
US20210348927A1 (en) 2021-11-11
US12367689B2 (en) 2025-07-22
JP2021177144A (ja) 2021-11-11

Similar Documents

Publication Publication Date Title
JP7693284B2 (ja) 情報処理装置、情報処理方法及びープログラム
CN111486855B (zh) 一种具有物体导航点的室内二维语义栅格地图构建方法
Kim et al. SLAM-driven robotic mapping and registration of 3D point clouds
EP3950235B1 (en) Self-propelled robot path planning method, self-propelled robot and storage medium
US11748998B1 (en) Three-dimensional object estimation using two-dimensional annotations
JP6642968B2 (ja) 情報処理装置、情報処理方法、プログラム
CN116630394B (zh) 一种三维建模约束的多模态目标物体姿态估计方法及系统
CN108474653B (zh) 三维计测装置及其计测辅助处理方法
JP6665506B2 (ja) 遠隔操作装置、方法及びプログラム
KR101423139B1 (ko) 3차원 직선을 이용하여 위치를 인식하고 지도를 생성하는 방법 및 그 방법에 따른 이동체
CN112567201A (zh) 距离测量方法以及设备
JP2017215940A (ja) 情報処理装置、車両、情報処理方法およびプログラム
US10825250B2 (en) Method for displaying object on three-dimensional model
JP2009169845A (ja) 自律移動ロボット及び地図更新方法
CN114612786A (zh) 一种障碍物检测方法、移动机器人及机器可读存储介质
WO2023274270A1 (zh) 机器人术前导航方法、系统、存储介质及计算机设备
US20250292506A1 (en) Information processing method, information processing device, and information processing system
US12190221B2 (en) Generating and/or using training instances that include previously captured robot vision data and drivability labels
CN118031976B (zh) 一种探索未知环境的人机协同系统
JP2022050115A (ja) 移動体の位置推定システム、オペレータ用端末装置及び位置推定方法
US12538008B2 (en) Determination device, identification method and recording medium
CN113297952B (zh) 一种复杂环境下绳驱柔性机器人的测量方法和系统
Medeiros et al. UAV target-selection: 3D pointing interface system for large-scale environment
WO2023088127A1 (zh) 室内导航方法、服务器、装置和终端
Fu et al. Costmap construction and pseudo-lidar conversion method of mobile robot based on monocular camera

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20200616

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230426

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231213

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240130

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240328

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240702

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240829

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250129

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250507

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250605

R150 Certificate of patent or registration of utility model

Ref document number: 7693284

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150