JP7704597B2 - 情報処理装置、情報処理装置の制御プログラム - Google Patents
情報処理装置、情報処理装置の制御プログラム Download PDFInfo
- Publication number
- JP7704597B2 JP7704597B2 JP2021109073A JP2021109073A JP7704597B2 JP 7704597 B2 JP7704597 B2 JP 7704597B2 JP 2021109073 A JP2021109073 A JP 2021109073A JP 2021109073 A JP2021109073 A JP 2021109073A JP 7704597 B2 JP7704597 B2 JP 7704597B2
- Authority
- JP
- Japan
- Prior art keywords
- size
- detection
- measurement
- distance
- target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Component Parts Of Construction Machinery (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Description
例えば、特許文献1に記載の技術では、距離センサによる距離情報に基づいて、対象(車両)の周辺における物体の存在確率を表すマップ(占有格子地図(OGM:Occupancy Grid Maps))などの地図情報を作成し、このマップを利用して対象の動作制御を行っている。このOGMは格子によって仕切られており、各格子における物体の存在確率を示すことによって周囲状況がどのようになっているかを判断する。
例えば、上記特許文献1で開示される方法では、車体の周りの障害物を検知するが、検出された物体の種類が分からない。また、単純にレーザーレーダーを使用しただけでは大きさも正確には判別しにくい。特に工事現場のような様々な種類・大きさの物体が混在する場所においては、距離情報による検出だけでは障害物の検知には十分に機能しないという問題があった。
測定対象までの距離を測定する測距手段と、
前記測定対象の大きさを取得するサイズ取得手段と、
前記測定対象までの距離に基づいて、所望の検出対象の大きさを設定するサイズ設定手段と、
前記サイズ取得手段により取得された前記測定対象の大きさと、前記サイズ設定手段により設定された前記検出対象の大きさとに基づいて、前記測定対象が前記検出対象であるか否かを判定する判定手段と、
前記測定対象の画像を取得する撮像手段と、
前記画像に基づいて、前記測定対象が前記検出対象であるか否かを判定する第2判定手段と、
前記判定手段の判定結果と、前記第2判定手段の判定結果とに基づいて、前記測定対象が前記検出対象であるか否かをさらに判定する第3判定手段と、
を備える構成とした。
コンピュータを、
前記測定対象の大きさを取得するサイズ取得手段、
前記測定対象までの距離に基づいて、所望の検出対象の大きさを設定するサイズ設定手段、
前記サイズ取得手段により取得された前記測定対象の大きさと、前記サイズ設定手段により設定された前記検出対象の大きさとに基づいて、前記測定対象が前記検出対象であるか否かを判定する判定手段、
として機能させるものとした。
まず、本実施形態に係るショベル100の構成について説明する。ショベル100は、本発明に係る情報処理装置を具備することにより、物体検出の検出精度を好適に向上できるように構成されている。
この図に示すように、ショベル100は、下部走行体1と、旋回機構2を介して旋回可能に下部走行体1に搭載される上部旋回体3と、アタッチメントとしてのブーム4、アーム5及びバケット6と、オペレータが搭乗するキャビン10とを備える。アタッチメントは、作業要素(例えば、バケット、クラッシャー、クレーン装置等)が設けられていれば、これに限られない。
上部旋回体3は、旋回油圧モータ或いは電動機(共に不図示)等で駆動されることにより、下部走行体1に対して旋回する。
キャビン10は、オペレータが搭乗する操縦室であり、例えば上部旋回体3の前部左側に搭載される。ショベル100は、キャビン10に搭乗するオペレータの操作に応じて、アクチュエータを動作させ、下部走行体1、上部旋回体3、ブーム4、アーム5及びバケット6等の被駆動要素を駆動する。
この図に示すように、ショベル100は、上記構成のほか、コントローラ30と、撮像装置40と、距離センサ41と、動作・姿勢状態センサ42と、位置センサ43と、操作装置45と、表示装置50と、音声出力装置60と、通信機器80とを備える。本発明に係る情報処理装置は、少なくともコントローラ30を含む。
後方カメラ40Bは、上部旋回体3の後部に取り付けられ、上部旋回体3の後方を撮像する。
左方カメラ40Lは、上部旋回体3の左側部に取り付けられ、上部旋回体3の左側方を撮像する。
右方カメラ40Rは、上部旋回体3の右側部に取り付けられ、上部旋回体3の右側方を撮像する。
これら後方カメラ40B、左方カメラ40L及び右方カメラ40Rの各々は、上部旋回体3において、光軸が斜め下方に向くように取り付けられ、ショベル100近傍の地面からショベル100の遠方までを含む上下方向の撮像範囲(画角)を有する。また、後方カメラ40B、左方カメラ40L及び右方カメラ40Rの水平方向の撮像範囲(画角)は、例えば、合わせてショベル100回りの略全方位を含む範囲となっている。
後方距離センサ41Bは、上部旋回体3の後部に取り付けられ、上部旋回体3の後方の計測を行う。後方距離センサ41Bの計測範囲は、後方カメラ40Bの撮像範囲に対応している。
左方距離センサ41Lは、上部旋回体3の左側部に取り付けられ、上部旋回体3の左側方の計測を行う。左方距離センサ41Lの計測範囲は、左方カメラ40Lの撮像範囲に対応している。
右方距離センサ41Rは、上部旋回体3の右側部に取り付けられ、上部旋回体3の右側方の計測を行う。右方距離センサ41Rの計測範囲は、右方カメラ40Rの撮像範囲に対応している。
本実施形態では、各距離センサ41として、光を利用したLIDAR(Light Detection and Ranging)が用いられる。ただし、距離センサ41の種類は特に限定されず、例えばミリ波レーダーや、ステレオカメラによる測距装置などであってもよい。
これらのセンサは、ブーム等のシリンダのストロークセンサ、ロータリーエンコーダ等の回転情報を取得するセンサで構成されてもよく、IMUで取得される加速度(速度、位置も含んでもよい)により代替されてもよい。
アーム角度センサは、ブーム4を基準とするアーム5の回動角度(以下、「アーム角度」と称する)を検出する。
バケット角度センサは、アーム5を基準とするバケット6の回動角度(以下、「バケット角度」と称する)を検出する。
IMUは、ブーム4及びアーム5の各々に取り付けられ、所定の三軸に沿ったブーム4及びアーム5の加速度、及び、所定の三軸廻りのブーム4及びアーム5の角加速度を検出する。
旋回角度センサは、上部旋回体3の所定の角度方向を基準とする旋回角度を検出する。ただし、これに限られず、上部旋回体3に設けられたGPSやIMUセンサに基づいて旋回角度が検出されてもよい。
加速度センサは、上部旋回体3の旋回軸から離れた位置に取り付けられ、上部旋回体3の当該位置における加速度を検出する。これにより、加速度センサの検出結果に基づき、上部旋回体3が旋回しているのか、或いは、下部走行体1が走行しているのか等が判別されうる。
また、操作装置45は、撮像装置40、距離センサ41、動作・姿勢状態センサ42、位置センサ43、表示装置50、音声出力装置60、通信機器80等の操作を行う操作手段でもあり、これら各部に対する操作指令をコントローラ30に出力する。
なお、本実施例ではOGMは二次元のものを用いているが、高さ情報を加えた三次元のOGMでも良い。
さらに、記憶部35には、後述の物体検出処理における検出対象の距離と検出サイズとを対応付けた検出サイズデータ351(図6参照)が予め記憶されている。本実施形態では、複数種類の検出対象に対応した複数の検出サイズデータ351が予め記憶されている。検出サイズデータ351の詳細については後述する。
また、ショベル100は、通信ネットワークNWを通じて、支援装置300と相互に通信可能に構成されてもよい。
管理装置200は、上述の如く、通信ネットワークNWを通じて、ショベル100及び支援装置300のそれぞれと相互に通信を行うことができる。これにより、管理装置200は、ショベル100からアップロードされる各種情報を受信し、記憶(蓄積)しておくことができる。また、管理装置200は、支援装置300からの要求に応じて、支援装置300に各種情報を送信することができる。
支援装置300は、通信ネットワークNWを通じて、管理装置200と相互に通信を行うことができる。これにより、支援装置300は、管理装置200から送信される情報を受信し、自身に搭載される表示装置を通じて、ユーザに情報を提供することができる。また、支援装置300は、通信ネットワークNWを通じて、ショベル100と相互に通信可能に構成されてもよい。
続いて、周辺の特定の物体を検出する物体検出処理を実行する際のショベル100の動作について説明する。
図3は、この物体検出処理でのデータの流れを示すデータフロー図であり、図4(a)~(c)は、後述の第1のOGM71、第2のOGM72、第3のOGM73の一例を示す図である。図5は、物体検出処理での測定対象Dとその大きさを示す図であり、図6は、検出サイズデータ351の一例を示す図であり、図6の検出サイズデータ351の設定条件を説明するための図である。
本実施形態では、検出対象として人体(人)が検出されるものとする。そのため、処理の実行時には、例えばオペレータの操作により検出対象として人体が選択され、この検出対象に対応した特徴量(例えば人の顔のもの)が記憶部35から読み出されて設定されているものとする。
また、コントローラ30は、上部旋回体3を旋回させながら周辺全周の撮影・計測を行ってもよい。
ここでは、OGM計算部31は、撮像装置40が取得した画像に基づく第1のOGM71と、距離センサ41が取得した距離情報に基づく第2のOGM72とを個別に作成し、これらを合成して第3のOGM73を作成する。
そして、カメラ用OGM作成部312により、検出された人体の位置が解析されて地図表示されることで、第1のOGM71が作成される。
ここでは、例えば図4(a)に示すような第1のOGM71が作成される。第1のOGM71では、撮像装置40による撮影画像から人体(と推定される物体)として検出された物体領域R1の位置が、例えば格子状に区画された二次元マップ上に平面表示される。
次に、物体サイズ計算部314により、測定対象Dの大きさが取得される。本実施形態では、LIDARである距離センサ41が取得した点群データから、人体である測定対象Dの幅dx、奥行きdy、高さdzが算出される(図5参照)。なお、ここで取得される測定対象Dの大きさは、物体候補抽出部315による後述の判定に用いられるものと対応するパラメータであればよい。
具体的に、まず物体候補抽出部315は、検出対象の種類に対応した検出サイズデータ351を記憶部35から読み出して設定する。検出サイズデータ351は、図6に示すように、ショベル100(距離センサ41)から測定対象Dまでの距離と、検出サイズ(図6の例では検出高さ)の範囲(図6ではドットの範囲)とを対応付けたものである。
図6の検出サイズデータ351は、距離センサ41の計測範囲(画角と向き)に起因して、検出サイズが距離に応じて変化する例を示したものである。具体的には、図7に示すように、距離センサ41の高さが2.5[m]、距離センサ41の見下ろし角度が40°、上下画角が20°の場合、距離aの位置において検出可能な最大高さは、(2.5√3-a)/2[m]となる。そこで、この値が人体の凡その高さ1.7[m]よりも小さくなる場合には、人体の高さを(2.5√3-a)/2と仮定する。また、人体の最小高さを0.6[m]とする。
また、検出サイズに含まれるパラメータは、機械学習(距離学習を含む)によって得られたものであってもよい。
具体的には、算出された測定対象Dの大きさが検出サイズの範囲内であった場合に、当該測定対象Dが所望の検出対象であると判定される。
上記の処理は、検出された全ての測定対象Dに対して行われる。これにより、測定対象Dが所望の検出対象であるその尤度を向上させることができる。
ここでは、例えば図4(b)に示すような第2のOGM72が作成される。この第2のOGM72では、検出対象であると判定された測定対象Dが、例えば第1のOGM71と同様に格子状に区画された二次元マップ上に、物体領域R2として平面表示される。
本実施形態の第3のOGM73では、例えば図4(c)に示すように、図4(a)に示す第1のOGM71と、図4(b)に示す第2のOGM72との、いずれにも物体領域R1、R2が存在するグリッドが、人体が検出された物体領域R3となっている。すなわち、第1のOGM71及び第2のOGM72の各々において、物体領域ありのグリッドに「1」、物体領域なしのグリッドに「0」を割り当てておき、合成の際に、対応するグリッド同士で和を取った数値が「1」の場合に当該グリッドを物体領域R3としている。
ただし、この合成手法は本実施形態のものに限定されない。例えば、第1のOGM71及び第2のOGM72の各々の作成時に、「0」と「1」だけではなく、各物体領域の存在の確からしさに応じて重み付けした数値を当該物体領域のグリッドに割り当ててもよい。そして、これらの合成時に、対応するグリッドの物体領域で和(又は積)を取った数値が所定の閾値以上となった場合に、当該グリッドを物体領域R3とすればよい。
そして、物体検出判定部32は、その検出結果(判定結果)を表示装置50に出力させる。この表示態様は、検出対象の位置等が識別できるものであれば、特に限定されない。
以上のように、本実施形態によれば、測定対象Dまでの距離に基づいて所望の検出対象の大きさが設定され、測定対象Dの大きさと、設定された検出対象の大きさとに基づいて、測定対象Dが検出対象であるか否かが判定される。
これにより、距離情報を単純に用いる場合に比べ、物体検出の検出精度を向上させることができる。
すなわち、カメラ等の撮像手段のみによる物体検出では、例えば地面の模様などに起因する誤検知が起きやすかった。これに対し、距離センサを併用したセンサフュージョンでは、検出精度が向上するものの、例えば検出対象が段差上に位置する場合などには誤検知が発生するおそれがあった。この点、本実施形態によれば、このような場合でも物体検出の検出精度を向上でき、誤検知のおそれを低減できる。したがって、例えば工事現場などのように周辺環境が平坦でなく入り組んでいる(地面の凸凹や、雑多な物体配置)場合に、特に好適に適用できる。
また、本実施形態によれば、複数種類の検出対象に対応した複数の検出サイズデータ351が予め記憶されており、所望の検出対象の種類に対応した検出サイズデータ351が読み出されて用いられる。これにより、所望の検出対象の種類に対応したその大きさの範囲を好適に設定でき、ひいては、種々の検出対象を高精度に検出できる。
つまり、測定対象Dまでの距離に基づく物体検出の検出精度を向上させたうえで、これを画像情報に基づく物体検出結果と合成させて、さらに物体検出を行う。これにより、より一層検出精度の高い物体検出を行うことができる。
以上、本発明の実施形態について説明したが、本発明は上記実施形態やその変形例に限られない。
例えば、上記実施形態では、測定対象Dまでの距離と、検出対象の大きさの範囲とを対応付けた検出サイズデータ351に基づいて、検出対象の大きさを設定することとした。しかし、測定対象Dまでの距離に基づいて検出対象の大きさが設定されれば、その設定手法はこれに限定されず、例えばオペレータが手動設定などしてもよい。また、検出サイズデータ351は、図6に例示した関数設定されたものでなくとも、判定用の閾値を有するものであればよい。
その他、実施の形態で示した細部は、発明の趣旨を逸脱しない範囲で適宜変更可能である。
30 コントローラ
35 記憶部
40 撮像装置(撮像手段)
41 距離センサ(測距手段)
71 第1のOGM
72 第2のOGM
73 第3のOGM
200 管理装置
300 支援装置
351 検出サイズデータ(検出サイズ情報)
D 測定対象
Claims (7)
- 測定対象までの距離を測定する測距手段と、
前記測定対象の大きさを取得するサイズ取得手段と、
前記測定対象までの距離に基づいて、所望の検出対象の大きさを設定するサイズ設定手段と、
前記サイズ取得手段により取得された前記測定対象の大きさと、前記サイズ設定手段により設定された前記検出対象の大きさとに基づいて、前記測定対象が前記検出対象であるか否かを判定する判定手段と、
前記測定対象の画像を取得する撮像手段と、
前記画像に基づいて、前記測定対象が前記検出対象であるか否かを判定する第2判定手段と、
前記判定手段の判定結果と、前記第2判定手段の判定結果とに基づいて、前記測定対象が前記検出対象であるか否かをさらに判定する第3判定手段と、
を備える、
情報処理装置。 - 前記測定対象までの距離と、前記検出対象の大きさの範囲とを対応付けた検出サイズ情報を予め記憶する記憶手段を備え、
前記サイズ設定手段は、前記検出サイズ情報に基づいて、前記検出対象の大きさの範囲を設定する、
請求項1に記載の情報処理装置。 - 前記記憶手段は、複数種類の前記検出対象に対応した複数の前記検出サイズ情報を予め記憶しており、
前記サイズ設定手段は、前記検出対象の種類に対応した前記検出サイズ情報を前記記憶手段から読み出して用いる、
請求項2に記載の情報処理装置。 - 前記測距手段は、三次元の距離情報を取得可能であり、
前記サイズ取得手段は、前記測距手段の測定結果に基づいて、前記測定対象の大きさを取得する、
請求項1から請求項3のいずれか一項に記載の情報処理装置。 - 前記サイズ取得手段は、前記測距手段の測定結果のみに基づいて、前記測定対象の大きさを取得し、
前記検出対象の大きさは、前記検出対象の高さを含む、
請求項4に記載の情報処理装置。 - 前記検出対象は人体である、
請求項1から請求項5のいずれか一項に記載の情報処理装置。 - 測定対象までの距離を測定する測距手段と、前記測定対象の画像を取得する撮像手段と、を備える情報処理装置の制御プログラムであって、
コンピュータを、
前記測定対象の大きさを取得するサイズ取得手段、
前記測定対象までの距離に基づいて、所望の検出対象の大きさを設定するサイズ設定手段、
前記サイズ取得手段により取得された前記測定対象の大きさと、前記サイズ設定手段により設定された前記検出対象の大きさとに基づいて、前記測定対象が前記検出対象であるか否かを判定する判定手段、
前記測定対象の画像に基づいて、前記測定対象が前記検出対象であるか否かを判定する第2判定手段、
前記判定手段の判定結果と、前記第2判定手段の判定結果とに基づいて、前記測定対象が前記検出対象であるか否かをさらに判定する第3判定手段、
として機能させる、
情報処理装置の制御プログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021109073A JP7704597B2 (ja) | 2021-06-30 | 2021-06-30 | 情報処理装置、情報処理装置の制御プログラム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021109073A JP7704597B2 (ja) | 2021-06-30 | 2021-06-30 | 情報処理装置、情報処理装置の制御プログラム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023006464A JP2023006464A (ja) | 2023-01-18 |
| JP7704597B2 true JP7704597B2 (ja) | 2025-07-08 |
Family
ID=85107560
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021109073A Active JP7704597B2 (ja) | 2021-06-30 | 2021-06-30 | 情報処理装置、情報処理装置の制御プログラム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7704597B2 (ja) |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009223527A (ja) | 2008-03-14 | 2009-10-01 | Seiko Epson Corp | 画像処理装置、画像処理方法、画像処理のためのコンピュータプログラム |
| JP2013025719A (ja) | 2011-07-25 | 2013-02-04 | Olympus Corp | 対象物検出装置、撮像装置及び画像処理プログラム |
-
2021
- 2021-06-30 JP JP2021109073A patent/JP7704597B2/ja active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2009223527A (ja) | 2008-03-14 | 2009-10-01 | Seiko Epson Corp | 画像処理装置、画像処理方法、画像処理のためのコンピュータプログラム |
| JP2013025719A (ja) | 2011-07-25 | 2013-02-04 | Olympus Corp | 対象物検出装置、撮像装置及び画像処理プログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2023006464A (ja) | 2023-01-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112955610A (zh) | 挖土机、信息处理装置、信息处理方法、信息处理程序、终端装置、显示方法、显示程序 | |
| CN109661494B (zh) | 作业机械的检测处理装置及作业机械的检测处理方法 | |
| JP7203616B2 (ja) | 作業機械 | |
| AU2017242392B2 (en) | Terminal device, control device, data-integrating device, work vehicle, image-capturing system, and image-capturing method | |
| US20220245856A1 (en) | Position identification system for construction machinery | |
| CN113661296A (zh) | 施工机械、支援系统 | |
| JP6918716B2 (ja) | 建設機械 | |
| WO2021153187A1 (ja) | 作業支援サーバおよび作業支援システム | |
| WO2023100533A1 (ja) | 画像表示システム、遠隔操作支援システムおよび画像表示方法 | |
| JP7349947B2 (ja) | 情報処理装置、作業機械、情報処理方法、情報処理プログラム | |
| AU2025203439A1 (en) | Construction management system, data processing device, and construction management method | |
| JP7704597B2 (ja) | 情報処理装置、情報処理装置の制御プログラム | |
| CN114731388B (zh) | 作业支援服务器、作业支援方法以及作业支援系统 | |
| US20230029071A1 (en) | Excavation level detection device | |
| JP7720727B2 (ja) | 情報処理装置、情報処理装置の制御プログラム | |
| US12448757B2 (en) | Construction method and construction system | |
| JP7515311B2 (ja) | 情報処理装置、情報処理装置の制御方法及び制御プログラム | |
| JP2024116653A (ja) | 周辺監視装置、周辺監視装置の制御方法及び周辺監視装置の制御プログラム | |
| JP2022129500A (ja) | 地形情報管理システムおよび作業機械 | |
| JP7843633B2 (ja) | 情報処理装置、情報処理システム及び情報処理プログラム | |
| JP2024117204A (ja) | 作業機械、情報処理装置、作業機械の制御方法及び作業機械の制御プログラム | |
| JP2021157359A (ja) | 情報処理装置、作業機械、情報処理装置の制御方法及び制御プログラム | |
| JP2024089304A (ja) | 作業機械の監視システム | |
| WO2025052859A1 (ja) | 作業支援システムおよび作業支援方法 | |
| JP2026025426A (ja) | 情報提示システム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240412 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20250121 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250218 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250418 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250610 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250626 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7704597 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |