Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7235134B2 - 物体検知装置、学習方法、及び、プログラム - Google Patents
[go: Go Back, main page]

JP7235134B2 - 物体検知装置、学習方法、及び、プログラム - Google Patents

物体検知装置、学習方法、及び、プログラム Download PDF

Info

Publication number
JP7235134B2
JP7235134B2 JP2021554532A JP2021554532A JP7235134B2 JP 7235134 B2 JP7235134 B2 JP 7235134B2 JP 2021554532 A JP2021554532 A JP 2021554532A JP 2021554532 A JP2021554532 A JP 2021554532A JP 7235134 B2 JP7235134 B2 JP 7235134B2
Authority
JP
Japan
Prior art keywords
object detection
weight
unit
image data
detection device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021554532A
Other languages
English (en)
Other versions
JPWO2021090473A5 (ja
JPWO2021090473A1 (ja
Inventor
勝彦 高橋
裕一 中谷
哲夫 井下
遊哉 石井
学 中野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2021090473A1 publication Critical patent/JPWO2021090473A1/ja
Publication of JPWO2021090473A5 publication Critical patent/JPWO2021090473A5/ja
Application granted granted Critical
Publication of JP7235134B2 publication Critical patent/JP7235134B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/759Region-based matching
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/80Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level
    • G06V10/809Fusion, i.e. combining data from various sources at the sensor level, preprocessing level, feature extraction level or classification level of classification results, e.g. where the classifiers operate on the same input data

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像に含まれる物体を検知する技術に関する。
多くのパターンデータを用いて学習を行うことで、認識器の性能を向上できることが知られている。基礎となる認識器から各環境に適合させた認識器にチューニングすることも行われている。また、異なる環境に応じて認識精度を向上させる方法も各種提案されている。例えば、特許文献1には、文字の書かれている環境に応じた認識処理を行うパターン認識装置が記載されている。このパターン認識装置では、入力画像から抽出された処理対象の状態に応じて、複数登録されている認識器の中のいずれか1つ又は複数を呼び出して認識処理を行わせる。
また、認識器の性能を向上する別の方策として、特性の異なる複数の認識器を構築して、それらの出力に基づいて総合判断する方式が提案されている。例えば、特許文献2には、障害物の有無を判定する複数の判定部の判定結果に基づいて最終判定を行う障害物検出装置が記載されている。
特開2007-058882号公報 特開2019-036240号公報
上記の手法では、複数の認識装置や判定装置の精度がほぼ同等であることを前提としている。このため、複数の認識装置や判定装置の精度が異なる場合には、最終的に得られる結果の精度が低下してしまう場合がある。
本発明の1つの目的は、特性の異なる複数の認識器を用いて、入力画像に応じた高精度な物体検知を可能とする物体検知装置を提供することにある。
上記の課題を解決するため、本発明の一つの観点では、物体検知装置は、
入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力する複数の物体検知手段と、
前記画像データに基づいて、前記複数の物体検知手段が出力するスコアを融合する際の重みを、重み算出パラメータを用いて、前記複数の物体検知手段の各々について算出する重み算出手段と、
前記重み算出手段が算出した重みのうち、予め定めた物体検知手段に対して得られた重みを0に変更して出力する重み再配分手段と、
前記重み再配分手段が変更した重みを含む、前記重み算出手段が算出した重みで、前記複数の物体検知手段が出力するスコアを前記部分領域毎に融合する融合手段と、
前記画像データの正解ラベルと、前記融合手段が融合したスコアとの差異をロスとして算出するロス算出手段と、
前記重み算出パラメータを、前記ロスが減少するように修正するパラメータ修正手段と、
を備える。
本発明の他の観点では、物体検知装置は、
入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力する複数の物体検知手段と、
前記画像データに基づいて、前記複数の物体検知手段が出力するスコアを融合する際の重みを、重み算出パラメータを用いて算出する重み算出手段と、
前記重み算出手段が算出した重みのうち、予め定めた物体検知手段に対して得られた重みを0に変更して出力する重み再配分手段と、
前記重み再配分手段が変更した重みを含む、前記重み算出手段が算出した重みで、前記複数の物体検知手段が出力するスコアを前記部分領域毎に融合する融合手段と、
前記画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力するターゲットモデルの物体検知手段と、
前記ターゲットモデルの物体検知手段の出力と、前記画像データの正解ラベルおよび前記融合手段が融合したスコアとの差異を示すロスを算出するロス算出手段と、
前記ロスが減少するように、前記ターゲットモデルの物体検知手段のパラメータを修正するパラメータ修正手段と、
を備える。
本発明のさらに他の観点では、物体検知装置の学習方法は、
入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを複数の物体検知手段から出力し、
前記画像データに基づいて、前記複数の物体検知手段が出力するスコアを融合する際の重みを、重み算出パラメータを用いて、前記複数の物体検知手段の各々について算出し、
算出された重みのうち、予め定めた物体検知手段に対して得られた重みを0に変更し、
変更された重みを含む、算出された重みで、前記複数の物体検知手段が出力するスコアを前記部分領域毎に融合し、
前記画像データの正解ラベルと、融合したスコアとの差異をロスとして算出し、
前記重み算出パラメータを、前記ロスが減少するように修正する。
本発明のさらに他の観点では、物体検知装置の学習方法は、
入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを複数の物体検知手段から出力し、
前記画像データに基づいて、前記複数の物体検知手段が出力するスコアを融合する際の重みを、重み算出パラメータを用いて算出し、
算出された重みのうち、予め定めた物体検知手段に対して得られた重みを0に変更し、
変更された重みを含む、算出された重みで、前記複数の物体検知手段が出力するスコアを前記部分領域毎に融合し、
前記画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアをターゲットモデルの物体検知手段から出力し、
前記ターゲットモデルの物体検知手段の出力と、前記画像データの正解ラベルおよび融合したスコアとの差異を示すロスを算出し、
前記ロスが減少するように、前記ターゲットモデルの物体検知手段のパラメータを修正する。
本発明によれば、特性の異なる複数の物体検知用の認識器を統合することで、入力画像に応じた高精度の物体検知が可能となる。
物体検知装置のハードウェア構成を示すブロック図である。 第1実施形態に係る学習のための物体検知装置の機能構成を示す。 アンカーボックスの概念を説明する図である。 アンカーの例を説明する図である。 第1実施形態に係る物体検知装置による学習処理のフローチャートである。 第1実施形態に係る推論のための物体検知装置の機能構成を示す。 第1実施形態に係る物体検知装置による推論処理のフローチャートである。 第2実施形態に係る学習のための物体検知装置の機能構成を示す。 第2実施形態に係る推論のための物体検知装置の機能構成を示す。 第3実施形態に係る学習のための物体検知装置の機能構成を示す。 第3実施形態の物体検知装置による学習処理のフローチャートである。 第3実施形態に係る推論のための物体検知装置の機能構成を示す。 第4実施形態に係る学習のための物体検知装置の機能構成を示す。 第4実施形態の物体検知装置を適用した場合の効果の一例を示す。 第4実施形態の物体検知装置による学習処理のフローチャートである。 第5実施形態に係る学習のための物体検知装置の機能構成を示す。 第5実施形態の物体検知装置による学習処理のフローチャートである。 第5実施形態に係る推論のための物体検知装置の機能構成を示す。 第6実施形態に係る学習のための物体検知装置の機能構成を示す。 第7実施形態に係る学習のための物体検知装置の機能構成を示す。
[第1実施形態]
次に、本発明の第1実施形態について説明する。
(ハードウェア構成)
図1は、物体検知装置のハードウェア構成を示すブロック図である。図示のように、物体検知装置10は、インタフェース(IF)2と、プロセッサ3と、メモリ4と、記録媒体5と、データベース(DB)6と、を備える。
インタフェース2は、外部装置との通信を行う。具体的に、インタフェース2は、物体検知の対象となる画像データや学習用の画像データを外部から入力したり、物体検知の結果を外部装置へ出力する際に使用される。
プロセッサ3は、CPU(Central Processing Unit)、又はCPUとGPU(Graphics Processing Uit)などのコンピュータであり、予め用意されたプログラムを実行することにより、物体検知装置10の全体を制御する。メモリ4は、ROM(Read Only Memory)、RAM(Random Access Memory)などにより構成される。メモリ4は、プロセッサ3により実行される各種のプログラムを記憶する。また、メモリ4は、プロセッサ3による各種の処理の実行中に作業メモリとしても使用される。
記録媒体5は、ディスク状記録媒体、半導体メモリなどの不揮発性で非一時的な記録媒体であり、物体検知装置10に対して着脱可能に構成される。記録媒体5は、プロセッサ3が実行する各種のプログラムを記録している。物体検知装置10が学習処理を実行する際には、記録媒体5に記録されているプログラムがメモリ4にロードされ、プロセッサ3により実行される。
データベース6は、物体検知装置10の学習処理において使用される、学習用の画像データを記憶する。学習用の画像データは、正解ラベルを含む。なお、上記に加えて、物体検知装置10は、キーボード、マウスなどの入力機器や、表示装置などを備えていても良い。
(学習のための機能構成)
次に、学習のための物体検知装置10の機能構成について説明する。図2は、学習のための物体検知装置10の機能構成を示すブロック図である。なお、図2は、複数の物体検知部からの出力に対する最適な融合割合を学習する学習ステップを実行するための構成を示す。図示のように、物体検知装置10は、画像入力部11と、重み算出部12と、第1の物体検知部13と、第2の物体検知部14と、積和部15と、パラメータ修正部16と、ロス算出部17と、正解ラベル記憶部18とを備える。画像入力部11は、図1に示すインタフェース2により実現される、重み算出部12、第1の物体検知部13、第2の物体検知部14、積和部15、パラメータ修正部16、および、ロス算出部17は、図1に示すプロセッサ3により実現される。正解ラベル記憶部18は図1に示すデータベース6により実現される。
物体検知装置10の学習ステップでは、重み算出部12が内部に有する重み算出のためのパラメータ(以下、「重み算出パラメータ」と呼ぶ。)を最適化する。なお、第1の物体検知部13及び第2の物体検知部14は、事前に学習済みであり、この学習ステップにおいて学習は行わない。
画像入力部11には、画像データが入力される。画像データは、学習用の画像データであり、物体検知の対象となるエリアで撮影されたものである。前述のように、各画像データに対しては、その画像に含まれる物体を示す正解ラベルが予め用意されている。
第1の物体検知部13は、例えばSSD(Single Shot Multibox Detector)、RetinaNet、Faster-RCNN(Regional Convolutional Neural Network)などのディープラーニングによる物体検知用のニューラルネットワークに類似する構成を有する。但し、第1の物体検知部13は、NMS(Non Maximum Suppression)処理を行って、検知した物体とそのスコアおよび座標情報をリスト形式などで出力する処理までは行わず、NMS処理前のアンカーボックス毎に算出された認識対象物体のスコア情報および座標情報をそのまま出力する。ここでは、認識対象物体の有無を検証する、すべての部分領域のことを「アンカーボックス」と呼ぶ。
図3は、アンカーボックスの概念を説明する図である。図示のように、CNNの畳み込みにより得られた特徴マップ上に、スライディングウィンドウ(sliding window)が設定される。図3の例では、1つのスライディングウィンドウに対してk通りの大きさの異なるアンカーボックス(以下、単に「アンカー」とも呼ぶ。)が設定され、各アンカーに対して認識対象物体の有無が検証される。即ち、各アンカーは、すべてのスライディングウィンドウに対してk通りずつ設定される部分領域を指す。
アンカーの数はニューラルネットワークの構造やサイズに依存する。一例として、図4を参照して、モデルとしてRetinaNetを使った場合のアンカーの例を説明する。図4は、RetinaNetの構造を示す図である。出力ネットワーク901の上段は、W×H×A個のアンカーに対するスコア情報(K次元。つまり、K種類の認識対象)を記憶しており、下段はW×H×A個のアンカーに対する座標情報(4次元)を記憶する。ここで、「W」はアンカー中心の横方向のバリエーション数、「H」はアンカー中心の縦方向バリエーション数、「A」はアンカーの縦横サイズのバリエーション数を示す。座標情報は、認識対象物が存在する矩形領域の左右、上下4辺の座標情報を絶対値もしくはアンカーに対して一意に定められる基準位置からの相対位置で表してもよいし、上下4辺ではなく左辺と上辺および幅と高さの観点で表してもよい。
図示の出力ネットワーク901はfeature pyramid net(特徴ピラミッドネット)の1層分に対して設定されたもので、feature pyramid netの別の階層に対しても同様にK次元のスコア情報と4次元の座標情報が出力される。以下、feature pyramid netのすべての階層に対して設定されるアンカーの数を「Na」と記すこととする。同一のアンカーに対するスコア情報と座標情報は、それらの情報を記憶するためのメモリの予め定められたメモリ位置に保存されるので、それらを容易に対応づけることができる。なお、前述のように、第1の物体検知部13は事前に学習済みで、そのパラメータは固定されており、物体検知装置10の学習ステップにおいて学習は行わない。
第2の物体検知部14は、第1の物体検知部13と同様であり、モデルの構造も同一とする。ただし、第1の物体検知部13と第2の物体検知部14とは、学習データが異なるか、もしくは学習時のパラメータの初期値が異なるなどの要因により、内部に所持するネットワークのパラメータは一致しておらず、認識特性も異なるものとする。
重み算出部12は、ResNet(Residual Network:残差ネットワーク)などの回帰問題に適用可能なディープニューラルネットワークなどによって構成される。重み算出部12は、画像入力部11に入力された画像データに対して、第1の物体検知部13と第2の物体検知部14が出力するスコア情報および座標情報を融合する際の重みを決定し、それぞれの重みを示す情報を積和部15へ出力する。基本的に、重みの次元数は用いる物体検知部の数に等しい。この場合、重み算出部12は、第1の物体検知部13に対する重みと第2の物体検知部14に対する重みの総和が「1」になるように重みを算出することが好ましい。例えば、重み算出部12は、第1の物体検知部13に対する重みを「α」とし、第2の物体検知部14に対する重みを「1-α」とすればよい。これにより、積和部15における平均値算出処理を簡略化することができる。なお、物体検知部において、1つの物体に関するパラメータが2つある場合(例えば、ある物体らしいことを示すパラメータと、ある物体らしくないことを示すパラメータ)、重みの次元数は用いる物体検知部の数の2倍となる。
積和部15は、第1の物体検知部13および第2の物体検知部14が出力するスコア情報および座標情報を、それぞれ対応するアンカー同士で、重み算出部12が出力する重みに基づき積和した後に平均値を求める。なお、座標情報の積和演算は、正解ラベルに認識対象物体の存在が示されているアンカーに対してのみ行い、それ以外のアンカーに対しては計算不要である。平均値はアンカー毎かつ認識対象物体毎に算出され、Na×(k+4)次元となる。なお、積和部15は、本発明の融合部の一例である。
正解ラベル記憶部18は、学習用の画像データに対する正解ラベルを記憶している。具体的に、正解ラベル記憶部18は、正解ラベルとして、各アンカーに存在する認識対象物体のクラス情報、および座標情報をアンカー毎に配列状に記憶する。正解ラベル記憶部18は、認識対象物体が存在しないアンカーに対応する記憶エリアには、認識対象物体が存在しない旨を示すクラス情報、および座標情報を記憶する。クラス情報は、物体の種類を示すクラスコードと、そのクラスコードが示す物体が存在する確からしさを示すスコア情報とを含む。なお、学習用の画像データに対するもともとの正解情報は、入力画像に写っている認識対象物体の種類とその矩形領域を示すテキスト情報である場合が多いが、正解ラベル記憶部18に記憶されている正解ラベルは、その正解情報をアンカー毎のクラス情報および座標情報に変換したデータとなっている。
例えば、正解ラベル記憶部18は、ある物体が写っている矩形領域とあらかじめ定めた閾値以上の重複を有するアンカーについては、当該物体のスコアを表す正解ラベルの位置に、クラス情報として当該物体のスコアを示す値1.0を格納し、座標情報として当該アンカーの標準矩形位置に対する当該物体が写っている矩形領域の位置の相対量(左端x座標のずれ量、上端y座標のずれ量、幅のずれ量、高さのずれ量)を格納する。また、正解ラベル記憶部18は、他の物体のスコアを表す正解ラベルの位置には物体が存在しない旨を示す値を格納する。また、ある物体が写っている矩形領域とあらかじめ定めた閾値以上の重複を有さないアンカーに対しては、正解ラベル記憶部18は、物体のスコアおよび座標情報を格納する正解ラベルの位置に物体が存在しない旨を示す値を格納する。1つのアンカーに対し、クラス情報はk次元、座標情報は4次元となる。すべてのアンカーに対しては、クラス情報はNa×k次元、座標情報はNa×4次元となる。この変換には、広く一般に公開されている物体検知課題向けのディープニューラルネットワークプログラムで使われている手法を適用することができる。
ロス算出部17は、積和部15が出力するNa×(k+4)次元のスコア情報および座標情報と、正解ラベル記憶部18に記憶されている正解ラベルとを照合してロスの値を算出する。具体的には、ロス算出部17は、スコア情報に関する識別ロス、および、座標情報に関する回帰ロス(Regression loss)を算出する。積和部15が出力するNa×(k+4)次元の平均値は、第1の物体検知部13がアンカー毎かつ認識対象物体毎に出力するスコア情報および座標情報と同義である。したがって、ロス算出部17は、第1の物体検知部13の出力に対する識別ロスの算出方法と全く等しい方法で識別ロスの値を算出することができる。ロス算出部17は、すべてのアンカーに対するスコア情報の差分を累積して識別ロスを算出する。また、回帰ロスについては、ロス算出部17は、いずれかの物体が存在するアンカーに対してのみ座標情報の差分を累積し、いずれの物体も存在しないアンカーに対しては座標情報の差分を考慮しない。
なお、識別ロスと回帰ロスを用いたディープニューラルネットワークの学習については以下の文献に記載されており、これを参考文献として取り込む。
”Learning Efficient Object Detection Models with Knowledge Distillation”,NeurIPS2017
パラメータ修正部16は、ロス算出部17が算出したロスを減少させるように、重み算出部12に内在するネットワークのパラメータを修正する。この時、パラメータ修正部16は、第1の物体検知部13および第2の物体検知部14のネットワークのパラメータを固定し、重み算出部12のパラメータのみを修正する。パラメータ修正部16は、パラメータの修正量を通常の誤差逆伝搬法により求めることができる。このようにして重み算出部12のパラメータを学習することで、第1の物体検知部13および第2の物体検知部14の出力を最適に積和し、総合的に判定を行う物体検知装置を構築することが可能となる。
次に、学習のための物体検知装置10の動作について説明する。図5は、物体検知装置10による学習処理のフローチャートである。この処理は、図1に示すプロセッサ3が予め用意されたプログラムを実行することにより実現される。
まず、画像入力部11に学習用の画像データが入力される(ステップS11)。第1の物体検知部13は、画像データを用いて物体検知を行い、画像中の認識対象物体のスコア情報と座標情報をアンカー毎かつ認識対象物体毎に出力する(ステップS12)。同様に、第2の物体検知部14は、画像データを用いて物体検知を行い、画像中の認識対象物体のスコア情報と座標情報をアンカー毎かつ認識対象物体毎に出力する(ステップS13)。また、重み算出部12は、画像データを読み込み、第1の物体検知部13および第2の物体検知部14の出力それぞれに対する重みを算出する(ステップS14)。
次に、積和部15は、第1の物体検知部13が出力した認識対象物体のスコア情報と座標情報、並びに、第2の物体検知部14が出力した認識対象物体のスコア情報と座標情報に、重み算出部12が算出したそれぞれに対する重みを掛け合わせて加算し、それらの平均値を出力する(ステップS15)。次に、ロス算出部17は、得られた平均値と正解ラベルとの差を照合し、ロスを算出する(ステップS16)。そして、パラメータ修正部16は、ロスの値が減少するように、重み算出部12に内在する重み算出パラメータを修正する(ステップS17)。
物体検知装置10は、上記のステップS11~S17を所定の条件の間だけ繰返し、処理を終了する。なお、「所定の条件」とは、繰返しの回数やロスの値の変化度合いなどに関する条件であり、多くのディープラーニングの学習手順として採用されている方法のいずれかを使用することができる。
以上のように、第1実施形態の物体検知装置10によれば、重み算出部12が入力画像に対する各物体検知部の得手・不得手を予測して重みを最適化し、その重みを各物体検知部の出力に乗じて平均する。よって、単体の物体検知部に比べて高精度な最終判定を行うことができる。例えば、第1の物体検知部13は単独で歩く歩行者の検知を得意とし、第2の物体検知部14は集団で歩く歩行者の検知を得意としている場合、入力画像にたまたま単独で歩く人が映っていたならば、重み算出部12は第1の物体検知部13により大きな重みを割り当てる。また、パラメータ修正部16は、学習用の画像データの認識を得意とする物体検知部に対して重み算出部12が大きな重みを算出するように、重み算出部12のパラメータを修正する。
(推論のための機能構成)
次に、推論のための物体検知装置の機能構成について説明する。図6は、推論のための物体検知装置10xの機能構成を示すブロック図である。なお、推論のための物体検知装置10xも、基本的に図1に示すハードウェア構成で実現される。
図6に示すように、推論のための物体検知装置10xは、画像入力部11と、重み算出部12と、第1の物体検知部13と、第2の物体検知部14と、積和部15と、極大値選択部19と、を備える。ここで、画像入力部11、重み算出部12、第1の物体検知部13、第2の物体検知部14、および、積和部15は、図2に示す学習のための物体検知装置10と同様である。そして、重み算出部12は、上記の学習処理により学習されたものを使用する。
極大値選択部19は、積和部15が出力するNa×k次元のスコア情報にNMS処理を施して認識対象物体の種類を同定し、そのアンカーに対応する座標情報からその位置を特定して物体検知結果を出力する。物体検知結果は、認識対象物体毎に、その種類と位置とを含む。これにより、第1の物体検知部13および第2の物体検知部14の出力を最適に融合して総合判断した場合の物体検知結果を得ることができる。
次に、推論のための物体検知装置10xの動作について説明する。図7は、物体検知装置10xによる推論処理のフローチャートである。この処理は、図1に示すプロセッサ3が予め用意されたプログラムを実行することにより実現される。
まず、画像入力部11に学習用の画像データが入力される(ステップS21)。第1の物体検知部13は、画像データを用いて物体検知を行い、画像中の認識対象物体のスコア情報と座標情報をアンカー毎かつ認識対象物体毎に出力する(ステップS22)。同様に、第2の物体検知部14は、画像データを用いて物体検知を行い、画像中の認識対象物体のスコア情報と座標情報をアンカー毎かつ認識対象物体毎に出力する(ステップS23)。また、重み算出部12は、画像データを読み込み、第1の物体検知部13および第2の物体検知部14の出力それぞれに対する重みを算出する(ステップS24)。
次に、積和部15は、第1の物体検知部13が出力した認識対象物体のスコア情報と座標情報、並びに、第2の物体検知部14が出力した認識対象物体のスコア情報と座標情報に、重み算出部12が算出したそれぞれに対する重みを掛け合わせて加算し、それらの平均値を出力する(ステップS25)。最後に、極大値選択部19は、平均値に対してNMS処理を施し、認識対象物体の種類とその位置を物体検知結果として出力する(ステップS26)。
(変形例)
上記の第1実施形態に対しては、以下の変形例を適用することができる。
(1)上記の第1実施形態では、各物体検知部が出力するスコア情報および座標情報を用いて学習を行っているが、座標情報は用いず、スコア情報のみを用いて学習を行うこととしてもよい。
(2)上記の第1実施形態では、第1の物体検知部13および第2の物体検知部14の2つの物体検知部を用いたが、物体検知部は原理上3つ以上でも全く問題ない。その場合は、重み算出部12が出力する重みの次元数(数)を、物体検知部の数と等しくすればよい。
(3)第1の物体検知部13および第2の物体検知部14を構成する具体的なアルゴリズムとしては、物体検知のためのディープラーニング手法であれば何を用いてもよい。また、重み算出部12としては、回帰問題向けのディープラーニングに限らず、誤差逆伝搬法で学習できる関数、いいかえると、重みを算出する関数のパラメータで誤差関数を偏微分可能な関数、であれば何を用いても構わない。
(4)また、上記の第1実施形態は物体検知装置としたが、物体の検知に限らず、映像中で起きている事象情報とその座標情報を出力する事象検知装置としてもよい。「事象」とは、例えばあらかじめ定めた人物の振る舞いや動作、ジェスチャーのようなものや、土砂崩れや雪崩、河川の水位上昇といった自然現象などを指す。
(5)また、上記の第1実施形態では、第1の物体検知部13と第2の物体検知部14とはモデルの構造の等しいものを用いるものとしているが、異なるモデルを用いてもよい。ただし、その場合は、積和部15にて、略等しい位置に対応する双方のアンカーの対応づけを工夫する必要がある。これは、異なるモデル間のアンカーは、完全一致しないためである。現実的な実装としては、第2の物体検知部14で設定される各アンカーを第1の物体検知部13で設定されるアンカーのいずれか1つに対応させ、第1の物体検知部13で設定されるアンカー毎に重み付け平均を計算し、第1の物体検知部13で設定されるアンカー毎かつ認識対象物体毎のスコア情報および座標情報を出力するようにすればよい。アンカーの対応の決め方としては、アンカーに対応する画像領域(物体が存在する矩形領域)を求め、その画像領域がもっとも過不足なく重複するアンカー同士を対応付ければよい。
[第2実施形態]
次に、本発明の第2実施形態について説明する。なお、以下に説明する学習のための物体検知装置20及び推論のための物体検知装置20xは、いずれも図1に示すハードウェア構成により実現される。
(学習のための機能構成)
図8は、第2実施形態に係る学習のための物体検知装置20の機能構成を示すブロック図である。図示のように、学習のための物体検知装置20は、図2に示す物体検知装置10における重み算出部12及びパラメータ修正部16の代わりに、アンカー毎重み算出部21及びアンカー毎パラメータ修正部22を有する。これ以外は、第2実施形態の物体検知装置20は、第1実施形態の物体検知装置10と同一である。即ち、画像入力部11、第1の物体検知部13、第2の物体検知部14、積和部15、ロス算出部17および正解ラベル記憶部18は、第1実施形態の物体検知装置10とそれぞれ同一であり、基本的に第1実施形態と同様に動作する。
アンカー毎重み算出部21は、画像入力部11に入力された画像データに基づいて、その画像データに設定される各アンカーに対して、第1の物体検知部13と第2の物体検知部14の出力に対する重みを算出し、積和部15に出力する。ここで、第1実施形態の重み算出部12が画像全体に対して1通りの重みを設定していたのに対し、第2実施形態のアンカー毎重み算出部21は、画像のアンカー毎、即ち部分領域毎に、各物体検知部の出力に対する重みを算出する。画像データに設定されるアンカー数をNa、物体検知部の数をNfとすると、アンカー毎重み算出部21が出力する倍率を示す情報の次元数はNa×Nf次元となる。アンカー毎重み算出部21は、多次元の回帰問題に適用できるディープニューラルネットワークなどで構成することができる。また、アンカー毎重み算出部21は、それぞれの物体検知部に対する近傍のアンカー同士ができるだけ近い重みを持つように、近傍のアンカーに対応する重みを平均化するような構造のネットワークを含んでもよい。
積和部15は、第1の物体検知部13および第2の物体検知部14がそれぞれアンカー毎かつ認識対象物体毎に出力するスコア情報および座標情報を、同じもの同士対応づけながら、アンカー毎重み算出部21が出力する物体検知部毎かつアンカー毎の重みに基づき積和した後に平均値を求める。平均値の次元数は、第1実施形態と等しくNa×(k+4)次元となる。
アンカー毎パラメータ修正部22は、ロス算出部17が算出したロスを減少させるようにアンカー毎重み算出部21に含まれる物体検知部毎かつアンカー毎の重み算出パラメータを修正する。この時、第1実施形態と同様に、第1の物体検知部13および第2の物体検知部14のネットワークのパラメータは固定し、アンカー毎パラメータ修正部22は、アンカー毎重み算出部21のパラメータのみを修正する。パラメータの修正量は、通常の誤差逆伝搬法により求めることができる。
学習時において、第2実施形態の物体検知装置20は、基本的に図5に示す第1実施形態の学習処理と同様の処理を実行する。但し、第2実施形態では、図5に示す学習処理において、ステップS14でアンカー毎重み算出部21がアンカー毎に各物体検知部の出力に対する重みを算出する。また、ステップS17では、アンカー毎パラメータ修正部22がアンカー毎に、アンカー毎重み算出部21内の重み算出パラメータを修正する。
(推論のための機能構成)
第2実施形態における、推論のための物体検知装置の構成について説明する。図9は、第2実施形態における、推論のための物体検知装置20xの機能構成を示すブロック図である。第2実施形態の推論のための物体検知装置20xは、図6に示す第1実施形態の推論のための物体検知装置10xにおける重み算出部12の代わりに、アンカー毎重み算出部21を有する。これ以外の点では、第2実施形態の推論のための物体検知装置20xは、第1実施形態の推論のための物体検知装置10xと同一である。よって、第2実施形態では、アンカー毎重み算出部21がアンカー毎に重みを算出し、第1の物体検知部13及び第2の物体検知部14に出力する。
推論時において、第2実施形態の物体検知装置20xは、基本的に図7に示す第1実施形態の学習処理と同様の処理を実行する。但し、第2実施形態では、図7に示す学習処理において、ステップS24でアンカー毎重み算出部21がアンカー毎に各物体検知部の出力に対する重みを算出する。
第2実施形態では、入力された画像データに基づいて、各物体検知部の出力の確からしさをアンカー毎、言い換えると場所毎に推測して重みを算出し、その重みを用いて各物体検知部の出力を重み付け平均する。よって、複数の物体検知部の出力を用いて、より高精度な最終判定を行うことができる。例えば、第1の物体検知部13は単独で歩く歩行者の検知を得意とし、第2の物体検知部14は集団で歩く歩行者の検知を得意としている場合、入力された画像に単独で歩く人と集団で歩く人が共に映っていたならば、アンカー毎重み算出部21は単独で歩く人の位置付近に対応するアンカーには第1の物体検知部13の出力をより重視し、集団で歩く人の位置付近に対応するアンカーには第2の物体検知部14の出力をより重視するような重みを出力する。こうして、より高精度な最終判定が可能となる。また、アンカー毎パラメータ修正部22は、学習用の画像データの認識を得意とする物体検知部の出力をより重視する重みをアンカー毎重み算出部21が出力するよう、画像の部分領域毎にパラメータを修正することができる。
(変形例)
上述した第1実施形態における変形例(1)~(5)は、第2実施形態においても適用することができる。さらに、第2実施形態では、以下の変形例(6)を適用することができる。
(6)上記の第2実施形態では、アンカー毎重み算出部21がアンカー毎に最適な重み付けを行っているが、例えばRetinaNetのように各物体検知部がクラス毎に異なるバイナリ識別器を持っているならば、アンカー毎ではなくクラス毎に重みを変えられるようにしてもよい。この場合は、アンカー毎重み算出部21に代えてクラス毎重み算出部を設け、アンカー毎パラメータ修正部22に代えてクラス毎パラメータ修正部を設ければよい。画像データに設定されるアンカー数をNa、物体検知部の数をNfとすると、アンカー毎重み算出部21が出力する重みの次元数はNa×Nf次元である。これに対し、クラス数をNc次元とすると、クラス毎重み算出部が出力する重みの次元数はNc×Nf次元となる。クラス毎パラメータ修正部によるクラス毎重み算出部のパラメータの学習は、通常のように出力層ニューロン側からロスを最小化するようにバックプロパゲーションを適用すればよい。この構成によれば、例えば、物体検知部毎に検知が得意なクラスが異なる場合、クラス毎に異なる最適な重み付けを行うことが可能となる。
[第3実施形態]
次に、本発明の第3実施形態について説明する。第3実施形態は、画像データの撮影環境情報を用いて、各物体検知部に対する重み付けを行うものである。なお、以下に説明する学習のための物体検知装置30及び推論のための物体検知装置30xは、いずれも図1に示すハードウェア構成により実現される。
(学習のための機能構成)
図10は、第3実施形態に係る学習のための物体検知装置30の機能構成を示すブロック図である。図示のように、学習のための物体検知装置30は、図2に示す物体検知装置10における重み算出部12の代わりに重み算出/環境予測部31を備え、さらに予測ロス算出部32を追加した構成を有する。これ以外は、第3実施形態の物体検知装置30は、第1実施形態の物体検知装置10と同一である。即ち、画像入力部11、第1の物体検知部13、第2の物体検知部14、積和部15、ロス算出部17および正解ラベル記憶部18は、第1実施形態の物体検知装置10とそれぞれ同一であり、基本的に第1実施形態と同様に動作する。
予測ロス算出部32には、撮影環境情報が入力される。撮影環境情報は、画像入力部11に入力される画像データが撮影された環境を示す情報である。例えば、撮影環境情報は、(a)画像データを撮影したカメラの設置位置の屋内外の別(屋内または屋外)、(b)その時の天候(晴天、曇天、雨または雪)、(c)時刻(昼または夜)、(d)カメラの俯角(0~30度、30~60度または60~90度)などである。
重み算出/環境予測部31は、重み算出パラメータを用いて第1の物体検知部13および第2の物体検知部14に対する重みを算出すると同時に、撮影環境を予測するためのパラメータ(以下、「撮影環境予測パラメータ」と呼ぶ。)を用いて、入力された画像データの撮影環境を予測して予測環境情報を生成し、予測ロス算出部32に出力する。例えば、撮影環境情報として上記(a)~(d)の4種類のものを用いるとすれば、重み算出/環境予測部31は、各種類の情報の属性値を1次元で表し、予測環境情報として4次元の値を出力する。重み算出/環境予測部31は、重みと予測環境情報を算出するにあたり、計算の一部を共通化する。例えば、ディープニューラルネットワークで算出する場合、重み算出/環境予測部31は、ネットワークの下位層を共通化し、上位層のみを重みおよび予測環境情報の算出に特化させる。即ち、重み算出/環境予測部31はいわゆるマルチタスク学習を行う。これにより、重み算出パラメータと環境予測パラメータは、その一部が共通することとなる。
予測ロス算出部32は、撮影環境情報と、重み算出/環境予測部31が算出した予測環境との差異を計算し、予測ロスとしてパラメータ修正部16に出力する。パラメータ修正部16は、ロス算出部17が算出したロスおよび予測ロス算出部32が算出した予測ロスを減少させるように、重み算出/環境予測部31に内在するネットワークのパラメータを修正する。
第3実施形態では、重み算出/環境予測部31において、重みの算出と予測環境情報の算出に一部のネットワークを共有しているので、類似した撮影環境のモデル同士は類似した重みをもちやすくなる。その結果、重み算出/環境予測部31における学習を安定させる効果が得られる。
なお、上記の第3実施形態では、重み算出/環境予測部31およびパラメータ修正部16は、第1実施形態と同様に画像全体に対して等しい重み付けを行っている。その代わりに、重み算出/環境予測部31およびパラメータ修正部16が、第2実施形態のようにアンカー毎(部分領域毎)に重み付けを行うように構成してもよい。
次に、学習のための物体検知装置30の動作について説明する。図11は、第3実施形態の物体検知装置30による学習処理のフローチャートである。この処理は、図1に示すプロセッサ3が予め用意されたプログラムを実行することにより実現される。図5と比較するとわかるように、第3実施形態の物体検知装置30による学習処理は、第1実施形態の物体検知装置10による学習処理に、ステップS31~S33を追加したものとなっている。
図11において、ステップS11~S16は、第1実施形態の学習処理と同様である。ステップS16で、ロス算出部17は、得られた平均値と正解ラベルとの差を照合し、ロスを算出してパラメータ修正部16に出力する。一方、ステップS11~S16と並行して、ステップS31~S33が実行される。具体的には、まず、撮影環境情報が予測ロス算出部32に入力される(ステップS31)。次に、重み算出/環境予測部31は、画像入力部11から出力された画像データに基づいて、その画像データが撮影された環境を予測し、予測環境情報を生成して予測ロス算出部32に出力する(ステップS32)。予測ロス算出部32は、ステップS31で入力された撮影環境情報と、ステップS32で入力された予測環境情報とに基づいて予測ロスを算出し、パラメータ修正部16に出力する(ステップS33)。そして、パラメータ修正部16は、ロス算出部17が算出したロスおよび予測ロス算出部32が算出した予測ロスの値が減少するように、重み算出/環境予測部31に内在するパラメータを修正する(ステップS17)。物体検知装置30は、上記のステップS11~S17及びS31~33を所定の条件の間だけ繰返し、処理を終了する。
(推論のための機能構成)
次に、第3実施形態における、推論のための物体検知装置の構成について説明する。図12は、第3実施形態における、推論のための物体検知装置30xの機能構成を示すブロック図である。第3実施形態の推論のための物体検知装置20xは、図6に示す第1実施形態の推論のための物体検知装置10xにおける重み算出部12の代わりに、重み算出部35を有する。これ以外の点では、第3実施形態の推論のための物体検知装置30xは、第1実施形態の推論のための物体検知装置10xと同一である。
推論時において、第3実施形態の物体検知装置30xは、基本的に図7に示す第1実施形態の学習処理と同様の処理を実行する。但し、第3実施形態では、重み算出部35は、上述の学習のための物体検知装置30により撮影環境情報を用いて学習した内部パラメータを用いて第1の物体検知部13及び第2の物体検知部14に対する重みを算出し、積和部15に入力する。この点以外では、第3実施形態の物体検知装置30xは、第1実施形態の物体検知装置10xと同様に動作する。よって、第3実施形態の物体検知装置30xは、第1実施形態の物体検知装置10xと同様に、図7に示すフローチャートに従って推論処理を行う。但し、ステップS24において、重み算出部35は、撮影環境情報を用いて学習した内部パラメータを用いて重みを算出する。
(変形例)
上述した第1実施形態における変形例(1)~(5)は、第3実施形態においても適用することができる。
[第4実施形態]
次に、本発明の第4実施形態について説明する。第4実施形態は、重み算出部により算出された重みを再配分するものである。
(機能構成)
図13は、第4実施形態による、学習のための物体検知装置40の機能構成を示すブロック図である。第4実施形態による学習のための物体検知装置は、図2に示す物体検知装置10の構成に加え、重み再配分部41を備える。また、図2に示す第1の物体検知部13及び第2の物体検知部14に代えて、第1~第3のの物体検知部42~44を備える。
重み再配分部41は、重み算出部12が算出した重みのうち、予め定めた物体検知部に対して得られた重みを予め定めた条件に基づいて「0」に変更すると共に、その予め定めた物体検知部以外の物体検知部に対する重みを総和が「1」となるように正規化する。なお、重み再配分部41は、上記の再配分を行わなかった場合は、重み算出部12が算出した重みをそのまま出力する。積和部15は、再配分がなされた場合は、再配分された重みで第1~第3の物体検知部42~44が出力するスコアをアンカー毎に融合する。
ここで、「予め定めた物体検知部」とは、重み算出部12を学習する際に用いる画像データ、もしくはその一部のデータを用いて学習し構築した物体検知部である。また、「予め定めた条件」については、例えば、画像データが1枚1枚入力されるごとに予め定めた確率に基づいて再配分を実行してもよいし、事前に何枚目の入力画像に対して再配分を実行するかをテーブル化しておき、該当する画像データに対する学習処理を行う場合にのみ再配分を実行するのでもよい。
次に、重みの具体的な再配分方法について説明する。いま、第1~第3の物体検知部42~44が出力するスコアをSC(k=1,2,3)とし、重み算出部12が出力する第1~第3の物体検知部42~44に対する重みをw(k=1,2,3)とする。また、第3の物体検知部44(k=3)は、重み算出部12を学習する際に用いる画像データと同一のデータを用いて学習し、構築した物体検知部であるとする。
重み再配分部41は、例えば確率50%で重みの再配分を行う場合、画像データが1枚入力されるごとに「0」から「1」までの一様乱数を発生させ、その値が「0.5」未満の場合は以下の計算を行い、再配分された重みw’(k=1,2,3)を積和部15で用いる重み値とする。
’= w*0
’= w/Σw (k=1,2)
一方、乱数が0.5以上の場合、重み再配分部41は再配分を行わず、重みwをそのまま積和部15で用いる重み値とする。
’= w (k=1,2,3)
なお、乱数を都度発生させずに、あらかじめ乱数のテーブルを作成しておき、それを順番に参照して重み再配分の実行/不実行を決定するのでもよい。このようにすれば、乱数発生に要する演算時間を削減することができる。
(重み再配分の効果)
次に、重み再配分部41の効果について簡単に説明する。例えば、不審人物の出現を見張る複数の映像監視現場向けにそれぞれ構築された不審人物検知部(物体検知部に相当)があり、それらの物体検知部を用いて、新たな現場向けに同様の不審人物を見張る物体検知部を構成するケースを考える。複数の映像監視現場向けにそれぞれ構築された不審人物検知部は、上述の第1の物体検知部42及び第2の物体検知部43に相当する。このとき、新たな映像監視現場で収集した画像データが学習データとなる。そして、このデータを用いて一般的な機械学習アルゴリズムで学習した物体検知部を、新たに物体検知部の1つとして追加して用いる構成が考えられる。これが上述の第3の物体検知部44に相当する。
ここで、物体検知部の学習に上記の新たな映像監視現場で収集したデータを用いた場合、新たな映像監視現場で収集したデータを学習した物体検知部44は常に完璧な認識をするため、重み算出部12は物体検知部44に最大の重みを与える学習を行う。しかし、これでは複数の物体検知部の出力を融合することによる検知精度の改善効果が期待できなくなってしまう。好ましいのは、の物体検知部44に100%依存せずに、他の物体検知部42、43からも有用な特性がひきだせるよう、他の物体検知部42、43に対して一定程度の重みが与えられることである。これを実現するため、重み再配分部41は、確率的に物体検知部44の出力を0倍して物体検知部44に頼れない状態を作り、他の物体検知部42、43の出力を融合して望ましい出力が得られるように学習を行う。これにより、物体検知部44以外の物体検知部42、43にも0以外の重みが与えられるようになり、重み再配分部41が物体検知部44の出力を0倍する頻度をコントロールすることで、その程度を調整することができる。その結果、物体検知部を複数統合することによる精度向上効果を享受しやすくする効果が得られる。
以下、本技術を道路監視カメラ映像からの車両検知課題に適用した場合の効果の一例を示す。監視カメラ向けにそれぞれ独立に構築した5つの車両検知部(「車両検知部1~5」とする。)をベースに、新規監視カメラ向けに当該新規監視カメラ映像を用いて車両検知部を学習し、構築した場合の車両検知性能AP(Average Precision)は「91.6」であった。また、当該新規監視カメラ映像のみを用いて通常の学習手法により構築した車両検知部(「車両検知部6」とする。)の車両検知性能APは「90.63」であった。
このとき、車両検知部6に対する重みを、各入力画像に対して、「0~1」の範囲で「0.1」刻みに確率的に「0」に変更するようにして新規監視カメラ向け車両検知部を構築した場合の車両検知性能APを図14に示す。この場合は確率「0.4」の割合で重みを変更した場合に最も新規監視カメラ向け車両検知部の車両検知性能APが高くなり、「94.26」となった。なお、確率「0」の割合で重みを変更した場合の性能は車両検知部6の性能に等しく、確率「1」の割合で重みを変更した場合の性能は車両検知部1~5を用いた場合の性能に等しいことになる。このように、重み再配分により、構築される物体検知部の性能を大幅に向上することができる。
(学習処理)
次に、学習のための物体検知装置40の動作について説明する。図15は、物体検知装置40による学習処理のフローチャートである。この処理は、図1に示すプロセッサ3が予め用意されたプログラムを実行することにより実現される。
まず、画像入力部11に学習用の画像データが入力される(ステップS41)。第1の物体検知部42は、画像データを用いて物体検知を行い、画像中の認識対象物体のスコア情報と座標情報をアンカー毎かつ認識対象物体毎に出力する(ステップS42)。同様に、第2の物体検知部43は、画像データを用いて物体検知を行い、画像中の認識対象物体のスコア情報と座標情報をアンカー毎かつ認識対象物体毎に出力する(ステップS43)。同様に、第3の物体検知部44は、画像データを用いて物体検知を行い、画像中の認識対象物体のスコア情報と座標情報をアンカー毎かつ認識対象物体毎に出力する(ステップS44)。なお、第3の物体検知部44は、物体検知装置40の学習データと等しい学習データを用いて構築されているものとする。
次に、重み算出部12は、画像データを読み込み、第1~第3の物体検知部42~44の出力それぞれに対する重みを算出する(ステップS45)。重み再配分部41は、予め定めた確率に基づき、第1~第3の物体検知部42~44の出力それぞれに対する重みを修正する(ステップS46)。
次に、積和部15は、第1の物体検知部42が出力した認識対象物体のスコア情報と座標情報、並びに、第2の物体検知部43が出力した認識対象物体のスコア情報と座標情報に、並びに、第3の物体検知部44が出力した認識対象物体のスコア情報と座標情報に、重みを掛け合わせて加算し、それらの平均値を出力する(ステップS47)。ここでの重みは、重み再配分部41が重みを再配分した場合は再配分後の重みを採用し、重み再配分部41が重みを変更しなかった場合は重み算出部12が出力した重みを使用する。
次に、ロス算出部17は、得られた平均値と正解ラベルとの差を照合し、ロスを算出する(ステップS48)。そして、パラメータ修正部16は、ロスの値が減少するように、重み算出部12に内在する重み算出パラメータを修正する(ステップS49)。
物体検知装置40は、上記のステップS41~S49を所定の条件の間だけ繰返し、処理を終了する。なお、「所定の条件」とは、繰返しの回数やロスの値の変化度合いなどに関する条件であり、多くのディープラーニングの学習手順として採用されている方法のいずれかを使用することができる。
以上のように、第4実施形態の物体検知装置40によれば、物体検知装置の学習データを包含するデータを学習した物体検知部が当該物体検知装置40による融合対象に含まれる場合でも、良好に物体検知部を学習することができる。なぜならば、予め定めた確率で、物体検知装置の学習データを包含するデータを学習した物体検知部に対する重みを0に変更することで、他の物体検知部を利用する重みが得られるようになるからである。
上記の実施形態では3つの物体検知部の例について示したが、物体検知部は4つ以上であっても全く同じように処理することができる。
なお、重み再配分部41は学習時のときにのみ利用され、推論のための機能構成は、重み再配分部41を含まない場合の構成と全く同じでよい。
また、深層学習の既知の技術として、層の中のノードに対する重みのうちのいくつかを無効(「0」)にして学習を行う操作を、当該無効にするノードをランダムに変更しながら繰り返す「ドロップアウト(dropout)」と呼ばれる手法が知られている。ドロップアウトは、ニューラルネットワークの過学習を防ぐことを目的として、一定の確率でランダムにニューロンを無視して、モデルの自由度を低減して学習を進める技術である。これに対し、本実施形態の重み再配分部における重みの変更は、一部の物体検知部と重み算出部の学習データが同一であるか、もしくは一部の物体検知部の学習データに重み算出部の学習データが包含される関係にあった場合に、重み算出部がその一部の物体検知部に100%依存する重みを学習しないようにするための仕組みであり、特定の物体検知部に対する重みのみを「0」に変更するものである。ゆえに、本実施形態の手法は、ドロップアウトとは目的・適用方法・効果とも全く異なる。
[第5実施形態]
次に、本発明の第5実施形態について説明する。第5実施形態は、第4実施形態の手法により重みを再配分つつ学習して得た大規模モデルを用いて、ターゲットモデルを学習するものである。
(学習のための機能構成)
図16は、学習のための物体検知装置50の機能構成を示すブロック図である。物体検知装置50は、まず複数の物体検知部を含む大規模モデルを学習するステップ(以下、「大規模モデル学習ステップ」と呼ぶ。)を実行し、次に学習済みの大規模モデルを用いてターゲットモデルを学習するステップ(以下、「ターゲットモデル学習ステップ」と呼ぶ。)を実行する。
図示のように、物体検知装置50は、大別して、大規模モデル部50aと、ターゲットモデル部50bとを備える。大規模モデル部50aは、第4実施形態の物体検知装置40と同様の構成を有する。即ち、大規模モデル部50aは、重み算出部12が算出した重みを、重み再配分部41が再配分する構成を備える。これにより、大規模モデル部50aは、3つの物体検知部42~44の出力を最適に積和し、総合的に判定を行うことができる大規模モデルを構築することができる。なお、大規模モデル部50aの構成及び動作は第4実施形態の物体検知装置40と同様であるので、ここでは説明を省略する。
一方、ターゲットモデル部50bは、ターゲットモデル物体検知部51と、ロス算出部52と、パラメータ修正部53とを備える。ターゲットモデル物体検知部51は、新規に構築されるターゲットモデルの物体検知部である。ターゲットモデル物体検知部51は、第1~第3の物体検知部42~44と同一の、物体検知用のニューラルネットワークに類似した構成を有する。ターゲットモデル物体検知部51は、画像入力部11に入力された学習用の画像データに基づいて、認識対象物体のスコア情報および座標情報をロス算出部52に出力する。
ロス算出部52は、ターゲットモデル物体検知部51が出力したスコア情報および座標情報を、ロス算出部17と同様に、正解ラベル記憶部18に記憶されている正解ラベルと照合して識別ロスおよび回帰ロスを算出する。さらに、ロス算出部52は、ターゲットモデル物体検知部51が出力したスコア情報および座標情報を、積和部15が出力するスコア情報および座標情報と照合して識別ロスおよび回帰ロスを算出する。積和部15が出力するスコア情報および座標情報は、大規模モデルによるスコア情報および座標情報に相当する。そして、ロス算出部52は、算出したロスをパラメータ修正部53に供給する。
なお、学習用の画像データは、正解ラベルを有しない画像データ(「ラベルなし画像データ」と呼ぶ。)を含んでいてもよい。ラベルなし画像データについては、ロス算出部52は、ターゲットモデル物体検知部51が出力したスコア情報および座標情報を、積和部15が出力するスコア情報および座標情報と照合して生成した識別ロスおよび回帰ロスのみをパラメータ修正部53に出力すればよい。以下、ロス算出部52が算出するロスを「ターゲットモデルロス」とも呼ぶ。
パラメータ修正部53は、ロス算出部52が算出したロスを減少させるように、ターゲットモデル物体検知部51に内在するネットワークのパラメータを修正する。パラメータ修正部53は、パラメータの修正量を通常の誤差逆伝搬法により求めることができる。
(学習処理)
次に、学習のための物体検知装置50の動作について説明する。図17は、物体検知装置50による学習処理のフローチャートである。この処理は、図1に示すプロセッサ3が予め用意されたプログラムを実行することにより実現される。図17において、ステップS41~S49は大規模モデル学習ステップに相当し、ステップS51~S56はターゲットモデル学習ステップに相当する。なお、大規模モデル学習ステップの実行中には、ターゲットモデル物体検知部51、ロス算出部52およびパラメータ修正部53は動作しない。ここで、大規模モデル学習ステップS41~S49は、図15に示す第4実施形態の物体検知装置40による学習処理のステップS41~S49と同様であるので、ここでは説明を省略する。
物体検知装置50は、ステップS41~S49を所定の条件の間だけ繰返し、学習を終了する。なお、「所定の条件」とは、繰返しの回数やロスの値の変化度合いなどに関する条件であり、多くのディープラーニングの学習手順として採用されている方法のいずれかを使用することができる。こうして、大規模モデルが構築される。
大規模モデル学習ステップが終了すると(ステップS50:Yes)、次に、ターゲットモデル学習ステップが行われる。ターゲットモデル学習ステップでは、重み算出部12の内部パラメータは、大規模モデル学習ステップで学習された値に固定される。なお、第1~第3の物体検知部42~44の内部パラメータも事前に学習済みの値に固定されている。
画像入力部11に学習用の画像データが入力されると(ステップS51)、大規模モデル部50aは、入力された画像データを用いて物体検知を行い、画像中の認識対象物体のスコア情報と座標情報をアンカー毎かつ認識対象物体毎にロス算出部52に出力する(ステップS52)。また、ターゲットモデル物体検知部51は、入力された画像データを用いて物体検知を行い、画像中の認識対象物体のスコア情報と座標情報をアンカー毎かつ認識対象物体毎にロス算出部52に出力する(ステップ531)。次に、ロス算出部52は、ターゲットモデル物体検知部51が出力したスコア情報および座標情報を、正解ラベル記憶部28に記憶されている正解ラベル並びに大規模モデル部50aが出力したスコア情報および座標情報と比較してターゲットモデルロスを算出する(ステップS54)。そして、パラメータ修正部53は、ターゲットモデルロスの値が減少するように、ターゲットモデル物体検知部51に内在するパラメータを修正する(ステップS55)。物体検知装置50は、上記のステップS51~S55を所定の条件の間だけ繰返し、処理を終了する。
以上のように、第5実施形態の物体検知装置50によれば、まず、複数の学習済みの物体検知部を用いて大規模モデルを学習し、次に、その大規模モデルを用いてターゲットモデルを学習する。よって、新たな現場の環境に適した小規模で高精度なターゲットモデルを構築することが可能となる。
(推論のための機能構成)
次に、推論のための物体検知装置の機能構成について説明する。図18は、推論のための物体検知装置50xの機能構成を示すブロック図である。なお、推論のための物体検知装置50xも、基本的に図1に示すハードウェア構成で実現される。
図18に示すように、推論のための物体検知装置50xは、画像入力部11と、ターゲットモデル物体検知部51と、極大値選択部55と、を備える。ここで、画像入力部11およびターゲットモデル物体検知部51は、図16に示す学習のための物体検知装置50と同様である。なお、ターゲットモデル物体検知部51は、上記のターゲットモデル学習ステップにより学習済みのものを使用する。
推論のための画像データが画像入力部11に入力されると、ターゲットモデル物体検知部51は、学習済みの内部パラメータを用いて物体検知を行い、認識対象物体のスコア情報と座標情報をアンカー毎かつ認識対象物体毎に出力する。極大値選択部55は、ターゲットモデル物体検知部51が出力するNa×k次元のスコア情報にNMS処理を施して認識対象物体の種類を同定し、そのアンカーに対応する座標情報からその位置を特定して物体検知結果を出力する。物体検知結果は、認識対象物体毎に、その種類と位置とを含む。これにより、大規模モデルを利用して学習したターゲットモデル物体検知部51を使用した物体検知結果を得ることができる。
[第6実施形態]
次に、本発明の第6実施形態について説明する。図19は、第6実施形態による、学習のための物体検知装置60の機能構成を示すブロック図である。なお、物体検知装置60は、図1に示すハードウェア構成により実現される。
学習のための物体検知装置60は、複数の物体検知部61と、重み算出部62と、重み再配分部63と、融合部64と、ロス算出部65と、パラメータ修正部66とを備える。学習用の画像データとして、正解ラベルを有する画像データが用意される。複数の物体検知部61は、入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力する。重み算出部62は、画像データに基づいて、重み算出パラメータを用いて、複数の物体検知部61が出力するスコアを融合する際の重みを算出する。重み再配分部63は、重み算出部62が算出した重みのうち、予め定めた物体検知部61に対して得られた重みを「0」に変更して出力する。融合部64は、重み再配分部63により変更された重みを含む、重み算出部62が算出した重みで、複数の物体検知部61が出力するスコアを部分領域毎に融合する。ロス算出部65は、画像データの正解ラベルと、融合部64が融合したスコアとの差異をロスとして算出する。そして、パラメータ修正部66は、重み算出パラメータを、算出されたロスが減少するように修正する。
[第7実施形態]
次に、本発明の第7実施形態について説明する。図20は、第7実施形態による、学習のための物体検知装置70の機能構成を示すブロック図である。なお、物体検知装置70は、図1に示すハードウェア構成により実現される。
物体検知装置70は、複数の物体検知部71と、重み算出部72と、重み再配分部73と、融合部74と、ターゲットモデルの物体検知部75と、ロス算出部76と、パラメータ修正部77とを備える。複数の物体検知部71は、入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力する。重み算出部72は、画像データに基づいて、複数の物体検知部71が出力するスコアを融合する際の重みを、重み算出パラメータを用いて算出する。重み再配分部73は、重み算出部72が算出した重みのうち、予め定めた物体検知部71に対して得られた重みを「0」に変更して出力する。融合部74は、重み再配分部73により変更された重みを含む、重み算出部72が算出した重みで、複数の物体検知部71が出力するスコアを部分領域毎に融合する。
ターゲットモデルの物体検知部75は、画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力する。ロス算出部76は、ターゲットモデルの物体検知部75の出力と、画像データの正解ラベルおよび融合部74が融合したスコアとの差異を示すロスを算出する。そして、パラメータ修正部77は、そのロスが減少するように、ターゲットモデルの物体検知部75のパラメータを修正する。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力する複数の物体検知部と、
前記画像データに基づいて、前記複数の物体検知部が出力するスコアを融合する際の重みを、重み算
出パラメータを用いて、前記複数の物体検知部の各々について算出する重み算出部と、
前記重み算出部が算出した重みのうち、予め定めた物体検知部に対して得られた重みを0に変更して出力する重み再配分部と、
前記重み再配分部が変更した重みを含む、前記重み算出部が算出した重みで、前記複数の物体検知部が出力するスコアを前記部分領域毎に融合する融合部と、
前記画像データの正解ラベルと、前記融合部が融合したスコアとの差異をロスとして算出するロス算出部と、
前記重み算出パラメータを、前記ロスが減少するように修正するパラメータ修正部と、
を備える物体検知装置。
(付記2)
入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力する複数の物体検知部と、
前記画像データに基づいて、前記複数の物体検知部が出力するスコアを融合する際の重みを、重み算出パラメータを用いて算出する重み算出部と、
前記重み算出部が算出した重みのうち、予め定めた物体検知部に対して得られた重みを0に変更して出力する重み再配分部と、
前記重み再配分部が変更した重みを含む、前記重み算出部が算出した重みで、前記複数の物体検知部が出力するスコアを前記部分領域毎に融合する融合部と、
前記画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力するターゲットモデルの物体検知部と、
前記ターゲットモデルの物体検知部の出力と、前記画像データの正解ラベルおよび前記融合部が融合したスコアとの差異を示すロスを算出するロス算出部と、
前記ロスが減少するように、前記ターゲットモデルの物体検知部のパラメータを修正するパラメータ修正部と、
を備える物体検知装置。
(付記3)
前記重み再配分部は、前記重み算出部が算出した重みのうち、0に変更しなかった他の重みを、その総和が1となるように正規化して出力する付記1又は2に記載の物体検知装置。
(付記4)
前記重み再配分部は、重みの再配分を予め定めた確率で行う付記1乃至3のいずれか一項に記載の物体検知装置。
(付記5)
前記重み再配分部は、前記物体検知装置を学習する際に入力される前記画像データ、又は、その一部の画像データを用いて学習し構築された前記物体検知部に対する重みを0に変更する付記1乃至4のいずれか一項に記載の物体検知装置。
(付記6)
前記重み算出部は、前記画像データの全体に対して1つの重みを算出し、
前記融合部は、前記複数の物体検知部が出力するスコアを、前記1つの重みで融合する付記1乃至5のいずれか一項に記載の物体検知装置。
(付記7)
前記重み算出部は、前記画像データの前記部分領域毎に前記重みを算出し、
前記融合部は、前記複数の物体検知部が出力するスコアを、前記部分領域毎に算出された重みで融合する付記1乃至5のいずれか一項に記載の物体検知装置。
(付記8)
前記重み算出部は、前記物体を示すクラス毎に前記重みを算出し、
前記融合部は、前記複数の物体検知部が出力するスコアを、前記クラス毎に算出された重みで融合する付記1乃至5のいずれか一項に記載の物体検知装置。
(付記9)
前記融合部は、前記複数の物体検知部が出力するスコアに、前記重み算出部が算出したそれぞれの物体検知部についての重みを乗じて加算した後、平均値を求める付記1乃至8のいずれか一項に記載の物体検知装置。
(付記10)
前記複数の物体検知部の各々は、前記物体が存在する矩形領域の座標情報を前記部分領域毎に出力し、
前記融合部は、前記重み算出部が算出した重みで、前記物体が存在する矩形領域の座標情報を融合し、
前記ロス算出部は、前記正解ラベルと前記融合部が融合した座標情報との差異を含むロスを算出する付記1乃至9のいずれか一項に記載の物体検知装置。
(付記11)
前記融合部は、前記複数の物体検知部が出力する前記座標情報に、前記重み算出部が算出したそれぞれの物体検知部についての重みを乗じて加算した後、平均値を求める付記1乃至10のいずれか一項に記載の物体検知装置。
(付記12)
前記重み算出部は、撮影環境予測パラメータを用いて、前記画像データの撮影環境を予測して予測環境情報を出力し、
前記画像データについて予め用意された撮影環境情報と、前記予測環境情報とに基づいて、撮影環境の予測ロスを算出する予測ロス算出部をさらに備え、
前記パラメータ修正部は、前記撮影環境予測パラメータを、前記予測ロスが減少するように修正する付記1乃至11のいずれか一項に記載の物体検知装置。
(付記13)
前記重み算出部は、前記重み算出パラメータを有する第1のネットワークと、前記撮影環境予測パラメータを有する第2のネットワークとを備え、前記第1のネットワークと前記第2のネットワークは一部が共通化されている付記12に記載の物体検知装置。
(付記14)
入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを複数の物体検知部から出力し、
前記画像データに基づいて、前記複数の物体検知部が出力するスコアを融合する際の重みを、重み算出パラメータを用いて、前記複数の物体検知部の各々について算出し、
算出された重みのうち、予め定めた物体検知部に対して得られた重みを0に変更し、
変更された重みを含む、算出された重みで、前記複数の物体検知部が出力するスコアを前記部分領域毎に融合し、
前記画像データの正解ラベルと、融合したスコアとの差異をロスとして算出し、
前記重み算出パラメータを、前記ロスが減少するように修正する、物体検知装置の学習方法。
(付記15)
入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを複数の物体検知部から出力し、
前記画像データに基づいて、前記複数の物体検知部が出力するスコアを融合する際の重みを、重み算出パラメータを用いて算出し、
算出された重みのうち、予め定めた物体検知部に対して得られた重みを0に変更し、
変更された重みを含む、算出された重みで、前記複数の物体検知部が出力するスコアを前記部分領域毎に融合し、
前記画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアをターゲットモデルの物体検知部から出力し、
前記ターゲットモデルの物体検知部の出力と、前記画像データの正解ラベルおよび融合したスコアとの差異を示すロスを算出し、
前記ロスが減少するように、前記ターゲットモデルの物体検知部のパラメータを修正する、物体検知装置の学習方法。
(付記16)
入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを複数の物体検知部から出力し、
前記画像データに基づいて、前記複数の物体検知部が出力するスコアを融合する際の重みを、重み算出パラメータを用いて、前記複数の物体検知部の各々について算出し、
算出された重みのうち、予め定めた物体検知部に対して得られた重みを0に変更し、
変更された重みを含む、算出された重みで、前記複数の物体検知部が出力するスコアを前記部分領域毎に融合し、
前記画像データの正解ラベルと、融合したスコアとの差異をロスとして算出し、
前記重み算出パラメータを、前記ロスが減少するように修正する、物体検知装置の学習処理をコンピュータに実行させるプログラムを記録した記録媒体。
(付記17)
入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを複数の物体検知部から出力し、
前記画像データに基づいて、前記複数の物体検知部が出力するスコアを融合する際の重みを、重み算出パラメータを用いて算出し、
算出された重みのうち、予め定めた物体検知部に対して得られた重みを0に変更し、
変更された重みを含む、算出された重みで、前記複数の物体検知部が出力するスコアを前記部分領域毎に融合し、
前記画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアをターゲットモデルの物体検知部から出力し、
前記ターゲットモデルの物体検知部の出力と、前記画像データの正解ラベルおよび融合したスコアとの差異を示すロスを算出し、
前記ロスが減少するように、前記ターゲットモデルの物体検知部のパラメータを修正する、物体検知装置の学習処理をコンピュータに実行させるプログラムを記録した記録媒体。
以上、実施形態及び実施例を参照して本発明を説明したが、本発明は上記実施形態及び実施例に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
10、10x、20、20x、30、30x、40、50、50x 物体検知装置
11 画像入力部
12、35 重み算出部
13、14、42、43、44 物体検知部
15 積和部
16、53 パラメータ修正部
17、52 ロス算出部
18 正解ラベル記憶部
19 極大値選択部
21 アンカー毎重み算出部
22 アンカー毎パラメータ修正部
31 重み算出/環境予測部
32 予測ロス算出部
41 重み再配分部

Claims (17)

  1. 入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力する複数の物体検知手段と、
    前記画像データに基づいて、前記複数の物体検知手段が出力するスコアを融合する際の重みを、重み算出パラメータを用いて、前記複数の物体検知手段の各々について算出する重み算出手段と、
    前記重み算出手段が算出した重みのうち、予め定めた物体検知手段に対して得られた重みを0に変更して出力する重み再配分手段と、
    前記重み再配分手段が変更した重みを含む、前記重み算出手段が算出した重みで、前記複数の物体検知手段が出力するスコアを前記部分領域毎に融合する融合手段と、
    前記画像データの正解ラベルと、前記融合手段が融合したスコアとの差異をロスとして算出するロス算出手段と、
    前記重み算出パラメータを、前記ロスが減少するように修正するパラメータ修正手段と、
    を備える物体検知装置。
  2. 入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力する複数の物体検知手段と、
    前記画像データに基づいて、前記複数の物体検知手段が出力するスコアを融合する際の重みを、重み算出パラメータを用いて算出する重み算出手段と、
    前記重み算出手段が算出した重みのうち、予め定めた物体検知手段に対して得られた重みを0に変更して出力する重み再配分手段と、
    前記重み再配分手段が変更した重みを含む、前記重み算出手段が算出した重みで、前記複数の物体検知手段が出力するスコアを前記部分領域毎に融合する融合手段と、
    前記画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを出力するターゲットモデルの物体検知手段と、
    前記ターゲットモデルの物体検知手段の出力と、前記画像データの正解ラベルおよび前記融合手段が融合したスコアとの差異を示すロスを算出するロス算出手段と、
    前記ロスが減少するように、前記ターゲットモデルの物体検知手段のパラメータを修正するパラメータ修正手段と、
    を備える物体検知装置。
  3. 前記重み再配分手段は、前記重み算出手段が算出した重みのうち、0に変更しなかった他の重みを、その総和が1となるように正規化して出力する請求項1又は2に記載の物体検知装置。
  4. 前記重み再配分手段は、重みの再配分を予め定めた確率で行う請求項1乃至3のいずれか一項に記載の物体検知装置。
  5. 前記重み再配分手段は、前記物体検知装置を学習する際に入力される前記画像データ、又は、その一部の画像データを用いて学習し構築された前記物体検知手段に対する重みを0に変更する請求項1乃至4のいずれか一項に記載の物体検知装置。
  6. 前記重み算出手段は、前記画像データの全体に対して1つの重みを算出し、
    前記融合手段は、前記複数の物体検知手段が出力するスコアを、前記1つの重みで融合する請求項1乃至5のいずれか一項に記載の物体検知装置。
  7. 前記重み算出手段は、前記画像データの前記部分領域毎に前記重みを算出し、
    前記融合手段は、前記複数の物体検知手段が出力するスコアを、前記部分領域毎に算出された重みで融合する請求項1乃至5のいずれか一項に記載の物体検知装置。
  8. 前記重み算出手段は、前記物体を示すクラス毎に前記重みを算出し、
    前記融合手段は、前記複数の物体検知手段が出力するスコアを、前記クラス毎に算出された重みで融合する請求項1乃至5のいずれか一項に記載の物体検知装置。
  9. 前記融合手段は、前記複数の物体検知手段が出力するスコアに、前記重み算出手段が算出したそれぞれの物体検知手段についての重みを乗じて加算した後、平均値を求める請求項1乃至8のいずれか一項に記載の物体検知装置。
  10. 前記複数の物体検知手段の各々は、前記物体が存在する矩形領域の座標情報を前記部分領域毎に出力し、
    前記融合手段は、前記重み算出手段が算出した重みで、前記物体が存在する矩形領域の座標情報を融合し、
    前記ロス算出手段は、前記正解ラベルと前記融合手段が融合した座標情報との差異を含むロスを算出する請求項1乃至9のいずれか一項に記載の物体検知装置。
  11. 前記融合手段は、前記複数の物体検知手段が出力する前記座標情報に、前記重み算出手段が算出したそれぞれの物体検知手段についての重みを乗じて加算した後、平均値を求める請求項10に記載の物体検知装置。
  12. 前記重み算出手段は、撮影環境予測パラメータを用いて、前記画像データの撮影環境を予測して予測環境情報を出力し、
    前記画像データについて予め用意された撮影環境情報と、前記予測環境情報とに基づいて、撮影環境の予測ロスを算出する予測ロス算出手段をさらに備え、
    前記パラメータ修正手段は、前記撮影環境予測パラメータを、前記予測ロスが減少するように修正する請求項1乃至11のいずれか一項に記載の物体検知装置。
  13. 前記重み算出手段は、前記重み算出パラメータを有する第1のネットワークと、前記撮影環境予測パラメータを有する第2のネットワークとを備え、前記第1のネットワークと前記第2のネットワークは一部が共通化されている請求項12に記載の物体検知装置。
  14. 入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを複数の物体検知手段から出力し、
    前記画像データに基づいて、前記複数の物体検知手段が出力するスコアを融合する際の重みを、重み算出パラメータを用いて、前記複数の物体検知手段の各々について算出し、
    算出された重みのうち、予め定めた物体検知手段に対して得られた重みを0に変更し、
    変更された重みを含む、算出された重みで、前記複数の物体検知手段が出力するスコアを前記部分領域毎に融合し、
    前記画像データの正解ラベルと、融合したスコアとの差異をロスとして算出し、
    前記重み算出パラメータを、前記ロスが減少するように修正する、物体検知装置の学習方法。
  15. 入力された画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアを複数の物体検知手段から出力し、
    前記画像データに基づいて、前記複数の物体検知手段が出力するスコアを融合する際の重みを、重み算出パラメータを用いて算出し、
    算出された重みのうち、予め定めた物体検知手段に対して得られた重みを0に変更し、
    変更された重みを含む、算出された重みで、前記複数の物体検知手段が出力するスコアを前記部分領域毎に融合し、
    前記画像データに対して設定される部分領域毎に、予め定めた物体が存在する確からしさを示すスコアをターゲットモデルの物体検知手段から出力し、
    前記ターゲットモデルの物体検知手段の出力と、前記画像データの正解ラベルおよび融合したスコアとの差異を示すロスを算出し、
    前記ロスが減少するように、前記ターゲットモデルの物体検知手段のパラメータを修正する、物体検知装置の学習方法。
  16. 請求項14に記載の物体検知装置の学習方法をコンピュータに実行させるプログラム。
  17. 請求項15に記載の物体検知装置の学習方法をコンピュータに実行させるプログラム。
JP2021554532A 2019-11-08 2019-11-08 物体検知装置、学習方法、及び、プログラム Active JP7235134B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/043830 WO2021090473A1 (ja) 2019-11-08 2019-11-08 物体検知装置、学習方法、及び、記録媒体

Publications (3)

Publication Number Publication Date
JPWO2021090473A1 JPWO2021090473A1 (ja) 2021-05-14
JPWO2021090473A5 JPWO2021090473A5 (ja) 2022-06-24
JP7235134B2 true JP7235134B2 (ja) 2023-03-08

Family

ID=75849682

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021554532A Active JP7235134B2 (ja) 2019-11-08 2019-11-08 物体検知装置、学習方法、及び、プログラム

Country Status (3)

Country Link
US (1) US12112518B2 (ja)
JP (1) JP7235134B2 (ja)
WO (1) WO2021090473A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022064610A1 (ja) * 2020-09-24 2022-03-31 日本電気株式会社 物体検知装置、学習済みモデル生成方法、および、記録媒体
CN113723322B (zh) * 2021-09-02 2024-11-29 南京理工大学 一种基于单阶段无锚点框架的行人检测方法及系统
US12579806B2 (en) * 2022-11-01 2026-03-17 CareAR Holdings LLC Stable object detection and creation of anchors in augmented reality scenes
JPWO2024247630A1 (ja) * 2023-05-30 2024-12-05

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019152964A (ja) 2018-03-01 2019-09-12 コニカミノルタ株式会社 学習方法および学習装置
JP2019175140A (ja) 2018-03-28 2019-10-10 株式会社パスコ 建築物抽出システム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5251268A (en) * 1991-08-09 1993-10-05 Electric Power Research Institute, Inc. Integrated method and apparatus for character and symbol recognition
JPH07160881A (ja) 1993-12-07 1995-06-23 Fujitsu Ltd 環境認識装置
JPH08212184A (ja) * 1995-02-01 1996-08-20 Fujitsu Ltd 認識装置および欠損値推定/学習方法
US6104833A (en) 1996-01-09 2000-08-15 Fujitsu Limited Pattern recognizing apparatus and method
JP2007058882A (ja) 1996-09-27 2007-03-08 Fujitsu Ltd パターン認識装置
US7961937B2 (en) * 2005-10-26 2011-06-14 Hewlett-Packard Development Company, L.P. Pre-normalization data classification
JP2011223287A (ja) * 2010-04-09 2011-11-04 Sony Corp 情報処理装置、情報処理方法、及び、プログラム
JP2011257805A (ja) * 2010-06-04 2011-12-22 Sony Corp 情報処理装置および方法、並びにプログラム
IN2014DN03386A (ja) * 2011-10-19 2015-06-05 Univ Sydney
CN109284749A (zh) * 2017-07-19 2019-01-29 微软技术许可有限责任公司 精细化图像识别
JP7149692B2 (ja) * 2017-08-09 2022-10-07 キヤノン株式会社 画像処理装置、画像処理方法
JP6919410B2 (ja) 2017-08-21 2021-08-18 株式会社Ihi 物体検出装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019152964A (ja) 2018-03-01 2019-09-12 コニカミノルタ株式会社 学習方法および学習装置
JP2019175140A (ja) 2018-03-28 2019-10-10 株式会社パスコ 建築物抽出システム

Also Published As

Publication number Publication date
JPWO2021090473A1 (ja) 2021-05-14
US20240104891A1 (en) 2024-03-28
WO2021090473A1 (ja) 2021-05-14
US12112518B2 (en) 2024-10-08

Similar Documents

Publication Publication Date Title
JP7235134B2 (ja) 物体検知装置、学習方法、及び、プログラム
CN119091234B (zh) 基于数据分析的智能决策与响应方法及系统
WO2023082882A1 (zh) 一种基于姿态估计的行人摔倒动作识别方法及设备
JP2020061066A (ja) 学習プログラム、検出プログラム、学習装置、検出装置、学習方法および検出方法
CN110930454A (zh) 一种基于边界框外关键点定位的六自由度位姿估计算法
JP7164049B2 (ja) 物体検知装置、学習方法、及び、プログラム
WO2021144943A1 (ja) 制御方法、情報処理装置および制御プログラム
US12002254B2 (en) Method and apparatus of training object detection network and object detection method and apparatus
JP7444279B2 (ja) 物体追跡装置、物体追跡方法、及び、プログラム
CN117315499A (zh) 一种卫星遥感图像目标检测方法及系统
WO2021095176A1 (ja) 学習装置、学習方法、及び、記録媒体
JP7164048B2 (ja) 物体検知装置、学習方法、及び、プログラム
CN119863665B (zh) 基于深度学习的自适应光照强度下矿石快速分拣方法
JP7055259B2 (ja) ラベリング装置及び学習装置
CN118762075B (zh) 基于6d旋转表示的端到端多人头部姿态估计方法及装置
WO2020065908A1 (ja) パターン認識装置、パターン認識方法およびパターン認識プログラム
JP7380902B2 (ja) 物体検知装置、学習済みモデル生成方法、及び、プログラム
CN111783716A (zh) 基于姿态信息的行人检测方法、系统、装置
CN118247810A (zh) 一种基于TensorFlow.js的人体姿态识别方法及识别系统
US12243299B2 (en) Object tracking apparatus, object tracking method and recording medium
KR20220069336A (ko) 객체 검출 방법 및 장치
CN115222772A (zh) 一种基于多核学习的聚合相关滤波目标跟踪方法
CN118071793B (zh) 一种基于局部剪裁的在线目标匹配跟踪方法
CN119964247A (zh) 一种多层次特征增强与协同校准的多人姿态估计方法
JP5241687B2 (ja) 物体検出装置及び物体検出プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220418

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230206

R151 Written notification of patent or utility model registration

Ref document number: 7235134

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151