Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7438365B2 - 学習活用システム、活用装置、学習装置、プログラム及び学習活用方法 - Google Patents
[go: Go Back, main page]

JP7438365B2 - 学習活用システム、活用装置、学習装置、プログラム及び学習活用方法 - Google Patents

学習活用システム、活用装置、学習装置、プログラム及び学習活用方法 Download PDF

Info

Publication number
JP7438365B2
JP7438365B2 JP2022539827A JP2022539827A JP7438365B2 JP 7438365 B2 JP7438365 B2 JP 7438365B2 JP 2022539827 A JP2022539827 A JP 2022539827A JP 2022539827 A JP2022539827 A JP 2022539827A JP 7438365 B2 JP7438365 B2 JP 7438365B2
Authority
JP
Japan
Prior art keywords
learning
network
inference
utilization
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022539827A
Other languages
English (en)
Other versions
JPWO2022024211A1 (ja
JPWO2022024211A5 (ja
Inventor
晋 飯野
美里 内藤
清泰 丸山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2022024211A1 publication Critical patent/JPWO2022024211A1/ja
Publication of JPWO2022024211A5 publication Critical patent/JPWO2022024211A5/ja
Application granted granted Critical
Publication of JP7438365B2 publication Critical patent/JP7438365B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0464Convolutional networks [CNN, ConvNet]
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/09Supervised learning

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本開示は、学習活用システム、活用装置、学習装置、プログラム及び学習活用方法に関する。
近年の画像認識技術は、多層ニューラルネットワーク(DNN:Deep Neural Network)により高精度化が著しく、監視カメラ等の遠隔装置にこれを応用することで高度なセキュリティシステム等の実現が期待されている。
一方、DNNでは、無作為に収集したデータで十分な精度が得られるまで学習を行うためには大量の学習データを用いる必要があり、学習プロセスにおいても非常に時間がかかる。また、DNNは、広く収集したデータを用いて学習した画像認識装置が特定の設置環境で期待された認識精度を発揮しない場合がある。
これらの問題の対策として、特許文献1には、収集されたデータに対して、分類確信度を基準に選別を行い、確信度の低い学習データのみを用いてニューラルネットワークを再学習させることで、学習プロセスにかかる時間及び必要なメモリサイズを削減し、学習プロセスを効率化する技術が公開されている。
国際公開第2017/145960号公報
しかしながら、特許文献1に記載されている技術は、一つの画像認識装置に対して、その画像認識装置の出力する確信度をもとに入力された学習データを選別し、認識精度を向上させることが可能だが、正解が未知のデータを利用することができない。
そこで、本開示の一又は複数の態様は、正解が未知のデータを用いて、認識精度を向上できるようにすることを目的とする。
本開示の一態様に係る学習活用システムは、活用装置と、学習装置とを備える学習活用システムであって、前記活用装置は、推論に使用するニューラルネットワークである活用側推論ネットワークを使用して、対象データから推論を行った結果の確からしさの度合いが、予め定められた基準よりも低いか否かを判断する判断部を備え、前記学習装置は、前記度合いが前記予め定められた基準よりも低い場合に、前記活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して、前記対象データから推論を行うことで、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを生成する学習側推論部と、前記学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習することで、前記学習側推論ネットワークの重み係数を更新し、前記更新された重み係数を示す更新重み係数情報を生成する学習部と、を備え、前記活用装置は、前記更新重み係数情報で示される前記更新された重み係数を、前記活用側推論ネットワークに適用する適用部をさらに備えることを特徴とする。
本開示の一態様に係る活用装置は、論に使用するニューラルネットワークである活用側推論ネットワークを使用して、対象データから推論を行った結果の確からしさの度合いが、予め定められた基準よりも低いか否かを判断する判断部と、前記度合いが前記予め定められた基準よりも低い場合に、前記活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して前記対象データから推論を行うことで生成され、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習して、前記学習側推論ネットワークの重み係数を更新することで生成され、前記更新された重み係数を示す更新重み係数情報で示される前記更新された重み係数を、前記活用側推論ネットワークに適用する適用部と、を備えることを特徴とする。
本開示の一態様に係る学習装置は、論に使用するニューラルネットワークである活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して、対象データから推論を行うことで、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを生成する学習側推論部と、前記学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習することで、前記学習側推論ネットワークの重み係数を更新し、前記更新された重み係数を示す更新重み係数情報を生成する学習部と、を備えることを特徴とする。
本開示の一態様に係るプログラムは、コンピュータを、推論に使用するニューラルネットワークである活用側推論ネットワークを使用して、対象データから推論を行った結果の確からしさの度合いが、予め定められた基準よりも低いか否かを判断する判断部、及び、前記度合いが前記予め定められた基準よりも低い場合に、前記活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して前記対象データから推論を行うことで生成され、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習して、前記学習側推論ネットワークの重み係数を更新することで生成され、前記更新された重み係数を示す更新重み係数情報で示される前記更新された重み係数を、前記活用側推論ネットワークに適用する適用部、として機能させることを特徴とする。
本開示の一態様に係るプログラムは、コンピュータを、推論に使用するニューラルネットワークである活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して、対象データから推論を行うことで、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを生成する学習側推論部、及び、前記学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習することで、前記学習側推論ネットワークの重み係数を更新し、前記更新された重み係数を示す更新重み係数情報を生成する学習部、として機能させることを特徴とする。
本開示の一態様に係る学習活用方法は、コンピュータが、推論に使用するニューラルネットワークである活用側推論ネットワークを使用して、対象データから推論を行い、前記推論の結果の確からしさの度合いが、予め定められた基準よりも低いか否かを判断し、前記度合いが前記予め定められた基準よりも低い場合に、前記活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して、前記対象データから推論を行うことで、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを生成し、前記学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習することで、前記学習側推論ネットワークの重み係数を更新し、前記更新された重み係数を、前記活用側推論ネットワークに適用することを特徴とする。
本開示の一又は複数の態様によれば、正解が未知のデータを用いて、認識精度を向上することができる。
実施の形態1に係る学習活用システムの構成を概略的に示すブロック図である。 学習装置に対応するコンピュータの構成を概略的に示すブロック図である。 (A)及び(B)は、推論結果の確信度を説明するためのグラフである。 物体存在確率分布を示すグラフである。 活用装置に対応するコンピュータの構成を概略的に示すブロック図である。 実施の形態1に係る学習活用システムの初期処理を示すフローチャートである。 実施の形態1における活用装置での推論及びデータ選別処理を示すフローチャートである。 実施の形態1における学習装置での第二ネットワークの再学習処理を示すフローチャートである。 実施の形態1における活用装置側での更新重み係数の適用処理を示すフローチャートである。 実施の形態2に係る学習活用システムの構成を概略的に示すブロック図である。 実施の形態2における活用装置での推論及びデータ選別処理を示すフローチャートである。 実施の形態2における学習装置での第二ネットワークの再学習処理を示すフローチャートである。
実施の形態1.
図1は、実施の形態1に係る学習活用システム100の構成を概略的に示すブロック図である。
実施の形態1では、学習活用システム100が画像認識を行う画像認識システムとして使用される例を説明する。
学習活用システム100は、学習装置110と、活用装置130とを備える。
学習装置110は、活用装置130からデータを取得し、教師モデルである第一ネットワークを用いて、第二ネットワークの学習を実施する中央装置である。
実施の形態1では、簡単に説明を行うため学習活用システム100内に一つの学習装置110が設置されているが、複数の学習装置110が設置されていてもよい。
また、学習装置110は、通常、学習活用システム100の設置目的であるアプリケーションを実行し、活用装置130から取得した推論結果を管理統合してユーザに提示する装置である。しかしながら、このような機能は、実施の形態1の範囲から逸脱するため、説明を省略する。なお、学習活用システム100の設置目的であるアプリケーションを以下では通常アプリと称する。
活用装置130は、学習活用システム100の設置目的上必要とされる場所に設置される遠隔装置である。実施の形態1では、例えば、活用装置130は、その設置場所にて画像認識を行う装置である。具体例としては、活用装置130は、画像認識装置、言い換えると、推論部を内蔵した監視カメラである。
活用装置130は、通常アプリの実行のため推論結果を学習装置110へ送信するとともに、推論結果から算出される確信度が予め定められた範囲内に含まれている場合には、推論の対象である元の対象データを、推論結果を示す推論結果データとともに学習装置110へ送信する。確信度の定義については後述する。
以下では、活用装置130が画像認識装置であるものとして、説明を行うが、活用装置130は、このような例に限定されるものではない。
学習装置110は、学習側受信部111と、データ処理部112と、学習側記憶部113と、学習側推論部114と、学習部115と、学習側送信部116とを備える。
学習側受信部111は、活用装置130から送信されたデータを受信する受信部である。受信されたデータは、データ処理部112に与えられる。
データ処理部112は、学習側受信部111から与えられたデータに対象データとしての画像データが含まれている場合、受信された画像データを学習側推論部114に与える。
また、データ処理部112は、学習側受信部111から与えられたデータに含まれている推論結果データを図示しない通常アプリに与える。通常アプリでの処理については、説明を省略する。
学習側記憶部113は、学習済の第一ネットワーク及び学習済の学習側第二ネットワークを記憶する記憶部である。ここで、第一ネットワークを学習用ネットワークともいい、学習側第二ネットワークを学習側推論ネットワークともいう。
第一ネットワークは、学習側第二ネットワークの教師モデルとして機能する。第一ネットワークは、通常アプリに要求される仕様に応じて設計され、既知の学習データを用いて事前に学習されたニューラルネットワークである。第一ネットワークは、通常、学習側第二ネットワークよりも十分に高い汎化性能を持つことが要求される。
学習側第二ネットワークは、第一ネットワークに対する生徒モデルであり、少なくとも入力層と、出力層との形が第一ネットワークと一致するニューラルネットワークである。通常、学習側第二ネットワークにおける入力層と出力層以外の中間層の数及び重み係数の数は、教師モデルである第一ネットワークより少なく設計される。但し、このような設計は、必須ではない。ここで、学習側第二ネットワークは、活用装置130で使用される活用側第二ネットワークと同じネットワーク構成を有するニューラルネットワークである。
学習側推論部114は、データ処理部112から与えられた画像データから、学習済みの第一ネットワークを用いて推論を実施し、その推論結果と元の画像データとを対応付けた学習データを生成する推論部又は学習データ生成部である。学習データは、推論対象の画像データと推論結果とのペアであり、学習側第二ネットワークの学習に使用される。なお、ここでの推論結果は、第一ネットワークの最終的な出力のみならず、中間出力であってもよく、中間出力を含んでいてもよい。
第一ネットワーク及び学習側第二ネットワークの最終的な出力及び中間出力は、推論の内容によって異なる。実施の形態1では、推論内容が画像分類である場合と、物体検出である場合の二通りの場合について定義する。なお、以下で用語として「確率」を用いる場合には、その値の範囲は0%から100%の値をとるものとするが、0から1の範囲の値であってもよい。
第一ネットワーク及び学習側第二ネットワークで行う推論が画像分類である場合には、通常アプリから要求される出力は、画像データで示される画像の被写体が属するクラスを示す一つの識別符号である。
一方、一般的には画像分類問題では、ニューラルネットワークは、複数の既知のクラス毎に、推論対象の画像が各クラスに属する確率を分布として算出し、その中で最大の確率を持つクラスの識別符号を選定して出力とする。
従って、画像分類問題においては、この確率最大となるクラスの識別符号を最終的な出力と定義し、中間出力は、クラス毎に算出される確率の分布として定義される。
また、第一ネットワーク及び学習側第二ネットワークで行う推論が物体検出である場合には、通常アプリから要求される出力は、推論対象の画像上における複数の物体の存在位置及び存在範囲、並びに、その物体のクラスである。
一般的には物体検出問題では、ニューラルネットワークは、対象画像上の物体存在確率の分布、及び、対象画像上の各位置における小領域が属するクラスの分布を算出し、物体存在確率の分布が一定上の領域の範囲と、その範囲における物体クラスとを出力する。
従って、物体検出問題においては、この存在確率一定以上の領域情報と、物体クラスとを最終的な出力と定義し、中間出力は、物体存在確率分布及びクラス分布として定義される。
学習部115は、学習側推論部114から得られた学習データを用いて、学習側第二ネットワークを再学習することで、学習側第二ネットワークの重み係数を更新し、更新された重み係数を示す更新重み係数情報を生成する。
例えば、学習部115は、学習側推論部114から得られた学習データを用いて、学習データに含まれている画像データに対する学習側第二ネットワークの出力と、学習データに含まれている推論結果とが一致するように、学習側第二ネットワークの持つ重み係数を更新する。そして、学習部115は、更新された重み係数である更新重み係数を示す更新重み係数情報を生成する。生成された更新重み係数情報は、学習側送信部116に与えられる。
学習側送信部116は、学習部115から得られた学習側第二ネットワークの更新重み係数情報を活用装置130に送信する送信部である。
以上に記載された学習装置110は、図2に示されているようなコンピュータ150により実現することができる。
図2は、コンピュータ150の構成を概略的に示すブロック図である。
コンピュータ150は、通信装置151と、補助記憶装置152と、メモリ153と、プロセッサ154とを備える。
通信装置151は、活用装置130との間で通信を行う。例えば、学習装置110と、活用装置130とがネットワークに接続されている場合には、通信装置151は、NIC(Network Interface Card)により実現することができる。
補助記憶装置152は、学習装置110での処理に必要なデータ及びプログラムを記憶する。例えば、補助記憶装置152は、HDD(Hard Disc Drive)又はSSD(Solid State Drive)により実現することができる。
メモリ153は、データ又はプログラムを一時的に記憶して、プロセッサ154の作業領域を提供する。メモリ153は、揮発性メモリ又は不揮発性メモリで実現することができる。
プロセッサ154は、補助記憶装置152に記憶されているプログラムをメモリ153に読み出して、そのプログラムを実行することで、学習装置110での処理を実行する。プロセッサ154は、例えば、CPU(Central Processing Unit)により実現することができる。
例えば、学習側受信部111及び学習側送信部116は、通信装置151により実現することができる。
学習側記憶部113は、補助記憶装置152により実現することができる。
データ処理部112、学習側推論部114及び学習部115は、プロセッサ154が補助記憶装置152に記憶されているプログラムをメモリ153に読み出して、そのプログラムを実行することにより実現することができる。
図1に戻り、活用装置130は、活用側受信部131と、適用部132と、活用側記憶部133と、入力部134と、データ取得部135と、活用側推論部136と、データ選択部137と、活用側送信部138とを備える。
活用側受信部131は、学習装置110からの更新重み係数情報を受信する受信部である。受信された更新重み係数情報は、適用部132に与えられる。
適用部132は、受信された更新重み係数情報で示される更新重み係数を、活用側記憶部133に記憶されている活用側第二ネットワークに適用する。活用側第二ネットワークは、活用側推論ネットワークともいう。
活用側記憶部133は、活用装置130での推論に使用するニューラルネットワークである活用側第二ネットワークを記憶する記憶部である。
活用側第二ネットワークは、学習側第二ネットワークと同じネットワーク構造を持つ。学習側第二ネットワークの学習によって得られた更新重み係数は、適用部132によって活用側第二ネットワークに適用される。
入力部134は、活用装置130で推論を行う対象となるデータである対象データの入力を受け付ける。入力された対象データは、データ取得部135に与えられる。実施の形態1では、対象データは、画像データであるものとする。ここでは、活用装置130に接続されている撮像装置である監視カメラから画像データが入力されるものとするが、実施の形態1は、このような例に限定されない。例えば、活用装置130が監視カメラとして構成されていてもよい。このような場合、入力部134は、CCD(Charge Coupled Device)又はCMOS(Complementary Metal-Oxide-Semiconductor)等のイメージセンサを備える撮像部として機能する。
データ取得部135は、入力部134を介して、対象データを取得する。対象データは、活用装置130が行う推論の対象となる。対象データは、活用側推論部136及びデータ選択部137に与えられる。
活用側推論部136は、データ取得部135から与えられる対象データから、活用側記憶部133に記憶されている活用側第二ネットワークを用いて推論を行う推論部である。ここでは、活用側推論部136は、対象データである画像データから画像認識を行う。推論結果は、データ選択部137に与えられる。
データ選択部137は、活用側第二ネットワークによる推論結果の確からしさの度合いが、予め定められた基準よりも低いか否かを判断する判断部として機能する。
例えば、データ選択部137は、活用側推論部136の推論結果と、推論対象の画像データとを対応付け、推論対象の画像データに対する確信度を算出するとともに、確信度が予め定められた範囲内にある場合には、推論結果を示す推論結果データと、画像データとを活用側送信部138に与える。ここで、確信度は、活用側第二ネットワークによる推論結果の確からしさを示す。そして、予め定められた範囲は、確信度の最低値を含む範囲である。このため、確信度が予め定められた範囲内にある場合には、推論結果の確からしさの度合いが予め定められた基準よりも低いことになる。
なお、確信度が予め定められた範囲内でなければ、データ選択部137は、推論結果を示す推論結果データのみを活用側送信部138に与える。
ここで、データ選択部137が算出する確信度についても、上記と同様に画像分類の場合と、物体検出の場合との二通りの場合について定義する。
活用側第二ネットワークで行う推論が画像分類である場合には、活用側第二ネットワークの中間出力の確信度は、定性的には図3(A)に示されているように、中間出力において特定のクラスで確率が十分に高く、他のクラスの確率が低い場合に高いといえる。
逆に、図3(B)に示されているように、確率最大となるようなクラスでの確率が低く、かつ、クラス間での確率の差が少ない場合には、活用側第二ネットワークの中間出力の確信度は、低いと言える。
言い換えると、中間出力において特定クラスへの偏りが大きい場合に、ニューラルネットワークの出力の確信度が高く、逆に偏りが少ない場合に確信度が低いといえる。
従って、例えば、確率分布の最大値を確信度として定義し、確信度の予め定められた範囲を、0%以上、100%をクラス数で割った値のN倍以下、と定めることができる。Nの値は、ユーザによって任意に、又は、システムの設置環境において実験的に定められる。
または、例えば、確率の最高値と、二番目に高い確率の値との差を確信度として定義し、確信度の予め定められた範囲を0%以上、x%以下と定めてもよい。xの値は、ユーザによって任意に、又は、システムの設置環境において実験的に定められる。
さらに、例えば、中間出力である確率分布における統計分散の値、即ち、各クラスにおける確率と、クラス確率平均値との差分の2乗の合計値を確信度と定義し、確信度の予め定められた範囲を0%以上、y%以下と定めてもよい。yの値は、ユーザによって任意に、又は、システムの設置環境において実験的に定められる。
以上の他、中間出力において特定クラスへの偏りを示す尺度は、全て確信度となり得る。
活用側第二ネットワークで行う推論が物体検出である場合には、活用側第二ネットワークが出力する結果の確信度は、例えば、対象画像上の物体存在確率分布の値から定義できる。図4に示されているように、物体存在確率分布において存在確率が0%に近い箇所AR1、AR2、AR3では、物体が存在しない確信度が高いと判断できる。逆に、存在確率が100%に近い箇所AR4では、物体がその位置に存在する確信度が高いと判断できる。一方、存在確率が50%付近である箇所AR5では、その位置に物体が存在する確信度と、存在しない確信度とが半々である、言い換えると、物体である確信度が低いと判断することができる。
従って、物体存在確率分布の各位置における存在確率から50%を引いた値の絶対値の最小値を推論結果の確信度として定義し、例えば、確信度の予め定められた範囲をz%以下、言い換えると、すなわち、存在確率が(50-z)%以上(50+z)%以下と、定めることができる。zの値は、ユーザによって任意に、又は、システムの設置環境において実験的に定めることができる。
図1に戻り、活用側送信部138は、データ選択部137から渡されたデータを学習装置110へ送信する送信部である。
以上に記載された活用装置130は、図5に示されているようなコンピュータ160により実現することができる。
図5は、コンピュータ160の構成を概略的に示すブロック図である。
コンピュータ160は、通信装置161と、補助記憶装置162と、接続装置163と、メモリ164と、プロセッサ165とを備える。
通信装置161は、学習装置110との間で通信を行う。例えば、学習装置110と、活用装置130とがネットワークに接続されている場合には、通信装置161は、NICにより実現することができる。
補助記憶装置162は、活用装置130での処理に必要なデータ及びプログラムを記憶する。例えば、補助記憶装置162は、HDD又はSSDにより実現することができる。
接続装置163は、カメラ等の撮像装置を接続し、その撮像装置との間でデータを送受信する。接続装置163は、USB(Universal Serial Bus)等の接続インターフェースにより実現することができる。
メモリ164は、データ又はプログラムを一時的に記憶して、プロセッサ165の作業領域を提供する。メモリ164は、揮発性メモリ又は不揮発性メモリで実現することができる。
プロセッサ165は、補助記憶装置162に記憶されているプログラムをメモリ164に読み出して、そのプログラムを実行することで、学習装置110での処理を実行する。プロセッサ165は、例えば、CPUにより実現することができる。
例えば、入力部134は、接続装置163により実現することができる。
活用側送信部138は、通信装置161により実現することができる。
活用側記憶部133は、補助記憶装置162により実現することができる。
適用部132、活用側推論部136、データ取得部135及びデータ選択部137は、プロセッサ165が補助記憶装置162に記憶されているプログラムをメモリ164に読み出して、そのプログラムを実行することにより実現することができる。
図5では、活用装置130がコンピュータ160である例を示したが、実施の形態1はこのような例に限定されない。例えば、入力部134が撮像部として機能する場合には、活用装置130は、コンピュータ160の代わりにカメラにより実現することができる。カメラは、図5に示されているコンピュータ160において、接続装置163の代わりに、撮像素子を備える撮像装置が備えられていればよい。
続いて、システム全体の処理の流れについて説明する。
基本的な処理の流れに入る前に、システム上必要な初期処理を、図6を用いて説明する。
図6は、実施の形態1に係る学習活用システム100の初期処理を示すフローチャートである。
まず、ステップS10では、学習装置110において、通常アプリの要件を満たすように設計された第一ネットワーク及び学習側第二ネットワークが学習側記憶部113に記憶され、学習側推論部114及び学習部115が、既知の学習データを用いて、第一ネットワーク及び学習側第二ネットワークを学習する。また、活用装置130においても、通常アプリの要件を満たすように設計された活用側第二ネットワークが活用側記憶部133に記憶される。
既知の学習データは、所望の認識結果が得られるように作成された、画像データと正解となる情報とのペアである。
なお、ここでは、学習装置110において学習する例を示したが、別途用意された学習装置で学習が行われてもよい。
次に、ステップS11では、学習部115は、学習側第二ネットワークにおいて更新された重み係数である更新重み係数を示す更新重み係数情報を生成して、学習側送信部116を介して、その更新重み係数情報を活用装置130に送信する。活用装置130の適用部132は、活用側受信部131を介して、更新重み係数情報を取得して、活用側記憶部133に記憶されている活用側第二ネットワークへ、受信された更新重み係数情報で示される更新重み係数を適用する。
ここでは、適用部132が、更新重み係数情報で示される更新重み係数を活用側第二ネットワークに適用する例を示したが、別途用意されたプログラムを実行することで実現される機能部(例えば、設定部等)が、更新重み係数情報で示される更新重み係数を活用側第二ネットワークに適用してもよい。
次に、ステップS12では、活用装置130が、通常アプリを実行する要求に従って決められた設置位置に設置される。
以上が初期処理の流れである。
なお、ステップS10では、第一ネットワーク及び学習側第二ネットワークのそれぞれが、既知の学習データを用いて独立に学習されているが、実施の形態1は、このような例に限定されない。例えば、まず、既知の学習データを用いて第一ネットワークが学習され、次に、公知の知識蒸留の技術を用いて学習側第二ネットワークが学習されてもよい。
また、図6ではステップS11の後に、活用装置130がそれぞれの設置位置に設置されるとしたが、実施の形態1は、このような例に限定されない。例えば、活用装置130をそれぞれの設置位置に設置した後に、活用側第二ネットワークに更新重み係数が適用されてもよい。
図7は、活用装置130での推論及びデータ選別処理を示すフローチャートである。
まず、データ取得部135は、入力部134を介して、推論対象となる画像データを取得する(S20)。ここでは、データ取得部135は、画像データを周期的に取得するものとする。なお、その周期は、通常アプリの用途に応じて定められるものとする。取得された画像データは、活用側推論部136及びデータ選択部137に与えられる。
次に、活用側推論部136は、取得された画像データに対して、活用側第二ネットワークを用いて推論を実施する(S21)。活用側推論部136は、推論を実施した後、その推論結果の最終出力と中間出力とをデータ選択部137に与える。
次に、データ選択部137は、推論結果の中間出力から確信度を算出する(S22)。
そして、データ選択部137は、算出された確信度が予め定められた範囲内であるか否かを判断する(S23)。算出された確信度が予め定められた範囲内である場合(S23でYes)には、処理はステップS24に進み、算出された確信度が予め定められた範囲内ではない場合(S23でNo)には、処理はステップS25に進む。
ステップS24では、データ選択部137は、活用側送信部138を介して、画像データ及び推論結果を示す推論結果データを学習装置110に送る。
確信度が予め定められた範囲内にある場合には、確信度が不十分である。このため、活用側第二ネットワークは、特にその画像データに対して十分な判断を下させていないとみなすことができる。従って、データ選択部137は、推論対象の画像データを追加学習用に使用できるよう、学習装置110に与える。この際、通常アプリで使用するための最終出力も送信される。送信後、処理はステップS20に戻り、データ取得部135が次の画像データを取得するまで、待機が行われる。
一方、ステップS25では、データ選択部137は、活用側送信部138を介して、推論結果を示す推論結果データを学習装置110に送る。
確信度が予め定められた範囲内にない場合、確信度が十分である。このため、活用側第二ネットワークは、画像データに対して十分な判断を下せているとみなすことができる。従って、データ選択部137は、最終出力のみを学習装置110に与える。
図8は、学習装置110での第二ネットワークの再学習処理を示すフローチャートである。
まず、学習側受信部111は、活用装置130からのデータを受信する(S30)。受信されたデータは、データ処理部112に与えられる。
そして、データ処理部112は、学習側受信部111から与えられたデータに含まれている推論結果データを通常アプリに与え、通常アプリは、その推論結果データを用いて処理を実行する(S31)。
次に、データ処理部112は、学習側受信部111から与えられたデータに画像データが含まれているか否かを判断する(S32)。画像データが含まれている場合(S32でYes)には、処理はステップS33に進み、画像データが含まれていない場合(S32でNo)には、処理はステップS30に戻る。
ステップS33では、データ処理部112は、学習側受信部111から与えられたデータに含まれている画像データを学習側推論部114に与え、学習側推論部114は、その画像データに基づいて、学習側記憶部113に記憶されている第一ネットワークを用いて推論を実行する。学習側推論部114は、その推論結果と、画像データとのペアを学習データとして、学習部115に与える。ここでの学習データは、推論の中間出力であってもよく、また、推論の中間出力が含まれていてもよい。
次に、学習部115は、学習側推論部114から与えられる学習データを用いて、学習側第二ネットワークを再学習する(S34)。なお、学習データに中間出力が含まれている場合には、学習部115は、その中間出力をターゲットとして学習側第二ネットワークの重み係数を更新してもよい。これは、公知の知識蒸留による学習に該当する。
次に、学習部115は、更新後の重み係数を学習側第二ネットワークから取り出し、取り出された重み係数を示す更新重み係数情報を生成し、その更新重み係数情報を、学習側送信部116を介して、活用装置130へ送る(S35)。
その後、再度、学習側受信部111がデータを受信するまで、待機が行われる。
なお、図8に示されているフローチャートでは、ステップS33からステップS35までの処理は、画像データ受信時に毎回行われるようになっているが、実施の形態1はこのような例に限定されない。例えば、受信された画像データを蓄積するデータ蓄積部を設けておくことで、画像データが一定数又は一定量蓄積されてから、ステップS33からステップS35までの処理が行われてもよい。このような場合には、学習側第二ネットワークを再学習する際に、学習データをバッチにまとめる形で実施することで学習処理を効率化できる効果がある。
図9は、活用装置130側での更新重み係数の適用処理を示すフローチャートである。
活用側受信部131は、学習装置110からの更新重み係数情報を受信する(S40)。受信された更新重み係数情報は、適用部132に与えられる。
次に、適用部132は、活用側受信部131から与えられた更新重み係数情報で示される更新重み係数で、活用側記憶部133に記憶されている活用側第二ネットワークの対応箇所の重み係数を置き換えることで、更新重み係数を第二ネットワークへ適用する(S41)。
適用後、活用側受信部131が次の更新重み係数情報を受信するまで、待機が行われる。
以上が実施の形態1における、活用装置130を高精度化する流れである。
なお、前述した確信度の定義及び中間出力の定義については、あくまでも一例である。
実施の形態2.
図10は、実施の形態2に係る学習活用システム200の構成を概略的に示すブロック図である。
実施の形態2でも、学習活用システム200が画像認識を行う画像認識システムとして使用される例を説明する。
学習活用システム200は、学習装置210と、複数の活用装置230とを備える。
実施の形態2では、一つの学習装置210に対して、複数の活用装置230が設けられている構成を説明する。このような場合、学習装置210は、活用装置230毎に学習用第二ネットワークを管理し、受信されるデータも活用装置230毎に管理することが望ましい。なお、活用装置230から学習装置210に送るデータには、そのデータを生成した活用装置230を識別するための活用装置識別情報である識別符号が含まれているものとする。なお、複数の活用装置230は、同様に構成されているものとする。
学習装置210は、学習側受信部111と、データ処理部112と、学習側記憶部213と、学習側推論部114と、学習部215と、学習側送信部216とを備える。
実施の形態2における学習装置210の学習側受信部111、データ処理部112及び学習側推論部114は、実施の形態1における学習装置110の学習側受信部111、データ処理部112及び学習側推論部114と同様である。
学習側記憶部213は、学習済の第一ネットワーク及び学習済の学習側第二ネットワークを記憶する。ここで、第一ネットワークを学習用ネットワークともいい、学習側第二ネットワークを学習側推論ネットワークともいう。
実施の形態2においては、学習側記憶部213は、活用装置230毎に学習側第二ネットワークを記憶する。例えば、活用装置230の識別符号に対応付けて学習側第二ネットワークが記憶されている。
学習部215は、学習側推論部114から得られた学習データを用いて、学習データに含まれている画像データの送信元の活用装置230に対応する学習側第二ネットワークにその画像データを入力した出力と、その学習データに含まれている推論結果とが一致するように、その学習側第二ネットワークの持つ重み係数を更新する。ここでは、画像データに送信元の活用装置230の識別符号が含まれているため、学習部215は、その識別符号に対応付けられている学習側第二ネットワークを使用する。そして、学習部215は、更新された重み係数である更新重み係数を示す更新重み係数情報を生成する。
学習部215は、生成された更新重み係数情報を、その送信先を示す情報とともに学習側送信部216に与える。送信先は、学習側第二ネットワークの再学習に用いられた画像データの送信元の活用装置230である。例えば、学習部215は、そのような活用装置230の識別符号を学習側送信部216に与える。
学習側送信部216は、学習部215から与えられた学習側第二ネットワークの更新重み係数情報を、学習部215から指示された送信先である活用装置230に送信する。
活用装置230は、活用側受信部131と、適用部132と、活用側記憶部133と、入力部134と、データ取得部135と、活用側推論部136と、データ選択部237と、活用側送信部138とを備える。
実施の形態2における活用装置230の活用側受信部131、適用部132、活用側記憶部133、入力部134、データ取得部135、活用側推論部136及び活用側送信部138は、実施の形態1における活用装置130の活用側受信部131、適用部132、活用側記憶部133、入力部134、データ取得部135、活用側推論部136及び活用側送信部138と同様である。
データ選択部237は、活用側推論部136の推論結果と、推論対象の画像データとを対応付け、推論対象の画像データに対する確信度を算出するとともに、確信度が予め定められた範囲内にある場合には、推論結果を示す推論結果データと、画像データとを活用側送信部138に与える。ここで、予め定められた範囲は、確信度の最低値を含む範囲である。
なお、確信度が予め定められた範囲内でなければ、データ選択部237は、推論結果を示す推論結果データのみを活用側送信部138に与える。
ここで、データ選択部237は、画像データ及び推論結果データに、活用装置230の識別符号を追加する。
次に、実施の形態2での動作について説明する。
なお、学習処理を開始する前の初期処理については、図6に示されている処理内容と同様である。但し、複数の活用装置230の全てにおいて、同様の処理が行われる。
図11は、実施の形態2における活用装置230での推論及びデータ選別処理を示すフローチャートである。
なお、図11に示されているフローチャートに含まれているステップにおいて、図7に示されているフローチャートに含まれているステップと同一の処理を行うステップについては、図7に示されているフローチャートに含まれているステップと同一の符号を付す。
図11のステップS20~S23までの処理は、図7のステップS20~S23までの処理と同様である。
但し、図11においては、ステップS23において、算出された確信度が予め定められた範囲内である場合(S23でYes)には、処理はステップS54に進み、算出された確信度が予め定められた範囲内ではない場合(S23でNo)には、処理はステップS55に進む。
ステップS54では、データ選択部237は、画像データ及び推論結果示す推論結果データに活用装置230の識別符号を追加する。
そして、処理はステップS24に進み、データ選択部237は、活用側送信部138を介して、画像データ及び推論結果データを学習装置210に送る。
一方、ステップS55では、データ選択部237は、推論結果示す推論結果データに活用装置230の識別符号を追加する。
そして、処理はステップS25に進み、データ選択部237は、活用側送信部138を介して、推論結果データを学習装置210に送る。
図12は、実施の形態2における学習装置210での第二ネットワークの再学習処理を示すフローチャートである。
なお、図12に示されているフローチャートに含まれているステップにおいて、図8に示されているフローチャートに含まれているステップと同一の処理を行うステップについては、図8に示されているフローチャートに含まれているステップと同一の符号を付す。
図12のステップS30~S33までの処理は、図8のステップS30~S33までの処理と同様である。
但し、図12においては、ステップS33の後に、処理はステップS64に進む。
ステップS64では、学習部215は、学習側推論部114から与えられる学習データに含まれている画像データに追加されている識別符号を特定することで、その画像データの送信元の活用装置230を特定する。
次に、学習部215は、学習側推論部114から与えられる学習データを用いて、特定された活用装置230の学習側第二ネットワークを再学習する(S65)。
次に、学習部215は、更新後の重み係数を学習側第二ネットワークから取り出し、取り出された重み係数を示す更新重み係数情報を生成し、その更新重み係数情報を、学習側送信部116を介して、特定された活用装置230へ送る(S66)。
その後、再度、学習側受信部111がデータを受信するまで、待機が行われる。
以上が実施の形態2における、複数の活用装置230を高精度化する流れである。
実施の形態2で説明した構成により、各活用装置230が各設置場所で取得したデータを学習していくことで、各活用装置230の活用側推論部136が設置場所に特化された推論部として成長するため、活用装置230の認識率がより高精度になる。
なお、以上の実施の形態1及び2では、対象データは、画像データであり、活用側第二ネットワーク、第一ネットワーク及び学習側第二ネットワークは、画像データから画像認識を行うための学習済モデルとして説明した。
具体的には、活用側第二ネットワーク、第一ネットワーク及び学習側第二ネットワークは、画像データから画像を認識し、認識された画像を分類するための学習済モデル、又は、画像データから画像を認識し、認識された画像から物体を検出するための学習済モデルである例を示した。しかしながら、実施の形態1又は2は、このような例に限定されず、他の推論を行うように構成されていてもよい。
100,200 学習活用システム、 110,210 学習装置、 111 学習側受信部、 112 データ処理部、 113,213 学習側記憶部、 114 学習側推論部、 115,215 学習部、 116,216 学習側送信部、 130,230 活用装置、 131 活用側受信部、 132 適用部、 133 活用側記憶部、 134 入力部、 135 データ取得部、 136 活用側推論部、 137,237 データ選択部、 138 活用側送信部。

Claims (12)

  1. 活用装置と、学習装置とを備える学習活用システムであって、
    前記活用装置は、推論に使用するニューラルネットワークである活用側推論ネットワークを使用して、対象データから推論を行った結果の確からしさの度合いが、予め定められた基準よりも低いか否かを判断する判断部を備え、
    前記学習装置は、
    前記度合いが前記予め定められた基準よりも低い場合に、前記活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して、前記対象データから推論を行うことで、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを生成する学習側推論部と、
    前記学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習することで、前記学習側推論ネットワークの重み係数を更新し、前記更新された重み係数を示す更新重み係数情報を生成する学習部と、を備え、
    前記活用装置は、前記更新重み係数情報で示される前記更新された重み係数を、前記活用側推論ネットワークに適用する適用部をさらに備えること
    を特徴とする学習活用システム。
  2. 前記判断部は、前記度合いを示す確信度を算出し、前記確信度が予め定められた範囲内にある場合に、前記度合いが前記基準よりも低いと判断すること
    を特徴とする請求項1に記載の学習活用システム。
  3. 前記学習用ネットワークの中間層及び重み係数の数は、前記活用側推論ネットワークの中間層及び重み係数の数よりも多いこと
    を特徴とする請求項1又は2に記載の学習活用システム。
  4. 前記対象データは、画像データであり、前記活用側推論ネットワーク、前記学習用ネットワーク及び前記学習側推論ネットワークは、前記画像データから画像認識を行うための学習済モデルであること
    を特徴とする請求項1から3の何れか一項に記載の学習活用システム。
  5. 前記対象データは、画像データであり、前記活用側推論ネットワーク、前記学習用ネットワーク及び前記学習側推論ネットワークは、前記画像データから画像を認識し、前記認識された画像を分類するための学習済モデルであること
    を特徴とする請求項1から3の何れか一項に記載の学習活用システム。
  6. 前記対象データは、画像データであり、前記活用側推論ネットワーク、前記学習用ネットワーク及び前記学習側推論ネットワークは、前記画像データから画像を認識し、前記認識された画像から物体を検出するための学習済モデルであること
    を特徴とする請求項1から3の何れか一項に記載の学習活用システム。
  7. 複数の前記活用装置を備え、
    前記学習装置は、前記複数の活用装置の各々に対応する複数の前記学習側推論ネットワークを記憶し、
    前記学習装置が、前記複数の活用装置に含まれる一つの活用装置から前記対象データを受信した場合に、前記学習部は、前記複数の学習側推論ネットワークの内、前記一つの活用装置に対応する学習側推論ネットワークを再学習することで、前記更新重み係数情報を生成し、前記学習装置は、前記一つの活用装置に前記更新重み係数情報を送信すること
    を特徴とする請求項1から6の何れか一項に記載の学習活用システム。
  8. 推論に使用するニューラルネットワークである活用側推論ネットワークを使用して、対象データから推論を行った結果の確からしさの度合いが、予め定められた基準よりも低いか否かを判断する判断部と、
    前記度合いが前記予め定められた基準よりも低い場合に、前記活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して前記対象データから推論を行うことで生成され、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習して、前記学習側推論ネットワークの重み係数を更新することで生成され、前記更新された重み係数を示す更新重み係数情報で示される前記更新された重み係数を、前記活用側推論ネットワークに適用する適用部と、を備えること
    を特徴とする活用装置。
  9. 推論に使用するニューラルネットワークである活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して、対象データから推論を行うことで、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを生成する学習側推論部と、
    前記学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習することで、前記学習側推論ネットワークの重み係数を更新し、前記更新された重み係数を示す更新重み係数情報を生成する学習部と、を備えること
    を特徴とする学習装置。
  10. コンピュータを、
    推論に使用するニューラルネットワークである活用側推論ネットワークを使用して、対象データから推論を行った結果の確からしさの度合いが、予め定められた基準よりも低いか否かを判断する判断部、及び、
    前記度合いが前記予め定められた基準よりも低い場合に、前記活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して前記対象データから推論を行うことで生成され、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習して、前記学習側推論ネットワークの重み係数を更新することで生成され、前記更新された重み係数を示す更新重み係数情報で示される前記更新された重み係数を、前記活用側推論ネットワークに適用する適用部、として機能させること
    を特徴とするプログラム。
  11. コンピュータを、
    推論に使用するニューラルネットワークである活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して、対象データから推論を行うことで、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを生成する学習側推論部、及び、
    前記学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習することで、前記学習側推論ネットワークの重み係数を更新し、前記更新された重み係数を示す更新重み係数情報を生成する学習部、として機能させること
    を特徴とするプログラム。
  12. コンピュータが、
    推論に使用するニューラルネットワークである活用側推論ネットワークを使用して、対象データから推論を行い、
    前記推論の結果の確からしさの度合いが、予め定められた基準よりも低いか否かを判断し、
    前記度合いが前記予め定められた基準よりも低い場合に、前記活用側推論ネットワークの教師モデルとして機能するニューラルネットワークである学習用ネットワークを使用して、前記対象データから推論を行うことで、前記対象データと、前記学習用ネットワークによる推論結果とを含む学習データを生成し、
    前記学習データを用いて、前記活用側推論ネットワークと同じネットワーク構造を有するニューラルネットワークである学習側推論ネットワークを再学習することで、前記学習側推論ネットワークの重み係数を更新し、
    前記更新された重み係数を、前記活用側推論ネットワークに適用すること
    を特徴とする学習活用方法。
JP2022539827A 2020-07-28 2020-07-28 学習活用システム、活用装置、学習装置、プログラム及び学習活用方法 Active JP7438365B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/028859 WO2022024211A1 (ja) 2020-07-28 2020-07-28 学習活用システム、活用装置、学習装置、プログラム及び学習活用方法

Publications (3)

Publication Number Publication Date
JPWO2022024211A1 JPWO2022024211A1 (ja) 2022-02-03
JPWO2022024211A5 JPWO2022024211A5 (ja) 2022-10-24
JP7438365B2 true JP7438365B2 (ja) 2024-02-26

Family

ID=80037792

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022539827A Active JP7438365B2 (ja) 2020-07-28 2020-07-28 学習活用システム、活用装置、学習装置、プログラム及び学習活用方法

Country Status (5)

Country Link
US (1) US12340574B2 (ja)
JP (1) JP7438365B2 (ja)
CN (1) CN116134447A (ja)
DE (1) DE112020007472T5 (ja)
WO (1) WO2022024211A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12430402B2 (en) * 2021-01-26 2025-09-30 Nvidia Corporation Confidence generation using a neural network
WO2023199437A1 (ja) * 2022-04-13 2023-10-19 株式会社Nttドコモ 端末、無線通信方法及び基地局
JPWO2024161535A1 (ja) * 2023-02-01 2024-08-08

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019152948A (ja) 2018-03-01 2019-09-12 日本電気株式会社 画像判定システム、モデル更新方法およびモデル更新プログラム
WO2019229977A1 (ja) 2018-06-01 2019-12-05 株式会社 東芝 推定システム、推定方法及び推定プログラム
JP2020086738A (ja) 2018-11-21 2020-06-04 沖電気工業株式会社 情報処理装置および情報処理方法

Family Cites Families (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6819790B2 (en) * 2002-04-12 2004-11-16 The University Of Chicago Massive training artificial neural network (MTANN) for detecting abnormalities in medical images
JP6042274B2 (ja) * 2013-06-28 2016-12-14 株式会社デンソーアイティーラボラトリ ニューラルネットワーク最適化方法、ニューラルネットワーク最適化装置及びプログラム
KR102276339B1 (ko) * 2014-12-09 2021-07-12 삼성전자주식회사 Cnn의 근사화를 위한 학습 장치 및 방법
CN105938558B (zh) * 2015-03-06 2021-02-09 松下知识产权经营株式会社 学习方法
CN106548127B (zh) * 2015-09-18 2022-11-04 松下电器(美国)知识产权公司 图像识别方法
US10878286B2 (en) 2016-02-24 2020-12-29 Nec Corporation Learning device, learning method, and recording medium
JP6561004B2 (ja) 2016-03-25 2019-08-14 株式会社デンソーアイティーラボラトリ ニューラルネットワークシステム、端末装置、管理装置およびニューラルネットワークにおける重みパラメータの学習方法
JP2017182320A (ja) 2016-03-29 2017-10-05 株式会社メガチップス 機械学習装置
JP6957659B2 (ja) * 2016-04-26 2021-11-02 株式会社日立製作所 情報処理システムおよびその運用方法
US20180018555A1 (en) * 2016-07-15 2018-01-18 Alexander Sheung Lai Wong System and method for building artificial neural network architectures
US20190228268A1 (en) * 2016-09-14 2019-07-25 Konica Minolta Laboratory U.S.A., Inc. Method and system for cell image segmentation using multi-stage convolutional neural networks
EP3399460B1 (en) * 2017-05-02 2019-07-17 Dassault Systèmes Captioning a region of an image
CN110622169A (zh) * 2017-05-15 2019-12-27 渊慧科技有限公司 用于视频中的动作识别的神经网络系统
US11586850B2 (en) 2018-05-10 2023-02-21 Nec Corporation Pattern recognition system, parameter generation method, and parameter generation program
US11676025B2 (en) * 2018-05-30 2023-06-13 Robert Bosch Gmbh Method, apparatus and computer program for generating robust automatic learning systems and testing trained automatic learning systems
CN112204581A (zh) * 2018-06-05 2021-01-08 三菱电机株式会社 学习装置、推演装置、方法及程序
KR102659892B1 (ko) * 2018-07-24 2024-04-24 삼성전자주식회사 객체 인식 장치, 이를 포함하는 전자 장치 및 객체 인식 방법
JP2020064564A (ja) * 2018-10-19 2020-04-23 株式会社アスカネット 学習サーバ、学習システム、及び追加学習プログラム
EP3660785A1 (en) * 2018-11-30 2020-06-03 Laralab UG Method and system for providing an at least 3-dimensional medical image segmentation of a structure of an internal organ
CN109766895A (zh) * 2019-01-03 2019-05-17 京东方科技集团股份有限公司 用于图像风格迁移的卷积神经网络的训练方法和图像风格迁移方法
CN111461155A (zh) * 2019-01-18 2020-07-28 富士通株式会社 训练分类模型的装置和方法
US11544620B2 (en) * 2019-01-22 2023-01-03 Raytheon Technologies Corporation System and method for context-based training of a machine learning model
US11310257B2 (en) * 2019-02-27 2022-04-19 Microsoft Technology Licensing, Llc Anomaly scoring using collaborative filtering
KR102925217B1 (ko) * 2019-03-25 2026-02-09 삼성전자주식회사 화자 식별 뉴럴 네트워크를 구현하는 방법 및 장치
JP7106486B2 (ja) * 2019-04-22 2022-07-26 株式会社東芝 学習装置、学習方法、プログラムおよび情報処理システム
FR3095880B1 (fr) * 2019-05-07 2021-04-09 Idemia Identity & Security France Procédé de classification sécurisée d’une donnée d’entrée au moyen d’un réseau de neurones à convolution
US11615609B2 (en) * 2019-07-01 2023-03-28 Axell Corporation Learning apparatus, inferring apparatus, learning method, program, and inferring method
US12198298B2 (en) * 2019-07-03 2025-01-14 Korea Advanced Institute Of Science And Technology Video processing method and apparatus
KR102861404B1 (ko) * 2019-10-07 2025-09-18 엘지전자 주식회사 인공지능 기반 얼굴 인식 장치 및 방법
KR102436512B1 (ko) * 2019-10-29 2022-08-25 삼성전자주식회사 부호화 방법 및 그 장치, 복호화 방법 및 그 장치
US10936916B1 (en) * 2019-10-31 2021-03-02 Booz Allen Hamilton Inc. System and method for classifying image data
US11604984B2 (en) * 2019-11-18 2023-03-14 Shanghai United Imaging Intelligence Co., Ltd. Systems and methods for machine learning based modeling
CN111191769B (zh) * 2019-12-25 2024-03-05 中国科学院苏州纳米技术与纳米仿生研究所 自适应的神经网络训练与推理装置
JP7298494B2 (ja) * 2020-01-31 2023-06-27 横河電機株式会社 学習装置、学習方法、学習プログラム、判定装置、判定方法、および判定プログラム
JP7483405B2 (ja) * 2020-02-25 2024-05-15 キヤノン株式会社 学習装置、電子機器、学習方法、電子機器の制御方法およびプログラム
WO2021190756A1 (en) * 2020-03-26 2021-09-30 Brainlab Ag Determining image similarity by analysing registrations
JP7596078B2 (ja) * 2020-04-10 2024-12-09 キヤノン株式会社 画像処理方法、画像処理装置、画像処理システム、およびプログラム
US20230137031A1 (en) * 2020-05-20 2023-05-04 Sony Group Corporation Image processing device, image processing method, learning device, generation method, and program
CN111739076B (zh) * 2020-06-15 2022-09-30 大连理工大学 面向多种ct肺部纹理识别的非监督保内容域适应方法
EP4235508B1 (en) * 2022-02-28 2025-02-26 Fujitsu Limited Knowledge transfer

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019152948A (ja) 2018-03-01 2019-09-12 日本電気株式会社 画像判定システム、モデル更新方法およびモデル更新プログラム
WO2019229977A1 (ja) 2018-06-01 2019-12-05 株式会社 東芝 推定システム、推定方法及び推定プログラム
JP2020086738A (ja) 2018-11-21 2020-06-04 沖電気工業株式会社 情報処理装置および情報処理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
吉作 清彦、他1名,ALATA:継続的なラベル付きデータ取得のための能動学習に基づくアノテーションツール,情報処理学会研究報告 2011(平成23)年度▲2▼ [CD-ROM],日本,一般社団法人情報処理学会,2011年08月15日

Also Published As

Publication number Publication date
DE112020007472T5 (de) 2023-05-11
WO2022024211A1 (ja) 2022-02-03
CN116134447A (zh) 2023-05-16
US12340574B2 (en) 2025-06-24
JPWO2022024211A1 (ja) 2022-02-03
US20230260270A1 (en) 2023-08-17

Similar Documents

Publication Publication Date Title
CN111523621B (zh) 图像识别方法、装置、计算机设备和存储介质
CN113435546B (zh) 基于区分置信度水平的可迁移图像识别方法及系统
JP7438365B2 (ja) 学習活用システム、活用装置、学習装置、プログラム及び学習活用方法
CN110414376B (zh) 更新人脸识别模型的方法、人脸识别相机及服务器
JP6892606B2 (ja) 位置特定装置、位置特定方法及びコンピュータプログラム
CN113076963B (zh) 一种图像识别方法、装置和计算机可读存储介质
CN118014519A (zh) 基于物联网的数字乡村应用系统及方法
US12585985B2 (en) Recognition system, model processing apparatus, model processing method, and recording medium for integrating models in recognition processing
WO2025051819A1 (en) Methods and systems for training a model for anomaly detection and remaining useful life (rul) prediction
CN118312108B (zh) 预测模型的跨域迁移方法、装置、设备和存储介质
WO2021090473A1 (ja) 物体検知装置、学習方法、及び、記録媒体
WO2021005775A1 (ja) 物体検知装置、学習方法、及び、記録媒体
US20230334837A1 (en) Object detection device, learned model generation method, and recording medium
CN117150326B (zh) 新能源节点出力功率的预测方法、装置、设备及存储介质
JP7623986B2 (ja) 選別装置、選別方法、および選別プログラム
JP7714510B2 (ja) 機械学習システム、エッジデバイスおよび情報処理装置
EP4198817B1 (en) System, method, and computer program for retraining a pre-trained object classifier
JP7602230B2 (ja) 人物特徴抽出器学習装置、人物予測装置、学習方法、動作識別学習装置、動作識別装置、プログラム及び情報システム
CN115761396A (zh) 节点性质判断的方法及装置
CN119091120B (en) Target detection method, target detection device, electronic equipment and storage medium
JP2020181265A (ja) 情報処理装置、システム、情報処理方法及びプログラム
JP7688610B2 (ja) 評価用データ出力装置、評価用データ出力方法及び評価用データ出力プログラム
CN116588137B (zh) 用于判断障碍物误感知的方法、装置、介质以及电子设备
CN116486328B (zh) 视觉深度学习模型推理能力评估方法及装置
CN119091120A (zh) 目标检测方法、装置、电子设备及存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220826

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220826

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240116

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240213

R150 Certificate of patent or registration of utility model

Ref document number: 7438365

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150