Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7619474B2 - クラス境界検出装置、制御方法、及びプログラム - Google Patents
[go: Go Back, main page]

JP7619474B2 - クラス境界検出装置、制御方法、及びプログラム - Google Patents

クラス境界検出装置、制御方法、及びプログラム Download PDF

Info

Publication number
JP7619474B2
JP7619474B2 JP2023555920A JP2023555920A JP7619474B2 JP 7619474 B2 JP7619474 B2 JP 7619474B2 JP 2023555920 A JP2023555920 A JP 2023555920A JP 2023555920 A JP2023555920 A JP 2023555920A JP 7619474 B2 JP7619474 B2 JP 7619474B2
Authority
JP
Japan
Prior art keywords
series data
time series
class
boundary
class boundary
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023555920A
Other languages
English (en)
Other versions
JPWO2023073795A5 (ja
JPWO2023073795A1 (ja
Inventor
賢太 石原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JPWO2023073795A1 publication Critical patent/JPWO2023073795A1/ja
Publication of JPWO2023073795A5 publication Critical patent/JPWO2023073795A5/ja
Application granted granted Critical
Publication of JP7619474B2 publication Critical patent/JP7619474B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)

Description

本開示は、時系列データを解析する技術に関する。
1つの時系列データに、複数のクラスのいずれかに属する複数の時系列データが含まれることがある。例えば時系列データが、複数の作業工程が順に行われている様子を撮影することで得られたビデオデータであるとする。この場合、このビデオデータには、各作業工程を表す複数のビデオデータが含まれている。
特許文献1は、時系列データを構成する各データ(以下、フレーム)に対して、そのフレームが属するクラスのラベルを付与する技術を開示している。特許文献1のデータ処理装置は、時系列データから、一定間隔ごとにフレームを抽出する。抽出された各フレームに対しては、ユーザにより、クラスのラベルが手動で付与される。さらに、このデータ処理装置は、抽出された複数のフレームについて、隣接するフレーム間の差分が閾値以下であるか否かを判定する。隣接するフレーム間の差分が閾値以下である場合、これらのフレームに対して付与されたラベルが、これらのフレームの間に存在する各フレームに対しても自動的に付与される。一方、隣接するフレーム間の差分が閾値以下でない場合、これらのフレームの間からさらに細かい間隔で複数のフレームが抽出され、同様の処理が行われる。
特開2016-076073号公報
特許文献1の発明では、抽出されたフレームに対してユーザが手動でクラスのラベルを付与する必要がある。本発明はこの課題に鑑みてなされたものであり、その目的の一つは、時系列データからクラスの境界を検出する技術を提供することである。
本開示のクラス境界検出装置は、解析対象の時系列データである対象時系列データを取得する取得部と、前記対象時系列データから複数の被抽出時系列データを抽出し、2つの互いに異なるクラスのクラス境界を表す参照時系列データと、各前記被抽出時系列データとの類似度を算出する算出部と、前記算出された類似度が閾値以上である前記被抽出時系列データから、前記参照時系列データによって表されるクラス境界を検出する検出部と、を有する。前記参照時系列データは、前記クラス境界が示す前のクラスに属する時系列データの末尾の部分の後に、前記クラス境界が示す後のクラスに属する時系列データの先頭の部分を有する。
本開示の制御方法は、コンピュータによって実行される。当該制御方法は、解析対象の時系列データである対象時系列データを取得する取得ステップと、前記対象時系列データから複数の被抽出時系列データを抽出し、2つの互いに異なるクラスのクラス境界を表す参照時系列データと、各前記被抽出時系列データとの類似度を算出する算出ステップと、前記算出された類似度が閾値以上である前記被抽出時系列データから、前記参照時系列データによって表されるクラス境界を検出する検出ステップと、を有する。前記参照時系列データは、前記クラス境界が示す前のクラスに属する時系列データの末尾の部分の後に、前記クラス境界が示す後のクラスに属する時系列データの先頭の部分を有する。
本開示の非一時的なコンピュータ可読媒体は、本開示の制御方法をコンピュータに実行させるプログラムを格納している。
本開示によれば、時系列データからクラスの境界を検出する技術が提供される。
実施形態のクラス境界検出装置によって扱われる対象時系列データを例示する図である。 クラス境界検出装置の動作の概要を例示する図である。 参照時系列データを例示する図である。 参照時系列データを利用したクラス境界の検出を例示する図である。 クラス境界検出装置の機能構成を例示するブロック図である。 クラス境界検出装置を実現するコンピュータのハードウエア構成を例示するブロック図である。 クラス境界検出装置によって実行される処理の流れを例示するフローチャートである。 参照データを例示する図である。 クラス境界の周辺から抽出される複数の被抽出時系列データが、そのクラス境界の種別と対応する参照時系列データと類似しうることを表す図である。 出力部を有するクラス境界検出装置の機能構成を例示するブロック図である。 各クラス境界の境界種別及び位置を示す出力情報を例示する図である。 検証部を有するクラス境界検出装置の機能構成を例示するブロック図である。 クラス境界の整合性の検証について例示する図である。 クラス境界の整合性の検証について例示する図である。 修正部を有するクラス境界検出装置の機能構成を例示するブロック図である。 境界種別の修正方法を表す図である。 境界種別を修正するための修正画面を例示する図である。
以下では、本開示の実施形態について、図面を参照しながら詳細に説明する。各図面において、同一又は対応する要素には同一の符号が付されており、説明の明確化のため、必要に応じて重複説明は省略される。また、特に説明しない限り、所定値や閾値などといった予め定められている値は、その値を利用する装置からアクセス可能な記憶装置などに予め格納されている。さらに、特に説明しない限り、記憶部は、1つ以上の任意の数の記憶装置によって構成される。
<概要>
図1は、実施形態のクラス境界検出装置によって扱われる対象時系列データ10を例示する図である。対象時系列データ10は、それぞれ異なるクラスに属する複数の時系列データ20で構成される。例えば図1の対象時系列データ10は、クラスC1に属する時系列データ20-1、クラスC2に属する時系列データ20-2、及びクラスC3に属する時系列データ20-3を、この順に有する。以下、時系列データを構成する各データを、フレームと呼ぶ。時系列データは、フレームが時系列に並べられたデータ列と表現することができる。
クラス境界検出装置2000は、対象時系列データ10として、種々の種類の時系列データを扱うことができる。例えば対象時系列データ10はビデオデータである。ビデオデータは、ビデオカメラによって生成された複数のビデオフレームが生成された順(フレーム番号の昇順)に並べられた時系列データである。対象時系列データ10がビデオデータである場合、例えば対象時系列データ10に含まれる各時系列データ20は、その時系列データ20によって表される映像の内容に応じてクラスに分類される。
例えば、作業員が3つの工程P1、P2、及びP3から成る作業を行っている様子をビデオカメラで撮影し、当該撮影によって得られたビデオデータを、対象時系列データ10として扱うとする。この場合、各作業工程をクラスとして扱うことができる。すなわち、対象時系列データ10を、工程P1の作業の様子が含まれている時系列データ20、工程P2の作業の様子が含まれる時系列データ20、及び工程P3の作業の様子が含まれる時系列データ20という3つの時系列データ20に分けることができる。
対象時系列データ10は、ビデオデータに限定されない。例えば対象時系列データ10は、マイクロフォンで音声を記録することによって生成される音声データであってもよい。その他にも例えば、対象時系列データ10は、任意のセンサ(例えば3次元加速度センサ)によって繰り返し行われたセンシングの結果を表すセンシングデータであってもよい。
図2は、実施形態のクラス境界検出装置2000の動作の概要を例示する図である。ここで、図2は、クラス境界検出装置2000の概要の理解を容易にするための図であり、クラス境界検出装置2000の動作は、図2に示したものに限定されない。例えば図2では、クラス境界検出装置2000に対して参照時系列データ30が入力されている。しかしながら後述するように、クラス境界検出装置2000は、対象時系列データ10から抽出する時系列データと参照時系列データ30との類似度を算出できればよく、参照時系列データ30そのものを取得しなくてもよい。例えばクラス境界検出装置2000は、参照時系列データ30そのものではなく、参照時系列データ30の特徴量を取得してもよい。
クラス境界検出装置2000は、クラスの境界が不明である対象時系列データ10から、クラスの境界を検出する。対象時系列データ10におけるクラスの境界とは、或るクラスに属する時系列データ20と、別のクラスに属する他の時系列データ20との境界を意味する。例えばクラス境界検出装置2000が、図1で例示した対象時系列データ10を扱うとする。この場合、クラス境界検出装置2000は、時系列データ20-1と時系列データ20-2の境界(クラスC1とクラスC2の境界)や、時系列データ20-2と時系列データ20-3の境界(クラスC2とクラスC3の境界)を、クラス境界として検出する。
クラス境界は、クラス境界の直前にあるデータや、クラス境界の直後にあるデータで表すことができる。例えば図1の例において、時系列データ20-1と時系列データ20-2の境界は、時系列データ20-1の末尾のデータ、又は時系列データ20-2の先頭のデータで表すことができる。
クラス境界検出装置2000は、クラス境界の検出に、参照時系列データ30を利用する。図3は、参照時系列データ30を例示する図である。参照時系列データ30は、時系列データ50から得られる。時系列データ50は、あるクラスに属する時系列データ40-1の次に、別のクラスに属する時系列データ40-2を含む。参照時系列データ30は、時系列データ40-1と時系列データ40-2の境界の周辺にあるフレーム(例えば、クラス境界前後所定数のフレーム)で構成される時系列データである。
図3において、時系列データ40-1はクラスC1に属している一方で、時系列データ40-2はクラスC2に属している。参照時系列データ30は、クラスC1とクラスC2の境界の前後T個(時系列データ40-1の末尾T個と時系列データ40-2の先頭T個)のフレームで構成されている(Tは自然数である)。なお、参照時系列データ30において、クラス境界の前のフレームの数とクラス境界の後のフレームの数は、互いに異なっていてもよい。
以下、参照時系列データ30によって表されるクラス境界の種別を、「参照時系列データ30に対応する境界種別」と呼ぶ。例えば図3において、参照時系列データ30に対応する境界種別は、「クラスC1とクラスC2の境界」である。
クラス境界検出装置2000は、参照時系列データ30と同じ長さの時系列データを対象時系列データ10から1つ以上抽出し、抽出した各時系列データについて、参照時系列データ30との類似度を算出する。ここで対象時系列データ10から抽出される時系列データのことを、被抽出時系列データと呼ぶ。クラス境界検出装置2000は、参照時系列データ30との類似度が高い(例えば、類似度が閾値以上である)被抽出時系列データを検出し、検出した被抽出時系列データから、参照時系列データ30に対応する境界種別のクラス境界を検出する。以下、参照時系列データ30との類似度が高い被抽出時系列データのことを、「参照時系列データ30とマッチする被抽出時系列データ」とも呼ぶ。
図4は、参照時系列データ30を利用したクラス境界の検出を例示する図である。図4の例において検出するクラス境界の種別は、クラスC1とクラスC2の境界である。そこで、クラスC1とクラスC2の境界という境界種別に対応する参照時系列データ30が利用される。
クラス境界検出装置2000は、対象時系列データ10から複数の被抽出時系列データ60を抽出し、抽出した各被抽出時系列データ60について、参照時系列データ30との類似度が高いか否かを判定する。例えば図4では、参照時系列データ30との類似度が高い被抽出時系列データ60として、被抽出時系列データ60-Xが検出されている。そこでクラス境界検出装置2000は、被抽出時系列データ60-Xから、クラスC1とクラスC2の境界を検出する。
図4の参照時系列データ30では、クラスC1に属するフレームの数とクラスC2に属するフレームの数が、互いに等しい。この場合、被抽出時系列データ60-Xにおいても、クラスC1に属するフレームの数とクラスC2に属するフレームの数は、互いに等しい蓋然性が高い。そこでクラス境界検出装置2000は、被抽出時系列データ60-Xを2等分する部分を、クラスC1とクラスC2の境界として検出する。
<作用効果の例>
本実施形態によれば、対象時系列データ10から抽出される各被抽出時系列データ60と参照時系列データ30との類似度に基づいて、対象時系列データ10からクラス境界を自動的に検出することができる。よって、対象時系列データ10を構成するフレームに対して手動でクラスのラベルを付与しなければいけないケースと比較し、対象時系列データ10からクラスの境界をより容易に検出することができる。
また、後述するように、対象時系列データ10に含まれうるクラス境界の種別それぞれについて、対象時系列データ10からその種別のクラス境界を検出すれば、隣接するクラス境界の間に位置する各フレームが属するクラスを特定することができる。例えば、クラスC1とC2の境界の後に、クラスC2とC3の境界が存在すれば、これらの境界の間に位置する各フレームが、クラスC2に属していることが分かる。よって、対象時系列データ10を構成する各フレームに対し、自動的にクラスのラベルを付与することができるようになるため、フレームに対するラベル付けが容易になる。
このように各フレームに対してラベルが付与された時系列データは、例えば、時系列データについて自動的にクラス判別を行う機械学習モデルを生成する際に、教師データとして利用することができる。例えば製品の製造現場では、生産品質、生産効率、又は作業者の安全性の向上などのために、作業者が作業を行っている様子を撮影することで得られたビデオデータを機械学習モデルで解析することで、作業工程の自動判別を行うことが考えられる。このような機械学習モデルを訓練するためには、大量のラベル付きのビデオデータを用意する必要がある。しかしながら、ラベル付きのビデオデータを手動で大量に用意するためには、多くの時間と労力を要する。
この点、前述したように、クラス境界検出装置2000を利用して対象時系列データ10からクラス境界を検出すれば、対象時系列データ10の各フレームに対するラベル付けを短い時間で容易に行うことができる。そのため、機械学習モデルの訓練に要する時系列データを短い時間で容易に用意することができる。
以下、本実施形態のクラス境界検出装置2000について、より詳細に説明する。
<機能構成の例>
図5は、実施形態のクラス境界検出装置2000の機能構成を例示するブロック図である。クラス境界検出装置2000は、取得部2020、算出部2040、及び検出部2060を有する。取得部2020は、対象時系列データ10を取得する。算出部2040は、対象時系列データ10から複数の被抽出時系列データ60を抽出し、各被抽出時系列データ60と参照時系列データ30との類似度を算出する。検出部2060は、各被抽出時系列データ60について算出された類似度に基づいて、対象時系列データ10からクラス境界を検出する。例えば参照時系列データ30がクラスC1とクラスC2の境界及びその周辺の時系列データである場合、クラス境界検出装置2000は、対象時系列データ10からクラスC1とクラスC2の境界を検出する。
<ハードウエア構成の例>
クラス境界検出装置2000の各機能構成部は、各機能構成部を実現するハードウエア(例:ハードワイヤードされた電子回路など)で実現されてもよいし、ハードウエアとソフトウエアとの組み合わせ(例:電子回路とそれを制御するプログラムの組み合わせなど)で実現されてもよい。以下、クラス境界検出装置2000の各機能構成部がハードウエアとソフトウエアとの組み合わせで実現される場合について、さらに説明する。
図6は、クラス境界検出装置2000を実現するコンピュータ500のハードウエア構成を例示するブロック図である。コンピュータ500は、任意のコンピュータである。例えばコンピュータ500は、PC(Personal Computer)やサーバマシンなどといった、据え置き型のコンピュータである。その他にも例えば、コンピュータ500は、スマートフォンやタブレット端末などといった可搬型のコンピュータである。コンピュータ500は、クラス境界検出装置2000を実現するために設計された専用のコンピュータであってもよいし、汎用のコンピュータであってもよい。
例えば、コンピュータ500に対して所定のアプリケーションをインストールすることにより、コンピュータ500で、クラス境界検出装置2000の各機能が実現される。上記アプリケーションは、クラス境界検出装置2000の各機能構成部を実現するためのプログラムで構成される。なお、上記プログラムの取得方法は任意である。例えば、当該プログラムが格納されている記憶媒体(DVD ディスクや USB メモリなど)から、当該プログラムを取得することができる。その他にも例えば、当該プログラムが格納されている記憶装置を管理しているサーバ装置から、当該プログラムをダウンロードすることにより、当該プログラムを取得することができる。
コンピュータ500は、バス502、プロセッサ504、メモリ506、ストレージデバイス508、入出力インタフェース510、及びネットワークインタフェース512を有する。バス502は、プロセッサ504、メモリ506、ストレージデバイス508、入出力インタフェース510、及びネットワークインタフェース512が、相互にデータを送受信するためのデータ伝送路である。ただし、プロセッサ504などを互いに接続する方法は、バス接続に限定されない。
プロセッサ504は、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、又は FPGA(Field-Programmable Gate Array)などの種々のプロセッサである。メモリ506は、RAM(Random Access Memory)などを用いて実現される主記憶装置である。ストレージデバイス508は、ハードディスク、SSD(Solid State Drive)、メモリカード、又は ROM(Read Only Memory)などを用いて実現される補助記憶装置である。
入出力インタフェース510は、コンピュータ500と入出力デバイスとを接続するためのインタフェースである。例えば入出力インタフェース510には、キーボードなどの入力装置や、ディスプレイ装置などの出力装置が接続される。
ネットワークインタフェース512は、コンピュータ500をネットワークに接続するためのインタフェースである。このネットワークは、LAN(Local Area Network)であってもよいし、WAN(Wide Area Network)であってもよい。
ストレージデバイス508は、クラス境界検出装置2000の各機能構成部を実現するプログラム(前述したアプリケーションを実現するプログラム)を記憶している。プロセッサ504は、このプログラムをメモリ506に読み出して実行することで、クラス境界検出装置2000の各機能構成部を実現する。
クラス境界検出装置2000は、1つのコンピュータ500で実現されてもよいし、複数のコンピュータ500で実現されてもよい。後者の場合において、各コンピュータ500の構成は同一である必要はなく、それぞれ異なるものとすることができる。
クラス境界検出装置2000の機能の一部又は全ては、対象時系列データ10を生成した装置によって実現されてもよい。クラス境界検出装置2000の機能の全てが、対象時系列データ10を生成した装置によって実現される場合、例えば当該装置は、自身で生成した対象時系列データ10からクラス境界を検出し、対象時系列データ10と共に、クラス境界を示す情報を出力する。
例えば対象時系列データ10がビデオデータであるとする。この場合、クラス境界検出装置2000の機能の一部又は全ては、当該ビデオデータを生成したビデオカメラによって実現されてもよい。このようなビデオカメラとしては、例えば、ネットワークカメラ、IP(Internet Protocol)カメラ、又はインテリジェントカメラと呼ばれるカメラを利用することができる。クラス境界検出装置2000の機能の全てがビデオカメラで実現される場合、例えば当該ビデオカメラは、自身で生成したビデオデータについてクラス境界を検出し、そのビデオデータと共に、クラス境界を表す情報(後述する出力情報)を出力する。
<処理の流れ>
図7は、実施形態のクラス境界検出装置2000によって実行される処理の流れを例示するフローチャートである。取得部2020は、対象時系列データ10を取得する(S102)。S104からS116は、対象時系列データ10から抽出される各被抽出時系列データ60について実行されるループ処理L1を構成する。S104において、クラス境界検出装置2000は、全ての被抽出時系列データ60についてループ処理L1が実行されたか否かを判定する。全ての被抽出時系列データ60について既にループ処理L1が実行された場合、図7の処理は終了する。一方、まだループ処理L1の対象としていない被抽出時系列データ60が存在する場合、次の被抽出時系列データ60を対象としてループ処理L1が実行される。ここで、ループ処理L1の対象とされる被抽出時系列データ60のことを、被抽出時系列データ60-iと表記する。
S106からS114は、1つ以上の参照時系列データ30それぞれについて実行されるループ処理L2を構成する。各参照時系列データ30は、それぞれ異なるクラス境界に対応する。S106において、クラス境界検出装置2000は、全ての参照時系列データ30についてループ処理L2が実行されたか否かを判定する。全ての参照時系列データ30について既にループ処理L2が実行された場合、図7の処理はS116に進む。S116はループ処理L1の終端であるため、図7の処理はS104に進む。
一方、まだループ処理L2の対象としていない参照時系列データ30が存在する場合、次の参照時系列データ30を対象としてループ処理L2が実行される。ここで、ループ処理L2の対象とされる参照時系列データ30のことを、参照時系列データ30-jと表記する。
算出部2040は、被抽出時系列データ60-iと参照時系列データ30-jの類似度を算出する(S108)。検出部2060は、被抽出時系列データ60-iと参照時系列データ30-jの類似度に基づいて、被抽出時系列データ60-iと参照時系列データ30-がマッチするか否かを判定する(S110)。例えば検出部2060は、被抽出時系列データ60-iと参照時系列データ30-jの類似度が所定の閾値以上である場合に、これらがマッチすると判定する。一方、これらの類似度が所定の閾値未満である場合、検出部2060は、これらがマッチしないと判定する。
被抽出時系列データ60-iと参照時系列データ30-がマッチする場合(S110:YES)、検出部2060は、被抽出時系列データ60-iから、参照時系列データ30-jに対応する境界種別のクラス境界を検出する(S112)。S112が実行された後、又は、被抽出時系列データ60-iと参照時系列データ30-jがマッチしないと判定された後(S110:NO)、図7の処理はS114に進む。S114はループ処理L2の終端であるため、図7の処理はS106に進む。
なお、図7に示す処理の流れは例示であり、クラス境界検出装置2000によって実行される処理の流れは図7に示されている流れに限定されない。例えば、ループ処理L1の中にループ処理L2を入れる代わりに、ループ処理L2の中にループ処理L1を入れてもよい。
<対象時系列データ10の取得:S102>
取得部2020は、対象時系列データ10を取得する。ここで、解析の対象とする時系列データを取得する方法には、様々な方法を採用することができる。例えば対象時系列データ10は、クラス境界検出装置2000から取得可能な態様で、予め任意の記憶装置に格納されているものとする。この場合、取得部2020は、当該記憶装置から対象時系列データ10を読み出すことにより、対象時系列データ10を取得する。なお、対象時系列データ10が格納されている記憶装置は、クラス境界検出装置2000の内部と外部のどちらに設けられていてもよい。対象時系列データ10が格納されている記憶装置がクラス境界検出装置2000の外部に設けられている場合、例えばその記憶装置は、対象時系列データ10を生成した装置の内部に設けられている。
その他にも例えば、取得部2020は、他の装置から送信された対象時系列データ10を受信することにより、対象時系列データ10を取得する。対象時系列データ10を送信する装置は、例えば、対象時系列データ10を生成した装置である。対象時系列データ10がビデオデータである場合、例えば取得部2020は、対象時系列データ10を生成したビデオカメラから対象時系列データ10を取得する。
<被抽出時系列データ60の抽出について>
算出部2040は、対象時系列データ10から、それぞれ異なる複数の被抽出時系列データ60を抽出する。ここで、抽出される各時系列データの長さは、参照時系列データ30の長さと同じであるとする。
1つの時系列データから、それより短い特定の長さの時系列データを複数抽出する技術には、種々の既存の技術を利用することができる。例えば算出部2040は、スライディングウインドウを利用して、対象時系列データ10から複数の被抽出時系列データ60を抽出する。スライディングウインドウの幅(すなわち、被抽出時系列データ60の長さ)には、参照時系列データ30の長さが設定される。スライディングウインドウのストライド(すなわち、隣接する2つの被抽出時系列データ60の間隔)には、任意の値を設定することができる。例えばストライドの値を1に設定すれば、対象時系列データ10の先頭から順に、対象時系列データ10から抽出しうる全ての被抽出時系列データ60が抽出される。
算出部2040が参照時系列データ30の長さを特定する方法は様々である。例えば参照時系列データ30の長さを示す情報が、予め算出部2040に設定されている。その他にも例えば、参照時系列データ30の長さを示す情報が、クラス境界検出装置2000からアクセス可能な態様で、予め記憶装置に格納されている。この場合、算出部2040は、当該記憶装置から参照時系列データ30の長さを示す情報を取得することにより、参照時系列データ30の長さを特定する。その他にも例えば、算出部2040は、参照時系列データ30を取得することにより、参照時系列データ30の長さを特定してもよい。
<参照時系列データ30に関する情報の取得について>
取得部2020は、検出したいクラス境界の種別に対応する参照時系列データ30について、被抽出時系列データ60との類似度の算出に必要なデータを取得する。このデータのことを参照データと呼ぶ。例えば参照データは、参照時系列データ30そのものである。その他にも例えば、参照データは、参照時系列データ30から抽出される特徴量である。特徴量については後述する。
例えば参照データは、対応するクラス境界の種別を表すの境界種別識別情報と共に、クラス境界検出装置2000から取得可能な態様で予め記憶装置に格納されている。図8は、参照データを例示する図である。図8のテーブル100は、境界種別識別情報80に対応づけて、その境界種別識別情報で特定される境界種別に対応する参照データ90を示している。図8において、参照データ90は、参照時系列データ30の特徴量となっている。
ここで、クラス境界の種別は、クラスの順序対で表現することができる。例えば、クラスC1とクラスC2の境界(クラスC1からクラスC2への遷移部分を表す境界)という種別は、順序対(C1,C2)で表すことができる。そこで図8において、境界種別識別情報80には、クラスの順序対が利用されている。
取得部2020が取得すべき参照データ90を特定する方法は様々である。例えば取得部2020は、記憶装置に格納されている全ての参照データ90を取得する。その他にも例えば、取得部2020は、対象時系列データ10に含まれる可能性があるクラス境界の境界種別を特定し、特定した各境界種別に対応する参照データ90を取得する。
例えば、対象時系列データ10に含まれるクラスが既知であるとする。この場合、対象時系列データ10に含まれうるクラス境界の種別は、対象時系列データ10に含まれうるクラスの順序対の全ての集合で表することができる。例えば対象時系列データ10に含まれうるクラスが、C1、C2、及びC3という3つのクラスであるとする。これら3つのクラスには、(C1,C2)、(C1,C3)、(C2,C1)、(C2,C3)、(C3,C1)、(C3,C2)という6つの順序対が存在する。そのため、対象時系列データ10に含まれるクラス境界の種別は、これら6つである。
そこで例えば、取得部2020は、対象時系列データ10に含まれうるクラスの順序対それぞれで表される境界種別について、対応する参照データ90を取得する。例えば上記3つのクラスが任意の順序で対象時系列データ10に含まれうる場合、クラス境界検出装置2000は、上記6つの順序対それぞれで表される境界種別について、参照データ90を取得する。より具体的な例としては、上記6つの順序対それぞれで表される境界種別について、対応する参照時系列データ30、又は、対応する参照時系列データ30の特徴量が、参照データ90として取得される。
<参照時系列データ30の生成について>
参照データ90を用意するためには、その前提として、参照時系列データ30を生成する必要がある。また、図3を用いて説明したように、参照時系列データ30は、2つの時系列データ40-1及び40-2を含む時系列データ50の一部であるため、参照時系列データ30を生成するためには、時系列データ50を生成する必要がある。
ここで、時系列データ50を生成する方法は様々である。例えば、クラスC1とC2の境界を含む時系列データ50を生成するとする。この場合、例えば時系列データ50は、時系列データ50を生成するための装置(カメラや種々のセンサなど)に、所望の状況を実際に観測させることで生成される。例えば、時系列データ50がビデオデータであり、クラスC1とクラスC2がそれぞれ、作業工程の種類であるとする。この場合、作業工程C1を行った後に作業工程C2が行われる様子をカメラで撮影することにより、クラスC1とC2の境界を含むビデオデータを得ることができる。
その他にも例えば、時系列データ50は、クラス境界の前の時系列データ40-1と、クラス境界の後の時系列データ40-2を個別に生成した後に、これらを任意の方法でつなぎ合わせることによって生成されてもよい。例えば前述したように、クラスC1とC2がそれぞれ作業工程であるとする。この場合、作業工程C1が行われている様子をカメラで撮影することにより、時系列データ40-1が生成される。同様に、作業工程C2が行われている様子をカメラで撮影することにより、時系列データ40-2が生成される。その後、映像編集ソフトなどを利用して時系列データ40-1の後に時系列データ40-2をつなげることにより、クラスC1とC2の境界を含む時系列データ50を生成することができる。
参照時系列データ30は、時系列データ50から境界部分及びその周辺のフレームを抽出することによって生成することができる。ここで、時系列データからその一部を抽出する方法には、既存の方法を利用することができる。
なお、時系列データ40-1と時系列データ40-2を個別に生成する場合、時系列データ50を生成することなく、参照時系列データ30が生成されてもよい。例えば、時系列データ40-1の末尾T個のフレームと、時系列データ40-2の先頭T個のフレームを抽出し、これらをつなぎ合わせることにより、クラスC1とC2の境界の前後T個のフレームから成る参照時系列データ30を生成することができる。
<類似度の算出:S108>
算出部2040は、被抽出時系列データ60と参照時系列データ30の類似度を算出する(S108)。被抽出時系列データ60と参照時系列データ30の類似度は、例えば、これらの特徴量の類似度で表すことができる。この場合、算出部2040は、被抽出時系列データ60から特徴量を算出する。また、参照データ90が参照時系列データ30そのものを表す場合、算出部2040は、参照時系列データ30についても特徴量を算出する。参照データ90が参照時系列データ30の特徴量を表す場合、参照データ90が表す参照時系列データ30の特徴量は、被抽出時系列データ60から特徴量を算出する方法と同じ方法により、予め参照時系列データ30から算出されたものであるとする。
ここで、時系列データの特徴量を算出する方法には、様々な手法を利用することができる。例えば算出部2040は、時系列データを構成する各フレームについて特徴量 f を算出し、各フレームについて算出された特徴量 f が連結されたデータを、時系列データの特徴量 F として利用する。例えば、被抽出時系列データ60の i 番目のフレームの特徴量を fi と表し、被抽出時系列データ60が N 個のフレームで構成されているとする。この場合、被抽出時系列データ60の特徴量 F は、F=(f1,f2,...,fN) と表すことができる。参照時系列データ30の特徴量についても同様である。
各フレームから特徴量を算出する方法は様々である。例えば対象時系列データがビデオデータであるとする。この場合、フレームは、ビデオデータを構成するビデオフレームである。そこで例えば、算出部2040は、フレームの特徴量として、フレームから画像特徴を抽出する。ここで、画像データから画像特徴を抽出する技術には、既存の任意の技術を利用することができる。例えば、ResNet などのような画像データを扱う CNN(Convolutional Neural Network)に対してビデオフレームを入力することで、その中間層から、当該ビデオフレームの特徴量を得ることができる。
また、算出部2040は、ビデオフレームから抽出された画像特徴に任意のデータを付加することで、ビデオフレームの特徴量を算出してもよい。以下、画像特徴に対して付加されるデータを、付加データと呼ぶ。例えばビデオフレームの画像特徴が M 次元のベクトルで表されており、付加データが L 次元のベクトルで表されているとする。この場合、ビデオフレームの特徴量は、これらのベクトルを連結した (M+L) 次元のベクトルで表すことができる。
付加データの種類は様々である。例えば算出部2040は、ビデオフレームから特定の物体を検出し、その物体の姿勢を表す付加データを算出する。例えば対象時系列データ10が、人の作業を撮影することで生成されたビデオデータであるとする。この場合、人の姿勢(手の姿勢、動体の姿勢、又は顔の姿勢など)を表すデータを、付加データとして利用することができる。なお、姿勢のデータ表現には、種々の既存の表現を利用することができる。
時系列データの特徴量は、各フレームの特徴量が連結されたデータに限定されない。例えば算出部2040は、時系列データについて、フレームの時系列を考慮した特徴量を算出する。ここで、時系列データから時系列を考慮した特徴量を抽出する技術には、既存の種々の技術を利用することができる。例えば、I3D などのような時系列を考慮可能な 3D CNN に対して時系列データを入力することにより、その中間層から、当該時系列データの特徴量を得ることができる。
算出部2040は、被抽出時系列データ60と参照時系列データ30との類似度として、被抽出時系列データ60の特徴量と参照時系列データ30の特徴量との類似度を算出する。ここで、2つの特徴量の類似度を算出する方法には、様々な方法を利用することができる。例えば時系列データの特徴量が、各フレームの特徴量が連結されたデータであるとする。この場合、算出部2040は、被抽出時系列データ60の特徴量と参照時系列データ30の特徴量について、フレームごとに類似度を算出し、算出された類似度の統計値(平均値など)を、これらの特徴量の類似度として扱う。ここで、2つのフレームの特徴量間の類似度の算出には、ノルムやコサイン類似度などといった種々の指標を用いることができる。なお、特徴量に前述した付加データが含まれる場合も、同様の方法で、被抽出時系列データ60の特徴量と参照時系列データ30の特徴量との類似度を算出することができる。
被抽出時系列データ60と参照時系列データ30の類似度を算出する方法は、これらの特徴量を利用する方法に限定されない。例えば類似度の算出には、2つの時系列データが入力されたことに応じ、これらの類似度を出力するように予め訓練されている機械学習モデル(例えばニューラルネットワーク)を利用される。この場合、算出部2040は、被抽出時系列データ60と参照時系列データ30をこの訓練済みのモデルに入力することで、これらの類似度を得ることができる。なお、2つの時系列データの類似度を算出するように機械学習モデルを訓練する技術には、既存の技術を利用することができる。
<クラス境界の検出:S112>
被抽出時系列データ60と参照時系列データ30がマッチする場合(S110:YES)、検出部2060はこの被抽出時系列データ60からクラス境界を検出する。より具体的には、検出部2060は、参照時系列データ30とマッチすると判定された被抽出時系列データ60について、その中に含まれるクラス境界の種別と位置を特定する。
被抽出時系列データ60に含まれるクラス境界の種別は、その被抽出時系列データ60とマッチする参照時系列データ30に対応する境界種別である。例えば、対応する境界種別が(C1,C2)である参照時系列データ30について、それとマッチする被抽出時系列データ60が検出されたとする。この場合、検出部2060は、この被抽出時系列データ60に含まれるクラス境界の種別が(C1,C2)であると特定する。言い換えれば、このクラス境界は、クラスC1とクラスC2の境界であると特定される。
被抽出時系列データ60におけるクラス境界の位置は、それとマッチする参照時系列データ30におけるクラス境界の位置に基づいて特定することができる。例えば、被抽出時系列データ60とマッチすると判定された参照時系列データ30が、クラスC1に属する長さXの時系列データの後に、クラスC2に属する長さYの時系列データを有するとする。この場合、算出部2040は、被抽出時系列データ60の先頭からX番目のフレーム、又は、被抽出時系列データ60の先頭から(X+1)番目のフレームを、クラス境界の位置を表すフレームとして特定する。ここで、被抽出時系列データ60の先頭からX番目のフレームは、クラスC1に属するフレームの列の末尾を表す。一方、被抽出時系列データ60の先頭から(X+1)番目のフレームは、クラスC2に属するフレームの列の先頭を表す。
ここで、クラス境界の周辺から抽出される複数の被抽出時系列データ60が、そのクラス境界の種別と対応する参照時系列データ30と類似している(類似度が高い)可能性がある。この場合、例えば検出部2060は、これら複数の被抽出時系列データ60のうちのいずれか1つから、クラス境界の検出を行う。この点について、図9を用いて説明する。
図9は、クラス境界の周辺から抽出される複数の被抽出時系列データ60が、そのクラス境界の種別と対応する参照時系列データ30と類似しうることを表す図である。図9において、参照時系列データ30は、(C1,C2)という境界種別に対応しており、その中心部分がクラス境界となっている。また、対象時系列データ10には、(C1,C2)というクラス境界が存在する。
ここで、図9の対象時系列データ10において、(C1,C2)というクラス境界がその中心に存在するのは、被抽出時系列データ60-1である。しかしながら、被抽出時系列データ60-1だけでなく、これに近接する他の被抽出時系列データ60についても、クラス境界の周辺に位置していることから、参照時系列データ30との類似度が高くなりうる。そのため、参照時系列データ30との類似度が高い被抽出時系列データ60が、被抽出時系列データ60-1以外にも検出されうる。
このように、参照時系列データ30と類似する被抽出時系列データ60として、近接する複数の被抽出時系列データ60が検出された場合、例えば検出部2060は、これら複数の被抽出時系列データ60のうちの1つから、クラス境界を検出する。ここで、クラス境界の検出に利用する被抽出時系列データ60を決定する方法は様々である。例えば検出部2060は、複数の被抽出時系列データ60のうち、参照時系列データ30との類似度が最も高い被抽出時系列データ60から、クラス境界を検出する。その他にも例えば検出部2060は、複数の被抽出時系列データ60のうち、時系列順で真ん中に位置する被抽出時系列データ60から、クラス境界を検出する。例えば、近接する7つの被抽出時系列データ60がいずれも、同一の参照時系列データ30と類似するとする。この場合、時系列の順で前から4番目の被抽出時系列データ60から、クラス境界の検出に利用する被抽出時系列データ60として決定される。その他にも例えば、検出部2060は、複数の被抽出時系列データ60からランダムに1つを選択し、選択した被抽出時系列データ60からクラス境界を検出する。
<処理結果の出力>
クラス境界検出装置2000は、処理結果を任意の方法で出力してもよい。以下、クラス境界検出装置2000によって出力される情報を、出力情報と呼ぶ。また、出力情報の生成及び出力を行う機能構成部を、出力部と呼ぶ。図10は、出力部2080を有するクラス境界検出装置2000の機能構成を例示するブロック図である。
例えば出力部2080は、出力情報として、検出された各クラス境界の境界種別及び位置を示す情報を生成する。図11は、各クラス境界の境界種別及び位置を示す出力情報を例示する図である。図11のテーブル110は、対象時系列データ10から検出された各クラス境界について、境界種別識別情報112と境界位置114を示す。境界種別識別情報112は、クラス境界の種別を、クラスの順序対で表している。境界位置114は、クラス境界の位置を示す。ここでは、クラス境界の位置として、そのクラス境界の直前に位置するフレームの識別情報(フレーム番号など)が示されているとする。
その他にも例えば、出力部2080は、各フレームに対してそのフレームが属するクラスを表すラベルが付加された対象時系列データ10を、出力情報として生成する。例えば、対象時系列データ10から検出された各クラス境界が、図11の例で示されるものである場合、対象時系列データ10の先頭のフレームから n1 番目のフレームはいずれも、クラスC1に属している。そこで出力部2080は、これらの各フレームに対して、クラスC1を表すラベルを付加する。また、図11の例において、対象時系列データ10の (n1+1) 番目から n2 番目までの各フレームは、クラスC2に属している。そのため、出力部2080は、これらの各フレームに対して、クラスC2を表すラベルを付与する。
ここで、時系列データを構成する各フレームに対して手動でクラスのラベルを付加する場合、長い時間と大きな労力が必要となる。この点、上述したようにクラスのラベルが付与された対象時系列データ10を出力情報として出力するようにクラス境界検出装置2000を構成すれば、対象時系列データ10の各フレームに対してそのフレームが属するクラスのラベルを付与するという処理が、クラス境界検出装置2000によるクラス境界の検出結果に基づいて自動的に行われる。よって、対象時系列データ10の各フレームに対してラベルを付与する処理が、短い時間で容易に実現される。
出力情報の出力態様は任意である。例えば出力部2080は、出力情報を任意の記憶装置に格納する。その他にも例えば、出力部2080は、出力情報を他の装置へ送信する。その他にも例えば、出力部2080は、出力情報をディスプレイ装置に表示させる。
<クラス境界の整合性の検証>
対象時系列データ10から複数の種別のクラス境界が検出された場合、互いに隣接するクラス境界の整合性が検証されてもよい。以下、この検証を行う機能構成部を、検証部と呼ぶ。図12は、検証部2100を有するクラス境界検出装置2000の機能構成を例示するブロック図である。
具体的には、検証部2100は、互いに隣接する2つのクラス境界について、前方のクラス境界が示す後のクラスと、後方のクラス境界が示す前のクラスとが一致するか否かを判定する。これらが一致する場合、検証部2100は、2つのクラス境界が整合していると判定する。一方、これらが一致しない場合、検証部2100は、2つのクラス境界が整合していないと判定する。なお、クラス境界が示す前のクラスとは、そのクラス境界の境界種別の順序対における1番目のクラスを意味する。例えば境界種別が(C1,C2)であれば、クラス境界が示す前のクラスはC1である。一方、クラス境界が示す後のクラスとは、そのクラス境界の境界種別の順序対における2番目のクラスを意味する。例えば境界種別が(C1,C2)であれば、クラス境界が示す後のクラスはC2である。
図13及び図14は、クラス境界の整合性の検証について例示する図である。図13では、(C1,C2)というクラス境界B1が検出された後に、(C2,C3)というクラス境界B2が検出されている。ここで、前方のクラス境界B1が示す後のクラスはC2であり、後方のクラス境界B2が示す前のクラスもC2である。このことから、これら2つのクラス境界はいずれも、これらのクラス境界の間にある時系列データ20が、クラスC2に属していることを表している。よって、クラス境界が整合していると言える。
一方、図14では、(C1,C2)というクラス境界B3が検出された後に、(C3,C4)というクラス境界B4が検出されている。ここで、前方のクラス境界B3が示す後のクラスはC2である一方、後方のクラス境界B4が示す前のクラスはC3である。この場合、クラス境界B3は、クラス境界B3とB4の間にある時系列データ20がクラスC2に属していることを表している。一方、クラス境界B4は、この時系列データ20がクラスC3に属していることを表している。そのため、これらのクラス境界は整合していない。
クラス境界検出装置2000は、クラス境界が整合していないことが検出されたことに応じて、種々の処理を実行してもよい。例えばクラス境界検出装置2000は、ある2つのクラス境界が整合していないと判定された場合に、いずれか一方のクラス境界の種別を修正する。クラス境界の種別の修正を行う機能構成部を、修正部と呼ぶ。図15は、修正部2120を有するクラス境界検出装置2000の機能構成を例示するブロック図である。
例えば修正部2120は、隣接するクラス境界と整合しないと判定された2つのクラス境界それぞれ(例えば、図14におけるクラス境界B3とB4)について、当該クラス境界の検出に用いられた被抽出時系列データ60と参照時系列データ30の類似度に基づき、クラス境界の種別を修正する。ここで前提として、クラス境界の検出の際、被抽出時系列データ60と参照時系列データ30の類似度を算出するために、フレームごとに特徴量の類似度が算出されるとする。
境界種別の修正方法について、図16を用いて具体的に説明する。図16は、境界種別の修正方法を表す図である。図16では、図14と同様に、境界種別が(C1,C2)であるクラス境界B3が検出された後に、境界種別が(C3,C4)であるクラス境界B4が検出されている。
グラフ130は、クラス境界B3が検出された被抽出時系列データ60と、境界種別(C1,C2)に対応する参照時系列データ30について、フレームごとの類似度を示している。グラフ130を見ると、クラス境界B3より前の部分については、フレームごとの類似度が高い一方、クラス境界B3より前の部分については、フレームごとの類似度が低くなっている。このことから、クラス境界B3の前の部分がクラスC1であるという点については信頼度が高い一方で、クラス境界B3の後の部分がクラスC2であるという点については信頼度が低いと考えられる。
グラフ140は、クラス境界B4が検出された被抽出時系列データ60と、境界種別(C3,C4)に対応する参照時系列データ30について、フレームごとの類似度を示している。グラフ140を見ると、クラス境界B4より前の部分と後の部分のいずれについても、フレームごとの類似度が高くなっている。このことから、クラス境界B4の前の部分がクラスC3であるという点と、クラス境界B4の後の部分がクラスC4であるという点のいずれについても、信頼度が高いと考えられる。
このようにグラフ130とグラフ140を解析することにより、クラス境界B3とクラス境界B4の間にある時系列データ20は、クラスC2に属する蓋然性よりもクラスC3に属する蓋然性の方が高いと言える。そこで修正部2120は、クラス境界B3の境界種別を、(C1,C2)から(C1,C3)に修正する。
図16を用いて説明した処理をより具体的に実現するために、例えば修正部2120は、互いに整合しない隣接する2つのクラス境界について、以下の処理を行う。まず修正部2120は、前のクラス境界(図16におけるB3)が検出された被抽出時系列データ60と、そのクラス境界の境界種別に対応する参照時系列データ30とについて、そのクラス境界よりも前の部分の各フレームの類似度の統計値(例えば平均値など)と、そのクラス境界よりも後の部分の各フレームの類似度の統計値を算出し、これらを比較する。例えば図16の例では、グラフ130について、クラス境界B3よりも前の部分について算出される類似度の統計値と、クラス境界B3よりも後の部分について算出される類似度の統計値とが比較される。
算出された2つの統計値の差異が小さい場合(例えば、2つの統計値の差分や比率が所定の数値範囲内である場合)、現状のクラス境界が正しい蓋然性が高い。一方、2つの統計値の差異が大きい場合(例えば、2つの統計値の差分や比率が所定の数値範囲から外れている場合)、現状のクラス境界が誤っている蓋然性が高い。
同様に、修正部2120は、後のクラス境界(図16におけるB4)が検出された被抽出時系列データ60と、そのクラス境界の境界種別に対応する参照時系列データ30とについて、そのクラス境界よりも前の部分の各フレームの類似度の統計値と、そのクラス境界よりも後の部分の各フレームの類似度の統計値を算出し、これらを比較する。例えば図16の例では、グラフ140について、クラス境界B4よりも前の部分について算出される類似度の統計値と、クラス境界B4よりも後の部分について算出される類似度の統計値とが比較される。この場合も同様に、算出された2つの統計値の差異が小さい場合には現状のクラス境界が正しい蓋然性が高い一方、これら2つの統計値の差異が大きい場合には現状のクラス境界が誤っている蓋然性が高い。
上述の方法により、修正部2120は、前のクラス境界と後のクラス境界のどちらに誤りがあるのかを特定する。前のクラス境界において前述した類似度の統計値の差異が大きい場合、修正部2120は、前のクラス境界において、クラス境界よりも後のクラスが誤りであると特定する。一方、後のクラス境界において前述した類似度の統計値の差異が大きい場合、修正部2120は、後のクラス境界において、クラス境界よりも前のクラスが誤りであると特定する。
図16の例では、クラス境界B3よりも前の部分について算出される類似度の統計値と、クラス境界B3よりも後の部分について算出される類似度の統計値との差異が大きい。一方、クラス境界B4よりも前の部分について算出される類似度の統計値と、クラス境界B4よりも後の部分について算出される類似度の統計値との差異は小さい。よって、修正部2120は、クラス境界B3に誤りがあると特定する。
修正部2120は、誤りが特定されたクラスを修正する。例えば修正部2120は、誤りがあると特定されたクラス境界を、誤りがないと特定されたクラス境界に整合するように修正する。前のクラス境界に誤りがあり、後ろのクラス境界に誤りがないと特定された場合、修正部2120は、前のクラス境界を、後のクラス境界に整合するように修正する。より具体的には、修正部2120は、前のクラス境界が示す後のクラス(図16の例では、クラス境界B3におけるC2)を、後のクラス境界が示す前のクラス(図16の例では、クラス境界B4におけるC3)に変更する。
一方、前のクラス境界に誤りがなく、後のクラス境界に誤りがあると特定された場合、修正部2120は、後のクラス境界を、前のクラス境界に整合するように修正する。より具体的には、修正部2120は、後のクラス境界が示す前のクラスを、前のクラス境界が示す後のクラスに変更する。
クラス境界を修正する方法は、上述の方法に限定されない。例えば修正部2120は、以下の方法でクラス境界の修正を行う。まず、隣接する2つのクラス境界のうち、前のクラス境界に誤りがあると特定された場合について説明する。この場合のために、各クラスに属する時系列データについて、その先頭部分の時系列データ(例えば、先頭T個のフレームから成る時系列データ)を用意しておく。例えば、クラスC1、C2、及びC3という3種類のクラスが存在するとする。この場合、クラスC1に属する時系列データの先頭部分の時系列データ、クラスC2に属する時系列データの先頭部分の時系列データ、及びクラスC3に属する時系列データの先頭部分の時系列データという3つの時系列データが用意される。これらの時系列データのことを、第2参照時系列データと呼ぶ。
修正部2120は、前のクラス境界に誤りがあると特定された場合、そのクラス境界が検出された被抽出時系列データ60の、クラス境界よりも後の部分における時系列データについて、各第2参照時系列データとの類似度を算出する。そして、修正部2120は、被抽出時系列データ60におけるクラス境界よりも後の時系列データとの類似度が高い(例えば、類似度が閾値以上である)第2参照時系列データが存在する場合、クラス境界が示す後のクラスを、その第2参照時系列データに対応するクラスに変更する。ここで、修正部2120は、第2参照時系列データそのものを取得してその特徴量を算出してもよいし、第2参照時系列データの特徴量を取得してもよい。また、第2参照時系列データは、対応するクラスの識別情報と対応づけて、クラス境界検出装置2000からアクセス可能な態様で、記憶装置に予め格納されているものとする。
例えば図16の例の場合、クラス境界B3に誤りがあると特定される。そこで修正部2120は、クラス境界B3が検出された被抽出時系列データ60のうち、クラス境界B3よりも後の部分の時系列データについて、各クラスの第2参照時系列データとの類似度を算出する。その結果、クラスC3に対応する第2参照時系列データについて算出された類似度が高いと判定されたとする。この場合、修正部2120は、クラス境界B3が示す後のクラスを、C2からC3に変更する。
次に、隣接するクラス境界のうち、後のクラス境界に誤りがあると特定された場合について説明する。この場合、各クラスに属する時系列データについて、その末尾部分の時系列データ(例えば、末尾T個のフレームから成る時系列データ)を用意しておく。これらの時系列データのことを、第3参照時系列データと呼ぶ。
修正部2120は、後のクラス境界に誤りがあると特定された場合、そのクラス境界が検出された被抽出時系列データ60の、クラス境界よりも前の部分における時系列データについて、各第3参照時系列データとの類似度を算出する。そして、修正部2120は、被抽出時系列データ60におけるクラス境界よりも前の時系列データとの類似度が高い(例えば、類似度が閾値以上である)第3参照時系列データが存在する場合、クラス境界が示す前のクラスを、その第3参照時系列データに対応するクラスに変更する。ここで、修正部2120は、第3参照時系列データそのものを取得してその特徴量を算出してもよいし、第3参照時系列データの特徴量を取得してもよい。また、第3参照時系列データは、対応するクラスの識別情報と対応づけて、クラス境界検出装置2000からアクセス可能な態様で、記憶装置に予め格納されているものとする。
クラス境界の修正は、前述したように修正部2120によって自動で行われる代わりに、クラス境界検出装置2000のユーザによって手動で行われてもよい。この場合、修正部2120は、境界種別を修正するための画面をユーザに提供し、ユーザの入力操作に結果に応じて、クラス境界を修正する。以下、詳細に説明する。
図17は、境界種別を修正するための修正画面を例示する図である。修正画面200は、表示エリア210、220、及び230を有する。表示エリア210は、被抽出時系列データ60と参照時系列データ30との類似度の大きさを表すグラフ240を含む。このグラフにおいて、被抽出時系列データ60との比較に利用される参照時系列データ30は、入力エリア250で選択することができる。図17では、(C1,C2)が選択されている。表示エリア210は、さらに、検出されたクラス境界を示す境界表示260、及び、フォーカスされている時系列データを示す選択表示270を含む。
表示エリア220は、選択表示270で表示されている時系列データについて、その中心を含む所定の個数(図17では5個)のフレームを示す。マーク280は、表示エリア230に表示されるフレームを示すマークである。表示エリア230は、マーク280が付されているフレームが表示される領域である。ユーザは、表示エリア220に表示されているフレームの1つを指定する入力操作を行うことができる。そして、当該入力操作で指定されたフレームにマーク280が付され、かつ、そのフレームが表示エリア230に表示される。
ユーザは、修正画面200を利用して、クラス境界を修正することができる。例えばユーザは、選択表示270によって選択されている時系列データにクラス境界が含まれている場合、入力エリア290及び入力エリア300を利用して、そのクラス境界の境界種別を修正することができる。入力エリア290は、クラス境界が示す前のクラスの修正に利用される。一方、入力エリア300は、クラス境界が示す後のクラスの修正に利用される。例えば図17の例では、現在、選択表示270によって選択されているクラス境界は、(C1,C2)である。そのため、入力エリア290にはC1が表示されており、入力エリア300にはC2が表示されている。ここで、ユーザが入力エリア290でC3を選択した場合、修正部2120は、クラス境界(C1,C2)を(C3,C2)に修正する。また、ユーザが入力エリア300でC3を選択した場合、修正部2120は、クラス境界(C1,C2)を(C1,C3)に修正する。
ここで修正部2120は、前述した方法で誤りがあるクラス境界を特定し、当該特定結果を利用して、修正画面200を提示してもよい。例えば修正部2120は、隣接するクラス境界に不整合があると判定されたことに応じて、修正画面200を例示する。この際、修正部2120は、前述した方法で、隣接する2つのクラス境界のうち、どちらに誤りがあるのかを特定する。そして、修正部2120は、誤りがあると特定されたクラス境界にフォーカスされている(選択表示270が表示されている)修正画面200を生成する。またこの際、グラフ240には、誤りがあると特定されたクラス境界の境界種別に対応した参照時系列データ30について、被抽出時系列データ60との類似度を表すグラフが表示される。こうすることで、誤りがあると特定されたクラス境界に着目した修正画面200がユーザに対して提供される。よって、ユーザは、誤りがあると特定されたクラス境界の修正を容易に行うことができる。
修正画面200では、クラス境界の位置を修正する入力操作が可能であってもよい。例えばグラフ240において、境界表示260をユーザが左右に移動させることにより、クラス境界の位置を変更することができるようにする。
以上、実施の形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
なお、上述の例において、プログラムは、コンピュータに読み込まれた場合に、実施形態で説明された1又はそれ以上の機能をコンピュータに行わせるための命令群(又はソフトウェアコード)を含む。プログラムは、非一時的なコンピュータ可読媒体又は実体のある記憶媒体に格納されてもよい。限定ではなく例として、コンピュータ可読媒体又は実体のある記憶媒体は、random-access memory(RAM)、read-only memory(ROM)、フラッシュメモリ、solid-state drive(SSD)又はその他のメモリ技術、CD-ROM、digital versatile disc(DVD)、Blu-ray(登録商標)ディスク又はその他の光ディスクストレージ、磁気カセット、磁気テープ、磁気ディスクストレージ又はその他の磁気ストレージデバイスを含む。プログラムは、一時的なコンピュータ可読媒体又は通信媒体上で送信されてもよい。限定ではなく例として、一時的なコンピュータ可読媒体又は通信媒体は、電気的、光学的、音響的、またはその他の形式の伝搬信号を含む。
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
解析対象の時系列データである対象時系列データを取得する取得部と、
前記対象時系列データから複数の被抽出時系列データを抽出し、2つの互いに異なるクラスのクラス境界を表す参照時系列データと、各前記被抽出時系列データとの類似度を算出する算出部と、
前記算出された類似度が閾値以上である前記被抽出時系列データから、前記参照時系列データによって表されるクラス境界を検出する検出部と、を有し、
前記参照時系列データは、前記クラス境界が示す前のクラスに属する時系列データの末尾の部分の後に、前記クラス境界が示す後のクラスに属する時系列データの先頭の部分を有する、クラス境界検出装置。
(付記2)
前記算出部は、前記参照時系列データと前記被抽出時系列データの類似度として、前記参照時系列データの特徴量と前記被抽出時系列データの特徴量との類似度を算出する、付記1に記載のクラス境界検出装置。
(付記3)
前記対象時系列データは、ビデオフレームの列であるビデオデータであり、
前記被抽出時系列データの特徴量は、前記被抽出時系列データを構成する各フレームの特徴量を示し、
前記算出部は、前記被抽出時系列データを構成する各ビデオフレームについて、そのビデオフレームの画像特徴と、そのビデオフレームに含まれる所定の物体の姿勢を表すデータとを示す特徴量を算出する、付記2に記載のクラス境界検出装置。
(付記4)
前記算出部は、複数の種別のクラス境界それぞれに対応する各前記参照時系列データについて、各前記被抽出時系列データとの類似度を算出し、
前記検出部は、前記参照時系列データとの類似度が閾値以上である前記被抽出時系列データから、その参照時系列データに対応する種別のクラス境界を検出する、付記1から3いずれか一項に記載のクラス境界検出装置。
(付記5)
前記対象時系列データから検出された互いに隣接する2つのクラス境界が整合しているか否かを判定する検証部と、
互いに隣接する2つのクラス境界が整合していないと判定された場合にクラス境界を修正する修正部と、を有する付記1から4いずれか一項に記載のクラス境界検出装置。
(付記6)
前記修正部は、整合していないと判定された2つのクラス境界それぞれについて、そのクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度の高さを、そのクラス境界の前の部分と後の部分とで比較し、その差異が閾値以上である場合に、そのクラス境界に誤りがあると判定する、付記5に記載のクラス境界検出装置。
(付記7)
前記修正部は、誤りがあると判定されたクラス境界を、誤りがないと判定されたクラス境界に整合するように修正する、付記6に記載のクラス境界検出装置。
(付記8)
前記修正部は、
誤りがあると判定されたクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度について、そのクラス境界の前の部分について算出された類似度の方がそのクラス境界の後の部分について算出された類似度よりも低い場合、その被抽出時系列データと、各クラスに属する時系列データの末尾部分との類似度を算出し、その類似度が閾値以上であるクラスで、誤りがあると判定されたクラス境界が示す前のクラスを修正し、
誤りがあると判定されたクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度について、そのクラス境界の後の部分について算出された類似度の方がそのクラス境界の前の部分について算出された類似度よりも低い場合、その被抽出時系列データと、各クラスに属する時系列データの先頭部分との類似度を算出し、その類似度が閾値以上であるクラスで、誤りがあると判定されたクラス境界が示す後のクラスを修正する、付記6に記載のクラス境界検出装置。
(付記9)
前記修正部は、クラス境界が示す前のクラス、後のクラス、又は双方を修正する入力操作を受け付ける修正画面を出力し、前記修正画面に対して行われた入力操作に応じてクラス境界を修正する、付記5に記載のクラス境界検出装置。
(付記10)
コンピュータによって実行される制御方法であって、
解析対象の時系列データである対象時系列データを取得する取得ステップと、
前記対象時系列データから複数の被抽出時系列データを抽出し、2つの互いに異なるクラスのクラス境界を表す参照時系列データと、各前記被抽出時系列データとの類似度を算出する算出ステップと、
前記算出された類似度が閾値以上である前記被抽出時系列データから、前記参照時系列データによって表されるクラス境界を検出する検出ステップと、を有し、
前記参照時系列データは、前記クラス境界が示す前のクラスに属する時系列データの末尾の部分の後に、前記クラス境界が示す後のクラスに属する時系列データの先頭の部分を有する、制御方法。
(付記11)
前記算出ステップにおいて、前記参照時系列データと前記被抽出時系列データの類似度として、前記参照時系列データの特徴量と前記被抽出時系列データの特徴量との類似度を算出する、付記10に記載の制御方法。
(付記12)
前記対象時系列データは、ビデオフレームの列であるビデオデータであり、
前記被抽出時系列データの特徴量は、前記被抽出時系列データを構成する各フレームの特徴量を示し、
前記算出ステップにおいて、前記被抽出時系列データを構成する各ビデオフレームについて、そのビデオフレームの画像特徴と、そのビデオフレームに含まれる所定の物体の姿勢を表すデータとを示す特徴量を算出する、付記11に記載の制御方法。
(付記13)
前記算出ステップにおいて、複数の種別のクラス境界それぞれに対応する各前記参照時系列データについて、各前記被抽出時系列データとの類似度を算出し、
前記検出ステップにおいて、前記参照時系列データとの類似度が閾値以上である前記被抽出時系列データから、その参照時系列データに対応する種別のクラス境界を検出する、付記10から12いずれか一項に記載の制御方法。
(付記14)
前記対象時系列データから検出された互いに隣接する2つのクラス境界が整合しているか否かを判定する検証ステップと、
互いに隣接する2つのクラス境界が整合していないと判定された場合にクラス境界を修正する修正ステップと、を有する付記10から13いずれか一項に記載の制御方法。
(付記15)
前記修正ステップにおいて、整合していないと判定された2つのクラス境界それぞれについて、そのクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度の高さを、そのクラス境界の前の部分と後の部分とで比較し、その差異が閾値以上である場合に、そのクラス境界に誤りがあると判定する、付記14に記載の制御方法。
(付記16)
前記修正ステップにおいて、誤りがあると判定されたクラス境界を、誤りがないと判定されたクラス境界に整合するように修正する、付記15に記載の制御方法。
(付記17)
前記修正ステップにおいて、
誤りがあると判定されたクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度について、そのクラス境界の前の部分について算出された類似度の方がそのクラス境界の後の部分について算出された類似度よりも低い場合、その被抽出時系列データと、各クラスに属する時系列データの末尾部分との類似度を算出し、その類似度が閾値以上であるクラスで、誤りがあると判定されたクラス境界が示す前のクラスを修正し、
誤りがあると判定されたクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度について、そのクラス境界の後の部分について算出された類似度の方がそのクラス境界の前の部分について算出された類似度よりも低い場合、その被抽出時系列データと、各クラスに属する時系列データの先頭部分との類似度を算出し、その類似度が閾値以上であるクラスで、誤りがあると判定されたクラス境界が示す後のクラスを修正する、付記15に記載の制御方法。
(付記18)
前記修正ステップにおいて、クラス境界が示す前のクラス、後のクラス、又は双方を修正する入力操作を受け付ける修正画面を出力し、前記修正画面に対して行われた入力操作に応じてクラス境界を修正する、付記14に記載の制御方法。
(付記19)
プログラムが格納されている非一時的なコンピュータ可読媒体であって、
前記プログラムは、コンピュータに、
解析対象の時系列データである対象時系列データを取得する取得ステップと、
前記対象時系列データから複数の被抽出時系列データを抽出し、2つの互いに異なるクラスのクラス境界を表す参照時系列データと、各前記被抽出時系列データとの類似度を算出する算出ステップと、
前記算出された類似度が閾値以上である前記被抽出時系列データから、前記参照時系列データによって表されるクラス境界を検出する検出ステップと、を実行させ、
前記参照時系列データは、前記クラス境界が示す前のクラスに属する時系列データの末尾の部分の後に、前記クラス境界が示す後のクラスに属する時系列データの先頭の部分を有する、非一時的なコンピュータ可読媒体。
(付記20)
前記算出ステップにおいて、前記参照時系列データと前記被抽出時系列データの類似度として、前記参照時系列データの特徴量と前記被抽出時系列データの特徴量との類似度を算出する、付記19に記載のコンピュータ可読媒体。
(付記21)
前記対象時系列データは、ビデオフレームの列であるビデオデータであり、
前記被抽出時系列データの特徴量は、前記被抽出時系列データを構成する各フレームの特徴量を示し、
前記算出ステップにおいて、前記被抽出時系列データを構成する各ビデオフレームについて、そのビデオフレームの画像特徴と、そのビデオフレームに含まれる所定の物体の姿勢を表すデータとを示す特徴量を算出する、付記20に記載のコンピュータ可読媒体。
(付記22)
前記算出ステップにおいて、複数の種別のクラス境界それぞれに対応する各前記参照時系列データについて、各前記被抽出時系列データとの類似度を算出し、
前記検出ステップにおいて、前記参照時系列データとの類似度が閾値以上である前記被抽出時系列データから、その参照時系列データに対応する種別のクラス境界を検出する、付記19から21いずれか一項に記載のコンピュータ可読媒体。
(付記23)
前記対象時系列データから検出された互いに隣接する2つのクラス境界が整合しているか否かを判定する検証ステップと、
互いに隣接する2つのクラス境界が整合していないと判定された場合にクラス境界を修正する修正ステップと、を有する付記19から22いずれか一項に記載のコンピュータ可読媒体。

(付記24)
前記修正ステップにおいて、整合していないと判定された2つのクラス境界それぞれについて、そのクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度の高さを、そのクラス境界の前の部分と後の部分とで比較し、その差異が閾値以上である場合に、そのクラス境界に誤りがあると判定する、付記23に記載のコンピュータ可読媒体。
(付記25)
前記修正ステップにおいて、誤りがあると判定されたクラス境界を、誤りがないと判定されたクラス境界に整合するように修正する、付記24に記載のコンピュータ可読媒体。
(付記26)
前記修正ステップにおいて、
誤りがあると判定されたクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度について、そのクラス境界の前の部分について算出された類似度の方がそのクラス境界の後の部分について算出された類似度よりも低い場合、その被抽出時系列データと、各クラスに属する時系列データの末尾部分との類似度を算出し、その類似度が閾値以上であるクラスで、誤りがあると判定されたクラス境界が示す前のクラスを修正し、
誤りがあると判定されたクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度について、そのクラス境界の後の部分について算出された類似度の方がそのクラス境界の前の部分について算出された類似度よりも低い場合、その被抽出時系列データと、各クラスに属する時系列データの先頭部分との類似度を算出し、その類似度が閾値以上であるクラスで、誤りがあると判定されたクラス境界が示す後のクラスを修正する、付記24に記載のコンピュータ可読媒体。
(付記27)
前記修正ステップにおいて、クラス境界が示す前のクラス、後のクラス、又は双方を修正する入力操作を受け付ける修正画面を出力し、前記修正画面に対して行われた入力操作に応じてクラス境界を修正する、付記23に記載のコンピュータ可読媒体。
10 対象時系列データ
20 時系列データ
30 参照時系列データ
40 時系列データ
50 時系列データ
60 被抽出時系列データ
80 境界種別識別情報
90 参照データ
100 テーブル
110 テーブル
112 境界種別識別情報
114 境界位置
130 グラフ
140 グラフ
200 修正画面
210 表示エリア
220 表示エリア
230 表示エリア
240 グラフ
250 入力エリア
260 境界表示
270 選択表示
280 マーク
290 入力エリア
300 入力エリア
500 コンピュータ
502 バス
504 プロセッサ
506 メモリ
508 ストレージデバイス
510 入出力インタフェース
512 ネットワークインタフェース
2000 クラス境界検出装置
2020 取得部
2040 算出部
2060 検出部
2080 出力部
2100 検証部
2120 修正部

Claims (10)

  1. 解析対象の時系列データである対象時系列データを取得する取得部と、
    前記対象時系列データから複数の被抽出時系列データを抽出し、2つの互いに異なるクラスのクラス境界を表す参照時系列データと、各前記被抽出時系列データとの類似度を算出する算出部と、
    前記算出された類似度が閾値以上である前記被抽出時系列データから、前記参照時系列データによって表されるクラス境界を検出する検出部と、を有し、
    前記参照時系列データは、前記クラス境界が示す前のクラスに属する時系列データの末尾の部分の後に、前記クラス境界が示す後のクラスに属する時系列データの先頭の部分を有する、クラス境界検出装置。
  2. 前記算出部は、前記参照時系列データと前記被抽出時系列データの類似度として、前記参照時系列データの特徴量と前記被抽出時系列データの特徴量との類似度を算出する、請求項1に記載のクラス境界検出装置。
  3. 前記対象時系列データは、ビデオフレームの列であるビデオデータであり、
    前記被抽出時系列データの特徴量は、前記被抽出時系列データを構成する各フレームの特徴量を示し、
    前記算出部は、前記被抽出時系列データを構成する各ビデオフレームについて、そのビデオフレームの画像特徴と、そのビデオフレームに含まれる所定の物体の姿勢を表すデータとを示す特徴量を算出する、請求項2に記載のクラス境界検出装置。
  4. 前記算出部は、複数の種別のクラス境界それぞれに対応する各前記参照時系列データについて、各前記被抽出時系列データとの類似度を算出し、
    前記検出部は、前記参照時系列データとの類似度が閾値以上である前記被抽出時系列データから、その参照時系列データに対応する種別のクラス境界を検出する、請求項1から3いずれか一項に記載のクラス境界検出装置。
  5. 前記対象時系列データから検出された互いに隣接する2つのクラス境界が整合しているか否かを判定する検証部と、
    互いに隣接する2つのクラス境界が整合していないと判定された場合にクラス境界を修正する修正部と、を有する請求項1から4いずれか一項に記載のクラス境界検出装置。
  6. 前記修正部は、整合していないと判定された2つのクラス境界それぞれについて、そのクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度の高さを、そのクラス境界の前の部分と後の部分とで比較し、その差異が閾値以上である場合に、そのクラス境界に誤りがあると判定する、請求項5に記載のクラス境界検出装置。
  7. 前記修正部は、誤りがあると判定されたクラス境界を、誤りがないと判定されたクラス境界に整合するように修正する、請求項6に記載のクラス境界検出装置。
  8. 前記修正部は、
    誤りがあると判定されたクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度について、そのクラス境界の前の部分について算出された類似度の方がそのクラス境界の後の部分について算出された類似度よりも低い場合、その被抽出時系列データと、各クラスに属する時系列データの末尾部分との類似度を算出し、その類似度が閾値以上であるクラスで、誤りがあると判定されたクラス境界が示す前のクラスを修正し、
    誤りがあると判定されたクラス境界が検出された前記被抽出時系列データとそのクラス境界の種類に対応する前記参照時系列データとにおける各フレーム間の類似度について、そのクラス境界の後の部分について算出された類似度の方がそのクラス境界の前の部分について算出された類似度よりも低い場合、その被抽出時系列データと、各クラスに属する時系列データの先頭部分との類似度を算出し、その類似度が閾値以上であるクラスで、誤りがあると判定されたクラス境界が示す後のクラスを修正する、請求項6に記載のクラス境界検出装置。
  9. コンピュータによって実行される制御方法であって、
    解析対象の時系列データである対象時系列データを取得する取得ステップと、
    前記対象時系列データから複数の被抽出時系列データを抽出し、2つの互いに異なるクラスのクラス境界を表す参照時系列データと、各前記被抽出時系列データとの類似度を算出する算出ステップと、
    前記算出された類似度が閾値以上である前記被抽出時系列データから、前記参照時系列データによって表されるクラス境界を検出する検出ステップと、を有し、
    前記参照時系列データは、前記クラス境界が示す前のクラスに属する時系列データの末尾の部分の後に、前記クラス境界が示す後のクラスに属する時系列データの先頭の部分を有する、制御方法。
  10. 析対象の時系列データである対象時系列データを取得する取得ステップと、
    前記対象時系列データから複数の被抽出時系列データを抽出し、2つの互いに異なるクラスのクラス境界を表す参照時系列データと、各前記被抽出時系列データとの類似度を算出する算出ステップと、
    前記算出された類似度が閾値以上である前記被抽出時系列データから、前記参照時系列データによって表されるクラス境界を検出する検出ステップと、をコンピュータに実行させ、
    前記参照時系列データは、前記クラス境界が示す前のクラスに属する時系列データの末尾の部分の後に、前記クラス境界が示す後のクラスに属する時系列データの先頭の部分を有する、プログラム
JP2023555920A 2021-10-26 2021-10-26 クラス境界検出装置、制御方法、及びプログラム Active JP7619474B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/039405 WO2023073795A1 (ja) 2021-10-26 2021-10-26 クラス境界検出装置、制御方法、及び非一時的なコンピュータ可読媒体

Publications (3)

Publication Number Publication Date
JPWO2023073795A1 JPWO2023073795A1 (ja) 2023-05-04
JPWO2023073795A5 JPWO2023073795A5 (ja) 2024-07-12
JP7619474B2 true JP7619474B2 (ja) 2025-01-22

Family

ID=86159222

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023555920A Active JP7619474B2 (ja) 2021-10-26 2021-10-26 クラス境界検出装置、制御方法、及びプログラム

Country Status (3)

Country Link
US (1) US20240404248A1 (ja)
JP (1) JP7619474B2 (ja)
WO (1) WO2023073795A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118568798B (zh) * 2024-05-30 2025-03-04 中国航空发动机研究院 结构网格的边界类型的识别方法和装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008005167A (ja) 2006-06-21 2008-01-10 Hokkaido Univ 映像分類装置、映像分類方法、映像分類プログラムおよびコンピュータ読取可能な記録媒体
JP2008065265A (ja) 2006-09-11 2008-03-21 Toshiba Corp 信号分割装置及びその方法
US20080316307A1 (en) 2007-06-20 2008-12-25 Fraunhofer-Gesellschaft Zur Forderung Der Angewandten Forschung E.V. Automated method for temporal segmentation of a video into scenes with taking different types of transitions between frame sequences into account
JP2014241457A (ja) 2011-10-04 2014-12-25 シャープ株式会社 シーンチェンジ検出装置、表示装置、シーンチェンジ検出方法およびシーンチェンジ検出プログラム
JP2020024277A (ja) 2018-08-07 2020-02-13 国立研究開発法人情報通信研究機構 データ・セグメンテーション装置
JP2021111401A (ja) 2020-01-10 2021-08-02 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド ビデオ時系列動作の検出方法、装置、電子デバイス、プログラム及び記憶媒体

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008005167A (ja) 2006-06-21 2008-01-10 Hokkaido Univ 映像分類装置、映像分類方法、映像分類プログラムおよびコンピュータ読取可能な記録媒体
JP2008065265A (ja) 2006-09-11 2008-03-21 Toshiba Corp 信号分割装置及びその方法
US20080316307A1 (en) 2007-06-20 2008-12-25 Fraunhofer-Gesellschaft Zur Forderung Der Angewandten Forschung E.V. Automated method for temporal segmentation of a video into scenes with taking different types of transitions between frame sequences into account
JP2014241457A (ja) 2011-10-04 2014-12-25 シャープ株式会社 シーンチェンジ検出装置、表示装置、シーンチェンジ検出方法およびシーンチェンジ検出プログラム
JP2020024277A (ja) 2018-08-07 2020-02-13 国立研究開発法人情報通信研究機構 データ・セグメンテーション装置
JP2021111401A (ja) 2020-01-10 2021-08-02 ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド ビデオ時系列動作の検出方法、装置、電子デバイス、プログラム及び記憶媒体

Also Published As

Publication number Publication date
WO2023073795A1 (ja) 2023-05-04
US20240404248A1 (en) 2024-12-05
JPWO2023073795A1 (ja) 2023-05-04

Similar Documents

Publication Publication Date Title
JP6994588B2 (ja) 顔特徴抽出モデル訓練方法、顔特徴抽出方法、装置、機器および記憶媒体
CN109145766B (zh) 模型训练方法、装置、识别方法、电子设备及存储介质
JP5554984B2 (ja) パターン認識方法およびパターン認識装置
US9275307B2 (en) Method and system for automatic selection of one or more image processing algorithm
JP6216024B1 (ja) 学習済モデル生成方法及び信号データ判別装置
CN109948497A (zh) 一种物体检测方法、装置及电子设备
US9971954B2 (en) Apparatus and method for producing image processing filter
CN117809168B (zh) 一种基于水下目标的固有属性特征进行检测的方法及装置
US11527067B2 (en) Electronic device, action instance generation method, and recording medium
CN108875502B (zh) 人脸识别方法和装置
CN112381071A (zh) 一种视频流中目标的行为分析方法、终端设备及介质
CN107516102A (zh) 图像数据分类与建立分类模型方法、装置及系统
CN113947209A (zh) 基于云边协同的集成学习方法、系统及存储介质
CN113591969B (zh) 面部相似度评测方法、装置、设备以及存储介质
CN115019057A (zh) 图像特征提取模型确定方法及装置、图像识别方法及装置
JP7619474B2 (ja) クラス境界検出装置、制御方法、及びプログラム
CN111209847A (zh) 一种暴力分拣的识别方法及装置
CN114429661A (zh) 基于局域监督的人脸三维卡通化方法、装置、设备及介质
CN111639517B (zh) 人脸图像筛选方法及装置
CN111507135A (zh) 人脸检测方法、装置、计算机设备及存储介质
CN110489592B (zh) 视频分类方法、装置、计算机设备和存储介质
CN119106544B (zh) 一种基于行为树的仿真模型行为实现方法及装置
JP6393495B2 (ja) 画像処理装置および物体認識方法
CN113378774A (zh) 手势识别方法、装置、设备、存储介质以及程序产品
CN116824609B (zh) 文档版式检测方法、装置和电子设备

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240419

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241223

R150 Certificate of patent or registration of utility model

Ref document number: 7619474

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150