JP7367383B2 - Image recognition application construction support system and program - Google Patents
Image recognition application construction support system and program Download PDFInfo
- Publication number
- JP7367383B2 JP7367383B2 JP2019150870A JP2019150870A JP7367383B2 JP 7367383 B2 JP7367383 B2 JP 7367383B2 JP 2019150870 A JP2019150870 A JP 2019150870A JP 2019150870 A JP2019150870 A JP 2019150870A JP 7367383 B2 JP7367383 B2 JP 7367383B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- terminal device
- viewpoint
- support system
- image recognition
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Description
本発明は、画像認識アプリケーションの構築を支援するシステム(以下、「画像認識アプリケーション構築支援システム」と言う)及びプログラムに関する。 The present invention relates to a system (hereinafter referred to as "image recognition application construction support system") and a program for supporting construction of an image recognition application.
近年、ディープラーニングによる画像認識の性能向上に伴い、画像認識を活用したアプリケーションの現場適用が様々な分野で検討されている。空港等のゲートにおける顔認識、工場の生産ラインにおける工業製品の検品等、撮影の対象となる被写体とカメラの位置関係をある程度制限した環境では、画像認識を活用したアプリケーションの現場適用の運用が始まっている。 In recent years, as the performance of image recognition has improved through deep learning, the field application of applications that utilize image recognition is being considered in various fields. In environments where the positional relationship between the subject and the camera is restricted to some extent, such as facial recognition at airport gates and inspection of industrial products on factory production lines, on-site applications of applications that utilize image recognition have begun. ing.
被写体を撮影するカメラの視点が固定の場合、例えばImageNet等の既存のオープンなデータセットを学習用に流用しやすく、導入先でのデータの追加も容易である。被写体を撮影するカメラの視点が固定の場合の一例として、視点が利用者の正面である顔認識がある。 If the viewpoint of the camera that photographs the subject is fixed, it is easy to use existing open datasets such as ImageNet for learning, and it is also easy to add data at the installation site. An example of a case where the viewpoint of a camera that photographs a subject is fixed is face recognition, where the viewpoint is in front of the user.
被写体を撮影するカメラの視点を固定できない場合には、想定する視点の数だけ学習用データを準備する必要がある。しかし、既存のオープンなデータセットでは、視点の偏りがあり、視点の偏りがあるデータセットで学習したモデルには、視点によって認識精度にばらつきが生じてしまう。 If the viewpoint of the camera that photographs the subject cannot be fixed, it is necessary to prepare training data equal to the number of assumed viewpoints. However, existing open datasets have viewpoint bias, and models trained on datasets with viewpoint bias will have variations in recognition accuracy depending on the viewpoint.
なお、形状モデルを準備して学習データの不足を補う場合、形状モデルの作成が必要となる。しかし、形状モデルの作成には、高いスキルを必要とするため、一般の利用者がそのような形状モデルを作成することは困難である。 Note that when preparing a shape model to compensate for the lack of learning data, it is necessary to create a shape model. However, since creating a shape model requires a high level of skill, it is difficult for general users to create such a shape model.
一方、形状モデルを作成せずに、様々な視点から撮影した画像を準備しても良い。しかし、この場合、データセットの作成に膨大な時間を必要としてしまう。 On the other hand, images taken from various viewpoints may be prepared without creating a shape model. However, in this case, creating a dataset requires a huge amount of time.
従来の画像認識アプリケーション構築支援システムでは、無駄なくデータを収集して、構築作業の工数を削減することは難しい。 With conventional image recognition application construction support systems, it is difficult to collect data without waste and reduce the number of man-hours required for construction work.
そこで、1つの側面では、無駄なくデータを収集して、構築作業の工数を削減できる画像認識アプリケーション構築支援システム及びプログラムを提供することを目的とする。 Therefore, one aspect of the present invention is to provide an image recognition application construction support system and program that can collect data without waste and reduce the number of man-hours for construction work.
1つの案によれば、端末装置と無線通信可能な画像認識アプリケーション構築支援システムであって、画像データセットの各画像がどの視点から撮影されたかを示すメタ情報を画像と共にメモリに保存して管理する管理手段と、前記メモリに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析する分析手段と、統計分析の結果を、各画像の視点を視点座標毎にカウントした値の分布を表す前記モデルのヒートマップで提示することで、不足している視点の画像を前記端末装置に識別可能に提示する提示手段と、を備えた画像認識アプリケーション構築支援システムが提供される。
According to one proposal, it is an image recognition application construction support system that can wirelessly communicate with a terminal device, which stores and manages meta information indicating from which viewpoint each image of an image data set was taken in memory together with the image. a management means for statistically analyzing the distribution of viewpoints of a plurality of images used by the image recognition engine for model learning among the information stored in the memory; Construction of an image recognition application, comprising: presentation means for presenting an image of a missing viewpoint in an identifiable manner to the terminal device by presenting it as a heat map of the model representing the distribution of values counted for each viewpoint coordinate ; Support systems are provided.
一態様によれば、無駄なくデータを収集して、構築作業の工数を削減できる。 According to one aspect, data can be collected without waste and the number of man-hours for construction work can be reduced.
以下に、開示の画像認識アプリケーション構築支援システム及びプログラムの各実施例を図面と共に説明する。 Embodiments of the disclosed image recognition application construction support system and program will be described below with reference to the drawings.
図1は、第1実施例における画像認識アプリケーション構築支援システムの一例を示す機能ブロック図である。図1に示す画像認識アプリケーション構築支援システム(以下、単に「支援システム」とも言う)1は、例えば汎用のコンピュータで形成可能であり、管理部11と、分析部12と、提示部13と、推定部14を有する。
FIG. 1 is a functional block diagram showing an example of an image recognition application construction support system in the first embodiment. The image recognition application construction support system (hereinafter also simply referred to as "support system") 1 shown in FIG. It has a
視点座標抽出部3は、画像データセット2から画像を取得して、当該画像内の被写体である対象物を撮影したカメラの視点座標(以下、「画像の視点座標」とも言う)を周知の方法で抽出する。画像内の対象物を撮影したカメラの視点座標を抽出する周知の方法は、特に限定されないが、例えば特許文献4に記載された周知技術を用いても良い。画像データセット2は、例えばImageNet等の既存のオープンなデータセットであっても良い。視点座標抽出部3は、取得した画像と抽出した画像の視点座標を、支援システム1の管理部11に供給する。画像データセット2及び視点座標抽出部3は、支援システム1からアクセス可能なクラウドコンピューティングシステムに含まれていても良い。また、視点座標抽出部3は、支援システム1に含まれていても良い。
The viewpoint
端末装置4は、例えばスマートフォン、タブレット等の携帯型の電子装置により形成可能である。端末装置4は、支援システム1と通信を行う通信装置と、入力装置を有する。端末装置4の通信装置は、支援システム1と、例えばWi-Fi(登録商標)の規格の信号を用いて通信を行う無線通信機能を有する。なお、無線通信機能は、BT(Bluetooth(登録商標))、BLE(Bluetooth (登録商標)Low Energy)等の、Wi-Fi(登録商標)以外の規格の信号を用いて通信を行っても良いことは、言うまでもない。端末装置4の入力装置は、カメラ、カメラの傾き(又は、姿勢)を周知の方法で推定するのに用いる情報(以下、「センサ情報」とも言う)を出力するセンサ等を含む。センサ情報からカメラの傾きを推定する周知の方法は、特に限定されない。 The terminal device 4 can be formed by a portable electronic device such as a smartphone or a tablet. The terminal device 4 includes a communication device that communicates with the support system 1 and an input device. The communication device of the terminal device 4 has a wireless communication function that communicates with the support system 1 using, for example, signals of the Wi-Fi (registered trademark) standard. Note that the wireless communication function may perform communication using signals of standards other than Wi-Fi (registered trademark), such as BT (Bluetooth (registered trademark)) and BLE (Bluetooth (registered trademark) Low Energy). That goes without saying. The input device of the terminal device 4 includes a camera, a sensor that outputs information (hereinafter also referred to as "sensor information") used to estimate the tilt (or posture) of the camera using a well-known method, and the like. Known methods for estimating camera tilt from sensor information are not particularly limited.
支援システム1において、管理部11は、視点座標抽出部3から得られる、画像認識エンジンの学習に使用する1枚以上の画像と、当該画像の視点座標をメタ情報としてデータベース(DB:Data-Base)に保存して管理する管理手段の一例である。管理部11は、学習用画像データセットの各画像と、各画像の視点座標を紐付けしてメタ情報としてDBに保存して管理する。つまり、管理部11は、画像データセット2の各画像がどの視点から撮影されたかを示すメタ情報を画像と共にDBに保存して管理する。DBは、例えば支援システム1内のメモリで形成可能である。
In the support system 1, the
分析部12は、DBに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析する分析手段の一例である。分析部12は、学習したモデル毎に、学習に使用した画像の視点の分布を統計分析する。提示部13は、統計分析の結果を数値、図等で端末装置4に対して提示する提示手段の一例である。提示部13は、例えば統計分析の結果を、端末装置14の表示装置に表示する。
The
推定部14は、端末装置4のカメラで画像を撮影して学習用画像データとして追加する際に、端末装置4のセンサから得られるセンサ情報を元に、端末装置4のカメラが対象物を撮影した視点座標を周知の方法で推定する推定手段の一例である。画像の視点座標は、センサ情報から周知の方法で推定したカメラの傾きと、例えば画像の中央部に写っている対象物との位置関係から周知の方法で推定することができる。
When the
図2は、第1実施例における画像認識アプリケーション構築支援システムの動作の一例を説明するフローチャートである。図2に示す処理のうち、ステップS1の処理は、管理部11が実行可能である。ステップS2の処理は、分析部12が実行可能であり、ステップS3の処理は、提示部13が実行可能である。ステップS4,S5の処理は、端末装置4が実行可能であり、ステップS6,S7の処理は、推定部14が実行可能である。
FIG. 2 is a flowchart illustrating an example of the operation of the image recognition application construction support system in the first embodiment. Among the processes shown in FIG. 2, the process in step S1 can be executed by the
ステップS1では、管理部11が、視点座標抽出部3から得られる、画像認識エンジンの学習に使用する学習用画像データセットの1枚以上の画像と、当該画像の視点座標を紐付けしてメタ情報としてDBに保存して管理する。1枚以上の画像と視点座標を紐付けしてメタ情報として保存するDBは、例えば支援システム1内のメモリで形成可能である。
In step S1, the
ステップS2では、分析部12が、DBに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析する。
In step S2, the
ステップS3では、提示部13が、統計分析の結果を数値、図等で端末装置4に提示する。統計分析の結果を図で提示する場合、例えばモデルのヒートマップを端末装置4の表示装置に表示しても良い。この場合、モデルのヒートマップは、例えば各画像の視点を視点座標毎にカウントした値の分布を表す。従って、提示部13は、統計分析の結果をモデルのヒートマップで提示することで、各画像の視点を視点座標毎にカウントした値が一定値未満であるか否かに応じて不足している視点の画像を識別可能に提示できる。
In step S3, the
ステップS4では、端末装置4が、例えば提示された統計分析の結果から、視点の分布が十分であるか否かを判断する。視点の分布が十分であるか否かは、例えばヒートマップにおいて、各画像の視点を視点座標毎にカウントした値が一定値以上であるか否かに基づいて判断しても良い。端末装置4が、視点の分布が十分でないと判断してステップS4の判定結果がNOであると、処理は後述するステップS5へ進む。一方、端末装置4が、視点の分布が十分であると判断してステップS4の判定結果がYESであると、処理はステップS8へ進み、画像認識エンジンがモデルを再学習し、処理は終了する。 In step S4, the terminal device 4 determines whether the distribution of viewpoints is sufficient, based on, for example, the presented statistical analysis results. Whether the distribution of viewpoints is sufficient may be determined, for example, based on whether or not a value obtained by counting the viewpoints of each image for each viewpoint coordinate is equal to or greater than a certain value in a heat map. If the terminal device 4 determines that the distribution of viewpoints is not sufficient and the determination result in step S4 is NO, the process proceeds to step S5, which will be described later. On the other hand, if the terminal device 4 determines that the viewpoint distribution is sufficient and the determination result in step S4 is YES, the process proceeds to step S8, the image recognition engine relearns the model, and the process ends. .
ステップS5では、端末装置4が、統計分析の結果に基づき、利用者に不足している視点座標からの画像の撮影を促すメッセージを、表示する等して通知する。利用者が、通知されたメッセージに応じて端末装置4のカメラで不足している視点座標から画像を撮影すると、ステップS5では、端末装置4が、各画像の撮影時のセンサ情報を取得して画像と共に支援システム1に送信する。具体的には、取得したセンサ情報を画像と共に、支援システム1の管理部11に送信する。
In step S5, the terminal device 4 notifies the user by displaying a message urging the user to take an image from the missing viewpoint coordinates based on the result of the statistical analysis. When the user photographs images from the missing viewpoint coordinates with the camera of the terminal device 4 in response to the notified message, in step S5, the terminal device 4 acquires sensor information at the time of photographing each image. It is sent to the support system 1 along with the image. Specifically, the acquired sensor information is transmitted to the
ステップS4の判断を端末装置4が実行し、ステップS5の撮影を端末装置4側が主導して利用者に行わせる場合には、利用者は、基本的には端末装置4からの指示に応じた操作を行えば良いため、利便性が良い。 When the terminal device 4 executes the determination in step S4 and the terminal device 4 side takes the initiative in photographing in step S5 and has the user take the lead, the user basically responds to the instructions from the terminal device 4. It is convenient because all you have to do is perform the operation.
なお、ステップS4では、利用者が、端末装置4の表示装置に表示されたヒートマップ等を見て、視点の分布が十分であるか否かを判断するようにしても良い。この場合、利用者は、端末装置4の表示装置に表示されたヒートマップから、視点の分布を容易に理解できる。利用者が、視点の分布が十分でないと判断して不足情報を送信する送信操作を選択すると、ステップS4の判定結果がNOとなり、処理はステップS5へ進む。ステップS5では、利用者が、端末装置4のカメラで不足している視点座標から画像を撮影し、端末装置4のセンサから各画像の撮影時のセンサ情報を取得すると、画像とセンサ情報を支援システム1の推定部14に送信する。一方、利用者が、視点の分布が十分であると判断して上記送信操作を選択しないと、ステップS4の判定結果がYESとなり、処理はステップS8へ進み、画像認識エンジンがモデルを再学習し、処理は終了する。例えば、利用者が一定時間内に送信操作を選択しないと、視点の分布が十分であると判断してステップS4の判定結果がYESとなるようにしても良い。
Note that in step S4, the user may look at a heat map or the like displayed on the display device of the terminal device 4 and judge whether the distribution of viewpoints is sufficient. In this case, the user can easily understand the distribution of viewpoints from the heat map displayed on the display device of the terminal device 4. If the user determines that the distribution of viewpoints is insufficient and selects a transmission operation to transmit the missing information, the determination result in step S4 becomes NO, and the process proceeds to step S5. In step S5, when the user shoots an image from the missing viewpoint coordinates with the camera of the terminal device 4 and obtains the sensor information at the time of shooting each image from the sensor of the terminal device 4, the user supports the image and sensor information. It is transmitted to the
ステップS4の判断及びステップS5の撮影を、利用者側が主導して行う場合には、端末装置4の処理の負荷を軽減できる。 If the user takes the initiative in making the determination in step S4 and taking the photograph in step S5, the processing load on the terminal device 4 can be reduced.
ステップS6では、支援システム1の推定部14が、端末装置4から受信した画像の視点座標を、端末装置4から受信したセンサ情報を元に周知の方法で推定する。具体的には、端末装置4から受信した画像の視点座標は、センサ情報から周知の方法で推定したカメラの傾きと、例えば画像の中央部に写っている対象物との位置関係から周知の方法で推定する。
In step S6, the
ステップS7では、推定部14が、撮影した画像と推定した視点座標を、紐付けしてメタ情報として支援システム1のDBに追加することを管理部11に指示し、処理はステップS2へ戻る。これにより、管理部11は、推定部14からの指示に応答して、不足している視点座標から撮影した画像と、画像内の対象物を撮影した際の視点座標を紐付けして、支援システム1のDBに追加する。
In step S7, the
図3は、コンピュータシステムの一例を示すブロック図である。図3に示すハードウェア構成を有するコンピュータシステム100は、例えば図1に示す支援システム1を形成可能である。
FIG. 3 is a block diagram showing an example of a computer system. The
コンピュータシステム100は、バス120を介して互いに接続されたプロセッサ121と、メモリ122と、入力装置123と、表示装置124と、インタフェース(又は、通信装置)125とを有する。プロセッサ121は、例えば中央処理装置(CPU:Central Processing Unit)等で形成可能であり、メモリ122に記憶されたプログラムを実行して、コンピュータシステム100全体の制御を司る。
メモリ122は、例えば半導体記憶装置、磁気記録媒体、光記録媒体、光磁気記録媒体等により形成可能である。メモリ122は、プロセッサ121が実行する各種プログラム、各種データ等を記憶する記憶装置の一例であり、支援システム1のDBを形成可能である。記憶装置は、CD-ROM(Compact Disk-Read Only Memory)、DVD(Digital Versatile Disk)、USB(Universal Serial Bus)メモリ等の可搬型記録媒体、フラッシュメモリ等の半導体メモリ等であっても良い。また、記憶装置は、プログラムを記憶したコンピュータ読み取り可能な記憶媒体であっても良い。更に、記憶装置は、複数の記憶装置で形成されていても良く、この場合、コンピュータシステム100に外部接続された記憶装置を含んでも良い。
The
入力装置123は、利用者により操作される例えばキーボード等で形成可能であり、プロセッサ121にコマンド及びデータを入力するのに用いられる。表示装置124は、利用者に対するメッセージ、処理結果等を表示するのに用いられる。なお、入力装置123と表示装置124とが一体的に設けられたタッチパネルを用いても良い。インタフェース125は、無線通信機能を有し、コンピュータシステム100と他の装置との間の情報、コマンド等の授受を司る通信手段の一例である。
The
コンピュータシステム100が図1に示す支援システム1を形成する場合、プロセッサ121は、メモリ122が記憶するプログラムを実行して、図2に示すステップS1,S2,S3,S6,S7の処理を実行する。
When the
なお、コンピュータシステム100は、当該コンピュータシステム100の構成要素がバス120を介して接続されたハードウェア構成に限定されるものではなく、汎用のコンピュータにより形成可能である。
Note that the
また、図3に示すハードウェア構成を有するコンピュータシステム100は、例えば図1に示す端末装置4を形成可能である。端末装置4を形成するコンピュータシステム100の場合、入力装置123は、カメラ、カメラの傾きを推定するのに用いる情報を出力するセンサ等を更に含む。カメラの傾きを推定するのに用いる情報を出力するセンサは、例えば3軸加速度センサ、ジャイロセンサ等であっても良い。
Further, the
コンピュータシステム100が図1に示す端末装置4を形成する場合、プロセッサ121は、メモリ122が記憶するプログラムを実行して、図2に示すステップS4,S5の処理を実行する。
When the
図4は、第2実施例における画像認識アプリケーション構築支援システムの一例を示す機能ブロック図である。図4中、図1と同一部分には同一符号を付し、その説明は省略する。図4に示す支援システム1Aは、管理部11と、分析部12と、提示部13を有する。
FIG. 4 is a functional block diagram showing an example of an image recognition application construction support system in the second embodiment. In FIG. 4, the same parts as in FIG. 1 are designated by the same reference numerals, and their explanation will be omitted. The
端末装置4Aは、例えばスマートフォン、タブレット等により形成可能である。端末装置4は、支援システム1Aと通信を行う通信装置と、カメラとセンサを含む入力装置と、推定部14Aを有する。推定部14Aは、端末装置4Aのカメラで画像を撮影して学習用画像データとして追加する際に、端末装置4Aのセンサから得られるセンサ情報を元に、端末装置4Aのカメラが対象物を撮影した視点座標を周知の方法で推定する推定手段の一例である。画像の視点座標は、センサ情報から周知の方法で推定したカメラの傾きと、例えば画像の中央部に写っている対象物との位置関係から周知の方法で推定することができる。
The
図5は、第2実施例における画像認識アプリケーション構築支援システムの動作の一例を説明するフローチャートである。図5中、図2と同一ステップには同一符号を付し、その説明は省略する。 FIG. 5 is a flowchart illustrating an example of the operation of the image recognition application construction support system in the second embodiment. In FIG. 5, steps that are the same as those in FIG. 2 are given the same reference numerals, and their explanations will be omitted.
図5に示す処理のうち、ステップS4,S5の処理は、端末装置4Aが実行可能であり、ステップS6A,S7Aの処理は、端末装置4Aの推定部14Aが実行可能である。
Among the processes shown in FIG. 5, the processes in steps S4 and S5 can be executed by the
ステップS4,S5では、端末装置4Aが第1実施例における端末装置4と同様の処理を実行する。ステップS6Aでは、端末装置4Aの推定部14Aが、画像内の対象物を撮影した際の視点座標を、端末装置4Aのセンサから受信したセンサ情報を元に周知の方法で推定する。ステップS7Aでは、端末装置4Aの推定部14Aが、撮影した画像と推定した視点座標を、紐付けしてメタ情報として支援システム1AのDBに追加することを管理部11に指示し、処理はステップS2へ戻る。これにより、管理部11は、推定部14Aからの指示に応答して、不足している視点座標から撮影した画像と、画像内の対象物を撮影した際の視点座標を紐付けして、支援システム1AのDBに追加する。
In steps S4 and S5, the
図3に示すコンピュータシステム100が図4に示す支援システム1Aを形成する場合、プロセッサ121は、メモリ122が記憶するプログラムを実行して、図5に示すステップS1,S2,S3の処理を実行する。
When the
図3に示すコンピュータシステム100が図4に示す端末装置4Aを形成する場合、プロセッサ121は、メモリ122が記憶するプログラムを実行して、図5に示すステップS4,S5,S6A,S7Aの処理を実行する。
When the
図6は、画像認識アプリケーション構築支援システムの効果を説明する図である。図6中、図1及び図4と同一部分には同一符号を付し、その説明は省略する。 FIG. 6 is a diagram illustrating the effects of the image recognition application construction support system. In FIG. 6, the same parts as in FIGS. 1 and 4 are given the same reference numerals, and their explanations will be omitted.
図6に示すように、画像データセット2の画像の視点座標、即ち、画像中の対象物である被写体を撮影したカメラの視点座標を、例えば特許文献4に記載された周知技術を用いて抽出し、メタ情報として画像と共に支援システムのDBに保存する。被写体の視点座標(x0,y0,z0)は、例えばxyz座標系で表される。この場合、例えば被写体が乗り物、花及び野球選手の場合、これらの被写体の画像と、夫々の視点座標(x1,y1,z1),(x2,y2,z2),(x3,y3,z3)を紐付けしてメタ情報として支援システムのDBに保存して管理する。 As shown in FIG. 6, the viewpoint coordinates of the image of image data set 2, that is, the viewpoint coordinates of the camera that photographed the object in the image, are extracted using the well-known technique described in Patent Document 4, for example. Then, it is saved in the support system's DB as meta information along with the image. The viewpoint coordinates (x 0 , y 0 , z 0 ) of the subject are expressed, for example, in an xyz coordinate system. In this case, for example, if the subjects are vehicles, flowers, and baseball players, images of these subjects and their respective viewpoint coordinates (x 1 , y 1 , z 1 ), (x 2 , y 2 , z 2 ), (x 3 , y 3 , z 3 ) are linked together and stored as meta information in the support system's DB for management.
支援システムのDBに保存した画像と視点のデータセットを、学習用画像データセットとして画像認識エンジンによるモデルの学習に用いる際、モデルに使用した画像の視点の分布を統計分析して、利用者に提示する。統計分析の結果は、例えば球状の座標におけるモデルのヒートマップで端末装置4(4A)の表示装置に表示する。つまり、学習したモデルを現場で導入する際、統計分析の結果を用い、現場で必要な視点の画像がどれくらい不足しているかを、現場にいる利用者に提示する。学習用画像データセットのうち、何枚かの画像がモデルの学習に使用された場合、各画像の視点を視点座標毎にカウントし、ヒートマップ等で可視化する。図6に示す例では、ヒートマップにおいて、各画像の視点を視点座標毎にカウントした値が大きい領域は黒色で示し、カウントした値が中程度の領域が灰色で示し、カウントした値が小さい領域は白色で示す。この例では、モデルのヒートマップから、被写体の側面の視点から撮影された画像が多く、真上の視点から撮影された画像が少ないことがわかる。 When a dataset of images and viewpoints stored in the support system's database is used as a training image dataset for model learning by an image recognition engine, the distribution of viewpoints of the images used in the model is statistically analyzed and provided to the user. present. The results of the statistical analysis are displayed on the display device of the terminal device 4 (4A), for example, as a heat map of the model in spherical coordinates. In other words, when the learned model is introduced in the field, the results of statistical analysis are used to show users at the site how many images from the required viewpoints are lacking. When some images from the training image data set are used for model learning, the viewpoints of each image are counted for each viewpoint coordinate and visualized using a heat map or the like. In the example shown in Figure 6, in the heat map, areas where the counted value of the viewpoint of each image is large for each viewpoint coordinate are shown in black, areas where the counted value is medium are shown in gray, and areas where the counted value is small. is shown in white. In this example, the heat map of the model shows that there are many images taken from a viewpoint on the side of the subject, and few images taken from a viewpoint directly above the subject.
そこで、利用者は、モデルのヒートマップから判明した、不足している視点の画像を、端末装置4(4A)のカメラで撮影して追加することができる。例えば、被写体である乗り物がスクーターであれば、利用者は端末装置4(4A)のカメラで、スクーターの真上周辺の視点からスクーターを撮影する。端末装置4(4A)は、カメラの傾きを推定するのに用いるセンサ情報を出力するセンサを有する。利用者が、現場で不足している視点の画像を中心に被写体を撮影すると、撮影に使用した端末装置4(4A)で取得できるセンサ情報から推定したカメラの傾きと、例えば画像の中央部に写っている被写体との位置関係から、画像の視点座標を推定することができる。これにより、現場で撮影した画像の視点座標を、画像と共に支援システムのDB内の学習用画像データセットに追加することができる。 Therefore, the user can add images of missing viewpoints found from the heat map of the model by photographing them with the camera of the terminal device 4 (4A). For example, if the vehicle to be photographed is a scooter, the user uses the camera of the terminal device 4 (4A) to photograph the scooter from a viewpoint directly above and around the scooter. The terminal device 4 (4A) has a sensor that outputs sensor information used to estimate the tilt of the camera. When a user photographs a subject at the scene, focusing on the image from the missing viewpoint, the tilt of the camera estimated from the sensor information obtained by the terminal device 4 (4A) used for photographing and, for example, the center of the image The viewpoint coordinates of an image can be estimated from the positional relationship with the photographed subject. Thereby, the viewpoint coordinates of the image taken at the scene can be added to the learning image data set in the DB of the support system together with the image.
利用者は、モデルのヒートマップを見て、不足している視点の画像を把握できるので、不足している視点から端末装置4(4A)のカメラで被写体の画像を撮影することができる。利用者は、不足している視点の画像のみを撮影して学習用画像データとして追加すれば良いため、効率良く低コストでシステム構築を実現できる。 Since the user can see the heat map of the model and understand the images of the missing viewpoints, the user can take images of the subject from the missing viewpoints with the camera of the terminal device 4 (4A). Since the user only needs to take images from the missing viewpoints and add them as training image data, the system can be constructed efficiently and at low cost.
このように、画像データセットに含まれる画像の撮影条件を分析し、不足した撮影条件の画像を取得しつつ、新たな撮影条件も撮影に使用する端末装置4(4A)のセンサを使って収集することで、無駄なくデータを収集でき、構築作業のコストを削減できる。また、画像認識システムの構築において、多くのコスト(即ち、人の作業時間)を要する学習画像データの収集の工数を削減できる。 In this way, the shooting conditions of the images included in the image data set are analyzed, and images with missing shooting conditions are acquired, while new shooting conditions are also collected using the sensor of the terminal device 4 (4A) used for shooting. By doing so, data can be collected without waste and construction costs can be reduced. Further, in constructing an image recognition system, it is possible to reduce the number of steps for collecting learning image data, which requires a lot of cost (that is, human work time).
端末装置4(4A)が、提示された統計分析の結果から、視点の分布が十分であるか否かを判断しても良い。この場合、端末装置4(4A)が、統計分析の結果に基づき、利用者に不足している視点座標からの画像の撮影を促すメッセージを、表示する等して通知れば良い。利用者は、基本的には端末装置4からの指示に応じた操作を行えば良いため、利便性が良い。 The terminal device 4 (4A) may determine whether the distribution of viewpoints is sufficient based on the presented statistical analysis results. In this case, the terminal device 4 (4A) may notify the user by displaying a message urging the user to take an image from the missing viewpoint coordinates based on the result of the statistical analysis. Since the user basically only has to perform operations according to instructions from the terminal device 4, it is convenient.
上記の各実施例によれば、画像データセットに含まれる画像の撮影条件を分析し、不足した撮影条件の画像を取得しつつ、新たな撮影条件も撮影に使用する端末装置のセンサを使って収集する。これにより、無駄なくデータを収集して、画像認識アプリケーションを構築する作業の工数を削減できるので、構築する作業のコストを削減できる。また、例えばカメラが対象物を撮影する視点が固定できない場合であっても、学習用画像データセットを分析し、学習用画像データセットの画像の視点のばらつきを利用者に提示することで、不足している視点からの画像データの収集を支援することができる。 According to each of the embodiments described above, the shooting conditions of images included in the image data set are analyzed, and while images with missing shooting conditions are acquired, new shooting conditions are also acquired using the sensor of the terminal device used for shooting. collect. This makes it possible to collect data without waste and reduce the number of steps needed to build an image recognition application, thereby reducing the cost of building the image recognition application. In addition, even if the viewpoint from which the camera photographs the object cannot be fixed, for example, the learning image dataset can be analyzed and the variations in the viewpoints of the images in the training image dataset can be presented to the user. It is possible to support the collection of image data from a certain viewpoint.
以上の実施例を含む実施形態に関し、更に以下の付記を開示する。
(付記1)
端末装置と無線通信可能な画像認識アプリケーション構築支援システムであって、
画像データセットの各画像がどの視点から撮影されたかを示すメタ情報を画像と共にメモリに保存して管理する管理手段と、
前記メモリに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析する分析手段と、
統計分析の結果を前記端末装置に提示する提示手段と、
を備えたことを特徴とする、画像認識アプリケーション構築支援システム。
(付記2)
前記提示手段は、前記統計分析の結果を、各画像の視点を視点座標毎にカウントした値の分布を表す前記モデルのヒートマップで提示することで、不足している視点の画像を識別可能に提示することを特徴とする、付記1記載の画像認識アプリケーション構築支援システム。
(付記3)
前記端末装置のカメラで撮影した画像と、前記端末装置のセンサから得られる、前記カメラの傾きを推定するのに用いるセンサ情報を前記端末装置から受信し、前記センサ情報から推定した前記カメラの傾きと前記撮影した画像中の被写体との位置関係から視点を推定して前記メモリへの追加保存を指示する推定手段を更に備え、
前記管理手段は、前記指示に応答して、前記推定手段が受信した画像と推定した視点を紐付けして前記メモリへ追加保存することを特徴とする、付記1又は2記載の画像認識アプリケーション構築支援システム。
(付記4)
前記管理手段は、前記画像データセットの各画像と、各画像から抽出された各画像の視点座標を、前記画像認識アプリケーション構築支援システムからアクセス可能なクラウドコンピューティングシステムから取得することを特徴とする、付記1乃至3のいずれか1項記載の画像認識アプリケーション構築支援システム。
(付記5)
前記画像データセットは、オープンなデータセットであることを特徴とする、付記4記載の画像認識アプリケーション構築支援システム。
(付記6)
端末装置と無線通信可能なコンピュータに、画像認識アプリケーションの構築を支援させるプログラムであって、
画像データセットの各画像がどの視点から撮影されたかを示すメタ情報を画像と共にメモリに保存して管理し、
前記メモリに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析し、
統計分析の結果を前記端末装置に提示する、
処理を前記コンピュータに実行させるためのプログラム。
(付記7)
前記提示する処理は、前記統計分析の結果を、各画像の視点を視点座標毎にカウントした値の分布を表す前記モデルのヒートマップで提示することで、不足している視点の画像を識別可能に提示する、付記6記載のプログラム。
(付記8)
前記端末装置のカメラで撮影した画像と、前記端末装置のセンサから得られる、前記カメラの傾きを推定するのに用いるセンサ情報を前記端末装置から受信し、前記センサ情報から推定した前記カメラの傾きと前記撮影した画像中の被写体との位置関係から視点を推定して前記メモリへの追加保存を指示する、
処理を前記コンピュータに更に実行させ、
前記管理する処理は、前記指示に応答して、前記指示する処理で受信した画像と推定した視点を紐付けして前記メモリへ追加保存する、付記6又は7記載のプログラム。
(付記9)
前記管理する処理は、前記画像データセットの各画像と、各画像から抽出された各画像の視点座標を、前記コンピュータからアクセス可能なクラウドコンピューティングシステムから取得する、付記6乃至8のいずれか1項記載のプログラム。
(付記10)
前記画像データセットは、オープンなデータセットである、付記9記載のプログラム。
Regarding the embodiments including the above examples, the following additional notes are further disclosed.
(Additional note 1)
An image recognition application construction support system capable of wireless communication with a terminal device,
a management means for storing and managing meta information indicating from which viewpoint each image of the image data set was taken in a memory together with the image;
analysis means for statistically analyzing the distribution of viewpoints of a plurality of images used by the image recognition engine for model learning among the information stored in the memory;
Presentation means for presenting the results of the statistical analysis to the terminal device;
An image recognition application construction support system characterized by:
(Additional note 2)
The presentation means makes it possible to identify images with missing viewpoints by presenting the results of the statistical analysis as a heat map of the model representing a distribution of values obtained by counting viewpoints of each image for each viewpoint coordinate. The image recognition application construction support system according to appendix 1, characterized in that the image recognition application construction support system is presented.
(Additional note 3)
An image taken by a camera of the terminal device and sensor information obtained from a sensor of the terminal device and used to estimate the tilt of the camera are received from the terminal device, and the tilt of the camera is estimated from the sensor information. further comprising estimating means for estimating a viewpoint from the positional relationship between the image and the subject in the photographed image and instructing additional storage in the memory;
The image recognition application construction according to
(Additional note 4)
The management means is characterized in that each image of the image data set and the viewpoint coordinates of each image extracted from each image are acquired from a cloud computing system accessible from the image recognition application construction support system. , the image recognition application construction support system according to any one of Supplementary Notes 1 to 3.
(Appendix 5)
The image recognition application construction support system according to appendix 4, wherein the image data set is an open data set.
(Appendix 6)
A program that causes a computer capable of wireless communication with a terminal device to support the construction of an image recognition application,
Meta information indicating from which viewpoint each image in the image dataset was taken is stored and managed in memory along with the image.
Among the information stored in the memory, the image recognition engine performs a statistical analysis of the distribution of viewpoints of multiple images used for model learning;
presenting the results of the statistical analysis to the terminal device;
A program for causing the computer to execute processing.
(Appendix 7)
The presenting process can identify images with missing viewpoints by presenting the results of the statistical analysis as a heat map of the model that represents the distribution of values obtained by counting the viewpoints of each image for each viewpoint coordinate. The program described in Appendix 6 presented to
(Appendix 8)
An image taken by a camera of the terminal device and sensor information obtained from a sensor of the terminal device and used to estimate the tilt of the camera are received from the terminal device, and the tilt of the camera is estimated from the sensor information. and instructing additional storage in the memory by estimating a viewpoint from the positional relationship between the image and the subject in the photographed image;
causing the computer to further execute the process;
8. The program according to appendix 6 or 7, wherein the managing process associates the image received in the instructing process with the estimated viewpoint in response to the instruction, and additionally stores the linked image in the memory.
(Appendix 9)
The managing process includes any one of appendices 6 to 8, wherein each image of the image data set and the viewpoint coordinates of each image extracted from each image are acquired from a cloud computing system accessible from the computer. Programs listed in section.
(Appendix 10)
The program according to appendix 9, wherein the image data set is an open data set.
以上、開示の画像認識アプリケーション構築支援システム及びプログラムを実施例により説明したが、本発明は上記実施例に限定されるものではなく、本発明の範囲内で種々の変形及び改良が可能であることは言うまでもない。 Although the disclosed image recognition application construction support system and program have been described above using examples, the present invention is not limited to the above-mentioned examples, and various modifications and improvements can be made within the scope of the present invention. Needless to say.
1,1A 画像認識アプリケーション構築支援システム
2 画像データセット
3 視点座標抽出部
4,4A 端末装置
11 管理部
12 分析部
13 提示部
14,14A 推定部
100 コンピュータ
120 バス
121 プロセッサ
122 メモリ
123 入力装置
124 表示装置
125 インタフェース
DB データベース
1, 1A Image recognition application
Claims (5)
画像データセットの各画像がどの視点から撮影されたかを示すメタ情報を画像と共にメモリに保存して管理する管理手段と、
前記メモリに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析する分析手段と、
統計分析の結果を、各画像の視点を視点座標毎にカウントした値の分布を表す前記モデルのヒートマップで提示することで、不足している視点の画像を前記端末装置に識別可能に提示する提示手段と、
を備えたことを特徴とする、画像認識アプリケーション構築支援システム。 An image recognition application construction support system capable of wireless communication with a terminal device,
a management means for storing and managing meta information indicating from which viewpoint each image of the image data set was taken in a memory together with the image;
analysis means for statistically analyzing the distribution of viewpoints of a plurality of images used by the image recognition engine for model learning among the information stored in the memory;
By presenting the results of the statistical analysis as a heat map of the model that represents the distribution of values obtained by counting the viewpoints of each image for each viewpoint coordinate, images of missing viewpoints are presented to the terminal device in such a way that they can be identified . A presentation means,
An image recognition application construction support system characterized by:
前記管理手段は、前記指示に応答して、前記推定手段が受信した画像と推定した視点を紐付けした情報を前記メモリへ追加保存することを特徴とする、請求項1記載の画像認識アプリケーション構築支援システム。 An image taken by a camera of the terminal device and sensor information obtained from a sensor of the terminal device and used to estimate the tilt of the camera are received from the terminal device, and the tilt of the camera is estimated from the sensor information. further comprising estimating means for estimating a viewpoint from the positional relationship between the image and the subject in the photographed image and instructing additional storage in the memory;
The image recognition application according to claim 1 , wherein the management means additionally stores information linking the image received by the estimation means with the estimated viewpoint in the memory in response to the instruction. Construction support system.
画像データセットの各画像がどの視点から撮影されたかを示すメタ情報を画像と共にメモリに保存して管理し、Meta information indicating from which viewpoint each image in the image dataset was taken is stored and managed in memory along with the image.
前記メモリに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析し、Among the information stored in the memory, the image recognition engine performs a statistical analysis of the distribution of viewpoints of multiple images used for model learning;
統計分析の結果を、各画像の視点を視点座標毎にカウントした値の分布を表す前記モデルのヒートマップで提示することで、不足している視点の画像を前記端末装置に識別可能に提示する、By presenting the results of the statistical analysis as a heat map of the model that represents the distribution of values obtained by counting the viewpoints of each image for each viewpoint coordinate, images of missing viewpoints are presented to the terminal device in such a way that they can be identified. ,
処理を前記コンピュータに実行させるためのプログラム。A program for causing the computer to execute processing.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019150870A JP7367383B2 (en) | 2019-08-21 | 2019-08-21 | Image recognition application construction support system and program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2019150870A JP7367383B2 (en) | 2019-08-21 | 2019-08-21 | Image recognition application construction support system and program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2021033489A JP2021033489A (en) | 2021-03-01 |
| JP7367383B2 true JP7367383B2 (en) | 2023-10-24 |
Family
ID=74678237
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2019150870A Active JP7367383B2 (en) | 2019-08-21 | 2019-08-21 | Image recognition application construction support system and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7367383B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7626243B2 (en) * | 2021-10-14 | 2025-02-04 | 日本電気株式会社 | Data set creation device, data set creation method, and program |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004213567A (en) | 2003-01-08 | 2004-07-29 | Ntt Docomo Inc | Image learning device and learning method thereof |
| WO2011096343A1 (en) | 2010-02-05 | 2011-08-11 | 日本電気株式会社 | Photographic location recommendation system, photographic location recommendation device, photographic location recommendation method, and program for photographic location recommendation |
| JP2012128744A (en) | 2010-12-16 | 2012-07-05 | Canon Inc | Object recognition device, object recognition method, learning device, learning method, program and information processing system |
| JP6514401B1 (en) | 2018-09-28 | 2019-05-15 | 株式会社東芝 | INFORMATION PROCESSING APPARATUS, LEARNING APPARATUS, INFORMATION PROCESSING SYSTEM, INFORMATION PROCESSING METHOD, AND COMPUTER PROGRAM |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6102648B2 (en) * | 2013-09-13 | 2017-03-29 | ソニー株式会社 | Information processing apparatus and information processing method |
-
2019
- 2019-08-21 JP JP2019150870A patent/JP7367383B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004213567A (en) | 2003-01-08 | 2004-07-29 | Ntt Docomo Inc | Image learning device and learning method thereof |
| WO2011096343A1 (en) | 2010-02-05 | 2011-08-11 | 日本電気株式会社 | Photographic location recommendation system, photographic location recommendation device, photographic location recommendation method, and program for photographic location recommendation |
| JP2012128744A (en) | 2010-12-16 | 2012-07-05 | Canon Inc | Object recognition device, object recognition method, learning device, learning method, program and information processing system |
| JP6514401B1 (en) | 2018-09-28 | 2019-05-15 | 株式会社東芝 | INFORMATION PROCESSING APPARATUS, LEARNING APPARATUS, INFORMATION PROCESSING SYSTEM, INFORMATION PROCESSING METHOD, AND COMPUTER PROGRAM |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2021033489A (en) | 2021-03-01 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US20240290047A1 (en) | Augmented reality system | |
| CN111081199B (en) | Selecting a temporally distributed panoramic image for display | |
| US9268410B2 (en) | Image processing device, image processing method, and program | |
| CN112639876B (en) | Depth prediction for moving images | |
| US9904664B2 (en) | Apparatus and method providing augmented reality contents based on web information structure | |
| EP4127876B1 (en) | Depth estimation using biometric data | |
| US9842268B1 (en) | Determining regions of interest based on user interaction | |
| KR101181967B1 (en) | 3D street view system using identification information. | |
| JP2014106681A5 (en) | ||
| CN110766081B (en) | Interface image detection method, model training method and related device | |
| JPWO2012063560A1 (en) | Image processing system, image processing method, and storage medium storing image processing program | |
| US11978232B2 (en) | Method for displaying three-dimensional augmented reality | |
| CN118052960A (en) | Tracking augmented reality devices | |
| CN104252712A (en) | Image generating apparatus and image generating method | |
| CN112882576A (en) | AR interaction method and device, electronic equipment and storage medium | |
| CN106462768A (en) | Using image features to extract viewports from images | |
| JP2020119156A (en) | Avatar creating system, avatar creating device, server device, avatar creating method and program | |
| US10748000B2 (en) | Method, electronic device, and recording medium for notifying of surrounding situation information | |
| JP2023172893A (en) | Control method, control device, and recording medium for interactive three-dimensional representation of objects | |
| US20250278573A1 (en) | Visual chain-of-thought reasoning for multimodal language models | |
| JP7367383B2 (en) | Image recognition application construction support system and program | |
| CN116943216A (en) | Laminating relation detection method, laminating relation detection device, laminating relation detection equipment and storage medium | |
| CN116071527A (en) | Object processing method, device, storage medium and electronic equipment | |
| CN112037305B (en) | Method, device and storage medium for reconstructing tree-like organization in image | |
| CN116958843A (en) | A key point labeling method, device, equipment and storage medium |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220517 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230413 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230425 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230605 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230912 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230925 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7367383 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |