Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7367383B2 - Image recognition application construction support system and program - Google Patents
[go: Go Back, main page]

JP7367383B2 - Image recognition application construction support system and program - Google Patents

Image recognition application construction support system and program Download PDF

Info

Publication number
JP7367383B2
JP7367383B2 JP2019150870A JP2019150870A JP7367383B2 JP 7367383 B2 JP7367383 B2 JP 7367383B2 JP 2019150870 A JP2019150870 A JP 2019150870A JP 2019150870 A JP2019150870 A JP 2019150870A JP 7367383 B2 JP7367383 B2 JP 7367383B2
Authority
JP
Japan
Prior art keywords
image
terminal device
viewpoint
support system
image recognition
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019150870A
Other languages
Japanese (ja)
Other versions
JP2021033489A (en
Inventor
健介 倉木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2019150870A priority Critical patent/JP7367383B2/en
Publication of JP2021033489A publication Critical patent/JP2021033489A/en
Application granted granted Critical
Publication of JP7367383B2 publication Critical patent/JP7367383B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Description

本発明は、画像認識アプリケーションの構築を支援するシステム(以下、「画像認識アプリケーション構築支援システム」と言う)及びプログラムに関する。 The present invention relates to a system (hereinafter referred to as "image recognition application construction support system") and a program for supporting construction of an image recognition application.

近年、ディープラーニングによる画像認識の性能向上に伴い、画像認識を活用したアプリケーションの現場適用が様々な分野で検討されている。空港等のゲートにおける顔認識、工場の生産ラインにおける工業製品の検品等、撮影の対象となる被写体とカメラの位置関係をある程度制限した環境では、画像認識を活用したアプリケーションの現場適用の運用が始まっている。 In recent years, as the performance of image recognition has improved through deep learning, the field application of applications that utilize image recognition is being considered in various fields. In environments where the positional relationship between the subject and the camera is restricted to some extent, such as facial recognition at airport gates and inspection of industrial products on factory production lines, on-site applications of applications that utilize image recognition have begun. ing.

被写体を撮影するカメラの視点が固定の場合、例えばImageNet等の既存のオープンなデータセットを学習用に流用しやすく、導入先でのデータの追加も容易である。被写体を撮影するカメラの視点が固定の場合の一例として、視点が利用者の正面である顔認識がある。 If the viewpoint of the camera that photographs the subject is fixed, it is easy to use existing open datasets such as ImageNet for learning, and it is also easy to add data at the installation site. An example of a case where the viewpoint of a camera that photographs a subject is fixed is face recognition, where the viewpoint is in front of the user.

被写体を撮影するカメラの視点を固定できない場合には、想定する視点の数だけ学習用データを準備する必要がある。しかし、既存のオープンなデータセットでは、視点の偏りがあり、視点の偏りがあるデータセットで学習したモデルには、視点によって認識精度にばらつきが生じてしまう。 If the viewpoint of the camera that photographs the subject cannot be fixed, it is necessary to prepare training data equal to the number of assumed viewpoints. However, existing open datasets have viewpoint bias, and models trained on datasets with viewpoint bias will have variations in recognition accuracy depending on the viewpoint.

なお、形状モデルを準備して学習データの不足を補う場合、形状モデルの作成が必要となる。しかし、形状モデルの作成には、高いスキルを必要とするため、一般の利用者がそのような形状モデルを作成することは困難である。 Note that when preparing a shape model to compensate for the lack of learning data, it is necessary to create a shape model. However, since creating a shape model requires a high level of skill, it is difficult for general users to create such a shape model.

一方、形状モデルを作成せずに、様々な視点から撮影した画像を準備しても良い。しかし、この場合、データセットの作成に膨大な時間を必要としてしまう。 On the other hand, images taken from various viewpoints may be prepared without creating a shape model. However, in this case, creating a dataset requires a huge amount of time.

特開2018-55195号公報JP 2018-55195 Publication 特開2017-102838号公報JP2017-102838A 特開2014-157509号公報Japanese Patent Application Publication No. 2014-157509 特開平1-136283号公報Japanese Unexamined Patent Publication No. 1-136283

従来の画像認識アプリケーション構築支援システムでは、無駄なくデータを収集して、構築作業の工数を削減することは難しい。 With conventional image recognition application construction support systems, it is difficult to collect data without waste and reduce the number of man-hours required for construction work.

そこで、1つの側面では、無駄なくデータを収集して、構築作業の工数を削減できる画像認識アプリケーション構築支援システム及びプログラムを提供することを目的とする。 Therefore, one aspect of the present invention is to provide an image recognition application construction support system and program that can collect data without waste and reduce the number of man-hours for construction work.

1つの案によれば、端末装置と無線通信可能な画像認識アプリケーション構築支援システムであって、画像データセットの各画像がどの視点から撮影されたかを示すメタ情報を画像と共にメモリに保存して管理する管理手段と、前記メモリに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析する分析手段と、統計分析の結果を、各画像の視点を視点座標毎にカウントした値の分布を表す前記モデルのヒートマップで提示することで、不足している視点の画像を前記端末装置に識別可能に提示する提示手段と、を備えた画像認識アプリケーション構築支援システムが提供される。

According to one proposal, it is an image recognition application construction support system that can wirelessly communicate with a terminal device, which stores and manages meta information indicating from which viewpoint each image of an image data set was taken in memory together with the image. a management means for statistically analyzing the distribution of viewpoints of a plurality of images used by the image recognition engine for model learning among the information stored in the memory; Construction of an image recognition application, comprising: presentation means for presenting an image of a missing viewpoint in an identifiable manner to the terminal device by presenting it as a heat map of the model representing the distribution of values counted for each viewpoint coordinate ; Support systems are provided.

一態様によれば、無駄なくデータを収集して、構築作業の工数を削減できる。 According to one aspect, data can be collected without waste and the number of man-hours for construction work can be reduced.

第1実施例における画像認識アプリケーション構築支援システムの一例を示す機能ブロック図である。FIG. 1 is a functional block diagram showing an example of an image recognition application construction support system in a first embodiment. 第1実施例における画像認識アプリケーション構築支援システムの動作の一例を説明するフローチャートである。2 is a flowchart illustrating an example of the operation of the image recognition application construction support system in the first embodiment. コンピュータシステムの一例を示すブロック図である。FIG. 1 is a block diagram illustrating an example of a computer system. 第2実施例における画像認識アプリケーション構築支援システムの一例を示す機能ブロック図である。FIG. 2 is a functional block diagram showing an example of an image recognition application construction support system in a second embodiment. 第2実施例における画像認識アプリケーション構築支援システムの動作の一例を説明するフローチャートである。It is a flow chart explaining an example of operation of an image recognition application construction support system in a 2nd example. 画像認識アプリケーション構築支援システムの効果を説明する図である。FIG. 2 is a diagram illustrating the effects of the image recognition application construction support system.

以下に、開示の画像認識アプリケーション構築支援システム及びプログラムの各実施例を図面と共に説明する。 Embodiments of the disclosed image recognition application construction support system and program will be described below with reference to the drawings.

図1は、第1実施例における画像認識アプリケーション構築支援システムの一例を示す機能ブロック図である。図1に示す画像認識アプリケーション構築支援システム(以下、単に「支援システム」とも言う)1は、例えば汎用のコンピュータで形成可能であり、管理部11と、分析部12と、提示部13と、推定部14を有する。 FIG. 1 is a functional block diagram showing an example of an image recognition application construction support system in the first embodiment. The image recognition application construction support system (hereinafter also simply referred to as "support system") 1 shown in FIG. It has a section 14.

視点座標抽出部3は、画像データセット2から画像を取得して、当該画像内の被写体である対象物を撮影したカメラの視点座標(以下、「画像の視点座標」とも言う)を周知の方法で抽出する。画像内の対象物を撮影したカメラの視点座標を抽出する周知の方法は、特に限定されないが、例えば特許文献4に記載された周知技術を用いても良い。画像データセット2は、例えばImageNet等の既存のオープンなデータセットであっても良い。視点座標抽出部3は、取得した画像と抽出した画像の視点座標を、支援システム1の管理部11に供給する。画像データセット2及び視点座標抽出部3は、支援システム1からアクセス可能なクラウドコンピューティングシステムに含まれていても良い。また、視点座標抽出部3は、支援システム1に含まれていても良い。 The viewpoint coordinate extraction unit 3 acquires an image from the image data set 2 and extracts the viewpoint coordinates of the camera that photographed the object in the image (hereinafter also referred to as "image viewpoint coordinates") using a well-known method. Extract with The well-known method of extracting the viewpoint coordinates of the camera that photographed the object in the image is not particularly limited, but for example, the well-known technique described in Patent Document 4 may be used. The image data set 2 may be an existing open data set such as ImageNet. The viewpoint coordinate extraction unit 3 supplies the acquired image and the viewpoint coordinates of the extracted image to the management unit 11 of the support system 1. The image data set 2 and the viewpoint coordinate extraction unit 3 may be included in a cloud computing system that can be accessed from the support system 1. Further, the viewpoint coordinate extraction unit 3 may be included in the support system 1.

端末装置4は、例えばスマートフォン、タブレット等の携帯型の電子装置により形成可能である。端末装置4は、支援システム1と通信を行う通信装置と、入力装置を有する。端末装置4の通信装置は、支援システム1と、例えばWi-Fi(登録商標)の規格の信号を用いて通信を行う無線通信機能を有する。なお、無線通信機能は、BT(Bluetooth(登録商標))、BLE(Bluetooth (登録商標)Low Energy)等の、Wi-Fi(登録商標)以外の規格の信号を用いて通信を行っても良いことは、言うまでもない。端末装置4の入力装置は、カメラ、カメラの傾き(又は、姿勢)を周知の方法で推定するのに用いる情報(以下、「センサ情報」とも言う)を出力するセンサ等を含む。センサ情報からカメラの傾きを推定する周知の方法は、特に限定されない。 The terminal device 4 can be formed by a portable electronic device such as a smartphone or a tablet. The terminal device 4 includes a communication device that communicates with the support system 1 and an input device. The communication device of the terminal device 4 has a wireless communication function that communicates with the support system 1 using, for example, signals of the Wi-Fi (registered trademark) standard. Note that the wireless communication function may perform communication using signals of standards other than Wi-Fi (registered trademark), such as BT (Bluetooth (registered trademark)) and BLE (Bluetooth (registered trademark) Low Energy). That goes without saying. The input device of the terminal device 4 includes a camera, a sensor that outputs information (hereinafter also referred to as "sensor information") used to estimate the tilt (or posture) of the camera using a well-known method, and the like. Known methods for estimating camera tilt from sensor information are not particularly limited.

支援システム1において、管理部11は、視点座標抽出部3から得られる、画像認識エンジンの学習に使用する1枚以上の画像と、当該画像の視点座標をメタ情報としてデータベース(DB:Data-Base)に保存して管理する管理手段の一例である。管理部11は、学習用画像データセットの各画像と、各画像の視点座標を紐付けしてメタ情報としてDBに保存して管理する。つまり、管理部11は、画像データセット2の各画像がどの視点から撮影されたかを示すメタ情報を画像と共にDBに保存して管理する。DBは、例えば支援システム1内のメモリで形成可能である。 In the support system 1, the management unit 11 stores one or more images used for learning the image recognition engine obtained from the viewpoint coordinate extraction unit 3 and the viewpoint coordinates of the images in a database (DB) as meta information. ) is an example of a management means for storing and managing the data. The management unit 11 associates each image of the learning image data set with the viewpoint coordinates of each image, and stores and manages the linked information in a DB as meta information. That is, the management unit 11 stores and manages meta information indicating from which viewpoint each image of the image data set 2 was photographed in the DB together with the images. The DB can be formed using a memory within the support system 1, for example.

分析部12は、DBに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析する分析手段の一例である。分析部12は、学習したモデル毎に、学習に使用した画像の視点の分布を統計分析する。提示部13は、統計分析の結果を数値、図等で端末装置4に対して提示する提示手段の一例である。提示部13は、例えば統計分析の結果を、端末装置14の表示装置に表示する。 The analysis unit 12 is an example of an analysis unit that statistically analyzes the distribution of viewpoints of a plurality of images used by the image recognition engine for model learning, among the information stored in the DB. The analysis unit 12 statistically analyzes the distribution of viewpoints of images used for learning for each learned model. The presentation unit 13 is an example of presentation means that presents the results of the statistical analysis to the terminal device 4 in the form of numerical values, diagrams, etc. The presentation unit 13 displays, for example, the results of the statistical analysis on the display device of the terminal device 14.

推定部14は、端末装置4のカメラで画像を撮影して学習用画像データとして追加する際に、端末装置4のセンサから得られるセンサ情報を元に、端末装置4のカメラが対象物を撮影した視点座標を周知の方法で推定する推定手段の一例である。画像の視点座標は、センサ情報から周知の方法で推定したカメラの傾きと、例えば画像の中央部に写っている対象物との位置関係から周知の方法で推定することができる。 When the estimation unit 14 takes an image with the camera of the terminal device 4 and adds it as learning image data, the estimation unit 14 determines whether the camera of the terminal device 4 photographs the object based on the sensor information obtained from the sensor of the terminal device 4. This is an example of an estimating means for estimating the viewpoint coordinates using a well-known method. The viewpoint coordinates of an image can be estimated by a known method from the positional relationship between the tilt of the camera estimated by a known method from sensor information and, for example, an object in the center of the image.

図2は、第1実施例における画像認識アプリケーション構築支援システムの動作の一例を説明するフローチャートである。図2に示す処理のうち、ステップS1の処理は、管理部11が実行可能である。ステップS2の処理は、分析部12が実行可能であり、ステップS3の処理は、提示部13が実行可能である。ステップS4,S5の処理は、端末装置4が実行可能であり、ステップS6,S7の処理は、推定部14が実行可能である。 FIG. 2 is a flowchart illustrating an example of the operation of the image recognition application construction support system in the first embodiment. Among the processes shown in FIG. 2, the process in step S1 can be executed by the management unit 11. The process in step S2 can be executed by the analysis unit 12, and the process in step S3 can be executed by the presentation unit 13. The processing in steps S4 and S5 can be executed by the terminal device 4, and the processing in steps S6 and S7 can be executed by the estimation unit 14.

ステップS1では、管理部11が、視点座標抽出部3から得られる、画像認識エンジンの学習に使用する学習用画像データセットの1枚以上の画像と、当該画像の視点座標を紐付けしてメタ情報としてDBに保存して管理する。1枚以上の画像と視点座標を紐付けしてメタ情報として保存するDBは、例えば支援システム1内のメモリで形成可能である。 In step S1, the management unit 11 links one or more images of the training image dataset used for learning the image recognition engine, obtained from the viewpoint coordinate extraction unit 3, with the viewpoint coordinates of the images, and metadata Save and manage information in a DB. A DB that associates one or more images with viewpoint coordinates and stores them as meta information can be formed in the memory within the support system 1, for example.

ステップS2では、分析部12が、DBに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析する。 In step S2, the analysis unit 12 statistically analyzes the distribution of viewpoints of a plurality of images used by the image recognition engine for model learning among the information stored in the DB.

ステップS3では、提示部13が、統計分析の結果を数値、図等で端末装置4に提示する。統計分析の結果を図で提示する場合、例えばモデルのヒートマップを端末装置4の表示装置に表示しても良い。この場合、モデルのヒートマップは、例えば各画像の視点を視点座標毎にカウントした値の分布を表す。従って、提示部13は、統計分析の結果をモデルのヒートマップで提示することで、各画像の視点を視点座標毎にカウントした値が一定値未満であるか否かに応じて不足している視点の画像を識別可能に提示できる。 In step S3, the presentation unit 13 presents the results of the statistical analysis to the terminal device 4 in the form of numerical values, diagrams, etc. When presenting the results of the statistical analysis in a diagram, for example, a heat map of the model may be displayed on the display device of the terminal device 4. In this case, the heat map of the model represents, for example, the distribution of values obtained by counting the viewpoints of each image for each viewpoint coordinate. Therefore, by presenting the results of the statistical analysis as a heat map of the model, the presentation unit 13 determines whether or not the value counted for each viewpoint coordinate of each image is less than a certain value. Viewpoint images can be presented in a distinguishable manner.

ステップS4では、端末装置4が、例えば提示された統計分析の結果から、視点の分布が十分であるか否かを判断する。視点の分布が十分であるか否かは、例えばヒートマップにおいて、各画像の視点を視点座標毎にカウントした値が一定値以上であるか否かに基づいて判断しても良い。端末装置4が、視点の分布が十分でないと判断してステップS4の判定結果がNOであると、処理は後述するステップS5へ進む。一方、端末装置4が、視点の分布が十分であると判断してステップS4の判定結果がYESであると、処理はステップS8へ進み、画像認識エンジンがモデルを再学習し、処理は終了する。 In step S4, the terminal device 4 determines whether the distribution of viewpoints is sufficient, based on, for example, the presented statistical analysis results. Whether the distribution of viewpoints is sufficient may be determined, for example, based on whether or not a value obtained by counting the viewpoints of each image for each viewpoint coordinate is equal to or greater than a certain value in a heat map. If the terminal device 4 determines that the distribution of viewpoints is not sufficient and the determination result in step S4 is NO, the process proceeds to step S5, which will be described later. On the other hand, if the terminal device 4 determines that the viewpoint distribution is sufficient and the determination result in step S4 is YES, the process proceeds to step S8, the image recognition engine relearns the model, and the process ends. .

ステップS5では、端末装置4が、統計分析の結果に基づき、利用者に不足している視点座標からの画像の撮影を促すメッセージを、表示する等して通知する。利用者が、通知されたメッセージに応じて端末装置4のカメラで不足している視点座標から画像を撮影すると、ステップS5では、端末装置4が、各画像の撮影時のセンサ情報を取得して画像と共に支援システム1に送信する。具体的には、取得したセンサ情報を画像と共に、支援システム1の管理部11に送信する。 In step S5, the terminal device 4 notifies the user by displaying a message urging the user to take an image from the missing viewpoint coordinates based on the result of the statistical analysis. When the user photographs images from the missing viewpoint coordinates with the camera of the terminal device 4 in response to the notified message, in step S5, the terminal device 4 acquires sensor information at the time of photographing each image. It is sent to the support system 1 along with the image. Specifically, the acquired sensor information is transmitted to the management unit 11 of the support system 1 together with the image.

ステップS4の判断を端末装置4が実行し、ステップS5の撮影を端末装置4側が主導して利用者に行わせる場合には、利用者は、基本的には端末装置4からの指示に応じた操作を行えば良いため、利便性が良い。 When the terminal device 4 executes the determination in step S4 and the terminal device 4 side takes the initiative in photographing in step S5 and has the user take the lead, the user basically responds to the instructions from the terminal device 4. It is convenient because all you have to do is perform the operation.

なお、ステップS4では、利用者が、端末装置4の表示装置に表示されたヒートマップ等を見て、視点の分布が十分であるか否かを判断するようにしても良い。この場合、利用者は、端末装置4の表示装置に表示されたヒートマップから、視点の分布を容易に理解できる。利用者が、視点の分布が十分でないと判断して不足情報を送信する送信操作を選択すると、ステップS4の判定結果がNOとなり、処理はステップS5へ進む。ステップS5では、利用者が、端末装置4のカメラで不足している視点座標から画像を撮影し、端末装置4のセンサから各画像の撮影時のセンサ情報を取得すると、画像とセンサ情報を支援システム1の推定部14に送信する。一方、利用者が、視点の分布が十分であると判断して上記送信操作を選択しないと、ステップS4の判定結果がYESとなり、処理はステップS8へ進み、画像認識エンジンがモデルを再学習し、処理は終了する。例えば、利用者が一定時間内に送信操作を選択しないと、視点の分布が十分であると判断してステップS4の判定結果がYESとなるようにしても良い。 Note that in step S4, the user may look at a heat map or the like displayed on the display device of the terminal device 4 and judge whether the distribution of viewpoints is sufficient. In this case, the user can easily understand the distribution of viewpoints from the heat map displayed on the display device of the terminal device 4. If the user determines that the distribution of viewpoints is insufficient and selects a transmission operation to transmit the missing information, the determination result in step S4 becomes NO, and the process proceeds to step S5. In step S5, when the user shoots an image from the missing viewpoint coordinates with the camera of the terminal device 4 and obtains the sensor information at the time of shooting each image from the sensor of the terminal device 4, the user supports the image and sensor information. It is transmitted to the estimation unit 14 of the system 1. On the other hand, if the user determines that the viewpoint distribution is sufficient and does not select the above transmission operation, the determination result in step S4 becomes YES, and the process proceeds to step S8, where the image recognition engine relearns the model. , the process ends. For example, if the user does not select a sending operation within a certain period of time, it may be determined that the viewpoint distribution is sufficient, and the determination result in step S4 may be YES.

ステップS4の判断及びステップS5の撮影を、利用者側が主導して行う場合には、端末装置4の処理の負荷を軽減できる。 If the user takes the initiative in making the determination in step S4 and taking the photograph in step S5, the processing load on the terminal device 4 can be reduced.

ステップS6では、支援システム1の推定部14が、端末装置4から受信した画像の視点座標を、端末装置4から受信したセンサ情報を元に周知の方法で推定する。具体的には、端末装置4から受信した画像の視点座標は、センサ情報から周知の方法で推定したカメラの傾きと、例えば画像の中央部に写っている対象物との位置関係から周知の方法で推定する。 In step S6, the estimation unit 14 of the support system 1 estimates the viewpoint coordinates of the image received from the terminal device 4 using a well-known method based on the sensor information received from the terminal device 4. Specifically, the viewpoint coordinates of the image received from the terminal device 4 are determined using a well-known method based on the tilt of the camera estimated from sensor information using a well-known method and the positional relationship with, for example, an object in the center of the image. Estimate by.

ステップS7では、推定部14が、撮影した画像と推定した視点座標を、紐付けしてメタ情報として支援システム1のDBに追加することを管理部11に指示し、処理はステップS2へ戻る。これにより、管理部11は、推定部14からの指示に応答して、不足している視点座標から撮影した画像と、画像内の対象物を撮影した際の視点座標を紐付けして、支援システム1のDBに追加する。 In step S7, the estimation unit 14 instructs the management unit 11 to link the photographed image and the estimated viewpoint coordinates and add them to the DB of the support system 1 as meta information, and the process returns to step S2. As a result, in response to the instruction from the estimation unit 14, the management unit 11 links the image taken from the missing viewpoint coordinate with the viewpoint coordinate when the object in the image was photographed, and provides support. Add it to the system 1 DB.

図3は、コンピュータシステムの一例を示すブロック図である。図3に示すハードウェア構成を有するコンピュータシステム100は、例えば図1に示す支援システム1を形成可能である。 FIG. 3 is a block diagram showing an example of a computer system. The computer system 100 having the hardware configuration shown in FIG. 3 can form, for example, the support system 1 shown in FIG. 1.

コンピュータシステム100は、バス120を介して互いに接続されたプロセッサ121と、メモリ122と、入力装置123と、表示装置124と、インタフェース(又は、通信装置)125とを有する。プロセッサ121は、例えば中央処理装置(CPU:Central Processing Unit)等で形成可能であり、メモリ122に記憶されたプログラムを実行して、コンピュータシステム100全体の制御を司る。 Computer system 100 includes a processor 121 , a memory 122 , an input device 123 , a display device 124 , and an interface (or communication device) 125 that are connected to each other via a bus 120 . The processor 121 can be formed of, for example, a central processing unit (CPU), and executes programs stored in the memory 122 to control the entire computer system 100.

メモリ122は、例えば半導体記憶装置、磁気記録媒体、光記録媒体、光磁気記録媒体等により形成可能である。メモリ122は、プロセッサ121が実行する各種プログラム、各種データ等を記憶する記憶装置の一例であり、支援システム1のDBを形成可能である。記憶装置は、CD-ROM(Compact Disk-Read Only Memory)、DVD(Digital Versatile Disk)、USB(Universal Serial Bus)メモリ等の可搬型記録媒体、フラッシュメモリ等の半導体メモリ等であっても良い。また、記憶装置は、プログラムを記憶したコンピュータ読み取り可能な記憶媒体であっても良い。更に、記憶装置は、複数の記憶装置で形成されていても良く、この場合、コンピュータシステム100に外部接続された記憶装置を含んでも良い。 The memory 122 can be formed of, for example, a semiconductor storage device, a magnetic recording medium, an optical recording medium, a magneto-optical recording medium, or the like. The memory 122 is an example of a storage device that stores various programs executed by the processor 121, various data, etc., and can form a DB of the support system 1. The storage device may be a portable recording medium such as a CD-ROM (Compact Disk-Read Only Memory), a DVD (Digital Versatile Disk), or a USB (Universal Serial Bus) memory, or a semiconductor memory such as a flash memory. Furthermore, the storage device may be a computer-readable storage medium that stores a program. Furthermore, the storage device may be formed of a plurality of storage devices, and in this case, may include a storage device externally connected to the computer system 100.

入力装置123は、利用者により操作される例えばキーボード等で形成可能であり、プロセッサ121にコマンド及びデータを入力するのに用いられる。表示装置124は、利用者に対するメッセージ、処理結果等を表示するのに用いられる。なお、入力装置123と表示装置124とが一体的に設けられたタッチパネルを用いても良い。インタフェース125は、無線通信機能を有し、コンピュータシステム100と他の装置との間の情報、コマンド等の授受を司る通信手段の一例である。 The input device 123 can be formed of, for example, a keyboard, which is operated by a user, and is used to input commands and data to the processor 121. The display device 124 is used to display messages, processing results, etc. to the user. Note that a touch panel in which the input device 123 and the display device 124 are integrated may be used. The interface 125 is an example of a communication means that has a wireless communication function and manages the exchange of information, commands, etc. between the computer system 100 and other devices.

コンピュータシステム100が図1に示す支援システム1を形成する場合、プロセッサ121は、メモリ122が記憶するプログラムを実行して、図2に示すステップS1,S2,S3,S6,S7の処理を実行する。 When the computer system 100 forms the support system 1 shown in FIG. 1, the processor 121 executes the program stored in the memory 122 to execute steps S1, S2, S3, S6, and S7 shown in FIG. .

なお、コンピュータシステム100は、当該コンピュータシステム100の構成要素がバス120を介して接続されたハードウェア構成に限定されるものではなく、汎用のコンピュータにより形成可能である。 Note that the computer system 100 is not limited to a hardware configuration in which the components of the computer system 100 are connected via the bus 120, and can be formed by a general-purpose computer.

また、図3に示すハードウェア構成を有するコンピュータシステム100は、例えば図1に示す端末装置4を形成可能である。端末装置4を形成するコンピュータシステム100の場合、入力装置123は、カメラ、カメラの傾きを推定するのに用いる情報を出力するセンサ等を更に含む。カメラの傾きを推定するのに用いる情報を出力するセンサは、例えば3軸加速度センサ、ジャイロセンサ等であっても良い。 Further, the computer system 100 having the hardware configuration shown in FIG. 3 can form, for example, the terminal device 4 shown in FIG. 1. In the case of the computer system 100 forming the terminal device 4, the input device 123 further includes a camera, a sensor outputting information used to estimate the tilt of the camera, and the like. The sensor that outputs information used to estimate the tilt of the camera may be, for example, a three-axis acceleration sensor, a gyro sensor, or the like.

コンピュータシステム100が図1に示す端末装置4を形成する場合、プロセッサ121は、メモリ122が記憶するプログラムを実行して、図2に示すステップS4,S5の処理を実行する。 When the computer system 100 forms the terminal device 4 shown in FIG. 1, the processor 121 executes the program stored in the memory 122 to execute the processes of steps S4 and S5 shown in FIG.

図4は、第2実施例における画像認識アプリケーション構築支援システムの一例を示す機能ブロック図である。図4中、図1と同一部分には同一符号を付し、その説明は省略する。図4に示す支援システム1Aは、管理部11と、分析部12と、提示部13を有する。 FIG. 4 is a functional block diagram showing an example of an image recognition application construction support system in the second embodiment. In FIG. 4, the same parts as in FIG. 1 are designated by the same reference numerals, and their explanation will be omitted. The support system 1A shown in FIG. 4 includes a management section 11, an analysis section 12, and a presentation section 13.

端末装置4Aは、例えばスマートフォン、タブレット等により形成可能である。端末装置4は、支援システム1Aと通信を行う通信装置と、カメラとセンサを含む入力装置と、推定部14Aを有する。推定部14Aは、端末装置4Aのカメラで画像を撮影して学習用画像データとして追加する際に、端末装置4Aのセンサから得られるセンサ情報を元に、端末装置4Aのカメラが対象物を撮影した視点座標を周知の方法で推定する推定手段の一例である。画像の視点座標は、センサ情報から周知の方法で推定したカメラの傾きと、例えば画像の中央部に写っている対象物との位置関係から周知の方法で推定することができる。 The terminal device 4A can be formed by, for example, a smartphone, a tablet, or the like. The terminal device 4 includes a communication device that communicates with the support system 1A, an input device including a camera and a sensor, and an estimator 14A. When the estimation unit 14A takes an image with the camera of the terminal device 4A and adds it as learning image data, the estimation unit 14A determines whether the camera of the terminal device 4A photographs the object based on the sensor information obtained from the sensor of the terminal device 4A. This is an example of an estimating means for estimating the viewpoint coordinates using a well-known method. The viewpoint coordinates of an image can be estimated by a known method from the positional relationship between the tilt of the camera estimated by a known method from sensor information and, for example, an object in the center of the image.

図5は、第2実施例における画像認識アプリケーション構築支援システムの動作の一例を説明するフローチャートである。図5中、図2と同一ステップには同一符号を付し、その説明は省略する。 FIG. 5 is a flowchart illustrating an example of the operation of the image recognition application construction support system in the second embodiment. In FIG. 5, steps that are the same as those in FIG. 2 are given the same reference numerals, and their explanations will be omitted.

図5に示す処理のうち、ステップS4,S5の処理は、端末装置4Aが実行可能であり、ステップS6A,S7Aの処理は、端末装置4Aの推定部14Aが実行可能である。 Among the processes shown in FIG. 5, the processes in steps S4 and S5 can be executed by the terminal device 4A, and the processes in steps S6A and S7A can be executed by the estimation unit 14A of the terminal device 4A.

ステップS4,S5では、端末装置4Aが第1実施例における端末装置4と同様の処理を実行する。ステップS6Aでは、端末装置4Aの推定部14Aが、画像内の対象物を撮影した際の視点座標を、端末装置4Aのセンサから受信したセンサ情報を元に周知の方法で推定する。ステップS7Aでは、端末装置4Aの推定部14Aが、撮影した画像と推定した視点座標を、紐付けしてメタ情報として支援システム1AのDBに追加することを管理部11に指示し、処理はステップS2へ戻る。これにより、管理部11は、推定部14Aからの指示に応答して、不足している視点座標から撮影した画像と、画像内の対象物を撮影した際の視点座標を紐付けして、支援システム1AのDBに追加する。 In steps S4 and S5, the terminal device 4A performs the same processing as the terminal device 4 in the first embodiment. In step S6A, the estimating unit 14A of the terminal device 4A estimates the viewpoint coordinates when the object in the image was photographed using a well-known method based on the sensor information received from the sensor of the terminal device 4A. In step S7A, the estimation unit 14A of the terminal device 4A instructs the management unit 11 to link the photographed image and the estimated viewpoint coordinates and add them as meta information to the DB of the support system 1A, and the process continues in step S7A. Return to S2. As a result, in response to the instruction from the estimation unit 14A, the management unit 11 links the image taken from the missing viewpoint coordinate with the viewpoint coordinate when the object in the image was photographed, and provides support. Add it to the DB of system 1A.

図3に示すコンピュータシステム100が図4に示す支援システム1Aを形成する場合、プロセッサ121は、メモリ122が記憶するプログラムを実行して、図5に示すステップS1,S2,S3の処理を実行する。 When the computer system 100 shown in FIG. 3 forms the support system 1A shown in FIG. 4, the processor 121 executes the program stored in the memory 122 to execute the processes of steps S1, S2, and S3 shown in FIG. .

図3に示すコンピュータシステム100が図4に示す端末装置4Aを形成する場合、プロセッサ121は、メモリ122が記憶するプログラムを実行して、図5に示すステップS4,S5,S6A,S7Aの処理を実行する。 When the computer system 100 shown in FIG. 3 forms the terminal device 4A shown in FIG. Execute.

図6は、画像認識アプリケーション構築支援システムの効果を説明する図である。図6中、図1及び図4と同一部分には同一符号を付し、その説明は省略する。 FIG. 6 is a diagram illustrating the effects of the image recognition application construction support system. In FIG. 6, the same parts as in FIGS. 1 and 4 are given the same reference numerals, and their explanations will be omitted.

図6に示すように、画像データセット2の画像の視点座標、即ち、画像中の対象物である被写体を撮影したカメラの視点座標を、例えば特許文献4に記載された周知技術を用いて抽出し、メタ情報として画像と共に支援システムのDBに保存する。被写体の視点座標(x,y,z)は、例えばxyz座標系で表される。この場合、例えば被写体が乗り物、花及び野球選手の場合、これらの被写体の画像と、夫々の視点座標(x,y,z),(x,y,z),(x,y,z)を紐付けしてメタ情報として支援システムのDBに保存して管理する。 As shown in FIG. 6, the viewpoint coordinates of the image of image data set 2, that is, the viewpoint coordinates of the camera that photographed the object in the image, are extracted using the well-known technique described in Patent Document 4, for example. Then, it is saved in the support system's DB as meta information along with the image. The viewpoint coordinates (x 0 , y 0 , z 0 ) of the subject are expressed, for example, in an xyz coordinate system. In this case, for example, if the subjects are vehicles, flowers, and baseball players, images of these subjects and their respective viewpoint coordinates (x 1 , y 1 , z 1 ), (x 2 , y 2 , z 2 ), (x 3 , y 3 , z 3 ) are linked together and stored as meta information in the support system's DB for management.

支援システムのDBに保存した画像と視点のデータセットを、学習用画像データセットとして画像認識エンジンによるモデルの学習に用いる際、モデルに使用した画像の視点の分布を統計分析して、利用者に提示する。統計分析の結果は、例えば球状の座標におけるモデルのヒートマップで端末装置4(4A)の表示装置に表示する。つまり、学習したモデルを現場で導入する際、統計分析の結果を用い、現場で必要な視点の画像がどれくらい不足しているかを、現場にいる利用者に提示する。学習用画像データセットのうち、何枚かの画像がモデルの学習に使用された場合、各画像の視点を視点座標毎にカウントし、ヒートマップ等で可視化する。図6に示す例では、ヒートマップにおいて、各画像の視点を視点座標毎にカウントした値が大きい領域は黒色で示し、カウントした値が中程度の領域が灰色で示し、カウントした値が小さい領域は白色で示す。この例では、モデルのヒートマップから、被写体の側面の視点から撮影された画像が多く、真上の視点から撮影された画像が少ないことがわかる。 When a dataset of images and viewpoints stored in the support system's database is used as a training image dataset for model learning by an image recognition engine, the distribution of viewpoints of the images used in the model is statistically analyzed and provided to the user. present. The results of the statistical analysis are displayed on the display device of the terminal device 4 (4A), for example, as a heat map of the model in spherical coordinates. In other words, when the learned model is introduced in the field, the results of statistical analysis are used to show users at the site how many images from the required viewpoints are lacking. When some images from the training image data set are used for model learning, the viewpoints of each image are counted for each viewpoint coordinate and visualized using a heat map or the like. In the example shown in Figure 6, in the heat map, areas where the counted value of the viewpoint of each image is large for each viewpoint coordinate are shown in black, areas where the counted value is medium are shown in gray, and areas where the counted value is small. is shown in white. In this example, the heat map of the model shows that there are many images taken from a viewpoint on the side of the subject, and few images taken from a viewpoint directly above the subject.

そこで、利用者は、モデルのヒートマップから判明した、不足している視点の画像を、端末装置4(4A)のカメラで撮影して追加することができる。例えば、被写体である乗り物がスクーターであれば、利用者は端末装置4(4A)のカメラで、スクーターの真上周辺の視点からスクーターを撮影する。端末装置4(4A)は、カメラの傾きを推定するのに用いるセンサ情報を出力するセンサを有する。利用者が、現場で不足している視点の画像を中心に被写体を撮影すると、撮影に使用した端末装置4(4A)で取得できるセンサ情報から推定したカメラの傾きと、例えば画像の中央部に写っている被写体との位置関係から、画像の視点座標を推定することができる。これにより、現場で撮影した画像の視点座標を、画像と共に支援システムのDB内の学習用画像データセットに追加することができる。 Therefore, the user can add images of missing viewpoints found from the heat map of the model by photographing them with the camera of the terminal device 4 (4A). For example, if the vehicle to be photographed is a scooter, the user uses the camera of the terminal device 4 (4A) to photograph the scooter from a viewpoint directly above and around the scooter. The terminal device 4 (4A) has a sensor that outputs sensor information used to estimate the tilt of the camera. When a user photographs a subject at the scene, focusing on the image from the missing viewpoint, the tilt of the camera estimated from the sensor information obtained by the terminal device 4 (4A) used for photographing and, for example, the center of the image The viewpoint coordinates of an image can be estimated from the positional relationship with the photographed subject. Thereby, the viewpoint coordinates of the image taken at the scene can be added to the learning image data set in the DB of the support system together with the image.

利用者は、モデルのヒートマップを見て、不足している視点の画像を把握できるので、不足している視点から端末装置4(4A)のカメラで被写体の画像を撮影することができる。利用者は、不足している視点の画像のみを撮影して学習用画像データとして追加すれば良いため、効率良く低コストでシステム構築を実現できる。 Since the user can see the heat map of the model and understand the images of the missing viewpoints, the user can take images of the subject from the missing viewpoints with the camera of the terminal device 4 (4A). Since the user only needs to take images from the missing viewpoints and add them as training image data, the system can be constructed efficiently and at low cost.

このように、画像データセットに含まれる画像の撮影条件を分析し、不足した撮影条件の画像を取得しつつ、新たな撮影条件も撮影に使用する端末装置4(4A)のセンサを使って収集することで、無駄なくデータを収集でき、構築作業のコストを削減できる。また、画像認識システムの構築において、多くのコスト(即ち、人の作業時間)を要する学習画像データの収集の工数を削減できる。 In this way, the shooting conditions of the images included in the image data set are analyzed, and images with missing shooting conditions are acquired, while new shooting conditions are also collected using the sensor of the terminal device 4 (4A) used for shooting. By doing so, data can be collected without waste and construction costs can be reduced. Further, in constructing an image recognition system, it is possible to reduce the number of steps for collecting learning image data, which requires a lot of cost (that is, human work time).

端末装置4(4A)が、提示された統計分析の結果から、視点の分布が十分であるか否かを判断しても良い。この場合、端末装置4(4A)が、統計分析の結果に基づき、利用者に不足している視点座標からの画像の撮影を促すメッセージを、表示する等して通知れば良い。利用者は、基本的には端末装置4からの指示に応じた操作を行えば良いため、利便性が良い。 The terminal device 4 (4A) may determine whether the distribution of viewpoints is sufficient based on the presented statistical analysis results. In this case, the terminal device 4 (4A) may notify the user by displaying a message urging the user to take an image from the missing viewpoint coordinates based on the result of the statistical analysis. Since the user basically only has to perform operations according to instructions from the terminal device 4, it is convenient.

上記の各実施例によれば、画像データセットに含まれる画像の撮影条件を分析し、不足した撮影条件の画像を取得しつつ、新たな撮影条件も撮影に使用する端末装置のセンサを使って収集する。これにより、無駄なくデータを収集して、画像認識アプリケーションを構築する作業の工数を削減できるので、構築する作業のコストを削減できる。また、例えばカメラが対象物を撮影する視点が固定できない場合であっても、学習用画像データセットを分析し、学習用画像データセットの画像の視点のばらつきを利用者に提示することで、不足している視点からの画像データの収集を支援することができる。 According to each of the embodiments described above, the shooting conditions of images included in the image data set are analyzed, and while images with missing shooting conditions are acquired, new shooting conditions are also acquired using the sensor of the terminal device used for shooting. collect. This makes it possible to collect data without waste and reduce the number of steps needed to build an image recognition application, thereby reducing the cost of building the image recognition application. In addition, even if the viewpoint from which the camera photographs the object cannot be fixed, for example, the learning image dataset can be analyzed and the variations in the viewpoints of the images in the training image dataset can be presented to the user. It is possible to support the collection of image data from a certain viewpoint.

以上の実施例を含む実施形態に関し、更に以下の付記を開示する。
(付記1)
端末装置と無線通信可能な画像認識アプリケーション構築支援システムであって、
画像データセットの各画像がどの視点から撮影されたかを示すメタ情報を画像と共にメモリに保存して管理する管理手段と、
前記メモリに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析する分析手段と、
統計分析の結果を前記端末装置に提示する提示手段と、
を備えたことを特徴とする、画像認識アプリケーション構築支援システム。
(付記2)
前記提示手段は、前記統計分析の結果を、各画像の視点を視点座標毎にカウントした値の分布を表す前記モデルのヒートマップで提示することで、不足している視点の画像を識別可能に提示することを特徴とする、付記1記載の画像認識アプリケーション構築支援システム。
(付記3)
前記端末装置のカメラで撮影した画像と、前記端末装置のセンサから得られる、前記カメラの傾きを推定するのに用いるセンサ情報を前記端末装置から受信し、前記センサ情報から推定した前記カメラの傾きと前記撮影した画像中の被写体との位置関係から視点を推定して前記メモリへの追加保存を指示する推定手段を更に備え、
前記管理手段は、前記指示に応答して、前記推定手段が受信した画像と推定した視点を紐付けして前記メモリへ追加保存することを特徴とする、付記1又は2記載の画像認識アプリケーション構築支援システム。
(付記4)
前記管理手段は、前記画像データセットの各画像と、各画像から抽出された各画像の視点座標を、前記画像認識アプリケーション構築支援システムからアクセス可能なクラウドコンピューティングシステムから取得することを特徴とする、付記1乃至3のいずれか1項記載の画像認識アプリケーション構築支援システム。
(付記5)
前記画像データセットは、オープンなデータセットであることを特徴とする、付記4記載の画像認識アプリケーション構築支援システム。
(付記6)
端末装置と無線通信可能なコンピュータに、画像認識アプリケーションの構築を支援させるプログラムであって、
画像データセットの各画像がどの視点から撮影されたかを示すメタ情報を画像と共にメモリに保存して管理し、
前記メモリに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析し、
統計分析の結果を前記端末装置に提示する、
処理を前記コンピュータに実行させるためのプログラム。
(付記7)
前記提示する処理は、前記統計分析の結果を、各画像の視点を視点座標毎にカウントした値の分布を表す前記モデルのヒートマップで提示することで、不足している視点の画像を識別可能に提示する、付記6記載のプログラム。
(付記8)
前記端末装置のカメラで撮影した画像と、前記端末装置のセンサから得られる、前記カメラの傾きを推定するのに用いるセンサ情報を前記端末装置から受信し、前記センサ情報から推定した前記カメラの傾きと前記撮影した画像中の被写体との位置関係から視点を推定して前記メモリへの追加保存を指示する、
処理を前記コンピュータに更に実行させ、
前記管理する処理は、前記指示に応答して、前記指示する処理で受信した画像と推定した視点を紐付けして前記メモリへ追加保存する、付記6又は7記載のプログラム。
(付記9)
前記管理する処理は、前記画像データセットの各画像と、各画像から抽出された各画像の視点座標を、前記コンピュータからアクセス可能なクラウドコンピューティングシステムから取得する、付記6乃至8のいずれか1項記載のプログラム。
(付記10)
前記画像データセットは、オープンなデータセットである、付記9記載のプログラム。
Regarding the embodiments including the above examples, the following additional notes are further disclosed.
(Additional note 1)
An image recognition application construction support system capable of wireless communication with a terminal device,
a management means for storing and managing meta information indicating from which viewpoint each image of the image data set was taken in a memory together with the image;
analysis means for statistically analyzing the distribution of viewpoints of a plurality of images used by the image recognition engine for model learning among the information stored in the memory;
Presentation means for presenting the results of the statistical analysis to the terminal device;
An image recognition application construction support system characterized by:
(Additional note 2)
The presentation means makes it possible to identify images with missing viewpoints by presenting the results of the statistical analysis as a heat map of the model representing a distribution of values obtained by counting viewpoints of each image for each viewpoint coordinate. The image recognition application construction support system according to appendix 1, characterized in that the image recognition application construction support system is presented.
(Additional note 3)
An image taken by a camera of the terminal device and sensor information obtained from a sensor of the terminal device and used to estimate the tilt of the camera are received from the terminal device, and the tilt of the camera is estimated from the sensor information. further comprising estimating means for estimating a viewpoint from the positional relationship between the image and the subject in the photographed image and instructing additional storage in the memory;
The image recognition application construction according to appendix 1 or 2, wherein the management means, in response to the instruction, associates the image received by the estimation means with the estimated viewpoint and additionally stores it in the memory. support system.
(Additional note 4)
The management means is characterized in that each image of the image data set and the viewpoint coordinates of each image extracted from each image are acquired from a cloud computing system accessible from the image recognition application construction support system. , the image recognition application construction support system according to any one of Supplementary Notes 1 to 3.
(Appendix 5)
The image recognition application construction support system according to appendix 4, wherein the image data set is an open data set.
(Appendix 6)
A program that causes a computer capable of wireless communication with a terminal device to support the construction of an image recognition application,
Meta information indicating from which viewpoint each image in the image dataset was taken is stored and managed in memory along with the image.
Among the information stored in the memory, the image recognition engine performs a statistical analysis of the distribution of viewpoints of multiple images used for model learning;
presenting the results of the statistical analysis to the terminal device;
A program for causing the computer to execute processing.
(Appendix 7)
The presenting process can identify images with missing viewpoints by presenting the results of the statistical analysis as a heat map of the model that represents the distribution of values obtained by counting the viewpoints of each image for each viewpoint coordinate. The program described in Appendix 6 presented to
(Appendix 8)
An image taken by a camera of the terminal device and sensor information obtained from a sensor of the terminal device and used to estimate the tilt of the camera are received from the terminal device, and the tilt of the camera is estimated from the sensor information. and instructing additional storage in the memory by estimating a viewpoint from the positional relationship between the image and the subject in the photographed image;
causing the computer to further execute the process;
8. The program according to appendix 6 or 7, wherein the managing process associates the image received in the instructing process with the estimated viewpoint in response to the instruction, and additionally stores the linked image in the memory.
(Appendix 9)
The managing process includes any one of appendices 6 to 8, wherein each image of the image data set and the viewpoint coordinates of each image extracted from each image are acquired from a cloud computing system accessible from the computer. Programs listed in section.
(Appendix 10)
The program according to appendix 9, wherein the image data set is an open data set.

以上、開示の画像認識アプリケーション構築支援システム及びプログラムを実施例により説明したが、本発明は上記実施例に限定されるものではなく、本発明の範囲内で種々の変形及び改良が可能であることは言うまでもない。 Although the disclosed image recognition application construction support system and program have been described above using examples, the present invention is not limited to the above-mentioned examples, and various modifications and improvements can be made within the scope of the present invention. Needless to say.

1,1A 画像認識アプリケーション構築支援システム
2 画像データセット
3 視点座標抽出部
4,4A 端末装置
11 管理部
12 分析部
13 提示部
14,14A 推定部
100 コンピュータ
120 バス
121 プロセッサ
122 メモリ
123 入力装置
124 表示装置
125 インタフェース
DB データベース
1, 1A Image recognition application construction support system 2 Image dataset 3 Viewpoint coordinate extraction section 4, 4A Terminal device 11 Management section 12 Analysis section 13 Presentation section 14, 14A Estimation section 100 Computer 120 Bus 121 Processor 122 Memory 123 Input device 124 Display Device 125 Interface DB Database

Claims (5)

端末装置と無線通信可能な画像認識アプリケーション構築支援システムであって、
画像データセットの各画像がどの視点から撮影されたかを示すメタ情報を画像と共にメモリに保存して管理する管理手段と、
前記メモリに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析する分析手段と、
統計分析の結果を、各画像の視点を視点座標毎にカウントした値の分布を表す前記モデルのヒートマップで提示することで、不足している視点の画像を前記端末装置に識別可能に提示する提示手段と、
を備えたことを特徴とする、画像認識アプリケーション構築支援システム。
An image recognition application construction support system capable of wireless communication with a terminal device,
a management means for storing and managing meta information indicating from which viewpoint each image of the image data set was taken in a memory together with the image;
analysis means for statistically analyzing the distribution of viewpoints of a plurality of images used by the image recognition engine for model learning among the information stored in the memory;
By presenting the results of the statistical analysis as a heat map of the model that represents the distribution of values obtained by counting the viewpoints of each image for each viewpoint coordinate, images of missing viewpoints are presented to the terminal device in such a way that they can be identified . A presentation means,
An image recognition application construction support system characterized by:
前記端末装置のカメラで撮影した画像と、前記端末装置のセンサから得られる、前記カメラの傾きを推定するのに用いるセンサ情報を前記端末装置から受信し、前記センサ情報から推定した前記カメラの傾きと前記撮影した画像中の被写体との位置関係から視点を推定して前記メモリへの追加保存を指示する推定手段を更に備え、
前記管理手段は、前記指示に応答して、前記推定手段が受信した画像と推定した視点を紐付けした情報を前記メモリへ追加保存することを特徴とする、請求項記載の画像認識アプリケーション構築支援システム。
An image taken by a camera of the terminal device and sensor information obtained from a sensor of the terminal device and used to estimate the tilt of the camera are received from the terminal device, and the tilt of the camera is estimated from the sensor information. further comprising estimating means for estimating a viewpoint from the positional relationship between the image and the subject in the photographed image and instructing additional storage in the memory;
The image recognition application according to claim 1 , wherein the management means additionally stores information linking the image received by the estimation means with the estimated viewpoint in the memory in response to the instruction. Construction support system.
前記管理手段は、前記画像データセットの各画像と、各画像から抽出された各画像の視点座標を、前記画像認識アプリケーション構築支援システムからアクセス可能なクラウドコンピューティングシステムから取得することを特徴とする、請求項1又は2記載の画像認識アプリケーション構築支援システム。 The management means is characterized in that the management means acquires each image of the image data set and the viewpoint coordinates of each image extracted from each image from a cloud computing system accessible from the image recognition application construction support system. An image recognition application construction support system according to claim 1 or 2 . 前記画像データセットは、オープンなデータセットであることを特徴とする、請求項記載の画像認識アプリケーション構築支援システム。 4. The image recognition application construction support system according to claim 3 , wherein the image data set is an open data set. 端末装置と無線通信可能なコンピュータに、画像認識アプリケーションの構築を支援させるプログラムであって、A program that causes a computer capable of wireless communication with a terminal device to support the construction of an image recognition application,
画像データセットの各画像がどの視点から撮影されたかを示すメタ情報を画像と共にメモリに保存して管理し、Meta information indicating from which viewpoint each image in the image dataset was taken is stored and managed in memory along with the image.
前記メモリに保存した情報のうち、画像認識エンジンがモデルの学習に使用した複数の画像の視点の分布を統計分析し、Among the information stored in the memory, the image recognition engine performs a statistical analysis of the distribution of viewpoints of multiple images used for model learning;
統計分析の結果を、各画像の視点を視点座標毎にカウントした値の分布を表す前記モデルのヒートマップで提示することで、不足している視点の画像を前記端末装置に識別可能に提示する、By presenting the results of the statistical analysis as a heat map of the model that represents the distribution of values obtained by counting the viewpoints of each image for each viewpoint coordinate, images of missing viewpoints are presented to the terminal device in such a way that they can be identified. ,
処理を前記コンピュータに実行させるためのプログラム。A program for causing the computer to execute processing.
JP2019150870A 2019-08-21 2019-08-21 Image recognition application construction support system and program Active JP7367383B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019150870A JP7367383B2 (en) 2019-08-21 2019-08-21 Image recognition application construction support system and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019150870A JP7367383B2 (en) 2019-08-21 2019-08-21 Image recognition application construction support system and program

Publications (2)

Publication Number Publication Date
JP2021033489A JP2021033489A (en) 2021-03-01
JP7367383B2 true JP7367383B2 (en) 2023-10-24

Family

ID=74678237

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019150870A Active JP7367383B2 (en) 2019-08-21 2019-08-21 Image recognition application construction support system and program

Country Status (1)

Country Link
JP (1) JP7367383B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7626243B2 (en) * 2021-10-14 2025-02-04 日本電気株式会社 Data set creation device, data set creation method, and program

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004213567A (en) 2003-01-08 2004-07-29 Ntt Docomo Inc Image learning device and learning method thereof
WO2011096343A1 (en) 2010-02-05 2011-08-11 日本電気株式会社 Photographic location recommendation system, photographic location recommendation device, photographic location recommendation method, and program for photographic location recommendation
JP2012128744A (en) 2010-12-16 2012-07-05 Canon Inc Object recognition device, object recognition method, learning device, learning method, program and information processing system
JP6514401B1 (en) 2018-09-28 2019-05-15 株式会社東芝 INFORMATION PROCESSING APPARATUS, LEARNING APPARATUS, INFORMATION PROCESSING SYSTEM, INFORMATION PROCESSING METHOD, AND COMPUTER PROGRAM

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6102648B2 (en) * 2013-09-13 2017-03-29 ソニー株式会社 Information processing apparatus and information processing method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004213567A (en) 2003-01-08 2004-07-29 Ntt Docomo Inc Image learning device and learning method thereof
WO2011096343A1 (en) 2010-02-05 2011-08-11 日本電気株式会社 Photographic location recommendation system, photographic location recommendation device, photographic location recommendation method, and program for photographic location recommendation
JP2012128744A (en) 2010-12-16 2012-07-05 Canon Inc Object recognition device, object recognition method, learning device, learning method, program and information processing system
JP6514401B1 (en) 2018-09-28 2019-05-15 株式会社東芝 INFORMATION PROCESSING APPARATUS, LEARNING APPARATUS, INFORMATION PROCESSING SYSTEM, INFORMATION PROCESSING METHOD, AND COMPUTER PROGRAM

Also Published As

Publication number Publication date
JP2021033489A (en) 2021-03-01

Similar Documents

Publication Publication Date Title
US20240290047A1 (en) Augmented reality system
CN111081199B (en) Selecting a temporally distributed panoramic image for display
US9268410B2 (en) Image processing device, image processing method, and program
CN112639876B (en) Depth prediction for moving images
US9904664B2 (en) Apparatus and method providing augmented reality contents based on web information structure
EP4127876B1 (en) Depth estimation using biometric data
US9842268B1 (en) Determining regions of interest based on user interaction
KR101181967B1 (en) 3D street view system using identification information.
JP2014106681A5 (en)
CN110766081B (en) Interface image detection method, model training method and related device
JPWO2012063560A1 (en) Image processing system, image processing method, and storage medium storing image processing program
US11978232B2 (en) Method for displaying three-dimensional augmented reality
CN118052960A (en) Tracking augmented reality devices
CN104252712A (en) Image generating apparatus and image generating method
CN112882576A (en) AR interaction method and device, electronic equipment and storage medium
CN106462768A (en) Using image features to extract viewports from images
JP2020119156A (en) Avatar creating system, avatar creating device, server device, avatar creating method and program
US10748000B2 (en) Method, electronic device, and recording medium for notifying of surrounding situation information
JP2023172893A (en) Control method, control device, and recording medium for interactive three-dimensional representation of objects
US20250278573A1 (en) Visual chain-of-thought reasoning for multimodal language models
JP7367383B2 (en) Image recognition application construction support system and program
CN116943216A (en) Laminating relation detection method, laminating relation detection device, laminating relation detection equipment and storage medium
CN116071527A (en) Object processing method, device, storage medium and electronic equipment
CN112037305B (en) Method, device and storage medium for reconstructing tree-like organization in image
CN116958843A (en) A key point labeling method, device, equipment and storage medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220517

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230413

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230605

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230912

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230925

R150 Certificate of patent or registration of utility model

Ref document number: 7367383

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150