Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7784082B2 - 3D human model output device, program, and 3D human model output method - Google Patents
[go: Go Back, main page]

JP7784082B2 - 3D human model output device, program, and 3D human model output method - Google Patents

3D human model output device, program, and 3D human model output method

Info

Publication number
JP7784082B2
JP7784082B2 JP2021212791A JP2021212791A JP7784082B2 JP 7784082 B2 JP7784082 B2 JP 7784082B2 JP 2021212791 A JP2021212791 A JP 2021212791A JP 2021212791 A JP2021212791 A JP 2021212791A JP 7784082 B2 JP7784082 B2 JP 7784082B2
Authority
JP
Japan
Prior art keywords
human model
dimensional human
attribute information
model
evaluation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021212791A
Other languages
Japanese (ja)
Other versions
JP2022033237A5 (en
JP2022033237A (en
Inventor
大季 谷口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ai Model
Original Assignee
Ai Model
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ai Model filed Critical Ai Model
Publication of JP2022033237A publication Critical patent/JP2022033237A/en
Publication of JP2022033237A5 publication Critical patent/JP2022033237A5/ja
Application granted granted Critical
Publication of JP7784082B2 publication Critical patent/JP7784082B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/094Adversarial learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/0475Generative networks
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/09Supervised learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three-dimensional [3D] modelling for computer graphics
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating three-dimensional [3D] models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Graphics (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Generation (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)

Description

本開示は、3次元人物モデル生成装置、より詳しくは、コンピュータグラフィックスに携わるデザイナーが少ない労力で所望の3次元人物モデルを生成可能な装置に関する。 This disclosure relates to a three-dimensional human model generation device, and more specifically to a device that enables computer graphics designers to generate desired three-dimensional human models with minimal effort.

コンピュータグラフィックスの技術分野において、多数のポリゴン(多角形)を用いて人物を3次元で精細に表示することへの需要がますます高まっている。しかしながら、人物を3次元で精細に表示するには、多大な労力を要する。需要の高まりに応え、より多くの3次元人物モデルを精彩な状態で提供可能にするため、1つあたりの3次元人物モデルの生成に要する労力を軽減することが求められている。 In the technical field of computer graphics, there is an ever-increasing demand for the use of a large number of polygons to display people in high detail in three dimensions. However, displaying people in high detail in three dimensions requires a great deal of effort. In order to meet this growing demand and make it possible to provide more high-quality three-dimensional human models, there is a need to reduce the effort required to generate each three-dimensional human model.

労力を軽減し得る技術として、手本である訓練データを用いて予め学習を行った学習済ニューラルネットワークモデルに基づいて着色処理を実行することで、3次元モデルデータ表面の色彩や質感に関するデータ(「テクスチャ」とも称される。)を自動で生成可能な技術が提案されている(特許文献1参照)。特許文献1に記載の技術によると、学習済ニューラルネットワークモデルを用いてテクスチャの生成を自動で行うため、3次元モデル表面に施す色彩や質感を設定するのに必要な労力を軽減し得る。 One technology that can reduce the amount of work required is one that can automatically generate data related to the color and texture of the surface of three-dimensional model data (also called "texture") by performing a coloring process based on a trained neural network model that has been trained in advance using example training data (see Patent Document 1). According to the technology described in Patent Document 1, texture is automatically generated using a trained neural network model, which can reduce the amount of work required to set the color and texture to be applied to the surface of a three-dimensional model.

特開2020-013390号公報Japanese Patent Application Laid-Open No. 2020-013390

3次元人物モデルの生成においては、デザイナーへの発注者が求める属性や形状に合わせ、デザイナーが発注者のニーズに合わせた3次元人物モデルを容易に生成可能であることが重要である。しかし、特許文献1の技術は、3次元モデルデータ表面の色彩や質感に関するデータの生成を自動で行うことにとどまり、発注者のニーズに合わせることの自動化という点では、なお改良の余地がある。 When generating 3D character models, it is important that the designer can easily generate a 3D character model that meets the client's needs, matching the attributes and shapes desired by the client. However, the technology in Patent Document 1 only automatically generates data related to the color and texture of the 3D model surface, and there is still room for improvement in terms of automating the process of meeting the client's needs.

より具体的に説明すると、特許文献1に記載の訓練データを用いたニューラルネットワークの機械学習では、デザイナーが手本である訓練データを用意する。デザイナーへの発注者が所望する属性を備えた3次元人物モデルを生成するニューラルネットワークは、発注者が所望する属性のそれぞれに対応した訓練データを必要とする。このため、デザイナーは、大量の訓練データを用意するために、多大な労力を要する。デザイナーが少ない労力で所望の3次元人物モデルを生成するためには、ニューラルネットワークの学習に要する労力を軽減することが重要である。 More specifically, in the neural network machine learning using training data described in Patent Document 1, the designer prepares model training data. A neural network that generates a three-dimensional human model equipped with the attributes desired by the client of the designer requires training data corresponding to each of the client's desired attributes. This requires a great deal of effort from the designer to prepare a large amount of training data. In order for designers to generate the desired three-dimensional human model with minimal effort, it is important to reduce the effort required for neural network training.

本開示は、このような事情に鑑みてなされたものであり、その目的は、発注者が所望する3次元人物モデルを、コンピュータグラフィックスに携わるデザイナーができる限り少ない労力で生成可能な3次元人物モデル生成装置を提供することである。 This disclosure has been made in light of these circumstances, and its purpose is to provide a 3D character model generation device that enables computer graphics designers to generate the 3D character models desired by clients with as little effort as possible.

本願発明者は、上記課題を解決するために鋭意検討した結果、ニューラルネットワークの教師なし学習を行うことで、上記の目的を達成できることを見出し、本開示を完成させるに至った。具体的に、本開示は以下のものを提供する。 As a result of extensive research into solving the above problems, the inventors of the present application discovered that the above objectives could be achieved by performing unsupervised learning of neural networks, leading to the completion of this disclosure. Specifically, this disclosure provides the following:

第1の開示は、3次元人物モデルを構成可能な人物モデル構成情報、前記人物モデル構成情報によって構成される複数種類の3次元人物モデルのそれぞれに関する評価情報、及び前記複数種類の3次元人物モデルの属性情報を用いて、前記複数種類の3次元人物モデルの評価基準を第1ニューラルネットワークに機械学習させることが可能な評価学習部と、第2ニューラルネットワーク及び前記属性情報を用いて複数種類の被生成3次元人物モデルを生成可能な生成部と、前記複数種類の被生成3次元人物モデルを、前記評価基準及び前記属性情報を用いて評価可能な評価部と、前記複数種類の被生成3次元人物モデルのうち、前記評価部によって評価がなされた単数種類の被出力3次元人物モデル、または評価がなされた複数種類の被出力3次元人物モデルを出力可能な出力部と、前記被出力3次元人物モデルに関し、利用者評価情報を受信可能な受信部と、前記被出力3次元人物モデルによって前記人物モデル構成情報を更新可能にし、前記利用者評価情報によって前記評価情報を更新可能にする更新部と、少なくとも前記第2ニューラルネットワークについて、教師なし学習による機械学習を実行可能な機械学習部と、を備える3次元人物モデル生成装置を提供する。 The first disclosure relates to an evaluation learning unit that can use person model configuration information that can configure a three-dimensional human model, evaluation information for each of a plurality of types of three-dimensional human models configured using the person model configuration information, and attribute information for the plurality of types of three-dimensional human models to machine-learn evaluation criteria for the plurality of types of three-dimensional human models using a first neural network; a generation unit that can generate a plurality of types of generated three-dimensional human models using a second neural network and the attribute information; an evaluation unit that can evaluate the plurality of types of generated three-dimensional human models using the evaluation criteria and the attribute information; The present invention provides a 3D human model generation device comprising: an output unit capable of outputting a single type of output 3D human model evaluated by the evaluation unit, or multiple types of output 3D human models evaluated, from among multiple types of generated 3D human models; a receiving unit capable of receiving user evaluation information regarding the output 3D human model; an update unit capable of updating the human model configuration information using the output 3D human model and updating the evaluation information using the user evaluation information; and a machine learning unit capable of performing unsupervised machine learning for at least the second neural network.

第1の開示によれば、3次元人物モデルの利用者であるグラフィックデザイナーへの発注者が3次元人物モデルに求める属性に関する評価基準を、第1ニューラルネットワークに機械学習させることができる。生成部は、当該利用者が3次元人物モデルに求める属性を有する被生成3次元人物モデルを複数生成できる。そして、出力部は、生成部が生成した複数の被生成3次元人物モデルから、属性に関する評価基準を満たす、すなわち、所望の3次元人物モデルであると認められる、複数種類の被出力3次元人物モデルを選別して出力できる。被出力3次元人物モデルの出力に関する一連の処理が自動で行われるため、デザイナーは、利用者(発注者)が所望する3次元人物モデルをより少ない労力で出力させることができる。 According to the first disclosure, the first neural network can be made to learn by machine learning evaluation criteria related to the attributes desired by a user (a graphic designer who is the user of the 3D human model) in a 3D human model. The generation unit can generate multiple 3D human models to be generated that have the attributes desired by the user. The output unit can then select and output multiple types of output 3D human models from the multiple 3D human models generated by the generation unit that satisfy the evaluation criteria related to the attributes, i.e., that are recognized as desired 3D human models. Because a series of processes related to the output of the output 3D human models is performed automatically, the designer can output the 3D human model desired by the user (the client) with less effort.

評価学習部において、人物モデル構成情報、評価情報、及び属性情報は、機械学習の手本となる訓練データの役割を果たす。更新部が人物モデル構成情報及び評価情報を更新可能であるため、デザイナーは、訓練データを少ない労力で用意できる。すなわち、利用者(デザイナーへの発注者)が3次元人物モデルに求める属性をより一層反映した評価基準を、デザイナーは、少ない労力で得ることができる。これにより、デザイナーは、利用者(発注者)が所望する3次元人物モデルを少ない労力で出力させることができる。 In the evaluation learning unit, the character model configuration information, evaluation information, and attribute information serve as training data that serves as a model for machine learning. Because the update unit can update the character model configuration information and evaluation information, designers can prepare training data with little effort. In other words, designers can obtain evaluation criteria that better reflect the attributes that users (those who order designers) desire in 3D character models with little effort. This allows designers to output the 3D character models desired by users (those who order designers) with little effort.

第1の開示によれば、生成部は、機械学習された第2ニューラルネットワークを用いることにより、利用者(デザイナーへの発注者)が所望する3次元人物モデルをより精彩な状態で生成できる。教師なし学習による機械学習は、外部から手本となる訓練データが与えられなくても実行できるため、デザイナーの労力を増やすことなく、利用者(発注者)が所望する3次元人物モデルをより精彩な状態で生成できる。 According to the first disclosure, the generation unit can use the machine-learned second neural network to generate a more detailed 3D human model desired by the user (the person ordering the designer). Unsupervised machine learning can be performed without externally provided model training data, so a more detailed 3D human model desired by the user (the person ordering the designer) can be generated without increasing the designer's workload.

したがって、第1の開示によれば、利用者(発注者)が所望する3次元人物モデルを、コンピュータグラフィックスに携わるデザイナーができるだけ少ない労力で生成可能な3次元人物モデル生成装置を提供できる。 Therefore, according to the first disclosure, it is possible to provide a 3D human model generation device that enables a designer working in computer graphics to generate the 3D human model desired by the user (orderer) with as little effort as possible.

第2の開示は、第1の開示に加えて、前記機械学習部は、前記第1ニューラルネットワーク及び前記第2ニューラルネットワークの両方について、前記教師なし学習による前記機械学習を実行可能である、3次元人物モデル生成装置を提供する。 The second disclosure provides a 3D human model generation device in addition to the first disclosure, in which the machine learning unit is capable of performing the machine learning using the unsupervised learning for both the first neural network and the second neural network.

第2の開示によれば、教師なし学習による機械学習を実行するため、評価学習部は、デザイナーによって与えられた訓練データがなくても、更新された人物モデル構成情報及び評価情報に基づく評価基準を第1ニューラルネットワークに機械学習させることができる。したがって、利用者(発注者)が所望する3次元人物モデルを、デザイナーの労力を増やすことなくより精彩な状態で出力できる。 According to the second disclosure, because machine learning is performed through unsupervised learning, the evaluation learning unit can have the first neural network learn evaluation criteria based on updated character model configuration information and evaluation information, even without training data provided by the designer. Therefore, a three-dimensional character model desired by the user (client) can be output in a more vivid state without increasing the designer's effort.

第3の開示は、第1の開示または 第2の開示に加え、前記教師なし学習は、敵対的生成ネットワークによる学習である、3次元人物モデル生成装置を提供する。 The third disclosure provides a 3D human model generation device according to the first or second disclosure, wherein the unsupervised learning is learning using a generative adversarial network.

第3の開示によれば、第2ニューラルネットワークを敵対的生成ネットワークの生成器とし、第1ニューラルネットワークを敵対的生成ネットワークの識別器とする、敵対的生成ネットワークによる機械学習を行える。敵対的生成ネットワークによる機械学習では、生成器がデータを生成し、識別器が生成されたデータを識別する。そして、生成器は、生成したデータが正しいデータであると識別器に識別されることを目的とした機械学習を行う。 According to the third disclosure, machine learning can be performed using a generative adversarial network, with the second neural network serving as the generator of the generative adversarial network and the first neural network serving as the classifier of the generative adversarial network. In machine learning using a generative adversarial network, the generator generates data and the classifier classifies the generated data. The generator then performs machine learning with the goal of having the classifier classify the generated data as correct data.

生成器が被生成3次元人物モデルの生成に関する第2ニューラルネットワークであり、識別器が3次元人物モデルの評価基準を機械学習した第1ニューラルネットワークである敵対的生成ネットワークによる機械学習において、識別器が生成されたデータを正しいデータであると識別することは、評価基準を機械学習した第1ニューラルネットワークが第2ニューラルネットワークに生成された被生成3次元人物モデルを、利用者(発注者)が求める属性を備えた3次元人物モデルであると評価することに相当する。すなわち、第2ニューラルネットワークは、利用者(発注者)が求める属性を備えていると第1ニューラルネットワークに評価されるような被生成3次元人物モデルの生成を目的とした機械学習を行う。これにより、第2ニューラルネットワークを用いる生成部は、所望の3次元人物モデルを、より精彩な状態で生成可能となる。 In machine learning using a generative adversarial network, where the generator is a second neural network related to the generation of a generated 3D human model and the classifier is a first neural network that has learned evaluation criteria for 3D human models through machine learning, when the classifier identifies the generated data as correct, this is equivalent to the first neural network that learned the evaluation criteria through machine learning evaluating the generated 3D human model generated by the second neural network as a 3D human model that has the attributes desired by the user (orderer). In other words, the second neural network performs machine learning with the goal of generating a generated 3D human model that will be evaluated by the first neural network as having the attributes desired by the user (orderer). This enables the generation unit using the second neural network to generate the desired 3D human model in a more detailed state.

上述の敵対的生成ネットワークによる機械学習は教師なし学習なので、デザイナーの労力を増やすことがない。したがって、第3の開示によれば、利用者(発注者)が所望する3次元人物モデルを、コンピュータグラフィックスに携わるデザイナーが少ない労力で生成できる3次元人物モデル生成装置を提供できる。 The machine learning using the above-mentioned generative adversarial network is unsupervised learning, so it does not increase the designer's workload. Therefore, according to the third disclosure, it is possible to provide a 3D human model generation device that enables designers involved in computer graphics to generate the 3D human model desired by the user (client) with minimal effort.

第4の開示は、第1から第3のいずれかの開示であって、前記属性情報は、人物の特徴に関する情報を含む、3次元人物モデル生成装置を提供する。 The fourth disclosure provides a 3D human model generation device according to any one of the first to third disclosures, wherein the attribute information includes information about the characteristics of the person.

第4の開示によれば、利用者(発注者)が求める人物の特徴に関する評価基準を第1ニューラルネットワークに機械学習させることができる。これにより、第1ニューラルネットワークは、3次元人物モデルの評価基準を、3次元人物モデルを利用する利用者(3次元人物モデルをデザイナーに発注する発注者)が求める人物の特徴に相当する部分に注目して評価するように機械学習できる。また、デザイナーは、属性情報が含む人物の特徴に関する情報を介して、3次元人物モデルの利用者(発注者)が求める人物の特徴を捉えた3次元人物モデルを容易に生成させ、出力させることができる。 According to the fourth disclosure, the first neural network can be trained to learn evaluation criteria related to the characteristics of a person desired by a user (client). This allows the first neural network to train evaluation criteria for a 3D human model by machine learning, so as to focus on and evaluate aspects of the 3D human model that correspond to the characteristics of a person desired by the user (client who orders a 3D human model from a designer). Furthermore, the designer can easily generate and output a 3D human model that captures the characteristics of a person desired by the user (client) of the 3D human model, via information related to the characteristics of the person contained in the attribute information.

第5の開示は、第1から第4のいずれかの開示であって、前記属性情報は、前記3次元人物モデルの利用目的に関する情報を含む、3次元人物モデル生成装置を提供する。 The fifth disclosure provides a 3D human model generation device according to any one of the first to fourth disclosures, wherein the attribute information includes information regarding the purpose of use of the 3D human model.

第5の開示によれば、3次元人物モデルの利用目的に関する評価基準を第1ニューラルネットワークに機械学習させることができる。また、生成部は、利用目的に応じた被生成3次元人物モデルを生成できる。したがって、デザイナーは、利用目的に応じた3次元人物モデルの属性情報を逐一指定する労力を要することなく、利用目的を指定するだけで、利用者(発注者)が求める3次元人物モデルを生成させることができる。したがって、コンピュータグラフィックスに携わるデザイナーは、利用者(発注者)が所望する3次元人物モデルをより少ない労力で生成できる。 According to the fifth disclosure, the first neural network can be trained by machine learning evaluation criteria related to the intended use of the 3D human model. Furthermore, the generation unit can generate a 3D human model to be generated according to the intended use. Therefore, the designer can generate the 3D human model desired by the user (client) simply by specifying the intended use, without having to go to the trouble of specifying attribute information for the 3D human model according to the intended use one by one. Therefore, designers working in computer graphics can generate the 3D human model desired by the user (client) with less effort.

第6の開示は、第1から第5のいずれかの開示であって、前記属性情報は、前記単数種類の被出力3次元人物モデルまたは複数種類の被出力3次元人物モデルを識別可能にする識別情報を含む、3次元人物モデル生成装置を提供する。 The sixth disclosure provides a 3D human model generation device according to any one of the first to fifth disclosures, wherein the attribute information includes identification information that enables identification of the single type of output 3D human model or multiple types of output 3D human models.

第6の開示によれば、更新された人物モデル構成情報の代わりに、属性情報に含まれる識別情報によって、利用者評価情報によって更新された評価情報と被出力3次元人物モデルとを対応づけることができる。これにより、人物モデル構成情報の更新を行わなくても、被出力3次元モデルに関する評価基準を第1ニューラルネットワークに機械学習させることができる。人物モデル構成情報の更新を行わなわなければ、人物モデル構成情報の更新によってデザイナーを待たせることがなくなり、デザイナーの労力を軽減できる。 According to the sixth disclosure, instead of using updated character model configuration information, it is possible to associate evaluation information updated by user evaluation information with the output 3D character model using identification information included in attribute information. This allows the first neural network to machine-learn evaluation criteria related to the output 3D character model without updating the character model configuration information. If the character model configuration information is not updated, the designer will not have to wait for updates to the character model configuration information, reducing the designer's workload.

第7の開示は、第1の開示に係る構成のカテゴリを変更したものである。 The seventh disclosure changes the category of the configuration related to the first disclosure.

本開示によれば、3次元人物モデルの利用者(発注者)が所望する3次元人物モデルを、コンピュータグラフィックスに携わるデザイナーができる限り少ない労力で生成可能な3次元人物モデル生成装置を提供できる。 This disclosure provides a 3D character model generation device that enables computer graphics designers to generate the 3D character models desired by users (orderers) of 3D character models with as little effort as possible.

本実施形態の3次元人物モデル生成装置の構成例を示すブロック図である。1 is a block diagram showing an example of the configuration of a three-dimensional human model generating device according to an embodiment of the present invention; 人物モデル情報テーブルの一例を示す図である。FIG. 10 is a diagram illustrating an example of a character model information table. ニューラルネットワークテーブルの一例を示す図である。FIG. 10 is a diagram illustrating an example of a neural network table. 本実施形態の3次元人物モデル生成装置を用いた3次元人物モデル生成処理の一例を示すフローチャートである。10 is a flowchart illustrating an example of a three-dimensional human model generation process using the three-dimensional human model generation device of the present embodiment. 敵対的生成ネットワークを用いる場合における機械学習処理の一例を示すフローチャートである。10 is a flowchart illustrating an example of machine learning processing when a generative adversarial network is used. 属性情報を用いた3次元人物モデル生成の一例を示す説明図である。FIG. 10 is an explanatory diagram showing an example of generating a three-dimensional human model using attribute information. 利用者評価情報を用いた機械学習の一例を示す説明図である。FIG. 10 is an explanatory diagram showing an example of machine learning using user evaluation information.

以下、本開示を実施するための好適な形態の一例について図を参照しながら説明する。なお、これはあくまでも一例であって、本開示の技術的範囲はこれに限られるものではない。 Below, an example of a preferred embodiment for implementing this disclosure will be described with reference to the drawings. Note that this is merely an example, and the technical scope of this disclosure is not limited to this example.

<3次元人物モデル生成装置1>
図1は、本実施形態の3次元人物モデル生成装置1(以下、単に「生成装置1」とも称する。)の構成の一例を示すブロック図である。生成装置1は、少なくとも、制御部11、記憶部12、表示部13、入力部14、を含んで構成される。
<Three-dimensional human model generating device 1>
1 is a block diagram showing an example of the configuration of a three-dimensional human model generating device 1 (hereinafter also simply referred to as "generating device 1") according to this embodiment. The generating device 1 is configured to include at least a control unit 11, a storage unit 12, a display unit 13, and an input unit 14.

[制御部11]
制御部11は、CPU(Central Processing Unit)、RAM(Random Access Memory)、及びROM(Read Only Memory)等を備える。
[Control unit 11]
The control unit 11 includes a CPU (Central Processing Unit), a RAM (Random Access Memory), a ROM (Read Only Memory), and the like.

制御部11は、所定のプログラムを読み込み、必要に応じて記憶部12、表示部13、入力部14が協働することで、生成装置1におけるソフトウェア構成の要素である、評価学習部111、生成部112、評価部113、出力部114、受信部115、更新部116、機械学習部117等を実現する。 The control unit 11 loads a specified program, and the memory unit 12, display unit 13, and input unit 14 work together as necessary to realize the software configuration elements of the generation device 1, such as the evaluation learning unit 111, generation unit 112, evaluation unit 113, output unit 114, reception unit 115, update unit 116, and machine learning unit 117.

[記憶部12]
記憶部12は、データやファイルが記憶される装置であって、ハードディスクや半導体メモリ、記録媒体、メモリカード等による、データのストレージ部を有する。記憶部12は、ネットワークを介してNAS(Network Attached Storage)、SAN(Storage Area Network)、クラウドストレージ、ファイルサーバ、分散ファイルシステム等の記憶装置、または記憶システムとの接続を可能にする仕組みを有してもよい。
[Storage unit 12]
The storage unit 12 is a device in which data and files are stored, and has a data storage unit such as a hard disk, semiconductor memory, recording medium, memory card, etc. The storage unit 12 may have a mechanism that enables connection to storage devices or storage systems such as NAS (Network Attached Storage), SAN (Storage Area Network), cloud storage, file server, and distributed file system via a network.

記憶部12には、マイクロコンピューターで実行される制御プログラム、人物モデル情報テーブル121、ニューラルネットワークテーブル122等が記憶されている。記憶部12には、制御部11の出力部114から信号及び情報が入力される。また、記憶部12から、制御部11の受信部115へ信号及び情報が送信される。 The memory unit 12 stores a control program executed by the microcomputer, a character model information table 121, a neural network table 122, etc. Signals and information are input to the memory unit 12 from the output unit 114 of the control unit 11. In addition, signals and information are transmitted from the memory unit 12 to the receiving unit 115 of the control unit 11.

[人物モデル情報テーブル121]
図2は、人物モデル情報テーブル121の一例を示す図である。図2に示す人物モデル情報テーブル121には、人物モデル情報を識別する「ID」と、3次元人物モデルの形状、3次元人物モデル表面の質感、3次元人物モデル表面の色彩を有する「人物モデル構成情報」と、人物モデル構成情報によって構成される3次元人物モデルに関する「評価情報」と、3次元人物モデルの「属性情報」とを紐付けた情報が記憶されている。
[Personal Model Information Table 121]
Fig. 2 is a diagram showing an example of the character model information table 121. The character model information table 121 shown in Fig. 2 stores information linking an "ID" for identifying character model information, "character model configuration information" having the shape, the surface texture, and the surface color of the three-dimensional character model, "evaluation information" regarding the three-dimensional character model configured by the character model configuration information, and "attribute information" of the three-dimensional character model.

また、人物モデル情報テーブル121は、IDと人物モデル構成情報と属性情報とを紐付けた情報を追加可能に構成されている。人物モデル情報テーブル121が情報を追加可能に構成されていることにより、更新部116は、被出力3次元人物モデルによって人物モデル構成情報を更新できる。 Furthermore, the character model information table 121 is configured to allow the addition of information linking an ID, character model configuration information, and attribute information. Because the character model information table 121 is configured to allow the addition of information, the update unit 116 can update the character model configuration information using the output 3D character model.

(人物モデル構成情報)
人物モデル構成情報は、3次元人物モデルを構成可能な情報である。3次元人物モデルは、人物または人物の一部を視覚的に表現するための3次元モデルであれば特に限定されない。3次元人物モデルは、男性または女性の何れでもよく、人物が身に着ける着衣、装飾品、小道具の3次元モデルのうち、少なくとも1つを含んでも良い。人物モデル構成情報のフォーマットは、特に限定されず、従来技術のフォーマットの人物モデル構成情報を記憶できる。
(Person model configuration information)
The character model configuration information is information that can configure a three-dimensional character model. The three-dimensional character model is not particularly limited as long as it is a three-dimensional model that visually represents a person or a part of a person. The three-dimensional character model may be either male or female, and may include at least one of three-dimensional models of clothing, accessories, and props worn by the person. The format of the character model configuration information is not particularly limited, and character model configuration information in a conventional format can be stored.

人物モデル構成情報は、3次元人物モデルの立体的形状に関する情報、3次元人物モデル表面の質感に関する情報、または、3次元人物モデル表面の色彩に関する情報のうち、少なくとも1つの情報を含むことが好ましい。これらの情報を含むことにより、後述する第1ニューラルネットワークN1に手本となる訓練データを提供できる。これにより、第1ニューラルネットワークN1に、3次元人物モデルの立体的形状、3次元人物モデルの表面の色彩、3次元人物モデルの表面の色彩のうち、少なくとも1つに関する評価基準を機械学習させることができる。 The character model configuration information preferably includes at least one of the following: information about the three-dimensional shape of the three-dimensional character model, information about the texture of the surface of the three-dimensional character model, and information about the color of the surface of the three-dimensional character model. By including this information, model training data can be provided to the first neural network N1, which will be described later. This allows the first neural network N1 to machine-learn evaluation criteria related to at least one of the three-dimensional shape of the three-dimensional character model, the surface color of the three-dimensional character model, and the surface color of the three-dimensional character model.

また、これらの3次元人物モデルに関する各種の情報を含むことにより、人物モデル情報テーブル121は、後述する第2ニューラルネットワークN2に、手本となる訓練データを提供できる。これにより、第2ニューラルネットワークN2は、3次元人物モデルの立体的形状、3次元人物モデルの表面の色彩、3次元人物モデルの表面の色彩のうち、少なくとも1つに関する生成アルゴリズムを機械学習できる。例えば、ID「M1」の行には、形状が細長い顔であり、表面の色彩及び質感が明るい色の髪、ひげ有、及び薄い色の肌である、3次元人物モデルを構成する人物モデル構成情報が格納されている。 Furthermore, by including various information related to these three-dimensional human models, the human model information table 121 can provide model training data to the second neural network N2, which will be described later. This allows the second neural network N2 to machine-learn a generation algorithm related to at least one of the three-dimensional shape of the three-dimensional human model, the surface color of the three-dimensional human model, and the surface color of the three-dimensional human model. For example, the row with ID "M1" stores human model configuration information that configures a three-dimensional human model with a shape of an elongated face and surface color and texture of light-colored hair, beard, and light-colored skin.

人物モデル構成情報は、後述する出力部114が出力する被出力3次元人物モデルを構成可能な情報を含んでもよい。被出力3次元人物モデルを構成可能な情報は、被出力3次元人物モデルを構成可能であれば特に限定されず、人物モデル構成情報と同様に、従来技術のフォーマットの被出力3次元人物モデルを構成可能な構成情報を記憶できる。人物モデル構成情報が被出力3次元人物モデルを構成可能な情報を含んでもよいため、後述する更新部116は、被出力3次元人物モデルによって、人物モデル構成情報を更新できる。 The character model configuration information may include information that can be used to configure an output three-dimensional character model to be output by the output unit 114, which will be described later. The information that can configure an output three-dimensional character model is not particularly limited as long as it can configure an output three-dimensional character model, and similar to the character model configuration information, configuration information that can configure an output three-dimensional character model in a format of conventional technology can be stored. Because the character model configuration information may include information that can configure an output three-dimensional character model, the update unit 116, which will be described later, can update the character model configuration information using the output three-dimensional character model.

(評価情報)
評価情報は、人物モデル構成情報によって構成される3次元人物モデルに対して行われる利用者の評価情報である。図2に示す例では、利用者が求める3次元人物モデルに関する評価基準に合致する割合を100点満点で示す評価を評価情報として格納している。評価情報のフォーマットは、評価基準に合致する割合を100点満点で示す評価に限定されず、例えば、3次元人物モデルを利用者が評価した得点に関する情報、3次元人物モデルが備える属性を列挙した情報、3次元人物モデルが備えていない属性を列挙した情報、等を含んでもよい。
(Evaluation information)
The evaluation information is user evaluation information on a three-dimensional human model configured based on the human model configuration information. In the example shown in Fig. 2, an evaluation indicating the degree to which the three-dimensional human model conforms to the evaluation criteria desired by the user, on a scale of 100 points, is stored as the evaluation information. The format of the evaluation information is not limited to an evaluation indicating the degree to which the three-dimensional human model conforms to the evaluation criteria on a scale of 100 points, and may include, for example, information on the score given by the user to the three-dimensional human model, information listing the attributes that the three-dimensional human model has, information listing the attributes that the three-dimensional human model does not have, etc.

また、評価基準は、利用者が、発注してから購買した3次元人物モデルの履歴を含んでいてもよい。なお、利用者の評価が受信部115へ入力される経路は、入力部14から受信部115へ入力される経路と、外部装置120及び通信部15を介して受信部115へ入力される経路とを含む。利用者は、デザイナーに3次元人物モデルを発注する発注者である。 The evaluation criteria may also include a history of three-dimensional character models that the user has purchased since placing an order. The routes by which the user's evaluation is input to the receiving unit 115 include a route from the input unit 14 to the receiving unit 115, and a route by which the evaluation is input to the receiving unit 115 via the external device 120 and the communication unit 15. The user is the person who places an order for a three-dimensional character model with a designer.

(属性情報)
属性情報は、人物モデル構成情報によって構成される3次元人物モデルの属性の情報である。属性情報のフォーマットは、特に限定されず、3次元人物モデルの属性に関する任意の情報を含んでよい。
(Attribute information)
The attribute information is information about the attributes of the three-dimensional human model configured by the human model configuration information. The format of the attribute information is not particularly limited, and may include any information related to the attributes of the three-dimensional human model.

属性情報は、“利用者が求める人物の特徴”に関する情報を含むことが好ましい。図2に示す例では、ID「M1」に紐付けられた属性情報として「明るい色の髪」「細長い顔」「ヒゲ有」等の人物の特徴に関する情報が格納されている。人物の特徴に関する情報を含むことにより、利用者(発注者)が求める人物の特徴に関する評価基準を後述する第1ニューラルネットワークN1に機械学習させることができる。これにより、第1ニューラルネットワークN1は、3次元人物モデルを利用する利用者(3次元人物モデルをデザイナーに発注する発注者)が求める人物の特徴に相当する部分に注目して評価するように、3次元人物モデルの評価基準を機械学習できる。また、デザイナーは、属性情報が含む人物の特徴に関する情報を介して、3次元人物モデルの利用者(発注者)が求める人物の特徴を捉えた3次元人物モデルを容易に生成させ、出力させることができる。 The attribute information preferably includes information related to "characteristics desired by the user." In the example shown in Figure 2, information related to character characteristics such as "light-colored hair," "long, thin face," and "beard" is stored as attribute information linked to ID "M1." By including information related to character characteristics, the first neural network N1, described below, can learn by machine learning evaluation criteria related to the character characteristics desired by the user (client). This allows the first neural network N1 to learn by machine learning evaluation criteria for the 3D character model so that the evaluation focuses on parts corresponding to the character characteristics desired by the user who uses the 3D character model (the client who orders the 3D character model from the designer). Furthermore, via the information related to character characteristics included in the attribute information, the designer can easily generate and output a 3D character model that captures the character characteristics desired by the user (client) of the 3D character model.

属性情報は、3次元人物モデルの利用目的に関する情報を含むことが好ましい。図2に示す例では、ID「M1」に紐付けられた属性情報として「北米地域での広告向け」という3次元人物モデルの利用目的に関する情報が格納されている。3次元人物モデルの利用目的に関する情報を含むことにより、利用者(発注者)が求める3次元人物モデルの利用目的に関する評価基準を後述する第1ニューラルネットワークN1に機械学習させることができる。利用目的は、「北米地域での広告向け」、「アジア地域での広告向け」、「欧州地域での広告向け」、「アフリカ地域での広告向け」等、広告する地域を含む。 The attribute information preferably includes information regarding the intended use of the three-dimensional human model. In the example shown in Figure 2, information regarding the intended use of the three-dimensional human model, "for advertising in North America," is stored as attribute information linked to ID "M1." By including information regarding the intended use of the three-dimensional human model, the first neural network N1, described below, can learn by machine learning the evaluation criteria regarding the intended use of the three-dimensional human model desired by the user (client). The intended use includes the region in which the advertisement will be made, such as "for advertising in North America," "for advertising in Asia," "for advertising in Europe," or "for advertising in Africa."

これにより、第1ニューラルネットワークN1は、3次元人物モデルを利用する利用者(3次元人物モデルをデザイナーに発注する発注者)が求める3次元人物モデルの利用目的に適しているか否かに注目して評価するように、3次元人物モデルの評価基準を機械学習できる。また、デザイナーは、属性情報が含む3次元人物モデルの利用目的に関する情報を介して、3次元人物モデルの利用者(発注者)が求める3次元人物モデルの利用目的に適した3次元人物モデルを容易に生成させ、出力させることができる。 As a result, the first neural network N1 can machine-learn evaluation criteria for three-dimensional human models, so as to evaluate whether the three-dimensional human model is suitable for the intended use desired by the user who will use the three-dimensional human model (the client who orders the three-dimensional human model from the designer). Furthermore, the designer can easily generate and output a three-dimensional human model that is suitable for the intended use desired by the user (client) of the three-dimensional human model, using the information regarding the intended use of the three-dimensional human model contained in the attribute information.

属性情報が3次元人物モデルの利用目的に関する情報を含むことにより、生成装置1は、属性情報を介して3次元人物モデルの利用目的を受信可能となる。したがって、デザイナーは、利用目的に応じた3次元人物モデルの属性情報を逐一指定する労力を要することなく、利用目的を指定するだけで、利用目的に応じた被生成3次元人物モデルを生成できる。したがって、コンピュータグラフィックスに携わるデザイナーは、利用者(発注者)が所望する3次元人物モデルをより少ない労力で生成できる。 By including information about the intended use of the 3D character model in the attribute information, the generation device 1 can receive the intended use of the 3D character model via the attribute information. This means that the designer can generate a 3D character model to be generated that meets the intended use, simply by specifying the intended use, without having to go to the trouble of specifying attribute information for the 3D character model in accordance with the intended use. This means that designers working in computer graphics can generate the 3D character model desired by the user (client) with less effort.

属性情報は、被出力3次元人物モデルを識別可能にする識別情報を含むことが好ましい。図2に示す例では、ID「M5」に紐付けられた属性情報として「被出力3次元人物モデル:P1」という被出力3次元人物モデルを識別可能にする情報が格納されている。これにより、更新された人物モデル構成情報の代わりに、属性情報に含まれる識別情報によって、利用者評価情報によって更新された評価情報と被出力3次元人物モデルとを対応づけることができる。これにより、人物モデル情報テーブル121に格納された人物モデル構成情報の更新を行わなくても、被生成3次元モデルに関する評価基準を第1ニューラルネットワークN1に機械学習させることができる。人物モデル構成情報の更新を行わなければ、人物モデル構成情報の更新によってデザイナーを待たせることがなくなり、デザイナーの労力を軽減できる。 The attribute information preferably includes identification information that makes the output 3D human model identifiable. In the example shown in FIG. 2, information that makes the output 3D human model identifiable, "output 3D human model: P1," is stored as attribute information linked to ID "M5." This makes it possible to associate the evaluation information updated by the user evaluation information with the output 3D human model using the identification information included in the attribute information, instead of the updated human model configuration information. This allows the first neural network N1 to machine-learn evaluation criteria for the generated 3D model without updating the human model configuration information stored in the human model information table 121. Not updating the human model configuration information eliminates the need for the designer to wait for updates to the human model configuration information, reducing the designer's workload.

図2に示す人物モデル情報テーブル121では、IDが格納されているため、人物モデル情報テーブル121に格納された情報の取得及び更新が容易になる。評価情報が格納されているため、後述する第1ニューラルネットワークN1に、手本となる訓練データを提供できる。これにより、第1ニューラルネットワークN1に、3次元人物モデルの評価基準を機械学習させることができる。属性情報が格納されているため、評価学習部111は、3次元人物モデルの利用者であるグラフィックデザイナーへの発注者が3次元人物モデルに求める属性に関する評価基準を、第1ニューラルネットワークN1に機械学習させることができる。 In the character model information table 121 shown in FIG. 2, IDs are stored, making it easy to obtain and update the information stored in the character model information table 121. Since evaluation information is stored, model training data can be provided to the first neural network N1, which will be described later. This allows the first neural network N1 to learn evaluation criteria for three-dimensional character models by machine learning. Since attribute information is stored, the evaluation learning unit 111 can allow the first neural network N1 to learn evaluation criteria related to the attributes that a client, who is a user of the three-dimensional character model, requests of the three-dimensional character model from a graphic designer.

生成部112は、当該利用者が3次元人物モデルに求める属性を有する被生成3次元人物モデルを複数生成できる。そして、出力部114は、生成部112が生成した複数の被生成3次元人物モデルから、属性に関する評価基準を満たす、すなわち、所望の3次元人物モデルであると認められる、複数種類の被出力3次元人物モデルを選別して出力できる。 The generation unit 112 can generate multiple 3D human model outputs that have the attributes that the user desires in a 3D human model. The output unit 114 can then select and output multiple types of 3D human model outputs that satisfy the evaluation criteria for attributes, i.e., are recognized as the desired 3D human model, from the multiple 3D human model outputs generated by the generation unit 112.

例えば、ID「M1」の行には、形状が細長い顔であり、表面の色彩及び質感が明るい色の髪、ひげ有、及び薄い色の肌である、3次元人物モデルを構成する人物モデル構成情報と、この人物モデル構成情報によって構成される3次元人物モデルに関する評価情報「90」と、この人物モデル構成情報によって構成される3次元人物モデルの属性情報「明るい色の髪」「細長い顔」「ヒゲ有」「薄い色の肌」「北米地域での広告向け」とが紐付けられて記憶されている。このように、人物モデル情報テーブル121は、人物モデル構成情報と、評価情報と、属性情報とを紐付けて格納できる。 For example, the row for ID "M1" stores character model configuration information for a three-dimensional character model having a long, thin face and a surface color and texture of light hair, a beard, and light skin, evaluation information "90" for the three-dimensional character model configured using this character model configuration information, and attribute information for the three-dimensional character model configured using this character model configuration information: "light hair," "long, thin face," "beard," "light skin," and "for advertising in North America." In this way, the character model information table 121 can store character model configuration information, evaluation information, and attribute information in association with each other.

[ニューラルネットワークテーブル122]
図3は、ニューラルネットワークテーブル122の一例を示す図である。ニューラルネットワークテーブル122には、少なくとも、3次元人物モデルの評価基準に関する第1ニューラルネットワークN1(ID「N1」に相当)及び3次元人物モデルの生成に関する第2ニューラルネットワークN2(ID「N2」に相当)が記憶される。
[Neural Network Table 122]
3 is a diagram showing an example of the neural network table 122. The neural network table 122 stores at least a first neural network N1 (corresponding to ID "N1") related to evaluation criteria for three-dimensional human models and a second neural network N2 (corresponding to ID "N2") related to generation of three-dimensional human models.

第1ニューラルネットワークN1及び第2ニューラルネットワークN2のフォーマットは、特に限定されず、ニューラルネットワークの人工ニューロン(ノードとも称される。)が出力する信号の有無、または信号の強さを決定する活性化関数に関する情報、ニューラルネットワークの人工ニューロンに入力された信号に対する重み付け(シナプスの結合強度または 単に結合強度とも称される。)を表現する重み行列(重みパラメータとも称される。)に関する情報、ニューラルネットワークの人工ニューロンに入力された信号に基準となる重み(バイアスパラメータまたは単にバイアスとも称される。)を与えるバイアスベクトルに関する情報、ニューラルネットワークの人工ニューロン間の接続関係に関する情報、等を含むデータ構造体を含んでもよい。 The format of the first neural network N1 and the second neural network N2 is not particularly limited, and may include a data structure containing information regarding an activation function that determines the presence or absence of a signal output by an artificial neuron (also referred to as a node) of the neural network, or the strength of the signal; information regarding a weight matrix (also referred to as a weight parameter) that represents the weighting of signals input to the artificial neuron of the neural network (also referred to as synaptic connection strength or simply connection strength); information regarding a bias vector that assigns a reference weight (also referred to as a bias parameter or simply bias) to signals input to the artificial neuron of the neural network; information regarding the connection relationships between the artificial neurons of the neural network; etc.

ニューラルネットワークテーブル122が格納する第1ニューラルネットワークN1及び第2ニューラルネットワークN2の種類は、特に限定されず、例えば、順伝播型ニューラルネットワーク(フィードフォワードニューラルネットワーク、または FFNNとも称される。)、畳み込みニューラルネットワーク(Convolutional neural network、CNN、または 、ConvNetとも称される。)、Deep stacking network(DSNとも称される。)、RBFネットワーク(Radial basis function networkとも称される。)、回帰型ニューラルネットワーク(リカレントニューラルネットワーク、または 、RNNとも称される。)、モジュール型ニューラルネットワーク(Modular neural network)、等の従来技術の各種のニューラルネットワークを、第1ニューラルネットワークN1及び第2ニューラルネットワークN2として、ニューラルネットワークテーブル122に格納できる。 The types of the first neural network N1 and the second neural network N2 stored in the neural network table 122 are not particularly limited, and may include, for example, a feedforward neural network (also referred to as a FFNN), a convolutional neural network (CNN, or ConvNet), a deep stacking network (DSN), an RBF network (also referred to as a radial basis function network), a recurrent neural network (RNN), and a modular neural network. Various prior art neural networks, such as the first neural network N1 and the second neural network N2, can be stored in the neural network table 122.

ニューラルネットワークテーブル122の構成をより詳しくみると、図3に示すニューラルネットワークテーブル122には、ニューラルネットワークを識別する「ID」と、ニューラルネットワークの重み行列A及びBとが紐付けられて格納されている。IDを格納することにより、ニューラルネットワークテーブル122に格納された情報の取得及び更新が容易になる。ニューラルネットワークの重み行列A及びBを格納することにより、ニューラルネットワークを用いた生成、または評価を行うことと、ニューラルネットワークに機械学習させることとを実行できる。 Looking more closely at the configuration of the neural network table 122, the neural network table 122 shown in Figure 3 stores an "ID" that identifies the neural network and the neural network's weight matrices A and B, linked together. Storing the ID makes it easy to obtain and update the information stored in the neural network table 122. Storing the neural network's weight matrices A and B makes it possible to generate or evaluate neural networks, and to have the neural network perform machine learning.

ID「N1」の行には、重み行列A1(a111からa179までの要素を含む行列)と、重み行列B1(b111からb194までの要素を含む行列)とによって表される第1ニューラルネットワークN1が格納されている。重み行列A1及び重み行列B1を格納することにより、評価学習部111は、第1ニューラルネットワークN1に評価基準を機械学習させることができる。また、重み行列A1及び重み行列B1を格納することにより、評価部113は、被生成3次元人物モデルを評価できる。 The row with ID "N1" stores a first neural network N1 represented by weight matrix A1 (a matrix including elements a111 to a179) and weight matrix B1 (a matrix including elements b111 to b194). By storing weight matrix A1 and weight matrix B1, the evaluation learning unit 111 can have the first neural network N1 learn the evaluation criteria by machine learning. Furthermore, by storing weight matrix A1 and weight matrix B1, the evaluation unit 113 can evaluate the generated 3D human model.

ID「N2」の行には、重み行列A2(a211からa249までの要素を含む行列)と、重み行列B2(b211からb297までの要素を含む行列)とによって表される第2ニューラルネットワークN2が格納されている。ニューラルネットワークテーブル122に重み行列A2及び重み行列B2を格納することにより、生成部112は、被生成3次元人物モデルを生成することができる。また、重み行列A2及び重み行列B2を格納することにより、機械学習部117は、第2ニューラルネットワークN2に関する機械学習を実行できる。 The row with ID "N2" stores a second neural network N2 represented by weight matrix A2 (a matrix including elements a211 to a249) and weight matrix B2 (a matrix including elements b211 to b297). By storing weight matrix A2 and weight matrix B2 in the neural network table 122, the generation unit 112 can generate a generated 3D human model. Furthermore, by storing weight matrix A2 and weight matrix B2, the machine learning unit 117 can perform machine learning on the second neural network N2.

ニューラルネットワークテーブル122に第1ニューラルネットワークN1が記憶されることにより、評価学習部111は、3次元人物モデルの評価基準を第1ニューラルネットワークN1に学習させることができる。ニューラルネットワークテーブル122に第2ニューラルネットワークN2が記憶されることにより、生成部112は、複数種類の被生成3次元モデルを生成できる。また、ニューラルネットワークテーブル122に第2ニューラルネットワークN2が記憶されることにより、機械学習部117は、第2ニューラルネットワークN2について、教師なし学習による機械学習を実行できる。機械学習は、学習データに正解を与えない状態で学習させる手法である。 By storing the first neural network N1 in the neural network table 122, the evaluation learning unit 111 can have the first neural network N1 learn evaluation criteria for 3D human models. By storing the second neural network N2 in the neural network table 122, the generation unit 112 can generate multiple types of generated 3D models. Furthermore, by storing the second neural network N2 in the neural network table 122, the machine learning unit 117 can perform unsupervised machine learning on the second neural network N2. Machine learning is a method of learning without providing correct answers to the training data.

[表示部13]
表示部13の種類は、特に限定されない。表示部13として、例えば、モニタ、タッチパネル、プロジェクタ、外部装置120に被出力3次元人物モデルを表示させるビデオカード等が挙げられる。表示部13には、制御部11の出力部114から出力される信号及び情報が入力される。
[Display section 13]
There is no particular limitation on the type of the display unit 13. Examples of the display unit 13 include a monitor, a touch panel, a projector, and a video card that displays the output 3D human model on the external device 120. The display unit 13 receives signals and information output from the output unit 114 of the control unit 11.

[入力部14]
入力部14の種類は、特に限定されない。入力部14として、例えば、キーボード、マウス、タッチパネル、外部装置120から入力を受信する通信デバイス等が挙げられる。入力部14から入力される信号及び情報は、制御部11の受信部115へ入力される。入力部14に入力される利用者の発注情報は、受信部115へ送られる。
[Input unit 14]
There is no particular limitation on the type of input unit 14. Examples of the input unit 14 include a keyboard, a mouse, a touch panel, and a communication device that receives input from the external device 120. The signals and information input from the input unit 14 are input to the receiving unit 115 of the control unit 11. The user's order information input to the input unit 14 is sent to the receiving unit 115.

[通信部15]
生成装置1は、生成装置1と外部装置120との通信を行う通信部15を備えてもよい。通信部15と外部装置120とはネットワーク123を介して接続される。ネットワーク123は、無線または有線の何れによって構築されてもよい。また、外部装置120は、単数または複数の何れであってもよい。生成装置1は、通信部15を備えることにより、出力部114が出力する被出力3次元人物モデルを外部装置120に送信できる。生成装置1は、通信部15を備えることにより、3次元人物モデルの生成に関する指令を、外部装置120から受信できる。生成装置1は、通信部15を備えることにより、外部装置120から人物モデル構成情報、評価情報、属性情報、利用者評価情報等を受信して、利用できる。
[Communication unit 15]
The generation device 1 may include a communication unit 15 that communicates between the generation device 1 and the external device 120. The communication unit 15 and the external device 120 are connected via a network 123. The network 123 may be constructed wirelessly or wired. The external device 120 may be either singular or plural. By including the communication unit 15, the generation device 1 can transmit the output 3D human model output by the output unit 114 to the external device 120. By including the communication unit 15, the generation device 1 can receive commands related to the generation of the 3D human model from the external device 120. By including the communication unit 15, the generation device 1 can receive and use human model configuration information, evaluation information, attribute information, user evaluation information, etc. from the external device 120.

[外部装置120]
外部装置120は、携帯型端末、固定型端末の何れでもよい。外部装置120は、利用者により操作され、かつ、制御回路125、入力部126、表示部127、記憶部128及び通信部129を有する。制御回路125は、入力ポート、出力ポート及び中央演算処理回路を有するコンピュータである。制御回路125は、入力部126、表示部127、記憶部128及び通信部129に対して、信号の送信及び受信が可能に接続されている。入力部126として、例えば、キーボード、マウス、タッチパネル、外部装置120から入力を受信する通信デバイス等が挙げられる。表示部127として、例えば、モニタ、タッチパネル、プロジェクタ、外部装置120に被出力3次元人物モデルを表示させるビデオカード等が挙げられる。記憶部128は、データやファイルが記憶される装置であって、ハードディスクや半導体メモリ、記録媒体、メモリカード等による、データのストレージ部を有する。通信部129は、ネットワーク123に接続される。
[External device 120]
The external device 120 may be either a mobile terminal or a fixed terminal. The external device 120 is operated by a user and includes a control circuit 125, an input unit 126, a display unit 127, a memory unit 128, and a communication unit 129. The control circuit 125 is a computer having an input port, an output port, and a central processing circuit. The control circuit 125 is connected to the input unit 126, the display unit 127, the memory unit 128, and the communication unit 129 so as to be able to transmit and receive signals. Examples of the input unit 126 include a keyboard, a mouse, a touch panel, and a communication device that receives input from the external device 120. Examples of the display unit 127 include a monitor, a touch panel, a projector, and a video card that displays a 3D human model to be output on the external device 120. The memory unit 128 is a device that stores data and files and includes a data storage unit such as a hard disk, semiconductor memory, recording medium, or memory card. The communication unit 129 is connected to the network 123.

<生成装置1で実行される生成処理のメインフローチャート>
図4は、本変形例における生成処理の手順を示すメインフローチャートの一例である。以下では、図4を参照しながら、生成装置1が行う生成処理の好ましい手順について説明する。
<Main Flowchart of Generation Process Executed by Generation Device 1>
4 is an example of a main flowchart showing the procedure of the generation process in this modified example. A preferred procedure of the generation process performed by the generation device 1 will be described below with reference to FIG.

[ステップS1:評価基準の機械学習]
まず、制御部11は、記憶部12と協働して評価学習部111を実行し、人物モデル情報テーブル121を参照し、複数種類の3次元人物モデルの評価基準を第1ニューラルネットワークN1に機械学習させる処理を実行する(ステップS1)。
[Step S1: Machine Learning of Evaluation Criteria]
First, the control unit 11 executes the evaluation learning unit 111 in cooperation with the memory unit 12, refers to the character model information table 121, and executes a process of having the first neural network N1 learn the evaluation criteria for multiple types of three-dimensional character models by machine learning (step S1).

ステップS1において評価基準を機械学習させるアルゴリズムは、特に限定されず、誤差逆伝播法、Widrow-Hoff法(デルタルールとも称される。)等の確率的勾配降下法、勾配降下法、オンライン学習、バッチ学習、ロジスティック関数、シグモイド関数、最大値関数等の1以上を用いる、既知のニューラルネットワークの教師あり学習に関する機械学習アルゴリズムを利用できる。 The algorithm used to machine-learn the evaluation criteria in step S1 is not particularly limited, and any known machine learning algorithm for supervised learning of neural networks can be used, such as backpropagation, stochastic gradient descent such as the Widrow-Hoff method (also known as the delta rule), gradient descent, online learning, batch learning, logistic function, sigmoid function, maximum function, etc.

制御部11は、評価学習部111を実行し、人物モデル情報テーブル121から人物モデル構成情報、評価情報及び属性情報を取得する。そして、制御部11は、ニューラルネットワークテーブル122に格納された第1ニューラルネットワークN1に、人物モデル構成情報、評価情報及び属性情報を用いて評価基準を機械学習させ、ニューラルネットワークテーブル122に格納された第1ニューラルネットワークN1を更新する。言い換えると、制御部11は、人物モデル情報テーブル121から人物モデル構成情報、評価情報及び属性情報を取得し、第1ニューラルネットワークN1に、人物モデル構成情報、評価情報及び属性情報を手本となる訓練データとして用いて評価基準を機械学習させる。 The control unit 11 executes the evaluation learning unit 111 and acquires character model configuration information, evaluation information, and attribute information from the character model information table 121. The control unit 11 then causes the first neural network N1 stored in the neural network table 122 to machine-learn evaluation criteria using the character model configuration information, evaluation information, and attribute information, and updates the first neural network N1 stored in the neural network table 122. In other words, the control unit 11 acquires the character model configuration information, evaluation information, and attribute information from the character model information table 121, and causes the first neural network N1 to machine-learn evaluation criteria using the character model configuration information, evaluation information, and attribute information as example training data.

その結果、3次元人物モデルの利用者であるグラフィックデザイナーへの発注者が3次元人物モデルに求める属性に関する評価基準を、第1ニューラルネットワークN1に機械学習させることができる。制御部11は、ステップS1の処理を終えると、ステップS2の判断を行う。 As a result, the first neural network N1 can learn by machine learning the evaluation criteria related to the attributes that the client, a graphic designer who is the user of the 3D human model, desires in the 3D human model. After completing the processing of step S1, the control unit 11 makes the decision of step S2.

[ステップS2:属性情報を受信したか否かを判定]
制御部11は、記憶部12及び入力部14と協働して生成部112を実行し、受信部115で属性情報を受信したか否かを判定する(ステップS2)。制御部11は、属性情報を受信したならば、ステップS2でYesと判断し、処理をステップS3の処理を行う。制御部11は、属性情報を受信していないならば、ステップS2でNoと判断し、ステップS7の判断を行う。
[Step S2: Determine whether attribute information has been received]
The control unit 11 executes the generation unit 112 in cooperation with the storage unit 12 and the input unit 14, and determines whether or not the receiving unit 115 has received the attribute information (step S2). If the attribute information has been received, the control unit 11 determines Yes in step S2 and performs the process of step S3. If the attribute information has not been received, the control unit 11 determines No in step S2 and performs the process of step S7.

[ステップS3:被生成3次元人物モデルを生成]
制御部11は、記憶部12と協働して生成部112を実行し、ニューラルネットワークテーブル122に格納された第2ニューラルネットワークN2を取得する。そして、制御部11は、ステップS2で受信した属性情報と、第2ニューラルネットワークN2とを用いて、複数種類の被生成3次元人物モデルを生成する(ステップS3)。
[Step S3: Generate a 3D human model to be generated]
The control unit 11 executes the generation unit 112 in cooperation with the storage unit 12, and acquires the second neural network N2 stored in the neural network table 122. Then, the control unit 11 generates a plurality of types of three-dimensional human models to be generated using the attribute information received in step S2 and the second neural network N2 (step S3).

生成部112は、ステップS2で受信した属性情報と、重み行列A2及びB2によって表される第2ニューラルネットワークN2とを用いて、ランダムな3次元人物モデルを複数生成できる。これにより、デザイナーは、3次元人物モデルの利用者(発注者)が3次元人物モデルに求める属性を有する被生成3次元人物モデルを、少ない労力で複数生成できる。制御部11は、ステップS3の処理後、ステップS4に進む。 The generation unit 112 can generate multiple random 3D human model instances using the attribute information received in step S2 and the second neural network N2 represented by weighting matrices A2 and B2. This allows the designer to generate multiple 3D human model instances with the attributes desired by the user (orderer) of the 3D human model with minimal effort. After processing step S3, the control unit 11 proceeds to step S4.

[ステップS4:被生成3次元人物モデルを評価]
制御部11は、記憶部12と協働して評価部113を実行し、ニューラルネットワークテーブル122に格納された第1ニューラルネットワークN1を取得する。そして、制御部11は、ステップS2で受信した属性情報と、第1ニューラルネットワークN1とを用いて、ステップS3で生成された複数種類の被生成3次元人物モデルを評価する(ステップS4)。
[Step S4: Evaluate the generated 3D human model]
The control unit 11 executes the evaluation unit 113 in cooperation with the storage unit 12, and acquires the first neural network N1 stored in the neural network table 122. Then, the control unit 11 uses the attribute information received in step S2 and the first neural network N1 to evaluate the multiple types of generated 3D human models generated in step S3 (step S4).

このように、制御部11は、ステップS2で受信した属性情報と、ステップS1で評価基準を機械学習した第1ニューラルネットワークN1とを用いて、ステップS3で生成された複数種類の被生成3次元人物モデルを評価する。このため、生成部112が生成した複数種類の被生成3次元人物モデルに、ステップS2で受信した属性情報が示す属性に関する評価を与えられる。制御部11は、ステップS4の処理後、ステップS5に進む。 In this way, the control unit 11 evaluates the multiple types of generated 3D human models generated in step S3 using the attribute information received in step S2 and the first neural network N1 that learned the evaluation criteria by machine learning in step S1. Therefore, the multiple types of generated 3D human models generated by the generation unit 112 are given an evaluation regarding the attributes indicated by the attribute information received in step S2. After processing step S4, the control unit 11 proceeds to step S5.

[ステップS5:被出力3次元人物モデルを出力]
制御部11は、記憶部12及び表示部13と協働して出力部114を実行し、ステップS3で生成された複数種類の被生成3次元人物モデルのうち、ステップS4で所定の評価がなされた被生成3次元人物モデルを、被出力3次元人物モデルとして出力する(ステップS5)。
[Step S5: Output the output 3D human model]
The control unit 11 executes the output unit 114 in cooperation with the memory unit 12 and the display unit 13, and outputs, as an output three-dimensional character model, a three-dimensional character model that has undergone a predetermined evaluation in step S4 from among the multiple types of three-dimensional character models generated in step S3 (step S5).

出力部114は、ステップS2で受信した属性情報が示す属性に関して所定の評価がなされている被出力3次元人物モデルを選別して、出力できる。被出力3次元人物モデルの出力に関する一連の処理が自動で行われるため、デザイナーは、利用者(発注者)が所望する3次元人物モデルをより少ない労力で出力させることができる。制御部11は、ステップS5の処理後、ステップS6に進む。 The output unit 114 can select and output 3D human models that have been evaluated based on the attributes indicated in the attribute information received in step S2. Because the series of processes related to the output of the 3D human models is performed automatically, the designer can output the 3D human model desired by the user (client) with less effort. After processing step S5, the control unit 11 proceeds to step S6.

[ステップS6:人物モデル構成情報を更新]
制御部11は、記憶部12と協働して更新部116を実行し、新たなIDとステップS5で出力された被出力3次元人物モデルを構成可能な情報を含む人物モデル構成情報と当該被出力3次元人物モデルを識別可能な情報を含む属性情報を紐付けて人物モデル情報テーブル121に追加する(ステップS6)。
[Step S6: Update person model configuration information]
The control unit 11 executes the update unit 116 in cooperation with the memory unit 12, links the new ID with the character model configuration information including information capable of configuring the output three-dimensional character model output in step S5, and attribute information including information capable of identifying the output three-dimensional character model, and adds them to the character model information table 121 (step S6).

更新部116が新たなIDとステップS5で出力された被出力3次元人物モデルを構成可能な情報を含む人物モデル構成情報と当該被出力3次元人物モデルを識別可能な情報を含む属性情報を紐付けて人物モデル情報テーブル121に追加することにより、人物モデル情報テーブル121に格納された人物モデル構成情報が更新される。これにより、デザイナーは、ステップS1で実行される処理及び後述するステップS9で実行される処理において用いられる手本となる訓練データを少ない労力で用意できる。すなわち、デザイナーは、利用者(デザイナーへの発注者)が3次元人物モデルに求める属性をより一層反映した評価基準を、少ない労力で得ることができる。これにより、デザイナーは、利用者(発注者)が所望する3次元人物モデルを少ない労力で出力させることができる。 The updating unit 116 links the new ID with the character model configuration information including information capable of configuring the output 3D human model output in step S5, and attribute information including information capable of identifying the output 3D human model, and adds the linked information to the character model information table 121, thereby updating the character model configuration information stored in the character model information table 121. This allows the designer to prepare, with little effort, training data that will serve as a model for use in the processing performed in step S1 and the processing performed in step S9, described below. In other words, the designer can, with little effort, obtain evaluation criteria that better reflect the attributes that the user (the person ordering the designer) desires in a 3D human model. This allows the designer to, with little effort, output the 3D human model that the user (the person ordering the designer) desires.

このように、制御部11は、属性情報を受信したか否かをステップS2で判定して、その後の処理を行う。制御部11は、属性情報を受信していないときに、属性情報に応じた3次元人物モデルの生成、評価及び出力を行うステップS3からステップS5で実行される処理をスキップできる。また、制御部11は、人物モデル構成情報の更新に関するステップS6をスキップできる。これにより、制御部11で実行される処理の量を軽減できる。制御部11は、ステップS6の処理後、ステップS7に進む。 In this way, the control unit 11 determines whether or not attribute information has been received in step S2, and performs subsequent processing. When attribute information has not been received, the control unit 11 can skip the processing executed in steps S3 to S5, which generate, evaluate, and output a three-dimensional person model according to the attribute information. The control unit 11 can also skip step S6, which relates to updating the person model configuration information. This reduces the amount of processing executed by the control unit 11. After processing step S6, the control unit 11 proceeds to step S7.

[ステップS7:利用者から評価情報を受信したか否かを判定]
制御部11は、記憶部12及び入力部14と協働して受信部115を実行し、利用者から評価情報を受信したか否かを判定する(ステップS7)。制御部11は、利用者から評価情報を受信したならば、ステップS7でYesと判断し、ステップS8に進む。制御部11は、利用者から評価情報を受信していなければ、ステップS7でNoと判断し、ステップS1に戻る。
[Step S7: Determine whether evaluation information has been received from the user]
The control unit 11 executes the receiving unit 115 in cooperation with the storage unit 12 and the input unit 14 to determine whether or not evaluation information has been received from the user (step S7). If evaluation information has been received from the user, the control unit 11 determines Yes in step S7 and proceeds to step S8. If evaluation information has not been received from the user, the control unit 11 determines No in step S7 and returns to step S1.

[ステップS8:評価情報を更新]
制御部11は、記憶部12と協働して更新部116を実行し、利用者から受信した評価情報によって、人物モデル情報テーブル121に格納された、S5で出力された被出力3次元人物モデルに関する評価情報を更新する(ステップS8)。
[Step S8: Update evaluation information]
The control unit 11 executes the update unit 116 in cooperation with the memory unit 12, and updates the evaluation information regarding the output three-dimensional human model output in S5, which is stored in the human model information table 121, based on the evaluation information received from the user (step S8).

評価情報によって、人物モデル情報テーブル121に格納された評価情報を更新することにより、デザイナーは、ステップS1で実行される処理及び後述するステップS9で実行される処理において用いられる手本となる訓練データを少ない労力で用意できる。すなわち、デザイナーは、利用者(デザイナーへの発注者)が3次元人物モデルに求める属性をより一層反映した評価基準を、少ない労力で得ることができる。これにより、デザイナーは、利用者(発注者)が所望する3次元人物モデルを少ない労力で出力させることができる。制御部11は、ステップS8の処理後、ステップS9に進む。 By updating the evaluation information stored in the character model information table 121 with the evaluation information, the designer can, with little effort, prepare training data that will serve as a model for use in the processing performed in step S1 and the processing performed in step S9, described below. In other words, the designer can, with little effort, obtain evaluation criteria that better reflect the attributes that the user (the person ordering the designer) desires in a three-dimensional character model. This allows the designer to, with little effort, output the three-dimensional character model that the user (the person ordering the designer) desires. After processing step S8, the control unit 11 proceeds to step S9.

[ステップS9:教師なし学習による機械学習を実行]
制御部11は、記憶部12と協働して機械学習部117を実行し、人物モデル情報テーブル121から人物モデル構成情報、評価情報及び属性情報を取得する。そして、人物モデル構成情報、評価情報及び属性情報を用いて、ニューラルネットワークテーブル122に格納された第2ニューラルネットワークN2に、3次元人物モデルの生成を教師なし学習による機械学習させ、ニューラルネットワークテーブル122に格納された第2ニューラルネットワークN2を更新する(ステップS9)。
[Step S9: Execute machine learning by unsupervised learning]
The control unit 11 executes the machine learning unit 117 in cooperation with the storage unit 12, and acquires the character model configuration information, evaluation information, and attribute information from the character model information table 121. Then, using the character model configuration information, evaluation information, and attribute information, the control unit 11 causes the second neural network N2 stored in the neural network table 122 to perform unsupervised machine learning to generate a three-dimensional character model, thereby updating the second neural network N2 stored in the neural network table 122 (step S9).

ステップS9において機械学習を行うアルゴリズムは、教師なし学習であれば特に限定されず、クラスター分析、主成分分析、ベクトル量子化、自己組織化写像、敵対的生成ネットワーク(generative adversarial networkまたは GANとも称される。)、deep belief network (DBNとも称される。)、ヘッブの法則等の1以上を用いる、既知のニューラルネットワークの教師なし学習に関する機械学習アルゴリズムを利用できる。 The algorithm used for machine learning in step S9 is not particularly limited as long as it is unsupervised learning, and can be any known machine learning algorithm for unsupervised learning of neural networks, using one or more of cluster analysis, principal component analysis, vector quantization, self-organizing maps, generative adversarial networks (also known as GANs), deep belief networks (also known as DBNs), Hebb's law, etc.

ステップS9で実行される機械学習により、第2ニューラルネットワークN2は、属性情報に関する3次元人物モデルをより精彩な状態で生成できるようになる。これにより、ステップS3において生成部112は、機械学習が行われた第2ニューラルネットワークN2を用い、利用者(デザイナーへの発注者)が所望する3次元人物モデルをより精彩な状態で生成できる。ステップS9で実行される教師なし学習による機械学習は、外部から手本となる訓練データが与えられなくても実行できるため、生成装置1は、デザイナーの労力を増やすことなく、利用者(発注者)が所望する3次元人物モデルをより精彩な状態で生成できる。 The machine learning performed in step S9 enables the second neural network N2 to generate a more detailed 3D character model related to the attribute information. As a result, in step S3, the generation unit 112 uses the second neural network N2 that has undergone machine learning to generate a more detailed 3D character model desired by the user (the person ordering the designer). The unsupervised machine learning performed in step S9 can be performed without externally provided model training data, so the generation device 1 can generate a more detailed 3D character model desired by the user (the person ordering the designer) without increasing the designer's workload.

したがって、ステップS1からステップS9の処理を実行することにより、利用者(発注者)が所望する3次元人物モデルを、コンピュータグラフィックスに携わるデザイナーができるだけ少ない労力で生成可能な3次元人物モデル生成装置1を提供できる。制御部11は、ステップS9の処理後、ステップS1へ戻る。 Therefore, by performing the processes from step S1 to step S9, it is possible to provide a 3D human model generation device 1 that enables a computer graphics designer to generate the 3D human model desired by the user (client) with as little effort as possible. After performing the process of step S9, the control unit 11 returns to step S1.

このように、制御部11は、利用者から評価情報を受信したか否かを判定し、制御部11は、利用者から評価情報を受信したときに、“教師なし学習による機械学習”を行うことができる。なお、“教師なし学習による機械学習”は後述する。また、制御部11は、利用者から評価情報を受信していないときに、“教師なし学習による機械学習”を行うことなく、3次元人物モデル生成処理を繰り返せる。 In this way, the control unit 11 determines whether or not evaluation information has been received from the user, and when the control unit 11 receives evaluation information from the user, it can perform "unsupervised machine learning." Note that "unsupervised machine learning" will be described later. Furthermore, when the control unit 11 has not received evaluation information from the user, it can repeat the 3D person model generation process without performing "unsupervised machine learning."

ステップS9において機械学習を行うアルゴリズムは、ニューラルネットワークへの入力に対するニューラルネットワークからの出力のばらつきを抑えることが可能であり、また、3次元人物モデルの生成及び評価を含む様々な機能をニューラルネットワーク上で実現可能であることから、敵対的生成ネットワークを含むことが好ましい。 It is preferable that the algorithm used for machine learning in step S9 includes a generative adversarial network, as this can reduce the variability in the output from the neural network in response to the input to the neural network, and various functions, including the generation and evaluation of three-dimensional human models, can be realized on the neural network.

第2ニューラルネットワークN2を用いた被生成3次元人物モデルの生成において、受信した属性情報が第2ニューラルネットワークN2への入力に相当し、生成される被生成3次元人物モデルが第2ニューラルネットワークN2からの出力に相当する。入力に対する出力のばらつきを抑えることが可能であるため、第2ニューラルネットワークN2は、受信した属性情報に対して、所望の3次元人物モデルのみを精彩な状態で生成し、所望の3次元人物モデルとは似て非なる3次元人物モデルを生成しないようにできる。すなわち、属性情報に関する3次元人物モデルをより精彩な状態で生成できるようになる。 When generating a 3D human model using the second neural network N2, the received attribute information corresponds to the input to the second neural network N2, and the generated 3D human model corresponds to the output from the second neural network N2. Because it is possible to reduce the variation in output relative to the input, the second neural network N2 can generate only the desired 3D human model in a precise state for the received attribute information, and avoid generating 3D human models that are similar but not identical to the desired 3D human model. In other words, it becomes possible to generate a 3D human model related to the attribute information in a more precise state.

図5は、ステップS9において実行される敵対的生成ネットワークを用いる場合における機械学習処理の流れの一例を示すフローチャートである。以下では、図5を参照しながら、図4のステップS9で実行される機械学習処理の好ましい手順について、機械学習を行うアルゴリズムが敵対的生成ネットワークを含む場合を例にとって説明する。 Figure 5 is a flowchart showing an example of the flow of the machine learning process executed in step S9 when a generative adversarial network is used. Below, with reference to Figure 5, a preferred procedure for the machine learning process executed in step S9 of Figure 4 will be explained, taking as an example a case where the algorithm used to perform the machine learning includes a generative adversarial network.

[ステップS11:属性情報を取得]
制御部11は、記憶部12と協働して機械学習部117を実行し、第2ニューラルネットワークN2が更新された回数を示す更新回数を0に設定する。制御部11は、さらに、属性情報を取得する(ステップS11)。制御部11が更新回数を0に設定することにより、機械学習を、所定の回数連続して実行できる。制御部11が属性情報を取得することにより、属性情報に応じた機械学習を実行できる。制御部11は、ステップS11の処理後、ステップS12に進む。
[Step S11: Obtain attribute information]
The control unit 11 executes the machine learning unit 117 in cooperation with the storage unit 12, and sets the update count, which indicates the number of times the second neural network N2 has been updated, to 0. The control unit 11 further acquires attribute information (step S11). By setting the update count to 0, the control unit 11 can execute machine learning a predetermined number of times in succession. By acquiring the attribute information, the control unit 11 can execute machine learning according to the attribute information. After processing step S11, the control unit 11 proceeds to step S12.

[ステップS12:被生成3次元人物モデルを生成]
制御部11は、記憶部12と協働して機械学習部117を実行し、第2ニューラルネットワークN2を用いて被生成人物モデルを生成する(ステップS12)。
[Step S12: Generate a 3D human model to be generated]
The control unit 11 cooperates with the storage unit 12 to execute the machine learning unit 117, and generates a person model to be generated using the second neural network N2 (step S12).

敵対的生成ネットワークによる機械学習では、生成器(generator)がデータを生成し、識別器(discriminator)が生成されたデータを識別する。そして、生成器は、生成したデータが正しいデータであると識別器に識別されることを目的とした機械学習を行う。制御部11が第2ニューラルネットワークN2を用いて被生成人物モデルを生成することにより、第2ニューラルネットワークN2を、敵対的生成ネットワークにおける生成器にすることができる。制御部11は、ステップS12の処理後、ステップS13に進む。 In machine learning using a generative adversarial network, a generator generates data and a discriminator discriminates the generated data. The generator then performs machine learning with the goal of having the discriminator discriminate the generated data as correct. The control unit 11 generates a generated person model using the second neural network N2, allowing the second neural network N2 to function as a generator in the generative adversarial network. After processing step S12, the control unit 11 proceeds to step S13.

[ステップS13:被生成3次元人物モデルを評価]
制御部11は、記憶部12と協働して機械学習部117を実行し、第1ニューラルネットワークN1を用いてステップS12で生成された被生成人物モデルを評価する(ステップS13)。
[Step S13: Evaluate the generated 3D human model]
The control unit 11 cooperates with the storage unit 12 to execute the machine learning unit 117, and evaluates the generated character model generated in step S12 using the first neural network N1 (step S13).

機械学習部117が第1ニューラルネットワークN1を用いてステップS12で生成された被生成人物モデルを、制御部11がステップS13で評価する。このため、第1ニューラルネットワークN1を、敵対的生成ネットワークにおける識別器にすることができる。したがって、機械学習部117は、第2ニューラルネットワークN2を敵対的生成ネットワークにおける生成器とし、第1ニューラルネットワークN1を敵対的生成ネットワークにおける識別器とする、敵対的生成ネットワークによる機械学習を実行できる。制御部11は、ステップS13の処理後、ステップS14の判定を行う。 In step S13, the control unit 11 evaluates the generated person model generated in step S12 by the machine learning unit 117 using the first neural network N1. As a result, the first neural network N1 can be used as a classifier in a generative adversarial network. Therefore, the machine learning unit 117 can perform machine learning using a generative adversarial network, with the second neural network N2 as the generator in the generative adversarial network and the first neural network N1 as the classifier in the generative adversarial network. After processing step S13, the control unit 11 makes a judgment in step S14.

[ステップS14:属性に関する評価基準を満たすか否かを判定]
制御部11は、記憶部12と協働して機械学習部117を実行し、ステップS12で生成された被生成3次元人物モデルが属性に関する評価基準を満たすか否かを判定する(ステップS14)。制御部11は、属性に関する評価基準を満たすならば、ステップS14でYesと判断し、ステップS15に進む。また、制御部11は、属性に関する評価基準を満たさないならば、ステップS14でNoと判断し、ステップS16に進む。
[Step S14: Determine whether the attribute-related evaluation criteria are met]
The control unit 11 executes the machine learning unit 117 in cooperation with the storage unit 12 to determine whether the generated 3D human model generated in step S12 satisfies the evaluation criteria for attributes (step S14). If the evaluation criteria for attributes are satisfied, the control unit 11 determines Yes in step S14 and proceeds to step S15. On the other hand, if the evaluation criteria for attributes are not satisfied, the control unit 11 determines No in step S14 and proceeds to step S16.

[ステップS15:類似する被生成3次元人物モデルをより多く生成するよう、第2ニューラルネットワークN2を更新]
制御部11は、記憶部12と協働して機械学習部117を実行し、ステップS12で生成された被生成人物モデルに類似する被生成3次元人物モデルをより多く生成するよう、第2ニューラルネットワークN2を更新する(ステップS15)。
[Step S15: Update the second neural network N2 to generate more similar 3D human models to be generated]
The control unit 11 executes the machine learning unit 117 in cooperation with the memory unit 12, and updates the second neural network N2 so as to generate more generated three-dimensional character models that are similar to the generated character model generated in step S12 (step S15).

機械学習部117がステップS12で生成された被生成人物モデルに類似する被生成3次元人物モデルをより多く生成するよう、第2ニューラルネットワークN2を更新することにより、第2ニューラルネットワークN2を用いる生成部112は、ステップS13で所定の評価を得た被生成3次元人物モデルに類似する被生成3次元人物モデルをより多く生成するようになる。すなわち、生成部112は、利用者(発注者)が所望する3次元人物モデルを、より精彩な状態で生成できるようになる。制御部11は、ステップS15の処理後、ステップS17に進む。 By updating the second neural network N2 so that the machine learning unit 117 generates more 3D character models similar to the 3D character model generated in step S12, the generation unit 112 using the second neural network N2 will generate more 3D character models similar to the 3D character model that received a predetermined evaluation in step S13. In other words, the generation unit 112 will be able to generate more detailed 3D character models that the user (orderer) desires. After processing step S15, the control unit 11 proceeds to step S17.

[ステップS16:類似する被生成3次元人物モデルをより少なく生成するよう、第2ニューラルネットワークN2を更新]
制御部11は、記憶部12と協働して機械学習部117を実行し、ステップS12で生成された被生成人物モデルに類似する被生成3次元人物モデルをより少なく生成するよう、第2ニューラルネットワークN2を更新する(ステップS16)。
[Step S16: Update the second neural network N2 to generate fewer similar 3D human models]
The control unit 11 executes the machine learning unit 117 in cooperation with the memory unit 12, and updates the second neural network N2 so as to generate fewer generated three-dimensional character models that are similar to the generated character model generated in step S12 (step S16).

機械学習部117がステップS12で生成された被生成人物モデルに類似する被生成3次元人物モデルをより少なく生成するよう、第2ニューラルネットワークN2を更新することにより、第2ニューラルネットワークN2を用いる生成部112は、ステップS13で所定の評価を得られなかった被生成3次元人物モデルに類似する被生成3次元人物モデルをより少なく生成するようになる。すなわち、生成部112は、利用者(発注者)が所望する3次元人物モデルを、より精彩な状態で生成できるようになる。 By updating the second neural network N2 so that the machine learning unit 117 generates fewer 3D character models similar to the generated character model generated in step S12, the generation unit 112 using the second neural network N2 will generate fewer 3D character models similar to the generated 3D character models that did not receive the specified evaluation in step S13. In other words, the generation unit 112 will be able to generate more detailed 3D character models that the user (orderer) desires.

このように、制御部11は、ステップS12で生成された被生成3次元人物モデルが属性に関する評価基準を満たすか否かを、ステップS14で判定する。そして、機械学習部117は、属性に関する評価基準を満たすか否かに応じて、類似する被生成3次元人物モデルが生成される割合を変化させるよう、第2ニューラルネットワークN2を更新できる。制御部11は、ステップS15の処理後、または、ステップS16の処理後、ステップS17に進む。 In this way, in step S14, the control unit 11 determines whether the 3D human model to be generated generated in step S12 satisfies the evaluation criteria for attributes. The machine learning unit 117 can then update the second neural network N2 so as to change the rate at which similar 3D human models are generated, depending on whether the evaluation criteria for attributes are satisfied. After processing step S15 or step S16, the control unit 11 proceeds to step S17.

[ステップS17:更新回数を1増やす]
制御部11は、記憶部12と協働して機械学習部117を実行し、更新回数を1増やす(ステップS17)。更新回数を1増やすことにより、第2ニューラルネットワークN2の更新が行われた回数を、更新回数に反映させられる。制御部11は、ステップS17の処理後、ステップS18に進む。
[Step S17: Increment the update count by 1]
The control unit 11, in cooperation with the storage unit 12, executes the machine learning unit 117 and increments the update count by 1 (step S17). By incrementing the update count by 1, the number of times the second neural network N2 has been updated is reflected in the update count. After processing step S17, the control unit 11 proceeds to step S18.

[ステップS18:更新回数が所定の回数以上であるか否かを判定]
制御部11は、記憶部12と協働して機械学習部117を実行し、更新回数が所定の回数以上であるか否かを判定する(ステップS18)。制御部11は、更新回数が所定の回数未満であると、ステップS18でNoと判断し、
ステップS12に戻る。制御部11は、更新回数が所定の回数以上であると、ステップS18でYesと判断し、図4のステップS1に戻る。
[Step S18: Determine whether the number of updates is equal to or greater than a predetermined number]
The control unit 11 executes the machine learning unit 117 in cooperation with the storage unit 12 to determine whether the number of updates is equal to or greater than a predetermined number (step S18). If the number of updates is less than the predetermined number, the control unit 11 determines No in step S18.
The process returns to step S12. If the number of updates is equal to or greater than the predetermined number, the control unit 11 determines "Yes" in step S18, and the process returns to step S1 in FIG.

このように、制御部11は、更新回数が所定の回数以上であるか否かを判定して処理を変更することにより、敵対的生成ネットワークを用いた機械学習を、所定の回数とちょうど同じ回数だけ、連続して実行できる。 In this way, the control unit 11 determines whether the number of updates is equal to or greater than a predetermined number and changes the processing accordingly, thereby enabling machine learning using a generative adversarial network to be performed consecutively exactly the same number of times as the predetermined number.

制御部11がステップS11からステップS18の処理を実行することにより、機械学習部117は、第2ニューラルネットワークN2を敵対的生成ネットワークの生成器とし、第1ニューラルネットワークN1を敵対的生成ネットワークの識別器とする、敵対的生成ネットワークによる機械学習を行える。敵対的生成ネットワークによる機械学習では、生成器がデータを生成し、識別器が生成されたデータを識別する。そして、生成器は、生成したデータが正しいデータであると識別器に識別されることを目的とした機械学習を行う。 By the control unit 11 executing the processes of steps S11 to S18, the machine learning unit 117 can perform machine learning using a generative adversarial network, with the second neural network N2 as the generator of the generative adversarial network and the first neural network N1 as the classifier of the generative adversarial network. In machine learning using a generative adversarial network, the generator generates data and the classifier classifies the generated data. The generator then performs machine learning with the goal of having the classifier classify the generated data as correct data.

生成器が被生成3次元人物モデルの生成に関する第2ニューラルネットワークN2であり、識別器が3次元人物モデルの評価基準を機械学習した第1ニューラルネットワークN1である敵対的生成ネットワークによる機械学習において、識別器が生成されたデータを正しいデータであると識別することは、評価基準を機械学習した第1ニューラルネットワークN1が第2ニューラルネットワークN2に生成された被生成3次元人物モデルを、利用者(発注者)が求める属性を備えた3次元人物モデルであると評価することに相当する。すなわち、第2ニューラルネットワークN2は、利用者(発注者)が求める属性を備えていると第1ニューラルネットワークN1に評価されるような被生成3次元人物モデルの生成を目的とした機械学習を行う。これにより、第2ニューラルネットワークN2を用いる生成部112は、所望の3次元人物モデルを、より精彩な状態で生成可能となる。 In machine learning using a generative adversarial network, where the generator is a second neural network N2 related to generating a generated 3D human model and the classifier is a first neural network N1 that has learned evaluation criteria for 3D human models through machine learning, when the classifier identifies generated data as correct data, this is equivalent to the first neural network N1 that learned the evaluation criteria through machine learning evaluating the generated 3D human model generated by the second neural network N2 as a 3D human model that has the attributes desired by the user (orderer). In other words, the second neural network N2 performs machine learning with the aim of generating a generated 3D human model that will be evaluated by the first neural network N1 as having the attributes desired by the user (orderer). This enables the generation unit 112 using the second neural network N2 to generate a desired 3D human model with greater detail.

上述の敵対的生成ネットワークによる機械学習は教師なし学習なので、デザイナーの労力を増やすことがない。したがって、利用者(発注者)が所望する3次元人物モデルを、コンピュータグラフィックスに携わるデザイナーが少ない労力で生成できる3次元人物モデル生成装置1を提供できる。 The machine learning using the above-mentioned generative adversarial network is unsupervised learning, so it does not increase the designer's workload. Therefore, it is possible to provide a 3D human model generation device 1 that allows computer graphics designers to generate the 3D human model desired by the user (client) with minimal effort.

ニューラルネットワークテーブル122に格納された第2ニューラルネットワークN2に、3次元人物モデルの生成を教師なし学習による機械学習させ、ニューラルネットワークテーブル122に格納された第2ニューラルネットワークN2を更新すると、制御部11は、処理を図4のステップS1に戻す。 The control unit 11 causes the second neural network N2 stored in the neural network table 122 to perform unsupervised machine learning to generate a three-dimensional human model, and after updating the second neural network N2 stored in the neural network table 122, returns the process to step S1 in Figure 4.

<3次元人物モデル生成装置1の使用例>
続いて、図6及び図7を用いて、本実施形態における3次元人物モデル生成装置1の使用例を説明する。
<Example of use of the 3D human model generating device 1>
Next, an example of how to use the three-dimensional human model generating device 1 according to this embodiment will be described with reference to FIGS.

[評価基準を学習]
利用者(発注者)から所望の属性を備える3次元人物モデルの生成を発注されたデザイナーは、3次元人物モデル生成処理を、生成装置1に実行させる。生成装置1は、評価学習部111を実行し、人物モデル情報テーブル121に格納された人物モデル構成情報、評価情報及び属性情報を用いて、第1ニューラルネットワークN1に評価基準を機械学習させる。
[Learn the assessment criteria]
A designer who has received an order from a user (orderer) to generate a three-dimensional human model with desired attributes causes the generation device 1 to execute a three-dimensional human model generation process. The generation device 1 executes the evaluation learning unit 111, and uses the human model configuration information, evaluation information, and attribute information stored in the human model information table 121 to cause the first neural network N1 to perform machine learning of evaluation criteria.

図2を用いて、第1ニューラルネットワークN1に機械学習させる評価基準の一例を説明する。図2に示す人物モデル情報テーブル121には、3次元人物モデルの形状に関する属性情報について、属性情報「細長い顔」を有する人物モデル構成情報M1及びM3と、属性情報「幅広の顔」を有する人物モデル構成情報M2及びM4とが格納されている。 An example of evaluation criteria for machine learning by the first neural network N1 will be described using Figure 2. The human model information table 121 shown in Figure 2 stores, with regard to attribute information related to the shape of a three-dimensional human model, human model configuration information M1 and M3 having the attribute information "long and thin face," and human model configuration information M2 and M4 having the attribute information "wide face."

評価学習部111は、人物モデル構成情報M1及びM3に共通する人物モデル構成情報の特徴である「細長い顔」「薄い色の肌」を、属性情報「細長い顔」に関する評価基準として第1ニューラルネットワークN1に機械学習させ、人物モデル構成情報M2及びM4に共通する人物モデル構成情報の特徴である「幅広の顔」「濃い色の肌」「ヒゲ無」「暗い色の髪」を、属性情報「幅広の顔」に関する評価基準として第1ニューラルネットワークN1に機械学習させる。 The evaluation learning unit 111 trains the first neural network N1 to use the characteristics of the person model configuration information common to the person model configuration information M1 and M3, such as "long and thin face" and "light skin," as evaluation criteria for the attribute information "long and thin face," and trains the first neural network N1 to use the characteristics of the person model configuration information common to the person model configuration information M2 and M4, such as "wide face," "dark skin," "no beard," and "dark hair," as evaluation criteria for the attribute information "wide face."

[属性情報を受信]
図6は、属性情報を用いた3次元人物モデル生成の一例を示す説明図である。図6に示す例を用いて、属性情報を用いた3次元人物モデル生成を説明する。デザイナーは、利用者(発注者)が所望する属性を、属性情報として生成装置1に送信(入力)する。図6に示す例では、利用者(発注者)が所望する属性は、属性情報「幅広の顔」であるものとして説明を行う。生成装置1は、図4のステップS2において生成部112を実行し、デザイナーが送信した属性情報「幅広の顔」を受信する。
[Receive attribute information]
FIG. 6 is an explanatory diagram showing an example of generating a three-dimensional human model using attribute information. Using the example shown in FIG. 6, three-dimensional human model generation using attribute information will be described. The designer transmits (inputs) attributes desired by a user (orderer) to the generation device 1 as attribute information. In the example shown in FIG. 6, the description will be given assuming that the attribute desired by the user (orderer) is the attribute information "wide face." The generation device 1 executes the generation unit 112 in step S2 of FIG. 4 and receives the attribute information "wide face" transmitted by the designer.

[被出力3次元人物モデルを出力]
生成部112は、第2ニューラルネットワークN2と、属性情報「幅広の顔」とを用いて、ランダムな被生成3次元モデルG1からG4を生成する。
[Output the output 3D human model]
The generation unit 112 generates random three-dimensional models G1 to G4 to be generated using the second neural network N2 and the attribute information "wide face."

評価部113は、第1ニューラルネットワークN1が機械学習した評価基準と、属性情報「幅広の顔」とを用いて、被生成3次元モデルG1からG4のそれぞれを評価する。 The evaluation unit 113 evaluates each of the generated 3D models G1 to G4 using the evaluation criteria learned by machine learning by the first neural network N1 and the attribute information "wide face."

被生成3次元モデルG1は、「幅広の顔」に関する4つの評価基準のうち、「幅広の顔」「濃い色の肌」「ヒゲ無」「暗い色の髪」の4つを満たしているため、100点満点で「100」点という高い評価を得る。また、被生成3次元モデルG3は、「幅広の顔」に関する4つの評価基準のうち、「幅広の顔」「暗い色の髪」の2つを満たしているため、「50」点という高い評価を得る。 The generated 3D model G1 satisfies four of the four evaluation criteria for a "wide face" - "wide face," "dark skin," "no beard," and "dark hair" - and therefore receives a high rating of "100" out of 100. Furthermore, the generated 3D model G3 satisfies two of the four evaluation criteria for a "wide face" - "wide face" and "dark hair" - and therefore receives a high rating of "50."

一方、被生成3次元モデルG2は、「幅広の顔」に関する4つの評価基準のうち、「ヒゲ無」しか満たしていないため、「25」点という低い評価を得る。また、被生成3次元モデルG4は、「幅広の顔」に関する4つの評価基準のうち、「濃い色の肌」しか満たしていないため、「25」点という低い評価を得る。 On the other hand, the generated 3D model G2 only satisfies "no beard" out of the four evaluation criteria for a "wide face," and therefore receives a low score of "25." Furthermore, the generated 3D model G4 only satisfies "dark skin" out of the four evaluation criteria for a "wide face," and therefore receives a low score of "25."

出力部114は、所定の評価を得た被生成3次元モデルG1及びG3を、被出力3次元人物モデルP1及びP2として出力する。生成部112によって属性情報「幅広の顔」を備える被生成3次元モデルが生成され、評価部113によって評価され、所定の評価を得た被生成3次元モデルG1及びG3が出力されるため、図6に示すように、幅広の顔の特徴を備えた所望の3次元人物モデルである被出力3次元人物モデルP1及びP2が出力される。 The output unit 114 outputs the generated 3D models G1 and G3 that have received a predetermined evaluation as output 3D person models P1 and P2. The generation unit 112 generates a generated 3D model with the attribute information "wide face", which is evaluated by the evaluation unit 113, and the generated 3D models G1 and G3 that have received a predetermined evaluation are output, so that output 3D person models P1 and P2, which are desired 3D person models with wide facial features, are output, as shown in FIG. 6.

このように、被出力3次元人物モデルの出力に関する一連の処理が自動で行われるため、デザイナーは、利用者(発注者)が所望する属性情報「幅広の顔」を備えた3次元人物モデルをより少ない労力で出力させることができる。 In this way, the entire process of outputting the output 3D human model is carried out automatically, allowing the designer to output a 3D human model with the "wide face" attribute information desired by the user (client) with less effort.

[利用者評価情報を受信]
図7は、利用者評価情報を用いた機械学習の一例を示す説明図である。図7に示す例を用いて、利用者評価情報を用いた機械学習を説明する。利用者(発注者)は、被出力3次元人物モデルP1及びP2に関する評価を、利用者評価情報として生成装置1に送信(入力)する。図7に示す例では、利用者(発注者)は被出力3次元人物モデルP1に「80」点という評価を与え、被出力3次元人物モデルP1に「90」点という評価を与えた。すなわち、利用者(発注者)は、顔の形状がより幅広である被出力3次元人物モデルP2により高い評価を与える、評価基準を用いた評価と異なる評価を行った。そして、利用者(発注者)は、それらの評価を利用者評価情報S1及びS2として生成装置1に送信した。生成装置1は、受信部115及び更新部116を実行し、利用者評価情報の受信と、人物モデル情報テーブル121の更新とを実行する。
[Receive user evaluation information]
FIG. 7 is an explanatory diagram showing an example of machine learning using user evaluation information. Machine learning using user evaluation information will be described using the example shown in FIG. 7 . A user (orderer) transmits (inputs) evaluations of the output 3D human models P1 and P2 to the generating device 1 as user evaluation information. In the example shown in FIG. 7 , the user (orderer) gave the output 3D human model P1 a rating of "80" points and the output 3D human model P2 a rating of "90" points. In other words, the user (orderer) gave a higher rating to the output 3D human model P2, which has a wider face, making an evaluation different from the evaluation using the evaluation criteria. The user (orderer) then transmitted these evaluations to the generating device 1 as user evaluation information S1 and S2. The generating device 1 executes the receiving unit 115 and the updating unit 116 to receive user evaluation information and update the human model information table 121.

[教師なし学習による機械学習を実行]
生成装置1は、機械学習部117を実行し、第2ニューラルネットワークN2について、3次元人物モデルの生成を、教師なし学習により機械学習させる。そして、機械学習部117は、ニューラルネットワークテーブル122に格納された第2ニューラルネットワークN2を更新する。
[Perform unsupervised machine learning]
The generating device 1 executes the machine learning unit 117, which performs unsupervised machine learning to generate a 3D human model for the second neural network N2. The machine learning unit 117 then updates the second neural network N2 stored in the neural network table 122.

上述のとおり、評価部113は、図2に示す当初の人物モデル情報テーブル121に格納された情報をもとに、被出力3次元人物モデルP1に対して、被出力3次元人物モデルP2より高い評価を与えた。 As described above, the evaluation unit 113 gave a higher evaluation to the output three-dimensional human model P1 than to the output three-dimensional human model P2, based on the information stored in the initial human model information table 121 shown in FIG. 2.

しかし、図7(a)に示すように、生成装置1が受信したのは、被出力3次元人物モデルP1に「80」点という評価を与える利用者評価情報S1と、被出力3次元人物モデルP1に「90」点という評価を与える利用者評価情報S2とである。すなわち、利用者(発注者)は、顔の形状がより幅広である被出力3次元人物モデルP2により高い評価を与える、評価基準を用いた評価と異なる評価を行った。これは、図2に示す当初の人物モデル情報テーブル121を用いた機械学習による評価基準が「幅広の顔」とは直接関係しない3次元人物モデル構成情報の特徴である「濃い色の肌」「ヒゲ無」「暗い色の髪」を、属性情報「幅広の顔」に関する評価基準に含めていたためである。 However, as shown in FIG. 7(a), what the generating device 1 received was user evaluation information S1 that gave a rating of "80" points to the output three-dimensional human model P1, and user evaluation information S2 that gave a rating of "90" points to the output three-dimensional human model P1. In other words, the user (orderer) gave a higher rating to the output three-dimensional human model P2, which has a wider face, which is a different evaluation from the evaluation using the evaluation criteria. This is because the evaluation criteria based on machine learning using the initial human model information table 121 shown in FIG. 2 included "dark skin," "no beard," and "dark hair," which are characteristics of the three-dimensional human model configuration information that are not directly related to a "wide face," in the evaluation criteria for the attribute information "wide face."

更新部116は、被出力3次元人物モデルP1及びP2ならびに利用者評価情報S1及びS2を用いて人物モデル情報テーブル121を更新する。そして、機械学習部117は、更新された人物モデル情報テーブル121を用いて、第2ニューラルネットワークN2について、教師なし学習による機械学習を実行する。これにより、第2ニューラルネットワークN2は、属性情報「幅広の顔」に関する3次元人物モデルの特徴を、上述の評価を踏まえて機械学習する。そして、第2ニューラルネットワークN2は、「幅広の顔」に関する3次元人物モデル構成情報の特徴を、より深く学習したニューラルネットワークとなる。 The update unit 116 updates the character model information table 121 using the output three-dimensional character models P1 and P2 and the user evaluation information S1 and S2. The machine learning unit 117 then uses the updated character model information table 121 to perform unsupervised machine learning on the second neural network N2. As a result, the second neural network N2 performs machine learning on the characteristics of the three-dimensional character model related to the attribute information "wide face" based on the above-mentioned evaluation. The second neural network N2 then becomes a neural network that has more deeply learned the characteristics of the three-dimensional character model configuration information related to "wide face."

図7(b)に示すように、機械学習後の生成部112は、様々な肌の色、ヒゲの有無、及び髪の色と、幅広の顔とを備える被生成3次元人物モデルG11、G12、G13及びG14を生成する。すなわち、機械学習部117が実行した教師なし学習による機械学習によって、利用者(デザイナーへの発注者)が所望する3次元人物モデルを、より精彩な状態で生成できるようになる。教師なし学習による機械学習は、外部から手本となる訓練データが与えられなくても実行できるため、生成装置1は、デザイナーの労力を増やすことなく、利用者(発注者)が所望する3次元人物モデルをより精彩な状態で生成できる。 As shown in FIG. 7(b), after machine learning, the generation unit 112 generates three-dimensional human models G11, G12, G13, and G14 to be generated, each having a variety of skin colors, beards, and hair colors, as well as wide faces. In other words, the unsupervised machine learning performed by the machine learning unit 117 makes it possible to generate a more detailed three-dimensional human model desired by the user (the person ordering the designer). Because unsupervised machine learning can be performed without externally provided model training data, the generation device 1 can generate a more detailed three-dimensional human model desired by the user (the person ordering the designer) without increasing the designer's workload.

したがって、本実施形態の3次元人物モデル生成装置1によれば、利用者(発注者)が所望する3次元人物モデルを、コンピュータグラフィックスに携わるデザイナーができるだけ少ない労力で生成できる。 Therefore, the 3D human model generation device 1 of this embodiment allows designers working in computer graphics to generate the 3D human model desired by the user (client) with as little effort as possible.

[人物モデル情報テーブル121に記憶される情報の他の例]
人物モデル情報テーブル121に記憶される属性情報には、次に情報が含まれていてもよい。人物モデル情報テーブル121は、例えば、利用者が求める3次元人物モデルの体形を記憶できる。また、利用者が求める3次元人物モデルを、表示部13または外部装置120の表示部に表示する場合、人物モデル情報テーブル121は、利用者が求める3次元人物モデルに適した背景の情報を記憶できる。人物モデル情報テーブル121は、利用者が求める3次元人物モデルに適した服の種類、服のデザイン、服の色、服の模様等を記憶できる。さらに、人物モデル情報テーブル121は、利用者が求める3次元人物モデルに適したバッグの種類、バッグのデザインなどを記憶できる。さらにまた、人物モデル情報テーブル121は、利用者が求める3次元人物モデルに適したアクセサリの種類、アクセサリの色を記憶できる。さらにまた、人物モデル情報テーブル121は、利用者が求める3次元人物モデルに適したヘアメイクを記憶できる。さらに、人物モデル情報テーブル121は、利用者が求める3次元人物モデルの体形、服等に適した履物を記憶できる。履物は、靴、下駄、草履、ブーツ、パンプス、ミュール、サンダル等を含む。さらに、人物モデル情報テーブル121は、利用者が求める3次元人物モデルの顔の表情、年齢、男性または女性の性別、顔や体の角度を記憶可能である。性別の情報としては、男性的な要素、または、女性的な要素を入れることもできる。顔の角度は、例えば、胴体の中心線に対する顔の中心線の角度を含む。体の角度は、例えば、ポージングを含む。
[Another example of information stored in the character model information table 121]
The attribute information stored in the character model information table 121 may include the following information. The character model information table 121 can store, for example, the body shape of a three-dimensional character model desired by a user. Furthermore, when a three-dimensional character model desired by a user is to be displayed on the display unit 13 or the display unit of the external device 120, the character model information table 121 can store background information suitable for the three-dimensional character model desired by the user. The character model information table 121 can store the type, design, color, and pattern of clothing suitable for the three-dimensional character model desired by the user. Furthermore, the character model information table 121 can store the type, design, and pattern of bags suitable for the three-dimensional character model desired by the user. Furthermore, the character model information table 121 can store the type and color of accessories suitable for the three-dimensional character model desired by the user. Furthermore, the character model information table 121 can store hair and makeup suitable for the three-dimensional character model desired by the user. Furthermore, the character model information table 121 can store footwear suitable for the body shape, clothing, and the like of the three-dimensional character model desired by the user. Footwear includes shoes, geta (wooden clogs), sandals, boots, pumps, mules, sandals, etc. Furthermore, the character model information table 121 can store the facial expression, age, gender (male or female), and face and body angles of the 3D character model desired by the user. Gender information can also include masculine or feminine elements. The face angle includes, for example, the angle of the face centerline relative to the torso centerline. The body angle includes, for example, the pose.

3次元人物モデルの体形は、例えば、やせ形、標準形、太目形等を含む。3次元人物モデルの背景は、例えば、山、海、市街地、室内、屋外、空等を含む。人物モデルが着る服の種類は、シャツ、ブラウス、セーター、ニット、ジャケット、スカート、カーディガン、ベスト、パンツ等を含む。アクセサリは、ネックレス、ピアス、ブレスレット、サングラス、帽子等を含む。ヘアメイクは、ショートカット、ボブ、ロング、パーマ、ストレート等を含む。 The body shape of the three-dimensional human model includes, for example, thin, standard, chubby, etc. The background of the three-dimensional human model includes, for example, mountains, the sea, urban areas, indoors, outdoors, sky, etc. The types of clothing worn by the human model include shirts, blouses, sweaters, knitwear, jackets, skirts, cardigans, vests, pants, etc. Accessories include necklaces, earrings, bracelets, sunglasses, hats, etc. Hair and makeup include short cuts, bobs, long hair, perms, straight hair, etc.

3次元人物モデルが着る服の種類、服のデザイン、服の色、服の模様、3次元人物モデルが持つバッグの種類、バッグのデザイン、3次元人物モデルが装着するアクセサリの種類、アクセサリの色、3次元人物モデルのヘアメイク、履物、3次元人物モデルの顔の表情、年齢、男性または女性の性別、顔や体の角度等は、人がアパレル3Dを用いて作成可能である。アパレル3Dでは、発注される3次元人物モデルを人が分析し、基本となるモデルに対して、予め用意されている各種のパターンの切り替え及び変更を行うことで、3次元人物モデルを生成する。 The type of clothing worn by a 3D character model, the design, color, and pattern of the clothing, the type of bag carried by the 3D character model, the design of the bag, the type of accessories worn by the 3D character model, the color of the accessories, the hair and makeup of the 3D character model, the footwear, the facial expression of the 3D character model, the age, gender (male or female), and the angle of the face and body can all be created by a person using Apparel 3D. With Apparel 3D, a person analyzes the ordered 3D character model and generates the 3D character model by switching and modifying various pre-prepared patterns on the base model.

利用者が求める3次元人物モデルが着る服の種類、服のデザイン、服の色、服の模様、バッグの種類、バッグのデザイン、アクセサリの種類、アクセサリの色、ヘアメイク、履、3次元人物モデルの顔の表情、年齢、男性または女性の性別、顔や体の角度等は、AIシステムにより作成してもよい。AIシステムは、発注される3次元人物モデルを分析し、発注者の好みにマッチしたデザインの服等の画像を生成するというシステムである。アパレル3Dのシステム、AIシステムは、3次元人物モデル生成装置1より構築されていてもよいし、外部装置120を用いて構築してもよい。 The type of clothing, design, color, pattern, bag type, bag design, accessory type, color, hair and makeup, shoes, facial expression, age, gender (male or female), and face and body angle of the 3D character model desired by the user may be created by an AI system. The AI system analyzes the ordered 3D character model and generates images of clothing and other items with a design that matches the preferences of the orderer. The apparel 3D system and AI system may be constructed by the 3D character model generation device 1, or may be constructed using an external device 120.

[情報の他の例を、図4、図5、図6、図7(a),(b)のフローチャートで用いる手法]
図4、図5、図6、図7(a),(b)のフローチャートでは、属性情報に含まれるモデルの体形、モデルの背景、人物モデルが着る服の種類、服のデザイン、服の色、服の模様、人物モデルが持つバッグの種類、バッグのデザイン、人物モデルが装着するアクセサリの種類、アクセサリの色、人物モデルのヘアメイク、履物、3次元人物モデルの顔の表情、年齢、男性または女性の性別、顔や体の角度等の情報を用いて、各ステップの処理及び判断を行うことが可能である。
[Methods for using other examples of information in the flowcharts of Figures 4, 5, 6, 7(a) and 7(b)]
In the flowcharts of Figures 4, 5, 6, 7(a) and 7(b), it is possible to process and make judgments at each step using information contained in the attribute information, such as the model's body shape, the model's background, the type of clothes worn by the human model, the design of the clothes, the color of the clothes, the pattern of the clothes, the type of bag carried by the human model, the design of the bag, the type of accessories worn by the human model, the color of the accessories, the human model's hair and makeup, footwear, the facial expression of the three-dimensional human model, the age, gender (male or female), and the angle of the face and body.

[補足説明]
以上、本開示の実施形態及び各種変形例について説明したが、本開示は上述したこれらの実施形態及び各種変形例に限るものではない。また、本開示の実施形態及び各種変形例に記載された効果は、本開示から生じる最も好適な効果を列挙したものに過ぎず、本開示による効果は、本開示の実施形態及び各種変形例に記載されたものに限定されるものではない。
[supplementary explanation]
Although the embodiments and various modifications of the present disclosure have been described above, the present disclosure is not limited to these above-described embodiments and various modifications. Furthermore, the effects described in the embodiments and various modifications of the present disclosure are merely a list of the most preferable effects resulting from the present disclosure, and the effects of the present disclosure are not limited to those described in the embodiments and various modifications of the present disclosure.

また、上述した実施の形態は本開示を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施の形態の構成の一部を他の実施の形態の構成に置き換えることが可能であり、また、ある実施の形態の構成に他の実施の形態の構成を加えることも可能である。さらに、制御部11は、画像のエンコードの精度を高める、機械学習の回数及び情報量を増やすことにより、表示部13または表示部127で表示される3次元人物モデルの画像の画質及び画像の精度を向上させることができる。図4のステップS1は、機械学習ステップである。ステップS6は、更新ステップである。ステップS7でYesと判断することが、受信ステップである。ステップS5は、出力ステップである。ステップS3は、生成ステップである。ステップS4は、評価ステップである。ステップS1は、評価学習ステップである。 The above-described embodiments have been described in detail to clearly explain the present disclosure, and are not necessarily limited to those including all of the described configurations. It is also possible to replace part of the configuration of one embodiment with the configuration of another embodiment, or to add the configuration of another embodiment to the configuration of one embodiment. Furthermore, the control unit 11 can improve the image quality and accuracy of the image of the 3D human model displayed on the display unit 13 or the display unit 127 by increasing the accuracy of image encoding and the number of times and amount of information in machine learning. Step S1 in FIG. 4 is the machine learning step. Step S6 is the update step. Determining Yes in step S7 is the reception step. Step S5 is the output step. Step S3 is the generation step. Step S4 is the evaluation step. Step S1 is the evaluation learning step.

1 生成装置
11 制御部
111 評価学習部
112 生成部
113 評価部
114 出力部
115 受信部
116 更新部
117 機械学習部
12 記憶部
121 人物モデル情報テーブル
122 ニューラルネットワークテーブル
13 表示部
14 入力部
G1、G2、G3、G4 被生成3次元人物モデル
G11、G12、G13、G14 被生成3次元人物モデル
P1、P2 被出力3次元人物モデル
S1、S2 利用者評価情報
N1 第1ニューラルネットワーク
N2 第2ニューラルネットワーク
1 Generation device 11 Control unit 111 Evaluation learning unit 112 Generation unit 113 Evaluation unit 114 Output unit 115 Reception unit 116 Update unit 117 Machine learning unit 12 Storage unit 121 Person model information table 122 Neural network table 13 Display unit 14 Input unit G1, G2, G3, G4 Generated three-dimensional person models G11, G12, G13, G14 Generated three-dimensional person models P1, P2 Output three-dimensional person models S1, S2 User evaluation information N1 First neural network N2 Second neural network

Claims (9)

3次元人物モデルの属性情報及びニューラルネットワークを用いて生成された被生成3次元人物モデルの属性に関する評価基準を前記属性情報毎に格納するデータベースと、
ユーザが所望する前記属性情報を受信し、該属性情報に対応する前記評価基準、及び複数種類の前記被生成3次元人物モデルそれぞれに紐づく前記属性情報を用いて、当該複数種類の被生成3次元人物モデルを評価する評価部と、
生成された複数種類の前記被生成3次元人物モデルのうち、前記評価部によってなされた所定の評価が相対的に高い1又は複数種類の前記被生成3次元人物モデルを被出力3次元人物モデルとして出力する出力部と、
を備える3次元人物モデル出力装置。
a database that stores attribute information of a three-dimensional human model and evaluation criteria related to the attributes of a generated three-dimensional human model generated using a neural network for each of the attribute information;
an evaluation unit that receives the attribute information desired by a user, and evaluates the plurality of types of generated three-dimensional human models using the evaluation criteria corresponding to the attribute information and the attribute information associated with each of the plurality of types of generated three-dimensional human models;
an output unit that outputs , as an output three-dimensional human model, one or more types of the three-dimensional human model that have received a relatively high predetermined evaluation by the evaluation unit from among the plurality of types of the three-dimensional human model to be generated;
A three-dimensional human model output device comprising:
出力された前記被出力3次元人物モデルについての3次元人物モデルを構成可能な人物モデル構成情報及び前記属性情報紐づいた人物モデル情報を前記被出力3次元人物モデル毎に登録する更新部と、
登録された複数の前記人物モデル情報それぞれに紐づく前記属性情報に基づいて、前記評価基準を機械学習する評価学習部と、を更に備える請求項1に記載の3次元人物モデル出力装置。
an update unit that registers, for each of the output three-dimensional human models, human model configuration information capable of configuring a three-dimensional human model for the output three-dimensional human model and human model information associated with the attribute information ;
The three-dimensional human model output device according to claim 1 , further comprising : an evaluation learning unit that performs machine learning of the evaluation criteria based on the attribute information linked to each of the plurality of registered human model information .
前記評価学習部は、特定の属性情報が紐づいた前記登録された複数の人物モデル情報に共通して紐づく1又は複数の属性情報を、当該特定の属性情報の評価基準として学習する、請求項2に記載の3次元人物モデル出力装置。3. The three-dimensional human model output device according to claim 2, wherein the evaluation learning unit learns one or more attribute information commonly associated with the plurality of registered human model information associated with specific attribute information as an evaluation criterion for the specific attribute information. ユーザが所望する前記属性情報を受信し、複数の属性情報が紐づいた前記被生成3次元人物モデルを生成する生成部を更に備え、
前記更新部は、出力された前記被出力3次元人物モデル、及び前記被生成3次元人物モデルの生成に用いられた前記属性情報を紐づけて登録する、請求項2に記載の3次元人物モデル出力装置。
a generation unit that receives the attribute information desired by a user and generates the three-dimensional human model to which a plurality of pieces of attribute information are linked;
The three-dimensional human model output device according to claim 2 , wherein the update unit links and registers the output three-dimensional human model and the attribute information used in generating the three-dimensional human model to be generated.
前記3次元人物モデルの生成に用いる前記ニューラルネットワーク、及び前記評価基準の機械学習の両方について、教師なし学習による前記機械学習を実行可能である機械学習部を更に備える請求項2に記載の3次元人物モデル出力装置。 The three-dimensional human model output device according to claim 2 , further comprising a machine learning unit capable of performing the machine learning by unsupervised learning for both the neural network used to generate the three-dimensional human model and the machine learning of the evaluation criterion. 前記属性情報は、前記3次元人物モデルの人物の特徴に関する情報を含む、請求項1から5のいずれか1項に記載の3次元人物モデル出力装置。 The three-dimensional human model output device according to claim 1 , wherein the attribute information includes information relating to characteristics of the person of the three-dimensional human model. 前記属性情報は、前記3次元人物モデルの利用目的に関する情報を含む、請求項1から6のいずれか1項に記載の3次元人物モデル出力装置。 The three-dimensional human model output device according to claim 1 , wherein the attribute information includes information relating to a purpose of use of the three-dimensional human model. 3次元人物モデル出力装置に、
3次元人物モデルの属性情報及びニューラルネットワークを用いて生成された被生成3次元人物モデルの属性に関する評価基準を前記属性情報毎にデータベースに格納する格納ステップと、
ユーザが所望する前記属性情報を受信し、該属性情報に対応する前記評価基準、及び複数種類の前記被生成3次元人物モデルそれぞれに紐づく前記属性情報に応じて、当該複数種類の被生成3次元人物モデルを評価する評価ステップと、
生成された複数種類の前記被生成3次元人物モデルのうち、前記評価ステップにおいてなされた所定の評価が相対的に高い1又は複数種類の前記被生成3次元人物モデルを被出力3次元人物モデルとして出力する出力ステップと、
を実行させるプログラム。
3D human model output device,
a storing step of storing attribute information of the three-dimensional human model and evaluation criteria relating to the attributes of the generated three-dimensional human model generated using the neural network in a database for each of the attribute information;
an evaluation step of receiving the attribute information desired by a user, and evaluating the plurality of types of three-dimensional human models to be generated in accordance with the evaluation criteria corresponding to the attribute information and the attribute information associated with each of the plurality of types of three-dimensional human models to be generated;
an output step of outputting , as an output three-dimensional human model, one or more types of the three-dimensional human model to be generated that have relatively high predetermined evaluations made in the evaluation step , from among the plurality of types of the three-dimensional human model to be generated;
A program that executes the following.
コンピュータが、
3次元人物モデルの属性情報及びニューラルネットワークを用いて生成された被生成3次元人物モデルの属性に関する評価基準を前記属性情報毎にデータベースに格納する格納処理と、
ユーザが所望する前記属性情報を受信し、該属性情報に対応する前記評価基準、及び複数種類の前記被生成3次元人物モデルそれぞれに紐づく前記属性情報に応じて、当該複数種類の被生成3次元人物モデルを評価する評価処理と、
生成された複数種類の前記被生成3次元人物モデルのうち、前記評価処理においてなされた所定の評価が相対的に高い1又は複数種類の前記被生成3次元人物モデルを被出力3次元人物モデルとして出力する出力処理と、
を実行する3次元人物モデル出力方法。
The computer
a storage process for storing attribute information of the three-dimensional human model and evaluation criteria related to the attributes of the generated three-dimensional human model generated using the neural network in a database for each of the attribute information;
an evaluation process of receiving the attribute information desired by a user, and evaluating the plurality of types of three-dimensional human models to be generated according to the evaluation criteria corresponding to the attribute information and the attribute information associated with each of the plurality of types of three-dimensional human models to be generated;
an output process of outputting , as an output three-dimensional human model, one or more types of the three-dimensional human model that have received a relatively high predetermined evaluation in the evaluation process from among the plurality of types of the three-dimensional human model to be generated;
A three-dimensional human model output method that executes the above.
JP2021212791A 2020-08-13 2021-12-27 3D human model output device, program, and 3D human model output method Active JP7784082B2 (en)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2020136828 2020-08-13
JP2020136828 2020-08-13
JP2021559614A JP7007780B1 (en) 2020-08-13 2021-08-10 3D person model generator and program
PCT/JP2021/029511 WO2022034879A1 (en) 2020-08-13 2021-08-10 Three-dimensional person model creation device and program

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021559614A Division JP7007780B1 (en) 2020-08-13 2021-08-10 3D person model generator and program

Publications (3)

Publication Number Publication Date
JP2022033237A JP2022033237A (en) 2022-02-28
JP2022033237A5 JP2022033237A5 (en) 2024-11-18
JP7784082B2 true JP7784082B2 (en) 2025-12-11

Family

ID=80247916

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2021559614A Active JP7007780B1 (en) 2020-08-13 2021-08-10 3D person model generator and program
JP2021212791A Active JP7784082B2 (en) 2020-08-13 2021-12-27 3D human model output device, program, and 3D human model output method

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2021559614A Active JP7007780B1 (en) 2020-08-13 2021-08-10 3D person model generator and program

Country Status (2)

Country Link
JP (2) JP7007780B1 (en)
WO (1) WO2022034879A1 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230142625A1 (en) * 2020-06-02 2023-05-11 NEC Laboratories Europe GmbH Method and system of providing personalized guideline information for a user in a predetermined domain
JP2024072165A (en) * 2022-11-15 2024-05-27 株式会社Pbadao Data terminal device and content sales system
KR20250140379A (en) * 2024-03-18 2025-09-25 삼성전자주식회사 Electronic device processing image and method of operating the same

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6448839B1 (en) 2018-06-20 2019-01-09 株式会社 ディー・エヌ・エー Image generation device, image generator, image classifier, image generation program, and image generation method

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6448839B1 (en) 2018-06-20 2019-01-09 株式会社 ディー・エヌ・エー Image generation device, image generator, image classifier, image generation program, and image generation method

Also Published As

Publication number Publication date
WO2022034879A1 (en) 2022-02-17
JP7007780B1 (en) 2022-01-25
JP2022033237A (en) 2022-02-28
JPWO2022034879A1 (en) 2022-02-17

Similar Documents

Publication Publication Date Title
JP7784082B2 (en) 3D human model output device, program, and 3D human model output method
US11809985B2 (en) Algorithmic apparel recommendation
JP7663959B2 (en) Coordination evaluation server device, control method for the coordination evaluation server device, and program and recording medium used therefor
JP2016502713A (en) Clothing matching system and method
CN111400525A (en) Intelligent matching and recommendation method of fashion clothing based on visual combination relationship learning
CN109242593B (en) Case reasoning-based clothing recommendation method and device and storage medium
CN112116589A (en) Method, device and equipment for evaluating virtual image and computer readable storage medium
CN110321473A (en) Diversity preference information method for pushing, system, medium and equipment based on multi-modal attention
KR102531172B1 (en) Electric apparatus for designing jewelry product and Method for designing jewelry product using the Electric apparatus
WO2019017674A1 (en) Online system for fashion styling and online method for suggesting fashion styling
CN115130539B (en) Classification model training, data classification method, device and computer equipment
US20210192597A1 (en) System and method for user specific apparel attribute recommendation
Yan et al. RETRACTED: Garment Design Models Combining Bayesian Classifier and Decision Tree Algorithm
CN112102304A (en) Image processing method, image processing device, computer equipment and computer readable storage medium
KR102476884B1 (en) Control method of server for recommending clothing information based on creator matching service
JP2018041459A (en) Virtual clothing output system
KR102230507B1 (en) Method, apparatus and system for providing fashion product manufacturing platform service
KR102684952B1 (en) Methods, devices, and systems for launching and selling a user-participating clothing production brand
Mok et al. Fashion sketch design by interactive genetic algorithms
JP7106085B1 (en) Design generation system and design generation method
Nuraliev et al. The use of methods for optimizing the genetic algorithm for the colors of a fractal structure pattern in carpet design
US20250157166A1 (en) Artificial intelligence systems for generation of human body part measurements and human body fit information
KR102671314B1 (en) Methods, devices and systems for automating the planning and design work process of fashion products by concept and designer
CN121544356B (en) A method, device, and medium for generating optimization schemes for user-defined items.
CN111696181A (en) Method, device and storage medium for generating super meta model and virtual dummy

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240808

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20240808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20240808

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241101

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250617

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20250814

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20251015

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20251028

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20251120

R150 Certificate of patent or registration of utility model

Ref document number: 7784082

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150