JP5840528B2 - 顔画像合成装置及び顔画像合成方法 - Google Patents
顔画像合成装置及び顔画像合成方法 Download PDFInfo
- Publication number
- JP5840528B2 JP5840528B2 JP2012035645A JP2012035645A JP5840528B2 JP 5840528 B2 JP5840528 B2 JP 5840528B2 JP 2012035645 A JP2012035645 A JP 2012035645A JP 2012035645 A JP2012035645 A JP 2012035645A JP 5840528 B2 JP5840528 B2 JP 5840528B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- face image
- outer edge
- blending weight
- transfer destination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Description
[第1実施形態]
図1は、第1実施形態における顔画像合成装置10のハードウェア構成例を概念的に示す図である。第1実施形態における顔画像合成装置10は、いわゆるコンピュータであり、例えば、バス5で相互に接続される、CPU(Central Processing Unit)2、メモリ3、入出力インタフェース(I/F)4等を有する。メモリ3は、RAM(Random Access Memory)、ROM(Read Only Memory)、ハードディスク、可搬型記憶媒体等である。
X=X1+β(X2−X1)+γ(X3−X1)
=αX1+βX2+γX3 (式1)
α=1−(β+γ)
(x−x1)=β(x2−x1)+γ(x3−x1)
(y−y1)=β(y2−y1)+γ(y3−y1)
なお、得られた係数α、係数β及び係数γが全て、0以上でかつ1以下の条件を満たす場合、その点Xがその三角形の内部の点である。
X'=αX1'+βX2'+γX3' (式2)
f=w・f1+(1−w)・f2
以下、第1実施形態における顔画像合成方法について説明する。図4は、第1実施形態における顔画像合成装置10の動作例を示すフローチャートである。
このように、第1実施形態では、マスク画像の外縁分割画像に適用されるブレンディング重み関数が、外縁を形成する画素に適用されるブレンディング重みを0(重み下限値)とし、それ以外の内部頂点を形成する画素に適用されるブレンディング重みを0より大きく1以下の重み上限値とし、その間の各画素に対して適用される各ブレンディング重みを、その画素が外縁から当該内部頂点へ近づくにつれて重み下限値から重み上限値へ徐々に遷移させる。これにより、第1実施形態では、マスク画像の合成画像に対する合成割合が、顔の特徴点との位置関係において、顔の内側の特徴点(内部頂点)に近づく程高く、その内部頂点から外縁方向に離れる程低く設定される。
上述の第1実施形態では、ブレンディング重みの適用対象を、外縁に位置する2つの特徴点を頂点とする外縁分割画像としているが、1つの頂点のみが外縁に位置する分割画像も更にブレンディング重みの適用対象とされてもよい。以降、1つの頂点のみが外縁に位置する分割画像は、上記外縁分割画像と区別するために付属外縁分割画像と表記される。以下、第2実施形態における顔画像合成装置10について、第1実施形態と異なる内容を中心に説明し、第1実施形態と同一内容については適宜説明を省略する。
第2実施形態における顔画像合成装置10のハードウェア構成及び処理構成は、第1実施形態と同様であるため、ここでは説明を省略する。第2実施形態では、顔画像合成装置10の一部の処理部の処理内容が第1実施形態と異なる。
以下、第2実施形態における顔画像合成方法について説明する。図9は、第2実施形態における顔画像合成装置10の動作例を示すフローチャートである。図9では、図4に示される第1実施形態と同一処理については同じ符号が付されている。
上述のように、第2実施形態は、外縁に位置する2つの特徴点を頂点とする外縁分割画像のみでなく、1つの頂点のみが外縁に位置する付属外縁分割画像をも補整対象とする。付属外縁分割画像に対しては、基準点からの距離の割合に対して決められるブレンディング重みの遷移がブレンディング重み関数と逆となる付属ブレンディング重み関数が適用される。これは、外縁分割画像と付属外縁分割画像とでは、規準点から各画素に向かう方向が逆となるからである。
第2実施形態では、各外縁分割画像に対してブレンディング重み関数又は逆ブレンディング重み関数が適用され、各付属外縁分割画像に対して付属ブレンディング重み関数又は逆付属ブレンディング重み関数が適用されることにより、マスク画像及び転写先顔画像が補整された(マスク補整部15及び転写先補整部16)。しかしながら、各重み関数の適用対象は、外縁分割画像及び付属外縁分割画像に制限されない。例えば、外縁分割画像及び付属外縁分割画像の周辺の複数の分割画像も当該適用対象とされてもよい。
上述の各実施形態及び各変形例では、転写元顔画像のワーピング処理、マスク画像の補整、転写先顔画像の補整、及び、補整されたマスク画像と補整された転写先顔画像の合成の各処理が、処理対象領域の画像全体或いは分割画像全体を処理単位として、それぞれ実行されるよう説明した。この説明は、当該各処理が画素などのようなより小さい処理単位で実行される形態を排除するものではない。即ち、上述の各実施形態及び各変形例は、これら各処理が画素等のようなより小さい処理単位で実行される形態を包含するものである。
3 メモリ
4 入出力I/F
7 入力部
9 出力部
10 顔画像合成装置
11 画像取得部
12 特徴取得部
13 区分部
14 ワーピング処理部
15 マスク補整部
16 転写先補整部
17 合成処理部
Claims (6)
- 転写元顔画像及び転写先顔画像を取得する画像取得部と、
前記転写元顔画像及び前記転写先顔画像から、各顔で共通する複数の特徴点をそれぞれ取得する特徴取得部と、
前記転写元顔画像及び前記転写先顔画像を、前記各特徴点を頂点とする複数の三角形状にそれぞれ区分けする区分部と、
前記転写元顔画像の特徴点と前記転写先顔画像の特徴点との対応関係に基づいて、前記転写元顔画像が前記複数の三角形状に区分けされた各分割画像を、対応する転写先顔画像の三角形状にそれぞれ変形させるワーピング処理部と、
前記ワーピング処理部による変形処理後のマスク画像における複数の分割画像の中から、該マスク画像の外縁に位置する2つの特徴点を頂点とする複数の外縁分割画像を特定する第1特定部と、
前記転写先顔画像が前記複数の三角形状に区分けされた複数の分割画像の中から、外縁に位置する2つの特徴点を頂点とする複数の外縁分割画像を特定する第2特定部と、
前記マスク画像と前記転写先顔画像との合成画像に対する前記マスク画像の合成割合を示すブレンディング重みが前記外縁に近づく程減少するブレンディング重み関数を、前記第1特定部で特定された前記複数の外縁分割画像のみに対してそれぞれ適用することにより、前記マスク画像を補整する第1補整部と、
前記合成画像に対する前記転写先顔画像の合成割合を示す逆ブレンディング重みが前記外縁に近づく程増加する逆ブレンディング重み関数を、前記第2特定部で特定された前記複数の外縁分割画像のみに対してそれぞれ適用することにより、前記転写先顔画像を補整する第2補整部と、
前記補整されたマスク画像と前記補整された転写先顔画像とを合成する合成処理部と、
を備え、
前記ブレンディング重み関数及び前記逆ブレンディング重み関数は、前記各外縁分割画像に含まれる各画素に適用される前記各ブレンディング重み及び前記各逆ブレンディング重みを、前記外縁に位置する頂点以外の内部頂点から各画素を通り前記外縁に位置する頂点間を結ぶ底辺までの距離に対する、該内部頂点から各画素までの距離の割合に応じて決定し、
前記第1補整部及び前記第2補整部は、前記ワーピング処理部で実行されるピースワイズアフィン変換において前記各分割画像内の任意の点を各頂点との関係で示すために算出される係数を用いて前記距離の割合を算出する、
顔画像合成装置。 - 前記第1特定部は、前記マスク画像の前記複数の分割画像の中から、1つの頂点のみが前記外縁に位置する複数の付属外縁分割画像を更に特定し、
前記第2特定部は、前記転写先顔画像の前記複数の分割画像の中から、1つの頂点のみが前記外縁に位置する複数の付属外縁分割画像を更に特定し、
前記第1補整部は、前記マスク画像に関し前記第1特定部で特定された前記複数の付属外縁分割画像の各々に対して、前記ブレンディング重みが前記外縁に近づく程減少する付属ブレンディング重み関数をそれぞれ適用することにより前記マスク画像を更に補整し、
前記第2補整部は、前記転写先顔画像に関し前記第2特定部で特定された前記複数の付属外縁分割画像の各々に対して、前記逆ブレンディング重みが前記外縁に近づく程増加する逆付属ブレンディング重み関数をそれぞれ適用することにより前記転写先顔画像を更に補整し、
前記付属ブレンディング重み関数及び前記逆付属ブレンディング重み関数は、各画素に適用される前記各ブレンディング重み及び前記各逆ブレンディング重みを、前記外縁に位置する1つの外縁頂点から各画素を通り他の頂点間を結ぶ底辺までの距離に対する、該外縁頂点から各画素までの距離の割合に応じて決定し、
前記第1補整部及び前記第2補整部は、前記ワーピング処理部で実行されるピースワイズアフィン変換において前記各分割画像内の任意の点を各頂点との関係で示すために算出される係数を用いて前記距離の割合を算出する、
請求項1に記載の顔画像合成装置。 - 前記ブレンディング重み関数は、前記外縁に対応する画素に適用されるブレンディング重みを重み下限値0とし、少なくとも1つの前記外縁分割画像を含む関数適用単位に含まれる1つの特徴点である基準点に対応する画素に適用されるブレンディング重みを0より大きく1以下の重み上限値とし、その間の各画素に対して適用される各ブレンディング重みを、その画素が前記外縁から前記内部頂点へ近づくにつれて該重み下限値から該重み上限値へ徐々に遷移させ、
前記付属ブレンディング重み関数は、前記外縁頂点に対応する画素に適用されるブレンディング重みを前記重み下限値とし、前記他の頂点間を結ぶ底辺に対応する画素に適用されるブレンディング重みを前記重み上限値とし、その間の各画素に対して適用される各ブレンディング重みを、その画素が前記外縁頂点から該底辺へ近づくにつれて前記重み下限値から前記重み上限値へ徐々に遷移させる、
請求項2に記載の顔画像合成装置。 - 前記逆ブレンディング重み関数は、(1−前記ブレンディング重み関数)であり、
前記逆付属ブレンディング重み関数は、(1−前記付属ブレンディング重み関数)である請求項2又は3に記載の顔画像合成装置。 - 少なくとも1台のコンピュータが、
転写元顔画像及び転写先顔画像を取得し、
前記転写元顔画像及び前記転写先顔画像から、各顔で共通する複数の特徴点をそれぞれ取得し、
前記転写元顔画像及び前記転写先顔画像を、前記各特徴点を頂点とする複数の三角形状にそれぞれ区分けし、
前記転写元顔画像の特徴点と前記転写先顔画像の特徴点との対応関係に基づいて、前記転写元顔画像が前記複数の三角形状に区分けされた各分割画像を、対応する転写先顔画像の三角形状にそれぞれ変形させ、
前記変形の後のマスク画像における複数の分割画像の中から、該マスク画像の外縁に位置する2つの特徴点を頂点とする複数の外縁分割画像を特定し、
前記転写先顔画像が前記複数の三角形状に区分けされた複数の分割画像の中から、外縁に位置する2つの特徴点を頂点とする複数の外縁分割画像を特定し、
前記マスク画像と前記転写先顔画像との合成画像に対する前記マスク画像の合成割合を示すブレンディング重みが前記外縁に近づく程減少するブレンディング重み関数を、前記マスク画像に関して特定された前記複数の外縁分割画像のみに対してそれぞれ適用することにより、前記マスク画像を補整し、
前記合成画像に対する前記転写先顔画像の合成割合を示す逆ブレンディング重みが前記外縁に近づく程増加する逆ブレンディング重み関数を、前記転写先顔画像に関して特定された前記複数の外縁分割画像のみに対してそれぞれ適用することにより、前記転写先顔画像を補整し、
前記補整されたマスク画像と前記補整された転写先顔画像とを合成する、
ことを含み、
前記ブレンディング重み関数及び前記逆ブレンディング重み関数は、前記各外縁分割画像に含まれる各画素に適用される前記各ブレンディング重み及び前記各逆ブレンディング重みを、前記外縁に位置する頂点以外の内部頂点から各画素を通り前記外縁に位置する頂点間を結ぶ底辺までの距離に対する、該内部頂点から各画素までの距離の割合に応じて決定し、
前記マスク画像及び前記転写先顔画像の補整は、前記変形のために実行されるピースワイズアフィン変換において前記各分割画像内の任意の点を各頂点との関係で示すために算出される係数を用いて前記距離の割合を算出する、
顔画像合成方法。 - 少なくとも1台のコンピュータに、
転写元顔画像及び転写先顔画像を取得する画像取得部と、
前記転写元顔画像及び前記転写先顔画像から、各顔で共通する複数の特徴点をそれぞれ取得する特徴取得部と、
前記転写元顔画像及び前記転写先顔画像を、前記各特徴点を頂点とする複数の三角形状にそれぞれ区分けする区分部と、
前記転写元顔画像の特徴点と前記転写先顔画像の特徴点との対応関係に基づいて、前記転写元顔画像が前記複数の三角形状に区分けされた各分割画像を、対応する転写先顔画像の三角形状にそれぞれ変形させるワーピング処理部と、
前記ワーピング処理部による変形処理後のマスク画像における複数の分割画像の中から、該マスク画像の外縁に位置する2つの特徴点を頂点とする複数の外縁分割画像を特定する第1特定部と、
前記転写先顔画像が前記複数の三角形状に区分けされた複数の分割画像の中から、外縁に位置する2つの特徴点を頂点とする複数の外縁分割画像を特定する第2特定部と、
前記マスク画像と前記転写先顔画像との合成画像に対する前記マスク画像の合成割合を示すブレンディング重みが前記外縁に近づく程減少するブレンディング重み関数を、前記第1特定部で特定された前記複数の外縁分割画像のみに対してそれぞれ適用することにより、前記マスク画像を補整する第1補整部と、
前記合成画像に対する前記転写先顔画像の合成割合を示す逆ブレンディング重みが前記外縁に近づく程増加する逆ブレンディング重み関数を、前記第2特定部で特定された前記複数の外縁分割画像のみに対してそれぞれ適用することにより、前記転写先顔画像を補整する第2補整部と、
前記補整されたマスク画像と前記補整された転写先顔画像とを合成する合成処理部と、
を実現させ、
前記ブレンディング重み関数及び前記逆ブレンディング重み関数は、前記各外縁分割画像に含まれる各画素に適用される前記各ブレンディング重み及び前記各逆ブレンディング重みを、前記外縁に位置する頂点以外の内部頂点から各画素を通り前記外縁に位置する頂点間を結ぶ底辺までの距離に対する、該内部頂点から各画素までの距離の割合に応じて決定し、
前記第1補整部及び前記第2補整部は、前記ワーピング処理部で実行されるピースワイズアフィン変換において前記各分割画像内の任意の点を各頂点との関係で示すために算出される係数を用いて前記距離の割合を算出する、
プログラム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2012035645A JP5840528B2 (ja) | 2012-02-21 | 2012-02-21 | 顔画像合成装置及び顔画像合成方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2012035645A JP5840528B2 (ja) | 2012-02-21 | 2012-02-21 | 顔画像合成装置及び顔画像合成方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2013171470A JP2013171470A (ja) | 2013-09-02 |
| JP5840528B2 true JP5840528B2 (ja) | 2016-01-06 |
Family
ID=49265349
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2012035645A Expired - Fee Related JP5840528B2 (ja) | 2012-02-21 | 2012-02-21 | 顔画像合成装置及び顔画像合成方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5840528B2 (ja) |
Families Citing this family (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6402301B2 (ja) * | 2014-02-07 | 2018-10-10 | 三星電子株式会社Samsung Electronics Co.,Ltd. | 視線変換装置、視線変換方法及びプログラム |
| KR101691806B1 (ko) * | 2015-07-13 | 2017-01-02 | 주식회사 시어스랩 | 전처리를 이용한 영상 디스플레이 방법 및 장치 |
| CN105956997B (zh) | 2016-04-27 | 2019-07-05 | 腾讯科技(深圳)有限公司 | 图像形变处理的方法和装置 |
| KR101774913B1 (ko) | 2016-12-21 | 2017-09-06 | 주식회사 시어스랩 | 전처리를 이용한 영상 디스플레이 방법 및 장치 |
| CN109949216B (zh) * | 2019-04-19 | 2022-12-02 | 中共中央办公厅电子科技学院(北京电子科技学院) | 一种基于面部解析和光照迁移的复杂妆容迁移方法 |
| JP7102554B2 (ja) * | 2019-09-30 | 2022-07-19 | ベイジン・センスタイム・テクノロジー・デベロップメント・カンパニー・リミテッド | 画像処理方法、装置及び電子機器 |
| KR20210070377A (ko) * | 2020-04-29 | 2021-06-14 | 바이두 온라인 네트웍 테크놀러지 (베이징) 캄파니 리미티드 | 이미지 처리 방법 및 장치 |
| JP7604804B2 (ja) * | 2020-08-11 | 2024-12-24 | オムロン株式会社 | 画像処理装置および画像処理方法 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8064712B2 (en) * | 2007-01-24 | 2011-11-22 | Utc Fire & Security Americas Corporation, Inc. | System and method for reconstructing restored facial images from video |
| JP2010186288A (ja) * | 2009-02-12 | 2010-08-26 | Seiko Epson Corp | 顔画像の所定のテクスチャー特徴量を変更する画像処理 |
| JP5463866B2 (ja) * | 2009-11-16 | 2014-04-09 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
-
2012
- 2012-02-21 JP JP2012035645A patent/JP5840528B2/ja not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2013171470A (ja) | 2013-09-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5840528B2 (ja) | 顔画像合成装置及び顔画像合成方法 | |
| EP2923306B1 (en) | Method and apparatus for facial image processing | |
| US7587083B2 (en) | Image processing device | |
| CN104798101B (zh) | 化妆辅助装置、化妆辅助方法以及化妆辅助程序 | |
| US9607208B2 (en) | Analyzing a skin condition from a video | |
| CN107610202B (zh) | 人脸图像替换方法、设备及存储介质 | |
| US10311323B2 (en) | Image processing apparatus for converting image in characteristic region of original image into image of brushstroke patterns | |
| JP6357881B2 (ja) | 画像処理装置及びプログラム | |
| Huang et al. | Reshaping 3D facial scans for facial appearance modeling and 3D facial expression analysis | |
| US12039675B2 (en) | High quality AR cosmetics simulation via image filtering techniques | |
| JP2025023207A (ja) | 顔変化出力方法 | |
| JP2014016688A (ja) | 顕著性マップを利用した非写実変換プログラム、装置及び方法 | |
| Gunes | A survey of perception and computation of human beauty | |
| JP2009237627A (ja) | 画像処理方法、画像処理装置、画像処理プログラムおよび印刷装置 | |
| JP4351001B2 (ja) | 年齢変化画像生成方法及び肌平滑化画像生成方法 | |
| JP6476608B2 (ja) | 動作処理装置、動作処理方法及びプログラム | |
| JP2018128950A (ja) | 画像処理装置及びプログラム | |
| JP5799859B2 (ja) | 画像処理方法、プログラム及び装置 | |
| JP5650012B2 (ja) | 顔画像処理方法、美容カウンセリング方法および顔画像処理装置 | |
| JP7605883B2 (ja) | 肌状態推定方法 | |
| JP7813426B2 (ja) | 情報処理装置の動作方法、情報処理装置、及びプログラム | |
| Leta et al. | A study of the facial aging-a multidisciplinary approach | |
| US20250299401A1 (en) | Image processing apparatus and non-transitory computer-readable recording medium therefor | |
| JP2009223566A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
| Chen et al. | Using 3D face priors for depth recovery |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20141203 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20150817 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150825 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20151007 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20151027 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20151111 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 5840528 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |