Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5821457B2 - 画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラム - Google Patents
[go: Go Back, main page]

JP5821457B2 - 画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラム - Google Patents

画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラム Download PDF

Info

Publication number
JP5821457B2
JP5821457B2 JP2011204032A JP2011204032A JP5821457B2 JP 5821457 B2 JP5821457 B2 JP 5821457B2 JP 2011204032 A JP2011204032 A JP 2011204032A JP 2011204032 A JP2011204032 A JP 2011204032A JP 5821457 B2 JP5821457 B2 JP 5821457B2
Authority
JP
Japan
Prior art keywords
image
processing apparatus
depth
distance information
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2011204032A
Other languages
English (en)
Other versions
JP2013065226A (ja
JP2013065226A5 (ja
Inventor
奈穂 鈴木
奈穂 鈴木
猛 原野
猛 原野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2011204032A priority Critical patent/JP5821457B2/ja
Priority to US13/589,561 priority patent/US9131148B2/en
Priority to CN201210338827.4A priority patent/CN103020101B/zh
Publication of JP2013065226A publication Critical patent/JP2013065226A/ja
Publication of JP2013065226A5 publication Critical patent/JP2013065226A5/ja
Application granted granted Critical
Publication of JP5821457B2 publication Critical patent/JP5821457B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/35Categorising the entire scene, e.g. birthday party or wedding scene
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)

Description

本技術は、画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラムに関する。詳しくは、奥行きに基づいて画像を分類する画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラムに関する。
近年、画像の撮像時に被写体までの奥行きを測定することができる撮像装置が普及しつつある。画像処理装置は、撮像装置が撮像した画像および奥行きを取得し、その奥行きに基づいて画像を分類するなどの処理が行われている。
例えば、奥行きの分布を生成し、その分布における奥行きのばらつきと閾値との比較結果から、画像を分類する分類装置が提案されている(例えば、特許文献1参照。)。この分類装置は、奥行きのばらつきが閾値より小さい場合に、遠方の風景を写したロングショットの画像に分類対象の画像を分類する。一方、奥行きのばらつきが閾値より大きい場合に、分類装置は、建物などの物体を写したターゲットショットの画像に分類対象の画像を分類する。
特開2006−244424号公報
しかしながら、上述の分類装置では、画像を正確に分類することができないおそれがある。例えば、画像に写った物体の表面の面積が広くて一様である場合には、奥行きのばらつきが小さくなるために、物体を写した画像であるにも関らず、風景を写した画像に分類されてしまうことがあった。また、風景を写した画像内の一部に人間や建物などの物体が写っていた場合には、奥行きのばらつきが大きくなるために、風景の画像であるにも関らず、物体を写した画像に分類されてしまうことがあった。
本技術はこのような状況に鑑みて生み出されたものであり、奥行きに基づいて画像を正確に分類する画像処理装置を提供することを目的とする。
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、画像を取得する画像取得部と、上記画像内の画素に対応付けて奥行きを取得する奥行き取得部と、上記画像において所定の対象物の領域を検出する対象物検出部と、上記検出された領域内の上記画素に対応する上記奥行きを対象物検出距離として選択する対象物検出距離選択部と、上記奥行きの度数の分布において上記度数が極大となる上記奥行きを極大距離として選択する極大距離選択部と、上記対象物検出距離の値と上記極大距離の値との近さの程度が所定値より大きいか否かにより上記画像が上記対象物を撮像した対象物画像であるか否かを判断する判断部とを具備する画像処理装置、および、その制御方法ならびに当該方法をコンピュータに実行させるためのプログラムである。これにより、対象物検出距離の値と極大距離の値との近さの程度が所定値より大きいか否かにより画像が対象物画像であるか否かが判断されるという作用をもたらす。
また、この第1の側面において、上記対象物検出部は、人物の顔領域を上記対象物の領域として検出し、上記判断部は、上記近さの程度が上記所定値より大きい場合には上記画像は上記人物を撮像した人物画像であると判断することもできる。これにより、人物の顔領域が検出され、近さの程度が所定値より大きい場合には画像が人物画像であると判断されるという作用をもたらす。
また、この第1の側面において、上記判断部は、上記画像が上記人物画像であると判断した場合において上記検出された顔領域の数が所定数より小さいときには上記人物画像は特定の人物を撮像したポートレート画像であると判断し、上記検出された顔領域の数が上記所定数以上であるときには上記人物画像は集合した複数の人物を撮像した集合画像であると判断することもできる。これにより、顔領域の数が所定数より小さいときに人物画像がポートレート画像であると判断され、顔領域の数が所定数以上であるときに人物画像が集合画像であると判断されるという作用をもたらす。
また、この第1の側面において、上記判断部は、上記近さの程度が上記所定値より大きい場合には上記画像は上記対象物画像であると判断し、上記近さの程度が上記所定値以下である場合には上記画像は風景を撮像した風景画像であると判断することもできる。これにより、近さの程度が所定値より大きい場合には画像が対象物画像であると判断され、近さの程度が所定値以下である場合には画像が風景画像であると判断されるという作用をもたらす。
また、この第1の側面において、上記判断部による判断結果を上記画像に対応付けて記録する記録部をさらに具備することもできる。これにより、判断結果が画像に対応付けて記録されるという作用をもたらす。
また、本技術の第2の側面は、画像を取得する画像取得部と、上記画像内の画素に対応付けて奥行きを取得する奥行き取得部と、上記画像において所定の対象物の領域を検出する対象物検出部と、上記対象物の領域が検出された場合には当該検出された領域内の上記画素に対応する上記奥行きを対象物検出距離として選択する対象物検出距離選択部と、上記奥行きの度数の分布において上記度数が極大となる上記奥行きを極大距離として選択する極大距離選択部と、上記対象物検出距離が選択された場合には上記対象物検出距離の値と上記極大距離の値との近さの程度が所定値より大きいか否かにより上記画像が上記対象物を撮像した対象物画像であるか否かを判断し、上記対象物検出距離が選択されなかった場合には上記極大距離の値が閾値より小さいか否かにより上記画像がマクロ画像であるか否かを判断する判断部とを具備する画像処理装置である。これにより、対象物距離が選択された場合には画像が対象物画像であるか否かが判断され、対象物距離が選択されなかった場合には画像がマクロ画像であるか否かが判断されるという作用をもたらす。
また、この第2の側面において、上記判断部は、上記対象物検出距離が選択されなかった場合において上記画像を撮像した撮像装置の過焦点距離または上記極大距離の値が上記閾値より小さいときには上記画像は上記マクロ画像であると判断することもできる。これにより、対象物検出距離が選択されなかった場合において過焦点距離または極大距離の値が閾値より小さいときに画像がマクロ画像であると判断されるという作用をもたらす。
本技術によれば、奥行きに基づいて画像処理装置が画像を正確に分類することができるという優れた効果を奏し得る。
第1の実施の形態における撮像装置の一構成例を示すブロック図である。 第1の実施の形態における画像処理装置の一構成例を示すブロック図である。 第1の実施の形態におけるデータファイルのデータ構造の一例を示す図である。 第1の実施の形態におけるポートレート画像に分類される画像の一例を示す図である。 第1の実施の形態におけるポートレート画像に分類される画像における奥行きの度数分布の一例を示すグラフである。 第1の実施の形態における風景画像に分類される画像の一例を示す図である。 第1の実施の形態における風景画像に分類される画像における奥行きの度数分布の一例を示すグラフである。 第1の実施の形態における集合画像に分類される画像の一例を示す図である。 第1の実施の形態における集合画像に分類される画像における奥行きの度数分布の一例を示すグラフである。 第1の実施の形態における画像処理装置の動作の一例を示すフローチャートである。 第1の実施の形態における画像分類処理の一例を示すフローチャートである。 第1の実施の形態における撮影対象分類処理の一例を示すフローチャートである。 第1の実施の形態における撮像装置の一構成例を示す全体図である。 第2の実施の形態における画像分類処理の一例を示すフローチャートである。 第2の実施の形態における撮影距離分類処理の一例を示すフローチャートである。 第2の実施の形態におけるマクロ画像に分類される画像の一例を示す図である。 第2の実施の形態におけるマクロ画像に分類される画像における奥行きの度数分布の一例を示すグラフである。 第2の実施の形態における風景画像に分類される画像の一例を示す図である。 第2の実施の形態における風景画像に分類される画像における奥行きの度数分布の一例を示すグラフである。 第2の実施形態の変形例における撮影距離分類処理の一例を示すフローチャートである。 第3の実施の形態における画像処理装置の一構成例を示す図である。 第3の実施の形態における付属情報のデータ構造の一例を示す図である。 第3の実施の形態における画像処理装置の動作の一例を示すフローチャートである。 第3の実施の形態における画像分類処理の一例を示すフローチャートである。 第4の実施の形態における画像処理装置の一構成例を示すブロック図である。 第4の実施の形態における画像処理装置の動作の一例を示すフローチャートである。
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(顔検出距離および極大距離に基づいて画像を分類する例)
2.第2の実施の形態(顔検出距離および極大距離、または、極大距離に基づいて画像を分類する例)
3.第3の実施の形態(画像の記録後に分類結果を画像に付加する例)
4.第4の実施の形態(画像の記録前に分類結果を画像に付加する例)
<1.第1の実施の形態>
[撮像装置の構成例]
図1は、第1の実施の形態における撮像装置100の一構成例を示すブロック図である。撮像装置100は、操作部110、撮影レンズ120、撮像素子130、アナログ信号処理部140、A/D(Analog/Digital)変換部150、画像メモリ160、および、ワークメモリ170を備える。さらに、撮像装置100は、画像データ記憶部180、表示部190、および、画像処理装置300を備える。画像処理装置300は、カメラ制御部310および撮像装置制御部320を備える。
操作部110は、タッチパネルやボタンなどに対するユーザの操作に応じた操作信号を、画像処理装置300に信号線111を介して出力するものである。操作の内容の詳細については後述する。
撮影レンズ120は、画像を撮像するためのレンズである。撮像素子130は、撮影レンズ120からの光を電気信号に変換するものである。この撮像素子130は、変換後の電気信号をアナログ信号処理部140へ信号線131を介して出力する。アナログ信号処理部140は、撮像素子130からの電気信号に対して所定のアナログ信号処理を実行するものである。アナログ信号処理としては、アンプ雑音およびリセット雑音を除去するCDS(Correlated Double Sampling)や、増幅率を自動的に調節するAGC(Automatic Gain Control)などが実行される。このアナログ信号処理部140は、処理後の電気信号をA/D変換部150に信号線141を介して出力する。
A/D変換部150は、アナログ信号処理部140から出力されたアナログの電気信号をデジタル信号に変換するものである。このA/D変換部150は、変換後のデジタル信号を画像データとして画像処理装置300へ信号線151を介して出力する。A/D変換部150から出力された時点の画像データにはデモザイク処理や圧縮処理などの画像処理が施されていないため、このような画像データはRAW画像データとも呼ばれる。
画像メモリ160は、画像データを一時的に保持するものである。ワークメモリ170は、撮像装置制御部320における作業内容を一時的に保持するものである。画像データ記憶部180は、画像データを記憶するものである。表示部190は、画像や画像の分類結果を表示するものである。
カメラ制御部310は、撮像装置制御部320の制御に従ってズーム制御や露出制御を行ってA/D変換部150からの画像データを取得するものである。このカメラ制御部310は、取得した画像データから、その画像データにおける画素に対応付けて奥行きを生成する。奥行きの単位は、例えば、メートル(m)である。カメラ制御部310は、算出した奥行きを含む奥行きデータを画像データとともに撮像装置制御部320に出力する。
また、カメラ制御部310は、撮像装置制御部320から画像データおよび奥行きデータを受け取ると、その画像データにおいて顔を検出する。カメラ制御部310は、画像データについて生成された奥行きの中から、検出した顔の領域に対応する奥行きを顔検出距離として選択する。さらに、カメラ制御部310は、奥行きデータに基づいて画像データごとに奥行きの度数分布を生成し、その度数分布における奥行きの値のうち、度数が極大となる奥行きを、極大距離として選択する。撮像装置制御部320から複数の画像データを受け取った場合、カメラ制御部310は、画像データごとに顔検出距離および極大距離を選択する。カメラ制御部310は、選択した顔検出距離および極大距離を撮像装置制御部320に出力する。
撮像装置制御部320は、撮像装置100全体を制御するものである。詳細には、撮像装置制御部320は、操作部110からの操作信号に従ってカメラ制御部310を介してズーム制御や露出制御などを行う。そして、撮像装置制御部320は、カメラ制御部310から画像データおよび奥行きデータを受け取り、その画像データに奥行きデータを対応付けて画像データ記憶部180に記録する。
また、撮像装置制御部320は、操作部110からの操作信号に従って、信号線302を介して画像データ記憶部180から画像データおよび奥行きデータを読み出してカメラ制御部310に出力する。そして、撮像装置制御部320は、カメラ制御部310から、画像データおよび奥行きデータについての顔検出距離および極大距離を受け取ると、それらの距離に基づいて画像を分類する。分類方法の詳細については後述する。
[画像処理装置の構成例]
図2は、第1の実施の形態における画像処理装置300の一構成例を示すブロック図である。上述のように画像処理装置300は、カメラ制御部310および撮像装置制御部320を備える。カメラ制御部310は、レンズ駆動部311、画像取得部312、奥行き生成部313、顔検出部314、顔検出距離選択部315、および、極大距離選択部316を備える。撮像装置制御部320は、操作信号解析部321、奥行きデータ付加部322、画像取得部323、奥行き取得部324、および、画像分類部325を備える。
操作信号解析部321は、操作部110からの操作信号を解析するものである。ユーザは、操作部110を操作することにより、例えば、ズーム倍率を変更することができる。また、ユーザは、操作部110を操作することにより、画像データ記憶部180に保存された画像データを読み出して表示部190に表示させることができる。さらに、ユーザは、操作部110を操作することにより、複数の画像種別の中のいずれかを指定して、画像処理装置300に、その画像種別に属する画像データを検索させることができる。例えば、画像種別は、人物画像、風景画像、および、マクロ画像を含む。この人物画像は、ポートレート画像および集合画像を含む。ここで、人物画像は、人物を主たる被写体として撮像した画像である。ポートレート画像は、少数(例えば、3人未満)の特定の人物を主たる被写体として撮像した人物画像である。集合画像は、集合した多数(例えば、3人以上)の人物を主たる被写体として撮像した人物画像である。風景画像は、風景を主たる被写体として撮像した画像である。マクロ画像は、至近距離の被写体を主たる被写体として撮像した画像である。
レンズ駆動部311は、撮影レンズ120の位置を制御するものである。詳細には、レンズ駆動部311は、変更後のズーム倍率の値を操作信号解析部321から受け取ると、信号線301を介して撮影レンズ120の現在の位置を取得する。そして、レンズ駆動部311は、変更後のズーム倍率の値に基づいて撮影レンズ120の位置を制御する制御信号を撮影レンズ120に信号線301を介して出力する。
画像取得部312は、A/D変換部150から出力された画像データを取得するものである。取得された画像データは画像メモリ160に一時的に保持される。この画像取得部312は、取得した画像データを奥行きデータ付加部322へ出力する。
奥行き生成部313は、撮像された画像データにおける画素に対応付けて奥行きを生成するものである。奥行き生成部313は、例えば、位相差検出法により奥行きを生成する。具体的には、奥行き生成部313は、セパレータレンズにより分けられた2つの画像における被写体のずれ(位相差)を検出して、検出した位相差から、その被写体までの距離を奥行きとして生成する。奥行き生成部313は、画素に対応付けて生成した奥行きを奥行きデータとして奥行きデータ付加部322に出力する。なお、奥行き生成部313は、位相差検出以外の方法により奥行きを生成してもよい。奥行き生成部313は、例えば、被写体にレーザを照射し、そのレーザの反射光を検出して、照射時刻からの検出時刻の遅延時間に基づいて奥行きを計測してもよい。
奥行きデータ付加部322は、画像取得部312からの画像データを必要に応じて圧縮し、その画像データに奥行きデータを対応付けて記録するものである。画像データを圧縮する場合、奥行きデータ付加部322は、例えば、JPEG(Joint Photographic Experts Group)規格に従って圧縮を行う。また、奥行きデータを対応付ける場合、奥行きデータ付加部322は、例えば、Exif(Exchangeable image file format)規格における付属情報として奥行きデータを画像データに付加することにより、両者を関連付ける。奥行きデータ付加部322は、奥行きデータを対応付けた画像データをデータファイルとして画像データ記憶部180に出力する。
画像取得部323は、画像データ記憶部180に記録された画像データを読み出すことにより画像データを取得するものである。この画像取得部323は、取得した画像データを顔検出部314に出力する。奥行き取得部324は、画像取得部323が読み出した画像データに付加された奥行きデータを取得するものである。この奥行き取得部324は、取得した奥行きデータを顔検出距離選択部315および極大距離選択部316に出力する。
顔検出部314は、画像データにおいて人物の顔の領域を検出するものである。詳細には、この顔検出部314は、例えば、画像データにおいて、被写体の色や形状などから顔と思われる被写体の領域を抽出する。そして、顔検出部314は、その領域と予めデータベースに登録しておいたテンプレート画像とのマッチングを行うことにより、その領域が顔領域であるか否かを判断する。顔検出部314は、検出した顔領域内の画素群の座標のデータを顔領域データとして顔検出距離選択部315へ出力する。なお、顔検出部314は、特許請求の範囲に記載の対象物検出部の一例である。また、顔検出部314は、上述のテンプレートマッチング法とは別の手法で顔領域を検出することもできる。
顔検出距離選択部315は、画像データについて生成された奥行きの中から、その画像データにおいて検出された顔領域内の画素に対応する奥行きを顔検出距離z_objとして選択するものである。画像データにおいて複数の顔領域が検出された場合、顔検出距離選択部315は、顔領域ごとに顔検出距離を選択する。この顔検出距離選択部315は、選択した顔検出距離z_objを画像分類部325へ出力する。なお、顔検出距離選択部315は、特許請求の範囲に記載の対象物検出距離選択部の一例である。
極大距離選択部316は、画像データごとに奥行きの度数分布を生成し、その度数分布において度数が極大(local maximum)となる奥行きを極大距離z_lmaxとして選択するものである。具体的には、まず、極大距離選択部316は、奥行きzの値ごとに、その値が奥行きデータにおいて出現した回数を度数として計数する。奥行きzのとりうる値がn(nは、1以上の整数)通りある場合に、それらの値を奥行きz(iは、0乃至n−1の整数)とし、n個のzについて計数した度数Fの値を度数Fとすると、(z、F)乃至(zn−1、Fn−1)からなる度数分布が得られる。例えば、この度数分布においてiを増分していった場合に、ある点Pに至るまで度数Fが連続して増加し、その点Pを過ぎてから度数Fが連続して減少したとき、極大距離選択部316は、その点Pが極大点であると判断する。極大距離選択部316は、その極大点Pにおける奥行きを極大距離z_lmaxとして選択し、画像分類部325へ出力する。
なお、極大距離選択部316は、度数分布を所定の分布関数に近似して、その分布関数の極大点における奥行きを極大距離として選択してもよい。この場合、極大距離選択部316は、例えば、m次(mは2以上の整数)の多項式により分布関数を定義し、その多項式における次数mおよび係数を最小二乗法により算出する。そして、極大距離選択部316は、その分布関数の微分値を算出することにより、極大点を求める。
画像分類部325は、対象物検出距離z_objの値と極大距離z_lmaxの値との近さの程度が所定値より大きいか否かにより、画像が人物画像であるか否かを判断するものである。具体的には、この画像分類部325は、例えば、z_objの値とz_lmaxの値との差分の絶対値が閾値δ未満であれば、画像が人物画像であると判断して、その画像を人物画像に分類する。閾値δには、例えば、0.2メートル(m)が設定される。ここで、z_objおよびz_lmaxの少なくとも一方が複数個である場合、画像分類部325は、z_objおよびz_lmaxの全ての組合せについて差分を求め、いずれかの差分の絶対値が閾値δ未満であれば、画像が人物画像であると判断する。ここで、極大距離は、画像において周囲より面積が広い領域に対応する距離であり、この極大距離の値に顔検出距離の値が近いということは、画像において人物が大きく写っていることを意味する。そして、人物が大きく写っている画像は、人物画像である可能性が高い。したがって、画像分類部325は、顔検出距離および極大距離の値の近さにより、画像が人物画像であるか否かを正確に分類することができる。
そして、画像分類部325は、画像が人物画像である場合において顔領域の数が所定数(例えば、3)未満であれば、その人物画像をポートレート画像に分類し、顔領域の数が所定数以上であれば、その人物画像を集合画像に分類する。
また、画像分類部325は、差分の絶対値が閾値δ以上であれば、風景画像であると判断して、その画像を風景画像に分類する。そして、分類した画像が、ユーザが指定した画像種別に属する画像であれば、その画像のタイトルやサムネイルなどを検索結果として表示部190に出力する。なお、画像分類部325は、特許請求の範囲に記載の判断部の一例である。また、画像分類部325は、画像の分類結果をさらに表示部190に出力してもよい。
[データファイルの構造]
図3は、第1の実施の形態におけるデータファイルのデータ構成の一例を示す図である。このデータファイルは、例えば、Exif規格に従って作成されたデータファイルである。
このデータファイルには、圧縮データスタート(SOI)、アプリケーション・マーカセグメント1(APP1)、量子化テーブル(DQT)、ハフマンテーブル(DHT)が順に記録される。そして、フレームヘッダ(SOF)、スキャンヘッダ(SOS)に続いて圧縮データの本体が記録され、圧縮データ終了(EOI)が記録される。この圧縮データは、画像データをJEPG規格などの圧縮形式に従って圧縮したデータである。そして、画像処理装置300において生成された奥行きデータは、圧縮データ終了(EOI)の次に記録される。なお、画像処理装置300は、奥行きデータを、Exif規格におけるEOIの次に記録しているが、画像データと関連付けることができるのであれば、奥行きデータを他の領域に記録してもよい。
APP1は、Exif付属情報を記録する領域である。このAPP1では、APP1マーカー(APP1Marker)に続いてAPP1長(APP1Length)が定義される。そして、Exif識別コードに続いて、TIFFヘッダー(TIFF Header)、主画像IFD(0th IFD)、および、主画像IFDの値(0th IFD Value)などが記録される。
図4は、第1の実施の形態におけるポートレート画像に分類される画像510の一例である。この画像510の中央付近には一人の人物が比較的大きく写っており、その背景に雲や水平線などの風景が写っている。写っている人物が一人であるため、顔領域が1つ検出される。特定の人物が主たる被写体として撮像されているため、この画像510はポートレート画像である。
図5は、第1の実施の形態におけるポートレート画像に分類される画像510における奥行きの度数分布の一例を示すグラフである。同図において、奥行きzを横軸とし、度数Fを縦軸として、奥行きzごとに度数Fの大きさを柱の高さで表わしたヒストグラムが生成されている。このヒストグラムにおいて局所的に度数Fが最大となる極大点はP1およびP2の2点あり、それらの点における奥行きが極大距離z_lmax1およびz_lmax2として選択される。そして、極大距離z_lmax1と顔検出距離z_objとの差分の絶対値は閾値δより小さい。また、前述のように画像510において顔領域が一つ検出されている。このため、画像処理装置300は、このヒストグラムが得られる画像510をポートレート画像に分類する。
このように、画像処理装置300は、極大距離の値と顔検出距離の値とが近く、顔領域が所定数未満であるか否かを判断することにより、画像をポートレート画像に正確に分類することができる。ポートレート画像においては、一般に、少数の特定の人物が主要な被写体として大きく写される結果、顔領域の数が少なく、かつ、顔検出領域z_objの値と極大距離z_lmaxの値とが近くなることが多いためである。
図6は、第1の実施の形態における風景画像に分類される画像520の一例である。この画像520において、中央付近に建物が大きく写されている。また、その建物の近くに、建物と比較して小さな領域に人物が写っている。風景が主たる被写体として撮像されているため、この画像520は風景画像である。
図7は、第1の実施の形態における風景画像に分類される画像520における奥行きの度数分布の一例を示すグラフである。同図において、奥行きzを横軸とし、度数Fを縦軸として、奥行きzごとに度数Fの大きさを柱の高さで表わしたヒストグラムが生成されている。このヒストグラムにおいて局所的に度数Fが最大となる極大点はP1およびP2の2点あり、それらの点における奥行きが極大距離z_lmax1およびz_lmax2として選択される。そして、極大距離z_lmax1と顔検出距離z_objとの差分の絶対値は閾値δ以上である。このため、画像処理装置300は、このヒストグラムが得られる画像520を風景画像に分類する。
このように、画像処理装置300は、極大距離の値と顔検出距離の値とが近いか否かを判断することにより、画像を風景画像に正確に分類することができる。風景画像においては、一般に、人物が写っていても、その人物の領域は周囲の風景の領域より小さく、顔検出領域z_objの値と極大距離z_lmaxの値との差分の絶対値が大きくなることが多いためである。
図8は、第1の実施の形態における集合画像に分類される画像530の一例である。この画像530には、集合した複数の人物が写されている。写っている人物が3人以上であるため、3つ以上の顔領域が検出される。集合した複数の人物が主たる被写体として撮像されているため、この画像530は集合画像である。
図9は、第1の実施の形態における集合画像に分類される画像530における奥行きの度数分布の一例を示すグラフである。同図において、奥行きzを横軸とし、度数Fを縦軸として、奥行きzごとに度数Fの大きさを柱の高さで表わしたヒストグラムが生成されている。このヒストグラムにおいて局所的に度数Fが最大となる極大点はP1およびP2の2点あり、それらの点における奥行きが極大距離z_lmax1およびz_lmax2として選択される。3人以上の人物が写っていたので、顔検出距離z_obj1乃至z_obj3を含む多数の顔検出距離が選択される。そして、極大距離z_obj1乃至z_obj3とのそれぞれの差分の絶対値は閾値δより小さい。また、前述のように、画像530において複数の顔領域が検出されている。このため、画像処理装置300は、このヒストグラムが得られる画像530を集合画像に分類する。
このように、画像処理装置300は、極大距離および顔検出距離の値が近く、顔領域が所定数以上であるか否かを判断することにより、画像を集合画像に正確に分類することができる。集合画像においては、一般に、多数の人物が主要な被写体として大きく写される結果、顔領域の検出数が多く、かつ、顔検出領域z_objの値と極大距離z_lmaxの値とが近くなることが多いためである。
[撮像装置の動作例]
図10は、第1の実施の形態における画像処理装置300の動作の一例を示すフローチャートである。この動作は、例えば、画像を検索する処理が実行されたときに開始する。画像処理装置300は、検索対象の画像種別が入力されたか否かを判断する(ステップS901)。画像種別が入力されていなければ(ステップS901:No)、画像処理装置300は、ステップS901に戻る。
画像種別が入力されたならば(ステップS901:Yes)、画像処理装置300は、検索されていない画像データを画像データ記憶部180から読み出す(ステップS902)。また、画像処理装置300は、その画像データに対応する奥行きデータを画像データ記憶部180から読み出す(ステップS903)。そして、画像処理装置300は、極大距離z_lmaxおよび顔検出距離z_objに基づいて画像を分類する処理である画像分類処理を実行する(ステップS910)。画像処理装置300は、画像の分類結果に基づいて画像の検索結果を表示する(ステップS941)。ステップS941の後、画像処理装置300は、画像の検索のための動作を終了する。
図11は、第1の実施の形態における画像分類処理の一例を示すフローチャートである。画像処理装置300は、奥行きの度数分布を生成し、その度数分布において度数が極大となる奥行きを極大距離z_lmaxとして選択する(ステップS911)。また、画像処理装置300は、画像データにおける顔領域を検出する(ステップS912)。そして、画像処理装置300は、その顔領域内の画素に対応する奥行きを顔検出距離z_objとして選択する(ステップS913)。そして、画像処理装置300は、撮影対象の種類に着目して画像を分類する処理である撮影対象分類処理を実行する(ステップS920)。ステップS920の後、画像処理装置300は、画像分類処理を終了する。
図12は、第1の実施の形態における撮影対象分類処理の一例を示すフローチャートである。画像処理装置300は、極大距離z_lmaxと顔検出距離z_objとの差分の絶対値が閾値δより小さいか否かを判断する(ステップS921)。その差分の絶対値が閾値δより小さければ(ステップS921:Yes)、画像処理装置300は、画像を人物画像に分類する。そして、画像処理装置300は、人物画像において人物が3人以上であるか否かを判断する(ステップS922)。人物が3人未満である場合(ステップS922:No)、画像処理装置300は、人物画像をポートレート画像に分類する(ステップS923)。人物が3人以上である場合(ステップS922:Yes)、画像処理装置300は、人物画像を集合画像に分類する(ステップS924)。
極大距離z_lmaxと顔検出距離z_objとの差分の絶対値が閾値δ以上である場合(ステップS921:No)、画像処理装置300は、画像を風景画像に分類する(ステップS925)。ステップS923、S924、または、S925の後、画像処理装置300は、撮影対象分類処理を終了する。
図13は、第1の実施の形態における撮像装置100の一構成例を示す全体図である。図13(a)は、撮像装置100の上面および前面の一例を示す図であり、図13(b)は撮像装置100の背面の一例を示す図である。撮像装置100の上面には、ズームレバー101、シャッターボタン102、再生ボタン103、および、パワーボタン104が設けられている。撮像装置100の前面には、撮影レンズ105、AF(Auto Focus)イルミネータ106、および、レンズカバー107が設けられている。撮像装置100の背面には、タッチスクリーン108が設けられている。
ズームレバー101は、ズーム制御の操作を行うためのレバーである。シャッターボタン102は、被写体の撮像を行うためのボタンである。再生ボタン103は、画像データを表示させるためのボタンである。パワーボタン104は、撮像装置100の電源をオンまたはオフするためのボタンである。撮影レンズ105は、画像を撮像するためのレンズである。AFイルミネータ106は、オートフォーカス機能がオンであるときに発光するものである。レンズカバー107は、撮影レンズ105を覆う位置まで可動可能な、撮影レンズ105を保護するための部品である。タッチスクリーン108は、指などで触れることにより撮像装置100の操作を行うことのできるディスプレイである。
図13におけるズームレバー101、シャッターボタン102、再生ボタン103、および、パワーボタン104は、図1における操作部110を構成する。また、図13におけるタッチスクリーン108は、図1における操作部110および表示部190を構成する。
このように、本技術の第1の実施の形態によれば、画像処理装置300は、顔検出距離および極大距離の値の近さの程度が所定値より高いか否かにより画像が人物画像であるか否かを判断することによって、奥行きに基づいて画像を正確に分類することができる。これにより、画像処理装置300は、風景に人物が写りこんでいる場合であっても、画像を正確に分類することができる。
なお、画像処理装置300は、人物の顔領域を検出しているが、動物の顔や所定の物体などの人物の顔以外の対象物の領域を検出することもできる。この場合、画像処理装置300は、極大距離と、その対象物の検出距離との値が近いと、対象物を撮像した対象物画像に画像を分類する。
また、画像処理装置300は、人物画像をポートレート画像と集合画像とにさらに分類しているが、ポートレート画像および集合画像への分類を行わない構成とすることもできる。
<2.第2の実施の形態>
[画像処理装置の動作例]
図14乃至図20を参照して、本技術の第2の実施の形態について説明する。第2の実施の形態の撮像装置100の構成は、図1に例示した第1の実施の形態の撮像装置100の構成と同様である。また、第2の実施の形態の画像処理装置300の構成は、図2に例示した第1の実施の形態の画像処理装置300の構成と同様である。ただし、第2の実施の画像処理装置300は、画像分類処理において、顔領域が検出されなかった場合に撮影距離分類処理をさらに実行する点において第1の実施の形態と異なる。撮影距離分類処理は、撮影距離に着目して画像を分類する処理であり、具体的には、極大距離の値が閾値z_nthより小さいか否かにより画像がマクロ画像であるか否かを判断する処理である。ここで、閾値z_nthは、所定の実数であり、例えば、0.5メートル(m)が設定される。
図14は、第2の実施の形態における画像分類処理の一例を示すフローチャートである。第2の実施の形態の画像処理装置300は、画像分類処理において、顔領域が検出されなかった場合に撮影距離分類処理をさらに実行する点において第1の実施の形態と異なる。顔検出距離を選択した後において(ステップS913)、画像処理装置300は、顔領域が検出されたか否かを判断する(ステップS914)。顔領域が検出された場合には(ステップS914:Yes)、画像処理装置300は、撮影対象分類処理を実行する(ステップS920)。顔領域が検出されていない場合には(ステップS914:No)、画像処理装置300は、撮影距離に着目して画像を分類する処理である撮影距離分類処理を実行する(ステップS930)。ステップS920またはS930の後、画像処理装置300は、画像分類処理を終了する。
図15は、第2の実施の形態における撮影距離分類処理の一例を示すフローチャートである。画像処理装置300は、極大距離z_lmaxが閾値z_nthより小さいか否かを判断する(ステップS933)。なお、複数の極大距離z_lmaxが選択されている場合、画像処理装置300は、それらのうち、度数Fが最も大きい極大点の極大距離z_lmaxと閾値z_nthとを比較する。
極大距離z_lmaxが閾値z_nth以上である場合(ステップS933:No)、画像処理装置300は、極大距離z_lmaxが閾値z_fthより大きいか否かを判断する(ステップS934)。閾値z_fthには、閾値z_nthより大きな実数(例えば、10メートル)が設定される。
極大距離z_lmaxが閾値z_nthより小さい場合(ステップS933:Yes)、画像処理装置300は、画像をマクロ画像に分類する(ステップS935)。極大距離z_lmaxが閾値z_fthより大きい場合(ステップS934:Yes)、画像処理装置300は、画像を風景画像に分類する(ステップS936)。極大距離z_lmaxが閾値z_fth以下である場合(ステップS934:No)、画像処理装置300は、画像をその他の画像に分類する(ステップS937)。ステップS935、S936、または、S937の後、画像処理装置300は、撮影距離分類処理を終了する。
図16は、第2の実施の形態におけるマクロ画像に分類される画像540の一例である。この画像540の中央付近には至近距離で撮影された昆虫が写っている。人物が写っていないため、顔領域は検出されない。至近距離の被写体が主たる被写体として撮像されているため、この画像540はマクロ画像である。
図17は、第2の実施の形態におけるマクロ画像に分類される画像540における奥行きの度数分布の一例を示すグラフである。同図において、奥行きzを横軸とし、度数Fを縦軸として、奥行きzごとに度数Fの大きさを柱の高さで表わしたヒストグラムが生成されている。このヒストグラムにおいて局所的に度数Fが最大となる極大点Pにおける奥行きが極大距離z_lmaxとして選択される。そして、極大距離z_lmax1の値は、閾値z_nthより小さい。また、前述のように画像540においては顔領域が検出されない。このため、画像処理装置300は、このヒストグラムが得られる画像540をマクロ画像に分類する。
このように、画像処理装置300は、極大距離の値が閾値より小さく、顔領域が検出されたか否かを判断することにより、画像をマクロ画像に正確に分類することができる。マクロ画像においては、一般に、人物以外の被写体が至近距離で大きく写される結果、顔領域が検出されず、かつ、極大距離z_lmaxの値が小さくなることが多いためである。
図18は、第2の実施の形態における風景画像に分類される画像550の一例である。この画像550において、雲や水平線などの遠方の風景が写されている。風景が主たる被写体として撮像されているため、この画像550は風景画像である。
図19は、第2の実施の形態における風景画像に分類される画像550における奥行きの度数分布の一例を示すグラフである。同図において、奥行きzを横軸とし、度数Fを縦軸として、奥行きzごとに度数Fの大きさを柱の高さで表わしたヒストグラムが生成されている。このヒストグラムにおいて局所的に度数Fが最大となる極大点Pにおける奥行きが極大距離z_lmaxとして選択される。この極大距離z_lmaxは、閾値z_fthより大きい。このため、画像処理装置300は、このヒストグラムが得られる画像550を風景画像に分類する。
画像処理装置300は、極大距離の値が閾値より大きいか否かを判断することにより、画像を風景画像に正確に分類することができる。風景画像においては、一般に、遠距離の風景が主要な被写体として写される結果、極大距離z_lmaxの値が大きくなることが多いためである。
このように、本技術の第2の実施の形態によれば、画像処理装置300は、極大距離の値の大きさと、顔検出距離の値と極大距離の値との近さの程度とにより、マクロ画像または人物画像に正確に画像を分類することができる。
[変形例]
図20を参照して、第2の実施の形態における変形例について説明する。図20は、第1の変形例における撮影距離分類処理の一例を示すフローチャートである。この変形例の撮影距離分類処理は、過焦点距離Hの値が閾値より小さい場合においてもマクロ画像であると画像処理装置300が判断する点において第2の実施の形態と異なる。ここで、過焦点距離Hは、ある距離Hの被写体にピントを合わせた場合にH/2から無限遠までの範囲が被写界深度となる距離のことをいう。過焦点距離Hの値が閾値z_nthより小さい場合、その閾値未満の距離にピントを合わせて撮影されたことが推測される。このため、画像処理装置300は、画像がマクロ画像であると判断することができる。
撮影距離分類処理において、画像処理装置300は、過焦点距離Hを算出する(ステップS931)。過焦点距離Hの値は、例えば、以下の式1により算出される。以下の式1において、Nは、絞り値である。また、cは、画像において、ぼけが許容される許容錯乱円の直径である。Hおよびcの単位は、例えばメートル(m)である。
H=f^2/(Nc) ・・・式1
そして、画像処理装置300は、過焦点距離Hの値が閾値z_nthより小さいか否かを判断する(ステップS932)。過焦点距離Hの値が閾値z_nthより小さい場合(ステップS932:Yes)、画像処理装置300は、画像をマクロ画像に分類する(ステップS935)。過焦点距離Hの値が閾値z_nth以上である場合(ステップS932:No)、画像処理装置300は、極大距離z_lmaxの値が閾値z_nthより小さいか否かを判断する(ステップS933)。ステップS933以降の処理は、第2の実施の形態と同様である。
このように、第2の実施の形態の変形例によれば、画像処理装置300は、過焦点距離または極大距離の値が閾値より小さい場合に、画像がマクロ画像であると判断することができる。すなわち、画像処理装置300は、至近距離に大きな被写体が写った画像または至近距離にピントが合わされた画像をマクロ画像として分類することができる。
<3.第3の実施の形態>
[画像処理装置の構成例]
図21乃至図24を参照して本技術の第3の実施の形態について説明する。第3の実施の形態の撮像装置100の構成は、図1に例示した第1の実施の形態の撮像装置100の構成と同様である。図21は、第3の実施の形態における画像処理装置300の一構成例を示すブロック図である。第3の実施の形態の画像処理装置300は、撮像装置制御部320において分類結果付加部326をさらに備える点において第1の実施の形態と異なる。また、第3の実施の形態の画像分類部325は、分類結果を分類結果付加部326にさらに出力する。
分類結果付加部326は、画像分類部325の分類結果を画像データに対応付けて画像データ記憶部180に記録するものである。分類結果付加部326は、例えば、分類結果をExif規格におけるタグとして画像データに付加することにより、両者を関連付ける。なお、分類結果付加部326は、特許請求の範囲に記載の記録部の一例である。
また、第3の実施の形態の顔検出距離選択部315および極大距離選択部316は、画像データに分類結果が付加されているのであれば、顔検出距離および極大距離の選択を実行しない。同様に、画像分類部325も、分類結果が付加されていれば画像の分類を実行せず、付加された分類結果を利用して検索を実行する。
[データファイルの構造]
図22は、第3の実施の形態におけるデータファイル内の付属情報のデータ構造の一例を示す図である。アプリケーション・マーカセグメント1(APP1)内の0th IFDに画像データの付属情報(タグ)が記録される。付属情報は、バージョンに関するタグ、ユーザ情報に関するタグ、撮影条件に関するタグなどの区分に分けられる。バージョンに関するタグは、Exifバージョンおよび対応フラッシュトピックスバーションである。ユーザ情報に関するタグは、メーカーノートおよびユーザコメントなどである。撮影条件に関するタグは、露出時間、Fナンバー、および、レンズ焦点距離などである。分類結果付加部326は、例えば、メーカーノートの領域に分類結果を記録する。
[画像処理装置の動作例]
図23は、第3の実施の形態における画像処理装置300の動作の一例を示すフローチャートである。第3の実施の形態における画像処理装置300の動作は、ステップS904をさらに実行する点において第1の実施の形態と異なる。
画像データに対応する奥行きデータを読み出した後(ステップS903)、画像処理装置300は、画像データに分類結果が付加されているか否かを判断する(ステップS904)。画像データに分類結果が付加されていない場合には(ステップS904:No)、画像処理装置300は、画像分類処理を実行する(ステップS10)。画像データに分類結果が付加されている場合(ステップS904:Yes)、または、ステップS910の後、画像処理装置300は、検索結果を表示する(ステップS941)。
図24は、第3の実施の形態における画像分類処理の一例を示すフローチャートである。第3の実施の形態における画像分類処理は、ステップS940をさらに実行する点において第1の実施の形態と異なる。画像処理装置300は、撮影対象分類処理を実行した後に(ステップS920)、分類結果を画像データに付加する(ステップS940)。ステップS940の後、画像処理装置300は、画像分類処理を終了する。
このように、第3の実施の形態によれば、画像処理装置300は、画像の検索など、画像の分類処理が必要になったときに画像を分類して分類結果を対応付けることにより、以降に画像の分類処理が必要になったときに、その分類処理を省略することができる。
<4.第4の実施の形態>
[画像処理装置の構成例]
図25および図26を参照して本技術の第4の実施の形態について説明する。第4の実施の形態の画像処理装置300は、画像データの記録後でなく、記録前に分類結果を画像データに対応付ける点において第3の実施の形態と異なる。図25は、第4の実施の形態における画像処理装置300の一構成例を示すブロック図である。第4の実施の形態の画像処理装置300は、奥行きデータ付加部322、画像取得部323、奥行き取得部324、および、分類結果付加部326の代わりに付属情報付加部327を備える点において第3の実施の形態と異なる。付属情報付加部327は、奥行きデータおよび分類結果を画像データに付加して記録するものである。また、第4の実施の形態の画像取得部312は、画像データを付属情報付加部327に出力する。第4の実施の形態の奥行き生成部313は、奥行きデータを付属情報付加部327、顔検出距離選択部315、および、極大距離選択部316に出力する。第4の実施の形態の顔検出部314は、A/D変換部150からの画像データにおける顔領域を検出する。
[画像処理装置の動作例]
図26は、第4の実施の形態における画像処理装置300の動作の一例を示すフローチャートである。この動作は、例えば、被写体の撮像を行うための処理が実行されたときに開始する。画像処理装置300は、シャッターボタンが押下されたか否かを判断する(ステップS951)。シャッターボタンが押下されていなければ(ステップS951:No)、画像処理装置300は、ステップS951に戻る。
シャッターボタンが押下されたならば(ステップS951:Yes)、画像処理装置300は、A/D変換部150からの画像データを取得する(ステップS952)。また、画像処理装置300は、その画像データの画素に対応付けて奥行きを生成する(ステップS953)。そして、画像処理装置300は、画像分類処理を実行する(ステップS960)。第4の実施の形態における画像分類処理(ステップS960)は、図11に例示した第1の実施の形態の画像分類処理(ステップS910)と同様の処理である。画像処理装置300は、分類結果および奥行きデータを画像データに付加して画像データ記憶部180に保存する(ステップS970)。ステップS970の後、画像処理装置300は、被写体の撮像を行うための処理を終了する。
このように、第4の実施の形態によれば、画像処理装置300は、画像データの記録前に分類結果を対応付けておくことにより、画像データの記録後において画像の分類処理を省略することができる。
なお、第3および第4の実施の形態において、画像処理装置300は、分類結果の代わりに、選択した極大距離を画像データに付加することもできる。これにより、極大距離が付加された画像データを読み出した画像処理装置が、度数分布を生成して極大距離を選択する必要がなくなる。また、例えば、画像処理装置300は、極大距離を付加した後において、画像分類処理の内容を変更して分類しなおす場合に、極大距離を選択する必要がなくなる。具体的には、閾値δ、閾値z_nth、または、閾値z_fthを変更して分類しなおす場合などに、再度、極大距離を選択する必要がなくなる。
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))などを用いることができる。また、記録媒体として、フラッシュメモリなどの不揮発性メモリ等を用いることもできる。
なお、本技術は以下のような構成もとることができる。
(1)画像を取得する画像取得部と、
前記画像内の画素に対応付けて奥行きを取得する奥行き取得部と、
前記画像において所定の対象物の領域を検出する対象物検出部と、
前記検出された領域内の前記画素に対応する前記奥行きを対象物検出距離として選択する対象物検出距離選択部と、
前記奥行きの度数の分布において前記度数が極大となる前記奥行きを極大距離として選択する極大距離選択部と、
前記対象物検出距離の値と前記極大距離の値との近さの程度が所定値より大きいか否かにより前記画像が前記対象物を撮像した対象物画像であるか否かを判断する判断部と
を具備する画像処理装置。
(2)前記対象物検出部は、人物の顔領域を前記対象物の領域として検出し、
前記判断部は、前記近さの程度が前記所定値より大きい場合には前記画像は前記人物を撮像した人物画像であると判断する
前記(1)に記載の画像処理装置。
(3)前記判断部は、前記画像が前記人物画像であると判断した場合において前記検出された顔領域の数が所定数より小さいときには前記人物画像は特定の人物を撮像したポートレート画像であると判断し、前記検出された顔領域の数が前記所定数以上であるときには前記人物画像は集合した複数の人物を撮像した集合画像であると判断する
前記(2)に記載の画像処理装置。
(4)前記判断部は、前記近さの程度が前記所定値より大きい場合には前記画像は前記対象物画像であると判断し、前記近さの程度が前記所定値以下である場合には前記画像は風景を撮像した風景画像であると判断する
前記(1)乃至(3)のいずれかに記載の画像処理装置。
(5)前記判断部による判断結果を前記画像に対応付けて記録する記録部をさらに具備する前記(1)乃至(4)のいずれかに記載の画像処理装置。
(6)画像を取得する画像取得部と、
前記画像内の画素に対応付けて奥行きを取得する奥行き取得部と、
前記画像において所定の対象物の領域を検出する対象物検出部と、
前記対象物の領域が検出された場合には当該検出された領域内の前記画素に対応する前記奥行きを対象物検出距離として選択する対象物検出距離選択部と、
前記奥行きの度数の分布において前記度数が極大となる前記奥行きを極大距離として選択する極大距離選択部と、
前記対象物検出距離が選択された場合には前記対象物検出距離の値と前記極大距離の値との近さの程度が所定値より大きいか否かにより前記画像が前記対象物を撮像した対象物画像であるか否かを判断し、前記対象物検出距離が選択されなかった場合には前記極大距離の値が閾値より小さいか否かにより前記画像がマクロ画像であるか否かを判断する判断部と
を具備する画像処理装置。
(7)前記判断部は、前記対象物検出距離が選択されなかった場合において前記画像を撮像した撮像装置の過焦点距離または前記極大距離の値が前記閾値より小さいときには前記画像は前記マクロ画像であると判断する
前記(6)記載の画像処理装置。
(8)画像取得部が、画像を取得する画像取得手順と、
奥行き取得部が、前記画像内の画素に対応付けて奥行きを取得する奥行き取得手順と、
対象物検出部が、前記画像において所定の対象物の領域を検出する対象物検出手順と、
対象物検出距離選択部が、前記検出された領域内の前記画素に対応する前記奥行きを対象物検出距離として選択する対象物検出距離選択手順と、
極大距離選択部が、前記奥行きの度数の分布において前記度数が極大となる前記奥行きを極大距離として選択する極大距離選択手順と、
判断部が、前記対象物検出距離の値と前記極大距離の値との近さの程度が所定値より大きいか否かにより前記画像が前記対象物を撮像した対象物画像であるか否かを判断する判断手順と
を具備する画像処理装置の制御方法。
(9)画像取得部が、画像を取得する画像取得手順と、
奥行き取得部が、前記画像内の画素に対応付けて奥行きを取得する奥行き取得手順と、
対象物検出部が、前記画像において所定の対象物の領域を検出する対象物検出手順と、
対象物検出距離選択部が、前記検出された領域内の前記画素に対応する前記奥行きを対象物検出距離として選択する対象物検出距離選択手順と、
極大距離選択部が、前記奥行きの度数の分布において前記度数が極大となる前記奥行きを極大距離として選択する極大距離選択手順と、
判断部が、前記対象物検出距離の値と前記極大距離の値との近さの程度が所定値より大きいか否かにより前記画像が前記対象物を撮像した対象物画像であるか否かを判断する判断手順と
をコンピュータに実行させるためのプログラム。
100 撮像装置
101 ズームレバー
102 シャッターボタン
103 再生ボタン
104 パワーボタン
105、120 撮影レンズ
106 AFイルミネータ
107 レンズカバー
108 タッチスクリーン
110 操作部
130 撮像素子
140 アナログ信号処理部
150 A/D変換部
160 画像メモリ
170 ワークメモリ
180 画像データ記憶部
190 表示部
300 画像処理装置
310 カメラ制御部
311 レンズ駆動部
312、323 画像取得部
313 奥行き生成部
314 顔検出部
315 顔検出距離選択部
316 極大距離選択部
320 撮像装置制御部
321 操作信号解析部
322 奥行きデータ付加部
324 奥行き取得部
325 画像分類部
326 分類結果付加部
327 付属情報付加部

Claims (27)

  1. 画像を構成する画素に対応する奥行きの度数の分布において、極大となる度数に基づく奥行きである極大距離情報と、前記画像における所定の領域内の画素に対応する奥行きである対象検出距離情報との差に応じて、前記画像が所定の対象画像であるかを判断する判断部
    を具備する情報処理装置。
  2. 前記所定の領域は、任意の被写体を含む領域である
    請求項1記載の情報処理装置。
  3. 前記判断部は、複数の前記所定の領域に基づく複数の対象検出距離情報と、前記極大距離情報との差に基づき前記判断を行う
    請求項2記載の情報処理装置。
  4. 前記所定の領域は、人物の顔を含む顔領域であり、
    前記判断部は、前記極大距離情報と前記対象検出距離情報との差が所定値より大きい場合には、前記画像が人物画像であると判断する
    請求項2記載の情報処理装置。
  5. 前記判断部は、前記画像が人物画像であると判断した場合において、前記検出された顔領域の数が所定数より小さい場合には前記人物画像はポートレート画像であると判断し、前記検出された顔領域の数が前記所定数以上である場合には前記人物画像は複数の人物を撮像した集合画像であると判断する
    請求項4記載の情報処理装置。
  6. 前記判断部は、前記極大距離情報と前記対象検出距離情報との差が所定値より小さい場合には、前記画像は対象物画像であると判断し、前記所定値以上である場合には、前記画像は風景画像であると判断する
    請求項2記載の情報処理装置。
  7. 前記判断結果に応じた分類情報を前記画像に対応付けて記録する記録部をさらに具備する
    請求項1記載の情報処理装置。
  8. 前記度数の分布は、前記画像を構成する各画素において、所定の奥行きである画素の量の分布である
    請求項1記載の情報処理装置。
  9. 前記画像を構成する各画素に対応する奥行き情報を取得する取得部をさらに備える
    請求項1記載の情報処理装置。
  10. 前記奥行き情報に基づき前記奥行きの度数の分布を生成する生成部をさらに備える
    請求項9記載の情報処理装置。
  11. 前記画像を取得する画像取得部をさらに備える
    請求項1記載の情報処理装置。
  12. 画像において所定の対象物の領域が検出された場合には当該検出された領域内の画素に対応する奥行きを対象検出距離情報として選択する対象物検出距離選択部と、
    前記対象検出距離情報が選択された場合には前記奥行きの度数の分布において極大となる度数に基づく奥行きである極大距離情報と前記対象検出距離情報との差に応じて、前記画像が所定の対象画像であるかを判断し、前記対象検出距離情報が選択されなかった場合には前記極大距離情報が閾値より小さいか否かにより前記画像がマクロ画像であるか否かを判断する判断部と
    を具備する情報処理装置。
  13. 前記判断部は、前記対象検出距離情報が選択されなかった場合において前記画像を撮像した撮像装置の過焦点距離または前記極大距離情報が前記閾値より小さいときには前記画像は前記マクロ画像であると判断する
    請求項12記載の情報処理装置。
  14. 画像を構成する画素に対応する奥行きの度数の分布において、極大となる度数に基づく奥行きである極大距離情報と、前記画像における所定の領域内の画素に対応する奥行きである対象検出距離情報との差に応じて、前記画像が所定の対象画像であるかを判断する判断手順
    を具備する情報処理装置の制御方法。
  15. 前記所定の領域は、任意の被写体を含む領域である
    請求項14記載の情報処理装置の制御方法。
  16. 前記判断手順において、複数の前記所定の領域に基づく複数の対象検出距離情報と、前記極大距離情報との差に基づき前記判断を行う
    請求項15記載の情報処理装置の制御方法。
  17. 前記所定の領域は、人物の顔を含む顔領域であり、
    前記判断手順において、前記極大距離情報と前記対象検出距離情報との差が所定値より大きい場合には、前記画像が人物画像であると判断する
    請求項15記載の情報処理装置の制御方法。
  18. 前記判断手順において、前記画像が人物画像であると判断した場合において、前記検出された顔領域の数が所定数より小さい場合には前記人物画像はポートレート画像であると判断し、前記検出された顔領域の数が前記所定数以上である場合には前記人物画像は複数の人物を撮像した集合画像であると判断する
    請求項17記載の情報処理装置の制御方法。
  19. 前記判断手順において、前記極大距離情報と前記対象検出距離情報との差が所定値より小さい場合には、前記画像は対象物画像であると判断し、前記所定値以上である場合には、前記画像は風景画像であると判断する
    請求項15記載の情報処理装置の制御方法。
  20. 前記判断結果に応じた分類情報を前記画像に対応付けて記録する記録手順をさらに具備する
    請求項14記載の情報処理装置の制御方法。
  21. 前記度数の分布は、前記画像を構成する各画素において、所定の奥行きである画素の量の分布である
    請求項14記載の情報処理装置の制御方法。
  22. 前記画像を構成する各画素に対応する奥行き情報を取得する取得手順をさらに備える
    請求項14記載の情報処理装置の制御方法。
  23. 前記奥行き情報に基づき前記奥行きの度数の分布を生成する生成手順をさらに備える
    請求項22記載の情報処理装置の制御方法。
  24. 前記画像を取得する画像取得手順をさらに備える
    請求項14記載の情報処理装置の制御方法。
  25. 前記画像において所定の対象物の領域が検出された場合には当該検出された領域内の画素に対応する奥行きを前記対象検出距離情報として選択する対象物検出距離選択手順をさらに具備し、
    前記判断手順において、前記対象検出距離情報が選択された場合には前記極大距離情報と前記対象検出距離情報との差に応じて、前記画像が前記所定の対象画像であるかを判断し、前記対象検出距離情報が選択されなかった場合には前記極大距離情報が閾値より小さいか否かにより前記画像がマクロ画像であるか否かを判断する
    請求項14記載の情報処理装置の制御方法。
  26. 前記判断手順において、前記対象検出距離情報が選択されなかった場合において前記画像を撮像した撮像装置の過焦点距離または前記極大距離情報が前記閾値より小さいときには前記画像は前記マクロ画像であると判断する
    請求項25記載の情報処理装置の制御方法。
  27. 画像を構成する画素に対応する奥行きの度数の分布において、極大となる度数に基づく奥行きである極大距離情報と、前記画像における所定の領域内の画素に対応する奥行きである対象検出距離情報との差に応じて、前記画像が所定の対象画像であるかを判断する判断手順
    をコンピュータに実行させるためのプログラム。
JP2011204032A 2011-09-20 2011-09-20 画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラム Active JP5821457B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011204032A JP5821457B2 (ja) 2011-09-20 2011-09-20 画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラム
US13/589,561 US9131148B2 (en) 2011-09-20 2012-08-20 Image processing device, method of controlling image processing device and program causing computer to execute the method
CN201210338827.4A CN103020101B (zh) 2011-09-20 2012-09-13 图像处理装置和控制图像处理装置的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011204032A JP5821457B2 (ja) 2011-09-20 2011-09-20 画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラム

Publications (3)

Publication Number Publication Date
JP2013065226A JP2013065226A (ja) 2013-04-11
JP2013065226A5 JP2013065226A5 (ja) 2014-10-23
JP5821457B2 true JP5821457B2 (ja) 2015-11-24

Family

ID=47880331

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011204032A Active JP5821457B2 (ja) 2011-09-20 2011-09-20 画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラム

Country Status (3)

Country Link
US (1) US9131148B2 (ja)
JP (1) JP5821457B2 (ja)
CN (1) CN103020101B (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11232315B2 (en) 2020-04-28 2022-01-25 NextVPU (Shanghai) Co., Ltd. Image depth determining method and living body identification method, circuit, device, and medium

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150116529A1 (en) * 2013-10-28 2015-04-30 Htc Corporation Automatic effect method for photography and electronic apparatus
CN105096350B (zh) * 2014-05-21 2019-01-11 腾讯科技(深圳)有限公司 图像检测方法及装置
KR102360424B1 (ko) 2014-12-24 2022-02-09 삼성전자주식회사 얼굴 검출 방법, 영상 처리 방법, 얼굴 검출 장치 및 이를 포함하는 전자 시스템
US10277888B2 (en) * 2015-01-16 2019-04-30 Qualcomm Incorporated Depth triggered event feature
WO2016154123A2 (en) 2015-03-21 2016-09-29 Mine One Gmbh Virtual 3d methods, systems and software
US12169944B2 (en) 2015-03-21 2024-12-17 Mine One Gmbh Image reconstruction for virtual 3D
US12322071B2 (en) 2015-03-21 2025-06-03 Mine One Gmbh Temporal de-noising
WO2016183380A1 (en) * 2015-05-12 2016-11-17 Mine One Gmbh Facial signature methods, systems and software
US10853625B2 (en) 2015-03-21 2020-12-01 Mine One Gmbh Facial signature methods, systems and software
US12560995B2 (en) 2015-03-21 2026-02-24 Mine One Gmbh Asymmetric communication system with viewer position indications
WO2017049626A1 (en) * 2015-09-25 2017-03-30 Intel Corporation Face detection window refinement using depth
CN108600612B (zh) * 2015-09-28 2021-03-09 Oppo广东移动通信有限公司 一种拍照方法及移动终端
TWI697846B (zh) 2018-11-26 2020-07-01 財團法人工業技術研究院 物體辨識方法及其裝置
CN109712177B (zh) * 2018-12-25 2021-07-09 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备和计算机可读存储介质
JP2021050987A (ja) * 2019-09-25 2021-04-01 ソニーセミコンダクタソリューションズ株式会社 測距装置及び電子機器
US12058433B2 (en) * 2019-12-17 2024-08-06 Nec Corporation Image processing method
CN111366916B (zh) * 2020-02-17 2021-04-06 山东睿思奥图智能科技有限公司 确定交互目标与机器人之间距离的方法、装置及电子设备

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8872979B2 (en) * 2002-05-21 2014-10-28 Avaya Inc. Combined-media scene tracking for audio-video summarization
US8009871B2 (en) * 2005-02-08 2011-08-30 Microsoft Corporation Method and system to segment depth images and to detect shapes in three-dimensionally acquired data
JP2006244424A (ja) 2005-03-07 2006-09-14 Nippon Telegr & Teleph Corp <Ntt> 映像シーン分類方法及び装置及びプログラム
JP2008244997A (ja) * 2007-03-28 2008-10-09 Canon Inc 画像処理システム
KR101431535B1 (ko) * 2007-08-30 2014-08-19 삼성전자주식회사 얼굴인식 기능을 이용한 영상 촬영 장치 및 방법
KR101420681B1 (ko) * 2008-02-01 2014-07-17 한국과학기술원 비디오 영상의 깊이 지도 생성 방법 및 장치
EP2148499B1 (en) * 2008-07-25 2018-01-17 FUJIFILM Corporation Imaging apparatus and method
JP5409189B2 (ja) * 2008-08-29 2014-02-05 キヤノン株式会社 撮像装置及びその制御方法
JP2010154306A (ja) * 2008-12-25 2010-07-08 Olympus Corp 撮像制御装置、撮像制御プログラム及び撮像制御方法
US8611604B2 (en) * 2009-06-03 2013-12-17 Chubu University Educational Foundation Object detection device
KR101686943B1 (ko) * 2010-09-07 2016-12-15 삼성전자주식회사 디지털 촬영 장치 및 이의 제어 방법

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11232315B2 (en) 2020-04-28 2022-01-25 NextVPU (Shanghai) Co., Ltd. Image depth determining method and living body identification method, circuit, device, and medium

Also Published As

Publication number Publication date
US20130070116A1 (en) 2013-03-21
CN103020101A (zh) 2013-04-03
US9131148B2 (en) 2015-09-08
JP2013065226A (ja) 2013-04-11
CN103020101B (zh) 2018-01-19

Similar Documents

Publication Publication Date Title
JP5821457B2 (ja) 画像処理装置、および、画像処理装置の制御方法ならびに当該方法をコンピュータに実行させるためのプログラム
CN102334332B (zh) 成像设备、图像显示设备、成像方法、显示图像的方法和校正聚焦区域框的方法
JP4735742B2 (ja) 撮像装置、ストロボ画像生成方法、および、プログラム
CN102957861B (zh) 图像处理设备及其控制方法及程序
JP5623915B2 (ja) 撮像装置
JP5299912B2 (ja) 撮像装置及び画像ファイルのデータ構造
JP4571617B2 (ja) 撮像装置及び撮像方法
JP2011010275A (ja) 画像再生装置及び撮像装置
CN105453538B (zh) 电子装置及其控制方法,以及非瞬时性计算机可读记录介质
US9727585B2 (en) Image processing apparatus and method for controlling the same
JP6924064B2 (ja) 画像処理装置およびその制御方法、ならびに撮像装置
CN101996389A (zh) 图像处理装置、成像装置、以及图像处理方法
JP2009044463A (ja) 電子カメラ及び被写界像再生装置
US8334919B2 (en) Apparatus and method for digital photographing to correct subject area distortion caused by a lens
JP5367129B2 (ja) 撮像装置、制御装置及びそれらの制御方法
US8941770B2 (en) Method and apparatus for displaying successively captured images
JP6038489B2 (ja) 画像処理装置
JP2011139123A (ja) 画像処理装置及び画像処理プログラム
TWI424738B (zh) The method of adjusting the resolution
JP5640377B2 (ja) 画像処理装置、カメラ、および画像処理プログラム
JP2006039254A (ja) カメラ
US9049382B2 (en) Image processing apparatus and image processing method
KR101477535B1 (ko) 이미지 검색 방법 및 장치, 이를 이용한 디지털 촬영 장치
JP5395503B2 (ja) 表示制御装置およびその動作制御方法
JP2014067142A (ja) 画像処理装置、画像処理方法、撮像装置、および撮像方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140909

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150610

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150616

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150703

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150908

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150921

R151 Written notification of patent or utility model registration

Ref document number: 5821457

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250