Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5629533B2 - Imaging apparatus, control method therefor, program, and storage medium - Google Patents
[go: Go Back, main page]

JP5629533B2 - Imaging apparatus, control method therefor, program, and storage medium - Google Patents

Imaging apparatus, control method therefor, program, and storage medium Download PDF

Info

Publication number
JP5629533B2
JP5629533B2 JP2010192704A JP2010192704A JP5629533B2 JP 5629533 B2 JP5629533 B2 JP 5629533B2 JP 2010192704 A JP2010192704 A JP 2010192704A JP 2010192704 A JP2010192704 A JP 2010192704A JP 5629533 B2 JP5629533 B2 JP 5629533B2
Authority
JP
Japan
Prior art keywords
subject
face
main subject
main
detected
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010192704A
Other languages
Japanese (ja)
Other versions
JP2012048157A (en
Inventor
誠 横関
誠 横関
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2010192704A priority Critical patent/JP5629533B2/en
Publication of JP2012048157A publication Critical patent/JP2012048157A/en
Application granted granted Critical
Publication of JP5629533B2 publication Critical patent/JP5629533B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Automatic Focus Adjustment (AREA)
  • Studio Devices (AREA)
  • Focusing (AREA)

Description

本発明は、撮像装置におけるオートフォーカス制御に関する。   The present invention relates to autofocus control in an imaging apparatus.

近年、デジタルカメラ等の撮像装置には、予め設定された条件を有する被写体(例えば、顔)を検出する機能を備え、その検出結果を利用して被写体にオートフォーカス(以下、AF)制御を実行するものがある。また、例えば、撮影画像中に複数の顔が検出された場合には顔の大きさや位置から優先順位を付与し、最も優先順位の高い顔(主顔)の位置にフォーカス枠を自動的に設定するデジタルカメラがある。このようにすることで、簡単に被写体の顔にフォーカスを合わせて撮影することができる。   In recent years, an imaging apparatus such as a digital camera has a function of detecting a subject (for example, a face) having a preset condition, and performs autofocus (hereinafter referred to as AF) control on the subject using the detection result. There is something to do. Also, for example, when multiple faces are detected in the captured image, priorities are assigned based on the size and position of the face, and the focus frame is automatically set to the position of the face with the highest priority (main face). There is a digital camera to do. In this way, it is possible to easily shoot with the focus on the face of the subject.

また、一時的に被写体を検出できなくなってしまった場合に、すぐに被写体を検出したことを示す枠を消してしまうと見栄えが悪いため、被写体を見失っても暫くは被写体を検出したことを示す枠を表示するものが提案されている(特許文献1参照)。   Also, if it is temporarily impossible to detect the subject, it will not look good if the frame indicating that the subject has been detected is deleted immediately. One that displays a frame has been proposed (see Patent Document 1).

特開2009−044461号公報JP 2009-044661 A

上記顔検出機能を利用した焦点検出は、認識された顔(主被写体)に対してピント合わせを行うが、主被写体が画面上から存在しなくなった(フレームアウトした)場合等、主被写体が認識されない場合も存在する。そこで、主被写体が認識されない場合には、画面内に存在する他の被写体に対してピント合わせを行うことが考えられるが、映画やドラマ等の映像作品を制作するプロカメラマン等が撮影した映像を編集する場合、編集カット点は画像の動きのないシーンにしたい。例えば、意図的に主被写体がフレームアウトするシーンを撮影したい場合に、認識された主被写体に追従していたピント面が、主被写体がフレームアウトし、すぐに他の被写体にピント面が動いてしまうと、編集時にカットしにくい映像になってしまう。   Focus detection using the above face detection function focuses on the recognized face (main subject), but the main subject is recognized when the main subject no longer exists on the screen (out of frame). There are cases where this is not done. Therefore, if the main subject is not recognized, it may be possible to focus on other subjects present on the screen, but images taken by professional photographers who produce video works such as movies and dramas are considered. When editing, the edit cut point should be a scene with no image movement. For example, if you want to shoot a scene where the main subject is intentionally out of frame, the focus surface that was following the recognized main subject will be out of frame, and the focus surface will immediately move to other subjects. If this happens, the video will be difficult to cut during editing.

本発明は、上記課題に鑑みてなされ、その目的は、画面内に複数の被写体が存在している場合に主被写体が画面から消失しても、主被写体がすぐに他の被写体に切り替わらないAF制御技術を実現することである。   The present invention has been made in view of the above problems, and an object of the present invention is to prevent the main subject from immediately switching to another subject even if the main subject disappears from the screen when there are a plurality of subjects in the screen. It is to realize control technology.

上記課題を解決し、目的を達成するために、本発明の撮像装置は、撮影光学系を介して入射した被写体像を光電変換して撮像信号を生成する撮像手段と、前記撮像手段によって生成された前記撮像信号から撮影画面内の予め決められた特徴を有する被写体を検出する被写体検出手段と、前記予め決められた特徴を有する被写体を優先させて焦点調節をする第1のAFモードと、前記予め決められた特徴を有する被写体だけに焦点調節をする前記第2のAFモードとを設定する設定手段と、前記被写体検出手段により検出された被写体から主被写体を選択すると共に、主被写体が撮影画面内に存在しなくなった場合に、撮影画面内に存在する他の被写体から主被写体を新たに選択する主被写体選択手段と、前記主被写体選択手段により選択された主被写体に対する合焦状態を検出する焦点検出手段と、前記焦点検出手段により検出された合焦状態から焦点調節動作を実行する焦点調節手段と、前記第2のAFモードにおいては、前記予め決められた特徴を有する被写体が複数検出されている状態で、前記主被写体が撮影画面内に存在しなくなった場合に、前記第1のAFモードの場合よりも長い所定時間が経過するまで前記主被写体選択手段による新たな主被写体の選択を禁止する制御手段と、を有する。 In order to solve the above-described problems and achieve the object, an imaging apparatus of the present invention is generated by an imaging unit that photoelectrically converts a subject image incident via a photographing optical system to generate an imaging signal, and the imaging unit. Subject detection means for detecting a subject having a predetermined characteristic in the photographing screen from the imaging signal , a first AF mode for performing focus adjustment by giving priority to the subject having the predetermined characteristic, A setting means for setting the second AF mode for adjusting the focus only to a subject having a predetermined characteristic; a main subject is selected from the subjects detected by the subject detection means; A main subject selection unit that newly selects a main subject from other subjects existing in the shooting screen and the main subject selection unit. Focus detection means for detecting a focus state for the main subject, a focusing means for performing a focusing operation from the detected in-focus state by said focus detecting means, in the second AF mode, the predetermined in a state where an object having a feature is more detected, the main object to the main object when no longer present in the shooting screen, elapses longer predetermined time than the first AF mode Control means for prohibiting selection of a new main subject by the selection means.

本発明によれば、画面内に複数の被写体が存在している場合に主被写体が画面から消失しても、主被写体がすぐに他の被写体に切り替わらないので、撮影者が編集しやすい画像を撮影することができる。   According to the present invention, when there are a plurality of subjects in the screen, even if the main subject disappears from the screen, the main subject is not immediately switched to another subject. You can shoot.

本実施形態の撮像装置の構成を示すブロック図。1 is a block diagram illustrating a configuration of an imaging apparatus according to an embodiment. 実施形態1の撮影動作を示すフローチャート。6 is a flowchart illustrating a shooting operation according to the first embodiment. 実施形態1の顔枠処理を示すフローチャート。5 is a flowchart illustrating face frame processing according to the first embodiment. 実施形態1の主顔選択処理を示すフローチャート。5 is a flowchart illustrating main face selection processing according to the first embodiment. 実施形態1の顔枠表示処理を示すフローチャート。5 is a flowchart illustrating face frame display processing according to the first embodiment. 顔優先AFモード時における表示部での顔枠表示例を示す図。The figure which shows the example of a face frame display on the display part at the time of face priority AF mode. 顔だけAFモード時における表示部での顔枠表示例を示す図。The figure which shows the example of a face frame display on the display part at the time of AF mode only for a face. 顔だけAFモード時における表示部での顔枠表示例を示す図。The figure which shows the example of a face frame display on the display part at the time of AF mode only for a face. 実施形態2の顔枠表示処理を示すフローチャート。9 is a flowchart illustrating face frame display processing according to the second embodiment. 顔だけAFモード時における表示部での顔枠表示例を示す図。The figure which shows the example of a face frame display on the display part at the time of AF mode only for a face. 顔だけAFモード時における表示部での顔枠表示例を示す図。The figure which shows the example of a face frame display on the display part at the time of AF mode only for a face. 実施形態1の変形例の顔選択処理を示すフローチャート。10 is a flowchart showing face selection processing according to a modification of the first embodiment.

以下に、本発明を実施するための最良の形態について詳細に説明する。尚、以下に説明する実施の形態は、本発明を実現するための一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。また、後述する各実施形態の一部を適宜組み合わせて構成しても良い。   The best mode for carrying out the present invention will be described in detail below. The embodiment described below is an example for realizing the present invention, and should be appropriately modified or changed according to the configuration and various conditions of the apparatus to which the present invention is applied. It is not limited to the embodiment. Moreover, you may comprise combining suitably one part of each embodiment mentioned later.

[実施形態1]以下、本発明の撮像装置をデジタルビデオカメラに適用した例を説明するが、これに限られず、デジタルスチルカメラ等に適用しても良い。   [Embodiment 1] An example in which the image pickup apparatus of the present invention is applied to a digital video camera will be described below, but the present invention is not limited to this and may be applied to a digital still camera or the like.

<装置構成>まず、図1を参照して、本実施形態のビデオカメラの主要な構成について説明する。   <Apparatus Configuration> First, the main configuration of the video camera of this embodiment will be described with reference to FIG.

図1において、111は第1の固定レンズ群、112は光軸方向に移動して変倍を行い、焦点距離を可変な変倍レンズ、113は絞りである。また、114は第2の固定レンズ群、115は変倍に伴う焦点面の移動を補正する機能とフォーカシングの機能とを兼ね備えたフォーカスコンペンセータレンズ(以下、フォーカスレンズと略称する)である。第1の固定レンズ群111、変倍レンズ112、絞り113、第2の固定レンズ群114及びフォーカスレンズ115により撮影光学系11が構成される。   In FIG. 1, reference numeral 111 denotes a first fixed lens group, reference numeral 112 denotes a variable magnification lens that moves in the optical axis direction to perform variable magnification and can change the focal length, and reference numeral 113 denotes an aperture. Reference numeral 114 denotes a second fixed lens group, and 115 denotes a focus compensator lens (hereinafter abbreviated as a focus lens) having both a function of correcting the movement of the focal plane accompanying zooming and a function of focusing. The first fixed lens group 111, the variable magnification lens 112, the stop 113, the second fixed lens group 114, and the focus lens 115 constitute the photographing optical system 11.

システム制御部14は、ビデオカメラ全体の動作を統括して制御し、操作部134からの入力に応じて所定の制御プログラムに従って各部を制御する。   The system control unit 14 controls the overall operation of the video camera, and controls each unit according to a predetermined control program in response to an input from the operation unit 134.

バス15を介して接続されたROM167には、システム制御部14が実行する制御プログラム及び制御に必要な各種データ等が格納されている。フラッシュROM168には、ユーザ設定情報等のビデオカメラ10の動作に関する各種設定情報等が格納されている。   A ROM 167 connected via the bus 15 stores a control program executed by the system control unit 14 and various data necessary for control. The flash ROM 168 stores various setting information relating to the operation of the video camera 10 such as user setting information.

SDRAM166は、システム制御部14のワークエリアとして使用されると共に、画像データの一時記憶領域として使用される。   The SDRAM 166 is used as a work area for the system control unit 14 and a temporary storage area for image data.

変倍レンズ112は、ズーム駆動部131に駆動されて光軸に沿って前後移動する。フォーカスレンズ115は、フォーカシング駆動部133に駆動されて光軸に沿って前後移動する。   The variable magnification lens 112 is driven by the zoom driving unit 131 and moves back and forth along the optical axis. The focus lens 115 is driven by the focusing drive unit 133 and moves back and forth along the optical axis.

システム制御部14は、ズーム駆動部131とフォーカシング駆動部133を制御することにより、変倍レンズ112の位置とフォーカスレンズ115の位置を制御し、撮影光学系11のズーミングとフォーカシングを行う。   The system control unit 14 controls the zoom driving unit 131 and the focusing driving unit 133 to control the position of the variable power lens 112 and the position of the focus lens 115, and performs zooming and focusing of the photographing optical system 11.

絞り113は、例えば、アイリス絞りで構成されており、絞り駆動部132に駆動されて動作する。システム制御部14は、絞り駆動部132を制御することにより、絞り113の開口量(絞り値)を制御し、撮像素子121への入射光量を制御する。   The diaphragm 113 is composed of, for example, an iris diaphragm, and is driven by the diaphragm driving unit 132 to operate. The system control unit 14 controls the aperture driving unit 132 to control the aperture amount (aperture value) of the aperture 113 and control the amount of light incident on the image sensor 121.

撮像素子121は、撮影光学系11を介して入射した被写体像を光電変換して撮像信号を生成するCMOSセンサやCCDセンサからなる。撮影光学系11によって撮像素子121の受光面上に結像された被写体の光学像は、このフォトダイオードによって入射光量に応じた信号電荷に変換される。各フォトダイオードに蓄積された信号電荷は、システム制御部14の指令に従ってタイミングジェネレータ(TG)123から与えられる駆動パルスに基づいて信号電荷に応じた電圧信号(画像信号)として撮像素子121から順次読み出される。   The image sensor 121 includes a CMOS sensor or a CCD sensor that photoelectrically converts a subject image incident through the photographing optical system 11 to generate an image signal. The optical image of the subject formed on the light receiving surface of the image sensor 121 by the photographing optical system 11 is converted into signal charges corresponding to the amount of incident light by the photodiode. The signal charge accumulated in each photodiode is sequentially read out from the image sensor 121 as a voltage signal (image signal) corresponding to the signal charge based on a drive pulse supplied from the timing generator (TG) 123 according to a command from the system control unit 14. It is.

なお、本実施形態では、撮像素子121としてCMOSセンサを用いているが、CCDセンサ等の他の構成の撮像素子を用いることもできる。   In this embodiment, a CMOS sensor is used as the image sensor 121. However, an image sensor having another configuration such as a CCD sensor may be used.

CSD/AGC回路122は、撮像素子121から出力された画像信号に含まれるリセットノイズ(低周波)を除去するための相関二重サンプリング処理を行うCDS回路と、撮像素子121から出力される画像信号を増幅し、一定レベルの大きさにコントロールするAGC回路とを有する。   The CSD / AGC circuit 122 includes a CDS circuit that performs correlated double sampling processing for removing reset noise (low frequency) included in the image signal output from the image sensor 121, and an image signal output from the image sensor 121. And an AGC circuit for controlling the signal to a certain level.

画像入力コントローラ124は、CSD/AGC回路122から出力された画像信号を取り込んでSDRAM166に格納する。   The image input controller 124 takes in the image signal output from the CSD / AGC circuit 122 and stores it in the SDRAM 166.

信号処理部125は、システム制御部14からの指令に従いSDRAM166に格納された画像信号を取り込み、所定の信号処理を施して輝度信号Yと色差信号Cr、CbとからなるYUV信号を生成する。   The signal processing unit 125 takes in an image signal stored in the SDRAM 166 according to a command from the system control unit 14, and performs predetermined signal processing to generate a YUV signal composed of the luminance signal Y and the color difference signals Cr and Cb.

被写体領域検出部126は、画像信号に対して被写体検出処理を実行し、撮影画面内の被写体領域を特定し、その検出結果をシステム制御部14に送出する。システム制御部14は、AF検出部165に上記検出結果を送出し、AF検出部165は、撮影画面内の被写体領域を含む位置を焦点検出に利用される領域(焦点検出エリア)として設定する。次に、AF検出部165は、設定した焦点検出エリアの合焦度合いを計算し、システム制御部14に送出する。システム制御部14は、焦点調節動作として、AF検出部165から入力した合焦度合い(合焦状態)に応じてフォーカシング駆動部133を制御し、フォーカシング駆動部133はフォーカスレンズ115を制御する。   The subject area detection unit 126 executes subject detection processing on the image signal, specifies the subject area in the shooting screen, and sends the detection result to the system control unit 14. The system control unit 14 sends the detection result to the AF detection unit 165, and the AF detection unit 165 sets a position including the subject region in the shooting screen as a region (focus detection area) used for focus detection. Next, the AF detection unit 165 calculates the degree of focus of the set focus detection area and sends it to the system control unit 14. As the focus adjustment operation, the system control unit 14 controls the focusing drive unit 133 according to the focus degree (focus state) input from the AF detection unit 165, and the focusing drive unit 133 controls the focus lens 115.

ここで、上述した被写体検出処理の一例として顔検出機能が挙げられる。顔検出機能によって検出された撮影画面内の顔に対してAF制御を行う顔優先AFモード時等に利用される。   Here, a face detection function is given as an example of the subject detection process described above. This is used in the face priority AF mode in which AF control is performed on the face in the shooting screen detected by the face detection function.

ここで、顔検出機能について説明する。   Here, the face detection function will be described.

システム制御部14は、顔検出対象の画像データを信号処理部125に送る。信号処理部125は当該画像データを被写体領域検出部126に送り、被写体領域検出部126は、当該画像データに水平方向バンドパスフィルタを作用させる。また、被写体領域検出部126は処理された画像データに垂直方向バンドパスフィルタを作用させる。これら水平及び垂直方向のバンドパスフィルタにより、画像データのエッジ成分が検出される。   The system control unit 14 sends the image data to be detected to the face processing unit 125. The signal processing unit 125 sends the image data to the subject region detection unit 126, and the subject region detection unit 126 applies a horizontal bandpass filter to the image data. In addition, the subject area detection unit 126 applies a vertical bandpass filter to the processed image data. The edge components of the image data are detected by these horizontal and vertical band pass filters.

その後、信号処理部125は、検出されたエッジ成分に関してパターンマッチングを行い、目及び鼻、口、耳の候補を抽出する。そして、信号処理部125は、抽出された目の候補群の中から、予め設定された条件(例えば、2つの目の距離、傾き等)を満たすものを、目の対と判断し、目の対があるもののみ目の候補群として絞り込む。そして、信号処理部125は絞り込まれた目の候補群とそれに対応する顔を形成するほかのパーツ(鼻、口、耳)を対応付け、また、予め設定した非顔条件フィルタを通すことで、顔を検出する。信号処理部125は顔の検出結果に応じて上記顔情報を出力し、処理を終了する。このとき、顔の数などの特徴量をSDRAM166に記録する。   Thereafter, the signal processing unit 125 performs pattern matching on the detected edge component, and extracts eye and nose, mouth, and ear candidates. Then, the signal processing unit 125 determines a pair of eyes that satisfies a preset condition (for example, distance between two eyes, inclination, etc.) from the extracted candidate group of eyes. Narrow down the candidate group only for those with pairs. Then, the signal processing unit 125 associates the narrowed-down eye candidate group with other parts (nose, mouth, ears) that form a face corresponding thereto, and passes a preset non-face condition filter, Detect faces. The signal processing unit 125 outputs the face information according to the face detection result, and ends the processing. At this time, feature quantities such as the number of faces are recorded in the SDRAM 166.

以上のようにライブビュー表示あるいは再生表示される画像データを画像解析して、画像データの特徴量を抽出して被写体情報を検出することが可能である。本実施例では被写体情報として顔情報を例に挙げたが、動物やボール等、非顔の特徴検出等の様々な情報がある。   As described above, it is possible to analyze the image data displayed or reproduced and display the live view, extract the feature amount of the image data, and detect the subject information. In this embodiment, face information is taken as an example of subject information, but there are various information such as non-face feature detection such as animals and balls.

また、全ての顔を検出するのではなく、予め登録した顔の特徴量に当てはまるものを被写体として検出するシステムや、撮影者がタッチパネル等の操作部134から指定した特長量を分析し、検出を行うシステムでも良い。   Also, instead of detecting all faces, a system that detects a subject that applies to a pre-registered facial feature amount as a subject, or a feature amount specified by the photographer from the operation unit 134 such as a touch panel is analyzed and detected. It may be a system that performs.

<画像表示処理>次に、図2乃至図9を参照して、ビデオカメラ10による画像表示処理について説明する。以下に説明するフローチャートは、システム制御部14がROM167に格納されたプログラムをSDRAM166のワークエリアに展開し、例えば1フィールド画像を生成するための撮像素子121からの撮像信号の読み出し周期にて繰り返し実行される。   <Image Display Processing> Next, image display processing by the video camera 10 will be described with reference to FIGS. In the flowchart described below, the system control unit 14 develops the program stored in the ROM 167 in the work area of the SDRAM 166, and repeatedly executes it, for example, in the readout cycle of the imaging signal from the imaging device 121 for generating one field image. Is done.

図2は、実施形態1のビデオカメラによる画像表示処理を示すフローチャートである。   FIG. 2 is a flowchart illustrating image display processing by the video camera according to the first embodiment.

図示しない電源ボタンが操作されてビデオカメラ10に電源が投入されて起動が完了すると、ステップS1において、システム制御部14は、TG123にタイミング信号生成の指令を出力し、その指令に従って撮像素子121から順次画像信号が読み出される。   When a power button (not shown) is operated to turn on the video camera 10 and the startup is completed, in step S1, the system control unit 14 outputs a timing signal generation command to the TG 123, and from the image sensor 121 according to the command. Sequential image signals are read out.

画像信号の読み出しが終わると、ステップS2に移行し、システム制御部14はバス15を介してフラッシュROM168から各種設定情報を読み出し、読み出した各種設定情報の中から顔検出を行うモードなのか否かを判定する。顔検出を行うモードであった場合はステップS3の顔枠処理に移行し、顔検出を行わないモードの場合はステップS4に移行する。   When the reading of the image signal is completed, the process proceeds to step S2, and the system control unit 14 reads various setting information from the flash ROM 168 via the bus 15, and determines whether or not the mode is a mode in which face detection is performed from the read various setting information. Determine. If it is a mode in which face detection is performed, the process proceeds to face frame processing in step S3.

ステップS3では、ステップS1にて読み出された画像データから被写体として顔を検出する。更に、検出した顔の情報を基に顔枠(すなわち、被写体を示す領域表示)を設定し、設定した顔枠を画像データに重畳表示する顔枠処理を行う。なお、顔枠処理の詳細については図3乃至図5を用いて後述する。   In step S3, a face is detected as a subject from the image data read in step S1. Further, a face frame (that is, a region display indicating a subject) is set based on the detected face information, and face frame processing is performed to display the set face frame superimposed on the image data. Details of the face frame processing will be described later with reference to FIGS.

ステップS4では、ステップS1にて読み出された画像データに対して、ステップS3にて生成された顔枠情報を表示制御部163が重畳して表示部164に表示する。   In step S4, the display control unit 163 superimposes the face frame information generated in step S3 on the image data read out in step S1, and displays it on the display unit 164.

<顔枠処理>次に、図3を参照して、図2のステップS3での顔枠処理について説明する。図3は、図2のステップS3での顔枠処理を示すフローチャートである。   <Face Frame Processing> Next, the face frame processing in step S3 in FIG. 2 will be described with reference to FIG. FIG. 3 is a flowchart showing the face frame processing in step S3 of FIG.

ステップS31では、ステップS1において読み出した画像データから被写体の顔を検出する顔検出処理い、ステップS32に移行する。ステップS31において、システム制御部14は、信号処理部125を介して被写体領域検出部126に画像データを送出する。被写体領域検出部126は画像データから被写体の顔を検出し、検出した全ての顔について、顔の領域の位置やサイズ、角度、顔の確からしさ、顔の数、その他の顔の特徴量等の顔情報を、SDRAM166に記録する。   In step S31, face detection processing for detecting the face of the subject from the image data read in step S1, the process proceeds to step S32. In step S <b> 31, the system control unit 14 sends image data to the subject area detection unit 126 via the signal processing unit 125. The subject area detection unit 126 detects the face of the subject from the image data, and for all the detected faces, the position and size of the face area, the angle, the likelihood of the face, the number of faces, and other facial feature quantities, etc. The face information is recorded in the SDRAM 166.

ステップS32において、システム制御部14は、SDRAM166に記録されている顔情報から、検出した顔の中から主被写体とする顔を選択して主顔とする主顔選択処理を行う。この主顔選択処理が本発明の主被写体選択手段を構成する。なお、主顔選択処理の詳細については図4を用いて後述する。   In step S <b> 32, the system control unit 14 selects a face to be a main subject from the detected face information from the face information recorded in the SDRAM 166, and performs main face selection processing to be the main face. This main face selection process constitutes the main subject selection means of the present invention. Details of the main face selection process will be described later with reference to FIG.

ステップS33において、システム制御部14は、表示部164に表示されている画像に対して、ステップS32で選択した主顔の領域を示す顔枠(以下、主顔枠と略称する)や、主顔以外の領域を示す顔枠(以下、非主顔枠と略称する)を重ねて表示する。ここでは、例えば図6(a)に示すように、主顔枠400及び非主顔枠401が顔領域に重ねて表示される。なお、顔枠表示処理の詳細については図5を用いて後述する。   In step S <b> 33, the system control unit 14 performs a face frame indicating the main face area selected in step S <b> 32 (hereinafter, abbreviated as a main face frame) or a main face on the image displayed on the display unit 164. A face frame (hereinafter, abbreviated as a non-main face frame) indicating a region other than is displayed in an overlapping manner. Here, for example, as shown in FIG. 6A, the main face frame 400 and the non-main face frame 401 are displayed so as to overlap the face area. Details of the face frame display processing will be described later with reference to FIG.

<主顔選択処理>次に、図4を参照して、図3のステップS32での主顔選択処理について説明する。   <Main Face Selection Process> Next, with reference to FIG. 4, the main face selection process in step S32 of FIG. 3 will be described.

ステップS321において、システム制御部14は、ステップS31で顔が検出されたか否かを判定し、検出されていない場合はステップS322に移行し、検出された場合はステップS323に移行する。   In step S321, the system control unit 14 determines whether or not a face is detected in step S31. If not detected, the system control unit 14 proceeds to step S322, and if detected, the process proceeds to step S323.

ステップS322では、システム制御部14は、SDRAM166に記録されている内部顔情報をクリアして主顔選択処理を終了する。ここで、内部顔情報とは、システム制御部14が保持、管理している顔情報であり、ステップ31で検出された顔情報によって更新されるデータである。内部顔情報はSDRAM166に記録されている。主顔とは、ステップS325で後述する内部主顔強制選択処理とステップS327で後述する内部主顔自動選択処理において、システム制御部14によって内部顔情報の中から主な被写体であると判定された顔情報のことである。   In step S322, the system control unit 14 clears the internal face information recorded in the SDRAM 166 and ends the main face selection process. Here, the internal face information is face information held and managed by the system control unit 14 and is data updated by the face information detected in step 31. The internal face information is recorded in the SDRAM 166. The main face is determined to be the main subject from the internal face information by the system control unit 14 in the internal main face forced selection process described later in step S325 and the internal main face automatic selection process described later in step S327. It is face information.

一方、ステップS323では、ステップS321にて顔が検出された場合、システム制御部14がSDRAM166から顔の数を読み出し、検出された顔が1人なのか、それとも複数検出されたのかを判定する。検出された顔が複数の場合はステップS324に移行し、検出された顔が1人の場合はステップS329に移行する。   On the other hand, in step S323, when a face is detected in step S321, the system control unit 14 reads the number of faces from the SDRAM 166, and determines whether the detected face is one or more. When there are a plurality of detected faces, the process proceeds to step S324, and when there is one detected face, the process proceeds to step S329.

ステップS324では、システム制御部14は、撮影者から操作部134を介してシステム制御部14に主顔切替え指示が入力されたか否かを判定する。システム制御部14が撮影者から主顔切替え指示を受け付けた場合はステップS325に移行し、主顔切替え指示を受けていない場合はステップS327に移行する。   In step S324, the system control unit 14 determines whether a main face switching instruction is input from the photographer to the system control unit 14 via the operation unit 134. When the system control unit 14 receives a main face switching instruction from the photographer, the process proceeds to step S325, and when the system control unit 14 does not receive a main face switching instruction, the process proceeds to step S327.

ステップS325では、撮影者が操作部134を介して指定した顔を内部主顔とするため、システム制御部14は指定された顔の領域の位置やサイズを内部主顔情報として保持する。   In step S325, since the face designated by the photographer via the operation unit 134 is set as the internal main face, the system control unit 14 holds the position and size of the designated face area as internal main face information.

ステップS326では、システム制御部14はステップS325で保持した内部主顔情報を含む内部顔情報をSDRAM166に書き込み、処理を終了する。   In step S326, the system control unit 14 writes the internal face information including the internal main face information held in step S325 to the SDRAM 166, and ends the process.

一方、システム制御部14が主顔切替え指示を受けていない場合(S324)、ステップS327にて、内部主顔自動選択処理を行う。   On the other hand, if the system control unit 14 has not received a main face switching instruction (S324), an internal main face automatic selection process is performed in step S327.

ステップS327では、システム制御部14は、検出された全ての顔の顔情報をSDRAM166から読み出す。そして、それぞれの顔の領域の位置やサイズ、角度、確からしさ、又は、その他の顔の特徴量の情報のうち少なくとも1つの情報を用いて内部主顔を決定し、内部主顔情報として保持する。   In step S327, the system control unit 14 reads the face information of all detected faces from the SDRAM 166. Then, the internal main face is determined using at least one piece of information of the position, size, angle, probability, or other feature information of each face area, and is held as internal main face information. .

ステップS328では、システム制御部14はステップS327で保持した内部主顔情報を含む内部顔情報をSDRAM166に書き込み、処理を終了する。   In step S328, the system control unit 14 writes the internal face information including the internal main face information held in step S327 to the SDRAM 166, and ends the process.

ステップS329では、システム制御部14は、検出したただ1つの顔情報が内部主顔であるとして、SDRAM166に記録されている内部主顔情報を、新しく検出した顔情報で上書きし、処理を終了する。   In step S329, assuming that only one detected face information is the internal main face, the system control unit 14 overwrites the internal main face information recorded in the SDRAM 166 with the newly detected face information, and ends the process. .

<顔枠表示処理>次に、図5を参照して、図3のステップS33での顔枠表示処理について説明する。   <Face Frame Display Processing> Next, the face frame display processing in step S33 in FIG. 3 will be described with reference to FIG.

システム制御部14は、フラッシュROM168からモード設定情報を読み出し、ステップS331にて顔だけAFモードか否かを判定する。顔だけAFモードである場合はステップS334に移行し、顔だけAFモードではない(以下、顔優先AFモード)場合は、ステップS332に移行する。なお、この顔優先AFモードが本発明の第1の焦点調節モード、顔だけAFモードが第2の焦点調節モードに対応する。   The system control unit 14 reads the mode setting information from the flash ROM 168, and determines in step S331 whether or not only the face is in the AF mode. When the face only AF mode is selected, the process proceeds to step S334. When the face only AF mode is not selected (hereinafter referred to as face priority AF mode), the process proceeds to step S332. This face priority AF mode corresponds to the first focus adjustment mode of the present invention, and the face only AF mode corresponds to the second focus adjustment mode.

ステップS332では、システム制御部14は、SDRAM166に記録されている内部顔情報を読み出し、SDRAM166の表示顔情報を記録する領域に上書きする。ここで、表示顔情報とは、ステップS1にて読み出した画像データに対して表示制御部163が顔枠を重畳して、表示部164に表示する顔情報である。但し、主顔以外の非主顔に関しては、システム制御部14は内部顔情報の全てを表示顔情報として記録しても良いし、内部主顔情報を含む内部顔情報の一部を表示顔情報として記録しても良い。   In step S <b> 332, the system control unit 14 reads the internal face information recorded in the SDRAM 166 and overwrites the area where the display face information of the SDRAM 166 is recorded. Here, the display face information is face information displayed on the display unit 164 by the display control unit 163 superimposing a face frame on the image data read in step S1. However, for non-main faces other than the main face, the system control unit 14 may record all of the internal face information as display face information, or a part of the internal face information including the internal main face information may be displayed face information. May be recorded.

ステップS333では、システム制御部14はSDRAM166から表示顔情報を読み出し、表示制御部163に送出する。表示制御部163はシステム制御部14から入力した表示顔情報から、顔枠データを生成し、画像データに顔枠データを重畳して表示部164に表示する。主顔に関しては、主顔であることがわかるように、非主顔と異なる表示を行う(図6(a)参照)。図6(a)では、主顔枠400を非主顔枠401に比べて太い線で表示している。   In step S <b> 333, the system control unit 14 reads display face information from the SDRAM 166 and sends it to the display control unit 163. The display control unit 163 generates face frame data from the display face information input from the system control unit 14 and displays the face frame data on the display unit 164 by superimposing the face frame data on the image data. The main face is displayed differently from the non-main face so that the main face can be seen (see FIG. 6A). In FIG. 6A, the main face frame 400 is displayed with a thicker line than the non-main face frame 401.

ここで、図4のステップS321〜S328において、主顔とされていた被写体が画面内から消失し、内部主顔が切り替わったと仮定する。その場合、図6(a)の状態から図6(b)の状態に遷移する。また、主顔枠を基準としてAF制御を行っている場合、AF検出部165は、焦点検出エリアの合焦度合いが低下したことを検出してシステム制御部14に通知する。システム制御部14はAF検出部165からの通知を受けて、フォーカシング駆動部133にフォーカスレンズ115を駆動する指示を送出する。ここではフォーカシングの説明は省略する。   Here, it is assumed that in steps S321 to S328 in FIG. 4, the subject that has been the main face has disappeared from the screen, and the internal main face has been switched. In that case, a transition is made from the state of FIG. 6A to the state of FIG. Further, when AF control is performed with the main face frame as a reference, the AF detection unit 165 detects that the focus detection area has decreased in focus and notifies the system control unit 14 of it. In response to the notification from the AF detection unit 165, the system control unit 14 sends an instruction to drive the focus lens 115 to the focusing drive unit 133. The description of focusing is omitted here.

ステップS331において、顔だけAFモードであると判定された場合はステップS334に移行する。   If it is determined in step S331 that only the face is in the AF mode, the process proceeds to step S334.

ステップS334では、システム制御部14は主顔選択禁止モード中か否かを判定する。主顔選択禁止モード中でなければステップS335に移行し、主顔選択禁止モード中であればステップS342に移行する。ここで主顔切替えカウントはSDRAM166に記録されており、電源投入直後かモード切替後に0に初期化される値とする。また、ここではカウントが0から1,2,3・・・とカウントアップされていく方式としたが、初期値をある所定の値に設定して、そこからカウントダウンしていき、ある閾値を下回った時をトリガとして以降の処理を切り替えても良い。   In step S334, the system control unit 14 determines whether the main face selection prohibition mode is in effect. If it is not in the main face selection prohibition mode, the process proceeds to step S335, and if it is in the main face selection prohibition mode, the process proceeds to step S342. Here, the main face switching count is recorded in the SDRAM 166 and is a value that is initialized to 0 immediately after the power is turned on or after mode switching. In this example, the count is incremented from 0 to 1, 2, 3,..., But the initial value is set to a predetermined value, and then counted down from below a certain threshold value. The subsequent processing may be switched by using the time as a trigger.

ステップS335では、システム制御部14はSDRAM166から内部主顔情報と表示主顔情報を読み出し、それぞれの主顔情報の位置やサイズ、顔の角度、顔の特徴量の差を比較する。具体的には、顔の位置の差(例えば、x座標とy座標の差の合計)が、表示主顔のサイズ以内である場合を同じ顔であるとする。また、内部主顔のサイズが表示主顔の1.5倍以内の大きさ、又は半分以内の大きさの場合を同じ顔であるとする。さらに、内部主顔の顔の角度と表示主顔の顔の角度の差が45度以内の場合は同じ顔であるとすることもできる。さらにまた、両目の幅や目の位置に対する口の位置の特徴などの特徴量を数値化して、その数値の差が所定の差未満である場合に同じ顔であるとすることもできる。さらに上述のように求めたそれぞれの数値の和が所定量以内である場合に同じ顔であるとして、総合的に類似度を判断することもできる。以下、上記比較を行うことを「相関を取る」と表現し、相関を取った結果、同一の顔であると判断できる状態のことを「相関がある」と表現する。   In step S335, the system control unit 14 reads the internal main face information and the display main face information from the SDRAM 166, and compares the positions and sizes of the main face information, the face angles, and the facial feature amounts. Specifically, it is assumed that the face is the same when the difference in the position of the face (for example, the sum of the difference between the x coordinate and the y coordinate) is within the size of the display main face. Also, the same face is assumed when the size of the internal main face is 1.5 times or less than the display main face. Further, when the difference between the angle of the face of the internal main face and the angle of the face of the display main face is within 45 degrees, the same face can be assumed. Furthermore, it is also possible to digitize feature quantities such as the width of both eyes and the feature of the mouth position with respect to the position of the eyes, and if the difference between the values is less than a predetermined difference, the same face can be obtained. Furthermore, it is also possible to comprehensively determine the degree of similarity, assuming that the faces are the same when the sum of the numerical values obtained as described above is within a predetermined amount. Hereinafter, performing the above comparison is expressed as “correlation”, and as a result of the correlation, a state where it can be determined that the faces are the same is expressed as “correlation”.

上記比較の結果、表示主顔と内部主顔が同一と判定された場合は、ステップS336に移行し、異なると判定された場合はステップS341に移行する。   As a result of the comparison, when it is determined that the display main face and the internal main face are the same, the process proceeds to step S336, and when it is determined that they are different, the process proceeds to step S341.

ここで、表示主顔と内部主顔が同一であるか否かを判定する方法は、SDRAM166に記録されている表示顔情報と、図4で更新した内部主顔情報の位置情報とサイズ情報等から相関を取り、相関がある場合は同一の顔であると判定する。   Here, the method for determining whether or not the display main face and the internal main face are the same is the display face information recorded in the SDRAM 166, the position information and size information of the internal main face information updated in FIG. If there is a correlation, it is determined that the faces are the same.

ステップS336では、システム制御部14は、SDRAM166から表示顔情報と内部顔情報を読み出し、表示主顔情報が消失したか否かを判定する。表示主顔が消失した場合はステップS337に移行し、消失していない場合はステップS341に移行する。なお、システム制御部14がSDRAM166から読み出した表示主顔情報がクリアされている場合は、表示主顔は消失したのではなく、元々存在していなかったと判定できるので、ステップS337に移行する。一方、表示主顔情報がクリアされておらず、表示主顔情報と内部顔情報の相関を取った結果、内部顔情報の全てのデータと相関が取れなかった場合、表示主顔は消失したと判定してステップS341に移行する。   In step S336, the system control unit 14 reads the display face information and the internal face information from the SDRAM 166, and determines whether or not the display main face information has disappeared. If the display main face has disappeared, the process proceeds to step S337. If not, the process proceeds to step S341. If the display main face information read from the SDRAM 166 by the system control unit 14 is cleared, it can be determined that the display main face has not disappeared but originally did not exist, and the process proceeds to step S337. On the other hand, if the display main face information is not cleared and the correlation between the display main face information and the internal face information fails to correlate with all the data of the internal face information, the display main face is lost. Determination is made and the process proceeds to step S341.

ステップS337では、撮影者から操作部134を介してシステム制御部14に主顔切替え指示が入力されたか否かを判定する。システム制御部14が主顔切替え指示を受け付けた場合はステップS341に移行し、主顔切替え指示を受けていない場合はステップS338に移行する。   In step S <b> 337, it is determined whether a main face switching instruction is input from the photographer to the system control unit 14 via the operation unit 134. When the system control unit 14 receives a main face switching instruction, the process proceeds to step S341. When the system control unit 14 does not receive a main face switching instruction, the process proceeds to step S338.

ステップS338では、システム制御部14は、SDRAM166に記録されている表示主顔情報をクリアし、ステップS339に移行する。この処理により、表示顔情報が複数ある場合でも表示主顔情報が存在しない状態となる。   In step S338, the system control unit 14 clears the display main face information recorded in the SDRAM 166, and proceeds to step S339. By this processing, even when there are a plurality of display face information, there is no display main face information.

ステップS339ではて、システム制御部14は表示主顔情報が存在しない状態を所定期間継続させるために、SDRAM166の主顔切替えカウントを記録する領域の数値をカウントアップして、ステップS340に移行する。   In step S339, the system control unit 14 counts up the numerical value of the area where the main face switching count of the SDRAM 166 is recorded in order to continue the state where the display main face information does not exist for a predetermined period, and proceeds to step S340.

ステップS340では、システム制御部14はフラッシュROM168に保持されている設定情報に主顔選択禁止モードである旨を書き込んで、ステップS333に移行する。   In step S340, the system control unit 14 writes in the setting information held in the flash ROM 168 that the main face selection prohibition mode is set, and the process proceeds to step S333.

ステップS333では、システム制御部14はSDRAM166から表示顔情報を読み出し、表示制御部163に送出する。表示顔枠情報を受信した表示制御部163は、システム制御部14が読み出した画像データに顔枠データを重畳して表示部164に表示するが、表示制御部163が入力した表示顔枠情報のうち表示主顔情報はクリアされている。表示制御部163は主顔の顔枠は生成せずに、非主顔の顔枠のみ生成するので、図7(b)に示すように、主顔の顔枠が存在せず、非主顔枠401だけが表示される。   In step S <b> 333, the system control unit 14 reads display face information from the SDRAM 166 and sends it to the display control unit 163. The display control unit 163 that has received the display face frame information superimposes the face frame data on the image data read out by the system control unit 14 and displays it on the display unit 164. The display face frame information input by the display control unit 163 is displayed. Of these, the display main face information is cleared. Since the display control unit 163 generates only the non-main face face frame without generating the main face face frame, as shown in FIG. 7B, the main face face frame does not exist and the non-main face face frame does not exist. Only the frame 401 is displayed.

一方、表示主顔と内部主顔が同一(S335)、又は、表示主顔が消失していない(S336)、又は、主顔切替え指示があった場合(S337)、システム制御部14は、表示顔情報を内部顔情報で更新してステップS333に移行する(S341)。   On the other hand, when the display main face is the same as the internal main face (S335), or the display main face has not disappeared (S336), or there is a main face switching instruction (S337), the system control unit 14 displays The face information is updated with the internal face information, and the process proceeds to step S333 (S341).

次に、ステップS342では、システム制御部14は、SDRAM166から主顔切替えカウント値を読み出し、また、フラッシュROM168から主顔切替えカウント閾値を読み出して比較する。主顔切替えカウント値が主顔切替えカウント閾値を超えている場合はステップS345に移行し、超えていない場合はステップS343に移行する。ここでは、仮に主顔切替えカウント閾値を300とする。これは、ビデオカメラ10が1秒につき30フレームで動作していると仮定し、また、図2の処理が1フレームにつき1回実行されると仮定すると、10秒経過することを意味する。   Next, in step S342, the system control unit 14 reads out the main face switching count value from the SDRAM 166 and reads out the main face switching count threshold value from the flash ROM 168 for comparison. If the main face switching count value exceeds the main face switching count threshold, the process proceeds to step S345, and if not, the process proceeds to step S343. Here, it is assumed that the main face switching count threshold is 300. This means that assuming that the video camera 10 is operating at 30 frames per second and assuming that the process of FIG. 2 is executed once per frame, 10 seconds have elapsed.

しかしながら、本発明はこれに限るものではなく、主顔切替えカウント値と比較する閾値は任意に設定することが可能である。また、閾値を撮影者が設定できるように構成しても良い。   However, the present invention is not limited to this, and the threshold value to be compared with the main face switching count value can be set arbitrarily. In addition, the threshold may be set by the photographer.

ステップS343では、撮影者から操作部134を介してシステム制御部14に主顔切替え指示が入力されたか否かを判定する。システム制御部14が主顔切替え指示を受け付けた場合はステップS345に移行し、主顔切替え指示を受けていない場合はステップS344に移行する。   In step S343, it is determined whether a main face switching instruction is input from the photographer to the system control unit 14 via the operation unit 134. When the system control unit 14 receives a main face switching instruction, the process proceeds to step S345, and when the system control unit 14 does not receive a main face switching instruction, the process proceeds to step S344.

ステップS344では、現在の表示主顔が消失中であるので、システム制御部14はSDRAM166の主顔切替えカウント値をカウントアップして、ステップS333に移行する。   In step S344, since the current display main face is disappearing, the system control unit 14 increments the main face switching count value of the SDRAM 166, and proceeds to step S333.

一方、ステップS345では、システム制御部14が撮影者からの主顔切替え指示を受付けているので、表示顔情報を内部顔情報で更新してステップS346に移行する。   On the other hand, in step S345, since the system control unit 14 receives a main face switching instruction from the photographer, the display face information is updated with the internal face information, and the process proceeds to step S346.

その後、ステップS333では、表示主顔情報はクリアされたままなので、表示部164には図7(b)のように表示される。また、主顔枠を基準として焦点を合わせる場合、焦点を合わせるべき合焦検出エリアが存在しないので、AF検出部165は動作しない。   After that, in step S333, the display main face information is still cleared, so that it is displayed on the display unit 164 as shown in FIG. In addition, when focusing on the main face frame, the AF detection unit 165 does not operate because there is no focus detection area to be focused.

ステップS346では、システム制御部14はSDRAM166内の主顔切替えカウントをクリアして、ステップS347に移行する。   In step S346, the system control unit 14 clears the main face switching count in the SDRAM 166, and proceeds to step S347.

ステップS347では、システム制御部14はフラッシュROM168の設定情報に、主顔選択禁止モードを解除する旨の情報を書き込んで、ステップS333に移行する。   In step S347, the system control unit 14 writes information to cancel the main face selection prohibition mode in the setting information of the flash ROM 168, and proceeds to step S333.

以上の処理が終了し、再びステップS333で顔枠描画処理が実行された時は、表示主顔が存在するため、表示部164の表示は図7(c)のようになる。   When the above process is completed and the face frame drawing process is executed again in step S333, the display main face is present, and the display on the display unit 164 is as shown in FIG.

上記処理を繰り返し実行することにより、画像の被写体の顔部分に顔枠を重畳表示し続けると共に、顔だけAFモード設定中に被写体が複数検出されている状況で、主被写体が検出できなくなっても、他の被写体が主被写体に切り替わることを防ぐことができる。これによって、編集しやすい映像を撮影することが可能となる。   By repeatedly executing the above processing, the face frame continues to be superimposed on the face portion of the subject of the image, and the main subject cannot be detected even when multiple subjects are detected while the AF mode is set only for the face. It is possible to prevent other subjects from switching to the main subject. This makes it possible to shoot video that is easy to edit.

以上の説明では、ステップS32にて内部主顔を決定し、ステップS33にて表示顔情報を内部顔情報で更新するか否かを判定したが、他の方法として、内部主顔を顔だけAFモード時と顔優先AFモード時とで分けて処理することも考えられる。以下では、図12を用いて他の主顔選択処理について説明する。   In the above description, the internal main face is determined in step S32, and it is determined whether or not the display face information is updated with the internal face information in step S33. It is also conceivable to perform processing separately in the mode and face priority AF mode. Hereinafter, another main face selection process will be described with reference to FIG.

以下の説明では、上記の説明と異なる処理のみを説明するため、図12において、図4又は図5の処理と同様の場合は同じ番号を付し、特に必要な場合を除き説明を省略する。   In the following description, only the processing different from the above description will be described. Therefore, in FIG. 12, the same reference numerals are given in the same case as the processing in FIG. 4 or FIG.

図9のステップS331にて顔だけAFモードではない、後述するステップS361にて前回の内部主顔が消失していない、又は、ステップS334にて主顔選択禁止モードではないと判定された場合は、図12のステップS323に移行する。   If it is determined in step S331 in FIG. 9 that the face-only AF mode is not set, the previous internal main face has not disappeared in step S361 to be described later, or the main face selection prohibition mode is not set in step S334. Then, the process proceeds to step S323 in FIG.

ステップS361では、システム制御部14はSDRAM166から内部主顔情報を読み出し、読み出された内部主顔情報と検出結果の顔情報を比較し、各顔情報の位置やサイズ、顔の角度、顔の特徴量の差を比較する。具体的には、顔の位置の差(例えば、x座標とy座標の差の合計)が、前回の内部主顔のサイズ以内である場合を同じ顔であるとする。また、検出結果の顔のサイズが、前回の内部主顔の1.5倍以内の大きさ、又は半分以内の大きさの場合を同じ顔であるとする。さらに、検出結果の顔の角度と前回の内部主顔の角度の差が45度以内の場合は同じ顔であるとすることもできる。さらにまた、両目の幅や目の位置に対する口の位置の特徴などの特徴量を数値化して、その数値の差が所定量以内である場合に同じ顔であるとすることもできる。さらに上述のように求めたそれぞれの数値の和が所定量以内である場合に同じ顔であると判定することもできる。   In step S361, the system control unit 14 reads the internal main face information from the SDRAM 166, compares the read internal main face information with the face information of the detection result, and compares the position and size of each face information, the face angle, and the face information. Compare feature differences. Specifically, it is assumed that the face is the same when the difference in face position (for example, the sum of the differences between the x coordinate and the y coordinate) is within the size of the previous internal main face. Further, it is assumed that the same face is obtained when the size of the face of the detection result is 1.5 times or less than the previous internal main face. Further, when the difference between the detected face angle and the previous internal main face angle is within 45 degrees, the face may be the same. Furthermore, it is also possible to digitize feature amounts such as the width of both eyes and the feature of the mouth position with respect to the position of the eyes, and when the difference between the values is within a predetermined amount, the same face can be obtained. Furthermore, when the sum of the numerical values obtained as described above is within a predetermined amount, it can be determined that the faces are the same.

上記比較の結果、検出結果の顔の中に、前回の内部主顔と同一の顔情報があると判定された場合、前回の内部主顔は消失していないと判定しステップS323に移行する。一方、検出結果の顔の中に、前回の内部主顔と同一の顔情報がないと判定された場合、前回の内部主顔は消失したと判定しステップS334に移行する。   As a result of the comparison, if it is determined that the same face information as the previous internal main face exists in the detected face, it is determined that the previous internal main face has not disappeared, and the process proceeds to step S323. On the other hand, if it is determined that there is no face information identical to the previous internal main face in the detected face, it is determined that the previous internal main face has disappeared, and the process proceeds to step S334.

顔枠の種類は図6及び図7に示すものに限定されるものではなく、任意の種類の顔枠であって構わない。例えば、図8(a)で存在していた主顔枠400がフレームアウトして消失した場合を考える。主顔枠400が消失した時点で、内部的には主顔が切り替わっていたとすると、所定時間経過後に主顔となる候補の顔を次期主顔枠403として図8(b)のように表示する。そして、所定時間経過後、図8(c)に示すように主顔枠400が表示される。   The types of face frames are not limited to those shown in FIGS. 6 and 7 and may be any type of face frames. For example, consider a case where the main face frame 400 that existed in FIG. If the main face is switched internally when the main face frame 400 disappears, the candidate face that becomes the main face is displayed as the next main face frame 403 as shown in FIG. . Then, after a predetermined time has elapsed, the main face frame 400 is displayed as shown in FIG.

また、顔優先AFモードと顔だけAFモードとで同種類の顔枠を用いても構わないが、異なる種類の枠で表現することにより撮影者に設定されているモードを知らせることができる。   The same type of face frame may be used in the face priority AF mode and the face-only AF mode, but the mode set to the photographer can be notified by expressing with different types of frames.

[実施形態2]次に、図9乃至図11を参照して、実施形態2の顔枠表示処理について説明する。   [Embodiment 2] Next, the face frame display processing of Embodiment 2 will be described with reference to FIGS.

実施形態1では、主顔が消失すると、所定時間が経過するまで主顔の選択及び主顔枠の表示を行わず、非主顔枠のみを表示していた。これに対し、実施形態2では、ビデオカメラ10のパンニングやズーミング操作を検出し、その検出結果に応じて主顔枠の切替えを行う。   In the first embodiment, when the main face disappears, only the non-main face frame is displayed without selecting the main face and displaying the main face frame until a predetermined time elapses. In contrast, in the second embodiment, panning or zooming operation of the video camera 10 is detected, and the main face frame is switched according to the detection result.

図9は、実施形態2の顔枠表示処理を示すフローチャートである。なお、図9のフローチャートにおいて、図5と同じ処理には同じ番号を付して説明を省略する。   FIG. 9 is a flowchart illustrating face frame display processing according to the second embodiment. In the flowchart of FIG. 9, the same processes as those in FIG.

ステップS351とS352において、システム制御部14は、振れ検出部17によってパンニングを検出したか、または、撮影者が操作部134を介してズーム操作を行ったか否かを判定する。パンニングまたはズーム操作が検出された場合には、ステップS341及びS345に移行する。図10および図11に、ステップS341又はS345に移行した時の表示部164に表示される画面を例示している。   In steps S <b> 351 and S <b> 352, the system control unit 14 determines whether panning has been detected by the shake detection unit 17 or whether the photographer has performed a zoom operation via the operation unit 134. When a panning or zoom operation is detected, the process proceeds to steps S341 and S345. 10 and 11 illustrate screens displayed on the display unit 164 when the process proceeds to step S341 or S345.

図10は振れ検出部17にてパンニングが検出された場合の例であり、図10(a)に示すように表示主顔が消失し、非主顔枠401、402が表示されている時にパンニングが検出されたとする。この場合、システム制御部14は、図4のステップS327にて選択されている内部主顔情報を表示主顔情報に上書きする。これによって、表示部164には図10(b)のように表示される。また、表示主顔枠400が存在することによって、AF検出部165は合焦度合いが低下したことを検出した場合、その旨をシステム制御部に通知する。システム制御部はAF検出部165からの通知を受け、フォーカシング駆動部133にフォーカシングの指示を行い、フォーカシング駆動部133はフォーカスレンズ115を駆動する。   FIG. 10 shows an example in which panning is detected by the shake detection unit 17, and the panning is performed when the display main face disappears and the non-main face frames 401 and 402 are displayed as shown in FIG. Is detected. In this case, the system control unit 14 overwrites the display main face information with the internal main face information selected in step S327 of FIG. As a result, the display is displayed on the display unit 164 as shown in FIG. In addition, when the display main face frame 400 is present, the AF detection unit 165 notifies the system control unit of the fact that the AF detection unit 165 has detected that the degree of focus has decreased. The system control unit receives a notification from the AF detection unit 165 and instructs the focusing driving unit 133 to perform focusing, and the focusing driving unit 133 drives the focus lens 115.

また、図11は撮影者によるズーム操作が検出された場合の例であり、図11(a)に示すように表示主顔が消失し、非主顔枠401、402が表示されている時にズーミング操作が検出されたとする。その場合、システム制御部14は、図4のステップS327にて選択されている内部主顔情報を表示主顔情報に上書きする。これによって、表示部164には図11(b)のように表示される。また、表示主顔枠400が存在することによって、AF検出部165は合焦度合いが低下したことを検出した場合、システム制御部にその旨を通知する。システム制御部はAF検出部165からの通知を受け、フォーカシング駆動部133にフォーカシングの指示を行い、フォーカシング駆動部133はフォーカスレンズ115を駆動する。   FIG. 11 shows an example in which a zoom operation by the photographer is detected. As shown in FIG. 11A, zooming is performed when the display main face disappears and the non-main face frames 401 and 402 are displayed. Suppose an operation is detected. In that case, the system control unit 14 overwrites the display main face information with the internal main face information selected in step S327 of FIG. As a result, the display is displayed on the display unit 164 as shown in FIG. Further, when the AF main detection unit 165 detects that the degree of focus has been reduced due to the presence of the display main face frame 400, the AF control unit 165 notifies the system control unit accordingly. The system control unit receives a notification from the AF detection unit 165 and instructs the focusing driving unit 133 to perform focusing, and the focusing driving unit 133 drives the focus lens 115.

なお、上述した各実施形態では、被写体として顔を検出する場合について説明したが、本発明は顔検出に限るものではなく、予め設定された条件を満たす被写体を検出するものであれば、顔以外の被写体にも適用可能である。   In each of the above-described embodiments, the case where a face is detected as a subject has been described. However, the present invention is not limited to face detection, and other than a face as long as a subject that satisfies a preset condition is detected. It can also be applied to other subjects.

[他の実施形態]本発明は、以下の処理を実行することによっても実現される。即ち、上記実施形態の機能を実現するソフトウェア(プログラム)をネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムコードを読み出して実行する処理である。この場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することになる。   [Other Embodiments] The present invention is also realized by executing the following processing. That is, software (program) that realizes the functions of the above-described embodiments is supplied to a system or apparatus via a network or various storage media, and a computer (or CPU, MPU, etc.) of the system or apparatus reads and executes the program code. It is processing to do. In this case, the program and the storage medium storing the program constitute the present invention.

また、本発明は、複数の機器(例えば、画像処理装置を構成するホストコンピュータ、インターフェイス機器、カメラヘッドなど)から構成されるシステムに適用してもよい。また、1つの機器からなる装置(例えば、デジタルスチルカメラ、デジタルビデオカメラなど)に適用してもよい。   In addition, the present invention may be applied to a system including a plurality of devices (for example, a host computer, an interface device, a camera head, etc. constituting an image processing apparatus). Further, the present invention may be applied to an apparatus (for example, a digital still camera, a digital video camera, etc.) composed of one device.

Claims (10)

撮影光学系を介して入射した被写体像を光電変換して撮像信号を生成する撮像手段と、
前記撮像手段によって生成された前記撮像信号から撮影画面内の予め決められた特徴を有する被写体を検出する被写体検出手段と、
前記予め決められた特徴を有する被写体を優先させて焦点調節をする第1のAFモードと、前記予め決められた特徴を有する被写体だけに焦点調節をする前記第2のAFモードとを設定する設定手段と、
前記被写体検出手段により検出された被写体から主被写体を選択すると共に、主被写体が撮影画面内に存在しなくなった場合に、撮影画面内に存在する他の被写体から主被写体を新たに選択する主被写体選択手段と、
前記主被写体選択手段により選択された主被写体に対する合焦状態を検出する焦点検出手段と、
前記焦点検出手段により検出された合焦状態から焦点調節動作を実行する焦点調節手段と、
前記第2のAFモードにおいては、前記予め決められた特徴を有する被写体が複数検出されている状態で、前記主被写体が撮影画面内に存在しなくなった場合に、前記第1のAFモードの場合よりも長い所定時間が経過するまで前記主被写体選択手段による新たな主被写体の選択を禁止する制御手段と、を有することを特徴とする撮像装置。
Imaging means for photoelectrically converting a subject image incident via a photographing optical system to generate an imaging signal;
Subject detection means for detecting a subject having a predetermined characteristic in a shooting screen from the imaging signal generated by the imaging means;
A setting for setting the first AF mode in which focus adjustment is performed by giving priority to the subject having the predetermined characteristic, and the second AF mode in which focus adjustment is performed only on the subject having the predetermined characteristic. Means,
A main subject that selects a main subject from the subjects detected by the subject detection means and newly selects a main subject from other subjects existing in the shooting screen when the main subject no longer exists in the shooting screen A selection means;
Focus detection means for detecting a focus state with respect to the main subject selected by the main subject selection means;
Focus adjusting means for executing a focus adjusting operation from the in-focus state detected by the focus detecting means;
In the second AF mode, when the main subject no longer exists in the shooting screen in a state where a plurality of subjects having the predetermined characteristics are detected, the case of the first AF mode imaging apparatus characterized by and a control means for prohibiting the selection of a new main object by the main object selecting means until after a long predetermined time than.
前記制御手段は、前記第1のAFモードにおいては、前記予め決められた特徴を有する被写体が複数検出されている状態で、前記主被写体が撮影画面内に存在しなくなった場合にただちに前記主被写体選択手段による新たな主被写体の選択を行うように制御することを特徴とする請求項1に記載の撮像装置。  In the first AF mode, the control unit immediately detects the main subject when the main subject no longer exists in the shooting screen in a state where a plurality of subjects having the predetermined characteristics are detected. The imaging apparatus according to claim 1, wherein control is performed so that a new main subject is selected by the selection unit. 前記被写体検出手段により検出された被写体から主被写体を選択するための撮影者の操作を受け付ける操作手段を更に有し、
前記制御手段は、前記操作手段によって主被写体が選択された場合、前記主被写体選択手段による新たな主被写体の選択の禁止を解除することを特徴とする請求項1又は2に記載の撮像装置。
An operation means for receiving a photographer's operation for selecting a main subject from the subjects detected by the subject detection means;
3. The image pickup apparatus according to claim 1, wherein when the main subject is selected by the operation unit, the control unit cancels prohibition of selection of a new main subject by the main subject selection unit.
前記主被写体が撮影画面内に存在しなくなった場合に、前記制御手段は、前記被写体検出手段により検出された被写体の中に、前記撮影画面内に存在しなくなった主被写体と同じ被写体が再び現れたか否かを判定し、
前記同じ被写体が現れたと判定された場合は、前記主被写体選択手段による新たな主被写体の選択の禁止を解除することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
When the main subject no longer exists in the shooting screen, the control means reappears the same subject as the main subject that no longer exists in the shooting screen among the subjects detected by the subject detection means. Whether or not
The imaging apparatus according to claim 1, wherein when it is determined that the same subject has appeared, the prohibition of selection of a new main subject by the main subject selection unit is canceled.
前記制御手段は、前記撮影画面内に存在しなくなった主被写体と他の被写体の大きさ、位置、もしくは特徴の類似度とを比較し、当該大きさ、位置、もしくは類似度の差が所定の差未満である場合に、前記撮影画面内に存在しなくなった主被写体と同じ被写体が再び現れたと判定することを特徴とする請求項4に記載の撮像装置。   The control means compares the main subject that no longer exists in the shooting screen with the size, position, or feature similarity of another subject, and the difference in size, position, or similarity is a predetermined value. The imaging apparatus according to claim 4, wherein when the difference is less than the difference, it is determined that the same subject as the main subject that no longer exists in the shooting screen appears again. 前記撮像装置のズーム操作もしくはパンニングを検出する検出手段を更に有し、
前記制御手段は、前記主被写体が撮影画面内に存在しなくなり、他の被写体が存在している場合に、前記撮像装置のズームもしくはパンニングが検出されたならば、前記主被写体選択手段による新たな主被写体の選択の禁止を解除することを特徴とする請求項1又は2に記載の撮像装置。
It further comprises detection means for detecting zoom operation or panning of the imaging device,
When the zoom or panning of the imaging device is detected when the main subject is no longer present in the shooting screen and another subject is present, the control unit determines a new subject by the main subject selection unit. The imaging apparatus according to claim 1, wherein the prohibition of selection of the main subject is canceled.
前記被写体検出手段により検出された被写体の画像に重畳して、当該被写体を取り囲む枠を表示する枠表示手段を更に有し、
前記枠表示手段は、前記主被写体選択手段により選択された主被写体と他の被写体との間で種類の異なる枠を表示することを特徴とする請求項1乃至6のいずれか1項に記載の撮像装置。
Frame display means for displaying a frame surrounding the subject in a superimposed manner on the subject image detected by the subject detection means;
7. The frame display unit according to claim 1, wherein the frame display unit displays different types of frames between the main subject selected by the main subject selection unit and another subject. Imaging device.
撮影光学系を介して入射した被写体像を光電変換して撮像信号を生成する撮像手段を有する撮像装置の制御方法であって、
前記撮像手段によって生成された前記撮像信号から撮影画面内の予め決められた特徴を有する被写体を検出する被写体検出工程と、
前記予め決められた特徴を有する被写体を優先させて焦点調節をする第1のAFモードと、前記予め決められた特徴を有する被写体だけに焦点調節をする前記第2のAFモードとを設定する設定工程と、
前記被写体検出工程により検出された被写体から主被写体を選択すると共に、主被写体が撮影画面内に存在しなくなった場合に、撮影画面内に存在する他の被写体から主被写体を新たに選択する主被写体選択工程と、
前記主被写体選択工程により選択された主被写体に対する合焦状態を検出する焦点検出工程と、
前記焦点検出工程により検出された合焦状態から焦点調節動作を実行する焦点調節工程と、
前記第2のAFモードにおいては、前記予め決められた特徴を有する被写体が複数検出されている状態で、前記主被写体が撮影画面内に存在しなくなった場合に、前記第1のAFモードの場合よりも長い所定時間が経過するまで前記主被写体選択工程による新たな主被写体の選択を禁止する制御工程と、を有することを特徴とする制御方法。
A method for controlling an imaging apparatus having imaging means for photoelectrically converting a subject image incident through a photographing optical system to generate an imaging signal,
A subject detection step of detecting a subject having a predetermined characteristic in a shooting screen from the imaging signal generated by the imaging means;
A setting for setting the first AF mode in which focus adjustment is performed by giving priority to the subject having the predetermined characteristic, and the second AF mode in which focus adjustment is performed only on the subject having the predetermined characteristic. Process,
A main subject that selects a main subject from the subjects detected in the subject detection step and newly selects a main subject from other subjects existing in the shooting screen when the main subject no longer exists in the shooting screen A selection process;
A focus detection step for detecting a focus state with respect to the main subject selected by the main subject selection step;
A focus adjustment step of performing a focus adjustment operation from the in-focus state detected by the focus detection step;
In the second AF mode, when the main subject no longer exists in the shooting screen in a state where a plurality of subjects having the predetermined characteristics are detected, the case of the first AF mode control method characterized by and a control step of prohibiting the selection of a new main object by the main subject selecting step until after a long predetermined time than.
コンピュータを、請求項1乃至7のいずれか1項に記載の撮像装置の各手段として機能させるためのプログラム。   The program for functioning a computer as each means of the imaging device of any one of Claims 1 thru | or 7. コンピュータを、請求項1乃至7のいずれか1項に記載の撮像装置の各手段として機能させるためのプログラムを記憶したコンピュータによる読み取りが可能な記憶媒体。   A computer-readable storage medium storing a program for causing a computer to function as each unit of the imaging apparatus according to claim 1.
JP2010192704A 2010-08-30 2010-08-30 Imaging apparatus, control method therefor, program, and storage medium Active JP5629533B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010192704A JP5629533B2 (en) 2010-08-30 2010-08-30 Imaging apparatus, control method therefor, program, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010192704A JP5629533B2 (en) 2010-08-30 2010-08-30 Imaging apparatus, control method therefor, program, and storage medium

Publications (2)

Publication Number Publication Date
JP2012048157A JP2012048157A (en) 2012-03-08
JP5629533B2 true JP5629533B2 (en) 2014-11-19

Family

ID=45903061

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010192704A Active JP5629533B2 (en) 2010-08-30 2010-08-30 Imaging apparatus, control method therefor, program, and storage medium

Country Status (1)

Country Link
JP (1) JP5629533B2 (en)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6257199B2 (en) * 2013-07-22 2018-01-10 キヤノン株式会社 Optical apparatus, control method therefor, and control program
US10440252B2 (en) 2013-09-24 2019-10-08 Sony Corporation Apparatus and imaging method for setting a target of an image
JP6785572B2 (en) * 2016-04-26 2020-11-18 株式会社Kmc Mold electronic medical record system
CN109831622B (en) * 2019-01-03 2021-06-22 华为技术有限公司 A shooting method and electronic device
JP2019134438A (en) * 2019-02-28 2019-08-08 株式会社ニコン Image processing apparatus, imaging apparatus, and image processing program

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008309940A (en) * 2007-06-13 2008-12-25 Canon Inc Image processing apparatus, image processing method, program, and storage medium
JP5046788B2 (en) * 2007-08-10 2012-10-10 キヤノン株式会社 Imaging apparatus and control method thereof
JP5409189B2 (en) * 2008-08-29 2014-02-05 キヤノン株式会社 Imaging apparatus and control method thereof
CN101750845B (en) * 2008-12-12 2012-02-15 三星电机株式会社 Auto-focusing method
JP5446303B2 (en) * 2009-02-13 2014-03-19 株式会社ニコン Focus adjustment device and imaging device

Also Published As

Publication number Publication date
JP2012048157A (en) 2012-03-08

Similar Documents

Publication Publication Date Title
JP5682358B2 (en) Imaging device
US10638033B2 (en) Focus control apparatus, focus control method and storage medium
US11812144B2 (en) Focus adjustment apparatus and method, and image capturing apparatus
US9241109B2 (en) Image capturing apparatus, control method, and recording medium for moving image generation
US10264173B2 (en) Image capturing apparatus and control method thereof, and storage medium
US20090322933A1 (en) Image capturing apparatus and control method for the same
US10200595B2 (en) Image capturing apparatus, method of controlling same, and storage medium
US8965192B2 (en) Automatic focusing apparatus
JP4974812B2 (en) Electronic camera
KR101728042B1 (en) Digital photographing apparatus and control method thereof
JP5629533B2 (en) Imaging apparatus, control method therefor, program, and storage medium
KR20090081345A (en) Dust detection system and digital camera
WO2010007865A1 (en) Imaging device, imaging method and program
JP2010183559A (en) Image capturing apparatus, control method thereof, and program
JP2006319596A (en) Imaging apparatus and imaging method
US9420162B2 (en) Image capturing apparatus and control method thereof
JP4657960B2 (en) Imaging method and apparatus
US9742983B2 (en) Image capturing apparatus with automatic focus adjustment and control method thereof, and storage medium
US20140125861A1 (en) Imaging apparatus and method for controlling same
US10412321B2 (en) Imaging apparatus and image synthesis method
JP5882726B2 (en) Focus adjustment device
US20150226934A1 (en) Focus adjustment apparatus having frame-out preventive control, and control method therefor
JP2017173480A (en) Focus controller, imaging apparatus, and focus control method
JP6516426B2 (en) Image pickup apparatus, image processing method and program
JP6087714B2 (en) Imaging apparatus and control method thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130828

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140611

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140620

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140818

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140905

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20141006

R151 Written notification of patent or utility model registration

Ref document number: 5629533

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151