Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4479843B2 - Imaging apparatus and exposure control method - Google Patents
[go: Go Back, main page]

JP4479843B2 - Imaging apparatus and exposure control method - Google Patents

Imaging apparatus and exposure control method Download PDF

Info

Publication number
JP4479843B2
JP4479843B2 JP2008235245A JP2008235245A JP4479843B2 JP 4479843 B2 JP4479843 B2 JP 4479843B2 JP 2008235245 A JP2008235245 A JP 2008235245A JP 2008235245 A JP2008235245 A JP 2008235245A JP 4479843 B2 JP4479843 B2 JP 4479843B2
Authority
JP
Japan
Prior art keywords
image
detection
unit
presentation
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008235245A
Other languages
Japanese (ja)
Other versions
JP2009268056A (en
Inventor
広海 根本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2008235245A priority Critical patent/JP4479843B2/en
Priority to US12/414,187 priority patent/US8144241B2/en
Priority to EP09156807A priority patent/EP2107798B1/en
Priority to DE602009000430T priority patent/DE602009000430D1/en
Publication of JP2009268056A publication Critical patent/JP2009268056A/en
Application granted granted Critical
Publication of JP4479843B2 publication Critical patent/JP4479843B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Studio Devices (AREA)

Description

この発明は、撮像装置と露出制御方法に関する。詳しくは、撮像画像から提示装置によって提示された提示画像を検出したとき、この検出された提示画像とは異なる位置に検波領域を設定する。この検波領域の画像信号から算出した検波値に応じて露出制御を行うことで、提示画像が適切な明るさとされた撮像画像を得られるようにする。   The present invention relates to an imaging apparatus and an exposure control method. Specifically, when a presentation image presented by the presentation device is detected from the captured image, a detection region is set at a position different from the detected presentation image. By performing exposure control according to the detection value calculated from the image signal in the detection region, it is possible to obtain a captured image in which the presented image has an appropriate brightness.

従来の撮像装置は、所望の被写体が撮像範囲の中心にあるものと仮定して、撮像範囲の中心に大きな重みをおいて明るさの検出を行っている。このため、所望の被写体が撮像範囲の中心にあるとき、撮像装置は所望の被写体が最適な明るさに制御されている撮像画像を得ることができる。   The conventional imaging apparatus performs brightness detection with a large weight on the center of the imaging range, assuming that a desired subject is at the center of the imaging range. For this reason, when the desired subject is at the center of the imaging range, the imaging device can obtain a captured image in which the desired subject is controlled to an optimal brightness.

しかし、撮像範囲の中心に大きな重みをおいて明るさの検出を行うと、所望の被写体が撮像範囲の中心から外れたときに、所望の被写体が最適な明るさに制御されている撮像画像を得ることができない場合が生じてしまう。   However, when brightness detection is performed with a large weight at the center of the imaging range, when the desired subject deviates from the center of the imaging range, a captured image in which the desired subject is controlled to the optimum brightness is obtained. The case where it cannot be obtained will arise.

このように、所望の被写体が最適な明るさに制御されなくなってしまう現象は、提示装置によって提示された提示画像、例えばテレビジョン装置で表示された画像やプロジェクタによってスクリーンに投影された画像の撮影時に起こる問題である。   As described above, the phenomenon that the desired subject is not controlled to the optimum brightness is caused by photographing a presentation image presented by the presentation device, for example, an image displayed on the television device or an image projected on the screen by the projector. It is a problem that sometimes occurs.

図20は、撮像装置で例えばプレゼンテーションの様子を撮像する場合を示している。この場合、図20の(A)に示すように、撮像画像の構図は、スクリーンに投影された提示画像と発表者が撮像範囲に含まれるように設定されることが多く、スクリーンが必ずしも撮像範囲の中心になると限らない。ここで、スクリーンが撮像範囲の中心にないとき、撮像装置は、スクリーンに投影されている提示画像とは異なり、撮像範囲の中心に位置する被写体が適切な明るさとなるように明るさ制御を行う。このため、撮像画像は、図20の(B)に示すように、投影されている提示画像が白とびを生じた画像となってしまう場合がある。   FIG. 20 shows a case where, for example, a presentation is imaged by the imaging apparatus. In this case, as shown in FIG. 20A, the composition of the captured image is often set so that the presentation image projected on the screen and the presenter are included in the imaging range, and the screen is not necessarily in the imaging range. It is not necessarily the center of Here, when the screen is not at the center of the imaging range, the imaging device performs brightness control so that the subject located at the center of the imaging range has appropriate brightness, unlike the presented image projected on the screen. . For this reason, as shown in FIG. 20B, the captured image may be an image in which the projected presentation image is overexposed.

また、撮像範囲の中心に大きな重みをおいて明るさの検出を行うと、所望の被写体が撮像範囲の中心とされていても、所望の被写体が最適な明るさに制御されている撮像画像を得ることができない場合が生じてしまう。このように、所望の被写体が最適な明るさに制御されなくなってしまう現象は、所望の被写体が黒色や濃い青色など輝度の低い色を基調とした場合等でも生じる場合がある。例えば、プレゼンテーション等で用いられる資料は、発表者によってデザインが異なり青色や黒色を基調としたデザインの資料が投影されることも多い。図21は、撮像装置で例えばスクリーンに投影された提示画像を撮像する場合を示している。ここで、図21の(A)に示すように、提示画像が黒色等のように輝度の低い色を基調とした画像であるとき、撮像装置では、暗い画像が明るくなるように明るさ制御が行われる。このため、撮像画像は、図21の(B)に示すように、提示画像における黒色等の暗い部分は浮き上がりを生じて、提示画像における白い文字や絵等の明るい部分は明るくなりすぎて、白とびを生じた画像となってしまう場合がある。   Further, when brightness detection is performed with a large weight at the center of the imaging range, a captured image in which the desired subject is controlled to the optimum brightness is obtained even if the desired subject is the center of the imaging range. The case where it cannot be obtained will arise. As described above, the phenomenon that the desired subject is not controlled to the optimum brightness may occur even when the desired subject is based on a low-luminance color such as black or dark blue. For example, materials used in presentations and the like vary in design depending on the presenter, and materials with designs based on blue or black are often projected. FIG. 21 illustrates a case where a presentation image projected onto a screen, for example, is captured by the imaging apparatus. Here, as shown in FIG. 21A, when the presented image is an image based on a low-luminance color such as black, the imaging device performs brightness control so that a dark image becomes bright. Done. For this reason, as shown in FIG. 21B, in the captured image, dark portions such as black in the presented image are lifted, and bright portions such as white characters and pictures in the presented image are too bright, and white In some cases, a skipped image results.

また、提示画像が暗いときに、この提示画像を適切な明るさとして撮像できるようにストロボ発光が行われる場合がある。しかし、ストロボ光が反射して撮像装置に入射すると、反射光の影響によって、提示画像が適切な明るさとされている撮像画像を得ることができなくなってしまう。   In addition, when the presented image is dark, strobe light emission may be performed so that the presented image can be captured with appropriate brightness. However, when the strobe light is reflected and enters the imaging device, it becomes impossible to obtain a captured image in which the presented image has an appropriate brightness due to the influence of the reflected light.

図22は、撮像装置で例えばテレビジョン装置の画面上に表示されている提示画像を撮像する場合を示している。ここで、図22の(A)に示すように、提示画像が黒色等の暗い画像である場合、提示画像が適切な明るさとなるようにストロボ発光が行われる。テレビジョン装置の表示画面でストロボ光が反射されると、撮像画像は、図22の(B)に示すように、反射したストロボ光が写り込んだものとなり、提示画像の内容を読み取ることが困難となってしまう場合がある。   FIG. 22 shows a case where a presentation image displayed on a screen of a television device, for example, is captured by the imaging device. Here, as shown in FIG. 22A, when the presented image is a dark image such as black, strobe light emission is performed so that the presented image has an appropriate brightness. When the strobe light is reflected on the display screen of the television device, the captured image is a reflection of the reflected strobe light as shown in FIG. 22B, making it difficult to read the contents of the presented image. It may become.

また、動画像やスライドショーによって提示画像のデザインが動的に変化する場合、撮像装置は場面の変化に追従して明るさ制御を行う。したがって、撮像画像は明るさのふらつき等を生じた非常に見づらいものとなってしまう。   In addition, when the design of the presentation image changes dynamically due to a moving image or a slide show, the imaging apparatus performs brightness control following the change of the scene. Therefore, the captured image is very difficult to see due to brightness fluctuations and the like.

このため、特許文献1の撮像装置では、プレゼン資料を確実に撮影することが可能となるプレゼン撮像モードを設けて、プレゼン撮像モードでは、ストロボ発光を制限することが行われている。   For this reason, the imaging apparatus of Patent Document 1 is provided with a presentation imaging mode that can reliably capture a presentation material, and in the presentation imaging mode, strobe light emission is limited.

特開2007−195029号公報JP 2007-195029 A

ところで、プレゼン撮像モードとしてストロボ発光を制限するものとしても、所望の被写体が黒色や濃い青色など輝度の低い色を基調としている場合、上述のように、提示画像における暗い部分は浮き上がりを生じる。このため、提示画像における白い文字や絵等の明るい部分は明るくなりすぎて、白とびを生じた画像となってしまう場合がある。   By the way, even when strobe light emission is limited as a presentation imaging mode, when a desired subject is based on a low-luminance color such as black or dark blue, a dark portion in a presentation image is lifted as described above. For this reason, bright portions such as white characters and pictures in the presented image may become too bright, resulting in an overexposed image.

また、提示画像が所望の明るさとなったとき、ユーザが撮像装置における明るさ制御を固定させれば、提示画像が適切な明るさとされた撮像画像を得ることができる。しかし、撮像中に照明状態が変化するような場合、照明状態が変化するたびユーザが明るさ制御の再設定を行わなければならない。さらに、ユーザがどのような照明下で撮像を行うか正確に予測できないため、明るさ制御を最適な状態で固定しておくことも困難である。   Further, when the presented image has a desired brightness, if the user fixes brightness control in the imaging device, a captured image in which the presented image has an appropriate brightness can be obtained. However, when the illumination state changes during imaging, the user must reset the brightness control each time the illumination state changes. Furthermore, since the user cannot accurately predict under what kind of illumination, it is difficult to fix the brightness control in an optimum state.

そこで、この発明では、提示装置によって提示されている画像を撮影したとき、この提示画像が最適な明るさとされている撮像画像を容易に得ることができる撮像装置と露出制御方法を提供するものである。   Therefore, the present invention provides an imaging device and an exposure control method that can easily obtain a captured image in which the presented image has an optimal brightness when an image presented by the presentation device is captured. is there.

この発明の概念は、撮像装置から提示装置によって提示された提示画像、例えばプロジェクタによってスクリーンに投影された画像や、テレビジョン装置の画面上に表示された画像の検出を行い、提示画像を検出したときに検波領域を切り換えて、提示画像が最適な明るさとされた撮像画像を得られるように露出制御を行うものである。   The concept of the present invention is to detect a presentation image presented by a presentation device from an imaging device, for example, an image projected on a screen by a projector or an image displayed on a screen of a television device, and detect the presentation image. Sometimes the detection area is switched, and exposure control is performed so that a captured image in which the presented image has an optimum brightness can be obtained.

第1の発明に係る撮像装置は、被写体を撮像して画像信号を得る撮像部と、撮像部で得られた画像信号に基づく撮像画像に対して検波領域を設定して、検波領域の画像信号から検波値を算出する検波部と、露出調整を行う露出調整部と、検波値が所定値となるように露出調整部を制御する制御部と、撮像画像における輝度の違いに基づいて、撮像画像から画像提示装置によって提示された提示画像の検出を行う提示画像検出部を備え、提示画像検出部が提示画像を検出したとき、検波部は検出された提示画像とは異なる位置に検波領域を設定するものである。   An imaging apparatus according to a first aspect of the present invention includes an imaging unit that captures an image of a subject and obtains an image signal, and a detection region is set for a captured image based on the image signal obtained by the imaging unit, and an image signal in the detection region Based on the difference in luminance in the captured image, a detection unit that calculates a detection value from the exposure unit, an exposure adjustment unit that performs exposure adjustment, a control unit that controls the exposure adjustment unit so that the detection value becomes a predetermined value, A presentation image detection unit for detecting a presentation image presented by the image presentation device, and when the presentation image detection unit detects the presentation image, the detection unit sets a detection region at a position different from the detected presentation image. To do.

また、第1の発明に係る露出制御方法は、被写体を撮像部によって撮像して画像信号を得る撮像工程と、得られた画像信号に基づく撮像画像に対して検波領域を設定して、検波領域の画像信号から検波値を算出する検波工程と、撮像画像から画像提示装置によって提示された提示画像の検出を、撮像画像における輝度の違いに基づいて行う提示画像検出工程と、検波値を所定の値とする露出調整を行う露出調整工程とを設け、提示画像検出工程で提示画像が検出されたとき、検波工程では検出された提示画像とは異なる位置に検波領域を設定するものである。   The exposure control method according to the first aspect of the invention includes an imaging step of capturing an image of a subject by an imaging unit to obtain an image signal, and setting a detection region for the captured image based on the obtained image signal, A detection step of calculating a detection value from the image signal, a presentation image detection step of detecting a presentation image presented by the image presentation device from the captured image based on a difference in luminance in the captured image, and a detection value of a predetermined value An exposure adjustment step for adjusting exposure as a value, and when a presentation image is detected in the presentation image detection step, a detection region is set in a position different from the detected presentation image in the detection step.

第1の発明においては、撮像画像から提示画像が検出されたとき、この検出された提示画像とは異なる位置に検波領域が設けられる。また、提示画像の検出として撮像画像に提示画像が含まれているか否かの検出を行い、撮像画像に提示画像が含まれていることを検出したときは、撮像画像の少なくとも1辺側に検波領域を設けられる。また、提示画像のアスペクト比よりも撮像画像が横長のアスペクト比となる画像信号が生成されるとき、検波領域は、アスペクト比の違いによって撮像画像に生じた提示画像でない領域に設けられる。また、提示画像の撮像を行う撮像モードの選択操作が行われたとき、撮像画像の少なくとも1辺側に検波領域が設けられる。このようにして設定された検波領域の画像信号から検波値が算出されて、算出された検波値が所定値となるように露出調整が行われる。例えば算出された検波値が所定値となるように、撮像部に入射する光量と撮像部から出力する画像ゲインと撮像部で画像信号を得る際の露光時間の少なくともいずれかが調整される。   In the first invention, when a presentation image is detected from a captured image, a detection region is provided at a position different from the detected presentation image. Further, as a detection of the presented image, it is detected whether or not the captured image is included in the captured image, and when it is detected that the captured image is included in the captured image, detection is performed on at least one side of the captured image. An area is provided. When an image signal is generated in which the captured image has a horizontally long aspect ratio rather than the aspect ratio of the presented image, the detection region is provided in a region that is not the presented image generated in the captured image due to a difference in aspect ratio. In addition, when an imaging mode selection operation for capturing a presentation image is performed, a detection region is provided on at least one side of the captured image. A detection value is calculated from the image signal in the detection region set in this way, and exposure adjustment is performed so that the calculated detection value becomes a predetermined value. For example, at least one of the amount of light incident on the imaging unit, the image gain output from the imaging unit, and the exposure time when an image signal is obtained by the imaging unit is adjusted so that the calculated detection value becomes a predetermined value.

第2の発明に係る撮像装置は、被写体を撮像して画像信号を得る撮像部と、撮像部で得られた画像信号に基づく撮像画像に対して検波領域を設定して、検波領域の画像信号から検波値を算出する検波部と、露出調整を行う露出調整部と、検波値が所定値となるように露出調整部を制御する制御部と、画像提示装置によって提示された提示画像の撮像を行う提示画像撮像モードである場合に、検波部は、撮像画像の中心部を除いた少なくとも1辺側に前記検波領域を設けるものである。   An image pickup apparatus according to a second aspect of the present invention includes an image pickup unit that picks up an image of a subject and obtains an image signal, and sets a detection region for a picked-up image based on the image signal obtained by the image pickup unit. A detection unit that calculates a detection value from the image, an exposure adjustment unit that performs exposure adjustment, a control unit that controls the exposure adjustment unit so that the detection value becomes a predetermined value, and imaging of the presentation image presented by the image presentation device. In the presentation image capturing mode to be performed, the detection unit provides the detection region on at least one side excluding the central portion of the captured image.

また、第2の発明に係る露出制御方法は、被写体を撮像部によって撮像して画像信号を得る撮像工程と、得られた画像信号に基づく撮像画像に対して検波領域を設定して、検波領域の画像信号から検波値を算出する検波工程と、検波値を所定の値とする露出調整を行う露出調整工程と、画像提示装置によって提示される提示画像の撮像を行う提示画像撮像モードを選択するモード選択工程とを設け、モード選択工程で提示画像撮像モードが選択された場合に、検波工程では、撮像画像の中心部を除いた少なくとも1辺側に前記検波領域を設けるものである。   The exposure control method according to the second invention includes an imaging step of capturing an image of a subject by an imaging unit to obtain an image signal, and setting a detection region for the captured image based on the obtained image signal, A detection step for calculating a detection value from the image signal, an exposure adjustment step for performing exposure adjustment using the detection value as a predetermined value, and a presentation image imaging mode for imaging a presentation image presented by the image presentation device A mode selection step, and when the presentation image capturing mode is selected in the mode selection step, the detection step provides the detection region on at least one side excluding the central portion of the captured image.

第2の発明においては、画像提示装置によって提示された提示画像の撮像を行う提示画像撮像モードを有している。例えば、ユーザ操作に応じた操作信号を生成するユーザインタフェース部からの操作信号が、提示画像撮像モードの選択操作を示したとき、検波部は撮像画像の少なくとも1辺側に検波領域を設ける。これにより、提示画像が検出部により検出されないときでも提示画像の影響を受けることなく明るさ制御を行うことができる。   In 2nd invention, it has the presentation image imaging mode which images the presentation image shown by the image presentation apparatus. For example, when an operation signal from a user interface unit that generates an operation signal according to a user operation indicates a selection operation of the presentation image imaging mode, the detection unit provides a detection region on at least one side of the captured image. Thereby, brightness control can be performed without being influenced by the presented image even when the presented image is not detected by the detection unit.

第1の発明によれば、撮像画像から提示画像が検出されたとき、この検出された提示画像とは異なる位置に検波領域が設けられて、この検波領域の画像信号から算出された検波値に基づいて露出調整が行われる。このため、露出制御を行う際に提示画像の影響が少なくなり、提示画像が最適な明るさとされている撮像画像を得ることができる。   According to the first invention, when the presentation image is detected from the captured image, the detection area is provided at a position different from the detected presentation image, and the detection value calculated from the image signal of the detection area is obtained. Exposure adjustment is performed based on this. For this reason, when exposure control is performed, the influence of the presented image is reduced, and a captured image in which the presented image has an optimum brightness can be obtained.

第2の発明によれば、画像提示装置によって提示された提示画像の撮像を行う提示画像撮像モードである場合に、検波部は、撮像画像の中心部を除いた少なくとも1辺側に検波領域を設ける。このため、露出制御を行う際に提示画像の影響が少なくなり、提示画像が最適な明るさとされている撮像画像を得ることができる。さらに、提示画像が検出部により検出されないときでも提示画像の影響を受けることなく明るさ制御を行うことができる。   According to the second invention, in the presentation image imaging mode in which the presentation image presented by the image presentation device is captured, the detection unit sets the detection region on at least one side excluding the central portion of the captured image. Provide. For this reason, when exposure control is performed, the influence of the presented image is reduced, and a captured image in which the presented image has an optimum brightness can be obtained. Furthermore, brightness control can be performed without being affected by the presented image even when the presented image is not detected by the detection unit.

以下、図を参照しながら、この発明の実施の一形態について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(自動的に提示画像撮像モードに切り替える制御)
2.第2の実施の形態(ユーザ操作により提示画像撮像モードに切り替える制御)
Hereinafter, an embodiment of the present invention will be described with reference to the drawings. The description will be given in the following order.
1. First embodiment (control for automatically switching to the presentation image capturing mode)
2. Second embodiment (control to switch to the presentation image capturing mode by user operation)

<1.第1の実施の形態>
[提示画像撮像モードの自動切替]
図1は、撮像装置の構成を示している。被写体光は、レンズ部11と絞り機構12を介して撮像部21の撮像素子211、例えばCCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサに入射される。
<1. First Embodiment>
[Automatic switching of presentation image capture mode]
FIG. 1 shows the configuration of the imaging apparatus. The subject light is incident on the imaging element 211 of the imaging unit 21, for example, a CCD (Charge Coupled Device) image sensor or a CMOS (Complementary Metal Oxide Semiconductor) image sensor via the lens unit 11 and the aperture mechanism 12.

撮像素子211は、受光面に結像された被写体像の撮像光を、画素毎に電気信号に変換して三原色の画像信号を生成する。また、生成した画像信号をCDS(Correlated Double Sampling circuit)部212に供給する。   The imaging element 211 converts the imaging light of the subject image formed on the light receiving surface into an electrical signal for each pixel to generate an image signal of three primary colors. Further, the generated image signal is supplied to a CDS (Correlated Double Sampling circuit) unit 212.

CDS部212は、撮像素子211から供給された画像信号のノイズ除去を行い、ノイズ除去後の画像信号を増幅部213に供給する。増幅部213は、CDS部212から供給された画像信号のゲイン調整を行い、ゲイン調整後の画像信号SaをA/D(Analog / Digital)変換部23に供給する。   The CDS unit 212 removes noise from the image signal supplied from the image sensor 211 and supplies the image signal after the noise removal to the amplification unit 213. The amplification unit 213 adjusts the gain of the image signal supplied from the CDS unit 212 and supplies the image signal Sa after gain adjustment to the A / D (Analog / Digital) conversion unit 23.

タイミング信号発生部22は、撮像素子211で画像信号を生成するための駆動信号TDを生成して撮像素子211に供給する。また、タイミング信号発生部22は、駆動信号TDによって、撮像素子211における露光時間(光電変換によって得られた有効電荷の蓄積時間)を制御する。   The timing signal generator 22 generates a drive signal TD for generating an image signal by the image sensor 211 and supplies the drive signal TD to the image sensor 211. The timing signal generation unit 22 controls the exposure time (effective charge accumulation time obtained by photoelectric conversion) in the image sensor 211 by the drive signal TD.

A/D変換部23は、アナログの画像信号Saをディジタルの画像信号DVaに変換して、提示画像検出部31と検波部32および画像処理部35に供給する。   The A / D converter 23 converts the analog image signal Sa into a digital image signal DVa and supplies the digital image signal DVa to the presentation image detector 31, the detector 32, and the image processor 35.

提示画像検出部31は、画像信号DVaに基づく撮像画像から提示画像を検出する処理を行い、検出結果を示す検出信号JAを生成して制御部51に供給する。   The presentation image detection unit 31 performs a process of detecting a presentation image from a captured image based on the image signal DVa, generates a detection signal JA indicating a detection result, and supplies the detection signal JA to the control unit 51.

図2は提示画像検出部31の構成を示している。提示画像検出部31の変換処理部311は、三原色の画像信号DVaを輝度信号DYと色差信号DCに変換して、輝度信号DYを2値化処理部312、色差信号DCを2値化処理部313に供給する。   FIG. 2 shows the configuration of the presentation image detection unit 31. The conversion processing unit 311 of the presentation image detection unit 31 converts the image signal DVa of the three primary colors into a luminance signal DY and a color difference signal DC, the luminance signal DY is converted into a binarization processing unit 312, and the color difference signal DC is converted into a binarization processing unit. 313.

2値化処理部312は、輝度信号DYを2値化する処理を行い、得られた輝度2値化信号BYを信号選択部314に供給する。また、2値化処理部313は、色差信号DCを2値化する処理を行い、得られた色差2値化信号BCを信号選択部314に供給する。2値化処理部312は、輝度信号DYと閾値を比較することで輝度信号DYの2値化を行い、輝度2値化信号BYを生成する。2値化処理部313は、色差信号DCと閾値を比較することで色差信号DCの2値化を行い、色差2値化信号BCを生成する。また、2値化処理部312,313は、予め固定したレベルに閾値を設定しておくものとしてもよく、撮像画像から提示画像を精度よく検出できるように、撮像画像に応じて閾値を設定するものとしてもよい。   The binarization processing unit 312 performs processing for binarizing the luminance signal DY, and supplies the obtained luminance binarized signal BY to the signal selection unit 314. In addition, the binarization processing unit 313 performs processing for binarizing the color difference signal DC and supplies the obtained color difference binarized signal BC to the signal selection unit 314. The binarization processing unit 312 binarizes the luminance signal DY by comparing the luminance signal DY with a threshold value, and generates a luminance binarized signal BY. The binarization processing unit 313 binarizes the color difference signal DC by comparing the color difference signal DC with a threshold value, and generates a color difference binarized signal BC. In addition, the binarization processing units 312 and 313 may set the threshold to a fixed level in advance, and set the threshold according to the captured image so that the presented image can be detected from the captured image with high accuracy. It may be a thing.

信号選択部314は、輝度2値化信号BYまたは色差2値化信号BCを選択して、選択した2値化信号を水平分布取得部315と垂直分布取得部316に供給する。   The signal selection unit 314 selects the luminance binarized signal BY or the color difference binarized signal BC, and supplies the selected binarized signal to the horizontal distribution acquisition unit 315 and the vertical distribution acquisition unit 316.

水平分布取得部315は、2値化信号が輝度2値化信号BYであるとき、ライン毎に輝度2値化信号BYの信号レベルが閾値よりも高い画素をカウントすることで水平方向の分布を求めて、この分布を示す水平分布信号DShを検出処理部317に供給する。また、水平分布取得部315は、2値化信号が色差2値化信号BCであるとき、ライン毎に色差2値化信号BCの信号レベルが閾値よりも高い画素をカウントすることで水平方向の分布を求めて、この分布を示す水平分布信号DShを検出処理部317に供給する。   When the binarized signal is the luminance binarized signal BY, the horizontal distribution acquisition unit 315 counts pixels in which the signal level of the luminance binarized signal BY is higher than a threshold value for each line, thereby calculating the horizontal distribution. Then, a horizontal distribution signal DSh indicating this distribution is supplied to the detection processing unit 317. In addition, when the binarized signal is the color difference binarized signal BC, the horizontal distribution acquisition unit 315 counts pixels in which the signal level of the color difference binarized signal BC is higher than a threshold value for each line. A distribution is obtained, and a horizontal distribution signal DSh indicating this distribution is supplied to the detection processing unit 317.

垂直分布取得部316は、2値化信号が輝度2値化信号BYであるとき、垂直方向に輝度2値化信号BYの信号レベルが閾値よりも高い画素をカウントする。そして、垂直分布取得部316は、上述の水平方向と直交する垂直方向の分布を求めて、この分布を示す垂直分布信号DSvを検出処理部317に供給する。また、垂直分布取得部316は、2値化信号が色差2値化信号BCであるとき、色差2値化信号BCの信号レベルが閾値よりも高い画素をカウントして垂直方向の分布を求めて、この分布を示す垂直分布信号DSvを検出処理部317に供給する。   When the binarized signal is the luminance binarized signal BY, the vertical distribution acquisition unit 316 counts pixels in which the signal level of the luminance binarized signal BY is higher than the threshold value in the vertical direction. Then, the vertical distribution acquisition unit 316 obtains a distribution in the vertical direction orthogonal to the above-described horizontal direction, and supplies a vertical distribution signal DSv indicating this distribution to the detection processing unit 317. Further, when the binarized signal is the color difference binarized signal BC, the vertical distribution acquisition unit 316 obtains a vertical distribution by counting pixels whose signal level of the color difference binarized signal BC is higher than a threshold value. The vertical distribution signal DSv indicating this distribution is supplied to the detection processing unit 317.

検出処理部317は、水平分布取得部315から供給された水平分布信号DShに基づき上辺と下辺を検出する処理と、垂直分布取得部316から供給された垂直分布信号DSvに基づき左辺と右辺を検出する処理を行う。また、検出処理部317は、検出された上辺,下辺,左辺および右辺が提示画像の各辺に相当するものであることを判別したとき、検出された上辺,下辺,左辺および右辺で囲まれる画像を提示画像と判定する。そして、検出処理部317は、この提示画像の位置または提示画像が検出されたことを示す検出信号JAを生成して制御部51に供給する。   The detection processing unit 317 detects the upper side and the lower side based on the horizontal distribution signal DSh supplied from the horizontal distribution acquisition unit 315, and detects the left side and the right side based on the vertical distribution signal DSv supplied from the vertical distribution acquisition unit 316. Perform the process. Further, when the detection processing unit 317 determines that the detected upper side, lower side, left side, and right side correspond to each side of the presented image, the image surrounded by the detected upper side, lower side, left side, and right side Is determined as a presentation image. Then, the detection processing unit 317 generates a detection signal JA indicating that the position of the presentation image or the presentation image has been detected, and supplies the detection signal JA to the control unit 51.

さらに、検出処理部317は、制御信号CNによって信号選択部314の信号選択動作の制御を行い、最初に輝度2値化信号BYを選択させる。検出処理部317は、輝度2値化信号BYから提示画像を検出できないときは、信号選択部314で色差2値化信号BCを選択させることで、輝度2値化信号BYだけでなく色差2値化信号BCから提示画像を検出する処理を行う。   Further, the detection processing unit 317 controls the signal selection operation of the signal selection unit 314 by the control signal CN, and first selects the luminance binarized signal BY. When the detected image cannot be detected from the luminance binarized signal BY, the detection processing unit 317 causes the signal selection unit 314 to select the color difference binarized signal BC, thereby not only the luminance binarized signal BY but also the color difference binary. The process which detects a presentation image from the digitization signal BC is performed.

検波部32は、供給された画像信号DVaから撮像画像の明るさを示す検波信号JBを生成して制御部51に供給する。検波部32は、例えば撮像画像をm×n個のブロックに分割し、それぞれのブロックにおける各画素の明るさを示す信号の総和を算出する。さらに、検波部32は、算出した総和に対してブロック毎に重み付けを行い、重み付け後の総和の加算値を検波値として、この検波値を示す検波信号JBを制御部51に供給する。また、検波部32は、制御部51からの制御信号CTeに基づき検波領域を変更する。すなわち、重み付けが「0」にされたブロックは検波値の算出に用いられず、重み付けを高くされたブロックは、検波値に寄与する割合が高くなる。したがって、重み付けを切り換えることによって検波領域を変更する。   The detection unit 32 generates a detection signal JB indicating the brightness of the captured image from the supplied image signal DVa and supplies the detection signal JB to the control unit 51. For example, the detection unit 32 divides the captured image into m × n blocks, and calculates the sum of signals indicating the brightness of each pixel in each block. Further, the detection unit 32 weights the calculated sum for each block, and supplies the detection signal JB indicating the detection value to the control unit 51 using the addition value of the weighted sum as a detection value. Further, the detection unit 32 changes the detection region based on the control signal CTe from the control unit 51. That is, a block with a weight of “0” is not used for calculation of a detection value, and a block with a high weight has a higher contribution to the detection value. Therefore, the detection area is changed by switching the weighting.

図3は検波部32の構成を示している。検波部32のブロック化処理部321は、撮像画像をm×n個のブロックに分割する処理を行い、画像信号DVaをブロック毎の画像信号DBVとしてブロック別輝度算出部322に供給する。   FIG. 3 shows the configuration of the detection unit 32. The block processing unit 321 of the detection unit 32 performs processing for dividing the captured image into m × n blocks, and supplies the image signal DVa to the block-by-block luminance calculation unit 322 as the image signal DBV for each block.

ブロック別輝度算出部322は、画像信号DBVに基づきブロック内の各画素の輝度を総和したブロック別輝度値信号BTをブロック毎に生成して乗算器324に供給する。   The block-by-block luminance calculation unit 322 generates a block-by-block luminance value signal BT in which the luminance of each pixel in the block is totaled based on the image signal DBV and supplies the block-by-block luminance value signal BT to the multiplier 324.

重み係数設定部323は、制御部51から供給された制御信号CTeに基づき、ブロックのそれぞれに対して重み係数Wを設定して、設定した重み係数Wを乗算器324に供給する。   The weighting factor setting unit 323 sets a weighting factor W for each of the blocks based on the control signal CTe supplied from the control unit 51 and supplies the set weighting factor W to the multiplier 324.

乗算器324は、ブロック別輝度算出部322から供給されたブロック別輝度値信号BTに対して重み係数設定部323で設定された重み係数Wを乗算して、検波値算出部325に供給する。   The multiplier 324 multiplies the block-by-block luminance value signal BT supplied from the block-by-block luminance calculation unit 322 by the weighting factor W set by the weighting factor setting unit 323 and supplies the result to the detection value calculation unit 325.

検波値算出部325は、ブロック別輝度値信号BTと重み係数Wの乗算結果を撮像画像内で加算して、加算結果を検波信号JBとして制御部51に供給する。また、検波値算出部325は、撮像画像毎に検波信号JBの生成を行う。   The detection value calculation unit 325 adds the multiplication result of the block-specific luminance value signal BT and the weighting coefficient W in the captured image, and supplies the addition result to the control unit 51 as the detection signal JB. The detection value calculation unit 325 generates a detection signal JB for each captured image.

画像処理部35は、A/D変換部23から供給された画像信号DVaに対して種々の画像処理、例えばホワイトバランス調整やガンマ補正等を行う。また、画像処理部35は、例えばホワイトバランス調整やガンマ補正等が行われた三原色の画像信号を、静止画像または動画像の画像符号化技術に応じた画像信号例えば輝度信号や色差信号等に変換して圧縮伸長処理を行う。画像処理部35は、得られた静止画像または動画像の圧縮符号化信号GDaを記録再生部37出力する。さらに、圧縮伸長処理が行われていない静止画像や動画像の画像信号および/または圧縮符号化信号を外部機器(図示せず)に出力する処理を行う。画像処理部35は、圧縮符号化信号GDbが記録再生部37から供給されたとき、圧縮符号化信号GDbを圧縮符号化処理前の画像信号に戻す処理を行う。さらに、画像処理部35は、画像信号DVaから表示画像信号HGを生成して表示部38に供給する。また、画像処理部35は、制御部51から供給された表示信号HEに基づき、提示画像撮像モードに設定されたことを示す情報等がオンスクリーン表示されている表示画像信号HGの生成等も行う。   The image processing unit 35 performs various image processing, such as white balance adjustment and gamma correction, on the image signal DVa supplied from the A / D conversion unit 23. Further, the image processing unit 35 converts, for example, an image signal of three primary colors subjected to white balance adjustment, gamma correction, and the like into an image signal such as a luminance signal or a color difference signal according to an image encoding technique of a still image or a moving image. The compression / decompression process is performed. The image processing unit 35 outputs the obtained still image or moving image compression-encoded signal GDa to the recording / reproducing unit 37. Furthermore, a process of outputting an image signal and / or a compression-coded signal of a still image or a moving image that has not been subjected to compression / decompression processing to an external device (not shown) is performed. When the compressed encoded signal GDb is supplied from the recording / reproducing unit 37, the image processing unit 35 performs processing to return the compressed encoded signal GDb to the image signal before the compression encoding process. Further, the image processing unit 35 generates a display image signal HG from the image signal DVa and supplies it to the display unit 38. The image processing unit 35 also generates a display image signal HG in which information indicating that the presentation image capturing mode is set is displayed on the screen based on the display signal HE supplied from the control unit 51. .

記録再生部37は、画像処理部35から供給された圧縮符号化信号GDaを、記録媒体例えば半導体メモリや光ディスクあるいは磁気テープ等の記録媒体に記録する。また、記録媒体に記録されている圧縮符号化信号GDbを読み出して画像処理部35に供給する。   The recording / reproducing unit 37 records the compressed encoded signal GDa supplied from the image processing unit 35 on a recording medium such as a semiconductor memory, an optical disk, or a magnetic tape. Further, the compressed encoded signal GDb recorded on the recording medium is read and supplied to the image processing unit 35.

表示部38は、例えば液晶表示素子等を用いて構成されており、画像処理部35から供給された表示画像信号HGに基づいて画像表示を行う。   The display unit 38 is configured using, for example, a liquid crystal display element or the like, and performs image display based on the display image signal HG supplied from the image processing unit 35.

レンズ駆動部41は、撮像素子211の受光面に被写体像が焦点の合った状態で結像されるようにレンズ部11のフォーカスレンズ(図示せず)を駆動する。また、撮像素子211の受光面に結像される被写体像の大きさが所望の大きさとなるようにレンズ部11のズームレンズ(図示せず)を駆動する。   The lens driving unit 41 drives a focus lens (not shown) of the lens unit 11 so that the subject image is focused on the light receiving surface of the image sensor 211. Further, the zoom lens (not shown) of the lens unit 11 is driven so that the size of the subject image formed on the light receiving surface of the image sensor 211 becomes a desired size.

絞り駆動部42は、絞り機構12を駆動して、撮像素子211の受光面に結像される被写体像の光量を調整する。
ストロボ45は、所望の明るさの撮像画像が得られるように、ストロボ光の照射を行う。
The aperture driving unit 42 drives the aperture mechanism 12 to adjust the amount of light of the subject image formed on the light receiving surface of the image sensor 211.
The strobe 45 emits strobe light so that a captured image with a desired brightness can be obtained.

制御部51には、ユーザインタフェース部52が接続されている。ユーザインタフェース部52は、操作キーや外部からの遠隔操作信号を入力するためのインタフェース等で構成されており、ユーザ操作に応じた操作信号PSを生成して制御部51に供給する。   A user interface unit 52 is connected to the control unit 51. The user interface unit 52 includes an operation key and an interface for inputting a remote operation signal from the outside. The user interface unit 52 generates an operation signal PS corresponding to a user operation and supplies the operation signal PS to the control unit 51.

制御部51は、CPU(Central Processing Unit)511や、ROM(Read Only Memory)512、RAM(Random Access Memory)513等で構成されている。CPU511は、ROM512に格納されているプログラムを実行して、操作信号PSに応じた制御信号を生成して各部に供給することで、撮像装置10Aの動作がユーザ操作に応じて動作となるように制御する。なお、RAMは、種々の制御を行う際に情報を一時記憶しておくためのワーキングエリア等として用いられる。   The control unit 51 includes a CPU (Central Processing Unit) 511, a ROM (Read Only Memory) 512, a RAM (Random Access Memory) 513, and the like. The CPU 511 executes a program stored in the ROM 512, generates a control signal corresponding to the operation signal PS, and supplies the control signal to each unit so that the operation of the imaging device 10A becomes an operation according to a user operation. Control. The RAM is used as a working area for temporarily storing information when performing various controls.

また、制御部51は、検波部32から供給された検波信号JBによって示された検波値が予め設定されている基準値となるように制御信号を生成して露出調整部に供給することで、撮像画像における所望の被写体を最適な明るさとする。露出調整部は、少なくとも撮像部21に入射する光量と撮像部21から出力する画像信号Saのゲインと撮像部21で画像信号Saを得る際の露光時間のいずれかを調整する。絞り機構12と絞り駆動部42、タイミング信号発生部22、増幅部213が露出調整部に相当する。例えば、制御部51は、検波信号JBに基づき制御信号CTbを生成して絞り駆動部42に供給することで、撮像画像における所望の被写体が最適な明るさとなるように撮像部21に入射する光量を調整する。また、制御部51は、検波信号JBに基づき制御信号CTcを生成してタイミング信号発生部22に供給することで、撮像画像における所望の被写体が最適な明るさとなるように露光時間を調整する。また、制御部51は、検波信号JBに基づき制御信号CTdを生成して増幅部213に供給することで、撮像画像における所望の被写体が最適な明るさとなるように画像信号Saのゲインを調整する。   Further, the control unit 51 generates a control signal so that the detection value indicated by the detection signal JB supplied from the detection unit 32 becomes a preset reference value, and supplies the control signal to the exposure adjustment unit. A desired subject in the captured image is set to an optimal brightness. The exposure adjustment unit adjusts at least one of the amount of light incident on the imaging unit 21, the gain of the image signal Sa output from the imaging unit 21, and the exposure time when the imaging unit 21 obtains the image signal Sa. The aperture mechanism 12, the aperture drive unit 42, the timing signal generation unit 22, and the amplification unit 213 correspond to an exposure adjustment unit. For example, the control unit 51 generates a control signal CTb based on the detection signal JB and supplies the control signal CTb to the aperture driving unit 42, so that the amount of light incident on the imaging unit 21 so that a desired subject in the captured image has optimum brightness. Adjust. In addition, the control unit 51 generates a control signal CTc based on the detection signal JB and supplies the control signal CTc to the timing signal generation unit 22, thereby adjusting the exposure time so that a desired subject in the captured image has optimum brightness. In addition, the control unit 51 generates the control signal CTd based on the detection signal JB and supplies the control signal CTd to the amplification unit 213, thereby adjusting the gain of the image signal Sa so that a desired subject in the captured image has an optimal brightness. .

さらに、制御部51は、提示画像検出部31から供給された検出信号JAに基づき、提示画像が検出されたことを判別したとき、撮像画像における提示画像を最適な明るさとする撮像モードに切り換える。また制御部51は、検波部32に制御信号CTeを供給して、検波部32の動作を撮像モードに応じて切り換える。   Furthermore, when the control unit 51 determines that the presentation image has been detected based on the detection signal JA supplied from the presentation image detection unit 31, the control unit 51 switches to the imaging mode in which the presentation image in the captured image has the optimum brightness. Further, the control unit 51 supplies a control signal CTe to the detection unit 32 and switches the operation of the detection unit 32 according to the imaging mode.

なお、制御部51は、制御信号CTaを生成してレンズ駆動部41に供給して、撮像素子211の受光面に被写体像が焦点の合った状態で結像されるようにフォーカスレンズを駆動させる処理等を行わせる。また、制御部51は、制御信号CThを生成してストロボ45に供給して、ストロボ発光の制御を行う。   The control unit 51 generates a control signal CTa and supplies the control signal CTa to the lens driving unit 41 to drive the focus lens so that the subject image is focused on the light receiving surface of the image sensor 211. Causes processing to be performed. The control unit 51 also generates a control signal CTh and supplies it to the strobe 45 to control strobe light emission.

次に、撮像装置10Aの動作について説明する。図4は、撮像装置10Aにおける露出制御動作を示すフローチャートである。ステップST1で制御部51は、提示画像検出部31で提示画像検出を行わせる。   Next, the operation of the imaging device 10A will be described. FIG. 4 is a flowchart showing an exposure control operation in the imaging apparatus 10A. In step ST <b> 1, the control unit 51 causes the presentation image detection unit 31 to perform presentation image detection.

図5は、提示画像検出動作を示すフローチャートである。ステップST101で提示画像検出部31は変換処理を行う。提示画像検出部31は、三原色の画像信号DVaから輝度信号DYと色差信号DCを生成してステップST102に進む。   FIG. 5 is a flowchart showing the presentation image detection operation. In step ST101, the presentation image detection unit 31 performs a conversion process. The presentation image detection unit 31 generates a luminance signal DY and a color difference signal DC from the three primary color image signals DVa, and proceeds to step ST102.

ステップST102で提示画像検出部31は2値化処理を行う。提示画像検出部31は、輝度信号DYと色差信号DCを2値化して、輝度2値化信号と色差2値化信号を生成してステップST103に進む。   In step ST102, the presentation image detection unit 31 performs binarization processing. The presented image detection unit 31 binarizes the luminance signal DY and the color difference signal DC, generates a luminance binarized signal and a color difference binarized signal, and proceeds to step ST103.

2値化処理では、上述のように、輝度信号DYや色差信号DCと閾値を比較することで輝度信号DYや色差信号DCの2値化を行い、輝度2値化信号BYや色差2値化信号BCを生成する。2値化処理に用いる閾値は、予め固定したレベルに設定しておくものとしてもよく、撮像画像から提示画像を精度よく検出できるように、撮像画像に応じて閾値を設定するものとしてもよい。   In the binarization process, as described above, the luminance signal DY and the color difference signal DC are binarized by comparing the luminance signal DY and the color difference signal DC with the threshold value, and the luminance binarized signal BY and the color difference binarization are performed. A signal BC is generated. The threshold used for the binarization process may be set at a fixed level in advance, or may be set according to the captured image so that the presented image can be detected from the captured image with high accuracy.

ここで、撮像画像に応じて閾値を設定する場合、例えば統計的手法を用いて閾値の設定を行う。統計的手法としてはモード法や判別分析法等を用いるものとする。モード法は、撮像画像の輝度レベルのヒストグラムが双峰性を有しており、提示画像の部分と他の画像(以下「背景画像」という)の部分が区分されるとき、谷の位置を閾値として設定する方法である。また、判別分析法は、ヒストグラムを輝度レベルに応じて2つに区分してグループ分けを行い、このグループ間の分散が最大となる区分レベルを閾値として設定する方法である。   Here, when setting a threshold value according to a captured image, for example, the threshold value is set using a statistical method. As a statistical method, a mode method, a discriminant analysis method, or the like is used. In the mode method, the brightness level histogram of the captured image has bimodality, and when the portion of the presented image is separated from the portion of another image (hereinafter referred to as “background image”), the valley position is set as a threshold value. It is a method to set as. The discriminant analysis method is a method in which the histogram is divided into two groups according to the luminance level, and the division level that maximizes the variance between the groups is set as a threshold value.

ステップST103で提示画像検出部31は、輝度2値化信号BYを選択してステップST104に進む。   In step ST103, the presented image detection unit 31 selects the luminance binarized signal BY and proceeds to step ST104.

ステップST104で提示画像検出部31は、水平分布を取得してステップST105に進む。また、ステップST105で提示画像検出部31は、垂直分布を取得してステップST106に進む。   In step ST104, the presentation image detection unit 31 acquires a horizontal distribution and proceeds to step ST105. In step ST105, the presentation image detection unit 31 acquires the vertical distribution and proceeds to step ST106.

図6は、水平分布と垂直分布の取得処理を示している。図6の(A)は撮像画像を示しており、図6の(B)は2値化処理後の撮像画像を示している。提示画像検出部31は、ライン毎に輝度信号DYの信号レベルが閾値よりも高い画素をカウントすることで、図6の(C)に示す水平分布を得る。また、垂直方向に輝度信号DYの信号レベルが閾値よりも高い画素をカウントすることで、図6の(D)に示すように、上述の水平方向と直交する垂直方向の分布を得る。   FIG. 6 shows a process for acquiring a horizontal distribution and a vertical distribution. 6A shows a captured image, and FIG. 6B shows a captured image after binarization processing. The presentation image detection unit 31 obtains a horizontal distribution shown in FIG. 6C by counting pixels in which the signal level of the luminance signal DY is higher than the threshold value for each line. Further, by counting pixels in which the signal level of the luminance signal DY is higher than the threshold value in the vertical direction, as shown in FIG. 6D, a distribution in the vertical direction perpendicular to the horizontal direction is obtained.

ステップST106で提示画像検出部31は、提示画像の上辺と下辺の検出処理を行ってステップST107に進む。   In step ST <b> 106, the presented image detection unit 31 performs processing for detecting the upper side and the lower side of the presented image, and proceeds to step ST <b> 107.

図7,図8は、提示画像の上辺と下辺の検出処理を示している。図7の(A)は2値化処理後の撮像画像を示しており、図7の(B)はステップST104で取得した水平分布を示している。ここで、提示画像検出部31は、水平分布を複数領域に区分して、領域毎に対象画素の総和を求める。例えば領域REh1,REh2,REh3,REh4,REh5に区分して、領域毎に対象画素の総和を求める。次に、提示画像検出部31は、撮像画像の上端から下端方向に順次領域を選択して、選択した領域における対象画素の総和と閾値を比較して、総和が閾値を超える領域を検出する。このような処理を行うことで、提示画像の上辺を含む領域を検出することが可能となる。同様に、提示画像検出部31は、撮像画像の下端から上端方向に順次領域を選択して、選択した領域における対象画素の総和と閾値を比較して、総和が閾値を超える領域を検出する。このような処理を行うことで、提示画像の下辺を含む領域を検出することが可能となる。   7 and 8 show the detection processing of the upper side and the lower side of the presented image. FIG. 7A shows a captured image after binarization processing, and FIG. 7B shows the horizontal distribution acquired in step ST104. Here, the presentation image detection unit 31 divides the horizontal distribution into a plurality of regions, and obtains the sum of target pixels for each region. For example, the region is divided into regions REh1, REh2, REh3, REh4, and REh5, and the sum of target pixels is obtained for each region. Next, the presented image detection unit 31 sequentially selects areas from the upper end to the lower end of the captured image, compares the sum of the target pixels in the selected area with a threshold value, and detects an area where the sum exceeds the threshold value. By performing such processing, it is possible to detect a region including the upper side of the presented image. Similarly, the presented image detection unit 31 sequentially selects areas from the lower end to the upper end of the captured image, compares the sum of the target pixels in the selected area with the threshold, and detects an area where the sum exceeds the threshold. By performing such processing, it is possible to detect a region including the lower side of the presented image.

ところで、提示画像の辺が領域の境界に近接していると、領域内の対象画素の総和が大きく異なり、提示画像の辺を含む領域の検出が困難となる場合がある。例えば、提示画像の上辺が領域REh(n)内であって領域REh(n+1)に近接していると、領域内の対象画素の総和が大きな値とならない。ここで、総和が閾値を超える領域の検出が行われると、提示画像の上辺は領域REh(n+1)に含まれると誤って判断されてしまうおそれがある。したがって、水平分布を複数領域に区分する際に、他の領域と重なる部分を有するように領域を設ける。例えば領域REh1〜REh5,REh1s〜REh4sに示すように領域を設ける。この場合、提示画像の上辺が領域REh1と領域REh2の境界付近であって、領域REh1または領域REh2のいずれの位置であっても、領域REh1sにおける対象画素の総和は大きく変動することがない。したがって、このときの領域REh1sにおける対象画素の総和と閾値を比較したとき、提示画像の上辺が領域REh1sに含まれていると判別されるように閾値を設定すれば、提示画像の辺を含む領域を正しく検出することができる。なお、閾値は、予め固定して設けておくものとしてもよく、上述のように統計的手法を用いて各領域における対象画素の総和から閾値を設定するものとしてもよい。   By the way, when the side of the presentation image is close to the boundary of the region, the sum of the target pixels in the region is greatly different, and it may be difficult to detect the region including the side of the presentation image. For example, if the upper side of the presentation image is in the region REh (n) and close to the region REh (n + 1), the sum of the target pixels in the region does not become a large value. Here, if a region where the sum exceeds the threshold value is detected, there is a possibility that the upper side of the presented image is erroneously determined to be included in the region REh (n + 1). Therefore, when the horizontal distribution is divided into a plurality of regions, the regions are provided so as to have portions overlapping with other regions. For example, regions are provided as shown in regions REh1 to REh5 and REh1s to REh4s. In this case, even if the upper side of the presented image is near the boundary between the region REh1 and the region REh2, and the position is in either the region REh1 or the region REh2, the total sum of the target pixels in the region REh1s does not vary greatly. Therefore, if the threshold is set so that the upper side of the presentation image is included in the region REh1s when the total sum of the target pixels in the region REh1s at this time is compared with the threshold, the region including the side of the presentation image Can be detected correctly. The threshold value may be fixed in advance, or may be set from the sum of target pixels in each region using a statistical method as described above.

次に、提示画像検出部31は、検出した提示画像の辺を含む領域例えば上辺を含む領域REh1sにおいて、水平分布におけるライン毎の対象画素の総和を撮像画像の上端から下端方向にライン毎に順次用いて閾値と比較する。提示画像検出部31は、総和が閾値を超えるラインを提示画像の上辺Laとする。同様に、提示画像検出部31は、下辺を含む領域REh4sにおいて、水平分布におけるライン毎の対象画素の総和を撮像画像の下端から上端方向にライン毎に順次用いて閾値と比較して、総和が閾値を超えるラインを提示画像の下辺Lbとする。図8の(A)は2値化処理後の撮像画像を示しており、図8の(B)は水平分布を示している。ここで、領域REh1sが上辺を含む領域として判別されたとき、領域REh1sにおけるライン毎の対象画素の総和を撮像画像の上端から下端方向にライン毎に順次用いて閾値と比較して、総和が閾値を超えるラインを提示画像の上辺Laとする。同様に、領域REh4sが下辺を含む領域として判別されたとき、領域REh4sにおけるライン毎の対象画素の総和を撮像画像の下端から上端方向にライン毎に順次用いて閾値と比較して、総和が閾値を超えるラインを提示画像の下辺Lbとする。   Next, in the region REh1s including the side of the detected presentation image, for example, the region REh1s including the upper side, the presented image detection unit 31 sequentially calculates the sum of the target pixels for each line in the horizontal distribution for each line from the upper end to the lower end of the captured image. Use to compare with threshold. The presentation image detection unit 31 sets a line whose sum exceeds a threshold as the upper side La of the presentation image. Similarly, in the region REh4s including the lower side, the presented image detection unit 31 sequentially uses the sum of the target pixels for each line in the horizontal distribution from the lower end to the upper end of the captured image for each line and compares it with the threshold value. A line exceeding the threshold is set as the lower side Lb of the presentation image. FIG. 8A shows a captured image after binarization processing, and FIG. 8B shows a horizontal distribution. Here, when the region REh1s is determined as the region including the upper side, the sum of the target pixels for each line in the region REh1s is sequentially used for each line from the upper end to the lower end of the captured image and compared with the threshold value. A line exceeding the upper limit La is set as the upper side La of the presentation image. Similarly, when the region REh4s is determined as the region including the lower side, the sum of the target pixels for each line in the region REh4s is sequentially used for each line from the lower end to the upper end of the captured image and compared with the threshold value. A line that exceeds is set as the lower side Lb of the presentation image.

このように、上辺や下辺を含む領域を検出して、検出した領域から提示画像の上辺や下辺を検出することで、例えばノイズ等によって一つのラインの総和が大きくなってしまっても、このラインが提示画像の上辺と誤って判断されてしまうことを防止できる。   In this way, even if the total of one line becomes large due to noise or the like by detecting the area including the upper side and the lower side and detecting the upper side and the lower side of the presentation image from the detected area, this line Can be prevented from being erroneously determined as the upper side of the presented image.

ステップST107で提示画像検出部31は、提示画像の左辺と右辺の検出処理を行ってステップST108に進む。   In step ST107, the presentation image detection unit 31 performs detection processing of the left side and the right side of the presentation image, and proceeds to step ST108.

図9,図10は、提示画像の左辺と右辺の検出処理を示している。図9の(A)は2値化処理後の撮像画像を示しており、図9の(B)はステップST105で取得した垂直分布を示している。ここで、提示画像検出部31は、垂直分布を複数領域例えば領域REv1〜REv6,REv1s〜REv5sに区分して、領域毎に対象画素の総和を求める。次に、提示画像検出部31は、撮像画像の左端から右端方向に順次領域を選択して、選択した領域における対象画素の総和と閾値を比較して、総和が閾値を超える領域を検出する。このような処理を行うことで、提示画像の左辺を含む領域REv2を検出することが可能となる。同様に、提示画像検出部31は、撮像画像の右端から左端方向に順次領域を選択して、選択した領域における対象画素の総和と閾値を比較して、総和が閾値を超える領域を検出する。このような処理を行うことで、提示画像の右辺を含む領域REv5を検出することが可能となる。なお、このときの閾値は、予め固定して設けておくものとしてもよく、上述のように統計的手法を用いて各領域における対象画素の総和から閾値を設定するものとしてもよい。   9 and 10 show the detection processing of the left side and the right side of the presented image. 9A shows a captured image after binarization processing, and FIG. 9B shows the vertical distribution acquired in step ST105. Here, the presentation image detection unit 31 divides the vertical distribution into a plurality of regions, for example, regions REv1 to REv6 and REv1s to REv5s, and obtains the sum of the target pixels for each region. Next, the presented image detection unit 31 sequentially selects areas from the left end to the right end of the captured image, compares the sum of the target pixels in the selected area with a threshold value, and detects an area where the sum exceeds the threshold value. By performing such processing, the region REv2 including the left side of the presented image can be detected. Similarly, the presented image detection unit 31 sequentially selects regions from the right end to the left end of the captured image, compares the sum of the target pixels in the selected region with a threshold value, and detects a region where the sum exceeds the threshold value. By performing such processing, the region REv5 including the right side of the presented image can be detected. The threshold value at this time may be fixed in advance, or may be set from the sum of target pixels in each region using a statistical method as described above.

次に、提示画像検出部31は、検出した領域例えば左辺を含む領域REv2において、垂直分布における画素位置毎の対象画素の総和を撮像画像の左端から右端方向に画素位置毎に順次用いて閾値と比較して、総和が閾値を超える画素位置を提示画像の左辺Lcとする。同様に、提示画像検出部31は、右辺を含む領域REv5において、垂直分布における画素位置毎の対象画素の総和を撮像画像の右端から左端方向に画素位置毎に順次用いて閾値と比較して、総和が閾値を超える画素位置を提示画像の右辺Ldとする。   Next, the presented image detection unit 31 sequentially uses the sum of the target pixels for each pixel position in the vertical distribution in the detected region, for example, the region REv2 including the left side, sequentially from the left end to the right end of the captured image for each pixel position. In comparison, the pixel position where the sum exceeds the threshold value is defined as the left side Lc of the presentation image. Similarly, in the region REv5 including the right side, the presented image detection unit 31 sequentially uses the sum of the target pixels for each pixel position in the vertical distribution for each pixel position in the direction from the right end to the left end of the captured image and compares it with the threshold value. The pixel position where the sum exceeds the threshold is defined as the right side Ld of the presented image.

図10の(A)は2値化処理後の撮像画像を示しており、図10の(B)は垂直分布を示している。ここで、領域REv2が左辺を含む領域として判別されたとき、領域REv2における画素位置毎の対象画素の総和を撮像画像の左端から右端方向に順次用いて閾値と比較して、総和が閾値を超える画素位置を提示画像の左辺Lcとする。同様に、領域REv5が右辺を含む領域として判別されたとき、領域REv5における画素位置毎の対象画素の総和を撮像画像の右端から左端方向にライン毎に順次用いて閾値と比較して、総和が閾値を超えるラインを提示画像の右辺Ldとする。   10A shows a captured image after binarization processing, and FIG. 10B shows a vertical distribution. Here, when the region REv2 is determined as a region including the left side, the sum of the target pixels for each pixel position in the region REv2 is sequentially used from the left end to the right end of the captured image and compared with the threshold, and the sum exceeds the threshold. Let the pixel position be the left side Lc of the presentation image. Similarly, when the region REv5 is determined as the region including the right side, the sum of the target pixels for each pixel position in the region REv5 is sequentially used for each line from the right end to the left end of the captured image and compared with the threshold value. A line exceeding the threshold is set as the right side Ld of the presentation image.

ステップST108で提示画像検出部31は、提示画像であるか否か判別する。提示画像検出部31は、ステップST106,ST107で検出した上辺と下辺および左辺と右辺からアスペクト比を判別する。提示画像検出部31は、このアスペクト比が提示画像のアスペクト比例えばテレビジョン放送で用いられているアスペクト比「4:3」,「16:9」等に近似しているとき、すなわち、判別したアスペクト比が「4:3±α」,「16:9±β」であるとき、ステップST106とステップST107で検出した辺によって囲まれる領域を提示画像と判別して提示画像検出処理を終了して図4のステップST2に進む。なお「α」「β」は、提示画像であると判別するための許容範囲を示す定数であり、予め設定しておくものとする。このように、アスペクト比が所望のアスペクト比に近似しているか否かを判別することで、予め規定されているアスペクト比の提示画像を撮像したとき、撮像画像から提示画像の領域を容易に判別することが可能となる。   In step ST108, the presentation image detection unit 31 determines whether or not the presentation image is present. The presented image detection unit 31 determines the aspect ratio from the upper side and the lower side and the left side and the right side detected in steps ST106 and ST107. The presented image detection unit 31 discriminates when the aspect ratio approximates the aspect ratio of the presented image, for example, the aspect ratio “4: 3”, “16: 9”, etc. used in television broadcasting. When the aspect ratio is “4: 3 ± α” and “16: 9 ± β”, the region surrounded by the sides detected in step ST106 and step ST107 is determined as the presentation image, and the presentation image detection process is terminated. Proceed to step ST2 in FIG. “Α” and “β” are constants indicating an allowable range for determining that the image is a presentation image, and are set in advance. In this way, by determining whether or not the aspect ratio approximates the desired aspect ratio, it is possible to easily determine the area of the presentation image from the captured image when a presentation image with a predetermined aspect ratio is captured. It becomes possible to do.

また、提示画像検出部31は、提示画像の上辺と下辺および左辺と右辺を検出できないときや、検出した上辺と下辺および左辺と右辺に基づいて判別したアスペクト比が所望のアスペクト比に近似していないとき、提示画像を検出していないものとしてステップST109に進む。   In addition, when the presented image detection unit 31 cannot detect the upper and lower sides and the left and right sides of the presented image, the aspect ratio determined based on the detected upper and lower sides and the left and right sides approximates the desired aspect ratio. If not, the process proceeds to step ST109 assuming that the presented image is not detected.

図11は、提示画像であるか否かの判別動作を説明するための図である。例えば、図11の(A)や(B)に示すように上辺Laと下辺Lbおよび左辺Lcと右辺Ldが検出されて、この検出された上辺,下辺,左辺および右辺で囲まれる画像が、提示画像のアスペクト比に近似していないとき、提示画像でないものと判別してステップST109に進む。   FIG. 11 is a diagram for explaining a determination operation as to whether or not the image is a presentation image. For example, as shown in FIGS. 11A and 11B, the upper side La and the lower side Lb, the left side Lc and the right side Ld are detected, and an image surrounded by the detected upper side, lower side, left side and right side is presented. When the aspect ratio of the image is not approximated, it is determined that the image is not a presentation image, and the process proceeds to step ST109.

ステップST109で提示画像検出部31は、提示画像の検出が1度目であるか否かを判別する。提示画像検出部31は、輝度2値化信号を用いて提示画像の検出を行ったとき、提示画像の検出が1度目であるからステップST110に進む。   In step ST109, the presentation image detection unit 31 determines whether the presentation image is detected for the first time. When the presentation image is detected using the luminance binarized signal, the presentation image detection unit 31 proceeds to step ST110 because the presentation image is detected for the first time.

ステップST110で提示画像検出部31は、色差2値化信号を選択してステップST104に戻り、ステップST104からの処理を繰り返す。   In step ST110, the presentation image detection unit 31 selects the color difference binarized signal, returns to step ST104, and repeats the processing from step ST104.

提示画像検出部31は、ステップST104からの処理を繰り返すことで、色差2値化信号に基づいた提示画像の検出を行う。なお、提示画像検出部31は、提示画像の上辺と下辺および左辺と右辺を検出できないときや、検出した上辺と下辺および左辺と右辺に基づいて判別したアスペクト比が所望のアスペクト比に近似していないとき、ステップST108からステップST109に進む。   The presentation image detection unit 31 detects the presentation image based on the color difference binarized signal by repeating the processing from step ST104. The presented image detection unit 31 cannot detect the upper and lower sides and the left and right sides of the presented image, or the aspect ratio determined based on the detected upper and lower sides and the left and right sides approximates the desired aspect ratio. If not, the process proceeds from step ST108 to step ST109.

このように、輝度2値化信号だけでなく色差2値信号を用いて提示画像の検出を行うものとすれば、色の違いから提示画像を検出できるようになる。例えば提示画像と背景画像との輝度差が少ないため、輝度2値化信号に基づいて提示画像と背景画像を区分することが困難な場合でも、提示画像が背景画像とは異なる色を基調とした画像であるとき、色の違いから提示画像を検出できるようになる。この提示画像は、自然風景に比べ大きな輝度値を持つという特徴と色が濃いという特徴を持っている。ここで、色の濃さはYCC空間やLab空間の色空間における色差成分の大きさやHSV空間における彩度の大きさを用いて表すことができる。したがって、色差成分の強度や彩度の大きさを用いて提示画像の検出を行うものとすれば、輝度差に基づいて提示画像と背景画像の区分が困難な場合でも、提示画像と背景画像を区分することが可能となり、精度よく提示画像を検出できるようになる。   Thus, if the presentation image is detected using not only the luminance binarization signal but also the color difference binary signal, the presentation image can be detected from the difference in color. For example, even if it is difficult to distinguish the presentation image from the background image based on the luminance binarization signal because the luminance difference between the presentation image and the background image is small, the presentation image is based on a color different from the background image. When it is an image, the presented image can be detected from the difference in color. This presented image has a feature that it has a larger luminance value and a darker color than natural scenery. Here, the color density can be expressed using the magnitude of the color difference component in the color space of the YCC space or Lab space or the magnitude of the saturation in the HSV space. Therefore, if the presentation image is detected using the intensity of the color difference component and the magnitude of the saturation, the presentation image and the background image can be detected even if it is difficult to distinguish the presentation image and the background image based on the luminance difference. It becomes possible to classify, and a presentation image can be detected with high accuracy.

ステップST109で提示画像検出部31は、提示画像の検出が1度目であるか否かを判別する。提示画像検出部31は、輝度2値化信号と色差2値化信号を用いて提示画像の検出を行っており、提示画像の検出が1度目でないことから処理を終了して図4のステップST2に進む。   In step ST109, the presentation image detection unit 31 determines whether the presentation image is detected for the first time. The presentation image detection unit 31 detects the presentation image using the luminance binarization signal and the color difference binarization signal. Since the presentation image is not detected for the first time, the process ends and step ST2 in FIG. 4 is performed. Proceed to

なお、提示画像の検出は、図4に示す処理に限られるものではない。例えば、撮像画像のエッジ検出を行うことで、提示画像と背景画像の境界を示す輪郭を取得して、この輪郭情報から提示画像の4つの頂点や4つの辺を示す直線を求めて、提示画像を検出するものとしてもよい。   In addition, the detection of a presentation image is not restricted to the process shown in FIG. For example, by performing edge detection of the captured image, a contour indicating the boundary between the presentation image and the background image is acquired, and straight lines indicating four vertices and four sides of the presentation image are obtained from the contour information, and the presentation image is obtained. It is good also as what detects.

図4のステップST2で制御部51は、提示画像撮像モードへの切換条件を満たしているか否かの判別を行う。制御部51は、提示画像撮像モードへの切換条件を満たしていると判別したとき、撮像モードを提示画像撮像モードに設定してステップST3に進む。満たしていないと判別したとき撮像モードを他の撮像モード(例えば通常撮像モード)に設定してステップST5に進む。   In step ST2 of FIG. 4, the control unit 51 determines whether or not the condition for switching to the presentation image capturing mode is satisfied. When the control unit 51 determines that the condition for switching to the presentation image imaging mode is satisfied, the control unit 51 sets the imaging mode to the presentation image imaging mode, and proceeds to step ST3. When it is determined that the condition is not satisfied, the imaging mode is set to another imaging mode (for example, the normal imaging mode), and the process proceeds to step ST5.

制御部51は、提示画像が検出されたフレームの発生状況に応じて、提示画像撮像モードへの切換条件を満たしているか否か判別する。例えば、制御部51は、提示画像が検出されたフレームを生ずる毎にカウントアップを行い、提示画像が検出されていないフレームが生ずる毎にカウントダウンを行う。なお、カウント値の範囲は「0」〜「数十程度」に設定する。ここで、カウント値が撮像モード判定のために予め設定されている閾値(以下「モード判定閾値」という)以上となったときには提示画像撮像モードに設定して、カウント値がモード判定閾値未満であるときは通常撮像モードに設定する。   The control unit 51 determines whether or not the condition for switching to the presentation image capturing mode is satisfied according to the generation state of the frame in which the presentation image is detected. For example, the control unit 51 counts up every time a frame in which a presentation image is detected is generated, and counts down every time a frame in which a presentation image is not detected occurs. Note that the range of the count value is set to “0” to “about several tens”. Here, when the count value is equal to or greater than a threshold value set in advance for determining the imaging mode (hereinafter referred to as “mode determination threshold value”), the presentation image imaging mode is set and the count value is less than the mode determination threshold value If so, set to normal imaging mode.

また、制御部51は、提示画像が検出されたフレームの連続数や、提示画像が検出されていないフレームの連続数に基づいて撮像モードの設定を行うものとしてもよい。例えば、提示画像が検出されたフレームの連続数が所定数となったとき、撮像モードを通常撮像モードから提示画像撮像モードに切り換える。また、提示画像が検出されていないフレームの連続数が所定数となったとき、撮像モードを提示画像撮像モードから通常撮像モードに切り換える。このようにすれば、提示画像の検出状況に応じた撮像モードの切り換えを安定して行うことができる。   Moreover, the control part 51 is good also as what sets the imaging mode based on the continuous number of the frames from which the presentation image was detected, or the continuous number of the frames from which the presentation image was not detected. For example, when the number of consecutive frames in which the presentation image is detected reaches a predetermined number, the imaging mode is switched from the normal imaging mode to the presentation image imaging mode. When the number of consecutive frames in which no presentation image is detected reaches a predetermined number, the imaging mode is switched from the presentation image imaging mode to the normal imaging mode. In this way, it is possible to stably switch the imaging mode according to the detection state of the presented image.

ステップST3で制御部51は、提示画像撮像モード通知処理を行ってステップST4に進む。制御部51は、撮像装置10Aが提示画像撮像モードに設定されていることをユーザに通知する。例えば、制御部51は、提示画像撮像モードに設定されているとき、表示信号HEを生成して画像処理部35に供給して、画像信号DVaと表示信号HEから表示画像信号HGを生成させる。これにより、制御部51は、表示部38の画面上に撮像画像と提示画像撮像モードに設定されたことを示す情報を表示させる。なお、図12は、表示部38で表示されている撮像画像上に、提示画像撮像モードに設定されたことを示すアイコン表示MHを設けた場合を示している。   In step ST3, the control unit 51 performs a presentation image capturing mode notification process and proceeds to step ST4. The control unit 51 notifies the user that the imaging device 10A is set to the presentation image imaging mode. For example, when the presentation image capturing mode is set, the control unit 51 generates the display signal HE and supplies the display signal HE to the image processing unit 35 to generate the display image signal HG from the image signal DVa and the display signal HE. As a result, the control unit 51 displays information indicating that the captured image and the presentation image capturing mode are set on the screen of the display unit 38. FIG. 12 shows a case where an icon display MH indicating that the presentation image imaging mode is set is provided on the captured image displayed on the display unit 38.

ステップST4で制御部51は、検出信号JAに基づき提示画像の位置を判別して、提示画像位置に応じた重み係数設定処理を行いステップST7に進む。   In step ST4, the control unit 51 determines the position of the presentation image based on the detection signal JA, performs weighting coefficient setting processing according to the presentation image position, and proceeds to step ST7.

図13は、検波部32の動作を説明するための図である。検波部32は、撮像画像を図13の(A)に示すように複数のブロック例えば(m×n)に分割する。また、撮像画像が図13の(B)に示す構図とされて提示画像が検出されているときは、提示画像の影響を受けることがないように、提示画像を含んでいないブロックの重みを図13の(C)に示すように高くする。例えば提示画像を含むブロックの重み係数は「0」として、背景画像のブロックの重み係数を高くする。   FIG. 13 is a diagram for explaining the operation of the detection unit 32. The detector 32 divides the captured image into a plurality of blocks, for example (m × n), as shown in FIG. In addition, when the captured image has the composition shown in FIG. 13B and the presentation image is detected, the weight of the block that does not include the presentation image is shown so as not to be affected by the presentation image. Increase as shown in 13 (C). For example, the weight coefficient of the block including the presentation image is set to “0”, and the weight coefficient of the block of the background image is increased.

ステップST5で制御部51は、通常撮像モード通知処理を行ってステップST6に進む。制御部51は、撮像装置10Aが通常撮像モードに設定されていることをユーザに通知する。例えば、制御部51は、提示画像撮像モードに設定されているとき、表示信号HEの供給を停止してアイコン表示MHを消去することで、通常撮像モードに設定されていることをユーザが識別できるようにする。   In step ST5, the control unit 51 performs a normal imaging mode notification process and proceeds to step ST6. The control unit 51 notifies the user that the imaging apparatus 10A is set to the normal imaging mode. For example, when the presentation image imaging mode is set, the control unit 51 can identify that the normal imaging mode is set by stopping the supply of the display signal HE and erasing the icon display MH. Like that.

ステップST6で制御部51は、検波部32を制御して、中央部の重み付けを高くした重み係数設定処理を行いステップST7に進む。すなわち、制御部51は、通常撮像モードであるとき、図13の(D)に示すように撮像画像における中央部のブロックの重みが高くなるように重み係数の設定を行う。   In step ST6, the control unit 51 controls the detection unit 32 to perform a weighting factor setting process in which the weight of the central part is increased, and the process proceeds to step ST7. That is, when in the normal imaging mode, the control unit 51 sets the weighting coefficient so that the weight of the central block in the captured image becomes higher as shown in FIG.

撮像モードに応じて重み係数の設定が行われると、検波部32は、撮像画像に検波領域を設けて、検波領域の画像信号から検波信号JBを生成する。すなわち、検波部32は、撮像画像をブロックに分割して、ブロックにおける各画素の明るさを示す信号の総和に対して重み係数Wの重み付けを行い、重み付け後の総和を加算して検波値Vjbを算出して、この検波値Vjbを示す検波信号JBを生成する。   When the weighting factor is set according to the imaging mode, the detection unit 32 provides a detection area in the captured image and generates a detection signal JB from the image signal in the detection area. That is, the detection unit 32 divides the captured image into blocks, weights the sum of the signals indicating the brightness of each pixel in the block, weights the weight coefficient W, adds the sum after weighting, and detects the detected value Vjb. , And a detection signal JB indicating the detection value Vjb is generated.

ここで、座標(a,b)のブロック内に含まれる各画素の輝度信号の総和をBT(a,b)、座標(a,b)のブロックに対する重み係数をW(a,b)としたとき、検波部32は、式(1)に基づき検波値Vjbを生成する。   Here, the sum of the luminance signals of each pixel included in the block of coordinates (a, b) is BT (a, b), and the weighting factor for the block of coordinates (a, b) is W (a, b). At this time, the detection unit 32 generates a detection value Vjb based on the equation (1).


なお、重み係数の総和を1に正規化することで、正規化された検波値Vjbを得ることができる。

It should be noted that the normalized detection value Vjb can be obtained by normalizing the sum of the weight coefficients to 1.

ステップST7で制御部51は、検波部32で生成された検波信号JBに基づいて、露出制御を行いステップST8に進む。ここで、検波部32では、ステップST4あるいはステップST6の重み係数設定処理によって設定された重み係数Wを用いて検波信号JBが生成される。制御部51は、検波部32で生成された検波信号JBに基づき、少なくとも制御信号CTb,CTc,CTdのいずれかを生成する。制御部51は、生成した制御信号CTbを絞り駆動部42、制御信号CTcをタイミング信号発生部22、制御信号CTdを増幅部213に供給する。制御部51は、適正露出となるように絞り機構12の絞り設定やタイミング信号発生部22による露光時間の調整、増幅部213による画像信号Saのゲイン調整を行う。   In step ST7, the control unit 51 performs exposure control based on the detection signal JB generated by the detection unit 32, and proceeds to step ST8. Here, in the detection part 32, the detection signal JB is produced | generated using the weighting coefficient W set by the weighting coefficient setting process of step ST4 or step ST6. The control unit 51 generates at least one of the control signals CTb, CTc, and CTd based on the detection signal JB generated by the detection unit 32. The control unit 51 supplies the generated control signal CTb to the aperture driving unit 42, the control signal CTc to the timing signal generation unit 22, and the control signal CTd to the amplification unit 213. The control unit 51 performs aperture setting of the aperture mechanism 12, adjustment of exposure time by the timing signal generation unit 22, and gain adjustment of the image signal Sa by the amplification unit 213 so as to achieve proper exposure.

ステップST8で制御部51は、撮像動作の終了であるか否かを判別する。制御部51は、例えば撮像装置10Aの電源オフ操作が行われたり、撮像モードから記録画像を再生する再生モードに切り換える操作が行われたとき、明るさ制御を終了する。また、電源オフ操作や再生モードへの切り換え操作が行われていないときステップST1に戻る。   In step ST8, the control unit 51 determines whether or not the imaging operation is finished. The control unit 51 ends the brightness control when, for example, a power-off operation of the imaging apparatus 10A is performed or an operation for switching from the imaging mode to the playback mode for reproducing the recorded image is performed. When the power-off operation or the switching operation to the reproduction mode is not performed, the process returns to step ST1.

このように、提示画像の位置を検出して検出された提示画像とは異なる位置に検波領域を設定する、すなわち重み付けを高くするブロックに提示画像が含まれないように、重み付けを動的に変化すれば、提示画像の影響を受けることなく明るさ制御が行われる。したがって、提示画像の影響を防止して、提示画像が適切な明るさとされている撮像画像を得ることができる。また、動画像やスライドショーによって提示画像のデザインが動的に変化する場合であっても、この提示画像の変化に追従した明るさ制御が行われることがなく、明るさのふらつき等を防止して見やすい撮像画像を得ることができる。また、提示画像が暗いときに、この提示画像を適切な明るさとして撮像できるようにストロボ発光が行われることを防ぐことができるため、提示画像が適切な明るさとされている撮像画像を得ることができる。
<2.第2の実施の形態>
[提示画像撮像モードのユーザ操作による切替]
In this way, the detection area is set at a position different from the detected presentation image by detecting the position of the presentation image, that is, the weight is dynamically changed so that the presentation image is not included in the block whose weight is increased. Then, brightness control is performed without being affected by the presented image. Accordingly, it is possible to prevent the influence of the presented image and obtain a captured image in which the presented image has an appropriate brightness. In addition, even when the design of the presentation image changes dynamically due to a moving image or a slide show, brightness control that follows the change of the presentation image is not performed, preventing fluctuations in brightness, etc. An easy-to-view captured image can be obtained. In addition, when the presented image is dark, it is possible to prevent the strobe light from being emitted so that the presented image can be captured with an appropriate brightness. Therefore, it is possible to obtain a captured image in which the presented image has an appropriate brightness. Can do.
<2. Second Embodiment>
[Switching the presentation image capture mode by user operation]

ところで、上述の実施の形態では、撮像画像から提示画像を検出する処理を行い、提示画像が検出されたとき、自動的に提示画像撮像モードに撮像モードを切り換えるものとしている。このため、提示画像が検出できないと、提示画像の影響を受けることなく明るさ制御を自動的に行うことができない。また、提示画像の検出精度が低いと検波部は検出された提示画像とは異なる位置に検波領域を正しく設けることができない。   By the way, in the above-described embodiment, the process of detecting the presentation image from the captured image is performed, and when the presentation image is detected, the imaging mode is automatically switched to the presentation image imaging mode. For this reason, if a presentation image cannot be detected, brightness control cannot be performed automatically without being affected by the presentation image. If the detection accuracy of the presented image is low, the detection unit cannot correctly provide a detection region at a position different from the detected presentation image.

そこで、提示画像が検出されないときでも提示画像の影響を受けることなく明るさ制御を行うことができるように、撮像モードの切り換えを手動で行えるものとしてもよい。また、提示画像を撮像する場合、提示画像は撮像画像のほぼ中央に位置することが多いことから、撮像画像の端部すなわち撮像画像の中心部を除いた少なくとも1辺側に検波領域を設けるものとしてもよい。   Therefore, the imaging mode may be switched manually so that the brightness control can be performed without being influenced by the presented image even when the presented image is not detected. In addition, when a presented image is captured, the presented image is often located approximately at the center of the captured image, and therefore a detection region is provided on at least one side excluding the edge of the captured image, that is, the center of the captured image. It is good.

図14は、第2の実施の形態としての撮像装置10Bの構成を示している。なお、図1に示した撮像装置10Aと同じ構成要素には同一の符号を付し、その詳細な説明は省略する。図14に示す撮像装置10Bは、撮像モードの切り換えを手動で行うものであり、図1に示した提示画像検出部31を備えていない。   FIG. 14 shows a configuration of an imaging apparatus 10B as the second embodiment. The same components as those of the imaging device 10A shown in FIG. 1 are denoted by the same reference numerals, and detailed description thereof is omitted. The imaging device 10B illustrated in FIG. 14 manually switches the imaging mode, and does not include the presentation image detection unit 31 illustrated in FIG.

制御部51に接続されたユーザインタフェース部52は、ユーザ操作に応じた操作信号PSを生成して制御部51に供給する。制御部51は、この操作信号PSに応じた制御信号を生成して各部に供給することで、撮像装置10Bの動作がユーザ操作に応じた動作となるように制御する。   The user interface unit 52 connected to the control unit 51 generates an operation signal PS corresponding to the user operation and supplies the operation signal PS to the control unit 51. The control unit 51 generates a control signal corresponding to the operation signal PS and supplies it to each unit, thereby controlling the operation of the imaging device 10B to be an operation corresponding to the user operation.

例えば、ユーザが提示画像撮像モードを選択した場合、制御部51は、提示画像撮像モードを示す操作信号PSを入力する。制御部51は、この提示画像撮像モードを示す操作信号PSを入力すると、検波領域を変更する制御信号CTeを検波部32に出力する。例えば、制御部51は、撮像画像の少なくとも1辺側、例えば図17の(A)に示すように撮像画像の端部に位置するブロックの重み付けを高く、他のブロックの重み付けを「0」とする検波領域を変更する制御信号CTeを検波部32に出力する。   For example, when the user selects the presentation image capturing mode, the control unit 51 inputs an operation signal PS indicating the presentation image capturing mode. When the operation signal PS indicating the presentation image capturing mode is input, the control unit 51 outputs a control signal CTe for changing the detection region to the detection unit 32. For example, the control unit 51 increases the weight of a block located on at least one side of the captured image, for example, at the end of the captured image as illustrated in FIG. 17A, and sets the weight of other blocks to “0”. The control signal CTe for changing the detection region to be output is output to the detection unit 32.

検波部32は、制御部51から供給された制御信号CTeに基づき、撮像画像のブロックのそれぞれに対して重み付けを設定して検波信号JBを求める。この例で、重み付けが「0」にされたブロックは検波値の算出に用いず、重み付けを高くされたブロックは、検波値に寄与する割合が高くなる。このように、重み付けを切り換えることによって検波領域を変更する。   Based on the control signal CTe supplied from the control unit 51, the detection unit 32 sets a weight for each block of the captured image and obtains the detection signal JB. In this example, the block whose weight is set to “0” is not used for calculation of the detection value, and the block whose weight is increased has a high contribution ratio to the detection value. In this way, the detection area is changed by switching the weighting.

また、制御部51は、上述した重み付けを切り替えることによって検波部32の検波領域を変更する方法の他に、撮像画像の各ブロックのうち、検波領域として使用するブロックのみの輝度値を取得する制御信号CTeを生成しても良い。この場合、検波部32は、制御信号CTeに基づいて取得したブロック別の輝度値信号の加算結果を検波信号JBとして制御部51に供給する。   In addition to the method of changing the detection region of the detection unit 32 by switching the weighting described above, the control unit 51 obtains the luminance value of only the block used as the detection region among the blocks of the captured image. The signal CTe may be generated. In this case, the detection unit 32 supplies the addition result of the luminance value signal for each block acquired based on the control signal CTe to the control unit 51 as the detection signal JB.

制御部51は、検波部32により求められた検波信号JBに基づき制御信号CTbを生成して絞り駆動部42に供給することで、撮像画像における所望の被写体が最適な明るさとなるように撮像部21に入射する光量を調整する。また、制御部51は、検波信号JBに基づき制御信号CTcを生成してタイミング信号発生部22に供給することで、撮像画像における所望の被写体が最適な明るさとなるように露光時間を調整する。また、制御部51は、検波信号JBに基づき制御信号CTdを生成して増幅部213に供給することで、撮像画像における所望の被写体が最適な明るさとなるように画像信号Saのゲインを調整する。   The control unit 51 generates a control signal CTb based on the detection signal JB obtained by the detection unit 32 and supplies the control signal CTb to the aperture driving unit 42, so that a desired subject in the captured image has an optimal brightness. The amount of light incident on 21 is adjusted. In addition, the control unit 51 generates a control signal CTc based on the detection signal JB and supplies the control signal CTc to the timing signal generation unit 22, thereby adjusting the exposure time so that a desired subject in the captured image has optimum brightness. In addition, the control unit 51 generates the control signal CTd based on the detection signal JB and supplies the control signal CTd to the amplification unit 213, thereby adjusting the gain of the image signal Sa so that a desired subject in the captured image has an optimal brightness. .

図15は、撮像モードの切り換えを手動で行う場合の撮像モード選択メニュー表示を示している。例えば、制御部51は表示部38の動作を制御して図15の(A)に示すように撮像モードの選択メニューを表示する。また、ユーザインタフェース部52として例えばタッチパネルを用いるものとして、このタッチパネルを表示部38の表示画面上に設けて、表示部38とユーザインタフェース部52でGUI(Graphical User Interface)を構成する。ここで、ユーザが所望の撮像モードのアイコン表示をタッチしたとき、このタッチされた撮像モードへの切り換えを行う。例えば図15の(B)に示すように、提示画像撮像モードに切り換えるアイコン表示「スクリーン&モニタ」がユーザによってタッチされたとき、撮像モードを提示画像撮像モードに切り換える。また、表示部38でカーソル表示を行うものとして、ユーザインタフェース部52のキー操作に応じて、カーソルを移動させて所望の撮像モードを選択できるようにしてもよい。   FIG. 15 shows an imaging mode selection menu display when the imaging mode is switched manually. For example, the control unit 51 controls the operation of the display unit 38 to display an imaging mode selection menu as shown in FIG. Further, for example, a touch panel is used as the user interface unit 52, and this touch panel is provided on the display screen of the display unit 38, and the display unit 38 and the user interface unit 52 constitute a GUI (Graphical User Interface). Here, when the user touches the icon display of the desired imaging mode, the user switches to the touched imaging mode. For example, as shown in FIG. 15B, when the icon display “screen & monitor” for switching to the presentation image imaging mode is touched by the user, the imaging mode is switched to the presentation image imaging mode. In addition, as a cursor display on the display unit 38, a desired imaging mode may be selected by moving the cursor according to a key operation of the user interface unit 52.

図16は、撮像モードの切り換えを手動で行う場合のフローチャートを示している。撮像装置10Bの制御部51は、ステップST21で提示画像撮像モードが選択されているか否かを判別する。制御部51は、ユーザが提示画像撮像モードを選択しているときステップST22に進み、ユーザが提示画像撮像モードを選択していないときステップST24に進む。なお、ユーザが提示画像撮像モードを選択していないときは、他の撮像モード例えば通常撮像モードに設定されるものとする。   FIG. 16 shows a flowchart for manually switching the imaging mode. The control unit 51 of the imaging device 10B determines whether or not the presentation image imaging mode is selected in step ST21. The control unit 51 proceeds to step ST22 when the user has selected the presentation image capturing mode, and proceeds to step ST24 when the user has not selected the presentation image capturing mode. It should be noted that when the user has not selected the presented image capturing mode, another capturing mode, for example, the normal capturing mode is set.

ステップST22で制御部51は、ステップST3と同様に提示画像撮像モード通知処理を行い、撮像装置10Bが提示画像撮像モードに設定されていることをユーザに通知してステップST23に進む。   In step ST22, the control unit 51 performs a presentation image capturing mode notification process in the same manner as in step ST3, notifies the user that the imaging device 10B is set to the presentation image capturing mode, and proceeds to step ST23.

ステップST23で制御部51は、検波部32を制御して、端部の重み付けを高くした重み係数処理を行いステップST26に進む。提示画像を撮像する場合、上述のように、提示画像は撮像画像のほぼ中央に位置することが多い。したがって、制御部51は、検波部32を制御して、撮像画像の少なくとも1辺側に検波領域を設けて、検波信号JBを生成させる。また、制御部51は、上述した重み付けを切り替えることによって検波部32の検波領域を変更する方法の他に、撮像画像の各ブロックのうち、検波領域として使用するブロックのみの輝度値を取得するように検波部32を制御しても良い。この場合、検波部32は、ブロック別の輝度値信号の加算結果を検波信号JBとして制御部51に供給する。   In step ST23, the control unit 51 controls the detection unit 32 to perform a weighting factor process with a higher end weight, and proceeds to step ST26. When a presentation image is captured, the presentation image is often located approximately at the center of the captured image as described above. Therefore, the control unit 51 controls the detection unit 32 to provide a detection region on at least one side of the captured image and generate the detection signal JB. In addition to the method of changing the detection region of the detection unit 32 by switching the weighting described above, the control unit 51 acquires the luminance value of only the block used as the detection region among the blocks of the captured image. Alternatively, the detector 32 may be controlled. In this case, the detection unit 32 supplies the addition result of the luminance value signal for each block to the control unit 51 as the detection signal JB.

ステップST24で制御部51は、ステップST5と同様に通常撮像モード通知処理を行い、撮像装置10Bが通常撮像モードに設定されていることをユーザに通知してステップST25に進む。   In step ST24, the control unit 51 performs normal imaging mode notification processing in the same manner as in step ST5, notifies the user that the imaging device 10B is set to the normal imaging mode, and proceeds to step ST25.

ステップST25で制御部51は、検波部32を制御して、ステップST6と同様に中央部の重み付けを高くした重み係数設定処理を行いステップST26に進む。   In step ST25, the control unit 51 controls the detection unit 32 to perform a weighting factor setting process in which the weight of the central portion is increased as in step ST6, and the process proceeds to step ST26.

ステップST26で制御部51は、ステップST7と同様に、検波部32で生成された検波信号JBに基づいて露出制御を行いステップST27に進む。   In step ST26, similarly to step ST7, the control unit 51 performs exposure control based on the detection signal JB generated by the detection unit 32, and proceeds to step ST27.

ステップST27で制御部51は、撮像動作の終了であるか否かを判別する。制御部51は、例えば撮像装置10Bの電源オフ操作が行われたり、撮像モードから記録画像を再生する再生モードに切り換える操作が行われたとき、明るさ制御を終了する。また、電源オフ操作や再生モードへの切り換え操作が行われていないときステップST21に戻る。   In step ST27, the control unit 51 determines whether or not the imaging operation is finished. The control unit 51 ends the brightness control when, for example, a power-off operation of the imaging device 10B is performed or an operation of switching from the imaging mode to the reproduction mode for reproducing the recorded image is performed. When the power-off operation or the switching operation to the reproduction mode is not performed, the process returns to step ST21.

このようにすれば、提示画像の検出ができない場合でも、提示画像撮像モードに切り換えて、提示画像が適切な明るさとされている撮像画像を得ることができる。また、提示画像の検出精度が低く提示画像の位置を精度良く検出できない場合であっても、提示画像の検出で撮像画像に提示画像が含まれているか否かの検出を行う。そして、撮像画像に提示画像が含まれていることを検出したとき、撮像モードを提示画像撮像モードに自動的に切り換えて、撮像画像の少なくとも1辺側に検波領域を設ければ、提示画像が適切な明るさとされている撮像画像を得ることができる。   In this way, even when the presentation image cannot be detected, it is possible to switch to the presentation image imaging mode and obtain a captured image in which the presentation image has an appropriate brightness. Further, even when the detection accuracy of the presentation image is low and the position of the presentation image cannot be detected with high accuracy, the detection of the presentation image detects whether the presentation image is included in the captured image. When it is detected that the presented image is included in the captured image, the captured image is automatically switched to the presented image capturing mode, and a detection area is provided on at least one side of the captured image. A captured image having an appropriate brightness can be obtained.

このように、提示画像撮像モードとされたとき、撮像画像の少なくとも1辺側、例えば図17の(A)に示すように撮像画像の端部に位置するブロックの重み付けを高く、他のブロックの重み付けを「0」(ハッチングで示すブロック)とする。この場合、図17の(B),(C)に示すように提示画像を撮像したとき、図17の(D),(E)に示すように、撮像画像の端部に位置するブロックの重み付けが高くされて、提示画像のブロックは検波領域から除かれる。したがって、提示画像を検出できない場合でも、例えば提示画像が青色や黒色を基調とした画像であるとき、提示画像における黒色等の暗い部分が浮き上がりを生じたり、提示画像における白い文字や絵等の明るい部分は明るくなりすぎてつぶれてしまうことない撮像画像を得ることができる。また、提示画像が暗いときでも、ストロボ発光が停止されて提示画像が適切な明るさとされている撮像画像を得ることができる。   As described above, when the presentation image capturing mode is set, the weight of the block positioned at least on one side of the captured image, for example, at the end of the captured image as shown in FIG. The weighting is “0” (blocks indicated by hatching). In this case, when the presentation image is captured as shown in FIGS. 17B and 17C, the weights of the blocks located at the ends of the captured image are shown in FIGS. 17D and 17E. Is increased, and the block of the presented image is removed from the detection region. Therefore, even when the presentation image cannot be detected, for example, when the presentation image is an image based on blue or black, a dark portion such as black in the presentation image may be lifted or a white character or a picture in the presentation image may be bright It is possible to obtain a captured image in which the portion is too bright and is not crushed. Further, even when the presented image is dark, it is possible to obtain a captured image in which the strobe light emission is stopped and the presented image has an appropriate brightness.

また、部屋の照明をオフ状態としてスクリーンに投影された提示画像を撮像したとき、この提示画像が最適な明るさとなるように露出制御を固定した場合、部屋の照明がオン状態とされると、部屋全体が明るくなるだけでなく図18の(A)のように提示画像が明るすぎて見づらいものとなる。しかし、提示画像撮像モードとされたとき、図17の(A)に示すように重み付けが行われると、図18の(B)に示すように撮像画像の端部から検波値が算出されて、部屋の明るさに応じて明るさ制御が行われる。したがって、図18の(C)のように部屋の照明状態に合わせて明るさが抑えられた撮像画像を自動的に得ることができる。   In addition, when capturing the presentation image projected on the screen with the room illumination turned off, when the exposure control is fixed so that the presentation image has an optimum brightness, when the room illumination is turned on, Not only does the entire room become bright, but the presented image is too bright and difficult to see as shown in FIG. However, when the presentation image capturing mode is set and weighting is performed as illustrated in FIG. 17A, the detection value is calculated from the end of the captured image as illustrated in FIG. Brightness control is performed according to the brightness of the room. Therefore, as shown in FIG. 18C, it is possible to automatically obtain a captured image whose brightness is suppressed in accordance with the illumination state of the room.

また、提示画像撮像モードにおける重み係数の設定処理は、図17の(A)に示すように、撮像画像における上下左右の端部の重み付けを高くする場合に限られるものではない。例えばテレビジョン番組等では、表示画像のアスペクト比を「16:9」とすることが多くなってきている。一方、スクリーンに投影される提示画像は、アスペクト比が「4:3」とされる場合が多い。このため、スクリーンに投影されている提示画像を正面から撮像すると、図19の(A)に示すように撮像画像の左右端側には提示画像が映り込まないことになる。したがって、図19の(B)に示すように、左右端のブロックの重み付けを高くして、他のブロックの重み付けを低く例えば「0」とすることで、投影されている提示画像の影響をより少なくして、明るさ制御を容易に行うことができる。   In addition, the setting process of the weighting coefficient in the presentation image capturing mode is not limited to the case where the weights of the upper, lower, left, and right edges of the captured image are increased as shown in FIG. For example, in television programs and the like, the aspect ratio of display images is often set to “16: 9”. On the other hand, the presentation image projected on the screen often has an aspect ratio of “4: 3”. For this reason, when the presentation image projected on the screen is captured from the front, the presentation image is not reflected on the left and right ends of the captured image as shown in FIG. Accordingly, as shown in FIG. 19B, by increasing the weights of the left and right end blocks and decreasing the weights of the other blocks to, for example, “0”, the influence of the projected presentation image is further increased. The brightness can be easily controlled with less.

第1の実施の形態に係る撮像装置の構成を示す図である。It is a figure which shows the structure of the imaging device which concerns on 1st Embodiment. 提示画像検出部の構成を示す図である。It is a figure which shows the structure of a presentation image detection part. 検波部の構成を示す図である。It is a figure which shows the structure of a detection part. 撮像装置における露出制御動作を示すフローチャートである。It is a flowchart which shows the exposure control operation | movement in an imaging device. 提示画像検出動作を示すフローチャートである。It is a flowchart which shows a presentation image detection operation | movement. 水平分布と垂直分布の取得処理を示す図である。It is a figure which shows the acquisition process of a horizontal distribution and a vertical distribution. 提示画像の上辺と下辺の検出処理を示す図である。It is a figure which shows the detection process of the upper side and lower side of a presentation image. 提示画像の上辺と下辺の検出処理を示す図である。It is a figure which shows the detection process of the upper side and lower side of a presentation image. 提示画像の左辺と右辺の検出処理を示す図である。It is a figure which shows the detection process of the left side and right side of a presentation image. 提示画像の左辺と右辺の検出処理を示す図である。It is a figure which shows the detection process of the left side and right side of a presentation image. 提示画像であるか否かの判別動作を説明するための図である。It is a figure for demonstrating the discrimination | determination operation | movement of whether it is a presentation image. 提示画像撮像モードに設定されたことを示すアイコン表示を設けた場合を示す図である。It is a figure which shows the case where the icon display which shows having been set to the presentation image imaging mode is provided. 検波部の動作を説明するための図である。It is a figure for demonstrating operation | movement of a detection part. 第2の実施の形態に係る撮像装置の構成を示す図である。It is a figure which shows the structure of the imaging device which concerns on 2nd Embodiment. 撮像モード選択メニュー表示を示す図である。It is a figure which shows an imaging mode selection menu display. 撮像モードの切り換えを手動で行う場合のフローチャートである。It is a flowchart in the case of switching an imaging mode manually. 提示画像撮像モードとされたときの動作を示す図である。It is a figure which shows operation | movement when it is set as presentation image imaging mode. 照明がオン状態とされたときの動作を示す図である。It is a figure which shows operation | movement when illumination is turned on. 重み付けの他の動作を示す図である。It is a figure which shows other operation | movement of weighting. 撮像装置で例えばプレゼンテーションの様子を撮像する場合を示した図である。It is the figure which showed the case where the mode of a presentation is imaged with an imaging device, for example. 撮像装置で例えばスクリーンに投影された提示画像を撮像する場合を示した図である。It is the figure which showed the case where the presentation image projected, for example on the screen with an imaging device is imaged. 撮像装置で例えばテレビジョン装置の画面上に表示されている提示画像を撮像する場合を示した図である。It is the figure which showed the case where the presentation image currently displayed on the screen of a television apparatus is imaged with an imaging device.

符号の説明Explanation of symbols

10A,10B・・・撮像装置、11・・・レンズ部、12・・・絞り機構、21・・・撮像部、22・・・タイミング信号発生部、23・・・A/D変換部、31・・・提示画像検出部、32・・・検波部、35・・・画像処理部、37・・・記録再生部、38・・・表示部、41・・・レンズ駆動部、42・・・絞り駆動部、45・・・ストロボ、51・・・制御部、52・・・ユーザインタフェース部、211・・・撮像素子、212・・・CDS部、213・・・増幅部、351・・・ホワイトバランス(WB)調整部、351a・・・ホワイトバランス検波部、351b・・・ホワイトバランス補正係数設定部、351c・・・補正処理部、352・・・ガンマ補正部、311・・・変換処理部、312,313・・・2値化処理部、315・・・水平分布取得部、316・・・垂直分布取得部、317・・・検出処理部、321・・・ブロック化処理部、322・・・ブロック別輝度算出部、323・・・係数設定部、324・・・乗算器、325・・・検波値算出部   DESCRIPTION OF SYMBOLS 10A, 10B ... Imaging device, 11 ... Lens part, 12 ... Diaphragm mechanism, 21 ... Imaging part, 22 ... Timing signal generation part, 23 ... A / D conversion part, 31 ... presented image detection unit, 32 ... detection unit, 35 ... image processing unit, 37 ... recording / reproducing unit, 38 ... display unit, 41 ... lens drive unit, 42 ... Diaphragm drive unit, 45... Strobe, 51... Control unit, 52... User interface unit, 211... Image sensor, 212. White balance (WB) adjustment unit, 351a, white balance detection unit, 351b, white balance correction coefficient setting unit, 351c, correction processing unit, 352, gamma correction unit, 311 ... conversion processing Part, 312,313 ... binarization processing 315 ... Horizontal distribution acquisition unit, 316 ... Vertical distribution acquisition unit, 317 ... Detection processing unit, 321 ... Blocking processing unit, 322 ... Brightness calculation unit for each block, 323 ... Coefficient setting unit, 324 ... multiplier, 325 ... detection value calculation unit

Claims (10)

被写体を撮像して画像信号を得る撮像部と、
前記撮像部で得られた画像信号に基づく撮像画像に対して検波領域を設定して、前記検波領域の画像信号から検波値を算出する検波部と、
露出調整を行う露出調整部と、
前記検波値が所定値となるように前記露出調整部を制御する制御部と、
前記撮像画像における輝度の違いに基づいて、前記撮像画像から画像提示装置によって提示された提示画像の検出を行う提示画像検出部を備え、
前記提示画像検出部が前記提示画像を検出したとき、前記検波部は前記検出された提示画像とは異なる位置に前記検波領域を設定する撮像装置。
An imaging unit that captures an image of a subject and obtains an image signal;
A detection unit that sets a detection region for a captured image based on an image signal obtained by the imaging unit, and calculates a detection value from the image signal in the detection region;
An exposure adjustment section for adjusting the exposure;
A control unit that controls the exposure adjustment unit so that the detection value becomes a predetermined value;
A presentation image detection unit that detects a presentation image presented by the image presentation device from the captured image based on a difference in luminance in the captured image;
An imaging device that sets the detection region at a position different from the detected presentation image when the presentation image detection unit detects the presentation image.
前記提示画像検出部において、前記撮像画像に前記提示画像が含まれているか否かの検出のみを行う場合、前記検波部は、前記撮像画像に前記提示画像が含まれていることを検出したとき、前記撮像画像の中心部を除いた少なくとも1辺側に前記検波領域を設ける、請求項1記載の撮像装置。   When the presentation image detection unit only detects whether or not the presentation image is included in the captured image, the detection unit detects that the presentation image is included in the captured image The imaging apparatus according to claim 1, wherein the detection region is provided on at least one side excluding a center portion of the captured image. 前記撮像部は、前記提示画像よりも横長のアスペクト比である前記撮像画像の画像信号を得るものとし、
前記検波部は、前記アスペクト比の違いによって前記撮像画像に生じた前記提示画像でない領域に前記検波領域を設ける、請求項2記載の撮像装置。
The imaging unit obtains an image signal of the captured image that has a horizontally long aspect ratio than the presented image;
The imaging device according to claim 2, wherein the detection unit provides the detection region in a region that is not the presentation image generated in the captured image due to the difference in the aspect ratio.
ユーザ操作に応じた操作信号を生成するユーザインタフェース部を備え、
前記操作信号が前記提示画像の撮像を行う撮像モードの選択操作を示したとき、前記検波部は前記撮像画像の少なくとも1辺側に前記検波領域を設ける、請求項1または請求項2記載の撮像装置。
A user interface unit that generates an operation signal corresponding to a user operation;
The imaging according to claim 1 or 2, wherein when the operation signal indicates an imaging mode selection operation for capturing the presented image, the detection unit provides the detection region on at least one side of the captured image. apparatus.
前記露出可変部は、少なくとも前記撮像部に入射する光量と前記撮像部から出力する画像信号のゲインと前記撮像部で前記画像信号を得る際の露光時間のいずれかを可変する、請求項1記載の撮像装置。   The exposure variable unit varies at least one of a light amount incident on the imaging unit, a gain of an image signal output from the imaging unit, and an exposure time when the image signal is obtained by the imaging unit. Imaging device. 前記提示画像検出部は、
前記撮像画像の画素毎に輝度と閾値の比較を行い、比較結果を示す2値化信号を生成する2値化処理部と、
前記2値化信号から前記閾値を超える画素の水平方向および垂直方向の分布を取得する分布取得部と、
前記水平分布と垂直分布から前記提示画像の水平方向および垂直方向の辺を検出して、該検出した辺で囲まれる領域を前記提示画像の位置とする検出部と
を備える請求項1記載の撮像装置。
The presented image detection unit
A binarization processing unit that compares a luminance and a threshold for each pixel of the captured image and generates a binarized signal indicating the comparison result;
A distribution acquisition unit that acquires horizontal and vertical distributions of pixels exceeding the threshold from the binarized signal;
The imaging according to claim 1, further comprising: a detection unit that detects horizontal and vertical sides of the presentation image from the horizontal distribution and vertical distribution, and sets a region surrounded by the detected sides as the position of the presentation image. apparatus.
被写体を撮像部によって撮像して画像信号を得る撮像工程と、
前記得られた画像信号に基づく撮像画像に対して検波領域を設定して、前記検波領域の画像信号から検波値を算出する検波工程と、
前記撮像画像から画像提示装置によって提示された提示画像の検出を、前記撮像画像における輝度の違いに基づいて行う提示画像検出工程と、
前記検波値を所定の値とする露出調整を行う露出調整工程とを設け、
前記提示画像検出工程で前記提示画像が検出されたとき、前記検波工程では前記検出された提示画像とは異なる位置に前記検波領域を設定する露出制御方法。
An imaging step of obtaining an image signal by imaging an object by an imaging unit;
A detection step of setting a detection region for a captured image based on the obtained image signal and calculating a detection value from the image signal of the detection region;
A presentation image detection step of detecting the presentation image presented by the image presentation device from the captured image based on a difference in luminance in the captured image;
An exposure adjustment step for performing exposure adjustment with the detection value as a predetermined value;
An exposure control method for setting the detection area at a position different from the detected presentation image in the detection step when the presentation image is detected in the presentation image detection step.
被写体を撮像して画像信号を得る撮像部と、
前記撮像部で得られた画像信号に基づく撮像画像に対して検波領域を設定して、前記検波領域の画像信号から検波値を算出する検波部と、
露出調整を行う露出調整部と、
前記検波値が所定値となるように前記露出調整部を制御する制御部と、
画像提示装置によって提示された提示画像の撮像を行う提示画像撮像モードである場合に、前記検波部は、前記撮像画像の中心部を除いた少なくとも1辺側に前記検波領域を設ける、撮像装置。
An imaging unit that captures an image of a subject and obtains an image signal;
A detection unit that sets a detection region for a captured image based on an image signal obtained by the imaging unit, and calculates a detection value from the image signal in the detection region;
An exposure adjustment section for adjusting the exposure;
A control unit that controls the exposure adjustment unit so that the detection value becomes a predetermined value;
An imaging apparatus in which the detection unit provides the detection area on at least one side excluding the central part of the captured image in a presentation image imaging mode in which a presentation image presented by an image presentation apparatus is captured.
ユーザ操作に応じた操作信号を生成するユーザインタフェース部を備え、
前記操作信号が前記提示画像撮像モードの選択操作を示したとき、前記検波部は前記撮像画像の少なくとも1辺側に前記検波領域を設ける、請求項8記載の撮像装置。
A user interface unit that generates an operation signal corresponding to a user operation;
The imaging apparatus according to claim 8, wherein when the operation signal indicates an operation for selecting the presentation image imaging mode, the detection unit provides the detection area on at least one side of the captured image.
被写体を撮像部によって撮像して画像信号を得る撮像工程と、
前記得られた画像信号に基づく撮像画像に対して検波領域を設定して、前記検波領域の画像信号から検波値を算出する検波工程と、
前記検波値を所定の値とする露出調整を行う露出調整工程と、
画像提示装置によって提示される提示画像の撮像を行う提示画像撮像モードを選択するモード選択工程とを設け、
前記モード選択工程で前記提示画像撮像モードが選択された場合に、前記検波工程では、前記撮像画像の中心部を除いた少なくとも1辺側に前記検波領域を設ける露出制御方法。
An imaging step of obtaining an image signal by imaging an object by an imaging unit;
A detection step of setting a detection region for a captured image based on the obtained image signal and calculating a detection value from the image signal of the detection region;
An exposure adjustment step of performing exposure adjustment with the detection value as a predetermined value;
A mode selection step of selecting a presentation image imaging mode for imaging a presentation image presented by the image presentation device;
An exposure control method for providing the detection region on at least one side excluding the center of the captured image in the detection step when the presentation image capturing mode is selected in the mode selection step.
JP2008235245A 2008-04-04 2008-09-12 Imaging apparatus and exposure control method Active JP4479843B2 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2008235245A JP4479843B2 (en) 2008-04-04 2008-09-12 Imaging apparatus and exposure control method
US12/414,187 US8144241B2 (en) 2008-04-04 2009-03-30 Imaging apparatus, image processing apparatus, and exposure control method
EP09156807A EP2107798B1 (en) 2008-04-04 2009-03-31 Imaging apparatus, image processing apparatus, and exposure control method
DE602009000430T DE602009000430D1 (en) 2008-04-04 2009-03-31 Imaging apparatus, image processing apparatus and exposure control method

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2008098644 2008-04-04
JP2008235245A JP4479843B2 (en) 2008-04-04 2008-09-12 Imaging apparatus and exposure control method

Publications (2)

Publication Number Publication Date
JP2009268056A JP2009268056A (en) 2009-11-12
JP4479843B2 true JP4479843B2 (en) 2010-06-09

Family

ID=41156827

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008235245A Active JP4479843B2 (en) 2008-04-04 2008-09-12 Imaging apparatus and exposure control method

Country Status (2)

Country Link
JP (1) JP4479843B2 (en)
CN (1) CN101552873A (en)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009251902A (en) * 2008-04-04 2009-10-29 Sony Corp Imaging processing apparatus, image processing method, and imaging device
US8144241B2 (en) 2008-04-04 2012-03-27 Sony Corporation Imaging apparatus, image processing apparatus, and exposure control method
CN102948152B (en) * 2010-06-22 2015-09-16 富士胶片株式会社 Imaging device and formation method
JP5869808B2 (en) 2011-09-02 2016-02-24 キヤノン株式会社 Imaging apparatus and control method thereof
US9596398B2 (en) * 2011-09-02 2017-03-14 Microsoft Technology Licensing, Llc Automatic image capture
CN103247069B (en) * 2013-05-16 2016-08-10 中国电子科技集团公司第四十一研究所 Ultraviolet scene simulation method and system based on emittance characteristic and spectral characteristic
US9819855B2 (en) * 2015-10-21 2017-11-14 Google Inc. Balancing exposure and gain at an electronic device based on device motion and scene distance
JP2018022935A (en) * 2016-08-01 2018-02-08 ソニー株式会社 IMAGING DEVICE AND IMAGING DEVICE CONTROL METHOD
CN106937049B (en) * 2017-03-09 2020-11-27 Oppo广东移动通信有限公司 Depth-based portrait color processing method, processing device and electronic device
CN110915204B (en) * 2017-07-21 2022-07-26 索尼公司 Image processing apparatus, image processing method, storage medium, and imaging apparatus
CN120765662B (en) * 2025-09-11 2025-12-30 辽宁虎驰科技传媒有限公司 Printing image-text defect detection method based on machine vision

Also Published As

Publication number Publication date
CN101552873A (en) 2009-10-07
JP2009268056A (en) 2009-11-12

Similar Documents

Publication Publication Date Title
JP4479843B2 (en) Imaging apparatus and exposure control method
US9584733B2 (en) High dynamic range transition
US8144241B2 (en) Imaging apparatus, image processing apparatus, and exposure control method
US8502913B2 (en) Video processing apparatus and video processing method
JP5968068B2 (en) Imaging apparatus for controlling exposure, control method for imaging apparatus, program, and recording medium
US20120133797A1 (en) Imaging apparatus, imaging method and computer program
US9413946B2 (en) Imaging apparatus and imaging method
KR101579736B1 (en) A device a method and a computer-readable storage medium for reducing noise
US10271029B2 (en) Image pickup apparatus and method of controlling an image pickup apparatus
JP2012010048A (en) Image signal processing device
JP4479820B2 (en) Image processing apparatus, image processing method, and imaging apparatus
JP4557036B2 (en) Image processing apparatus, image processing method, and imaging apparatus
JP4479819B2 (en) Imaging apparatus and imaging method
JP5202375B2 (en) Imaging apparatus, image processing method, and program
US12526527B2 (en) Imaging device, method for controlling imaging device and non-transitory computer-readable storage medium with improving brightness through gradation correction
JP5398562B2 (en) Tracking frame initial position setting device and operation control method thereof
CN1863321B (en) White balance control device, method and image capture device
JP2011160062A5 (en)
EP2107798B1 (en) Imaging apparatus, image processing apparatus, and exposure control method
JP6701299B2 (en) Image processing apparatus and image processing method
JPH06121214A (en) Image recorder
JP2009303061A (en) Image processing apparatus and control method thereof
JP2009251902A (en) Imaging processing apparatus, image processing method, and imaging device
JP2009053428A (en) Electronic camera
JP2016126046A (en) Focal point detecting device and focal point detecting method

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20090911

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20091111

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100223

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100308

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130326

Year of fee payment: 3