Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5458877B2 - Imaging apparatus and imaging program - Google Patents
[go: Go Back, main page]

JP5458877B2 - Imaging apparatus and imaging program - Google Patents

Imaging apparatus and imaging program Download PDF

Info

Publication number
JP5458877B2
JP5458877B2 JP2009295681A JP2009295681A JP5458877B2 JP 5458877 B2 JP5458877 B2 JP 5458877B2 JP 2009295681 A JP2009295681 A JP 2009295681A JP 2009295681 A JP2009295681 A JP 2009295681A JP 5458877 B2 JP5458877 B2 JP 5458877B2
Authority
JP
Japan
Prior art keywords
image
unit
region
area
designated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2009295681A
Other languages
Japanese (ja)
Other versions
JP2011135538A (en
Inventor
憲秋 小澤
悦伸 堀田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2009295681A priority Critical patent/JP5458877B2/en
Publication of JP2011135538A publication Critical patent/JP2011135538A/en
Application granted granted Critical
Publication of JP5458877B2 publication Critical patent/JP5458877B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Indication In Cameras, And Counting Of Exposures (AREA)
  • Studio Devices (AREA)
  • Telephone Function (AREA)

Description

本件は、撮像装置、及び撮像プログラムに関する。   This case relates to an imaging apparatus and an imaging program.

近年、デジタルカメラやカメラ付携帯電話の普及に伴い、ユーザが撮影したデジタル画像をウェブ上にアップロードしたり、また、電子メールに添付したりする機会が増加している。デジタルカメラ等で被写体を撮影する際、ユーザはデジタルカメラに備えられた表示装置で被写体を確認しながら撮影を行うが、撮影したくない部分が撮影領域に含まれてしまうことがある。この場合、撮影後に撮影したかった部分のみを画像データから切り出すことも可能であるが、画像データをパーソナルコンピュータ(以下、PC)に移動し、特別なソフトを用いて画像データを加工する必要があり、作業が煩雑である。そこで、撮影した画像の一部の領域のみを保存する撮像装置が提案されている(例えば、特許文献1及び2)。   In recent years, with the spread of digital cameras and camera-equipped mobile phones, there are increasing opportunities for users to upload digital images taken on the web or attach them to e-mails. When a subject is photographed with a digital camera or the like, the user performs photographing while confirming the subject with a display device provided in the digital camera, but a portion that is not desired to be photographed may be included in the photographing region. In this case, it is possible to cut out only the part that was desired to be taken after the photographing, but it is necessary to move the image data to a personal computer (hereinafter referred to as a PC) and process the image data using special software. Yes, the work is complicated. In view of this, an imaging apparatus that saves only a partial area of a captured image has been proposed (for example, Patent Documents 1 and 2).

特開2002−101378号公報JP 2002-101378 A 特開平5−191769号公報JP-A-5-191769

しかしながら、特許文献1及び2の技術では、撮影画像全体の中から、撮影したかった部分のみを切り出して保存するため、解像度の高い画像を撮影できるデジタルカメラであっても、その性能を十分に生かしきれていない可能性がある。   However, since the techniques of Patent Documents 1 and 2 cut out and save only the portion that was desired to be captured from the entire captured image, even a digital camera that can capture a high-resolution image has sufficient performance. There is a possibility that it is not fully utilized.

本件は、上記の事情に鑑みて成されたものであり、撮像装置の性能を生かした画像の撮影を容易に行える撮像装置及び撮像プログラムを提供することを目的とする。   The present invention has been made in view of the above circumstances, and an object thereof is to provide an imaging apparatus and an imaging program that can easily take an image using the performance of the imaging apparatus.

上記課題を解決するために、明細書開示の撮像装置は、撮像部が撮像する画像を表示する表示部と、被撮像物を含む領域の指定を受付ける領域指定受付部と、前記撮像部が撮像する第1の画像において、前記撮像部が前記第1の画像よりも前に撮像した第2の画像における前記領域と前記被撮像物との位置関係を維持するような前記領域の位置及び大きさを計算する領域計算部と、前記表示部に、前記第1の画像における前記領域を示す枠、前記領域の中心、及び前記第1の画像の中心を表示する表示制御部と、を備え、前記領域指定受付部は、前記表示部上に固定表示されるポインタを使用して前記表示部に表示される第3の画像上で指定された、前記被撮像物を含む領域を定義する第1の点と、前記第1の点を指定した後に前記表示部に表示される前記第3の画像とは異なる第4の画像上で前記ポインタを使用して指定された、前記領域を定義する第2の点と、に基づいて、前記領域の指定を受付ける
In order to solve the above problems, an imaging device disclosed in the specification includes a display unit that displays an image captured by an imaging unit, a region designation receiving unit that accepts designation of a region including an object to be captured, and the imaging unit that captures an image. In the first image, the position and size of the region that maintains the positional relationship between the region and the object to be imaged in the second image captured by the imaging unit before the first image. An area calculation unit that calculates the image, and a display control unit that displays the frame indicating the region in the first image, the center of the region, and the center of the first image on the display unit , The area designation receiving unit defines a first area that includes the object to be imaged and is designated on a third image displayed on the display unit using a pointer that is fixedly displayed on the display unit. After specifying the point and the first point, From said third image represented specified using the pointer on different fourth image, and a second point defining the region, based on, accepts the designation of the area.

上記課題を解決するために、明細書開示の撮像プログラムは、撮像装置が撮像する画像において被撮像物を含む領域の指定を受付ける領域指定受付ステップと、前記撮像装置が撮像する第1の画像において、前記撮像装置が前記第1の画像よりも前に撮像した第2の画像における前記領域と前記被撮像物との位置関係を維持するような前記領域の位置及び大きさを計算する計算ステップと、前記計算ステップでの計算結果に基づいて、前記第1の画像における前記領域を示す枠、前記領域の中心、及び前記第1の画像の中心を前記撮像装置が備える表示部に表示する表示ステップとを、をコンピュータに実行させ、前記領域指定受付ステップでは、前記表示部上に固定表示されるポインタを使用して前記表示部に表示される第3の画像上で指定された、前記被撮像物を含む領域を定義する第1の点と、前記第1の点を指定した後に前記表示部に表示される前記第3の画像とは異なる第4の画像上で前記ポインタを使用して指定された、前記領域を定義する第2の点と、に基づいて、前記領域の指定を受付ける。 In order to solve the above-described problem, an imaging program disclosed in the specification includes: an area designation receiving step for accepting designation of an area including an object to be captured in an image captured by an imaging apparatus; and a first image captured by the imaging apparatus. A calculation step for calculating a position and a size of the region so as to maintain a positional relationship between the region and the object to be imaged in the second image captured by the imaging device before the first image; And a display step of displaying a frame indicating the region in the first image, a center of the region, and a center of the first image on a display unit included in the imaging device based on a calculation result in the calculation step. preparative, cause the computer to execute, in the area designation accepting step, a finger in the third image on which is displayed on the display unit the display unit using a pointer that is fixedly displayed on the The first point defining the region including the object to be imaged and the fourth image different from the third image displayed on the display unit after the first point is designated The designation of the region is accepted based on a second point that defines the region, designated using a pointer.

明細書開示の撮像装置及び撮像プログラムによれば、撮像装置の性能を生かした画像の撮影を容易に行える。   According to the imaging device and the imaging program disclosed in the specification, it is possible to easily capture an image using the performance of the imaging device.

実施例1に係る撮像装置の構成の一例を示す図である。1 is a diagram illustrating an example of a configuration of an imaging apparatus according to Embodiment 1. FIG. 制御部のハードウェア構成の一例を示す図である。It is a figure which shows an example of the hardware constitutions of a control part. 撮像装置が有する機能の概要を説明するための図である。It is a figure for demonstrating the outline | summary of the function which an imaging device has. 撮像装置が有する機能の概要を説明するための図である。It is a figure for demonstrating the outline | summary of the function which an imaging device has. 撮像装置が有する機能の概要を説明するための図である。It is a figure for demonstrating the outline | summary of the function which an imaging device has. 制御部が有する機能の一例を示す機能ブロック図である。It is a functional block diagram which shows an example of the function which a control part has. 記憶部が記憶するデータの一例を示している。An example of data stored in the storage unit is shown. 撮像部により撮像された画像の一例を表す。An example of the image imaged by the imaging part is represented. 取得部の機能の概要について説明する図である。It is a figure explaining the outline | summary of the function of an acquisition part. 画像補正部が実行する台形補正処理の概要について説明する図である。It is a figure explaining the outline | summary of the trapezoid correction process which an image correction part performs. 画像補正部が実行する傾き補正処理の概要について説明する図である。It is a figure explaining the outline | summary of the inclination correction process which an image correction part performs. 制御部が実行する主処理の一例を示すフローチャートである。It is a flowchart which shows an example of the main process which a control part performs. 制御部が実行する主処理の一例を示すフローチャートである。It is a flowchart which shows an example of the main process which a control part performs. ステップS100の詳細な処理の一例を示すフローチャートである。It is a flowchart which shows an example of the detailed process of step S100. ステップS200の詳細な処理の一例を示すフローチャートである。It is a flowchart which shows an example of the detailed process of step S200. 図16(A)は、前フレームの画像の概略を、図16(B)は、現フレームの画像の概略を表している。FIG. 16A shows the outline of the image of the previous frame, and FIG. 16B shows the outline of the image of the current frame. ステップS208の詳細な処理の一例を示すフローチャートである。It is a flowchart which shows an example of the detailed process of step S208. ステップS208の詳細な処理の一例を示すフローチャートである。It is a flowchart which shows an example of the detailed process of step S208. ステップS208の詳細な処理を具体的に説明するための図である。It is a figure for demonstrating the detailed process of step S208 concretely. 内積について説明するための図である。It is a figure for demonstrating an inner product. 前フレームの特徴点に対応する現フレームの特徴点を求める方法の一例について説明する図である。It is a figure explaining an example of the method of calculating | requiring the feature point of the present frame corresponding to the feature point of a front frame. ステップS300の詳細な処理の一例を示すフローチャートである。It is a flowchart which shows an example of the detailed process of step S300. ステップS400の詳細な処理の一例を示すフローチャートである。It is a flowchart which shows an example of the detailed process of step S400. 実施例2に係る撮像装置が有する機能の一例を示す機能ブロック図である。6 is a functional block diagram illustrating an example of functions of an imaging apparatus according to Embodiment 2. FIG. 実施例2に係る撮像装置を用いて画像の撮影を行う処理の一例を示すフローチャートである。12 is a flowchart illustrating an example of processing for capturing an image using the imaging apparatus according to the second embodiment. 指定領域の形状の別例を示す図である。It is a figure which shows another example of the shape of a designation | designated area | region.

以下、本件の実施例について、添付図面を参照しつつ説明する。   Hereinafter, embodiments of the present invention will be described with reference to the accompanying drawings.

まず、実施例1に係る撮像装置の構成について説明する。図1は、実施例1に係る撮像装置の構成の一例を示す図である。   First, the configuration of the imaging apparatus according to the first embodiment will be described. FIG. 1 is a diagram illustrating an example of the configuration of the imaging apparatus according to the first embodiment.

図1(A)に示すように、実施例1に係る撮像装置100は、撮像部10、表示部20、操作部30、制御部40、及び格納部50を備える。撮像装置100が、例えば、図1(B)に示す携帯電話である場合、撮像部10は携帯電話本体に設けられたカメラ、表示部20は表示画面、操作部30は操作ボタンやタッチパネル、制御部40は携帯電話に内蔵された演算装置、格納部50は携帯電話本体に内蔵、又は追加されるメモリとすることができる。また、撮像装置100が、図1(C)に示すノート型PCの場合、撮像部10はノート型PC本体に内蔵される、あるいは、装着されるカメラ、表示部20はディスプレイ、操作部30はキーボード、マウス、又はタッチパネル、制御部40はプログラムを実行するCPU、格納部50はハードディスクドライブ等とすることができる。また、撮像装置100が、図1(D)に示すデジタルカメラの場合には、撮像部10はカメラ、表示部20はデジタルカメラ本体に設けられたディスプレイ、操作部30はデジタルカメラ本体に設けられたボタンやタッチパネル、制御部40は演算装置、格納部50は不揮発性の内蔵メモリやSDカード等の外部メモリとすることができる。本実施例では撮像装置100が携帯電話であるとして説明を行う。   As illustrated in FIG. 1A, the imaging apparatus 100 according to the first embodiment includes an imaging unit 10, a display unit 20, an operation unit 30, a control unit 40, and a storage unit 50. When the imaging device 100 is, for example, a mobile phone shown in FIG. 1B, the imaging unit 10 is a camera provided in the mobile phone body, the display unit 20 is a display screen, the operation unit 30 is an operation button, a touch panel, or a control. The unit 40 may be a computing device built in the mobile phone, and the storage unit 50 may be a memory built in or added to the mobile phone body. When the imaging apparatus 100 is a notebook PC shown in FIG. 1C, the imaging unit 10 is built in or attached to the notebook PC body, the display unit 20 is a display, and the operation unit 30 is The keyboard, mouse, or touch panel, the control unit 40 may be a CPU that executes a program, and the storage unit 50 may be a hard disk drive or the like. When the imaging device 100 is a digital camera shown in FIG. 1D, the imaging unit 10 is a camera, the display unit 20 is a display provided in the digital camera body, and the operation unit 30 is provided in the digital camera body. The buttons and touch panel, the control unit 40 can be an arithmetic unit, and the storage unit 50 can be a non-volatile internal memory or an external memory such as an SD card. In the present embodiment, description will be made assuming that the imaging apparatus 100 is a mobile phone.

撮像部10は、画像を撮像し、撮像した画像を制御部40に出力する。また、撮像部10は、光学系ズーム機構を備える。撮像部10が、制御部40の制御に基づいて光学系ズーム機構を駆動することにより、光学系のズーム倍率が変更される。   The imaging unit 10 captures an image and outputs the captured image to the control unit 40. Further, the imaging unit 10 includes an optical zoom mechanism. The imaging unit 10 drives the optical zoom mechanism based on the control of the control unit 40, whereby the zoom magnification of the optical system is changed.

表示部20は、制御部40の制御に基づいて、制御部40が表示部20に出力した画像データを表示する。また、表示部20は、制御部40の制御に基づいて、撮像部10が撮像する画像の中心、及び、ユーザが指定した領域(詳細は後述する)の中心を表示する。   The display unit 20 displays the image data output from the control unit 40 to the display unit 20 based on the control of the control unit 40. Further, the display unit 20 displays the center of the image captured by the imaging unit 10 and the center of an area specified by the user (details will be described later) based on the control of the control unit 40.

操作部30は、ユーザからの操作を受付け、操作内容を表す操作信号を制御部40に出力する。   The operation unit 30 receives an operation from the user and outputs an operation signal indicating the operation content to the control unit 40.

制御部40は、操作部30から操作信号を受付け、操作信号に基づいて撮像部10や表示部20を制御する。制御部40は、撮像部10から受付けた画像の画像データを表示部20に出力し、表示部20に表示させる。制御部40は、撮像部10から受付けた画像の画像データを、格納部50に格納する。また、制御部40は、表示部20を制御して、撮像部10が撮像する画像の中心、ユーザが指定した領域を示す枠、及びその中心を表示部20に表示させる。   The control unit 40 receives an operation signal from the operation unit 30 and controls the imaging unit 10 and the display unit 20 based on the operation signal. The control unit 40 outputs the image data of the image received from the imaging unit 10 to the display unit 20 and causes the display unit 20 to display the image data. The control unit 40 stores the image data of the image received from the imaging unit 10 in the storage unit 50. In addition, the control unit 40 controls the display unit 20 to display the center of the image captured by the imaging unit 10, a frame indicating an area designated by the user, and the center thereof on the display unit 20.

格納部50は、撮像部10が撮像した画像を格納する。   The storage unit 50 stores an image captured by the imaging unit 10.

次に、撮像装置100の制御部40のハードウェア構成について説明する。図2は、制御部40のハードウェア構成の一例を示す図である。制御部40は、入出力部401、ROM(Read Only Memory)402、中央処理装置(CPU:Central Processing Unit)403、RAM(Random Access Memory)404を備える。   Next, a hardware configuration of the control unit 40 of the imaging apparatus 100 will be described. FIG. 2 is a diagram illustrating an example of a hardware configuration of the control unit 40. The control unit 40 includes an input / output unit 401, a ROM (Read Only Memory) 402, a central processing unit (CPU: Central Processing Unit) 403, and a RAM (Random Access Memory) 404.

入出力部401は、撮像部10、表示部20、操作部30、及び格納部50との間でデータおよび信号の送受信を行う。ROM402は、被撮像物とユーザに指定された領域との位置関係を維持するためのプログラム等を格納する。CPU403は、ROM402に格納されたプログラムを読み込んで実行する。また、ROM402に格納されたプログラムのCPU403による演算によって、図6に示す領域指定受付部411、領域計算部412、表示制御部414、ズーム倍率変更部415、画像補正部416、及び取得部417が有する機能が実行される。RAM404は、プログラムを実行する際に使用される一時的なデータを保存する。   The input / output unit 401 transmits and receives data and signals to and from the imaging unit 10, the display unit 20, the operation unit 30, and the storage unit 50. The ROM 402 stores a program and the like for maintaining the positional relationship between the object to be imaged and the area designated by the user. The CPU 403 reads and executes a program stored in the ROM 402. Further, by the calculation by the CPU 403 of the program stored in the ROM 402, an area designation receiving unit 411, an area calculating unit 412, a display control unit 414, a zoom magnification changing unit 415, an image correcting unit 416, and an acquiring unit 417 shown in FIG. The function it has is executed. The RAM 404 stores temporary data used when executing the program.

次に、図3〜図5を用いて、撮像装置100が有する機能の概要について説明する。図3〜図5は、撮像装置100が有する機能の概要を説明するための図である。   Next, an overview of the functions of the imaging apparatus 100 will be described with reference to FIGS. 3-5 is a figure for demonstrating the outline | summary of the function which the imaging device 100 has.

図3(A)は、撮像装置100において、いずれの機能も選択されていない状態を示している。図3(A)では、いずれの機能も選択されていないため、表示部20に画像は映し出されていない。この状態から、撮像部10を使用した画像撮像機能(以後、カメラモードと記載する)がユーザによって選択されると、撮像装置100は、図3(B)に示すように表示部20に撮像部10が撮像する画像を表示する。また、カメラモードが選択されている状態で、更に、画像に対して領域を指定できる機能(以後、領域指定モードと記載する)がユーザにより選択されると、撮像装置100は、図3(C)に示すように表示部20の中心にポインタを表示する。   FIG. 3A shows a state in which no function is selected in the imaging apparatus 100. In FIG. 3A, since no function is selected, no image is displayed on the display unit 20. In this state, when an image capturing function using the image capturing unit 10 (hereinafter referred to as a camera mode) is selected by the user, the image capturing apparatus 100 displays the image capturing unit on the display unit 20 as illustrated in FIG. 10 displays an image to be captured. In addition, when the user selects a function (hereinafter, referred to as an area designation mode) that can designate an area for an image in a state where the camera mode is selected, the imaging apparatus 100 is displayed in FIG. The pointer is displayed at the center of the display unit 20 as shown in FIG.

図3(C)において、ユーザが、被撮像物としての家を含む矩形の領域を指定したいとする。この場合、ユーザは、図3(C)に示すように、表示部20に表示されたポインタを指定したい領域の左上に合わせ、操作部30に設けられたボタンを押す。次に、ユーザはボタンを押したまま、カメラを移動させることによって、図4(A)に示すようにポインタを指定したい領域の右下の位置まで移動させ、ボタンを離す。これにより、ユーザは、図4(B)にハッチングで示す矩形の領域を指定することができる。撮像装置100は、図4(B)に示すように、ユーザが指定した領域(以後、指定領域と記載する)を表す枠を、表示部20に表示する。これにより、ユーザは指定領域を表示部20上で容易に確認できる。なお、本実施例に係る撮像装置100は、指定領域が設定された後、図4(B)に示すように指定領域が表示部20内に含まれるように光学系のズーム倍率を変更している。領域の指定方法は、本実施例に限られるものではなく、左上の位置でボタンを押した後にボタンを離し、右下の位置で再度同じボタンを押す、又は、別のボタンを押すことによって領域を指定するようにしても良い。   In FIG. 3C, it is assumed that the user wants to designate a rectangular area including a house as an object to be imaged. In this case, as shown in FIG. 3C, the user places the pointer displayed on the display unit 20 on the upper left of the area to be designated and presses a button provided on the operation unit 30. Next, the user moves the camera while holding down the button to move the pointer to the lower right position of the area to be designated as shown in FIG. 4A, and releases the button. Thereby, the user can designate a rectangular area indicated by hatching in FIG. As illustrated in FIG. 4B, the imaging apparatus 100 displays a frame representing a region designated by the user (hereinafter referred to as a designated region) on the display unit 20. Thereby, the user can easily confirm the designated area on the display unit 20. Note that after the designated area is set, the imaging apparatus 100 according to the present embodiment changes the zoom magnification of the optical system so that the designated area is included in the display unit 20 as illustrated in FIG. Yes. The method of designating the area is not limited to the present embodiment. After pressing the button at the upper left position, release the button and press the same button again at the lower right position, or press another button to change the area. May be specified.

本実施例に係る撮像装置100では、撮像装置100が移動されたり、ズーム倍率が変更されても、表示部20に表示される画像内において、指定領域と被撮像物である家との位置関係が維持される。すなわち、撮像装置100は、表示部20に表示される被撮像物に合わせて、指定領域の表示位置及び大きさを変更し、被撮像物と指定領域との位置関係を維持する。また、撮像装置100は、図4(C)に示すように撮像部10が撮像する画像の中心、すなわち、表示部20の中心と、指定領域の中心とを表示部20に表示する。   In the imaging apparatus 100 according to the present embodiment, even if the imaging apparatus 100 is moved or the zoom magnification is changed, the positional relationship between the designated area and the house that is the object to be imaged in the image displayed on the display unit 20. Is maintained. That is, the imaging apparatus 100 changes the display position and size of the designated area in accordance with the imaging object displayed on the display unit 20, and maintains the positional relationship between the imaging object and the designated area. In addition, as illustrated in FIG. 4C, the imaging apparatus 100 displays the center of the image captured by the imaging unit 10, that is, the center of the display unit 20 and the center of the designated area on the display unit 20.

また、撮像装置100は、表示部20の中心と指定領域の中心とが重なった場合に、図5(A)に示すように光学系のズーム倍率を変更する。光学系のズーム倍率を変更して、図5(B)に示すように指定領域が表示部20いっぱいに表示されるようにすることで、指定領域に含まれる画像について、撮像装置100が有する解像度を生かした撮影を行うことができる。また、ユーザは、図5(C)に示すように撮像装置100の縦横方向の向きを変えることにより、更に指定領域を拡大し、画像を撮影することもできる。   In addition, when the center of the display unit 20 and the center of the designated area overlap, the imaging apparatus 100 changes the zoom magnification of the optical system as illustrated in FIG. By changing the zoom magnification of the optical system so that the specified area is displayed in the display unit 20 as shown in FIG. 5B, the resolution of the imaging apparatus 100 for the image included in the specified area. You can take pictures using the Further, as shown in FIG. 5C, the user can further enlarge the designated area and take an image by changing the orientation of the imaging apparatus 100 in the vertical and horizontal directions.

次に、上述した撮像装置100の機能を実現するために、制御部40が備える機能の一例について説明する。図6は、制御部40が有する機能の一例を示す機能ブロック図である。   Next, an example of functions provided in the control unit 40 in order to realize the functions of the imaging apparatus 100 described above will be described. FIG. 6 is a functional block diagram illustrating an example of functions that the control unit 40 has.

制御部40は、領域指定受付部411、領域計算部412、記憶部413、表示制御部414、ズーム倍率変更部415、画像補正部416、及び取得部417を備える。   The control unit 40 includes an area designation receiving unit 411, an area calculation unit 412, a storage unit 413, a display control unit 414, a zoom magnification change unit 415, an image correction unit 416, and an acquisition unit 417.

領域指定受付部411は、撮像部10が撮像した画像を取得し、画像に対して特徴点を設定する。領域指定受付部411は、設定した特徴点のデータを記憶部413に保存する。ここで特徴点とは、画像に含まれる被撮像物の特定部位を示す点のことであり、頂点や縁の点、あるいは模様などがある場合は模様の点、色の境界点などを示す。また、領域指定受付部411は、カメラモードが選択された場合には、図3(C)に示したように表示部20の中心にポインタを表示する。領域指定受付部411は、ユーザによって指定された指定領域を定義する点についても、特徴点として記憶部413に保存する。   The area designation receiving unit 411 acquires an image captured by the imaging unit 10 and sets feature points for the image. The area designation receiving unit 411 stores the set feature point data in the storage unit 413. Here, the feature point is a point indicating a specific part of the object to be imaged included in the image, and when there is a vertex, an edge point, or a pattern, it indicates a pattern point, a color boundary point, or the like. In addition, when the camera mode is selected, the area designation receiving unit 411 displays a pointer at the center of the display unit 20 as illustrated in FIG. The area designation receiving unit 411 also saves points defining the designated area designated by the user in the storage unit 413 as feature points.

領域計算部412は、記憶部413に保存されている特徴点のデータと、撮像部10が撮像する画像データとを使用して、指定領域と、指定領域に含まれる被撮像物との位置関係が維持されるように、指定領域の位置及びその大きさを計算する。つまり、領域計算部412は、指定領域を示す枠の表示位置及びその大きさを計算する。前述の図4の例では、領域計算部412は、ユーザが指定した矩形領域と、矩形領域に含まれる家との位置関係が維持されるように、指定領域を示す枠の表示位置及び大きさを計算する。領域計算部412は、指定領域と被撮像物との位置関係を維持するような指定領域の位置及び大きさを計算する計算処理の結果(詳細は、後述する)に基づいて、記憶部413に記憶されている特徴点のデータを更新する。   The area calculation unit 412 uses the feature point data stored in the storage unit 413 and the image data captured by the imaging unit 10 to determine the positional relationship between the specified area and the object to be captured included in the specified area. The position of the designated area and its size are calculated so that is maintained. That is, the area calculation unit 412 calculates the display position and size of a frame indicating the designated area. In the example of FIG. 4 described above, the area calculation unit 412 displays the display position and size of the frame indicating the designated area so that the positional relationship between the rectangular area designated by the user and the house included in the rectangular area is maintained. Calculate The area calculation unit 412 stores in the storage unit 413 based on the result of calculation processing (details will be described later) for calculating the position and size of the specified area that maintains the positional relationship between the specified area and the object to be imaged. The stored feature point data is updated.

記憶部413は、例えば、RAM403とすることができ、撮像部10が撮像した画像、特徴点のデータ、及び指定領域に関するデータを記憶する。ここで、記憶部413に記憶されるデータについて説明する。   The storage unit 413 can be, for example, the RAM 403, and stores an image captured by the image capturing unit 10, feature point data, and data related to the designated area. Here, data stored in the storage unit 413 will be described.

図7は、記憶部413が記憶するデータの一例を示している。記憶部413は、図7(A)に示す特徴点配列データと、図7(B)に示す指定領域データとを記憶する。図7(A)の特徴点配列データは、領域指定受付部411が撮像された画像に対して設定した特徴点、及びユーザが指定領域を設定する際に指定した点(指定領域を定義する点)に関するデータを含んでいる。特徴点配列データは、特徴点の種類、前フレームでの座標、前フレームでの特徴量、特徴点の状態(前)、指定領域内フラグ(前)、現フレームでの座標、現フレームでの特徴量、特徴点の状態(現)、指定領域内フラグ(現)、位置の妥当性、及び特徴点の信頼度の項目を有する。   FIG. 7 shows an example of data stored in the storage unit 413. The storage unit 413 stores the feature point array data shown in FIG. 7A and the designated area data shown in FIG. 7B. The feature point array data in FIG. 7A includes feature points set for the image captured by the region designation receiving unit 411 and points designated when the user sets the designated region (points defining the designated region). ). The feature point array data includes the feature point type, the coordinates in the previous frame, the feature amount in the previous frame, the state of the feature point (previous), the flag in the specified area (previous), the coordinates in the current frame, the current frame It includes items of feature amount, feature point state (current), designated area flag (current), position validity, and feature point reliability.

ここで、図7及び図8を参照しつつ、特徴点配列データの各項目と、各項目に格納されるデータの例について説明する。図8は、撮像部10により撮像された画像の一例を表す。図8(B)は、撮像部10が新たに撮像した画像(現フレームの画像:第1の画像)の一例を示し、図8(A)は現フレームの画像を撮像する前に、撮像部10が撮像していた画像(前フレームの画像:第2の画像)の一例を示している。図8(A)に示す前フレームの画像において、P〜Pは、領域指定受付部411が選択した特徴点を表し、P及びP10は、指定領域を定義する点を表している。また、図8(B)に示すP´〜P10´は、領域計算部412が実施する処理(詳細は後述する)によって、前フレームのP〜P10にそれぞれ対応する点であると判定された点を表している。 Here, with reference to FIGS. 7 and 8, each item of the feature point array data and an example of data stored in each item will be described. FIG. 8 illustrates an example of an image captured by the imaging unit 10. FIG. 8B illustrates an example of an image (current frame image: first image) newly captured by the image capturing unit 10, and FIG. 8A illustrates the image capturing unit before capturing the current frame image. 10 shows an example of an image (image of the previous frame: second image) that has been captured. In the image of the previous frame shown in FIG. 8A, P 1 to P 8 represent feature points selected by the area designation receiving unit 411, and P 9 and P 10 represent points that define the designated area. . Further, P 1 ′ to P 10 ′ shown in FIG. 8B are points corresponding to P 1 to P 10 of the previous frame, respectively, by processing (details will be described later) performed by the region calculation unit 412. It represents the determined point.

「特徴点の種類」項目は、特徴点が領域指定受付部411によって設定された特徴点であるか、それともユーザが指定領域を設定するときに指定した点であるかを表す。図8の例では、P〜Pは領域指定受付部411によって設定された点であるため、領域指定受付部411によって設定されたことを意味する「AUTO_ADD」が設定される。P及びP10は、ユーザによって指定された点であるため、ユーザによって指定されたことを意味する「USER_ADD」が設定される。 The “type of feature point” item indicates whether the feature point is a feature point set by the region designation receiving unit 411 or a point designated by the user when setting the designated region. In the example of FIG. 8, since P 1 to P 8 are points set by the area designation receiving unit 411, “AUTO_ADD” which is set by the area designation receiving unit 411 is set. Since P 9 and P 10 are points designated by the user, “USER_ADD”, which means that the user has designated, is set.

「前フレームでの座標」項目は、前フレームの画像において設定された特徴点の座標を表す。すなわち、図8の例では、図8(A)に示すP〜P10の座標が格納される。 The “coordinate in the previous frame” item represents the coordinates of the feature point set in the image of the previous frame. That is, in the example of FIG. 8, the coordinates of P 1 to P 10 shown in FIG. 8A are stored.

「前フレームでの特徴量」項目は、前フレームにおける特徴点の特徴量を示す。すなわち、図8の例では、図8(A)に示すP〜P10の特徴量が格納される。特徴量は、スカラ値でも良いし、利用する特徴量を表すのに必要なデータ構造であればスカラ値でなくても良い。 The “feature amount in the previous frame” item indicates the feature amount of the feature point in the previous frame. That is, in the example of FIG. 8, the feature quantities P 1 to P 10 shown in FIG. 8A are stored. The feature quantity may be a scalar value, or may not be a scalar value as long as it is a data structure necessary to represent the feature quantity to be used.

「特徴点の状態(前)」項目は、前フレームにおいて、特徴点が表示部20の画面内に存在しているか否かを示す。図8(A)の例では、P〜P10の全ての特徴点が、画面内に存在しているため、特徴点が画面内に存在していることを示す「STAT_IN」が設定される。なお、特徴点が画面内に存在していない場合には、「STAT_OUT」が設定される。 The “feature point state (previous)” item indicates whether or not the feature point exists in the screen of the display unit 20 in the previous frame. In the example of FIG. 8A, since all feature points P 1 to P 10 exist in the screen, “STAT_IN” indicating that the feature points exist in the screen is set. . If no feature point exists in the screen, “STAT_OUT” is set.

「指定領域内フラグ(前)」項目は、前フレームにおいて、特徴点が指定領域内に存在しているか否かを表す。図8(A)では、前フレームの特徴点P〜Pは、特徴点P及びP10で定義される指定領域内に存在しているため、特徴点が指定領域内に存在することを示す「FLAG_IN」が設定される。また、特徴点Pについては、特徴点P及びP10で定義される指定領域の外に存在するため、特徴点が指定領域の外に存在することを意味する「FLAG_OUT」が設定される。なお、指定領域を定義する特徴点P及びP10については、「選択領域内フラグ(前)」項目に、「FLAG_IN」を設定しても良いし、空白としても良い。 The “designated area flag (previous)” item indicates whether or not a feature point exists in the designated area in the previous frame. In FIG. 8A, the feature points P 1 to P 7 of the previous frame are present in the designated area defined by the feature points P 9 and P 10 , so that the feature points are present in the designated area. “FLAG_IN” is set. Further, since the feature point P 8 exists outside the designated area defined by the feature points P 9 and P 10 , “FLAG_OUT” is set, which means that the feature point exists outside the designated area. . Note that the feature point P 9 and P 10 to define a specified area, the item "selection area flag (before)", may be set to "FLAG_IN" may be blank.

「現フレームでの座標」項目は、現フレームにおける特徴点の座標を表す。図8の例では、前フレームの特徴点P〜P10とそれぞれ対応すると判定された、図8(B)の特徴点P´〜P10´の座標が格納される。 The item “coordinates in current frame” represents the coordinates of feature points in the current frame. In the example of FIG. 8, the coordinates of the feature points P 1 ′ to P 10 ′ of FIG. 8B, which are determined to correspond to the feature points P 1 to P 10 of the previous frame, are stored.

「現フレームでの特徴量」項目は、現フレームの特徴点P´〜P10´の特徴量を表す。図8の例では、図8(B)に示す特徴点P´〜P10´の特徴量が格納される。 The “feature amount in the current frame” item represents the feature amounts of the feature points P 1 ′ to P 10 ′ in the current frame. In the example of FIG. 8, the feature amounts of the feature points P 1 ′ to P 10 ′ shown in FIG. 8B are stored.

「特徴点の状態(現)」項目は、現フレームの特徴点が表示部20の画面内に存在するか否かを表す。図8(B)の例では、特徴点P´〜P10´の全てが画面内に存在しているため、特徴点が画面内に存在していることを示す「STAT_IN」が設定される。なお、特徴点が画面内に存在していない場合には、「STAT_OUT」が設定される。 The “feature point state (current)” item indicates whether or not the feature point of the current frame exists in the screen of the display unit 20. In the example of FIG. 8B, since all the feature points P 1 ′ to P 10 ′ are present in the screen, “STAT_IN” indicating that the feature points are present in the screen is set. . If no feature point exists in the screen, “STAT_OUT” is set.

「指定領域内フラグ(現)」項目は、現フレームの特徴点が指定領域内にあるか否かを表す。図8(B)では、特徴点P´〜P´は、特徴点P´及びP10´で定義される指定領域内に存在しているため、特徴点が指定領域内に存在することを示す「FLAG_IN」が設定される。特徴点P´は、特徴点P´及びP10´で定義される指定領域の外に存在するため、特徴点が指定領域の外に存在することを意味する「FLAG_OUT」が設定される。 The “designated area flag (current)” item indicates whether or not the feature point of the current frame is in the designated area. In FIG. 8B, since the feature points P 2 ′ to P 8 ′ are present in the designated area defined by the feature points P 9 ′ and P 10 ′, the feature points are present in the designated area. “FLAG_IN” is set to indicate this. Since the feature point P 1 ′ is outside the designated area defined by the feature points P 9 ′ and P 10 ′, “FLAG_OUT” which means that the feature point exists outside the designated area is set. .

「位置の妥当性」項目は、現フレームにおける特徴点の位置が正常であるか、異常であるか否かを表す。図8の例では、前フレームの特徴点P〜Pと対応すると判定された現フレームの特徴点P´〜P´には、位置が正常であることを示す「VALID」の値が設定される。前フレームの特徴点P〜Pと、現フレームの特徴点P´〜P´とは対応がとれているためである。しかしながら、前フレームの特徴点P10と対応すると判定された現フレームの特徴点P10´は、本来、図8(B)において黒丸で示すP10の位置に存在すべきである。従って、P10については、位置が異常であることを示す「INVALID」の値が設定される。 The “position validity” item represents whether the position of the feature point in the current frame is normal or abnormal. In the example of FIG. 8, the value of “VALID” indicating that the position is normal is set to the feature points P 1 ′ to P 9 ′ of the current frame determined to correspond to the feature points P 1 to P 9 of the previous frame. Is set. Wherein point P 1 to P 9 of the previous frame, because the correspondence is taken from the feature point P 1'~P 9 'of the current frame. However, the feature point P 10 ′ of the current frame determined to correspond to the feature point P 10 of the previous frame should originally exist at the position of P 10 indicated by a black circle in FIG. 8B. Therefore, the P 10, the value of "INVALID" indicating that the position is abnormal is set.

「特徴点の信頼度」項目は、その特徴点の追跡の容易さを表す。特徴点の追跡が容易な場合、「特徴点の信頼度」項目には、大きな値が設定され、特徴点の追跡が困難な場合、小さな値が設定される。   The “feature point reliability” item represents the ease of tracking the feature point. A large value is set in the “feature point reliability” item when tracking feature points is easy, and a small value is set when tracking feature points is difficult.

次に、図7(B)の指定領域データについて説明する。指定領域データは、指定領域を定義するためのデータであり、領域の形状、構成する指定点の配列、外接矩形中心座標、外接矩形座標(左上)、及び外接矩形座標(右下)の項目を含む。   Next, the designated area data in FIG. 7B will be described. The designated area data is data for defining the designated area, and includes items of the shape of the area, the arrangement of designated designated points, circumscribed rectangle center coordinates, circumscribed rectangle coordinates (upper left), and circumscribed rectangle coordinates (lower right). Including.

「領域の形状」項目は、指定領域の形状(例えば、矩形、円等)を表す。図8の例では、指定領域の形状が矩形であるため、「領域の形状」項目には、「矩形」が設定されている。   The “region shape” item represents the shape (eg, rectangle, circle, etc.) of the designated region. In the example of FIG. 8, since the shape of the designated area is a rectangle, “rectangle” is set in the “area shape” item.

「構成する指定点の配列」項目は、指定領域の形状で表された図形を表現するために必要な点の配列を表す。例えば、指定領域の形状が矩形であるならば、左上及び右下の2点であり、円ならば中心点及びその半径となる点の2点である。図8の例では、指定領域の形状が矩形であるため、「構成する指定点の配列」項目に、「矩形2点」と設定される。   The “arrangement of designated points to be configured” item represents an arrangement of points necessary for expressing a graphic represented by the shape of the designated area. For example, if the shape of the designated area is a rectangle, there are two points at the upper left and the lower right, and if it is a circle, there are two points: a center point and a radius. In the example of FIG. 8, since the shape of the designated area is a rectangle, “rectangular 2 points” is set in the “arrangement of designated points to be configured” item.

「外接矩形中心座標」項目は、指定領域の中心座標を表す。「外接矩形座標(左上)」項目は、領域の形状が矩形である場合に、指定領域を示す左上の点の座標を表す。また、「外接矩形座標(右下)」項目は、領域の形状が矩形である場合に、指定領域を示す右下の点の座標を表す。領域の形状が円である場合には、「外接矩形座標(左上)」項目を円の中心を表す円中心座標、「外接矩形座標(右下)」項目を半径の点を表す半径点座標として使用しても良い。図8の例では、特徴点P10´が左上の点であり、P´が右下の点である。従って、「外接矩形座標(左上)」項目には、現フレームの特徴点P10´の座標(x10´,y10´)が設定されている。また、「外接矩形座標(右下)」項目には、現フレームの特徴点P´の座標(x´,y´)が設定されている。また、指定領域の中心座標(cx,cy)は、cx=(x´+x10´)/2、cy=(y´+y10´)/2で求められる。なお、指定領域データの座標は、撮像部10が撮像した画像における座標ではなく、表示部20における座標(画面上の座標)を用いて表しても良い。 The item “circumscribed rectangle center coordinates” represents the center coordinates of the designated area. The “circumscribed rectangular coordinates (upper left)” item represents the coordinates of the upper left point indicating the designated area when the shape of the area is a rectangle. Further, the “circumscribed rectangular coordinates (lower right)” item represents the coordinates of the lower right point indicating the designated area when the shape of the area is a rectangle. When the shape of the area is a circle, the “circumscribed rectangle coordinate (upper left)” item is the circle center coordinate representing the center of the circle, and the “circumscribed rectangle coordinate (lower right)” item is the radius point coordinate representing the radius point. May be used. In the example of FIG. 8, the feature point P 10 ′ is the upper left point, and P 9 ′ is the lower right point. Accordingly, the coordinates (x 10 ′, y 10 ′) of the feature point P 10 ′ of the current frame are set in the “circumscribed rectangular coordinates (upper left)” item. In addition, the coordinates (x 9 ′, y 9 ′) of the feature point P 9 ′ of the current frame are set in the “circumscribed rectangular coordinates (lower right)” item. Further, the center coordinates (cx, cy) of the designated area are obtained by cx = (x 9 ′ + x 10 ′) / 2 and cy = (y 9 ′ + y 10 ′) / 2. Note that the coordinates of the designated area data may be expressed using coordinates in the display unit 20 (coordinates on the screen) instead of coordinates in the image captured by the imaging unit 10.

再度、図6に戻り説明を続ける。表示制御部414は、撮像部10が撮像した画像に基づいて、撮像部10が撮像する画像の中心を表示する。また、表示制御部414は、記憶部413に記憶されている指定領域データを取得し、指定領域を示す枠、及び指定領域の中心を表示部20に表示する。これにより、ユーザは、指定領域を示す枠、指定領域の中心、及び画像の中心を目印として、容易にカメラの向きや位置を操作することができる。   Returning to FIG. 6 again, the description will be continued. The display control unit 414 displays the center of the image captured by the imaging unit 10 based on the image captured by the imaging unit 10. In addition, the display control unit 414 acquires designated area data stored in the storage unit 413 and displays a frame indicating the designated area and the center of the designated area on the display unit 20. Thus, the user can easily operate the orientation and position of the camera using the frame indicating the designated area, the center of the designated area, and the center of the image as marks.

ズーム倍率変更部415は、撮像部10に備えられた光学系ズーム機構を制御することによって、光学系のズーム倍率を変更する。ズーム倍率変更部415は、指定領域の中心と、撮像部10が撮像した画像の中心との距離が、所定の範囲内となった場合に、指定領域が表示部20いっぱいに表示されるように光学系のズーム倍率を変更する。ズーム倍率変更部415は、指定領域が表示部20いっぱいに表示されたか否かを、例えば、指定領域の一部と、表示部20の端との距離が所定の範囲内となったか否かによって判定できる。   The zoom magnification changing unit 415 changes the zoom magnification of the optical system by controlling the optical system zoom mechanism provided in the imaging unit 10. When the distance between the center of the specified area and the center of the image captured by the image capturing unit 10 is within a predetermined range, the zoom magnification changing unit 415 displays the specified area in the full display unit 20. Change the zoom magnification of the optical system. The zoom magnification changing unit 415 determines whether or not the designated area is displayed in full on the display unit 20 depending on, for example, whether or not the distance between a part of the designated area and the end of the display unit 20 is within a predetermined range. Can be judged.

取得部417は、撮像部10が撮像した画像のうち、指定領域に含まれる画像のみを取得し、取得した画像を記憶部413に保存する。図9は、取得部417の機能の概要について説明する図である。ここでは、図9(A)に示すように、指定領域が設定されていたとする。この場合、取得部417は、図9(B)に示す表示部20に表示された画像全体を取得するのではなく、図9(C)に示すように、指定領域に含まれる画像のみを取得する。   The acquisition unit 417 acquires only the image included in the designated area among the images captured by the imaging unit 10 and stores the acquired image in the storage unit 413. FIG. 9 is a diagram for explaining an outline of the function of the acquisition unit 417. Here, it is assumed that the designated area is set as shown in FIG. In this case, the acquisition unit 417 does not acquire the entire image displayed on the display unit 20 illustrated in FIG. 9B but acquires only the image included in the designated area as illustrated in FIG. 9C. To do.

図6に戻り説明を続ける。画像補正部416は、取得部417が記憶部413に保存した画像に対し、補正処理を行う。具体的には、画像補正部416は、記憶部413に保存された画像が歪んでいる場合には、画像を正対させる台形補正処理を画像に対して実行する。例えば、指定領域の形が矩形と指定されているにも関わらず、記憶部413に保存された画像が、図10(A)に示すような台形となっているとする。この場合、画像補正部416は、画像が歪んでいると判定し、図10(B)に示すように、画像を正対させる台形補正処理を実行する。   Returning to FIG. The image correction unit 416 performs correction processing on the image stored in the storage unit 413 by the acquisition unit 417. Specifically, when the image stored in the storage unit 413 is distorted, the image correction unit 416 performs a trapezoidal correction process for directly facing the image on the image. For example, it is assumed that the image stored in the storage unit 413 has a trapezoid as shown in FIG. 10A even though the designated area is designated as a rectangle. In this case, the image correction unit 416 determines that the image is distorted, and executes a trapezoidal correction process for facing the image as shown in FIG.

また、画像補正部416は、記憶部413に保存された画像が傾いている場合には、画像の傾きを補正する傾き補正処理を実行する。例えば、画像を撮像する際に撮像装置100が、図11(A)に示すように傾いていたとする。ここで、ズーム倍率変更部415が、指定領域が表示部20いっぱいに表示されるように光学系ズームの倍率を変更すると、指定領域と表示部20との関係は、図11(B)となる。この状態で、画像を撮像すると、取得部417により取得される画像は、図11(C)となり、記憶部413に保存される画像にはハッチングで示す空白部分(余白)が生じてしまう。この場合、画像補正部416は、傾いて取得された画像を回転し、図11(D)に示すように、指定領域の下端が水平になるように画像を補正する。画像補正部416は、補正した画像を格納部50に格納する。また、画像補正部416は、画像を補正する必要がない場合には、記憶部413に保存された画像をそのまま格納部50に格納する。   In addition, when the image stored in the storage unit 413 is tilted, the image correcting unit 416 executes tilt correction processing for correcting the tilt of the image. For example, it is assumed that the imaging device 100 is tilted as shown in FIG. Here, when the zoom magnification changing unit 415 changes the magnification of the optical system zoom so that the designated region is displayed in the full display unit 20, the relationship between the designated region and the display unit 20 is as shown in FIG. . When an image is captured in this state, the image acquired by the acquisition unit 417 becomes FIG. 11C, and a blank portion (margin) indicated by hatching is generated in the image stored in the storage unit 413. In this case, the image correction unit 416 rotates the image obtained by tilting, and corrects the image so that the lower end of the designated area is horizontal as shown in FIG. The image correction unit 416 stores the corrected image in the storage unit 50. Further, the image correction unit 416 stores the image stored in the storage unit 413 as it is in the storage unit 50 when it is not necessary to correct the image.

次に、フローチャートを用いて制御部40が実行する処理の一例について説明する。図12及び図13は、制御部40が実行する主処理の一例を示すフローチャートである。   Next, an example of processing executed by the control unit 40 will be described using a flowchart. 12 and 13 are flowcharts illustrating an example of main processing executed by the control unit 40.

ユーザによりカメラモードが選択されると、図12に示すフローチャートの処理が開始される。領域指定受付部411は、撮像部10が撮像した画像をフレーム画像として取得する(ステップS10)。次に、領域指定受付部411は、ユーザによって領域選択モードが指定されたか否か判定する(ステップS11)。領域選択モードが指定された場合(ステップS11/YES)、領域指定受付部411は、表示部20にポインタを表示する(ステップS12)。   When the camera mode is selected by the user, the processing of the flowchart shown in FIG. 12 is started. The area designation receiving unit 411 acquires an image captured by the imaging unit 10 as a frame image (step S10). Next, the area designation receiving unit 411 determines whether or not an area selection mode has been designated by the user (step S11). When the region selection mode is designated (step S11 / YES), the region designation receiving unit 411 displays a pointer on the display unit 20 (step S12).

次に、領域指定受付部411は、ステップS10で取得したフレーム画像において特徴点を選択し、特徴点を記憶部413に保存する(ステップS100)。ここで、特徴点の選択及び保存処理の詳細について説明する。図14は、ステップS100の詳細な処理の一例を示すフローチャートである。   Next, the region designation receiving unit 411 selects feature points in the frame image acquired in step S10, and stores the feature points in the storage unit 413 (step S100). Here, the details of feature point selection and storage processing will be described. FIG. 14 is a flowchart illustrating an example of detailed processing in step S100.

図14において、領域指定受付部411は、フレーム画像の中から、注目画素を選択し、その特徴量vを求める(ステップS101)。次に、領域指定受付部411は、選択した注目画素の特徴量vが予め定められた閾値Tより大きいか否か判定する(ステップS102)。領域計算部412が特徴点を追跡するのに十分な特徴量を、選択した特徴点が有しているか否かを判定するためである。 In FIG. 14, the region designation receiving unit 411 selects a target pixel from the frame image and obtains the feature amount v (step S101). Then, the area designation receiving section 411 determines whether or not larger than the threshold value T v by the feature v is a predetermined pixel of interest selected (Step S102). This is because the region calculation unit 412 determines whether or not the selected feature point has a feature amount sufficient to track the feature point.

選択した注目画素の特徴量vが予め定められた閾値Tより小さい場合(ステップS102/NO)、領域指定受付部411は、次の注目画素について処理するためステップS101へ戻る。選択した注目画素の特徴量vが閾値Tよりも大きい場合(ステップS102/YES)、領域指定受付部411は選択した注目画素と他の特徴点との距離が所定値以上か否か判定する(ステップS103)。つまり、ステップS103の処理で、領域指定受付部411は、選択した注目画素と既に決定した特徴点との距離が近すぎないかどうか判定する。 If the feature quantity v of the selected target pixel is the threshold value T v is smaller than a predetermined (step S102 / NO), the area designation receiving section 411 returns to step S101 to process the next pixel of interest. If the feature quantity v of the selected target pixel is greater than the threshold value T v (step S102 / YES), the area designation receiving section 411 determines whether the distance between the target pixel and the other feature points selected is equal to or greater than a predetermined value (Step S103). That is, in step S103, the region designation receiving unit 411 determines whether the distance between the selected target pixel and the already determined feature point is not too close.

ステップS103の判定がNOの場合、領域指定受付部411は、次の注目画素について処理するためステップS101へ戻る。ステップS103の判定がYESの場合、領域指定受付部411は、選択した注目画素を特徴点として、特徴点配列データに追加する(ステップS104)。次に領域指定受付部411は、閾値Tに対して、フレーム画像内の全ての画素を処理したか否か判定する(ステップS105)。ステップS105の判定がNOの場合、領域指定受付部411は、残りの画素について処理するため、ステップS101へ戻る。ステップS105の判定がYESの場合、領域指定受付部411は、取得したフレーム画像の中の特徴点の数が、予め定めた閾値Tv_numより大きいか否か判定する(ステップS106)。 When the determination in step S103 is NO, the region designation receiving unit 411 returns to step S101 to process the next pixel of interest. When the determination in step S103 is YES, the region designation receiving unit 411 adds the selected target pixel as a feature point to the feature point array data (step S104). Then the area designation receiving section 411 determines, with respect to the threshold T v, whether all the pixels are processed in the frame image (step S105). When the determination in step S105 is NO, the region designation receiving unit 411 returns to step S101 to process the remaining pixels. When the determination in step S105 is YES, the region designation receiving unit 411 determines whether or not the number of feature points in the acquired frame image is greater than a predetermined threshold value T v_num (step S106).

ステップS106の判定がYESの場合、十分な数の特徴点が抽出できたとして、領域指定受付部411は本処理を終了する。ステップS106の判定がNOの場合、領域指定受付部411は、特徴量の閾値Tの値を下げ、再びステップS101〜ステップS106の処理を実行する。 If the determination in step S <b> 106 is YES, it is determined that a sufficient number of feature points have been extracted, and the region designation receiving unit 411 ends this processing. If step S106 is NO, the area designation receiving section 411 lowers the value of the threshold T v of the feature amount, executes the processing of step S101~ step S106 again.

図14に示した処理が終了すると、領域指定受付部411は、図12において、ユーザが領域を指定中か否か判定する(ステップS13)。ユーザが領域を指定中か否かの判定は、例えば、ユーザが操作部30において所定のボタンを押しているか否か等によって判定できる。   When the process shown in FIG. 14 is completed, the area designation receiving unit 411 determines whether or not the user is designating an area in FIG. 12 (step S13). Whether or not the user is designating an area can be determined by, for example, whether or not the user is pressing a predetermined button on the operation unit 30.

領域指定受付部411は、ユーザが領域を指定中の場合(ステップS13/YES)、指定領域を定義する点を設定する処理(特徴点追加処理)が行われたか否か判定する(ステップS14)。領域指定受付部411は、特徴点追加処理が行われた場合(ステップS14/YES)、ユーザが指定した点を、特徴点として特徴点配列データに追加する(ステップS15)。そして、ステップS15の処理により指定領域が設定されたので、領域指定受付部411は、ステップS100の処理によって特徴点配列データに保存された各特徴点の「指定領域内フラグ(現)」項目の値を更新する(ステップS16)。   When the user is designating an area (step S13 / YES), the area designation receiving unit 411 determines whether or not a process for setting points that define the designated area (feature point addition process) has been performed (step S14). . When the feature point addition process is performed (step S14 / YES), the region designation receiving unit 411 adds the point designated by the user to the feature point array data as a feature point (step S15). Then, since the designated area is set by the process of step S15, the area designation receiving unit 411 stores the “designated area flag (current)” item of each feature point stored in the feature point array data by the process of step S100. The value is updated (step S16).

ステップS14の判定がNOの場合、又は、ステップS16の処理が終わると、領域計算部412は前フレームの特徴点に関する情報が、記憶部413に存在するか否か判定する(ステップS17)。前フレームの特徴点に関する情報が存在する場合(ステップS17/YES)、図13のCに進み、領域計算部412は、前フレームの特徴点と現フレームの特徴点とを対応付け、対応付けた現フレームの特徴点の位置の妥当性を検証する(ステップS200)。ここで、ステップS200の処理の詳細について説明する。図15は、ステップS200の詳細な処理の一例を示すフローチャートである。   When the determination in step S14 is NO, or when the process in step S16 ends, the area calculation unit 412 determines whether information related to the feature point of the previous frame exists in the storage unit 413 (step S17). When there is information on the feature point of the previous frame (step S17 / YES), the process proceeds to C in FIG. 13, and the area calculation unit 412 associates the feature point of the previous frame with the feature point of the current frame. The validity of the position of the feature point of the current frame is verified (step S200). Here, details of the processing in step S200 will be described. FIG. 15 is a flowchart illustrating an example of detailed processing in step S200.

図15において、領域計算部412は、後述する位置の妥当性を検証する処理が実行されていない特徴点(未処理の特徴点)が存在するか否か判定する(ステップS201)。未処理の特徴点が存在する場合(ステップS201/YES)、領域計算部412は、特徴点Pを一つ選択する(ステップS202)。領域計算部412は、前フレームにおける特徴点Pの座標(x,y)周辺の局所領域を取り出す(ステップS203)。次に、領域計算部412は、現フレームの画像データを走査し、ステップS203で取り出した局所領域との類似度を求める。そして、領域計算部412は、現フレームにおいて、ステップS203で取り出した局所領域と最も類似度が高い局所領域の座標(x´,y´),を探索する(ステップS204)。図16に、ステップS203及びステップS204の処理の概要を説明するための図を示す。 In FIG. 15, the region calculation unit 412 determines whether or not there is a feature point (unprocessed feature point) that has not been subjected to a process for verifying the validity of the position described later (step S201). When an unprocessed feature point exists (step S201 / YES), the region calculation unit 412 selects one feature point Pn (step S202). The area calculation unit 412 extracts a local area around the coordinates (x n , y n ) of the feature point P n in the previous frame (step S203). Next, the area calculation unit 412 scans the image data of the current frame and obtains the similarity with the local area extracted in step S203. Then, the area calculation unit 412 searches for the coordinates (x n ′, y n ′) of the local area having the highest similarity with the local area extracted in step S203 in the current frame (step S204). FIG. 16 is a diagram for explaining the outline of the processing in step S203 and step S204.

図16(A)は、前フレームの画像の概略を、図16(B)は、現フレームの画像の概略を表している。図16(A)において、領域計算部412は、図中斜線で示す特徴点Pの座標(x,y)周辺の局所領域(太枠で表示)を取り出す(ステップS203)。次に、領域計算部412は、図16(B)に示す現フレームの画像データを走査し、各座標において図16(A)で取り出した局所領域との類似度を求める。そして、領域計算部412は、図16(A)で取り出した局所領域と最も類似度が高い局所領域の座標(x´,y´)を探索する(ステップS204)。なお、特徴点の移動先を検出する方法は、本実施例のステップS203及びステップS204で示した方法に限られるものではなく、オプティカルフローや、パターンマッチング等の他の方法を用いて、特徴点の移動先を検出しても良い。 FIG. 16A shows the outline of the image of the previous frame, and FIG. 16B shows the outline of the image of the current frame. In FIG. 16A, the area calculation unit 412 extracts a local area (displayed with a thick frame) around the coordinates (x 1 , y 1 ) of the feature point P 1 indicated by the oblique lines in the figure (step S203). Next, the area calculation unit 412 scans the image data of the current frame shown in FIG. 16B, and obtains the similarity to the local area extracted in FIG. 16A at each coordinate. Then, the region calculation unit 412 searches for the coordinates (x 1 ′, y 1 ′) of the local region having the highest similarity with the local region extracted in FIG. 16A (step S204). Note that the method of detecting the destination of the feature point is not limited to the method shown in step S203 and step S204 of the present embodiment, and the feature point is detected using other methods such as optical flow and pattern matching. May be detected.

図15のフローチャートに戻り、説明を続ける。領域計算部412は、ステップS204の処理が終了すると、(x,y)と、(x´,y´)とが対応する点であるとみなせるか否か判定する(ステップS205)。例えば、領域計算部412は、類似度が予め定められた閾値を超えている場合に、(x,y)と、(x´,y´)とが対応する点であるとみなせると判定する。 Returning to the flowchart of FIG. When the process of step S204 ends, the area calculation unit 412 determines whether or not (x n , y n ) and (x n ′, y n ′) can be regarded as corresponding points (step S205). . For example, the area calculation unit 412 can be regarded as a point where (x n , y n ) and (x n ′, y n ′) correspond to each other when the similarity exceeds a predetermined threshold. Is determined.

ステップS205の判定がNOの場合、領域計算部412は、対応する点は、画面外に出てしまったとして、特徴点配列データの「特徴点の状態(現)」項目に、特徴点が画面外に存在することを意味する「STAT_OUT」を設定する(ステップS207)。そして、領域計算部412は、ステップS201に戻る。   If the determination in step S205 is NO, the area calculation unit 412 assumes that the corresponding point has gone out of the screen, and the feature point is displayed in the “feature point state (current)” item of the feature point array data. “STAT_OUT” which means that it exists outside is set (step S207). Then, the area calculation unit 412 returns to step S201.

ステップS205の判定がYESの場合、領域計算部412は、対応点が見つかったとして、(x,y)と対応付けて、「現フレームでの座標」項目に(x´,y´)を格納し、「特徴点の状態(現)」項目に、現フレームの特徴点が画面の内部に存在することを意味する「STAT_IN」を設定する(ステップS206)。次に、領域計算部412は、対応する特徴点間の妥当性の検証と座標の修正処理を実行する(ステップS208)。ここで、図17〜図19を用いて、ステップS208の処理の詳細について説明する。図17及び図18は、ステップS208の詳細な処理の一例を示すフローチャートである。また、図19は、ステップS208の詳細な処理を具体的に説明するための図である。 If the determination at step S205 is YES, the region calculation unit 412, a corresponding point is found, (x n, y n) in association with, the item "coordinate of the current frame" (x n ', y n ′) Is stored, and “STAT_IN” which means that the feature point of the current frame exists inside the screen is set in the “feature point state (current)” item (step S206). Next, the area calculation unit 412 performs validity verification between corresponding feature points and coordinate correction processing (step S208). Here, details of the processing in step S208 will be described with reference to FIGS. 17 and 18 are flowcharts illustrating an example of detailed processing in step S208. FIG. 19 is a diagram for specifically explaining the detailed processing of step S208.

領域計算部412は、「特徴点の状態(現)」項目に「STAT_IN」が設定された全ての特徴点について、後述する処理を実行したか否か判定する(ステップS211)。ステップS211の判定がNOの場合、領域計算部412は、「特徴点の状態(現)」項目に「STAT_IN」が設定されている特徴点の中から、特徴点Pを一つ選択する(ステップS212)。次に、領域計算部412は、「特徴点の状態(前)」項目に「STAT_IN」が設定されている、つまり、前フレームの画像において画面内に存在していた特徴点二つの組み合わせ(P,P)(l≠m≠n、lとmは、Tv_num以下の任意の数)をk組選択する(ステップS214)。ここで、(P,P)の組み合わせを、P(i)(P,P)と記載する(i=1〜k)。 The region calculation unit 412 determines whether or not processing described later has been executed for all feature points for which “STAT_IN” is set in the “feature point state (current)” item (step S211). If the determination in step S211 is NO, the region calculation unit 412 selects one feature point P n from among the feature points for which “STAT_IN” is set in the “feature point state (current)” item ( Step S212). Next, the area calculation unit 412 sets “STAT_IN” in the “feature point state (previous)” item, that is, a combination of two feature points that existed in the screen in the previous frame image (P l , P m ) (l ≠ m ≠ n, where l and m are arbitrary numbers equal to or less than T v_num ) are selected k sets (step S214). Here, a combination of (P l, P m), referred to as P (i) (P l, P m) (i = 1~k).

ここで、図19を参照して、上述の処理について具体的に説明する。図19において、図19(A)の左図は、前フレームの画像に対して設定された特徴点の一例であり、図19(A)の右図は、前フレームの特徴点と対応すると判定された、現フレームの特徴点の一例である。ここで、ステップS212の処理で領域計算部412が選択した特徴点が、図19(A)に示すPであったとする。この場合、領域計算部412は、別の特徴点の組み合わせとして、例えば、P(1)(P,P)、P(2)(P,P)、及びP(3)(P,P)の3組をステップS213で選択する。 Here, with reference to FIG. 19, the above-described processing will be specifically described. 19, the left diagram in FIG. 19A is an example of feature points set for the image of the previous frame, and the right diagram in FIG. 19A is determined to correspond to the feature points in the previous frame. It is an example of the feature point of the current frame. Here, feature point region calculation unit 412 selects the processing of step S212 is assumed to be P 1 shown in FIG. 19 (A). In this case, the region calculation unit 412 may use, for example, P (1) (P 2 , P 3 ), P (2) (P 3 , P 4 ), and P (3) (P) as other combinations of feature points. 2 , P 4 ) are selected in step S213.

図17のフローチャートに戻り、説明を続ける。領域計算部412は、前フレームの特徴点PとP(i)(P,P)との内積を全て(k組分)求める(ステップS215)。ここで、PとP(i)(P,P)との内積を求めるとは、図20(A)において、ベクトルPnlとベクトルPnmとの内積を求めることをいう。また、以後の説明において、PとP(i)(P,P)との内積を、cosθ(P(i)(P,P))、又は、cosθ(Pni)と記載する。例えば、図20(B)において、PとP(1)(P,P)との内積は、cosθ(P(1)(P,P))、又は、cosθ(P11)と記載される。 Returning to the flowchart of FIG. The region calculation unit 412 obtains all (k sets) inner products of the feature points P n and P (i) (P l , P m ) of the previous frame (step S215). Here, obtaining the inner product of P n and P (i) (P l , P m ) means obtaining the inner product of the vector P nl and the vector P nm in FIG. In the following description, the inner product of P n and P (i) (P l , P m ) is described as cos θ (P (i) (P l , P m )) or cos θ (P ni ). To do. For example, in FIG. 20B, the inner product of P 1 and P (1) (P 2 , P 3 ) is cos θ (P (1) (P 2 , P 3 )) or cos θ (P 11 ). It is described.

再度、図19を用いて具体的に説明する。図19(B)〜図19(D)の左図は、ステップS212で領域計算部412が選択した特徴点Pと、ステップS213の処理で領域計算部412が選択した特徴点の組み合わせとの、前フレームにおける関係を示している。図19の例では、領域計算部412は、ステップS214で、cosθ(P11)、cosθ(P12)、及びcosθ(P13)を求める。 Again, it demonstrates concretely using FIG. Left diagram of FIG. 19 (B) ~ Figure 19 (D) includes a feature point P 1 the area calculation section 412 selects at step S212, the the combination of the feature points region calculation unit 412 selects the processing of step S213 The relationship in the previous frame is shown. In the example of FIG. 19, the region calculation unit 412 obtains cos θ (P 11 ), cos θ (P 12 ), and cos θ (P 13 ) in step S214.

次に、図17のフローチャートにおいて、領域計算部412は、ステップS214と同様に、現フレームの特徴点P´とP(i)´(P´,P´)との内積を全て(k組分)求める(ステップS215)。図19(B)〜図19(D)の中央に示す図は、現フレームにおける特徴点同士の関係を示している。領域計算部412は、ステップS215で、cosθ(P11´)、cosθ(P12´)、及びcosθ(P13´)を求める。 Next, in the flowchart of FIG. 17, the area calculation unit 412 calculates all inner products of the feature points P n ′ and P (i) ′ (P l ′, P m ′) of the current frame (step S214). k sets) (step S215). 19B to 19D show the relationship between feature points in the current frame. In step S215, the region calculation unit 412 obtains cos θ (P 11 ′), cos θ (P 12 ′), and cos θ (P 13 ′).

次に、領域計算部412は、変数wrongの値を0で初期化する(ステップS216)。ここで、変数wrongは、異常な特徴点の数をカウントするための変数である。   Next, the area calculation unit 412 initializes the value of the variable long to 0 (step S216). Here, the variable “long” is a variable for counting the number of abnormal feature points.

領域計算部412は、式(1)で計算される値が閾値Tinner_product以下であるか判定する(ステップS217)。3点間の位置関係が現フレームと前フレームとで同じであれば、前フレームでの内積値と現フレームでの内積値とは等しくなる。したがって、式(1)で表される値が、閾値以上である場合、ステップS212で選択した特徴点と、ステップS213で選択した特徴点の組み合わせとの位置関係が、前フレームと現フレームにおいて異なると考えられるからである。

Figure 0005458877
The area calculation unit 412 determines whether the value calculated by the expression (1) is equal to or less than the threshold value T inner_product (step S217). If the positional relationship between the three points is the same in the current frame and the previous frame, the inner product value in the previous frame is equal to the inner product value in the current frame. Therefore, when the value represented by Expression (1) is equal to or greater than the threshold value, the positional relationship between the feature point selected in step S212 and the combination of the feature points selected in step S213 is different between the previous frame and the current frame. Because it is considered.
Figure 0005458877

ステップS217の判定がNOの場合、領域計算部412は変数wrongの値を増やす(ステップS218)。ステップS217の判定がYESの場合、又は、ステップS218の処理の後、領域計算部412は、内積を求めた全ての組についてステップS217の処理を行ったか否か判定する(ステップS219)。全てについて処理が終わっていない場合(ステップS219/NO)、領域計算部412は、ステップS217〜S219の処理を繰り返す。全てについて処理が終了した場合(ステップS219/YES)、領域計算部412は、変数wrongを、組数kで除した値が、予め定めた値Cよりも小さいか否か判定する(ステップS220)。   When the determination in step S217 is NO, the area calculation unit 412 increases the value of the variable long (step S218). If the determination in step S217 is YES, or after the process in step S218, the region calculation unit 412 determines whether or not the process in step S217 has been performed for all the groups for which the inner product has been obtained (step S219). When the processing has not been completed for all (step S219 / NO), the region calculation unit 412 repeats the processing of steps S217 to S219. When the processing has been completed for all (step S219 / YES), the area calculation unit 412 determines whether or not the value obtained by dividing the variable ong by the number of sets k is smaller than a predetermined value C (step S220). .

ステップS220の判定がNOの場合、「位置の妥当性」項目に、現フレームの特徴点の位置が異常であることを示す「INVALID」を設定する(ステップS222)。ステップS220の判定がYESの場合、「位置の妥当性」項目に、位置が正常であることを意味する「VALID」を設定する(ステップS221)。そして、領域計算部412は、ステップS211に戻る。   If the determination in step S220 is NO, “INVALID” indicating that the position of the feature point in the current frame is abnormal is set in the “positional validity” item (step S222). When the determination in step S220 is YES, “VALID” indicating that the position is normal is set in the “position validity” item (step S221). Then, the area calculation unit 412 returns to step S211.

図19の例では、図19(B)〜(D)の右図に示すとおり、3組のうち、2組の値が閾値Tinner_productより大きい。従って、変数wrongの値は2となる。変数worn(=2)を、組数k(=3)で除した値は0.66となるため、予め定めた値Cを0.25とすると、図19の例では、ステップS220の判定結果はNOとなり、特徴点Pの「位置の妥当性」項目には、「INVALID」が設定される。 In the example of FIG. 19, as shown in the right diagrams of FIGS. 19B to 19D , two sets of values are larger than the threshold T inner_product among the three sets. Therefore, the value of the variable long is 2. Since the value obtained by dividing the variable worn (= 2) by the number of sets k (= 3) is 0.66, if the predetermined value C is 0.25, the determination result of step S220 in the example of FIG. Is NO, and “INVALID” is set in the “position validity” item of the feature point P 1 .

図17に戻り、フローチャートの説明を続ける。ステップS211の判定がYESの場合、領域計算部412は、図18のFに進み、「特徴点の状態(現)」項目に「STAT_OUT」が設定されている、又は、「位置の妥当性」項目に「INVALID」が設定されている全ての特徴点に対して、後述する処理を実行したか否か判定する(ステップS223)。ステップS223の判定がYESの場合、領域計算部412はは本処理を終了する。   Returning to FIG. 17, the description of the flowchart will be continued. When the determination in step S211 is YES, the area calculation unit 412 proceeds to F of FIG. 18 and “STAT_OUT” is set in the “feature point state (current)” item, or “positional validity”. It is determined whether or not processing described later has been executed for all feature points for which “INVALID” is set in the item (step S223). If the determination in step S223 is yes, the area calculation unit 412 ends this process.

ステップS223の判定がNOの場合、領域計算部412は、「位置の妥当性」項目に「VALID」が設定されている特徴点を利用して、前フレームの座標に対応する現フレームの座標を求める(ステップS224)。具体的には、式(2)を用いて、前フレームの特徴点の座標(x,y)から、現フレームの特徴点P´の座標(x´,y´)を求める。 When the determination in step S223 is NO, the area calculation unit 412 uses the feature point in which “VALID” is set in the “position validity” item to determine the coordinates of the current frame corresponding to the coordinates of the previous frame. Obtained (step S224). Specifically, using the equation (2), the coordinates (x n ′, y n ′) of the feature point P n ′ of the current frame are obtained from the coordinates (x n , y n ) of the feature point of the previous frame. .

前フレームの特徴点Pの座標(x、y)が、現フレームの特徴点P´の座標(x´,y´)に移動したとすると、並行移動、拡大・縮小、回転による写像は式(2)のように表すことができる。

Figure 0005458877
If the coordinates (x n , y n ) of the feature point P n of the previous frame have moved to the coordinates (x n ′, y n ′) of the feature point P n ′ of the current frame, parallel movement, enlargement / reduction, The mapping by rotation can be expressed as in equation (2).
Figure 0005458877

そこで、現フレームの特徴点P以外で、かつ、「位置の妥当性」項目に「VALID」が設定されている特徴点と、その前フレームにおける特徴点とから、式(3)で表される行列Aを求める。そして、式(2)を用いて、Pの移動先P´を求める。

Figure 0005458877
Therefore, from the feature point other than the feature point P n of the current frame and “VALID” set in the “positional validity” item, and the feature point in the previous frame, it is expressed by Expression (3). Matrix A is obtained. Then, the movement destination P n ′ of P n is obtained using Expression (2).
Figure 0005458877

なお、計算に必要な特徴点の数が足りない場合は、図21(A)に示すように、前フレームにおいて直線P、∠P、及び∠Pを求める。そして、前フレームから現フレームに特徴点P、P、及びPが相似に移動しているものと仮定し、図21(B)に示すように、直線P´P´と、直線P´P´の交点を求めることによって、Pの移動先P´を求めても良い。 When the number of feature points necessary for the calculation is insufficient, as shown in FIG. 21A, in the previous frame, straight lines P 1 P m , ∠P n P 1 P m , and ∠P n P m P Find l . Then, assuming that the feature points P 1 , P m , and P n are moving in a similar manner from the previous frame to the current frame, as shown in FIG. 21B, a straight line P n ′ P l ′, 'by determining the intersection of the destination P n of P n' linearly P n'P m may be obtained.

次に、領域計算部412は、対応点P´が求められたか否か判定する(ステップS225)。対応点P´が求められた場合(ステップS225/YES)、領域計算部412は、「特徴点の信頼度」項目の値を下げる(ステップS226)。他の特徴点を用いて位置を修正した特徴点であるため、その追跡が容易ではないと考えられるからである。 Next, the region calculation unit 412 determines whether or not the corresponding point P n ′ has been obtained (step S225). When the corresponding point P n ′ is obtained (step S225 / YES), the region calculation unit 412 lowers the value of the “feature point reliability” item (step S226). This is because it is a feature point whose position is corrected using another feature point, and it is considered that tracking is not easy.

対応点P´が求められなかった場合(ステップS225/NO)、領域計算部412は、特徴点Pがユーザの指定した点か否か判定する(ステップS227)。つまり、領域計算部412は、「特徴点の種類」項目に、「USER_ADD」が設定されているか否か判定する。 When the corresponding point P n ′ is not obtained (step S225 / NO), the region calculation unit 412 determines whether or not the feature point P n is a point designated by the user (step S227). That is, the area calculation unit 412 determines whether or not “USER_ADD” is set in the “feature point type” item.

特徴点Pがユーザの指定した点でない場合(ステップS227/NO)、領域計算部412は、Pを特徴点として使用するのを中止するために、特徴点配列データからPのデータを削除し(ステップS228)、ステップS223に戻る。Pがユーザの指定した点である場合(ステップS227/YES)、領域計算部412は、図13のGに進み、特徴点配列データに格納されているデータを全てクリアする(ステップS22)。この結果、指定領域はクリアされ、ステップS10及びS11の処理を経て、表示部20にはポインタが表示されるようになる(ステップS12)。 If the feature point P n is not a point designated by the user (step S227 / NO), the region calculation unit 412 uses the feature point array data to obtain the data of P n in order to stop using P n as the feature point. Delete (step S228), and return to step S223. When Pn is a point designated by the user (step S227 / YES), the area calculation unit 412 proceeds to G of FIG. 13 and clears all the data stored in the feature point array data (step S22). As a result, the designated area is cleared, and a pointer is displayed on the display unit 20 through steps S10 and S11 (step S12).

図13に戻りフローチャートの説明を続ける。ステップS200の処理が終了した場合、又はステップS17の判定がNOの場合、領域計算部412は、指定領域が存在するか否か判定する(ステップS18)。指定領域が存在する場合(ステップS18/YES)、領域計算部412は、指定領域の妥当性を検証する(ステップS300)。ここで、ステップS300の処理の詳細について説明する。図22は、ステップS300の詳細な処理の一例を示すフローチャートである。   Returning to FIG. 13, the description of the flowchart will be continued. When the process of step S200 is completed or when the determination in step S17 is NO, the area calculation unit 412 determines whether or not the designated area exists (step S18). When the designated area exists (step S18 / YES), the area calculation unit 412 verifies the validity of the designated area (step S300). Here, details of the processing in step S300 will be described. FIG. 22 is a flowchart illustrating an example of detailed processing in step S300.

図22において、領域計算部412は、特徴点配列データに含まれる全ての特徴点Pに対して、後述する処理を実行したか否か判定する(ステップS301)。特徴点Pを全て処理した場合(ステップS301)、領域計算部412は、指定領域は妥当な状態であると判定し(ステップS303)、処理を終了する。 In FIG. 22, the region calculation unit 412 determines whether or not processing described later has been performed on all feature points P n included in the feature point array data (step S301). When all the feature points P n have been processed (step S301), the area calculation unit 412 determines that the designated area is in an appropriate state (step S303), and ends the process.

特徴点Pを全て処理していない場合(ステップS301/NO)、領域計算部412は特徴点Pを一つ選択する(ステップS302)。次に、領域計算部412は、現フレームの特徴点P´が、指定領域内に存在するか否か、つまり、「選択領域内フラグ(現)」項目に、「FLAG_IN」が設定されているか否か判定する(ステップS304)。 When all the feature points Pn are not processed (step S301 / NO), the region calculation unit 412 selects one feature point Pn (step S302). Next, the area calculation unit 412 determines whether or not the feature point P n ′ of the current frame exists in the designated area, that is, “FLAG_IN” is set in the “selected area flag (current)” item. It is determined whether or not there is (step S304).

ステップS304の判定がYESの場合、領域計算部412は、前フレームの特徴点Pが指定領域内にあるか否か、つまり、「選択領域内フラグ(前)」項目に、「FLAG_IN」が設定されているか否か判定する(ステップS305)。領域計算部412は、ステップS305の判定がNOの場合、指定領域は異常な状態であると判定する(ステップS307)。現フレームで指定領域内に存在している特徴点が、前フレームでは指定領域内に存在していなかったということは、特徴点と指定領域との位置関係に変更が生じていると考えられるからである。 When the determination in step S304 is YES, the area calculation unit 412 determines whether or not “FLAG_IN” is set in the “selection area flag (previous)” item, whether or not the feature point P n of the previous frame is in the designated area. It is determined whether it is set (step S305). If the determination in step S305 is NO, the area calculation unit 412 determines that the specified area is in an abnormal state (step S307). The fact that the feature points that exist in the specified area in the current frame did not exist in the specified area in the previous frame means that the positional relationship between the feature points and the specified area has changed. It is.

領域計算部412は、ステップS305の判定がYESの場合、ステップS301に戻り処理を継続する。現フレームで指定領域内に存在する特徴点が、前フレームでも指定領域内にあったならば、指定領域と特徴点との位置関係に変更はないと考えられるからである。   When the determination in step S305 is YES, the area calculation unit 412 returns to step S301 and continues the process. This is because if the feature point existing in the designated area in the current frame is also in the designated area in the previous frame, it is considered that the positional relationship between the designated area and the feature point is not changed.

領域計算部412は、ステップS304の判定がNOの場合、前フレームの特徴点Pが指定領域外にあるか、つまり、「選択領域内フラグ(前)」項目に、「FLAG_OUT」が設定されているか否か判定する(ステップS306)。ステップS306の判定がYESの場合、領域計算部412は、ステップS301に戻り、処理を継続する。現フレームで指定領域外にある特徴点が、前フレームでも指定領域外にあったということは、指定領域と特徴点との位置関係に変更がないと考えられるためである。 When the determination in step S304 is NO, the area calculation unit 412 determines whether the feature point P n of the previous frame is outside the designated area, that is, “FLAG_OUT” is set in the “selected area flag (previous)” item. It is determined whether or not (step S306). If the determination in step S306 is YES, the area calculation unit 412 returns to step S301 and continues the process. The fact that the feature point outside the designated area in the current frame was outside the designated area in the previous frame is because there is no change in the positional relationship between the designated area and the feature point.

ステップS306の判定がNOの場合、領域計算部412は、指定領域が異常な状態であると判定し(ステップS307)、処理を終了する。現フレームで指定領域外に存在している特徴点が、前フレームでは指定領域内に存在していたということは、特徴点と指定領域との位置関係に変更が生じていると考えられるからである。   When the determination in step S306 is NO, the region calculation unit 412 determines that the designated region is in an abnormal state (step S307) and ends the process. The feature points that exist outside the specified area in the current frame exist in the specified area in the previous frame because it is considered that the positional relationship between the feature points and the specified area has changed. is there.

図13に戻り説明を続ける。ステップS300の処理後、領域計算部412は、指定領域が妥当な状態であるか否か判定する(ステップS19)。指定領域が妥当な状態ではない場合(ステップS19/NO)、領域計算部412は、特徴点配列データに格納されているデータを全てクリアする(ステップS22)。この結果、指定領域はクリアされ、ステップS10及びS11の処理を経て、表示部20にはポインタが表示される(ステップS12)。   Returning to FIG. After the process of step S300, the area calculation unit 412 determines whether or not the designated area is in an appropriate state (step S19). If the designated region is not valid (step S19 / NO), the region calculation unit 412 clears all the data stored in the feature point array data (step S22). As a result, the designated area is cleared, and a pointer is displayed on the display unit 20 through steps S10 and S11 (step S12).

指定領域が妥当な状態にある場合(ステップS19/YES)、表示制御部414は、指定領域とその中心位置を表示部20に描画する(ステップS20)。   When the designated area is in an appropriate state (step S19 / YES), the display control unit 414 draws the designated area and its center position on the display unit 20 (step S20).

領域計算部412は、ステップS18の判定がNOの場合、又はステップS20の処理の終了後、指定領域がクリアされているか否か判定する(ステップS21)。ステップS21の判定がYESの場合、領域計算部412は、特徴点配列データに格納されているデータを全てクリアする(ステップS22)。この結果、指定領域はクリアされ、ステップS10及びS11の処理を経て、表示部20には領域指定受付部411によりポインタが表示される(ステップS12)。   The area calculation unit 412 determines whether or not the designated area is cleared when the determination in step S18 is NO or after the process of step S20 is completed (step S21). When the determination in step S21 is YES, the region calculation unit 412 clears all the data stored in the feature point array data (step S22). As a result, the designated area is cleared, and the pointer is displayed on the display unit 20 by the area designation receiving unit 411 through the processes of steps S10 and S11 (step S12).

指定領域がクリアされていない場合(ステップS21/NO)、又は、ステップS11の判定がNOの場合、ズーム倍率変更部415は、撮影処理(ステップS400)を実行する。ここで、ステップS400の処理の詳細について説明する。図23は、ステップS400の詳細な処理の一例を示すフローチャートである。   If the designated area is not cleared (step S21 / NO), or if the determination in step S11 is NO, the zoom magnification changing unit 415 executes a photographing process (step S400). Here, details of the processing in step S400 will be described. FIG. 23 is a flowchart illustrating an example of detailed processing in step S400.

ズーム倍率変更部415は、ユーザによりシャッターが押されているか否か判定する(ステップS401)。本実施例では、ステップS401の「シャッターが押されている」は、「シャッターが半押しされている」であるとする。   The zoom magnification changing unit 415 determines whether or not the shutter is pressed by the user (step S401). In this embodiment, it is assumed that “shutter is pressed” in step S401 is “shutter is pressed halfway”.

ズーム倍率変更部415は、シャッターが押されている場合(ステップS401/YES)、ズーム倍率変更部415は、画面の中心と指定領域の中心とが一致していると判定できるほど、画面の中心と指定領域の中心との距離が小さいか否か判定する(ステップS402)。ステップS402の判定がNOの場合、ズーム倍率変更部415は、メッセージを表示部20に表示する等して、画面の中心と指定領域の中心とを合わせるように、ユーザに促す(ステップS403)。ステップS403の処理が終了すると、ズーム倍率変更部415は、ステップS402から処理を継続する。   When the shutter is pressed (YES in step S401), the zoom magnification changing unit 415 determines that the zoom magnification changing unit 415 determines that the center of the screen matches the center of the designated area. It is determined whether or not the distance from the center of the designated area is small (step S402). If the determination in step S402 is NO, the zoom magnification changing unit 415 prompts the user to match the center of the screen and the center of the designated area by displaying a message on the display unit 20 (step S403). When the process of step S403 ends, the zoom magnification changing unit 415 continues the process from step S402.

ステップS402の判定がYESの場合、ズーム倍率変更部415は、指定領域が画面内で最大になるように光学系のズーム倍率を調整する(ステップS404)。次に、ズーム倍率変更部415は、シャッターが最後まで押し込まれたか否か判定する(ステップS405)。つまり、本実施例では、ステップS405において、ステップS401で半押しされたシャッターが、ユーザにより押し込まれたか否かを判定している。なお、ユーザが撮影操作を実行しているか否かの判定は、シャッターの押下状態に基づくものでなくても良い。例えば、ズーム倍率の変更と、撮影動作とが、別々のボタンの操作によって実行されるとする。この場合、ステップS401において所定のボタンが押されたか否かを判定し、ステップS405では、ステップS401とは異なる所定のボタンが押されたか否かを判定するようにしても良い。   If the determination in step S402 is YES, the zoom magnification changing unit 415 adjusts the zoom magnification of the optical system so that the designated area is maximized in the screen (step S404). Next, the zoom magnification changing unit 415 determines whether or not the shutter has been pushed to the end (step S405). That is, in this embodiment, in step S405, it is determined whether or not the shutter half-pressed in step S401 has been pressed by the user. Note that the determination as to whether or not the user is performing a shooting operation need not be based on the pressed state of the shutter. For example, it is assumed that the zoom magnification change and the photographing operation are executed by operating different buttons. In this case, it may be determined whether or not a predetermined button has been pressed in step S401, and in step S405, it may be determined whether or not a predetermined button different from step S401 has been pressed.

ズーム倍率変更部415は、ステップS405の判定がNOの場合、又は、ステップS401の判定がNOの場合、ユーザが撮影操作を実行していない未撮影状態であると判定する(ステップS408)。   If the determination in step S405 is NO, or if the determination in step S401 is NO, the zoom magnification changing unit 415 determines that the user is not performing a shooting operation and is in an unshooting state (step S408).

ステップS405の判定がYESの場合、取得部417は、指定領域内の画像を記憶部413に記憶させる(ステップS406)。取得部417は、ユーザが撮影操作を行い画像が撮影されたと判定し(ステップS407)、処理を終了する。   When the determination in step S405 is YES, the acquisition unit 417 stores the image in the designated area in the storage unit 413 (step S406). The acquisition unit 417 determines that an image has been shot by the user performing a shooting operation (step S407), and the process ends.

図13に戻り説明を続ける。画像補正部416は、ユーザにより画像が撮影されたか否か判定する(ステップS23)。ユーザにより画像が撮影された場合(ステップS23/YES)、画像補正部416は、記憶部413に記憶されている画像に対し、台形補正や傾き補正等の画像補正処理を施し、補正後の画像を格納部50に画像を保存する(ステップS24)。画像補正部416は、処理を終了する。   Returning to FIG. The image correction unit 416 determines whether or not an image has been taken by the user (step S23). When an image is captured by the user (step S23 / YES), the image correction unit 416 performs image correction processing such as keystone correction and tilt correction on the image stored in the storage unit 413, and the corrected image. Is stored in the storage unit 50 (step S24). The image correction unit 416 ends the process.

ユーザにより画像が撮影されなかった場合(ステップS23/NO)、図12のDに進み、領域指定受付部411が、再びステップS10から処理を実行する。   When an image is not photographed by the user (step S23 / NO), the process proceeds to D in FIG. 12, and the region designation receiving unit 411 executes the process from step S10 again.

以上の説明から明らかなように、実施例1によれば、指定領域の中心と撮像部10が撮像する画像の中心との距離が予め定められた範囲内にある場合に、ズーム倍率変更部415は、指定領域が表示部20いっぱいに表示されるように、光学系のズーム倍率を変更する。これにより、全体の画像を撮影してから指定領域の画像を切り出すよりも高い解像度で、指定領域に含まれる被撮像物を撮影することが可能となる。   As is clear from the above description, according to the first embodiment, when the distance between the center of the designated region and the center of the image captured by the imaging unit 10 is within a predetermined range, the zoom magnification changing unit 415 Changes the zoom magnification of the optical system so that the designated area is displayed in full on the display unit 20. As a result, it is possible to photograph the object to be imaged included in the designated area at a higher resolution than when the entire image is photographed and then the image of the designated area is cut out.

また、領域指定受付部411は、指定領域を定義する点の指定を表示部20上に表示されるポインタを使用したユーザの操作に基づいて、受付ける。これにより、ユーザは直感的な操作により、容易に指定領域を設定することが可能となる。   The area designation receiving unit 411 accepts designation of a point that defines the designated area based on a user operation using a pointer displayed on the display unit 20. As a result, the user can easily set the designated area by an intuitive operation.

また、領域計算部412は、前フレームにおける複数の特徴点と、指定領域を定義する点との位置関係を使用して、前フレームにおける指定領域と、指定領域に含まれる被撮像物との位置関係が維持されるような現フレームにおける指定領域の位置及び大きさを計算する。そして、表示制御部414が、領域計算部412による計算結果に基づいて現フレームにおける指定領域を示す枠を、表示部20に表示する。これにより、ユーザは指定領域を示す枠をガイドとして使用して、全体の画像と、指定領域との関係を容易に把握することが可能となる。   Further, the area calculation unit 412 uses the positional relationship between the plurality of feature points in the previous frame and the points that define the specified area, and the position of the specified area in the previous frame and the object to be imaged included in the specified area. Calculate the position and size of the designated area in the current frame so that the relationship is maintained. Then, the display control unit 414 displays a frame indicating the designated region in the current frame on the display unit 20 based on the calculation result by the region calculation unit 412. Thus, the user can easily grasp the relationship between the entire image and the designated area by using the frame indicating the designated area as a guide.

また、取得部417が指定領域に含まれる画像のみを取得することで、ユーザは撮影後に指定領域を切り出す等の作業を行う必要がなくなり、ユーザの利便性が向上する。   In addition, since the acquisition unit 417 acquires only the image included in the designated area, the user does not need to perform operations such as cutting out the designated area after shooting, and the convenience for the user is improved.

実施例2では、実施例1に係る撮像装置100の一部の機能のみを備える撮像装置100´について説明する。図24は、実施例2に係る撮像装置100´が有する機能の一例を示す機能ブロック図である。撮像装置100´は、図24に示すように、ズーム倍率変更部415、取得部417、及び画像補正部416を含まず、撮像部10が撮像した画像を格納部50に保存する処理を行う保存処理部418を備える。保存処理部418は、ユーザの撮影操作を受付け、撮像部10が撮像した画像を格納部50に保存する。   In the second embodiment, an imaging device 100 ′ having only some functions of the imaging device 100 according to the first embodiment will be described. FIG. 24 is a functional block diagram illustrating an example of functions of the imaging apparatus 100 ′ according to the second embodiment. As illustrated in FIG. 24, the imaging apparatus 100 ′ does not include the zoom magnification changing unit 415, the acquisition unit 417, and the image correction unit 416. The imaging apparatus 100 ′ performs a process of storing an image captured by the imaging unit 10 in the storage unit 50. A processing unit 418 is provided. The storage processing unit 418 receives a user's shooting operation and stores the image captured by the imaging unit 10 in the storage unit 50.

撮像装置100´が図24に示す構成を有する場合、画像を撮影する処理は、図25のフローチャートに示す処理とすることができる。図25は、撮像装置100´を用いて画像の撮影を行う処理の一例を示すフローチャートである。   When the imaging apparatus 100 ′ has the configuration shown in FIG. 24, the processing for capturing an image can be the processing shown in the flowchart of FIG. FIG. 25 is a flowchart illustrating an example of processing for capturing an image using the imaging apparatus 100 ′.

図25において、保存処理部418は、シャッターがユーザにより押されているか否か判定する(ステップS501)。保存処理部418は、シャッターが押されている場合(ステップS401/YES)、指定領域と表示部20の画面サイズとが同じ位の大きさか否か判定する(ステップS502)。例えば、保存処理部418は、指定領域の一部と、表示部20の端との距離が所定の値以下か否か判定する。   In FIG. 25, the storage processing unit 418 determines whether or not the shutter is pressed by the user (step S501). If the shutter is pressed (step S401 / YES), the storage processing unit 418 determines whether the designated area and the screen size of the display unit 20 are the same size (step S502). For example, the storage processing unit 418 determines whether the distance between a part of the designated area and the end of the display unit 20 is equal to or less than a predetermined value.

ステップS502の判定がNOの場合、保存処理部418は、指定領域が画面サイズよりも大きいか否か判定する(ステップS503)。保存処理部418は、指定領域が画面サイズよりも大きい場合(ステップS503/YES)、指定領域が画面内に入るようにするため、ズーム倍率を小さくするよう求めるメッセージを表示部20に表示する(ステップS504)。指定領域が画面サイズよりも小さい場合(ステップS503/NO)、保存処理部418は、指定領域が画面いっぱいに表示されるよう、ズーム倍率を大きくすることを求めるメッセージを表示部20に表示する(ステップS505)。   If the determination in step S502 is NO, the storage processing unit 418 determines whether the designated area is larger than the screen size (step S503). When the designated area is larger than the screen size (step S503 / YES), the storage processing unit 418 displays a message on the display unit 20 for requesting the zoom magnification to be reduced so that the designated area enters the screen (step S503 / YES). Step S504). If the designated area is smaller than the screen size (step S503 / NO), the storage processing unit 418 displays a message on the display unit 20 requesting that the zoom magnification be increased so that the designated area is displayed on the full screen ( Step S505).

保存処理部418は、ステップS502の判定がYESだった場合、又は、ステップS504又はS505の処理の後、シャッターが最後まで押し込まれたか否か判定する(ステップ506)。   If the determination in step S502 is YES, or after the processing in step S504 or S505, the storage processing unit 418 determines whether the shutter has been pushed to the end (step 506).

ステップS506の判定がNOの場合、図12のDに進み、領域指定受付部411が、ステップS10から処理を継続する。   When determination of step S506 is NO, it progresses to D of FIG. 12, and the area | region designation | designated reception part 411 continues a process from step S10.

ステップS506の判定がYESの場合、保存処理部418は、撮像部10が撮像した画像を格納部50に格納し(ステップS507)、処理を終了する。   If the determination in step S506 is YES, the storage processing unit 418 stores the image captured by the imaging unit 10 in the storage unit 50 (step S507), and ends the process.

以上の説明から明らかなように、実施例2によれば、領域計算部412が、前フレームにおける指定領域と、指定領域に含まれる被撮像物との位置関係が維持されるような現フレームにおける指定領域の位置及び大きさを計算する、そして、領域計算部412の計算結果に基づいて、表示制御部414が、表示部20に、指定領域を示す枠、指定領域の中心、及び撮像部10が撮像する画像の中心を表示する。これにより、ユーザは、指定領域の中心を、表示部20の中心と合わせるようにすることで、容易に、指定した領域が中心となる画像を容易に撮影できる。また、指定領域を表す枠が表示部20に表示されるので、ユーザは、指定領域と全体の画像との関係を確認しながら、光学系のズーム倍率を手動で変更して、指定領域が表示部20いっぱいに表示されるよう容易に操作できる。なお、ユーザは光学系のズーム倍率を変更するのではなく、撮像装置100´自体を被撮像物に近づけて、指定領域が表示部20いっぱいに表示されるようにすることもできる。また、ユーザは、指定領域の中心を、表示部20の中心と合わせつつ、指定領域が表示部20いっぱいに表示されるように撮像装置100´を操作することで、撮像装置100´の解像度を生かした撮影を容易に行うことができる。   As is clear from the above description, according to the second embodiment, the area calculation unit 412 performs the current frame in which the positional relationship between the designated area in the previous frame and the imaging target included in the designated area is maintained. Based on the calculation result of the area calculation unit 412, the display control unit 414 calculates the frame indicating the specified area, the center of the specified area, and the imaging unit 10 based on the calculation result of the area calculation unit 412. Displays the center of the image to be captured. Thus, the user can easily capture an image centered on the designated area by aligning the center of the designated area with the center of the display unit 20. In addition, since a frame representing the designated area is displayed on the display unit 20, the user manually changes the zoom magnification of the optical system while confirming the relationship between the designated area and the entire image, and the designated area is displayed. It can be easily operated so that the part 20 is displayed in full. Instead of changing the zoom magnification of the optical system, the user can bring the imaging device 100 ′ itself closer to the object to be picked up so that the designated area is displayed in full on the display unit 20. In addition, the user adjusts the resolution of the imaging device 100 ′ by operating the imaging device 100 ′ so that the specified region is displayed in the display unit 20 while aligning the center of the specified region with the center of the display unit 20. Taking advantage of this is easy.

以上、本件の複数の実施例について詳述したが、本件は係る特定の実施例に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。   As described above, the embodiments of the present invention have been described in detail. However, the present invention is not limited to the specific embodiments, and various modifications and changes can be made within the scope of the gist of the present invention described in the claims. It can be changed.

例えば、実施例1において、指定領域の形を図26(A)に示す矩形としたが、図26(B)〜(G)に示すように、指定領域の形を、円、楕円、ハート型、及び任意の形状とすることができる。指定領域の形が円の場合、ユーザは図26(B)に示すように、中心点及び半径となる点の2点を指定することで領域を指定できる。指定領域の形が楕円の場合、ユーザは図26(C)に示すように、中心点と長径・短径となる点の3点を指定することで領域を指定できる。指定領域の形がハート型の場合、ユーザは図26(D)に示すように、中心点と、外接矩形の頂点を指定する、あるいは、図26(E)に示すように左上と右下の点を指定することによって領域を指定できる。または、図26(E)に示すように、中心点と外接円の半径などを指定することによってハート型の領域を指定できる。また、図26(F)に示すように、ユーザは、点列を指定することによって任意の形状を指定することもできる。   For example, in the first embodiment, the shape of the designated area is the rectangle shown in FIG. 26A, but the shape of the designated area is a circle, an ellipse, or a heart shape as shown in FIGS. , And any shape. When the shape of the designated area is a circle, as shown in FIG. 26B, the user can designate the area by designating two points, which are a center point and a radius. When the shape of the designated area is an ellipse, the user can designate the area by designating the center point and the points having the major axis and the minor axis as shown in FIG. When the shape of the designated area is a heart shape, the user designates the center point and the vertex of the circumscribed rectangle as shown in FIG. 26D, or the upper left and lower right as shown in FIG. An area can be specified by specifying a point. Alternatively, as shown in FIG. 26E, a heart-shaped region can be designated by designating the center point and the radius of the circumscribed circle. Also, as shown in FIG. 26 (F), the user can designate an arbitrary shape by designating a point sequence.

なお、上記の撮像装置が有する機能は、CPU、ROM、RAM等を備えるコンピュータによって実現することができる。その場合、撮像装置が有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。   Note that the functions of the imaging apparatus described above can be realized by a computer including a CPU, a ROM, a RAM, and the like. In that case, a program describing the processing contents of the functions that the imaging apparatus should have is provided. By executing the program on a computer, the above processing functions are realized on the computer. The program describing the processing contents can be recorded on a computer-readable recording medium.

プログラムを流通させる場合には、例えば、そのプログラムが記録されたDVD(Digital Versatile Disc)、CD−ROM(Compact Disc Read Only Memory)などの可搬型記録媒体の形態で販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。   When the program is distributed, for example, it is sold in the form of a portable recording medium such as a DVD (Digital Versatile Disc) or a CD-ROM (Compact Disc Read Only Memory) on which the program is recorded. It is also possible to store the program in a storage device of a server computer and transfer the program from the server computer to another computer via a network.

プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。   The computer that executes the program stores, for example, the program recorded on the portable recording medium or the program transferred from the server computer in its own storage device. Then, the computer reads the program from its own storage device and executes processing according to the program. The computer can also read the program directly from the portable recording medium and execute processing according to the program. Further, each time the program is transferred from the server computer, the computer can sequentially execute processing according to the received program.

また、例えば、インターネット等の通信網に接続されたサーバコンピュータに接続されたパーソナルコンピュータ等の通信装置に、上記の撮像装置が有する機能をサービスとしてサーバコンピュータから提供するようにしても良い(ASP(Application Service Provider))。   Further, for example, a function provided by the above-described imaging device may be provided as a service from a server computer to a communication device such as a personal computer connected to a server computer connected to a communication network such as the Internet (ASP ( Application Service Provider)).

100、100´…撮像装置
10…撮像部
20…表示部
411…領域指定受付部
412…領域計算部
414…表示制御部
415…ズーム倍率変更部
416…画像補正部
417…取得部
DESCRIPTION OF SYMBOLS 100, 100 '... Imaging device 10 ... Imaging part 20 ... Display part 411 ... Area designation reception part 412 ... Area calculation part 414 ... Display control part 415 ... Zoom magnification change part 416 ... Image correction part 417 ... Acquisition part

Claims (6)

撮像部が撮像する画像を表示する表示部と、
被撮像物を含む領域の指定を受付ける領域指定受付部と、
前記撮像部が撮像する第1の画像において、前記撮像部が前記第1の画像よりも前に撮像した第2の画像における前記領域と前記被撮像物との位置関係を維持するような前記領域の位置及び大きさを計算する領域計算部と、
前記表示部に、前記第1の画像における前記領域を示す枠、前記領域の中心、及び前記第1の画像の中心を表示する表示制御部と、
を備え
前記領域指定受付部は、前記表示部上に固定表示されるポインタを使用して前記表示部に表示される第3の画像上で指定された、前記被撮像物を含む領域を定義する第1の点と、前記第1の点を指定した後に前記表示部に表示される前記第3の画像とは異なる第4の画像上で前記ポインタを使用して指定された、前記領域を定義する第2の点と、に基づいて、前記領域の指定を受付けることを特徴とする撮像装置。
A display unit for displaying an image captured by the imaging unit;
An area designation receiving unit for accepting designation of an area including an object to be imaged;
In the first image captured by the imaging unit, the region that maintains the positional relationship between the region and the object to be captured in the second image captured by the imaging unit before the first image. An area calculation unit for calculating the position and size of
A display control unit for displaying a frame indicating the region in the first image, a center of the region, and a center of the first image on the display unit;
Equipped with a,
The region designation receiving unit defines a region including the object to be imaged, which is designated on a third image displayed on the display unit using a pointer fixedly displayed on the display unit. And a region defining the region designated using the pointer on a fourth image different from the third image displayed on the display unit after the first point is designated. An image pickup apparatus that accepts designation of the region based on two points .
前記領域の中心と前記撮像部が撮像する画像の中心との距離が予め定められた範囲内にある場合に、前記領域を示す枠の一部と前記表示部のいずれかの辺との距離が予め定めた範囲内になるように、光学系のズーム倍率を変更するズーム倍率変更部を備える、請求項1に記載の撮像装置。   When the distance between the center of the region and the center of the image captured by the imaging unit is within a predetermined range, the distance between a part of the frame indicating the region and any side of the display unit is The imaging apparatus according to claim 1, further comprising a zoom magnification changing unit that changes a zoom magnification of the optical system so as to be within a predetermined range. 前記領域計算部は、前記第2の画像内に設定された複数の特徴点と、前記第2の画像において前記領域を定義する点との位置関係に基づいて、前記第1の画像における前記領域の位置及び大きさを計算する請求項1または2に記載の撮像装置。 The region calculation unit is configured to determine the region in the first image based on a positional relationship between a plurality of feature points set in the second image and points defining the region in the second image. the imaging apparatus according to claim 1 or 2 for calculating the position and size of the. 前記領域に含まれる画像のみを取得する取得部を備える請求項1からのいずれか1項記載の撮像装置。 Imaging device according to any one of claims 1-3 comprising an acquisition unit for acquiring only the image included in the region. 前記領域の形状と前記取得部が取得した画像とに基づいて、撮像された画像を補正する画像補正部を備えることを特徴とする請求項に記載の撮像装置。 The imaging apparatus according to claim 4 , further comprising an image correction unit that corrects a captured image based on a shape of the region and an image acquired by the acquisition unit. 撮像装置が撮像する画像において被撮像物を含む領域の指定を受付ける領域指定受付ステップと、
前記撮像装置が撮像する第1の画像において、前記撮像装置が前記第1の画像よりも前に撮像した第2の画像における前記領域と前記被撮像物との位置関係を維持するような前記領域の位置及び大きさを計算する計算ステップと、
前記計算ステップでの計算結果に基づいて、前記第1の画像における前記領域を示す枠、前記領域の中心、及び前記第1の画像の中心を前記撮像装置が備える表示部に表示する表示ステップとを、コンピュータに実行させ
前記領域指定受付ステップでは、前記表示部上に固定表示されるポインタを使用して前記表示部に表示される第3の画像上で指定された、前記被撮像物を含む領域を定義する第1の点と、前記第1の点を指定した後に前記表示部に表示される前記第3の画像とは異なる第4の画像上で前記ポインタを使用して指定された、前記領域を定義する第2の点と、に基づいて、前記領域の指定を受付けることを特徴とする撮像プログラム。
An area designation receiving step for accepting designation of an area including an object to be captured in an image captured by the imaging apparatus;
In the first image captured by the imaging device, the region that maintains the positional relationship between the region and the object to be imaged in the second image captured by the imaging device before the first image A calculation step for calculating the position and size of
A display step of displaying a frame indicating the region in the first image, a center of the region, and a center of the first image on a display unit included in the imaging device based on a calculation result in the calculation step; To the computer ,
In the region designation receiving step, a first region defining the region including the object to be imaged designated on a third image displayed on the display unit using a pointer fixedly displayed on the display unit is defined. And a region defining the region designated using the pointer on a fourth image different from the third image displayed on the display unit after the first point is designated. An imaging program that accepts designation of the region based on two points .
JP2009295681A 2009-12-25 2009-12-25 Imaging apparatus and imaging program Expired - Fee Related JP5458877B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009295681A JP5458877B2 (en) 2009-12-25 2009-12-25 Imaging apparatus and imaging program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009295681A JP5458877B2 (en) 2009-12-25 2009-12-25 Imaging apparatus and imaging program

Publications (2)

Publication Number Publication Date
JP2011135538A JP2011135538A (en) 2011-07-07
JP5458877B2 true JP5458877B2 (en) 2014-04-02

Family

ID=44347745

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009295681A Expired - Fee Related JP5458877B2 (en) 2009-12-25 2009-12-25 Imaging apparatus and imaging program

Country Status (1)

Country Link
JP (1) JP5458877B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5854704B2 (en) * 2011-08-25 2016-02-09 キヤノン株式会社 Imaging apparatus, control method therefor, and program
CN107517344A (en) * 2016-06-15 2017-12-26 珠海格力电器股份有限公司 Method and device for adjusting recognition range of camera device

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002101378A (en) * 2000-09-20 2002-04-05 Fuji Photo Film Co Ltd Image pickup device
JP2005175970A (en) * 2003-12-11 2005-06-30 Canon Inc Imaging system
JP4867136B2 (en) * 2004-04-16 2012-02-01 カシオ計算機株式会社 Imaging apparatus and program thereof
JP2006318345A (en) * 2005-05-16 2006-11-24 Sony Corp Object tracking method, object tracking method program, recording medium recording object tracking method program, and object tracking apparatus
JP4716266B2 (en) * 2007-02-26 2011-07-06 カシオ計算機株式会社 Image processing apparatus, imaging apparatus, and program thereof
JP2009225027A (en) * 2008-03-14 2009-10-01 Fujifilm Corp Imaging apparatus, imaging control method, and program

Also Published As

Publication number Publication date
JP2011135538A (en) 2011-07-07

Similar Documents

Publication Publication Date Title
JP6116486B2 (en) Dimension measurement method
US10789671B2 (en) Apparatus, system, and method of controlling display, and recording medium
CN107026973B (en) Image processing device, image processing method and photographic auxiliary equipment
US20120194636A1 (en) Information processing apparatus, information processing method, program, and imaging apparatus
US9712745B2 (en) Method and apparatus for operating camera function in portable terminal
CN105659287B (en) Image processing device, image processing method and imaging system
JP5109803B2 (en) Image processing apparatus, image processing method, and image processing program
EP2477152B1 (en) Image processing device, image processing method, image processing program, and recording medium
US20100302347A1 (en) Image pickup apparatus, electronic device, panoramic image recording method, and program
JP5229791B2 (en) PHOTO MAPPING METHOD AND SYSTEM, PROGRAM, AND STORAGE MEDIUM
WO2013184313A1 (en) Motion-based image stitching
JP5644461B2 (en) Image processing apparatus and program
US20120002094A1 (en) Image pickup apparatus for providing reference image and method for providing reference image thereof
JP2013070212A (en) Image processor and image processing program
JP2017162371A (en) Image processing device, image processing method and program
JP6098784B2 (en) Image processing apparatus and program
JP2019041188A (en) Image processing apparatus, imaging apparatus, control method of image processing apparatus, and program
JP5458877B2 (en) Imaging apparatus and imaging program
JP6676299B2 (en) Image processing apparatus, image processing method, and computer program
JP5216703B2 (en) Video display system and video display method
CN113012160B (en) Image processing method, device, terminal equipment and computer readable storage medium
CN119011796B (en) Processing method of environmental image data in camera perspective VST, head display device and storage medium
JP5805013B2 (en) Captured image display device, captured image display method, and program
KR20140129631A (en) Apparatus and method for generating an image in a portable terminal
JP6645711B2 (en) Image processing apparatus, image processing method, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120910

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130725

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130730

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130926

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131217

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131230

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees