JP5458877B2 - Imaging apparatus and imaging program - Google Patents
Imaging apparatus and imaging program Download PDFInfo
- Publication number
- JP5458877B2 JP5458877B2 JP2009295681A JP2009295681A JP5458877B2 JP 5458877 B2 JP5458877 B2 JP 5458877B2 JP 2009295681 A JP2009295681 A JP 2009295681A JP 2009295681 A JP2009295681 A JP 2009295681A JP 5458877 B2 JP5458877 B2 JP 5458877B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- region
- area
- designated
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Indication In Cameras, And Counting Of Exposures (AREA)
- Studio Devices (AREA)
- Telephone Function (AREA)
Description
本件は、撮像装置、及び撮像プログラムに関する。 This case relates to an imaging apparatus and an imaging program.
近年、デジタルカメラやカメラ付携帯電話の普及に伴い、ユーザが撮影したデジタル画像をウェブ上にアップロードしたり、また、電子メールに添付したりする機会が増加している。デジタルカメラ等で被写体を撮影する際、ユーザはデジタルカメラに備えられた表示装置で被写体を確認しながら撮影を行うが、撮影したくない部分が撮影領域に含まれてしまうことがある。この場合、撮影後に撮影したかった部分のみを画像データから切り出すことも可能であるが、画像データをパーソナルコンピュータ(以下、PC)に移動し、特別なソフトを用いて画像データを加工する必要があり、作業が煩雑である。そこで、撮影した画像の一部の領域のみを保存する撮像装置が提案されている(例えば、特許文献1及び2)。
In recent years, with the spread of digital cameras and camera-equipped mobile phones, there are increasing opportunities for users to upload digital images taken on the web or attach them to e-mails. When a subject is photographed with a digital camera or the like, the user performs photographing while confirming the subject with a display device provided in the digital camera, but a portion that is not desired to be photographed may be included in the photographing region. In this case, it is possible to cut out only the part that was desired to be taken after the photographing, but it is necessary to move the image data to a personal computer (hereinafter referred to as a PC) and process the image data using special software. Yes, the work is complicated. In view of this, an imaging apparatus that saves only a partial area of a captured image has been proposed (for example,
しかしながら、特許文献1及び2の技術では、撮影画像全体の中から、撮影したかった部分のみを切り出して保存するため、解像度の高い画像を撮影できるデジタルカメラであっても、その性能を十分に生かしきれていない可能性がある。
However, since the techniques of
本件は、上記の事情に鑑みて成されたものであり、撮像装置の性能を生かした画像の撮影を容易に行える撮像装置及び撮像プログラムを提供することを目的とする。 The present invention has been made in view of the above circumstances, and an object thereof is to provide an imaging apparatus and an imaging program that can easily take an image using the performance of the imaging apparatus.
上記課題を解決するために、明細書開示の撮像装置は、撮像部が撮像する画像を表示する表示部と、被撮像物を含む領域の指定を受付ける領域指定受付部と、前記撮像部が撮像する第1の画像において、前記撮像部が前記第1の画像よりも前に撮像した第2の画像における前記領域と前記被撮像物との位置関係を維持するような前記領域の位置及び大きさを計算する領域計算部と、前記表示部に、前記第1の画像における前記領域を示す枠、前記領域の中心、及び前記第1の画像の中心を表示する表示制御部と、を備え、前記領域指定受付部は、前記表示部上に固定表示されるポインタを使用して前記表示部に表示される第3の画像上で指定された、前記被撮像物を含む領域を定義する第1の点と、前記第1の点を指定した後に前記表示部に表示される前記第3の画像とは異なる第4の画像上で前記ポインタを使用して指定された、前記領域を定義する第2の点と、に基づいて、前記領域の指定を受付ける。
In order to solve the above problems, an imaging device disclosed in the specification includes a display unit that displays an image captured by an imaging unit, a region designation receiving unit that accepts designation of a region including an object to be captured, and the imaging unit that captures an image. In the first image, the position and size of the region that maintains the positional relationship between the region and the object to be imaged in the second image captured by the imaging unit before the first image. An area calculation unit that calculates the image, and a display control unit that displays the frame indicating the region in the first image, the center of the region, and the center of the first image on the display unit , The area designation receiving unit defines a first area that includes the object to be imaged and is designated on a third image displayed on the display unit using a pointer that is fixedly displayed on the display unit. After specifying the point and the first point, From said third image represented specified using the pointer on different fourth image, and a second point defining the region, based on, accepts the designation of the area.
上記課題を解決するために、明細書開示の撮像プログラムは、撮像装置が撮像する画像において被撮像物を含む領域の指定を受付ける領域指定受付ステップと、前記撮像装置が撮像する第1の画像において、前記撮像装置が前記第1の画像よりも前に撮像した第2の画像における前記領域と前記被撮像物との位置関係を維持するような前記領域の位置及び大きさを計算する計算ステップと、前記計算ステップでの計算結果に基づいて、前記第1の画像における前記領域を示す枠、前記領域の中心、及び前記第1の画像の中心を前記撮像装置が備える表示部に表示する表示ステップとを、をコンピュータに実行させ、前記領域指定受付ステップでは、前記表示部上に固定表示されるポインタを使用して前記表示部に表示される第3の画像上で指定された、前記被撮像物を含む領域を定義する第1の点と、前記第1の点を指定した後に前記表示部に表示される前記第3の画像とは異なる第4の画像上で前記ポインタを使用して指定された、前記領域を定義する第2の点と、に基づいて、前記領域の指定を受付ける。 In order to solve the above-described problem, an imaging program disclosed in the specification includes: an area designation receiving step for accepting designation of an area including an object to be captured in an image captured by an imaging apparatus; and a first image captured by the imaging apparatus. A calculation step for calculating a position and a size of the region so as to maintain a positional relationship between the region and the object to be imaged in the second image captured by the imaging device before the first image; And a display step of displaying a frame indicating the region in the first image, a center of the region, and a center of the first image on a display unit included in the imaging device based on a calculation result in the calculation step. preparative, cause the computer to execute, in the area designation accepting step, a finger in the third image on which is displayed on the display unit the display unit using a pointer that is fixedly displayed on the The first point defining the region including the object to be imaged and the fourth image different from the third image displayed on the display unit after the first point is designated The designation of the region is accepted based on a second point that defines the region, designated using a pointer.
明細書開示の撮像装置及び撮像プログラムによれば、撮像装置の性能を生かした画像の撮影を容易に行える。 According to the imaging device and the imaging program disclosed in the specification, it is possible to easily capture an image using the performance of the imaging device.
以下、本件の実施例について、添付図面を参照しつつ説明する。 Hereinafter, embodiments of the present invention will be described with reference to the accompanying drawings.
まず、実施例1に係る撮像装置の構成について説明する。図1は、実施例1に係る撮像装置の構成の一例を示す図である。 First, the configuration of the imaging apparatus according to the first embodiment will be described. FIG. 1 is a diagram illustrating an example of the configuration of the imaging apparatus according to the first embodiment.
図1(A)に示すように、実施例1に係る撮像装置100は、撮像部10、表示部20、操作部30、制御部40、及び格納部50を備える。撮像装置100が、例えば、図1(B)に示す携帯電話である場合、撮像部10は携帯電話本体に設けられたカメラ、表示部20は表示画面、操作部30は操作ボタンやタッチパネル、制御部40は携帯電話に内蔵された演算装置、格納部50は携帯電話本体に内蔵、又は追加されるメモリとすることができる。また、撮像装置100が、図1(C)に示すノート型PCの場合、撮像部10はノート型PC本体に内蔵される、あるいは、装着されるカメラ、表示部20はディスプレイ、操作部30はキーボード、マウス、又はタッチパネル、制御部40はプログラムを実行するCPU、格納部50はハードディスクドライブ等とすることができる。また、撮像装置100が、図1(D)に示すデジタルカメラの場合には、撮像部10はカメラ、表示部20はデジタルカメラ本体に設けられたディスプレイ、操作部30はデジタルカメラ本体に設けられたボタンやタッチパネル、制御部40は演算装置、格納部50は不揮発性の内蔵メモリやSDカード等の外部メモリとすることができる。本実施例では撮像装置100が携帯電話であるとして説明を行う。
As illustrated in FIG. 1A, the
撮像部10は、画像を撮像し、撮像した画像を制御部40に出力する。また、撮像部10は、光学系ズーム機構を備える。撮像部10が、制御部40の制御に基づいて光学系ズーム機構を駆動することにより、光学系のズーム倍率が変更される。
The
表示部20は、制御部40の制御に基づいて、制御部40が表示部20に出力した画像データを表示する。また、表示部20は、制御部40の制御に基づいて、撮像部10が撮像する画像の中心、及び、ユーザが指定した領域(詳細は後述する)の中心を表示する。
The
操作部30は、ユーザからの操作を受付け、操作内容を表す操作信号を制御部40に出力する。
The
制御部40は、操作部30から操作信号を受付け、操作信号に基づいて撮像部10や表示部20を制御する。制御部40は、撮像部10から受付けた画像の画像データを表示部20に出力し、表示部20に表示させる。制御部40は、撮像部10から受付けた画像の画像データを、格納部50に格納する。また、制御部40は、表示部20を制御して、撮像部10が撮像する画像の中心、ユーザが指定した領域を示す枠、及びその中心を表示部20に表示させる。
The
格納部50は、撮像部10が撮像した画像を格納する。
The
次に、撮像装置100の制御部40のハードウェア構成について説明する。図2は、制御部40のハードウェア構成の一例を示す図である。制御部40は、入出力部401、ROM(Read Only Memory)402、中央処理装置(CPU:Central Processing Unit)403、RAM(Random Access Memory)404を備える。
Next, a hardware configuration of the
入出力部401は、撮像部10、表示部20、操作部30、及び格納部50との間でデータおよび信号の送受信を行う。ROM402は、被撮像物とユーザに指定された領域との位置関係を維持するためのプログラム等を格納する。CPU403は、ROM402に格納されたプログラムを読み込んで実行する。また、ROM402に格納されたプログラムのCPU403による演算によって、図6に示す領域指定受付部411、領域計算部412、表示制御部414、ズーム倍率変更部415、画像補正部416、及び取得部417が有する機能が実行される。RAM404は、プログラムを実行する際に使用される一時的なデータを保存する。
The input /
次に、図3〜図5を用いて、撮像装置100が有する機能の概要について説明する。図3〜図5は、撮像装置100が有する機能の概要を説明するための図である。
Next, an overview of the functions of the
図3(A)は、撮像装置100において、いずれの機能も選択されていない状態を示している。図3(A)では、いずれの機能も選択されていないため、表示部20に画像は映し出されていない。この状態から、撮像部10を使用した画像撮像機能(以後、カメラモードと記載する)がユーザによって選択されると、撮像装置100は、図3(B)に示すように表示部20に撮像部10が撮像する画像を表示する。また、カメラモードが選択されている状態で、更に、画像に対して領域を指定できる機能(以後、領域指定モードと記載する)がユーザにより選択されると、撮像装置100は、図3(C)に示すように表示部20の中心にポインタを表示する。
FIG. 3A shows a state in which no function is selected in the
図3(C)において、ユーザが、被撮像物としての家を含む矩形の領域を指定したいとする。この場合、ユーザは、図3(C)に示すように、表示部20に表示されたポインタを指定したい領域の左上に合わせ、操作部30に設けられたボタンを押す。次に、ユーザはボタンを押したまま、カメラを移動させることによって、図4(A)に示すようにポインタを指定したい領域の右下の位置まで移動させ、ボタンを離す。これにより、ユーザは、図4(B)にハッチングで示す矩形の領域を指定することができる。撮像装置100は、図4(B)に示すように、ユーザが指定した領域(以後、指定領域と記載する)を表す枠を、表示部20に表示する。これにより、ユーザは指定領域を表示部20上で容易に確認できる。なお、本実施例に係る撮像装置100は、指定領域が設定された後、図4(B)に示すように指定領域が表示部20内に含まれるように光学系のズーム倍率を変更している。領域の指定方法は、本実施例に限られるものではなく、左上の位置でボタンを押した後にボタンを離し、右下の位置で再度同じボタンを押す、又は、別のボタンを押すことによって領域を指定するようにしても良い。
In FIG. 3C, it is assumed that the user wants to designate a rectangular area including a house as an object to be imaged. In this case, as shown in FIG. 3C, the user places the pointer displayed on the
本実施例に係る撮像装置100では、撮像装置100が移動されたり、ズーム倍率が変更されても、表示部20に表示される画像内において、指定領域と被撮像物である家との位置関係が維持される。すなわち、撮像装置100は、表示部20に表示される被撮像物に合わせて、指定領域の表示位置及び大きさを変更し、被撮像物と指定領域との位置関係を維持する。また、撮像装置100は、図4(C)に示すように撮像部10が撮像する画像の中心、すなわち、表示部20の中心と、指定領域の中心とを表示部20に表示する。
In the
また、撮像装置100は、表示部20の中心と指定領域の中心とが重なった場合に、図5(A)に示すように光学系のズーム倍率を変更する。光学系のズーム倍率を変更して、図5(B)に示すように指定領域が表示部20いっぱいに表示されるようにすることで、指定領域に含まれる画像について、撮像装置100が有する解像度を生かした撮影を行うことができる。また、ユーザは、図5(C)に示すように撮像装置100の縦横方向の向きを変えることにより、更に指定領域を拡大し、画像を撮影することもできる。
In addition, when the center of the
次に、上述した撮像装置100の機能を実現するために、制御部40が備える機能の一例について説明する。図6は、制御部40が有する機能の一例を示す機能ブロック図である。
Next, an example of functions provided in the
制御部40は、領域指定受付部411、領域計算部412、記憶部413、表示制御部414、ズーム倍率変更部415、画像補正部416、及び取得部417を備える。
The
領域指定受付部411は、撮像部10が撮像した画像を取得し、画像に対して特徴点を設定する。領域指定受付部411は、設定した特徴点のデータを記憶部413に保存する。ここで特徴点とは、画像に含まれる被撮像物の特定部位を示す点のことであり、頂点や縁の点、あるいは模様などがある場合は模様の点、色の境界点などを示す。また、領域指定受付部411は、カメラモードが選択された場合には、図3(C)に示したように表示部20の中心にポインタを表示する。領域指定受付部411は、ユーザによって指定された指定領域を定義する点についても、特徴点として記憶部413に保存する。
The area
領域計算部412は、記憶部413に保存されている特徴点のデータと、撮像部10が撮像する画像データとを使用して、指定領域と、指定領域に含まれる被撮像物との位置関係が維持されるように、指定領域の位置及びその大きさを計算する。つまり、領域計算部412は、指定領域を示す枠の表示位置及びその大きさを計算する。前述の図4の例では、領域計算部412は、ユーザが指定した矩形領域と、矩形領域に含まれる家との位置関係が維持されるように、指定領域を示す枠の表示位置及び大きさを計算する。領域計算部412は、指定領域と被撮像物との位置関係を維持するような指定領域の位置及び大きさを計算する計算処理の結果(詳細は、後述する)に基づいて、記憶部413に記憶されている特徴点のデータを更新する。
The
記憶部413は、例えば、RAM403とすることができ、撮像部10が撮像した画像、特徴点のデータ、及び指定領域に関するデータを記憶する。ここで、記憶部413に記憶されるデータについて説明する。
The
図7は、記憶部413が記憶するデータの一例を示している。記憶部413は、図7(A)に示す特徴点配列データと、図7(B)に示す指定領域データとを記憶する。図7(A)の特徴点配列データは、領域指定受付部411が撮像された画像に対して設定した特徴点、及びユーザが指定領域を設定する際に指定した点(指定領域を定義する点)に関するデータを含んでいる。特徴点配列データは、特徴点の種類、前フレームでの座標、前フレームでの特徴量、特徴点の状態(前)、指定領域内フラグ(前)、現フレームでの座標、現フレームでの特徴量、特徴点の状態(現)、指定領域内フラグ(現)、位置の妥当性、及び特徴点の信頼度の項目を有する。
FIG. 7 shows an example of data stored in the
ここで、図7及び図8を参照しつつ、特徴点配列データの各項目と、各項目に格納されるデータの例について説明する。図8は、撮像部10により撮像された画像の一例を表す。図8(B)は、撮像部10が新たに撮像した画像(現フレームの画像:第1の画像)の一例を示し、図8(A)は現フレームの画像を撮像する前に、撮像部10が撮像していた画像(前フレームの画像:第2の画像)の一例を示している。図8(A)に示す前フレームの画像において、P1〜P8は、領域指定受付部411が選択した特徴点を表し、P9及びP10は、指定領域を定義する点を表している。また、図8(B)に示すP1´〜P10´は、領域計算部412が実施する処理(詳細は後述する)によって、前フレームのP1〜P10にそれぞれ対応する点であると判定された点を表している。
Here, with reference to FIGS. 7 and 8, each item of the feature point array data and an example of data stored in each item will be described. FIG. 8 illustrates an example of an image captured by the
「特徴点の種類」項目は、特徴点が領域指定受付部411によって設定された特徴点であるか、それともユーザが指定領域を設定するときに指定した点であるかを表す。図8の例では、P1〜P8は領域指定受付部411によって設定された点であるため、領域指定受付部411によって設定されたことを意味する「AUTO_ADD」が設定される。P9及びP10は、ユーザによって指定された点であるため、ユーザによって指定されたことを意味する「USER_ADD」が設定される。
The “type of feature point” item indicates whether the feature point is a feature point set by the region
「前フレームでの座標」項目は、前フレームの画像において設定された特徴点の座標を表す。すなわち、図8の例では、図8(A)に示すP1〜P10の座標が格納される。 The “coordinate in the previous frame” item represents the coordinates of the feature point set in the image of the previous frame. That is, in the example of FIG. 8, the coordinates of P 1 to P 10 shown in FIG. 8A are stored.
「前フレームでの特徴量」項目は、前フレームにおける特徴点の特徴量を示す。すなわち、図8の例では、図8(A)に示すP1〜P10の特徴量が格納される。特徴量は、スカラ値でも良いし、利用する特徴量を表すのに必要なデータ構造であればスカラ値でなくても良い。 The “feature amount in the previous frame” item indicates the feature amount of the feature point in the previous frame. That is, in the example of FIG. 8, the feature quantities P 1 to P 10 shown in FIG. 8A are stored. The feature quantity may be a scalar value, or may not be a scalar value as long as it is a data structure necessary to represent the feature quantity to be used.
「特徴点の状態(前)」項目は、前フレームにおいて、特徴点が表示部20の画面内に存在しているか否かを示す。図8(A)の例では、P1〜P10の全ての特徴点が、画面内に存在しているため、特徴点が画面内に存在していることを示す「STAT_IN」が設定される。なお、特徴点が画面内に存在していない場合には、「STAT_OUT」が設定される。
The “feature point state (previous)” item indicates whether or not the feature point exists in the screen of the
「指定領域内フラグ(前)」項目は、前フレームにおいて、特徴点が指定領域内に存在しているか否かを表す。図8(A)では、前フレームの特徴点P1〜P7は、特徴点P9及びP10で定義される指定領域内に存在しているため、特徴点が指定領域内に存在することを示す「FLAG_IN」が設定される。また、特徴点P8については、特徴点P9及びP10で定義される指定領域の外に存在するため、特徴点が指定領域の外に存在することを意味する「FLAG_OUT」が設定される。なお、指定領域を定義する特徴点P9及びP10については、「選択領域内フラグ(前)」項目に、「FLAG_IN」を設定しても良いし、空白としても良い。 The “designated area flag (previous)” item indicates whether or not a feature point exists in the designated area in the previous frame. In FIG. 8A, the feature points P 1 to P 7 of the previous frame are present in the designated area defined by the feature points P 9 and P 10 , so that the feature points are present in the designated area. “FLAG_IN” is set. Further, since the feature point P 8 exists outside the designated area defined by the feature points P 9 and P 10 , “FLAG_OUT” is set, which means that the feature point exists outside the designated area. . Note that the feature point P 9 and P 10 to define a specified area, the item "selection area flag (before)", may be set to "FLAG_IN" may be blank.
「現フレームでの座標」項目は、現フレームにおける特徴点の座標を表す。図8の例では、前フレームの特徴点P1〜P10とそれぞれ対応すると判定された、図8(B)の特徴点P1´〜P10´の座標が格納される。 The item “coordinates in current frame” represents the coordinates of feature points in the current frame. In the example of FIG. 8, the coordinates of the feature points P 1 ′ to P 10 ′ of FIG. 8B, which are determined to correspond to the feature points P 1 to P 10 of the previous frame, are stored.
「現フレームでの特徴量」項目は、現フレームの特徴点P1´〜P10´の特徴量を表す。図8の例では、図8(B)に示す特徴点P1´〜P10´の特徴量が格納される。 The “feature amount in the current frame” item represents the feature amounts of the feature points P 1 ′ to P 10 ′ in the current frame. In the example of FIG. 8, the feature amounts of the feature points P 1 ′ to P 10 ′ shown in FIG. 8B are stored.
「特徴点の状態(現)」項目は、現フレームの特徴点が表示部20の画面内に存在するか否かを表す。図8(B)の例では、特徴点P1´〜P10´の全てが画面内に存在しているため、特徴点が画面内に存在していることを示す「STAT_IN」が設定される。なお、特徴点が画面内に存在していない場合には、「STAT_OUT」が設定される。
The “feature point state (current)” item indicates whether or not the feature point of the current frame exists in the screen of the
「指定領域内フラグ(現)」項目は、現フレームの特徴点が指定領域内にあるか否かを表す。図8(B)では、特徴点P2´〜P8´は、特徴点P9´及びP10´で定義される指定領域内に存在しているため、特徴点が指定領域内に存在することを示す「FLAG_IN」が設定される。特徴点P1´は、特徴点P9´及びP10´で定義される指定領域の外に存在するため、特徴点が指定領域の外に存在することを意味する「FLAG_OUT」が設定される。 The “designated area flag (current)” item indicates whether or not the feature point of the current frame is in the designated area. In FIG. 8B, since the feature points P 2 ′ to P 8 ′ are present in the designated area defined by the feature points P 9 ′ and P 10 ′, the feature points are present in the designated area. “FLAG_IN” is set to indicate this. Since the feature point P 1 ′ is outside the designated area defined by the feature points P 9 ′ and P 10 ′, “FLAG_OUT” which means that the feature point exists outside the designated area is set. .
「位置の妥当性」項目は、現フレームにおける特徴点の位置が正常であるか、異常であるか否かを表す。図8の例では、前フレームの特徴点P1〜P9と対応すると判定された現フレームの特徴点P1´〜P9´には、位置が正常であることを示す「VALID」の値が設定される。前フレームの特徴点P1〜P9と、現フレームの特徴点P1´〜P9´とは対応がとれているためである。しかしながら、前フレームの特徴点P10と対応すると判定された現フレームの特徴点P10´は、本来、図8(B)において黒丸で示すP10の位置に存在すべきである。従って、P10については、位置が異常であることを示す「INVALID」の値が設定される。
The “position validity” item represents whether the position of the feature point in the current frame is normal or abnormal. In the example of FIG. 8, the value of “VALID” indicating that the position is normal is set to the feature points P 1 ′ to P 9 ′ of the current frame determined to correspond to the feature points P 1 to P 9 of the previous frame. Is set. Wherein
「特徴点の信頼度」項目は、その特徴点の追跡の容易さを表す。特徴点の追跡が容易な場合、「特徴点の信頼度」項目には、大きな値が設定され、特徴点の追跡が困難な場合、小さな値が設定される。 The “feature point reliability” item represents the ease of tracking the feature point. A large value is set in the “feature point reliability” item when tracking feature points is easy, and a small value is set when tracking feature points is difficult.
次に、図7(B)の指定領域データについて説明する。指定領域データは、指定領域を定義するためのデータであり、領域の形状、構成する指定点の配列、外接矩形中心座標、外接矩形座標(左上)、及び外接矩形座標(右下)の項目を含む。 Next, the designated area data in FIG. 7B will be described. The designated area data is data for defining the designated area, and includes items of the shape of the area, the arrangement of designated designated points, circumscribed rectangle center coordinates, circumscribed rectangle coordinates (upper left), and circumscribed rectangle coordinates (lower right). Including.
「領域の形状」項目は、指定領域の形状(例えば、矩形、円等)を表す。図8の例では、指定領域の形状が矩形であるため、「領域の形状」項目には、「矩形」が設定されている。 The “region shape” item represents the shape (eg, rectangle, circle, etc.) of the designated region. In the example of FIG. 8, since the shape of the designated area is a rectangle, “rectangle” is set in the “area shape” item.
「構成する指定点の配列」項目は、指定領域の形状で表された図形を表現するために必要な点の配列を表す。例えば、指定領域の形状が矩形であるならば、左上及び右下の2点であり、円ならば中心点及びその半径となる点の2点である。図8の例では、指定領域の形状が矩形であるため、「構成する指定点の配列」項目に、「矩形2点」と設定される。 The “arrangement of designated points to be configured” item represents an arrangement of points necessary for expressing a graphic represented by the shape of the designated area. For example, if the shape of the designated area is a rectangle, there are two points at the upper left and the lower right, and if it is a circle, there are two points: a center point and a radius. In the example of FIG. 8, since the shape of the designated area is a rectangle, “rectangular 2 points” is set in the “arrangement of designated points to be configured” item.
「外接矩形中心座標」項目は、指定領域の中心座標を表す。「外接矩形座標(左上)」項目は、領域の形状が矩形である場合に、指定領域を示す左上の点の座標を表す。また、「外接矩形座標(右下)」項目は、領域の形状が矩形である場合に、指定領域を示す右下の点の座標を表す。領域の形状が円である場合には、「外接矩形座標(左上)」項目を円の中心を表す円中心座標、「外接矩形座標(右下)」項目を半径の点を表す半径点座標として使用しても良い。図8の例では、特徴点P10´が左上の点であり、P9´が右下の点である。従って、「外接矩形座標(左上)」項目には、現フレームの特徴点P10´の座標(x10´,y10´)が設定されている。また、「外接矩形座標(右下)」項目には、現フレームの特徴点P9´の座標(x9´,y9´)が設定されている。また、指定領域の中心座標(cx,cy)は、cx=(x9´+x10´)/2、cy=(y9´+y10´)/2で求められる。なお、指定領域データの座標は、撮像部10が撮像した画像における座標ではなく、表示部20における座標(画面上の座標)を用いて表しても良い。
The item “circumscribed rectangle center coordinates” represents the center coordinates of the designated area. The “circumscribed rectangular coordinates (upper left)” item represents the coordinates of the upper left point indicating the designated area when the shape of the area is a rectangle. Further, the “circumscribed rectangular coordinates (lower right)” item represents the coordinates of the lower right point indicating the designated area when the shape of the area is a rectangle. When the shape of the area is a circle, the “circumscribed rectangle coordinate (upper left)” item is the circle center coordinate representing the center of the circle, and the “circumscribed rectangle coordinate (lower right)” item is the radius point coordinate representing the radius point. May be used. In the example of FIG. 8, the feature point P 10 ′ is the upper left point, and P 9 ′ is the lower right point. Accordingly, the coordinates (x 10 ′, y 10 ′) of the feature point P 10 ′ of the current frame are set in the “circumscribed rectangular coordinates (upper left)” item. In addition, the coordinates (x 9 ′, y 9 ′) of the feature point P 9 ′ of the current frame are set in the “circumscribed rectangular coordinates (lower right)” item. Further, the center coordinates (cx, cy) of the designated area are obtained by cx = (x 9 ′ + x 10 ′) / 2 and cy = (y 9 ′ + y 10 ′) / 2. Note that the coordinates of the designated area data may be expressed using coordinates in the display unit 20 (coordinates on the screen) instead of coordinates in the image captured by the
再度、図6に戻り説明を続ける。表示制御部414は、撮像部10が撮像した画像に基づいて、撮像部10が撮像する画像の中心を表示する。また、表示制御部414は、記憶部413に記憶されている指定領域データを取得し、指定領域を示す枠、及び指定領域の中心を表示部20に表示する。これにより、ユーザは、指定領域を示す枠、指定領域の中心、及び画像の中心を目印として、容易にカメラの向きや位置を操作することができる。
Returning to FIG. 6 again, the description will be continued. The
ズーム倍率変更部415は、撮像部10に備えられた光学系ズーム機構を制御することによって、光学系のズーム倍率を変更する。ズーム倍率変更部415は、指定領域の中心と、撮像部10が撮像した画像の中心との距離が、所定の範囲内となった場合に、指定領域が表示部20いっぱいに表示されるように光学系のズーム倍率を変更する。ズーム倍率変更部415は、指定領域が表示部20いっぱいに表示されたか否かを、例えば、指定領域の一部と、表示部20の端との距離が所定の範囲内となったか否かによって判定できる。
The zoom
取得部417は、撮像部10が撮像した画像のうち、指定領域に含まれる画像のみを取得し、取得した画像を記憶部413に保存する。図9は、取得部417の機能の概要について説明する図である。ここでは、図9(A)に示すように、指定領域が設定されていたとする。この場合、取得部417は、図9(B)に示す表示部20に表示された画像全体を取得するのではなく、図9(C)に示すように、指定領域に含まれる画像のみを取得する。
The
図6に戻り説明を続ける。画像補正部416は、取得部417が記憶部413に保存した画像に対し、補正処理を行う。具体的には、画像補正部416は、記憶部413に保存された画像が歪んでいる場合には、画像を正対させる台形補正処理を画像に対して実行する。例えば、指定領域の形が矩形と指定されているにも関わらず、記憶部413に保存された画像が、図10(A)に示すような台形となっているとする。この場合、画像補正部416は、画像が歪んでいると判定し、図10(B)に示すように、画像を正対させる台形補正処理を実行する。
Returning to FIG. The
また、画像補正部416は、記憶部413に保存された画像が傾いている場合には、画像の傾きを補正する傾き補正処理を実行する。例えば、画像を撮像する際に撮像装置100が、図11(A)に示すように傾いていたとする。ここで、ズーム倍率変更部415が、指定領域が表示部20いっぱいに表示されるように光学系ズームの倍率を変更すると、指定領域と表示部20との関係は、図11(B)となる。この状態で、画像を撮像すると、取得部417により取得される画像は、図11(C)となり、記憶部413に保存される画像にはハッチングで示す空白部分(余白)が生じてしまう。この場合、画像補正部416は、傾いて取得された画像を回転し、図11(D)に示すように、指定領域の下端が水平になるように画像を補正する。画像補正部416は、補正した画像を格納部50に格納する。また、画像補正部416は、画像を補正する必要がない場合には、記憶部413に保存された画像をそのまま格納部50に格納する。
In addition, when the image stored in the
次に、フローチャートを用いて制御部40が実行する処理の一例について説明する。図12及び図13は、制御部40が実行する主処理の一例を示すフローチャートである。
Next, an example of processing executed by the
ユーザによりカメラモードが選択されると、図12に示すフローチャートの処理が開始される。領域指定受付部411は、撮像部10が撮像した画像をフレーム画像として取得する(ステップS10)。次に、領域指定受付部411は、ユーザによって領域選択モードが指定されたか否か判定する(ステップS11)。領域選択モードが指定された場合(ステップS11/YES)、領域指定受付部411は、表示部20にポインタを表示する(ステップS12)。
When the camera mode is selected by the user, the processing of the flowchart shown in FIG. 12 is started. The area
次に、領域指定受付部411は、ステップS10で取得したフレーム画像において特徴点を選択し、特徴点を記憶部413に保存する(ステップS100)。ここで、特徴点の選択及び保存処理の詳細について説明する。図14は、ステップS100の詳細な処理の一例を示すフローチャートである。
Next, the region
図14において、領域指定受付部411は、フレーム画像の中から、注目画素を選択し、その特徴量vを求める(ステップS101)。次に、領域指定受付部411は、選択した注目画素の特徴量vが予め定められた閾値Tvより大きいか否か判定する(ステップS102)。領域計算部412が特徴点を追跡するのに十分な特徴量を、選択した特徴点が有しているか否かを判定するためである。
In FIG. 14, the region
選択した注目画素の特徴量vが予め定められた閾値Tvより小さい場合(ステップS102/NO)、領域指定受付部411は、次の注目画素について処理するためステップS101へ戻る。選択した注目画素の特徴量vが閾値Tvよりも大きい場合(ステップS102/YES)、領域指定受付部411は選択した注目画素と他の特徴点との距離が所定値以上か否か判定する(ステップS103)。つまり、ステップS103の処理で、領域指定受付部411は、選択した注目画素と既に決定した特徴点との距離が近すぎないかどうか判定する。
If the feature quantity v of the selected target pixel is the threshold value T v is smaller than a predetermined (step S102 / NO), the area
ステップS103の判定がNOの場合、領域指定受付部411は、次の注目画素について処理するためステップS101へ戻る。ステップS103の判定がYESの場合、領域指定受付部411は、選択した注目画素を特徴点として、特徴点配列データに追加する(ステップS104)。次に領域指定受付部411は、閾値Tvに対して、フレーム画像内の全ての画素を処理したか否か判定する(ステップS105)。ステップS105の判定がNOの場合、領域指定受付部411は、残りの画素について処理するため、ステップS101へ戻る。ステップS105の判定がYESの場合、領域指定受付部411は、取得したフレーム画像の中の特徴点の数が、予め定めた閾値Tv_numより大きいか否か判定する(ステップS106)。
When the determination in step S103 is NO, the region
ステップS106の判定がYESの場合、十分な数の特徴点が抽出できたとして、領域指定受付部411は本処理を終了する。ステップS106の判定がNOの場合、領域指定受付部411は、特徴量の閾値Tvの値を下げ、再びステップS101〜ステップS106の処理を実行する。
If the determination in step S <b> 106 is YES, it is determined that a sufficient number of feature points have been extracted, and the region
図14に示した処理が終了すると、領域指定受付部411は、図12において、ユーザが領域を指定中か否か判定する(ステップS13)。ユーザが領域を指定中か否かの判定は、例えば、ユーザが操作部30において所定のボタンを押しているか否か等によって判定できる。
When the process shown in FIG. 14 is completed, the area
領域指定受付部411は、ユーザが領域を指定中の場合(ステップS13/YES)、指定領域を定義する点を設定する処理(特徴点追加処理)が行われたか否か判定する(ステップS14)。領域指定受付部411は、特徴点追加処理が行われた場合(ステップS14/YES)、ユーザが指定した点を、特徴点として特徴点配列データに追加する(ステップS15)。そして、ステップS15の処理により指定領域が設定されたので、領域指定受付部411は、ステップS100の処理によって特徴点配列データに保存された各特徴点の「指定領域内フラグ(現)」項目の値を更新する(ステップS16)。
When the user is designating an area (step S13 / YES), the area
ステップS14の判定がNOの場合、又は、ステップS16の処理が終わると、領域計算部412は前フレームの特徴点に関する情報が、記憶部413に存在するか否か判定する(ステップS17)。前フレームの特徴点に関する情報が存在する場合(ステップS17/YES)、図13のCに進み、領域計算部412は、前フレームの特徴点と現フレームの特徴点とを対応付け、対応付けた現フレームの特徴点の位置の妥当性を検証する(ステップS200)。ここで、ステップS200の処理の詳細について説明する。図15は、ステップS200の詳細な処理の一例を示すフローチャートである。
When the determination in step S14 is NO, or when the process in step S16 ends, the
図15において、領域計算部412は、後述する位置の妥当性を検証する処理が実行されていない特徴点(未処理の特徴点)が存在するか否か判定する(ステップS201)。未処理の特徴点が存在する場合(ステップS201/YES)、領域計算部412は、特徴点Pnを一つ選択する(ステップS202)。領域計算部412は、前フレームにおける特徴点Pnの座標(xn,yn)周辺の局所領域を取り出す(ステップS203)。次に、領域計算部412は、現フレームの画像データを走査し、ステップS203で取り出した局所領域との類似度を求める。そして、領域計算部412は、現フレームにおいて、ステップS203で取り出した局所領域と最も類似度が高い局所領域の座標(xn´,yn´),を探索する(ステップS204)。図16に、ステップS203及びステップS204の処理の概要を説明するための図を示す。
In FIG. 15, the
図16(A)は、前フレームの画像の概略を、図16(B)は、現フレームの画像の概略を表している。図16(A)において、領域計算部412は、図中斜線で示す特徴点P1の座標(x1,y1)周辺の局所領域(太枠で表示)を取り出す(ステップS203)。次に、領域計算部412は、図16(B)に示す現フレームの画像データを走査し、各座標において図16(A)で取り出した局所領域との類似度を求める。そして、領域計算部412は、図16(A)で取り出した局所領域と最も類似度が高い局所領域の座標(x1´,y1´)を探索する(ステップS204)。なお、特徴点の移動先を検出する方法は、本実施例のステップS203及びステップS204で示した方法に限られるものではなく、オプティカルフローや、パターンマッチング等の他の方法を用いて、特徴点の移動先を検出しても良い。
FIG. 16A shows the outline of the image of the previous frame, and FIG. 16B shows the outline of the image of the current frame. In FIG. 16A, the
図15のフローチャートに戻り、説明を続ける。領域計算部412は、ステップS204の処理が終了すると、(xn,yn)と、(xn´,yn´)とが対応する点であるとみなせるか否か判定する(ステップS205)。例えば、領域計算部412は、類似度が予め定められた閾値を超えている場合に、(xn,yn)と、(xn´,yn´)とが対応する点であるとみなせると判定する。
Returning to the flowchart of FIG. When the process of step S204 ends, the
ステップS205の判定がNOの場合、領域計算部412は、対応する点は、画面外に出てしまったとして、特徴点配列データの「特徴点の状態(現)」項目に、特徴点が画面外に存在することを意味する「STAT_OUT」を設定する(ステップS207)。そして、領域計算部412は、ステップS201に戻る。
If the determination in step S205 is NO, the
ステップS205の判定がYESの場合、領域計算部412は、対応点が見つかったとして、(xn,yn)と対応付けて、「現フレームでの座標」項目に(xn´,yn´)を格納し、「特徴点の状態(現)」項目に、現フレームの特徴点が画面の内部に存在することを意味する「STAT_IN」を設定する(ステップS206)。次に、領域計算部412は、対応する特徴点間の妥当性の検証と座標の修正処理を実行する(ステップS208)。ここで、図17〜図19を用いて、ステップS208の処理の詳細について説明する。図17及び図18は、ステップS208の詳細な処理の一例を示すフローチャートである。また、図19は、ステップS208の詳細な処理を具体的に説明するための図である。
If the determination at step S205 is YES, the
領域計算部412は、「特徴点の状態(現)」項目に「STAT_IN」が設定された全ての特徴点について、後述する処理を実行したか否か判定する(ステップS211)。ステップS211の判定がNOの場合、領域計算部412は、「特徴点の状態(現)」項目に「STAT_IN」が設定されている特徴点の中から、特徴点Pnを一つ選択する(ステップS212)。次に、領域計算部412は、「特徴点の状態(前)」項目に「STAT_IN」が設定されている、つまり、前フレームの画像において画面内に存在していた特徴点二つの組み合わせ(Pl,Pm)(l≠m≠n、lとmは、Tv_num以下の任意の数)をk組選択する(ステップS214)。ここで、(Pl,Pm)の組み合わせを、P(i)(Pl,Pm)と記載する(i=1〜k)。
The
ここで、図19を参照して、上述の処理について具体的に説明する。図19において、図19(A)の左図は、前フレームの画像に対して設定された特徴点の一例であり、図19(A)の右図は、前フレームの特徴点と対応すると判定された、現フレームの特徴点の一例である。ここで、ステップS212の処理で領域計算部412が選択した特徴点が、図19(A)に示すP1であったとする。この場合、領域計算部412は、別の特徴点の組み合わせとして、例えば、P(1)(P2,P3)、P(2)(P3,P4)、及びP(3)(P2,P4)の3組をステップS213で選択する。
Here, with reference to FIG. 19, the above-described processing will be specifically described. 19, the left diagram in FIG. 19A is an example of feature points set for the image of the previous frame, and the right diagram in FIG. 19A is determined to correspond to the feature points in the previous frame. It is an example of the feature point of the current frame. Here, feature point
図17のフローチャートに戻り、説明を続ける。領域計算部412は、前フレームの特徴点PnとP(i)(Pl,Pm)との内積を全て(k組分)求める(ステップS215)。ここで、PnとP(i)(Pl,Pm)との内積を求めるとは、図20(A)において、ベクトルPnlとベクトルPnmとの内積を求めることをいう。また、以後の説明において、PnとP(i)(Pl,Pm)との内積を、cosθ(P(i)(Pl,Pm))、又は、cosθ(Pni)と記載する。例えば、図20(B)において、P1とP(1)(P2,P3)との内積は、cosθ(P(1)(P2,P3))、又は、cosθ(P11)と記載される。
Returning to the flowchart of FIG. The
再度、図19を用いて具体的に説明する。図19(B)〜図19(D)の左図は、ステップS212で領域計算部412が選択した特徴点P1と、ステップS213の処理で領域計算部412が選択した特徴点の組み合わせとの、前フレームにおける関係を示している。図19の例では、領域計算部412は、ステップS214で、cosθ(P11)、cosθ(P12)、及びcosθ(P13)を求める。
Again, it demonstrates concretely using FIG. Left diagram of FIG. 19 (B) ~ Figure 19 (D) includes a feature point P 1 the
次に、図17のフローチャートにおいて、領域計算部412は、ステップS214と同様に、現フレームの特徴点Pn´とP(i)´(Pl´,Pm´)との内積を全て(k組分)求める(ステップS215)。図19(B)〜図19(D)の中央に示す図は、現フレームにおける特徴点同士の関係を示している。領域計算部412は、ステップS215で、cosθ(P11´)、cosθ(P12´)、及びcosθ(P13´)を求める。
Next, in the flowchart of FIG. 17, the
次に、領域計算部412は、変数wrongの値を0で初期化する(ステップS216)。ここで、変数wrongは、異常な特徴点の数をカウントするための変数である。
Next, the
領域計算部412は、式(1)で計算される値が閾値Tinner_product以下であるか判定する(ステップS217)。3点間の位置関係が現フレームと前フレームとで同じであれば、前フレームでの内積値と現フレームでの内積値とは等しくなる。したがって、式(1)で表される値が、閾値以上である場合、ステップS212で選択した特徴点と、ステップS213で選択した特徴点の組み合わせとの位置関係が、前フレームと現フレームにおいて異なると考えられるからである。
ステップS217の判定がNOの場合、領域計算部412は変数wrongの値を増やす(ステップS218)。ステップS217の判定がYESの場合、又は、ステップS218の処理の後、領域計算部412は、内積を求めた全ての組についてステップS217の処理を行ったか否か判定する(ステップS219)。全てについて処理が終わっていない場合(ステップS219/NO)、領域計算部412は、ステップS217〜S219の処理を繰り返す。全てについて処理が終了した場合(ステップS219/YES)、領域計算部412は、変数wrongを、組数kで除した値が、予め定めた値Cよりも小さいか否か判定する(ステップS220)。
When the determination in step S217 is NO, the
ステップS220の判定がNOの場合、「位置の妥当性」項目に、現フレームの特徴点の位置が異常であることを示す「INVALID」を設定する(ステップS222)。ステップS220の判定がYESの場合、「位置の妥当性」項目に、位置が正常であることを意味する「VALID」を設定する(ステップS221)。そして、領域計算部412は、ステップS211に戻る。
If the determination in step S220 is NO, “INVALID” indicating that the position of the feature point in the current frame is abnormal is set in the “positional validity” item (step S222). When the determination in step S220 is YES, “VALID” indicating that the position is normal is set in the “position validity” item (step S221). Then, the
図19の例では、図19(B)〜(D)の右図に示すとおり、3組のうち、2組の値が閾値Tinner_productより大きい。従って、変数wrongの値は2となる。変数worn(=2)を、組数k(=3)で除した値は0.66となるため、予め定めた値Cを0.25とすると、図19の例では、ステップS220の判定結果はNOとなり、特徴点P1の「位置の妥当性」項目には、「INVALID」が設定される。 In the example of FIG. 19, as shown in the right diagrams of FIGS. 19B to 19D , two sets of values are larger than the threshold T inner_product among the three sets. Therefore, the value of the variable long is 2. Since the value obtained by dividing the variable worn (= 2) by the number of sets k (= 3) is 0.66, if the predetermined value C is 0.25, the determination result of step S220 in the example of FIG. Is NO, and “INVALID” is set in the “position validity” item of the feature point P 1 .
図17に戻り、フローチャートの説明を続ける。ステップS211の判定がYESの場合、領域計算部412は、図18のFに進み、「特徴点の状態(現)」項目に「STAT_OUT」が設定されている、又は、「位置の妥当性」項目に「INVALID」が設定されている全ての特徴点に対して、後述する処理を実行したか否か判定する(ステップS223)。ステップS223の判定がYESの場合、領域計算部412はは本処理を終了する。
Returning to FIG. 17, the description of the flowchart will be continued. When the determination in step S211 is YES, the
ステップS223の判定がNOの場合、領域計算部412は、「位置の妥当性」項目に「VALID」が設定されている特徴点を利用して、前フレームの座標に対応する現フレームの座標を求める(ステップS224)。具体的には、式(2)を用いて、前フレームの特徴点の座標(xn,yn)から、現フレームの特徴点Pn´の座標(xn´,yn´)を求める。
When the determination in step S223 is NO, the
前フレームの特徴点Pnの座標(xn、yn)が、現フレームの特徴点Pn´の座標(xn´,yn´)に移動したとすると、並行移動、拡大・縮小、回転による写像は式(2)のように表すことができる。
そこで、現フレームの特徴点Pn以外で、かつ、「位置の妥当性」項目に「VALID」が設定されている特徴点と、その前フレームにおける特徴点とから、式(3)で表される行列Aを求める。そして、式(2)を用いて、Pnの移動先Pn´を求める。
なお、計算に必要な特徴点の数が足りない場合は、図21(A)に示すように、前フレームにおいて直線PlPm、∠PnPlPm、及び∠PnPmPlを求める。そして、前フレームから現フレームに特徴点Pl、Pm、及びPnが相似に移動しているものと仮定し、図21(B)に示すように、直線Pn´Pl´と、直線Pn´Pm´の交点を求めることによって、Pnの移動先Pn´を求めても良い。 When the number of feature points necessary for the calculation is insufficient, as shown in FIG. 21A, in the previous frame, straight lines P 1 P m , ∠P n P 1 P m , and ∠P n P m P Find l . Then, assuming that the feature points P 1 , P m , and P n are moving in a similar manner from the previous frame to the current frame, as shown in FIG. 21B, a straight line P n ′ P l ′, 'by determining the intersection of the destination P n of P n' linearly P n'P m may be obtained.
次に、領域計算部412は、対応点Pn´が求められたか否か判定する(ステップS225)。対応点Pn´が求められた場合(ステップS225/YES)、領域計算部412は、「特徴点の信頼度」項目の値を下げる(ステップS226)。他の特徴点を用いて位置を修正した特徴点であるため、その追跡が容易ではないと考えられるからである。
Next, the
対応点Pn´が求められなかった場合(ステップS225/NO)、領域計算部412は、特徴点Pnがユーザの指定した点か否か判定する(ステップS227)。つまり、領域計算部412は、「特徴点の種類」項目に、「USER_ADD」が設定されているか否か判定する。
When the corresponding point P n ′ is not obtained (step S225 / NO), the
特徴点Pnがユーザの指定した点でない場合(ステップS227/NO)、領域計算部412は、Pnを特徴点として使用するのを中止するために、特徴点配列データからPnのデータを削除し(ステップS228)、ステップS223に戻る。Pnがユーザの指定した点である場合(ステップS227/YES)、領域計算部412は、図13のGに進み、特徴点配列データに格納されているデータを全てクリアする(ステップS22)。この結果、指定領域はクリアされ、ステップS10及びS11の処理を経て、表示部20にはポインタが表示されるようになる(ステップS12)。
If the feature point P n is not a point designated by the user (step S227 / NO), the
図13に戻りフローチャートの説明を続ける。ステップS200の処理が終了した場合、又はステップS17の判定がNOの場合、領域計算部412は、指定領域が存在するか否か判定する(ステップS18)。指定領域が存在する場合(ステップS18/YES)、領域計算部412は、指定領域の妥当性を検証する(ステップS300)。ここで、ステップS300の処理の詳細について説明する。図22は、ステップS300の詳細な処理の一例を示すフローチャートである。
Returning to FIG. 13, the description of the flowchart will be continued. When the process of step S200 is completed or when the determination in step S17 is NO, the
図22において、領域計算部412は、特徴点配列データに含まれる全ての特徴点Pnに対して、後述する処理を実行したか否か判定する(ステップS301)。特徴点Pnを全て処理した場合(ステップS301)、領域計算部412は、指定領域は妥当な状態であると判定し(ステップS303)、処理を終了する。
In FIG. 22, the
特徴点Pnを全て処理していない場合(ステップS301/NO)、領域計算部412は特徴点Pnを一つ選択する(ステップS302)。次に、領域計算部412は、現フレームの特徴点Pn´が、指定領域内に存在するか否か、つまり、「選択領域内フラグ(現)」項目に、「FLAG_IN」が設定されているか否か判定する(ステップS304)。
When all the feature points Pn are not processed (step S301 / NO), the
ステップS304の判定がYESの場合、領域計算部412は、前フレームの特徴点Pnが指定領域内にあるか否か、つまり、「選択領域内フラグ(前)」項目に、「FLAG_IN」が設定されているか否か判定する(ステップS305)。領域計算部412は、ステップS305の判定がNOの場合、指定領域は異常な状態であると判定する(ステップS307)。現フレームで指定領域内に存在している特徴点が、前フレームでは指定領域内に存在していなかったということは、特徴点と指定領域との位置関係に変更が生じていると考えられるからである。
When the determination in step S304 is YES, the
領域計算部412は、ステップS305の判定がYESの場合、ステップS301に戻り処理を継続する。現フレームで指定領域内に存在する特徴点が、前フレームでも指定領域内にあったならば、指定領域と特徴点との位置関係に変更はないと考えられるからである。
When the determination in step S305 is YES, the
領域計算部412は、ステップS304の判定がNOの場合、前フレームの特徴点Pnが指定領域外にあるか、つまり、「選択領域内フラグ(前)」項目に、「FLAG_OUT」が設定されているか否か判定する(ステップS306)。ステップS306の判定がYESの場合、領域計算部412は、ステップS301に戻り、処理を継続する。現フレームで指定領域外にある特徴点が、前フレームでも指定領域外にあったということは、指定領域と特徴点との位置関係に変更がないと考えられるためである。
When the determination in step S304 is NO, the
ステップS306の判定がNOの場合、領域計算部412は、指定領域が異常な状態であると判定し(ステップS307)、処理を終了する。現フレームで指定領域外に存在している特徴点が、前フレームでは指定領域内に存在していたということは、特徴点と指定領域との位置関係に変更が生じていると考えられるからである。
When the determination in step S306 is NO, the
図13に戻り説明を続ける。ステップS300の処理後、領域計算部412は、指定領域が妥当な状態であるか否か判定する(ステップS19)。指定領域が妥当な状態ではない場合(ステップS19/NO)、領域計算部412は、特徴点配列データに格納されているデータを全てクリアする(ステップS22)。この結果、指定領域はクリアされ、ステップS10及びS11の処理を経て、表示部20にはポインタが表示される(ステップS12)。
Returning to FIG. After the process of step S300, the
指定領域が妥当な状態にある場合(ステップS19/YES)、表示制御部414は、指定領域とその中心位置を表示部20に描画する(ステップS20)。
When the designated area is in an appropriate state (step S19 / YES), the
領域計算部412は、ステップS18の判定がNOの場合、又はステップS20の処理の終了後、指定領域がクリアされているか否か判定する(ステップS21)。ステップS21の判定がYESの場合、領域計算部412は、特徴点配列データに格納されているデータを全てクリアする(ステップS22)。この結果、指定領域はクリアされ、ステップS10及びS11の処理を経て、表示部20には領域指定受付部411によりポインタが表示される(ステップS12)。
The
指定領域がクリアされていない場合(ステップS21/NO)、又は、ステップS11の判定がNOの場合、ズーム倍率変更部415は、撮影処理(ステップS400)を実行する。ここで、ステップS400の処理の詳細について説明する。図23は、ステップS400の詳細な処理の一例を示すフローチャートである。
If the designated area is not cleared (step S21 / NO), or if the determination in step S11 is NO, the zoom
ズーム倍率変更部415は、ユーザによりシャッターが押されているか否か判定する(ステップS401)。本実施例では、ステップS401の「シャッターが押されている」は、「シャッターが半押しされている」であるとする。
The zoom
ズーム倍率変更部415は、シャッターが押されている場合(ステップS401/YES)、ズーム倍率変更部415は、画面の中心と指定領域の中心とが一致していると判定できるほど、画面の中心と指定領域の中心との距離が小さいか否か判定する(ステップS402)。ステップS402の判定がNOの場合、ズーム倍率変更部415は、メッセージを表示部20に表示する等して、画面の中心と指定領域の中心とを合わせるように、ユーザに促す(ステップS403)。ステップS403の処理が終了すると、ズーム倍率変更部415は、ステップS402から処理を継続する。
When the shutter is pressed (YES in step S401), the zoom
ステップS402の判定がYESの場合、ズーム倍率変更部415は、指定領域が画面内で最大になるように光学系のズーム倍率を調整する(ステップS404)。次に、ズーム倍率変更部415は、シャッターが最後まで押し込まれたか否か判定する(ステップS405)。つまり、本実施例では、ステップS405において、ステップS401で半押しされたシャッターが、ユーザにより押し込まれたか否かを判定している。なお、ユーザが撮影操作を実行しているか否かの判定は、シャッターの押下状態に基づくものでなくても良い。例えば、ズーム倍率の変更と、撮影動作とが、別々のボタンの操作によって実行されるとする。この場合、ステップS401において所定のボタンが押されたか否かを判定し、ステップS405では、ステップS401とは異なる所定のボタンが押されたか否かを判定するようにしても良い。
If the determination in step S402 is YES, the zoom
ズーム倍率変更部415は、ステップS405の判定がNOの場合、又は、ステップS401の判定がNOの場合、ユーザが撮影操作を実行していない未撮影状態であると判定する(ステップS408)。
If the determination in step S405 is NO, or if the determination in step S401 is NO, the zoom
ステップS405の判定がYESの場合、取得部417は、指定領域内の画像を記憶部413に記憶させる(ステップS406)。取得部417は、ユーザが撮影操作を行い画像が撮影されたと判定し(ステップS407)、処理を終了する。
When the determination in step S405 is YES, the
図13に戻り説明を続ける。画像補正部416は、ユーザにより画像が撮影されたか否か判定する(ステップS23)。ユーザにより画像が撮影された場合(ステップS23/YES)、画像補正部416は、記憶部413に記憶されている画像に対し、台形補正や傾き補正等の画像補正処理を施し、補正後の画像を格納部50に画像を保存する(ステップS24)。画像補正部416は、処理を終了する。
Returning to FIG. The
ユーザにより画像が撮影されなかった場合(ステップS23/NO)、図12のDに進み、領域指定受付部411が、再びステップS10から処理を実行する。
When an image is not photographed by the user (step S23 / NO), the process proceeds to D in FIG. 12, and the region
以上の説明から明らかなように、実施例1によれば、指定領域の中心と撮像部10が撮像する画像の中心との距離が予め定められた範囲内にある場合に、ズーム倍率変更部415は、指定領域が表示部20いっぱいに表示されるように、光学系のズーム倍率を変更する。これにより、全体の画像を撮影してから指定領域の画像を切り出すよりも高い解像度で、指定領域に含まれる被撮像物を撮影することが可能となる。
As is clear from the above description, according to the first embodiment, when the distance between the center of the designated region and the center of the image captured by the
また、領域指定受付部411は、指定領域を定義する点の指定を表示部20上に表示されるポインタを使用したユーザの操作に基づいて、受付ける。これにより、ユーザは直感的な操作により、容易に指定領域を設定することが可能となる。
The area
また、領域計算部412は、前フレームにおける複数の特徴点と、指定領域を定義する点との位置関係を使用して、前フレームにおける指定領域と、指定領域に含まれる被撮像物との位置関係が維持されるような現フレームにおける指定領域の位置及び大きさを計算する。そして、表示制御部414が、領域計算部412による計算結果に基づいて現フレームにおける指定領域を示す枠を、表示部20に表示する。これにより、ユーザは指定領域を示す枠をガイドとして使用して、全体の画像と、指定領域との関係を容易に把握することが可能となる。
Further, the
また、取得部417が指定領域に含まれる画像のみを取得することで、ユーザは撮影後に指定領域を切り出す等の作業を行う必要がなくなり、ユーザの利便性が向上する。
In addition, since the
実施例2では、実施例1に係る撮像装置100の一部の機能のみを備える撮像装置100´について説明する。図24は、実施例2に係る撮像装置100´が有する機能の一例を示す機能ブロック図である。撮像装置100´は、図24に示すように、ズーム倍率変更部415、取得部417、及び画像補正部416を含まず、撮像部10が撮像した画像を格納部50に保存する処理を行う保存処理部418を備える。保存処理部418は、ユーザの撮影操作を受付け、撮像部10が撮像した画像を格納部50に保存する。
In the second embodiment, an
撮像装置100´が図24に示す構成を有する場合、画像を撮影する処理は、図25のフローチャートに示す処理とすることができる。図25は、撮像装置100´を用いて画像の撮影を行う処理の一例を示すフローチャートである。
When the
図25において、保存処理部418は、シャッターがユーザにより押されているか否か判定する(ステップS501)。保存処理部418は、シャッターが押されている場合(ステップS401/YES)、指定領域と表示部20の画面サイズとが同じ位の大きさか否か判定する(ステップS502)。例えば、保存処理部418は、指定領域の一部と、表示部20の端との距離が所定の値以下か否か判定する。
In FIG. 25, the
ステップS502の判定がNOの場合、保存処理部418は、指定領域が画面サイズよりも大きいか否か判定する(ステップS503)。保存処理部418は、指定領域が画面サイズよりも大きい場合(ステップS503/YES)、指定領域が画面内に入るようにするため、ズーム倍率を小さくするよう求めるメッセージを表示部20に表示する(ステップS504)。指定領域が画面サイズよりも小さい場合(ステップS503/NO)、保存処理部418は、指定領域が画面いっぱいに表示されるよう、ズーム倍率を大きくすることを求めるメッセージを表示部20に表示する(ステップS505)。
If the determination in step S502 is NO, the
保存処理部418は、ステップS502の判定がYESだった場合、又は、ステップS504又はS505の処理の後、シャッターが最後まで押し込まれたか否か判定する(ステップ506)。
If the determination in step S502 is YES, or after the processing in step S504 or S505, the
ステップS506の判定がNOの場合、図12のDに進み、領域指定受付部411が、ステップS10から処理を継続する。
When determination of step S506 is NO, it progresses to D of FIG. 12, and the area | region designation | designated
ステップS506の判定がYESの場合、保存処理部418は、撮像部10が撮像した画像を格納部50に格納し(ステップS507)、処理を終了する。
If the determination in step S506 is YES, the
以上の説明から明らかなように、実施例2によれば、領域計算部412が、前フレームにおける指定領域と、指定領域に含まれる被撮像物との位置関係が維持されるような現フレームにおける指定領域の位置及び大きさを計算する、そして、領域計算部412の計算結果に基づいて、表示制御部414が、表示部20に、指定領域を示す枠、指定領域の中心、及び撮像部10が撮像する画像の中心を表示する。これにより、ユーザは、指定領域の中心を、表示部20の中心と合わせるようにすることで、容易に、指定した領域が中心となる画像を容易に撮影できる。また、指定領域を表す枠が表示部20に表示されるので、ユーザは、指定領域と全体の画像との関係を確認しながら、光学系のズーム倍率を手動で変更して、指定領域が表示部20いっぱいに表示されるよう容易に操作できる。なお、ユーザは光学系のズーム倍率を変更するのではなく、撮像装置100´自体を被撮像物に近づけて、指定領域が表示部20いっぱいに表示されるようにすることもできる。また、ユーザは、指定領域の中心を、表示部20の中心と合わせつつ、指定領域が表示部20いっぱいに表示されるように撮像装置100´を操作することで、撮像装置100´の解像度を生かした撮影を容易に行うことができる。
As is clear from the above description, according to the second embodiment, the
以上、本件の複数の実施例について詳述したが、本件は係る特定の実施例に限定されるものではなく、特許請求の範囲に記載された本発明の要旨の範囲内において、種々の変形・変更が可能である。 As described above, the embodiments of the present invention have been described in detail. However, the present invention is not limited to the specific embodiments, and various modifications and changes can be made within the scope of the gist of the present invention described in the claims. It can be changed.
例えば、実施例1において、指定領域の形を図26(A)に示す矩形としたが、図26(B)〜(G)に示すように、指定領域の形を、円、楕円、ハート型、及び任意の形状とすることができる。指定領域の形が円の場合、ユーザは図26(B)に示すように、中心点及び半径となる点の2点を指定することで領域を指定できる。指定領域の形が楕円の場合、ユーザは図26(C)に示すように、中心点と長径・短径となる点の3点を指定することで領域を指定できる。指定領域の形がハート型の場合、ユーザは図26(D)に示すように、中心点と、外接矩形の頂点を指定する、あるいは、図26(E)に示すように左上と右下の点を指定することによって領域を指定できる。または、図26(E)に示すように、中心点と外接円の半径などを指定することによってハート型の領域を指定できる。また、図26(F)に示すように、ユーザは、点列を指定することによって任意の形状を指定することもできる。 For example, in the first embodiment, the shape of the designated area is the rectangle shown in FIG. 26A, but the shape of the designated area is a circle, an ellipse, or a heart shape as shown in FIGS. , And any shape. When the shape of the designated area is a circle, as shown in FIG. 26B, the user can designate the area by designating two points, which are a center point and a radius. When the shape of the designated area is an ellipse, the user can designate the area by designating the center point and the points having the major axis and the minor axis as shown in FIG. When the shape of the designated area is a heart shape, the user designates the center point and the vertex of the circumscribed rectangle as shown in FIG. 26D, or the upper left and lower right as shown in FIG. An area can be specified by specifying a point. Alternatively, as shown in FIG. 26E, a heart-shaped region can be designated by designating the center point and the radius of the circumscribed circle. Also, as shown in FIG. 26 (F), the user can designate an arbitrary shape by designating a point sequence.
なお、上記の撮像装置が有する機能は、CPU、ROM、RAM等を備えるコンピュータによって実現することができる。その場合、撮像装置が有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。 Note that the functions of the imaging apparatus described above can be realized by a computer including a CPU, a ROM, a RAM, and the like. In that case, a program describing the processing contents of the functions that the imaging apparatus should have is provided. By executing the program on a computer, the above processing functions are realized on the computer. The program describing the processing contents can be recorded on a computer-readable recording medium.
プログラムを流通させる場合には、例えば、そのプログラムが記録されたDVD(Digital Versatile Disc)、CD−ROM(Compact Disc Read Only Memory)などの可搬型記録媒体の形態で販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。 When the program is distributed, for example, it is sold in the form of a portable recording medium such as a DVD (Digital Versatile Disc) or a CD-ROM (Compact Disc Read Only Memory) on which the program is recorded. It is also possible to store the program in a storage device of a server computer and transfer the program from the server computer to another computer via a network.
プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。 The computer that executes the program stores, for example, the program recorded on the portable recording medium or the program transferred from the server computer in its own storage device. Then, the computer reads the program from its own storage device and executes processing according to the program. The computer can also read the program directly from the portable recording medium and execute processing according to the program. Further, each time the program is transferred from the server computer, the computer can sequentially execute processing according to the received program.
また、例えば、インターネット等の通信網に接続されたサーバコンピュータに接続されたパーソナルコンピュータ等の通信装置に、上記の撮像装置が有する機能をサービスとしてサーバコンピュータから提供するようにしても良い(ASP(Application Service Provider))。 Further, for example, a function provided by the above-described imaging device may be provided as a service from a server computer to a communication device such as a personal computer connected to a server computer connected to a communication network such as the Internet (ASP ( Application Service Provider)).
100、100´…撮像装置
10…撮像部
20…表示部
411…領域指定受付部
412…領域計算部
414…表示制御部
415…ズーム倍率変更部
416…画像補正部
417…取得部
DESCRIPTION OF
Claims (6)
被撮像物を含む領域の指定を受付ける領域指定受付部と、
前記撮像部が撮像する第1の画像において、前記撮像部が前記第1の画像よりも前に撮像した第2の画像における前記領域と前記被撮像物との位置関係を維持するような前記領域の位置及び大きさを計算する領域計算部と、
前記表示部に、前記第1の画像における前記領域を示す枠、前記領域の中心、及び前記第1の画像の中心を表示する表示制御部と、
を備え、
前記領域指定受付部は、前記表示部上に固定表示されるポインタを使用して前記表示部に表示される第3の画像上で指定された、前記被撮像物を含む領域を定義する第1の点と、前記第1の点を指定した後に前記表示部に表示される前記第3の画像とは異なる第4の画像上で前記ポインタを使用して指定された、前記領域を定義する第2の点と、に基づいて、前記領域の指定を受付けることを特徴とする撮像装置。 A display unit for displaying an image captured by the imaging unit;
An area designation receiving unit for accepting designation of an area including an object to be imaged;
In the first image captured by the imaging unit, the region that maintains the positional relationship between the region and the object to be captured in the second image captured by the imaging unit before the first image. An area calculation unit for calculating the position and size of
A display control unit for displaying a frame indicating the region in the first image, a center of the region, and a center of the first image on the display unit;
Equipped with a,
The region designation receiving unit defines a region including the object to be imaged, which is designated on a third image displayed on the display unit using a pointer fixedly displayed on the display unit. And a region defining the region designated using the pointer on a fourth image different from the third image displayed on the display unit after the first point is designated. An image pickup apparatus that accepts designation of the region based on two points .
前記撮像装置が撮像する第1の画像において、前記撮像装置が前記第1の画像よりも前に撮像した第2の画像における前記領域と前記被撮像物との位置関係を維持するような前記領域の位置及び大きさを計算する計算ステップと、
前記計算ステップでの計算結果に基づいて、前記第1の画像における前記領域を示す枠、前記領域の中心、及び前記第1の画像の中心を前記撮像装置が備える表示部に表示する表示ステップとを、コンピュータに実行させ、
前記領域指定受付ステップでは、前記表示部上に固定表示されるポインタを使用して前記表示部に表示される第3の画像上で指定された、前記被撮像物を含む領域を定義する第1の点と、前記第1の点を指定した後に前記表示部に表示される前記第3の画像とは異なる第4の画像上で前記ポインタを使用して指定された、前記領域を定義する第2の点と、に基づいて、前記領域の指定を受付けることを特徴とする撮像プログラム。 An area designation receiving step for accepting designation of an area including an object to be captured in an image captured by the imaging apparatus;
In the first image captured by the imaging device, the region that maintains the positional relationship between the region and the object to be imaged in the second image captured by the imaging device before the first image A calculation step for calculating the position and size of
A display step of displaying a frame indicating the region in the first image, a center of the region, and a center of the first image on a display unit included in the imaging device based on a calculation result in the calculation step; To the computer ,
In the region designation receiving step, a first region defining the region including the object to be imaged designated on a third image displayed on the display unit using a pointer fixedly displayed on the display unit is defined. And a region defining the region designated using the pointer on a fourth image different from the third image displayed on the display unit after the first point is designated. An imaging program that accepts designation of the region based on two points .
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2009295681A JP5458877B2 (en) | 2009-12-25 | 2009-12-25 | Imaging apparatus and imaging program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2009295681A JP5458877B2 (en) | 2009-12-25 | 2009-12-25 | Imaging apparatus and imaging program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2011135538A JP2011135538A (en) | 2011-07-07 |
| JP5458877B2 true JP5458877B2 (en) | 2014-04-02 |
Family
ID=44347745
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2009295681A Expired - Fee Related JP5458877B2 (en) | 2009-12-25 | 2009-12-25 | Imaging apparatus and imaging program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP5458877B2 (en) |
Families Citing this family (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5854704B2 (en) * | 2011-08-25 | 2016-02-09 | キヤノン株式会社 | Imaging apparatus, control method therefor, and program |
| CN107517344A (en) * | 2016-06-15 | 2017-12-26 | 珠海格力电器股份有限公司 | Method and device for adjusting recognition range of camera device |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002101378A (en) * | 2000-09-20 | 2002-04-05 | Fuji Photo Film Co Ltd | Image pickup device |
| JP2005175970A (en) * | 2003-12-11 | 2005-06-30 | Canon Inc | Imaging system |
| JP4867136B2 (en) * | 2004-04-16 | 2012-02-01 | カシオ計算機株式会社 | Imaging apparatus and program thereof |
| JP2006318345A (en) * | 2005-05-16 | 2006-11-24 | Sony Corp | Object tracking method, object tracking method program, recording medium recording object tracking method program, and object tracking apparatus |
| JP4716266B2 (en) * | 2007-02-26 | 2011-07-06 | カシオ計算機株式会社 | Image processing apparatus, imaging apparatus, and program thereof |
| JP2009225027A (en) * | 2008-03-14 | 2009-10-01 | Fujifilm Corp | Imaging apparatus, imaging control method, and program |
-
2009
- 2009-12-25 JP JP2009295681A patent/JP5458877B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2011135538A (en) | 2011-07-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6116486B2 (en) | Dimension measurement method | |
| US10789671B2 (en) | Apparatus, system, and method of controlling display, and recording medium | |
| CN107026973B (en) | Image processing device, image processing method and photographic auxiliary equipment | |
| US20120194636A1 (en) | Information processing apparatus, information processing method, program, and imaging apparatus | |
| US9712745B2 (en) | Method and apparatus for operating camera function in portable terminal | |
| CN105659287B (en) | Image processing device, image processing method and imaging system | |
| JP5109803B2 (en) | Image processing apparatus, image processing method, and image processing program | |
| EP2477152B1 (en) | Image processing device, image processing method, image processing program, and recording medium | |
| US20100302347A1 (en) | Image pickup apparatus, electronic device, panoramic image recording method, and program | |
| JP5229791B2 (en) | PHOTO MAPPING METHOD AND SYSTEM, PROGRAM, AND STORAGE MEDIUM | |
| WO2013184313A1 (en) | Motion-based image stitching | |
| JP5644461B2 (en) | Image processing apparatus and program | |
| US20120002094A1 (en) | Image pickup apparatus for providing reference image and method for providing reference image thereof | |
| JP2013070212A (en) | Image processor and image processing program | |
| JP2017162371A (en) | Image processing device, image processing method and program | |
| JP6098784B2 (en) | Image processing apparatus and program | |
| JP2019041188A (en) | Image processing apparatus, imaging apparatus, control method of image processing apparatus, and program | |
| JP5458877B2 (en) | Imaging apparatus and imaging program | |
| JP6676299B2 (en) | Image processing apparatus, image processing method, and computer program | |
| JP5216703B2 (en) | Video display system and video display method | |
| CN113012160B (en) | Image processing method, device, terminal equipment and computer readable storage medium | |
| CN119011796B (en) | Processing method of environmental image data in camera perspective VST, head display device and storage medium | |
| JP5805013B2 (en) | Captured image display device, captured image display method, and program | |
| KR20140129631A (en) | Apparatus and method for generating an image in a portable terminal | |
| JP6645711B2 (en) | Image processing apparatus, image processing method, and program |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20120910 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130725 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20130730 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20130926 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20131217 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131230 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| LAPS | Cancellation because of no payment of annual fees |