Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5780127B2 - Image processing apparatus, image processing method, and program - Google Patents
[go: Go Back, main page]

JP5780127B2 - Image processing apparatus, image processing method, and program - Google Patents

Image processing apparatus, image processing method, and program Download PDF

Info

Publication number
JP5780127B2
JP5780127B2 JP2011252346A JP2011252346A JP5780127B2 JP 5780127 B2 JP5780127 B2 JP 5780127B2 JP 2011252346 A JP2011252346 A JP 2011252346A JP 2011252346 A JP2011252346 A JP 2011252346A JP 5780127 B2 JP5780127 B2 JP 5780127B2
Authority
JP
Japan
Prior art keywords
threshold
image
unit
image processing
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011252346A
Other languages
Japanese (ja)
Other versions
JP2013109453A (en
JP2013109453A5 (en
Inventor
優一 宮本
優一 宮本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2011252346A priority Critical patent/JP5780127B2/en
Publication of JP2013109453A publication Critical patent/JP2013109453A/en
Publication of JP2013109453A5 publication Critical patent/JP2013109453A5/ja
Application granted granted Critical
Publication of JP5780127B2 publication Critical patent/JP5780127B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)

Description

本発明は、画像の類似判定の精度向上を図ることが可能な、画像処理装置、画像処理方法及びプログラムに関する。   The present invention relates to an image processing apparatus, an image processing method, and a program capable of improving the accuracy of image similarity determination.

従来より、2枚の画像のデータの類似度を自動的に判定する技術がある。このような画像の類似度の判定には、例えば、色ヒストグラム等が判定要素として用いられている。しかし、このような判定要素を用いて類似判定が行われると、同じような色の画像のデータは全て類似と判定される。このために、画角、画像全体の移動、ホワイトバランスが異なった2枚の画像のデータに対しては、非類似という判定が困難であり、判定精度の低下を招いていた。   Conventionally, there is a technique for automatically determining the similarity of data of two images. For example, a color histogram is used as a determination element in determining the similarity of images. However, when similarity determination is performed using such determination elements, all image data of similar colors are determined to be similar. For this reason, it is difficult to determine dissimilarity between two image data having different angles of view, movement of the entire image, and white balance, resulting in a decrease in determination accuracy.

そこで、画角、画像全体の移動、ホワイトバランスが異なった2枚の画像のデータに対しては、非類似という判定を実現すべく、2枚の画像間での対応点の数によって類似度を判定するという技術も従来用いられている。
しかし、このような技術を用いると、2枚の画像間での対応点に異常な値があり、対応点自体に間違いがある場合には、判定精度の低下を招くという別の問題が生じている。
Therefore, for the data of two images having different angles of view, movement of the whole image, and white balance, the degree of similarity is determined by the number of corresponding points between the two images in order to realize the determination of dissimilarity. The technique of determining is also conventionally used.
However, when such a technique is used, if there is an abnormal value at the corresponding point between the two images and there is an error in the corresponding point itself, another problem arises that the determination accuracy is reduced. Yes.

この問題を解決可能な技術として、2枚の画像間で同一とみられる被写体の領域において、対応点を検出する技術が特許文献1に開示されている。
また、この特許文献1に記載の技術では、2枚の画像間で同一とみられる被写体の領域において対応点の傾きが生じている場合には、対応点の回転角度の相違に基づいて、対応点同士が正常な値(以下、インライヤとも呼ぶ)であるのかそれとも異常な値(以下、アウトライヤとも呼ぶ)であるのかを判定し、その判定結果を類似度の判定に用いている。
As a technique capable of solving this problem, Patent Document 1 discloses a technique for detecting corresponding points in a region of a subject that is considered to be the same between two images.
Further, in the technique described in Patent Document 1, when an inclination of a corresponding point occurs in a region of a subject that is considered to be the same between two images, the corresponding point is determined based on the difference in the rotation angle of the corresponding point. It is determined whether they are normal values (hereinafter also referred to as inliers) or abnormal values (hereinafter also referred to as outliers), and the determination result is used for determining the similarity.

特開2007−334795号公報JP 2007-334895 A

しかしながら、特許文献1に記載の技術では例えば、一部の被写体のみが回転等している場合、当該回転等して位置が異なる一部の被写体については、対応点としてカウントされない。このために、本来、同一の被写体が存在する類似画像として判定されるべきところ、非類似画像と判定されてしまうことがあった。   However, in the technique described in Patent Document 1, for example, when only a part of the subject rotates, some subjects whose positions are different due to the rotation or the like are not counted as corresponding points. For this reason, there is a case where it is determined as a dissimilar image where it should originally be determined as a similar image in which the same subject exists.

本発明は、このような状況に鑑みてなされたものであり、共通する被写体を含む画像の類似判定の精度向上を図ることが可能な、画像処理装置、画像処理方法及びプログラムを提供することを目的とする。   The present invention has been made in view of such circumstances, and provides an image processing apparatus, an image processing method, and a program capable of improving the accuracy of similarity determination of images including a common subject. Objective.

上記目的を達成するため、本発明の一態様の画像処理装置は、複数の画像のデータを取得する取得手段と、前記取得手段により取得された複数の画像のデータについて、類似する複数の画素領域を夫々特定する特定手段と、前記特定手段により特定された類似する複数の画素領域同士の座標空間上における距離を夫々算出する距離算出手段と、前記距離算出手段により夫々算出された距離に基づいて、類似判定に用いる閾値を設定する閾値設定手段と、前記距離算出手段により夫々算出された距離のうち、前記閾値設定手段により設定された閾値以下の距離に対応する画素領域同士に基づいて、前記取得手段により取得された前記複数の画像のデータが類似するか否かを判定する類似判定手段と、を備えたことを特徴とする。 In order to achieve the above object, an image processing apparatus according to an aspect of the present invention includes an acquisition unit that acquires data of a plurality of images, and a plurality of similar pixel regions with respect to the data of the plurality of images acquired by the acquisition unit. Based on the distances calculated by the distance calculation means, the distance calculation means for calculating the distances in the coordinate space between the plurality of similar pixel areas specified by the specification means, respectively. , Based on pixel areas corresponding to distances equal to or less than the threshold set by the threshold setting means among the distances calculated by the threshold setting means for setting a threshold used for similarity determination and the distance calculating means, Similarity determination means for determining whether the data of the plurality of images acquired by the acquisition means are similar to each other.

本発明によれば、共通する被写体を含む画像の類似判定の精度向上を図ることができる。   According to the present invention, it is possible to improve the accuracy of similarity determination of images including a common subject.

画像の類似度の判定を説明するための、判定対象となる2枚の画像の例を示す模式図である。It is a schematic diagram which shows the example of the image of 2 sheets used as determination object for demonstrating determination of the similarity of an image. 本発明の一実施形態に係る画像処理装置のハードウェアの構成を示すブロック図である。1 is a block diagram illustrating a hardware configuration of an image processing apparatus according to an embodiment of the present invention. 図2の画像処理装置の機能的構成のうち、画像類似判定処理を実行するための機能的構成を示す機能ブロック図である。It is a functional block diagram which shows the functional structure for performing an image similarity determination process among the functional structures of the image processing apparatus of FIG. 図2の画像処理装置の機能的構成のうち、特徴量抽出処理を実行するための機能的構成を示す機能ブロック図である。It is a functional block diagram which shows the functional structure for performing the feature-value extraction process among the functional structures of the image processing apparatus of FIG. 図3の機能的構成を有する図2の画像処理装置が実行する画像類似判定処理の流れを説明するフローチャートである。4 is a flowchart illustrating a flow of image similarity determination processing executed by the image processing apparatus of FIG. 2 having the functional configuration of FIG. 3. 画像類似判定処理のうち、ステップS2の特徴量抽出処理の流れを説明するフローチャートである。It is a flowchart explaining the flow of the feature-value extraction process of step S2 among image similarity determination processes.

先ず、本発明の実施形態の説明の前に、本発明の原理の概要について、図1を参照して説明する。
図1は、画像の類似度の判定を説明するための、判定対象となる2枚の画像の例を示す模式図である。
図1において、左側の第1の画像p1は、類似の判定元となる画像であり、右側の第2の画像p2は、類似の判定対象となる画像である。
First, before describing the embodiment of the present invention, an outline of the principle of the present invention will be described with reference to FIG.
FIG. 1 is a schematic diagram illustrating an example of two images to be determined for explaining determination of similarity between images.
In FIG. 1, the first image p1 on the left is an image that is a similar determination source, and the second image p2 on the right is an image that is a similar determination target.

図1の例では、装置は、第1の画像p1と、第2の画像p2との各データが類似しているか否かを判定する。   In the example of FIG. 1, the apparatus determines whether the data of the first image p1 and the second image p2 are similar.

第1の画像p1には、画像の左側に配置されるオブジェクトob1−1と、画像の中央に配置されるオブジェクトob2−1と、画像の右側に配置されるオブジェクトob3−1とがそれぞれ被写体として含まれている。
一方、第2の画像p2には、画像の左側に配置されるオブジェクトob1−2と、画像の中央に配置されるオブジェクトob2−2と、画像の右側に配置されるオブジェクトob3−2とがそれぞれ被写体として含まれている。
In the first image p1, an object ob1-1 placed on the left side of the image, an object ob2-1 placed on the center of the image, and an object ob3-1 placed on the right side of the image are subjects. include.
On the other hand, the second image p2 includes an object ob1-2 arranged on the left side of the image, an object ob2-2 arranged on the center of the image, and an object ob3-2 arranged on the right side of the image. It is included as a subject.

第1の画像p1内のオブジェクトob1−1と、第2の画像p2内のオブジェクトob1−2とは、同一の筆記具の像である。また、第1の画像p1のオブジェクトob1−1における特徴点c1−1乃至c4−1の各々と、第2の画像p2のob1−2における特徴点c1−2乃至c4−2の各々とは対応点であり、これらの対応点の位置が何れも略一致している。このように、第1の画像p1内のオブジェクトob1−1と、第2の画像p2内のオブジェクトob1−2とは、画像内の略同一位置に配置されている。   The object ob1-1 in the first image p1 and the object ob1-2 in the second image p2 are images of the same writing instrument. Further, each of the feature points c1-1 to c4-1 in the object ob1-1 of the first image p1 corresponds to each of the feature points c1-2 to c4-2 in ob1-2 of the second image p2. The positions of these corresponding points are substantially the same. Thus, the object ob1-1 in the first image p1 and the object ob1-2 in the second image p2 are arranged at substantially the same position in the image.

第1の画像p1内のオブジェクトob3−1と、第2の画像p2内のオブジェクトob3−2とは、同一の携帯電話の像であることが目視でわかる。また、第1の画像p1のオブジェクトob3−1における特徴点c7−1及びc8−1の各々と、第2の画像p2のob3−2における特徴点c7−2及びc8−2の各々とは対応点であり、これらの対応点の位置が何れも略一致していることが目視でわかる。このように、第1の画像p1内のオブジェクトob3−1と、第2の画像p2内のオブジェクトob3−2とは、画像内の略同一位置に配置されていることが目視でわかる。   It can be seen visually that the object ob3-1 in the first image p1 and the object ob3-2 in the second image p2 are images of the same mobile phone. Also, each of the feature points c7-1 and c8-1 in the object ob3-1 of the first image p1 corresponds to each of the feature points c7-2 and c8-2 in the ob3-2 of the second image p2. It can be seen visually that the positions of these corresponding points are substantially the same. Thus, it can be seen visually that the object ob3-1 in the first image p1 and the object ob3-2 in the second image p2 are arranged at substantially the same position in the image.

これに対して、第1の画像p1内のオブジェクトob2−1と、第2の画像p2内のオブジェクトo23−2とは、同一の腕時計の像であるものの、画像内の配置位置は異なっていることが目視でわかる。即ち、第1の画像p1のオブジェクトob2−1における特徴部分c5−1及びc6−1の各々と、第2の画像p2のオブジェクトob2−2における特徴部分c5−2及びc6−2の各々とは対応点であるものの、これらの対応点の位置が異なっていることが目視でわかる。具体的には目視では、第1の画像内のオブジェクトob1−1と、第2の画像内のオブジェクトob1−2とは、画像内において、ほぼ180度回転した位置に配置されていることがわかる。   On the other hand, the object ob2-1 in the first image p1 and the object ob23-2 in the second image p2 are the same wristwatch image, but are arranged at different positions in the image. This can be seen visually. That is, each of the characteristic portions c5-1 and c6-1 in the object ob2-1 of the first image p1 and each of the characteristic portions c5-2 and c6-2 in the object ob2-2 of the second image p2. Although it is a corresponding point, it can be seen visually that the positions of these corresponding points are different. Specifically, visually, it can be seen that the object ob1-1 in the first image and the object ob1-2 in the second image are arranged at positions rotated by approximately 180 degrees in the image. .

このように図1の例では、第1の画像p1及び第2の画像p2は、筆記具、携帯電話、及び腕時計といった複数の同一被写体のうち、腕時計のオブジェクトob2−1及びob2−2の位置関係が異なるといった構図を有しているものの、類似していることがわかる。   As described above, in the example of FIG. 1, the first image p <b> 1 and the second image p <b> 2 are the positional relationship between the wristwatch objects ob <b> 2-1 and ob <b> 2-2 among a plurality of identical subjects such as a writing instrument, a mobile phone, and a wristwatch. Although they have different compositions, it can be seen that they are similar.

ところが、[背景技術]の欄で上述した従来の技術を用いて、第1の画像p1及び第2の画像p2の各データの類似度が判定された場合には、180度回転して位置が異なっているオブジェクトob2−1及びob2−2は非類似であると判定され、その結果、第1の画像p1及び第2の画像p2の全体でも非類似と判定されるおそれがある。
即ち、従来の技術では、2枚の画像間で、本来対応点となるべき特徴点同士が、回転角度の相違等の要因で対応点ではないと判定されてしまうために、結果として当該2枚の画像が全体として非類似であると判定されてしまうおそれがある。
However, when the similarity between the data of the first image p1 and the second image p2 is determined using the conventional technique described above in the [Background art] column, the position is rotated by 180 degrees. The different objects ob2-1 and ob2-2 are determined to be dissimilar, and as a result, the first image p1 and the second image p2 as a whole may be determined to be dissimilar.
That is, in the conventional technique, since the feature points that should originally be the corresponding points between the two images are determined not to be the corresponding points due to a difference in rotation angle or the like, as a result, the two images May be determined to be dissimilar as a whole.

そこで、本発明の一実施形態は、画像内のオブジェクトの一部が移動している場合でも、例えば、画像内のオブジェクトの一部が回転している場合でも、同一のオブジェクトとして判定できるように、次のような一連の処理を実現可能な手法である。
即ち、本実施形態では、複数の画像の各々から、類似する画素領域を夫々特定する。ここで、画素領域とは、1以上の画素からなる領域をいう。即ち、1つの画素、例えば特徴点(画素)も画素領域の一例である。装置は、特定された画素領域同士の距離を夫々算出する。装置は、夫々算出された距離が閾値以下か否かを判定し、閾値以下と判定された距離に対応する画素領域同士に基づいて、複数の画像全体が類似しているか否かを判定する。ここで、閾値は、特定された画素領域同士の距離の夫々に基づいて設定される。このような一連の処理を、以下、「画像類似判定処理」と呼ぶ。即ち、画像類似判定処理を実現可能な手法が、本発明の実施形態である。
このような本発明の手法を画像処理装置に適用することで、画像の類似度を高精度で判定することができるようになる。以下、このような本発明の手法が適用された画像処理装置の一実施の形態について、図2以降の図面を参照して説明する。
Therefore, according to an embodiment of the present invention, even when a part of an object in the image is moved, for example, even when a part of the object in the image is rotated, it can be determined as the same object. This is a technique that can realize the following series of processes.
That is, in the present embodiment, a similar pixel area is specified from each of a plurality of images. Here, the pixel region refers to a region composed of one or more pixels. That is, one pixel, for example, a feature point (pixel) is an example of the pixel region. The apparatus calculates the distance between the identified pixel areas. The apparatus determines whether or not each calculated distance is equal to or less than a threshold, and determines whether or not the plurality of images as a whole are similar based on pixel areas corresponding to the distance determined to be equal to or less than the threshold. Here, the threshold value is set based on each of the distances between the specified pixel regions. Such a series of processing is hereinafter referred to as “image similarity determination processing”. That is, a method capable of realizing the image similarity determination process is an embodiment of the present invention.
By applying such a method of the present invention to an image processing apparatus, the similarity of images can be determined with high accuracy. Hereinafter, an embodiment of an image processing apparatus to which the method of the present invention is applied will be described with reference to FIG. 2 and subsequent drawings.

図2は、本発明の一実施形態に係る画像処理装置のハードウェアの構成を示すブロック図である。
画像処理装置1は、例えばパーソナルコンピュータとして構成される。
FIG. 2 is a block diagram showing a hardware configuration of the image processing apparatus according to the embodiment of the present invention.
The image processing apparatus 1 is configured as a personal computer, for example.

画像処理装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、画像処理部14と、バス15と、入出力インターフェース16と、入力部17と、出力部18と、記憶部19と、通信部20と、ドライブ21と、を備えている。   The image processing apparatus 1 includes a CPU (Central Processing Unit) 11, a ROM (Read Only Memory) 12, a RAM (Random Access Memory) 13, an image processing unit 14, a bus 15, an input / output interface 16, and an input. A unit 17, an output unit 18, a storage unit 19, a communication unit 20, and a drive 21 are provided.

CPU11は、ROM12に記録されているプログラム、又は、記憶部19からRAM13にロードされたプログラムに従って各種の処理を実行する。   The CPU 11 executes various processes according to a program recorded in the ROM 12 or a program loaded from the storage unit 19 to the RAM 13.

RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。   The RAM 13 appropriately stores data necessary for the CPU 11 to execute various processes.

画像処理部14は、DSP(Digital Signal Processor)や、VRAM(Video Random Access Memory)等から構成されており、CPU11と協働して、画像のデータに対して各種画像処理を施す。   The image processing unit 14 is configured by a DSP (Digital Signal Processor), a VRAM (Video Random Access Memory), and the like, and performs various image processing on image data in cooperation with the CPU 11.

CPU11、ROM12、RAM13及び画像処理部14は、バス15を介して相互に接続されている。このバス15にはまた、入出力インターフェース16も接続されている。入出力インターフェース16には、入力部17、出力部18、記憶部19、通信部20及びドライブ21が接続されている。   The CPU 11, ROM 12, RAM 13, and image processing unit 14 are connected to each other via a bus 15. An input / output interface 16 is also connected to the bus 15. An input unit 17, an output unit 18, a storage unit 19, a communication unit 20, and a drive 21 are connected to the input / output interface 16.

入力部17は、マウスやキーボード等で構成され、ユーザの指示操作に応じて各種情報を入力する。
出力部18は、ディスプレイやスピーカ等で構成され、画像や音声を出力する。
記憶部19は、ハードディスク或いはDRAM(Dynamic Random Access Memory)等で構成され、各種画像のデータを記憶する。
通信部20は、インターネットを含むネットワークを介して他の装置(図示せず)との間で行う通信を制御する。
The input unit 17 includes a mouse, a keyboard, and the like, and inputs various types of information in accordance with user instruction operations.
The output unit 18 includes a display, a speaker, and the like, and outputs images and sounds.
The storage unit 19 is composed of a hard disk, a DRAM (Dynamic Random Access Memory), or the like, and stores various image data.
The communication unit 20 controls communication performed with other devices (not shown) via a network including the Internet.

ドライブ21には、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリ等よりなる、リムーバブルメディア31が適宜装着される。ドライブ21によってリムーバブルメディア31から読み出されたプログラムは、必要に応じて記憶部19にインストールされる。また、リムーバブルメディア31は、記憶部19に記憶されている画像のデータ等の各種データも、記憶部19と同様に記憶することができる。   A removable medium 31 made of a magnetic disk, an optical disk, a magneto-optical disk, a semiconductor memory, or the like is appropriately attached to the drive 21. The program read from the removable medium 31 by the drive 21 is installed in the storage unit 19 as necessary. The removable medium 31 can also store various data such as image data stored in the storage unit 19 in the same manner as the storage unit 19.

次に、このような画像処理装置1の機能的構成のうち、上述した画像類似判定処理を実行するための機能的構成について図3を用いて説明する。
図3は、図2の画像処理装置1の機能的構成のうち、画像類似判定処理を実行するための機能的構成を示す機能ブロック図である。
Next, a functional configuration for executing the above-described image similarity determination process among the functional configurations of the image processing apparatus 1 will be described with reference to FIG.
FIG. 3 is a functional block diagram showing a functional configuration for executing the image similarity determination process among the functional configurations of the image processing apparatus 1 of FIG.

画像処理装置1が画像類似判定処理を実行する場合には、図3に示すように、画像処理部14において、ペア画像取得部41と、特徴量抽出部42と、類似度算出部43と、類似画像判定部44と、が機能する。また、CPU11において、出力制御部51が機能する。
ただし、図3は例示であり、画像処理部14の機能の一部をCPU11に委譲してもよいし、逆に、CPU11の機能の一部を画像処理部14に委譲してもよい。
また、画像処理装置1の記憶部19の一領域として、画像データ記憶部61が設けられている。なお、画像データ記憶部61が記憶部19の一領域として設けられていることは例示であって、その他例えばリムーバブルメディア31の一領域として設けられるようにしてもよい。
When the image processing apparatus 1 executes the image similarity determination process, as shown in FIG. 3, in the image processing unit 14, a pair image acquisition unit 41, a feature amount extraction unit 42, a similarity calculation unit 43, The similar image determination unit 44 functions. In the CPU 11, the output control unit 51 functions.
However, FIG. 3 is an example, and a part of the function of the image processing unit 14 may be delegated to the CPU 11, and conversely, a part of the function of the CPU 11 may be delegated to the image processing unit 14.
Further, an image data storage unit 61 is provided as an area of the storage unit 19 of the image processing apparatus 1. Note that the image data storage unit 61 is provided as one area of the storage unit 19, and may be provided as another area of the removable media 31, for example.

画像データ記憶部61には、例えば、類似画像判定処理に用いられる複数の画像のデータが記憶される。   The image data storage unit 61 stores, for example, data of a plurality of images used for the similar image determination process.

ペア画像取得部41は、類似度の判定対象となる2つの画像(以下、ペア画像という)の各々データを画像データ記憶部61から取得して、特徴量抽出部42に供給する。   The pair image acquisition unit 41 acquires data of two images (hereinafter referred to as “pair images”) as similarity determination targets from the image data storage unit 61 and supplies the acquired data to the feature amount extraction unit 42.

特徴量抽出部42は、ペア画像取得部41により取得されたペア画像のデータについて、ペア画像の各々に含まれる複数の特徴点を抽出し、当該ペア画像間の対応点を探索する。次に、特徴量抽出部42は、対応点ペア間の距離に基づいて、カウント対象となる対応点ペアと、カウント対象外となる対応点ペアとを分類し、カウント対象となる対応点ペアの数を特徴量として出力する。
なお、特徴量抽出部42のさらなる詳細については、図4を用いて後述する。
The feature quantity extraction unit 42 extracts a plurality of feature points included in each pair image from the pair image data acquired by the pair image acquisition unit 41 and searches for corresponding points between the pair images. Next, the feature quantity extraction unit 42 classifies the corresponding point pairs that are to be counted and the corresponding point pairs that are not to be counted, based on the distance between the corresponding point pairs, and sets the corresponding point pairs that are to be counted. The number is output as a feature value.
Further details of the feature quantity extraction unit 42 will be described later with reference to FIG.

類似度算出部43は、特徴量抽出部42から出力された特徴量に基づいて、ペア画像の類似度を算出する。
具体的には本実施形態では、類似度算出部43は、特徴量を重み付け係数で重み付けすることにより、ペア画像の類似度を算出する。ここで、重み付け係数は、特に限定されないが、本実施形態では、adaboost(Adaptive Boosting)等の機械学習のアルゴリズムを用いて予め算出された値が採用される。
The similarity calculation unit 43 calculates the pair image similarity based on the feature amount output from the feature amount extraction unit 42.
Specifically, in this embodiment, the similarity calculation unit 43 calculates the pair image similarity by weighting the feature amount with a weighting coefficient. Here, the weighting coefficient is not particularly limited, but in the present embodiment, a value calculated in advance using a machine learning algorithm such as adaboost (Adaptive Boosting) is employed.

類似画像判定部44は、類似度算出部43により算出された類似度に基づいて、ペア画像が類似しているか否かの判定(類似判定)し、その結果(以下、「類似判定結果」と呼ぶ)を記憶部19に記憶させる。   The similar image determination unit 44 determines whether or not the pair images are similar based on the similarity calculated by the similarity calculation unit 43 (similarity determination), and the result (hereinafter referred to as “similarity determination result”). Stored in the storage unit 19.

出力制御部51は、ペア画像の類似判定結果やペア画像のデータを出力部18に出力する制御を実行する。   The output control unit 51 executes control for outputting the pair image similarity determination result and the pair image data to the output unit 18.

さらに以下、画像処理装置1の機能的構成のうち、特徴量抽出部42の機能的構成の詳細について説明する。
図4は、図2の画像処理装置1のうち特徴量抽出部42の機能的構成の詳細を示す機能ブロック図である。
Further, details of the functional configuration of the feature amount extraction unit 42 among the functional configurations of the image processing apparatus 1 will be described below.
FIG. 4 is a functional block diagram showing details of the functional configuration of the feature quantity extraction unit 42 in the image processing apparatus 1 of FIG.

画像処理装置1が画像類似判定処理を実行する場合には、画像処理部14の特徴量抽出部42において、図4に示すように、特徴点抽出部81と、対応点探索部82と、ベクトル算出部83と、閾値設定部84と、カウント部85と、対応点判定部86と、特徴量出力部87と、が機能する。   When the image processing apparatus 1 executes the image similarity determination process, the feature amount extraction unit 42 of the image processing unit 14 includes a feature point extraction unit 81, a corresponding point search unit 82, a vector, as shown in FIG. The calculation unit 83, the threshold setting unit 84, the count unit 85, the corresponding point determination unit 86, and the feature amount output unit 87 function.

また、画像処理装置1の記憶部19の一領域として、画像情報データ記憶部62が設けられている。なお、画像情報データ記憶部62が記憶部19の一領域として設けられていることは例示であって、その他例えばリムーバブルメディア31の一領域として設けられるようにしてもよい。   An image information data storage unit 62 is provided as an area of the storage unit 19 of the image processing apparatus 1. Note that the image information data storage unit 62 is provided as one area of the storage unit 19, and may be provided as another area of the removable media 31, for example.

画像情報データ記憶部62には、例えば、特徴量抽出処理に用いられる後述するベクトルの値、特徴点のカウント数、特徴量等の各種画像情報のデータが記憶される。   The image information data storage unit 62 stores, for example, various image information data such as vector values, feature point counts, and feature amounts, which will be described later, used for feature amount extraction processing.

特徴点抽出部81は、ペア画像取得部41により取得されたペア画像の各データについて、ペア画像に含まれる特徴点をそれぞれ抽出する。
特徴点抽出部81による特徴点の抽出の手法は、特に限定されず、公知の又は今後登場するであろう任意の手法を採用することができる。ただし、本実施形態では、SURF(Speeded−Up Robust Features)処理による特徴点の抽出の手法が採用されている。
The feature point extraction unit 81 extracts feature points included in the pair image for each data of the pair image acquired by the pair image acquisition unit 41.
The method of extracting feature points by the feature point extracting unit 81 is not particularly limited, and any known method that will appear or will appear in the future can be adopted. However, in the present embodiment, a feature point extraction method using SURF (Speeded-Up Robust Features) processing is employed.

対応点探索部82は、特徴点抽出部81により抽出された複数の特徴点の中から、ペア画像間の対応点同士(以下、「対応点ペア」と呼ぶ)を探索する。   The corresponding point search unit 82 searches for corresponding points between the pair images (hereinafter, referred to as “corresponding point pair”) from among the plurality of feature points extracted by the feature point extraction unit 81.

ベクトル算出部83は、対応点探索部82により探索された対応点ペアのうち、ペア画像間で共通する座標空間における一方の対応点の座標を始点とし、他方の対応点の座標を終点とするベクトルの長さに基づく値、即ち対応点ペア間の距離を表す値(以下、単に「ベクトルの値」と呼ぶ)を算出する。
ベクトル値の算出の手法は、特に限定されず、公知の又は今後登場するであろう任意の手法を採用することができる。ただし、本実施形態では、二乗和により算出するユークリッド距離を用いる手法が採用されている。
また、ベクトル算出部83は、算出したベクトルの値を画像情報データ記憶部62に記憶させる。
Of the corresponding point pairs searched by the corresponding point search unit 82, the vector calculation unit 83 uses the coordinates of one corresponding point in the coordinate space common between the pair images as the start point and the coordinates of the other corresponding point as the end point. A value based on the length of the vector, that is, a value representing a distance between corresponding point pairs (hereinafter simply referred to as “vector value”) is calculated.
The method for calculating the vector value is not particularly limited, and any known method that will appear in the future or that will appear in the future can be adopted. However, in this embodiment, a method using the Euclidean distance calculated by the sum of squares is adopted.
Further, the vector calculation unit 83 causes the image information data storage unit 62 to store the calculated vector value.

閾値設定部84は、ベクトル算出部83により算出された全ての対応点ペアについてのベクトルの値に基づいて、異常な距離(対応点間の距離とはいえないという意)の指標(判断基準)となるベクトルの値を求め、当該ベクトルの値を閾値として設定する。
本実施形態においては、閾値設定部84は、全対応点ペアの各々のベクトルの値のうち中央値(メディアン値)を求め、当該中央値に一定数αを加算又は乗算した値を、閾値として設定する。
Based on the vector values for all corresponding point pairs calculated by the vector calculating unit 83, the threshold setting unit 84 is an index (determination criterion) of an abnormal distance (meaning that it cannot be said that the distance between corresponding points). Is obtained as a threshold value.
In the present embodiment, the threshold value setting unit 84 obtains a median value (median value) among the values of each vector of all corresponding point pairs, and a value obtained by adding or multiplying the median value by a certain number α is used as the threshold value. Set.

カウント部85は、ベクトル算出部83により算出された全ての対応点ペアのうち、カウント対象となる対応点ペアの総数をカウントする。カウント部85は、カウントの値を画像情報データ記憶部62に記憶させる。   The counting unit 85 counts the total number of corresponding point pairs to be counted among all the corresponding point pairs calculated by the vector calculating unit 83. The count unit 85 stores the count value in the image information data storage unit 62.

対応点判定部86は、ベクトル算出部83により算出された全ての対応点ペアのそれぞれについて、カウント対象となる対応点ペアであるのか、それとも、カウント対象外となる対応点ペアであるのかを判定する。なお、カウント対象となる対応点ペアを、以下、「インライヤ」と呼ぶ。一方、カウント対象とならない対応点ペアを、以下、「アウトライヤ」と呼ぶ。
具体的には、対応点判定部86は、判定対象となる対応点ペアについてのベクトルの値(対応点ペア間の距離を示す値)が、閾値以下の場合にはインライヤと判定して、閾値を超えている場合にはアウトライヤと判定する。
The corresponding point determination unit 86 determines whether each of all the corresponding point pairs calculated by the vector calculation unit 83 is a corresponding point pair to be counted or a corresponding point pair to be excluded from counting. To do. The corresponding point pair to be counted is hereinafter referred to as “inlier”. On the other hand, corresponding point pairs that are not counted are hereinafter referred to as “outliers”.
Specifically, the corresponding point determination unit 86 determines that the vector value (the value indicating the distance between the corresponding point pairs) of the corresponding point pair to be determined is equal to or less than the threshold value, and determines that the threshold value is inlier. If it exceeds, it is determined as an outlier.

特徴量出力部87は、ベクトル算出部83により算出された全ての対応点ペアに対して対応点判定部86による判定が終了して、カウント部85によるカウントが終了すると、当該カウント部85のカウント値を、特徴量として出力する。   The feature amount output unit 87 counts the count unit 85 when the determination by the corresponding point determination unit 86 is completed for all the corresponding point pairs calculated by the vector calculation unit 83 and the counting by the counting unit 85 ends. The value is output as a feature value.

次に、本実施形態における画像処理装置1が実行する画像類似判定処理の流れについて図5を用いて説明する。
図5は、図3の機能的構成を有する図2の画像処理装置1が実行する画像類似判定処理の流れを説明するフローチャートである。
Next, the flow of image similarity determination processing executed by the image processing apparatus 1 according to the present embodiment will be described with reference to FIG.
FIG. 5 is a flowchart for explaining the flow of the image similarity determination process executed by the image processing apparatus 1 of FIG. 2 having the functional configuration of FIG.

画像処理装置1の入力部17を操作するユーザは、画像類似判定処理の開始を指示する所定の操作をすることができる。
画像類似判定処理は、このようなユーザによる所定の操作を契機として開始され、次のような処理が実行される。
A user who operates the input unit 17 of the image processing apparatus 1 can perform a predetermined operation instructing the start of the image similarity determination process.
The image similarity determination process is triggered by such a predetermined operation by the user, and the following process is executed.

ステップS1において、ペア画像取得部41は、ペア画像のデータを画像データ記憶部61から取得する。   In step S <b> 1, the pair image acquisition unit 41 acquires pair image data from the image data storage unit 61.

ステップS2において、特徴量抽出部42は、ステップS1の処理で取得されたペア画像のデータについての特徴量を出力する。
このようなステップS2における特徴量抽出部42の処理を、以下、「特徴量抽出処理」と呼ぶ。特徴量抽出処理の詳細については、図6を参照して後述する。
In step S <b> 2, the feature amount extraction unit 42 outputs the feature amount of the pair image data acquired in the process of step S <b> 1.
Such processing of the feature amount extraction unit 42 in step S2 is hereinafter referred to as “feature amount extraction processing”. Details of the feature amount extraction processing will be described later with reference to FIG.

ステップS3において、類似度算出部43は、ステップS2の特徴量抽出処理により出力された特徴量を、adaboostにより算出した重み付け係数で重み付けすることにより、ステップS1の処理で取得されたペア画像のデータについての類似度を算出する。   In step S3, the similarity calculation unit 43 weights the feature amount output by the feature amount extraction process of step S2 with the weighting coefficient calculated by the abodost, thereby obtaining the pair image data acquired in the process of step S1. The similarity for is calculated.

ステップS4において、類似画像判定部44は、ステップS3の処理で算出された類似度が、所定の閾値よりも大きいか否かを判定する。
類似度が閾値を超えている場合には、ステップS4においてYESであると判定されて、処理はステップS5に進む。
In step S4, the similar image determination unit 44 determines whether the similarity calculated in the process of step S3 is greater than a predetermined threshold.
If the similarity exceeds the threshold, it is determined as YES in step S4, and the process proceeds to step S5.

ステップS5において、類似画像判定部44は、ペア画像同士が類似画像であると判定する。この処理が終了すると、処理はステップS7に進む。ただし、ステップS7の処理については後述する。   In step S5, the similar image determination unit 44 determines that the pair images are similar images. When this process ends, the process proceeds to step S7. However, the process of step S7 will be described later.

これに対して、ステップS3の処理で算出された類似度が閾値以下の場合には、ステップS4においてNOであると判定されて、処理はステップS6に進む。   On the other hand, when the similarity calculated by the process of step S3 is below a threshold value, it determines with it being NO in step S4, and a process progresses to step S6.

ステップS6において、類似画像判定部44は、ペア画像同士が類似画像でない(非類似画像である)と判定する。この処理が終了すると、処理はステップS7に進む。   In step S6, the similar image determination unit 44 determines that the pair images are not similar images (non-similar images). When this process ends, the process proceeds to step S7.

ステップS7において、出力部18は、出力制御部51により、ペア画像のデータと共に、ステップS5又はステップS6の処理結果、即ち類似度の判定結果を出力部18から出力させる。判定結果の出力形態は特に限定されないが、本実施形態では、出力部18のうち表示部に、ペア画像と共に、判定結果を示すメッセージ画像等が表示される。
これにより、画像類似判定処理は終了する。
In step S <b> 7, the output unit 18 causes the output control unit 51 to output the processing result of step S <b> 5 or step S <b> 6, that is, the similarity determination result, from the output unit 18 together with the pair image data. Although the output form of the determination result is not particularly limited, in the present embodiment, a message image indicating the determination result is displayed on the display unit of the output unit 18 together with the pair image.
Thereby, the image similarity determination process ends.

次に、このような画像類似判定処理のうち、ステップS2の特徴量抽出処理の詳細な流れについて、図6を用いて説明する。
図6は、図5の画像類似判定処理のうち、ステップS2の特徴量抽出処理の詳細な流れを示すフローチャートである。
Next, a detailed flow of the feature amount extraction process in step S2 in such an image similarity determination process will be described with reference to FIG.
FIG. 6 is a flowchart showing a detailed flow of the feature amount extraction process of step S2 in the image similarity determination process of FIG.

ステップS31において、特徴点抽出部81は、ペア画像のデータについて、当該ペア画像に含まれる特徴点を抽出する。   In step S31, the feature point extraction unit 81 extracts feature points included in the pair image from the pair image data.

ステップS32において、対応点探索部82は、ステップS31の処理で抽出された特徴点に基づいて、ペア画像間の対応点を探索する。   In step S32, the corresponding point search unit 82 searches for corresponding points between the pair images based on the feature points extracted in the process of step S31.

ステップS33において、ベクトル算出部83は、ステップS32の処理で探索された全ての対応点ペアの各々を処理対象に順次設定し、処理対象の対応点ペアの画像間の距離から、当該処理対象の対応点ペアのベクトルの値(対応点ペア間のユークリッド距離を示す値)を算出する。   In step S33, the vector calculation unit 83 sequentially sets each of all the corresponding point pairs searched in the process of step S32 as a processing target, and determines the target of the processing target from the distance between images of the corresponding pair of processing targets. A vector value of the corresponding point pair (a value indicating the Euclidean distance between the corresponding point pairs) is calculated.

ステップS34において、閾値設定部84は、ステップS33の処理により算出された、全ての対応点ペアについてのベクトルの値に基づいて、閾値を設定する。   In step S34, the threshold setting unit 84 sets a threshold based on the vector values for all the corresponding point pairs calculated by the processing in step S33.

ステップS35において、カウント部85は、インライヤカウント値iを「0」に設定(i=0)する。インライヤカウント値iとは、カウント部85によりカウントされる値をいう。   In step S35, the count unit 85 sets the inlier count value i to “0” (i = 0). The inlier count value i is a value counted by the counting unit 85.

ステップS36において、対応点判定部86は、ステップS32の処理で探索された全ての対応点ペアのうち所定の1つを、処理対象の対応点ペアとして設定する。   In step S36, the corresponding point determination unit 86 sets a predetermined one of all corresponding point pairs searched in the process of step S32 as a corresponding point pair to be processed.

ステップS37において、対応点判定部86は、処理対象の対応点ペアのベクトルの値が閾値以下であるか否かを判定する。
ベクトルの値が閾値以下である場合には、ステップS37においてYESであると判定されて、処理はステップS38に進む。
In step S37, the corresponding point determination unit 86 determines whether the vector value of the corresponding point pair to be processed is equal to or less than a threshold value.
If the vector value is less than or equal to the threshold value, it is determined as YES in step S37, and the process proceeds to step S38.

ステップS38において、対応点判定部86は、処理対象の対応点ペアをインライヤであると判定する。   In step S38, the corresponding point determination unit 86 determines that the corresponding point pair to be processed is an inlier.

ステップS39において、カウント部85は、インライヤカウント値iを「1」だけインクリメントする(i=i+1)。この処理が終了すると、処理はステップS42に進む。ただし、ステップS42以降の処理については後述する。   In step S39, the count unit 85 increments the inlier count value i by “1” (i = i + 1). When this process ends, the process proceeds to step S42. However, the processing after step S42 will be described later.

一方、処理対象の対応点ペアのベクトルの値が閾値を超えている場合には、ステップS37においてNOであると判定されて、処理はステップS40に進む。 On the other hand, if the vector value of the corresponding point pair to be processed exceeds the threshold value, it is determined as NO in step S37, and the process proceeds to step S40.

ステップS40において、対応点判定部86は、処理対象の対応点ペアをアウトライヤであると判定する。   In step S40, the corresponding point determination unit 86 determines that the corresponding point pair to be processed is an outlier.

ステップS41において、対応点判定部86は、アウトライヤを除外する。即ち、アウトライヤと判定された処理対象の対応点ペアについては、カウント対象から除外される。この処理が終了すると、処理はステップS42に進む。   In step S41, the corresponding point determination unit 86 excludes outliers. That is, the corresponding pair of processing targets determined to be outliers is excluded from the count target. When this process ends, the process proceeds to step S42.

ステップS42において、対応点判定部86は、全ての対応点ペアが処理対象に設定されたか否かを判断する。
全ての対応点ペアがまだ処理対象に設定されていない場合には、ステップS42においてNOであると判断されて、処理はステップS36に戻される。その後、全ての対応点ペアが処理対象に設定されるまで、ステップS36乃至ステップS42のループ処理が繰り返され、処理対象の対象点ペアが、インライヤである場合にはインライヤカウント値iが「1」だけインクリメントし(i=i+1)、アウトライヤである場合にはカウント対象から除外される。
そして、全ての対応点ペアが処理対象に設定された場合には、ステップS42においてYESであると判断されて、処理はステップS43に進む。
In step S42, the corresponding point determination unit 86 determines whether all corresponding point pairs have been set as processing targets.
If all corresponding point pairs have not yet been set as processing targets, NO is determined in step S42, and the process returns to step S36. Thereafter, until all the corresponding point pairs are set as processing targets, the loop processing from step S36 to step S42 is repeated. When the processing target point pair is an inlier, the inlier count value i is “1”. ”Is incremented (i = i + 1), and if it is an outlier, it is excluded from the count target.
If all the corresponding point pairs are set as processing targets, YES is determined in step S42, and the process proceeds to step S43.

ステップS43において、特徴量出力部87は、インライヤカウント値iを特徴点として出力する。その後、特徴点抽出処理は終了して、処理はステップS3に戻る。   In step S43, the feature amount output unit 87 outputs the inlier count value i as a feature point. Thereafter, the feature point extraction process ends, and the process returns to step S3.

以上説明したように、画像処理装置1は、ペア画像取得部41と、対応点探索部82と、ベクトル算出部83と、閾値設定部84と、類似画像判定部44と、を備える。
ペア画像取得部41は、判定を行う複数の画像であるペア画像(複数の画像の一例であるペア画像)を取得する。
対応点探索部82は、ペア画像取得部41により取得された複数の画像のデータについて、類似する複数の画素領域を夫々特定する。
ベクトル算出部83は、対応点探索部82により特定された画像領域同士の距離を夫々算出する。
閾値設定部84は、ベクトル算出部83により夫々算出された距離に基づいて、閾値を設定する。
類似画像判定部44は、ベクトル算出部83により夫々算出された距離のうち、閾値設定部84により設定された閾値以下の距離に対応する画素領域同士に基づいて、ペア画像取得部41により取得された複数の画像のデータが類似するか否かを判定する。
As described above, the image processing apparatus 1 includes the pair image acquisition unit 41, the corresponding point search unit 82, the vector calculation unit 83, the threshold setting unit 84, and the similar image determination unit 44.
The pair image acquisition unit 41 acquires a pair image (a pair image that is an example of a plurality of images) that is a plurality of images to be determined.
The corresponding point search unit 82 specifies a plurality of similar pixel regions for the data of the plurality of images acquired by the pair image acquisition unit 41.
The vector calculation unit 83 calculates the distance between the image areas specified by the corresponding point search unit 82.
The threshold setting unit 84 sets a threshold based on the distance calculated by the vector calculation unit 83.
The similar image determination unit 44 is acquired by the pair image acquisition unit 41 based on pixel areas corresponding to distances equal to or less than the threshold set by the threshold setting unit 84 among the distances calculated by the vector calculation unit 83. It is determined whether the data of the plurality of images are similar.

従って、画像処理装置1は、ベクトル算出部83により夫々算出された距離のうち、閾値設定部84により設定された閾値以下の距離に対応する画素領域同士に基づいて、ペア画像取得部41により取得された複数の画像のデータが類似するか否かを判定する。このため、画像処理装置1では、画像内のオブジェクトの一部が移動している場合(例えば、画像内のオブジェクトの一部が回転している場合)でも、類似しているものと判定することができる。よって、画像処理装置1は、共通する被写体を含む画像の類似判定の精度向上を図ることができる。   Accordingly, the image processing apparatus 1 acquires the pair image acquisition unit 41 based on pixel areas corresponding to distances equal to or less than the threshold set by the threshold setting unit 84 among the distances calculated by the vector calculation unit 83. It is determined whether the data of the plurality of images obtained are similar. For this reason, in the image processing apparatus 1, even when a part of the object in the image is moving (for example, when a part of the object in the image is rotating), it is determined that they are similar. Can do. Therefore, the image processing apparatus 1 can improve the accuracy of similarity determination of images including a common subject.

画像処理装置1は、ベクトル算出部83により夫々算出されて距離が閾値設定部84により設定された閾値以下か否かを判定する対応点判定部86を更に備える。
類似画像判定部44は、対応点判定部86により閾値以下と判定された距離に対応する画素領域同士に基づいて、ペア画像取得部41により取得された複数の画像のデータが類似するか否かを判定する。このため、画像処理装置1は、より精度の高い類似の判定を行うことができる。
The image processing apparatus 1 further includes a corresponding point determination unit 86 that determines whether each distance calculated by the vector calculation unit 83 is equal to or less than the threshold set by the threshold setting unit 84.
The similar image determination unit 44 determines whether or not the data of the plurality of images acquired by the pair image acquisition unit 41 is similar based on pixel areas corresponding to the distance determined by the corresponding point determination unit 86 to be equal to or less than the threshold. Determine. For this reason, the image processing apparatus 1 can perform similar determination with higher accuracy.

また、類似画像判定部44は、ベクトル算出部83により夫々算出された距離のうち、閾値設定部84により閾値を超えていると判定された距離に対応する画素領域同士は判定対象から除外して、複数の画像のデータが類似するか否かを判定する。このため、画像処理装置1は、画像内のオブジェクトの一部が移動している場合(例えば、画像内のオブジェクトの一部が回転している場合)でも、類似しているものと判定することができる。   The similar image determination unit 44 excludes pixel regions corresponding to the distances determined to exceed the threshold by the threshold setting unit 84 from the distances calculated by the vector calculation unit 83 from the determination targets. It is determined whether or not the data of a plurality of images are similar. For this reason, the image processing apparatus 1 determines that the objects are similar even when some of the objects in the image are moving (for example, when some of the objects in the image are rotating). Can do.

また、閾値設定部84は、ベクトル算出部83により夫々算出された距離の中央値、平均値、最頻値の何れかに基づいて、閾値を設定する。これにより、画像処理装置1は、異常な値を判定することができる。   The threshold setting unit 84 sets a threshold based on any one of the median value, average value, and mode value of the distances calculated by the vector calculation unit 83. Thereby, the image processing apparatus 1 can determine an abnormal value.

なお、本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。   In addition, this invention is not limited to the above-mentioned embodiment, The deformation | transformation in the range which can achieve the objective of this invention, improvement, etc. are included in this invention.

上述の実施形態においては、処理速度や処理負担を考慮してSURF処理により、特徴点の抽出を実行したが、抽出精度の向上を優先させる場合には、SIFT処理により特徴点の抽出を実行するように構成してもよい。   In the above-described embodiment, feature points are extracted by SURF processing in consideration of processing speed and processing load. However, when improvement of extraction accuracy is prioritized, feature points are extracted by SIFT processing. You may comprise as follows.

また、上述の実施形態では、画素間の空間の距離を、ユークリッド距離を用いて算出していたがこれに限られず、例えば、絶対値の和により算出するマンハッタン距離による算出方法により算出してもよい。   In the above-described embodiment, the spatial distance between pixels is calculated using the Euclidean distance, but the present invention is not limited to this. For example, the spatial distance between the pixels may be calculated by a Manhattan distance calculation method that is calculated by the sum of absolute values. Good.

また、上述の実施形態においては、全対応点ペアの距離の中央値に一定数のαを足したものを閾値として用いたがこれに限られず、例えば、中央値の代わりに、平均値や最頻値を用いるように構成してもよい。   In the above-described embodiment, the threshold value is obtained by adding a certain number of α to the median value of the distances of all corresponding point pairs. However, the present invention is not limited to this. For example, instead of the median value, You may comprise so that a frequent value may be used.

また、上述の実施形態では、本発明が適用される画像処理装置1は、デジタルカメラを例として説明したが、特にこれに限定されない。
例えば、本発明は、画像類似判定処理機能を有する電子機器一般に適用することができる。具体的には、例えば、本発明は、ノート型のパーソナルコンピュータ、プリンタ、テレビジョン受像機、ビデオカメラ、携帯型ナビゲーション装置、携帯電話機、ポータブルゲーム機等に適用可能である。
In the above-described embodiment, the image processing apparatus 1 to which the present invention is applied has been described using a digital camera as an example, but is not particularly limited thereto.
For example, the present invention can be applied to general electronic devices having an image similarity determination processing function. Specifically, for example, the present invention can be applied to a notebook personal computer, a printer, a television receiver, a video camera, a portable navigation device, a mobile phone, a portable game machine, and the like.

上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図3及び図4の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が画像処理装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図3及び図4の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
The series of processes described above can be executed by hardware or can be executed by software.
In other words, the functional configurations of FIGS. 3 and 4 are merely examples, and are not particularly limited. That is, it is sufficient if the image processing apparatus 1 has a function capable of executing the above-described series of processes as a whole, and what functional blocks are used to realize this function is particularly the example shown in FIGS. It is not limited to.
In addition, one functional block may be constituted by hardware alone, software alone, or a combination thereof.

一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
When a series of processing is executed by software, a program constituting the software is installed on a computer or the like from a network or a recording medium.
The computer may be a computer incorporated in dedicated hardware. The computer may be a computer capable of executing various functions by installing various programs, for example, a general-purpose personal computer.

このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図2のリムーバブルメディア31により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア31は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、又は光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD(Digital Versatile Disk)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図2のROM12や、図2の記憶部19に含まれるハードディスク等で構成される。   The recording medium including such a program is not only constituted by the removable medium 31 of FIG. 2 distributed separately from the apparatus main body in order to provide the program to the user, but also in a state of being incorporated in the apparatus main body in advance. It is comprised with the recording medium etc. which are provided in. The removable medium 31 is composed of, for example, a magnetic disk (including a floppy disk), an optical disk, a magneto-optical disk, or the like. The optical disk is composed of, for example, a CD-ROM (Compact Disk-Read Only Memory), a DVD (Digital Versatile Disk), or the like. The magneto-optical disk is configured by an MD (Mini-Disk) or the like. In addition, the recording medium provided to the user in a state of being preliminarily incorporated in the apparatus main body includes, for example, the ROM 12 in FIG. 2 in which the program is recorded, the hard disk included in the storage unit 19 in FIG.

なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的或いは個別に実行される処理をも含むものである。
また、本明細書において、システムの用語は、複数の装置や複数の手段などより構成される全体的な装置を意味するものとする。
In the present specification, the step of describing the program recorded on the recording medium is not limited to the processing performed in time series along the order, but is not necessarily performed in time series, either in parallel or individually. The process to be executed is also included.
Further, in the present specification, the term “system” means an overall device configured by a plurality of devices, a plurality of means, and the like.

以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。   As mentioned above, although several embodiment of this invention was described, these embodiment is only an illustration and does not limit the technical scope of this invention. The present invention can take other various embodiments, and various modifications such as omission and replacement can be made without departing from the gist of the present invention. These embodiments and modifications thereof are included in the scope and gist of the invention described in this specification and the like, and are included in the invention described in the claims and the equivalent scope thereof.

以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
複数の画像のデータを取得する取得手段と、
前記取得手段により取得された複数の画像のデータについて、類似する複数の画素領域を夫々特定する特定手段と、
前記特定手段により特定された画素領域同士の距離を夫々算出する距離算出手段と、
前記距離算出手段により夫々算出された距離に基づいて、閾値を設定する閾値設定手段と、
前記距離算出手段により夫々算出された距離のうち、前記閾値設定手段により設定された閾値以下の距離に対応する画素領域同士に基づいて、前記取得手段により取得された前記複数の画像のデータが類似するか否かを判定する類似判定手段と、
を備えたことを特徴とする画像処理装置。
[付記2]
前記距離算出手段により夫々算出されて距離が前記閾値設定手段により設定された閾値以下か否かを判定する閾値判定手段を更に備え、
前記類似判定手段は、前記閾値判定手段により閾値以下と判定された距離に対応する画素領域同士に基づいて、前記取得手段により取得された前記複数の画像のデータが類似するか否かを判定する、
ことを特徴とする付記1記載の画像処理装置。
[付記3]
前記類似判定手段は、前記距離算出手段により夫々算出された距離のうち、前記閾値判定手段により閾値を超えていると判定された距離に対応する画素領域同士は判定の対象から除外して、前記複数の画像のデータが類似するか否かを判定する、
ことを特徴とする付記2に記載の画像処理装置。
[付記4]
前記閾値設定手段は、前記距離算出手段により夫々算出された距離の中央値、平均値、最頻値の何れかに基づいて、前記閾値を設定する、
ことを特徴とする付記1乃至3の何れか1つに記載の画像処理装置。
[付記5]
画像処理装置が実行する画像処理方法であって、
複数の画像を取得する取得ステップと、
前記取得ステップにより取得された複数の画像間から、類似する複数の画素領域を夫々特定する特定ステップと、
前記特定ステップにより特定された画像領域同士の距離を夫々算出する距離算出ステップと、
前記距離算出ステップにより夫々算出された距離に基づいて、閾値を設定する閾値設定ステップと、
前記距離算出ステップにより夫々算出された距離のうち、前記閾値設定ステップにより設定された閾値以下の距離に対応する画素領域同士が類似するか否かを判定する類似判定ステップと、
を含むことを特徴とする画像処理方法。
[付記6]
コンピュータを、
複数の画像を取得する取得手段と、
前記取得手段により取得された複数の画像間から、類似する複数の画素領域を夫々特定する特定手段、
前記特定手段により特定された画像領域同士の距離を夫々算出する距離算出手段、
前記距離算出手段により夫々算出された距離に基づいて、閾値を設定する閾値設定手段、
前記距離算出手段により夫々算出された距離のうち、前記閾値設定手段により設定された閾値以下の距離に対応する画素領域同士が類似するか否かを判定する類似判定手段、
として手段させることを特徴とするプログラム。
The invention described in the scope of claims at the beginning of the filing of the present application will be appended.
[Appendix 1]
An acquisition means for acquiring data of a plurality of images;
A plurality of image data acquired by the acquisition unit, a specifying unit for specifying a plurality of similar pixel regions,
Distance calculating means for calculating the distance between the pixel areas specified by the specifying means;
Threshold setting means for setting a threshold based on the distances calculated by the distance calculating means;
Of the distances calculated by the distance calculating means, the data of the plurality of images acquired by the acquiring means are similar based on pixel areas corresponding to distances equal to or less than the threshold set by the threshold setting means. Similarity determination means for determining whether or not to do,
An image processing apparatus comprising:
[Appendix 2]
A threshold determination unit that determines whether each distance calculated by the distance calculation unit is equal to or less than a threshold set by the threshold setting unit;
The similarity determination unit determines whether the data of the plurality of images acquired by the acquisition unit are similar based on pixel areas corresponding to the distance determined to be equal to or less than the threshold by the threshold determination unit. ,
The image processing apparatus according to appendix 1, wherein
[Appendix 3]
The similarity determination unit excludes pixel areas corresponding to the distances determined to exceed the threshold by the threshold determination unit from the distances calculated by the distance calculation unit, Determine whether the data of multiple images are similar,
The image processing apparatus according to Supplementary Note 2, wherein
[Appendix 4]
The threshold setting means sets the threshold based on any one of a median value, an average value, and a mode value of the distances calculated by the distance calculation means;
The image processing apparatus according to any one of supplementary notes 1 to 3, wherein
[Appendix 5]
An image processing method executed by an image processing apparatus,
An acquisition step of acquiring a plurality of images;
A specifying step of specifying a plurality of similar pixel regions from a plurality of images acquired by the acquiring step;
A distance calculating step of calculating a distance between the image regions specified by the specifying step;
A threshold setting step for setting a threshold based on the distance calculated by each of the distance calculating steps;
A similarity determination step for determining whether or not pixel regions corresponding to a distance equal to or smaller than the threshold set by the threshold setting step among the distances calculated by the distance calculation step are similar to each other;
An image processing method comprising:
[Appendix 6]
Computer
Acquisition means for acquiring a plurality of images;
A specifying unit that specifies a plurality of similar pixel regions from among a plurality of images acquired by the acquiring unit;
Distance calculating means for calculating the distance between the image areas specified by the specifying means;
Threshold setting means for setting a threshold based on the distances calculated by the distance calculating means;
Similarity determination means for determining whether or not pixel regions corresponding to distances equal to or less than the threshold set by the threshold setting means among the distances calculated by the distance calculation means are similar to each other,
A program characterized by having the means as follows.

1・・・画像処理装置,11・・・CPU,12・・・ROM,11・・・RAM,14・・・画像処理部,15・・・バス,16・・・入出力インターフェース,17・・・入力部,18・・・出力部,19・・・記憶部,20・・・通信部,21・・・ドライブ,31・・・リムーバブルメディア,41・・・ペア画像取得部,42・・・特徴量抽出部,43・・・類似度算出部,44・・・類似画像判定部,51・・・出力制御部,61・・・画像データ記憶部,62・・・画像情報データ記憶部,81・・・特徴点抽出部,82・・・対応点探索部,83・・・ベクトル算出部,84・・・閾値設定部,85・・・カウント部,86・・・対応点判定部,87・・・類似度出力部   DESCRIPTION OF SYMBOLS 1 ... Image processing apparatus, 11 ... CPU, 12 ... ROM, 11 ... RAM, 14 ... Image processing part, 15 ... Bus, 16 ... Input / output interface, 17. ··· input unit, 18 ··· output unit, 19 ··· storage unit, 20 ··· communication unit, 21 ··· drive, 31 ··· removable media, 41 ··· pair image acquisition unit, 42 · · ..Feature amount extraction unit, 43... Similarity calculation unit, 44... Similar image determination unit, 51... Output control unit, 61. , 81... Feature point extraction unit, 82... Corresponding point search unit, 83... Vector calculation unit, 84. Part, 87 ... similarity output part

Claims (6)

複数の画像のデータを取得する取得手段と、
前記取得手段により取得された複数の画像のデータについて、類似する複数の画素領域を夫々特定する特定手段と、
前記特定手段により特定された類似する複数の画素領域同士の座標空間上における距離を夫々算出する距離算出手段と、
前記距離算出手段により夫々算出された距離に基づいて、類似判定に用いる閾値を設定する閾値設定手段と、
前記距離算出手段により夫々算出された距離のうち、前記閾値設定手段により設定された閾値以下の距離に対応する画素領域同士に基づいて、前記取得手段により取得された前記複数の画像のデータが類似するか否かを判定する類似判定手段と、
を備えたことを特徴とする画像処理装置。
An acquisition means for acquiring data of a plurality of images;
A plurality of image data acquired by the acquisition unit, a specifying unit for specifying a plurality of similar pixel regions,
Distance calculating means for calculating distances in a coordinate space between a plurality of similar pixel areas specified by the specifying means;
Threshold setting means for setting a threshold used for similarity determination based on the distances calculated by the distance calculating means;
Of the distances calculated by the distance calculating means, the data of the plurality of images acquired by the acquiring means are similar based on pixel areas corresponding to distances equal to or less than the threshold set by the threshold setting means. Similarity determination means for determining whether or not to do,
An image processing apparatus comprising:
前記距離算出手段により夫々算出された座標空間上の距離が前記閾値設定手段により設定された閾値以下か否かを判定する閾値判定手段を更に備え、
前記類似判定手段は、前記閾値判定手段により閾値以下と判定された前記距離に対応する画素領域同士に基づいて、前記取得手段により取得された前記複数の画像のデータが類似するか否かを判定する、
ことを特徴とする請求項1記載の画像処理装置。
Distance coordinate space which are respectively calculated by the distance calculation means further includes a threshold determination means for determining whether the following set threshold by the threshold value setting means,
The similarity determining means determines based on the pixel regions with each other corresponding to the distance it is determined that the threshold value or less, whether the data of the plurality of images acquired by the acquisition unit is more similar to the threshold determination unit To
The image processing apparatus according to claim 1.
前記類似判定手段は、前記距離算出手段により夫々算出された座標空間上の距離のうち、前記閾値判定手段により閾値を超えていると判定された距離に対応する画素領域同士は判定の対象から除外して、前記複数の画像のデータが類似するか否かを判定する、
ことを特徴とする請求項2に記載の画像処理装置。
The similarity determination unit excludes pixel areas corresponding to the distance determined to exceed the threshold by the threshold determination unit from the distances in the coordinate space respectively calculated by the distance calculation unit from the determination target. And determining whether or not the data of the plurality of images is similar.
The image processing apparatus according to claim 2.
前記閾値設定手段は、前記距離算出手段により夫々算出された座標空間上の距離の中央値、平均値、最頻値の何れかに基づいて、前記閾値を設定する、
ことを特徴とする請求項1乃至3の何れか1項に記載の画像処理装置。
The threshold value setting means sets the threshold value based on any one of a median value, an average value, and a mode value of distances in the coordinate space calculated by the distance calculation means,
The image processing apparatus according to claim 1, wherein the image processing apparatus is an image processing apparatus.
画像処理装置が実行する画像処理方法であって、
複数の画像を取得する取得ステップと、
前記取得ステップにより取得された複数の画像間から、類似する複数の画素領域を夫々特定する特定ステップと、
前記特定ステップにより特定された類似する複数の画像領域同士の座標空間上における距離を夫々算出する距離算出ステップと、
前記距離算出ステップにより夫々算出された距離に基づいて、類似判定に用いる閾値を設定する閾値設定ステップと、
前記距離算出ステップにより夫々算出された距離のうち、前記閾値設定ステップにより設定された閾値以下の距離に対応する画素領域同士が類似するか否かを判定する類似判定ステップと、
を含むことを特徴とする画像処理方法。
An image processing method executed by an image processing apparatus,
An acquisition step of acquiring a plurality of images;
A specifying step of specifying a plurality of similar pixel regions from a plurality of images acquired by the acquiring step;
A distance calculating step for calculating a distance on a coordinate space between a plurality of similar image areas specified by the specifying step;
A threshold value setting step for setting a threshold value used for similarity determination based on the distances calculated by the distance calculation step;
A similarity determination step for determining whether or not pixel regions corresponding to a distance equal to or smaller than the threshold set by the threshold setting step among the distances calculated by the distance calculation step are similar to each other;
An image processing method comprising:
コンピュータを、
複数の画像を取得する取得手段と、
前記取得手段により取得された複数の画像間から、類似する複数の画素領域を夫々特定する特定手段、
前記特定手段により特定された類似する複数の画像領域同士の座標空間上における距離を夫々算出する距離算出手段、
前記距離算出手段により夫々算出された距離に基づいて、類似判定に用いる閾値を設定する閾値設定手段、
前記距離算出手段により夫々算出された距離のうち、前記閾値設定手段により設定された閾値以下の距離に対応する画素領域同士が類似するか否かを判定する類似判定手段、
として機能させることを特徴とするプログラム。
Computer
Acquisition means for acquiring a plurality of images;
A specifying unit that specifies a plurality of similar pixel regions from among a plurality of images acquired by the acquiring unit;
Distance calculating means for calculating distances in a coordinate space between a plurality of similar image areas specified by the specifying means;
Threshold setting means for setting a threshold used for similarity determination based on the distances calculated by the distance calculating means,
Similarity determination means for determining whether or not pixel regions corresponding to distances equal to or less than the threshold set by the threshold setting means among the distances calculated by the distance calculation means are similar to each other,
A program characterized by functioning as
JP2011252346A 2011-11-18 2011-11-18 Image processing apparatus, image processing method, and program Expired - Fee Related JP5780127B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011252346A JP5780127B2 (en) 2011-11-18 2011-11-18 Image processing apparatus, image processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011252346A JP5780127B2 (en) 2011-11-18 2011-11-18 Image processing apparatus, image processing method, and program

Publications (3)

Publication Number Publication Date
JP2013109453A JP2013109453A (en) 2013-06-06
JP2013109453A5 JP2013109453A5 (en) 2014-10-30
JP5780127B2 true JP5780127B2 (en) 2015-09-16

Family

ID=48706165

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011252346A Expired - Fee Related JP5780127B2 (en) 2011-11-18 2011-11-18 Image processing apparatus, image processing method, and program

Country Status (1)

Country Link
JP (1) JP5780127B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116229114A (en) * 2021-12-01 2023-06-06 珠海一微半导体股份有限公司 Image mapping method, image similarity calculation method and chip

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5164222B2 (en) * 2009-06-25 2013-03-21 Kddi株式会社 Image search method and system

Also Published As

Publication number Publication date
JP2013109453A (en) 2013-06-06

Similar Documents

Publication Publication Date Title
JP5993233B2 (en) Image processing apparatus and image processing method
US20110311100A1 (en) Method, Apparatus and Computer Program Product for Providing Object Tracking Using Template Switching and Feature Adaptation
US11508075B2 (en) Method and apparatus for tracking target
US11915432B2 (en) Method and apparatus for tracking target
US10275682B2 (en) Information processing apparatus, information processing method, and storage medium
JP2014068264A (en) Image processor, image processing method, and program
JP6492746B2 (en) Image processing program, image processing apparatus, and image processing method
CN112800820B (en) Face detection method and apparatus
JP2013239074A (en) Information processing device, information processing method, and program
JP5674550B2 (en) Status tracking apparatus, method, and program
WO2023179342A1 (en) Relocalization method and related device
US20200160106A1 (en) Training for camera lens distortion
JP7027776B2 (en) Movement vector calculation method, device, program, and movement vector calculation method including noise reduction processing.
WO2024022301A1 (en) Visual angle path acquisition method and apparatus, and electronic device and medium
JP2012164188A (en) Image processing apparatus, image processing method and program
JP5780127B2 (en) Image processing apparatus, image processing method, and program
CN110807792A (en) Method for comparing and tracking objects and electronic device
US20240303855A1 (en) Posture estimation apparatus, learning model generation apparatus, posture estimation method, learning model generation method, and computer-readable recording medium
JP6609181B2 (en) Character attribute estimation apparatus and character attribute estimation program
JP7232663B2 (en) Image processing device and image processing method
JP2003178310A (en) Object image tracking method and program
CN116805399A (en) Target object recognition method and device, key point detection method and device
US9591220B2 (en) Selection apparatus, selection method, and storage medium
CN115410015B (en) Template matching methods, systems, devices, and media based on template edge scoring
US12608915B2 (en) Image processing apparatus and image processing method

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140916

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140916

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150608

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150616

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150629

R150 Certificate of patent or registration of utility model

Ref document number: 5780127

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees