Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP2809656B2 - Image motion vector detection device and shake correction device - Google Patents
[go: Go Back, main page]

JP2809656B2 - Image motion vector detection device and shake correction device - Google Patents

Image motion vector detection device and shake correction device

Info

Publication number
JP2809656B2
JP2809656B2 JP63312292A JP31229288A JP2809656B2 JP 2809656 B2 JP2809656 B2 JP 2809656B2 JP 63312292 A JP63312292 A JP 63312292A JP 31229288 A JP31229288 A JP 31229288A JP 2809656 B2 JP2809656 B2 JP 2809656B2
Authority
JP
Japan
Prior art keywords
motion vector
vector
reliability
area
detection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP63312292A
Other languages
Japanese (ja)
Other versions
JPH02157980A (en
Inventor
浩史 石井
森村  淳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP63312292A priority Critical patent/JP2809656B2/en
Publication of JPH02157980A publication Critical patent/JPH02157980A/en
Application granted granted Critical
Publication of JP2809656B2 publication Critical patent/JP2809656B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)

Description

【発明の詳細な説明】 産業上の利用分野 本発明は、おもにビデオカメラの振動や揺れによる画
面全体の動きベクトルを画像信号より検出する装置、お
よびビデオカメラの振動や揺れによる画面全体の不要な
揺れを補正する装置に関するものである。
Description: BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention mainly relates to an apparatus for detecting a motion vector of an entire screen due to a vibration or shaking of a video camera from an image signal, and an unnecessary screen of the entire screen due to vibration or shaking of a video camera. The present invention relates to a device that corrects shaking.

従来の技術 従来の画像の動きベクトル検出装置としては、例えば
特開昭61−269475公報に開示されたものがある。
2. Description of the Related Art A conventional image motion vector detecting device is disclosed in, for example, Japanese Patent Application Laid-Open No. 61-269475.

第13図はこの従来の動きベクトル検出装置を応用した
画像の揺れ補正装置のブロック図を示すものであり、1
は画像信号入力端子である。2は各検出領域のベクトル
検出回路である。3はベクトルの信頼性判定手段および
4は動きベクトル決定手段である。5は揺れ補正手段で
ある。
FIG. 13 shows a block diagram of an image fluctuation correcting apparatus to which the conventional motion vector detecting apparatus is applied.
Is an image signal input terminal. Reference numeral 2 denotes a vector detection circuit for each detection area. Reference numeral 3 denotes a vector reliability determination unit, and reference numeral 4 denotes a motion vector determination unit. Reference numeral 5 denotes a shake correction unit.

以上のように構成された従来の画像の動きベクトル検
出装置においては、まず入力端子1に少なくとも2フィ
ールド以上の時間的に連続する画像信号が入力される。
各検出領域のベクトル検出回路2では、予め第7図6,1
2,17,18に示すように画像内に4つのベクトル検出領域
が定められており、2フィールド間の各検出領域につい
て、所定の範囲の量(i,j):imin<i<imax,jmin<j
<jmax偏移した位置の信号の差Σ|ΔL|(i,j)を相関
値としてそれぞれ求め、その値の最小値を与える偏移
(i′,j′)を検出し、これを各領域のベクトルとす
る。またその相関値の最小値、平均値、最大値を求め、
ベクトルの値とともに、ベクトルの信頼性判定回路手段
3および動きベクトル決定手段4に出力する。ベクトル
の信頼性判定手段3および動きベクトル決定手段4で
は、第14図のフローチャートに示すように各領域の相関
値の最小値、平均値、最大値よりベクトルの信頼性を判
定し、信頼性ありと判定された領域のベクトルの大きさ
と方向性が一致すれば、それらの平均の値を画面全体の
動きベクトルと決定し出力する。また一致しない場合は
0ベクトルを出力する。揺れ補正手段5は1フィールド
以上の画像信号記憶手段を持ち、ここからの信号の読み
だし位置を制御することによって、第17図19,20に示す
ようにゆれの大きい画像が入力されるとき、第n−1フ
ィールド19、第nフィールド20の入力画像信号につい
て、動きベクトル決定手段4より入力された動きベクト
ル10をもとに、その動きを補正する方向21に読み出す画
像信号の画面を29から30に並行移動し、また補間等によ
って画面の拡大等の操作をし、揺れの少ない1画面の大
きさの画像信号27、28を出力する。
In the conventional image motion vector detecting device configured as described above, first, an input terminal 1 is supplied with a temporally continuous image signal of at least two fields.
In the vector detection circuit 2 of each detection area, FIG.
As shown in 2, 17, and 18, four vector detection areas are defined in the image, and for each detection area between two fields, a predetermined range of amount (i, j): imin <i <imax, jmin <J
<The difference Σ | ΔL | (i, j) of the signal at the position shifted by jmax is obtained as a correlation value, and the shift (i ′, j ′) that gives the minimum value is detected. Vector. In addition, the minimum value, average value, and maximum value of the correlation value are obtained,
Along with the value of the vector, it is output to the vector reliability determination circuit means 3 and the motion vector determination means 4. The vector reliability determining means 3 and the motion vector determining means 4 determine the reliability of the vector from the minimum value, the average value, and the maximum value of the correlation values of each area as shown in the flowchart of FIG. If the magnitude and directionality of the vector of the area determined to be the same, the average value thereof is determined and output as a motion vector of the entire screen. If they do not match, a zero vector is output. The shake correcting means 5 has an image signal storing means of one or more fields, and by controlling a reading position of a signal therefrom, when an image having a large fluctuation as shown in FIGS. With respect to the input image signals of the (n-1) th field 19 and the nth field 20, based on the motion vector 10 input from the motion vector determination means 4, the screen of the image signal to be read in the direction 21 for correcting the motion is displayed from 29. It moves in parallel to 30 and performs operations such as enlargement of the screen by interpolation or the like, and outputs image signals 27 and 28 of the size of one screen with little shaking.

以上説明したものは、相関値の最小値、平均値、最大
値よりベクトルの信頼性を判定しているが、この他相関
値の最小点とその周りの点の値の差、つまり最小点の周
りの傾きよりベクトルの信頼性を判定するもの、また最
小値の値だけで判定するものなど相関値の状態から信頼
性を判定する方法はいろいろなものがある。
In the above description, the reliability of the vector is determined from the minimum value, the average value, and the maximum value of the correlation values. In addition, the difference between the value of the minimum point of the correlation value and the surrounding points, that is, the minimum point There are various methods for judging the reliability from the state of the correlation value, such as a method of judging the reliability of the vector from the surrounding inclination and a method of judging only the minimum value.

また信頼性の判定を重みで表わし、ベクトルをその重
みで加重平均したものを画面全体の動きベクトルとして
出力するものもある。
In some cases, the determination of reliability is represented by a weight, and a vector obtained by weighting and averaging the vectors with the weight is output as a motion vector of the entire screen.

発明が解決しようとする課題 しかしながら上記のような構成では、動きベクトル検
出装置は、移動物が画面内に入り込んだ場合0ベクトル
が出力されたり、また移動物の動きが加算されたベクト
ルが検出されることが多かった。したがって揺れ補正装
置は、補正が中断されたり、移動物の動きが加算された
ベクトルが検出され撮影者の意図する方向とは異なる方
向に画面が補正され誤動作となることが多かった。
However, in the above configuration, the motion vector detection device outputs a zero vector when a moving object enters the screen, or detects a vector to which the motion of the moving object is added. Often. Therefore, in the shake correction device, the correction is interrupted or the vector to which the movement of the moving object is added is detected, and the screen is corrected in a direction different from the direction intended by the photographer, which often causes a malfunction.

以下図を用いて詳しく説明する。まず第7図は、検出
領域と同程度かまたはそれ以上の大きさの移動物が画面
を通過する場合の、画面と各領域からの相関値の様子を
示すものである。最初移動物が入って来る時つまり第7
図(a)に示すようにある検出領域6の中に、背景と移
動物13が両方存在している時は、図に示すようにその領
域の相関値7の状態(最小値の増大等)によって、その
領域は信頼性なしと判定されるが、次に第7図(b)に
示すように移動物13がある検出領域6の大部分または全
部を占めた場合、その検出領域6らはビデオカメラの動
きと移動物の動きを加算した動きベクトル15が検出さ
れ、かつ相関値7の状態からは信頼性ありと判定され
る。このときその他の領域12からビデオカメラの動きの
ベクトル8が検出されていると、これら2つのベクトル
が一致しないため画面全体の動きベクトルとしては0ベ
クトルが出力される。(領域17,18はそれぞれ領域6,12
と同じ状態になるため説明は省略する。)そして次に移
動物が移動するにしたがって、再び領域6の中に背景と
移動物13が両方存在する状況{第7図中には示していな
いがこれを(c)とする}となり、次に第7図(d),
(e)に示すような状況となる。したがって第7図の
(a)〜(e)の時点で検出される動きベクトルは第15
図の10に示すようになる。第15図で8はカメラの揺れに
よる動きベクトルで0ベクトルを中心にして上下に振れ
ている。15はそれに移動物の動きが加算されたベクトル
でほぼ一定値が加算されている。9,16はそれぞれ領域6,
12から検出されるベクトルで、移動物の領域へのかかり
方によって、それぞれカメラの揺れによる動きベクトル
8または移動物の動きが加算されたベクトル15またはそ
れ以外の誤ベクトルが検出されている。この出力の動き
ベクトル10をもとに揺れ補正を行なうと、(b)の状態
のとき揺れ補正は中断されることとなる。こういったベ
クトル検出の中断は画面中の検出領域の数を増やすこと
によってある程度改善されるが、それは装置の回路規模
の増加および複雑化を招く。また数を増やすために各検
出領域の大きさを小さくすると各領域あたりの動きベク
トル検出に必要な画像の特徴量が減り、各領域で誤ベク
トルを検出する確率が多くなる。
This will be described in detail with reference to the drawings. First, FIG. 7 shows a state of a correlation value from the screen and each area when a moving object having a size equal to or larger than the detection area passes through the screen. The first time a moving object comes in.
When both the background and the moving object 13 are present in a certain detection area 6 as shown in FIG. 7A, the state of the correlation value 7 in that area (such as an increase in the minimum value) as shown in FIG. , The area is determined to be unreliable, but when the moving object 13 occupies most or all of the detection area 6 as shown in FIG. 7B, the detection area 6 A motion vector 15 obtained by adding the motion of the video camera and the motion of the moving object is detected, and the state of the correlation value 7 is determined to be reliable. At this time, if the motion vector 8 of the video camera is detected from the other area 12, since these two vectors do not match, 0 vector is output as the motion vector of the entire screen. (Areas 17 and 18 are areas 6 and 12, respectively.
Since the state is the same as that described above, the description is omitted. Then, as the moving object moves, the situation in which both the background and the moving object 13 are present again in the area 6 {not shown in FIG. Fig. 7 (d),
The situation is as shown in FIG. Therefore, the motion vector detected at the time points (a) to (e) in FIG.
As shown in FIG. In FIG. 15, reference numeral 8 denotes a motion vector due to camera shake, which vibrates up and down around the 0 vector. Numeral 15 is a vector obtained by adding the motion of the moving object, and a substantially constant value is added to the vector. 9, 16 are areas 6,
In the vectors detected from 12, the motion vector 8 due to the camera shake, the vector 15 to which the motion of the moving object is added, or other erroneous vectors are detected depending on how the moving object is applied to the area. If the shake correction is performed based on the output motion vector 10, the shake correction is interrupted in the state of FIG. Such interruption of vector detection can be improved to some extent by increasing the number of detection areas in the screen, but it causes an increase in the circuit scale and complexity of the device. If the size of each detection area is reduced in order to increase the number, the feature amount of an image necessary for detecting a motion vector for each area decreases, and the probability of detecting an erroneous vector in each area increases.

また第9図に示すように画面全体の大部分または全体
を占めるほどの移動物13が画面を通過する場合、上記の
場合と同様に最初第9図(a)に示すようになる検出領
域6の中に、背景と移動物が両方存在している時は、相
関値7の状態によって、その領域6は信頼性なしと判定
されるが、次に第9図(b)に示すようにある検出領域
6の大部分または全部を占めた場合、その検出領域から
はビデオカメラの動きと移動物の動きを加算した動きベ
クトルが検出され、かつ相関値7の状態からは信頼性あ
りと判定される。そして第9図(c),(d)に示すよ
うに移動物が画面の大部分または全部を占めた場合、ビ
デオカメラの動きと移動物の動きを加算した動きベクト
ルが画面全体の動きベクトルとして出力される。したが
って第9図の(a)〜(e)の時点で検出される動きベ
クトルは第16図10に示すようになり、このベクトルをも
とに揺れ補正を行なうと、(b)の状態で補正が中断さ
れ、また(c),(d)の状態で撮影者の意図する方向
とは異なる方向に画面が補正され誤動作となるという問
題がある。
Also, as shown in FIG. 9, when the moving object 13 occupying most or all of the entire screen passes through the screen, the detection area 6 first becomes as shown in FIG. When both the background and the moving object exist in the area, the area 6 is determined to be unreliable according to the state of the correlation value 7, but as shown in FIG. 9 (b). When the detection area 6 occupies most or all of the detection area 6, a motion vector obtained by adding the motion of the video camera and the motion of the moving object is detected from the detection area, and the state of the correlation value 7 is determined to be reliable. You. When the moving object occupies most or all of the screen as shown in FIGS. 9C and 9D, the motion vector obtained by adding the motion of the video camera and the motion of the moving object is used as the motion vector of the entire screen. Is output. Therefore, the motion vectors detected at the time points (a) to (e) in FIG. 9 are as shown in FIG. 16, and when the shake correction is performed based on this vector, the motion vector is corrected in the state of (b). Is interrupted, and the screen is corrected in a direction different from the direction intended by the photographer in the states (c) and (d), resulting in a malfunction.

課題を解決するための手段 本発明は上記問題を解決するため、画面中に複数の検
出領域を設け、その各検出領域について、所定の偏移に
おける現フィールドと前フィールドとの相関値を求める
手段と、その相関値より各検出領域ごとに動きベクトル
を求める手段と、前記各検出領域について、信頼性を判
定することにおいて、少なくとも各フレームでの信頼性
の判定結果を履歴する構成をもち、各フレームでの相関
値の状態から、信頼性ありから信頼性なしへの判定結果
の変更を行い、各フレームでの相関値の状態及び検出さ
れる動きベクトルの画面全体の動きベクトルへの一致度
から、信頼性なしから信頼性ありへの判定結果の変更を
行なうことを特徴とする各検出領域の動きをベクトルの
信頼性を判定する手段と、信頼性の判定をもとに各領域
の動きベクトルを用いて、画面全体の動きベクトルを決
定する手段を備えたことを特徴とし、請求項2の発明は
画面中に複数の検出領域をそれぞれ縦方向に並ばないよ
うに横方向にずらして設け、またはそれぞれ横方向に並
ばないように縦方向にずらして設け、その各検出領域に
ついて、該検出領域内の所定の偏移における相関値を求
める手段と、その相関値より各検出領域ごとに動きベク
トルを求める手段と、このときの各検出領域の動きベク
トルの信頼性を判定する手段と、そこでの信頼性の判定
をもとに各領域の動きベクトルを用いて画面全体の動き
ベクトルを決定する手段を備えたことを特徴とし、望ま
しくは請求項1の発明において、検出領域はそれぞれ縦
方向に並ばないように横方向にずらして設け、またはそ
れぞれ横方向に並ばないように縦方向にずらして設ける
ことを特徴とする。
Means for Solving the Problems In order to solve the above problems, the present invention provides a plurality of detection areas in a screen, and for each of the detection areas, means for calculating a correlation value between a current field and a previous field at a predetermined shift. And means for calculating a motion vector for each detection area from the correlation value, and determining the reliability of each detection area, wherein at least the reliability determination result in each frame is recorded as a history. From the state of the correlation value in the frame, the determination result is changed from reliable to unreliable, and from the state of the correlation value in each frame and the degree of coincidence of the detected motion vector with the motion vector of the entire screen. Means for judging the motion of each detection area, which is characterized in that the judgment result is changed from unreliable to reliable, based on the judgment of the reliability. A means for determining a motion vector of the entire screen using a motion vector of each area is provided. The invention according to claim 2 is characterized in that a plurality of detection areas are arranged in a horizontal direction so as not to be arranged vertically in the screen. Means for determining a correlation value at a predetermined shift in the detection area for each of the detection areas, and detecting each of the detection areas based on the correlation value. Means for obtaining a motion vector for each area, means for determining the reliability of the motion vector of each detection area at this time, and motion of the entire screen using the motion vector of each area based on the reliability determination there. Preferably, a means for determining a vector is provided. In the invention according to claim 1, preferably, the detection areas are provided so as to be shifted in the horizontal direction so as not to be aligned in the vertical direction, or each of the detection areas is horizontally shifted. Providing shifted in the longitudinal direction, characterized in so that it does not line up.

そして、上記の動きベクトル検出装置と画像の動きベ
クトル検出装置と、少なくとも1フィールド以上の画像
信号記憶手段と、前記画像の動きベクトル検出装置から
検出される動きベクトルをもとに、前記画像信号記憶手
段の読みだし位置を制御する手段からなる画像の揺れ補
正装置を特徴とする。
Then, based on the motion vector detecting device, the image motion vector detecting device, at least one field of image signal storing means, and the motion vector detected from the image motion vector detecting device, the image signal storing is performed. It is characterized by an image shake correction device comprising means for controlling the reading position of the means.

作用 本発明は上記した構成により、各検出区域のベクトル
の信頼性を判定する際、そのときの各検出区域での相関
値の状態とベクトルの値だけでなく、その検出区域のそ
れ以前のベクトルの信頼性の判定結果とベクトルの値も
用いて、判定を行なう。これは上記課題が生じる場合、
最初移動物が検出領域に入って来る状態では、その領域
は信頼性なしと判断され、その後移動物が検出領域の大
部分を占めるとき、その検出領域からはビデオカメラの
動きと移動物の動きを加算した動きベクトルが検出さ
れ、かつ相関値の状態からは信頼性ありと判定されるた
め、上記課題が生じることに着目したもので、この最初
の判定結果をそれ以降のフィールドで判定を行なうとき
に用いることにより、上記課題を解決できる。また言い
替えるとある時点の相関値の状態とベクトルの値だけで
なく、それ以前の相関値の状態とベクトルの値またはベ
クトルの信頼性の判定結果を用いて信頼性を判定するこ
とにより上記課題を解決できる。したがって検出領域と
同程度かまたはそれ以上の大きさの移動物が画面内に入
り込んだ場合でもその他の領域からビデオカメラの動き
のベクトルが検出されていれば、そのベクトルだけを検
出可能である。また画面全体の大部分または全体を占め
るほどの移動物が画面を通過する場合でもその時間揺れ
補正は中断され撮影者の意図する方向とは異なる方向に
画面が補正されるような誤動作は発生しない。
Effect of the Invention With the configuration described above, the present invention determines not only the state of the correlation value and the value of the vector in each detection area at that time when determining the reliability of the vector in each detection area, but also the vector before the detection area. Is also determined using the result of the determination of the reliability and the value of the vector. This is when the above problem occurs
When a moving object first enters the detection area, the area is determined to be unreliable, and then when the moving object occupies most of the detection area, the motion of the video camera and the movement of the moving object are detected from the detection area. Is added and the motion vector is detected, and it is determined that there is reliability from the state of the correlation value. Therefore, attention is paid to the fact that the above problem occurs, and the first determination result is determined in the subsequent fields. By using it sometimes, the above problem can be solved. In other words, not only the state of the correlation value and the value of the vector at a certain time but also the reliability using the state of the correlation value and the value of the vector or the determination result of the reliability of the vector before that are used to determine the reliability. Solvable. Therefore, even when a moving object having a size equal to or larger than the detection area enters the screen, if a motion vector of the video camera is detected from other areas, only the vector can be detected. Even when a moving object that occupies most or the whole of the entire screen passes through the screen, the shake correction is interrupted for that time, and no malfunction occurs such that the screen is corrected in a direction different from the direction intended by the photographer. .

また画面中に複数の検出領域を設けるときそれぞれ上
下方向に一定に並ばないように横方向にずらして設ける
ことにより、従来例のように縦方向に長い移動物が入っ
てきたときに、上下に並んだ領域から同時に誤ベクトル
が検出されることを防ぐことができる。したがって画面
の動きベクトルの検出の中断や誤ベクトルの検出を抑え
ることができる。
Also, when a plurality of detection areas are provided on the screen, the detection areas are shifted in the horizontal direction so as not to be arranged in a uniform manner in the vertical direction. Simultaneous detection of an erroneous vector from the arranged area can be prevented. Therefore, interruption of detection of a motion vector of a screen and detection of an erroneous vector can be suppressed.

実施例 第2図は本発明の第1の実施例における動きベクトル
検出装置のブロック図を示すものであり、1は画像信号
入力端子である。2は各検出領域のベクトル検出回路で
ある。3はベクトルの信頼性判定手段、4は動きベクト
ル決定手段である。
Embodiment 2 FIG. 2 is a block diagram of a motion vector detecting device according to a first embodiment of the present invention, wherein 1 is an image signal input terminal. Reference numeral 2 denotes a vector detection circuit for each detection area. Reference numeral 3 denotes a vector reliability determination unit, and reference numeral 4 denotes a motion vector determination unit.

以上のように構成された第1の実施例の画像の動きベ
クトル検出装置においては、まず入力端子1に少なくと
も3フィールド以上の時間的に連続する画像信号が入力
される。各検出領域のベクトル検出回路2では、予め第
7図の6,12,17,18に示すように画面内に4つのベクトル
検出領域が定められており、2フィールド間の各検出領
域について、所定の範囲の量(i,j):imin<i<imax,j
min<j<jmax偏移した位置の信号の差Σ|ΔL|(i,j)
を相関値としてそれぞれ求め、その値の最小値を与える
偏移(i′,j′)を検出し、これを各領域のベクトルと
する。またその相関値の最小値、平均値、最大値を求
め、ベクトルの値とともに、ベクトルの信頼性判定回路
手段3とする。ベクトルの信頼性判定回路手段3は、各
検出領域のベクトル検出回路2から入力されたそれぞれ
の値と、動きベクトル決定手段4からフィードバックさ
れる動きベクトルの値より各領域の信頼性を判定し、そ
の判定結果と各領域の動きベクトルを動きベクトル決定
手段4に出力する。動きベクトル決定手段4は、各領域
の信頼性の判定結果と各領域の動きベクトルより画面全
体の動きベクトルを決定する。
In the image motion vector detecting device of the first embodiment configured as described above, first, an input terminal 1 is supplied with a temporally continuous image signal of at least three fields or more. In the vector detection circuit 2 for each detection area, four vector detection areas are previously defined in the screen as shown in 6, 12, 17, and 18 in FIG. (I, j): imin <i <imax, j
min <j <jmax Difference of signal at shifted position Σ | ΔL | (i, j)
Are obtained as correlation values, a shift (i ′, j ′) that gives the minimum value is detected, and this is set as a vector of each region. In addition, the minimum value, average value, and maximum value of the correlation value are obtained, and the reliability value of the vector is determined as the vector reliability determination circuit means 3 together with the vector value. The vector reliability determination circuit means 3 determines the reliability of each area from each value input from the vector detection circuit 2 of each detection area and the value of the motion vector fed back from the motion vector determination means 4, The result of the determination and the motion vector of each area are output to the motion vector determining means 4. The motion vector determining means 4 determines a motion vector of the entire screen from the determination result of the reliability of each area and the motion vector of each area.

第1図は画像の動きベクトル検出装置のベクトルの信
頼性判定手段3および動きベクトル決定手段4の動作、
つまり時間的に連続して入力される画像信号について、
各検出領域のベクトル検出回路2から得られるその時点
までのベクトルの値と相関値の状態よりその時点の画面
の動きベクトルを決定するフローチャートである。第1
図を用いてこれらの動作を説明すると、まず各領域のベ
クトルの信頼性判定手段3において、最初に相関値の状
態(最小値、平均値、最大値)により第1の信頼性の判
定が行なわれる。次に第2の判定では、第1の判定結果
と前フィールドの第3の判定結果(第3の判定はあとで
説明する)の論理積をとる(2つの判定結果がともに信
頼性ありとなったもののみ、第2の判定で信頼性ありと
判定する。)。ただし最初のフィールドでは前フィール
ドの第3の判定結果が得られていないので第2の判定は
第1の判定と同じとする。動きベクトル決定手段4は、
第2の判定で信頼性ありと判定された各領域のベクトル
の中間値(大小順番に並べたときの中間に位置する値、
ただし偶数個の場合は中間に近い位置の2つの値の平均
値)を画面全体の動きベクトルと決定し出力する。また
動きベクトル決定手段4は画面全体の動きベクトルを各
領域のベクトルの信頼性判定手段3の第3の判定にフィ
ードバックする。第3の判定では、フィードバックされ
たベクトルと領域のベクトルが所定の範囲で一致し、か
つ第1の判定結果が信頼性ありとなる領域を信頼性あり
と判定し、この結果は次フィールドでの第2の判定に用
いる。
FIG. 1 shows the operation of the vector reliability determining means 3 and the motion vector determining means 4 of the image motion vector detecting device.
In other words, for an image signal input continuously in time,
5 is a flowchart for determining a motion vector of a screen at that time from a state of a vector value and a correlation value up to that time obtained from a vector detection circuit 2 of each detection area. First
These operations will be described with reference to the drawings. First, the vector reliability determination means 3 of each area first determines the first reliability based on the state of the correlation value (minimum value, average value, maximum value). It is. Next, in the second determination, the logical product of the first determination result and the third determination result of the previous field (the third determination will be described later) is obtained (the two determination results are both reliable). Only those that are reliable are determined to be reliable in the second determination.) However, the second determination is the same as the first determination since the third determination result of the previous field is not obtained in the first field. The motion vector determining means 4
The intermediate value of the vector of each area determined to be reliable in the second determination (a value located in the middle when arranged in descending order,
However, in the case of an even number, the average value of the two values near the middle) is determined and output as the motion vector of the entire screen. Further, the motion vector determination means 4 feeds back the motion vector of the entire screen to the third determination of the reliability determination means 3 of the vector of each area. In the third determination, a region in which the vector fed back and the vector of the region match within a predetermined range and the first determination result is reliable is determined to be reliable, and the result is determined in the next field. Used for the second determination.

ここで従来例の動きベクトル検出装置と異なる点は動
きベクトル決定手段4で得られた結果のベクトルが各領
域のベクトルの信頼性判定手段3に送られ、再度ベクト
ルの信頼性判定が行なわれ、その結果が1フィールド間
記憶され、次フィールドでの各領域のベクトルの信頼性
判定に用いられる点である。
Here, the difference from the conventional motion vector detecting device is that the vector obtained as a result of the motion vector determining means 4 is sent to the vector reliability determining means 3 of each area, and the reliability of the vector is determined again. The result is that the result is stored for one field, and is used for determining the reliability of the vector of each area in the next field.

以上のように本実施例によれば、各検出区域のベクト
ルの信頼性を判定する際、そのときの各検出区域での相
関値の状態とベクトルの値だけでなく、その検出区域の
過去のベクトルの信頼性の判定結果とベクトルの値も用
いて判定を行なうので、検出領域と同程度かまたはそれ
以上の大きさの移動物が画面内に入り込んだ場合でもそ
の他の領域からビデオカメラの揺れによる動きベクトル
が検出されていれば、そのビデオカメラの揺れによる動
きベクトルのみを検出することが可能である。
As described above, according to the present embodiment, when determining the reliability of the vector of each detection area, not only the state of the correlation value and the value of the vector in each detection area at that time, but also the past of the detection area. Judgment is also made using the vector reliability judgment result and the vector value, so even if a moving object of the same size or larger than the detection area enters the screen, the video camera shakes from other areas. Is detected, it is possible to detect only the motion vector due to the shake of the video camera.

第7図、第8図はこれを説明するための図である。第
7図は検出領域と同程度の大きさの移動物13が画面内に
入り込んだ場合の画面と各領域の相関値を示すものであ
り、第8図はそのとき検出される動きベクトル10を示す
ものである。第8図では8はカメラの揺れによる動きベ
クトルで0ベクトルを中心にして上下に振れている。15
はそれに移動物の動きが加算されたベクトルでほぼ一定
値が加算されている。9,16はそれぞれ領域6,12から検出
されるベクトルで、移動物の領域へのかかり方によっ
て、それぞれカメラの揺れによる動きベクトル8または
移動物の動きが加算されたベクトル15またはそれ以外の
誤ベクトルが検出されている。10は動きベクトル決定手
段4から出力されるベクトルである。まず最初第7図
(a)に示すようにある検出領域6の中に、背景と移動
物13が両方存在している時は、第7図(a)に示すよう
に相関値7の状態によって、その領域は信頼性なしと判
定される(領域17,18の動作はこのときそえぞれ6,12と
同様なので説明は省略する。)次に第7図(b)に示す
ようにある検出領域6の大部分または全部を占めた場
合、その検出領域のベクトル9はビデオカメラの揺れと
移動物13の動きを加算した動きベクトル15が検出され、
かつ相関値7の状態からは信頼性ありと判定される(第
1の判定)。しかしながらここでは以前から検出される
動きベクトル10、つまりカメラの揺れによる動きベクト
ル8と領域6のベクトル9が一致しないため第3の判定
は信頼性なしとなり、したがって第2の判定で信頼性あ
りと判定されるのは移動物が入っていない領域12(およ
び18)だけである。この領域からはビデオカメラの揺れ
による動きベクトル8が検出されているので、動きベク
トル決定手段4からはビデオカメラの揺れによる動きベ
クトル9が検出され続ける。さらに時間の経過にしたが
って移動物が移動すると、再び領域6の中に背景と移動
物13が両方存在する状況{第7図中には示していないが
これを(c)とする}となり、次に第7図(d),
(e)に示すような状況となる。(c)〜(e)ではあ
る領域の大部分を移動物が占めるといった状況はなく、
移動物と背景が存在する領域は相関値で信頼性なしと判
定されるので(第1の判定)、第2の判定で信頼性あり
と判定される領域からはカメラの揺れによる動きベクト
ル8のみが検出される。したがって第7図の(a)〜
(e)の時点で検出される動きベクトル10は第8図に示
すようになる。ここで出力ベクトル10は、領域6,12のそ
れぞれのベクトル9,16からビデオカメラの揺れによる動
きベクトル8のみを検出できる。
7 and 8 are diagrams for explaining this. FIG. 7 shows the correlation value between the screen and each area when the moving object 13 having the same size as the detection area enters the screen, and FIG. 8 shows the motion vector 10 detected at that time. It is shown. In FIG. 8, reference numeral 8 denotes a motion vector due to camera shake, which fluctuates up and down around the 0 vector. Fifteen
Is a vector to which the motion of the moving object is added, and a substantially constant value is added. Reference numerals 9 and 16 denote vectors detected from the areas 6 and 12, respectively. Depending on how the moving object occupies the area, the motion vector 8 due to the camera shake or the vector 15 to which the motion of the moving object is added or the other error A vector has been detected. Reference numeral 10 denotes a vector output from the motion vector determining means 4. First, when both the background and the moving object 13 are present in a certain detection area 6 as shown in FIG. 7A, the state of the correlation value 7 is changed as shown in FIG. 7A. It is determined that the area is unreliable (the operations of the areas 17 and 18 are the same as those of the areas 6 and 12 at this time, so the description is omitted.) Next, as shown in FIG. When most or all of the area 6 is occupied, a motion vector 15 that is the sum of the motion of the video camera and the motion of the moving object 13 is detected as the vector 9 of the detection area,
And it is determined that there is reliability from the state of the correlation value 7 (first determination). However, here, since the previously detected motion vector 10, that is, the motion vector 8 due to the camera shake and the vector 9 of the area 6 do not match, the third determination is unreliable, and therefore the second determination is not reliable. Only the area 12 (and 18) that does not contain a moving object is determined. Since the motion vector 8 due to the shaking of the video camera is detected from this area, the motion vector determining means 4 keeps detecting the motion vector 9 due to the shaking of the video camera. Further, when the moving object moves as time elapses, the situation where both the background and the moving object 13 are present again in the area 6 {not shown in FIG. Fig. 7 (d),
The situation is as shown in FIG. In (c) to (e), there is no situation where a moving object occupies most of a certain area.
Since the area where the moving object and the background are present is determined to be unreliable by the correlation value (first determination), only the motion vector 8 due to the camera shake from the area determined to be reliable in the second determination Is detected. Therefore, FIG.
The motion vector 10 detected at the time (e) is as shown in FIG. Here, as the output vector 10, only the motion vector 8 due to the shaking of the video camera can be detected from the vectors 9 and 16 of the areas 6 and 12, respectively.

つぎに第3図は本発明の第2の実施例における揺れ補
正装置のブロック図を示すものであり、1は画像信号入
力端子である。2は各検出領域のベクトル検出回路であ
る。3はベクトルの信頼性判定手段、4は動きベクトル
決定手段である。5は揺れ補正手段である。
Next, FIG. 3 is a block diagram of a shake correcting apparatus according to a second embodiment of the present invention, and 1 is an image signal input terminal. Reference numeral 2 denotes a vector detection circuit for each detection area. Reference numeral 3 denotes a vector reliability determination unit, and reference numeral 4 denotes a motion vector determination unit. Reference numeral 5 denotes a shake correction unit.

以上のように構成された第2の実施例の画像の動きベ
クトル検出装置の部分については、その動作は第1の実
施例とほぼ同様である。ただしベクトルの信頼性判定手
段3および動きベクトル決定手段4において、第1の実
施例で説明したところの第2の判定で、信頼性ありと判
定された領域がない場合は、前フィールドと前々フィー
ルドで出力される動きベクトルM(n−1),M(n−
2)より現フィールドの動きベクトルM(n)を次式の
ようにして求める。
The operation of the image motion vector detecting device of the second embodiment configured as described above is almost the same as that of the first embodiment. However, if there is no area determined to be reliable in the second determination described in the first embodiment in the vector reliability determination unit 3 and the motion vector determination unit 4, the previous field and the previous field are used. Motion vectors M (n-1), M (n-
From 2), the motion vector M (n) of the current field is obtained as in the following equation.

n>2のとき M(n)=a×M(n−1)+b(M(n−1)−M
(n−2)) ただし、a,b:0<a≦1,0<b≦1 n=2のとき M(n)=a×M(n−1) n=1のとき M(n)=0 揺れ補正手段5は第17図の19,20に示すようにゆれの
大きい画像が入力されるとき、第n−1フィールド19、
第nフィールド20の入力画像信号について、動きベクト
ル決定手段4より入力された動きベクトル10をもとに、
その動きを補正する方向21に画像の画面を29から30に並
行移動し、また補間等によって画面の拡大等の操作を
し、揺れの少ない1画面の大きさの画像信号27、28を出
力する。
When n> 2, M (n) = a × M (n−1) + b (M (n−1) −M
(N-2)) where a, b: 0 <a ≦ 1, 0 <b ≦ 1 When n = 2, M (n) = a × M (n−1) When n = 1, M (n) = 0 When the image having large fluctuation is input as shown in FIGS. 19 and 20 in FIG.
For the input image signal of the n-th field 20, based on the motion vector 10 input from the motion vector determination means 4,
The image screen is moved in parallel from 29 to 30 in the direction 21 for correcting the motion, and the screen is enlarged or enlarged by interpolation or the like, and image signals 27 and 28 of one screen size with little shaking are output. .

以上のように本実施例によれば、各検出区域のベクト
ルの信頼性を判定する際、そのときの各検出区域での相
関値の状態とベクトルの値だけでなく、その検出区域の
過去のベクトルの信頼性の判定結果とベクトルの値によ
り、判定を行なうので、まず第1の実施例で説明したよ
うに検出領域と同程度かまたはそれ以上の大きさの移動
物が画面内に入り込んだ場合でもその他の領域からビデ
オカメラの動きのベクトルが検出されていれば補正可能
である。
As described above, according to the present embodiment, when determining the reliability of the vector of each detection area, not only the state of the correlation value and the value of the vector in each detection area at that time, but also the past of the detection area. Since the determination is performed based on the determination result of the reliability of the vector and the value of the vector, first, as described in the first embodiment, a moving object having a size equal to or larger than the detection area enters the screen. Even in this case, the correction can be made if the motion vector of the video camera is detected from other areas.

また第2の実施例では画面全体の大部分または全体を
占めるほどの移動物が画面を通過する場合でも補正は中
断され撮影者の意図する方向とは異なる方向に画面が補
正されるような誤動作は発生しない。第9図、第10図は
これを説明するための図である。第9図は画面と同程度
の大きさの移動物13が画面を通過する場合の、画面と各
領域の相関値の様子を示すものであり、第10図はそのと
き検出される動きベクトル10を示すものである。最初第
9図(a),(b)に示すようにある検出領域6の中
に、移動物13が入っている時は、第7図の場合と同様に
してその領域6は信頼性なしと判定される(第2の判
定)。次に第9図(c)に示すようにその他の領域12に
も移動物13が入ってくるとその領域も信頼性なしと判定
され、全ての領域について信頼性なしと判定されること
となる。この場合は上記式に示したようにしたように前
フィールドと前々フィールドでの動きベクトルより算出
される値を出力する。上記式は2次の減衰特性をもって
いるので出力されるベクトルは第10図の10の(c),
(d)の部分に示すようになめらかに減衰する。したが
ってこのときの揺れ補正もなめらかに中断される。次に
第9図(d)に示すように移動物13が全ての領域を占め
る場合、全ての検出領域6,12からはビデオカメラの揺れ
と移動物の動きを加算した動きベクトル15が検出され、
かつ相関値の状態7,14からは信頼性ありと判定される
(第1の判定)。しかしながらこれらのベクトル9,16は
一般に第7図の15に示すように1方向におおきな値を持
つので、出力のベクトル10と一致することはなくしたが
って第2、第3の判定は信頼性なしと判定されることと
なる。次に第10図(e)に示すようにある領域6を移動
物が通過した後、再びその検出領域6からはビデオカメ
ラの揺れによる動きベクトル8が検出され、かつ相関値
の状態からは信頼性ありと判定される(第1の判定)。
一般にビデオカメラの揺れによる動きベクトルは第10図
の8に示すように0ベクトルを中心にして上下に振動し
ているので、ある時点11で出力ベクトル10と一致し、こ
のとき第2、第3の判定が信頼性ありと判定され、これ
以降この領域6のベクトルが動きベクトル10として出力
され、中断されていた補正が再開されることになる。し
たがって第9図の(a)〜(e)の時点で検出される動
きベクトルは第10図の10に示すように移動物が入ってい
ない領域があるときはビデオカメラの揺れによる動きベ
クトル8が検出され、揺れ補正は正しい補正が可能で、
また全ての領域に移動物が入っているときはなめらかに
補正が中断され、また移動物が通過した後は、ビデオカ
メラの揺れによる動きベクトル8が出力ベクトル10とあ
る範囲で一致する時点11から補正が再開されることとな
る。したがって従来例の動きベクトル検出装置を用いた
揺れ補正装置に比べ、正しい補正が可能な区間が長く、
さらに全ての領域に移動物が入っているときにも誤動作
が起きない。
Further, in the second embodiment, even when a moving object that occupies most or the whole of the entire screen passes through the screen, the correction is interrupted and the screen is corrected in a direction different from the direction intended by the photographer. Does not occur. FIG. 9 and FIG. 10 are diagrams for explaining this. FIG. 9 shows the state of the correlation value between the screen and each area when the moving object 13 having the same size as the screen passes through the screen, and FIG. 10 shows the motion vector 10 detected at that time. It shows. First, when a moving object 13 is present in a certain detection area 6 as shown in FIGS. 9 (a) and 9 (b), the area 6 has no reliability as in the case of FIG. A judgment is made (second judgment). Next, as shown in FIG. 9 (c), when the moving object 13 also enters the other area 12, that area is also determined to be unreliable, and all areas are determined to be unreliable. . In this case, a value calculated from the motion vectors in the previous field and the field immediately before the field is output as shown in the above equation. Since the above equation has a second-order attenuation characteristic, the output vector is 10 (c) in FIG.
As shown in the part of (d), it attenuates smoothly. Therefore, the shake correction at this time is also smoothly stopped. Next, as shown in FIG. 9 (d), when the moving object 13 occupies the entire area, a motion vector 15 obtained by adding the motion of the video camera and the motion of the moving object is detected from all the detection areas 6 and 12. ,
In addition, it is determined that there is reliability from the correlation value states 7 and 14 (first determination). However, since these vectors 9 and 16 generally have large values in one direction as shown at 15 in FIG. 7, they do not coincide with the output vector 10, so the second and third judgments are unreliable. Will be determined. Next, as shown in FIG. 10 (e), after the moving object has passed through a certain area 6, a motion vector 8 due to the shaking of the video camera is detected from the detection area 6 again, and the motion vector 8 is reliable from the state of the correlation value. It is determined that there is sex (first determination).
Generally, the motion vector due to the shaking of the video camera oscillates up and down around the 0 vector as shown in 8 of FIG. 10, so that it coincides with the output vector 10 at a certain time 11, and at this time, the second and third Is determined to be reliable, and thereafter, the vector of this area 6 is output as the motion vector 10, and the suspended correction is resumed. Therefore, the motion vector detected at the time points (a) to (e) in FIG. 9 is the motion vector 8 due to the shaking of the video camera when there is an area where no moving object is present as shown in FIG. Detected and shake correction can be correct,
Further, when a moving object is present in all areas, the correction is smoothly interrupted, and after the moving object passes, from the time 11 when the motion vector 8 due to the shaking of the video camera coincides with the output vector 10 within a certain range. The correction will be restarted. Therefore, compared with the shake correction device using the conventional motion vector detection device, the section where correct correction can be performed is longer,
Further, no malfunction occurs when a moving object is present in all areas.

なお、第1の実施例において、各領域のベクトルの信
頼性の判定方法を詳しく述べたが、これは必ずしもこの
通りである必要はなく、判定においてその時点の相関値
の状態やベクトルの値だけでなく、それ以前の相関値の
状態やベクトルの値や判定結果をともに用いるものであ
れば同様の効果を得ることは簡単である。
In the first embodiment, the method of determining the reliability of the vector in each region has been described in detail. However, this is not necessarily the same, and only the state of the correlation value and the value of the vector at that time are used in the determination. Instead, it is easy to obtain the same effect as long as the previous state of the correlation value, the value of the vector, and the determination result are used together.

たとえば第5図のフローチャートに示すような方法を
用いてもほぼ同様の効果が得られる。第5図を説明する
と、まずここでは領域の信頼性判定結果はフィールドが
変わってもリセットされないものとする。そして各領域
の信頼性判定結果の初期値はすべて信頼性ありかまたは
信頼性なしにセットされるものとする。手順としてまず
各領域のベクトルの値と相関値のデータが入力される。
つぎにこの相関値の状態を判定し、条件に合わないもの
は判定結果を信頼性無しとする(判定1)。ただしこの
逆は行わない、つまり相関値の状態が条件に合うもので
も、この判定前の判定結果が信頼性無しであるならば、
判定結果は変更されない。次にこの時点で信頼性ありと
判定されている領域のベクトルから画面全体の動きベク
トルを決定する。決定方法は第2の実施例と同じでよ
い。この動きベクトルを出力するとともに、次の判定2
に用いる。判定2では、相関値の状態が条件を満たし、
かつ出力の動きベクトルと領域のベクトルが一致すると
ころの領域は判定結果を信頼性ありとする。ただしその
逆は行わない。この判定結果は次のフィールドになって
もリセットされずに残る。このような方法を用いれば、
移動物が画面内にはいった場合、第1、第2の実施例と
ほぼ同様の動作をする。
For example, substantially the same effect can be obtained by using a method as shown in the flowchart of FIG. Referring to FIG. 5, it is assumed here that the reliability determination result of the area is not reset even if the field changes. Then, it is assumed that all the initial values of the reliability determination result of each area are set to have reliability or no reliability. As a procedure, first, data of a vector value and a correlation value of each area are input.
Next, the state of the correlation value is determined, and if the condition does not meet the condition, the determination result is determined to be unreliable (determination 1). However, the reverse is not performed, that is, even if the state of the correlation value meets the condition, if the judgment result before this judgment is unreliable,
The judgment result is not changed. Next, the motion vector of the entire screen is determined from the vector of the area determined to be reliable at this time. The determination method may be the same as in the second embodiment. This motion vector is output and the next decision 2
Used for In judgment 2, the state of the correlation value satisfies the condition,
In addition, a region where the output motion vector matches the region vector is determined to be reliable. However, the reverse is not performed. This determination result remains without being reset even when the next field is entered. Using such a method,
When a moving object enters the screen, the operation is substantially the same as in the first and second embodiments.

またたとえばある時点で相関値の状態より信頼性なし
と判定された領域は、ある一定期間はその信頼性なしの
判定結果が持続するとしても効果が期待できる。
Further, for example, in a region determined to be unreliable from the state of the correlation value at a certain point in time, an effect can be expected even if the determination result without reliability is maintained for a certain period of time.

また第1の実施例において、判定結果は信頼性のある
なしの2値としたが、その中間の値も考え信頼性を重み
で表わすようなものにも本発明は応用できる。また判定
3で各領域のベクトルと出力ベクトルの一致を調べた
が、これはある範囲をもたせた一致度を調べてもよい。
またこの範囲はズーミング,パンニング等のカメラワー
クに応じて変化させることも考えられる。
In the first embodiment, the determination result is a binary value with or without reliability. However, the present invention can also be applied to a case where the reliability is represented by a weight by considering an intermediate value. In addition, although the match between the vector of each region and the output vector is checked in the determination 3, the match may be checked with a certain range.
This range may be changed according to camera work such as zooming and panning.

また第2の実施例では全ての領域が信頼性なしと判定
されたとき、上記式に示すように2次減衰の式により、
それ以前の動きベクトルより予測されるベクトル値を出
力させたが、これは1次減衰の式でもよいし、それ以外
のものでもよい。または0ベクトルを出力させてもよ
い。また第1、第2の実施例では画面中の検出領域の数
は4としたがこれはそれ以外でもよい。
Further, in the second embodiment, when it is determined that all the areas have no reliability, as shown in the above equation, the following equation is used for the secondary attenuation.
Although the vector value predicted from the previous motion vector is output, this may be a primary attenuation equation or another equation. Alternatively, a zero vector may be output. In the first and second embodiments, the number of detection areas in the screen is four, but this may be other than this.

つぎに本発明第3の実施例の動きベクトル検出装置に
ついて説明する。第3の実施例の動きベクトル検出装置
の構成は、従来例のものとほぼ同じで、従来例のブロッ
ク図である第13図で説明できる。ただし従来例と異なる
点は、第4図に示すように画面中の複数の検出領域6と
17および12と18をそれぞれ上下方向に一定に並ばないよ
うに横方向にずらして設ける点である。信頼性判定手段
3では従来例と同じようにその時点の相関値の状態のみ
から信頼性を判定する。また動きベクトル決定手段4で
は、信頼性ありと判定された領域からのベクトルの中間
値を、画面の動きベクトルとして出力する。
Next, a motion vector detecting device according to a third embodiment of the present invention will be described. The configuration of the motion vector detecting device of the third embodiment is almost the same as that of the conventional example, and can be described with reference to FIG. 13 which is a block diagram of the conventional example. However, the difference from the conventional example is that, as shown in FIG.
17 and 12 and 18 are provided so as to be shifted in the horizontal direction so as not to be arranged uniformly in the vertical direction. The reliability determining means 3 determines reliability only from the state of the correlation value at that time, as in the conventional example. Further, the motion vector determining means 4 outputs an intermediate value of the vector from the area determined to be reliable as a motion vector of the screen.

以上のように本実施例によれば、画面中に複数の検出
領域を設けるときそれぞれ上下方向に一定に並ばないよ
うに横方向にずらして設けることにより、従来例のよう
に縦方向に長い移動物が入ってきたときに、上下に並ん
だ領域から同時に誤ベクトルが検出されることを防ぐこ
とができる。
As described above, according to the present embodiment, when a plurality of detection areas are provided in a screen, they are shifted in the horizontal direction so as not to be uniformly aligned in the vertical direction, so that a long movement in the vertical direction as in the conventional example is achieved. When an object enters, it is possible to prevent erroneous vectors from being simultaneously detected from vertically arranged areas.

このことを第11図を用いて説明する。第11図(a)〜
(e){(c)は第7図と対応させるため図示していな
い}では検出領域6,12,17,18の相関値の状態をそれぞれ
7,14,22,23に示す。この図の(a)〜(e)の画像はそ
れぞれ第7図の(a)〜(e)と同じである。従来例で
はこの(b)状態のとき動きベクトルの検出が不能とな
った。それに対し、本実施例ではまず(a)の状態のと
き領域6に移動物が入ってきたとき、そのときのその相
関値7の状態で、領域6は信頼性なしと判定される。そ
してそれ以外の領域12,17,18ではカメラの揺れによに動
きベクトル8が検出されているので、動きベクトル決定
手段4からはカメラの揺れによる動きベクトル8が出力
される。次に(b)の状態のとき領域6は移動物が大部
分を占めるので、移動物の動きが加算されたベクトル15
が検出され、その相関値7の状態からも信頼性ありと判
定される。しかしこのとき領域17はその相関値22より信
頼性なしと判定され、領域12,18では動きベクトル8が
検出され、信頼性ありと判定ている。したがって動きベ
クトル決定手段4では、信頼性ありと判定された3領域
のそれぞれ3ベクトルの中間値をとるので、カメラの揺
れによる動きベクトル8が出力される。さらに(d)〜
(e)の状態では移動物のかかっている領域では相関値
の状態より信頼性なしと判定され、それ以外の領域では
カメラの揺れによる動きベクトル8が検出されているの
で、動きベクトル決定手段4からはカメラの揺れによに
動きベクトル8が出力される。したがって(a)〜
(e)の状態にわたってカメラの揺れによる動きベクト
ル8が出力されることとなる。これより本実施例によ
り、従来例より移動物に対しカメラの揺れによる動きベ
クトル8が検出できる範囲が広くなったことがわかる。
またさらにこれに第1の発明を応用することも当然可能
である。
This will be described with reference to FIG. Fig. 11 (a)-
(E) {(c) is not shown in order to correspond to FIG. 7, and {} shows the state of the correlation values of the detection areas 6, 12, 17, and 18, respectively.
It is shown in 7,14,22,23. The images in (a) to (e) in this figure are the same as those in (a) to (e) in FIG. 7, respectively. In the conventional example, it is impossible to detect the motion vector in the state (b). On the other hand, in this embodiment, when a moving object enters the area 6 in the state (a), the area 6 is determined to be unreliable in the state of the correlation value 7 at that time. Since the motion vector 8 is detected in the other regions 12, 17, and 18 due to the camera shake, the motion vector determining means 4 outputs the motion vector 8 due to the camera shake. Next, in the state of (b), since the moving object occupies most of the area 6, the vector 15 to which the motion of the moving object is added is added.
Is detected, and the state of the correlation value 7 is determined to be reliable. However, at this time, the area 17 is determined to be unreliable based on the correlation value 22, and the motion vectors 8 are detected in the areas 12 and 18, and are determined to be reliable. Therefore, the motion vector determining means 4 takes the intermediate value of each of the three vectors of the three areas determined to be reliable, and outputs the motion vector 8 due to the camera shake. (D) ~
In the state (e), it is determined that there is no reliability from the state of the correlation value in the area where the moving object is applied, and in the other area, the motion vector 8 due to the camera shake is detected. Outputs a motion vector 8 due to camera shake. Therefore (a) ~
The motion vector 8 due to the camera shake is output over the state (e). From this, it can be seen that the present embodiment has a wider range in which the motion vector 8 due to camera shake can be detected for a moving object than the conventional example.
Further, it is of course possible to apply the first invention to this.

つぎに本発明第4の実施例の動きベクトル検出装置に
ついて説明する。第4の実施例の動きベクトル検出装置
の構成は、第1の実施例の動きベクトル検出装置および
第2の実施例で用いた動きベクトル検出装置のものとほ
ぼ同じで、第1の実施例のブロック図である第2図で説
明できる。ただしそれと異なる点は、第4図に示すよう
に画面中の複数の検出領域6と17および12と18をそれぞ
れ上下方向に一定に並ばないように横方向にずらして設
ける点である。
Next, a motion vector detecting device according to a fourth embodiment of the present invention will be described. The configuration of the motion vector detecting device of the fourth embodiment is almost the same as that of the motion vector detecting device of the first embodiment and the motion vector detecting device used in the second embodiment. This can be explained with reference to FIG. 2 which is a block diagram. However, the difference is that, as shown in FIG. 4, a plurality of detection areas 6 and 17 and 12 and 18 in the screen are shifted in the horizontal direction so as not to be aligned in the vertical direction.

以上のように本実施例によれば、画面中に複数の検出
領域を設けるときそれぞれ上下方向に一定に並ばないよ
うに横方向にずらして設けることにより、従来例または
第1、第2の実施例のように縦方向に長い移動物が入っ
てきたときに、上下に並んだ領域から同時に誤ベクトル
が検出されることを防ぐことができる。したがって第
1、第2の実施例に比べ以下のような効果が新たに生ま
れる。第12図を用いてそれを説明する。まず第1、第2
の実施例では第12図(b)に示すように左右の領域の間
隔26と同程度かそれよりやや大きい程度の大きさの移動
物が通過する場合まで、中断することなくカメラの揺れ
による動きベクトル8が検出できた。しかしこの間隔26
を大きくとると、第12図(a)に示したように画面の中
央にしか絵柄の特徴がないような画像の場合、動きベク
トルの検出ができない。
As described above, according to the present embodiment, when a plurality of detection areas are provided on a screen, the detection areas are shifted in the horizontal direction so as not to be uniformly aligned in the vertical direction. When a long moving object enters in the vertical direction as in the example, it is possible to prevent erroneous vectors from being simultaneously detected from vertically arranged areas. Therefore, the following effects are newly produced as compared with the first and second embodiments. This will be described with reference to FIG. First, first, second
In the embodiment of FIG. 12 (b), the movement due to the camera shake without interruption is performed until a moving object having a size approximately equal to or slightly larger than the space 26 between the left and right regions passes. Vector 8 could be detected. But this interval 26
Is large, the motion vector cannot be detected in the case of an image having a pattern feature only at the center of the screen as shown in FIG. 12 (a).

それに対し本実施例では第12図(d)に示すように、
最も右にある領域と左にある領域の間隔24と同程度かそ
れよりやや大きい程度の大きさの移動物が通過する場合
まで、中断することなくカメラの揺れによる動きベクト
ル8が検出できる。
In contrast, in the present embodiment, as shown in FIG.
The motion vector 8 due to camera shake can be detected without interruption until a moving object having a size equal to or slightly larger than the interval 24 between the rightmost region and the leftmost region passes.

また同時に縦方向からみたときの領域が存在しない間
隔25は、間隔26に比べ狭くできるので第12図(c)に示
すような場合でも動きベクトルの検出が可能である。こ
れより本実施例よりもさらにカメラの揺れによる動きベ
クトル8が検出できる範囲が広くなったことがわかる。
At the same time, the interval 25 where there is no region when viewed from the vertical direction can be made narrower than the interval 26, so that the motion vector can be detected even in the case shown in FIG. 12 (c). From this, it can be seen that the range in which the motion vector 8 due to camera shake can be detected is wider than in this embodiment.

なお第3、第4の実施例では画面中の各検出領域をそ
れぞれ間隔を持たせた4領域としたが、これは第6図
(a),(b)に示すように間隔をもたなくともよくま
た互いに重なりを持ってもよい。また領域の数も第6図
(c)に示すように、横方向に並ぶ領域をずらしてもよ
く、この場合縦方向からの移動物が通過する場合に効果
がある。また領域の数も第6図(d),(e),(f)
に示すように4以外としてもよい。また第1の実施例の
動きベクトル検出装置を第2の実施例の揺れ補正装置に
応用したように、第3または第4の実施例の動きベクト
ル検出装置を揺れ補正装置に応用できる。
In the third and fourth embodiments, the respective detection areas in the screen are four areas each having an interval. However, this does not have an interval as shown in FIGS. And may overlap each other. Also, as shown in FIG. 6 (c), the number of regions may be shifted from the regions arranged in the horizontal direction, and this is effective when a moving object from the vertical direction passes. 6 (d), (e), (f)
As shown in FIG. Further, the motion vector detecting device according to the third or fourth embodiment can be applied to the shake correcting device, just as the motion vector detecting device according to the first embodiment is applied to the shake correcting device according to the second embodiment.

発明の効果 本発明によれば、各領域と同程度かそれ以上の移動物
が入ってきた場合にでも、従来のものではベクトル検出
ができなかったものが、各領域の検出ベクトルの中から
選択的にビデオカメラの揺れによる動きベクトルだけを
画面の動きベクトルとして検出できる。また画面と同程
度かそれ以上の大きさの移動物が入ってきた場合にで
も、従来のものでは移動物の動きが加算されたベクトル
が誤って検出されていたものが、検出が自動的に中断さ
れ誤ベクトルの検出を防止できる。そして本発明の揺れ
補正装置は、従来のものでは移動物に対し揺れ補正可能
な範囲が小さくかつそれを越えた場合に誤動作すること
が多く実用に適さなかったものが、移動物に対し揺れ補
正可能な範囲が大きくかつそれを越えた場合にでも誤動
作することが非常に少なくなる。そしてさらに本発明は
従来のものに比べ回路等の増加はほとんどなく容易に実
現でき、したがってその実用的効果は大きい。
Advantageous Effects of the Invention According to the present invention, even when a moving object of the same degree or more enters each region, a vector that cannot be detected by the conventional device is selected from the detection vectors of each region. Only the motion vector due to the shaking of the video camera can be detected as the motion vector of the screen. Also, when a moving object of the same size or larger than the screen comes in, the detection of the vector with the movement of the moving object was erroneously detected in the conventional one, but the detection is automatically performed. The detection of the erroneous vector which is interrupted can be prevented. The shake correction device of the present invention is not suitable for practical use. Even if the possible range is large and exceeds it, malfunctions are greatly reduced. Further, the present invention can be easily realized with almost no increase in circuits and the like as compared with the conventional one, and therefore has a large practical effect.

【図面の簡単な説明】[Brief description of the drawings]

第1図は本発明における第1、第2の実施例の動きベク
トル検出装置のベクトルの信頼性判定手段および動きベ
クトル決定手段の動作を示すフローチャート、第2図は
本発明におけ第1の実施例の画像の動きベクトル検出装
置のブロック図、第3図は本発明における第2の実施例
の揺れ補正装置のブロック図、第4図は本発明における
第3、第4の実施例の画像の動きベクトル検出装置の画
面中の各検出領域の配置を示す線図、第5図は本発明の
請求項1の信頼性判定手段および動きベクトル決定手段
の動作例を示すフローチャート、第6図は本発明の請求
項2の画像の動きベクトル検出装置の画面中の各検出領
域の配置例を示す線図、第7図〜第12図は実施例の動き
ベクトル検出装置の動作を説明するための線図、第13図
は従来例の画像の動きベクトル検出装置を応用した揺れ
補正装置のブロック図、第14図は従来例の動きベクトル
検出装置の動作を説明するためのフローチャート、第15
図、第16図は従来例の動きベクトル検出装置の動作を説
明するための線図、第17図は揺れ補正の動作を説明する
ための線図である。 1……画像信号入力端子,2……各領域での相関値演算お
よびベクトル検出手段,3……各領域の信頼性判定手段,4
……動きベクトル決定手段,5……揺れ補正手段,6,12,1
7,18……ベクトル検出手段,13……移動物,7,14,22,23…
…各領域の相関値,8……ビデオカメラの揺れによる動き
ベクトル,15……ビデオカメラの揺れによる動きベクト
ルに移動物の動きが加算されたベクトル,9,16……各領
域の検出ベクトル,24,25,26……各検出領域の間隔,27,2
8……補正画面,29,30……画像情報の読み出し位置。
FIG. 1 is a flowchart showing the operation of the vector reliability determining means and the motion vector determining means of the motion vector detecting devices of the first and second embodiments of the present invention, and FIG. 2 is a first embodiment of the present invention. FIG. 3 is a block diagram of a motion vector detecting device of an example image, FIG. 3 is a block diagram of a shake correcting device of a second embodiment of the present invention, and FIG. 4 is a diagram of an image of the third and fourth embodiments of the present invention. FIG. 5 is a diagram showing the arrangement of each detection area in the screen of the motion vector detection device, FIG. 5 is a flowchart showing an operation example of the reliability judgment means and the motion vector determination means of claim 1 of the present invention, and FIG. FIG. 7 is a diagram showing an example of the arrangement of each detection area in the screen of the image motion vector detecting device according to the second embodiment of the present invention. FIGS. 7 to 12 are lines for explaining the operation of the motion vector detecting device of the embodiment. FIG. 13 is a diagram showing the movement of a conventional image. FIG. 14 is a block diagram of a shake correction device to which a motion vector detection device is applied, FIG. 14 is a flowchart for explaining the operation of a conventional motion vector detection device, and FIG.
FIG. 16 is a diagram for explaining the operation of the conventional motion vector detecting device, and FIG. 17 is a diagram for explaining the motion correcting operation. 1 ... Image signal input terminal, 2 ... Correlation value calculation and vector detection means in each area, 3 ... Reliability determination means in each area, 4
…… Motion vector determination means, 5 …… Shake correction means, 6,12,1
7,18 …… Vector detection means, 13 …… Moving object, 7,14,22,23…
… Correlation value of each area, 8… Motion vector due to video camera shake, 15… Vector obtained by adding motion of moving object to motion vector due to video camera shake, 9,16 …… Detection vector of each area, 24,25,26 …… Interval of each detection area, 27,2
8: Correction screen, 29, 30 ... Readout position of image information.

フロントページの続き (56)参考文献 特開 昭61−269475(JP,A) 特開 昭61−201584(JP,A) 特開 昭62−25590(JP,A) 特開 平1−125074(JP,A)Continuation of the front page (56) References JP-A-61-269475 (JP, A) JP-A-61-201584 (JP, A) JP-A-62-25590 (JP, A) JP-A-1-125074 (JP, A) , A)

Claims (4)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】画面中に複数の検出領域を設け、その各検
出領域について、所定の偏移における現フィールドと前
フィールドとの相関値を求める手段と、その相関値より
各検出領域ごとに動きベクトルを求める手段と、前記各
検出領域について、信頼性を判定することにおいて、少
なくとも各フレームでの信頼性の判定結果を履歴する構
成をもち、各フレームでの相関値の状態から、信頼性あ
りから信頼性なしへの判定結果の変更を行い、各フレー
ムでの相関値の状態及び検出される動きベクトルの画面
全体の動きベクトルへの一致度から、信頼性なしから信
頼性ありへの判定結果の変更を行なうことを特徴とする
各検出領域の動きをベクトルの信頼性を判定する手段
と、信頼性の判定をもとに各領域の動きベクトルを用い
て、画面全体の動きベクトルを決定する手段を備えたこ
とを特徴とする画像の動きベクトル検出装置。
A plurality of detection areas are provided on a screen, and for each of the detection areas, means for calculating a correlation value between a current field and a previous field at a predetermined shift, and a motion for each detection area based on the correlation value. Means for obtaining a vector, and determining the reliability of each of the detection areas, wherein at least the result of determining the reliability of each frame is recorded, and reliability is determined from the state of the correlation value in each frame. Is changed from unreliable to reliable based on the state of the correlation value in each frame and the degree of coincidence of the detected motion vector with the motion vector of the entire screen. Means for determining the reliability of the vector of the motion of each detection area, and the motion of the entire screen using the motion vector of each area based on the reliability determination. Image motion vector detecting device characterized by comprising means for determining the vector.
【請求項2】画面中に複数の検出領域をそれぞれ縦方向
に並ばないように横方向にずらして設け、またはそれぞ
れ横方向に並ばないように縦方向にずらして設け、その
各検出領域について、該検出領域内の所定の偏移におけ
る相関値を求める手段と、その相関値より各検出領域ご
とに動きベクトルを求める手段と、このときの各検出領
域の動きベクトルの信頼性を判定する手段と、そこでの
信頼性の判定をもとに各領域の動きベクトルを用いて画
面全体の動きベクトルを決定する手段を備えたことを特
徴とする画像の動きベクトル検出装置。
2. A method according to claim 1, wherein a plurality of detection areas are provided in the screen so as to be shifted in the horizontal direction so as not to be arranged in the vertical direction, or are provided so as to be shifted in the vertical direction so as not to be arranged in the horizontal direction. Means for obtaining a correlation value at a predetermined shift in the detection area, means for obtaining a motion vector for each detection area from the correlation value, and means for determining the reliability of the motion vector of each detection area at this time. And a means for determining a motion vector of the entire screen by using a motion vector of each region based on the reliability determination there.
【請求項3】検出領域はそれぞれ縦方向に並ばないよう
に横方向にずらして設け、またはそれぞれ横方向に並ば
ないように縦方向にずらして設けることを特徴とする請
求項1に記載の画像の動きベクトル検出装置。
3. The image according to claim 1, wherein the detection areas are provided so as to be shifted in the horizontal direction so as not to be arranged in the vertical direction, or are provided so as to be shifted in the vertical direction so as not to be arranged in the horizontal direction. Motion vector detection device.
【請求項4】請求項1〜3のいずれかに記載された画像
の動きベクトル検出装置と、少なくとも1フィールド以
上の画像信号記憶手段と、前記画像の動きベクトル検出
装置から検出される動きベクトルをもとに、前記画像信
号記憶手段の読みだし位置を制御する手段を備えたこと
を特徴とする画像の揺れ補正装置。
4. An image motion vector detecting device according to claim 1, wherein at least one field of image signal storage means, and a motion vector detected from the image motion vector detecting device. An image shake correction apparatus, further comprising means for controlling a reading position of the image signal storage means.
JP63312292A 1988-12-09 1988-12-09 Image motion vector detection device and shake correction device Expired - Fee Related JP2809656B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP63312292A JP2809656B2 (en) 1988-12-09 1988-12-09 Image motion vector detection device and shake correction device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP63312292A JP2809656B2 (en) 1988-12-09 1988-12-09 Image motion vector detection device and shake correction device

Publications (2)

Publication Number Publication Date
JPH02157980A JPH02157980A (en) 1990-06-18
JP2809656B2 true JP2809656B2 (en) 1998-10-15

Family

ID=18027495

Family Applications (1)

Application Number Title Priority Date Filing Date
JP63312292A Expired - Fee Related JP2809656B2 (en) 1988-12-09 1988-12-09 Image motion vector detection device and shake correction device

Country Status (1)

Country Link
JP (1) JP2809656B2 (en)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04180370A (en) * 1990-11-14 1992-06-26 Matsushita Electric Ind Co Ltd Image motion vector detection device and shake correction device
JP2595841B2 (en) * 1991-07-17 1997-04-02 松下電器産業株式会社 Motion detection circuit
JP2584383B2 (en) * 1992-03-02 1997-02-26 三洋電機株式会社 Video camera shake control device
JPH05122590A (en) * 1991-10-24 1993-05-18 Sanyo Electric Co Ltd Motion vector specifying circuit for video camera with blurring correcting function
US5835641A (en) * 1992-10-14 1998-11-10 Mitsubishi Denki Kabushiki Kaisha Image pick-up apparatus for detecting and enlarging registered objects
JP2005260481A (en) * 2004-03-10 2005-09-22 Olympus Corp Device and method for detecting motion vector and camera
JP2007279800A (en) * 2006-04-03 2007-10-25 Seiko Epson Corp Motion vector detection apparatus, motion vector detection method, camera shake correction apparatus, camera shake correction method, camera shake correction program, and moving image display apparatus including camera shake correction apparatus
JP4985201B2 (en) * 2007-08-07 2012-07-25 ソニー株式会社 Electronic device, motion vector detection method and program
JP5074322B2 (en) * 2008-08-05 2012-11-14 オリンパス株式会社 Image processing apparatus, image processing method, image processing program, and imaging apparatus
JP5388910B2 (en) 2010-03-10 2014-01-15 パナソニック株式会社 Image shake correction apparatus and image shake correction method

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61201584A (en) * 1985-03-04 1986-09-06 Toshiba Corp Dynamic vector detector
JPS61269475A (en) * 1985-05-23 1986-11-28 Toshiba Corp Detection system for dynamic vector
JPH0683436B2 (en) * 1985-07-26 1994-10-19 ソニー株式会社 Motion vector detection method
JPH01125074A (en) * 1987-11-10 1989-05-17 Fuji Photo Film Co Ltd Solid-state image pickup device

Also Published As

Publication number Publication date
JPH02157980A (en) 1990-06-18

Similar Documents

Publication Publication Date Title
JP2940762B2 (en) Video camera with image stabilization device
JP3149840B2 (en) Apparatus and method for detecting motion vector
US20090237516A1 (en) Method and system for intelligent and efficient camera motion estimation for video stabilization
JPH04229795A (en) Video system converter correcting movement
JP2809656B2 (en) Image motion vector detection device and shake correction device
JPH11177880A (en) Video stabilizing apparatus using bit plane matching and method thereof
JP2957851B2 (en) Image stabilization method
US7463285B2 (en) Image pickup apparatus and camera-shake correcting method therefor
JPH04213973A (en) Image shake corrector
JPH0522645A (en) Motion detection circuit
JP3218615B2 (en) Moving object detection device, image motion vector detection device, and shake correction device
JP2971513B2 (en) Image motion vector detection device and shake correction device
JP3225598B2 (en) Image shake detection device
JP3639640B2 (en) Motion vector detection device
JPH05328201A (en) Image stabilization device
JP2506499B2 (en) Image motion vector detection device and shake correction device
JPH0575913A (en) Motion vector detecting circuit and jiggling correcting circuit
JP3213348B2 (en) Pan / tilt processing circuit of camera shake correction camera
JP3223582B2 (en) Image shake detection device
JP2669987B2 (en) Video camera shake detection device
JPH10191149A (en) Image processing apparatus and method, and camera-integrated VTR
JP2925890B2 (en) Video camera with image stabilization device
JP3252411B2 (en) Image vibration correction device
JP2512207B2 (en) Motion vector detection device and shake correction device
JP3221052B2 (en) Image shake detection device

Legal Events

Date Code Title Description
LAPS Cancellation because of no payment of annual fees