JP3137216B2 - Focus area setting device - Google Patents
Focus area setting deviceInfo
- Publication number
- JP3137216B2 JP3137216B2 JP35928792A JP35928792A JP3137216B2 JP 3137216 B2 JP3137216 B2 JP 3137216B2 JP 35928792 A JP35928792 A JP 35928792A JP 35928792 A JP35928792 A JP 35928792A JP 3137216 B2 JP3137216 B2 JP 3137216B2
- Authority
- JP
- Japan
- Prior art keywords
- focus area
- sight
- line
- focus
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B2213/00—Viewfinders; Focusing aids for cameras; Means for focusing for cameras; Autofocus systems for cameras
- G03B2213/02—Viewfinders
- G03B2213/025—Sightline detection
Landscapes
- Focusing (AREA)
- Viewfinders (AREA)
- Automatic Focus Adjustment (AREA)
Description
【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION
【0001】[0001]
【産業上の利用分野】本発明は、撮影者の視線方向を検
出し、該視線方向の情報を用いてフォーカスエリアを設
定するフォーカスエリア設定装置に関する。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a focus area setting device for detecting a direction of a photographer's line of sight and setting a focus area using information on the line of sight.
【0002】[0002]
【従来の技術】従来、カメラへの各種情報の入手は、例
えばダイアル、ボタン等によって行われており、入力情
報が増加するに従って操作環境は煩雑になっている。2. Description of the Related Art Conventionally, various types of information have been obtained from a camera by, for example, a dial or a button, and the operating environment has become complicated as input information has increased.
【0003】例えば、ファインダを覗く撮影者の視線方
向を検出し、その視線の情報よりカメラに情報入力する
技術は、特開昭60−33505号公報、特開平1−1
90177号公報、特開昭61−61135号公報、特
開昭63−94232号公報等により多数開示されてい
る。For example, Japanese Patent Application Laid-Open No. Sho 60-33505 and Japanese Patent Application Laid-Open No. 1-155 / 1999 disclose a technique of detecting the direction of a photographer's line of sight looking into a finder and inputting information to a camera based on the line of sight information.
No. 90177, JP-A-61-61135, JP-A-63-94232.
【0004】さらに、近年のカメラにおいては、フォー
カスエリアが広い範囲に配置されるようになり、フォー
カスエリアの設定に関しては煩雑さを少なくするために
カメラが自動的に設定するものである。Further, in recent cameras, a focus area is arranged in a wide range, and the camera automatically sets a focus area in order to reduce complexity.
【0005】しかし、このようなカメラであっても、撮
影者の意図する所に自動的にフォーカスエリアが設定さ
れるとは限らない。また、マニュアル操作によりフォー
カスエリアを設定するには、まだ煩雑さが残り、撮影者
が任意の場所にフォーカスエリアを設定するための設定
操作の容易性が重要になってきている。However, even with such a camera, a focus area is not always automatically set at a place intended by a photographer. Further, setting a focus area by manual operation is still complicated, and easiness of a setting operation for a photographer to set a focus area at an arbitrary position has become important.
【0006】そこで、上述したように視線方向を検出し
て、その検出結果に応じてフォーカスエリアを設定する
装置が提案されている。Therefore, there has been proposed an apparatus which detects the direction of the line of sight as described above and sets a focus area according to the detection result.
【0007】[0007]
【発明が解決しようとする課題】前述したように、視線
方向を検出して、その検出結果に応じてフォーカスエリ
アを設定する場合、個人差の調整を行ってもファインダ
をのぞく位置(眼鏡あり/なし等)や個人の使用状態に
よっては必ずしもフォーカスエリアを的確に設定できな
い場合がある。As described above, when the direction of the line of sight is detected and the focus area is set in accordance with the detection result, the position (with or without glasses) that looks through the finder even if individual differences are adjusted. None, etc.) and the use state of an individual may not always set the focus area accurately.
【0008】また、視線にて設定されたフォーカスエリ
アを視線以外にて変更するような場合も発生する。[0008] In some cases, the focus area set by the line of sight is changed by other than the line of sight.
【0009】本発明のフォーカスエリア設定装置はこの
ような課題に着目してなされたものであり、その目的と
するところは、設定されたフォーカスエリアを手動操作
によって変更することによって、不必要な眼の動きを撮
影者にしいることなく、フォーカスエリア設定の操作性
を向上させることができるフォーカスエリア設定装置を
提供することにある。The focus area setting device of the present invention has been made in view of such a problem, and its purpose is to change the set focus area by a manual operation so that unnecessary eyes can be changed. An object of the present invention is to provide a focus area setting device capable of improving the operability of the focus area setting without changing the movement of the photographer to the photographer.
【0010】[0010]
【課題を解決するための手段】上記の目的を達成するた
めに、本発明のフォーカスエリア設定装置は、複数の測
距フレームを有し、1stレリーズがON状態のときに
被写体距離の測定を行う測距手段と、撮影者のファイン
ダ内の視線方向を検出する視線検出手段と、上記視線検
出手段からの出力に基づいてフォーカスエリアを設定す
るフォーカスエリア設定手段と、上記フォーカスエリア
設定手段により設定されたフォーカスエリアを、上記1
stレリーズがON状態のときに、手動操作に基づいて
変更させるフォーカスエリア変更手段とを具備する。In order to achieve the above object, a focus area setting device according to the present invention has a plurality of distance measuring frames, and is provided when a first release is in an ON state.
Distance measuring means for measuring a subject distance; gaze detection means for detecting a gaze direction in a finder of a photographer; focus area setting means for setting a focus area based on an output from the gaze detection means; The focus area set by the area setting means is set to 1
a focus area changing unit that changes the st release based on a manual operation when the st release is in an ON state .
【0011】[0011]
【作用】すなわち、本発明のフォーカスエリア設定装置
においては、撮影者のファインダ内の視線方向を検出し
てこの検出出力に基づいてフォーカスエリアを設定す
る。そして、設定されたフォーカスエリアを、1stレ
リーズがON状態のときに、手動操作に基づいて変更す
る。In other words, the focus area setting device of the present invention detects the direction of the line of sight of the photographer in the viewfinder and sets the focus area based on the detected output. Then, the set focus area is changed to the first focus.
When the release is ON, the value is changed based on a manual operation.
【0012】[0012]
【実施例】本発明の実施例について説明する前に、本発
明に採用される視線検出の原理について説明する。尚、
視線方向を検出する方法としては種々の方法が挙げられ
るが、ここでは、カメラに適用できる方法としてプルキ
ンエ像と眼底の反射像、又は虹彩のエッジを用いて検出
する方法について簡単に述べる。DESCRIPTION OF THE PREFERRED EMBODIMENTS Before describing the embodiments of the present invention, the principle of gaze detection employed in the present invention will be described. still,
There are various methods for detecting the direction of the line of sight, and here, as a method applicable to a camera, a method of detecting using a Purkinje image and a reflection image of the fundus, or an edge of an iris will be briefly described.
【0013】図13に示すように、一般に、光95が眼
球90を通過すると、各界面部ごとに反射が生じる。即
ち、角膜前面91、角膜後面91′、水晶体の前面9
3′、水晶体の後面93″の各界面で反射される。そし
て、これらの反射によって結ばれる像は当業者によく知
られているもので、一般にはプルキンエ像と称されてい
る。As shown in FIG. 13, in general, when light 95 passes through an eyeball 90, reflection occurs at each interface. Anterior corneal surface 91, posterior corneal surface 91 ', anterior surface 9 of the lens
3 ', reflected at each interface of the posterior surface 93 "of the lens. The image formed by these reflections is well known to those skilled in the art and is generally called a Purkinje image.
【0014】そして、各界面部からの反射像を各々第1
プルキンエ像、第2プルキンエ像、第3プルキンエ像、
第4プルキンエ像と称される。尚、同図において、符号
92は虹彩、93は水晶体、94は網膜、97は強膜を
それぞれ示す。Then, the reflected images from the respective interface portions are respectively
Purkinje statue, second Purkinje statue, third Purkinje statue,
It is called the fourth Purkinje image. In the figure, reference numeral 92 indicates an iris, 93 indicates a crystalline lens, 94 indicates a retina, and 97 indicates a sclera.
【0015】本発明は、上記第1プルキンエ像を利用し
て視線を検出するもので、該第1プルキンエ像は角膜前
面91からの反射光によって結ばれる光源の虚像であ
り、単に角膜反射像とも呼ばれる最も強い反射像であ
る。In the present invention, the line of sight is detected using the first Purkinje image. The first Purkinje image is a virtual image of a light source formed by light reflected from the front surface of the cornea 91, and is simply referred to as a corneal reflection image. It is the strongest reflection image called.
【0016】この反射像である第1プルキンエ像95a
の様子は図14により示され、眼球90に光を投光し、
その反射像をとらえると受光出力の高い第1プルキンエ
像が検出される。なお、上記第1プルキンエ像95a以
外のプルキンエ像は反射光量が弱く反射像のできる位置
が異なる為、検出することは難しい。The first Purkinje image 95a which is the reflection image
14 is shown in FIG. 14 and emits light to the eyeball 90,
When the reflected image is captured, a first Purkinje image having a high light receiving output is detected. Note that it is difficult to detect Purkinje images other than the first Purkinje image 95a because the amount of reflected light is weak and the position where the reflected image can be formed is different.
【0017】そして、眼球90に光を投光した時に眼底
からの反射光95bにより眼底像が瞳孔の周縁92’の
シルエットとして検出される。この眼底からの反射像9
5bは第1プルキンエ像95aと共に図14に示してあ
るが、この2つの像を用いて視線方向を検出する。Then, when light is projected onto the eyeball 90, the fundus image is detected as a silhouette of the peripheral edge 92 ' of the pupil by the reflected light 95b from the fundus. Reflected image 9 from this fundus
5b is shown in FIG. 14 together with the first Purkinje image 95a, and the gaze direction is detected using these two images.
【0018】上記検出像は、眼球の回転により図15に
示すように変化する。即ち、眼球90の光軸98と眼に
投光する光束が平行になる場合は、図15(a)に示す
ように、眼底像95bの中心、即ち瞳孔中心と第1プル
キンエ像95aの中心が一致している。The detected image changes as shown in FIG. 15 due to the rotation of the eyeball. That is, when the optical axis 98 of the eyeball 90 is parallel to the light beam projected to the eye, the center of the fundus image 95b, that is, the center of the pupil and the center of the first Purkinje image 95a are arranged as shown in FIG. Match.
【0019】そして、眼球90が回転した場合には、図
15(b)に示すように光軸98が眼球90の回転中心
90cを中心に回転している。その場合、眼底像95b
の中心は眼からの反射光を受光するセンサ画素列上の異
なった位置に受光できる。When the eyeball 90 rotates, the optical axis 98 rotates about the rotation center 90c of the eyeball 90 as shown in FIG. In that case, the fundus image 95b
Can be received at different positions on the sensor pixel row that receives the reflected light from the eye.
【0020】さらに、第1プルキンエ像95aの中心は
眼底像95bの中心とも相対的に異なる位置に受光す
る。これは、角膜91の前面に持つ曲面の中心が眼球の
回転中心と異なる為である。Further, the center of the first Purkinje image 95a receives light at a position relatively different from the center of the fundus image 95b. This is because the center of the curved surface in front of the cornea 91 is different from the center of rotation of the eyeball.
【0021】従って、この2つの像のセンサ画素列に対
する絶対位置のずれと上記2つの像の相対的なずれによ
り、ファインダをのぞく撮影者の眼球90の回転量とシ
フト量を求めることができ、更には撮影者がどこを見て
いるか判別することができる。Therefore, the amount of rotation and the amount of shift of the eyeball 90 of the photographer except for the finder can be obtained from the displacement of the absolute positions of the two images with respect to the sensor pixel row and the relative displacement of the two images. Further, it is possible to determine where the photographer is looking.
【0022】次に、本発明が採用した視線検出像に対す
る処理について説明する。Next, the processing on the visual axis detection image employed by the present invention will be described.
【0023】角膜反射像95a及び眼底反射像95bが
明確に検出されている場合には正確に視線検出すること
が可能であるが、眼底反射像95bが歪んでいる場合や
角膜反射像95aが正確に検出されていない場合には正
確に視線検出することが不可能である。When the corneal reflection image 95a and the fundus reflection image 95b are clearly detected, it is possible to accurately detect the line of sight. However, when the fundus reflection image 95b is distorted or the corneal reflection image 95a is not accurate. If it is not detected, it is impossible to detect the line of sight accurately.
【0024】そこで、図4(a)に示すように微分処理
し、更に図4(b)に示すように上記微分処理された信
号を絶対値処理する。そして、図4(c)に示すように
上記絶対値処理された信号を所定のレベルVsにて2値
化することで、図4(d)に示すように、正常に視線検
出された場合に4つの信号成分が検出される。Therefore, the differential processing is performed as shown in FIG. 4A, and the absolute value processing is performed on the signal subjected to the differential processing as shown in FIG. 4B. Then, by binarizing the signal subjected to the absolute value processing at a predetermined level Vs as shown in FIG. 4C, when the line of sight is normally detected as shown in FIG. Four signal components are detected.
【0025】本発明では、このような演算により視線検
出像の信頼性を判断している。In the present invention, the reliability of the visual line detection image is determined by such a calculation.
【0026】一方、上記眼球90の回転角の検出につい
ては、図5(a)に示すような視線検出像に対して上記
したような処理を行い、図5(b)に示すような信号を
得る。尚、図5(a)、(b)共に横軸は画素列の座標
を示す。On the other hand, for detecting the rotation angle of the eyeball 90, the above-described processing is performed on the visual line detection image as shown in FIG. 5A, and a signal as shown in FIG. obtain. Note that, in both FIGS. 5A and 5B, the horizontal axis indicates the coordinates of the pixel row.
【0027】そして、図5(b)に示す信号において、
信号a、dの中心をA、信号b、cの中心をBとし、こ
のA、B間の長さを像の中心位置間隔Xとすると、図5
(c)に示すように、この中心位置間隔Xと眼球の回転
角θとは比例関係となる。本発明では、このような関係
より回転角を算出している。Then, in the signal shown in FIG.
Assuming that the center of the signals a and d is A, the center of the signals b and c is B, and the length between A and B is the center position interval X of the image, FIG.
As shown in (c), the center position interval X is proportional to the rotation angle θ of the eyeball. In the present invention, the rotation angle is calculated from such a relationship.
【0028】以下、前述したような原理に基づく本発明
の実施例について説明する。An embodiment of the present invention based on the above-described principle will be described below.
【0029】図1は本発明の第1の実施例の構成を示す
図である。同図に示すように、撮影者のファインダ内の
視線を検出する視線検出装置1は、視線情報等にてフォ
ーカスエリアを設定するフォーカスエリア設定装置3に
接続され、また視線以外の信号にてフォーカスエリアを
可変するフォーカスエリア変更装置4もフォーカスエリ
ア設定装置3に接続される。フォーカスエリア設定装置
3は設定されたフォーカスエリアを表示する表示装置5
と設定されたフォーカスエリアに対して合焦点動作を行
うマルチ測距装置に接続される。FIG. 1 is a diagram showing the configuration of the first embodiment of the present invention. As shown in FIG. 1, a line-of-sight detection device 1 that detects a line of sight of a photographer in a finder is connected to a focus area setting device 3 that sets a focus area based on line-of-sight information and the like. The focus area changing device 4 for changing the area is also connected to the focus area setting device 3. The focus area setting device 3 is a display device 5 for displaying the set focus area.
Is connected to a multi-ranging device that performs a focusing operation on a focus area set as follows.
【0030】このような構成において、最初に設定され
るフォーカスエリアは視線検出装置1の視線信号にてフ
ォーカスエリア設定装置3によって設定され、表示装置
5に表示されるとともにマルチ測距装置2にて合焦動作
(測距、レンズ駆動)が行われる。In such a configuration, the focus area initially set is set by the focus area setting device 3 based on the line-of-sight signal of the line-of-sight detecting device 1 , displayed on the display device 5, and displayed by the multi-ranging device 2 . A focusing operation (ranging, lens driving) is performed.
【0031】また視線にて設定されたフォーカスエリア
を変更するためのフォーカスエリア変更装置4から信号
をフォーカスエリア設定装置3が受けた場合、フォーカ
スエリア変更装置4の信号に応じてフォーカスエリア設
定装置3がフォーカスエリアを変更し、変更されたフォ
ーカスエリアを表示装置5に表示するとともに変更され
たフォーカスエリアに対して合焦動作を行う。When the focus area setting device 3 receives a signal from the focus area changing device 4 for changing the focus area set by the line of sight, the focus area setting device 3 responds to the signal from the focus area changing device 4. Changes the focus area, displays the changed focus area on the display device 5, and performs a focusing operation on the changed focus area.
【0032】図2は、本発明の第2の実施例の構成を示
す図である。FIG. 2 is a diagram showing the configuration of the second embodiment of the present invention.
【0033】同図に示すように、マルチ測距回路11は
中央演算処理装置(CPU)13に接続されており、該
CPU13は表示回路14に接続されている。そして、
上記CPU13は撮影レンズ12にも接続されている。As shown in FIG. 1, the multi-ranging circuit 11 is connected to a central processing unit (CPU) 13, which is connected to a display circuit 14. And
The CPU 13 is also connected to the taking lens 12.
【0034】さらに、上記CPU13は投光LED17
にも接続されており、該投光LED17及びファインダ
光学系16は視線検出光学系15に接続されている。そ
して、上記視線検出光学系15は視線センサ19に接続
されており、該視線センサ19はアナログ/ディジタル
(A/D)回路18を介して上記CPU13に接続され
ている。さらに、上記CPU13はフォーカスエリア変
更スイッチ20に接続されている。Further, the CPU 13 is provided with a light emitting LED 17.
The projection LED 17 and the finder optical system 16 are connected to the visual line detection optical system 15. The line-of-sight detection optical system 15 is connected to a line-of-sight sensor 19, and the line-of-sight sensor 19 is connected to the CPU 13 via an analog / digital (A / D) circuit 18. Further, the CPU 13 is connected to a focus area change switch 20.
【0035】このような構成において、CPU13から
の指令を受けると、投光LED17より視線検出光学系
15及びファインダ光学系16を介して不図示の眼球に
対して光が投光される。そして、この眼球からの反射光
は再びファインダ光学系16、視線検出光学系15を介
して視線センサ19に受光される。そして、この視線セ
ンサ19からの出力信号は、A/D回路18によりディ
ジタル信号に変換された後、CPU13に入力される。In such a configuration, when a command from the CPU 13 is received, light is emitted from the light emitting LED 17 to the eyeball (not shown) via the line-of-sight detection optical system 15 and the finder optical system 16. Then, the reflected light from the eyeball is again received by the line-of-sight sensor 19 via the finder optical system 16 and the line-of-sight detection optical system 15. The output signal from the line-of-sight sensor 19 is converted into a digital signal by the A / D circuit 18 and then input to the CPU 13.
【0036】マルチ測距回路11では、設定されたフォ
ーカスエリアにおいて測距が行われる。さらに、CPU
13では、マルチ測距回路11からの信号に基づいて合
焦点情報が設定されると共に撮影レンズ12の駆動量が
算出され、撮影レンズ12が駆動される。The multi-ranging circuit 11 measures a distance in a set focus area. Furthermore, CPU
At 13, focusing information is set based on a signal from the multi-ranging circuit 11, a driving amount of the photographing lens 12 is calculated, and the photographing lens 12 is driven.
【0037】また、CPU13では、上記A/D回路1
8からのディジタル信号に基づいて視線方向が検出さ
れ、この視線方向が上記視線検出領域の場合にはフォー
カスエリアが設定され、該フォーカスエリア情報は表示
回路14に出力される。そして、表示回路14ではフォ
ーカスエリアに関する情報が表示される。In the CPU 13, the A / D circuit 1
The line-of-sight direction is detected based on the digital signal from 8, and when the line-of-sight direction is the above-mentioned line-of-sight detection area, a focus area is set, and the focus area information is output to the display circuit 14. Then, the display circuit 14 displays information about the focus area.
【0038】さらに、フォーカスエリア変更スイッチ2
0は視線にて設定されたフォーカスエリアを変更したい
場合に変更信号をCPU13に送り、CPU13ではフ
ォーカスエリア変更スイッチ20の変更信号に応じてフ
ォーカスエリアを変更する。マルチ測距回路11は、変
更されたフォーカスエリアにおいて測距が行われる。ま
た、表示回路14は、変更されたフォーカスエリアの表
示を行う。Further, a focus area change switch 2
A value of 0 sends a change signal to the CPU 13 when it is desired to change the focus area set by the line of sight, and the CPU 13 changes the focus area according to the change signal of the focus area change switch 20. The multi-ranging circuit 11 measures the distance in the changed focus area. The display circuit 14 displays the changed focus area.
【0039】図3は、上記視線検出光学系15の詳細な
構成を示す図である。同図に示すように、投光LED1
7からの投光光の光路上には投光レンズ21を介してハ
ーフミラー22が配置されており、上記投光光は該ハー
フミラー22により反射される。そして、この反射光の
光路上にはプリズム23が配置されており、反射光はプ
リズム23の反射面23aに反射され、ファインダ24
を介して撮影者の眼球90へと導かれる。FIG. 3 is a diagram showing a detailed configuration of the visual axis detection optical system 15. As shown in FIG.
A half mirror 22 is disposed on the optical path of the light projected from the light source 7 via a light projecting lens 21, and the projected light is reflected by the half mirror 22. Then, a prism 23 is disposed on the optical path of the reflected light, and the reflected light is reflected by the reflecting surface 23a of the prism 23, and is reflected by the finder 24.
To the eyeball 90 of the photographer.
【0040】上記撮影者の眼球からの反射光は、入射光
と同じ光路を通ってファインダ24を介してプリズム2
3に入射され、その反射面23aにて反射される。そし
て、この反射光はハーフミラー22を透過し、受光レン
ズ25を介して視線センサ19に受光される。The reflected light from the photographer's eyeball passes through the same optical path as the incident light and passes through the finder 24 through the prism 2.
3 and is reflected by the reflection surface 23a. The reflected light passes through the half mirror 22 and is received by the line-of-sight sensor 19 via the light receiving lens 25.
【0041】一方、被写体光は、該被写体光に重ねて表
示を示す表示液晶26を介してプリズムに入射され、そ
の反射面23aを透過して、更にファインダ24を介し
て撮影者の眼球90へと導かれる。On the other hand, the subject light is incident on the prism via the display liquid crystal 26 which is superimposed on the subject light, and transmitted through the reflecting surface 23a, and further to the photographer's eyeball 90 via the finder 24. It is led.
【0042】以下、図6のフローチャートを参照して、
本実施例のメインシーケンスについて説明する。シーケ
ンスをスタートすると(ステップS101)、まず、1
stレリーズ(1stR)の状態の検出を行う(ステッ
プS102)。1stRが“OFF”の場合ステップS
102へもどり、1stRが“ON”の場合はイニシャ
ライズ(フラグF、DF(フラグについては後に説明す
る)、カウンタFC、タイマTを0にし、フォーカスエ
リアを中央に設定)を行う(ステップS103)。Hereinafter, referring to the flowchart of FIG.
The main sequence of the present embodiment will be described. When the sequence is started (step S101), first, 1
The state of the first release (1stR) is detected (step S102). Step S when 1stR is “OFF”
Returning to step 102, if 1stR is "ON", initialization is performed (the flags F and DF (the flags will be described later), the counter FC and the timer T are set to 0, and the focus area is set to the center) (step S103).
【0043】ステップS104では、視線検出のための
サブルーチンプログラムを行う。このサブルーチンプロ
グラムの動作の詳細については後述する。続いて、視線
にて検出された情報に基づいてフォーカスエリアを設定
し、フォーカスエリアを表示回路14に表示する(ステ
ップS105)。In step S104, a subroutine program for line-of-sight detection is performed. Details of the operation of this subroutine program will be described later. Subsequently, a focus area is set based on the information detected by the line of sight, and the focus area is displayed on the display circuit 14 (step S105).
【0044】視線にて設定されたフォーカスエリアにて
合焦動作(AF:測距、駆動)を行う(ステップS10
6)。次に、再度1stRの状態判定を行う(ステップ
S111)。1stRが“OFF”(1stRが離され
た)の場合、本シーケンスを終了し(ステップS13
5)、1stRが“ON”の場合フォーカスエリア変更
スイッチ20からの入力検出(パルス信号として入力さ
れる)を行う(ステップS112)。A focusing operation (AF: distance measurement, driving) is performed in a focus area set by the line of sight (step S10).
6). Next, the state of 1stR is determined again (step S111). If the 1stR is “OFF” (1stR is released), this sequence ends (step S13).
5) When 1stR is "ON" Input detection from the focus area change switch 20 (input as a pulse signal) is performed (step S112).
【0045】フォーカスエリア変更スイッチ20からの
入力があった場合ステップS121へ行き、フォーカス
エリア変更スイッチ20からの入力がない場合、フラグ
F(フォーカスエリア変更スイッチ20からの入力があ
った場合“1”となり、確定すると、“0”にもどる)
の状態判定を行う(ステップS113)。If there is an input from the focus area change switch 20, the process proceeds to step S121. If there is no input from the focus area change switch 20, the flag F (if the input from the focus area change switch 20 is "1"). And when it is determined, it returns to "0")
Is determined (step S113 ).
【0046】フラグFが“1”の場合、S126へ行
き、フラグFが“0”の場合、2ndレリーズ(2nd
R)の状態判定を行う(ステップ114)。2ndRが
“OFF”の場合ステップS111へもどり、2ndR
が“ON”の場合AF以降のカメラシーケンス(露光、
巻き上げ等)を行い、ステップS135へ行く(ステッ
プS115)。When the flag F is "1", the flow goes to S126, and when the flag F is "0", the second release (2nd release) is performed.
R) is determined (step 114). If 2ndR is "OFF", the process returns to step S111 and returns to 2ndR.
Is “ON”, the camera sequence after AF (exposure,
Winding, etc.) and go to step S135 (step S115).
【0047】ステップS112にてフォーカスエリア変
更スイッチ20からの入力があった場合、タイマTをリ
セットする(ステップS121)。そしてタイマTの時
間カウントを開始する(ステップS122)。フォーカ
スエリア変更スイッチ20から入力されたパルス信号を
up/downカウンタFCにてカウントし、FCの状
態に応じてフラグDF(フォーカスエリアの移動方向を
決定し、“1”の場合左側、“0”の場合右側へ視線に
よって設定されたフォーカスエリア位置からシフト)を
設定する(ステップS123)。次に、フラグFを
“1”に設定する(ステップS124)。次に、変更さ
れたフォーカスエリアを表示する(ステップS12
5)。次にタイマTの状態判定を行う(ステップS12
6)。If there is an input from the focus area change switch 20 in step S112, the timer T is reset (step S121). Then, the timer T starts counting time (step S122). The pulse signal input from the focus area change switch 20 is counted by an up / down counter FC, and a flag DF is determined according to the state of the FC (the moving direction of the focus area is determined. In the case of (1), a shift from the focus area position set by the line of sight to the right is set (step S123). Next, the flag F is set to "1" (step S124). Next, the changed focus area is displayed (step S12).
5). Next, the state of the timer T is determined (step S12).
6).
【0048】タイマTがオーバーフローしてない場合ス
テップS111にもどり、タイマTがオーバーフローし
た場合、FC、DFの信号に応じてフォーカスエリアを
変更確定を行う(ステップS131)。次にフラグFを
“0”に設定する(ステップS132)。変更されたフ
ォーカスエリアにて合焦動作(AF)を行い、ステップ
S111へもどる(ステップS133)。If the timer T has not overflown, the flow returns to step S111. If the timer T has overflown, the change of the focus area is determined according to the FC and DF signals (step S131). Next, the flag F is set to "0" (step S132). A focusing operation (AF) is performed in the changed focus area, and the process returns to step S111 (step S133).
【0049】次に、図7のフローチャートを参照して、
上記視線検出のサブルーチンプログラムのシーケンスに
ついて説明する。Next, referring to the flowchart of FIG.
The sequence of the above-described line-of-sight detection subroutine program will be described.
【0050】本サブルーチンプログラムを開始すると
(ステップS201)、まず、視線データをメモリに記
憶する(ステップS202)。そして、この記憶した視
線データに対して微分処理を行う(ステップS20
3)。さらに、この微分処理した信号を所定のレベルで
2値化処理した後(ステップS205)、角膜反射と眼
底反射の重心距離Xを算出し(ステップS206)、本
シーケンスを抜ける(ステップS207)。When the present subroutine program is started (step S201), first, line-of-sight data is stored in a memory (step S202). Then, a differentiation process is performed on the stored line-of-sight data (step S20).
3). Further, after the signal subjected to the differential processing is binarized at a predetermined level (step S205), the centroid distance X between the corneal reflection and the fundus reflection is calculated (step S206), and the process exits from this sequence (step S207).
【0051】次に、図6のステップS123での方向判
定、移動量判定に関して説明する。図8はフォーカスエ
リア変更スイッチ20とCPU13の信号関係を示す。
フォーカスエリア変更スイッチ20からは撮影者のフォ
ーカスエリア変更の操作によりPA、DAの2種類の信
号が発生し、CPU13ではPA、DAの信号を基にフ
ォーカスエリアの移動方向と移動量を決定する。Next, the direction determination and the movement amount determination in step S123 of FIG. 6 will be described. FIG. 8 shows a signal relationship between the focus area change switch 20 and the CPU 13.
The focus area change switch 20 generates two types of signals, PA and DA, by the photographer's operation of changing the focus area. The CPU 13 determines the direction and amount of movement of the focus area based on the PA and DA signals.
【0052】図9は1方向にフォーカスエリアが配置さ
れた場合のフォーカスエリア変更スイッチ20の実装を
示す。視線入力使用時はAFモードであり、フォーカス
エリア入力スイッチは(a)においてレンズ鏡筒部のフ
ォーカスリングにて行う。FIG. 9 shows the mounting of the focus area change switch 20 when the focus area is arranged in one direction. When the line of sight input is used, the AF mode is set, and the focus area input switch is set by the focus ring of the lens barrel in FIG.
【0053】図16にファインダーの様子を示す。
(a)は視線にてフォーカスエリアが設定された状態を
示し、(b)はフォーカスエリア変更スイッチ20にて
右に1ステップ移動した状態を示す。FIG. 16 shows the viewfinder.
(A) shows a state in which the focus area is set with the line of sight, and (b) shows a state in which the focus area change switch 20 has moved rightward by one step.
【0054】図10はフォーカスエリア変更スイッチ2
0からのPA、DA信号の様子を示す。フォーカスエリ
ア変更スイッチ20の操作により位相がずれた信号P
A、DA(スイッチ信号をチャタリング防止回路にて処
理した信号)が発生する。(a)は左方向への移動、
(b)は右方向への移動を示す。(c)は実際のフォー
カスエリア変更スイッチ20の信号発生パターン状態を
示す。斜線部は“ON”状態、その他は“OFF”状態
を示す。FIG. 10 shows a focus area change switch 2.
The state of the PA and DA signals from 0 is shown. The signal P out of phase due to the operation of the focus area change switch 20
A and DA (signals obtained by processing the switch signal by the chattering prevention circuit) are generated. (A) moves to the left,
(B) shows a rightward movement. (C) shows an actual signal generation pattern state of the focus area change switch 20. The hatched portion indicates the “ON” state, and the others indicate the “OFF” state.
【0055】図11はCPU13による方向判定のフロ
ーチャートを示す。まず、PA信号の変化(立ち上がり
信号)に応じてDAの信号状態を検出し(ステップS3
02)、DA信号の状態判定を行う(ステップS30
3)。DA=“H”の場合、up/downカウンタF
Cをインクリメント(FC=FC+1)する(ステップ
S311)。DA=“L”の場合、up/downカウ
ンタFCをデクリメント(FC=FC−1)する(ステ
ップS312)。FIG. 11 shows a flowchart of the direction determination by the CPU 13. First, the signal state of DA is detected according to the change of the PA signal (rising signal) (step S3).
02), the state of the DA signal is determined (step S30)
3). When DA = "H", up / down counter F
C is incremented (FC = FC + 1) (step S311). If DA = "L", the up / down counter FC is decremented (FC = FC-1) (step S312).
【0056】次に、FCの状態判定を行う(ステップS
313)。FC>0の場合、フラグDFをDF=“1”
に設定する(ステップS321)。FC>0でない場合
フラグDFをDF=“0”に設定する(ステップS32
2)。そして本シーケンスを終了する(ステップS32
3)。Next, the state of the FC is determined (step S).
313). When FC> 0, the flag DF is set to DF = "1"
(Step S321). If FC> 0, the flag DF is set to DF = "0" (step S32).
2). Then, the present sequence ends (step S32).
3).
【0057】以上、本発明の一実施例について説明した
が、本発明はこれに限定されることなく種々の改良、変
更が可能であることは勿論である。Although the embodiment of the present invention has been described above, it is needless to say that the present invention is not limited to this embodiment, and various improvements and modifications can be made.
【0058】例えば、全てのフォーカスエリアに対して
前もってAFしておき、フォーカスエリアの変更(視線
入力、スイッチ入力)に際してレンズ駆動のみを行って
もよい。また、フォーカスエリアの表示は液晶以外(ホ
ログラム素子)を用いてもよい。また、フォーカスエリ
ア変更スイッチ20は図9(b)のようにカメラ背部に
配置してもよい。For example, AF may be performed on all focus areas in advance, and only lens drive may be performed when changing the focus area (visual line input, switch input). The display of the focus area may use a hologram element other than the liquid crystal. Further, the focus area change switch 20 may be arranged on the back of the camera as shown in FIG.
【0059】さらに、2次元的な変更に関しては特願平
02−235074号公報のような方式を用いてもよい
(図17は2次元的にフォーカスエリアを有する場合
で、(a)は視線によってフォーカスエリアが設定され
た状態を示し、(b)はフォーカスエリア変更スイッチ
20にて右下方向に1ステップ変更された状態を示し、
(c)は(a)から下方に2ステップ変更された状態を
示す。)。Further, for a two-dimensional change, a method as disclosed in Japanese Patent Application No. 02-235074 may be used (FIG. 17 shows a case where a two-dimensional focus area is provided, and FIG. (B) shows a state where the focus area is changed by one step in the lower right direction by the focus area change switch 20,
(C) shows a state where two steps have been changed downward from (a). ).
【0060】また、変更されたフォーカスエリアの確定
を所定時間の経過にて決定しているが、他のスイッチと
組み合わせてもよく、また、スイッチ入力直後に確定を
行ってもよい。Although the determination of the changed focus area is determined after a predetermined time has elapsed, it may be combined with another switch, or may be determined immediately after the switch is input.
【0061】図12に本発明の第3の実施例のメインフ
ローを示す。本実施例では、フォーカスエリア変更スイ
ッチ20の操作にて設定された所定の位置にフォーカス
エリアを設定する。ステップS401からステップS4
06に関しては図6のS101からS106までと同じ
シーケンスを行う。FIG. 12 shows a main flow of the third embodiment of the present invention. In this embodiment, the focus area is set at a predetermined position set by operating the focus area change switch 20. Step S401 to step S4
For 06, the same sequence as in S101 to S106 in FIG. 6 is performed.
【0062】次に、再度、1stRの状態判定を行う
(ステップS411)。1stRが“OFF”(1st
Rが離された)の場合、本シーケンスを終了し(ステッ
プS426)、1stRが“ON”の場合フォーカスエ
リア変更スイッチ20からの入力検出(パルス信号とし
て入力される)を行う(ステップS412)。Next, the state of 1stR is determined again (step S411). 1stR is “OFF” (1stR
If R is released, the present sequence is terminated (step S426), and if 1stR is "ON", input detection from the focus area change switch 20 (input as a pulse signal) is performed (step S412).
【0063】フォーカスエリア変更スイッチ20からの
入力があった場合ステップS421へ行き、フォーカス
エリア変更スイッチ20からの入力がない場合、2nd
レリーズ(2ndR)の状態判定を行う(ステップS4
13)。If there is an input from the focus area change switch 20, the flow proceeds to step S421, and if there is no input from the focus area change switch 20, 2nd
The release (2ndR) state is determined (step S4).
13).
【0064】2ndRが“OFF”の場合ステップS4
11へもどり、2ndRが“ON”の場合AF以降のカ
メラシーケンス(露光、巻き上げ等)を行い、ステップ
S426へ行く(ステップS414)。When 2ndR is "OFF" Step S4
Returning to step 11, if 2ndR is "ON", the camera sequence (exposure, winding up, etc.) after AF is performed, and the procedure goes to step S426 (step S414).
【0065】ステップS412にてフォーカスエリア変
更スイッチ20からの入力があった場合、フラグF(フ
ォーカスエリア変更スイッチ20からの入力があった場
合“1”となり、確定すると、“0”にもどる)の状態
判定を行う(ステップS421)。フラグFが“1”の
場合、S411へ行き、フラグFが“0”の場合、所定
のフォーカスエリアの位置(不図示の水銀スイッチ等の
カメラの縦横位置検出装置にてカメラの位置判定を行
い、カメラ横位置の場合中央のフォーカスエリア、カメ
ラ縦位置の場合中央よりやや上の位置のフォーカスエリ
ア)に設定する(ステップS422)。次に変更された
フォーカスエリアを表示する(ステップS423)。変
更されたフォーカスエリアにて合焦動作(AF)を行い
(ステップS424)、ステップS111へもどる。フ
ラグFを“1”に設定し、ステップS411へもどる
(ステップS425)。In step S 412, if there is an input from the focus area change switch 20, the flag F (set to “1” when there is an input from the focus area change switch 20, and if set, return to “0”) A state determination is performed (step S421). If the flag F is "1", the flow proceeds to S411, and if the flag F is "0", the position of the predetermined focus area (camera position determination is performed by a camera vertical / horizontal position detecting device such as a mercury switch (not shown). In the case of the camera horizontal position, it is set to the center focus area, and in the case of the camera vertical position, it is set to the focus area slightly above the center (step S422). Next, the changed focus area is displayed (step S423). Perform focusing operation (AF) in the changed focus area
(Step S424), the process returns to step S111. The flag F is set to "1", and the process returns to step S411 (step S425).
【0066】図18、19にファインダーの様子を示
す。図18は横位置の場合、図19は縦位置の場合を示
す。FIGS. 18 and 19 show the viewfinder. FIG. 18 shows the case of the horizontal position, and FIG. 19 shows the case of the vertical position.
【0067】図18(a)は視線にて設定されたフォー
カスエリアの状態を示し、(b)はフォーカスエリア変
更スイッチ20にて所定位置(中央)にフォーカスエリ
アが変更された状態を示す。FIG. 18A shows a state of the focus area set by the line of sight, and FIG. 18B shows a state in which the focus area is changed to a predetermined position (center) by the focus area change switch 20.
【0068】図19(a)は視線にて設定されたフォー
カスエリアの状態を示し、(b)はフォーカスエリア変
更スイッチ20にて所定位置にフォーカスエリアが変更
された状態を示す。FIG. 19A shows a state of the focus area set by the line of sight, and FIG. 19B shows a state where the focus area is changed to a predetermined position by the focus area change switch 20.
【0069】以上、本発明の実施例について説明した
が、本発明はこれに限定されることなく種々の改良、変
更が可能であることは勿論である。Although the embodiments of the present invention have been described above, it is needless to say that the present invention is not limited to the embodiments and that various improvements and modifications can be made.
【0070】例えば、全てのフォーカスエリアに対して
前もってAFしておき、フォーカスエリアの変更(視線
入力、スイッチ入力)に際してレンズ駆動のみを行って
もよい。また、フォーカスエリアの表示は液晶以外(ホ
ログラム素子)を用いてもよい。また、フォーカスエリ
ア変更スイッチボタン入力としてもよい。For example, AF may be performed on all focus areas in advance, and only lens drive may be performed when changing the focus area (view input, switch input). The display of the focus area may use a hologram element other than the liquid crystal. Alternatively, a focus area change switch button input may be used.
【0071】また、フォーカスエリア変更スイッチ20
によって設定される所定フォーカスエリア位置は撮影者
が前もって設定してもよい。またICカード等にて設定
してもよく、また、撮影モードにて設定してもよい。ま
た、フォーカスエリアの大きさを大きくしてもよい(ワ
イドフォーカスに設定)。The focus area change switch 20
May be set in advance by the photographer. Alternatively, the setting may be made with an IC card or the like, or may be set in a shooting mode. Further, the size of the focus area may be increased (set to wide focus).
【0072】[0072]
【発明の効果】以上詳述したように、本発明によれば、
設定されたフォーカスエリアを手動操作で変更すること
で、不必要な眼の動きを撮影者にしいることなく、フォ
ーカスエリア設定の操作性を向上させることができる。As described in detail above, according to the present invention,
By changing the set focus area by manual operation, the operability of the focus area setting can be improved without making unnecessary eye movements to the photographer.
【図1】本発明の第1の実施例の構成を示す図である。FIG. 1 is a diagram showing a configuration of a first exemplary embodiment of the present invention.
【図2】本発明の第2の実施例の構成を示す図である。FIG. 2 is a diagram showing a configuration of a second exemplary embodiment of the present invention.
【図3】視線検出光学系の詳細な構成を示す図である。FIG. 3 is a diagram showing a detailed configuration of a visual line detection optical system.
【図4】視線検出処理工程を説明するための図である。FIG. 4 is a diagram for explaining a gaze detection processing step.
【図5】眼球の回転角の検出処理工程を説明するための
図である。FIG. 5 is a diagram for explaining a detection process of a rotation angle of an eyeball.
【図6】本実施例のメインシーケンスを説明するための
フローチャートである。FIG. 6 is a flowchart for explaining a main sequence of the present embodiment.
【図7】視線検出のサブルーチン工程を示すフローチャ
ートである。FIG. 7 is a flowchart illustrating a subroutine process of gaze detection.
【図8】フォーカスエリア変更スイッチとCPUとの信
号関係を示す図である。FIG. 8 is a diagram illustrating a signal relationship between a focus area change switch and a CPU.
【図9】1方向にフォーカスエリアが配置された場合の
フォーカスエリア変更スイッチの実装図である。FIG. 9 is a mounting diagram of a focus area change switch when a focus area is arranged in one direction.
【図10】フォーカスエリア変更スイッチからのPA、
DA信号の様子を示す図である。FIG. 10 shows PA from a focus area change switch,
FIG. 3 is a diagram illustrating a state of a DA signal.
【図11】CPUのフォーカスエリア変更信号の扱いの
フローチャートである。FIG. 11 is a flowchart of handling of a focus area change signal by a CPU.
【図12】本発明の第3の実施例のメインフローを説明
するためのフローチャートである。FIG. 12 is a flowchart illustrating a main flow of a third embodiment of the present invention.
【図13】プルキンエ像が形成される過程を説明するた
めの図である。FIG. 13 is a diagram for explaining a process in which a Purkinje image is formed.
【図14】第1プルキンエ像の様子を示す図である。FIG. 14 is a diagram illustrating a state of a first Purkinje image.
【図15】眼球の回転による検出像の変化を説明するた
めの図である。FIG. 15 is a diagram for explaining a change in a detected image due to rotation of an eyeball.
【図16】ファインダーの様子を示す図である。FIG. 16 is a diagram showing a viewfinder.
【図17】2次元的にフォーカスエリアを有する場合の
変形例を説明するための図である。FIG. 17 is a diagram for describing a modification in which a focus area is provided two-dimensionally.
【図18】横位置の場合のファインダーの様子を示す。FIG. 18 shows a viewfinder in a horizontal position.
【図19】縦位置の場合のファインダーの様子を示す。FIG. 19 shows a viewfinder in a vertical position.
1…視線検出装置、2…マルチ測距装置、3…フォーカ
スエリア設定装置、4…フォーカスエリア変更装置、5
…表示装置。DESCRIPTION OF SYMBOLS 1 ... Eye gaze detection device, 2 ... Multi-ranging device, 3 ... Focus area setting device, 4 ... Focus area change device, 5
... display device.
───────────────────────────────────────────────────── フロントページの続き (58)調査した分野(Int.Cl.7,DB名) G02B 7/28 - 7/40 G03B 3/00 - 3/12 ──────────────────────────────────────────────────続 き Continued on the front page (58) Fields surveyed (Int. Cl. 7 , DB name) G02B 7/ 28-7/40 G03B 3/00-3/12
Claims (1)
ズがON状態のときに被写体距離の測定を行う測距手段
と、 撮影者のファインダ内の視線方向を検出する視線検出手
段と、 上記視線検出手段からの出力に基づいてフォーカスエリ
アを設定するフォーカスエリア設定手段と、 上記フォーカスエリア設定手段により設定されたフォー
カスエリアを、上記1stレリーズがON状態のとき
に、手動操作に基づいて変更させるフォーカスエリア変
更手段と、 を具備することを特徴とするフォーカスエリア設定装
置。A first frame having a plurality of distance measurement frames;
Distance measuring means for measuring the subject distance when the camera is in the ON state; gaze detecting means for detecting the gaze direction in the viewfinder of the photographer; and focus for setting a focus area based on the output from the gaze detecting means. Area setting means, and the focus area set by the focus area setting means , when the first release is in the ON state.
And a focus area changing means for changing the focus area based on a manual operation.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP35928792A JP3137216B2 (en) | 1992-12-25 | 1992-12-25 | Focus area setting device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP35928792A JP3137216B2 (en) | 1992-12-25 | 1992-12-25 | Focus area setting device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH06201984A JPH06201984A (en) | 1994-07-22 |
| JP3137216B2 true JP3137216B2 (en) | 2001-02-19 |
Family
ID=18463732
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP35928792A Expired - Fee Related JP3137216B2 (en) | 1992-12-25 | 1992-12-25 | Focus area setting device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3137216B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008170645A (en) | 2007-01-10 | 2008-07-24 | Olympus Corp | Focus controller and imaging apparatus |
-
1992
- 1992-12-25 JP JP35928792A patent/JP3137216B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JPH06201984A (en) | 1994-07-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US5598248A (en) | Optical apparatus having visual point detection function | |
| US5987151A (en) | Apparatus for detecting visual axis | |
| JPH07151950A (en) | camera | |
| JPH08563A (en) | Optical device and camera | |
| JP2749818B2 (en) | Eye gaze detection device | |
| US5402199A (en) | Visual axis detecting apparatus | |
| JP3137216B2 (en) | Focus area setting device | |
| JP3304408B2 (en) | Gaze detection device and device having gaze detection device | |
| JP3109870B2 (en) | Video camera | |
| JP3256294B2 (en) | Eye gaze detection apparatus and eye gaze detection method | |
| JP3344757B2 (en) | Focus area setting device | |
| JPH07151958A (en) | Optical device with gaze detection function | |
| JP3219491B2 (en) | Eye gaze detection device | |
| JP3605080B2 (en) | Eye gaze detection device | |
| JP3605081B2 (en) | Eye gaze detection device | |
| JP3171698B2 (en) | Camera focal length control device | |
| JP3134320B2 (en) | Eye gaze detection device | |
| JP3184634B2 (en) | Optical device having line-of-sight detection device | |
| JP3391892B2 (en) | Eye gaze detecting device, optical device, and eye gaze detecting method | |
| JP2733260B2 (en) | Detection device and optical equipment | |
| JP2995878B2 (en) | Optical device having line-of-sight detection device | |
| JP3186249B2 (en) | Eye gaze detection device and eye gaze detection method | |
| JPH04138431A (en) | Camera having detection means for line of sight | |
| JPH06186617A (en) | Camera | |
| JPH05232372A (en) | Camera provided with device for detecting line of sight |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 19990525 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081208 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081208 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091208 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101208 Year of fee payment: 10 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111208 Year of fee payment: 11 |
|
| LAPS | Cancellation because of no payment of annual fees |