Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4385973B2 - Car window management device - Google Patents
[go: Go Back, main page]

JP4385973B2 - Car window management device - Google Patents

Car window management device Download PDF

Info

Publication number
JP4385973B2
JP4385973B2 JP2005082201A JP2005082201A JP4385973B2 JP 4385973 B2 JP4385973 B2 JP 4385973B2 JP 2005082201 A JP2005082201 A JP 2005082201A JP 2005082201 A JP2005082201 A JP 2005082201A JP 4385973 B2 JP4385973 B2 JP 4385973B2
Authority
JP
Japan
Prior art keywords
vehicle
window
vehicle window
change
physical environment
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005082201A
Other languages
Japanese (ja)
Other versions
JP2006265865A (en
Inventor
武 塚本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2005082201A priority Critical patent/JP4385973B2/en
Publication of JP2006265865A publication Critical patent/JP2006265865A/en
Application granted granted Critical
Publication of JP4385973B2 publication Critical patent/JP4385973B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Power-Operated Mechanisms For Wings (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Window Of Vehicle (AREA)

Description

この発明は、自動車に開閉可能に設けられている車窓の状態を管理する車窓管理装置に関する。   The present invention relates to a vehicle window management device that manages the state of a vehicle window that can be opened and closed in an automobile.

従来、この種の車窓管理装置としては、例えば特許文献1に記載されている装置が知られている。図12に、この特許文献1に記載されている装置をもとにその概要を示す。
同図12に示されるように、この車窓管理装置は、リミットスイッチ100、イグニッションスイッチ110、および警報装置120を備えて構成されている。このうち、リミットスイッチ100は、例えば窓ガラスの収納部に設けられて、窓が閉められた状態にあるか否か、すなわち窓が開状態(スイッチオン)にあるか、あるいは閉状態(スイッチオフ)にあるかを窓開閉情報(オン/オフ情報)として警報装置120に伝達するスイッチである。また、イグニッションスイッチ110は、車載エンジン(図示略)の始動および停止を操作する周知のスイッチであり、そのスイッチ状態情報(オン/オフ情報)が同じく警報装置120に伝達される。そして警報装置120は、これら伝達される情報に基づき、イグニッションスイッチ110がオフ状態にあるときに(車両が停車しているときに)、リミットスイッチ100から上記窓の開状態を示す情報(スイッチオン情報)が出力されていることを条件に、窓の閉め忘れと判断して、その旨を運転者に警報する装置である。このような車窓管理装置が車両(自動車)に搭載されることで、下車時等に運転者が窓を閉め忘れる等の不都合も回避されるようになる。
実開平2−7162号公報
Conventionally, as this kind of vehicle window management device, for example, a device described in Patent Document 1 is known. FIG. 12 shows an outline of the apparatus described in Patent Document 1.
As shown in FIG. 12, the vehicle window management device includes a limit switch 100, an ignition switch 110, and an alarm device 120. Of these, the limit switch 100 is provided, for example, in a window glass storage portion, whether the window is in a closed state, that is, whether the window is in an open state (switch-on) or a closed state (switch-off). ) Is transmitted to the alarm device 120 as window opening / closing information (on / off information). The ignition switch 110 is a known switch for operating start and stop of an in-vehicle engine (not shown), and its switch state information (on / off information) is also transmitted to the alarm device 120. Based on the information transmitted to the alarm device 120, when the ignition switch 110 is in an off state (when the vehicle is stopped), information indicating the open state of the window from the limit switch 100 (switch on) It is a device that judges that the window has been forgotten to be closed on the condition that (information) is output, and warns the driver accordingly. By mounting such a vehicle window management device on a vehicle (automobile), inconveniences such as the driver forgetting to close the window when getting off the vehicle can be avoided.
Japanese Utility Model Publication No. 2-7162

ところで、上記従来の車窓管理装置の場合、窓を開けたまま車両が駐車される等の不都合は確かに回避可能とはなっているものの、警報装置による警報によって運転者が窓の閉め忘れに気づいたときには運転者自らの操作によって窓を閉めざるを得ず、車窓の状態を管理する装置としてはいまだ改善の余地を残すものとなっている。しかも近年は、車両が走行中であっても、運転者が車両の運転に集中することができるような車窓管理の実現が望まれてもいる。   By the way, in the case of the above conventional vehicle window management device, although it is possible to avoid the inconvenience such as parking the vehicle with the window open, the driver notices that the window forgets to close the window by the alarm device. When the driver is forced to close the window by the driver's own operation, the device for managing the state of the vehicle window still leaves room for improvement. Moreover, in recent years, it has been desired to realize vehicle window management that allows the driver to concentrate on driving the vehicle even when the vehicle is running.

この発明は、こうした実情に鑑みてなされたものであって、その目的は、車両がおかれるその都度の状況に応じて窓の開閉等に関するより適切な自動管理を実現することのできる車窓管理装置を提供することにある。   The present invention has been made in view of such circumstances, and the purpose thereof is a vehicle window management device capable of realizing more appropriate automatic management related to opening and closing of windows according to the situation of each time a vehicle is placed. Is to provide.

こうした目的を達成するため、請求項1に記載の発明では、自動車に開閉可能に設けられている車窓の状態を自動管理する車窓管理装置として、当該車両のおかれている物理環境の変化を監視する監視手段と、該監視される物理環境の変化に応じて前記車窓の状態を制御する制御手段とを備える制御手段を備え、前記監視手段は、車室内から当該車両の前方の画像を撮像する車両前方撮像装置と、該車両前方撮像装置を通じて撮像される画像の画像情報から前記物理環境の変化に対応する特徴量を抽出して同物理環境の変化を検出する画像処理装置とを備えるとともに、前記制御手段は、この検出される物理環境の変化に基づき、車室内の環境が該変化した物理環境に適合する状態に維持されるように前記車窓の状態を制御するものであって、前記監視手段を通じて検出される物理環境の変化が当該車両の前方での大型車両の検出であり、前記制御手段は、該車両の前方に大型車両が検出されることに基づいて前記車窓を全閉に制御することとした。 In order to achieve such an object, according to the first aspect of the present invention, as a vehicle window management device that automatically manages the state of a vehicle window that can be opened and closed in an automobile, a change in the physical environment in which the vehicle is located is monitored. And a control unit that controls the state of the vehicle window according to a change in the monitored physical environment, and the monitoring unit captures an image in front of the vehicle from the passenger compartment. A vehicle front imaging device, and an image processing device that extracts a feature amount corresponding to a change in the physical environment from image information of an image captured through the vehicle front imaging device and detects a change in the physical environment, and The control means controls the state of the vehicle window based on the detected change in the physical environment so that the environment in the vehicle interior is maintained in a state suitable for the changed physical environment. The change in the physical environment detected through the monitoring means is detection of a large vehicle in front of the vehicle, and the control means fully closes the vehicle window based on detection of the large vehicle in front of the vehicle. We decided to control it.

車窓管理装置としてのこのような構成によれば、車両がおかれるその都度の状況が前記監視手段を通じて監視され、その都度の状況に応じた窓の開閉等に関するより適切な自動管理が前記制御手段を通じてなされるようになる。
また、上記構成では、前記監視手段として、車室内から当該車両の前方の画像を撮像する車両前方撮像装置と、該車両前方撮像装置を通じて撮像される画像の画像情報から前記物理環境の変化に対応する特徴量を抽出して同物理環境の変化を検出する画像処理装置とを備えるとともに、この検出される物理環境の変化に基づき、車室内の環境が該変化した物理環境に適合する状態に維持されるように前記車窓の状態を制御する前記制御手段を備えることとしているため、特に車両が走行中において、運転者が車両の運転に集中することのできる車窓の自動管理の実現も容易となる。
加えて、上記構成では、前記監視手段を通じて検出される物理環境の変化が当該車両の前方での大型車両の検出であるとき、前記制御手段は、該車両の前方に大型車両が検出されることに基づいて前記車窓を全閉に制御することとしているため、当該車両の前方を走行する大型車両の排気ガスが車室内に侵入することが未然に防止されるようになる。すなわち、車室内の空気が清浄に保たれることとなる。
According to such a configuration as the vehicle window management device, the situation of each time the vehicle is placed is monitored through the monitoring means, and more appropriate automatic management relating to opening and closing of the window according to the situation of each time is performed by the control means. It will be done through.
Further, in the above configuration, as the monitoring means, a vehicle front imaging device that captures an image in front of the vehicle from the passenger compartment and a change in the physical environment from image information of an image captured through the vehicle front imaging device. And an image processing device that detects changes in the physical environment and maintains the vehicle interior environment suitable for the changed physical environment based on the detected physical environment change. As described above, since the control means for controlling the state of the vehicle window is provided, it is easy to realize automatic management of the vehicle window that allows the driver to concentrate on driving the vehicle, particularly when the vehicle is traveling. .
In addition, in the above configuration, when the change in the physical environment detected through the monitoring unit is detection of a large vehicle in front of the vehicle, the control unit detects the large vehicle in front of the vehicle. Accordingly, the vehicle window is controlled to be fully closed, so that the exhaust gas of a large vehicle traveling in front of the vehicle is prevented from entering the vehicle compartment. That is, the air in the passenger compartment is kept clean.

また、上記請求項1に記載の車窓管理装置において、請求項2に記載の発明では、前記監視手段として、車室内から前記開閉可能に設けられている車窓近傍の画像を撮像する車室内撮像装置と、該車室内撮像装置を通じて撮像される画像の画像情報から前記物理環境の変化に対応する特徴量を抽出して同物理環境の変化を検出する画像処理装置とをさらに備えるとともに、この検出される物理環境の変化に基づき、車室内の環境が該変化した物理環境に適合する状態に維持されるように前記車窓の状態を制御する前記制御手段を備えることとした。このような構成により、特に車両が走行中において、運転者が車両の運転に集中することのできるような車窓の自動管理の実現も、容易なものとなる。 In the vehicle window management device according to claim 1, in the invention according to claim 2, the vehicle interior imaging device that captures an image in the vicinity of the vehicle window that can be opened and closed from the vehicle interior as the monitoring means. When, along with further comprising an image processing device for detecting a change in the extracted and the physical environment feature amount corresponding to the change of the physical environment from the image information of the image captured through該車indoor imaging device, this is detected The control means for controlling the state of the vehicle window so that the environment in the vehicle interior is maintained in a state suitable for the changed physical environment based on a change in the physical environment. With such a configuration, it is also easy to realize automatic management of the vehicle window so that the driver can concentrate on driving the vehicle, particularly when the vehicle is traveling.

具体的には、上記請求項2に記載の車窓管理装置において、例えば請求項3に記載の発明によるように、前記監視手段を通じて検出される物理環境の変化が前記車窓への雨滴の付着であるとき、前記制御手段は、該雨滴の付着が検出されることに基づいて前記車窓を全閉に制御することとすれば、例えば車窓を開けて走行している際、突然、雨が降り出したとしても、前記制御手段によって車窓が全閉に制御されるため、車室内に雨が入り込むようなこともなくなるようになる。   Specifically, in the vehicle window management device according to claim 2, as in the invention according to claim 3, for example, the change in the physical environment detected through the monitoring means is the attachment of raindrops to the vehicle window. When the control means controls the vehicle window to be fully closed based on the detection of the attachment of the raindrop, for example, when the vehicle is running with the vehicle window opened, it suddenly starts raining. However, since the vehicle window is controlled to be fully closed by the control means, rain does not enter the vehicle interior.

また、上記請求項2または3に記載の車窓管理装置において、例えば請求項4に記載の発明によるように、前記監視手段を通じて検出される物理環境の変化が昼間から夜間への移行であるとき、前記制御手段は、該夜間への移行が検出されることに基づいて前記車窓を全閉に制御することとすれば、例えば夜間、車窓が開いた状態のまま車両が停車される、あるいは駐車されることが未然に防止されるようになる。   Further, in the vehicle window management device according to claim 2 or 3, when the change in the physical environment detected through the monitoring means is a transition from daytime to nighttime, for example, according to the invention according to claim 4, If the control means controls the vehicle window to be fully closed based on the detection of the shift to night, for example, the vehicle is stopped or parked with the vehicle window open at night. Is prevented in advance.

また、上記請求項2〜4のいずれか一項に記載の車窓管理装置において、例えば請求項5に記載の発明によるように、前記監視手段を通じて検出される物理環境の変化が車窓近傍での乗員の検出であるとき、前記制御手段は、該車窓近傍での乗員の検出が維持されている間、前記車窓の状態にかかる制御を停止することすれば、例えば乗員が窓から手などを車外に出していることを検出している間、車窓の状態にかかる制御が禁止されるため、乗員の安全に配慮したかたちで車窓の管理を行うことができるようになる。   Further, in the vehicle window management device according to any one of claims 2 to 4, for example, according to the invention according to claim 5, a change in a physical environment detected through the monitoring means is detected in the vicinity of the vehicle window. If the control means stops the control over the state of the vehicle window while the detection of the passenger in the vicinity of the vehicle window is maintained, for example, the passenger removes the hand from the window. While it is detected that the vehicle is being released, control over the state of the vehicle window is prohibited, so that the vehicle window can be managed in consideration of the safety of passengers.

また、上記請求項1〜5のいずれか一項に記載の車窓管理装置においては、例えば請求項6に記載の発明によるように、
(イ)前記監視手段は、車室内の温度を測定する温度センサからの温度情報に基づき前記物理環境の変化として車室内の温度の変化を検出する手段をさらに備え、前記制御手段は、該検出される車室内の温度の変化に基づき同車室内の温度上昇が抑制される態様で前記車窓の開度を制御する。
あるいは請求項7に記載の発明によるように、
(ロ)前記監視手段は、車室内の温度を測定する温度センサからの温度情報と車室外の温度を測定する温度センサからの温度情報とに基づき前記物理環境の変化として車室内外の温度差の変化を検出する手段をさらに備え、前記制御手段は、該検出される車室内外の温度差の変化に基づき車室内の温度上昇が抑制される態様で前記車窓の開度を制御する。
等々の構成を採用することも、車室内の温度を適切な温度に保つ上で有効である。
In the vehicle window management device according to any one of claims 1 to 5, for example, according to the invention according to claim 6,
(A) The monitoring means further includes means for detecting a change in temperature in the vehicle interior as a change in the physical environment based on temperature information from a temperature sensor that measures the temperature in the vehicle interior, and the control means includes the detection The opening degree of the vehicle window is controlled in such a manner that a temperature rise in the vehicle interior is suppressed based on a change in the temperature in the vehicle interior.
Or, according to the invention of claim 7,
(B) The monitoring means includes a temperature difference between the outside and inside of the vehicle as a change in the physical environment based on temperature information from a temperature sensor that measures the temperature inside the vehicle and temperature information from a temperature sensor that measures the temperature outside the vehicle. change further comprising means for detecting the said control means controls the car window opening in a manner that temperature rise in the vehicle compartment based on a change in temperature difference between the vehicle cabin outer issued該検is suppressed.
Adopting such a configuration is also effective in keeping the temperature in the passenger compartment at an appropriate temperature.

すなわち、上記(イ)の構成によれば、例えば炎天下において車両が駐車されるとき、車室内の温度上昇が好適に抑制されるため、乗員が車両に搭乗した際の不快感を低減させることができるようになる。また上記(ロ)の構成によれば、車室内外の温度差の変化に基づき車窓の開度が制御されることにより、より的確に車室内の温度上昇を抑制することができるようになる。   That is, according to the configuration of (a) above, for example, when the vehicle is parked under hot weather, the temperature rise in the passenger compartment is suitably suppressed, so that discomfort when the occupant gets into the vehicle can be reduced. become able to. Further, according to the configuration (b), the opening of the vehicle window is controlled based on the change in the temperature difference between the inside and outside of the vehicle interior, so that the temperature rise in the vehicle interior can be more accurately suppressed.

また、上記請求項1〜7のいずれか一項に記載の車窓管理装置において、請求項8に記載の発明によるように、前記制御手段は、当該車両のイグニッションスイッチがオフとなっていることを条件に前記車窓の状態にかかる制御を実行することとすれば、特に車両が駐車中であっても、上述した車窓の自動管理がなされるようになる。   Further, in the vehicle window management device according to any one of claims 1 to 7, as in the invention according to claim 8, the control means is configured such that the ignition switch of the vehicle is off. If the control related to the state of the vehicle window is executed as a condition, the above-described automatic management of the vehicle window is performed even when the vehicle is parked.

また、上記請求項1〜8のいずれか一項に記載の車窓管理装置において、例えば請求項に記載の発明によるように、前記監視手段を通じて検出される物理環境の変化が当該車両の前方でのトンネルの検出であるとき、前記制御手段は、該車両の前方にトンネルが検出されることに基づいて前記車窓を全閉に制御することとすれば、トンネル内にこもっている排気ガスが車室内に侵入することが未然に防止されるようになるとともに、車室内の温度の低下も未然に防止されるようになる。すなわち、車室内の空気が清浄に保たれ、しかも車室内の温度変化が抑制されることとなる。 Further, in the vehicle window management device according to any one of claims 1 to 8 , for example, according to the invention according to claim 9 , a change in physical environment detected through the monitoring means is detected in front of the vehicle. When the tunnel is detected in front of the vehicle, the control means controls the vehicle window to be fully closed based on the detection of the tunnel in front of the vehicle. Intrusion into the room is prevented in advance, and a decrease in the temperature in the passenger compartment is also prevented. That is, the air in the passenger compartment is kept clean and temperature changes in the passenger compartment are suppressed.

また、上記請求項1〜のいずれか一項に記載の車窓管理装置において、請求項1に記載の発明では、前記制御手段が、前記車窓が開いている状態にある間、乗員にその旨を警告表示する表示手段をさらに備えることとした。これにより、車窓の自動管理を実行しながらも、車窓が開いている状態にあることに対し、注意を喚起することができるようになる。 Further, in the car window management apparatus according to any one of the claims 1-9, in the invention according to claim 1 0, while the control means, in a state in which the car window is open, its occupants It is further provided with a display means for displaying a warning to that effect. This makes it possible to call attention to the fact that the vehicle window is open while performing automatic management of the vehicle window.

図1〜図11に、この発明にかかる車窓管理装置についてその一実施の形態を示す。この実施の形態では、以下に詳述するように、監視手段を構成する車室内撮像装置により、車窓への雨滴の付着、昼間から夜間への移行、あるいは車窓近傍での乗員を検出し、また監視手段を構成する温度センサにより、車室内の温度および車室外の温度を測定する。またさらに、これも監視手段を構成する車両前方撮像装置により、車両の前方での大型車両あるいはトンネルの有無を検出する。そして、これら検出結果(監視結果)に基づいて窓用モータを駆動させることで、車両がおかれるその都度の状況に応じて窓の開閉等に関する適切な自動管理を実現するようにしている。   1 to 11 show an embodiment of a vehicle window management device according to the present invention. In this embodiment, as will be described in detail below, the vehicle interior imaging device that constitutes the monitoring means detects the attachment of raindrops to the vehicle window, the transition from daytime to nighttime, or passengers near the vehicle window, and The temperature sensor constituting the monitoring means measures the temperature inside the vehicle interior and the temperature outside the vehicle interior. Furthermore, the presence or absence of a large vehicle or a tunnel in front of the vehicle is detected by a vehicle front imaging device that also constitutes monitoring means. Then, by driving the window motor based on these detection results (monitoring results), appropriate automatic management relating to opening and closing of the window is realized according to the situation each time the vehicle is placed.

はじめに、図1および図2を参照しつつ、この実施の形態にかかる車窓管理装置の構成について説明する。なお、図1(a)は、この実施の形態の装置の構成についてその概要を示す側面図であり、図1(b)は、撮像装置を中心に図1(a)の一部を拡大して示す側面図である。また、図2は、この実施の形態の装置を構成する各構成要素間の電気的な接続態様および信号の流れを示すブロック図である。   First, the configuration of the vehicle window management apparatus according to this embodiment will be described with reference to FIGS. 1 and 2. FIG. 1A is a side view showing an outline of the configuration of the apparatus according to this embodiment, and FIG. 1B is an enlarged view of a part of FIG. FIG. FIG. 2 is a block diagram showing an electrical connection mode and signal flow between the components constituting the apparatus of this embodiment.

この実施の形態の窓管理装置は、これら図1および図2に示されるように、大きくは、
・車両のフロントウインドウ10と車室内に設けられるルームミラー11との間に、車室の内側から同フロントウインドウ10に当接して設けられるケース12。
・同ケース12内に車室内に向けて収容されて、車室内から開閉可能に設けられている車窓近傍の画像を撮像する車室内撮像装置20。
・同ケース12内に車両前方に向けて収容されて、車室内から車両の前方の画像を撮像する車両前方撮像装置30。
・車両の所定の位置に配設されて、車室内の温度および車室外の温度を測定する温度センサ40。
・車室内撮像装置20および車両前方撮像装置30を通じて撮像される画像情報から物理環境の変化に対応する特徴量を抽出し、同物理環境の変化を検出する画像処理部(画像処理装置)50a。
・同画像処理部50aが画像処理を行う際に必要なマスターパターン等の情報を記憶保持する記憶部50b。
・同画像処理部50aおよび同温度センサ40を通じて検出される物理環境の変化に基づき、車室内の環境が該変化した物理環境に適合する状態に維持されるように、窓用モータ60を通じて車窓70の状態を制御する判断・制御部(制御手段)50c。
・車両の所定の位置に配設されて、マイクロコンピュータ50(判断・制御部50c)から出力される窓開閉情報を受け、車窓70が開いている状態にある間、乗員にその旨を警告表示する表示装置(表示手段)80。
等々を備えて構成されている。
As shown in FIGS. 1 and 2, the window management device of this embodiment is largely
A case 12 provided between the front window 10 of the vehicle and a room mirror 11 provided in the passenger compartment, in contact with the front window 10 from the inside of the passenger compartment.
A vehicle interior imaging device 20 that captures an image in the vicinity of the vehicle window that is accommodated in the case 12 toward the vehicle interior and that can be opened and closed from the vehicle interior.
A vehicle forward imaging device 30 that is accommodated in the case 12 toward the front of the vehicle and captures an image in front of the vehicle from the passenger compartment.
A temperature sensor 40 that is disposed at a predetermined position of the vehicle and measures the temperature inside the vehicle compartment and the temperature outside the vehicle compartment.
An image processing unit (image processing device) 50a that extracts a feature amount corresponding to a change in the physical environment from image information captured through the vehicle interior imaging device 20 and the vehicle front imaging device 30, and detects the change in the physical environment.
A storage unit 50b that stores and holds information such as a master pattern necessary when the image processing unit 50a performs image processing.
Based on the change in the physical environment detected through the image processing unit 50a and the temperature sensor 40, the vehicle window 70 is passed through the window motor 60 so that the environment in the vehicle interior is maintained in a state compatible with the changed physical environment. Determination / control unit (control means) 50c for controlling the state of
-It is arranged at a predetermined position of the vehicle, receives window opening / closing information output from the microcomputer 50 (judgment / control unit 50c), and displays a warning to the passenger while the vehicle window 70 is open. Display device (display means) 80
And so on.

ここで、この実施の形態では、上記車室内撮像装置20および車両前方撮像装置30として、例えばCCD(Charge Coupled Device)カメラを採用している。このうち車室内撮像装置20は、レンズおよびCCD等をその内部に備えており、その焦点深度が例えば1m程度に設定されている。すなわち、この車室内撮像装置20のCCDには、車窓70の外側(すなわち車外)の風景が結像されることなく、車窓70に付着する雨滴、車窓70近傍に存在する乗員、および半開状態にある車窓70の上端部等の像が主に結像されるようにしている。そしてこの車室内撮像装置20は、この結像された画像情報を車室内画像IMG1としてマイクロコンピュータ50(画像処理部50a)へ出力している。他方、車室内撮像装置20と同様に、車両前方撮像装置30もレンズおよびCCD等をその内部に備えており、その焦点距離は例えば無限大に設定されている。すなわち、この車両前方撮像装置30のCCDには、フロントウインドウ10上のよごれや雨滴などの付着物は結像されず、車両の前方に存在するトンネルやトラックなどの大型車両の像が主に結像されるようにしている。そしてこの車両前方撮像装置30は、このようにして結像された画像情報を車両前方画像IMG2としてマイクロコンピュータ50(画像処理部50a)へ出力している。なお、これら車室内撮像装置20および車両前方撮像装置30はそれぞれ、上述のようにして得られる車室内画像IMG1および車両前方画像IMG2における物理環境の変化に対応する特徴量に基づき、画像処理部50aによる各物理量の検出が可能な程度の十分な分解能を有している。   Here, in this embodiment, a CCD (Charge Coupled Device) camera, for example, is employed as the vehicle interior imaging device 20 and the vehicle front imaging device 30. Among these, the vehicle interior imaging device 20 includes a lens, a CCD, and the like therein, and the depth of focus is set to about 1 m, for example. That is, on the CCD of the vehicle interior imaging device 20, the scenery outside the vehicle window 70 (that is, outside the vehicle) is not imaged, but raindrops adhering to the vehicle window 70, passengers existing in the vicinity of the vehicle window 70, and a half-open state An image such as an upper end portion of a certain car window 70 is mainly formed. And this vehicle interior imaging device 20 is outputting this imaged image information to the microcomputer 50 (image processing part 50a) as vehicle interior image IMG1. On the other hand, like the vehicle interior image pickup device 20, the vehicle front image pickup device 30 also includes a lens, a CCD, and the like therein, and its focal length is set to infinity, for example. In other words, dirt and raindrops on the front window 10 are not imaged on the CCD of the vehicle front imaging device 30, and an image of a large vehicle such as a tunnel or a truck that exists in front of the vehicle is mainly formed. I am trying to be imaged. The vehicle front imaging device 30 outputs the image information formed in this way to the microcomputer 50 (image processing unit 50a) as a vehicle front image IMG2. The vehicle interior imaging device 20 and the vehicle front imaging device 30 are respectively based on feature amounts corresponding to changes in the physical environment in the vehicle interior image IMG1 and the vehicle front image IMG2 obtained as described above. It has a sufficient resolution that each physical quantity can be detected.

一方、画像処理部50aは上述のように、上記車室内撮像装置20から入力される車室内画像IMG1に基づいて、大きくは、
(A1)車窓70に付着した雨滴。
(A2)車窓70近傍の乗員。
(A3)半開状態にある車窓70の上端部。
(A4)昼間から夜間への移行。
等々の検出を実行し、それら検出結果に応じて各種フラグの設定あるいは解除を行う。
On the other hand, as described above, the image processing unit 50a is based on the vehicle interior image IMG1 input from the vehicle interior imaging device 20, and
(A1) Raindrops attached to the vehicle window 70.
(A2) A passenger near the vehicle window 70.
(A3) The upper end portion of the vehicle window 70 in the half-open state.
(A4) Transition from daytime to nighttime.
Etc., and various flags are set or canceled according to the detection results.

このうち、上記(A1)〜(A3)の検出に際しては、車室内撮像装置20から入力される上記車室内画像IMG1に対し、例えばラプラシアンフィルタ等を通じて画像における雨滴の輪郭、車窓70近傍の乗員の輪郭、および半開状態にある車窓70の上端部の輪郭を抽出し、該抽出した輪郭をさらに2値化画像に変換する。そして、この2値化画像中におけるそれぞれの特徴量と、マイクロコンピュータ50自身が内蔵する記憶部50bに記憶保持されているマスターパターンとの比較に基づくパターンマッチングを行うことにより、それぞれの検出を行う。   Among these, when detecting the above (A1) to (A3), the vehicle interior image IMG1 input from the vehicle interior imaging device 20 is subjected to, for example, the outline of raindrops in the image through a Laplacian filter, etc. The contour and the contour of the upper end of the vehicle window 70 in the half-open state are extracted, and the extracted contour is further converted into a binarized image. Then, each detection is performed by performing pattern matching based on a comparison between each feature amount in the binarized image and a master pattern stored and held in the storage unit 50b built in the microcomputer 50 itself. .

図3(a)は、車窓70に雨滴が付着している状態において車室内撮像装置20により撮像される原画像の一例を示したものであり、図3(b)は、画像処理部50aを通じて上述のように処理され2値化された2値化画像の一例を示したものである。上記(A1)の検出に際しては、車窓70に雨滴Wが付着している場合、物理環境の変化に対応する特徴量として、図3(b)に示される態様で2値化画像IMG11b中に黒点が抽出される。したがって先の記憶部50bに記憶保持されているマスターパターンとの比較に基づくパターンマッチングを通じて、車窓70に雨滴Wが付着しているか否かを判断する。そしてこの判断結果に基づいて、降雨フラグの設定あるいは解除を行う。   FIG. 3A shows an example of an original image captured by the vehicle interior imaging device 20 in a state where raindrops are attached to the vehicle window 70, and FIG. 3B shows through the image processing unit 50 a. An example of the binarized image processed and binarized as described above is shown. In the detection of (A1), when raindrops W are attached to the vehicle window 70, as a feature amount corresponding to a change in the physical environment, a black dot is displayed in the binarized image IMG11b as shown in FIG. Is extracted. Therefore, it is determined whether or not raindrops W are attached to the vehicle window 70 through pattern matching based on comparison with the master pattern stored and held in the previous storage unit 50b. Based on the determination result, the rain flag is set or canceled.

また、図4(a)は、車窓70の半開状態において該車窓70近傍に乗員が存在した場合に車室内撮像装置20により撮像される原画像の一例を示したものであり、図4(b)は、画像処理部50aを通じて上述のように処理され2値化された2値化画像の一例を示したものである。上記(A2)の検出に際しては、車窓70近傍に乗員Hが存在している場合、物理環境の変化に対応する特徴量として、図4(b)に示される態様で2値化画像IMG12b中に曲線が抽出される。したがって先の記憶部50bに記憶保持されているマスターパターンとの比較に基づくパターンマッチングを通じて、車窓70近傍に存在する乗員を検出する。すなわち、2値化画像IMG12b中に曲線が抽出されるとき車窓70近傍に存在する乗員Hがいると判断し、逆に曲線が抽出されないとき車窓70近傍に存在する乗員Hはいないと判断する。そしてこの判断結果に基づいて、人検出フラグの設定あるいは解除を行う。   4A shows an example of an original image captured by the vehicle interior imaging device 20 when an occupant is present in the vicinity of the vehicle window 70 when the vehicle window 70 is in a half-open state. ) Shows an example of a binarized image processed and binarized as described above through the image processing unit 50a. In the detection of (A2) above, when the occupant H is present in the vicinity of the vehicle window 70, the feature value corresponding to the change in the physical environment is included in the binarized image IMG12b as shown in FIG. 4B. A curve is extracted. Therefore, an occupant existing in the vicinity of the vehicle window 70 is detected through pattern matching based on comparison with the master pattern stored and held in the previous storage unit 50b. That is, when a curve is extracted in the binarized image IMG12b, it is determined that there is an occupant H present near the vehicle window 70. Conversely, when a curve is not extracted, it is determined that there is no occupant H present near the vehicle window 70. Based on the determination result, the person detection flag is set or canceled.

また、上記(A3)の検出に際しては、車窓70が半開状態にある場合、物理環境の変化に対応する特徴量として、図4(b)に示される態様で2値化画像IMG12b中に直線が抽出される。したがって先の乗員の有無の検出と併せ、記憶部50bに記憶保持されているマスターパターンとの比較に基づくパターンマッチングを通じて、車窓70が半開状態であるか否かを検出する。直線が抽出された場合にはさらに、この直線が抽出される2値化画像IMG12b中の位置に基づき車窓70の開度も検出する。すなわち、窓枠の上部に直線が検出されるとき車窓70の開度は小さいと判断し、逆に窓枠の下部に直線が検出されるとき車窓70の開度は大きいと判断する。なお、この判断結果に基づいて、車窓70が半開状態にあるとき窓開フラグの設定を行い、他方、全閉であるとき窓開フラグの解除を行う。   In the detection of (A3), when the vehicle window 70 is in a half-open state, a straight line is displayed in the binarized image IMG12b in the form shown in FIG. 4B as a feature amount corresponding to a change in the physical environment. Extracted. Therefore, it is detected whether or not the vehicle window 70 is in a half-open state through pattern matching based on comparison with the master pattern stored and held in the storage unit 50b in addition to detection of the presence or absence of the previous passenger. When a straight line is extracted, the opening degree of the vehicle window 70 is also detected based on the position in the binarized image IMG12b from which the straight line is extracted. That is, it is determined that the opening degree of the vehicle window 70 is small when a straight line is detected in the upper part of the window frame, and conversely, the opening degree of the vehicle window 70 is determined to be large when a straight line is detected in the lower part of the window frame. Based on the determination result, the window opening flag is set when the vehicle window 70 is in the half-open state, and the window opening flag is canceled when the vehicle window 70 is fully closed.

また、上記上記(A4)の検出に際しては、車室内撮像装置20から画像処理部50aに入力される上記車室内画像IMG1の各画素の輝度の総和を演算し、この総和に基づいて光量の検出を行う。すなわち、各画素の輝度の総和が所定の閾値よりも小さいとき夜間であると判断して夜間フラグの設定を行い、逆に画素の輝度の総和が所定の閾値よりも大きいとき昼間であると判断して夜間フラグの解除を行う。   In the detection of the above (A4), the sum of the luminance of each pixel of the vehicle interior image IMG1 input from the vehicle interior imaging device 20 to the image processing unit 50a is calculated, and the light amount is detected based on this sum. I do. That is, when the sum of the brightness of each pixel is smaller than the predetermined threshold, it is determined that it is nighttime, and the night flag is set. Conversely, when the sum of the brightness of the pixels is greater than the predetermined threshold, it is determined that it is daytime. Then cancel the night flag.

他方、画像処理部50aは上述のように、上記車両前方撮像装置30から入力される車両前方画像IMG2に基づいて、大きくは、
(B1)車両前方に存在する大型車両。
(B2)車両前方に存在するトンネル。
等々の検出を実行し、それら検出結果に応じて各種フラグの設定あるいは解除を行う。
On the other hand, as described above, the image processing unit 50a is based on the vehicle front image IMG2 input from the vehicle front image pickup device 30.
(B1) A large vehicle existing in front of the vehicle.
(B2) A tunnel existing in front of the vehicle.
Etc., and various flags are set or canceled according to the detection results.

これら上記(B1)および(B2)の検出に際しても、先の(A1)〜(A3)の検出と同様に、車両前方撮像装置30から入力される上記車両前方画像IMG2に対し、例えばラプラシアンフィルタ等を通じて該車両前方画像における大型車両の輪郭およびトンネルの輪郭を抽出し、該抽出した輪郭をさらに2値化画像に変換する。そして、この2値化画像中におけるそれぞれの物理環境の変化に対応する特徴量と、マイクロコンピュータ50自身が内蔵する記憶部50bに記憶保持されているマスターパターンとの比較に基づくパターンマッチングを行うことにより、それぞれの検出を行う。   Also in the detection of the above (B1) and (B2), for example, a Laplacian filter or the like is applied to the vehicle front image IMG2 input from the vehicle front imaging device 30 as in the detection of (A1) to (A3) above. To extract the outline of the large vehicle and the outline of the tunnel in the front image of the vehicle, and further convert the extracted outline into a binarized image. Then, pattern matching is performed based on a comparison between the feature amount corresponding to each change in the physical environment in the binarized image and the master pattern stored and held in the storage unit 50b built in the microcomputer 50 itself. Thus, each detection is performed.

図5(a)は、車両前方撮像装置30を通じて得られる大型車両(例えばトラック)および乗用車の原画像の一例を示したものであり、図5(b)は、画像処理部50aによって2値化された2値化画像の一例を示したものである。これら図5(a)および(b)に示されるように、大型車両Trは、乗用車Cに比べその車高が高くその縦横比も大きくなる傾向にある。そのため、上記(B1)の検出に際しては、車両前方に大型車両が存在する場合、物理環境の変化に対応する特徴量として、同図5(b)に示される態様で2値化画像IMG21b中に縦横比の大きな矩形が抽出される。したがって先の記憶部50bに記憶保持されているマスターパターンとの比較に基づくパターンマッチングを通じて、車両前方に大型車両が存在するか否かを判断する。すなわち、このようにして抽出される矩形の縦横比が所定の縦横比よりも大きいとき大型車両であると判断し大型車両検出フラグの設定を行い、逆に所定の縦横比よりも小さいとき普通車であると判断し大型車両検出フラグの解除を行う。   FIG. 5A shows an example of an original image of a large vehicle (for example, a truck) and a passenger car obtained through the vehicle front imaging device 30, and FIG. 5B is binarized by the image processing unit 50a. An example of the binarized image obtained is shown. As shown in FIGS. 5A and 5B, the large vehicle Tr tends to have a higher vehicle height and a larger aspect ratio than the passenger car C. Therefore, in the detection of (B1) above, when a large vehicle is present in front of the vehicle, the feature value corresponding to the change in the physical environment is included in the binarized image IMG21b in the form shown in FIG. 5B. A rectangle with a large aspect ratio is extracted. Therefore, it is determined whether or not there is a large vehicle ahead of the vehicle through pattern matching based on comparison with the master pattern stored and held in the previous storage unit 50b. That is, when the aspect ratio of the rectangle extracted in this way is larger than a predetermined aspect ratio, it is determined that the vehicle is a large vehicle, and a large vehicle detection flag is set. And the large vehicle detection flag is canceled.

また、図6(a)は、車両前方撮像装置30を通じて得られるトンネルの原画像の一例を示したものであり、図6(b)は、画像処理部50aを通じて上述のように処理され2値化された画像の一例を示したものである。同図6(b)に示されるように、トンネルTuは半円形状であり、その内部(すなわち車両の前方)が暗い傾向にある。そのため、上記(B2)の検出に際しては、車両前方にトンネルが存在する場合、物理環境の変化に対応する特徴量として、図6(b)に示される態様で2値化画像IMG22b中に内部の輝度が小さな半円が抽出される。したがって先の記憶部50bに記憶保持されているマスターパターンとの比較に基づくパターンマッチングを通じて、車両前方にトンネルが存在するか否かを判断する。すなわち、このようにして抽出される半円の内部が所定の輝度よりも小さいときトンネルであると判断しトンネル検出フラグの設定を行い、逆に所定の輝度よりも大きいとき高架橋であると判断しトンネル検出フラグの解除を行う。   FIG. 6A shows an example of an original image of a tunnel obtained through the vehicle forward imaging device 30, and FIG. 6B shows a binary image processed by the image processing unit 50a as described above. An example of the digitized image is shown. As shown in FIG. 6B, the tunnel Tu has a semicircular shape, and the inside (that is, the front of the vehicle) tends to be dark. Therefore, at the time of detection of (B2) above, when a tunnel is present in front of the vehicle, as a feature amount corresponding to a change in the physical environment, the inside of the binarized image IMG22b in the form shown in FIG. A semicircle with a small luminance is extracted. Therefore, it is determined whether or not there is a tunnel ahead of the vehicle through pattern matching based on the comparison with the master pattern stored and held in the previous storage unit 50b. That is, when the inside of the semicircle extracted in this way is smaller than a predetermined luminance, it is determined that the tunnel is a tunnel, and a tunnel detection flag is set. Cancel the tunnel detection flag.

そして、判断・制御部50cは、上記のようにして検出される各種検出結果および上記温度センサ40の測定温度に基づいて、大きくは、
(C1)車窓70上に雨滴の付着が検出されることに基づいて窓用モータ60の駆動を通じて車窓70を全閉とする制御。
(C2)昼間から夜間への移行が検出されることに基づいて窓用モータ60の駆動を通じて車窓70を全閉とする制御。
(C3)車窓70近傍での乗員の検出が維持されている間における車窓70の状態にかかる制御の停止。
(C4)温度センサ40を通じて検出される車室内外の温度差の変化に基づく車室内の温度上昇が抑制される態様での車窓70の開度の制御。
(C5)車両の前方に大型車両が検出されることに基づいて窓用モータ60の駆動を通じて車窓70を全閉とする制御。
(C6)車両の前方にトンネルが検出されることに基づいて窓用モータ60の駆動を通じて車窓70を全閉とする制御。
等々の処理を実行する。
Based on the various detection results detected as described above and the temperature measured by the temperature sensor 40, the determination / control unit 50c
(C1) Control for fully closing the vehicle window 70 through the driving of the window motor 60 based on the detection of the attachment of raindrops on the vehicle window 70.
(C2) Control for fully closing the vehicle window 70 through driving of the window motor 60 based on detection of transition from daytime to nighttime.
(C3) Stop of control related to the state of the vehicle window 70 while occupant detection in the vicinity of the vehicle window 70 is maintained.
(C4) Control of the opening degree of the vehicle window 70 in a mode in which a temperature increase in the vehicle interior is suppressed based on a change in temperature difference between the vehicle interior and exterior detected through the temperature sensor 40.
(C5) Control for fully closing the vehicle window 70 through driving of the window motor 60 based on the detection of a large vehicle in front of the vehicle.
(C6) Control for fully closing the vehicle window 70 through driving of the window motor 60 based on the detection of a tunnel in front of the vehicle.
And so on.

これらの処理のうち、車窓70上に雨滴の付着が検出されることに基づいて窓用モータ60の駆動を通じて車窓70を全閉とする制御(上記(C1)の制御)に際しては、まず、上記(A1)の検出により車窓70上の雨滴の付着を検出する。そして雨滴が検出される場合には、車室内が雨にさらされることを防止すべく、窓用モータ60の駆動を通じて自動的に車窓70を全閉とする。   Among these processes, in the control for controlling the vehicle window 70 to be fully closed through the driving of the window motor 60 based on the detection of the attachment of raindrops on the vehicle window 70 (the control in (C1) above), first, The detection of (A1) detects the attachment of raindrops on the car window 70. When raindrops are detected, the vehicle window 70 is automatically closed by driving the window motor 60 in order to prevent the vehicle interior from being exposed to rain.

また、昼間から夜間への移行が検出されることに基づいて窓用モータ60の駆動を通じて車窓70を全閉とする制御(上記(C2)の制御)に際しては、まず、上記(A4)の検出により昼間から夜間への移行を検出する。そして夜間への移行が検出される場合には、防犯の見地から窓用モータ60の駆動を通じて自動的に車窓70を全閉とする。   Further, in the control (the control of (C2) described above) in which the vehicle window 70 is fully closed through the driving of the window motor 60 based on the detection of the transition from daytime to nighttime, the detection of (A4) is first performed. Detects the transition from daytime to nighttime. When the shift to the nighttime is detected, the vehicle window 70 is automatically closed by driving the window motor 60 from the viewpoint of crime prevention.

さらに、車窓70近傍での乗員の検出が維持されている間における車窓70の状態にかかる制御の停止(上記(C3)の停止)に際しては、まず、上記(A2)の検出により車窓70近傍での乗員の有無を検出する。そして乗員が検出される場合には、乗員の安全を図るため、窓用モータ60の駆動を強制的に停止することにより、車窓70の状態にかかる制御を停止する。   Furthermore, when stopping the control of the state of the vehicle window 70 while the detection of the occupant in the vicinity of the vehicle window 70 is stopped (stop of (C3) above), first, in the vicinity of the vehicle window 70 by the detection of (A2) above. The presence or absence of a passenger is detected. And when a passenger | crew is detected, the control concerning the state of the vehicle window 70 is stopped by forcibly stopping the drive of the window motor 60 for safety of a passenger | crew.

なお、温度センサ40を通じて検出される車室内外の温度差の変化に基づく車室内の温度上昇が抑制される態様での車窓70の開度の制御(上記(C4)の制御)に際しては、まず、温度センサ40を通じて車室内の温度を測定する。同温度センサ40を通じて検出される車室内外の温度差の変化、および上記(A3)の検出に基づき、窓用モータ60の駆動を通じて車窓70を適切な開度に制御する。すなわち、具体的には、車室内温度が高く車室外温度が低い場合には、窓用モータ60を駆動させ車窓70の開度を大きくし、車室内外に温度差がほとんどない場合には、窓用モータ60を駆動させず車窓70の開度を維持する。さらに、車室内温度が高く車室外温度が車室内温度よりもさらに高い場合には、車室外から車室内への空気の流入を防止すべく、窓用モータ60を駆動させ車窓70の開度を小さくする。   In the control of the opening degree of the vehicle window 70 (control of the above (C4)) in a mode in which the temperature rise in the vehicle interior is suppressed based on the change in the temperature difference between the vehicle interior and exterior detected through the temperature sensor 40, first, The temperature in the passenger compartment is measured through the temperature sensor 40. Based on the change in the temperature difference between the vehicle interior and the exterior detected through the temperature sensor 40 and the detection of (A3), the vehicle window 70 is controlled to an appropriate opening degree by driving the window motor 60. Specifically, when the vehicle interior temperature is high and the vehicle exterior temperature is low, the window motor 60 is driven to increase the opening of the vehicle window 70, and when there is almost no temperature difference between the vehicle interior and the interior, The opening degree of the vehicle window 70 is maintained without driving the window motor 60. Further, when the vehicle interior temperature is high and the vehicle interior temperature is higher than the vehicle interior temperature, the window motor 60 is driven to reduce the opening of the vehicle window 70 in order to prevent inflow of air from outside the vehicle interior to the vehicle interior. Make it smaller.

他方、車両の前方に大型車両が検出されることに基づいて窓用モータ60の駆動を通じて車窓70を全閉とする制御(上記(C5)の制御)に際しては、まず、上記(B1)の検出により車両の前方の大型車両を検出する。そして、大型車両が検出される場合には、排気ガスの車室内への侵入を防ぎ、車室内の空気を清浄に保つべく、窓用モータ60の駆動を通じて車窓70を全閉に制御する。   On the other hand, in the control for fully closing the vehicle window 70 through the driving of the window motor 60 based on the detection of a large vehicle in front of the vehicle (the control in (C5) above), first, the detection in (B1) above is performed. To detect a large vehicle in front of the vehicle. When a large vehicle is detected, the vehicle window 70 is controlled to be fully closed through driving of the window motor 60 in order to prevent the exhaust gas from entering the vehicle interior and keep the air in the vehicle interior clean.

また、車両の前方にトンネルが検出されることに基づいて窓用モータ60の駆動を通じて車窓70を全閉とする制御(上記(C6)の制御)に際しては、まず、上記(B2)の検出により車両の前方のトンネルを検出する。そして、トンネルが検出される場合には、トンネル内にこもる排気ガスの車室内への侵入を防ぎ、車室内の空気を清浄に保つべく、窓用モータ60の駆動を通じて車窓70を全閉に制御する。   Further, in the control for fully closing the vehicle window 70 by driving the window motor 60 based on the detection of the tunnel in front of the vehicle (the control in (C6) above), first, the detection in (B2) above is performed. Detect the tunnel ahead of the vehicle. When a tunnel is detected, the vehicle window 70 is controlled to be fully closed through the driving of the window motor 60 in order to prevent the exhaust gas trapped in the tunnel from entering the vehicle interior and keep the air in the vehicle interior clean. To do.

図7〜11は、このようなマイクロコンピュータ50を通じて実行される車窓制御についてその処理手順を示すものであり、以下、同図7〜図11を併せ参照して、この実施の形態の車窓制御にかかる処理について詳述する。   FIGS. 7 to 11 show the processing procedure for the vehicle window control executed through the microcomputer 50. Hereinafter, the vehicle window control of this embodiment will be described with reference to FIGS. This process will be described in detail.

この実施の形態の窓管理装置にあっては図7に示されるように、まず、ステップS10の処理として、イグニッションスイッチ(図示略)がオフか否かが判断される。そしてイグニッションがオフであると判断される場合、車両に乗員が搭乗しているか否かにかかわらずステップS20の処理として図8に示す停車中処理に移行する。他方、イグニッションがオンであると判断される場合、ステップS30の処理として図10に示す走行中処理に移行する。そして、停車中処理および走行中処理をそれぞれ終えたのち一旦、この車窓制御にかかる処理を終了する。なお、この車窓制御にかかる処理は、例えば「33m秒」で繰返し実行される。   In the window management apparatus of this embodiment, as shown in FIG. 7, it is first determined in step S10 whether or not an ignition switch (not shown) is off. If it is determined that the ignition is off, the process proceeds to the stoppage process shown in FIG. 8 as the process of step S20 regardless of whether or not an occupant is on the vehicle. On the other hand, when it is determined that the ignition is on, the process proceeds to the running process shown in FIG. 10 as the process of step S30. Then, after each of the stopping process and the running process is finished, the process related to the vehicle window control is once finished. In addition, the process concerning this vehicle window control is repeatedly performed, for example in "33 milliseconds".

図8に示されるように、停車中処理の開始にあってはまず、ステップS201の処理として、先の車室内撮像装置20を通じて得られる車室内画像IMG1をマイクロコンピュータ50に取り込み、この取り込んだ車室内画像IMG1に対し、続くステップS40の処理として図9に示す車室内画像IMG1の画像処理を実行する。   As shown in FIG. 8, at the start of the stop-in process, first, as the process of step S201, the vehicle interior image IMG1 obtained through the previous vehicle interior imaging device 20 is taken into the microcomputer 50, and this captured vehicle For the indoor image IMG1, the image processing of the vehicle interior image IMG1 shown in FIG.

すなわち、同図9に示されるように、画像処理部50aによる車室内画像IMG1の画像処理にあってはまず、ステップS401の処理として、例えばラプラシアンフィルタ等を通じ、車窓70近傍に存在する乗員、車窓70の開度、および車窓70に付着した雨滴の輪郭を抽出する。そしてステップS402の処理として、抽出された輪郭を2値化画像に変換し、ステップS403の処理においてこれら検出対象の特徴を抽出する。   That is, as shown in FIG. 9, in the image processing of the vehicle interior image IMG1 by the image processing unit 50a, first, as a process of step S401, for example, through a Laplacian filter etc. The opening degree of 70 and the outline of raindrops attached to the vehicle window 70 are extracted. In step S402, the extracted contour is converted into a binarized image, and these detection target features are extracted in step S403.

それぞれの特徴が抽出された後、ステップS404の処理として車窓の近傍で人体が検出されたか否かの判断がなされる。具体的には上述のように、車窓70の近傍で乗員が存在している場合には、その物理環境の変化に対応する特徴量として2値化画像中に曲線が抽出される。すなわち、2値化画像中に曲線が抽出される場合、車窓の近傍に乗員が存在すると判断し、ステップS405の処理として人検出フラグFmをセットする。他方、2値化画像中に曲線が抽出されない場合、車窓の近傍に乗員は存在しないと判断し、ステップS406の処理として人検出フラグFmをリセットする。   After each feature is extracted, it is determined whether or not a human body has been detected in the vicinity of the vehicle window as a process of step S404. Specifically, as described above, when an occupant is present in the vicinity of the vehicle window 70, a curve is extracted from the binarized image as a feature amount corresponding to a change in the physical environment. That is, when a curve is extracted from the binarized image, it is determined that an occupant is present in the vicinity of the vehicle window, and the person detection flag Fm is set as the process of step S405. On the other hand, if no curve is extracted from the binarized image, it is determined that no occupant is present in the vicinity of the vehicle window, and the human detection flag Fm is reset as the process of step S406.

続くステップS407の処理として車窓が開いているか否かの判断がなされる。具体的には上述のように、車窓が開いている場合には、その物理環境の変化に対応する特徴量として2値化画像中に直線が抽出される。すなわち、2値化画像中に直線が抽出される場合、車窓が開いていると判断し、ステップS408の処理として窓開フラグFwoをセットする。他方、2値化画像中に直線が抽出されない場合、車窓が開いていないと判断し、ステップS409の処理として窓開フラグFwoをリセットする。   In the subsequent step S407, it is determined whether or not the vehicle window is open. Specifically, as described above, when the vehicle window is open, a straight line is extracted from the binarized image as a feature amount corresponding to the change in the physical environment. That is, when a straight line is extracted from the binarized image, it is determined that the vehicle window is open, and the window opening flag Fwo is set as the process of step S408. On the other hand, when a straight line is not extracted from the binarized image, it is determined that the vehicle window is not open, and the window opening flag Fwo is reset as a process of step S409.

さらにステップS410の処理として雨滴が付着しているか否かの判断がなされる。具体的には上述のように、雨滴が付着している場合には、その物理環境の変化に対応する特徴量として2値化画像中に黒点が抽出される。すなわち、2値化画像中に黒点が抽出される場合、雨滴が付着していると判断していると判断し、ステップS411の処理として降雨検出フラグFrをセットする。他方、2値化画像中に黒点が抽出されない場合、雨滴が付着していないと判断し、ステップS412の処理として降雨検出フラグFrをリセットする。   Further, it is determined whether or not raindrops are attached as the process of step S410. Specifically, as described above, when raindrops are attached, black spots are extracted from the binarized image as feature amounts corresponding to changes in the physical environment. That is, when a black dot is extracted from the binarized image, it is determined that raindrops are attached, and the rain detection flag Fr is set as the process of step S411. On the other hand, if no black spot is extracted from the binarized image, it is determined that no raindrop is attached, and the rain detection flag Fr is reset as the process of step S412.

なお、ステップS413の処理およびステップS414の処理を通じて、昼間から夜間への移行が生じたか否かの判断がなされる。具体的には上述のように、ステップS413の処理として、上記車室内撮像装置20から入力される上記車室内画像IMG1における各画素の輝度の総和を算出する。そしてステップS414の処理として、各画素の輝度の総和が所定の閾値より小さいか否かが判断される。そして各画素の輝度の総和が所定の閾値よりも小さい場合、夜間であると判断し、ステップS415の処理として夜間フラグFnをセットする。他方、各画素の輝度の総和が所定の閾値よりも大きい場合、昼間であると判断し、ステップS416の処理として夜間フラグFnをリセットする。このようにして各種のフラグを設定した後、先の図8に示すステップS202の処理へ移行する。   Note that it is determined whether or not a shift from daytime to nighttime has occurred through the processing in step S413 and the processing in step S414. Specifically, as described above, as the processing in step S413, the sum of the luminances of the pixels in the vehicle interior image IMG1 input from the vehicle interior imaging device 20 is calculated. In step S414, it is determined whether the total luminance of each pixel is smaller than a predetermined threshold value. If the sum of the luminance of each pixel is smaller than a predetermined threshold, it is determined that it is nighttime, and the nighttime flag Fn is set as the processing of step S415. On the other hand, when the sum of the luminances of the respective pixels is larger than a predetermined threshold value, it is determined that it is daytime, and the nighttime flag Fn is reset as processing of step S416. After setting various flags in this way, the process proceeds to the process of step S202 shown in FIG.

そして、ステップS202の処理として人検出フラグFmがセットされているか否かが判断され、人検出フラグFmがセットされている場合、車窓70近傍に乗員が存在しており、例えば乗員が車窓70から手などを車外に出すおそれのある場合である。したがって、ステップS203の処理として、窓用モータ60の駆動を停止することにより車窓70の状態にかかる制御を停止する。   In step S202, it is determined whether the person detection flag Fm is set. If the person detection flag Fm is set, an occupant is present near the vehicle window 70. This is when there is a risk of taking a hand out of the vehicle. Therefore, as the process of step S203, the control of the state of the vehicle window 70 is stopped by stopping the driving of the window motor 60.

また、ステップS202の処理において人検出フラグFmがセットされていない場合には、続くステップS204へと移行する。このステップS204の処理として、窓開フラグFwoがセットされているか否かが判断される。窓開フラグFwoがセットされている場合、ステップS205の処理として、降雨検出フラグFrがセットされているか否かが判断される。そして降雨検出フラグFrがセットされている場合、すなわち、雨が降っているにもかかわらず窓が開いている状態であるため、ステップS206の処理として車窓70を全閉とする。他方、降雨検出フラグFrがセットされていない場合であれ、ステップS207の処理において夜間フラグFnがセットされている場合、すなわち、雨は降っていないが夜間であって窓が開いている状態であるため、防犯の見地から、同じくステップS206の処理において車窓70を全閉とする。   If the human detection flag Fm is not set in the process of step S202, the process proceeds to the subsequent step S204. In step S204, it is determined whether the window opening flag Fwo is set. When the window opening flag Fwo is set, it is determined whether or not the rain detection flag Fr is set as the process of step S205. When the rain detection flag Fr is set, that is, since the window is open despite rain, the vehicle window 70 is fully closed as a process of step S206. On the other hand, even when the rain detection flag Fr is not set, when the night flag Fn is set in the process of step S207, that is, it is not raining but it is night and the window is open. Therefore, from the viewpoint of crime prevention, the vehicle window 70 is also fully closed in the process of step S206.

他方、先のステップS204の処理において窓開フラグFwoがセットされていない(全閉である)場合、あるいは先のステップS207の処理において夜間フラグFnがセットされていない(昼間で雨が降っていない)場合には、続くステップS208〜S211の処理を通じて、車室内の温度上昇が抑制される態様で車窓70の開度を制御する。   On the other hand, if the window opening flag Fwo is not set (fully closed) in the process of the previous step S204, or the nighttime flag Fn is not set in the process of the previous step S207 (it is not raining in the daytime) ), The opening degree of the vehicle window 70 is controlled in such a manner that the temperature increase in the passenger compartment is suppressed through the subsequent steps S208 to S211.

すなわち、ステップS208の処理として、温度センサ40を通じて測定される車室内温度THを取り込み、続くステップS209の処理として該車室内温度THが所定の温度閾値Thr(例えば40度)よりも大きいか否かが判断される。ここで、車室内温度THが温度閾値Thrよりも小さいと判断される場合には、車窓70の開度の制御は不必要であると判断し、この停車中処理、ひいては車窓制御にかかる処理を一旦終了する。他方、車室内温度THが温度閾値Thrよりも大きいと判断される場合、車窓70の開度を制御する必要があると判断し、続くステップS210の処理に移行する。   That is, as a process in step S208, the vehicle interior temperature TH measured through the temperature sensor 40 is taken, and in a subsequent step S209, whether the vehicle interior temperature TH is greater than a predetermined temperature threshold Thr (for example, 40 degrees). Is judged. Here, if it is determined that the vehicle interior temperature TH is smaller than the temperature threshold Thr, it is determined that control of the opening degree of the vehicle window 70 is unnecessary, and the processing during the stoppage and thus the processing related to the vehicle window control is performed. Exit once. On the other hand, when it is determined that the vehicle interior temperature TH is higher than the temperature threshold Thr, it is determined that the opening degree of the vehicle window 70 needs to be controlled, and the process proceeds to the subsequent step S210.

このステップS210の処理においては、先の温度センサ40を通じて検出される車室内外の温度差の変化に基づき車窓70の開度が制御される。すなわち、車室内温度が高く車室外温度が低い場合には、窓用モータ60を駆動させ車窓70の開度を大きくし、車室内外に温度差がほとんどない場合には、窓用モータ60を駆動させず車窓70の開度を維持する。さらに、車室内温度が高く車室外温度が車室内温度よりもさらに高い場合には、車室外から車室内への空気の流入を防止すべく、窓用モータ60を駆動させ車窓70の開度を小さくする。なおこのとき、ステップS211の処理として、車窓が開いている状態にある間、表示装置80を通じ、その旨を乗員に警告表示をする。そして、この停車中処理、ひいては車窓制御にかかる処理を一旦終了する。   In the process of step S210, the opening degree of the vehicle window 70 is controlled based on a change in the temperature difference between the vehicle interior and the exterior detected through the temperature sensor 40. That is, when the vehicle interior temperature is high and the vehicle exterior temperature is low, the window motor 60 is driven to increase the opening of the vehicle window 70, and when there is almost no temperature difference between the vehicle interior and exterior, the window motor 60 is The opening of the vehicle window 70 is maintained without being driven. Further, when the vehicle interior temperature is high and the vehicle interior temperature is higher than the vehicle interior temperature, the window motor 60 is driven to reduce the opening of the vehicle window 70 in order to prevent inflow of air from outside the vehicle interior to the vehicle interior. Make it smaller. At this time, as a process of step S211, a warning is displayed to the passenger through the display device 80 while the vehicle window is open. Then, the stop process and the process related to the vehicle window control are temporarily terminated.

一方、先の図7におけるステップS10の処理において、イグニッションスイッチがオンであると判断される場合、図10に示す走行中処理に移行する。この走行中処理について、図10を参照しつつ説明する。   On the other hand, if it is determined in step S10 in FIG. 7 that the ignition switch is on, the process proceeds to the running process shown in FIG. This running process will be described with reference to FIG.

この走行中処理の開始にあっては、ステップS301の処理として、上記車室内撮像装置20を通じて得られる車室内画像IMG1および上記車両前方撮像装置30を通じて得られる車両前方画像IMG2を画像処理部50aに取り込む。そして、これら画像のうち車室内画像IMG1に基づき、先のステップS40の画像処理を通じて、人検出フラグFm、窓開フラグFwo、降雨検出フラグFr、および夜間フラグFnなどの各種フラグの設定または解除を実行する。そして、続くステップS50の処理として、図11に示す車両前方画像IMG2の画像処理を実行する。   At the start of the running process, as a process of step S301, the vehicle interior image IMG1 obtained through the vehicle interior image pickup device 20 and the vehicle front image IMG2 obtained through the vehicle front image pickup device 30 are stored in the image processing unit 50a. take in. Based on the vehicle interior image IMG1 among these images, through the image processing of the previous step S40, various flags such as the human detection flag Fm, the window opening flag Fwo, the rainfall detection flag Fr, and the nighttime flag Fn are set or released. Execute. Then, as the processing of subsequent step S50, the image processing of the vehicle front image IMG2 shown in FIG. 11 is executed.

すなわち、同図11に示されるように、画像処理部50aによる車両前方画像IMG2の画像処理にあってはまず、ステップS501の処理として、例えばラプラシアンフィルタ等を通じ、車両前方に存在する大型車両およびトンネルの輪郭を抽出する。そしてステップS502の処理として、抽出された輪郭を2値化画像に変換し、ステップS503の処理において、それぞれの物理環境の変化に対応する特徴量を抽出する。   That is, as shown in FIG. 11, in the image processing of the vehicle front image IMG2 by the image processing unit 50a, first, as a process in step S501, for example, a large vehicle and a tunnel existing in front of the vehicle through a Laplacian filter or the like. Extract the outline of. In step S502, the extracted contour is converted into a binarized image. In step S503, feature amounts corresponding to changes in the physical environment are extracted.

そして特徴量が抽出された後、ステップS504の処理として車両の前方に大型車両が存在するか否かの判断がなされる。具体的には上述のように、車両の前方に大型車両Trが存在している場合には、その物理環境の変化に対応する特徴量として2値化画像中に縦横比の大きな矩形が抽出される。すなわち、2値化画像中に所定の縦横比よりも大きな矩形が抽出される場合、車両の前方に大型車両が走行しているため、ステップS505の処理として大型車両検出フラグFtrをセットする。他方、2値化画像中に矩形が抽出されない、あるいは矩形が抽出されたとしても所定の縦横比よりも小さい矩形が抽出される場合、車両の前方に存在するのは普通乗用車であるため、ステップS506の処理として大型車両検出フラグFtrをリセットする。   After the feature amount is extracted, it is determined in step S504 whether or not there is a large vehicle in front of the vehicle. Specifically, as described above, when a large vehicle Tr is present in front of the vehicle, a rectangle having a large aspect ratio is extracted from the binarized image as a feature amount corresponding to the change in the physical environment. The That is, when a rectangle larger than a predetermined aspect ratio is extracted from the binarized image, a large vehicle is traveling in front of the vehicle, and thus the large vehicle detection flag Ftr is set as the process of step S505. On the other hand, if a rectangle is not extracted from the binarized image, or if a rectangle smaller than the predetermined aspect ratio is extracted even if the rectangle is extracted, it is a normal passenger car that exists in front of the vehicle. As a process of S506, the large vehicle detection flag Ftr is reset.

また、ステップS507の処理として車両の前方にトンネルが存在するか否かの判断がなされる。具体的には上述のように、車両の前方にトンネルTuが存在している場合には、その物理環境の変化に対応する特徴量として、2値化画像中に半円が抽出される。すなわち、2値化画像中に半円が抽出される場合、車両の前方にトンネルが存在するため、ステップS508の処理としてトンネル検出フラグFtuをセットする。他方、2値化画像中に半円が抽出されない、あるいは半円が抽出されたとしてもその内部の輝度が大きい場合、車両の前方にトンネルは存在しないため、ステップS509の処理としてトンネル検出フラグFtuをリセットする。   In step S507, it is determined whether a tunnel exists in front of the vehicle. Specifically, as described above, when the tunnel Tu exists in front of the vehicle, a semicircle is extracted from the binarized image as a feature amount corresponding to a change in the physical environment. That is, when a semicircle is extracted from the binarized image, a tunnel exists in front of the vehicle. Therefore, the tunnel detection flag Ftu is set as the process of step S508. On the other hand, if a semicircle is not extracted from the binarized image, or if the semicircle is extracted but the internal brightness is high, there is no tunnel in front of the vehicle, so the tunnel detection flag Ftu is processed as step S509. To reset.

このようにして車両前方画像IMG2に基づく判断により各種フラグを設定した後、先の図10に示す走行中処理におけるステップS302の処理へ移行する。
同ステップS302の処理においては、窓開フラグFwoがセットされているか否かが判断される。そして窓開フラグFwoがセットされていない場合には無条件にこの走行中処理を、ひいては車窓制御にかかる処理を一旦終了する。
After various flags are thus set based on the determination based on the vehicle front image IMG2, the process proceeds to step S302 in the running process shown in FIG.
In the process of step S302, it is determined whether or not the window opening flag Fwo is set. If the window opening flag Fwo is not set, the running process is unconditionally terminated, and the process related to the vehicle window control is temporarily ended.

他方、窓開フラグFwoがセットされている場合には、続くステップS303〜S307の処理を通じて、運転者が車両の運転に集中することのできる車窓管理の実現が図られている。   On the other hand, when the window opening flag Fwo is set, vehicle window management that allows the driver to concentrate on driving the vehicle is achieved through the processing of subsequent steps S303 to S307.

すなわち、ステップS303の処理として降雨検出フラグFrがセットされているか否か、続くステップS304の処理として大型車両検出フラグFtrがセットされているか否か、さらにステップS305の処理としてトンネル検出フラグFtuがセットされているか否かが判断される。そして、これら降雨検出フラグFr、大型車両検出フラグFtr、およびトンネル検出フラグFtuのいずれか1つでもセットされている場合には、ステップS306の処理として車窓70を全閉とする。他方、これら降雨検出フラグFr、大型車両検出フラグFtr、およびトンネル検出フラグFtuのいずれもセットされていない場合、ステップS307の処理として、車窓が開いている状態にある間、表示装置80を通じ、その旨を乗員に警告表示する。そして、この停車中処理、ひいては車窓制御にかかる処理を一旦終了する。   That is, whether or not the rain detection flag Fr is set as the process of step S303, whether or not the large vehicle detection flag Ftr is set as the process of subsequent step S304, and further the tunnel detection flag Ftu is set as the process of step S305. It is determined whether or not it has been done. If any one of the rain detection flag Fr, the large vehicle detection flag Ftr, and the tunnel detection flag Ftu is set, the vehicle window 70 is fully closed as a process of step S306. On the other hand, when none of the rain detection flag Fr, the large vehicle detection flag Ftr, and the tunnel detection flag Ftu is set, as a process in step S307, while the vehicle window is open, A warning is displayed to the passenger. Then, the stop process and the process related to the vehicle window control are temporarily terminated.

以上説明したように、この実施の形態にかかる窓管理装置によれば、以下に列記するような多くの優れた効果が得られるようになる。
(1)車両のおかれている物理環境の変化を監視する監視手段として、車窓近傍の画像を撮像する車室内撮像装置20、当該車両の前方の画像を撮像する車両前方撮像装置30、およびこれら撮像装置を通じて撮像される画像の画像情報から物理環境の変化に対応する特徴量を抽出して物理環境の変化を検出する画像処理部50aを備えることとした。さらに、制御手段として、この検出される物理環境の変化に基づき、車室内の環境がこの変化した物理環境に適合する状態に維持されるように車窓70の状態を制御する判断・制御部50cを備えることとした。これにより、車両がおかれるその都度の状況が監視手段を通じて監視され、その都度の状況に応じた窓の開閉等に関するより適切な自動管理が判断・制御部50cを通じてなされるようになる。また特に車両が走行中において、運転者が車両の運転に集中することのできるような車窓の自動管理の実現も容易なものとなる。
As described above, according to the window management device according to this embodiment, many excellent effects listed below can be obtained.
(1) As a monitoring means for monitoring a change in a physical environment where the vehicle is located, a vehicle interior imaging device 20 that captures an image near the vehicle window, a vehicle front imaging device 30 that captures an image in front of the vehicle, and these An image processing unit 50a that detects a change in the physical environment by extracting a feature amount corresponding to the change in the physical environment from the image information of the image captured through the imaging device is provided. Further, as a control means, based on the detected change in the physical environment, a judgment / control unit 50c for controlling the state of the vehicle window 70 so that the environment in the vehicle interior is maintained in a state suitable for the changed physical environment. I decided to prepare. As a result, the situation of each time the vehicle is placed is monitored through the monitoring means, and more appropriate automatic management regarding the opening and closing of the window according to the situation of each time is performed through the determination / control unit 50c. In addition, it is easy to realize automatic management of the vehicle window so that the driver can concentrate on driving the vehicle, particularly while the vehicle is running.

(2)車室内撮像装置20を通じて車窓70に雨滴の付着が検出されることに基づき、窓用モータ60の駆動を通じて車窓70を全閉とする制御を実行することとした。これにより、例えば車窓を開けて走行している際に突然の雨が降り出したとしても、窓用モータ60によって車窓70が全閉に制御されるため、車室内に雨が入り込むようなことがなくなるようになる。   (2) Based on the detection of the attachment of raindrops to the vehicle window 70 through the vehicle interior imaging device 20, the control for fully closing the vehicle window 70 through the driving of the window motor 60 is executed. Thus, for example, even if sudden rain starts when the vehicle window is opened, the window 70 is controlled to be fully closed by the window motor 60, so that rain does not enter the vehicle interior. It becomes like this.

(3)車室内撮像装置20を通じて昼間から夜間への移行が検出されることに基づき、窓用モータ60の駆動を通じて車窓70を全閉とする制御を実行することとした。これにより、例えば夜間、車窓が開いた状態のまま車両が停車される、あるいは駐車されることが未然に防止されるようになる。   (3) Based on the detection of the transition from daytime to nighttime through the vehicle interior imaging device 20, control for fully closing the vehicle window 70 through the driving of the window motor 60 is executed. As a result, for example, the vehicle can be prevented from being parked or parked at night with the car window open.

(4)車室内撮像装置20を通じて車窓70近傍での乗員の検出が維持されている間、車窓70の状態にかかる制御を停止することとした。これにより、例えば乗員が窓から手などを車外に出していることを検出している間、車窓の状態にかかる制御を停止するため、乗員の安全に配慮したかたちで車窓の管理を行うことができるようになる。   (4) While the detection of an occupant in the vicinity of the vehicle window 70 is maintained through the vehicle interior imaging device 20, the control relating to the state of the vehicle window 70 is stopped. As a result, for example, while detecting that an occupant has taken a hand out of the window, control of the state of the vehicle window is stopped, so the vehicle window can be managed in consideration of the safety of the occupant. become able to.

(5)温度センサ40を通じて検出される車室内外の温度差の変化に基づき、車室内の温度上昇が抑制される態様で車窓70の開度の制御を実行することとした。これにより、例えば炎天下において車両が駐車されるとき、車室内の温度上昇が的確に抑制されるため、乗員が車両に搭乗した際の不快感を低減させることができるようになる。   (5) Based on the change in the temperature difference between the vehicle interior and the exterior detected through the temperature sensor 40, the opening degree of the vehicle window 70 is controlled in such a manner that the temperature increase in the vehicle interior is suppressed. Thereby, for example, when the vehicle is parked under hot weather, the temperature rise in the passenger compartment is accurately suppressed, so that discomfort when an occupant gets into the vehicle can be reduced.

(6)車両のイグニッションスイッチがオフとなっていることを条件に車窓70の状態にかかる制御を実行することとした。これにより、特に車両が駐車中であっても、上述した車窓の自動管理がなされるようになる。   (6) The control related to the state of the vehicle window 70 is executed on condition that the ignition switch of the vehicle is off. Thereby, even when the vehicle is parked, the above-described automatic management of the vehicle window is performed.

(7)車両前方撮像装置30を通じて車両の前方に大型車両が検出されることに基づき、窓用モータ60の駆動を通じて車窓70を全閉とする制御を実行することとした。これにより、当該車両の前方を走行する大型車両の排気ガスが車室内に侵入することが未然に防止されるようになり、車室内の空気が清浄に保たれることとなる。   (7) Based on the fact that a large vehicle is detected in front of the vehicle through the vehicle front imaging device 30, control is performed to fully close the vehicle window 70 by driving the window motor 60. As a result, the exhaust gas of a large vehicle traveling in front of the vehicle is prevented from entering the vehicle compartment, and the air in the vehicle compartment is kept clean.

(8)車両前方撮像装置30を通じて車両の前方にトンネルが検出されることに基づき、窓用モータ60の駆動を通じて車窓70を全閉とする制御を実行することとした。これにより、トンネル内にこもっている排気ガスが車室内に侵入することが未然に防止されるようになるとともに、車室内の温度の低下も未然に防止されるようになる。すなわち、これによっても、車室内の空気が清浄に保たれ、しかも車室内の温度変化が抑制されることとなる。   (8) Based on the fact that a tunnel is detected in front of the vehicle through the vehicle front imaging device 30, the control for fully closing the vehicle window 70 through the driving of the window motor 60 is executed. As a result, the exhaust gas confined in the tunnel is prevented from entering the passenger compartment, and the temperature in the passenger compartment is prevented from decreasing. That is, this also keeps the air in the passenger compartment clean and suppresses temperature changes in the passenger compartment.

(9)車窓70が開いている状態にある間、乗員にその旨を警告表示する表示装置80を備えることとした。これにより、乗員に対し、車窓が開いている状態にあることに対する注意を喚起することができるようになる。   (9) While the vehicle window 70 is in an open state, the display device 80 that displays a warning to the passenger is provided. As a result, it is possible to alert the occupant that the vehicle window is open.

なお、この発明にかかる車窓管理装置は上記実施の形態にて例示した構成に限定されるものではなく、同実施の形態を適宜変更した例えば次のような形態として実施することもできる。   Note that the vehicle window management device according to the present invention is not limited to the configuration exemplified in the above-described embodiment, and can be implemented as, for example, the following form in which the embodiment is appropriately changed.

・上記実施の形態では、先の図8の停車中処理におけるステップS211の処理、あるいは先の図10の走行中処理におけるステップS307の処理として、車窓70が開いている状態にある間、乗員にその旨を警告表示する表示装置80を備えることとしたが、これらの処理を割愛した構成としてもよい。あるいは、ドアセンサおよびブザーを車両にさらに備え、同車窓70が開いている状態にあって、ドアセンサによりドアが開かれることを感知することを条件に、同ブザーを通じて乗員にその旨を警告する処理に替えた構成としても、上記(9)の効果に準じた効果を得ることはできる。   In the above embodiment, as the process in step S211 in the previous stop process in FIG. 8 or the process in step S307 in the previous travel process in FIG. 10, while the vehicle window 70 is in the open state, Although the display device 80 that displays a warning to that effect is provided, a configuration in which these processes are omitted may be employed. Alternatively, the vehicle may further include a door sensor and a buzzer, and the vehicle window 70 is open, and the door sensor detects that the door is opened, and the passenger is warned to that effect through the buzzer. Even with the changed configuration, it is possible to obtain an effect according to the effect of the above (9).

・上記実施の形態では、先の図10の走行中処理におけるステップS305の処理として、車両前方撮像装置30を通じて車両の前方にトンネルが検出されることに基づき、窓用モータ60の駆動を通じて車窓70を全閉とする制御を実行する構成としたが、これを割愛した構成としてもよい。これによっても、上記(1)の効果に準じた効果を得ることはできる。   In the above-described embodiment, the vehicle window 70 is driven through the driving of the window motor 60 based on the fact that the tunnel is detected in front of the vehicle through the vehicle front imaging device 30 as the processing in step S305 in the traveling processing of FIG. However, this may be omitted. Also by this, the effect according to the effect of said (1) can be acquired.

・上記実施の形態では、先の図10の走行中処理におけるステップS304の処理として、車両前方撮像装置30を通じて車両の前方に大型車両が検出されることに基づき、窓用モータ60の駆動を通じて車窓70を全閉とする制御を実行する構成としたが、これを割愛した構成としてもよい。これによっても、上記(1)の効果に準じた効果を得ることはできる。   In the above embodiment, as the processing in step S304 in the above-described traveling process of FIG. 10, the vehicle window is driven through the driving of the window motor 60 based on the fact that a large vehicle is detected in front of the vehicle through the vehicle front imaging device 30. Although the control is executed to fully close 70, this may be omitted. Also by this, the effect according to the effect of said (1) can be acquired.

・上記実施の形態では、先の図7の車窓制御処理におけるステップS10の処理として、車両のイグニッションスイッチがオフとなっていることを条件に車窓70の状態にかかる制御を実行する構成としたが、これに限定されるものではない。すなわち、これに替えて、車室内撮像装置20またはその他のセンサを通じて車室内に乗員がいないことを検出することを条件に、車窓70の状態にかかる制御を実行する構成としても、上記(6)の効果に準じた効果を得ることはできる。   In the above embodiment, as the process of step S10 in the vehicle window control process of FIG. 7, the control related to the state of the vehicle window 70 is executed on condition that the ignition switch of the vehicle is turned off. However, the present invention is not limited to this. That is, instead of this, the control for the state of the vehicle window 70 may be executed on condition that it is detected that there is no passenger in the vehicle interior through the vehicle interior imaging device 20 or other sensors. The effect according to the effect of can be obtained.

・上記実施の形態では、先の図8の停車中処理におけるステップS208〜ステップS210の処理として、温度センサ40を通じて検出される車室内外の温度差の変化に基づき、車室内の温度上昇が抑制される態様で車窓70の開度の制御を実行する構成としたが、これに限定されるものではない。すなわち、これに替えて、温度センサ40を通じて検出される車室内の温度の変化に対し、所定の温度閾値を複数段階に設けることによって、車室内の温度上昇が抑制される態様で車窓70の開度の制御を実行する構成としても、上記(5)の効果に準じた効果を得ることはできる。   In the above embodiment, the temperature increase in the vehicle interior is suppressed based on the change in the temperature difference between the vehicle interior and the exterior detected through the temperature sensor 40 as the processing in steps S208 to S210 in the previous stop processing of FIG. However, the present invention is not limited to this. That is, instead of this, by providing predetermined temperature thresholds in a plurality of stages with respect to changes in the temperature in the vehicle interior detected through the temperature sensor 40, the opening of the vehicle window 70 is controlled in a manner that suppresses an increase in the temperature in the vehicle interior. Even in the configuration in which the degree control is executed, it is possible to obtain an effect according to the effect (5).

・上記実施の形態では、先の図8の停車中処理におけるステップS202の処理として、車室内撮像装置20を通じて車窓70近傍での乗員の検出が維持されている間、車窓70の状態にかかる制御を停止する構成としたが、これを割愛した構成としてもよい。これによっても、上記(1)の効果に準じた効果を得ることはできる。   In the above embodiment, as the process of step S202 in the previous stop process of FIG. 8, while the detection of the occupant in the vicinity of the vehicle window 70 is maintained through the vehicle interior image pickup device 20, the control relating to the state of the vehicle window 70 is performed. However, this may be omitted. Also by this, the effect according to the effect of said (1) can be acquired.

・上記実施の形態では、先の図8の停車中処理におけるステップS207の処理として、車室内撮像装置20を通じて昼間から夜間への移行が検出されることに基づき、窓用モータ60の駆動を通じて車窓70を全閉とする制御を実行する構成としたが、これを割愛した構成としてもよい。これによっても、上記(1)の効果に準じた効果を得ることはできる。   In the above embodiment, the vehicle window is driven through the driving of the window motor 60 based on the fact that the transition from daytime to nighttime is detected through the vehicle interior imaging device 20 as the processing in step S207 in the stopping processing of FIG. Although the control is executed to fully close 70, this may be omitted. Also by this, the effect according to the effect of said (1) can be acquired.

・上記実施の形態では、先の図8の停車中処理におけるステップS205の処理として、車室内撮像装置20を通じて車窓70上に雨滴の付着が検出されることに基づき、窓用モータ60の駆動を通じて車窓70を全閉とする制御を実行する構成としたが、これを割愛した構成としてもよい。これによっても、上記(1)の効果に準じた効果を得ることはできる。   In the above embodiment, as the processing of step S205 in the stopping processing of FIG. 8 above, the attachment of raindrops on the vehicle window 70 is detected through the vehicle interior imaging device 20, and the window motor 60 is driven. Although the configuration is such that the control for fully closing the vehicle window 70 is performed, a configuration in which this is omitted may be employed. Also by this, the effect according to the effect of said (1) can be acquired.

(a)は、この発明にかかる車窓管理装置の一実施の形態について、その全体の構成を側面方向から模式的に示す側面図。(b)は撮像装置を中心に(a)を拡大して示す側面図。BRIEF DESCRIPTION OF THE DRAWINGS (a) is a side view which shows typically the structure of the whole about one Embodiment of the vehicle window management apparatus concerning this invention from a side surface direction. (B) is a side view showing (a) in an enlarged manner with the imaging device as the center. 同実施の形態の車窓管理装置について、その構成および各要素間の電気的な信号の流れを示すブロック図。The block diagram which shows the flow of the electrical signal between the structure and each element about the vehicle window management apparatus of the embodiment. (a)および(b)は、同実施の形態の車室内撮像装置で撮像される雨滴の原画像およびその2値化画像の一例を示す図。(A) And (b) is a figure which shows an example of the original image of the raindrop imaged with the vehicle interior imaging device of the embodiment, and its binarized image. (a)および(b)は、同実施の形態の車室内撮像装置で撮像される車窓近傍の乗員の手の原画像およびその2値化画像の一例を示す図。(A) And (b) is a figure which shows an example of the original image of the passenger | crew's hand of the vehicle window vicinity imaged with the vehicle interior imaging device of the embodiment, and its binarized image. (a)および(b)は、同実施の形態の車両前方撮像装置で撮像される大型車両および乗用車の原画像およびその2値化画像の一例を示す図。(A) And (b) is a figure which shows an example of the original image of the large vehicle and passenger car imaged with the vehicle front imaging device of the embodiment, and its binarized image. (a)および(b)は、同実施の形態の車両前方撮像装置で撮像されるトンネルの原画像および2値化画像の一例を示す図。(A) And (b) is a figure which shows an example of the original image and binarized image of a tunnel imaged with the vehicle front imaging device of the embodiment. 同実施の形態の車窓管理装置による車窓制御について、その処理手順を示すフローチャート。The flowchart which shows the process sequence about the vehicle window control by the vehicle window management apparatus of the embodiment. 同実施の形態の車窓管理装置による車両の停車中における処理について、その処理手順を示すフローチャート。The flowchart which shows the process sequence about the process in the time of the stop of the vehicle by the vehicle window management apparatus of the embodiment. 同実施の形態の車窓管理装置で採用される車室内撮像装置を通じて撮像される画像の画像処理について、その処理手順を示すフローチャート。The flowchart which shows the process sequence about the image process of the image imaged through the vehicle interior imaging device employ | adopted with the vehicle window management apparatus of the embodiment. 同実施の形態の車窓管理装置による車両の走行中における処理について、その処理手順を示すフローチャート。The flowchart which shows the process sequence about the process in driving | running | working of the vehicle by the vehicle window management apparatus of the embodiment. 同実施の形態の車窓管理装置で採用される車両前方撮像装置を通じて撮像される画像の画像処理について、その処理手順を示すフローチャート。The flowchart which shows the process sequence about the image processing of the image imaged through the vehicle front imaging device employ | adopted with the vehicle window management apparatus of the embodiment. 従来の車窓管理装置の一例について、各構成要素間の信号の流れを示すブロック図。The block diagram which shows the flow of the signal between each component about an example of the conventional vehicle window management apparatus.

符号の説明Explanation of symbols

10…フロントウインドウ、11…ルームミラー、12…ケース、20…車室内撮像装置(監視手段)、30…車両前方撮像装置(監視手段)、40…温度センサ(監視手段)、50…マイクロコンピュータ、50a…画像処理部(画像処理装置)、50b…記憶部、50c…判断・制御部(制御手段)、60…窓用モータ、70…車窓、80…表示装置、100…リミットスイッチ、110…イグニッションスイッチ、120…警報装置。 DESCRIPTION OF SYMBOLS 10 ... Front window, 11 ... Room mirror, 12 ... Case, 20 ... Vehicle interior imaging device (monitoring means), 30 ... Vehicle front imaging device (monitoring means), 40 ... Temperature sensor (monitoring means), 50 ... Microcomputer, DESCRIPTION OF SYMBOLS 50a ... Image processing part (image processing apparatus), 50b ... Memory | storage part, 50c ... Judgment / control part (control means), 60 ... Motor for windows, 70 ... Car window, 80 ... Display apparatus, 100 ... Limit switch, 110 ... Ignition Switch, 120 ... alarm device.

Claims (10)

自動車に開閉可能に設けられている車窓の状態を自動管理する車窓管理装置であって、
当該車両のおかれている物理環境の変化を監視する監視手段と、該監視される物理環境の変化に応じて前記車窓の状態を制御する制御手段とを備え
前記監視手段は、車室内から当該車両の前方の画像を撮像する車両前方撮像装置と、該車両前方撮像装置を通じて撮像される画像の画像情報から前記物理環境の変化に対応する特徴量を抽出して同物理環境の変化を検出する画像処理装置とを備えるとともに、前記制御手段は、この検出される物理環境の変化に基づき、車室内の環境が該変化した物理環境に適合する状態に維持されるように前記車窓の状態を制御するものであって、
前記監視手段を通じて検出される物理環境の変化が当該車両の前方での大型車両の検出であり、前記制御手段は、該車両の前方に大型車両が検出されることに基づいて前記車窓を全閉に制御する
ことを特徴とする車窓管理装置。
A vehicle window management device that automatically manages the state of a vehicle window that is provided in a car that can be opened and closed,
Monitoring means for monitoring a change in a physical environment where the vehicle is located, and a control means for controlling the state of the vehicle window according to the change in the monitored physical environment ,
The monitoring means extracts a feature amount corresponding to a change in the physical environment from a vehicle front imaging device that captures an image in front of the vehicle from a vehicle interior and image information of an image captured through the vehicle front imaging device. And an image processing device for detecting a change in the physical environment, and the control means is configured to maintain the environment in the vehicle interior in a state suitable for the changed physical environment based on the detected change in the physical environment. And controlling the state of the vehicle window,
The change in the physical environment detected through the monitoring means is detection of a large vehicle in front of the vehicle, and the control means fully closes the vehicle window based on detection of the large vehicle in front of the vehicle. A vehicle window management device characterized in that the vehicle window management device is controlled .
前記監視手段は、車室内から前記開閉可能に設けられている車窓近傍の画像を撮像する車室内撮像装置と、該車室内撮像装置を通じて撮像される画像の画像情報から前記物理環境の変化に対応する特徴量を抽出して同物理環境の変化を検出する画像処理装置とをさらに備え、前記制御手段は、この検出される物理環境の変化に基づき、車室内の環境が該変化した物理環境に適合する状態に維持されるように前記車窓の状態を制御する
請求項1に記載の車窓管理装置。
The monitoring means responds to a change in the physical environment from a vehicle interior imaging device that captures an image in the vicinity of the vehicle window that can be opened and closed from a vehicle interior, and image information of an image captured through the vehicle interior imaging device. further comprising an image processing device for detecting a change in the extracted and the physical environment feature amount, the control means, based on a change in the physical environment that this is detected, the physical environment in which the vehicle interior environment is said change The vehicle window management device according to claim 1, wherein a state of the vehicle window is controlled so as to be maintained in a compatible state.
前記監視手段を通じて検出される物理環境の変化が前記車窓への雨滴の付着であり、前記制御手段は、該雨滴の付着が検出されることに基づいて前記車窓を全閉に制御する
請求項2に記載の車窓管理装置。
The change in the physical environment detected through the monitoring means is attachment of raindrops to the vehicle window, and the control means controls the vehicle window to be fully closed based on detection of attachment of the raindrops. Vehicle window management device as described in 4.
前記監視手段を通じて検出される物理環境の変化が昼間から夜間への移行であり、前記制御手段は、該夜間への移行が検出されることに基づいて前記車窓を全閉に制御する
請求項2または3に記載の車窓管理装置。
The change in the physical environment detected through the monitoring unit is a transition from daytime to nighttime, and the control unit controls the vehicle window to be fully closed based on detection of the transition to nighttime. Or the vehicle window management apparatus of 3.
前記監視手段を通じて検出される物理環境の変化が車窓近傍での乗員の検出であり、前記
制御手段は、該車窓近傍での乗員の検出が維持されている間、前記車窓の状態にかかる制御を停止する
請求項2〜4のいずれか一項に記載の車窓管理装置。
The change in the physical environment detected through the monitoring means is detection of an occupant in the vicinity of the vehicle window, and the control means performs control related to the state of the vehicle window while the detection of the occupant in the vicinity of the vehicle window is maintained. The vehicle window management device according to any one of claims 2 to 4.
前記監視手段は、車室内の温度を測定する温度センサからの温度情報に基づき前記物理環境の変化として車室内の温度の変化を検出する手段をさらに備え、前記制御手段は、該検出される車室内の温度の変化に基づき同車室内の温度上昇が抑制される態様で前記車窓の開度を制御する
請求項1〜5のいずれか一項に記載の車窓管理装置。
The monitoring means further includes means for detecting a change in the temperature in the vehicle interior as a change in the physical environment based on temperature information from a temperature sensor that measures the temperature in the vehicle interior, and the control means detects the detected vehicle. The vehicle window management device according to any one of claims 1 to 5, wherein the opening degree of the vehicle window is controlled in a manner in which a temperature increase in the vehicle interior is suppressed based on a change in the temperature of the vehicle interior.
前記監視手段は、車室内の温度を測定する温度センサからの温度情報と車室外の温度を測定する温度センサからの温度情報とに基づき前記物理環境の変化として車室内外の温度差の変化を検出する手段をさらに備え、前記制御手段は、該検出される車室内外の温度差の変化に基づき車室内の温度上昇が抑制される態様で前記車窓の開度を制御する
請求項1〜5のいずれか一項に記載の車窓管理装置。
The monitoring means detects a change in temperature difference between the vehicle interior and the exterior as a change in the physical environment based on temperature information from a temperature sensor that measures the temperature inside the vehicle interior and temperature information from a temperature sensor that measures the temperature outside the vehicle interior. 6. The apparatus according to claim 1, further comprising detecting means, wherein the control means controls the opening of the vehicle window in such a manner that an increase in temperature in the vehicle interior is suppressed based on the detected change in temperature difference between the vehicle interior and exterior. The vehicle window management device according to any one of the above.
前記制御手段は、当該車両のイグニッションスイッチがオフとなっていることを条件に前記車窓の状態にかかる制御を実行する
請求項1〜7のいずれか一項に記載の車窓管理装置。
The vehicle window management device according to any one of claims 1 to 7, wherein the control unit performs control related to a state of the vehicle window on condition that an ignition switch of the vehicle is turned off.
前記監視手段を通じて検出される物理環境の変化が当該車両の前方でのトンネルの検出であり、前記制御手段は、該車両の前方にトンネルが検出されることに基づいて前記車窓を全閉に制御する
請求項1〜8のいずれか一項に記載の車窓管理装置。
The change in the physical environment detected through the monitoring means is detection of a tunnel in front of the vehicle , and the control means controls the vehicle window to be fully closed based on detection of a tunnel in front of the vehicle. The vehicle window management device according to any one of claims 1 to 8.
記制御手段は、前記車窓が開いている状態にある間、乗員にその旨を警告表示する表示手段をさらに備える
請求項1〜のいずれか一項に記載の車窓管理装置。
Before SL control means, while in the state before Symbol car window is open, the car window management apparatus according to any one of claims 1 to 9, further comprising display means for warning to that effect to the occupant.
JP2005082201A 2005-03-22 2005-03-22 Car window management device Expired - Fee Related JP4385973B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005082201A JP4385973B2 (en) 2005-03-22 2005-03-22 Car window management device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005082201A JP4385973B2 (en) 2005-03-22 2005-03-22 Car window management device

Publications (2)

Publication Number Publication Date
JP2006265865A JP2006265865A (en) 2006-10-05
JP4385973B2 true JP4385973B2 (en) 2009-12-16

Family

ID=37202111

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005082201A Expired - Fee Related JP4385973B2 (en) 2005-03-22 2005-03-22 Car window management device

Country Status (1)

Country Link
JP (1) JP4385973B2 (en)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008106449A (en) * 2006-10-23 2008-05-08 Mitsuba Corp Power window system with ventilatory function
JP5320180B2 (en) * 2009-06-19 2013-10-23 ナイルス株式会社 Vehicle rain / occupant detection sensor
BRPI0903334A2 (en) * 2009-08-04 2011-04-19 Ferrer Fróes Fausto safety device and vehicle automation process by varying the speed
EP2710512A1 (en) * 2011-05-16 2014-03-26 Valeo Schalter und Sensoren GmbH Vehicle and method for operating a camera arrangement for a vehicle
JP5815647B2 (en) * 2013-11-19 2015-11-17 三菱電機株式会社 Opening and closing body control system
KR102305524B1 (en) * 2014-12-04 2021-09-27 현대모비스 주식회사 Apparatus for control of vehicle window
JP7064805B2 (en) * 2018-02-02 2022-05-11 トヨタ自動車株式会社 Vehicle window control system and vehicle window control program
JP7009243B2 (en) * 2018-02-02 2022-01-25 トヨタ自動車株式会社 Vehicle window control system and vehicle window control program
CN110259321B (en) * 2019-01-17 2021-01-12 合肥工业大学智能制造技术研究院 A window control system and method
JP7306179B2 (en) * 2019-09-12 2023-07-11 株式会社デンソー Vehicle control device, control program

Also Published As

Publication number Publication date
JP2006265865A (en) 2006-10-05

Similar Documents

Publication Publication Date Title
CN104395156B (en) Vehicle surrounding monitoring device
JP6364797B2 (en) Image analysis apparatus and image analysis method
JP2009078597A (en) Backward confirmation system
US11057568B2 (en) Deployable side shark fin with integrated side view camera and sensing device
JP4385973B2 (en) Car window management device
JP2005138720A (en) Obstacle detection device, obstacle detection program, and storage medium
JP2012228916A (en) Onboard camera system
JP2018032984A (en) Image processing apparatus, imaging apparatus, and image processing method and program
US20140070698A1 (en) System and method for detecting a blocked imager
CN113978395A (en) Vehicle prompting method and device, electronic equipment and storage medium
JP2009255740A (en) Photographing device for vehicle
CN113059986B (en) An intelligent high-transparency vehicle-mounted sunshade screen device
US20190329718A1 (en) Electron mirror apparatus
JP3832455B2 (en) Vehicle surrounding display device
JP2019026256A (en) Indirect view system for vehicle
CN115131749A (en) Image processing apparatus, image processing method, and computer-readable storage medium
JP6058307B2 (en) Wiper control device
JP2009241749A (en) Storage member of imaging means and removal device
CN117104140A (en) Control method, system and storage medium for automobile electronic exterior rearview mirror
JP7258847B2 (en) Video system for vehicle
JP3636955B2 (en) Raindrop detection device for vehicles
CN113043954B (en) Convertible rearview system and method
JP2005033680A (en) Image processing apparatus for vehicle
JP2009029350A (en) Vehicle occupant detection device
JP4449618B2 (en) Vehicle perimeter monitoring system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070418

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090210

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090410

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090908

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090921

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121009

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121009

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131009

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees