Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP5521990B2 - Adherence notification device for in-vehicle camera - Google Patents
[go: Go Back, main page]

JP5521990B2 - Adherence notification device for in-vehicle camera - Google Patents

Adherence notification device for in-vehicle camera Download PDF

Info

Publication number
JP5521990B2
JP5521990B2 JP2010255864A JP2010255864A JP5521990B2 JP 5521990 B2 JP5521990 B2 JP 5521990B2 JP 2010255864 A JP2010255864 A JP 2010255864A JP 2010255864 A JP2010255864 A JP 2010255864A JP 5521990 B2 JP5521990 B2 JP 5521990B2
Authority
JP
Japan
Prior art keywords
vehicle
user
deposit
image
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010255864A
Other languages
Japanese (ja)
Other versions
JP2012106557A (en
Inventor
隆介 堀田
玉津  幸政
浩 永縄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2010255864A priority Critical patent/JP5521990B2/en
Publication of JP2012106557A publication Critical patent/JP2012106557A/en
Application granted granted Critical
Publication of JP5521990B2 publication Critical patent/JP5521990B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)

Description

本発明は、カメラのレンズ等に付着した付着物の存在を報知する技術に関し、特に、車載用に適応された車載カメラ用付着物報知装置に関する。   The present invention relates to a technique for informing the presence of an adhering substance adhering to a lens of a camera, and more particularly to an in-vehicle camera adhering substance notifying apparatus adapted for in-vehicle use.

従来、車両周辺を確認するために小型のカメラを備え付けた車両用撮像装置として、例えばバックモニタ装置が知られている。このバックモニタ装置は、車両外後方に備えた車載カメラと、そのカメラで撮影した画像を監視する車内に設置された表示装置とを備えている。   2. Description of the Related Art Conventionally, for example, a back monitor device is known as a vehicular imaging device equipped with a small camera for checking the periphery of a vehicle. The back monitor device includes an in-vehicle camera provided on the rear side outside the vehicle and a display device installed in the vehicle for monitoring an image photographed by the camera.

ところでこの車載カメラは通常車両外に設置されるため、そのカメラのレンズ表面等の汚れ(つまり付着物)によって映像が不鮮明になることがある。   By the way, since this in-vehicle camera is usually installed outside the vehicle, the image may become unclear due to dirt (that is, a deposit) on the lens surface of the camera.

この問題を解決するために、車載カメラによって異なる時刻において撮像された複数の画像データを取得し、これらの画像データ間の差分画像データを生成し、前回の差分画像と今回の差分画像とを各画素について比較し、差分の大きい方の画素で今回の差分画像を更新する。差分画像の更新回数が所定回数に達した場合、差分画像に基づいて、車載カメラにおけるレンズ汚れの有無を判断し、その判断が「汚れ有り」の場合は、報知部のスピーカーから合成音声を出力することによってユーザーに汚れの存在を知らせる撮像装置が知られている(例えば、特許文献1)。   In order to solve this problem, a plurality of image data captured at different times by an in-vehicle camera is acquired, difference image data between these image data is generated, and the previous difference image and the current difference image are each The pixels are compared, and the current difference image is updated with the pixel having the larger difference. When the number of update of the difference image reaches a predetermined number, based on the difference image, the presence or absence of lens dirt on the in-vehicle camera is judged. If the judgment is “dirty”, the synthesized voice is output from the speaker of the notification unit An imaging apparatus is known that notifies the user of the presence of dirt by doing so (for example, Patent Document 1).

特開2007−318355号公報JP 2007-318355 A

しかしながら、従来の技術では、いつ、どのようなタイミングでユーザーにレンズ汚れの存在を知らせるかは考慮されていない。そのため、例えばユーザーが車両に乗車してから撮像装置のレンズ汚れが存在することを知った場合、もう一度車外に出てユーザー自身で汚れをふき取る必要がある。特に車両の走行後にユーザーが車載カメラの汚れを知らされた場合は除去のタイミングが遅れると共に、一旦車両を止めて乗降車を繰り返すというユーザーの手間がかかる問題があった。   However, the conventional technology does not consider when and when to notify the user of the presence of lens contamination. For this reason, for example, when the user knows that the lens dirt of the imaging apparatus exists after getting on the vehicle, it is necessary to go out of the vehicle again and wipe off the dirt by the user himself / herself. In particular, when the user is informed of dirt on the in-vehicle camera after the vehicle travels, there is a problem that the removal timing is delayed, and the user has to take time and effort to stop and repeat the boarding / exiting.

何れの場合も車両外に居る人に対して報知するという技術的思想が特許文献1に存在していないために生じる問題である。   In any case, this is a problem that occurs because Patent Literature 1 does not have the technical idea of notifying a person outside the vehicle.

本発明は、上記問題に鑑み、ユーザーが車両外に居るときに車載カメラ自身に付着物があることを報知可能な車載カメラ用付着物報知装置を提供することを目的とする。   In view of the above problems, an object of the present invention is to provide an in-vehicle camera deposit notification device capable of notifying that there is a deposit on the in-vehicle camera when the user is outside the vehicle.

上記目的を達成するために、請求項の車載カメラ用付着物報知装置は、車両外に備えた車載カメラで撮影した撮像を画像処理する画像処理手段と、画像処理手段によって撮像を表示する画像表示手段と、車載カメラ自身に付着した付着物が存在するか否かを判定する付着物有無判定手段と、ユーザーが車両外に居ると判断する予め決められた条件が成立したか否かを判定するユーザー条件判定手段と、付着物有無判定手段を用いるか否かを選択する選択手段と、付着物が存在する旨の情報の報知を行う報知手段とを備え、報知手段は、ユーザー条件判定手段によりユーザーが車両外に居る条件が成立したと判定し、かつ選択手段によって付着物有無判定手段を用いると選択し、かつ付着物有無判定手段により付着物が存在すると判定した場合は、付着物が存在する旨の情報を報知し、画像表示手段は、ユーザー条件判定手段によりユーザーが車両外に居る条件が成立したと判定し、かつ選択手段によって付着物有無判定手段を用いないと選択した場合は、撮像を表示することを特徴としている。 In order to achieve the above object, an in-vehicle camera attached matter notification device according to claim 1 is an image processing unit that performs image processing on an image captured by an in-vehicle camera provided outside the vehicle, and an image that displays the image captured by the image processing unit. Determining whether or not the display means, the presence / absence determination means for determining whether or not there is an attachment attached to the in-vehicle camera, and whether or not a predetermined condition for determining that the user is outside the vehicle are satisfied A user condition determining means, a selecting means for selecting whether or not to use the adhering matter presence determining means, and a notifying means for notifying information that there is an adhering matter, and the notifying means includes a user condition determining means. If it is determined that the condition that the user is outside the vehicle is satisfied, the selection means uses the presence / absence determination means, and the presence / absence determination means determines that there is an attachment Informs that the deposit is present, the image display means determines that the condition that the user is outside the vehicle is satisfied by the user condition determination means, and does not use the deposit presence / absence determination means by the selection means. Is selected, the imaging is displayed .

この構成によれば、付着物有無の検出をするか否かを予め設定することによって、ユーザーは車両外に居るときに、ユーザーの好みに応じた情報提供を受けることができる。 According to this configuration, by the Turkey set whether the detection deposits presence advance, When users located outside the vehicle, can be provided with information according to user preferences.

また、請求項の車載カメラ用付着物報知装置における画像表示手段は、撮影対象の異なる夫々の撮像を表示できることを特徴としている。 Moreover, the image display means in the adhering matter notification apparatus for a vehicle-mounted camera according to claim 2 is characterized in that it can display each of the different images to be photographed.

この構成によれば、撮影対象が異なる画像を夫々ユーザーは見ることができる為、より確実に付着物が有るか否かを目視で確認できる。   According to this configuration, since each user can see images having different shooting targets, it is possible to visually confirm whether or not there is an attachment.

また、請求項の車載カメラ用付着物報知装置におけるユーザー条件判定手段の予め決められた条件は、ユーザーが車両外に居るか否かを判定するために利用される複数の判定用情報に基づいて決められることを特徴としている。 Further, the predetermined condition of the user condition determining means in the in-vehicle camera deposit notification apparatus according to claim 3 is based on a plurality of determination information used for determining whether or not the user is outside the vehicle. It is characterized by being determined.

この構成によれば、複数の判定用情報を組み合わせて用いることにより詳細にユーザーが車両外に居ることの条件を決めることができるため、実際にユーザーが車両外に居るという確実性を向上させることができる。   According to this configuration, since the condition for the user to be outside the vehicle can be determined in detail by using a plurality of pieces of determination information in combination, the certainty that the user is actually outside the vehicle can be improved. Can do.

本発明の実施形態1における車載カメラ用付着物報知システムの概要図である。It is a schematic diagram of the adhesion information system for in-vehicle cameras in Embodiment 1 of the present invention. 本発明の実施形態1における車載カメラ用付着物報知システムのブロック図である。It is a block diagram of the adhesion information system for in-vehicle cameras in Embodiment 1 of the present invention. 本発明の実施形態1におけるモニタ用ECUの制御処理を示すフローチャートである。It is a flowchart which shows the control processing of ECU for monitoring in Embodiment 1 of this invention. 本発明の実施形態2におけるモニタ用ECUの制御処理を示すフローチャートである。It is a flowchart which shows the control processing of ECU for monitoring in Embodiment 2 of this invention. 本発明の実施形態3におけるモニタ用ECUの制御処理を示すフローチャートである。It is a flowchart which shows the control processing of ECU for monitoring in Embodiment 3 of this invention.

以下、本発明に係る車載カメラ用付着物報知装置及び車載カメラ用付着物報知システムの実施形態を、図面に基づき説明する。   DESCRIPTION OF EMBODIMENTS Hereinafter, embodiments of an in-vehicle camera deposit notification apparatus and an in-vehicle camera deposit notification system according to the present invention will be described with reference to the drawings.

(実施形態1)
図1及び図2は車両のバックモニタに用いられるカメラを用いた車載カメラ用付着物報知システム1の全体図を示し、図1は車載カメラ用付着物報知システム1の概要図を示し、図2は車載カメラ用付着物報知システム1のブロック図を示している。
(Embodiment 1)
1 and 2 show an overall view of an in-vehicle camera deposit notification system 1 using a camera used for a back monitor of a vehicle, and FIG. 1 shows a schematic diagram of the in-vehicle camera deposit notification system 1. These show the block diagram of the adhesion information system 1 for vehicle-mounted cameras.

図1における本発明の実施形態に係る車載カメラ用付着物報知システム1は、車載カメラ2、車載ネットワーク部3、モニタ用ECU(ECU:Electronic Control Unit)10、報知部20、キーレスキー30、携帯装置40、及び車載バッテリを備える。これらの各構成要素については図2を用いて以下説明する。   1, an in-vehicle camera attached matter notification system 1 according to an embodiment of the present invention includes an in-vehicle camera 2, an in-vehicle network unit 3, a monitoring ECU (ECU: Electronic Control Unit) 10, an informing unit 20, a keyless key 30, and a mobile phone. The apparatus 40 and the vehicle-mounted battery are provided. Each of these components will be described below with reference to FIG.

車載カメラ2は、撮影によって車両の後方視界の撮像を得るため車両外の後部に取り付けられ、さらにモニタ用ECU10と通信可能に接続されている。また車載カメラ2は、モニタ用ECU10から撮影を指示する指示信号を受信すると、撮影した車両の後方視界の撮像をモニタ用ECU10の入出力部14に送信する。尚、本実施形態の車載カメラ2は、後方のカメラを用いて説明をしているが、付着物の存在を報知可能なカメラの配置や数はこれに限ることはない。例えば、車両の前方視界の撮像を得るため車両外の前方に取り付けられていても、車両の左右視界の撮像を得るため車両外の横方に取り付けられていてもよく、さらに前後左右それぞれの車載カメラを種々組み合わせて車両外に取り付けて、それらの視界の撮像をモニタ用ECU10に送信するように構成されていてもよい。このモニタ用ECU10については各構成要素の説明後に詳述する。   The in-vehicle camera 2 is attached to a rear portion outside the vehicle in order to obtain an image of the rear view of the vehicle by photographing, and is further connected to the monitoring ECU 10 so as to be communicable. Further, when the in-vehicle camera 2 receives an instruction signal for instructing photographing from the monitoring ECU 10, the in-vehicle camera 2 transmits an image of the photographed rear view of the vehicle to the input / output unit 14 of the monitoring ECU 10. In addition, although the vehicle-mounted camera 2 of this embodiment is demonstrated using the back camera, the arrangement | positioning and number of cameras which can alert | report the presence of a deposit | attachment are not restricted to this. For example, it may be attached to the front outside the vehicle to obtain an image of the front field of view of the vehicle, or may be attached to the lateral side of the vehicle to obtain an image of the left and right field of view of the vehicle. Various combinations of cameras may be attached to the outside of the vehicle, and the imaging of the field of view may be transmitted to the monitoring ECU 10. The monitoring ECU 10 will be described in detail after explanation of each component.

車載ネットワーク部3は、車載ネットワークを介してモニタ用ECU10と各ECU(ここではドアECU3a、シートECU3b、ナビECU3cを言う)との間で通信可能に接続されている。各ECUは、ユーザー(ここでは運転者や乗員の他、その家族など車両を使用する人)が車両外に居る条件が成立している(つまり車両外に居ると予想される条件を満たしている)か否かを判定するための判定用情報(判定用情報の詳細については後述する)をモニタ用ECU10に送信する。また、各ECUは、車載カメラ2の撮影の視界を遮る汚れ(付着物)についての報知情報を受信する。   The in-vehicle network unit 3 is communicably connected between the monitoring ECU 10 and each ECU (referred to here as a door ECU 3a, a seat ECU 3b, and a navigation ECU 3c) via the in-vehicle network. Each ECU satisfies a condition that a user (in this case, a driver or an occupant or a person using the vehicle such as a family member) is outside the vehicle (that is, a condition that the user is expected to be outside the vehicle is satisfied). ) For determining whether or not (details of the information for determination will be described later) are transmitted to the monitoring ECU 10. Each ECU also receives notification information about dirt (attachment) that obstructs the field of view taken by the in-vehicle camera 2.

尚、報知情報はレンズ等に付着物が存在する旨を知らせるための情報であって、例えば、撮像を表示した画像に付着物の存在する領域を矢印等で指摘表示する画像情報や、「付着物有り」を表示する文字の画像情報、「付着物有り」と発音する音声情報、ピーという単音を鳴らす為の音情報、光源を用いて発光させるための発光情報などがある(以降、説明する報知情報も同様)。次に各ECUの機能について説明する。   Note that the notification information is information for notifying that there is an attached substance on a lens or the like. For example, image information indicating an area where the attached substance exists in an image displaying an image with an arrow or the like, There are image information of characters that display “with kimono”, audio information that pronounces “with attachment”, sound information to make a single beep, light emission information to emit light using a light source, etc. The same applies to notification information). Next, functions of each ECU will be described.

ドアECU3aは、図示しないが車両のドアを開放/閉鎖制御したり、ドアのロック/ロック解除制御したりする制御機能と、キーレスキー30を用いてその制御機能を遠隔操作するための無線通信部3dを備えている。またドアECU3aは、モニタ用ECU10から受信した報知情報を、無線通信部3dを介してキーレスキー30へ送信し、キーレスキー30はその報知情報に基づき報知する。   Although not shown, the door ECU 3a includes a control function for opening / closing the door of the vehicle and a door lock / unlock control, and a wireless communication unit for remotely operating the control function using the keyless key 30. 3d. Further, the door ECU 3a transmits the notification information received from the monitoring ECU 10 to the keyless key 30 via the wireless communication unit 3d, and the keyless key 30 notifies based on the notification information.

シートECU3bは、図示しないが車両のシート位置を変更するための制御機能と、人がシートに座っているか否かを知るためにシート座席にかかる重量を検知するシートセンサ機能を備えている。   Although not shown, the seat ECU 3b has a control function for changing the seat position of the vehicle and a seat sensor function for detecting the weight applied to the seat to know whether or not a person is sitting on the seat.

ナビECU3cは、図示しないが表示装置等を利用して車両の進行方向などをナビゲーションするための機能と、携帯装置40と無線通信する無線通信部3eを備えている。またナビECU3cは、モニタ用ECU10から受信した報知情報を、無線通信部3eを介して携帯装置40へ送信し、携帯装置40はその報知情報に基づき報知する。   Although not shown, the navigation ECU 3c includes a function for navigating the traveling direction of the vehicle using a display device or the like, and a wireless communication unit 3e that wirelessly communicates with the portable device 40. The navigation ECU 3c transmits the notification information received from the monitoring ECU 10 to the portable device 40 via the wireless communication unit 3e, and the portable device 40 notifies based on the notification information.

報知部20は、モニタ用ECU10と通信可能に接続されている。また、報知部20は画像表示部21と、スピーカー部22を備えており、画像表示部21は、車内の運転席の位置や車外のドア近傍位置からユーザーが見えるよう、車内の運転席前面にあるメータ計器類(非図示)側に配置されている。この画像表示部21は車載カメラ2の撮像を画像表示する、又は文字画像を表示するための液晶表示装置を備えており、液晶表示装置の表示機能を用いて、報知情報としてモニタ用ECU10から受信した画像情報を表示できるように機能している。尚、本実施形態で使用する表示装置は液晶に限らず有機ELディスプレイやプラズマディスプレイなど他の表示装置であっても良い(以降、説明する表示装置も同様)。   The notification unit 20 is communicably connected to the monitoring ECU 10. In addition, the notification unit 20 includes an image display unit 21 and a speaker unit 22, and the image display unit 21 is provided in front of the driver's seat in the vehicle so that the user can see from the position of the driver's seat in the vehicle and the position near the door outside the vehicle. It is arranged on a certain meter instrumentation (not shown) side. The image display unit 21 includes a liquid crystal display device for displaying an image captured by the in-vehicle camera 2 or displaying a character image. The image display unit 21 receives notification information from the monitoring ECU 10 using the display function of the liquid crystal display device. It is functioning so that the displayed image information can be displayed. Note that the display device used in the present embodiment is not limited to the liquid crystal, and may be another display device such as an organic EL display or a plasma display (the display device described below is also the same).

また、スピーカー部22では、図示しないが受信した音声情報を音(音声)に変換して出力する出力部を有しており、映像表示部21と同様、モニタ用ECU10から受信した報知情報を報知できるように、予め決められた単音などの音もしくは「付着物有り」などの合成音声の音声情報を出力部より発音できるように機能している。   In addition, the speaker unit 22 has an output unit (not shown) that converts received audio information into sound (sound) and outputs the same, and notifies the notification information received from the monitoring ECU 10 as with the video display unit 21. In order to be able to do so, it functions so as to be able to generate sound information of a predetermined sound such as a single sound or synthesized speech such as “with attached matter” from the output unit.

次に、キーレスキー30と、携帯装置40の有する機能について説明する。   Next, functions of the keyless key 30 and the portable device 40 will be described.

キーレスキー30は、情報提示部31と、スピーカー部32と、無線通信部33と、入力操作部34を備えている。   The keyless key 30 includes an information presentation unit 31, a speaker unit 32, a wireless communication unit 33, and an input operation unit 34.

情報提示部31では、図示しないが画像を表示するための液晶表示装置を備えており、液晶表示装置の表示機能を用いて、モニタ用ECU10から受信した「付着物有り」を示す文字などの報知情報を報知できるように機能している。また情報提示部31は、図示しないが警告を発するためにLED(Light Emitting Diode)の光源を備えており、LEDが発光することによって、モニタ用ECU10から受信した報知情報を報知できるように機能している。   Although not shown, the information presentation unit 31 includes a liquid crystal display device for displaying an image. Using the display function of the liquid crystal display device, notification of characters and the like indicating “attached” is received from the monitoring ECU 10. It functions so that information can be reported. Although not shown, the information presenting unit 31 includes a light emitting diode (LED) light source to issue a warning, and functions to be able to notify the notification information received from the monitoring ECU 10 when the LED emits light. ing.

また、スピーカー部32では、図示しないがスピーカーなどの音声出力部を有しており、予め決められた単音などの音もしくは「付着物有り」などの合成音声を発生することにより、情報提示部31と同様に、受信した報知情報を報知できるように機能している。   In addition, the speaker unit 32 has a voice output unit such as a speaker (not shown), and generates a sound such as a predetermined single sound or a synthesized voice such as “with attached matter”, thereby providing the information presentation unit 31. It functions so that the received notification information can be notified in the same manner.

無線通信部33は、ドアECU3aと無線通信可能な機能を有し、モニタ用ECU10の報知情報を、ドアECU3aを介して受信し、情報提示部31、スピーカー部32に出力している。また、入力操作部34はユーザーの操作によって車両のドアのロック又はロック解除、ドアの開閉の指示信号を、無線通信部33を介してドアECU3aに送信する。   The wireless communication unit 33 has a function capable of wireless communication with the door ECU 3 a, receives notification information of the monitoring ECU 10 through the door ECU 3 a, and outputs the notification information to the information presentation unit 31 and the speaker unit 32. Further, the input operation unit 34 transmits an instruction signal for locking or unlocking the door of the vehicle and opening / closing of the door to the door ECU 3a via the wireless communication unit 33 by a user operation.

一方、携帯装置40は、画像表示部41と、スピーカー部42と、無線通信部43と、入力操作部44を備えている。   On the other hand, the portable device 40 includes an image display unit 41, a speaker unit 42, a wireless communication unit 43, and an input operation unit 44.

画像表示部41では、図示しないが画像を表示するための液晶表示装置を備えており、液晶表示装置の表示機能を用いて、モニタ用ECU10から受信した「付着物有り」を示す文字などの報知情報を報知できるように機能している。   Although not shown, the image display unit 41 includes a liquid crystal display device for displaying an image. Using the display function of the liquid crystal display device, notification of characters or the like indicating “attached” is received from the monitoring ECU 10. It functions so that information can be reported.

また、スピーカー部42では、図示しないがスピーカーなどの音声出力部を有しており、予め決められた単音などの音もしくは「付着物有り」などの合成音声を発生することにより、画像表示部41と同様に、受信した報知情報を報知できるように機能している。   In addition, the speaker unit 42 has a sound output unit such as a speaker (not shown), and generates a sound such as a predetermined single sound or a synthesized sound such as “there is a deposit”, whereby the image display unit 41. It functions so that the received notification information can be notified in the same manner.

無線通信部43は、ナビECU3cの無線通信部3eと互いに無線通信可能な機能を有し、無線通信部3eを介してモニタ用ECU10と情報を送受信可能に構成されている。無線通信部43は、モニタ用ECU10から出力された報知情報を、ナビECU3cを介して受信し、画像表示部41、スピーカー部42に出力している。   The wireless communication unit 43 has a function capable of wireless communication with the wireless communication unit 3e of the navigation ECU 3c, and is configured to be able to transmit and receive information to and from the monitoring ECU 10 via the wireless communication unit 3e. The wireless communication unit 43 receives the notification information output from the monitoring ECU 10 via the navigation ECU 3 c and outputs the notification information to the image display unit 41 and the speaker unit 42.

また、入力操作部44は、ユーザーの操作によって、ユーザーが車両外に居るということを示す判定用情報を、ナビECU3c及び車載ネットワークを介してモニタ用ECU10の通信インターフェース部15に送信する。この携帯装置40から送信される判定用情報にはユーザーが車両外に居るということが決定しており、モニタ用ECU10ではその携帯装置40から送信される判定用情報を受信すると、その判定用情報に基づいてユーザーが車両外に居ると判定する。   In addition, the input operation unit 44 transmits determination information indicating that the user is outside the vehicle to the communication interface unit 15 of the monitoring ECU 10 via the navigation ECU 3c and the in-vehicle network. The determination information transmitted from the portable device 40 determines that the user is outside the vehicle. When the monitoring ECU 10 receives the determination information transmitted from the portable device 40, the determination information is received. And determining that the user is outside the vehicle.

モニタ用ECU10は、内部に主制御部となるマイクロコンピュータで構成された中央演算装置(CPU)11に、読出し専用メモリ(ROM)12、ランダムアクセスメモリ(RAM)13を備えており、システムバスを介してそれぞれ接続されている。またモニタ用ECU10は、車載カメラ2のような車載ネットワークを介さずに直接モニタECU1と通信を行うためのインターフェースを備えた入出力部14、車載ネットワークを介して各ECUと通信を行うための通信インターフェース部15、及び車載カメラ2で得られた撮像を画像処理する画像処理部16、撮像や処理後の画像などを保存する不揮発性メモリ17をさらに備え、上記のシステムバスを介してそれぞれ接続されている。また、モニタ用ECU10には、図示しないが後述する差分画像の更新回数を計数するためのカウンタ機能も備えられている。また、モニタ用ECU10は、車両がイグニッション・オフされた後でも動作可能となるよう車載バッテリが接続されている。さらに配線は図示しないが報知部20や車載ネットワーク部3の各ECUも車両がイグニッション・オフされた後でも本実施形態にかかる動作が可能となるよう車載バッテリより電源供給されるように構成されている。   The monitor ECU 10 includes a read only memory (ROM) 12 and a random access memory (RAM) 13 in a central processing unit (CPU) 11 composed of a microcomputer serving as a main control unit, and a system bus. Are connected to each other. The monitoring ECU 10 includes an input / output unit 14 having an interface for directly communicating with the monitor ECU 1 without using the vehicle-mounted network such as the vehicle-mounted camera 2, and communication for communicating with each ECU via the vehicle-mounted network. An interface unit 15 and an image processing unit 16 that performs image processing on captured images obtained by the in-vehicle camera 2 and a non-volatile memory 17 that stores captured images and processed images are further connected to each other via the system bus. ing. The monitoring ECU 10 is also provided with a counter function (not shown) for counting the number of updates of the difference image described later. The monitoring ECU 10 is connected to an in-vehicle battery so that it can operate even after the vehicle is turned off. Further, although not shown, the ECUs of the notification unit 20 and the in-vehicle network unit 3 are also configured to be supplied with power from the in-vehicle battery so that the operation according to the present embodiment can be performed even after the vehicle is turned off. Yes.

ROM12には、入出力部14や通信インターフェース部15で受信した各種信号を処理するためのプログラムや、報知部20や車載カメラ2、車載ネットワーク部3の各ECUへ処理命令を行うためのプログラムなどが保存されている。例えばROM12には、車載カメラ2で撮影して得られる撮像を報知部20や携帯装置40などの画像表示部に表示する画像表示処理や、車載カメラ2の撮影領域の視界を遮る汚れ(付着物)がその車載カメラ2のレンズ等に付着しているかを検出する付着物検出処理、付着物が付着している場合にその付着物の存在する旨の情報を報知する報知処理が規定されており、CPU11は、そのROM12に記憶されたプログラムを実行する。またRAM13には、CPU11で演算処理された結果や、上記の受信した各種信号などを記憶する機能を備えている。その他、図示しないが各データを受信した時間の間隔を計測するタイマカウンタも備えている。   The ROM 12 includes a program for processing various signals received by the input / output unit 14 and the communication interface unit 15, a program for issuing processing instructions to the ECUs of the notification unit 20, the in-vehicle camera 2, and the in-vehicle network unit 3. Is saved. For example, in the ROM 12, image display processing for displaying an image obtained by photographing with the in-vehicle camera 2 on an image display unit such as the notification unit 20 or the portable device 40, and dirt (adherent matter) that obstructs the field of view of the imaging region of the in-vehicle camera 2. ) Is attached to the lens of the in-vehicle camera 2 and a notification process for notifying the presence of the attached substance when the attached substance is attached is defined. The CPU 11 executes a program stored in the ROM 12. Further, the RAM 13 has a function of storing the result of arithmetic processing by the CPU 11 and the received various signals. In addition, although not shown, a timer counter that measures the time interval at which each data is received is also provided.

画像処理部16では、CPU11からの制御に基づき、不揮発性メモリ17に格納されている撮像を画像処理する。画像処理の内容としては、1つは車両の後部を表示するバックモニタとして報知部20の画像表示部21等の画像表示機能を持つ装置(ここでは液晶表示装置)に画像を表示させるために、画像サイズの調整や、輝度や色差の調整などを加工する。また画像処理部16のもう一つの処理として、付着物検出処理を行うために、異なる時刻等に撮像されたデータの差分画像を生成する。具体的には、不揮発性メモリ17から、車載カメラ2によって異なる時刻やタイミング(例えば走行中や車両のドアが開かれたときやドアロックが解除されたとき等)において撮像された複数の画像データを取得し、これらの画像データ間の差分である差分画像データを生成する。その生成された、前回の差分画像(不揮発性メモリ17に保存されている)と今回の差分画像とを各画素について比較し、差分の大きい方の画素で今回の差分画像を更新する。更新後の差分画像は、不揮発性メモリ17へ出力され、不揮発性メモリ17において保存される。カウンタは、差分画像の更新回数を計数し、カウント値が所定回数に達した場合(つまり差分画像の更新回数が所定回数に達したことを認識した場合)、その旨を主制御部へ通知する。   The image processing unit 16 performs image processing on the image pickup stored in the nonvolatile memory 17 based on the control from the CPU 11. As the contents of the image processing, one is to display an image on a device (here, a liquid crystal display device) having an image display function such as the image display unit 21 of the notification unit 20 as a back monitor that displays the rear part of the vehicle. Processes image size adjustment, brightness and color difference adjustment, etc. Further, as another process of the image processing unit 16, in order to perform the adhering matter detection process, a difference image of data captured at different times is generated. Specifically, a plurality of image data captured from the non-volatile memory 17 at different times and timings (for example, when the vehicle is running, when the door of the vehicle is opened, when the door is unlocked, etc.) by the in-vehicle camera 2. And the difference image data which is the difference between these image data is generated. The generated difference image of the previous time (stored in the nonvolatile memory 17) and the current difference image are compared for each pixel, and the current difference image is updated with the pixel having the larger difference. The updated difference image is output to the nonvolatile memory 17 and stored in the nonvolatile memory 17. The counter counts the number of times the difference image has been updated, and if the count value reaches a predetermined number (that is, recognizes that the number of times the difference image has been updated has reached the predetermined number), notifies the main control unit accordingly. .

主制御部は、画像処理部16から出力される最新の差分画像に基づいて、車載カメラ2におけるレンズ等の付着物の有無を判断し、付着物が有りと判断した場合は、その旨をユーザーに報知するために報知部20等に報知情報としての映像信号や音などの警告信号を送信する。   Based on the latest difference image output from the image processing unit 16, the main control unit determines the presence or absence of a deposit such as a lens in the in-vehicle camera 2. In order to notify the user, a warning signal such as a video signal or sound is transmitted as notification information to the notification unit 20 or the like.

上述のような付着物を検出するための画像処理方法は、上記特許文献1など、周知の一般的方法が採用可能であるので、ここでは詳細な説明は省略する。   As the image processing method for detecting an adhering matter as described above, a well-known general method such as the above-mentioned Patent Document 1 can be adopted, and thus detailed description thereof is omitted here.

また、付着物有無を判断するための方法として、上記では画像処理を利用して説明をしてきたが、本実施形態はこれに限ることなく、例えば以下のような別の方法で付着物有無を判断しても良い。   Further, as a method for determining the presence / absence of adhering matter, the above description has been made using image processing. However, the present embodiment is not limited to this, and the presence / absence of adhering matter may be determined by another method, for example, as follows. You may judge.

車載カメラ2のレンズ内部、もしくは外部のレンズ近傍付近に設置されたLED等の光源(図示せず)の光(赤外光)をレンズに照射できるよう構成されている。この光源からの光の照射は時間ごとに点灯/消灯を繰り返し、この光をカメラ内部の撮像素子(図示せず)で捉える。モニタ用ECU10は撮像素子からの受光結果に基づき、レンズが汚れていない場合の点灯/消灯時の受光量(予め不揮発性メモリ17に記憶されている)と、付着物を検出するために撮像された点灯/消灯時の受光量の差を比較する。もしレンズが汚れている場合は、その比較した受光量の差は大きくなるため、付着物(汚れ)を判断することができる。   The lens can be irradiated with light (infrared light) from a light source (not shown) such as an LED installed in the lens of the in-vehicle camera 2 or in the vicinity of an external lens. Irradiation of light from the light source is repeatedly turned on / off every time, and this light is captured by an imaging element (not shown) inside the camera. Based on the result of light reception from the image sensor, the monitor ECU 10 is imaged to detect the amount of light received when the lens is not soiled when the lens is not turned on (previously stored in the nonvolatile memory 17) and the attached matter. Compare the difference in the amount of light received when turning on / off. If the lens is dirty, the difference in the amount of received light that is compared becomes large, so that the adhered matter (dirt) can be determined.

またその他、車載カメラ2のカメラ内部に設置されたLED等の光源(図示せず)からの光を、レンズ表面に対し全反射する角度で照射するよう構成されていてもよい。もし光源からの光を照射した場合に、レンズ表面が汚れていなければ光は全反射し、カメラ内部に戻ってくることになる。一方、レンズ表面が汚れているとレンズ表面での全反射が起こらなくなり、光が内部に戻らなくなる。このレンズ表面の光の反射をカメラ内部の撮像素子(図示せず)で捉え、モニタ用ECU10でその撮像素子からの受光結果に基づきレンズ表面が全反射したか否かを判定することで、付着物(汚れ)の判断することができる。   In addition, the light from a light source (not shown) such as an LED installed in the camera of the in-vehicle camera 2 may be irradiated at an angle that totally reflects the lens surface. If light from the light source is irradiated and the lens surface is not dirty, the light is totally reflected and returns to the inside of the camera. On the other hand, when the lens surface is dirty, total reflection on the lens surface does not occur, and light does not return to the inside. The reflection of the light on the lens surface is captured by an image sensor (not shown) inside the camera, and the monitor ECU 10 determines whether the lens surface is totally reflected based on the light reception result from the image sensor. Kimono (dirt) can be judged.

報知部20はモニタ用ECU10からその報知情報を受け、画像表示部21の液晶表示装置に「付着物有り」の警告文字の画像表示をしたり、付着物の位置を矢印等で示す画像表示をしたりする、又はスピーカー部22のスピーカーで音声等によってその「付着物有り」を示す警告を行う。また、報知の方法は報知部20からの出力に限ることは無く、モニタ用ECU10より車載ネットワーク部3の各ECU(ここではドアECU3aとナビECU3e)を介して、キーレスキー30や携帯装置40に「付着物有り」を示す映像信号や警告信号などを出力し、対応する液晶表示装置(31、41)やスピーカー(32、42)又はLEDの発光(31)を用いて報知してもよい。   The notification unit 20 receives the notification information from the monitor ECU 10 and displays an image of a warning character “existing matter” on the liquid crystal display device of the image display unit 21 or displays an image indicating the position of the attachment with an arrow or the like. Or a warning indicating that “there is a deposit” is given by voice or the like on the speaker of the speaker unit 22. Further, the notification method is not limited to the output from the notification unit 20, and is sent from the monitoring ECU 10 to the keyless key 30 or the portable device 40 via each ECU (here, the door ECU 3 a and the navigation ECU 3 e) of the in-vehicle network unit 3. A video signal, warning signal, or the like indicating “there is a deposit” may be output and notified using the corresponding liquid crystal display device (31, 41), speaker (32, 42), or LED light emission (31).

さらに報知部20はこの本実施形態に限ることは無く、ドアECU3aとナビECU3eの持つ無線通信部(3d、3e)の代わりに報知部20内に無線通信部23を設け、キーレスキー30や携帯装置40と直接無線通信可能となるよう構成してあっても良い。報知部20内に無線通信部23を設けることで、例えば無線通信可能なナビECU3cが車両に搭載されていない場合でも、携帯装置40とデータのやり取りをすることができる。   Further, the notification unit 20 is not limited to this embodiment, and a wireless communication unit 23 is provided in the notification unit 20 in place of the wireless communication units (3d, 3e) of the door ECU 3a and the navigation ECU 3e. You may comprise so that direct wireless communication with the apparatus 40 is attained. By providing the wireless communication unit 23 in the notification unit 20, for example, even when the navigation ECU 3c capable of wireless communication is not mounted on the vehicle, data can be exchanged with the portable device 40.

またその他、液晶表示装置へ表示又は警告する時間はユーザーが気づく程度の時間であれば良く、ここでは30秒〜1分間としている。さらに、ユーザーが報知に気づいた場合は、ユーザーが報知部20やキーレスキー30や携帯装置40が備える入力操作部の入力操作によって報知を止める機能を設けることで、無駄な電力の消耗を抑えることができるよう構成されていても良い。   In addition, the time for displaying or warning to the liquid crystal display device may be a time that is noticed by the user, and is 30 seconds to 1 minute here. Furthermore, when the user notices the notification, a function of stopping the notification by an input operation of the input unit provided in the notification unit 20, the keyless key 30, or the portable device 40 is provided, thereby suppressing wasteful power consumption. It may be configured to be able to.

図3は上記構成を有する本実施形態に係るモニタ用ECU10の制御処理を示すフローチャートの図面である。   FIG. 3 is a flowchart showing a control process of the monitoring ECU 10 according to the present embodiment having the above-described configuration.

図3では、上述したように、モニタ用ECU10は、車両のドアが開閉されたときの開閉情報、車両のドアのロック若しくはロック解除されたときのロック情報、ユーザーが車両のシートに座っているか否かを示す着席情報や着席状態から離席状態へと移行したことを示す離席情報、携帯装置40等の外部端末より送信されるユーザーが車両外に居ることを示す情報などユーザーが車両外に居る(若しくは車両外に居る状態に移る)と判定できる判定用情報を受信したときをフロー処理のスタートとしている。   In FIG. 3, as described above, the monitoring ECU 10 opens and closes information when the vehicle door is opened and closed, lock information when the vehicle door is locked or unlocked, and whether the user is sitting on the vehicle seat. The user is out of the vehicle, such as seating information indicating whether or not the user is away from the seating state, information indicating that the user has transitioned from the seating state to the leaving state, and information indicating that the user is transmitted from an external terminal such as the portable device 40. When the determination information that can be determined to be in (or move to a state outside the vehicle) is received, the flow process is started.

ここで判定用情報を用いてユーザーが車両外に居る条件が成立しているか否かを判定する例を、ユーザーが車両に乗車する場合と車両から降車する場合に分けて詳細に説明する。尚、本実施形態では、基本的にユーザーが車両に乗車する若しくは降車するときに車両に対して行う動作をしたときを、ユーザーが車両外に居ることの成立条件としている。また別の方法として、ユーザーが車両外に居ることについて、ユーザーが携帯機器などで直接指示してモニタ用ECU10まで伝えた場合も、ユーザーが車両外に居る条件が成立したと判定している。   Here, an example of determining whether the condition that the user is outside the vehicle is satisfied using the determination information will be described in detail for a case where the user gets on the vehicle and a case where the user gets off the vehicle. In the present embodiment, the condition that the user is outside the vehicle is basically when the user performs an operation performed on the vehicle when getting on or off the vehicle. As another method, it is determined that the condition that the user is outside the vehicle is also established when the user directly instructs the monitoring ECU 10 that the user is outside the vehicle using a portable device or the like.

(ユーザーが車両に乗車する場合)
ユーザーによるキーレスキー30の入力操作又は車両ドアの鍵操作によりドアロック解除されたときのロック解除情報、車両のドアが開かれたときのドア開放情報を、それぞれ判定用情報としてモニタ用ECU10が受信し、その何れかの判定用情報に基づきユーザーが車両外に居る条件が成立しているか否かを判定する。ここで、ユーザーの誤操作による誤判定の可能性を低減しつつ、「ユーザーが車両外に居る」確実性をより高くするために、ドアのロック解除情報、ドア開放情報などの各判定用情報を組み合わせてユーザーが車両外に居る条件が成立しているか否かを判定してもよい。具体的には、モニタ用ECU10が、ドアのロック解除情報とドア開放情報を順番に所定時間(例えばロック解除情報を受信してから10秒以内)以内に受信したときに、ユーザーが車両外に居る(ここでは車に乗車しようとしている)条件が成立したと判定してもよい。その他の方法として、ユーザーがドアのロック解除(又はドア開放)をした際に、ドアのロック解除情報(又はドア開放情報)と共に、シートECU3bよりシートに誰も座っていない(重量がかかっていない)ことを示す非着席情報を判定用情報としてモニタ用ECU10が所定時間(例えばロック解除情報を受信してから10秒以内)以内に受信する。そしてそれらの判定用情報の組み合わせ結果に基づいてユーザーが車両外に居るが成立したと判定してもよい。
(When the user gets into the vehicle)
The monitoring ECU 10 receives the unlocking information when the door is unlocked by the input operation of the keyless key 30 or the key operation of the vehicle door by the user and the door opening information when the vehicle door is opened as the determination information. Then, based on any of the determination information, it is determined whether or not a condition that the user is outside the vehicle is satisfied. Here, in order to reduce the possibility of misjudgment due to an erroneous operation by the user and further increase the certainty that the user is outside the vehicle, information for each determination such as door unlock information and door open information is provided. In combination, it may be determined whether the condition that the user is outside the vehicle is satisfied. Specifically, when the monitoring ECU 10 receives door unlocking information and door opening information in order within a predetermined time (for example, within 10 seconds after receiving the unlocking information), the user leaves the vehicle. It may be determined that the condition of being present (in this case, trying to get into the car) is satisfied. As another method, when the user unlocks the door (or opens the door), no one sits on the seat from the seat ECU 3b together with the door unlock information (or door opening information) (no weight is applied). The monitoring ECU 10 receives the non-seating information indicating that within a predetermined time (for example, within 10 seconds after receiving the lock release information) as determination information. Then, it may be determined that the user is outside the vehicle based on the combination result of the determination information.

このようにユーザーが通常車に乗車する手順と類似するように判定用情報を組み合わせて判定すれば、ユーザーは車両外に居る(特に車に乗車する直前)である可能性が高くなり、また単なるユーザーの誤操作ではない可能性も高くなる。   In this way, if the determination is made by combining the determination information so that it is similar to the procedure for the user to get into a normal car, the user is more likely to be outside the vehicle (especially immediately before getting in the car), or simply There is a high possibility that it is not a user's erroneous operation.

(ユーザーが車両より降車する場合)
ユーザーによるキーレスキー30の入力操作又は車両ドアの鍵操作によりドアロック解除されたときのロック解除情報、車両のドアが開かれたときのドア開放情報、ユーザーが車両のシートを立った(重量がかかっている状態から重量がかかっていない状態へ移る)ことを示す離席情報を、それぞれ判定用情報としてモニタ用ECU10が受信し、その何れかの判定用情報に基づきユーザーが車両外に居る条件が成立しているか否かを判定する。この場合も、ユーザーの誤操作による誤判定の可能性を低減しつつ、「ユーザーが車両外に居る」確実性をより高くするために、ドアのロック解除情報、ドア開放情報などの各判定用情報を組み合わせてユーザーが車両外に居る条件が成立しているか否かを判定してもよい。具体的には、ユーザーが車両より降車する場合では、例えばモニタ用ECU10が、車両のドア開放情報と、離席情報を順番に所定時間(例えば20秒以内)以内に受信したときに、ユーザーが車両外に居る(ここでは車から降車した)条件が成立したと判定してもよい。
(When the user gets off the vehicle)
Unlocking information when the door is unlocked by the input operation of the keyless key 30 or the key operation of the vehicle door by the user, door opening information when the vehicle door is opened, the user stood the vehicle seat (weight is A condition in which the monitoring ECU 10 receives information indicating that the user has been out of the vehicle based on one of the pieces of determination information. Whether or not is established is determined. In this case as well, each determination information such as door unlock information and door opening information is used to increase the certainty that the user is outside the vehicle while reducing the possibility of erroneous determination due to a user's erroneous operation. May be combined to determine whether or not the condition that the user is outside the vehicle is satisfied. Specifically, when the user gets off the vehicle, for example, when the monitoring ECU 10 receives the door opening information of the vehicle and the leaving information in order within a predetermined time (for example, within 20 seconds), the user It may be determined that the condition of being outside the vehicle (here, getting off from the car) is satisfied.

このようにユーザーが通常車に降車する手順と類似するように判定用情報を組み合わせて判定すれば、ユーザーは車両外に居る(特に車に降車した直後)である可能性が高くなり、また単なるユーザーの誤操作ではない可能性も高くなる。   In this way, if the determination is made by combining the determination information so that it is similar to the procedure for the user to get off the normal car, the user is more likely to be outside the vehicle (especially immediately after getting off the car). There is a high possibility that it is not a user's erroneous operation.

このような組み合わせに用いる判定用情報を所定時間に受信した場合、ユーザーが車両外に居て、乗車直前又は降車直後であると判断できる条件とすれば、より確実にユーザーには車載カメラ2のレンズに近い位置で、そのレンズ等に付着した付着物が存在する旨の情報を報知することができる。   When the determination information used for such a combination is received at a predetermined time, if the condition is such that the user is outside the vehicle and can determine that it is immediately before getting on or just after getting off, the user is more sure of the in-vehicle camera 2. Information indicating that there is an adhering substance attached to the lens or the like at a position close to the lens can be notified.

上述のように判定用情報に基づきユーザーの位置条件を判定することで、ユーザーが車両外に居る確率は100%ではないものの、ほぼ車両外に居ると判断することができる。   By determining the position condition of the user based on the determination information as described above, it is possible to determine that the user is almost out of the vehicle, although the probability that the user is out of the vehicle is not 100%.

ステップS10では、受信した判定用情報の一つ、又は複数を組み合わせた判定用情報に基づき、ユーザーが車両外に居る条件が成立したか否かを判定する。ユーザーが車両外に居る条件が成立した場合はステップS11に進み、ユーザーが車両外に居る条件が成立しなかった場合は図3の処理を終了する(つまりエンドに進む)。   In step S10, it is determined whether or not a condition that the user is outside the vehicle is satisfied based on the determination information obtained by combining one or more of the received determination information. If the condition that the user is outside the vehicle is satisfied, the process proceeds to step S11. If the condition that the user is outside the vehicle is not satisfied, the process of FIG. 3 is terminated (that is, the process proceeds to END).

ステップS11では、撮影を行うよう車載カメラ2に指示し、その車載カメラ2から撮像を取得する。その後、ステップS12に進む。   In step S <b> 11, the in-vehicle camera 2 is instructed to perform imaging, and imaging is acquired from the in-vehicle camera 2. Thereafter, the process proceeds to step S12.

ステップS12では、上述した付着物検出処理により、ステップS11で撮像された最新の画像との差分画像を比較し、車載カメラ2自身(例えばレンズ等の表面部分)に付着物が存在するか否かを判定する。付着物が存在すると判定した場合は、ステップS13に進み、付着物が存在しないと判定した場合は図3の処理を終了する。   In step S12, the difference image with the latest image imaged in step S11 is compared by the above-described adhering matter detection process, and whether or not the adhering matter is present on the in-vehicle camera 2 itself (for example, a surface portion such as a lens). Determine. If it is determined that there is a deposit, the process proceeds to step S13. If it is determined that there is no deposit, the process in FIG. 3 is terminated.

ステップS13では、車載カメラ2に付着物が存在する旨の情報(報知情報)を、報知部20、携帯装置40又はキーレスキー40の少なくとも何れか1つを用い、画像、音もしくは音声、又は光源の発光を用いて付着物の有無を報知し、図3の処理を終了する。尚、複数の報知可能な装置(報知部20、キーレスキー30、携帯装置40)を用いて報知する場合は、そのタイミングを同時に報知しても良く、又は順序を設けて報知しても良い。   In step S13, information (notification information) indicating that the deposit is present on the in-vehicle camera 2 is obtained by using at least one of the notification unit 20, the portable device 40, or the keyless key 40, an image, sound or sound, or a light source. The presence / absence of an adhering matter is notified using the emitted light, and the process of FIG. 3 is terminated. In addition, when notifying using the some apparatus (notification part 20, keyless key 30, portable device 40) which can be alert | reported, the timing may be alert | reported simultaneously or you may alert | report in order.

上述したように、本実施形態によれば、ユーザーが車両外に居ると判定されたときに、車載カメラ2のレンズ等の汚れ(付着物)の存在について報知を受けることができる。そのため、ユーザーは従来のように車両の乗車後に付着物の存在を知って、その付着物をふき取るためにもう一度車外に出てふき取り作業を行い、再度乗車するという2度手間の動作をする可能性を抑制することができるため、従来よりも付着物の除去を速やかに完了することができる。   As described above, according to the present embodiment, when it is determined that the user is outside the vehicle, the user can be notified of the presence of dirt (attachment) such as the lens of the in-vehicle camera 2. Therefore, the user may know the presence of deposits after boarding the vehicle as in the past, go out of the vehicle again to wipe off the deposits, and perform a two-time operation of getting on again Therefore, the removal of deposits can be completed more quickly than before.

(実施形態2)
本発明の実施形態1は、予めシステム内で車載カメラ2のレンズ等に汚れがあるか否かを自動で判定した構成を例にとって説明したが、ユーザーが車両外に居るときに、付着物が付着した車載カメラ2の撮影領域に映った付着物(汚れ)が撮像の画像処理結果から確認できるという目的からすれば、車載カメラ2のレンズ等に付着物があるか否かを自動で判定することは必ずしも必要ではなく、ユーザーが車両外に居るときに車載カメラ2に付着物があるかを、ユーザー自身での目視の確認により判定してもよい。
(Embodiment 2)
Embodiment 1 of the present invention has been described by taking as an example a configuration in which whether or not the lens of the in-vehicle camera 2 is contaminated in the system in advance has been described as an example. However, when the user is outside the vehicle, For the purpose of confirming the adhered matter (dirt) reflected in the imaging area of the attached in-vehicle camera 2 from the image processing result of imaging, it is automatically determined whether or not there is an attached matter on the lens of the in-vehicle camera 2 or the like. This is not always necessary, and it may be determined by visual confirmation by the user himself whether the vehicle-mounted camera 2 has an attachment when the user is outside the vehicle.

尚、実施形態2で用いる車載カメラ用付着物報知システム1は、実施形態1に示した車載カメラ用付着物報知システム1と同じ構成要素を有しており、同一の構成要素及びモニタ用ECU10の制御処理を示すフローチャートの同一の処理には、同一の符号を付し、その詳細な説明を省略する。   The vehicle-mounted camera deposit notification system 1 used in the second embodiment has the same components as the vehicle-mounted camera deposit notification system 1 shown in the first embodiment. The same processes in the flowchart showing the control process are denoted by the same reference numerals, and detailed description thereof is omitted.

図4は、実施形態2におけるカメラ用付着物報知システム1のモニタ用ECU10の制御処理を示すフローチャートである。   FIG. 4 is a flowchart illustrating a control process of the monitoring ECU 10 of the camera deposit notification system 1 according to the second embodiment.

ステップS10では、実施形態1と同様、受信した判定用情報の一つ、又は複数を組み合わせた判定用情報により、ユーザーが車両外に居る条件が成立したか否かを判定する。ユーザーが車両外に居る条件が成立した場合はステップS11に進み、ユーザーが車両外に居る条件が成立しなかった場合は図4の処理を終了する(エンドに進む)。   In step S10, as in the first embodiment, it is determined whether the condition that the user is outside the vehicle is satisfied based on the determination information obtained by combining one or more of the received determination information. If the condition that the user is outside the vehicle is satisfied, the process proceeds to step S11. If the condition that the user is outside the vehicle is not satisfied, the process of FIG. 4 is terminated (proceeds to end).

ステップS11では、撮影を行うよう車載カメラ2に指示し、車載カメラ2から撮像を取得し、ステップS20に進む。尚、ユーザーが確認すべき撮像は、出来るだけ新鮮であることが誤判断を防ぐ上でも好ましく、ここではステップS10のユーザーが車両外に居る条件が成立したと判定された直後に車載カメラ2で撮影されている。また上述の趣旨より撮影のタイミングは本実施形態に限らず、例えばユーザーが車両外に居る条件が成立するか否かをステップS10で判定する直前(具体的には車両ドア開放等の判定用情報を受信して処理スタートした後、ステップS10を処理する前)に撮影してもよい。   In step S11, the in-vehicle camera 2 is instructed to perform imaging, the imaging is acquired from the in-vehicle camera 2, and the process proceeds to step S20. It should be noted that the imaging to be confirmed by the user is preferably as fresh as possible in order to prevent misjudgment. Here, the in-vehicle camera 2 immediately after it is determined in step S10 that the condition that the user is outside the vehicle is satisfied. Have been filmed. For the purpose described above, the shooting timing is not limited to the present embodiment. For example, immediately before determining whether or not the condition that the user is outside the vehicle is satisfied in step S10 (specifically, information for determination such as opening of the vehicle door). May be taken after processing is started and before the processing of step S10).

ステップS20では、撮像を表示できるように処理した画像データを、報知部20、携帯装置40、又はキーレスキー40に送信する。そして報知部20の画像表示部21、携帯装置40の画像表示部41、又はキーレスキー40の情報表示部31に備えられた画像表示可能な装置である液晶表示装置の少なくとも何れか一つを用いて、モニタ用ECU10より受信したこの画像データを表示する。   In step S <b> 20, the image data processed so as to display the captured image is transmitted to the notification unit 20, the portable device 40, or the keyless key 40. Then, at least one of the liquid crystal display device which is an image displayable device provided in the image display unit 21 of the notification unit 20, the image display unit 41 of the portable device 40, or the information display unit 31 of the keyless key 40 is used. The image data received from the monitoring ECU 10 is displayed.

上述のようにすれば、ユーザーは車両外に居るときに、車載カメラ2に付着物が付着していることをユーザーは液晶表示装置で表示される画像で自ら目視で確認できる。従って、付着物の程度によって、今すぐ除去するか、後で除去するかをユーザー自身で判断することができる。   According to the above, when the user is outside the vehicle, the user can visually confirm by himself / herself the image displayed on the liquid crystal display device that the deposit is attached to the in-vehicle camera 2. Therefore, it is possible for the user to determine whether to remove it immediately or later, depending on the degree of deposits.

また、ステップS20の処理において、画像表示だけでなくスピーカー機能が備わる装置を用いて音で画像表示していることを通知しても良い。   Further, in the process of step S20, it may be notified that the image is displayed with sound using not only the image display but also a device having a speaker function.

尚、この撮像を画像表示する方法は、画像表示可能な装置を1つ用いて表示してもよく、複数の画像表示可能な装置を用いてもよい。また複数の画像表示可能な装置を用いる場合は、その表示は同時又は順序を設けて行っても良い。   In addition, as a method for displaying an image of this captured image, a single image displayable device may be used, or a plurality of image displayable devices may be used. In the case of using a device capable of displaying a plurality of images, the display may be performed simultaneously or in an order.

また、本実施形態の車載カメラ2の撮影は様々な方法を利用することができ、予め定められた1つの対象を撮影する方法に限ることはない。例えば、車載カメラ2を左右や上下方向に動かす可動機能を有するモータ2a(図2に記載)を備え付け、モニタ用ECU10は異なる複数の対象(例えば地面、壁、空などを撮影対象とする)を撮影可能なように、そのモータ2aの駆動を制御するように接続してもよい。そしてステップS11において、複数の対象を撮影した撮像を、ステップS20で複数の画像データとして報知部20、携帯装置40、キーレスキー40の少なくとも一つに送信する。そして報知部20の画像表示部21、携帯装置40の画像表示部41、又はキーレスキー40の情報表示部31に備えられた液晶表示装置を用いて、モニタ用ECU10より受信したこの画像データを表示する。   Moreover, the imaging | photography of the vehicle-mounted camera 2 of this embodiment can utilize various methods, and is not restricted to the method of imaging | photography one predetermined object. For example, a motor 2a (described in FIG. 2) having a movable function for moving the in-vehicle camera 2 left and right and up and down is provided, and the monitoring ECU 10 selects a plurality of different objects (for example, the ground, wall, sky, and the like as imaging objects). You may connect so that the drive of the motor 2a may be controlled so that imaging | photography is possible. In step S11, images obtained by photographing a plurality of objects are transmitted to at least one of the notification unit 20, the portable device 40, and the keyless key 40 as a plurality of image data in step S20. The image data received from the monitoring ECU 10 is displayed using the liquid crystal display device provided in the image display unit 21 of the notification unit 20, the image display unit 41 of the portable device 40, or the information display unit 31 of the keyless key 40. To do.

この様に異なる対象を撮影できるようにすることにより、ユーザーは付着物があるか否かについて撮影の対象が異なる複数の画像を見ることができるため、付着物があるときはどの対象の画像を見てもその付着物の箇所が影になって映るため、より確実に付着物の有無を確認できる。   By making it possible to shoot different objects in this way, the user can see multiple images with different shooting targets as to whether or not there is an attachment. Even if it sees, since the location of the deposit | attachment is reflected in a shadow, the presence or absence of an deposit | attachment can be confirmed more reliably.

(実施形態3)
その他の実施形態として例えば、図5に示すように、モニタ用ECU10における実施形態1と同様の制御処理と実施形態2と同様の制御処理を選択できるように選択手段(ステップS30)を設けてもよい。
(Embodiment 3)
As another embodiment, for example, as shown in FIG. 5, a selection unit (step S30) may be provided so that the control process similar to the first embodiment and the control process similar to the second embodiment in the monitoring ECU 10 can be selected. Good.

尚、実施形態3で用いる車載カメラ用付着物報知システム1は、実施形態1に示した車載カメラ用付着物報知システム1と同じ構成要素を有しており、同一の構成要素及びモニタ用ECU10の制御処理を示すフローチャートの同一の処理には、同一の符号を付し、その詳細な説明を省略する。   The vehicle-mounted camera deposit notification system 1 used in the third embodiment includes the same components as the vehicle-mounted camera deposit notification system 1 shown in the first embodiment. The same processes in the flowchart showing the control process are denoted by the same reference numerals, and detailed description thereof is omitted.

ここではユーザーが報知部20のモニタ用ECU10に制御指示を出力する入力操作部24(図2記載)を操作することによって、実施形態1又は実施形態2のどちらで報知するかの設定結果を不揮発性メモリ17に記録する。この選択手段は、その不揮発性メモリ17に記録された設定結果に基づき、付着物有無の検出をするか否かを選択する選択処理を行う。(モニタ用ECU10によって)付着物有無の検出を行う場合は、ステップS11a(YES側)に進み(つまり実施形態1と同様の処理を行う側に進む)、付着物有無の検出を行わない場合は、ステップS11b(NO側)に進む(つまり実施形態2と同様の処理を行う側に進む)。   Here, the user operates the input operation unit 24 (shown in FIG. 2) that outputs a control instruction to the monitoring ECU 10 of the notification unit 20, and the setting result indicating whether the notification is performed in the first embodiment or the second embodiment is nonvolatile. Recorded in the memory 17. This selection means performs a selection process for selecting whether or not to detect the presence or absence of an adhering substance based on the setting result recorded in the nonvolatile memory 17. When detecting the presence / absence of adhered matter (by the monitoring ECU 10), the process proceeds to step S11a (YES side) (that is, proceeds to the side performing the same processing as in the first embodiment), and when the presence / absence of the adhered matter is not detected. Then, the process proceeds to step S11b (NO side) (that is, the process proceeds to the side performing the same processing as in the second embodiment).

上述のようにすれば、実施形態1のように付着物を検出した場合に画像や音、光源等を用いてその付着物ありを報知する報知手段を採用するか、実施形態2のように撮像した画像をそのまま表示する画像表示手段を採用するかを予め決めておくことができ、ユーザーが車両外に居るときに、ユーザーの好みに応じたやり方で情報提供を受けることができる。   If it carries out as mentioned above, when a deposit | attachment is detected like Embodiment 1, the alerting | reporting means which alert | reports the presence of the deposit using an image, a sound, a light source, etc. will be employ | adopted, or imaging will be carried out like Embodiment 2. It is possible to determine in advance whether to adopt an image display means for displaying the image as it is, and when the user is outside the vehicle, information can be provided in a manner according to the user's preference.

以上、説明してきたように本発明の車両に用いられる車載カメラ用付着物報知装置及び車載カメラ用付着物報知システムにおける実施形態を説明してきたが、本発明は上述した実施形態に限定されるものでなく、特許請求の範囲の各請求項に係る発明の要旨を逸脱しない限り適用できる。例えば画像や映像を撮影する車載カメラの代わりにレーザーレーダカメラやミリ波カメラを用いても良い。また、上述した各実施形態において、モニタ用ECU10の機能の一部又は全部は、ナビECU又は他のECUにより実現されていても良い。   As described above, the in-vehicle camera deposit notification device and the in-vehicle camera deposit notification system used in the vehicle of the present invention have been described, but the present invention is limited to the above-described embodiment. However, the present invention can be applied without departing from the gist of the invention according to each claim of the claims. For example, a laser radar camera or a millimeter wave camera may be used instead of the in-vehicle camera that captures images and videos. In each of the above-described embodiments, part or all of the functions of the monitoring ECU 10 may be realized by a navigation ECU or another ECU.

最後に、上記実施形態の記載と特許請求の範囲の記載との関係を説明する。   Finally, the relationship between the description of the above embodiment and the description of the claims will be described.

上記実施形態におけるモニタ用ECU10が、本発明の車載カメラ用付着物報知装置に相当し、上記実施形態における報知部20(21、22)、キーレスキー30(31、32)、携帯装置40(41、42)が、本発明の車載カメラ用付着物報知装置の報知手段に相当する。上記実施形態における画像処理部16が、本発明の画像処理手段に相当する。上記実施形態における画像表示部(21、41)及び情報提示部31が、本発明の画像表示手段に相当する。   The monitoring ECU 10 in the above embodiment corresponds to the in-vehicle camera deposit notification device of the present invention, and the notification unit 20 (21, 22), keyless key 30 (31, 32), and portable device 40 (41 in the above embodiment). , 42) corresponds to the notification means of the in-vehicle camera deposit notification apparatus of the present invention. The image processing unit 16 in the above embodiment corresponds to the image processing means of the present invention. The image display units (21, 41) and the information presentation unit 31 in the above embodiment correspond to the image display means of the present invention.

また、上記実施形態におけるモニタ用ECU10の処理機能(ステップS12)が、本発明の付着物有無判定手段に相当する。上記実施形態におけるモニタ用ECU10の処理機能(ステップS10)が、本発明のユーザー条件判定手段に相当する。   Further, the processing function (step S12) of the monitoring ECU 10 in the above embodiment corresponds to the adhering matter presence / absence determining means of the present invention. The processing function (step S10) of the monitoring ECU 10 in the above embodiment corresponds to the user condition determining means of the present invention.

1 車載カメラ用付着物報知システム
2 車載カメラ
3 車載ネットワーク部
10 モニタ用ECU
20 報知部
30 キーレスキー
40 携帯装置
DESCRIPTION OF SYMBOLS 1 Adherence information system for vehicle-mounted camera 2 Vehicle-mounted camera 3 Vehicle-mounted network part 10 Monitor ECU
20 Notification unit 30 Keyless key 40 Portable device

Claims (3)

車両外に備えた車載カメラで撮影した撮像を画像処理する画像処理手段と、
前記画像処理手段によって前記撮像を表示する画像表示手段と、
車載カメラ自身に付着した付着物が存在するか否かを判定する付着物有無判定手段と、
ユーザーが車両外に居ると判断する予め決められた条件が成立したか否かを判定するユーザー条件判定手段と、
前記付着物有無判定手段を用いるか否かを選択する選択手段と、
前記付着物が存在する旨の情報の報知を行う報知手段とを備え、
前記報知手段は、
前記ユーザー条件判定手段により前記ユーザーが車両外に居る条件が成立したと判定し、
かつ前記選択手段によって前記付着物有無判定手段を用いると選択し、かつ前記付着物有無判定手段により前記付着物が存在すると判定した場合は、
前記付着物が存在する旨の情報を報知し、
前記画像表示手段は、
前記ユーザー条件判定手段により前記ユーザーが車両外に居る条件が成立したと判定し、かつ前記選択手段によって前記付着物有無判定手段を用いないと選択した場合は、前記撮像を表示する
ことを特徴とする車載カメラ用付着物報知装置。
Image processing means for image processing of an image taken by an in-vehicle camera provided outside the vehicle;
Image display means for displaying the imaging by the image processing means;
A deposit presence / absence determining means for determining whether there is a deposit attached to the in-vehicle camera itself;
User condition determining means for determining whether or not a predetermined condition for determining that the user is outside the vehicle is satisfied;
Selecting means for selecting whether or not to use the adhering matter presence / absence determining means;
An informing means for informing information indicating the presence of the deposit,
The notification means includes
The user condition determining means determines that the condition that the user is outside the vehicle is established,
And when the selection means selects that the deposit presence / absence determination means is used, and the deposit presence / absence determination means determines that the deposit is present,
Informing the information that the deposit is present,
The image display means includes
When the user condition determining means determines that the condition that the user is outside the vehicle is satisfied, and the selecting means selects not to use the adhering matter presence / absence determining means, the imaging is displayed. An in-vehicle camera deposit notification device.
前記車載カメラは撮影対象を変更して撮影可能な可動機能を有し、
前記画像表示手段は、前記撮影対象の異なる夫々の撮像を表示できることを特徴とする請求項に記載の車載カメラ用付着物報知装置。
The in-vehicle camera has a movable function capable of shooting by changing a shooting target,
The image display means, vehicle camera deposit notification apparatus according to claim 1, characterized in that can display different respective imaging of said imaging target.
前記ユーザー条件判定手段の前記予め決められた条件は、前記ユーザーが車両外に居るか否かを判定するために利用される複数の前記判定用情報に基づいて決められること特徴とする請求項1または2に記載の車載カメラ用付着物報知装置。 2. The predetermined condition of the user condition determination means is determined based on a plurality of the determination information used for determining whether or not the user is outside the vehicle. Or the in-vehicle camera attached matter notification device according to 2;
JP2010255864A 2010-11-16 2010-11-16 Adherence notification device for in-vehicle camera Active JP5521990B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010255864A JP5521990B2 (en) 2010-11-16 2010-11-16 Adherence notification device for in-vehicle camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010255864A JP5521990B2 (en) 2010-11-16 2010-11-16 Adherence notification device for in-vehicle camera

Publications (2)

Publication Number Publication Date
JP2012106557A JP2012106557A (en) 2012-06-07
JP5521990B2 true JP5521990B2 (en) 2014-06-18

Family

ID=46492696

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010255864A Active JP5521990B2 (en) 2010-11-16 2010-11-16 Adherence notification device for in-vehicle camera

Country Status (1)

Country Link
JP (1) JP5521990B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10991086B2 (en) 2018-09-27 2021-04-27 Aisin Seiki Kabushiki Kaisha Adhered substance detection apparatus
US11557030B2 (en) 2018-06-07 2023-01-17 Sony Semiconductor Solutions Corporation Device, method, and system for displaying a combined image representing a position of sensor having defect and a vehicle

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102017121376B4 (en) * 2017-09-14 2021-01-14 Motherson Innovations Company Limited Method for operating a motor vehicle with at least one external camera and a motor vehicle with at least one external camera
JP7103185B2 (en) * 2018-11-20 2022-07-20 トヨタ自動車株式会社 Judgment device, vehicle control device, judgment method, judgment program
JP2020092365A (en) * 2018-12-07 2020-06-11 三菱電機株式会社 In-vehicle camera device and in-vehicle camera dirt detection method
US12541984B2 (en) * 2021-08-13 2026-02-03 Axon Enterprise, Inc. Detecting change in quality and other obstructions in license plate recognition systems

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002269697A (en) * 2001-03-14 2002-09-20 Nissan Motor Co Ltd Vehicle start warning and start suppression device
JP2002370620A (en) * 2001-06-15 2002-12-24 Yazaki Corp In-vehicle monitoring system for anti-theft
JP2006107279A (en) * 2004-10-07 2006-04-20 Matsushita Electric Ind Co Ltd Security device and remote monitoring system
JP2007318355A (en) * 2006-05-24 2007-12-06 Matsushita Electric Ind Co Ltd Imaging apparatus and lens dirt detection method
JP2010064510A (en) * 2008-09-08 2010-03-25 Denso Corp Vehicular lamp apparatus

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11557030B2 (en) 2018-06-07 2023-01-17 Sony Semiconductor Solutions Corporation Device, method, and system for displaying a combined image representing a position of sensor having defect and a vehicle
US10991086B2 (en) 2018-09-27 2021-04-27 Aisin Seiki Kabushiki Kaisha Adhered substance detection apparatus

Also Published As

Publication number Publication date
JP2012106557A (en) 2012-06-07

Similar Documents

Publication Publication Date Title
JP5521990B2 (en) Adherence notification device for in-vehicle camera
CN106985734B (en) In-vehicle equipment control system
JP4770942B2 (en) Outside-vehicle image display system and vehicle
JP6040870B2 (en) Vehicle monitoring system
US10414376B1 (en) Systems and methods for vehicle lock/unlock alerts
US9131123B2 (en) Device for monitoring surroundings of vehicle and method for monitoring surroundings of vehicle
US20130265431A1 (en) Outside view monitor system for vehicle
KR20100030566A (en) Intelligent driving assistant systems
US10706293B1 (en) Vehicle camera clearness detection and alert
FR3061983A1 (en) METHOD FOR WARNING OF A PARTICIPANT IN THE TRAFFIC IN A PARKING
JP2001063500A (en) Obstacle monitoring device around vehicle
CN107776529B (en) System and method for reminding article existence on vehicle rear seat
LU93233B1 (en) Car Interior Surveillance System with e-Call Functionality
CN107298051A (en) Improve the system and method for context aware when operating motor vehicles
JP2006224873A (en) Vehicle periphery monitoring device
JP2010165087A (en) Driving support apparatus
JP2011111070A (en) Device, system, and method of detecting approaching object
JP2005153660A5 (en)
JP2018176897A (en) Image display device
JP2006321357A (en) Vehicle monitoring device
US20130332033A1 (en) Systems and methods for confirming a potentially unintended command given to a vehicle
JP4211562B2 (en) Vehicle periphery monitoring device
JP7112191B2 (en) Image processing device and image processing method
CN111699677A (en) Abnormality detection device and abnormality detection method
JP4984521B2 (en) In-vehicle camera control device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131217

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131219

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20140124

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140311

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140324

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250