Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4729522B2 - Navigation device, navigation method, and program - Google Patents
[go: Go Back, main page]

JP4729522B2 - Navigation device, navigation method, and program - Google Patents

Navigation device, navigation method, and program Download PDF

Info

Publication number
JP4729522B2
JP4729522B2 JP2007074832A JP2007074832A JP4729522B2 JP 4729522 B2 JP4729522 B2 JP 4729522B2 JP 2007074832 A JP2007074832 A JP 2007074832A JP 2007074832 A JP2007074832 A JP 2007074832A JP 4729522 B2 JP4729522 B2 JP 4729522B2
Authority
JP
Japan
Prior art keywords
line
sight
gaze
behavior
pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007074832A
Other languages
Japanese (ja)
Other versions
JP2008232912A (en
Inventor
帝演 金
ウィドド アリ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso IT Laboratory Inc
Original Assignee
Denso IT Laboratory Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso IT Laboratory Inc filed Critical Denso IT Laboratory Inc
Priority to JP2007074832A priority Critical patent/JP4729522B2/en
Publication of JP2008232912A publication Critical patent/JP2008232912A/en
Application granted granted Critical
Publication of JP4729522B2 publication Critical patent/JP4729522B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Traffic Control Systems (AREA)
  • Instructional Devices (AREA)
  • Navigation (AREA)

Description

本発明は、車両に搭載して用いられるナビゲーション装置に関する。   The present invention relates to a navigation device used by being mounted on a vehicle.

従来から、ドライバの視線を検出してドライバの見ている建築物等の対象物を認識し、対象物に関する情報を提供することによって運転を支援するナビゲーション装置が知られている(特許文献1)。   2. Description of the Related Art Conventionally, a navigation device that assists driving by detecting a driver's line of sight, recognizing an object such as a building that the driver is viewing, and providing information related to the object is known (Patent Document 1). .

特許文献1に記載されたナビゲーション装置は、ドライバの視線を検出するための視線検出カメラとドライバの音声を取得するマイクを備えている。ナビゲーション装置は、マイクにてドライバの音声を取得する。取得した音声を解析し、例えば「あれは何?」等のトリガとなるキーワードを認識すると、ナビゲーション装置は、カメラで撮影した映像からドライバの視線を検出し、ドライバの視線方向にある建物等の対象物を画面に表示する。次に、ナビゲーション装置は、「右」「後ろ」等の修正コマンドをマイクにて取得し、修正コマンドに応じて対象物を選択する。ナビゲーション装置は、選択された対象物に基づいて、経路設定やガイド情報の表示等を行なう。
特開平2005−24313号公報
The navigation device described in Patent Literature 1 includes a line-of-sight detection camera for detecting the line of sight of the driver and a microphone that acquires the voice of the driver. The navigation device acquires the voice of the driver with a microphone. When the acquired voice is analyzed and a keyword that triggers such as “What is that?” Is recognized, the navigation device detects the driver's line of sight from the video captured by the camera, such as a building in the driver's line of sight, etc. Display the object on the screen. Next, the navigation device acquires correction commands such as “right” and “back” with a microphone, and selects an object in accordance with the correction commands. The navigation device performs route setting, guide information display, and the like based on the selected object.
JP-A-2005-24313

上記した特許文献1に記載のナビゲーション装置では、視線方向だけで対象物を特定できないことを前提として、音声によるトリガや修正コマンドを受け付けることにより、対象物を特定している。   In the navigation device described in Patent Literature 1 described above, on the assumption that the target cannot be specified only by the line-of-sight direction, the target is specified by receiving a voice trigger or a correction command.

しかしながら、ドライバの発する言葉は様々であるので、トリガや修正コマンドを誤認識するおそれがある。トリガや修正コマンドとして特定のキーワードをあらかじめ設定しておくことも可能であるが、利便性が低下する。   However, since the driver utters various words, there is a risk of erroneously recognizing a trigger or a correction command. Although it is possible to set a specific keyword as a trigger or correction command in advance, the convenience is reduced.

また、特許文献1に記載のナビゲーション装置では、ドライバは、トリガとなる音声を発すると同時に、視線方向が特定されるまで対象物を見ていなくてはならないので、運転に支障をきたすおそれがある。   Further, in the navigation device described in Patent Document 1, the driver has to look at the target object until the direction of the line of sight is specified at the same time as generating a trigger voice, which may hinder driving. .

そこで、本発明は上記背景に鑑み、ドライバの視線の動きを用いて適切に対象物を特定できるナビゲーション装置を提供することを目的とする。   SUMMARY OF THE INVENTION In view of the above background, an object of the present invention is to provide a navigation device that can appropriately identify an object using the movement of a driver's line of sight.

本発明のナビゲーション装置は、車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した視線パターン記憶部と、ドライバの視線を検出する視線検出部と、前記視線検出部にて検出した視線の情報に基づいてドライバの視線の動きを求め、前記視線の動きに合致する視線パターンに対応する対象物を前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出する注視対象物検出部とを備える。   The navigation device of the present invention includes a line-of-sight pattern storage unit that stores a movement pattern of a driver's line of sight when gazing at an object inside and outside the vehicle as a line-of-sight pattern associated with the object, and line-of-sight detection that detects the line of sight of the driver And the movement of the driver's line of sight based on the line-of-sight information detected by the line-of-sight detection unit, and the object corresponding to the line-of-sight pattern matching the line-of-sight movement is read from the line-of-sight pattern storage unit A gaze target detection unit that detects the target as a gaze target.

このようにドライバの視線の動きを求め、視線の動きに基づいて注視対象物を検出することにより、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出することができる。   In this way, by determining the movement of the driver's line of sight and detecting the gaze target based on the movement of the line of sight, the driver can appropriately detect the gaze target even if the driver does not look at the target for a certain period of time. .

本発明のナビゲーション装置において、前記視線パターン記憶部は、前記対象物に関連付けて、環境ごとに異なる複数の視線パターンを記憶しておき、前記注視対象物検出部は、前記視線の動きを求めた環境に応じて前記視線パターンを選択し、選択された視線パターンを用いて前記注視対象物を検出してもよい。   In the navigation device of the present invention, the line-of-sight pattern storage unit stores a plurality of line-of-sight patterns different for each environment in association with the object, and the gaze target detection unit obtains the movement of the line of sight. The gaze pattern may be selected according to the environment, and the gaze object may be detected using the selected gaze pattern.

このように前記対象物に関連付けて環境ごとに異なる複数の視線パターンを視線パターン記憶部に記憶しておくことにより、環境によって視線の動き方が変化する場合にも適切に対応できる。ここで、環境には、例えば、車両の走行速度、ドライバの運転経験、外部の明るさ等が含まれる。なお、ナビゲーション装置は、各種のセンサ等から環境の情報を取得する。例えば、車両の走行速度の情報は速度センサから取得し、外部の明るさの情報は照度センサから取得する。また、ドライバの運転経験の情報はドライバに運転経験年数を入力させる入力デバイスから情報を取得する。   As described above, by storing a plurality of line-of-sight patterns different for each environment in association with the object in the line-of-sight pattern storage unit, it is possible to appropriately cope with a case where the way of movement of the line of sight changes depending on the environment. Here, the environment includes, for example, the traveling speed of the vehicle, the driving experience of the driver, the external brightness, and the like. The navigation device acquires environmental information from various sensors. For example, information on the traveling speed of the vehicle is obtained from a speed sensor, and information on external brightness is obtained from an illuminance sensor. The driver's driving experience information is acquired from an input device that allows the driver to input the years of driving experience.

本発明のナビゲーション装置は、ドライバの運転行動に先立って注視される複数の注視対象物とその注視順序を注視行動パターンとして当該運転行動に関連付けて記憶した注視行動パターン記憶部と、前記注視対象物検出部にて検出した注視対象物の情報に基づいて注視行動を求め、前記注視行動に合致する注視行動パターンに対応する運転行動を前記注視行動パターン記憶部から読み出し、読み出した運転行動を注視行動に続いて行なわれる予測運転行動として決定する予測運転行動決定部と、前記予測運転行動を支援するための運転支援信号を送信する運転支援信号送信部とを備えてもよい。   The navigation device of the present invention includes a gaze behavior pattern storage unit that stores a plurality of gaze objects to be watched prior to a driver's driving behavior and a gaze order as a gaze behavior pattern in association with the driving behavior, and the gaze target. A gaze action is obtained based on information on the gaze object detected by the detection unit, a driving action corresponding to the gaze action pattern that matches the gaze action is read from the gaze action pattern storage unit, and the read driving action is watched A predicted driving behavior determining unit that determines the predicted driving behavior to be performed subsequently to the predicted driving behavior, and a driving support signal transmitting unit that transmits a driving support signal for supporting the predicted driving behavior may be provided.

このようにドライバの注視行動を求め、注視行動に基づいて決定した予測運転行動を支援するための運転支援信号を送信することにより、ドライバの視線から得た情報に基づいて適切に運転を支援できる。   Thus, the driver's gaze behavior is obtained, and the driving support signal for supporting the predicted driving behavior determined based on the gaze behavior can be transmitted to appropriately support the driving based on the information obtained from the driver's line of sight. .

本発明のナビゲーション装置において、前記注視行動パターン記憶部は、前記運転行動に関連付けて、環境ごとに異なる複数の注視行動パターンを記憶しておき、前記予測運転行動決定部は、前記注視行動を検出した環境に応じて前記注視行動パターンを選択し、選択された注視行動パターンを用いて前記予測運転行動を決定してもよい。   In the navigation device of the present invention, the gaze behavior pattern storage unit stores a plurality of gaze behavior patterns that are different for each environment in association with the driving behavior, and the predicted driving behavior determination unit detects the gaze behavior. The gaze behavior pattern may be selected according to the environment, and the predicted driving behavior may be determined using the selected gaze behavior pattern.

このように運転行動に関連付けて環境ごとに異なる複数の注視行動パターンを注視行動パターン記憶部に記憶しておくことにより、環境によって運転行動が変化する場合にも適切に対応できる。ここで、環境には、例えば、車両の走行速度、ドライバの運転経験、外部の明るさ等が含まれる。   In this way, by storing a plurality of gaze behavior patterns that are different for each environment in association with the driving behavior in the gaze behavior pattern storage unit, it is possible to appropriately cope with the case where the driving behavior changes depending on the environment. Here, the environment includes, for example, the traveling speed of the vehicle, the driving experience of the driver, the external brightness, and the like.

本発明のナビゲーション装置において、前記予測運転行動決定部は、前記注視対象物検出部にて検出した注視対象物の情報から注視行動を求め、前記注視行動が前記注視行動パターン記憶部に記憶された注視行動パターンの一部に合致する場合に、その注視行動パターンに対応する運転行動を読み出してもよい。   In the navigation device of the present invention, the predicted driving behavior determination unit obtains a gaze behavior from information on the gaze target detected by the gaze target detection unit, and the gaze behavior is stored in the gaze behavior pattern storage unit. When a part of the gaze behavior pattern is matched, the driving behavior corresponding to the gaze behavior pattern may be read.

このようにドライバの注視行動が注視行動パターンの一部に合致する場合に、ドライバの予測運転行動を決定することにより、ドライバの予測運転行動を早い段階で決定できる。   As described above, when the driver's gaze behavior matches a part of the gaze behavior pattern, the driver's predicted driving behavior can be determined at an early stage by determining the driver's predicted driving behavior.

本発明のナビゲーション装置は、車両の動作から運転行動を検知する運転行動検知部と、前記運転行動検知部にて運転行動を検知したときに、前記運転行動の前に行われた注視行動を求め、前記注視行動を用いて前記注視行動パターン記憶部に記憶された情報を更新する注視行動パターン学習部とを備えてもよい。   The navigation device of the present invention obtains a gaze action performed before the driving action when the driving action detecting unit detects the driving action from the operation of the vehicle and the driving action detecting unit detects the driving action. And a gaze behavior pattern learning unit that updates information stored in the gaze behavior pattern storage unit using the gaze behavior.

このように注視行動パターン記憶部に記憶された情報を、実際の運転行動および注視行動に基づいて学習することにより、注視行動パターン記憶部の情報をそれぞれのドライバに適合させることができる。   In this way, by learning the information stored in the gaze behavior pattern storage unit based on the actual driving behavior and the gaze behavior, the information in the gaze behavior pattern storage unit can be adapted to each driver.

本発明のナビゲーション装置は、前記視線検出部にて検出した視線の情報に基づいてドライバの視線の動きを求め、前記視線の動きに最も類似する視線パターンを前記視線パターン記憶部から検索し、検索された視線パターンを前記ドライバの視線の動きを用いて更新する視線パターン学習部とを備えてもよい。   The navigation device of the present invention obtains a driver's line-of-sight movement based on the line-of-sight information detected by the line-of-sight detection unit, searches the line-of-sight pattern storage unit for a line-of-sight pattern most similar to the line-of-sight movement, and searches And a line-of-sight pattern learning unit that updates the line-of-sight pattern using the movement of the line of sight of the driver.

このように視線パターン記憶部に記憶された情報を、実際の視線パターンから検出された類似の視線パターンを用いて学習することにより、視線パターン記憶部の情報をそれぞれのドライバに適合させることができる。   Thus, by learning the information stored in the line-of-sight pattern storage unit using similar line-of-sight patterns detected from the actual line-of-sight pattern, the information in the line-of-sight pattern storage unit can be adapted to each driver. .

本発明のナビゲーション方法は、車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した視線パターン記憶部を準備するステップと、ドライバの視線を検出するステップと、検出した視線の情報に基づいてドライバの視線の動きを求めるステップと、前記視線の動きに合致する視線パターンに対応する対象物を前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出するステップとを備える。   The navigation method of the present invention includes a step of preparing a line-of-sight pattern storage unit that stores a movement pattern of a driver's line of sight when gazing at an object inside and outside the vehicle as a line-of-sight pattern, and stores the line-of-sight of the driver. A step of detecting, a step of obtaining a movement of the driver's line of sight based on the information of the detected line of sight, an object corresponding to the line of sight pattern matching the movement of the line of sight is read from the line of sight pattern storage unit, and the read object Detecting as a gaze target.

これにより、視線の動きに基づいて注視対象物を検出することにより、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出することができる。なお、本発明のナビゲーション装置の各種の構成を、本発明のナビゲーション方法に適用することも可能である。   Thus, by detecting the gaze object based on the movement of the line of sight, the gaze object can be appropriately detected even if the driver does not look at the object for a certain period of time. Note that various configurations of the navigation device of the present invention can be applied to the navigation method of the present invention.

本発明のプログラムは、ドライバの視線を検出する機能を備えたナビゲーション装置に、ドライバの視線を検出するステップと、検出した視線の情報に基づいてドライバの視線の動きを求めるステップと、前記視線の動きに合致する視線パターンに対応する対象物を、車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出するステップとを実行させる。   The program of the present invention includes a step of detecting a driver's line of sight in a navigation device having a function of detecting a driver's line of sight, a step of obtaining a movement of the driver's line of sight based on information of the detected line of sight, The object corresponding to the line-of-sight pattern matching the movement is read from the line-of-sight pattern storage unit stored in association with the object as the line-of-sight pattern of the driver's line-of-sight movement when gazing at the object inside and outside the vehicle, Detecting the read target object as a gaze target.

これにより、視線の動きに基づいて注視対象物を検出することにより、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出することができる。なお、本発明のナビゲーション装置の各種の構成を、本発明のプログラムに適用することも可能である。   Thus, by detecting the gaze object based on the movement of the line of sight, the gaze object can be appropriately detected even if the driver does not look at the object for a certain period of time. Various configurations of the navigation device of the present invention can be applied to the program of the present invention.

本発明は、視線の動きに基づいて注視対象物を検出することにより、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出することができる。   According to the present invention, by detecting a gaze object based on the movement of the line of sight, the gaze object can be appropriately detected even if the driver does not look at the object for a certain period of time.

以下、本発明の実施の形態に係るナビゲーション装置について図面を参照して説明する。
(第1の実施の形態)
図1は、第1の実施の形態のナビゲーション装置1の構成を示す図である。ナビゲーション装置1は、ドライバを撮影するカメラ10と、カメラ10にて撮影した映像に基づいてドライバの視線を検出する視線検出部12と、視線検出部12にて検出した視線に基づいて注視対象物を検出する注視対象物検出部14と、注視対象物検出部14にて検出した注視対象物の情報に基づいて、ドライバが行うと予測される運転行動(「予測運転行動」という)を決定する予測運転行動決定部16と、予測運転行動決定部16にて決定された運転行動を支援するための運転支援信号を車両に送信する運転支援信号送信部18とを備えている。なお、図1には示していないが、第1の実施の形態のナビゲーション装置1は、ナビゲーションに必要な地図情報を記憶した地図情報記憶部、車両位置を検出する車両位置検出部、地図情報を表示するディスプレイ、ナビゲーションのメッセージを出力するスピーカ等、通常のナビゲーション装置が備える構成も有している。
Hereinafter, a navigation device according to an embodiment of the present invention will be described with reference to the drawings.
(First embodiment)
FIG. 1 is a diagram illustrating a configuration of a navigation device 1 according to the first embodiment. The navigation device 1 includes a camera 10 that captures a driver, a line-of-sight detection unit 12 that detects the line of sight of the driver based on video captured by the camera 10, and a gaze target based on the line of sight detected by the line-of-sight detection unit 12. Based on information on the gaze target detected by the gaze target detection unit 14 and the gaze target detected by the gaze target detection unit 14, the driving behavior predicted to be performed by the driver (referred to as “predicted driving behavior”) is determined. A predictive driving action determining unit 16 and a driving support signal transmitting part 18 for transmitting a driving support signal for supporting the driving action determined by the predictive driving action determining unit 16 to the vehicle are provided. Although not shown in FIG. 1, the navigation device 1 according to the first embodiment includes a map information storage unit that stores map information necessary for navigation, a vehicle position detection unit that detects a vehicle position, and map information. It also has a configuration provided in a normal navigation device, such as a display for display and a speaker for outputting a navigation message.

以下、図1に示すナビゲーション装置1の各構成について説明する。カメラ10は、ドライバの顔を撮影可能な位置、例えば、ダッシュボードやルームミラー等に設置される。カメラ10としては、例えば、CCDカメラ10を用いることができる。   Hereinafter, each structure of the navigation apparatus 1 shown in FIG. 1 is demonstrated. The camera 10 is installed at a position where the driver's face can be photographed, such as a dashboard or a room mirror. As the camera 10, for example, a CCD camera 10 can be used.

視線検出部12は、カメラ10にて撮影された映像に基づいて、ドライバの頭部の位置および向きと、頭部に対する眼球の位置を求めることによってドライバの視線を検出する。   The line-of-sight detection unit 12 detects the driver's line of sight by determining the position and orientation of the driver's head and the position of the eyeball relative to the head based on the video captured by the camera 10.

注視対象物検出部14は、視線検出部12にて検出されたドライバの視線の情報と視線パターン記憶部20に記憶された情報に基づいて、ドライバが注視した対象物を検出する機能を有する。   The gaze target detection unit 14 has a function of detecting the target watched by the driver based on the driver's gaze information detected by the gaze detection unit 12 and the information stored in the gaze pattern storage unit 20.

図2は、視線パターン記憶部20に記憶された情報の例を示す図である。視線パターン記憶部20には、例えば、「路側」「ナビ」等の注視対象物ごとにその注視対象物を注視するときの視線パターンの情報が記憶されている。視線パターンには、注視対象物に応じて、水平方向の視線の動きのパターンまたは垂直方向の視線の動きのパターン、あるいは水平方向および垂直方向の視線の動きのパターンが含まれる。図2では、水平方向の視線の動きのパターンのみを記憶した例を示しているが、例えば、注視対象物が「高層ビル」である場合には、垂直方向の視線の動きのパターンも関連付けて記憶する。図2に示す例では、視線パターン記憶部は、車両の進行方向から見た視線の角度θの時間的な変化を視線パターンとして記憶している。   FIG. 2 is a diagram illustrating an example of information stored in the line-of-sight pattern storage unit 20. The line-of-sight pattern storage unit 20 stores, for example, information on line-of-sight patterns at the time of gazing at the gaze target for each gaze target such as “roadside” and “navigation”. The line-of-sight pattern includes a horizontal line-of-sight movement pattern, a vertical line-of-sight movement pattern, or a horizontal and vertical line-of-sight movement pattern, depending on the gaze target. FIG. 2 shows an example in which only the horizontal line-of-sight movement pattern is stored. For example, when the gaze target is a “high-rise building”, the vertical line-of-sight movement pattern is also associated. Remember. In the example illustrated in FIG. 2, the line-of-sight pattern storage unit stores a temporal change in the line-of-sight angle θ as viewed from the traveling direction of the vehicle as a line-of-sight pattern.

図3は、視線パターン記憶部20に記憶された情報の例を詳しく示す図である。図3では、注視対象物が「路側」の場合の水平方向の視線パターンを例として示している。図3に示すように、視線パターン記憶部20には、車両の速度に応じて、複数の異なる視線パターンが記憶されている。図3に示す例では、車両の速度が「高速」の場合には、閾値Xを超えて視線を移動した回数がT=D4秒間に2回以上であって、その合計時間がF秒より大きい場合に「路側」を注視したことを検知する。車両の速度が「中速」の場合には、判定に用いる時間TがT=D3秒間である点で「高速」の場合と視線パターンが異なる。なお、図3に示す例では、判定に用いる時間Tは、D1≧D2≧D3≧D4の関係を有している。従って「路側」の注視が検出されるためには、車両速度が高速になるほど短時間に上記視線のパターンが現れることが必要になる。このように車両の速度に応じて、複数の異なる視線パターンを記憶しておくことにより、車両の速度に応じて視線の動きが異なる場合にも適切に注視対象物を検出することができる。   FIG. 3 is a diagram illustrating in detail an example of information stored in the line-of-sight pattern storage unit 20. FIG. 3 shows an example of a horizontal line-of-sight pattern when the gaze target is “roadside”. As shown in FIG. 3, the line-of-sight pattern storage unit 20 stores a plurality of different line-of-sight patterns according to the speed of the vehicle. In the example shown in FIG. 3, when the vehicle speed is “high speed”, the number of times that the line of sight is moved beyond the threshold value X is T = D4 times or more in 4 seconds, and the total time is larger than F seconds. In this case, it is detected that the “roadside” is watched. When the speed of the vehicle is “medium speed”, the line-of-sight pattern is different from the case of “high speed” in that the time T used for determination is T = D3 seconds. In the example shown in FIG. 3, the time T used for determination has a relationship of D1 ≧ D2 ≧ D3 ≧ D4. Therefore, in order to detect the “roadside” gaze, it is necessary that the line-of-sight pattern appears in a shorter time as the vehicle speed increases. As described above, by storing a plurality of different line-of-sight patterns according to the speed of the vehicle, it is possible to appropriately detect the gaze target even when the movement of the line of sight varies according to the speed of the vehicle.

なお、図2および図3に示す注視対象物検出のための視線パターンは一例であり、注視対象物に応じて適切な判定式を用いることができる。例えば、注視対象物がビルやレストラン等の車両外の対象物である場合には、車両の進行方向に対する視線のずれ角度θが、θ<θn+1(nは、対象物を見たのが何回目かを示す数値)を満たすことを注視対象物検出の条件としてもよい。走行中の車両から車両の外にある対象物を見るときの視線の角度θは、車両が進むに従って大きくなるので、θ<θn+1を条件として用いることにより、車両の外にある対象物を見ていることを適切に検知できる。 Note that the line-of-sight pattern for detecting the gaze object shown in FIGS. 2 and 3 is an example, and an appropriate determination formula can be used depending on the gaze object. For example, when the gaze target is an object outside the vehicle such as a building or a restaurant, the shift angle θ of the line of sight with respect to the traveling direction of the vehicle is θ nn + 1 (where n Satisfying the numerical value indicating the number of times) may be a condition for detecting the gaze target. Since the angle θ of the line of sight when looking at an object outside the vehicle from the traveling vehicle increases as the vehicle advances, the object outside the vehicle can be selected by using θ nn + 1 as a condition. Appropriately detect what you are looking at.

次に、注視対象物検出部14の処理について説明する。注視対象物検出部14は、まず、車速情報取得部24にて車両の速度に関する情報を図示しない速度センサから取得し、車速情報に基づいて、注視対象物の検出に用いる視線パターンを選択する。例えば、車両が高速で走行している場合には、図3に示す「高速」に対応する視線パターンを選択する。図3では注視対象物が「路側」である場合の視線パターンを示しているが、注視対象物検出部14は、例えば、「ナビ」や「ルームミラー」等のその他の注視対象物についても、複数の視線パターンの中から「高速」の場合の視線パターンを選択する。   Next, the process of the gaze target detection unit 14 will be described. The gaze target detection unit 14 first acquires information on the speed of the vehicle from a speed sensor (not shown) in the vehicle speed information acquisition unit 24, and selects a line-of-sight pattern used for detection of the gaze target based on the vehicle speed information. For example, when the vehicle is traveling at high speed, the line-of-sight pattern corresponding to “high speed” shown in FIG. 3 is selected. Although FIG. 3 shows a line-of-sight pattern when the gaze target is “roadside”, the gaze target detection unit 14 also uses other gaze targets such as “navigation” and “room mirror”, for example, A line-of-sight pattern for “high speed” is selected from a plurality of line-of-sight patterns.

車速に応じた視線パターンを選択した後、注視対象物検出部14は、視線検出部12にて検出した視線の情報を一時的に蓄積し、蓄積した視線の情報を用いてドライバの視線の動きを求める。続いて、注視対象物検出部14は、ドライバの視線の動きと選択したいずれかの視線パターンとが合致するか否か判定し、視線パターンに合致する場合には、その視線パターンに対応した対象物を注視対象物として検出する。   After selecting the line-of-sight pattern according to the vehicle speed, the gaze target detection unit 14 temporarily accumulates information on the line of sight detected by the line-of-sight detection unit 12, and uses the accumulated line-of-sight information to move the driver's line of sight Ask for. Subsequently, the gaze target detection unit 14 determines whether or not the movement of the driver's line of sight matches any of the selected line-of-sight patterns. If the line-of-sight pattern matches, the target corresponding to the line-of-sight pattern is determined. An object is detected as a gaze target.

次に、予測運転行動決定部16について説明する。予測運転行動決定部16は、注視対象物検出部14にて検出された注視対象物の情報と注視行動パターン記憶部22に記憶された情報に基づいて、注視行動に続いて行なうと予測される予測運転行動を決定する機能を有する。   Next, the predicted driving action determination unit 16 will be described. The predicted driving behavior determination unit 16 is predicted to be performed following the gaze behavior based on the information on the gaze target detected by the gaze target detection unit 14 and the information stored in the gaze behavior pattern storage unit 22. It has a function to determine the predicted driving behavior.

図4は、注視行動パターン記憶部22に記憶された情報の例を示す図である。注視行動パターン記憶部22には、運転行動に先立って行なわれるドライバの注視行動パターンが記憶されている。図4に示す例では、「車線変更」という運転行動に、「(1)前方→(2)ルームミラー→(3)前方→(4)サイドミラー→(5)前方」という注視行動パターンが関連付けられている。従って、この注視行動パターンに続いて「車線変更」が行われると予測される。   FIG. 4 is a diagram illustrating an example of information stored in the gaze behavior pattern storage unit 22. The gaze action pattern storage unit 22 stores a driver's gaze action pattern performed prior to the driving action. In the example shown in FIG. 4, the gaze behavior pattern “(1) front → (2) room mirror → (3) front → (4) side mirror → (5) front” ”is associated with the driving behavior“ lane change ”. It has been. Therefore, it is predicted that “lane change” will be performed following this gaze behavior pattern.

次に、予測運転行動決定部16の処理について説明する。予測運転行動決定部16は、注視対象物検出部14にて検出された注視対象物の情報を一時的に蓄積して、蓄積した注視対象物の情報を用いてドライバの注視行動を求める。注視行動とは、ドライバが注視した注視対象物およびその注視順序である。例えば、注視行動は、注視対象物A→注視対象物B→注視対象物A→注視対象物Cのような情報である。   Next, the process of the predicted driving action determination unit 16 will be described. The predicted driving action determination unit 16 temporarily accumulates information on the gaze object detected by the gaze object detection unit 14 and obtains the driver's gaze action using the accumulated gaze object information. The gaze behavior is a gaze object that the driver gazes at and the gaze order thereof. For example, the gaze behavior is information such as gaze object A → gaze object B → gaze object A → gaze object C.

続いて、予測運転行動決定部16は、ドライバの注視行動が注視行動パターン記憶部22に記憶されたいずれかの注視行動パターンに合致するか否か判定し、注視行動パターンに合致する場合には、その注視行動パターンに対応した運転行動を読み出して運転行動を決定する。   Subsequently, the predictive driving behavior determination unit 16 determines whether or not the driver's gaze behavior matches any one of the gaze behavior patterns stored in the gaze behavior pattern storage unit 22, and if it matches the gaze behavior pattern Then, the driving behavior corresponding to the gaze behavior pattern is read to determine the driving behavior.

運転支援信号送信部18は、予測運転行動決定部16にて決定された運転行動を支援するための運転支援信号を車両に送信する。例えば、運転行動が「左折」であった場合には、運転支援信号送信部18は、車両に対して左のウィンカーを出すように指示する運転支援信号を送信する。   The driving support signal transmission unit 18 transmits a driving support signal for supporting the driving behavior determined by the predicted driving behavior determination unit 16 to the vehicle. For example, when the driving action is “left turn”, the driving support signal transmission unit 18 transmits a driving support signal that instructs the vehicle to take the left blinker.

次に、本実施の形態のナビゲーション装置1の動作について説明する。本実施の形態のナビゲーション装置1は、目的地までの経路探索や、設定された経路に従ったナビゲーションの動作に加え、ドライバの視線の動きに基づいて注視対象物を特定し、注視対象物の情報に基づいて運転支援を行う。以下、ナビゲーション装置1による運転支援の動作について説明する。   Next, operation | movement of the navigation apparatus 1 of this Embodiment is demonstrated. The navigation device 1 according to the present embodiment specifies a gaze object based on the movement of the driver's line of sight in addition to the route search to the destination and the navigation operation according to the set route. Driving assistance based on information. Hereinafter, the operation of driving assistance by the navigation device 1 will be described.

図5は、本実施の形態のナビゲーション装置1による運転支援の動作を示す図である。ナビゲーション装置1の視線検出部12は、まず、カメラ10にて撮影した映像を用いて、ドライバの視線を検出する(S10)。ナビゲーション装置1の注視対象物検出部14は、視線検出部12にて検出した視線の情報を一時的に蓄積し、蓄積した視線の情報に基づいて視線の動きを求める(S12)。注視対象物検出部14は、車両の走行速度に応じて視線パターンを選択する(S14)。注視対象物検出部14は、ドライバの視線の動きが選択された視線パターンに合致するか否かを判定し、ドライバの視線の動きがいずれかの視線パターンに一致する場合には、その視線パターンに対応する対象物を注視対象物として検出する(S16)。   FIG. 5 is a diagram illustrating a driving support operation by the navigation device 1 according to the present embodiment. First, the line-of-sight detection unit 12 of the navigation device 1 detects the line of sight of the driver using the video captured by the camera 10 (S10). The gaze target detection unit 14 of the navigation device 1 temporarily accumulates the information of the line of sight detected by the line of sight detection unit 12, and obtains the movement of the line of sight based on the accumulated information of the line of sight (S12). The gaze target detection unit 14 selects a line-of-sight pattern according to the traveling speed of the vehicle (S14). The gaze target detection unit 14 determines whether or not the driver's line-of-sight movement matches the selected line-of-sight pattern, and when the driver's line-of-sight movement matches any line-of-sight pattern, the line-of-sight pattern The object corresponding to is detected as a gaze object (S16).

ナビゲーション装置1の予測運転行動決定部16は、注視対象物検出部14にて検出した注視対象物の情報を一時的に蓄積し、蓄積した注視対象物の情報からドライバの注視行動を検出する(S18)。予測運転行動決定部16は、ドライバの注視行動に合致する注視行動パターンを注視行動パターン記憶部22から検索する。ドライバの注視行動が注視行動パターン記憶部22に記憶されたいずれかの注視行動パターンに合致した場合には(S20でYES)、予測運転行動決定部16は、その注視行動パターンに対応する運転行動を読み出し、予測運転行動を決定する(S22)。そして、ナビゲーション装置1の運転支援信号送信部18は、予測運転行動決定部16にて決定された予測運転行動を支援するための運転支援信号を車両に対して送信する(S24)。   The predicted driving behavior determination unit 16 of the navigation device 1 temporarily accumulates information on the gaze target detected by the gaze target detection unit 14 and detects the driver's gaze behavior from the accumulated gaze target information ( S18). The predicted driving action determination unit 16 searches the gaze action pattern storage unit 22 for a gaze action pattern that matches the driver's gaze action. When the driver's gaze behavior matches any gaze behavior pattern stored in the gaze behavior pattern storage unit 22 (YES in S20), the predicted driving behavior determination unit 16 drives the driving behavior corresponding to the gaze behavior pattern. And predicting driving behavior is determined (S22). And the driving assistance signal transmission part 18 of the navigation apparatus 1 transmits the driving assistance signal for assisting the prediction driving action determined in the prediction driving action determination part 16 with respect to a vehicle (S24).

ドライバの注視行動が注視行動パターン記憶部22に記憶されたいずれの注視行動パターンにも合致しない場合には(S20でNO)、注視行動を検出するステップS16に戻って、再びドライバの注視行動を検出する(S18)。以上、第1の実施の形態のナビゲーション装置1の構成および動作について説明した。   If the driver's gaze behavior does not match any gaze behavior pattern stored in the gaze behavior pattern storage unit 22 (NO in S20), the process returns to step S16 to detect the gaze behavior, and the driver's gaze behavior is again performed. Detect (S18). The configuration and operation of the navigation device 1 according to the first embodiment have been described above.

本実施の形態のナビゲーション装置1は、ドライバの視線の動きを求め、視線の動きに基づいて注視対象物を検出するので、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出できる。これにより、運転に支障をきたすことなく、注視対象物を検出できる。   Since the navigation device 1 according to the present embodiment obtains the movement of the driver's line of sight and detects the gaze object based on the movement of the line of sight, the navigation apparatus 1 appropriately selects the gaze object even if the driver does not look at the object for a certain period of time. Can be detected. Thereby, it is possible to detect the gaze object without hindering driving.

また、本実施の形態のナビゲーション装置1は、視線パターン記憶部20は、車両の走行速度に応じて異なる複数の視線パターンを記憶しており、車両の走行速度に応じて、注視対象物を検出するための視線パターンを変えているので、車両の走行速度に応じて異なる視線の動きに対応して適切に注視対象物を検出することができる。   Further, in the navigation device 1 of the present embodiment, the line-of-sight pattern storage unit 20 stores a plurality of line-of-sight patterns that differ according to the traveling speed of the vehicle, and detects a gaze object according to the traveling speed of the vehicle. Since the line-of-sight pattern to be changed is changed, it is possible to appropriately detect the gaze target corresponding to the movement of the line of sight different depending on the traveling speed of the vehicle.

また、本実施の形態のナビゲーション装置1は、注視対象物検出部14にて検出された注視対象物の情報に基づいてドライバの注視行動を求め、ドライバの注視行動に続いて行なわれると予測される予測運転行動を決定する。そして、予測運転行動を支援する運転支援信号を車両に送信するので、ドライバが音声等によって意識的に指示をしなくても適切に運転を支援できる。   Further, the navigation device 1 according to the present embodiment obtains the driver's gaze behavior based on the gaze target information detected by the gaze target detection unit 14, and is predicted to be performed following the driver's gaze behavior. Determine the expected driving behavior. And since the driving assistance signal which supports a prediction driving action is transmitted to a vehicle, even if a driver does not give directions consciously by voice etc., driving can be supported appropriately.

(第2の実施の形態)
図6は、本発明の第2の実施の形態のナビゲーション装置2の構成を示す図である。第2の実施の形態のナビゲーション装置2の基本的な構成は、第1の実施の形態のナビゲーション装置1と同じであるが、第1の実施の形態のナビゲーション装置1の構成に加え、注視行動パターン記憶部22に記憶された情報の学習を行うための構成として、車両動作情報取得部26、運転行動検知部28、注視行動学習部30を備えている。以下、これらの構成について説明する。
(Second Embodiment)
FIG. 6 is a diagram illustrating a configuration of the navigation device 2 according to the second embodiment of this invention. The basic configuration of the navigation device 2 of the second embodiment is the same as that of the navigation device 1 of the first embodiment, but in addition to the configuration of the navigation device 1 of the first embodiment, the gaze behavior As a configuration for learning the information stored in the pattern storage unit 22, a vehicle motion information acquisition unit 26, a driving behavior detection unit 28, and a gaze behavior learning unit 30 are provided. Hereinafter, these configurations will be described.

車両動作情報取得部26は、車両の動作の情報を車両から取得する機能を有する。車両の動作情報には、例えば、ハンドルの動き、ウィンカー、エアコン、オーディオ、窓の開閉等の様々な機器の動作情報が含まれる。   The vehicle operation information acquisition unit 26 has a function of acquiring vehicle operation information from the vehicle. The vehicle operation information includes, for example, operation information of various devices such as steering wheel movement, blinker, air conditioner, audio, and opening / closing of windows.

運転行動検知部28は、車両動作情報取得部26にて取得した車両情報に基づいて、運転行動を求める機能を有する。例えば、左ウィンカーが出された後にハンドルが左に切られたことを検知した場合には、左折の運転行動を検知する。   The driving behavior detection unit 28 has a function for obtaining driving behavior based on the vehicle information acquired by the vehicle operation information acquisition unit 26. For example, when it is detected that the steering wheel has been turned to the left after the left winker is taken out, a left-turn driving action is detected.

注視行動学習部30は、運転行動検知部28にて運転行動を検知したときに、検知した運転行動と、その運転行動に先立って行なわれた注視行動とに基づいて、注視行動パターンの学習を行う。   The gaze behavior learning unit 30 learns the gaze behavior pattern based on the detected driving behavior and the gaze behavior performed prior to the driving behavior when the driving behavior detection unit 28 detects the driving behavior. Do.

図7(a)および図7(b)は、注視行動パターンの学習について説明するための図である。図7(a)は、運転行動検知部28にて検知した運転行動と、その運転行動の前になされた注視行動の例を示す図である。図7(a)に示す情報は、注視行動パターン記憶部22の情報の学習に用いられるいわゆる「教師信号」である。図7(b)は、注視行動パターン記憶部22に記憶される情報の例を示す図である。注視行動パターン記憶部22には、「運転行動」「注視行動」「重み付け」の情報が記憶されている。「重み付け」は、例えば注視行動パターンP2と注視行動パターンP3のように、異なる運転行動に対して同じ注視行動パターンが記憶されている場合に、予測運転行動を決定するための情報である。予測運転行動決定部16は、重み付けに所定の閾値(例えば、「4」)以上の開きがある場合には、重み付けの大きい方の予測運転行動であると判断し、そうでない場合にはドライバの注視行動に合致した注視行動パターンがあった場合にも予測運転行動を決定しない。   FIGS. 7A and 7B are diagrams for explaining learning of a gaze behavior pattern. FIG. 7A is a diagram illustrating an example of the driving behavior detected by the driving behavior detector 28 and the gaze behavior performed before the driving behavior. The information shown in FIG. 7A is a so-called “teacher signal” used for learning information in the gaze behavior pattern storage unit 22. FIG. 7B is a diagram illustrating an example of information stored in the gaze behavior pattern storage unit 22. The gaze behavior pattern storage unit 22 stores information on “driving behavior”, “gaze behavior”, and “weighting”. “Weighting” is information for determining a predicted driving action when the same gaze action pattern is stored for different driving actions, such as the gaze action pattern P2 and the gaze action pattern P3. The predictive driving action determination unit 16 determines that the weighting is greater than a predetermined threshold (for example, “4”) or more, and determines that it is the predictive driving action with the larger weighting. The predicted driving behavior is not determined even when there is a gaze behavior pattern that matches the gaze behavior.

注視行動学習部30は、図7(a)に示す教師信号が入力されたときには、図7(b)に下線を引いて示すように、教師信号に対応する注視行動パターンP2の重み付けを大きくする。この学習によって注視行動パターンP2と注視行動パターンP3の重み付けの差が「4」になる。例えば、同じ注視行動パターンに関連付けられた複数の運転行動の中から予測運転行動を決定するための閾値が「4」であるとすると、注視行動パターンP2に合致する注視行動を検出したときに、運転行動が「車線変更」であると決定することができる。ここでは、注視行動パターン記憶部22にすでに記憶されている注視行動パターンと同じ注視行動が教師信号として入力された例について説明したが、注視行動パターン記憶部22に記憶されたいずれの注視行動パターンとも合致しない注視行動が教師信号として入力された場合には、新しい注視行動パターンとして登録する。以上、第2の実施の形態のナビゲーション装置2について説明した。   When the teacher signal shown in FIG. 7A is input, the gaze behavior learning unit 30 increases the weighting of the gaze behavior pattern P2 corresponding to the teacher signal as shown by underlining in FIG. 7B. . With this learning, the weighting difference between the gaze action pattern P2 and the gaze action pattern P3 becomes “4”. For example, when the threshold for determining the predicted driving behavior among a plurality of driving behaviors associated with the same gaze behavior pattern is “4”, when a gaze behavior that matches the gaze behavior pattern P2 is detected, It can be determined that the driving action is “lane change”. Here, an example in which the same gaze behavior as the gaze behavior pattern already stored in the gaze behavior pattern storage unit 22 is input as the teacher signal has been described. However, any gaze behavior pattern stored in the gaze behavior pattern storage unit 22 is described. If a gaze action that does not match both is input as a teacher signal, it is registered as a new gaze action pattern. The navigation device 2 according to the second embodiment has been described above.

第2の実施の形態のナビゲーション装置2は、注視行動学習部30にて学習を行い、注視行動パターン記憶部22に記憶された情報を更新するので、ナビゲーション装置2は、ドライバの癖等に応じて予測運転行動を適切に決定できる。   Since the navigation device 2 according to the second embodiment performs learning in the gaze behavior learning unit 30 and updates the information stored in the gaze behavior pattern storage unit 22, the navigation device 2 responds to the driver's habit and the like. Therefore, the predicted driving behavior can be determined appropriately.

(第3の実施の形態)
図8は、本発明の第3の実施の形態のナビゲーション装置3の構成を示す図である。第3の実施の形態のナビゲーション装置3の基本的な構成は、第2の実施の形態のナビゲーション装置2と同じであるが、第2の実施の形態のナビゲーション装置2の構成に加え、視線パターン記憶部20に記憶された情報の学習を行うための視線パターン学習部32を備えている。
(Third embodiment)
FIG. 8 is a diagram showing a configuration of the navigation apparatus 3 according to the third embodiment of the present invention. The basic configuration of the navigation device 3 of the third embodiment is the same as that of the navigation device 2 of the second embodiment, but in addition to the configuration of the navigation device 2 of the second embodiment, the line-of-sight pattern A line-of-sight pattern learning unit 32 is provided for learning information stored in the storage unit 20.

視線パターン学習部32は、視線検出部12にて検出されたドライバの視線の情報に基づいて視線の動きを求める。次に、視線パターン学習部32は、求めた視線の動きに類似する視線パターンを視線パターン記憶部20の中から検索する。視線パターン学習部32は、ドライバの視線の動きを教師信号として、類似する視線パターンの学習を行う。   The line-of-sight pattern learning unit 32 obtains the movement of the line of sight based on the information on the line of sight of the driver detected by the line-of-sight detection unit 12. Next, the line-of-sight pattern learning unit 32 searches the line-of-sight pattern storage unit 20 for a line-of-sight pattern similar to the obtained line-of-sight movement. The line-of-sight pattern learning unit 32 learns similar line-of-sight patterns using the driver's line-of-sight movement as a teacher signal.

図9(a)は視線パターン記憶部20に記憶された視線パターンの例を示す図、図9(b)は求めた視線の動きの例を示す図である。なお、図9(a)に示す視線パターンは、注視対象物が「路側」の場合の視線パターンである。図9(a)に示すように視線パターン記憶部20に記憶された視線パターンは、視線の角度θが閾値xを超える時間tnの合計がF秒より大きいのに対し、ドライバの視線の動きは図9(b)に示すように時間tnの合計はF秒より小さいF´秒であった。この場合、視線パターン学習部32は、検出されたドライバの視線の動き(図9(b)参照)を用いて、図9(a)に示す視線パターンを更新する。具体的には、例えば、合計時間の判定に用いるF秒という時間をF´秒に更新する、あるいは(F+F´)/2秒に更新する等の更新方法が考えられる。以上、第3の実施の形態のナビゲーション装置3について説明した。   FIG. 9A is a diagram illustrating an example of a line-of-sight pattern stored in the line-of-sight pattern storage unit 20, and FIG. 9B is a diagram illustrating an example of the obtained line-of-sight movement. Note that the line-of-sight pattern illustrated in FIG. 9A is a line-of-sight pattern when the gaze target is “roadside”. As shown in FIG. 9A, the line-of-sight pattern stored in the line-of-sight pattern storage unit 20 is such that the total time tn when the line-of-sight angle θ exceeds the threshold value x is greater than F seconds, whereas the movement of the driver's line of sight is As shown in FIG. 9B, the total time tn was F ′ seconds smaller than F seconds. In this case, the line-of-sight pattern learning unit 32 updates the line-of-sight pattern shown in FIG. 9A using the detected movement of the line of sight of the driver (see FIG. 9B). Specifically, for example, an update method of updating the time of F seconds used for determination of the total time to F ′ seconds or updating to (F + F ′) / 2 seconds is conceivable. The navigation device 3 according to the third embodiment has been described above.

第3の実施の形態のナビゲーション装置3は、視線パターン学習部32にて学習を行い、視線パターン記憶部20に記憶された情報を更新するので、ナビゲーション装置3は、ドライバの癖等に応じて、対象物を注視するときの視線パターンをそれぞれのドライバに適合させることができる。   The navigation device 3 according to the third embodiment performs learning in the line-of-sight pattern learning unit 32 and updates the information stored in the line-of-sight pattern storage unit 20. The line-of-sight pattern when gazing at the object can be adapted to each driver.

以上、本発明のナビゲーション装置について実施の形態を挙げて詳細に説明したが、本発明のナビゲーション装置は、上記した実施の形態に限定されるものではない。   The navigation device of the present invention has been described in detail with reference to the embodiment. However, the navigation device of the present invention is not limited to the above-described embodiment.

上記した実施の形態では、ナビゲーション装置およびナビゲーション方法について説明したが、本発明は、上記した実施の形態のナビゲーション方法の各ステップを実行するためのプログラムも含む。   Although the navigation apparatus and the navigation method have been described in the above-described embodiment, the present invention includes a program for executing each step of the navigation method of the above-described embodiment.

上記した実施の形態では、ドライバの視線を検出する構成として、カメラ10で撮像した映像からドライバの視線を検出する例を説明したが、例えば、アイマークカメラ10を用いてドライバの視線を検出してもよい。   In the above-described embodiment, the example in which the driver's line of sight is detected from the video captured by the camera 10 has been described as the configuration for detecting the driver's line of sight. For example, the driver's line of sight is detected using the eye mark camera 10. May be.

上記した実施の形態では、予測運転行動決定部16は、ドライバの注視行動が、注視行動パターン記憶部22に記憶されたいずれかの注視行動パターンに合致する場合に、その注視行動パターンに対応する運転行動を予測運転行動として決定する例について説明したが、ドライバの注視行動が注視行動パターンに完全一致しない場合にも予測運転行動を決定してもよい。例えば、ドライバの注視行動が注視行動パターンの一部に合致する場合に、その注視行動パターンに対応する運転行動を予測運転行動として決定してもよい。すなわち、例えば、注視対象物A→注視対象物B→注視対象物C→注視対象物Bの注視行動が検出されたときに、注視対象物A→注視対象物B→注視対象物C→注視対象物B→注視対象物Dの注視行動パターンの一部に合致するので、この注視行動パターンに関連付けられた運転行動を予測運転行動とすることができる。これにより、注視対象物Dの注視を検出する前に、予測運転行動を決定できるので、より早い段階で運転支援を行なうことができる。   In the above-described embodiment, when the driver's gaze behavior matches one of the gaze behavior patterns stored in the gaze behavior pattern storage unit 22, the predicted driving behavior determination unit 16 corresponds to the gaze behavior pattern. Although the example of determining the driving behavior as the predicted driving behavior has been described, the predicted driving behavior may be determined even when the driver's gaze behavior does not completely match the gaze behavior pattern. For example, when the driver's gaze behavior matches a part of the gaze behavior pattern, the driving behavior corresponding to the gaze behavior pattern may be determined as the predicted driving behavior. That is, for example, when a gaze action of a gaze object A → gaze object B → gaze object C → gaze object B is detected, the gaze object A → gaze object B → gaze object C → gaze object Since it matches a part of the gaze behavior pattern of the object B → the gaze object D, the driving behavior associated with the gaze behavior pattern can be set as the predicted driving behavior. As a result, the predicted driving behavior can be determined before detecting the gaze of the gaze target D, so that driving assistance can be performed at an earlier stage.

なお、この構成を採用した場合にドライバの注視行動が、複数の注視行動パターンの一部に合致する場合が起こり得るが、上記した第2の実施の形態で述べた重み付けのパラメータに基づいて、複数の注視行動パターンの中から一の注視行動パターンを選択してもよい。   Note that when this configuration is adopted, the driver's gaze behavior may match some of the plurality of gaze behavior patterns, but based on the weighting parameters described in the second embodiment described above, One gaze behavior pattern may be selected from a plurality of gaze behavior patterns.

また、上記した実施の形態では、視線パターン記憶部20に車速に応じて異なる複数の視線パターンを記憶した例について説明したが、車速以外の環境のパラメータに応じて複数の視線パターンを記憶してもよい。環境のパラメータとしては、例えば、ドライバの運転経験年数や、運転時間が昼か夜か等のパラメータを用いることができる。   In the above-described embodiment, an example in which a plurality of line-of-sight patterns different according to the vehicle speed is stored in the line-of-sight pattern storage unit 20 is described. However, a plurality of line-of-sight patterns are stored according to environmental parameters other than the vehicle speed. Also good. As environmental parameters, for example, parameters such as the years of driving experience of the driver and whether the driving time is day or night can be used.

また、上記した実施の形態では、環境に応じて、注視対象物を検出するための視線パターンを変更する例について説明したが、環境に応じて、予測運転行動を求めるために用いる注視行動パターンを変更してもよい。すなわち、ナビゲーション装置は、注視行動パターン記憶部に、運転行動に関連付けて環境ごとに異なる複数の注視行動パターンを記憶しておく。そして、ナビゲーション装置は、注視行動パターン記憶部に記憶された注視行動パターンの中から環境に対応した注視行動パターンを選択し、選択された注視行動パターンを用いて予測運転行動を決定する。   In the above-described embodiment, an example of changing the line-of-sight pattern for detecting a gaze target according to the environment has been described. However, depending on the environment, the gaze action pattern used for obtaining the predicted driving action is determined. It may be changed. That is, the navigation device stores a plurality of gaze behavior patterns that are different for each environment in association with the driving behavior in the gaze behavior pattern storage unit. Then, the navigation device selects a gaze behavior pattern corresponding to the environment from the gaze behavior patterns stored in the gaze behavior pattern storage unit, and determines the predicted driving behavior using the selected gaze behavior pattern.

本発明は、視線の動きに基づいて注視対象物を検出することにより、ドライバが対象物を一定時間にわたって見ていなくても注視対象物を適切に検出することができるという効果を有し、ドライバの注視している対象物の情報に基づいて運転支援を行う機能を有するナビゲーション装置等として有用である。   The present invention has an effect that, by detecting a gaze object based on the movement of the line of sight, the driver can appropriately detect the gaze object even if the driver does not look at the object for a certain period of time. It is useful as a navigation device or the like having a function of performing driving support based on the information of the object being watched.

第1の実施の形態のナビゲーション装置の構成を示す図である。It is a figure which shows the structure of the navigation apparatus of 1st Embodiment. 視線パターン記憶部に記憶された情報の例を示す図である。It is a figure which shows the example of the information memorize | stored in the gaze pattern memory | storage part. 視線パターン記憶部に記憶されたデータの例を詳しく示す図である。It is a figure which shows in detail the example of the data memorize | stored in the gaze pattern memory | storage part. 注視行動パターン記憶部に記憶された情報の例を示す図である。It is a figure which shows the example of the information memorize | stored in the gaze action pattern memory | storage part. 本実施の形態のナビゲーション装置1による運転支援の動作を示す図である。It is a figure which shows the operation | movement of the driving assistance by the navigation apparatus 1 of this Embodiment. 第2の実施の形態のナビゲーション装置の構成を示す図である。It is a figure which shows the structure of the navigation apparatus of 2nd Embodiment. (a)注視行動パターンの学習に用いられるいわゆる「教師信号」を示す図である。(b)注視行動パターン記憶部に記憶される情報の例を示す図である。(A) It is a figure which shows what is called a "teacher signal" used for learning of a gaze action pattern. (B) It is a figure which shows the example of the information memorize | stored in a gaze action pattern memory | storage part. 第3の実施の形態のナビゲーション装置の構成を示す図である。It is a figure which shows the structure of the navigation apparatus of 3rd Embodiment. (a)視線パターン記憶部に記憶された視線パターンの例を示す図である。(b)求めた視線の動きの例を示す図である。(A) It is a figure which shows the example of the gaze pattern memorize | stored in the gaze pattern memory | storage part. (B) It is a figure which shows the example of the motion of the calculated | required eyes | visual_axis.

符号の説明Explanation of symbols

1〜3 ナビゲーション装置
10 カメラ
12 視線検出部
14 注視対象物検出部
16 予測運転行動決定部
18 運転支援信号送信部
20 視線パターン記憶部
22 注視行動パターン記憶部
24 車速情報取得部
26 車両情報取得部
28 運転行動検知部
30 注視行動学習部
32 視線パターン学習部
1-3 Navigation device 10 Camera 12 Gaze detection unit 14 Gaze target detection unit 16 Predictive driving behavior determination unit 18 Driving assistance signal transmission unit 20 Gaze pattern storage unit 22 Gaze behavior pattern storage unit 24 Vehicle speed information acquisition unit 26 Vehicle information acquisition unit 28 Driving Behavior Detection Unit 30 Gaze Behavior Learning Unit 32 Gaze Pattern Learning Unit

Claims (9)

車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した視線パターン記憶部と、
ドライバの視線を検出する視線検出部と、
前記視線検出部にて検出した視線の情報に基づいてドライバの視線の動きを求め、前記視線の動きに合致する視線パターンに対応する対象物を前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出する注視対象物検出部と、
を備えるナビゲーション装置。
A line-of-sight pattern storage unit that stores a pattern of movement of the line of sight of the driver when gazing at an object inside and outside the vehicle as a line-of-sight pattern and stored in association with the object;
A line-of-sight detector that detects the line of sight of the driver;
Based on the line-of-sight information detected by the line-of-sight detection unit, the movement of the line of sight of the driver is obtained, the object corresponding to the line-of-sight pattern matching the movement of the line of sight is read from the line-of-sight pattern storage unit, and the read object A gaze target detection unit that detects the gaze target;
A navigation device comprising:
前記視線パターン記憶部は、前記対象物に関連付けて、環境ごとに異なる複数の視線パターンを記憶しておき、
前記注視対象物検出部は、前記視線の動きを求めた環境に応じて前記視線パターンを選択し、選択された視線パターンを用いて前記注視対象物を検出する請求項1に記載のナビゲーション装置。
The line-of-sight pattern storage unit stores a plurality of line-of-sight patterns different for each environment in association with the object,
The navigation device according to claim 1, wherein the gaze target detection unit selects the gaze pattern according to an environment for which the movement of the gaze is obtained, and detects the gaze target using the selected gaze pattern.
ドライバの運転行動に先立って注視される複数の注視対象物とその注視順序を注視行動パターンとして当該運転行動に関連付けて記憶した注視行動パターン記憶部と、
前記注視対象物検出部にて検出した注視対象物の情報に基づいて注視行動を求め、前記注視行動に合致する注視行動パターンに対応する運転行動を前記注視行動パターン記憶部から読み出し、読み出した運転行動を注視行動に続いて行なわれる予測運転行動として決定する予測運転行動決定部と、
前記予測運転行動を支援するための運転支援信号を送信する運転支援信号送信部と、
を備える請求項1または2に記載のナビゲーション装置。
A gaze behavior pattern storage unit that stores a plurality of gaze objects to be watched prior to the driver's driving behavior and the gaze order in association with the driving behavior as a gaze behavior pattern;
The gaze behavior is obtained based on the gaze target information detected by the gaze target detection unit, and the driving behavior corresponding to the gaze behavior pattern that matches the gaze behavior is read from the gaze behavior pattern storage unit and read out. A predictive driving action determination unit that determines the action as a predictive driving action performed following the gaze action;
A driving support signal transmitter for transmitting a driving support signal for supporting the predicted driving behavior;
A navigation device according to claim 1 or 2.
前記注視行動パターン記憶部は、前記運転行動に関連付けて、環境ごとに異なる複数の注視行動パターンを記憶しておき、
前記予測運転行動決定部は、前記注視行動を検出した環境に応じて前記注視行動パターンを選択し、選択された注視行動パターンを用いて前記予測運転行動を決定する請求項3に記載のナビゲーション装置。
The gaze behavior pattern storage unit stores a plurality of gaze behavior patterns that are different for each environment in association with the driving behavior,
The navigation device according to claim 3, wherein the predicted driving behavior determination unit selects the gaze behavior pattern according to an environment in which the gaze behavior is detected, and determines the predicted driving behavior using the selected gaze behavior pattern. .
前記予測運転行動決定部は、前記注視対象物検出部にて検出した注視対象物の情報から注視行動を求め、前記注視行動が前記注視行動パターン記憶部に記憶された注視行動パターンの一部に合致する場合に、その注視行動パターンに対応する運転行動を読み出す請求項4に記載のナビゲーション装置。   The predictive driving behavior determination unit obtains a gaze behavior from information on the gaze target detected by the gaze target detection unit, and the gaze behavior is part of a gaze behavior pattern stored in the gaze behavior pattern storage unit. The navigation device according to claim 4, wherein when the two match, the driving behavior corresponding to the gaze behavior pattern is read out. 車両の動作から運転行動を検知する運転行動検知部と、
前記運転行動検知部にて運転行動を検知したときに、前記運転行動の前に行われた注視行動を求め、前記注視行動を用いて前記注視行動パターン記憶部に記憶された情報を更新する注視行動パターン学習部と、
を備える請求項3〜5のいずれかに記載のナビゲーション装置。
A driving behavior detector for detecting driving behavior from the movement of the vehicle;
When the driving behavior is detected by the driving behavior detection unit, the gaze behavior performed before the driving behavior is obtained and the information stored in the gaze behavior pattern storage unit is updated using the gaze behavior. A behavior pattern learning unit;
A navigation device according to any one of claims 3 to 5.
前記視線検出部にて検出した視線の情報に基づいてドライバの視線の動きを求め、前記視線の動きに最も類似する視線パターンを前記視線パターン記憶部から検索し、検索された視線パターンを前記ドライバの視線の動きを用いて更新する視線パターン学習部と、
を備える請求項1〜6のいずれかに記載のナビゲーション装置。
Based on the line-of-sight information detected by the line-of-sight detection unit, the movement of the driver's line of sight is obtained, the line-of-sight pattern storage unit that searches for the line-of-sight pattern most similar to the line-of-sight movement is searched for, A line-of-sight pattern learning unit that updates using the line-of-sight movement,
A navigation device according to any one of claims 1 to 6.
車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した視線パターン記憶部を準備するステップと、
ドライバの視線を検出するステップと、
検出した視線の情報に基づいてドライバの視線の動きを求めるステップと、
前記視線の動きに合致する視線パターンに対応する対象物を前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出するステップと、
を備えるナビゲーション方法。
Preparing a line-of-sight pattern storage unit that stores a pattern of movement of the line of sight of a driver when gazing at an object inside and outside the vehicle as a line-of-sight pattern and associated with the object;
Detecting the driver's line of sight;
Determining the movement of the driver's line of sight based on the detected line of sight information;
Reading an object corresponding to a line-of-sight pattern matching the movement of the line of sight from the line-of-sight pattern storage unit, and detecting the read object as a gaze object;
A navigation method comprising:
ドライバの視線を検出する機能を備えたナビゲーション装置に、
ドライバの視線を検出するステップと、
検出した視線の情報に基づいてドライバの視線の動きを求めるステップと、
前記視線の動きに合致する視線パターンに対応する対象物を、車両内外の対象物を注視するときのドライバの視線の動きのパターンを視線パターンとして当該対象物に関連付けて記憶した前記視線パターン記憶部から読み出し、読み出した対象物を注視対象物として検出するステップと、
を実行させるプログラム。
In a navigation device with a function to detect the driver's line of sight,
Detecting the driver's line of sight;
Determining the movement of the driver's line of sight based on the detected line of sight information;
The line-of-sight pattern storage unit that stores an object corresponding to the line-of-sight pattern that matches the line-of-sight movement as a line-of-sight pattern of a driver's line-of-sight movement when gazing at an object inside or outside the vehicle. And detecting the read object as a gaze object,
A program that executes
JP2007074832A 2007-03-22 2007-03-22 Navigation device, navigation method, and program Expired - Fee Related JP4729522B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007074832A JP4729522B2 (en) 2007-03-22 2007-03-22 Navigation device, navigation method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007074832A JP4729522B2 (en) 2007-03-22 2007-03-22 Navigation device, navigation method, and program

Publications (2)

Publication Number Publication Date
JP2008232912A JP2008232912A (en) 2008-10-02
JP4729522B2 true JP4729522B2 (en) 2011-07-20

Family

ID=39905872

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007074832A Expired - Fee Related JP4729522B2 (en) 2007-03-22 2007-03-22 Navigation device, navigation method, and program

Country Status (1)

Country Link
JP (1) JP4729522B2 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10994745B2 (en) 2016-07-22 2021-05-04 Panasonic Intellectual Property Management Co., Ltd. Information estimating system, information estimating method and recording medium

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2256667B1 (en) * 2009-05-28 2012-06-27 Honda Research Institute Europe GmbH Driver assistance system or robot with dynamic attention module
KR101648021B1 (en) * 2014-11-28 2016-08-23 현대자동차주식회사 Vehicle having gaze recognizing function and controlling method thereof, and gaze recognizing system
JP6503285B2 (en) * 2015-12-02 2019-04-17 株式会社デンソーアイティーラボラトリ Operation control device, operation control method and program
JP2018097398A (en) 2016-12-07 2018-06-21 トヨタ自動車株式会社 Gaze estimation system
WO2018179599A1 (en) * 2017-03-28 2018-10-04 三菱電機株式会社 Information providing device
JP7094254B2 (en) * 2019-09-17 2022-07-01 本田技研工業株式会社 Vehicle control system

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000010722A (en) * 1998-06-18 2000-01-14 Mr System Kenkyusho:Kk Eye-gaze user interface device, its interface method, computer device, its control method, and program storage medium
JP2001260776A (en) * 2000-03-22 2001-09-26 Mazda Motor Corp Obstacle warning device for vehicles
JP3790680B2 (en) * 2001-05-25 2006-06-28 株式会社東芝 Image processing system and driving support system using the same

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10994745B2 (en) 2016-07-22 2021-05-04 Panasonic Intellectual Property Management Co., Ltd. Information estimating system, information estimating method and recording medium

Also Published As

Publication number Publication date
JP2008232912A (en) 2008-10-02

Similar Documents

Publication Publication Date Title
JP4729522B2 (en) Navigation device, navigation method, and program
JP4231884B2 (en) Gaze object detection device and gaze object detection method
CN108349503B (en) Driving support device
EP2806335A1 (en) Vehicle human machine interface with gaze direction and voice recognition
KR102480416B1 (en) Device and method for estimating information about a lane
US10902273B2 (en) Vehicle human machine interface in response to strained eye detection
KR20200131664A (en) Electronic apparatus and method for assisting driving of a vehicle
JP6825433B2 (en) Virtual image display device and computer program
JP2017122640A (en) Information control device
JP6090340B2 (en) Driver emotion estimation device
JP2018173862A (en) Driving support apparatus and computer program
US20160282133A1 (en) Drive support system and drive support method
JP2017083308A (en) Electronic apparatus, facility specification method, and facility specification program
JP2014120114A (en) Travel support system, travel support method, and computer program
JP6830865B2 (en) Lane recognition device
JP6770488B2 (en) Gaze object estimator, gaze object estimation method, and program
JP2007082594A (en) Fatigue detection device
JP2016224717A (en) Driving support device and driving support method
JP2010256554A (en) Information processor and image display control method
JP6187534B2 (en) Vehicle regulation speed display device
JP2009061963A (en) Vehicle control device, vehicle control method and computer program
JP7151387B2 (en) Vehicle behavior estimation device, vehicle behavior estimation program, storage medium, and control method for vehicle behavior estimation device
JP6536443B2 (en) Eye-gaze learning system and eye-gaze learning program
JP2010085203A (en) Navigation device and guidance method
JP6939147B2 (en) Driving information guidance device and computer program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090902

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110330

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110412

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110418

R150 Certificate of patent or registration of utility model

Ref document number: 4729522

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140422

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140422

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees