JP7543082B2 - Information presentation device, information presentation method, and information presentation program - Google Patents
Information presentation device, information presentation method, and information presentation program Download PDFInfo
- Publication number
- JP7543082B2 JP7543082B2 JP2020177320A JP2020177320A JP7543082B2 JP 7543082 B2 JP7543082 B2 JP 7543082B2 JP 2020177320 A JP2020177320 A JP 2020177320A JP 2020177320 A JP2020177320 A JP 2020177320A JP 7543082 B2 JP7543082 B2 JP 7543082B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- occupant
- emotion
- presentation
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title description 13
- 230000008451 emotion Effects 0.000 claims description 222
- 238000011156 evaluation Methods 0.000 claims description 27
- 230000002996 emotional effect Effects 0.000 claims description 6
- 238000012545 processing Methods 0.000 description 18
- 238000010586 diagram Methods 0.000 description 14
- 230000008921 facial expression Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 8
- 230000006399 behavior Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 230000002040 relaxant effect Effects 0.000 description 5
- 235000015927 pasta Nutrition 0.000 description 4
- 230000005236 sound signal Effects 0.000 description 4
- 230000007704 transition Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 235000013305 food Nutrition 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Landscapes
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Description
本発明は、情報提示装置、情報提示方法、及び、情報提示プログラムに関する。 The present invention relates to an information presentation device, an information presentation method, and an information presentation program.
近年、例えば、人から発せられる音声や表情等の挙動に基づいて、コンピュータ等の感情推定機器が当該人の感情を推定する技術が開発されている。 In recent years, technology has been developed that uses emotion estimation devices such as computers to estimate the emotions of people based on their behavior, such as the voice and facial expressions emitted by the people.
例えば、特許文献1には、車両にてイベント又はショッピングなどの特定地域の施設に訪れた際に、当該車両が訪れた施設から立ち去ってから指定時間内に感情推定部が搭乗者の感情を推定することにより当該施設の満足度を算出する施設満足度算出装置が開示されている。 For example, Patent Document 1 discloses a facility satisfaction calculation device that, when a vehicle visits a facility in a specific area for an event or shopping, an emotion estimation unit calculates the satisfaction of the facility by estimating the emotion of the occupant within a specified time after the vehicle leaves the facility.
しかしながら、特許文献1の施設満足度算出装置においては、例えば、搭乗者の感情を推定する際に、搭乗者に対して当該搭乗者の感情に影響を及ぼす事象が発生していた場合、施設に対する正しい満足度が算出できない可能性がある。 However, in the facility satisfaction calculation device of Patent Document 1, for example, when estimating the emotions of a passenger, if an event occurs that affects the emotions of the passenger, it may not be possible to calculate a correct level of satisfaction with the facility.
本発明は、上記の点に鑑みてなされたものであり、提示した情報の評価結果をユーザの感情に基づいて得るにあたり、提示した情報とは関連しない感情による影響を抑制した評価結果を得ることが可能な情報提示装置、情報提示方法及びその情報提示プログラムを提供することを目的とする。 The present invention has been made in consideration of the above points, and aims to provide an information presentation device, an information presentation method, and an information presentation program that are capable of obtaining evaluation results of presented information based on the user's emotions while suppressing the influence of emotions unrelated to the presented information.
請求項1に記載の発明は、車両の乗員に推奨情報を提示する情報提示部と、前記乗員の感情を推定する感情推定部と、前記情報提示部の前記推奨情報の提示後における前記乗員の感情の推定結果に基づいて、前記推奨情報の提示に関する評価をする評価部と、を備えることを特徴とする情報提示装置である。 The invention described in claim 1 is an information presentation device that includes an information presentation unit that presents recommended information to a vehicle occupant, an emotion estimation unit that estimates the emotion of the occupant, and an evaluation unit that evaluates the presentation of the recommended information based on the estimation result of the emotion of the occupant after the information presentation unit presents the recommended information.
請求項10に記載の発明は、車両の乗員に推奨情報を提示する情報提示装置の情報提示方法であって、情報提示部が前記車両の前記乗員に前記推奨情報を提示する情報提示ステップと、感情推定部が前記乗員の感情を推定する感情推定ステップと、評価部が前記情報提示部の前記推奨情報の提示後における前記乗員の感情の推定結果に基づいて、前記推奨情報を評価する評価ステップと、を含むことを特徴とする。
The invention described in
請求項11に記載の発明は、情報提示プログラムであって、車両の乗員に推奨情報を提示する情報提示装置に搭載されたコンピュータに、情報提示部が前記車両の前記乗員に前記推奨情報を提示する情報提示ステップと、感情推定部が前記乗員の感情を推定する感情推定ステップと、評価部が前記情報提示部の前記推奨情報の提示後における前記乗員の感情の推定結果に基づいて、前記推奨情報を評価する評価ステップと、を実行させることを特徴とする。 The invention described in claim 11 is an information presentation program that causes a computer mounted on an information presentation device that presents recommended information to a vehicle occupant to execute an information presentation step in which an information presentation unit presents the recommended information to the vehicle occupant, an emotion estimation step in which an emotion estimation unit estimates the emotion of the occupant, and an evaluation step in which an evaluation unit evaluates the recommended information based on the estimation result of the emotion of the occupant after the information presentation unit presents the recommended information.
以下においては、本発明の好適な実施例について説明する。しかし、これらを適宜改変し、組み合わせてもよい。また、以下の説明及び添付図面において、実質的に同一又は等価な部分には同一の参照符を付して説明する。また、以下の説明において、映像とは動画及び静止画を含むものとして説明する。 In the following, preferred embodiments of the present invention will be described. However, these may be modified and combined as appropriate. In the following description and accompanying drawings, substantially the same or equivalent parts are denoted by the same reference numerals. In the following description, video will be described as including both moving images and still images.
以下に、本発明の実施例1である情報提示装置10を含む情報提示システム100について、添付の図面を参照して説明する。実施例1においては、情報提示装置10を自動車Mに搭載する際を例に説明する。
Hereinafter, an
図1は、本願の実施例1に係る情報提示装置10を搭載した車両としての自動車Mの前席部分の一例を示す図である。図1では、取り付け例として、自動車Mの前席のセンターコンソールCC部分に情報提示装置10が取り付けられている場合を示す。
Figure 1 is a diagram showing an example of the front seat portion of an automobile M as a vehicle equipped with an
車内カメラ21は、自動車Mの乗員を撮影可能なカメラである。車内カメラ21は、例えば、ダッシュボードDB上に設けられており、自動車Mの車室内にいる乗員、特に当該乗員の表情又は上半身を撮影可能に配向されている。なお、車内カメラ21は、乗員の表情又は身体の動作等の状況が撮影できる位置に配されていればよい。例えば、車内カメラ21は、ルームミラーRMに設けられているか又はフロントガラスFGの上端又は当該上端付近の天井部に設けられていてもよい。また、車内カメラ21は、情報提示装置10と通信可能に接続されており、撮影した映像の信号を情報提示装置10に送信することが可能である。
The in-
なお、車内カメラ21は、自動車Mの車室内に複数設置されていてもよい。例えば、運転席及び助手席の各々の乗員を撮影可能な車内カメラ21をダッシュボードDB上に各々設け、後部座席の各々の乗員を撮影可能な車内カメラ21を運転席及び助手席のシート裏面又はヘッドレスト裏面の各々に設けてもよい。また、車内カメラ21は、乗員の上半身のみならず全身を撮影可能に構成されていてもよい。
Note that multiple in-
車内マイク22は、車内の音を受音するマイク装置であり、例えば、ダッシュボードDB上に配されている。車内マイク22は、車内の音を受音可能であれば、ルームミラーRM又はハンドル等、どこに設けられていてもよい。車内マイク22は、情報提示装置10と通信可能に接続されており、当該収集した音の信号を情報提示装置10に送信することが可能である。
The in-
なお、車内カメラ21及び車内マイク22は、情報提示装置10が自動車Mの車室内の車内状況情報を取得するための車内状況取得デバイス20である。情報提示装置10は車内カメラ21及び車内マイク22の少なくともいずれかを備える。
The in-
スピーカ31は、例えば、ピラーP又はドアDRの車室内側に設けられている。スピーカ31は、情報提示装置10と通信可能に接続されており、情報提示装置10の制御に基づいて音楽や音声等の音を発することが可能である。
The
ディスプレイ32は、例えば、映像を表示可能な液晶ディスプレイ等のディスプレイである。ディスプレイ32は、例えば、ダッシュボードDB上に配されている。ディスプレイ32は、車室内の乗員から視認できる場所に配されていればよい。例えば、ディスプレイ32は、ダッシュボードDB内のセンターコンソールCCに取り付けられていてもよい。ディスプレイ32は、情報提示装置10と通信可能に接続されており、情報提示装置10の制御に基づいて画面表示を行うことが可能である。なお、ディスプレイ32は、映像を表示可能な液晶ディスプレイ等のディスプレイとタッチパネルとが組み合わされたタッチパネルモニターであってもよい。その場合、ディスプレイ32は、乗員から受け付けたタッチパネルへの入力操作を表す信号を情報提示装置10に送信することが可能である。
The
なお、スピーカ31及びディスプレイ32は、情報提示装置10が自動車Mの車室内の乗員に対して情報を提示するための情報提示デバイス30である。
The
GPS受信機41は、GPS(Global Positioning System)衛星からの信号(GPS信号)を受信する装置である。GPS受信機41は、例えば、ダッシュボードDB上に配されている。なお、GPS受信機41は、GPS信号が受信できればどこに配されていてもよい。GPS受信機41は、情報提示装置10と通信可能に接続されており、受信したGPS信号を情報提示装置10に送信することが可能である。
The
図2に情報提示装置10の構成を示す。情報提示装置10は、例えば、システムバス51を介して、記憶部53と、制御部55と、入力部57と、出力部59とが協働する装置である。
Figure 2 shows the configuration of the
記憶部53は、例えば、ハードディスク装置、SSD(solid state drive)、フラッシュメモリ等により構成されており、オペレーティングシステムや、端末用のソフトウェア等の各種プログラムを記憶する。
The
なお、各種プログラムは、例えば、他のサーバ装置等からネットワークを介して取得されてもよいし、記録媒体に記録されて各種ドライブ装置を介して読み込まれるようにしてもよい。すなわち、記憶部53に記憶される各種プログラム(後述する情報提示装置10における処理を実行するためのプログラムを含む)は、ネットワークを介して伝送可能であるし、また、コンピュータ読み取り可能な記録媒体に記録して譲渡することが可能である。
The various programs may be obtained, for example, from another server device or the like via a network, or may be recorded on a recording medium and read via various drive devices. In other words, the various programs stored in the memory unit 53 (including a program for executing the processing in the
また、記憶部53は、例えば、地図情報及び当該地図情報に対応した施設の情報等を記憶する。記憶部53に記録されている施設の情報には、例えば、レストラン、ショッピング施設、景勝地等の観光地、アミューズメント施設等のカテゴリ情報が記録されている。また、それぞれのカテゴリに含まれている施設または観光地は、複数のサブカテゴリに分類されている。例えばレストランのカテゴリに含まれている施設は、和食、中華、パスタ店等のサブカテゴリに分類されている。なお、情報提示装置10が無線通信によってインターネットに接続されており、当該インターネットを介した情報取得により、記憶部53に記憶されている施設の情報が追加されたりや施設の口コミ情報等が随時更新されるようにしてもよい。
The
制御部55は、CPU(Central Processing Unit)55A、ROM(Read Only Memory)55B、RAM(Random Access Memory)55C等により構成され、コンピュータとして機能する。そして、CPU55Aが、ROM55Bや記憶部53に記憶された各種プログラムを読み出し実行することにより各種機能を実現する。
The
入力部57は、情報提示装置10と車内状況取得デバイス20とを通信可能に接続するインタフェース部である。情報提示装置10は、入力部57を介して、車内カメラ21から映像信号を受信し、車内マイク22から音声信号を受信することが可能である。また、情報提示装置10は、入力部57を介して、GPS受信機41から自動車Mの現在の位置情報の信号を受信することが可能である。
The
出力部59は、スピーカ31及びディスプレイ32と通信可能に接続されており、スピーカ31に音声信号を送信して音を出力させたり、ディスプレイ32に映像又は画像信号を送信して表示をさせたりすることが可能である。
The
情報提示装置10は、上記の通り、入力部57を介してGPS受信機41から自動車Mの現在の位置情報の信号を受信する。制御部55は、入力部57を介して受信した自動車Mの位置情報及び記憶部53に記録された地図情報から、自動車Mの乗員に対して自動車Mの周辺又は進行方向上に推奨するべき施設等の推奨情報を提示可能である。なお、この時、制御部55は情報提示部として機能する。言い換えれば、情報提示装置10は、自動車Mの乗員に推奨情報を提示する情報提示部としての制御部55を備える。
As described above, the
また、情報提示装置10は、上記の通り、入力部57を介して車内カメラ21から自動車Mの乗員を含む車室内の映像を受信する。また、情報提示装置10は、入力部57を介して車内マイク22から自動車Mの車室内の乗員の声を含む音声を受信する。情報提示装置10は、受信した映像から乗員の表情または動作等の挙動の情報を取得する。または情報提示装置10は、受信した車室内の音声から乗員の声もしくは乗員の動作によって発生した音の情報を取得する。以下、乗員の挙動及び声を含めて単に乗員の挙動ともいう。制御部55は、入力部57を介して受信した映像及び音声から乗員の挙動及び声を抽出し、当該抽出した挙動及び声から当該乗員の感情を推測可能である。
As described above, the
例えば、制御部55は、車内カメラ21によって撮影された乗員の表情、身振り手振り等の動作又は車内マイク22によって入力された乗員の声の大小もしくは声色等に基づいて当該乗員の感情を推測する。なお、この時、制御部55は感情推定部として機能する。言い換えれば、情報提示装置10は、乗員の感情を推定する感情推定部としての制御部55を備える。
For example, the
制御部55による乗員の感情の推定においては、例えば、制御部55は、予め記憶部53に記録された乗員の平静時の表情または声と上記抽出して取得された表情または声を比較して感情を推定する。具体的には、例えば、当該乗員の表情の目元又は口元の形状を比較することで感情を推定する。また、例えば、制御部55は、予め記憶部53に記録された平静時の乗員の身体、特に上半身の各部の移動量と比較して、当該乗員の身体の各部の移動量から感情を推定する。また、例えば、制御部55は、予め記憶部53に記録された乗員の平静時の声の大きさや声色などの声の状態と、抽出された声の状態とを比較して、当該乗員の感情を推定する。また、上記の表情、身体の各部の移動量及び声の状態について、予め記録されている平静時からの差異を各々の特徴量として計測し、各々の特徴量の分布傾向から乗員の感情を推定するようにしてもよい。
In estimating the emotion of the occupant by the
なお、制御部55による乗員の感情の推定においては、上記のように、制御部55が予め記憶部53に記録された乗員のデータと比較を行うことによって感情を推定することに限らない。例えば、記憶部53に格納された人工知能(AI:Artificial Intelligence)プログラムによるディープラーニングによって、上記車室内の映像及び音声から乗員の感情を推測するようにしてもよい。
In addition, the estimation of the occupant's emotions by the
また、制御部55による感情を推定する対象は、運転席に登場する乗員のみであってもよいし、予め設定された特定の乗員であってもよい。また、制御部55による感情を推定する対象は、自動車Mの車室内に搭乗する乗員全員であってもよい。その場合、例えば、自動車Mの車室内に搭乗する乗員のうち、最も感情が昂っていると推測される乗員の感情を代表値として用いてもよいし、自動車Mの車室内に搭乗する乗員全員の感情を推定して数値化した後に当該数値の平均値を代表値として用いてもよい。
The
情報提示装置10は、自動車Mの車室内の乗員に対して推奨情報の提示を行った後、上述のように乗員の感情を推定して推奨情報の評価を行う。具体的には、制御部55は、推奨情報の情報提示後に得られた推定感情に応じて提示した推奨情報の評価を行い、以後に提示する推奨情報のカテゴリの内容や提示する頻度を変更する。なお、この時、制御部55は評価部として機能する。言い換えれば、情報提示装置10は、情報提示部としての制御部55の推奨情報の提示後における乗員の感情の推定結果に基づいて、推奨情報の提示に関する評価をする評価部としての制御部55を備える。
After presenting the recommended information to the occupants in the cabin of the automobile M, the
具体的には、例えば、情報提示装置10が自動車Mの進行方向上にある評判の良いパスタ店の情報を推奨情報として提示した後に、自動車Mの車室内の乗員から推定される感情が、平静な状態から喜びや楽しみ等の肯定的な感情に推移したと推測されたとする。この時、情報提示装置10は、現在車室内に搭乗している乗員がレストランのカテゴリ、特にパスタ店のサブカテゴリに属する情報を好むと判定する。この場合、情報提示装置10は、以後の推奨情報の提示において、当該パスタ店及び同一のカテゴリ又はサブカテゴリに属する施設の提示頻度を多くする等の変更を行う。
Specifically, for example, suppose that the
また、一方、例えば、情報提示装置10が推奨情報として提示した後に、乗員から推定される感情が、平静な状態から怒りや嫌悪等の否定的な感情に推移したと推測された場合、制御部55は、以後の推奨情報の提示において、同一のカテゴリ又はサブカテゴリに属する施設の提示頻度を少なくする等の変更を行う。
On the other hand, if the
すなわち、情報提示装置10は、推奨情報の提示とその評価を繰り返し行うことによって、乗員の好みに応じた推奨情報をより多く提示することが可能となる。
In other words, by repeatedly presenting and evaluating recommended information, the
なお、上記のように推奨情報を提示した後に乗員の感情を推定する場合には、推奨情報の提示時において乗員の感情が平静な状態であることが好ましい。例えば、推奨情報の提示時において、車室内で乗員同士の口論の発生や、車外において渋滞や自車の前方への他車の急な割り込みの発生等、乗員の感情に影響を及ぼす影響事象(以下、単に事象とも称する)が発生した場合において、乗員の感情が平静でない場合がある。このような場合に推奨情報を提示し、当該推奨情報の提示後の乗員の感情の推定を行っても、上記の事象によって及ぼされた乗員の感情によって推奨情報の評価が適正に行われない場合がある。言い換えれば、推奨情報の評価は、推奨情報の提示時に乗員の感情が平静である場合に行われるのが好ましい。 When estimating the occupant's emotions after presenting the recommended information as described above, it is preferable that the occupant's emotions are calm when the recommended information is presented. For example, when the recommended information is presented, if an influencing event (hereinafter also simply referred to as an event) that affects the occupant's emotions occurs, such as an argument between occupants in the vehicle cabin, a traffic jam outside the vehicle, or another vehicle suddenly cuts in front of the vehicle, the occupant may not be emotionally calm. In such a case, even if the recommended information is presented and the occupant's emotions after the presentation of the recommended information are estimated, the recommended information may not be evaluated appropriately due to the occupant's emotions affected by the event. In other words, it is preferable to evaluate the recommended information when the occupant's emotions are calm when the recommended information is presented.
よって、情報提示装置10は、推奨情報の提示前において、上述のような乗員の感情の推定を行ってもよい。具体的には、制御部55は、推奨情報の提示時またはその直前において車室内の乗員の感情が平静である場合のみに推奨情報を提示することとしてもよい。また、制御部55は、推奨情報の提示時またはその直前において、車室内の乗員の感情が平静であると推定されるまで推奨情報の提示を中断してもよい。これにより、情報提示装置10は、推奨情報の評価をより適正に行うことが可能となる。
Therefore, the
すなわち、情報提示部としての制御部55は、感情推定部としての制御部55により推定された乗員の感情が特定の状態である期間中は、推奨情報を提示しない。
In other words, the
以下に、情報提示装置として機能する際の情報提示装置10の動作ルーチンの一例について説明する。
Below, an example of an operation routine of the
図3及び図4は、動作ルーチンの一例としての情報提示ルーチンR1及びR2を示す図である。図3に示す情報提示ルーチンR1は、情報提示装置10の動作ルーチンのうち、推奨情報を提示するまでのルーチンを示している。また、図4に示す情報提示ルーチンR2は、情報提示装置10の動作ルーチンのうち、推奨情報の提示以降のルーチンを示している。情報提示ルーチンR1及びR2は、例えば、連続して実行される。また、情報提示ルーチンR1及びR2は、例えば、情報提示装置10の電源が入ると繰り返し実行される。
FIGS. 3 and 4 are diagrams showing information presentation routines R1 and R2 as examples of operation routines. The information presentation routine R1 shown in FIG. 3 shows the operation routine of the
情報提示ルーチンR1が開始されると、制御部55は、まず自動車Mに搭乗している乗員に推奨するべき推奨情報があるかを検索する(ステップS101)。具体的には、制御部55は、入力部57を介して受信されるGPS受信機41の位置情報と記憶部53に記録されている地図情報及び施設情報とを照らし合わせ、自動車Mの周囲、進行方向上又は設定経路上にある施設に関して乗員に提供可能な推奨情報があるかを検索する。
When the information presentation routine R1 is started, the
次に、制御部55は、検索の結果、自動車Mに搭乗している乗員に推奨するべき推奨情報を発見したかを判定する(ステップS102)。制御部55は、この判定において、例えば、ステップS101における検索において推奨情報が発見された場合に、当該発見された推奨情報を乗員の好み等の乗員の情報に照らし合わせて、当該推奨情報が乗員に推奨するべき推奨情報である場合に、乗員に推奨すべき推奨情報を発見したと判定する。
Next, the
ステップS102において、制御部55が自動車Mに搭乗している乗員に推奨するべき推奨情報を発見していないと判定した場合(ステップS102:No)、制御部55は、ステップS101の処理を繰り返して実行し、推奨情報の検索を行う。
In step S102, if the
ステップS102において、制御部55が自動車Mに搭乗している乗員に推奨するべき推奨情報を発見したと判定した場合(ステップS102:Yes)、制御部55は、自動車Mの車室内に搭乗している乗員の感情を推定する(ステップS103)。乗員の感情の推定は、上述の通り、制御部55が入力部57を介して車内状況取得デバイス20から受信される乗員の映像及び音声データに基づいて乗員の感情を推定する。
In step S102, if the
次に、制御部55は、乗員の感情の推定した結果、当該乗員の感情が平静であるかを判定する(ステップS104)。
Next, the
ステップS104において、制御部55が乗員の感情が平静でないと判定した場合(ステップS104:No)、制御部55は、ステップS103の処理を繰り返して実行し、乗員の感情が平静であると判定されるまで待機する。
In step S104, if the
ステップS104において、制御部55が乗員の感情が平静であると判定した場合(ステップS104:Yes)、図4に示す情報提示装置10の動作ルーチンは情報提示ルーチンR2に移行して、情報提示ステップとして制御部55は乗員に対して推奨情報の提示を行う(ステップS105)。推奨情報の提示は、出力部59を介して情報提示デバイス30から出力される。具体的には、制御部55は、出力部59を介して、スピーカ31から音声情報を出力し、ディスプレイ32から画像情報を出力することによって推奨情報を乗員に対して提示する。
If the
次に、感情推定ステップとして、制御部55は、再度乗員の感情の推定を行う(ステップS106)。本ステップにおける乗員の感情の推定は、ステップS103の処理と同様に、制御部55が入力部57を介して車内状況取得デバイス20から受信される乗員の映像及び音声データに基づいて乗員の感情を推定する。
Next, as an emotion estimation step, the
次に、評価ステップとして、制御部55は、推定された感情に基づいて、推奨情報の評価を行う(ステップS107)。制御部55は、推奨情報の評価結果を記憶部53に記録し、以後のステップS101における推奨情報の検索において、今回評価された推奨情報と同一のカテゴリ又はサブカテゴリに属する施設等の検索条件又は抽出頻度等に変更を加える。
Next, as an evaluation step, the
上記のように、情報提示装置10の情報提示方法は、情報提示部としての制御部55が自動車Mの乗員に推奨情報を提示する情報提示ステップと、感情推定部としての制御部55が乗員の感情を推定する感情推定ステップと、評価部としての制御部55が情報提示部としての制御部55の推奨情報の提示後における乗員の感情の推定結果に基づいて、推奨情報を評価する評価ステップと、を含む。
As described above, the information presentation method of the
これにより、情報提示装置10の動作ルーチンを繰り返し行うことによって、乗員の好みに応じた推奨情報をより多く提示することが可能となる。
This allows the
なお、上記したステップS106の感情推定及びステップS107の評価の反映の処理は、必ずしもこのフローの中で行われなくともよい。例えば、推奨情報を提示した際の乗員の映像及び音声データを記憶しておき、それに基づいてステップS106の感情推定及びステップS107の推奨情報の評価の判定の反映処理を後から行ってもよい。 Note that the above-mentioned emotion estimation in step S106 and the process of reflecting the evaluation in step S107 do not necessarily have to be performed within this flow. For example, video and audio data of the occupants when the recommended information is presented may be stored, and the emotion estimation in step S106 and the process of reflecting the judgment of the evaluation of the recommended information in step S107 may be performed later based on the stored data.
以下に実施例2の情報提示システム200について説明する。実施例2の情報提示システムは、上記実施例1の情報提示システム100と同様に、情報提示装置に情報通信可能に接続された車内カメラ21及び車内マイク22からなる車内状況取得デバイス20及びスピーカ31及びディスプレイ32からなる情報提示デバイス30を含んでいる。
The
実施例1においては、情報提示装置10が提示した推奨情報を適正に評価するために、推奨情報の提示前において車室内の乗員の感情が平静であると推定されるまで推奨情報の提示を中断する場合について説明した。しかし、情報提示装置は、例えば、車室内又は車外において乗員の感情に影響を及ぼす事象が発生しているかを判定し、推奨情報を提示するかを判断するようにしてもよい。
In the first embodiment, in order to properly evaluate the recommended information presented by the
図5は、本願の実施例2に係る情報提示装置10Aを含む情報提示システム200搭載した車両としての自動車Mの上面図である。実施例2における情報提示装置10Aを含む情報提示システム200の構成は、上述した実施例1と基本的に同じ構成であるが、自動車Mの車外の状況を示す情報を取得する車外カメラ42、車外マイク43及び車外センサ44を含む車外状況取得デバイス40を有する点で異なる。
Figure 5 is a top view of an automobile M as a vehicle equipped with an
車外カメラ42は、自動車Mの周囲を撮影可能なカメラである。車外カメラ42は、例えば、フロントグリルGRに設けられており、自動車Mの進行方向前方を撮影可能に配向されている前方カメラ42A、両サイドミラーSMの各々に設けられて側方を撮影可能な側方カメラ42B、42C、自動車Mの後方を撮影可能に配向されている後方カメラ42Dを含む。なお、車外カメラ42は、少なくとも自動車Mの前方を撮影できる位置に配されていればよい。例えば、車外カメラ42は、ルームミラーRM(図1参照)に設けられているか又はフロントガラスFG(図1参照)の上端又は当該上端付近の天井部に設けられていてもよい。また、車外カメラ42は、情報提示装置10Aと通信可能に接続されており、撮影した映像の信号を情報提示装置10Aに送信することが可能である。
The
車外マイク43は、自動車Mの周囲の音を受音するマイク装置であり、例えば、自動車Mのバンパーに配されている。車外マイク43は、自動車Mの周囲の音を受音可能であれば、サイドミラーSM又はフロントグリルGR等、どこに設けられていてもよい。車外マイク43は、情報提示装置10Aと通信可能に接続されており、当該収集した音の信号を情報提示装置10Aに送信することが可能である。
The
車外センサ44は、例えば、自動車Mの周囲の物体を検出可能なセンサであり、例えば、自動車MのフロントグリルGRに配されている。車外センサ44は、例えば、パルス状のレーザ光を走査して反射物からの反射光を受光するまでの時間から当該反射物までの距離を画像化した測距画像を生成するLIDAR(Laser Imaging Detection and Ranging)等の物体検知センサである。また、車外センサ44は、情報提示装置10Aと通信可能に接続されており、測距データの信号を情報提示装置10Aに送信することが可能である。
The
なお、車外センサ44は、自動車Mの車外の全周囲を検知可能なように複数設置されていてもよい。例えば、自動車Mの前方を検知可能な車外センサ44をフロントグリルGRに設け、自動車Mの後方を検知可能な車外センサ44を自動車MのリアバンパーRB又はバックドアBDに設け、自動車Mの側方の各々を検知可能な車外センサ44をサイドミラーSM又はドアDRの各々に設けてもよい。
Note that multiple
なお、車外カメラ42、車外マイク43、車外センサ44及び前述のGPS受信機41は、情報提示装置10Aが自動車Mの車外状況情報を取得するための車外状況取得デバイス40である。
The
図6に情報提示装置10Aの構成を示す。なお、上述の通り、情報提示装置10Aの構成は、実施例1の情報提示装置10と基本的に同じ構成である。また、情報提示装置10と重複する箇所については説明を割愛する。
The configuration of the
入力部57は、車内状況取得デバイス20に加え、情報提示装置10Aと車外状況取得デバイス40とを通信可能に接続するインタフェース部である。情報提示装置10Aは、入力部57を介して、車外カメラ42から映像信号を受信し、車外マイク43から音声信号を受信し、車外センサ44から測距データ信号を受信することが可能である。また、情報提示装置10Aは、入力部57を介して、GPS受信機41から自動車Mの現在の位置情報の信号に加えて、道路の渋滞情報や天候情報等を受信することが可能である。
The
情報提示装置10Aは、推奨情報の提示時において、車室内又は車外において乗員の感情に影響を及ぼす事象が発生していると判定した場合、当該事象が落着したと判定されるまで推奨情報の提示を中断する。
When presenting recommended information, if the
具体的には、制御部55は、入力部57を介して車内状況取得デバイス20及び車外状況取得デバイス40から受信する車内状況情報及び車外状況情報に基づいて乗員の感情に影響を及ぼす事象が発生しているかを判定する。なお、この時、制御部55は状況判定部として機能する。言い換えれば、情報提示装置10Aは、自動車Mの車室又は自動車Mの外部において、乗員の感情に影響を与えると推定される影響事象の有無を判定する状況判定部としての制御部55を備える。また、情報提示部としての制御部55は、影響事象が発生していると判定される期間中には、推奨情報を提示しない。
Specifically, the
例えば、車室内において乗員同士の口論等が発生している場合、制御部55は、車内カメラ21によって撮影された乗員の映像又は車内マイク22によって入力された乗員の音声に基づいて、車室内において乗員同士の口論が発生していると判定する。具体的には、例えば、制御部55は、車内カメラ21から入力される映像信号において、乗員の表情、口の動き又は身振り手振り等の動作から車室内において乗員の感情に影響を及ぼす事象として、乗員同士の口論が発生していると判定する。また、例えば、制御部55は、車内マイク22から入力される音声信号において、乗員の大声等の急なトーンの変化や特定の単語音声を検知した際に車室内において乗員の感情に影響を及ぼす事象が発生していると判定する。
For example, when an argument or the like occurs between occupants in the vehicle cabin, the
また、制御部55は、例えば、車外状況取得デバイス40から入力される車外状況情報から乗員の感情に影響を及ぼす事象が発生する可能性があるかを予測するようにしてもよい。具体的には、自動車Mが交差点を直進する際、GPS受信機41によって自動車Mが交差点に差し掛かることを検知し、車外カメラ42及び車外センサ44によって対向車や歩行者を検知することにより、対向車の急な右折や歩行者の飛び出し等を予測する。
The
また、例えば、車外において自車である自動車Mの前方への他車の急な割り込みの発生した場合、制御部55は、車外カメラ42によって撮影された自動車Mの前方の映像又は車外センサ44によって測距された自動車Mの前方の物体検出に基づいて、自動車Mの前方への他車の急な割り込みが発生したと判定する。また、車外における乗員の感情に影響を及ぼす事象においては、例えば、車外カメラ42の映像から前方の信号の遷移を検知した、車外マイク43の音声から自動車Mの周囲に緊急車両のサイレン音を検知した、又はGPS受信機41の受信データから自動車Mの進行上に渋滞情報を検知した等が挙げられる。
For example, when another vehicle suddenly cuts in front of the vehicle M outside the vehicle, the
これにより、情報提示装置10Aが車内状況取得デバイス20及び車外状況取得デバイス40から受信する車内状況情報及び車外状況情報に基づいて乗員の感情に影響を及ぼす事象が発生しているかを自身で判定又は予測することにより、より安全に配慮した適切なタイミングで推奨情報の提示を行うことが可能となる。
As a result, the
以下に、情報提示装置として機能する際の情報提示装置10Aの動作ルーチンの一例について説明する。
Below, an example of an operation routine of the
図7は、動作ルーチンの一例としての情報提示ルーチンR3を示す図である。図7に示す情報提示ルーチンR3は、情報提示装置10Aの動作ルーチンのうち、推奨情報を提示するまでのルーチンを示している。なお、情報提示ルーチンR3のうちステップS201及びS202の処理は、それぞれ図3に示した情報提示ルーチンR1のステップS101及びS102と対応し、その処理内容も同様であるため説明は割愛する。また、推奨情報の提示以降のルーチンにおいては、図4に示した情報提示ルーチンR2と同様である。本実施例2の説明においては、実施例1と重複する図4に示した情報提示ルーチンR2の説明は割愛する。
Figure 7 is a diagram showing information presentation routine R3 as an example of an operation routine. Information presentation routine R3 shown in Figure 7 shows the operation routine of
ステップS202において、制御部55が推奨情報を発見したと判定された後、制御部55は、車内状況取得デバイス20から車内状況情報を取得する(ステップS203)。
After the
次に、制御部55は、車内状況情報に基づいて車室内において乗員の感情に影響を及ぼす事象が発生しているかを判定する(ステップS204)。
Next, the
ステップS204において、制御部55が車室内において乗員の感情に影響を及ぼす事象が発生していると判定した場合(ステップS204:Yes)、制御部55は、ステップS203の処理を繰り返して実行し、車室内の事象が落着したと判定されるまで待機する。
In step S204, if the
ステップS204において、制御部55が車室内において乗員の感情に影響を及ぼす事象が発生していないと判定した場合(ステップS204:No)、制御部55は、車外状況取得デバイス40から車外状況情報を取得する(ステップS205)。
In step S204, if the
次に、制御部55は、車外状況情報に基づいて車外において乗員の感情に影響を及ぼす事象が発生しているかを判定する(ステップS206)。
Next, the
ステップS206において、制御部55が車外において乗員の感情に影響を及ぼす事象が発生していると判定した場合(ステップS206:Yes)、制御部55は、ステップS203の処理を繰り返して実行し、車室内及び車外の事象が落着したと判定されるまで待機する。
In step S206, if the
ステップS206において、制御部55が車外において乗員の感情に影響を及ぼす事象が発生していないと判定した場合(ステップS206:No)、制御部55は、図4に示した推奨情報の提示以降のルーチンである情報提示ルーチンR2の処理に移行し、提示した推奨情報に対する評価を行う。
In step S206, if the
これにより、情報提示装置10Aは、より安全に配慮した適切なタイミングで推奨情報の提示を行うことが可能となる。
This allows the
なお、本実施例2においては、車室内に乗員の感情に影響を及ぼす事象が発生しているかを判定した後、車外に乗員の感情に影響を及ぼす事象が発生しているかを判定する場合について説明した。しかしながら、車内又は車外において乗員の感情に影響を及ぼす事象が発生しているかを判定する順はこれに限定されない。例えば、車外に乗員の感情に影響を及ぼす事象が発生しているかを先に判定するようにしてもよいし、同時に判定処理を行うようにしてもよい。 In this second embodiment, a case has been described in which it is determined whether an event that affects the emotions of the occupants has occurred inside the vehicle cabin, and then it is determined whether an event that affects the emotions of the occupants has occurred outside the vehicle. However, the order in which it is determined whether an event that affects the emotions of the occupants has occurred inside or outside the vehicle is not limited to this. For example, it may be determined first whether an event that affects the emotions of the occupants has occurred outside the vehicle, or the determination processes may be performed at the same time.
実施例1及び実施例2においては、情報提示装置10又は情報提示装置10Aが推奨情報を提示できるようになるまで推奨情報の提示を中断する場合について説明した。しかし、推奨情報を提示するタイミングはこれに限定されない。例えば、推奨情報の提示に急を要する場合、情報提示装置は、乗員への呼びかけを行って乗員の感情を抑制させた後に推奨情報の提示を行ってもよい。
In the first and second embodiments, a case has been described in which the
急を要する推奨情報は、例えば、推奨情報として検索された施設への分岐路が迫っている場合等である。この場合、情報提示装置は、自動車Mが当該分岐路を通過してしまう前に推奨情報を提示する必要がある。よって、情報提示装置は、推奨情報の提示時において乗員の感情を抑制させた上で推奨情報を提示することが好ましい。 Recommended information that is urgent may be, for example, when a fork in the road to a facility searched for as recommended information is approaching. In this case, the information presentation device needs to present the recommended information before the automobile M passes the fork in the road. Therefore, it is preferable for the information presentation device to present the recommended information while suppressing the emotions of the occupants.
図8に、本発明の実施例3である情報提示装置10Bを含む情報提示システム300の構成を示す。情報提示装置10Bの構成は、実施例1の情報提示装置10と基本的に同じ構成であるが、乗員の感情を抑制させるための刺激を発生させる刺激発生部60を有する点で異なる。なお、情報提示装置10と重複する構成については説明を割愛する。
Figure 8 shows the configuration of an
感情鎮静部としての刺激発生部60は、情報提示装置10Bが車室内の乗員の感情が平静でないと推定した場合に、情報提示装置10Bが出力部59を介して乗員の感情を平静な状態に抑制させるための刺激を発生させる。乗員の感情を抑制させるための刺激とは、乗員の五感を刺激してリラックス効果を与える刺激である。具体的には、例えば、乗員の注意をひくサウンドロゴや予め設定された乗員の名前の呼びかけ、リラックス効果のある音声もしくは音響コンテンツ又は映像コンテンツが挙げられる。この場合、刺激発生部60は、スピーカ31又はディスプレイ32から出力される。また、車室内の座席シートに内蔵されたバイブレータによるマッサージや車室内に設けられたアロマポットからリラックス効果のあるにおいを発生させる等でもよい。上記の乗員の感情を抑制させる刺激は、いずれかの刺激の発生でもよいし、複数の刺激が同時に発生するようにしてもよい。言い換えれば、情報提示装置10Bは、乗員に向けて感情を抑制させる刺激を発する刺激発生部60を備える。
When the
情報提示装置10Bは、急を要する推奨情報を提示する際、車室内の乗員の感情が平静であると推測される場合には、当該推奨情報を速やかに提示する。また、情報提示装置10Bは、急を要する推奨情報を提示する際、車室内の乗員の感情が平静ではないと推測される場合には、刺激発生部60から乗員の感情を抑制する刺激を発生させた後に当該推奨情報を提示する。言い換えれば、情報提示部としての制御部55は、感情推定部としての制御部55により推定された乗員の感情が特定の状態である場合は、刺激発生部60が乗員に向けて感情を抑制させる刺激を発した後に推奨情報を提示する。また、言い換えれば、情報提示部としての制御部55は、感情推定部としての制御部55により推定された乗員の感情が特定の状態である場合において、推奨情報の提示が緊急を要さない場合には推奨情報を提示せず、推奨情報の提示が緊急を要する場合には乗員の感情を抑制するための刺激を出力した後に推奨情報を提示する。
When presenting recommended information that requires urgent action, if it is estimated that the emotions of the occupants in the vehicle cabin are calm, the
これにより、情報提示装置10Bは、急を要する推奨情報を提示する際に車室内の乗員の感情が平静でないと推定される場合においても、提示した推奨情報の評価を適正に行うことが可能となる。
This allows the
以下に、情報提示装置として機能する際の情報提示装置10Bの動作ルーチンの一例について説明する。
Below, an example of an operation routine of the
図9は、動作ルーチンの一例としての情報提示ルーチンR4を示す図である。図9に示す情報提示ルーチンR4は、情報提示装置10Bの動作ルーチンのうち、推奨情報を提示するまでのルーチンを示している。なお、情報提示ルーチンR4のうちステップS301~S303の処理は、それぞれ図3に示した情報提示ルーチンR1のステップS101~S103と対応し、その処理内容も同様であるため説明は割愛する。また、推奨情報の提示以降のルーチンにおいては、図4に示した情報提示ルーチンR2と同様である。本実施例3の説明においては、実施例1と重複する図4に示した情報提示ルーチンR2の説明は割愛する。
Figure 9 is a diagram showing information presentation routine R4 as an example of an operation routine. Information presentation routine R4 shown in Figure 9 shows the operation routine of
ステップS301~S303までの処理においては、制御部55が推奨情報を発見し、車室内の乗員の感情を推定する。
In the processing of steps S301 to S303, the
次に、制御部55は、乗員の感情の推定した結果、当該乗員の感情が平静であるかを判定する(ステップS304)。
Next, the
ステップS304において、制御部55が乗員の感情が平静であると判定した場合(ステップS304:Yes)、制御部55は、図4に示した推奨情報の提示以降のルーチンである情報提示ルーチンR2の処理に移行し、提示した推奨情報に対する評価を行う。
In step S304, if the
ステップS304において、制御部55が乗員の感情が平静でないと判定した場合(ステップS304:No)、制御部55は、ステップS301で発見した推奨情報が急を要する情報であるかを判定する(ステップS305)。この判定は、例えば、制御部55が、GPS受信機41が受信する自動車Mの現在位置と記憶部53に記録されている地図情報とを照らし合わせ、当該推奨情報へ至る経路への分岐点が所定の距離の範囲内であるか等によって判定する。
If the
ステップS305において、制御部55が推奨情報が急を要さない情報であると判定した場合(ステップS305:No)、制御部55は、ステップS303の処理に戻り、乗員の感情が平静であると推測されるまで又は推奨情報が急を要する情報となるまで待機する。
In step S305, if the
ステップS305において、制御部55が推奨情報が急を要する情報であると判定した場合(ステップS305:Yes)、制御部55は、出力部39を介して刺激発生部60から乗員の感情を抑制させる刺激を出力させる(ステップS306)。乗員の感情を抑制させる刺激は、上述の通り、乗員の五感を刺激してリラックス効果を与える刺激である。
In step S305, if the
なお、本ステップの処理の実行後、制御部55は、例えば、乗員の感情が抑制されたと考えられるまで所定の時間の間待機するようにしてもよい。また、乗員の感情が抑制されたと考えられるまで所定の時間は、推定された乗員の感情の種類に応じて可変に変更するようにしてもよい。例えば、制御部55は、推定された乗員の感情が喜びや楽しみ等であれば、平静状態に遷移するまでの時間は短いと推測して待機時間を短くしてもよい。一方、制御部55は、推定された乗員の感情が怒りや悲しみ等であれば、平静状態に遷移するまでに時間を要すると推測して待機時間を短くしてもよい。すなわち、評価部としての制御部55は、推奨情報の提供に関する評価に用いる乗員の感情として情報提示部としての制御部55によって推奨情報が提示されてから第1の時間が経過した時点における乗員の感情の状態の推定結果に基づいて推奨情報の提示に関する評価を行い、評価部としての制御部55は、推奨情報の提示時の前記乗員の感情の推定結果に基づいて、第1の時間を変更する。
After the process of this step is performed, the
また、制御部55は、本ステップの後に再度乗員の感情を推定し、乗員の感情が抑制されるまで繰り返し乗員の感情を抑制させる刺激を出力するようにしてもよい。
The
また、制御部55は、推定された乗員の感情の種類に応じて乗員の感情を抑制させる刺激を発生させる時間を可変に変更するようにしてもよい。すなわち、情報提示部としての制御部55は、情報提示部としての制御部55が推奨情報を提示しようとする際の乗員の感情の状態の感情推定部としての制御部55による推定結果に基づいて、刺激発生部60の乗員に向けて感情を抑制させる刺激を発する時間の長さを変更する。
The
その後、制御部55は、図4に示した推奨情報の提示以降のルーチンである情報提示ルーチンR2の処理に移行し、提示した推奨情報に対する評価を行う。
Then, the
これにより、情報提示装置10Bは、急を要する推奨情報を提示する際に車室内の乗員の感情が平静でないと推定される場合においても、提示した推奨情報の評価を適正に行うことが可能となる。
This allows the
実施例3においては、推奨情報の提示が急を要する場合であっても、情報提示装置10が提示した推奨情報を適正に評価するために、推奨情報の提示時に乗員の感情が平静でない際に乗員の感情を抑制させる刺激を発生させてから推奨情報の提示を行う場合について説明した。しかし、情報提示装置は、例えば、車室内又は車外において乗員の感情に影響を及ぼす事象が発生しているかを判定し、乗員の感情に影響を及ぼす事象が発生している場合には乗員の感情を抑制させる刺激を発生させてから推奨情報の提示を行うようにしてもよい。
In the third embodiment, even when the presentation of the recommended information is urgent, in order to properly evaluate the recommended information presented by the
言い換えれば、情報提示部としての制御部55は、推奨情報を提示しようとする際に事象が発生していると判定される場合は、刺激発生部60が乗員に向けて感情を抑制させる刺激を発した後に前記推奨情報を提示する。また、言い換えれば、情報提示部としての制御部55は、状況判定部としての制御部55により事象が発生していると判定される場合において、推奨情報の提示が緊急を要さない場合には推奨情報を提示せず、推奨情報の提示が緊急を要する場合には乗員の感情を抑制するための刺激を出力した後に推奨情報を提示する。
In other words, when the
図10に本願の実施例4に係る情報提示装置10Cを含む情報提示システム400の構成を示す。実施例4における情報提示装置10Cの構成は、上述した実施例3の情報提示装置10Bと基本的に同じ構成であるが、自動車Mの車外の状況を示す情報を取得する車外カメラ42、車外マイク43及び車外センサ44を含む車外状況取得デバイス40を有する点で異なる。また、車外状況取得デバイス40は、上述した実施例2の情報提示装置10Aと同様である。
Figure 10 shows the configuration of an
情報提示装置10Cは、推奨情報の提示時において、車室内又は車外において乗員の感情に影響を及ぼす事象が発生していると判定した場合、刺激発生部60から乗員の感情を抑制する刺激を発生させた後に当該推奨情報を提示する。
When presenting the recommended information, if the information presentation device 10C determines that an event that may affect the emotions of the occupants has occurred inside or outside the vehicle, the information presentation device 10C presents the recommended information after generating a stimulus that suppresses the emotions of the occupants from the
これにより、情報提示装置10Bは、急を要する推奨情報を提示する際に車室内又は車外において乗員の感情に影響を及ぼす事象が発生している場合においても、提示した推奨情報の評価を適正に行うことが可能となる。
As a result, the
以下に、情報提示装置として機能する際の情報提示装置10Cの動作ルーチンの一例について説明する。 Below, an example of an operation routine of the information presentation device 10C when functioning as an information presentation device is described.
図11は、動作ルーチンの一例としての情報提示ルーチンR5を示す図である。図11に示す情報提示ルーチンR5は、情報提示装置10Cの動作ルーチンのうち、推奨情報を提示するまでのルーチンを示している。なお、情報提示ルーチンR5のうちステップS401及びS402の処理は、それぞれ図3に示した情報提示ルーチンR1のステップS101及びS102と対応し、その処理内容も同様であるため説明は割愛する。また、推奨情報の提示以降のルーチンにおいては、図4に示した情報提示ルーチンR2と同様である。本実施例4の説明においては、実施例1と重複する図4に示した情報提示ルーチンR2の説明は割愛する。 Figure 11 is a diagram showing information presentation routine R5 as an example of an operation routine. Information presentation routine R5 shown in Figure 11 shows the operation routine of information presentation device 10C up to the presentation of recommended information. Note that the processing of steps S401 and S402 in information presentation routine R5 corresponds to steps S101 and S102 of information presentation routine R1 shown in Figure 3, respectively, and the processing content is also similar, so a description thereof will be omitted. In addition, the routine after the presentation of recommended information is the same as information presentation routine R2 shown in Figure 4. In the description of this Example 4, a description of information presentation routine R2 shown in Figure 4, which overlaps with Example 1, will be omitted.
ステップS402において、制御部55が推奨情報を発見したと判定された後、制御部55は、車内状況取得デバイス20から車内状況情報を取得する(ステップS403)。
After the
次に、制御部55は、車内状況情報に基づいて車室内において乗員の感情に影響を及ぼす事象が発生しているかを判定する(ステップS404)。
Next, the
ステップS404において、制御部55が車室内において乗員の感情に影響を及ぼす事象が発生していないと判定した場合(ステップS404:No)、制御部55は、車外状況取得デバイス40から車外状況情報を取得する(ステップS405)。
In step S404, if the
次に、制御部55は、車外状況情報に基づいて車外において乗員の感情に影響を及ぼす事象が発生しているかを判定する(ステップS406)。
Next, the
ステップS406において、制御部55が車外において乗員の感情に影響を及ぼす事象が発生していないと判定した場合(ステップS406:No)、制御部55は、図4に示した推奨情報の提示以降のルーチンである情報提示ルーチンR2の処理に移行し、提示した推奨情報に対する評価を行う。
In step S406, if the
ステップS404又はステップS406において、制御部55が車室内又は車外において乗員の感情に影響を及ぼす事象が発生していると判定した場合(ステップS404:Yes又はステップS406:Yes)、制御部55は、ステップS401で発見した推奨情報が急を要する情報であるかを判定する(ステップS407)。この判定は、図9で示した情報提示ルーチンR4のステップS305と同様である。具体的には、例えば、制御部55が、GPS受信機41が受信する自動車Mの現在位置と記憶部53に記録されている地図情報とを照らし合わせ、当該推奨情報へ至る経路への分岐点が所定の距離の範囲内であるか等によって判定する。
If the
ステップS407において、制御部55が推奨情報が急を要さない情報であると判定した場合(ステップS407:No)、制御部55は、ステップS403の処理に戻り、車室内及び車外の事象が落着したと判定されるまで又は推奨情報が急を要する情報となるまで待機する。
In step S407, if the
ステップS407において、制御部55が推奨情報が急を要する情報であると判定した場合(ステップS407:Yes)、制御部55は、出力部39を介して刺激発生部60から乗員の感情を抑制させる刺激を出力させる(ステップS408)。乗員の感情を抑制させる刺激は、上述の通り、乗員の五感を刺激してリラックス効果を与える刺激である。
In step S407, if the
なお、実施例2と同様に、本ステップの処理の実行後、制御部55は、例えば、乗員の感情が抑制されたと考えられるまで所定の時間の間待機するようにしてもよい。また、乗員の感情が抑制されたと考えられるまで所定の時間は、推定された乗員の感情の種類に応じて可変に変更するようにしてもよい。また、制御部55は、本ステップの後に再度乗員の感情を推定し、乗員の感情が抑制されるまで繰り返し乗員の感情を抑制させる刺激を出力するようにしてもよい。
As in Example 2, after executing the processing of this step, the
その後、制御部55は、図4に示した推奨情報の提示以降のルーチンである情報提示ルーチンR2の処理に移行し、提示した推奨情報に対する評価を行う。
Then, the
これにより、情報提示装置10Bは、急を要する推奨情報を提示する際に車室内又は車外において乗員の感情に影響を及ぼす事象が発生している場合においても、提示した推奨情報の評価を適正に行うことが可能となる。
As a result, the
なお、上述した実施例1~4の各々は、一例に過ぎない。例えば、上記した実施例の各々は組み合わせることができる。 Note that each of the above-mentioned embodiments 1 to 4 is merely an example. For example, each of the above-mentioned embodiments can be combined.
例えば、実施例1の情報提示装置10と実施例3の情報提示装置10Bを組み合わせ、推奨情報が急を要する情報であったとしても、車室内の乗員の感情の種類に応じて推奨情報の提示を行うか中断するかを判定するようにしてもよい。具体的には、乗員の感情が平静でない場合、乗員の感情を抑制させる刺激を発生させた後に推奨情報の提示を行う、又は乗員の感情情報の提示を中断する等の判定を乗員の感情の種類に基づいて行ってもよい。
For example, the
また、例えば、全ての実施例を組み合わせて、乗員の感情が平静であるか否か、車室内における感情に影響を及ぼす事象の有無、車外における感情に影響を及ぼす事象の有無のそれぞれのパターンによって、乗員の感情を抑制させる刺激を発生させた後に推奨情報の提示を行う、又は乗員の感情情報の提示を中断する等の判定を行ってもよい。 In addition, for example, by combining all the embodiments, a determination may be made as to whether the occupant's emotions are calm or not, whether there is an event inside the vehicle that affects the emotions, and whether there is an event outside the vehicle that affects the emotions, and then whether to present recommended information after generating a stimulus that suppresses the occupant's emotions, or to suspend the presentation of the occupant's emotional information.
具体的には、例えば、乗員の感情が平静であっても車室内において乗員の感情に影響を及ぼす事象が判定又は予測される場合には、乗員の感情を抑制させる刺激を発生させた後に推奨情報の提示を行うようにしてもよい。一方、乗員の感情が平静であっても車外において乗員の感情に影響を及ぼす事象が判定又は予測される場合には、推奨情報の提示を中断するようにしてもよい。 Specifically, for example, if an event that will affect the occupant's emotions is determined or predicted within the vehicle cabin even if the occupant is emotionally calm, the recommended information may be presented after generating a stimulus that suppresses the occupant's emotions. On the other hand, if an event that will affect the occupant's emotions is determined or predicted outside the vehicle even if the occupant is emotionally calm, the presentation of the recommended information may be suspended.
また、例えば、乗員の感情に影響を及ぼす事象が車室内では発生しているが車外では発生していない場合には、乗員の感情を抑制させる刺激を発生させた後に推奨情報の提示を行うようにしてもよい。一方、乗員の感情に影響を及ぼす事象が車室内では発生していないが車外では発生している場合には、推奨情報の提示を中断するようにしてもよい。 For example, if an event that affects the occupant's emotions is occurring inside the vehicle cabin but not outside the vehicle, a stimulus that suppresses the occupant's emotions may be generated before the presentation of recommended information. On the other hand, if an event that affects the occupant's emotions is not occurring inside the vehicle cabin but is occurring outside the vehicle, the presentation of recommended information may be suspended.
上記の組み合わせ例に加え、推定される乗員の感情の種類に基づいて、推奨情報の提示パターンをさらに加えるようにしてもよい。 In addition to the above combination examples, further patterns for presenting recommended information may be added based on the type of estimated occupant emotion.
また、実施例1~4では、情報提示装置10、10A、10B、及び10Cはいずれも自動車Mに取り付けられた装置として説明したが、これに限定されない。本発明の情報提示装置は、ユーザによって携帯されるスマートフォンやタブレット等の携帯機器であってもよい。この場合、本発明の情報提示装置としての携帯機器は、自動車Mに搭載された車内状況取得デバイス20、情報提示デバイス30、車外状況取得デバイス40、及び刺激発生部60の少なくとも一部と無線または有線により通信接続されてもよい。
In addition, in Examples 1 to 4, the
または、本発明の情報提示装置は、自動車Mの外部に設置されたサーバ装置であってもよい。この場合、本発明の情報提示装置としての携帯機器は、自動車Mに搭載された車内状況取得デバイス20、情報提示デバイス30、車外状況取得デバイス40、及び刺激発生部60の少なくとも一部と無線ネットワークを介して通信接続されてもよい。
Alternatively, the information presentation device of the present invention may be a server device installed outside the automobile M. In this case, the portable device as the information presentation device of the present invention may be communicatively connected to at least a part of the in-vehicle
100 情報提示システム
200 情報提示システム
300 情報提示システム
400 情報提示システム
10 情報提示装置
20 車内状況取得デバイス
21 車内カメラ
22 車内マイク
30 情報提示デバイス
31 車内スピーカ
32 ディスプレイ
40 車外状況取得デバイス
41 GPS受信機
42 車外カメラ
43 車外マイク
44 車外センサ
51 システムバス
53 記憶部
55 制御部
57 入力部
59 出力部
60 刺激発生部
REFERENCE SIGNS
Claims (13)
前記乗員の感情を推定する感情推定部と、
前記感情推定部により前記情報提示部の前記推奨情報の提示後に推定された前記乗員の感情に基づいて、前記推奨情報の提示に関する評価をする評価部と、
を備え、
前記情報提示部は、前記感情推定部により前記情報提示部の前記推奨情報の提示前に推定された前記乗員の感情が特定の状態である期間中は、前記推奨情報を提示しないことを特徴とする情報提示装置。 an information presentation unit that presents recommended information to a vehicle occupant;
An emotion estimation unit that estimates an emotion of the occupant;
an evaluation unit that evaluates presentation of the recommended information based on the emotion of the occupant estimated by the emotion estimation unit after the presentation of the recommended information by the information presentation unit ;
Equipped with
the information presentation unit does not present the recommended information during a period in which the emotion of the occupant estimated by the emotion estimation unit before the presentation of the recommended information by the information presentation unit is in a specific state .
前記乗員の感情を推定する感情推定部と、
前記感情推定部により前記情報提示部の前記推奨情報の提示後に推定された前記乗員の感情に基づいて、前記推奨情報の提示に関する評価をする評価部と、
前記乗員に向けて感情を抑制させる刺激を発する刺激発生部と、
を備え、
前記情報提示部は、前記感情推定部により前記情報提示部の前記推奨情報の提示前に推定された前記乗員の感情が特定の状態である場合は、前記刺激発生部が前記乗員に向けて感情を抑制させる刺激を発した後に前記推奨情報を提示することを特徴とする情報提示装置。 an information presentation unit that presents recommended information to a vehicle occupant;
An emotion estimation unit that estimates an emotion of the occupant;
an evaluation unit that evaluates presentation of the recommended information based on the emotion of the occupant estimated by the emotion estimation unit after the presentation of the recommended information by the information presentation unit;
A stimulus generating unit that generates a stimulus to the occupant to suppress the emotion ;
Equipped with
The information presentation device is characterized in that, when the emotion of the occupant estimated by the emotion estimation unit before the information presentation unit presents the recommended information is in a specific state, the information presentation unit presents the recommended information after the stimulus generation unit emits a stimulus to the occupant to suppress the emotion.
前記評価部は、前記推奨情報の提示後の前記乗員の感情の推定結果に基づいて、前記第1の時間を変更することを特徴とする請求項1~4のいずれか1項に記載の情報提示装置。 the evaluation unit evaluates the presentation of the recommended information based on an estimation result of an emotional state of the occupant at a time point when a first time has elapsed since the presentation of the recommended information by the information presentation unit, as an emotion of the occupant to be used for evaluating the provision of the recommended information;
The information presentation device according to any one of claims 1 to 4, characterized in that the evaluation unit changes the first time period based on an estimation result of an emotion of the occupant after the presentation of the recommendation information.
前記乗員の感情を推定する感情推定部と、
前記感情推定部により前記情報提示部の前記推奨情報の提示後に推定された前記乗員の感情に基づいて、前記推奨情報の提示に関する評価をする評価部と、
前記車両の車室又は前記車両の外部において、前記乗員の感情に影響を与えると推定される影響事象の有無を判定する状況判定部と、
を備え、
前記情報提示部は、前記影響事象が発生していると判定される期間中には、前記推奨情報を提示しないことを特徴とする情報提示装置。 an information presentation unit that presents recommended information to a vehicle occupant;
An emotion estimation unit that estimates an emotion of the occupant;
an evaluation unit that evaluates presentation of the recommended information based on the emotion of the occupant estimated by the emotion estimation unit after the presentation of the recommended information by the information presentation unit;
A situation determination unit that determines whether or not there is an impact event that is estimated to affect the emotions of the occupant in a cabin of the vehicle or outside the vehicle ;
Equipped with
The information presentation device, wherein the information presentation unit does not present the recommended information during a period in which it is determined that the influencing event is occurring.
前記乗員の感情を推定する感情推定部と、
前記感情推定部により前記情報提示部の前記推奨情報の提示後に推定された前記乗員の感情に基づいて、前記推奨情報の提示に関する評価をする評価部と、
前記乗員に向けて感情を抑制させる刺激を発する刺激発生部と、
前記車両の内部又は外部において、前記乗員の感情に影響を与えると推定される影響事象の有無を判定する状況判定部と、
を備え、
前記情報提示部は、前記推奨情報を提示しようとする際に前記影響事象が発生していると判定される場合は、前記刺激発生部が前記乗員に向けて感情を抑制させる刺激を発した後に前記推奨情報を提示することを特徴とする情報提示装置。 an information presentation unit that presents recommended information to a vehicle occupant;
An emotion estimation unit that estimates an emotion of the occupant;
an evaluation unit that evaluates presentation of the recommended information based on the emotion of the occupant estimated by the emotion estimation unit after the presentation of the recommended information by the information presentation unit;
A stimulus generating unit that generates a stimulus to the occupant to suppress the emotion;
a situation determination unit that determines whether or not there is an impact event that is estimated to have an impact on the emotions of the occupant inside or outside the vehicle;
Equipped with
The information presentation device is characterized in that, when it is determined that the impact event has occurred when the information presentation unit is about to present the recommended information, the stimulus generating unit presents the recommended information after emitting a stimulus to the occupant to suppress their emotions.
前記車両の前記乗員に前記推奨情報を提示する情報提示ステップと、an information presentation step of presenting the recommendation information to the occupant of the vehicle;
前記乗員の感情を推定する感情推定ステップと、an emotion estimation step of estimating an emotion of the occupant;
前記感情推定ステップにより前記情報提示ステップの前記推奨情報の提示後に推定された前記乗員の感情に基づいて、前記推奨情報に関する評価をする評価ステップと、an evaluation step of evaluating the recommendation information based on the emotion of the occupant estimated by the emotion estimation step after the presentation of the recommendation information in the information presentation step;
を実行させるためのプログラムであって、A program for executing
前記情報提示ステップは、前記感情推定ステップにより前記情報提示ステップの前記推奨情報の提示前に推定された前記乗員の感情が特定の状態である期間中は、前記推奨情報を提示しないことを特徴とする情報提示プログラム。The information presentation step is characterized in that the recommended information is not presented during a period during which the emotion of the occupant estimated by the emotion estimation step before the presentation of the recommended information in the information presentation step is in a specific state.
前記車両の前記乗員に前記推奨情報を提示する情報提示ステップと、an information presentation step of presenting the recommendation information to the occupant of the vehicle;
前記乗員の感情を推定する感情推定ステップと、an emotion estimation step of estimating an emotion of the occupant;
前記感情推定ステップにより前記情報提示ステップの前記推奨情報の提示後に推定された前記乗員の感情に基づいて、前記推奨情報に関する評価をする評価ステップと、an evaluation step of evaluating the recommendation information based on the emotion of the occupant estimated by the emotion estimation step after the presentation of the recommendation information in the information presentation step;
前記乗員に向けて感情を抑制させる刺激を発する刺激発生ステップと、a stimulus generating step of generating a stimulus for suppressing an emotion of the occupant;
を実行させるためのプログラムであって、A program for executing
前記情報提示ステップは、前記感情推定ステップにより前記情報提示ステップの前記推奨情報の提示前に推定された前記乗員の感情が特定の状態である場合は、前記刺激発生ステップにより前記乗員に向けて感情を抑制させる刺激が発せられた後に前記推奨情報を提示することを特徴とする情報提示プログラム。The information presentation step is characterized in that, if the emotion of the occupant estimated by the emotion estimation step before the presentation of the recommended information in the information presentation step is in a specific state, the recommended information is presented after a stimulus for suppressing the emotion is issued to the occupant by the stimulus generation step.
前記車両の前記乗員に前記推奨情報を提示する情報提示ステップと、an information presentation step of presenting the recommendation information to the occupant of the vehicle;
前記乗員の感情を推定する感情推定ステップと、an emotion estimation step of estimating an emotion of the occupant;
前記感情推定ステップにより前記情報提示ステップの前記推奨情報の提示後に推定された前記乗員の感情に基づいて、前記推奨情報に関する評価をする評価ステップと、an evaluation step of evaluating the recommendation information based on the emotion of the occupant estimated by the emotion estimation step after the presentation of the recommendation information in the information presentation step;
前記車両の車室又は前記車両の外部において、前記乗員の感情に影響を与えると推定される影響事象の有無を判定する状況判定ステップと、A situation determination step of determining whether or not there is an impact event that is estimated to affect the emotions of the occupant in a cabin of the vehicle or outside the vehicle;
を実行させるためのプログラムであって、A program for executing
前記情報提示ステップは、前記影響事象が発生していると判定される期間中には、前記推奨情報を提示しないことを特徴とする情報提示プログラム。The information presentation step includes not presenting the recommended information during a period in which it is determined that the influencing event is occurring.
前記車両の前記乗員に前記推奨情報を提示する情報提示ステップと、an information presentation step of presenting the recommendation information to the occupant of the vehicle;
前記乗員の感情を推定する感情推定ステップと、an emotion estimation step of estimating an emotion of the occupant;
前記感情推定ステップにより前記情報提示ステップの前記推奨情報の提示後に推定された前記乗員の感情に基づいて、前記推奨情報に関する評価をする評価ステップと、an evaluation step of evaluating the recommendation information based on the emotion of the occupant estimated by the emotion estimation step after the presentation of the recommendation information in the information presentation step;
前記乗員に向けて感情を抑制させる刺激を発する刺激発生ステップと、a stimulus generating step of generating a stimulus for suppressing an emotion of the occupant;
前記車両の内部又は外部において、前記乗員の感情に影響を与えると推定される影響事象の有無を判定する状況判定ステップと、a situation determination step of determining whether or not there is an impact event inside or outside the vehicle that is estimated to affect the emotions of the occupant;
を実行させるためのプログラムであって、A program for executing
前記情報提示ステップは、前記推奨情報を提示しようとする際に前記影響事象が発生していると判定される場合は、前記刺激発生ステップにより前記乗員に向けて感情を抑制させる刺激を発せられた後に前記推奨情報を提示することを特徴とする情報提示プログラム。The information presentation step is characterized in that, if it is determined that the impact event has occurred when the recommended information is to be presented, the recommended information is presented after a stimulus for suppressing the occupant's emotions is issued by the stimulus generation step.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020177320A JP7543082B2 (en) | 2020-10-22 | 2020-10-22 | Information presentation device, information presentation method, and information presentation program |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020177320A JP7543082B2 (en) | 2020-10-22 | 2020-10-22 | Information presentation device, information presentation method, and information presentation program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022068567A JP2022068567A (en) | 2022-05-10 |
| JP7543082B2 true JP7543082B2 (en) | 2024-09-02 |
Family
ID=81459895
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020177320A Active JP7543082B2 (en) | 2020-10-22 | 2020-10-22 | Information presentation device, information presentation method, and information presentation program |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7543082B2 (en) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019185117A (en) | 2018-04-02 | 2019-10-24 | 積水ハウス株式会社 | Atmosphere estimating device |
| JP2020119120A (en) | 2019-01-22 | 2020-08-06 | 本田技研工業株式会社 | Guide system, guide method, and program |
| JP2020169956A (en) | 2019-04-05 | 2020-10-15 | トヨタ自動車株式会社 | Vehicle destination proposal system |
-
2020
- 2020-10-22 JP JP2020177320A patent/JP7543082B2/en active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2019185117A (en) | 2018-04-02 | 2019-10-24 | 積水ハウス株式会社 | Atmosphere estimating device |
| JP2020119120A (en) | 2019-01-22 | 2020-08-06 | 本田技研工業株式会社 | Guide system, guide method, and program |
| JP2020169956A (en) | 2019-04-05 | 2020-10-15 | トヨタ自動車株式会社 | Vehicle destination proposal system |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022068567A (en) | 2022-05-10 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5120249B2 (en) | Monitoring device and monitoring method, control device and control method, and program | |
| CN108028015B (en) | Information processing apparatus, information processing method, and storage medium | |
| US10496889B2 (en) | Information presentation control apparatus, autonomous vehicle, and autonomous-vehicle driving support system | |
| JP7190952B2 (en) | Control device, control method and program | |
| CN111750885B (en) | Control device, control method and storage medium for storing program | |
| CN111599356B (en) | Intelligent agent system, information processing device, information processing method and storage medium | |
| CN110895738A (en) | Driving evaluation device, driving evaluation system, driving evaluation method and storage medium | |
| US11302304B2 (en) | Method for operating a sound output device of a motor vehicle using a voice-analysis and control device | |
| JP2020050204A (en) | Vehicular travel control method and travel control apparatus | |
| CN111382665B (en) | Information processing apparatus and computer-readable storage medium | |
| JP2020095475A (en) | Matching method, matching server, matching system, and program | |
| JP7148296B2 (en) | In-vehicle robot | |
| JP2021046022A (en) | Notification device and notification method in autonomous driving vehicle | |
| JP7405542B2 (en) | Notification device and notification method in self-driving vehicles | |
| CN113178089A (en) | Display control device, display control method, and computer-readable storage medium | |
| JP7320928B2 (en) | Driving evaluation device and driving evaluation method | |
| JP7543082B2 (en) | Information presentation device, information presentation method, and information presentation program | |
| CN116547729A (en) | Attention object sharing device and attention object sharing method | |
| JP6619316B2 (en) | Parking position search method, parking position search device, parking position search program, and moving object | |
| JP4926182B2 (en) | Signal recognition apparatus, signal recognition method, signal recognition program, and recording medium | |
| JP6555113B2 (en) | Dialogue device | |
| US20250191015A1 (en) | Vehicle | |
| JP2018165086A (en) | Driving support method, driving support device using the same, automatic driving control device, vehicle, program, driving support system | |
| JP7751066B2 (en) | Content evaluation device, content evaluation method, program, and storage medium | |
| WO2026000340A1 (en) | Control method and apparatus, and vehicle |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230920 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240229 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240305 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240423 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240730 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240821 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7543082 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |