JP7470171B2 - Information processing device and emotion induction method - Google Patents
Information processing device and emotion induction method Download PDFInfo
- Publication number
- JP7470171B2 JP7470171B2 JP2022178790A JP2022178790A JP7470171B2 JP 7470171 B2 JP7470171 B2 JP 7470171B2 JP 2022178790 A JP2022178790 A JP 2022178790A JP 2022178790 A JP2022178790 A JP 2022178790A JP 7470171 B2 JP7470171 B2 JP 7470171B2
- Authority
- JP
- Japan
- Prior art keywords
- content
- passenger
- emotion
- processing device
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000008451 emotion Effects 0.000 title claims description 199
- 230000010365 information processing Effects 0.000 title claims description 143
- 238000000034 method Methods 0.000 title claims description 33
- 230000006698 induction Effects 0.000 title claims description 13
- 230000007704 transition Effects 0.000 claims description 50
- 238000001514 detection method Methods 0.000 claims description 31
- 238000012545 processing Methods 0.000 claims description 24
- 230000002860 competitive effect Effects 0.000 claims description 14
- 230000000763 evoking effect Effects 0.000 claims description 9
- 230000001939 inductive effect Effects 0.000 claims description 6
- 230000007423 decrease Effects 0.000 claims description 3
- 206010062519 Poor quality sleep Diseases 0.000 claims description 2
- 238000010586 diagram Methods 0.000 description 20
- 230000037007 arousal Effects 0.000 description 18
- 230000008569 process Effects 0.000 description 17
- 239000008186 active pharmaceutical agent Substances 0.000 description 16
- 239000003205 fragrance Substances 0.000 description 13
- 238000004891 communication Methods 0.000 description 9
- 239000011521 glass Substances 0.000 description 9
- 238000004378 air conditioning Methods 0.000 description 8
- 238000012549 training Methods 0.000 description 7
- 238000010801 machine learning Methods 0.000 description 4
- 230000015654 memory Effects 0.000 description 4
- 238000013528 artificial neural network Methods 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000002996 emotional effect Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000008450 motivation Effects 0.000 description 3
- 206010041349 Somnolence Diseases 0.000 description 2
- 125000003118 aryl group Chemical group 0.000 description 2
- 238000007664 blowing Methods 0.000 description 2
- 230000036760 body temperature Effects 0.000 description 2
- 150000001875 compounds Chemical class 0.000 description 2
- 238000013135 deep learning Methods 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 239000007788 liquid Substances 0.000 description 2
- 230000029058 respiratory gaseous exchange Effects 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 206010039203 Road traffic accident Diseases 0.000 description 1
- 208000032140 Sleepiness Diseases 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000003066 decision tree Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 239000003595 mist Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000036651 mood Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000037321 sleepiness Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 239000007921 spray Substances 0.000 description 1
Images
Landscapes
- User Interface Of Digital Computer (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Processing Or Creating Images (AREA)
- Controls And Circuits For Display Device (AREA)
- Instrument Panels (AREA)
- Navigation (AREA)
- Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Position Input By Displaying (AREA)
- Television Signal Processing For Recording (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Traffic Control Systems (AREA)
Description
本発明は、情報処理装置及び感情誘導方法に関する。 The present invention relates to an information processing device and an emotion induction method.
従来、人間の感情の状態を制御する技術が提案されている(例えば、特許文献1を参照)。 Technologies for controlling a person's emotional state have been proposed in the past (see, for example, Patent Document 1).
ところで搭乗者が車両で移動する際には、搭乗者の感情が目的地に適した感情になっていることが好ましく、移動する間に目的地に適した感情へと誘導することができれば好適である。しかしながら、提案された技術は、所定空間内に滞在している個人の感情を該所定空間に適した感情へと誘導する技術に過ぎない。 When a passenger travels in a vehicle, it is preferable that the passenger's emotions are appropriate for the destination, and it would be ideal if the passenger could be guided to emotions appropriate for the destination while traveling. However, the proposed technology is merely a technology that guides the emotions of an individual staying in a specified space to emotions appropriate for that specified space.
一つの側面では、車両に搭乗する搭乗者の感情を好適に誘導することができる情報処理装置等を提供することを目的とする。 In one aspect, the objective is to provide an information processing device etc. that can appropriately guide the emotions of passengers in a vehicle.
一つの側面に係る情報処理装置は、車両に搭乗する搭乗者の感情が目的地到着時に、目的地に基づいた特定の感情となるように誘導するためのコンテンツであって、前記特定の感情に誘導する複数段階の感情夫々に対応する複数段階のコンテンツを取得する第1取得部と、所定のセンシング機器を用いて検出した前記搭乗者に関する検出情報を取得する第2取得部と、取得した前記検出情報に基づいて前記搭乗者の感情を推定する推定部と、前記車両に設けられた出力機器に、推定した前記搭乗者の感情に対応する段階の前記コンテンツを選択して出力する出力制御部と、前記車両の現在地から目的地までの残り所要時間を取得する第3取得部とを備え、前記出力制御部は、前記残り所要時間と、残りの前記コンテンツの総出力時間とに基づいて、前記コンテンツの出力を制御し、前記推定部は、一の段階に対応する前記コンテンツを出力後、前記搭乗者の感情が、前記一の段階に続く次の段階の感情に遷移したか否かを判定し、前記出力制御部は、前記次の段階の感情に遷移したと判定した場合に、該次の段階に対応する前記コンテンツを出力し、前記検出情報を入力した場合に前記次の段階に遷移するまでの遷移時間を推定するように学習済みのモデルであって、前記搭乗者の過去の前記検出情報及び遷移時間を学習済みのモデルに、取得した前記検出情報を入力して前記遷移時間を推定する遷移時間推定部を備え、前記出力制御部は、推定した前記遷移時間と、前記次の段階に対応する前記コンテンツの出力時間とに基づいて、前記次の段階に対応する前記コンテンツを出力するか否かを判定する。 An information processing device according to one aspect includes a first acquisition unit that acquires a plurality of levels of content corresponding to a plurality of levels of emotions that induce an emotion of a passenger in a vehicle upon arrival at the destination, the plurality of levels of content corresponding to the plurality of emotions that induce the emotion of the passenger, the plurality of levels of emotion being determined based on the destination, a second acquisition unit that acquires detection information regarding the passenger detected using a predetermined sensing device, an estimation unit that estimates the emotion of the passenger based on the acquired detection information, an output control unit that selects and outputs the content of the level that corresponds to the estimated emotion of the passenger to an output device provided in the vehicle, and a third acquisition unit that acquires a remaining required time from a current location of the vehicle to the destination, the output control unit determining the remaining required time based on the remaining required time and a total output time of the remaining content. The output of content is controlled, and the estimation unit, after outputting the content corresponding to one stage, determines whether the occupant's emotion has transitioned to an emotion of the next stage following the first stage, and when it is determined that the emotion has transitioned to the next stage, outputs the content corresponding to the next stage, and a model that has been trained to estimate the transition time until the transition to the next stage when the detection information is input, is provided with a transition time estimation unit that inputs the acquired detection information into a model that has been trained with the occupant's past detection information and transition time to estimate the transition time, and the output control unit determines whether to output the content corresponding to the next stage based on the estimated transition time and the output time of the content corresponding to the next stage.
一つの側面では、車両に搭乗する搭乗者の感情を好適に誘導することができる。 In one aspect, it is possible to appropriately induce the emotions of passengers in a vehicle.
以下、本発明をその実施の形態を示す図面に基づいて説明する。
(実施の形態1)
図1は感情誘導システムの構成例を示す説明図である。本実施の形態では、車両Cが目的地に到着した際に、車両Cに搭乗する搭乗者Uの感情が目的地等に適した感情となるように誘導する感情誘導システムについて説明する。
Hereinafter, the present invention will be described with reference to the drawings showing an embodiment thereof.
(Embodiment 1)
1 is an explanatory diagram showing a configuration example of an emotion induction system. In this embodiment, an emotion induction system is described that induces an emotion of a passenger U in a vehicle C to be appropriate for the destination when the vehicle C arrives at the destination.
図1では車両Cに搭乗者Uが搭乗している様子を図示している。車両Cは、搭乗者Uが利用(所有)する車両である。なお、車両Cは自動運転機能を有する車両であってもよい。また、車両Cは搭乗者Uが所有する車両に限定されず、例えばタクシーのように、搭乗者Uが利用するだけの車両であってもよい。また、図1では搭乗者Uが一名のみであるが、同乗者(複数の搭乗者U)が存在していてもよい。本システムでは、例えば搭乗者Uが車両Cを利用して自宅(第1地点)から勤務先(第2地点)に通勤する場合等に、車両C内部で搭乗者Uに対し画像、音声等のコンテンツを提示(出力)することで、搭乗者Uの感情を目的地等に適した感情に誘導する。 Figure 1 illustrates a state in which a passenger U is riding in a vehicle C. The vehicle C is a vehicle used (owned) by the passenger U. Note that the vehicle C may be a vehicle with an automatic driving function. The vehicle C is not limited to a vehicle owned by the passenger U, and may be a vehicle used only by the passenger U, such as a taxi. Although the passenger U is shown as being only one person in Figure 1, there may be passengers (multiple passengers U). In this system, for example, when the passenger U uses the vehicle C to commute from his/her home (first location) to his/her workplace (second location), the passenger U's emotions are induced to emotions appropriate to the destination, etc. by presenting (outputting) content such as images and sounds to the passenger U inside the vehicle C.
なお、以下の例示では搭乗者Uの出発地が自宅であるものとして説明するが、例えば搭乗者Uが勤務先から別の場所(出張先等)に移動する場合に本実施の形態を適用してもよい。すなわち、出発地は搭乗者Uの拠点であればよく、自宅に限定されない。また、本実施の形態では搭乗者Uの最終的な移動先(勤務先等)が目的地であるものとして説明するが、最終的な移動先以前の中間地点(例えば最寄り駅)を目的地としてもよい。 In the following examples, the departure point of passenger U is described as being his/her home, but this embodiment may also be applied when passenger U travels from his/her workplace to another location (such as a business trip destination). In other words, the departure point may be passenger U's base and is not limited to his/her home. In addition, in this embodiment, the destination is described as passenger U's final destination (such as his/her workplace), but the destination may also be an intermediate point before the final destination (such as the nearest station).
車両Cは、情報処理装置1、センシング機器SM、ディスプレイDS、車載ナビゲーション装置NB、照明装置IM、スピーカSP、芳香装置AF及び空調装置ACを備える。各装置は、車両Cの車内ネットワークを介して互いに通信接続されている。
The vehicle C is equipped with an
情報処理装置1は、車両Cに搭載されたコンピュータであり、センシング機器SM等との間で情報の送受信を行う。なお、情報処理装置1はECU(Electronic Control Unit)等の組み込みコンピュータであってもよく、又は車両Cに外付けされたコンピュータであってもよい。情報処理装置1は搭乗者Uに対し、ディスプレイDS等の出力機器を介して、目的地等に応じた特定の感情に誘導するための複数のコンテンツを出力する。具体的には後述するように、情報処理装置1は、最終目標とする特定の感情に搭乗者Uを段階的に誘導するべく、複数段階の感情それぞれに対応する複数段階のコンテンツを、その出力順序に従って順次出力し、最終目標とする感情へと誘導する。
The
コンテンツは、搭乗者Uの五感を刺激するコンテンツであり、例えば画像及び音声のほか、照明装置IMが照射する光、芳香装置AFが放出する芳香、及び空調装置ACが吹出する温冷風などを含む。また図示していないが、振動装置が発生する振動や噴霧装置が噴霧する霧等をコンテンツに含めてもよい。 The content is content that stimulates the five senses of the passenger U, and includes, for example, images and sounds, as well as light emitted by the lighting device IM, fragrance emitted by the fragrance device AF, and hot and cold air blown out by the air conditioning device AC. Although not shown, the content may also include vibrations generated by a vibration device and mist sprayed by a spray device.
情報処理装置1は、センシング機器SMを用いて検出した搭乗者Uに関する検出情報に基づき、搭乗者Uの現在の感情を推定する。検出情報は、搭乗者Uを撮像した画像、車内の音声(搭乗者Uの発話)等のほかに、所定の生体センサを用いて検出した搭乗者Uの生体情報(体温、呼吸、脈拍、心電等)を含み得る。情報処理装置1は、推定した搭乗者Uの感情が、現在出力中のコンテンツの段階(一の段階)に続く次の段階に対応する感情へと遷移したか否かを判定し、次の段階に対応する感情に遷移したと判定した場合、当該次の段階に対応するコンテンツを出力する。
The
情報処理装置1は、車両Cが目的地に到着するまでの間、各コンテンツを順次出力して搭乗者Uの感情を順々に遷移させ、目的地等に適した感情へと誘導する。
Until the vehicle C arrives at the destination, the
図2は、情報処理装置1の構成例を示すブロック図である。情報処理装置1は、制御部11、通信部12、入力インタフェース13、出力インタフェース14及び記憶部15を備える。
FIG. 2 is a block diagram showing an example of the configuration of the
制御部11は、MPU(Micro-Processing Unit)、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等の演算処理部110と、ROM(Read Only Memory)111と、RAM(Random Access Memory)112とを備える。
The
通信部12は、ネットワークNを介した通信処理を実行するモジュールであり、例えばLTE(Long Term Evolution、登録商標)、4G(4th Generation)及び5G(5th Generation)等の通信プロトコルを用いて外部と通信を行う。また通信部12は、Wi-Fi(Wireless Fidelity、登録商標)及びBluetooth(登録商標)等の通信プロトコルを用いて車内の機器と近距離無線通信を行う。
The
入力インタフェース13は、センシング機器SM、車載ナビゲーション装置NB及び操作ユニットOPと通信接続し、これらの機器から送信された情報を取得するためのインタフェースである。
The
センシング機器SMは、例えば車両Cの内部を撮像するカメラSM1、車内の音声を集音するマイクSM2等を含む。なお、これらはセンシング機器SMの一例であって、搭乗者Uの状態又は動作を検出可能なデバイスであればよく、例えば搭乗者Uの生体情報(体温、呼吸、脈拍、心電等)を検出するバイタルセンサ、座席STに設けた圧力センサ等をセンシング機器SMに含め、これらの機器での検出結果も検出情報として用いてもよい。また、センシング機器SMは車両Cに設置されたデバイスに限定されず、搭乗者Uが装着するウェアラブルデバイスであってもよい。 The sensing device SM includes, for example, a camera SM1 that captures images of the interior of the vehicle C, and a microphone SM2 that collects sound inside the vehicle. Note that these are just examples of the sensing device SM, and any device that can detect the state or movement of the passenger U may be used. For example, the sensing device SM may include a vital sensor that detects the biometric information of the passenger U (body temperature, breathing, pulse, electrocardiogram, etc.) and a pressure sensor installed in the seat ST, and the detection results of these devices may also be used as detection information. Furthermore, the sensing device SM is not limited to a device installed in the vehicle C, and may be a wearable device worn by the passenger U.
車載ナビゲーション装置NBは、出発地から目的地までの経路及び所要時間、並びに現在地から目的地までの残り所要時間等を演算し、交通情報を外部から取得する手段であり、ダッシュボード等に設置されている。 The in-vehicle navigation device NB is a means for calculating the route and travel time from the departure point to the destination, as well as the remaining time from the current location to the destination, and for acquiring traffic information from an external source. It is installed on the dashboard, etc.
操作ユニットOPは、搭乗者Uの入力操作を受け付ける手段であり、例えばタッチパネル、ソフトウェアキーボード、物理的なボタン及びポインティングデバイス等が該当し、ダッシュボード等に設置されている。 The operation unit OP is a means for accepting input operations from the passenger U, and may be, for example, a touch panel, a software keyboard, physical buttons, a pointing device, etc., and is installed on the dashboard, etc.
なお、本実施の形態ではセンシング機器SM、車載ナビゲーション装置NB及び操作ユニットOPが車両Cに備え付けられたデバイスであるものとするが、これらのデバイスは、情報処理装置1と通信可能なポータブルデバイス(例えばスマートフォン等)で実現されてもよい。
In this embodiment, the sensing device SM, the in-vehicle navigation device NB, and the operation unit OP are devices installed in the vehicle C, but these devices may be realized as portable devices (e.g., a smartphone) capable of communicating with the
また、本実施の形態では搭乗者Uから操作を受け付ける操作入力手段(操作ユニットOP)が物理的なデバイスであるものとして説明するが、本実施の形態はこれに限定されるものではない。例えば後述するように、カメラSM1を距離センサ(赤外線センサ等)付きのカメラ、あるいは複眼カメラ等として、搭乗者Uの手の動作(ジェスチャ)を認識することで操作入力を可能としてもよい。 In addition, in this embodiment, the operation input means (operation unit OP) that accepts operations from the passenger U is described as a physical device, but this embodiment is not limited to this. For example, as described below, the camera SM1 may be a camera with a distance sensor (infrared sensor, etc.) or a compound eye camera, etc., and may recognize the hand movements (gestures) of the passenger U to enable operation input.
出力インタフェース14は、照明装置IM、スピーカSP、芳香装置AF、空調装置AC及びディスプレイDSと通信接続し、これらの装置に情報を送信するためのインタフェースである。
The
照明装置IMは、車内空間を照らして搭乗者Uの五感を刺激する手段であり、光量、光色及び照射角度の調整ユニットを夫々備え、車内に設置されている。スピーカSPは、音コンテンツを出力して搭乗者Uの五感を刺激する手段であり、ダッシュボード等に設置されている。芳香装置AFは、芳香を放出して搭乗者Uの五感を刺激する手段であり、複数の芳香液が充填された保存容器、気化した芳香液を放出するファン並びに放出方向及び芳香量の調整ユニットを備え、ダッシュボード等に設置されている。空調装置ACは、温冷風を吹出して搭乗者Uの五感を刺激する手段であり、温冷風の切替ユニット及び吹出方向や吹出量の調整ユニットを備え、ダッシュボード等に設置されている。ディスプレイDSは画像表示手段であり、以下のように、本実施の形態では車窓を表示領域とする表示手段として構成されている。 The lighting device IM is a means for illuminating the interior space of the vehicle to stimulate the five senses of the passenger U, and is provided with units for adjusting the light quantity, light color, and irradiation angle, and is installed inside the vehicle. The speaker SP is a means for outputting sound content to stimulate the five senses of the passenger U, and is installed on the dashboard, etc. The fragrance device AF is a means for emitting fragrance to stimulate the five senses of the passenger U, and is provided with a storage container filled with multiple aromatic liquids, a fan for emitting vaporized aromatic liquid, and a unit for adjusting the emission direction and amount of fragrance, and is installed on the dashboard, etc. The air conditioning device AC is a means for blowing out hot and cold air to stimulate the five senses of the passenger U, and is provided with a hot and cold air switching unit and a unit for adjusting the blowing direction and amount, and is installed on the dashboard, etc. The display DS is an image display means, and in this embodiment, as described below, is configured as a display means with the vehicle window as a display area.
図3は、車両C内部を示す模式図である。図3では、後部座席から見た車両C内部の様子を模式的に図示している。図3に基づき、本実施の形態に係る車両Cについて説明する。 Figure 3 is a schematic diagram showing the interior of vehicle C. Figure 3 shows the interior of vehicle C as seen from the rear seat. The vehicle C according to this embodiment will be described with reference to Figure 3.
本実施の形態に係る車両Cは、車窓周辺のボディ面積が極力小さくなり、車窓の面積が極力大きくなるように構成されている。具体的には、車両Cの各ピラー(Aピラー、Bピラー、Cピラー、ルーフピラー等。図3に太線で図示)が細長に形成され、ピラーによって遮られる視認範囲が狭くなるように構成されている。車両Cには、各ピラーの間に各車窓(フロントガラス、フロントドアガラス、リアドアガラス等)が設けられている。また、本実施の形態に係る車両Cは天井全面がルーフガラスで構成されている。 Vehicle C according to this embodiment is configured so that the body area around the vehicle windows is as small as possible, and the area of the vehicle windows is as large as possible. Specifically, each pillar of vehicle C (A pillar, B pillar, C pillar, roof pillar, etc., shown by thick lines in FIG. 3) is formed long and thin, and is configured so that the visibility range blocked by the pillars is narrow. Vehicle C has vehicle windows (windshield, front door glass, rear door glass, etc.) between each pillar. Also, the entire roof of vehicle C according to this embodiment is made of roof glass.
上述の如く、車両Cは、車窓を表示領域とする表示手段としてディスプレイDSを備え、車窓に画像を表示する。具体的には、車両Cは、フロントガラス、フロントドアガラス、リアドアガラス、ルーフガラス、リアガラス等、複数の車窓それぞれに画像を表示する。ディスプレイDSは、例えば車窓をスクリーンとするプロジェクタであるが、車窓自体を透明ディスプレイとして構成してもよく、その具体的な表示手段は特に限定されない。また、例えばルーフ部分は車窓(ガラス)とせずに遮蔽し、ルーフに画像を表示(投影)するだけであってもよい。 As described above, the vehicle C is equipped with a display DS as a display means using the vehicle windows as a display area, and displays images on the vehicle windows. Specifically, the vehicle C displays images on each of a number of vehicle windows, such as the windshield, front door glass, rear door glass, roof glass, and rear glass. The display DS is, for example, a projector using the vehicle windows as a screen, but the vehicle windows themselves may also be configured as transparent displays, and the specific display means is not particularly limited. Also, for example, the roof portion may not be a vehicle window (glass) but may be shielded, and an image may simply be displayed (projected) on the roof.
また、車両Cには、一又は複数のカメラSM1(図3では3つ)がピラーに設置されており、車内を撮像する。また、車両Cには、照明装置IMがピラーに設置され、照明を点灯する。図示は省略するが、その他のデバイス(スピーカSP、芳香装置AF等)が設置されている。 Vehicle C also has one or more cameras SM1 (three in FIG. 3) installed on the pillars to capture images of the interior of the vehicle. Vehicle C also has a lighting device IM installed on the pillars to turn on the lights. Although not shown, other devices (speakers SP, fragrance device AF, etc.) are also installed.
上述の如く、本実施の形態では、車両Cの室内がコンテンツの体験空間として設計されている。情報処理装置1は、ディスプレイDSを含む各出力機器にコンテンツを出力し、目的地に到着するまでの間に、搭乗者Uを所望の感情に誘導する。
As described above, in this embodiment, the interior of the vehicle C is designed as a space for experiencing content. The
なお、本実施の形態ではコンテンツの体験空間として設計された車両Cを対象とするが、コンテンツの出力先である車両は一般的な車両であってもよく、その車両の設計(構成)は特に限定されない。 Note that in this embodiment, the subject is a vehicle C designed as an experiential space for the content, but the vehicle to which the content is output may be a general vehicle, and the design (configuration) of the vehicle is not particularly limited.
図2に戻って説明を続ける。記憶部15は、HDD(Hard Disk Drive)及びSSD(Solid State Drive)等のストレージであり、本実施の形態に係る処理を実行するためのプログラムPのほか、コンテンツDB(Database)151、第1モデル51を記憶している。コンテンツDB151は、各コンテンツのデータを格納するデータベースである。第1モデル51は、センシング機器SMで検出した検出情報に基づいて搭乗者Uの感情を推定する感情推定器であり、例えば訓練データを学習することで生成された機械学習モデルである。第1モデル51は、人工知能ソフトウェアの一部を構成するプログラムモジュールとしての利用が想定される。
Returning to FIG. 2, the explanation will be continued. The
なお、本実施の形態では、ローカルストレージにコンテンツが記憶してあるものとして説明するが、クラウド上のコンピュータ(コンテンツ配信用のサーバ等)からコンテンツを取得して出力するようにしてもよい。 In this embodiment, the content is described as being stored in local storage, but the content may also be obtained and output from a computer on the cloud (such as a server for content distribution).
また、情報処理装置1は、メモリカード、光ディスク等の非一時的なコンピュータ読取可能な記録媒体Dを読み取る読取部を備え、記録媒体DからプログラムPを読み出して実行するようにしてもよい。
The
図4は、コンテンツDB151のレコードレイアウトの一例を示す説明図である。コンテンツDB151は、ユーザID列、移動パターン列、コンテンツID列、コンテンツ名列、感情列、コンテンツ列及び出力時間列を含む。ユーザID列は、各ユーザ(搭乗者U)を識別するためのユーザIDを格納している。移動パターン列は、ユーザIDと対応付けて、予め設定されているユーザの移動パターンを記憶している。例えば移動パターン列には、各パターンに応じた出発地(第1地点)と、目的地(第2地点)とが記憶されている。 Figure 4 is an explanatory diagram showing an example of a record layout of content DB151. Content DB151 includes a user ID column, a travel pattern column, a content ID column, a content name column, an emotion column, a content column, and an output time column. The user ID column stores a user ID for identifying each user (passenger U). The travel pattern column stores a user's travel pattern that is set in advance in association with the user ID. For example, the travel pattern column stores a departure point (first location) and a destination (second location) corresponding to each pattern.
コンテンツID列、コンテンツ名列、感情列、コンテンツ列、及び出力時間列はそれぞれ、ユーザID及び移動パターンと対応付けて、各パターンに対応する複数段階のコンテンツそれぞれを識別するためのコンテンツID、各段階のコンテンツ名、各段階への遷移条件となる搭乗者Uの感情、コンテンツのデータ、及びコンテンツの出力時間を格納している。 The content ID column, content name column, emotion column, content column, and output time column each store, in association with a user ID and a movement pattern, a content ID for identifying each of the multiple stages of content corresponding to each pattern, the content name of each stage, the emotion of passenger U that is the transition condition to each stage, the content data, and the output time of the content.
例えば自宅から仕事場への移動パターン(通勤)を一例に説明すると、情報処理装置1はまず、第1段階のコンテンツとして搭乗者Uを覚醒化するためのコンテンツを出力する。続いて情報処理装置1は、当該コンテンツによって搭乗者Uの感情が「覚醒状態」に遷移したか否かを判定し、「覚醒状態」に遷移したと判定した場合、競争心を喚起する次段階のコンテンツを出力する。情報処理装置1は、コンテンツIDに従った順序で、各段階のコンテンツを出力する。
For example, taking a travel pattern from home to work (commuting) as an example, the
なお、図4では説明の便宜上、コンテンツの遷移条件となる感情列の感情を[]付きの説明文で図示しているが、実際には、感情推定のキーとなる後述のパラメータ(覚醒/非覚醒の指数及び快/不快の指数)が格納されている。各コンテンツとその遷移条件について、詳しくは後述する。 For ease of explanation, in Figure 4, the emotions in the emotion column that are the content transition conditions are illustrated in brackets [ ], but in reality, the parameters that are key for emotion estimation (an index of arousal/non-arousal and an index of pleasantness/unpleasantness) described below are stored. Each content and its transition conditions will be described in detail later.
なお、本実施の形態では搭乗者U毎に各移動パターンに応じたコンテンツが用意されているものとして説明するが、コンテンツは全ての搭乗者Uに対して共通であってもよい。 In this embodiment, it is described that content corresponding to each movement pattern is prepared for each passenger U, but the content may be common to all passengers U.
図5は、感情誘導処理の手順例を示す説明図である。以下、情報処理装置1が実行する感情誘導処理手順を説明する。
Figure 5 is an explanatory diagram showing an example of the procedure for emotion induction processing. Below, the emotion induction processing procedure executed by the
例えば情報処理装置1及び車載ナビゲーション装置NBは、車両Cの動力源の起動に応じて起動する。起動後、車載ナビゲーション装置NBは、搭乗者Uから目的地の入力を受け付け、車両Cを目的地へと発進させる。車載ナビゲーション装置NBは、所定の地図データを参照して車両Cの現在地から目的地までの残り所要時間を逐次演算し、演算した残り所要時間を情報処理装置1に送信する。
For example, the
一方、情報処理装置1は、運転席、助手席等の各座席STに着座している一又は複数の搭乗者Uのうち、コンテンツの出力対象(感情誘導対象)とする搭乗者Uを特定する。例えば情報処理装置1は、操作ユニットOPにより対象の搭乗者Uの指定入力を受け付ける。あるいは情報処理装置1は、マイクSM2による音声入力等で搭乗者Uの指定入力を受け付けてもよい。あるいは情報処理装置1は、カメラSM1で撮像した画像から搭乗者Uを認識し、対象の搭乗者Uを自動的に特定するようにしてもよい。
Meanwhile, the
なお、上記では操作ユニットOP(タッチパネル等)への操作入力、又は音声入力を操作手段の一例として挙げたが、本実施の形態はこれに限定されるものではない。例えば情報処理装置1は、カメラSM1を距離センサ付きのカメラ、又は複眼カメラ等として、搭乗者Uの手の動作(ジェスチャ)を認識可能とし、手の動作によって操作入力を受け付けるようにしてもよい。例えば搭乗者Uを特定する場合、情報処理装置1は、カメラSM1で撮像した画像から、搭乗者Uが手を挙げる動作を認識することで、対象とする搭乗者Uを特定する。このように、情報処理装置1は、搭乗者Uの手の動作を認識することで操作入力を受け付けるようにしてもよい。この点は以降の処理でも同様である。
Note that, although the above describes operation input to the operation unit OP (touch panel, etc.) or voice input as an example of an operation means, this embodiment is not limited to this. For example, the
情報処理装置1は、搭乗者Uに対して提示するコンテンツのデータをコンテンツDB151から読み出す。具体的には、情報処理装置1は、目的地到着時に搭乗者Uの感情が特定の感情となるように誘導するためのコンテンツであって、当該特定の感情に至る複数段階それぞれの感情に対応する複数段階のコンテンツのデータをコンテンツDB151から読み出す。
The
より詳しくは、コンテンツは、車両Cの目的地(移動パターン)に応じて、搭乗者U毎に用意されている。図5では一例として、搭乗者Uの自宅を出発地として、勤務先を目的地とする通勤時のコンテンツの出力例を図示している。この場合、情報処理装置1は図4で例示したように、搭乗者Uの感情を非覚醒状態から覚醒状態に誘導するコンテンツ、覚醒状態から競争心が喚起された状態に誘導するコンテンツ、競争心が喚起された状態から業務上の目標を想起した状態にコンテンツ、及び当日の業務に関するコンテンツをそれぞれ取得する。情報処理装置1は各段階のコンテンツを順次出力し、最終的に、業務に対して意欲のある状態へと搭乗者Uの感情を誘導する。
More specifically, content is prepared for each passenger U according to the destination (travel pattern) of vehicle C. FIG. 5 illustrates, as an example, an output example of content during a commute from passenger U's home as a starting point to his/her workplace as a destination. In this case, as illustrated in FIG. 4, the
なお、本実施の形態では目的地に応じて最終目標とする感情(特定の感情)が定められるものとして説明するが、最終目標とする感情は、他の要素(情報)に基づいて定められてもよい。例えば最終目標とする感情は、目的地に加えて、又は目的地に代えて、車両Cの出発日時(現在の日時)、及び/又は搭乗者U以外の同乗者に応じて定められてもよい。例えば情報処理装置1は、目的地以外に出発日時(例えば時間帯)及び同乗者(例えば同乗者のユーザID)をコンテンツと対応付けてコンテンツDB151に記憶しておく。そして情報処理装置1は、車両Cの目的地、出発日時、及び同乗者に応じて最終目標とする感情を推定し、推定した感情に対応するコンテンツをコンテンツDB151から読み出す。なお、出発日時は現在日時から識別すればよく、同乗者はカメラSM1で撮像する画像から特定すればよい。これにより、出力するコンテンツをより柔軟に選択し、搭乗者Uを所望の感情に誘導することができる。
In this embodiment, the final target emotion (specific emotion) is determined according to the destination, but the final target emotion may be determined based on other elements (information). For example, the final target emotion may be determined according to the departure date and time of the vehicle C (current date and time) and/or a passenger other than the passenger U, in addition to or instead of the destination. For example, the
このように、情報処理装置1は、目的地、出発日時、及び/又は同乗者に応じて最終目標とする特定の感情を決めることができればよく、最終目標である感情の(推定)基準は目的地に限定されない。
In this way, the
コンテンツDB151には、各段階のコンテンツと対応付けて、各段階のコンテンツの出力条件となる感情(状態)が記憶されている。なお、図4の例では第1段階のコンテンツ(「覚醒化」)と対応付けられた感情が「Null」となっているが、これは初期状態(自宅からの出発直後)では搭乗者Uの感情が非覚醒状態にあると仮定しているためである。後述するように、情報処理装置1は、一の段階のコンテンツを出力した場合に、次の段階の出力条件である感情に搭乗者Uの感情が遷移したか否かを判定し、搭乗者Uの感情が遷移した場合は次の段階のコンテンツを出力する。
In the
図5の例では、情報処理装置1は最初に、搭乗者Uの感情が非覚醒状態にあると仮定して、覚醒状態に誘導するためのコンテンツを選択して出力する。具体的には、情報処理装置1は、照明装置IMによる照明光の照射、スピーカSPからの音声(音楽等)の出力、芳香装置AFからの芳香の出力、及び/又は空調装置ACによる搭乗者Uへの温冷風の送風を行う。なお、これらはコンテンツの一例であって、例えば情報処理装置1は、ディスプレイDS(車窓)での画像表示等も併せて行ってもよい。
In the example of FIG. 5, the
コンテンツを出力する前にまず、情報処理装置1は、車載ナビゲーション装置NBから取得した残り所要時間が、コンテンツDB151に規定されている当該コンテンツの出力時間以上であるか否かを判定する。残り所要時間以上であると判定した場合、情報処理装置1は、当該コンテンツを出力する。一方、コンテンツの出力時間が残り所要時間を超過すると判定した場合、情報処理装置1はコンテンツを出力せずに一連の処理を終了する。
Before outputting the content, the
なお、コンテンツの出力時間が残り所要時間以上であるか否かを判定する際に、情報処理装置1は、車両C周辺の交通情報を参照して、閾値とする残り所要時間を増減してもよい。交通情報は、例えば目的地までの経路上又はその周辺における渋滞、交通事故等の派生の有無を示すデータである。情報処理装置1は、ネットワークNを介して交通情報を取得し、渋滞等の発生の有無に応じて残り所要時間を増減する。これにより、現在の交通状況を考慮してコンテンツ出力の適否を判定することができる。
When determining whether the output time of the content is equal to or longer than the remaining required time, the
情報処理装置1は、コンテンツを出力すると同時に、センシング機器SMから搭乗者Uに関する検出情報を逐次取得し、搭乗者Uの現在の感情を推定する。検出情報は、上述の如く、カメラSM1で搭乗者Uを撮像した画像、マイクSM2で集音した音声(搭乗者Uの発話)等を含む。なお、検出情報はこれ以外に、搭乗者Uの生体情報、座席STに設けた圧力センサで検出した検出結果等を含めてもよい。
The
情報処理装置1は、搭乗者Uの画像等から感情を推定する。具体的な感情推定方法は特に問わないが、例えば情報処理装置1は、搭乗者Uを撮像した画像を入力した場合に、当該搭乗者Uの現在の感情を推定するよう学習済みの第1モデル51を用いて感情を推定する。第1モデル51は、例えば深層学習により生成されたCNN(Convolutional Neural Network)等のニューラルネットワークである。なお、後述のように、第1モデル51への入力には搭乗者Uの生体情報等を含めても良い。
The
本実施の形態において情報処理装置1は、ラッセル円環理論に則して人物の感情を推定する第1モデル51を用いて、搭乗者Uの感情を推定する。具体的には以下で説明するように、情報処理装置1は、ラッセル円環理論に基づいて搭乗者Uの感情を表現するために、快/不快(Pleasure and Unpleasant)の程度を表す指数(Valence;感情価)、及び覚醒/非覚醒の程度を表す指数(Arousal)をそれぞれ算出する。なお、後述のように、ラッセル円環理論は感情表現の一例であって、情報処理装置1は他の理論に基づいて搭乗者Uの感情を表現してもよい。
In this embodiment, the
図6は、感情遷移過程の一例を示す説明図である。図6では、ラッセル円環を概念的に図示している。ラッセル円環理論は、第1軸を快/不快の程度、第2軸を覚醒/非覚醒(眠気)の程度で表現した空間上で、人間の感情を説明する理論である。ラッセル円環理論は公知であるため、ここでは詳細な説明を省略する。 Figure 6 is an explanatory diagram showing an example of an emotion transition process. In Figure 6, a Russell circle is conceptually illustrated. The Russell circle theory is a theory that explains human emotions in a space in which the first axis represents the degree of pleasantness/unpleasantness, and the second axis represents the degree of arousal/unarousal (sleepiness). The Russell circle theory is publicly known, so a detailed explanation will be omitted here.
情報処理装置1は、図6のラッセル円環に則して搭乗者Uの感情を推定する。具体的には、情報処理装置1は、第1軸に相当する快/不快の指数、及び第2軸に相当する覚醒/非覚醒の指数をそれぞれ算出し、各指数から、搭乗者Uの感情に相当するラッセル円環の空間内の位置を推定する。例えば第1モデル51は、訓練用の人物画像に対し、快/不快の指数及び覚醒/非覚醒の指数の正解値が対応付けられた訓練データを学習してある。情報処理装置1は、各指数を算出するよう学習済みの第1モデル51に搭乗者Uの画像を入力して、各指数を算出する。
The
例えば情報処理装置1は、各段階のコンテンツの出力条件(遷移条件)となる感情を、ラッセル円環の空間上の領域で定義してある。図5のコンテンツを一例に説明すると、図6に示すように、第1段階の感情(非覚醒状態)に相当する領域として、第3象限及び第4象限に位置する領域、すなわち覚醒/非覚醒の指数が低い領域(非覚醒の度合いが高い領域)が設定してある。情報処理装置1はまず、初期段階の搭乗者Uの感情が当該領域に位置するものと仮定して、搭乗者Uの感情を覚醒状態に誘導するためのコンテンツを出力する。
For example, the
その後、情報処理装置1は、次段階に相当する領域に搭乗者Uの感情が遷移したか否かを順次判定し、各段階のコンテンツを出力していく。図5及び図6の例では、情報処理装置1はまず、第2段階の感情(覚醒状態)に相当する領域として、第1象限及び第2象限に位置する領域、すなわち第1段階よりも覚醒/非覚醒の指数が高い領域に遷移したか否かを判定する。第2段階の領域に遷移した場合、次に情報処理装置1は、第3段階の感情(競争心が喚起された状態)に相当する領域として、第2象限に位置する領域、すなわち、覚醒/非覚醒の指数が高く、かつ、快/不快の指数が低い領域(不快の方向に高い領域)に遷移したか否かを判定する。第3段階の領域に遷移した場合、情報処理装置1は、第4段階の感情(目標が想起された状態)に相当する領域として、第1象限に位置する領域、すなわち、覚醒/非覚醒の指数が高く、かつ、快/不快の指数が高い領域に遷移したか否かを判定する。
Then, the
なお、コンテンツDB151では搭乗者Uの目的地(移動パターン)に応じてコンテンツが用意されており、その目的地に応じて、各段階のコンテンツの出力によって目標とする感情も異なる。これに応じて、各段階のコンテンツの出力条件となるラッセル円環の空間上の領域も別々に設定される。 In addition, in the content DB151, content is prepared according to the destination (travel pattern) of the passenger U, and the target emotion varies depending on the destination and the output of the content at each stage. Accordingly, the spatial area of the Russell circle that is the output condition of the content at each stage is also set separately.
なお、上記で第1モデル51は、指数を算出する回帰問題として感情推定処理を扱ったが、ラッセル円環の空間上の何れの領域に属するかを分類する分類問題として扱ってもよい。また、上記では第1モデル51の一例としてニューラルネットワークを挙げたが、決定木、SVM(Support Vector Machine)等、その他の学習アルゴリズムに基づくモデルであってもよい。また、本実施の形態では機械学習モデルを用いて感情推定を行うが、単純なルールベースのパターンマッチングにより感情推定(指数算出)を行ってもよい。
In the above, the
また、本実施の形態ではラッセル円環理論に則して搭乗者Uの感情を表現するものとするが、これは一例であって、例えば「喜び」、「悲しみ」などの一般的な感情パターンに則して搭乗者Uの感情を表現してもよい。 In addition, in this embodiment, the emotions of the passenger U are expressed in accordance with Russell Circle Theory, but this is only one example, and the emotions of the passenger U may also be expressed in accordance with general emotional patterns such as "happiness" and "sadness."
また、本実施の形態では画像から感情推定を行うものとして説明するが、その他の検出情報(音声、生体情報等)も第1モデル51に入力して感情を推定するようにしてもよい。この場合、例えば第1モデル51を、各モダリティ(種類)の検出情報の特徴量を抽出するための入力層及び中間層を別々に備えたマルチモーダルモデルとして構成し、各中間層で抽出された特徴量を出力層の前の全結合層で結合して感情推定を行えばよい。
Although this embodiment will be described as performing emotion estimation from images, other detected information (audio, biometric information, etc.) may also be input to the
図5に戻って説明を続ける。第1段階のコンテンツを出力後、情報処理装置1は、搭乗者Uの感情が、次の段階に対応する感情に遷移したか否かを判定する。具体的には、情報処理装置1は、搭乗者Uの感情が、非覚醒状態から覚醒状態に遷移したか否かを判定する。覚醒状態は、非覚醒状態(眠気が強い状態)から脱却した状態を指し、図6で例示するように、第1段階よりも覚醒/非覚醒の指数が高い状態を指す。
Returning to FIG. 5 for further explanation, after outputting the first stage content, the
覚醒状態に遷移したと判定した場合、情報処理装置1は、次段階のコンテンツの出力時間が残り所要時間以上であるか否かを判定した後、搭乗者Uの競争心を喚起するコンテンツを出力する。当該コンテンツは、例えば競合企業の情報、搭乗者Uの知人(職場の同僚や学生時代の友人等)の情報などであり、搭乗者Uの競争相手の情報である。
When it is determined that the passenger U has transitioned to an awakened state, the
例えば情報処理装置1には、ユーザの勤務先の競合企業、知人等が予め設定してある。情報処理装置1は、ネットワークNを介してこれらの情報を取得し、コンテンツDB151に記憶してある。例えば競合企業の情報の場合、情報処理装置1は、株価、ビジネスニュース等を掲載したWebサイトから競合企業の情報を取得する。また、知人の情報の場合、情報処理装置1は、知人のSNSへの投稿記事、ブログ記事等を取得する。情報処理装置1は、外部のAPI(Application Programmable Interface)からこれらの情報を取得し、ディスプレイDSに表示する。なお、例えば情報処理装置1は、スピーカSPによる音声も組み合わせてコンテンツを出力してもよい。
For example, the
次に情報処理装置1は、搭乗者Uの感情が、競争心が喚起された状態に遷移したか否かを判定する。競争心が喚起された状態は、第2段階よりも業務に対する意欲が高まった状態を指し、図6で例示したように、覚醒/非覚醒の指数が高く、かつ、快/不快の指数が低い状態を指す。競争心が喚起された状態に遷移したと判定した場合、情報処理装置1は、次段階のコンテンツの出力時間が残り所要時間以下であるか否かを判定した後、搭乗者Uの目標を想起するコンテンツを出力する。
The
目的を想起するコンテンツは、例えば歴史的偉人に関する情報、現在活躍中の企業経営者に関する情報等であり、具体的には、これらの情報を内容とするWebページ、動画等が該当する。例えば情報処理装置1は、Web検索エンジンを用いてこれらの情報をWeb上から検索し、コンテンツとしてコンテンツDB151に格納してある。情報処理装置1は、搭乗者Uの業務上の競争心が喚起された状態でこれらのコンテンツをディスプレイDSに表示し、搭乗者Uの意欲が更に向上するよう誘導する。なお、画像表示だけでなく、音声等を組み合わせてもよいことは勿論である。
Content that evokes a purpose is, for example, information about historical figures, information about currently active business executives, etc., and specifically, web pages and videos that contain this information. For example, the
次に情報処理装置1は、搭乗者Uの感情が、目標が想起された状態に遷移したか否かを判定する。目標が想起された状態は、第3段階よりも業務に対する意欲が高まった状態を指し、図6で例示したように、覚醒/非覚醒の指数が高く、かつ、快/不快の指数が高い状態を指す。目標が想起された状態に遷移したと判定した場合、情報処理装置1は、次段階のコンテンツの出力時間が残り所要時間以下であるか否かを判定した後、搭乗者Uの業務に関連するコンテンツを出力する。
The
例えば情報処理装置1には、搭乗者Uのスケジュール等を管理するアプリケーション(スケジューラ等)のアカウント情報が予め設定されている。情報処理装置1は、各種アプリケーションから業務に関連する情報を取得する。当該情報は、例えば搭乗者Uのスケジュール、業務上のタスク、電子メール等を含み得る。情報処理装置1は、これらの情報を最終段階のコンテンツとしてディスプレイDSに表示し、搭乗者Uに提示する。情報処理装置1は、残り所要時間が零になるまで当該コンテンツを表示する。
For example, the
上記の各段階のコンテンツを出力することで、搭乗者Uは、非覚醒状態から業務に対する意欲が高い状態へと通勤途上で段階的に誘導される。目的地に到着後、情報処理装置1及び車載ナビゲーション装置NBは、車両Cからの給電が停止することにより、一連の処理を終了する。
By outputting the content for each of the above stages, the passenger U is gradually guided from a drowsy state to a state of high motivation for work during the commute. After arriving at the destination, the
図7は、情報処理装置1が実行する処理手順の一例を説明するフローチャートである。図7に基づき、情報処理装置1が実行する処理内容について説明する。
Figure 7 is a flowchart illustrating an example of a processing procedure executed by the
情報処理装置1の制御部11は、車両Cの目的地の入力を受け付ける(ステップS11)。なお、例えば制御部11は、現在の日時、車両Cの位置情報等から目的地を自動的に判別してもよい。制御部11は、コンテンツの出力対象とする搭乗者Uを特定する(ステップS12)。
The
制御部11は、ステップS11で入力された目的地に応じて最終目標とする特定の感情を推定し、推定した特定の感情に搭乗者Uの感情を誘導するためのコンテンツをコンテンツDB151から取得する(ステップS13)。具体的には、制御部11は、最終目標とする特定の感情に至る複数段階の感情それぞれに対応する複数段階のコンテンツを取得する。例えば制御部11は、ステップS11で入力された目的地に該当し、かつ、ステップS12で特定した搭乗者Uに対応するコンテンツをコンテンツDB151から読み出す。なお、上述の如く制御部11は、目的地に加えて、又は目的地に代えて、車両Cの出発日時、及び/又は同乗者に応じて最終目標とする感情を推定してもよい。
The
制御部11は、ステップS13で取得した複数段階のコンテンツのうち、第1段階のコンテンツを出力する(ステップS14)。なお、ステップS14の時点で既にコンテンツの出力時間が残り所要時間を超過する場合、制御部11はコンテンツを出力せず一連の処理を終了する。第1段階のコンテンツを出力後、制御部11は、センシング機器SMから搭乗者Uに関する検出情報を取得する(ステップS15)。具体的には、制御部11は、搭乗者Uを撮像した画像、車内の音声等を取得する。
The
制御部11は、取得した検出情報に基づき、搭乗者Uの現在の感情を推定する(ステップS16)。例えば制御部11は、検出情報(搭乗者Uの撮像画像等)を入力した場合に、覚醒/非覚醒の度合いを表す指数及び快/不快の度合いを表す指数を算出するよう学習済みの第1モデル51を用いて、各指数を算出する。
The
制御部11は、搭乗者Uの感情が、出力中のコンテンツの次の段階の感情に遷移したか否かを判定する(ステップS17)。次の段階に遷移していないと判定した場合(S17:NO)、制御部11は処理をステップS15に戻す。次の段階に遷移したと判定した場合(S17:YES)、制御部11は、目的地への残り所要時間を車載ナビゲーション装置NBから取得する(ステップS18)。
The
制御部11は、次の段階のコンテンツの出力時間が、ステップS18で取得した残り所要時間以下であるか否かを判定する(ステップS19)。残り所要時間以下でないと判定した場合(S19:NO)、制御部11は処理をステップS21に移行する。残り所要時間以下であると判定した場合(S19:YES)、制御部11は、次の段階のコンテンツを出力する(ステップS20)。
The
制御部11は、残り所要時間が零であるか否か、すなわち目的地に到着したか否かを判定する(ステップS21)。目的地に到着していないと判定した場合(S21:NO)、制御部11は処理をステップS15に戻す。目的地に到着したと判定した場合(S21:YES)、制御部11は一連の処理を終了する。
The
なお上記では、複数のコンテンツを停止することなく順次出力することにしたが、例えば車両Cが一時停止した場合(コンビニエンスストアへの立寄り等)には、一時停止した箇所からコンテンツの出力を再開するようにしてもよい。 In the above, multiple contents are output sequentially without stopping, but if vehicle C stops temporarily (such as to stop at a convenience store), the output of the contents may be resumed from the point where it was paused.
また上記では、出発地から目的地までの所要時間と、全てのコンテンツを出力した総出力時間に大差がないものとして説明したが、目的地によっては、最後のコンテンツ(上記の例では業務に関するコンテンツ)を出力しても尚時間が余る場合もあり得る。この場合、例えば情報処理装置1は、途中段階のコンテンツ(例えば上記では第2段階及び/又は第3段階のコンテンツ)を出力している時点で、残り所要時間と残りのコンテンツの総出力時間とを比較し、途中段階のコンテンツの出力時間を延ばしてもよい。例えば情報処理装置1は、残り所要時間と、残りのコンテンツの総出力時間との差分を算出し、当該差分の時間だけ途中段階のコンテンツを繰り返し出力する。これにより、最後のコンテンツを出力した時点で丁度目的地に到着するように、コンテンツの出力を好適に制御することができる。
In the above description, it has been explained that there is not much difference between the time required to travel from the departure point to the destination and the total output time when all content is output, but depending on the destination, there may be cases where there is still time left even after the last content (in the above example, content related to business) is output. In this case, for example, when outputting intermediate content (for example, content of the second and/or third stage in the above example), the
また上記では複数段階のコンテンツをその段階順に従って順次出力する場合を説明したが、本実施の形態はこれに限定されず、適時、予め規定されたコンテンツの段階順とは異なる順序でコンテンツを出力してもよい。 In addition, although the above describes a case where multiple levels of content are output in sequence according to the order of the levels, the present embodiment is not limited to this, and content may be output in an order different from the predefined content order at any time.
例えば図5の一例を用いれば、搭乗者Uの目標を想起する第3段階のコンテンツの出力する場合において、搭乗者Uの感情が前の第2段階の感情に戻ってしまった場合、第2段階に戻り、競争心を喚起するコンテンツを出力する手順から再開するようにしてもよい。 For example, using the example in Figure 5, when outputting third stage content that evokes the passenger U's goal, if the passenger U's emotions revert to the previous second stage emotions, the process may be resumed by returning to the second stage and restarting the procedure of outputting content that stimulates competitive spirit.
また、例えば情報処理装置1は、目的地が出発地と極めて近く、全ての段階のコンテンツを出力するには時間が足りない場合に、例えば最終段階のコンテンツ(上記では搭乗者Uの業務に関連するコンテンツ)のみを出力してもよい。
In addition, for example, when the destination is very close to the departure point and there is insufficient time to output the content of all stages, the
このように、情報処理装置1は、搭乗者Uの感情や残り所要時間に応じて複数のコンテンツの何れかを選択して出力可能であればよく、予め規定された段階通りにコンテンツを出力せずともよい。
In this way, the
また、上記では勤務先を目的地とする場合について説明したが、目的地は勤務先に限定されず、テーマパーク、動物園、商業施設、美術館、病院など、任意の場所であってよい。これに伴い、情報処理装置1が出力するコンテンツを種々のコンテンツが想定される。
Although the above describes a case where the workplace is the destination, the destination is not limited to the workplace and may be any location, such as a theme park, a zoo, a commercial facility, an art museum, or a hospital. Accordingly, various types of content are expected to be output by the
以上より、本実施の形態1によれば、搭乗者Uの感情を、目的地等に応じた特定の感情に好適に誘導することができる。
As described above, according to this
(実施の形態2)
実施の形態1では、搭乗者Uが自宅等の拠点(第1地点)から勤務先等(第2地点)に移動する場合について説明した。一方で、勤務先等から自宅等に移動する際の帰路に本システムを適用してもよい。本実施の形態では往路又は復路の別に応じてコンテンツを変更する形態について説明する。なお、実施の形態1と重複する箇所については同一の符号を付して説明を省略する。
(Embodiment 2)
In the first embodiment, a case where a passenger U moves from a base (first location) such as a home to a workplace (second location) has been described. On the other hand, the present system may be applied to the return journey when moving from a workplace to a home. In this embodiment, a form in which the content is changed depending on whether it is an outbound journey or a return journey will be described. Note that the same reference numerals are used for parts that overlap with the first embodiment, and the description will be omitted.
図8は、実施の形態2に係るコンテンツDB151のレコードレイアウトの一例を示す説明図である。本実施の形態に係るコンテンツDB151は、同一経路の移動パターンであっても、出発地及び目的地に応じた往路又は復路の別に応じて、別々のコンテンツを記憶してある。
Figure 8 is an explanatory diagram showing an example of a record layout of
具体的には、コンテンツDB151の移動パターン列には、例えば自宅及び勤務先(職場)の間を移動する場合に、自宅を出発地として勤務先を目的地とする往路と、勤務先を出発地として自宅を目的地とする復路とを、別々の移動パターンとして記憶されている。また、コンテンツID列、コンテンツ名列、感情列、コンテンツ列、及び出力時間列はそれぞれ、往路又は復路の移動パターンと対応付けて、互いに異なるコンテンツのコンテンツID、コンテンツ名、遷移条件となる搭乗者Uの感情、コンテンツ、及びコンテンツの出力時間を記憶している。 Specifically, in the travel pattern column of content DB151, for example, when traveling between home and workplace (workplace), an outward journey starting from home and the workplace as a destination, and a return journey starting from the workplace and the home as a destination, are stored as separate travel patterns. In addition, the content ID column, content name column, emotion column, content column, and output time column each store the content ID, content name, passenger U's emotion that is the transition condition, content, and content output time of different contents in association with the outward or return travel pattern.
図9は、実施の形態2に係る感情誘導処理の手順例を示す説明図である。図10は、実施の形態2に係る感情遷移過程の一例を示す説明図である。図9及び図10に基づき、本実施の形態の概要を説明する。 Figure 9 is an explanatory diagram showing an example of the procedure for emotion induction processing according to embodiment 2. Figure 10 is an explanatory diagram showing an example of an emotion transition process according to embodiment 2. An overview of this embodiment will be described based on Figures 9 and 10.
図9及び図10は、搭乗者Uが勤務先から自宅に移動する帰路における処理例を図示している。搭乗者Uが帰宅する際に、情報処理装置1は、例えば搭乗者Uが入力する目的地と、車両Cの現在地(出発地)とから、勤務先からの帰路に係る移動パターンであることを判別する。情報処理装置1は、当該移動パターンに該当するコンテンツをコンテンツDB151から読み出す。当該コンテンツは、往路とは逆に搭乗者Uの感情を落ち着いた状態に誘導するためのコンテンツであり、最終目標とする落ち着いた状態に至る複数段階の感情それぞれに対応する複数段階のコンテンツから成る。
Figures 9 and 10 show an example of processing on the return journey when passenger U travels from his/her workplace to his/her home. When passenger U returns home, the
具体的には、情報処理装置1は、搭乗者Uの感情を不快状態から快適状態に誘導するコンテンツ、快適状態から安心感が喚起された状態に誘導するコンテンツ、安心感が喚起された状態から幸福感が喚起された状態に誘導するコンテンツ、及び搭乗者Uの今後の予定に関するコンテンツを取得する。
Specifically, the
不快状態は、搭乗者Uの感情(気分)が業務から切り替わっていない状態を指し、図10で第1段階として図示するように、快/不快の指数が低い状態を指す。快適状態は、搭乗者Uの感情が業務から切り離された状態を指し、図10で第2段階として図示するように、快/不快の指数が高い状態を指す。 The uncomfortable state refers to a state in which passenger U's emotions (mood) have not shifted away from work, and refers to a state in which the comfort/unpleasant index is low, as shown as the first stage in Figure 10. The comfortable state refers to a state in which passenger U's emotions have been detached from work, and refers to a state in which the comfort/unpleasant index is high, as shown as the second stage in Figure 10.
安心感が喚起された状態は、搭乗者Uの感情が第2段階よりも非覚醒化された状態を指し、図10で第3段階として図示するように、覚醒/非覚醒の指数が低く、かつ、快/不快の指数が高い状態を指す。幸福感が喚起された状態は、搭乗者Uの感情が第3段階よりも覚醒化された状態を指し、図10で第4段階として図示するように、覚醒/非覚醒の指数が高く、かつ、快/不快の指数が高い状態を指す。 The state in which a sense of security is evoked refers to a state in which the emotions of the passenger U are less aroused than in the second stage, and refers to a state in which the arousal/non-arousal index is low and the pleasure/displeasure index is high, as shown as the third stage in Figure 10. The state in which a sense of happiness is evoked refers to a state in which the emotions of the passenger U are more aroused than in the third stage, and refers to a state in which the arousal/non-arousal index is high and the pleasure/displeasure index is high, as shown as the fourth stage in Figure 10.
情報処理装置1はまず、搭乗者Uの感情が不快状態にあると仮定して、搭乗者Uの感情を快適状態に誘導する第1段階のコンテンツを出力する。例えば情報処理装置1は、照明装置IMによる照明光の照射、芳香装置AFによる芳香の出力、空調装置ACによる空調の自動調整、及び/又はスピーカSPからの音声(音楽等)の出力を行う。なお、コンテンツを出力する前に、情報処理装置1はコンテンツの出力時間が残り所要時間以内であるか否かを判定する。この点は以降の処理も同様である。
First, the
当該コンテンツの出力後、情報処理装置1は、搭乗者Uの感情が、第2段階に相当する快適状態に遷移したか否かを判定する。快適状態に遷移した場合、情報処理装置1は、搭乗者Uの安心感を喚起するコンテンツを出力する。当該コンテンツは、例えば所定の物語の朗読(音声出力)、又はエンターテイメント情報の表示等である。情報処理装置1は、これらのコンテンツを事前にコンテンツDB151に記憶してあり、快適状態に遷移した場合、搭乗者Uの感情をポジティブな方向へ誘導すべく当該コンテンツを出力する。
After outputting the content, the
次に情報処理装置1は、搭乗者Uの感情が、安心感が喚起された状態に遷移したか否かを判定する。安心感が喚起された状態に遷移したと判定した場合、情報処理装置1は、搭乗者Uの幸福感を喚起するコンテンツを出力する。当該コンテンツは、搭乗者Uの感情を第2段階よりも覚醒化させるコンテンツであり、例えば搭乗者Uに関係する人物(家族等)の情報である。具体的には、情報処理装置1は、家族との思い出(写真等)、当日の家族の出来事(搭乗者Uへのチャットメッセージ、SNS投稿記事等)をディスプレイDSに表示する。例えば情報処理装置1は、コンテンツDB151から家族の思い出に相当する情報を読み出すと共に、搭乗者Uが利用するチャットアプリケーションからメッセージ等を取得して表示する。
Next, the
次に情報処理装置1は、搭乗者Uの感情が、幸福感が喚起された状態に遷移したか否かを判定する。幸福感が喚起された状態に遷移したと判定した場合、情報処理装置1は、搭乗者Uの今後(例えば週末)のスケジュールをディスプレイDSに表示する。情報処理装置1は、搭乗者Uが利用するスケジューラ等のアプリケーションからスケジュールを取得し、第4段階のコンテンツとして出力する。
The
このように、情報処理装置1は、同じ2地点を移動する場合であっても、往路又は復路の別に応じて異なるコンテンツ群を出力する。これにより、往路又は復路に応じて搭乗者Uの感情を適切な状態に誘導することができる。
In this way, the
往路又は復路に応じて異なるコンテンツを出力する点以外は実施の形態1と同様であるため、本実施の形態ではフローチャート等の詳細な説明省略する。 This embodiment is the same as the first embodiment except that different content is output depending on whether it is an outbound or inbound journey, so detailed explanations of the flow charts, etc. will be omitted in this embodiment.
(実施の形態3)
実施の形態1では、複数段階のコンテンツをそれぞれ出力する際に、コンテンツの出力時間を残り所要時間と比較してコンテンツ出力の適否を判定する形態について説明した。一方で、通勤等で本システムを連日利用する場合、コンテンツの提示によって要する搭乗者Uの感情の遷移時間は似たような時間を取ることが想定される。本実施の形態では、感情誘導に要した遷移時間を学習した機械学習モデルを構築(生成)し、当該モデルに基づく遷移時間の推定値に応じてコンテンツ出力の適否を判定する形態について説明する。
(Embodiment 3)
In the first embodiment, a form has been described in which the output time of the content is compared with the remaining required time when outputting each of the multiple stages of content to determine whether the content output is appropriate. On the other hand, when the present system is used every day for commuting, etc., it is expected that the transition time of the passenger U's emotions required by the presentation of the content will take a similar amount of time. In the present embodiment, a machine learning model that learns the transition time required for emotion induction is constructed (generated), and the appropriateness of the content output is determined according to an estimated value of the transition time based on the model.
図11は、実施の形態3に係る記憶部15を示すブロック図である。本実施の形態に係る情報処理装置1の記憶部15は、コンテンツDB151、第1モデル51のほかに、第2モデル52を記憶している。第2モデル52は、所定の訓練データを学習済みの機械学習モデルであり、搭乗者Uの検出情報を入力した場合に、次段階の感情に遷移するまでの遷移時間を推定するモデルである。第2モデル52は、人工知能ソフトウェアの一部を構成するプログラムモジュールとしての利用が想定される。
FIG. 11 is a block diagram showing the
第2モデル52は、例えば第1モデル51と同様に、深層学習によって構築されたCNN等のニューラルネットワークである。例えば第2モデル52は、人物を撮像した画像と、当該人物に対してコンテンツを提示(出力)した場合に、目標とする次段階の感情への遷移に要する遷移時間とのペアを訓練データとして学習してある。
The
具体的には、第2モデル52は、第2モデル52がインストールされた情報処理装置1が設置されている車両Cの搭乗者U(ユーザ)の画像と、当該搭乗者Uに対するコンテンツの出力によって要した次段階への遷移時間とを訓練データとして学習してある。例えば情報処理装置1は、搭乗者Uが本システムを利用する場合に、搭乗者UのユーザID、及び搭乗者Uに対して出力したコンテンツのコンテンツIDと対応付けて、コンテンツ出力時点の搭乗者Uの画像と、当該コンテンツの次の段階に対応する感情への遷移時間の実績値とを記憶しておく。情報処理装置1は、搭乗者Uの画像のほか、搭乗者Uを表すユーザID、及び出力するコンテンツを表すコンテンツIDを訓練用の入力データとし、遷移時間の実績値を正解値として第2モデル52に与え、学習させる。なお、学習自体は情報処理装置1以外の装置(例えばクラウド上のサーバコンピュータ)で実行してもよい。
Specifically, the
情報処理装置1は、各段階のコンテンツを出力する際に、搭乗者Uの画像等を第2モデル52に入力し、出力するコンテンツで誘導目標とする感情、すなわち次の段階の感情への遷移時間を推定する。例えば第2段階のコンテンツを出力する場合、情報処理装置1は、第2段階から第3段階の感情への遷移時間を推定する。
When outputting the content for each stage, the
情報処理装置1は、推定した遷移時間を、目的地への残り所要時間と比較する。そして情報処理装置1は、遷移時間が残り所要時間以内である場合、コンテンツを出力する。
The
図12は、実施の形態3に係る情報処理装置1が実行する処理手順の一例を示すフローチャートである。次段階のコンテンツの出力時間が残り所要時間以内であると判定した場合(S19:YES)、情報処理装置1は以下の処理を実行する。
Figure 12 is a flowchart showing an example of a processing procedure executed by the
情報処理装置1の制御部11は、センシング機器SMから取得した搭乗者Uの検出情報を第2モデル52に入力して、搭乗者Uの感情が、ステップS20で新たに出力するコンテンツの更に次の段階に対応する感情に遷移するまでに要する遷移時間を推定する(ステップS301)。具体的には上述の如く、制御部11は、搭乗者Uを撮像した画像等を第2モデルに入力して、遷移時間を推定する。
The
制御部11は、推定した遷移時間が、残り所要時間以内であるか否かを判定する(ステップS302)。残り所要時間以内でないと判定した場合(S302:NO)、制御部11は処理をステップS21に移行する。残り所要時間以内であると判定した場合(S302:YES)、制御部11は、次段階のコンテンツを出力する(ステップS20)。
The
以上より、本実施の形態3によれば、搭乗者Uの感情遷移に要する遷移時間を予測し、コンテンツ出力の適否を判定することができる。 As described above, according to this third embodiment, it is possible to predict the time required for the passenger U's emotional transition and determine whether or not to output content.
(実施の形態4)
実施の形態1では、複数のコンテンツを予め定められた順序で出力する形態について説明した。一方で、各コンテンツの出力条件となる感情に遷移したか否かを同時並行で判定し、出力条件を満たし次第、各コンテンツを出力するようにしてもよい。本実施の形態では、複数のコンテンツの出力順序を規定せず、同時並行で出力する形態について説明する。
(Embodiment 4)
In the first embodiment, a form in which multiple contents are output in a predetermined order has been described. On the other hand, it is also possible to simultaneously determine whether or not each content has transitioned to an emotion that is an output condition for each content, and output each content as soon as the output condition is satisfied. In the present embodiment, a form in which multiple contents are output simultaneously without specifying the output order will be described.
図13は、実施の形態4に係る情報処理装置1が実行する処理手順を示すフローチャートである。目的地の入力を受け付け(ステップS11)、コンテンツ出力対象とする搭乗者Uを特定した後(ステップS12)、情報処理装置1は以下の処理を実行する。
Figure 13 is a flowchart showing the processing procedure executed by the
情報処理装置1の制御部11は、ステップS11で入力された目的地に該当し、かつ、ステップS12で特定した搭乗者Uに対応するコンテンツをコンテンツDB151から取得する(ステップS401)。具体的には、制御部11は、出力条件とする複数の感情それぞれに対応付けられた複数のコンテンツを取得する。
The
本実施の形態に係るコンテンツ群は、実施の形態1とは異なり、コンテンツの出力順序、すなわち段階が規定されていない。コンテンツDB151には、各コンテンツと対応付けて出力条件とする感情のみが規定されており、情報処理装置1は、各コンテンツの出力条件である感情に搭乗者Uの感情が一致した場合、出力条件を満たしたコンテンツを出力する。
Unlike
制御部11は、搭乗者Uに関する検出情報をセンシング機器SMから取得する(ステップS402)。制御部11は、取得した検出情報に基づき、搭乗者Uの感情を推定する(ステップS403)。
The
制御部11は、コンテンツDB151で規定されている各コンテンツの出力条件の感情と、ステップS403で推定した搭乗者Uの感情とを比較して、出力条件を満たす該当コンテンツがあるか否かを判定する(ステップS404)。該当コンテンツがないと判定した場合(S404:NO)、制御部11は処理をステップS402に戻す。
The
該当コンテンツがあると判定した場合(S404:YES)、制御部11は、目的地までの残り所要時間を取得する(ステップS405)。制御部11は、該当コンテンツの出力時間が残り所要時間以内であるか否かを判定する(ステップS406)。残り所要時間以内であると判定した場合(S406:YES)、制御部11は、該当コンテンツを出力する(ステップS407)。
If it is determined that the relevant content is present (S404: YES), the
ここで、本実施の形態では出力条件を満たし次第コンテンツを出力するため、ステップS407で該当コンテンツを出力する際に、他のコンテンツを出力中である場合が想定される。この場合、例えば情報処理装置1は、出力中のコンテンツと同時に該当コンテンツを出力すると好適である。
In this embodiment, since the content is output as soon as the output conditions are satisfied, it is assumed that other content is being output when the relevant content is output in step S407. In this case, for example, it is preferable for the
例えばコンテンツとして、ディスプレイDSに画像を表示する場合について説明する。この場合、情報処理装置1は、出力中のコンテンツに係る画像とは別のディスプレイDS上の表示箇所に、該当コンテンツに係る画像を表示する。例えば情報処理装置1は、出力中のコンテンツに係る画像を表示している車窓とは別の車窓に、該当コンテンツに係る画像を表示する。
For example, a case will be described where an image is displayed on the display DS as content. In this case, the
例えば情報処理装置1は、最先に出力を開始したコンテンツをフロントガラスに表示すると共に、その後に出力を開始するコンテンツを、フロントガラス以外の車窓(例えばフロントドアガラス)に表示する。フロントガラスに表示中のコンテンツが終了した場合、情報処理装置1は、別の車窓に表示中のコンテンツをフロントガラスに移動させて表示する。
For example, the
なお、上記は同時出力(表示)の一例であって、本実施の形態はこれに限定されるものではない。例えば情報処理装置1は、最新のコンテンツ(該当コンテンツ)を優先してフロントガラスに表示し、従前のコンテンツを別の車窓に移動させる等してもよい。
Note that the above is an example of simultaneous output (display), and the present embodiment is not limited to this. For example, the
ステップS407の処理を実行後、又はステップS406でNOの場合、制御部11は、目的地に到着したか否かを判定する(ステップS408)。目的地に到着していないと判定した場合(S408:NO)、制御部11は処理をステップS402に戻す。目的地に到着したと判定した場合(S408:YES)、制御部11は一連の処理を終了する。
After executing the process of step S407, or if the result of step S406 is NO, the
以上より、本実施の形態4によれば、複数のコンテンツの出力順序を定めず、同時並行で出力してもよい。 As described above, according to the fourth embodiment, multiple contents may be output simultaneously in parallel without specifying the output order.
各実施の形態において記載した技術的特徴(構成要件)は、互いに組み合わせが可能であり、組み合わせ箇所には新たな技術的思想が形成される。今回開示した実施の形態は、全てが例示であって制限的なものでない。 The technical features (constituent elements) described in each embodiment can be combined with each other, and new technical ideas are formed at the points of combination. The embodiments disclosed here are all illustrative and not restrictive.
本発明の範囲は、上記の意味でなく特許請求の範囲を示すものであり、特許請求の範囲と均等の意味及び範囲内における全ての変更を含むことを意図するものである。 The scope of the present invention is defined by the claims rather than the above meaning, and is intended to include all modifications within the scope and meaning equivalent to the claims.
1 情報処理装置
11 制御部
110 演算処理部
111 ROM
112 RAM
12 通信部
13 入力インタフェース
14 出力インタフェース
15 記憶部
151 コンテンツDB
51 第1モデル
52 第2モデル
C 車両
U 搭乗者
ST 座席
IM 照明装置
SP スピーカ
AF 芳香装置
AC 空調装置
SM センシング機器
SM1 カメラ
SM2 マイク
NB 車載ナビゲーション装置
DS ディスプレイ
OP 操作ユニット
N ネットワーク
REFERENCE SIGNS
112 RAM
12
51
Claims (10)
所定のセンシング機器を用いて検出した前記搭乗者に関する検出情報を取得する第2取得部と、
取得した前記検出情報に基づいて前記搭乗者の感情を推定する推定部と、
前記車両に設けられた出力機器に、推定した前記搭乗者の感情に対応する段階の前記コンテンツを選択して出力する出力制御部と、
前記車両の現在地から目的地までの残り所要時間を取得する第3取得部とを備え、
前記出力制御部は、前記残り所要時間と、残りの前記コンテンツの総出力時間とに基づいて、前記コンテンツの出力を制御し、
前記推定部は、一の段階に対応する前記コンテンツを出力後、前記搭乗者の感情が、前記一の段階に続く次の段階の感情に遷移したか否かを判定し、
前記出力制御部は、前記次の段階の感情に遷移したと判定した場合に、該次の段階に対応する前記コンテンツを出力し、
前記検出情報を入力した場合に前記次の段階に遷移するまでの遷移時間を推定するように学習済みのモデルであって、前記搭乗者の過去の前記検出情報及び遷移時間を学習済みのモデルに、取得した前記検出情報を入力して前記遷移時間を推定する遷移時間推定部を備え、
前記出力制御部は、推定した前記遷移時間と、前記次の段階に対応する前記コンテンツの出力時間とに基づいて、前記次の段階に対応する前記コンテンツを出力するか否かを判定する
情報処理装置。 a first acquisition unit that acquires a plurality of stages of content corresponding to each of a plurality of stages of emotions that induce a passenger in a vehicle to have a specific emotion based on a destination when the passenger arrives at the destination;
A second acquisition unit that acquires detection information regarding the passenger detected by using a predetermined sensing device;
an estimation unit that estimates an emotion of the passenger based on the acquired detection information;
an output control unit that selects and outputs the content corresponding to the estimated emotion of the passenger to an output device provided in the vehicle;
a third acquisition unit that acquires a remaining required time from a current location of the vehicle to a destination,
the output control unit controls output of the content based on the remaining required time and a total output time of the remaining content;
the estimation unit determines whether or not the emotion of the passenger has transitioned to an emotion of a next stage subsequent to the first stage after outputting the content corresponding to the first stage;
When it is determined that the emotion has transitioned to the next emotion level, the output control unit outputs the content corresponding to the next emotion level;
a trained model for estimating a transition time until a transition to the next stage when the detection information is input, the trained model including the past detection information and transition times of the occupant being input with the acquired detection information, the trained model including the transition time estimation unit estimating the transition time;
The output control unit determines whether to output the content corresponding to the next stage based on the estimated transition time and an output time of the content corresponding to the next stage.
Information processing device.
前記出力制御部は、前記搭乗者の感情が前記覚醒状態に遷移したか否かを判定し、
前記出力制御部は、前記覚醒状態に遷移したと判定した場合、前記搭乗者の競争心を喚起するコンテンツとして、前記搭乗者の競争相手の情報を出力する
請求項1に記載の情報処理装置。 the output control unit outputs content that induces an emotion of the occupant from a non-awakened state to an awakened state as the content corresponding to the one stage,
The output control unit determines whether or not an emotion of the occupant has transitioned to the awakening state,
The information processing device according to claim 1 , wherein when it is determined that the occupant has transitioned to the wakefulness state, the output control unit outputs information about a competitor of the occupant as content that stimulates the occupant's competitive spirit.
前記出力制御部は、前記競争心が喚起された状態に遷移したと判定した場合、前記搭乗者の目標を想起するコンテンツを出力する
請求項2に記載の情報処理装置。 the estimation unit determines whether or not the emotion of the passenger has transitioned to a state in which the passenger's competitive spirit has been aroused after outputting content that arouses the passenger's competitive spirit;
The information processing device according to claim 2 , wherein the output control unit outputs content that reminds the rider of a goal when it is determined that the rider has transitioned to a state in which the competitive spirit is aroused.
前記推定部は、前記搭乗者の感情が前記快適状態に遷移したか否かを判定し、
前記出力制御部は、前記快適状態に遷移したと判定した場合、前記搭乗者の安心感を喚起するコンテンツとして、所定の物語の朗読音声、又はエンターテイメント情報を出力する
請求項1~3の何れか1つに記載の情報処理装置。 the output control unit outputs, as the content corresponding to the one stage, content for inducing an emotion of the passenger from an uncomfortable state to a comfortable state;
The estimation unit determines whether or not the emotion of the occupant has transitioned to the comfortable state,
The information processing device according to any one of claims 1 to 3 , wherein when the output control unit determines that the passenger has transitioned to the comfortable state, the output control unit outputs a voice reading a predetermined story or entertainment information as content that evokes a sense of security in the passenger.
前記出力制御部は、前記安心感が喚起された状態に遷移したと判定した場合、前記搭乗者に関係する人物を想起するコンテンツを出力する
請求項4に記載の情報処理装置。 the estimation unit determines whether or not an emotion of the passenger has transitioned to a state in which a sense of security is evoked after outputting content that evokes a sense of security in the passenger;
The information processing device according to claim 4 , wherein the output control unit outputs content that recalls a person related to the passenger when it is determined that the state has transitioned to a state in which a sense of security is evoked.
請求項1~5の何れか1つに記載の情報処理装置。 The information processing device according to claim 1 , wherein the output control unit determines whether or not to output the selected content based on the remaining required time and an output time of the content.
前記出力制御部は、前記交通情報に応じて前記残り所要時間を増減する
請求項6に記載の情報処理装置。 A fourth acquisition unit that acquires traffic information around the vehicle,
The information processing device according to claim 6 , wherein the output control unit increases or decreases the remaining required time in accordance with the traffic information.
請求項1~7のいずれか1項に記載の情報処理装置。 The information processing device according to any one of claims 1 to 7, wherein the first acquisition unit acquires the multiple stages of content that differ depending on whether the vehicle travels on an outbound route starting from a first point that is the passenger's base and traveling to a specified second point as the destination, or on whether the vehicle travels on a return route starting from the second point and traveling to the first point as the destination.
前記第1取得部は、推定した前記特定の感情に対応する前記複数段階のコンテンツを取得する
請求項1~8のいずれか1項に記載の情報処理装置。 a goal estimation unit that estimates the specific emotion as a final goal according to a destination of the vehicle, a departure date and time, or a passenger other than the passenger;
The information processing device according to claim 1 , wherein the first acquisition unit acquires the plurality of stages of content corresponding to the estimated specific emotion.
所定のセンシング機器を用いて検出した前記搭乗者に関する検出情報を取得し、
取得した前記検出情報に基づいて前記搭乗者の感情を推定し、
前記車両に設けられた出力機器に、推定した前記搭乗者の感情に対応する段階の前記コンテンツを選択して出力し、
前記車両の現在地から目的地までの残り所要時間を取得し、
前記残り所要時間と、残りの前記コンテンツの総出力時間とに基づいて、前記コンテンツの出力を制御し、
一の段階に対応する前記コンテンツを出力後、前記搭乗者の感情が、前記一の段階に続く次の段階の感情に遷移したか否かを判定し、
前記次の段階の感情に遷移したと判定した場合に、該次の段階に対応する前記コンテンツを出力し、
前記検出情報を入力した場合に前記次の段階に遷移するまでの遷移時間を推定するように学習済みのモデルであって、前記搭乗者の過去の前記検出情報及び遷移時間を学習済みのモデルに、取得した前記検出情報を入力して前記遷移時間を推定し、
推定した前記遷移時間と、前記次の段階に対応する前記コンテンツの出力時間とに基づいて、前記次の段階に対応する前記コンテンツを出力するか否かを判定する
処理をコンピュータが実行する感情誘導方法。 acquiring a content for inducing an emotion of a passenger in a vehicle to a specific emotion based on a destination when the passenger arrives at the destination, the content corresponding to each of the multiple emotion levels for inducing the specific emotion;
Obtaining detection information regarding the passenger detected using a predetermined sensing device;
Estimating the emotion of the passenger based on the acquired detection information;
Selecting and outputting the content corresponding to the estimated emotion of the passenger to an output device installed in the vehicle;
Obtaining the remaining time required to travel from the current location of the vehicle to the destination;
Controlling output of the content based on the remaining required time and a total output time of the remaining content;
After outputting the content corresponding to the first stage, it is determined whether or not the emotion of the passenger has transitioned to an emotion of a next stage following the first stage;
When it is determined that the emotion has transitioned to the next emotion level, the content corresponding to the next emotion level is output.
a trained model for estimating a transition time until a transition to the next stage when the detection information is input, the model having learned the past detection information and transition time of the occupant being inputted with the acquired detection information to estimate the transition time;
Based on the estimated transition time and an output time of the content corresponding to the next stage, it is determined whether or not to output the content corresponding to the next stage.
An emotion induction method in which processing is performed by a computer.
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US202063106453P | 2020-10-28 | 2020-10-28 | |
| US63/106,453 | 2020-10-28 | ||
| JP2021020128A JP2022071800A (en) | 2020-10-28 | 2021-02-10 | Information processing device and emotion guidance method |
Related Parent Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021020128A Division JP2022071800A (en) | 2020-10-28 | 2021-02-10 | Information processing device and emotion guidance method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2023027783A JP2023027783A (en) | 2023-03-02 |
| JP7470171B2 true JP7470171B2 (en) | 2024-04-17 |
Family
ID=81593853
Family Applications (8)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021020128A Pending JP2022071800A (en) | 2020-10-28 | 2021-02-10 | Information processing device and emotion guidance method |
| JP2021020124A Active JP7236478B2 (en) | 2020-10-28 | 2021-02-10 | Information processing system, computer program, and display method |
| JP2021020126A Active JP7157188B2 (en) | 2020-10-28 | 2021-02-10 | Information processing method, information processing system and program |
| JP2021020127A Active JP7170076B2 (en) | 2020-10-28 | 2021-02-10 | Information processing method and information processing system |
| JP2021020125A Pending JP2022071797A (en) | 2020-10-28 | 2021-02-10 | Vehicle and display method |
| JP2021020129A Active JP7122408B2 (en) | 2020-10-28 | 2021-02-10 | Information processing device and information processing method |
| JP2022126460A Active JP7340078B2 (en) | 2020-10-28 | 2022-08-08 | Information processing device and program |
| JP2022178790A Active JP7470171B2 (en) | 2020-10-28 | 2022-11-08 | Information processing device and emotion induction method |
Family Applications Before (7)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021020128A Pending JP2022071800A (en) | 2020-10-28 | 2021-02-10 | Information processing device and emotion guidance method |
| JP2021020124A Active JP7236478B2 (en) | 2020-10-28 | 2021-02-10 | Information processing system, computer program, and display method |
| JP2021020126A Active JP7157188B2 (en) | 2020-10-28 | 2021-02-10 | Information processing method, information processing system and program |
| JP2021020127A Active JP7170076B2 (en) | 2020-10-28 | 2021-02-10 | Information processing method and information processing system |
| JP2021020125A Pending JP2022071797A (en) | 2020-10-28 | 2021-02-10 | Vehicle and display method |
| JP2021020129A Active JP7122408B2 (en) | 2020-10-28 | 2021-02-10 | Information processing device and information processing method |
| JP2022126460A Active JP7340078B2 (en) | 2020-10-28 | 2022-08-08 | Information processing device and program |
Country Status (1)
| Country | Link |
|---|---|
| JP (8) | JP2022071800A (en) |
Families Citing this family (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7545449B2 (en) * | 2022-08-24 | 2024-09-04 | ソフトバンク株式会社 | Information processing device, program, and information processing method |
| DE102022210497A1 (en) * | 2022-10-04 | 2024-04-04 | Volkswagen Aktiengesellschaft | Method and control device for controlling a display device of a navigation system of a vehicle, display device and vehicle |
| JP2025082746A (en) * | 2023-11-17 | 2025-05-29 | 株式会社豊田中央研究所 | Information processing system, information processing method, and program |
| WO2025150317A1 (en) * | 2024-01-09 | 2025-07-17 | パナソニックIpマネジメント株式会社 | Control device, control method for control device, and control program for control device |
| WO2025177637A1 (en) * | 2024-02-22 | 2025-08-28 | コニカミノルタ株式会社 | Content display system, content image selection method, and content selection program |
| WO2025234158A1 (en) * | 2024-05-10 | 2025-11-13 | ソニーグループ株式会社 | Information processing system, information processing method, and program |
Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004212160A (en) | 2002-12-27 | 2004-07-29 | Matsushita Electric Ind Co Ltd | Route search device and vehicle environment change device |
| JP2005010664A (en) | 2003-06-20 | 2005-01-13 | Matsushita Electric Ind Co Ltd | In-vehicle content playback system |
| JP2007145226A (en) | 2005-11-29 | 2007-06-14 | Denso Corp | Automotive user hospitality system |
| JP2007145225A (en) | 2005-11-29 | 2007-06-14 | Denso Corp | Automotive user hospitality system |
| JP2009023613A (en) | 2007-07-23 | 2009-02-05 | Denso Corp | Automotive user hospitality system |
| JP2009208727A (en) | 2008-03-06 | 2009-09-17 | Denso Corp | User hospitality system for vehicle |
| JP2016137204A (en) | 2015-01-29 | 2016-08-04 | マツダ株式会社 | Vehicle occupant emotion response control device |
| JP2019515730A (en) | 2016-04-18 | 2019-06-13 | マサチューセッツ インスティテュート オブ テクノロジー | Feature extraction from physiological signals |
| JP2019208576A (en) | 2018-05-31 | 2019-12-12 | 株式会社デンソー | Emotion data acquisition device and emotion operation device |
| JP6683163B2 (en) | 2017-03-29 | 2020-04-15 | マツダ株式会社 | Vehicle driving support system |
| JP2020130528A (en) | 2019-02-18 | 2020-08-31 | 沖電気工業株式会社 | Emotion estimation device, emotion estimation method, program, and emotion estimation system |
| JP2020170345A (en) | 2019-04-03 | 2020-10-15 | トヨタ自動車株式会社 | Vehicle driving advice providing system |
Family Cites Families (56)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH09183334A (en) * | 1995-12-28 | 1997-07-15 | Fujita Corp | Mobile office |
| JP3474053B2 (en) * | 1996-04-16 | 2003-12-08 | 株式会社日立製作所 | Map display method for navigation device and navigation device |
| FR2806042B1 (en) * | 2000-03-13 | 2002-07-12 | Renault | DASHBOARD WITH TABLET FOR MOTOR VEHICLE |
| JP3920580B2 (en) | 2001-03-14 | 2007-05-30 | トヨタ自動車株式会社 | Information presentation system and information presentation method |
| WO2003020572A1 (en) * | 2001-08-31 | 2003-03-13 | Johnson Controls Technology Company | Stowable steering wheel |
| JP2003143477A (en) | 2001-10-31 | 2003-05-16 | Canon Inc | Image synthesizing apparatus and method |
| JP3931336B2 (en) | 2003-09-26 | 2007-06-13 | マツダ株式会社 | Vehicle information providing device |
| FR2861657B1 (en) * | 2003-11-04 | 2007-01-19 | Peugeot Citroen Automobiles Sa | DRIVING STATION OF A MOTOR VEHICLE |
| JP4062735B2 (en) | 2004-01-20 | 2008-03-19 | マツダ株式会社 | Image display device for vehicle |
| JP3928875B2 (en) | 2004-01-20 | 2007-06-13 | マツダ株式会社 | Image display device for vehicle |
| JP5083559B2 (en) | 2008-06-02 | 2012-11-28 | カシオ計算機株式会社 | Image composition apparatus, image composition method, and program |
| JP2011055250A (en) | 2009-09-02 | 2011-03-17 | Sony Corp | Information providing method and apparatus, information display method and mobile terminal, program, and information providing system |
| JP2012019895A (en) * | 2010-07-13 | 2012-02-02 | Kokuyo Co Ltd | Top board and furniture with top board |
| JP5714855B2 (en) | 2010-09-16 | 2015-05-07 | オリンパス株式会社 | Image generation system, program, and information storage medium |
| JP2012243007A (en) * | 2011-05-18 | 2012-12-10 | Toshiba Corp | Image display device and image area selection method using the same |
| JP5703194B2 (en) * | 2011-11-14 | 2015-04-15 | 株式会社東芝 | Gesture recognition apparatus, method thereof, and program thereof |
| JP6021488B2 (en) * | 2012-07-19 | 2016-11-09 | キヤノン株式会社 | Control device, control method, and control program |
| WO2014032822A2 (en) * | 2012-08-29 | 2014-03-06 | Johnson Controls Gmbh | Device and method for controlling vehicle functions by the detection of user interaction |
| JP6031972B2 (en) | 2012-11-27 | 2016-11-24 | 富士通株式会社 | Perceptual reaction analyzer, its method and program |
| US20150304593A1 (en) * | 2012-11-27 | 2015-10-22 | Sony Corporation | Display apparatus, display method, and computer program |
| EP2746833A1 (en) * | 2012-12-18 | 2014-06-25 | Volvo Car Corporation | Vehicle adaptation to automatic driver independent control mode |
| JP6015547B2 (en) * | 2013-05-09 | 2016-10-26 | 株式会社デンソー | Line-of-sight input device |
| US9440660B2 (en) * | 2014-07-22 | 2016-09-13 | Toyota Motor Engineering & Manufacturing North America, Inc. | Method for remote communication with and through a vehicle |
| JP2016053880A (en) | 2014-09-04 | 2016-04-14 | 株式会社ランディード | On-vehicle system, information processing method, and computer program |
| JP6384869B2 (en) * | 2015-01-23 | 2018-09-05 | アルパイン株式会社 | Information processing system and computer program |
| KR101687543B1 (en) * | 2015-04-27 | 2016-12-19 | 엘지전자 주식회사 | Display apparatus and method for controlling the same |
| CN108028015B (en) | 2015-09-18 | 2021-07-23 | 索尼公司 | Information processing apparatus, information processing method, and storage medium |
| BR112018005380B1 (en) | 2015-09-18 | 2021-12-28 | Nissan Motor Co., Ltd. | VISUALIZATION DEVICE FOR VEHICLES AND VEHICLE VISUALIZATION METHOD |
| US10578864B2 (en) * | 2015-10-09 | 2020-03-03 | Maxell, Ltd. | Head-up display device |
| JP6556643B2 (en) * | 2016-02-19 | 2019-08-07 | ヒュンダイ・モービス・カンパニー・リミテッド | Head-up display device |
| JP2017191378A (en) | 2016-04-11 | 2017-10-19 | 富士通テン株式会社 | Augmented reality information display device and augmented reality information display method |
| JP6402136B2 (en) * | 2016-05-17 | 2018-10-10 | オートリブ ディベロップメント エービー | Side airbag device |
| KR102581359B1 (en) | 2016-09-02 | 2023-09-20 | 엘지전자 주식회사 | User interface apparatus for vehicle and Vehicle |
| JP7067482B2 (en) | 2016-11-04 | 2022-05-16 | ソニーグループ株式会社 | Controls, recording media, and programs |
| US10257582B2 (en) | 2017-03-17 | 2019-04-09 | Sony Corporation | Display control system and method to generate a virtual environment in a vehicle |
| JP6947873B2 (en) | 2017-03-17 | 2021-10-13 | マクセル株式会社 | AR display device, AR display method, and program |
| WO2019044400A1 (en) * | 2017-08-28 | 2019-03-07 | 株式会社日立産機システム | Motor drive system |
| JP6819539B2 (en) * | 2017-10-20 | 2021-01-27 | 株式会社デンソー | Gesture input device |
| JP2019113407A (en) | 2017-12-22 | 2019-07-11 | トヨタ自動車株式会社 | Picture display device |
| JP7475812B2 (en) | 2018-01-04 | 2024-04-30 | ハーマン インターナショナル インダストリーズ インコーポレイテッド | Mood roof for an enhanced media experience in the vehicle cabin |
| JP2019124601A (en) * | 2018-01-17 | 2019-07-25 | トヨタ自動車株式会社 | Display device for vehicle |
| JP6973141B2 (en) * | 2018-02-07 | 2021-11-24 | トヨタ自動車株式会社 | Display device for vehicles |
| JP2019140571A (en) | 2018-02-13 | 2019-08-22 | 三菱電機株式会社 | Content reproduction control device, content reproduction system, and program |
| JP2019159867A (en) * | 2018-03-14 | 2019-09-19 | 日本精機株式会社 | Head mounted display, image display method for head mounted display, and control program for head mounted display |
| JP7124367B2 (en) * | 2018-03-20 | 2022-08-24 | トヨタ自動車株式会社 | Work support system, information processing method and program |
| JP7064371B2 (en) | 2018-04-17 | 2022-05-10 | 株式会社Nttドコモ | Dimming control method for content display system, server device, display terminal and content display system |
| US10592197B2 (en) * | 2018-04-24 | 2020-03-17 | Adobe Inc. | Gesture-based alignment methodology to extend the viewport on adjacent touch screen devices |
| JP2020003953A (en) * | 2018-06-26 | 2020-01-09 | 日産自動車株式会社 | Image irradiation method and user interface device |
| JP2020053795A (en) * | 2018-09-26 | 2020-04-02 | 株式会社Jvcケンウッド | Display control device, video management server device, display system, display control method, and program |
| WO2020069517A2 (en) * | 2018-09-30 | 2020-04-02 | Strong Force Intellectual Capital, Llc | Intelligent transportation systems |
| JP7163732B2 (en) * | 2018-11-13 | 2022-11-01 | トヨタ自動車株式会社 | Driving support device, driving support system, driving support method and program |
| JP6741746B2 (en) * | 2018-12-26 | 2020-08-19 | 株式会社ポケモン | Program, game server, information processing terminal, method and game system |
| JP7028228B2 (en) | 2019-01-16 | 2022-03-02 | 株式会社デンソー | Display system, display control device and display control program |
| WO2020158536A1 (en) | 2019-01-30 | 2020-08-06 | ソニー株式会社 | Information processing system, information processing method, and information processing device |
| WO2020183893A1 (en) * | 2019-03-14 | 2020-09-17 | ソニー株式会社 | Information processing device, information processing method, and moving body device |
| JP7437630B2 (en) | 2020-03-23 | 2024-02-26 | パナソニックIpマネジメント株式会社 | Display device, display method, and vehicle |
-
2021
- 2021-02-10 JP JP2021020128A patent/JP2022071800A/en active Pending
- 2021-02-10 JP JP2021020124A patent/JP7236478B2/en active Active
- 2021-02-10 JP JP2021020126A patent/JP7157188B2/en active Active
- 2021-02-10 JP JP2021020127A patent/JP7170076B2/en active Active
- 2021-02-10 JP JP2021020125A patent/JP2022071797A/en active Pending
- 2021-02-10 JP JP2021020129A patent/JP7122408B2/en active Active
-
2022
- 2022-08-08 JP JP2022126460A patent/JP7340078B2/en active Active
- 2022-11-08 JP JP2022178790A patent/JP7470171B2/en active Active
Patent Citations (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2004212160A (en) | 2002-12-27 | 2004-07-29 | Matsushita Electric Ind Co Ltd | Route search device and vehicle environment change device |
| JP2005010664A (en) | 2003-06-20 | 2005-01-13 | Matsushita Electric Ind Co Ltd | In-vehicle content playback system |
| JP2007145226A (en) | 2005-11-29 | 2007-06-14 | Denso Corp | Automotive user hospitality system |
| JP2007145225A (en) | 2005-11-29 | 2007-06-14 | Denso Corp | Automotive user hospitality system |
| JP2009023613A (en) | 2007-07-23 | 2009-02-05 | Denso Corp | Automotive user hospitality system |
| JP2009208727A (en) | 2008-03-06 | 2009-09-17 | Denso Corp | User hospitality system for vehicle |
| JP2016137204A (en) | 2015-01-29 | 2016-08-04 | マツダ株式会社 | Vehicle occupant emotion response control device |
| JP2019515730A (en) | 2016-04-18 | 2019-06-13 | マサチューセッツ インスティテュート オブ テクノロジー | Feature extraction from physiological signals |
| JP6683163B2 (en) | 2017-03-29 | 2020-04-15 | マツダ株式会社 | Vehicle driving support system |
| JP2019208576A (en) | 2018-05-31 | 2019-12-12 | 株式会社デンソー | Emotion data acquisition device and emotion operation device |
| JP2020130528A (en) | 2019-02-18 | 2020-08-31 | 沖電気工業株式会社 | Emotion estimation device, emotion estimation method, program, and emotion estimation system |
| JP2020170345A (en) | 2019-04-03 | 2020-10-15 | トヨタ自動車株式会社 | Vehicle driving advice providing system |
Also Published As
| Publication number | Publication date |
|---|---|
| JP7340078B2 (en) | 2023-09-06 |
| JP2022071801A (en) | 2022-05-16 |
| JP2022071800A (en) | 2022-05-16 |
| JP2022071798A (en) | 2022-05-16 |
| JP2022171655A (en) | 2022-11-11 |
| JP7236478B2 (en) | 2023-03-09 |
| JP7122408B2 (en) | 2022-08-19 |
| JP7170076B2 (en) | 2022-11-11 |
| JP2023027783A (en) | 2023-03-02 |
| JP2022071797A (en) | 2022-05-16 |
| JP7157188B2 (en) | 2022-10-19 |
| JP2022071799A (en) | 2022-05-16 |
| JP2022071796A (en) | 2022-05-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7470171B2 (en) | Information processing device and emotion induction method | |
| JP7288911B2 (en) | Information processing device, mobile device, method, and program | |
| US12603090B2 (en) | Methods and vehicles for capturing emotion of a human driver and customizing vehicle response | |
| US10535341B2 (en) | Methods and vehicles for using determined mood of a human driver and moderating vehicle response | |
| US20170352267A1 (en) | Systems for providing proactive infotainment at autonomous-driving vehicles | |
| CN108688676A (en) | Vehicle drive support system and vehicle drive support method | |
| CN108688677A (en) | Vehicle drive support system and vehicle drive support method | |
| US20180025283A1 (en) | Information processing apparatus, information processing method, and program | |
| JP2020169956A (en) | Vehicle destination proposal system | |
| CN108688675A (en) | Vehicle drive support system | |
| Karas et al. | Audiovisual affect recognition for autonomous vehicles: Applications and future agendas | |
| JP2018200192A (en) | Point proposing device and point proposing method | |
| JP7537259B2 (en) | Attention target sharing device, attention target sharing method | |
| JP7806162B2 (en) | system | |
| JP2026045343A (en) | system | |
| JP2026024328A (en) | system | |
| JP2026070916A (en) | system | |
| JP2025058997A (en) | system | |
| JP2026025274A (en) | system | |
| JP2026050843A (en) | system | |
| JP2026051010A (en) | system | |
| JP2026066690A (en) | system | |
| JP2026033182A (en) | system | |
| JP2026073002A (en) | system | |
| JP2026025290A (en) | system |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221108 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230831 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231003 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231110 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240109 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240304 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240402 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240405 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7470171 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |