Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7470171B2 - Information processing device and emotion induction method - Google Patents
[go: Go Back, main page]

JP7470171B2 - Information processing device and emotion induction method - Google Patents

Information processing device and emotion induction method Download PDF

Info

Publication number
JP7470171B2
JP7470171B2 JP2022178790A JP2022178790A JP7470171B2 JP 7470171 B2 JP7470171 B2 JP 7470171B2 JP 2022178790 A JP2022178790 A JP 2022178790A JP 2022178790 A JP2022178790 A JP 2022178790A JP 7470171 B2 JP7470171 B2 JP 7470171B2
Authority
JP
Japan
Prior art keywords
content
passenger
emotion
processing device
output
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022178790A
Other languages
Japanese (ja)
Other versions
JP2023027783A (en
Inventor
正史 程塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Research Institute Ltd
Original Assignee
Japan Research Institute Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Japan Research Institute Ltd filed Critical Japan Research Institute Ltd
Publication of JP2023027783A publication Critical patent/JP2023027783A/en
Application granted granted Critical
Publication of JP7470171B2 publication Critical patent/JP7470171B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Processing Or Creating Images (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Instrument Panels (AREA)
  • Navigation (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Position Input By Displaying (AREA)
  • Television Signal Processing For Recording (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Traffic Control Systems (AREA)

Description

本発明は、情報処理装置及び感情誘導方法に関する。 The present invention relates to an information processing device and an emotion induction method.

従来、人間の感情の状態を制御する技術が提案されている(例えば、特許文献1を参照)。 Technologies for controlling a person's emotional state have been proposed in the past (see, for example, Patent Document 1).

特開2020-124392号公報JP 2020-124392 A

ところで搭乗者が車両で移動する際には、搭乗者の感情が目的地に適した感情になっていることが好ましく、移動する間に目的地に適した感情へと誘導することができれば好適である。しかしながら、提案された技術は、所定空間内に滞在している個人の感情を該所定空間に適した感情へと誘導する技術に過ぎない。 When a passenger travels in a vehicle, it is preferable that the passenger's emotions are appropriate for the destination, and it would be ideal if the passenger could be guided to emotions appropriate for the destination while traveling. However, the proposed technology is merely a technology that guides the emotions of an individual staying in a specified space to emotions appropriate for that specified space.

一つの側面では、車両に搭乗する搭乗者の感情を好適に誘導することができる情報処理装置等を提供することを目的とする。 In one aspect, the objective is to provide an information processing device etc. that can appropriately guide the emotions of passengers in a vehicle.

一つの側面に係る情報処理装置は、車両に搭乗する搭乗者の感情が目的地到着時に、目的地に基づいた特定の感情となるように誘導するためのコンテンツであって、前記特定の感情に誘導する複数段階の感情夫々に対応する複数段階のコンテンツを取得する第1取得部と、所定のセンシング機器を用いて検出した前記搭乗者に関する検出情報を取得する第2取得部と、取得した前記検出情報に基づいて前記搭乗者の感情を推定する推定部と、前記車両に設けられた出力機器に、推定した前記搭乗者の感情に対応する段階の前記コンテンツを選択して出力する出力制御部と、前記車両の現在地から目的地までの残り所要時間を取得する第3取得部とを備え、前記出力制御部は、前記残り所要時間と、残りの前記コンテンツの総出力時間とに基づいて、前記コンテンツの出力を制御し、前記推定部は、一の段階に対応する前記コンテンツを出力後、前記搭乗者の感情が、前記一の段階に続く次の段階の感情に遷移したか否かを判定し、前記出力制御部は、前記次の段階の感情に遷移したと判定した場合に、該次の段階に対応する前記コンテンツを出力し、前記検出情報を入力した場合に前記次の段階に遷移するまでの遷移時間を推定するように学習済みのモデルであって、前記搭乗者の過去の前記検出情報及び遷移時間を学習済みのモデルに、取得した前記検出情報を入力して前記遷移時間を推定する遷移時間推定部を備え、前記出力制御部は、推定した前記遷移時間と、前記次の段階に対応する前記コンテンツの出力時間とに基づいて、前記次の段階に対応する前記コンテンツを出力するか否かを判定する An information processing device according to one aspect includes a first acquisition unit that acquires a plurality of levels of content corresponding to a plurality of levels of emotions that induce an emotion of a passenger in a vehicle upon arrival at the destination, the plurality of levels of content corresponding to the plurality of emotions that induce the emotion of the passenger, the plurality of levels of emotion being determined based on the destination, a second acquisition unit that acquires detection information regarding the passenger detected using a predetermined sensing device, an estimation unit that estimates the emotion of the passenger based on the acquired detection information, an output control unit that selects and outputs the content of the level that corresponds to the estimated emotion of the passenger to an output device provided in the vehicle, and a third acquisition unit that acquires a remaining required time from a current location of the vehicle to the destination, the output control unit determining the remaining required time based on the remaining required time and a total output time of the remaining content. The output of content is controlled, and the estimation unit, after outputting the content corresponding to one stage, determines whether the occupant's emotion has transitioned to an emotion of the next stage following the first stage, and when it is determined that the emotion has transitioned to the next stage, outputs the content corresponding to the next stage, and a model that has been trained to estimate the transition time until the transition to the next stage when the detection information is input, is provided with a transition time estimation unit that inputs the acquired detection information into a model that has been trained with the occupant's past detection information and transition time to estimate the transition time, and the output control unit determines whether to output the content corresponding to the next stage based on the estimated transition time and the output time of the content corresponding to the next stage.

一つの側面では、車両に搭乗する搭乗者の感情を好適に誘導することができる。 In one aspect, it is possible to appropriately induce the emotions of passengers in a vehicle.

感情誘導システムの構成例を示す説明図である。FIG. 1 is an explanatory diagram showing a configuration example of an emotion induction system. 情報処理装置の構成例を示すブロック図である。1 is a block diagram showing an example of the configuration of an information processing device; 車両内部を示す模式図である。FIG. 2 is a schematic diagram showing the interior of a vehicle. コンテンツDBのレコードレイアウトの一例を示す説明図である。FIG. 2 is an explanatory diagram illustrating an example of a record layout of a content DB. 感情誘導処理の手順例を示す説明図である。FIG. 11 is an explanatory diagram showing an example of a procedure for emotion induction processing; 感情遷移過程の一例を示す説明図である。FIG. 11 is an explanatory diagram showing an example of an emotion transition process. 情報処理装置が実行する処理手順の一例を説明するフローチャートである。11 is a flowchart illustrating an example of a processing procedure executed by an information processing device. 実施の形態2に係るコンテンツDBのレコードレイアウトの一例を示す説明図である。FIG. 11 is an explanatory diagram showing an example of a record layout of a content DB according to the second embodiment; 実施の形態2に係る感情誘導処理の手順例を示す説明図である。FIG. 11 is an explanatory diagram showing an example of a procedure of emotion induction processing according to the second embodiment; 実実施の形態2に係る感情遷移過程の一例を示す説明図である。FIG. 11 is an explanatory diagram showing an example of an emotion transition process according to the second embodiment. 実施の形態3に係る記憶部を示すブロック図である。FIG. 11 is a block diagram showing a storage unit according to a third embodiment. 実施の形態3に係る情報処理装置が実行する処理手順の一例を示すフローチャートである。13 is a flowchart illustrating an example of a processing procedure executed by an information processing device according to the third embodiment. 実施の形態4に係る情報処理装置が実行する処理手順を示すフローチャートである。13 is a flowchart showing a processing procedure executed by an information processing device according to embodiment 4.

以下、本発明をその実施の形態を示す図面に基づいて説明する。
(実施の形態1)
図1は感情誘導システムの構成例を示す説明図である。本実施の形態では、車両Cが目的地に到着した際に、車両Cに搭乗する搭乗者Uの感情が目的地等に適した感情となるように誘導する感情誘導システムについて説明する。
Hereinafter, the present invention will be described with reference to the drawings showing an embodiment thereof.
(Embodiment 1)
1 is an explanatory diagram showing a configuration example of an emotion induction system. In this embodiment, an emotion induction system is described that induces an emotion of a passenger U in a vehicle C to be appropriate for the destination when the vehicle C arrives at the destination.

図1では車両Cに搭乗者Uが搭乗している様子を図示している。車両Cは、搭乗者Uが利用(所有)する車両である。なお、車両Cは自動運転機能を有する車両であってもよい。また、車両Cは搭乗者Uが所有する車両に限定されず、例えばタクシーのように、搭乗者Uが利用するだけの車両であってもよい。また、図1では搭乗者Uが一名のみであるが、同乗者(複数の搭乗者U)が存在していてもよい。本システムでは、例えば搭乗者Uが車両Cを利用して自宅(第1地点)から勤務先(第2地点)に通勤する場合等に、車両C内部で搭乗者Uに対し画像、音声等のコンテンツを提示(出力)することで、搭乗者Uの感情を目的地等に適した感情に誘導する。 Figure 1 illustrates a state in which a passenger U is riding in a vehicle C. The vehicle C is a vehicle used (owned) by the passenger U. Note that the vehicle C may be a vehicle with an automatic driving function. The vehicle C is not limited to a vehicle owned by the passenger U, and may be a vehicle used only by the passenger U, such as a taxi. Although the passenger U is shown as being only one person in Figure 1, there may be passengers (multiple passengers U). In this system, for example, when the passenger U uses the vehicle C to commute from his/her home (first location) to his/her workplace (second location), the passenger U's emotions are induced to emotions appropriate to the destination, etc. by presenting (outputting) content such as images and sounds to the passenger U inside the vehicle C.

なお、以下の例示では搭乗者Uの出発地が自宅であるものとして説明するが、例えば搭乗者Uが勤務先から別の場所(出張先等)に移動する場合に本実施の形態を適用してもよい。すなわち、出発地は搭乗者Uの拠点であればよく、自宅に限定されない。また、本実施の形態では搭乗者Uの最終的な移動先(勤務先等)が目的地であるものとして説明するが、最終的な移動先以前の中間地点(例えば最寄り駅)を目的地としてもよい。 In the following examples, the departure point of passenger U is described as being his/her home, but this embodiment may also be applied when passenger U travels from his/her workplace to another location (such as a business trip destination). In other words, the departure point may be passenger U's base and is not limited to his/her home. In addition, in this embodiment, the destination is described as passenger U's final destination (such as his/her workplace), but the destination may also be an intermediate point before the final destination (such as the nearest station).

車両Cは、情報処理装置1、センシング機器SM、ディスプレイDS、車載ナビゲーション装置NB、照明装置IM、スピーカSP、芳香装置AF及び空調装置ACを備える。各装置は、車両Cの車内ネットワークを介して互いに通信接続されている。 The vehicle C is equipped with an information processing device 1, a sensing device SM, a display DS, an in-vehicle navigation device NB, a lighting device IM, a speaker SP, a fragrance device AF, and an air conditioning device AC. Each device is connected to each other for communication via the in-vehicle network of the vehicle C.

情報処理装置1は、車両Cに搭載されたコンピュータであり、センシング機器SM等との間で情報の送受信を行う。なお、情報処理装置1はECU(Electronic Control Unit)等の組み込みコンピュータであってもよく、又は車両Cに外付けされたコンピュータであってもよい。情報処理装置1は搭乗者Uに対し、ディスプレイDS等の出力機器を介して、目的地等に応じた特定の感情に誘導するための複数のコンテンツを出力する。具体的には後述するように、情報処理装置1は、最終目標とする特定の感情に搭乗者Uを段階的に誘導するべく、複数段階の感情それぞれに対応する複数段階のコンテンツを、その出力順序に従って順次出力し、最終目標とする感情へと誘導する。 The information processing device 1 is a computer mounted on the vehicle C, and transmits and receives information to and from the sensing device SM, etc. The information processing device 1 may be an embedded computer such as an ECU (Electronic Control Unit), or may be a computer externally attached to the vehicle C. The information processing device 1 outputs multiple contents to the passenger U via an output device such as a display DS, for guiding the passenger U to a specific emotion according to the destination, etc. Specifically, as described below, the information processing device 1 sequentially outputs multiple stages of content corresponding to each of the multiple stages of emotions in accordance with the output order in order to gradually guide the passenger U to a specific emotion that is the final target, and guides the passenger U to the final target emotion.

コンテンツは、搭乗者Uの五感を刺激するコンテンツであり、例えば画像及び音声のほか、照明装置IMが照射する光、芳香装置AFが放出する芳香、及び空調装置ACが吹出する温冷風などを含む。また図示していないが、振動装置が発生する振動や噴霧装置が噴霧する霧等をコンテンツに含めてもよい。 The content is content that stimulates the five senses of the passenger U, and includes, for example, images and sounds, as well as light emitted by the lighting device IM, fragrance emitted by the fragrance device AF, and hot and cold air blown out by the air conditioning device AC. Although not shown, the content may also include vibrations generated by a vibration device and mist sprayed by a spray device.

情報処理装置1は、センシング機器SMを用いて検出した搭乗者Uに関する検出情報に基づき、搭乗者Uの現在の感情を推定する。検出情報は、搭乗者Uを撮像した画像、車内の音声(搭乗者Uの発話)等のほかに、所定の生体センサを用いて検出した搭乗者Uの生体情報(体温、呼吸、脈拍、心電等)を含み得る。情報処理装置1は、推定した搭乗者Uの感情が、現在出力中のコンテンツの段階(一の段階)に続く次の段階に対応する感情へと遷移したか否かを判定し、次の段階に対応する感情に遷移したと判定した場合、当該次の段階に対応するコンテンツを出力する。 The information processing device 1 estimates the current emotion of the passenger U based on detection information about the passenger U detected using the sensing device SM. The detection information may include images of the passenger U, sounds inside the vehicle (passenger U's speech), and the like, as well as biometric information of the passenger U (body temperature, breathing, pulse, electrocardiogram, etc.) detected using a specified biosensor. The information processing device 1 determines whether the estimated emotion of the passenger U has transitioned to an emotion corresponding to the next stage following the stage (first stage) of the content currently being output, and if it determines that the emotion has transitioned to an emotion corresponding to the next stage, it outputs the content corresponding to the next stage.

情報処理装置1は、車両Cが目的地に到着するまでの間、各コンテンツを順次出力して搭乗者Uの感情を順々に遷移させ、目的地等に適した感情へと誘導する。 Until the vehicle C arrives at the destination, the information processing device 1 sequentially outputs each content to cause the passenger U's emotions to change in sequence, guiding him/her to emotions appropriate to the destination, etc.

図2は、情報処理装置1の構成例を示すブロック図である。情報処理装置1は、制御部11、通信部12、入力インタフェース13、出力インタフェース14及び記憶部15を備える。 FIG. 2 is a block diagram showing an example of the configuration of the information processing device 1. The information processing device 1 includes a control unit 11, a communication unit 12, an input interface 13, an output interface 14, and a storage unit 15.

制御部11は、MPU(Micro-Processing Unit)、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)等の演算処理部110と、ROM(Read Only Memory)111と、RAM(Random Access Memory)112とを備える。 The control unit 11 includes an arithmetic processing unit 110 such as an MPU (Micro-Processing Unit), a CPU (Central Processing Unit), and a GPU (Graphics Processing Unit), a ROM (Read Only Memory) 111, and a RAM (Random Access Memory) 112.

通信部12は、ネットワークNを介した通信処理を実行するモジュールであり、例えばLTE(Long Term Evolution、登録商標)、4G(4th Generation)及び5G(5th Generation)等の通信プロトコルを用いて外部と通信を行う。また通信部12は、Wi-Fi(Wireless Fidelity、登録商標)及びBluetooth(登録商標)等の通信プロトコルを用いて車内の機器と近距離無線通信を行う。 The communication unit 12 is a module that executes communication processing via the network N, and communicates with the outside world using communication protocols such as LTE (Long Term Evolution, registered trademark), 4G (4th Generation), and 5G (5th Generation). The communication unit 12 also performs short-range wireless communication with devices inside the vehicle using communication protocols such as Wi-Fi (Wireless Fidelity, registered trademark) and Bluetooth (registered trademark).

入力インタフェース13は、センシング機器SM、車載ナビゲーション装置NB及び操作ユニットOPと通信接続し、これらの機器から送信された情報を取得するためのインタフェースである。 The input interface 13 is an interface that communicates with the sensing device SM, the in-vehicle navigation device NB, and the operation unit OP, and is used to acquire information transmitted from these devices.

センシング機器SMは、例えば車両Cの内部を撮像するカメラSM1、車内の音声を集音するマイクSM2等を含む。なお、これらはセンシング機器SMの一例であって、搭乗者Uの状態又は動作を検出可能なデバイスであればよく、例えば搭乗者Uの生体情報(体温、呼吸、脈拍、心電等)を検出するバイタルセンサ、座席STに設けた圧力センサ等をセンシング機器SMに含め、これらの機器での検出結果も検出情報として用いてもよい。また、センシング機器SMは車両Cに設置されたデバイスに限定されず、搭乗者Uが装着するウェアラブルデバイスであってもよい。 The sensing device SM includes, for example, a camera SM1 that captures images of the interior of the vehicle C, and a microphone SM2 that collects sound inside the vehicle. Note that these are just examples of the sensing device SM, and any device that can detect the state or movement of the passenger U may be used. For example, the sensing device SM may include a vital sensor that detects the biometric information of the passenger U (body temperature, breathing, pulse, electrocardiogram, etc.) and a pressure sensor installed in the seat ST, and the detection results of these devices may also be used as detection information. Furthermore, the sensing device SM is not limited to a device installed in the vehicle C, and may be a wearable device worn by the passenger U.

車載ナビゲーション装置NBは、出発地から目的地までの経路及び所要時間、並びに現在地から目的地までの残り所要時間等を演算し、交通情報を外部から取得する手段であり、ダッシュボード等に設置されている。 The in-vehicle navigation device NB is a means for calculating the route and travel time from the departure point to the destination, as well as the remaining time from the current location to the destination, and for acquiring traffic information from an external source. It is installed on the dashboard, etc.

操作ユニットOPは、搭乗者Uの入力操作を受け付ける手段であり、例えばタッチパネル、ソフトウェアキーボード、物理的なボタン及びポインティングデバイス等が該当し、ダッシュボード等に設置されている。 The operation unit OP is a means for accepting input operations from the passenger U, and may be, for example, a touch panel, a software keyboard, physical buttons, a pointing device, etc., and is installed on the dashboard, etc.

なお、本実施の形態ではセンシング機器SM、車載ナビゲーション装置NB及び操作ユニットOPが車両Cに備え付けられたデバイスであるものとするが、これらのデバイスは、情報処理装置1と通信可能なポータブルデバイス(例えばスマートフォン等)で実現されてもよい。 In this embodiment, the sensing device SM, the in-vehicle navigation device NB, and the operation unit OP are devices installed in the vehicle C, but these devices may be realized as portable devices (e.g., a smartphone) capable of communicating with the information processing device 1.

また、本実施の形態では搭乗者Uから操作を受け付ける操作入力手段(操作ユニットOP)が物理的なデバイスであるものとして説明するが、本実施の形態はこれに限定されるものではない。例えば後述するように、カメラSM1を距離センサ(赤外線センサ等)付きのカメラ、あるいは複眼カメラ等として、搭乗者Uの手の動作(ジェスチャ)を認識することで操作入力を可能としてもよい。 In addition, in this embodiment, the operation input means (operation unit OP) that accepts operations from the passenger U is described as a physical device, but this embodiment is not limited to this. For example, as described below, the camera SM1 may be a camera with a distance sensor (infrared sensor, etc.) or a compound eye camera, etc., and may recognize the hand movements (gestures) of the passenger U to enable operation input.

出力インタフェース14は、照明装置IM、スピーカSP、芳香装置AF、空調装置AC及びディスプレイDSと通信接続し、これらの装置に情報を送信するためのインタフェースである。 The output interface 14 is an interface for communicating with the lighting device IM, speaker SP, fragrance device AF, air conditioning device AC, and display DS, and transmitting information to these devices.

照明装置IMは、車内空間を照らして搭乗者Uの五感を刺激する手段であり、光量、光色及び照射角度の調整ユニットを夫々備え、車内に設置されている。スピーカSPは、音コンテンツを出力して搭乗者Uの五感を刺激する手段であり、ダッシュボード等に設置されている。芳香装置AFは、芳香を放出して搭乗者Uの五感を刺激する手段であり、複数の芳香液が充填された保存容器、気化した芳香液を放出するファン並びに放出方向及び芳香量の調整ユニットを備え、ダッシュボード等に設置されている。空調装置ACは、温冷風を吹出して搭乗者Uの五感を刺激する手段であり、温冷風の切替ユニット及び吹出方向や吹出量の調整ユニットを備え、ダッシュボード等に設置されている。ディスプレイDSは画像表示手段であり、以下のように、本実施の形態では車窓を表示領域とする表示手段として構成されている。 The lighting device IM is a means for illuminating the interior space of the vehicle to stimulate the five senses of the passenger U, and is provided with units for adjusting the light quantity, light color, and irradiation angle, and is installed inside the vehicle. The speaker SP is a means for outputting sound content to stimulate the five senses of the passenger U, and is installed on the dashboard, etc. The fragrance device AF is a means for emitting fragrance to stimulate the five senses of the passenger U, and is provided with a storage container filled with multiple aromatic liquids, a fan for emitting vaporized aromatic liquid, and a unit for adjusting the emission direction and amount of fragrance, and is installed on the dashboard, etc. The air conditioning device AC is a means for blowing out hot and cold air to stimulate the five senses of the passenger U, and is provided with a hot and cold air switching unit and a unit for adjusting the blowing direction and amount, and is installed on the dashboard, etc. The display DS is an image display means, and in this embodiment, as described below, is configured as a display means with the vehicle window as a display area.

図3は、車両C内部を示す模式図である。図3では、後部座席から見た車両C内部の様子を模式的に図示している。図3に基づき、本実施の形態に係る車両Cについて説明する。 Figure 3 is a schematic diagram showing the interior of vehicle C. Figure 3 shows the interior of vehicle C as seen from the rear seat. The vehicle C according to this embodiment will be described with reference to Figure 3.

本実施の形態に係る車両Cは、車窓周辺のボディ面積が極力小さくなり、車窓の面積が極力大きくなるように構成されている。具体的には、車両Cの各ピラー(Aピラー、Bピラー、Cピラー、ルーフピラー等。図3に太線で図示)が細長に形成され、ピラーによって遮られる視認範囲が狭くなるように構成されている。車両Cには、各ピラーの間に各車窓(フロントガラス、フロントドアガラス、リアドアガラス等)が設けられている。また、本実施の形態に係る車両Cは天井全面がルーフガラスで構成されている。 Vehicle C according to this embodiment is configured so that the body area around the vehicle windows is as small as possible, and the area of the vehicle windows is as large as possible. Specifically, each pillar of vehicle C (A pillar, B pillar, C pillar, roof pillar, etc., shown by thick lines in FIG. 3) is formed long and thin, and is configured so that the visibility range blocked by the pillars is narrow. Vehicle C has vehicle windows (windshield, front door glass, rear door glass, etc.) between each pillar. Also, the entire roof of vehicle C according to this embodiment is made of roof glass.

上述の如く、車両Cは、車窓を表示領域とする表示手段としてディスプレイDSを備え、車窓に画像を表示する。具体的には、車両Cは、フロントガラス、フロントドアガラス、リアドアガラス、ルーフガラス、リアガラス等、複数の車窓それぞれに画像を表示する。ディスプレイDSは、例えば車窓をスクリーンとするプロジェクタであるが、車窓自体を透明ディスプレイとして構成してもよく、その具体的な表示手段は特に限定されない。また、例えばルーフ部分は車窓(ガラス)とせずに遮蔽し、ルーフに画像を表示(投影)するだけであってもよい。 As described above, the vehicle C is equipped with a display DS as a display means using the vehicle windows as a display area, and displays images on the vehicle windows. Specifically, the vehicle C displays images on each of a number of vehicle windows, such as the windshield, front door glass, rear door glass, roof glass, and rear glass. The display DS is, for example, a projector using the vehicle windows as a screen, but the vehicle windows themselves may also be configured as transparent displays, and the specific display means is not particularly limited. Also, for example, the roof portion may not be a vehicle window (glass) but may be shielded, and an image may simply be displayed (projected) on the roof.

また、車両Cには、一又は複数のカメラSM1(図3では3つ)がピラーに設置されており、車内を撮像する。また、車両Cには、照明装置IMがピラーに設置され、照明を点灯する。図示は省略するが、その他のデバイス(スピーカSP、芳香装置AF等)が設置されている。 Vehicle C also has one or more cameras SM1 (three in FIG. 3) installed on the pillars to capture images of the interior of the vehicle. Vehicle C also has a lighting device IM installed on the pillars to turn on the lights. Although not shown, other devices (speakers SP, fragrance device AF, etc.) are also installed.

上述の如く、本実施の形態では、車両Cの室内がコンテンツの体験空間として設計されている。情報処理装置1は、ディスプレイDSを含む各出力機器にコンテンツを出力し、目的地に到着するまでの間に、搭乗者Uを所望の感情に誘導する。 As described above, in this embodiment, the interior of the vehicle C is designed as a space for experiencing content. The information processing device 1 outputs content to each output device, including the display DS, and guides the passenger U to a desired emotion before arriving at the destination.

なお、本実施の形態ではコンテンツの体験空間として設計された車両Cを対象とするが、コンテンツの出力先である車両は一般的な車両であってもよく、その車両の設計(構成)は特に限定されない。 Note that in this embodiment, the subject is a vehicle C designed as an experiential space for the content, but the vehicle to which the content is output may be a general vehicle, and the design (configuration) of the vehicle is not particularly limited.

図2に戻って説明を続ける。記憶部15は、HDD(Hard Disk Drive)及びSSD(Solid State Drive)等のストレージであり、本実施の形態に係る処理を実行するためのプログラムPのほか、コンテンツDB(Database)151、第1モデル51を記憶している。コンテンツDB151は、各コンテンツのデータを格納するデータベースである。第1モデル51は、センシング機器SMで検出した検出情報に基づいて搭乗者Uの感情を推定する感情推定器であり、例えば訓練データを学習することで生成された機械学習モデルである。第1モデル51は、人工知能ソフトウェアの一部を構成するプログラムモジュールとしての利用が想定される。 Returning to FIG. 2, the explanation will be continued. The memory unit 15 is a storage such as a HDD (Hard Disk Drive) and SSD (Solid State Drive), and stores a program P for executing the processing according to this embodiment, as well as a content DB (Database) 151 and a first model 51. The content DB 151 is a database that stores data of each content. The first model 51 is an emotion estimator that estimates the emotion of the passenger U based on detection information detected by the sensing device SM, and is, for example, a machine learning model generated by learning training data. The first model 51 is expected to be used as a program module that constitutes part of artificial intelligence software.

なお、本実施の形態では、ローカルストレージにコンテンツが記憶してあるものとして説明するが、クラウド上のコンピュータ(コンテンツ配信用のサーバ等)からコンテンツを取得して出力するようにしてもよい。 In this embodiment, the content is described as being stored in local storage, but the content may also be obtained and output from a computer on the cloud (such as a server for content distribution).

また、情報処理装置1は、メモリカード、光ディスク等の非一時的なコンピュータ読取可能な記録媒体Dを読み取る読取部を備え、記録媒体DからプログラムPを読み出して実行するようにしてもよい。 The information processing device 1 may also include a reading unit that reads a non-transitory computer-readable recording medium D, such as a memory card or an optical disk, and may read and execute the program P from the recording medium D.

図4は、コンテンツDB151のレコードレイアウトの一例を示す説明図である。コンテンツDB151は、ユーザID列、移動パターン列、コンテンツID列、コンテンツ名列、感情列、コンテンツ列及び出力時間列を含む。ユーザID列は、各ユーザ(搭乗者U)を識別するためのユーザIDを格納している。移動パターン列は、ユーザIDと対応付けて、予め設定されているユーザの移動パターンを記憶している。例えば移動パターン列には、各パターンに応じた出発地(第1地点)と、目的地(第2地点)とが記憶されている。 Figure 4 is an explanatory diagram showing an example of a record layout of content DB151. Content DB151 includes a user ID column, a travel pattern column, a content ID column, a content name column, an emotion column, a content column, and an output time column. The user ID column stores a user ID for identifying each user (passenger U). The travel pattern column stores a user's travel pattern that is set in advance in association with the user ID. For example, the travel pattern column stores a departure point (first location) and a destination (second location) corresponding to each pattern.

コンテンツID列、コンテンツ名列、感情列、コンテンツ列、及び出力時間列はそれぞれ、ユーザID及び移動パターンと対応付けて、各パターンに対応する複数段階のコンテンツそれぞれを識別するためのコンテンツID、各段階のコンテンツ名、各段階への遷移条件となる搭乗者Uの感情、コンテンツのデータ、及びコンテンツの出力時間を格納している。 The content ID column, content name column, emotion column, content column, and output time column each store, in association with a user ID and a movement pattern, a content ID for identifying each of the multiple stages of content corresponding to each pattern, the content name of each stage, the emotion of passenger U that is the transition condition to each stage, the content data, and the output time of the content.

例えば自宅から仕事場への移動パターン(通勤)を一例に説明すると、情報処理装置1はまず、第1段階のコンテンツとして搭乗者Uを覚醒化するためのコンテンツを出力する。続いて情報処理装置1は、当該コンテンツによって搭乗者Uの感情が「覚醒状態」に遷移したか否かを判定し、「覚醒状態」に遷移したと判定した場合、競争心を喚起する次段階のコンテンツを出力する。情報処理装置1は、コンテンツIDに従った順序で、各段階のコンテンツを出力する。 For example, taking a travel pattern from home to work (commuting) as an example, the information processing device 1 first outputs content for awakening the passenger U as the first stage content. The information processing device 1 then determines whether the content has caused the passenger U's emotions to transition to an "awakened state", and if it determines that the passenger U has transitioned to an "awakened state", it outputs the next stage content that stimulates competitive spirit. The information processing device 1 outputs the content for each stage in the order according to the content ID.

なお、図4では説明の便宜上、コンテンツの遷移条件となる感情列の感情を[]付きの説明文で図示しているが、実際には、感情推定のキーとなる後述のパラメータ(覚醒/非覚醒の指数及び快/不快の指数)が格納されている。各コンテンツとその遷移条件について、詳しくは後述する。 For ease of explanation, in Figure 4, the emotions in the emotion column that are the content transition conditions are illustrated in brackets [ ], but in reality, the parameters that are key for emotion estimation (an index of arousal/non-arousal and an index of pleasantness/unpleasantness) described below are stored. Each content and its transition conditions will be described in detail later.

なお、本実施の形態では搭乗者U毎に各移動パターンに応じたコンテンツが用意されているものとして説明するが、コンテンツは全ての搭乗者Uに対して共通であってもよい。 In this embodiment, it is described that content corresponding to each movement pattern is prepared for each passenger U, but the content may be common to all passengers U.

図5は、感情誘導処理の手順例を示す説明図である。以下、情報処理装置1が実行する感情誘導処理手順を説明する。 Figure 5 is an explanatory diagram showing an example of the procedure for emotion induction processing. Below, the emotion induction processing procedure executed by the information processing device 1 is explained.

例えば情報処理装置1及び車載ナビゲーション装置NBは、車両Cの動力源の起動に応じて起動する。起動後、車載ナビゲーション装置NBは、搭乗者Uから目的地の入力を受け付け、車両Cを目的地へと発進させる。車載ナビゲーション装置NBは、所定の地図データを参照して車両Cの現在地から目的地までの残り所要時間を逐次演算し、演算した残り所要時間を情報処理装置1に送信する。 For example, the information processing device 1 and the in-vehicle navigation device NB start in response to the start of the power source of the vehicle C. After starting up, the in-vehicle navigation device NB accepts input of the destination from the passenger U and starts the vehicle C to the destination. The in-vehicle navigation device NB refers to predetermined map data to sequentially calculate the remaining time required to travel from the current location of the vehicle C to the destination, and transmits the calculated remaining time to the information processing device 1.

一方、情報処理装置1は、運転席、助手席等の各座席STに着座している一又は複数の搭乗者Uのうち、コンテンツの出力対象(感情誘導対象)とする搭乗者Uを特定する。例えば情報処理装置1は、操作ユニットOPにより対象の搭乗者Uの指定入力を受け付ける。あるいは情報処理装置1は、マイクSM2による音声入力等で搭乗者Uの指定入力を受け付けてもよい。あるいは情報処理装置1は、カメラSM1で撮像した画像から搭乗者Uを認識し、対象の搭乗者Uを自動的に特定するようにしてもよい。 Meanwhile, the information processing device 1 identifies one or more passengers U seated in each seat ST, such as the driver's seat or passenger seat, who is to be the output target of the content (emotion induction target). For example, the information processing device 1 accepts a designation input of the target passenger U via the operation unit OP. Alternatively, the information processing device 1 may accept a designation input of the passenger U by voice input via the microphone SM2, or the like. Alternatively, the information processing device 1 may recognize the passenger U from an image captured by the camera SM1 and automatically identify the target passenger U.

なお、上記では操作ユニットOP(タッチパネル等)への操作入力、又は音声入力を操作手段の一例として挙げたが、本実施の形態はこれに限定されるものではない。例えば情報処理装置1は、カメラSM1を距離センサ付きのカメラ、又は複眼カメラ等として、搭乗者Uの手の動作(ジェスチャ)を認識可能とし、手の動作によって操作入力を受け付けるようにしてもよい。例えば搭乗者Uを特定する場合、情報処理装置1は、カメラSM1で撮像した画像から、搭乗者Uが手を挙げる動作を認識することで、対象とする搭乗者Uを特定する。このように、情報処理装置1は、搭乗者Uの手の動作を認識することで操作入力を受け付けるようにしてもよい。この点は以降の処理でも同様である。 Note that, although the above describes operation input to the operation unit OP (touch panel, etc.) or voice input as an example of an operation means, this embodiment is not limited to this. For example, the information processing device 1 may use the camera SM1 as a camera with a distance sensor, or a compound eye camera, etc., to recognize the hand movements (gestures) of the passenger U, and accept operation inputs based on the hand movements. For example, when identifying a passenger U, the information processing device 1 identifies the target passenger U by recognizing the gesture of the passenger U raising his/her hand from an image captured by the camera SM1. In this way, the information processing device 1 may accept operation inputs by recognizing the hand movements of the passenger U. This also applies to the subsequent processes.

情報処理装置1は、搭乗者Uに対して提示するコンテンツのデータをコンテンツDB151から読み出す。具体的には、情報処理装置1は、目的地到着時に搭乗者Uの感情が特定の感情となるように誘導するためのコンテンツであって、当該特定の感情に至る複数段階それぞれの感情に対応する複数段階のコンテンツのデータをコンテンツDB151から読み出す。 The information processing device 1 reads out data of content to be presented to the passenger U from the content DB 151. Specifically, the information processing device 1 reads out data of multiple stages of content from the content DB 151, the content being for guiding the passenger U to have a specific emotion upon arrival at the destination, and corresponding to each of the multiple stages leading to the specific emotion.

より詳しくは、コンテンツは、車両Cの目的地(移動パターン)に応じて、搭乗者U毎に用意されている。図5では一例として、搭乗者Uの自宅を出発地として、勤務先を目的地とする通勤時のコンテンツの出力例を図示している。この場合、情報処理装置1は図4で例示したように、搭乗者Uの感情を非覚醒状態から覚醒状態に誘導するコンテンツ、覚醒状態から競争心が喚起された状態に誘導するコンテンツ、競争心が喚起された状態から業務上の目標を想起した状態にコンテンツ、及び当日の業務に関するコンテンツをそれぞれ取得する。情報処理装置1は各段階のコンテンツを順次出力し、最終的に、業務に対して意欲のある状態へと搭乗者Uの感情を誘導する。 More specifically, content is prepared for each passenger U according to the destination (travel pattern) of vehicle C. FIG. 5 illustrates, as an example, an output example of content during a commute from passenger U's home as a starting point to his/her workplace as a destination. In this case, as illustrated in FIG. 4, the information processing device 1 obtains content that induces passenger U's emotions from a non-awakened state to an awakened state, content that induces passenger U's emotions from an awakened state to a competitive state, content that induces passenger U's emotions from a competitive state to a state that recalls work goals, and content related to the day's work. The information processing device 1 outputs the content for each stage in sequence, and ultimately induces passenger U's emotions to a state where he/she is motivated for work.

なお、本実施の形態では目的地に応じて最終目標とする感情(特定の感情)が定められるものとして説明するが、最終目標とする感情は、他の要素(情報)に基づいて定められてもよい。例えば最終目標とする感情は、目的地に加えて、又は目的地に代えて、車両Cの出発日時(現在の日時)、及び/又は搭乗者U以外の同乗者に応じて定められてもよい。例えば情報処理装置1は、目的地以外に出発日時(例えば時間帯)及び同乗者(例えば同乗者のユーザID)をコンテンツと対応付けてコンテンツDB151に記憶しておく。そして情報処理装置1は、車両Cの目的地、出発日時、及び同乗者に応じて最終目標とする感情を推定し、推定した感情に対応するコンテンツをコンテンツDB151から読み出す。なお、出発日時は現在日時から識別すればよく、同乗者はカメラSM1で撮像する画像から特定すればよい。これにより、出力するコンテンツをより柔軟に選択し、搭乗者Uを所望の感情に誘導することができる。 In this embodiment, the final target emotion (specific emotion) is determined according to the destination, but the final target emotion may be determined based on other elements (information). For example, the final target emotion may be determined according to the departure date and time of the vehicle C (current date and time) and/or a passenger other than the passenger U, in addition to or instead of the destination. For example, the information processing device 1 stores the departure date and time (e.g., time zone) and the passenger (e.g., the passenger's user ID) in addition to the destination in the content DB 151 in association with the content. The information processing device 1 then estimates the final target emotion according to the destination, departure date and time, and passenger of the vehicle C, and reads out the content corresponding to the estimated emotion from the content DB 151. The departure date and time may be identified from the current date and time, and the passenger may be identified from the image captured by the camera SM1. This allows the content to be output to be selected more flexibly, and the passenger U to be guided to a desired emotion.

このように、情報処理装置1は、目的地、出発日時、及び/又は同乗者に応じて最終目標とする特定の感情を決めることができればよく、最終目標である感情の(推定)基準は目的地に限定されない。 In this way, the information processing device 1 only needs to be able to determine a specific emotion as the final goal depending on the destination, departure date and time, and/or passengers, and the (estimated) criteria for the final goal emotion is not limited to the destination.

コンテンツDB151には、各段階のコンテンツと対応付けて、各段階のコンテンツの出力条件となる感情(状態)が記憶されている。なお、図4の例では第1段階のコンテンツ(「覚醒化」)と対応付けられた感情が「Null」となっているが、これは初期状態(自宅からの出発直後)では搭乗者Uの感情が非覚醒状態にあると仮定しているためである。後述するように、情報処理装置1は、一の段階のコンテンツを出力した場合に、次の段階の出力条件である感情に搭乗者Uの感情が遷移したか否かを判定し、搭乗者Uの感情が遷移した場合は次の段階のコンテンツを出力する。 In the content DB 151, emotions (states) that are output conditions for the content of each stage are stored in association with the content of each stage. In the example of FIG. 4, the emotion associated with the first stage content ("awakening") is "Null", because it is assumed that the emotion of the passenger U is in a non-awakening state in the initial state (immediately after departing from home). As will be described later, when the information processing device 1 outputs the content of one stage, it determines whether the emotion of the passenger U has transitioned to the emotion that is the output condition for the next stage, and outputs the content of the next stage if the emotion of the passenger U has transitioned.

図5の例では、情報処理装置1は最初に、搭乗者Uの感情が非覚醒状態にあると仮定して、覚醒状態に誘導するためのコンテンツを選択して出力する。具体的には、情報処理装置1は、照明装置IMによる照明光の照射、スピーカSPからの音声(音楽等)の出力、芳香装置AFからの芳香の出力、及び/又は空調装置ACによる搭乗者Uへの温冷風の送風を行う。なお、これらはコンテンツの一例であって、例えば情報処理装置1は、ディスプレイDS(車窓)での画像表示等も併せて行ってもよい。 In the example of FIG. 5, the information processing device 1 first assumes that the passenger U is in a non-awakened state, and selects and outputs content for guiding the passenger U to an awakened state. Specifically, the information processing device 1 irradiates illumination light from the lighting device IM, outputs sound (music, etc.) from the speaker SP, outputs fragrance from the fragrance device AF, and/or blows hot and cold air to the passenger U using the air conditioning device AC. Note that these are examples of content, and the information processing device 1 may also, for example, display images on the display DS (car window).

コンテンツを出力する前にまず、情報処理装置1は、車載ナビゲーション装置NBから取得した残り所要時間が、コンテンツDB151に規定されている当該コンテンツの出力時間以上であるか否かを判定する。残り所要時間以上であると判定した場合、情報処理装置1は、当該コンテンツを出力する。一方、コンテンツの出力時間が残り所要時間を超過すると判定した場合、情報処理装置1はコンテンツを出力せずに一連の処理を終了する。 Before outputting the content, the information processing device 1 first determines whether the remaining required time acquired from the in-vehicle navigation device NB is equal to or greater than the output time of the content specified in the content DB 151. If it is determined that it is equal to or greater than the remaining required time, the information processing device 1 outputs the content. On the other hand, if it is determined that the output time of the content will exceed the remaining required time, the information processing device 1 ends the series of processes without outputting the content.

なお、コンテンツの出力時間が残り所要時間以上であるか否かを判定する際に、情報処理装置1は、車両C周辺の交通情報を参照して、閾値とする残り所要時間を増減してもよい。交通情報は、例えば目的地までの経路上又はその周辺における渋滞、交通事故等の派生の有無を示すデータである。情報処理装置1は、ネットワークNを介して交通情報を取得し、渋滞等の発生の有無に応じて残り所要時間を増減する。これにより、現在の交通状況を考慮してコンテンツ出力の適否を判定することができる。 When determining whether the output time of the content is equal to or longer than the remaining required time, the information processing device 1 may refer to traffic information around the vehicle C and increase or decrease the threshold remaining required time. Traffic information is data indicating, for example, the presence or absence of congestion, traffic accidents, etc. on the route to the destination or in the vicinity thereof. The information processing device 1 obtains the traffic information via the network N and increases or decreases the remaining required time depending on the presence or absence of congestion, etc. This makes it possible to determine the appropriateness of content output taking into account the current traffic conditions.

情報処理装置1は、コンテンツを出力すると同時に、センシング機器SMから搭乗者Uに関する検出情報を逐次取得し、搭乗者Uの現在の感情を推定する。検出情報は、上述の如く、カメラSM1で搭乗者Uを撮像した画像、マイクSM2で集音した音声(搭乗者Uの発話)等を含む。なお、検出情報はこれ以外に、搭乗者Uの生体情報、座席STに設けた圧力センサで検出した検出結果等を含めてもよい。 The information processing device 1 outputs the content and at the same time sequentially acquires detection information related to the passenger U from the sensing device SM and estimates the current emotions of the passenger U. As described above, the detection information includes images of the passenger U captured by the camera SM1, sounds (utterances of the passenger U) collected by the microphone SM2, etc. In addition to this, the detection information may also include biometric information of the passenger U, detection results detected by a pressure sensor installed in the seat ST, etc.

情報処理装置1は、搭乗者Uの画像等から感情を推定する。具体的な感情推定方法は特に問わないが、例えば情報処理装置1は、搭乗者Uを撮像した画像を入力した場合に、当該搭乗者Uの現在の感情を推定するよう学習済みの第1モデル51を用いて感情を推定する。第1モデル51は、例えば深層学習により生成されたCNN(Convolutional Neural Network)等のニューラルネットワークである。なお、後述のように、第1モデル51への入力には搭乗者Uの生体情報等を含めても良い。 The information processing device 1 estimates the emotion from an image of the passenger U, etc. There is no particular restriction on the specific emotion estimation method, but for example, when an image of the passenger U is input, the information processing device 1 estimates the emotion using a first model 51 that has been trained to estimate the current emotion of the passenger U. The first model 51 is, for example, a neural network such as a CNN (Convolutional Neural Network) generated by deep learning. Note that, as described below, the input to the first model 51 may include biometric information of the passenger U, etc.

本実施の形態において情報処理装置1は、ラッセル円環理論に則して人物の感情を推定する第1モデル51を用いて、搭乗者Uの感情を推定する。具体的には以下で説明するように、情報処理装置1は、ラッセル円環理論に基づいて搭乗者Uの感情を表現するために、快/不快(Pleasure and Unpleasant)の程度を表す指数(Valence;感情価)、及び覚醒/非覚醒の程度を表す指数(Arousal)をそれぞれ算出する。なお、後述のように、ラッセル円環理論は感情表現の一例であって、情報処理装置1は他の理論に基づいて搭乗者Uの感情を表現してもよい。 In this embodiment, the information processing device 1 estimates the emotions of the passenger U using a first model 51 that estimates the emotions of a person in accordance with the Russell Circle Theory. Specifically, as described below, the information processing device 1 calculates an index (Valence) that indicates the degree of pleasure and discomfort, and an index (Arousal) that indicates the degree of arousal and non-arousal, in order to express the emotions of the passenger U based on the Russell Circle Theory. Note that, as described below, the Russell Circle Theory is an example of emotion expression, and the information processing device 1 may express the emotions of the passenger U based on other theories.

図6は、感情遷移過程の一例を示す説明図である。図6では、ラッセル円環を概念的に図示している。ラッセル円環理論は、第1軸を快/不快の程度、第2軸を覚醒/非覚醒(眠気)の程度で表現した空間上で、人間の感情を説明する理論である。ラッセル円環理論は公知であるため、ここでは詳細な説明を省略する。 Figure 6 is an explanatory diagram showing an example of an emotion transition process. In Figure 6, a Russell circle is conceptually illustrated. The Russell circle theory is a theory that explains human emotions in a space in which the first axis represents the degree of pleasantness/unpleasantness, and the second axis represents the degree of arousal/unarousal (sleepiness). The Russell circle theory is publicly known, so a detailed explanation will be omitted here.

情報処理装置1は、図6のラッセル円環に則して搭乗者Uの感情を推定する。具体的には、情報処理装置1は、第1軸に相当する快/不快の指数、及び第2軸に相当する覚醒/非覚醒の指数をそれぞれ算出し、各指数から、搭乗者Uの感情に相当するラッセル円環の空間内の位置を推定する。例えば第1モデル51は、訓練用の人物画像に対し、快/不快の指数及び覚醒/非覚醒の指数の正解値が対応付けられた訓練データを学習してある。情報処理装置1は、各指数を算出するよう学習済みの第1モデル51に搭乗者Uの画像を入力して、各指数を算出する。 The information processing device 1 estimates the emotions of the passenger U in accordance with the Russell circle in FIG. 6. Specifically, the information processing device 1 calculates a pleasant/unpleasant index corresponding to the first axis and an arousal/unarousal index corresponding to the second axis, and estimates a position in the space of the Russell circle corresponding to the emotions of the passenger U from each index. For example, the first model 51 has learned training data in which the correct values of the pleasant/unpleasant index and the arousal/unarousal index are associated with training images of people. The information processing device 1 inputs an image of the passenger U into the first model 51 that has been trained to calculate each index, and calculates each index.

例えば情報処理装置1は、各段階のコンテンツの出力条件(遷移条件)となる感情を、ラッセル円環の空間上の領域で定義してある。図5のコンテンツを一例に説明すると、図6に示すように、第1段階の感情(非覚醒状態)に相当する領域として、第3象限及び第4象限に位置する領域、すなわち覚醒/非覚醒の指数が低い領域(非覚醒の度合いが高い領域)が設定してある。情報処理装置1はまず、初期段階の搭乗者Uの感情が当該領域に位置するものと仮定して、搭乗者Uの感情を覚醒状態に誘導するためのコンテンツを出力する。 For example, the information processing device 1 defines the emotions that are the output conditions (transition conditions) for the content at each stage as regions in the space of the Russell circle. To explain the content in Figure 5 as an example, as shown in Figure 6, the regions corresponding to the first stage emotion (non-awakening state) are set to be regions located in the third and fourth quadrants, i.e., regions with a low index of awakening/non-awakening (regions with a high degree of non-awakening). The information processing device 1 first assumes that the emotion of the occupant U in the initial stage is located in this region, and outputs content for inducing the emotion of the occupant U to an awakening state.

その後、情報処理装置1は、次段階に相当する領域に搭乗者Uの感情が遷移したか否かを順次判定し、各段階のコンテンツを出力していく。図5及び図6の例では、情報処理装置1はまず、第2段階の感情(覚醒状態)に相当する領域として、第1象限及び第2象限に位置する領域、すなわち第1段階よりも覚醒/非覚醒の指数が高い領域に遷移したか否かを判定する。第2段階の領域に遷移した場合、次に情報処理装置1は、第3段階の感情(競争心が喚起された状態)に相当する領域として、第2象限に位置する領域、すなわち、覚醒/非覚醒の指数が高く、かつ、快/不快の指数が低い領域(不快の方向に高い領域)に遷移したか否かを判定する。第3段階の領域に遷移した場合、情報処理装置1は、第4段階の感情(目標が想起された状態)に相当する領域として、第1象限に位置する領域、すなわち、覚醒/非覚醒の指数が高く、かつ、快/不快の指数が高い領域に遷移したか否かを判定する。 Then, the information processing device 1 sequentially determines whether the passenger U's emotion has transitioned to an area corresponding to the next stage, and outputs the content of each stage. In the example of FIG. 5 and FIG. 6, the information processing device 1 first determines whether the emotion has transitioned to an area located in the first and second quadrants, i.e., an area with a higher index of awakening/non-awakening than the first stage, as an area corresponding to the second stage emotion (awakened state). When the emotion has transitioned to the second stage, the information processing device 1 then determines whether the emotion has transitioned to an area located in the second quadrant, i.e., an area with a high index of awakening/non-awakening and a low index of pleasantness/unpleasantness (an area high in the unpleasant direction), as an area corresponding to the third stage emotion (a state in which a competitive spirit is aroused). When the emotion has transitioned to the third stage, the information processing device 1 determines whether the emotion has transitioned to an area located in the first quadrant, i.e., an area with a high index of awakening/non-awakening and a high index of pleasantness/unpleasantness, as an area corresponding to the fourth stage emotion (a state in which a goal is recalled).

なお、コンテンツDB151では搭乗者Uの目的地(移動パターン)に応じてコンテンツが用意されており、その目的地に応じて、各段階のコンテンツの出力によって目標とする感情も異なる。これに応じて、各段階のコンテンツの出力条件となるラッセル円環の空間上の領域も別々に設定される。 In addition, in the content DB151, content is prepared according to the destination (travel pattern) of the passenger U, and the target emotion varies depending on the destination and the output of the content at each stage. Accordingly, the spatial area of the Russell circle that is the output condition of the content at each stage is also set separately.

なお、上記で第1モデル51は、指数を算出する回帰問題として感情推定処理を扱ったが、ラッセル円環の空間上の何れの領域に属するかを分類する分類問題として扱ってもよい。また、上記では第1モデル51の一例としてニューラルネットワークを挙げたが、決定木、SVM(Support Vector Machine)等、その他の学習アルゴリズムに基づくモデルであってもよい。また、本実施の形態では機械学習モデルを用いて感情推定を行うが、単純なルールベースのパターンマッチングにより感情推定(指数算出)を行ってもよい。 In the above, the first model 51 handles emotion estimation processing as a regression problem for calculating an index, but it may also be handled as a classification problem for classifying which region in the space of the Russell circle it belongs to. In addition, a neural network is given above as an example of the first model 51, but it may also be a model based on other learning algorithms, such as a decision tree or SVM (Support Vector Machine). In addition, in this embodiment, emotion estimation is performed using a machine learning model, but emotion estimation (index calculation) may also be performed by simple rule-based pattern matching.

また、本実施の形態ではラッセル円環理論に則して搭乗者Uの感情を表現するものとするが、これは一例であって、例えば「喜び」、「悲しみ」などの一般的な感情パターンに則して搭乗者Uの感情を表現してもよい。 In addition, in this embodiment, the emotions of the passenger U are expressed in accordance with Russell Circle Theory, but this is only one example, and the emotions of the passenger U may also be expressed in accordance with general emotional patterns such as "happiness" and "sadness."

また、本実施の形態では画像から感情推定を行うものとして説明するが、その他の検出情報(音声、生体情報等)も第1モデル51に入力して感情を推定するようにしてもよい。この場合、例えば第1モデル51を、各モダリティ(種類)の検出情報の特徴量を抽出するための入力層及び中間層を別々に備えたマルチモーダルモデルとして構成し、各中間層で抽出された特徴量を出力層の前の全結合層で結合して感情推定を行えばよい。 Although this embodiment will be described as performing emotion estimation from images, other detected information (audio, biometric information, etc.) may also be input to the first model 51 to estimate emotions. In this case, for example, the first model 51 may be configured as a multimodal model having separate input layers and intermediate layers for extracting features of detected information of each modality (type), and emotion estimation may be performed by combining the features extracted in each intermediate layer in a fully connected layer before the output layer.

図5に戻って説明を続ける。第1段階のコンテンツを出力後、情報処理装置1は、搭乗者Uの感情が、次の段階に対応する感情に遷移したか否かを判定する。具体的には、情報処理装置1は、搭乗者Uの感情が、非覚醒状態から覚醒状態に遷移したか否かを判定する。覚醒状態は、非覚醒状態(眠気が強い状態)から脱却した状態を指し、図6で例示するように、第1段階よりも覚醒/非覚醒の指数が高い状態を指す。 Returning to FIG. 5 for further explanation, after outputting the first stage content, the information processing device 1 determines whether the emotion of the occupant U has transitioned to an emotion corresponding to the next stage. Specifically, the information processing device 1 determines whether the emotion of the occupant U has transitioned from a non-awake state to an wakeful state. The wakeful state refers to a state in which the occupant has escaped from a non-awake state (a state of strong drowsiness), and refers to a state in which the wakefulness/non-awake index is higher than that of the first stage, as illustrated in FIG. 6.

覚醒状態に遷移したと判定した場合、情報処理装置1は、次段階のコンテンツの出力時間が残り所要時間以上であるか否かを判定した後、搭乗者Uの競争心を喚起するコンテンツを出力する。当該コンテンツは、例えば競合企業の情報、搭乗者Uの知人(職場の同僚や学生時代の友人等)の情報などであり、搭乗者Uの競争相手の情報である。 When it is determined that the passenger U has transitioned to an awakened state, the information processing device 1 determines whether the output time for the next stage of content is equal to or longer than the required time remaining, and then outputs content that stimulates the competitive spirit of the passenger U. The content in question is, for example, information about competing companies, information about acquaintances of the passenger U (work colleagues, friends from school days, etc.), and the like, and is information about the passenger U's competitors.

例えば情報処理装置1には、ユーザの勤務先の競合企業、知人等が予め設定してある。情報処理装置1は、ネットワークNを介してこれらの情報を取得し、コンテンツDB151に記憶してある。例えば競合企業の情報の場合、情報処理装置1は、株価、ビジネスニュース等を掲載したWebサイトから競合企業の情報を取得する。また、知人の情報の場合、情報処理装置1は、知人のSNSへの投稿記事、ブログ記事等を取得する。情報処理装置1は、外部のAPI(Application Programmable Interface)からこれらの情報を取得し、ディスプレイDSに表示する。なお、例えば情報処理装置1は、スピーカSPによる音声も組み合わせてコンテンツを出力してもよい。 For example, the information processing device 1 is preset with competitors of the user's workplace, acquaintances, etc. The information processing device 1 acquires this information via the network N and stores it in the content DB 151. For example, in the case of information on competitors, the information processing device 1 acquires information on competitors from websites that publish stock prices, business news, etc. In the case of information on acquaintances, the information processing device 1 acquires articles posted on SNS by acquaintances, blog articles, etc. The information processing device 1 acquires this information from an external API (Application Programmable Interface) and displays it on the display DS. Note that, for example, the information processing device 1 may also output content in combination with audio from the speaker SP.

次に情報処理装置1は、搭乗者Uの感情が、競争心が喚起された状態に遷移したか否かを判定する。競争心が喚起された状態は、第2段階よりも業務に対する意欲が高まった状態を指し、図6で例示したように、覚醒/非覚醒の指数が高く、かつ、快/不快の指数が低い状態を指す。競争心が喚起された状態に遷移したと判定した場合、情報処理装置1は、次段階のコンテンツの出力時間が残り所要時間以下であるか否かを判定した後、搭乗者Uの目標を想起するコンテンツを出力する。 The information processing device 1 then determines whether the emotions of the passenger U have transitioned to a state in which competitive spirit is aroused. A state in which competitive spirit is aroused refers to a state in which motivation for work is higher than in the second stage, and refers to a state in which the arousal/non-arousal index is high and the pleasure/displeasure index is low, as illustrated in FIG. 6. If it is determined that a transition has been made to a state in which competitive spirit is aroused, the information processing device 1 determines whether the output time for the next stage of content is equal to or less than the remaining required time, and then outputs content that evokes the passenger U's goal.

目的を想起するコンテンツは、例えば歴史的偉人に関する情報、現在活躍中の企業経営者に関する情報等であり、具体的には、これらの情報を内容とするWebページ、動画等が該当する。例えば情報処理装置1は、Web検索エンジンを用いてこれらの情報をWeb上から検索し、コンテンツとしてコンテンツDB151に格納してある。情報処理装置1は、搭乗者Uの業務上の競争心が喚起された状態でこれらのコンテンツをディスプレイDSに表示し、搭乗者Uの意欲が更に向上するよう誘導する。なお、画像表示だけでなく、音声等を組み合わせてもよいことは勿論である。 Content that evokes a purpose is, for example, information about historical figures, information about currently active business executives, etc., and specifically, web pages and videos that contain this information. For example, the information processing device 1 searches for this information on the web using a web search engine, and stores it as content in the content DB 151. The information processing device 1 displays this content on the display DS in a state in which the passenger U's competitive spirit in business is aroused, and induces the passenger U to further increase his or her motivation. Of course, in addition to displaying images, audio, etc. may also be combined.

次に情報処理装置1は、搭乗者Uの感情が、目標が想起された状態に遷移したか否かを判定する。目標が想起された状態は、第3段階よりも業務に対する意欲が高まった状態を指し、図6で例示したように、覚醒/非覚醒の指数が高く、かつ、快/不快の指数が高い状態を指す。目標が想起された状態に遷移したと判定した場合、情報処理装置1は、次段階のコンテンツの出力時間が残り所要時間以下であるか否かを判定した後、搭乗者Uの業務に関連するコンテンツを出力する。 The information processing device 1 then determines whether the emotions of the passenger U have transitioned to a state in which the goal has been recalled. The state in which the goal has been recalled indicates a state in which the passenger is more motivated to work than in the third stage, and indicates a state in which the arousal/non-arousal index is high and the pleasure/displeasure index is high, as illustrated in FIG. 6. If it is determined that the passenger U has transitioned to a state in which the goal has been recalled, the information processing device 1 determines whether the output time for the next stage of content is equal to or less than the remaining required time, and then outputs content related to the passenger U's work.

例えば情報処理装置1には、搭乗者Uのスケジュール等を管理するアプリケーション(スケジューラ等)のアカウント情報が予め設定されている。情報処理装置1は、各種アプリケーションから業務に関連する情報を取得する。当該情報は、例えば搭乗者Uのスケジュール、業務上のタスク、電子メール等を含み得る。情報処理装置1は、これらの情報を最終段階のコンテンツとしてディスプレイDSに表示し、搭乗者Uに提示する。情報処理装置1は、残り所要時間が零になるまで当該コンテンツを表示する。 For example, the information processing device 1 is preset with account information for an application (such as a scheduler) that manages the passenger U's schedule, etc. The information processing device 1 acquires work-related information from various applications. This information may include, for example, the passenger U's schedule, work tasks, e-mails, etc. The information processing device 1 displays this information on the display DS as final stage content and presents it to the passenger U. The information processing device 1 displays this content until the remaining required time reaches zero.

上記の各段階のコンテンツを出力することで、搭乗者Uは、非覚醒状態から業務に対する意欲が高い状態へと通勤途上で段階的に誘導される。目的地に到着後、情報処理装置1及び車載ナビゲーション装置NBは、車両Cからの給電が停止することにより、一連の処理を終了する。 By outputting the content for each of the above stages, the passenger U is gradually guided from a drowsy state to a state of high motivation for work during the commute. After arriving at the destination, the information processing device 1 and the in-vehicle navigation device NB end the series of processes when power supply from the vehicle C is stopped.

図7は、情報処理装置1が実行する処理手順の一例を説明するフローチャートである。図7に基づき、情報処理装置1が実行する処理内容について説明する。 Figure 7 is a flowchart illustrating an example of a processing procedure executed by the information processing device 1. The processing contents executed by the information processing device 1 will be described with reference to Figure 7.

情報処理装置1の制御部11は、車両Cの目的地の入力を受け付ける(ステップS11)。なお、例えば制御部11は、現在の日時、車両Cの位置情報等から目的地を自動的に判別してもよい。制御部11は、コンテンツの出力対象とする搭乗者Uを特定する(ステップS12)。 The control unit 11 of the information processing device 1 accepts input of the destination of the vehicle C (step S11). Note that, for example, the control unit 11 may automatically determine the destination from the current date and time, the position information of the vehicle C, etc. The control unit 11 identifies the passenger U to whom the content is to be output (step S12).

制御部11は、ステップS11で入力された目的地に応じて最終目標とする特定の感情を推定し、推定した特定の感情に搭乗者Uの感情を誘導するためのコンテンツをコンテンツDB151から取得する(ステップS13)。具体的には、制御部11は、最終目標とする特定の感情に至る複数段階の感情それぞれに対応する複数段階のコンテンツを取得する。例えば制御部11は、ステップS11で入力された目的地に該当し、かつ、ステップS12で特定した搭乗者Uに対応するコンテンツをコンテンツDB151から読み出す。なお、上述の如く制御部11は、目的地に加えて、又は目的地に代えて、車両Cの出発日時、及び/又は同乗者に応じて最終目標とする感情を推定してもよい。 The control unit 11 estimates a specific emotion as a final goal according to the destination input in step S11, and acquires content for inducing the emotion of the passenger U to the estimated specific emotion from the content DB 151 (step S13). Specifically, the control unit 11 acquires multiple stages of content corresponding to each of the multiple stages of emotions leading to the specific emotion as a final goal. For example, the control unit 11 reads out from the content DB 151 content that corresponds to the destination input in step S11 and to the passenger U identified in step S12. As described above, the control unit 11 may estimate a final goal emotion according to the departure date and time of the vehicle C and/or the passengers in addition to or instead of the destination.

制御部11は、ステップS13で取得した複数段階のコンテンツのうち、第1段階のコンテンツを出力する(ステップS14)。なお、ステップS14の時点で既にコンテンツの出力時間が残り所要時間を超過する場合、制御部11はコンテンツを出力せず一連の処理を終了する。第1段階のコンテンツを出力後、制御部11は、センシング機器SMから搭乗者Uに関する検出情報を取得する(ステップS15)。具体的には、制御部11は、搭乗者Uを撮像した画像、車内の音声等を取得する。 The control unit 11 outputs the first stage of the content among the multiple stages of content acquired in step S13 (step S14). If the remaining output time of the content has already exceeded the required time at the time of step S14, the control unit 11 ends the series of processes without outputting the content. After outputting the first stage of the content, the control unit 11 acquires detection information related to the passenger U from the sensing device SM (step S15). Specifically, the control unit 11 acquires an image of the passenger U, audio inside the vehicle, etc.

制御部11は、取得した検出情報に基づき、搭乗者Uの現在の感情を推定する(ステップS16)。例えば制御部11は、検出情報(搭乗者Uの撮像画像等)を入力した場合に、覚醒/非覚醒の度合いを表す指数及び快/不快の度合いを表す指数を算出するよう学習済みの第1モデル51を用いて、各指数を算出する。 The control unit 11 estimates the current emotions of the passenger U based on the acquired detection information (step S16). For example, when the control unit 11 receives detection information (such as a captured image of the passenger U), it calculates each index using a first model 51 that has been trained to calculate an index representing the degree of arousal/non-arousal and an index representing the degree of comfort/discomfort.

制御部11は、搭乗者Uの感情が、出力中のコンテンツの次の段階の感情に遷移したか否かを判定する(ステップS17)。次の段階に遷移していないと判定した場合(S17:NO)、制御部11は処理をステップS15に戻す。次の段階に遷移したと判定した場合(S17:YES)、制御部11は、目的地への残り所要時間を車載ナビゲーション装置NBから取得する(ステップS18)。 The control unit 11 determines whether the emotion of the passenger U has transitioned to the next emotion level of the content being output (step S17). If it is determined that the emotion has not transitioned to the next level (S17: NO), the control unit 11 returns the process to step S15. If it is determined that the emotion has transitioned to the next level (S17: YES), the control unit 11 obtains the remaining time to the destination from the in-car navigation device NB (step S18).

制御部11は、次の段階のコンテンツの出力時間が、ステップS18で取得した残り所要時間以下であるか否かを判定する(ステップS19)。残り所要時間以下でないと判定した場合(S19:NO)、制御部11は処理をステップS21に移行する。残り所要時間以下であると判定した場合(S19:YES)、制御部11は、次の段階のコンテンツを出力する(ステップS20)。 The control unit 11 determines whether the output time of the next stage content is equal to or less than the remaining required time acquired in step S18 (step S19). If it is determined that the output time is not equal to or less than the remaining required time (S19: NO), the control unit 11 proceeds to step S21. If it is determined that the output time is equal to or less than the remaining required time (S19: YES), the control unit 11 outputs the next stage content (step S20).

制御部11は、残り所要時間が零であるか否か、すなわち目的地に到着したか否かを判定する(ステップS21)。目的地に到着していないと判定した場合(S21:NO)、制御部11は処理をステップS15に戻す。目的地に到着したと判定した場合(S21:YES)、制御部11は一連の処理を終了する。 The control unit 11 determines whether the remaining time is zero, i.e., whether the destination has been reached (step S21). If it is determined that the destination has not been reached (S21: NO), the control unit 11 returns the process to step S15. If it is determined that the destination has been reached (S21: YES), the control unit 11 ends the series of processes.

なお上記では、複数のコンテンツを停止することなく順次出力することにしたが、例えば車両Cが一時停止した場合(コンビニエンスストアへの立寄り等)には、一時停止した箇所からコンテンツの出力を再開するようにしてもよい。 In the above, multiple contents are output sequentially without stopping, but if vehicle C stops temporarily (such as to stop at a convenience store), the output of the contents may be resumed from the point where it was paused.

また上記では、出発地から目的地までの所要時間と、全てのコンテンツを出力した総出力時間に大差がないものとして説明したが、目的地によっては、最後のコンテンツ(上記の例では業務に関するコンテンツ)を出力しても尚時間が余る場合もあり得る。この場合、例えば情報処理装置1は、途中段階のコンテンツ(例えば上記では第2段階及び/又は第3段階のコンテンツ)を出力している時点で、残り所要時間と残りのコンテンツの総出力時間とを比較し、途中段階のコンテンツの出力時間を延ばしてもよい。例えば情報処理装置1は、残り所要時間と、残りのコンテンツの総出力時間との差分を算出し、当該差分の時間だけ途中段階のコンテンツを繰り返し出力する。これにより、最後のコンテンツを出力した時点で丁度目的地に到着するように、コンテンツの出力を好適に制御することができる。 In the above description, it has been explained that there is not much difference between the time required to travel from the departure point to the destination and the total output time when all content is output, but depending on the destination, there may be cases where there is still time left even after the last content (in the above example, content related to business) is output. In this case, for example, when outputting intermediate content (for example, content of the second and/or third stage in the above example), the information processing device 1 may compare the remaining time required with the total output time of the remaining content and extend the output time of the intermediate content. For example, the information processing device 1 may calculate the difference between the remaining time required and the total output time of the remaining content, and repeatedly output the intermediate content for the time of this difference. This makes it possible to suitably control the output of content so that the destination is reached just when the last content is output.

また上記では複数段階のコンテンツをその段階順に従って順次出力する場合を説明したが、本実施の形態はこれに限定されず、適時、予め規定されたコンテンツの段階順とは異なる順序でコンテンツを出力してもよい。 In addition, although the above describes a case where multiple levels of content are output in sequence according to the order of the levels, the present embodiment is not limited to this, and content may be output in an order different from the predefined content order at any time.

例えば図5の一例を用いれば、搭乗者Uの目標を想起する第3段階のコンテンツの出力する場合において、搭乗者Uの感情が前の第2段階の感情に戻ってしまった場合、第2段階に戻り、競争心を喚起するコンテンツを出力する手順から再開するようにしてもよい。 For example, using the example in Figure 5, when outputting third stage content that evokes the passenger U's goal, if the passenger U's emotions revert to the previous second stage emotions, the process may be resumed by returning to the second stage and restarting the procedure of outputting content that stimulates competitive spirit.

また、例えば情報処理装置1は、目的地が出発地と極めて近く、全ての段階のコンテンツを出力するには時間が足りない場合に、例えば最終段階のコンテンツ(上記では搭乗者Uの業務に関連するコンテンツ)のみを出力してもよい。 In addition, for example, when the destination is very close to the departure point and there is insufficient time to output the content of all stages, the information processing device 1 may output only the content of the final stage (in the above case, the content related to the passenger U's work).

このように、情報処理装置1は、搭乗者Uの感情や残り所要時間に応じて複数のコンテンツの何れかを選択して出力可能であればよく、予め規定された段階通りにコンテンツを出力せずともよい。 In this way, the information processing device 1 only needs to be able to select and output one of multiple pieces of content depending on the passenger U's emotions and the remaining time required, and does not need to output the content in a predefined stage.

また、上記では勤務先を目的地とする場合について説明したが、目的地は勤務先に限定されず、テーマパーク、動物園、商業施設、美術館、病院など、任意の場所であってよい。これに伴い、情報処理装置1が出力するコンテンツを種々のコンテンツが想定される。 Although the above describes a case where the workplace is the destination, the destination is not limited to the workplace and may be any location, such as a theme park, a zoo, a commercial facility, an art museum, or a hospital. Accordingly, various types of content are expected to be output by the information processing device 1.

以上より、本実施の形態1によれば、搭乗者Uの感情を、目的地等に応じた特定の感情に好適に誘導することができる。 As described above, according to this embodiment 1, the passenger U's emotions can be appropriately induced to specific emotions according to the destination, etc.

(実施の形態2)
実施の形態1では、搭乗者Uが自宅等の拠点(第1地点)から勤務先等(第2地点)に移動する場合について説明した。一方で、勤務先等から自宅等に移動する際の帰路に本システムを適用してもよい。本実施の形態では往路又は復路の別に応じてコンテンツを変更する形態について説明する。なお、実施の形態1と重複する箇所については同一の符号を付して説明を省略する。
(Embodiment 2)
In the first embodiment, a case where a passenger U moves from a base (first location) such as a home to a workplace (second location) has been described. On the other hand, the present system may be applied to the return journey when moving from a workplace to a home. In this embodiment, a form in which the content is changed depending on whether it is an outbound journey or a return journey will be described. Note that the same reference numerals are used for parts that overlap with the first embodiment, and the description will be omitted.

図8は、実施の形態2に係るコンテンツDB151のレコードレイアウトの一例を示す説明図である。本実施の形態に係るコンテンツDB151は、同一経路の移動パターンであっても、出発地及び目的地に応じた往路又は復路の別に応じて、別々のコンテンツを記憶してある。 Figure 8 is an explanatory diagram showing an example of a record layout of content DB 151 according to embodiment 2. Content DB 151 according to this embodiment stores different contents according to whether the travel pattern is an outbound or inbound trip according to the departure point and destination, even for the same route travel pattern.

具体的には、コンテンツDB151の移動パターン列には、例えば自宅及び勤務先(職場)の間を移動する場合に、自宅を出発地として勤務先を目的地とする往路と、勤務先を出発地として自宅を目的地とする復路とを、別々の移動パターンとして記憶されている。また、コンテンツID列、コンテンツ名列、感情列、コンテンツ列、及び出力時間列はそれぞれ、往路又は復路の移動パターンと対応付けて、互いに異なるコンテンツのコンテンツID、コンテンツ名、遷移条件となる搭乗者Uの感情、コンテンツ、及びコンテンツの出力時間を記憶している。 Specifically, in the travel pattern column of content DB151, for example, when traveling between home and workplace (workplace), an outward journey starting from home and the workplace as a destination, and a return journey starting from the workplace and the home as a destination, are stored as separate travel patterns. In addition, the content ID column, content name column, emotion column, content column, and output time column each store the content ID, content name, passenger U's emotion that is the transition condition, content, and content output time of different contents in association with the outward or return travel pattern.

図9は、実施の形態2に係る感情誘導処理の手順例を示す説明図である。図10は、実施の形態2に係る感情遷移過程の一例を示す説明図である。図9及び図10に基づき、本実施の形態の概要を説明する。 Figure 9 is an explanatory diagram showing an example of the procedure for emotion induction processing according to embodiment 2. Figure 10 is an explanatory diagram showing an example of an emotion transition process according to embodiment 2. An overview of this embodiment will be described based on Figures 9 and 10.

図9及び図10は、搭乗者Uが勤務先から自宅に移動する帰路における処理例を図示している。搭乗者Uが帰宅する際に、情報処理装置1は、例えば搭乗者Uが入力する目的地と、車両Cの現在地(出発地)とから、勤務先からの帰路に係る移動パターンであることを判別する。情報処理装置1は、当該移動パターンに該当するコンテンツをコンテンツDB151から読み出す。当該コンテンツは、往路とは逆に搭乗者Uの感情を落ち着いた状態に誘導するためのコンテンツであり、最終目標とする落ち着いた状態に至る複数段階の感情それぞれに対応する複数段階のコンテンツから成る。 Figures 9 and 10 show an example of processing on the return journey when passenger U travels from his/her workplace to his/her home. When passenger U returns home, the information processing device 1 determines that the travel pattern is related to the return journey from his/her workplace, for example, from the destination input by passenger U and the current location (starting point) of vehicle C. The information processing device 1 reads out content corresponding to the travel pattern from content DB 151. The content is content for inducing passenger U to a calm state of emotion, in contrast to the outbound journey, and is made up of multiple stages of content corresponding to each of the multiple stages of emotion leading to a calm state that is the final goal.

具体的には、情報処理装置1は、搭乗者Uの感情を不快状態から快適状態に誘導するコンテンツ、快適状態から安心感が喚起された状態に誘導するコンテンツ、安心感が喚起された状態から幸福感が喚起された状態に誘導するコンテンツ、及び搭乗者Uの今後の予定に関するコンテンツを取得する。 Specifically, the information processing device 1 acquires content that induces the emotions of the passenger U from an uncomfortable state to a comfortable state, content that induces the emotions from a comfortable state to a state in which a sense of security is evoked, content that induces the emotions from a state in which a sense of security is evoked to a state in which a sense of happiness is evoked, and content related to the passenger U's future plans.

不快状態は、搭乗者Uの感情(気分)が業務から切り替わっていない状態を指し、図10で第1段階として図示するように、快/不快の指数が低い状態を指す。快適状態は、搭乗者Uの感情が業務から切り離された状態を指し、図10で第2段階として図示するように、快/不快の指数が高い状態を指す。 The uncomfortable state refers to a state in which passenger U's emotions (mood) have not shifted away from work, and refers to a state in which the comfort/unpleasant index is low, as shown as the first stage in Figure 10. The comfortable state refers to a state in which passenger U's emotions have been detached from work, and refers to a state in which the comfort/unpleasant index is high, as shown as the second stage in Figure 10.

安心感が喚起された状態は、搭乗者Uの感情が第2段階よりも非覚醒化された状態を指し、図10で第3段階として図示するように、覚醒/非覚醒の指数が低く、かつ、快/不快の指数が高い状態を指す。幸福感が喚起された状態は、搭乗者Uの感情が第3段階よりも覚醒化された状態を指し、図10で第4段階として図示するように、覚醒/非覚醒の指数が高く、かつ、快/不快の指数が高い状態を指す。 The state in which a sense of security is evoked refers to a state in which the emotions of the passenger U are less aroused than in the second stage, and refers to a state in which the arousal/non-arousal index is low and the pleasure/displeasure index is high, as shown as the third stage in Figure 10. The state in which a sense of happiness is evoked refers to a state in which the emotions of the passenger U are more aroused than in the third stage, and refers to a state in which the arousal/non-arousal index is high and the pleasure/displeasure index is high, as shown as the fourth stage in Figure 10.

情報処理装置1はまず、搭乗者Uの感情が不快状態にあると仮定して、搭乗者Uの感情を快適状態に誘導する第1段階のコンテンツを出力する。例えば情報処理装置1は、照明装置IMによる照明光の照射、芳香装置AFによる芳香の出力、空調装置ACによる空調の自動調整、及び/又はスピーカSPからの音声(音楽等)の出力を行う。なお、コンテンツを出力する前に、情報処理装置1はコンテンツの出力時間が残り所要時間以内であるか否かを判定する。この点は以降の処理も同様である。 First, the information processing device 1 assumes that the passenger U is feeling uncomfortable and outputs a first stage of content that induces the passenger U to feel comfortable. For example, the information processing device 1 irradiates illumination light using the lighting device IM, outputs fragrance using the fragrance device AF, automatically adjusts the air conditioning using the air conditioning device AC, and/or outputs sound (music, etc.) from the speaker SP. Before outputting the content, the information processing device 1 determines whether the remaining output time of the content is within the required time. This point is the same for the subsequent processes.

当該コンテンツの出力後、情報処理装置1は、搭乗者Uの感情が、第2段階に相当する快適状態に遷移したか否かを判定する。快適状態に遷移した場合、情報処理装置1は、搭乗者Uの安心感を喚起するコンテンツを出力する。当該コンテンツは、例えば所定の物語の朗読(音声出力)、又はエンターテイメント情報の表示等である。情報処理装置1は、これらのコンテンツを事前にコンテンツDB151に記憶してあり、快適状態に遷移した場合、搭乗者Uの感情をポジティブな方向へ誘導すべく当該コンテンツを出力する。 After outputting the content, the information processing device 1 determines whether the passenger U's emotions have transitioned to a comfortable state corresponding to the second stage. If the passenger U has transitioned to a comfortable state, the information processing device 1 outputs content that evokes a sense of security in the passenger U. The content is, for example, a reading of a specific story (audio output) or a display of entertainment information. The information processing device 1 stores these contents in advance in the content DB 151, and if the passenger U has transitioned to a comfortable state, the information processing device 1 outputs the content to guide the passenger U's emotions in a positive direction.

次に情報処理装置1は、搭乗者Uの感情が、安心感が喚起された状態に遷移したか否かを判定する。安心感が喚起された状態に遷移したと判定した場合、情報処理装置1は、搭乗者Uの幸福感を喚起するコンテンツを出力する。当該コンテンツは、搭乗者Uの感情を第2段階よりも覚醒化させるコンテンツであり、例えば搭乗者Uに関係する人物(家族等)の情報である。具体的には、情報処理装置1は、家族との思い出(写真等)、当日の家族の出来事(搭乗者Uへのチャットメッセージ、SNS投稿記事等)をディスプレイDSに表示する。例えば情報処理装置1は、コンテンツDB151から家族の思い出に相当する情報を読み出すと共に、搭乗者Uが利用するチャットアプリケーションからメッセージ等を取得して表示する。 Next, the information processing device 1 determines whether the passenger U's emotions have transitioned to a state in which a sense of security is evoked. If it is determined that the emotions have transitioned to a state in which a sense of security is evoked, the information processing device 1 outputs content that evokes a sense of happiness in the passenger U. The content is content that awakens the passenger U's emotions more than the second stage, and is, for example, information about people (family members, etc.) related to the passenger U. Specifically, the information processing device 1 displays memories with the family (photos, etc.) and events that occurred with the family on that day (chat messages to the passenger U, articles posted on SNS, etc.) on the display DS. For example, the information processing device 1 reads out information corresponding to family memories from the content DB 151, and also obtains and displays messages, etc. from a chat application used by the passenger U.

次に情報処理装置1は、搭乗者Uの感情が、幸福感が喚起された状態に遷移したか否かを判定する。幸福感が喚起された状態に遷移したと判定した場合、情報処理装置1は、搭乗者Uの今後(例えば週末)のスケジュールをディスプレイDSに表示する。情報処理装置1は、搭乗者Uが利用するスケジューラ等のアプリケーションからスケジュールを取得し、第4段階のコンテンツとして出力する。 The information processing device 1 then determines whether the emotion of the passenger U has transitioned to a state in which a sense of happiness is aroused. If it is determined that the emotion has transitioned to a state in which a sense of happiness is aroused, the information processing device 1 displays the passenger U's future schedule (e.g., the weekend) on the display DS. The information processing device 1 obtains the schedule from an application such as a scheduler used by the passenger U, and outputs it as the fourth stage content.

このように、情報処理装置1は、同じ2地点を移動する場合であっても、往路又は復路の別に応じて異なるコンテンツ群を出力する。これにより、往路又は復路に応じて搭乗者Uの感情を適切な状態に誘導することができる。 In this way, the information processing device 1 outputs different content groups depending on whether the journey is an outbound or inbound journey, even when traveling between the same two locations. This makes it possible to induce the passenger U's emotions into an appropriate state depending on whether the journey is an outbound or inbound journey.

往路又は復路に応じて異なるコンテンツを出力する点以外は実施の形態1と同様であるため、本実施の形態ではフローチャート等の詳細な説明省略する。 This embodiment is the same as the first embodiment except that different content is output depending on whether it is an outbound or inbound journey, so detailed explanations of the flow charts, etc. will be omitted in this embodiment.

(実施の形態3)
実施の形態1では、複数段階のコンテンツをそれぞれ出力する際に、コンテンツの出力時間を残り所要時間と比較してコンテンツ出力の適否を判定する形態について説明した。一方で、通勤等で本システムを連日利用する場合、コンテンツの提示によって要する搭乗者Uの感情の遷移時間は似たような時間を取ることが想定される。本実施の形態では、感情誘導に要した遷移時間を学習した機械学習モデルを構築(生成)し、当該モデルに基づく遷移時間の推定値に応じてコンテンツ出力の適否を判定する形態について説明する。
(Embodiment 3)
In the first embodiment, a form has been described in which the output time of the content is compared with the remaining required time when outputting each of the multiple stages of content to determine whether the content output is appropriate. On the other hand, when the present system is used every day for commuting, etc., it is expected that the transition time of the passenger U's emotions required by the presentation of the content will take a similar amount of time. In the present embodiment, a machine learning model that learns the transition time required for emotion induction is constructed (generated), and the appropriateness of the content output is determined according to an estimated value of the transition time based on the model.

図11は、実施の形態3に係る記憶部15を示すブロック図である。本実施の形態に係る情報処理装置1の記憶部15は、コンテンツDB151、第1モデル51のほかに、第2モデル52を記憶している。第2モデル52は、所定の訓練データを学習済みの機械学習モデルであり、搭乗者Uの検出情報を入力した場合に、次段階の感情に遷移するまでの遷移時間を推定するモデルである。第2モデル52は、人工知能ソフトウェアの一部を構成するプログラムモジュールとしての利用が想定される。 FIG. 11 is a block diagram showing the storage unit 15 according to the third embodiment. The storage unit 15 of the information processing device 1 according to the present embodiment stores a second model 52 in addition to a content DB 151 and a first model 51. The second model 52 is a machine learning model that has learned predetermined training data, and is a model that estimates the transition time until a transition to the next stage of emotion when detection information of the occupant U is input. The second model 52 is expected to be used as a program module that constitutes part of artificial intelligence software.

第2モデル52は、例えば第1モデル51と同様に、深層学習によって構築されたCNN等のニューラルネットワークである。例えば第2モデル52は、人物を撮像した画像と、当該人物に対してコンテンツを提示(出力)した場合に、目標とする次段階の感情への遷移に要する遷移時間とのペアを訓練データとして学習してある。 The second model 52 is, for example, a neural network such as a CNN constructed by deep learning, similar to the first model 51. For example, the second model 52 learns, as training data, pairs of an image of a person and the transition time required for the person to transition to a target next stage of emotion when content is presented (output) to the person.

具体的には、第2モデル52は、第2モデル52がインストールされた情報処理装置1が設置されている車両Cの搭乗者U(ユーザ)の画像と、当該搭乗者Uに対するコンテンツの出力によって要した次段階への遷移時間とを訓練データとして学習してある。例えば情報処理装置1は、搭乗者Uが本システムを利用する場合に、搭乗者UのユーザID、及び搭乗者Uに対して出力したコンテンツのコンテンツIDと対応付けて、コンテンツ出力時点の搭乗者Uの画像と、当該コンテンツの次の段階に対応する感情への遷移時間の実績値とを記憶しておく。情報処理装置1は、搭乗者Uの画像のほか、搭乗者Uを表すユーザID、及び出力するコンテンツを表すコンテンツIDを訓練用の入力データとし、遷移時間の実績値を正解値として第2モデル52に与え、学習させる。なお、学習自体は情報処理装置1以外の装置(例えばクラウド上のサーバコンピュータ)で実行してもよい。 Specifically, the second model 52 has learned training data including an image of the passenger U (user) of the vehicle C in which the information processing device 1 in which the second model 52 is installed is installed, and the transition time to the next stage required by the output of the content to the passenger U. For example, when the passenger U uses the system, the information processing device 1 stores an image of the passenger U at the time of content output and an actual value of the transition time to the emotion corresponding to the next stage of the content, in association with the user ID of the passenger U and the content ID of the content output to the passenger U. The information processing device 1 uses the image of the passenger U, the user ID representing the passenger U, and the content ID representing the content to be output as training input data, and provides the actual value of the transition time to the second model 52 as a correct answer value, and causes the second model 52 to learn. The learning itself may be performed by a device other than the information processing device 1 (for example, a server computer on the cloud).

情報処理装置1は、各段階のコンテンツを出力する際に、搭乗者Uの画像等を第2モデル52に入力し、出力するコンテンツで誘導目標とする感情、すなわち次の段階の感情への遷移時間を推定する。例えば第2段階のコンテンツを出力する場合、情報処理装置1は、第2段階から第3段階の感情への遷移時間を推定する。 When outputting the content for each stage, the information processing device 1 inputs an image of the passenger U, etc., into the second model 52 and estimates the emotion to be induced in the output content, i.e., the transition time to the next emotion stage. For example, when outputting the content for the second stage, the information processing device 1 estimates the transition time from the second emotion stage to the third emotion stage.

情報処理装置1は、推定した遷移時間を、目的地への残り所要時間と比較する。そして情報処理装置1は、遷移時間が残り所要時間以内である場合、コンテンツを出力する。 The information processing device 1 compares the estimated transition time with the remaining time required to reach the destination. If the transition time is within the remaining time required, the information processing device 1 outputs the content.

図12は、実施の形態3に係る情報処理装置1が実行する処理手順の一例を示すフローチャートである。次段階のコンテンツの出力時間が残り所要時間以内であると判定した場合(S19:YES)、情報処理装置1は以下の処理を実行する。 Figure 12 is a flowchart showing an example of a processing procedure executed by the information processing device 1 according to embodiment 3. When it is determined that the output time of the next stage content is within the remaining required time (S19: YES), the information processing device 1 executes the following processing.

情報処理装置1の制御部11は、センシング機器SMから取得した搭乗者Uの検出情報を第2モデル52に入力して、搭乗者Uの感情が、ステップS20で新たに出力するコンテンツの更に次の段階に対応する感情に遷移するまでに要する遷移時間を推定する(ステップS301)。具体的には上述の如く、制御部11は、搭乗者Uを撮像した画像等を第2モデルに入力して、遷移時間を推定する。 The control unit 11 of the information processing device 1 inputs the detection information of the passenger U acquired from the sensing device SM to the second model 52, and estimates the transition time required for the passenger U's emotion to transition to the emotion corresponding to the next stage of the content newly output in step S20 (step S301). Specifically, as described above, the control unit 11 inputs an image of the passenger U, etc., to the second model to estimate the transition time.

制御部11は、推定した遷移時間が、残り所要時間以内であるか否かを判定する(ステップS302)。残り所要時間以内でないと判定した場合(S302:NO)、制御部11は処理をステップS21に移行する。残り所要時間以内であると判定した場合(S302:YES)、制御部11は、次段階のコンテンツを出力する(ステップS20)。 The control unit 11 determines whether the estimated transition time is within the remaining required time (step S302). If it is determined that the estimated transition time is not within the remaining required time (S302: NO), the control unit 11 transitions to step S21. If it is determined that the estimated transition time is within the remaining required time (S302: YES), the control unit 11 outputs the next stage of content (step S20).

以上より、本実施の形態3によれば、搭乗者Uの感情遷移に要する遷移時間を予測し、コンテンツ出力の適否を判定することができる。 As described above, according to this third embodiment, it is possible to predict the time required for the passenger U's emotional transition and determine whether or not to output content.

(実施の形態4)
実施の形態1では、複数のコンテンツを予め定められた順序で出力する形態について説明した。一方で、各コンテンツの出力条件となる感情に遷移したか否かを同時並行で判定し、出力条件を満たし次第、各コンテンツを出力するようにしてもよい。本実施の形態では、複数のコンテンツの出力順序を規定せず、同時並行で出力する形態について説明する。
(Embodiment 4)
In the first embodiment, a form in which multiple contents are output in a predetermined order has been described. On the other hand, it is also possible to simultaneously determine whether or not each content has transitioned to an emotion that is an output condition for each content, and output each content as soon as the output condition is satisfied. In the present embodiment, a form in which multiple contents are output simultaneously without specifying the output order will be described.

図13は、実施の形態4に係る情報処理装置1が実行する処理手順を示すフローチャートである。目的地の入力を受け付け(ステップS11)、コンテンツ出力対象とする搭乗者Uを特定した後(ステップS12)、情報処理装置1は以下の処理を実行する。 Figure 13 is a flowchart showing the processing procedure executed by the information processing device 1 according to embodiment 4. After receiving input of a destination (step S11) and identifying a passenger U to whom content is to be output (step S12), the information processing device 1 executes the following processing.

情報処理装置1の制御部11は、ステップS11で入力された目的地に該当し、かつ、ステップS12で特定した搭乗者Uに対応するコンテンツをコンテンツDB151から取得する(ステップS401)。具体的には、制御部11は、出力条件とする複数の感情それぞれに対応付けられた複数のコンテンツを取得する。 The control unit 11 of the information processing device 1 acquires from the content DB 151 the content that corresponds to the destination input in step S11 and to the passenger U identified in step S12 (step S401). Specifically, the control unit 11 acquires multiple pieces of content that correspond to each of the multiple emotions that are output conditions.

本実施の形態に係るコンテンツ群は、実施の形態1とは異なり、コンテンツの出力順序、すなわち段階が規定されていない。コンテンツDB151には、各コンテンツと対応付けて出力条件とする感情のみが規定されており、情報処理装置1は、各コンテンツの出力条件である感情に搭乗者Uの感情が一致した場合、出力条件を満たしたコンテンツを出力する。 Unlike embodiment 1, the content group according to this embodiment does not specify the order in which the content is output, i.e., the stages. Content DB151 specifies only the emotions that are associated with each piece of content and that serve as output conditions, and when the emotion of passenger U matches the emotion that is the output condition for each piece of content, the information processing device 1 outputs the content that satisfies the output conditions.

制御部11は、搭乗者Uに関する検出情報をセンシング機器SMから取得する(ステップS402)。制御部11は、取得した検出情報に基づき、搭乗者Uの感情を推定する(ステップS403)。 The control unit 11 acquires detection information related to the passenger U from the sensing device SM (step S402). The control unit 11 estimates the emotions of the passenger U based on the acquired detection information (step S403).

制御部11は、コンテンツDB151で規定されている各コンテンツの出力条件の感情と、ステップS403で推定した搭乗者Uの感情とを比較して、出力条件を満たす該当コンテンツがあるか否かを判定する(ステップS404)。該当コンテンツがないと判定した場合(S404:NO)、制御部11は処理をステップS402に戻す。 The control unit 11 compares the emotions of the output conditions of each content defined in the content DB 151 with the emotions of the passenger U estimated in step S403, and determines whether there is any corresponding content that satisfies the output conditions (step S404). If it is determined that there is no corresponding content (S404: NO), the control unit 11 returns the process to step S402.

該当コンテンツがあると判定した場合(S404:YES)、制御部11は、目的地までの残り所要時間を取得する(ステップS405)。制御部11は、該当コンテンツの出力時間が残り所要時間以内であるか否かを判定する(ステップS406)。残り所要時間以内であると判定した場合(S406:YES)、制御部11は、該当コンテンツを出力する(ステップS407)。 If it is determined that the relevant content is present (S404: YES), the control unit 11 obtains the remaining time to the destination (step S405). The control unit 11 determines whether the output time of the relevant content is within the remaining required time (step S406). If it is determined that the output time is within the remaining required time (S406: YES), the control unit 11 outputs the relevant content (step S407).

ここで、本実施の形態では出力条件を満たし次第コンテンツを出力するため、ステップS407で該当コンテンツを出力する際に、他のコンテンツを出力中である場合が想定される。この場合、例えば情報処理装置1は、出力中のコンテンツと同時に該当コンテンツを出力すると好適である。 In this embodiment, since the content is output as soon as the output conditions are satisfied, it is assumed that other content is being output when the relevant content is output in step S407. In this case, for example, it is preferable for the information processing device 1 to output the relevant content simultaneously with the content being output.

例えばコンテンツとして、ディスプレイDSに画像を表示する場合について説明する。この場合、情報処理装置1は、出力中のコンテンツに係る画像とは別のディスプレイDS上の表示箇所に、該当コンテンツに係る画像を表示する。例えば情報処理装置1は、出力中のコンテンツに係る画像を表示している車窓とは別の車窓に、該当コンテンツに係る画像を表示する。 For example, a case will be described where an image is displayed on the display DS as content. In this case, the information processing device 1 displays an image related to the content in a display location on the display DS different from the image related to the content being output. For example, the information processing device 1 displays an image related to the content in a vehicle window different from the vehicle window where the image related to the content being output is displayed.

例えば情報処理装置1は、最先に出力を開始したコンテンツをフロントガラスに表示すると共に、その後に出力を開始するコンテンツを、フロントガラス以外の車窓(例えばフロントドアガラス)に表示する。フロントガラスに表示中のコンテンツが終了した場合、情報処理装置1は、別の車窓に表示中のコンテンツをフロントガラスに移動させて表示する。 For example, the information processing device 1 displays the content that starts to be output first on the windshield, and displays the content that starts to be output subsequently on a vehicle window other than the windshield (e.g., the front door glass). When the content being displayed on the windshield ends, the information processing device 1 moves the content being displayed on another vehicle window to the windshield and displays it there.

なお、上記は同時出力(表示)の一例であって、本実施の形態はこれに限定されるものではない。例えば情報処理装置1は、最新のコンテンツ(該当コンテンツ)を優先してフロントガラスに表示し、従前のコンテンツを別の車窓に移動させる等してもよい。 Note that the above is an example of simultaneous output (display), and the present embodiment is not limited to this. For example, the information processing device 1 may give priority to displaying the latest content (relevant content) on the windshield, and move the previous content to another car window, etc.

ステップS407の処理を実行後、又はステップS406でNOの場合、制御部11は、目的地に到着したか否かを判定する(ステップS408)。目的地に到着していないと判定した場合(S408:NO)、制御部11は処理をステップS402に戻す。目的地に到着したと判定した場合(S408:YES)、制御部11は一連の処理を終了する。 After executing the process of step S407, or if the result of step S406 is NO, the control unit 11 determines whether or not the destination has been reached (step S408). If it is determined that the destination has not been reached (S408: NO), the control unit 11 returns the process to step S402. If it is determined that the destination has been reached (S408: YES), the control unit 11 ends the series of processes.

以上より、本実施の形態4によれば、複数のコンテンツの出力順序を定めず、同時並行で出力してもよい。 As described above, according to the fourth embodiment, multiple contents may be output simultaneously in parallel without specifying the output order.

各実施の形態において記載した技術的特徴(構成要件)は、互いに組み合わせが可能であり、組み合わせ箇所には新たな技術的思想が形成される。今回開示した実施の形態は、全てが例示であって制限的なものでない。 The technical features (constituent elements) described in each embodiment can be combined with each other, and new technical ideas are formed at the points of combination. The embodiments disclosed here are all illustrative and not restrictive.

本発明の範囲は、上記の意味でなく特許請求の範囲を示すものであり、特許請求の範囲と均等の意味及び範囲内における全ての変更を含むことを意図するものである。 The scope of the present invention is defined by the claims rather than the above meaning, and is intended to include all modifications within the scope and meaning equivalent to the claims.

1 情報処理装置
11 制御部
110 演算処理部
111 ROM
112 RAM
12 通信部
13 入力インタフェース
14 出力インタフェース
15 記憶部
151 コンテンツDB
51 第1モデル
52 第2モデル
C 車両
U 搭乗者
ST 座席
IM 照明装置
SP スピーカ
AF 芳香装置
AC 空調装置
SM センシング機器
SM1 カメラ
SM2 マイク
NB 車載ナビゲーション装置
DS ディスプレイ
OP 操作ユニット
N ネットワーク
REFERENCE SIGNS LIST 1 Information processing device 11 Control unit 110 Arithmetic processing unit 111 ROM
112 RAM
12 Communication unit 13 Input interface 14 Output interface 15 Storage unit 151 Content DB
51 First model 52 Second model C Vehicle U Passenger ST Seat IM Lighting device SP Speaker AF Fragrance device AC Air conditioning device SM Sensing device SM1 Camera SM2 Microphone NB On-board navigation device DS Display OP Operation unit N Network

Claims (10)

車両に搭乗する搭乗者の感情が目的地到着時に、目的地に基づいた特定の感情となるように誘導するためのコンテンツであって、前記特定の感情に誘導する複数段階の感情夫々に対応する複数段階のコンテンツを取得する第1取得部と、
所定のセンシング機器を用いて検出した前記搭乗者に関する検出情報を取得する第2取得部と、
取得した前記検出情報に基づいて前記搭乗者の感情を推定する推定部と、
前記車両に設けられた出力機器に、推定した前記搭乗者の感情に対応する段階の前記コンテンツを選択して出力する出力制御部と、
前記車両の現在地から目的地までの残り所要時間を取得する第3取得部とを備え、
前記出力制御部は、前記残り所要時間と、残りの前記コンテンツの総出力時間とに基づいて、前記コンテンツの出力を制御し、
前記推定部は、一の段階に対応する前記コンテンツを出力後、前記搭乗者の感情が、前記一の段階に続く次の段階の感情に遷移したか否かを判定し、
前記出力制御部は、前記次の段階の感情に遷移したと判定した場合に、該次の段階に対応する前記コンテンツを出力し、
前記検出情報を入力した場合に前記次の段階に遷移するまでの遷移時間を推定するように学習済みのモデルであって、前記搭乗者の過去の前記検出情報及び遷移時間を学習済みのモデルに、取得した前記検出情報を入力して前記遷移時間を推定する遷移時間推定部を備え、
前記出力制御部は、推定した前記遷移時間と、前記次の段階に対応する前記コンテンツの出力時間とに基づいて、前記次の段階に対応する前記コンテンツを出力するか否かを判定する
情報処理装置。
a first acquisition unit that acquires a plurality of stages of content corresponding to each of a plurality of stages of emotions that induce a passenger in a vehicle to have a specific emotion based on a destination when the passenger arrives at the destination;
A second acquisition unit that acquires detection information regarding the passenger detected by using a predetermined sensing device;
an estimation unit that estimates an emotion of the passenger based on the acquired detection information;
an output control unit that selects and outputs the content corresponding to the estimated emotion of the passenger to an output device provided in the vehicle;
a third acquisition unit that acquires a remaining required time from a current location of the vehicle to a destination,
the output control unit controls output of the content based on the remaining required time and a total output time of the remaining content;
the estimation unit determines whether or not the emotion of the passenger has transitioned to an emotion of a next stage subsequent to the first stage after outputting the content corresponding to the first stage;
When it is determined that the emotion has transitioned to the next emotion level, the output control unit outputs the content corresponding to the next emotion level;
a trained model for estimating a transition time until a transition to the next stage when the detection information is input, the trained model including the past detection information and transition times of the occupant being input with the acquired detection information, the trained model including the transition time estimation unit estimating the transition time;
The output control unit determines whether to output the content corresponding to the next stage based on the estimated transition time and an output time of the content corresponding to the next stage.
Information processing device.
前記出力制御部は、前記一の段階に対応する前記コンテンツとして、前記搭乗者の感情を非覚醒状態から覚醒状態に誘導するコンテンツを出力し、
前記出力制御部は、前記搭乗者の感情が前記覚醒状態に遷移したか否かを判定し、
前記出力制御部は、前記覚醒状態に遷移したと判定した場合、前記搭乗者の競争心を喚起するコンテンツとして、前記搭乗者の競争相手の情報を出力する
請求項に記載の情報処理装置。
the output control unit outputs content that induces an emotion of the occupant from a non-awakened state to an awakened state as the content corresponding to the one stage,
The output control unit determines whether or not an emotion of the occupant has transitioned to the awakening state,
The information processing device according to claim 1 , wherein when it is determined that the occupant has transitioned to the wakefulness state, the output control unit outputs information about a competitor of the occupant as content that stimulates the occupant's competitive spirit.
前記推定部は、前記搭乗者の競争心を喚起するコンテンツを出力後、前記搭乗者の感情が、競争心が喚起された状態に遷移したか否かを判定し、
前記出力制御部は、前記競争心が喚起された状態に遷移したと判定した場合、前記搭乗者の目標を想起するコンテンツを出力する
請求項に記載の情報処理装置。
the estimation unit determines whether or not the emotion of the passenger has transitioned to a state in which the passenger's competitive spirit has been aroused after outputting content that arouses the passenger's competitive spirit;
The information processing device according to claim 2 , wherein the output control unit outputs content that reminds the rider of a goal when it is determined that the rider has transitioned to a state in which the competitive spirit is aroused.
前記出力制御部は、前記一の段階に対応する前記コンテンツとして、前記搭乗者の感情を不快状態から快適状態に誘導するコンテンツを出力し、
前記推定部は、前記搭乗者の感情が前記快適状態に遷移したか否かを判定し、
前記出力制御部は、前記快適状態に遷移したと判定した場合、前記搭乗者の安心感を喚起するコンテンツとして、所定の物語の朗読音声、又はエンターテイメント情報を出力する
請求項1~3の何れか1つに記載の情報処理装置。
the output control unit outputs, as the content corresponding to the one stage, content for inducing an emotion of the passenger from an uncomfortable state to a comfortable state;
The estimation unit determines whether or not the emotion of the occupant has transitioned to the comfortable state,
The information processing device according to any one of claims 1 to 3 , wherein when the output control unit determines that the passenger has transitioned to the comfortable state, the output control unit outputs a voice reading a predetermined story or entertainment information as content that evokes a sense of security in the passenger.
前記推定部は、前記搭乗者の安心感を喚起するコンテンツを出力後、前記搭乗者の感情が、安心感が喚起された状態に遷移したか否かを判定し、
前記出力制御部は、前記安心感が喚起された状態に遷移したと判定した場合、前記搭乗者に関係する人物を想起するコンテンツを出力する
請求項に記載の情報処理装置。
the estimation unit determines whether or not an emotion of the passenger has transitioned to a state in which a sense of security is evoked after outputting content that evokes a sense of security in the passenger;
The information processing device according to claim 4 , wherein the output control unit outputs content that recalls a person related to the passenger when it is determined that the state has transitioned to a state in which a sense of security is evoked.
前記出力制御部は、前記残り所要時間と、前記コンテンツの出力時間とに基づいて、選択した前記コンテンツを出力するか否かを判定する
請求項1~の何れか1つに記載の情報処理装置。
The information processing device according to claim 1 , wherein the output control unit determines whether or not to output the selected content based on the remaining required time and an output time of the content.
前記車両の周辺の交通情報を取得する第4取得部を備え、
前記出力制御部は、前記交通情報に応じて前記残り所要時間を増減する
請求項に記載の情報処理装置。
A fourth acquisition unit that acquires traffic information around the vehicle,
The information processing device according to claim 6 , wherein the output control unit increases or decreases the remaining required time in accordance with the traffic information.
前記第1取得部は、前記車両が、前記搭乗者の拠点である第1地点を出発地として所定の第2地点を前記目的地とする往路を移動するか、又は前記第2地点を出発地として前記第1地点を前記目的地とする復路を移動するかに応じて異なる前記複数段階のコンテンツを取得する
請求項1~のいずれか1項に記載の情報処理装置。
The information processing device according to any one of claims 1 to 7, wherein the first acquisition unit acquires the multiple stages of content that differ depending on whether the vehicle travels on an outbound route starting from a first point that is the passenger's base and traveling to a specified second point as the destination, or on whether the vehicle travels on a return route starting from the second point and traveling to the first point as the destination.
前記車両の目的地、出発日時、又は前記搭乗者以外の同乗者に応じて、最終目標とする前記特定の感情を推定する目標推定部を備え、
前記第1取得部は、推定した前記特定の感情に対応する前記複数段階のコンテンツを取得する
請求項1~のいずれか1項に記載の情報処理装置。
a goal estimation unit that estimates the specific emotion as a final goal according to a destination of the vehicle, a departure date and time, or a passenger other than the passenger;
The information processing device according to claim 1 , wherein the first acquisition unit acquires the plurality of stages of content corresponding to the estimated specific emotion.
車両に搭乗する搭乗者の感情が目的地到着時に、目的地に基づいた特定の感情となるように誘導するためのコンテンツであって、前記特定の感情に誘導する複数段階の感情夫々に対応する複数段階のコンテンツを取得し、
所定のセンシング機器を用いて検出した前記搭乗者に関する検出情報を取得し、
取得した前記検出情報に基づいて前記搭乗者の感情を推定し、
前記車両に設けられた出力機器に、推定した前記搭乗者の感情に対応する段階の前記コンテンツを選択して出力し、
前記車両の現在地から目的地までの残り所要時間を取得し、
前記残り所要時間と、残りの前記コンテンツの総出力時間とに基づいて、前記コンテンツの出力を制御し、
一の段階に対応する前記コンテンツを出力後、前記搭乗者の感情が、前記一の段階に続く次の段階の感情に遷移したか否かを判定し、
前記次の段階の感情に遷移したと判定した場合に、該次の段階に対応する前記コンテンツを出力し、
前記検出情報を入力した場合に前記次の段階に遷移するまでの遷移時間を推定するように学習済みのモデルであって、前記搭乗者の過去の前記検出情報及び遷移時間を学習済みのモデルに、取得した前記検出情報を入力して前記遷移時間を推定し、
推定した前記遷移時間と、前記次の段階に対応する前記コンテンツの出力時間とに基づいて、前記次の段階に対応する前記コンテンツを出力するか否かを判定する
処理をコンピュータが実行する感情誘導方法。
acquiring a content for inducing an emotion of a passenger in a vehicle to a specific emotion based on a destination when the passenger arrives at the destination, the content corresponding to each of the multiple emotion levels for inducing the specific emotion;
Obtaining detection information regarding the passenger detected using a predetermined sensing device;
Estimating the emotion of the passenger based on the acquired detection information;
Selecting and outputting the content corresponding to the estimated emotion of the passenger to an output device installed in the vehicle;
Obtaining the remaining time required to travel from the current location of the vehicle to the destination;
Controlling output of the content based on the remaining required time and a total output time of the remaining content;
After outputting the content corresponding to the first stage, it is determined whether or not the emotion of the passenger has transitioned to an emotion of a next stage following the first stage;
When it is determined that the emotion has transitioned to the next emotion level, the content corresponding to the next emotion level is output.
a trained model for estimating a transition time until a transition to the next stage when the detection information is input, the model having learned the past detection information and transition time of the occupant being inputted with the acquired detection information to estimate the transition time;
Based on the estimated transition time and an output time of the content corresponding to the next stage, it is determined whether or not to output the content corresponding to the next stage.
An emotion induction method in which processing is performed by a computer.
JP2022178790A 2020-10-28 2022-11-08 Information processing device and emotion induction method Active JP7470171B2 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202063106453P 2020-10-28 2020-10-28
US63/106,453 2020-10-28
JP2021020128A JP2022071800A (en) 2020-10-28 2021-02-10 Information processing device and emotion guidance method

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2021020128A Division JP2022071800A (en) 2020-10-28 2021-02-10 Information processing device and emotion guidance method

Publications (2)

Publication Number Publication Date
JP2023027783A JP2023027783A (en) 2023-03-02
JP7470171B2 true JP7470171B2 (en) 2024-04-17

Family

ID=81593853

Family Applications (8)

Application Number Title Priority Date Filing Date
JP2021020128A Pending JP2022071800A (en) 2020-10-28 2021-02-10 Information processing device and emotion guidance method
JP2021020124A Active JP7236478B2 (en) 2020-10-28 2021-02-10 Information processing system, computer program, and display method
JP2021020126A Active JP7157188B2 (en) 2020-10-28 2021-02-10 Information processing method, information processing system and program
JP2021020127A Active JP7170076B2 (en) 2020-10-28 2021-02-10 Information processing method and information processing system
JP2021020125A Pending JP2022071797A (en) 2020-10-28 2021-02-10 Vehicle and display method
JP2021020129A Active JP7122408B2 (en) 2020-10-28 2021-02-10 Information processing device and information processing method
JP2022126460A Active JP7340078B2 (en) 2020-10-28 2022-08-08 Information processing device and program
JP2022178790A Active JP7470171B2 (en) 2020-10-28 2022-11-08 Information processing device and emotion induction method

Family Applications Before (7)

Application Number Title Priority Date Filing Date
JP2021020128A Pending JP2022071800A (en) 2020-10-28 2021-02-10 Information processing device and emotion guidance method
JP2021020124A Active JP7236478B2 (en) 2020-10-28 2021-02-10 Information processing system, computer program, and display method
JP2021020126A Active JP7157188B2 (en) 2020-10-28 2021-02-10 Information processing method, information processing system and program
JP2021020127A Active JP7170076B2 (en) 2020-10-28 2021-02-10 Information processing method and information processing system
JP2021020125A Pending JP2022071797A (en) 2020-10-28 2021-02-10 Vehicle and display method
JP2021020129A Active JP7122408B2 (en) 2020-10-28 2021-02-10 Information processing device and information processing method
JP2022126460A Active JP7340078B2 (en) 2020-10-28 2022-08-08 Information processing device and program

Country Status (1)

Country Link
JP (8) JP2022071800A (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7545449B2 (en) * 2022-08-24 2024-09-04 ソフトバンク株式会社 Information processing device, program, and information processing method
DE102022210497A1 (en) * 2022-10-04 2024-04-04 Volkswagen Aktiengesellschaft Method and control device for controlling a display device of a navigation system of a vehicle, display device and vehicle
JP2025082746A (en) * 2023-11-17 2025-05-29 株式会社豊田中央研究所 Information processing system, information processing method, and program
WO2025150317A1 (en) * 2024-01-09 2025-07-17 パナソニックIpマネジメント株式会社 Control device, control method for control device, and control program for control device
WO2025177637A1 (en) * 2024-02-22 2025-08-28 コニカミノルタ株式会社 Content display system, content image selection method, and content selection program
WO2025234158A1 (en) * 2024-05-10 2025-11-13 ソニーグループ株式会社 Information processing system, information processing method, and program

Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004212160A (en) 2002-12-27 2004-07-29 Matsushita Electric Ind Co Ltd Route search device and vehicle environment change device
JP2005010664A (en) 2003-06-20 2005-01-13 Matsushita Electric Ind Co Ltd In-vehicle content playback system
JP2007145226A (en) 2005-11-29 2007-06-14 Denso Corp Automotive user hospitality system
JP2007145225A (en) 2005-11-29 2007-06-14 Denso Corp Automotive user hospitality system
JP2009023613A (en) 2007-07-23 2009-02-05 Denso Corp Automotive user hospitality system
JP2009208727A (en) 2008-03-06 2009-09-17 Denso Corp User hospitality system for vehicle
JP2016137204A (en) 2015-01-29 2016-08-04 マツダ株式会社 Vehicle occupant emotion response control device
JP2019515730A (en) 2016-04-18 2019-06-13 マサチューセッツ インスティテュート オブ テクノロジー Feature extraction from physiological signals
JP2019208576A (en) 2018-05-31 2019-12-12 株式会社デンソー Emotion data acquisition device and emotion operation device
JP6683163B2 (en) 2017-03-29 2020-04-15 マツダ株式会社 Vehicle driving support system
JP2020130528A (en) 2019-02-18 2020-08-31 沖電気工業株式会社 Emotion estimation device, emotion estimation method, program, and emotion estimation system
JP2020170345A (en) 2019-04-03 2020-10-15 トヨタ自動車株式会社 Vehicle driving advice providing system

Family Cites Families (56)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09183334A (en) * 1995-12-28 1997-07-15 Fujita Corp Mobile office
JP3474053B2 (en) * 1996-04-16 2003-12-08 株式会社日立製作所 Map display method for navigation device and navigation device
FR2806042B1 (en) * 2000-03-13 2002-07-12 Renault DASHBOARD WITH TABLET FOR MOTOR VEHICLE
JP3920580B2 (en) 2001-03-14 2007-05-30 トヨタ自動車株式会社 Information presentation system and information presentation method
WO2003020572A1 (en) * 2001-08-31 2003-03-13 Johnson Controls Technology Company Stowable steering wheel
JP2003143477A (en) 2001-10-31 2003-05-16 Canon Inc Image synthesizing apparatus and method
JP3931336B2 (en) 2003-09-26 2007-06-13 マツダ株式会社 Vehicle information providing device
FR2861657B1 (en) * 2003-11-04 2007-01-19 Peugeot Citroen Automobiles Sa DRIVING STATION OF A MOTOR VEHICLE
JP4062735B2 (en) 2004-01-20 2008-03-19 マツダ株式会社 Image display device for vehicle
JP3928875B2 (en) 2004-01-20 2007-06-13 マツダ株式会社 Image display device for vehicle
JP5083559B2 (en) 2008-06-02 2012-11-28 カシオ計算機株式会社 Image composition apparatus, image composition method, and program
JP2011055250A (en) 2009-09-02 2011-03-17 Sony Corp Information providing method and apparatus, information display method and mobile terminal, program, and information providing system
JP2012019895A (en) * 2010-07-13 2012-02-02 Kokuyo Co Ltd Top board and furniture with top board
JP5714855B2 (en) 2010-09-16 2015-05-07 オリンパス株式会社 Image generation system, program, and information storage medium
JP2012243007A (en) * 2011-05-18 2012-12-10 Toshiba Corp Image display device and image area selection method using the same
JP5703194B2 (en) * 2011-11-14 2015-04-15 株式会社東芝 Gesture recognition apparatus, method thereof, and program thereof
JP6021488B2 (en) * 2012-07-19 2016-11-09 キヤノン株式会社 Control device, control method, and control program
WO2014032822A2 (en) * 2012-08-29 2014-03-06 Johnson Controls Gmbh Device and method for controlling vehicle functions by the detection of user interaction
JP6031972B2 (en) 2012-11-27 2016-11-24 富士通株式会社 Perceptual reaction analyzer, its method and program
US20150304593A1 (en) * 2012-11-27 2015-10-22 Sony Corporation Display apparatus, display method, and computer program
EP2746833A1 (en) * 2012-12-18 2014-06-25 Volvo Car Corporation Vehicle adaptation to automatic driver independent control mode
JP6015547B2 (en) * 2013-05-09 2016-10-26 株式会社デンソー Line-of-sight input device
US9440660B2 (en) * 2014-07-22 2016-09-13 Toyota Motor Engineering & Manufacturing North America, Inc. Method for remote communication with and through a vehicle
JP2016053880A (en) 2014-09-04 2016-04-14 株式会社ランディード On-vehicle system, information processing method, and computer program
JP6384869B2 (en) * 2015-01-23 2018-09-05 アルパイン株式会社 Information processing system and computer program
KR101687543B1 (en) * 2015-04-27 2016-12-19 엘지전자 주식회사 Display apparatus and method for controlling the same
CN108028015B (en) 2015-09-18 2021-07-23 索尼公司 Information processing apparatus, information processing method, and storage medium
BR112018005380B1 (en) 2015-09-18 2021-12-28 Nissan Motor Co., Ltd. VISUALIZATION DEVICE FOR VEHICLES AND VEHICLE VISUALIZATION METHOD
US10578864B2 (en) * 2015-10-09 2020-03-03 Maxell, Ltd. Head-up display device
JP6556643B2 (en) * 2016-02-19 2019-08-07 ヒュンダイ・モービス・カンパニー・リミテッド Head-up display device
JP2017191378A (en) 2016-04-11 2017-10-19 富士通テン株式会社 Augmented reality information display device and augmented reality information display method
JP6402136B2 (en) * 2016-05-17 2018-10-10 オートリブ ディベロップメント エービー Side airbag device
KR102581359B1 (en) 2016-09-02 2023-09-20 엘지전자 주식회사 User interface apparatus for vehicle and Vehicle
JP7067482B2 (en) 2016-11-04 2022-05-16 ソニーグループ株式会社 Controls, recording media, and programs
US10257582B2 (en) 2017-03-17 2019-04-09 Sony Corporation Display control system and method to generate a virtual environment in a vehicle
JP6947873B2 (en) 2017-03-17 2021-10-13 マクセル株式会社 AR display device, AR display method, and program
WO2019044400A1 (en) * 2017-08-28 2019-03-07 株式会社日立産機システム Motor drive system
JP6819539B2 (en) * 2017-10-20 2021-01-27 株式会社デンソー Gesture input device
JP2019113407A (en) 2017-12-22 2019-07-11 トヨタ自動車株式会社 Picture display device
JP7475812B2 (en) 2018-01-04 2024-04-30 ハーマン インターナショナル インダストリーズ インコーポレイテッド Mood roof for an enhanced media experience in the vehicle cabin
JP2019124601A (en) * 2018-01-17 2019-07-25 トヨタ自動車株式会社 Display device for vehicle
JP6973141B2 (en) * 2018-02-07 2021-11-24 トヨタ自動車株式会社 Display device for vehicles
JP2019140571A (en) 2018-02-13 2019-08-22 三菱電機株式会社 Content reproduction control device, content reproduction system, and program
JP2019159867A (en) * 2018-03-14 2019-09-19 日本精機株式会社 Head mounted display, image display method for head mounted display, and control program for head mounted display
JP7124367B2 (en) * 2018-03-20 2022-08-24 トヨタ自動車株式会社 Work support system, information processing method and program
JP7064371B2 (en) 2018-04-17 2022-05-10 株式会社Nttドコモ Dimming control method for content display system, server device, display terminal and content display system
US10592197B2 (en) * 2018-04-24 2020-03-17 Adobe Inc. Gesture-based alignment methodology to extend the viewport on adjacent touch screen devices
JP2020003953A (en) * 2018-06-26 2020-01-09 日産自動車株式会社 Image irradiation method and user interface device
JP2020053795A (en) * 2018-09-26 2020-04-02 株式会社Jvcケンウッド Display control device, video management server device, display system, display control method, and program
WO2020069517A2 (en) * 2018-09-30 2020-04-02 Strong Force Intellectual Capital, Llc Intelligent transportation systems
JP7163732B2 (en) * 2018-11-13 2022-11-01 トヨタ自動車株式会社 Driving support device, driving support system, driving support method and program
JP6741746B2 (en) * 2018-12-26 2020-08-19 株式会社ポケモン Program, game server, information processing terminal, method and game system
JP7028228B2 (en) 2019-01-16 2022-03-02 株式会社デンソー Display system, display control device and display control program
WO2020158536A1 (en) 2019-01-30 2020-08-06 ソニー株式会社 Information processing system, information processing method, and information processing device
WO2020183893A1 (en) * 2019-03-14 2020-09-17 ソニー株式会社 Information processing device, information processing method, and moving body device
JP7437630B2 (en) 2020-03-23 2024-02-26 パナソニックIpマネジメント株式会社 Display device, display method, and vehicle

Patent Citations (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004212160A (en) 2002-12-27 2004-07-29 Matsushita Electric Ind Co Ltd Route search device and vehicle environment change device
JP2005010664A (en) 2003-06-20 2005-01-13 Matsushita Electric Ind Co Ltd In-vehicle content playback system
JP2007145226A (en) 2005-11-29 2007-06-14 Denso Corp Automotive user hospitality system
JP2007145225A (en) 2005-11-29 2007-06-14 Denso Corp Automotive user hospitality system
JP2009023613A (en) 2007-07-23 2009-02-05 Denso Corp Automotive user hospitality system
JP2009208727A (en) 2008-03-06 2009-09-17 Denso Corp User hospitality system for vehicle
JP2016137204A (en) 2015-01-29 2016-08-04 マツダ株式会社 Vehicle occupant emotion response control device
JP2019515730A (en) 2016-04-18 2019-06-13 マサチューセッツ インスティテュート オブ テクノロジー Feature extraction from physiological signals
JP6683163B2 (en) 2017-03-29 2020-04-15 マツダ株式会社 Vehicle driving support system
JP2019208576A (en) 2018-05-31 2019-12-12 株式会社デンソー Emotion data acquisition device and emotion operation device
JP2020130528A (en) 2019-02-18 2020-08-31 沖電気工業株式会社 Emotion estimation device, emotion estimation method, program, and emotion estimation system
JP2020170345A (en) 2019-04-03 2020-10-15 トヨタ自動車株式会社 Vehicle driving advice providing system

Also Published As

Publication number Publication date
JP7340078B2 (en) 2023-09-06
JP2022071801A (en) 2022-05-16
JP2022071800A (en) 2022-05-16
JP2022071798A (en) 2022-05-16
JP2022171655A (en) 2022-11-11
JP7236478B2 (en) 2023-03-09
JP7122408B2 (en) 2022-08-19
JP7170076B2 (en) 2022-11-11
JP2023027783A (en) 2023-03-02
JP2022071797A (en) 2022-05-16
JP7157188B2 (en) 2022-10-19
JP2022071799A (en) 2022-05-16
JP2022071796A (en) 2022-05-16

Similar Documents

Publication Publication Date Title
JP7470171B2 (en) Information processing device and emotion induction method
JP7288911B2 (en) Information processing device, mobile device, method, and program
US12603090B2 (en) Methods and vehicles for capturing emotion of a human driver and customizing vehicle response
US10535341B2 (en) Methods and vehicles for using determined mood of a human driver and moderating vehicle response
US20170352267A1 (en) Systems for providing proactive infotainment at autonomous-driving vehicles
CN108688676A (en) Vehicle drive support system and vehicle drive support method
CN108688677A (en) Vehicle drive support system and vehicle drive support method
US20180025283A1 (en) Information processing apparatus, information processing method, and program
JP2020169956A (en) Vehicle destination proposal system
CN108688675A (en) Vehicle drive support system
Karas et al. Audiovisual affect recognition for autonomous vehicles: Applications and future agendas
JP2018200192A (en) Point proposing device and point proposing method
JP7537259B2 (en) Attention target sharing device, attention target sharing method
JP7806162B2 (en) system
JP2026045343A (en) system
JP2026024328A (en) system
JP2026070916A (en) system
JP2025058997A (en) system
JP2026025274A (en) system
JP2026050843A (en) system
JP2026051010A (en) system
JP2026066690A (en) system
JP2026033182A (en) system
JP2026073002A (en) system
JP2026025290A (en) system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221108

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231110

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240405

R150 Certificate of patent or registration of utility model

Ref document number: 7470171

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150