Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7748624B2 - Information processing device, information processing method, and program - Google Patents
[go: Go Back, main page]

JP7748624B2 - Information processing device, information processing method, and program - Google Patents

Information processing device, information processing method, and program

Info

Publication number
JP7748624B2
JP7748624B2 JP2023170806A JP2023170806A JP7748624B2 JP 7748624 B2 JP7748624 B2 JP 7748624B2 JP 2023170806 A JP2023170806 A JP 2023170806A JP 2023170806 A JP2023170806 A JP 2023170806A JP 7748624 B2 JP7748624 B2 JP 7748624B2
Authority
JP
Japan
Prior art keywords
information
atmosphere
participants
place
estimation model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023170806A
Other languages
Japanese (ja)
Other versions
JP2025060218A (en
Inventor
晴菜 鈴木
朋義 足利
隆寛 大賀
航明 濱村
洋輔 今井
伸一 割澤
祐樹 伴
献引 胡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Daikin Industries Ltd
University of Tokyo NUC
Original Assignee
Daikin Industries Ltd
University of Tokyo NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daikin Industries Ltd, University of Tokyo NUC filed Critical Daikin Industries Ltd
Priority to JP2023170806A priority Critical patent/JP7748624B2/en
Publication of JP2025060218A publication Critical patent/JP2025060218A/en
Application granted granted Critical
Publication of JP7748624B2 publication Critical patent/JP7748624B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Description

本開示は、情報処理装置、情報処理方法及びプログラムに関する。 This disclosure relates to an information processing device, an information processing method, and a program.

複数の参加者により形成される場の雰囲気を推定する技術が知られている。例えば、特許文献1には、複数の構成員を含んだ場を撮影した画像と場の音声を収録した音声から、各構成員の行動と感情を分析し、一の構成員の行動後に他の構成員の不快度が上がった場合、および、複数の構成員の相互関係が希薄な場合に、場の雰囲気が悪いと推測する雰囲気推測装置が開示されている。 Technology for estimating the atmosphere of a situation created by multiple participants is known. For example, Patent Document 1 discloses an atmosphere estimation device that analyzes the behavior and emotions of each member from images of a situation including multiple members and audio recorded from the situation, and infers that the atmosphere of the situation is bad if the discomfort levels of other members increase after the behavior of one member, or if the relationships between the multiple members are weak.

特開2019-185117号公報Japanese Patent Application Laid-Open No. 2019-185117

しかしながら、従来技術では、場の雰囲気に応じて場が形成される空間を制御することを考慮していない。 However, conventional technology does not take into consideration controlling the space in which the venue is created according to the venue's atmosphere.

本開示は、場が形成される空間を制御するための情報を出力する技術を提供する。 This disclosure provides technology that outputs information to control the space in which a field is formed.

本開示の第1の態様に係る情報処理装置は、複数の参加者により形成される場の雰囲気に関する情報を出力する制御部を有する情報処理装置であって、制御部は、参加者個人の状態に関する情報、参加者同士の相互作用に関する情報、及び場の雰囲気を評価した評価値を含むデータセットに基づいて生成された雰囲気推定モデルを記憶部に記憶し、雰囲気推定モデルは、状態に関する情報及び相互作用に関する情報に基づいて、場の雰囲気に関する情報を推定するためのモデルである。 An information processing device according to a first aspect of the present disclosure is an information processing device having a control unit that outputs information about the atmosphere of a place formed by multiple participants, and the control unit stores in a memory unit an atmosphere estimation model generated based on a dataset including information about the state of each participant, information about interactions between participants, and an evaluation value that evaluates the atmosphere of the place, and the atmosphere estimation model is a model for estimating information about the atmosphere of the place based on the information about the state and information about interactions.

本開示の第1の態様によれば、場が形成される空間を制御するための情報を出力することができる。 According to the first aspect of the present disclosure, it is possible to output information for controlling the space in which the field is formed.

本開示の第2の態様は、第1の態様に係る情報処理装置であって、制御部は、状態に関する情報及び相互作用に関する情報に基づいて場の雰囲気を示す指標を推定し、場の雰囲気を示す指標に基づいて場が形成される空間における温冷感に関する補正値を出力する。 A second aspect of the present disclosure is an information processing device according to the first aspect, in which the control unit estimates an index indicating the atmosphere of a place based on information related to the state and information related to interactions, and outputs a correction value related to the thermal sensation in the space in which the place is formed based on the index indicating the atmosphere of the place.

本開示の第2の態様によれば、場が形成される空間における温冷感に関する補正値を出力することができる。 According to the second aspect of the present disclosure, it is possible to output a correction value related to the thermal sensation in the space in which the field is formed.

本開示の第3の態様は、第1の態様に係る情報処理装置であって、制御部は、状態に関する情報及び相互作用に関する情報に基づいて場の雰囲気を示す指標を推定し、場の雰囲気を示す指標に基づいて場が形成される空間を制御する。 A third aspect of the present disclosure is an information processing device according to the first aspect, in which the control unit estimates an index indicating the atmosphere of the place based on information related to the state and information related to the interaction, and controls the space in which the place is formed based on the index indicating the atmosphere of the place.

本開示の第3の態様によれば、場の雰囲気に応じて場が形成される空間を制御することができる。 According to the third aspect of the present disclosure, the space in which the venue is formed can be controlled according to the atmosphere of the venue.

本開示の第4の態様は、第1の態様に係る情報処理装置であって、制御部は、状態に関する情報及び相互作用に関する情報に基づいて場の雰囲気を示す指標を推定し、場の雰囲気を示す指標に基づいて場が形成される空間における温冷感に関する補正値を推定し、温冷感に関する補正値に基づいて空間を制御する。 A fourth aspect of the present disclosure is an information processing device according to the first aspect, in which the control unit estimates an index indicating the atmosphere of a place based on information related to the state and information related to interactions, estimates a correction value related to the thermal sensation in the space in which the place is formed based on the index indicating the atmosphere of the place, and controls the space based on the correction value related to the thermal sensation.

本開示の第4の態様によれば、場の雰囲気に応じて場が形成される空間を制御することができる。 According to the fourth aspect of the present disclosure, the space in which the venue is formed can be controlled according to the atmosphere of the venue.

本開示の第5の態様は、第1の態様から第4の態様のいずれかに係る情報処理装置であって、状態に関する情報は、参加者の生体情報である。 A fifth aspect of the present disclosure is an information processing device according to any one of the first to fourth aspects, wherein the information relating to the status is biometric information of the participant.

本開示の第6の態様は、第5の態様に係る情報処理装置であって、生体情報は、参加者の感情に関する生体情報である。 A sixth aspect of the present disclosure is an information processing device according to the fifth aspect, wherein the biometric information is biometric information related to the emotions of the participants.

本開示の第7の態様は、第1の態様から第6の態様のいずれかに係る情報処理装置であって、相互作用に関する情報は、参加者の間のコミュニケーションに関する情報である。 A seventh aspect of the present disclosure is an information processing device according to any one of the first to sixth aspects, wherein the information about the interaction is information about communication between participants.

本開示の第8の態様は、第7の態様に係る情報処理装置であって、コミュニケーションに関する情報は、参加者の間で意思疎通する行動に関する情報である。 An eighth aspect of the present disclosure is an information processing device according to the seventh aspect, wherein the information related to communication is information related to the behavior of communicating between participants.

本開示の第9の態様は、第1の態様から第8の態様のいずれかに係る情報処理装置であって、制御部は、教師あり機械学習によって場の雰囲気を推定する。 A ninth aspect of the present disclosure is an information processing device according to any one of the first to eighth aspects, wherein the control unit estimates the atmosphere of a location using supervised machine learning.

本開示の第10の態様は、第1の態様から第9の態様のいずれかに係る情報処理装置であって、場の雰囲気を評価した評価値は、場の雰囲気の主観申告又は客観評価である。 A tenth aspect of the present disclosure is an information processing device according to any one of the first to ninth aspects, wherein the evaluation value of the atmosphere of the place is a subjective report or an objective evaluation of the atmosphere of the place.

本開示の第11の態様は、第10の態様に係る情報処理装置であって、場の雰囲気の主観申告は、アンケート手法を用いてあらかじめ実験的に取得した場の雰囲気に関する指標である。 An eleventh aspect of the present disclosure is an information processing device according to the tenth aspect, wherein the subjective report of the atmosphere of the place is an index related to the atmosphere of the place obtained experimentally in advance using a questionnaire method.

本開示の第12の態様は、第1の態様から第11の態様のいずれかに係る情報処理装置であって、制御部は、学習済みの雰囲気推定モデルに基づいて場の雰囲気を示す指標を推定する。 A twelfth aspect of the present disclosure is an information processing device according to any one of the first to eleventh aspects, wherein the control unit estimates an index indicating the atmosphere of a place based on a trained atmosphere estimation model.

本開示の第13の態様は、第12の態様に係る情報処理装置であって、雰囲気推定モデルは、状態に関する情報及び相互作用に関する情報を入力とし、場の雰囲気を評価した評価値を正解データとして、場の雰囲気を示す指標の推定値を出力する。 A thirteenth aspect of the present disclosure is an information processing device according to the twelfth aspect, in which the atmosphere estimation model receives state-related information and interaction-related information as input, uses an evaluation value that evaluates the atmosphere of the place as correct answer data, and outputs an estimated value of an index that indicates the atmosphere of the place.

本開示の第14の態様は、第13の態様に係る情報処理装置であって、雰囲気推定モデルは、参加者の属性に関する情報をさらに入力とする。 A fourteenth aspect of the present disclosure is an information processing device according to the thirteenth aspect, wherein the atmosphere estimation model further receives input information relating to the attributes of the participants.

本開示の第15の態様は、第12の態様から第14の態様のいずれかに係る情報処理装置であって、制御部は、参加者から場の雰囲気に関するフィードバック情報を取得し、フィードバック情報に基づいて雰囲気推定モデルを更新する。 A fifteenth aspect of the present disclosure is an information processing device according to any one of the twelfth to fourteenth aspects, in which the control unit acquires feedback information regarding the atmosphere of the event from the participants and updates the atmosphere estimation model based on the feedback information.

本開示の第16の態様は、第15の態様に係る情報処理装置であって、フィードバック情報は、場の雰囲気を評価した評価値を含む。 A sixteenth aspect of the present disclosure is an information processing device according to the fifteenth aspect, wherein the feedback information includes an evaluation value that evaluates the atmosphere of the place.

本開示の第17の態様は、第2の態様又は第4の態様に係る情報処理装置であって、制御部は、学習済みの温熱指標推定モデルに基づいて温冷感に関する補正値を推定する。 A seventeenth aspect of the present disclosure is an information processing device according to the second or fourth aspect, in which the control unit estimates a correction value related to the thermal sensation based on a trained thermal index estimation model.

本開示の第18の態様は、第17の態様に係る情報処理装置であって、温熱指標推定モデルは、状態に関する情報及び相互作用に関する情報に基づいて推定された場の雰囲気を示す指標を入力として、温冷感に関する補正値の推定値を出力する。 An 18th aspect of the present disclosure is an information processing device according to the 17th aspect, in which the thermal index estimation model receives as input an index indicating the atmosphere of a place estimated based on information related to the state and information related to interactions, and outputs an estimated correction value related to thermal sensation.

本開示の第19の態様は、第18の態様に係る情報処理装置であって、温熱指標推定モデルは、参加者の属性に関する情報をさらに入力とする。 A 19th aspect of the present disclosure is an information processing device according to the 18th aspect, wherein the thermal index estimation model further receives input of information relating to the attributes of the participants.

本開示の第20の態様は、第17の態様から第19の態様のいずれかに係る情報処理装置であって、制御部は、参加者から場の温冷感に関するフィードバック情報を取得し、フィードバック情報に基づいて温熱指標推定モデルを更新する。 A twentieth aspect of the present disclosure is an information processing device according to any one of the seventeenth to nineteenth aspects, in which the control unit acquires feedback information from participants regarding the thermal sensation of the space, and updates the thermal index estimation model based on the feedback information.

本開示の第21の態様は、第20の態様に係る情報処理装置であって、フィードバック情報は、場の温冷感を評価した評価値を含む。 A 21st aspect of the present disclosure is an information processing device according to the 20th aspect, wherein the feedback information includes an evaluation value that evaluates the thermal sensation of the space.

本開示の第22の態様に係る情報処理方法は、複数の参加者により形成される場の雰囲気に関する情報を出力する情報処理装置が有する制御部が、参加者個人の状態に関する情報、参加者同士の相互作用に関する情報、及び場の雰囲気を評価した評価値を含むデータセットに基づいて生成された雰囲気推定モデルを記憶部に記憶し、雰囲気推定モデルは、状態に関する情報及び相互作用に関する情報に基づいて、場の雰囲気に関する情報を推定するためのモデルである。 An information processing method according to a 22nd aspect of the present disclosure includes an information processing device that outputs information about the atmosphere of a place formed by multiple participants, wherein a control unit of the information processing device stores in a storage unit an atmosphere estimation model generated based on a dataset including information about the state of each participant, information about interactions between participants, and an evaluation value that evaluates the atmosphere of the place, and the atmosphere estimation model is a model for estimating information about the atmosphere of the place based on the information about the state and information about interactions.

本開示の第23の態様に係るプログラムは、複数の参加者により形成される場の雰囲気に関する情報を出力する情報処理装置が有する制御部に、参加者個人の状態に関する情報、参加者同士の相互作用に関する情報、及び場の雰囲気を評価した評価値を含むデータセットに基づいて生成された雰囲気推定モデルを記憶部に記憶する処理を実行させ、雰囲気推定モデルは、状態に関する情報及び相互作用に関する情報に基づいて、場の雰囲気に関する情報を推定するためのモデルである。 A program according to a 23rd aspect of the present disclosure causes a control unit of an information processing device that outputs information about the atmosphere of a place formed by multiple participants to execute a process of storing in a memory unit an atmosphere estimation model generated based on a dataset including information about the state of each participant, information about interactions between participants, and an evaluation value that evaluates the atmosphere of the place, and the atmosphere estimation model is a model for estimating information about the atmosphere of the place based on information about the state and information about interactions.

参加者個人の感情と参加者同士のコミュニケーション状態との関係の一例を示す図である。FIG. 10 is a diagram illustrating an example of the relationship between the emotions of individual participants and the communication states between the participants. 空間制御システムの全体構成の一例を示すブロック図である。1 is a block diagram showing an example of the overall configuration of a spatial control system. 推定装置のハードウェア構成の一例を示すブロック図である。FIG. 2 is a block diagram illustrating an example of a hardware configuration of the estimation device. 空間制御方法の一例を示すフローチャートである。1 is a flowchart illustrating an example of a spatial control method. 学習データの一例を示す図である。FIG. 10 is a diagram illustrating an example of learning data. サポートベクターマシンの学習データの一例を示す図である。FIG. 10 is a diagram illustrating an example of training data for a support vector machine. 畳み込みニューラルネットワークの学習データの一例を示す図である。FIG. 10 is a diagram illustrating an example of training data for a convolutional neural network. 場の雰囲気と温冷感との関係の一例を示す図である。FIG. 10 is a diagram illustrating an example of the relationship between the atmosphere of a place and a thermal sensation.

以下、本開示の各実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省略する。 Each embodiment of the present disclosure will be described below with reference to the accompanying drawings. Note that in this specification and drawings, components having substantially the same functional configuration will be assigned the same reference numerals, and redundant description will be omitted.

[実施形態]
本開示の一実施形態は、複数の参加者により場が形成される空間を制御する空間制御システムである。空間制御システムは、場の雰囲気を評価した評価値を正解データとして、場を形成する参加者個人の状態に関する情報及び参加者同士の相互作用に関する情報に基づいて場の雰囲気を推定する。また、空間制御システムは、場の雰囲気を示す指標に基づいて温冷感に関する補正値を推定する。さらに、空間制御システムは、温冷感に関する補正値に基づいて空間を制御する。
[Embodiment]
One embodiment of the present disclosure is a space control system that controls a space where a place is formed by multiple participants. The space control system uses an evaluation value that evaluates the atmosphere of the place as correct data and estimates the atmosphere of the place based on information about the state of each participant who forms the place and information about the interaction between the participants. The space control system also estimates a correction value for thermal sensation based on an index that indicates the atmosphere of the place. Furthermore, the space control system controls the space based on the correction value for thermal sensation.

例えば、複数の参加者が集まって会話を行う場においては、各参加者にとって発言しやすい雰囲気の場を提供することが求められる。例えば、アイデア創出を目的とする会議では、参加者がアイデアを持っていたとしても、場が発言しにくい雰囲気であると発言を躊躇し、参加者間でアイデアを円滑に共有することができないことがある。そのため、複数の参加者により形成される場の雰囲気を推定可能な技術が求められている。 For example, in a setting where multiple participants gather to converse, it is necessary to provide an atmosphere in which each participant feels comfortable speaking up. For example, in a meeting aimed at generating ideas, even if a participant has an idea, if the atmosphere makes it difficult for them to speak up, they may hesitate to speak up, and ideas may not be shared smoothly among participants. Therefore, there is a demand for technology that can estimate the atmosphere created by multiple participants.

また、場の雰囲気によって参加者がもつ温冷感に変化が生じると考えられる。例えば、会議が白熱していると参加者は実際の室温よりも暑く感じることがある。また、例えば、お互いが緊張し合っている会議では参加者は実際の室温よりも寒く感じることがある。そのため、場の雰囲気を考慮した温冷感を推定し、適切に空間を制御する技術が求められている。 It is also believed that participants' sense of temperature changes depending on the atmosphere of the room. For example, if the meeting is heated, participants may feel hotter than the actual room temperature. Conversely, if the meeting is tense, participants may feel colder than the actual room temperature. Therefore, there is a need for technology that can estimate temperature sensation taking into account the atmosphere of the room and control the space appropriately.

場の雰囲気は、参加者個人の感情及び参加者同士のコミュニケーションの両方を検知することにより精度よく推定できる。図1は、参加者個人の感情と参加者同士のコミュニケーション状態との関係の一例を示す図である。図1は、4人の参加者A~Dの感情及び参加者間のコミュニケーション状態を示している。なお、図1では、参加者の感情を喜怒哀楽の4感情に分類して示している。また、参加者間を繋ぐ矢印が太いほどコミュニケーションが活発であることを示している。 The atmosphere of a situation can be accurately estimated by detecting both the emotions of individual participants and the communication between them. Figure 1 shows an example of the relationship between the emotions of individual participants and the communication state between them. Figure 1 shows the emotions of four participants A to D and the communication state between them. Note that Figure 1 classifies the emotions of participants into four emotions: joy, anger, sadness, and happiness. Furthermore, the thicker the arrows connecting participants, the more active the communication.

図1に示されるように、参加者Bは喜びの感情を示しており、参加者A及び参加者Dとのコミュニケーションが活発である。この場合、参加者Bにとっては話しやすい雰囲気であると推定できる。参加者Aは哀しみの感情を示しているが、参加者B及び参加者Dとのコミュニケーションは活発である。この場合、参加者Aにとってはやや話しやすい雰囲気であると推定できる。参加者Cは喜びの感情を示しているが、他の参加者A,B,Dとのコミュニケーションは不活発である。この場合、参加者Cにとっては話しにくい雰囲気であると推定できる。 As shown in Figure 1, Participant B is expressing emotions of joy and is actively communicating with Participant A and Participant D. In this case, it can be assumed that the atmosphere is one in which Participant B feels comfortable talking. Participant A is expressing emotions of sadness, but is actively communicating with Participant B and Participant D. In this case, it can be assumed that the atmosphere is one in which Participant A feels somewhat comfortable talking. Participant C is expressing emotions of joy, but is not actively communicating with the other Participants A, B, and D. In this case, it can be assumed that the atmosphere is one in which Participant C feels uncomfortable talking.

本実施形態は、複数の参加者により場が形成される空間を制御するための情報を出力することを目的とする。一例として、本実施形態では、複数の参加者により形成される場の雰囲気を示す指標を出力する。また、一例として、本実施形態では、場の雰囲気を示す指標に基づいて温冷感に関する補正値を出力する。さらに、一例として、本実施形態では、温冷感に関する補正値に基づいて空間を制御するための制御信号を出力する。 This embodiment aims to output information for controlling a space formed by multiple participants. As an example, this embodiment outputs an index indicating the atmosphere of a space formed by multiple participants. Also, as an example, this embodiment outputs a correction value for thermal sensation based on the index indicating the atmosphere of the space. Furthermore, as an example, this embodiment outputs a control signal for controlling the space based on the correction value for thermal sensation.

一の側面では、参加者は場の雰囲気を示す指標を参照することで、適切に空間を制御するための行動を選択することができる。例えば、場の雰囲気が活発であるとき(又は不活発であるとき)、参加者は空気調和装置の設定温度を下げる行動(又は設定温度を上げる行動)を選択することができる。また、例えば、温冷感に関する補正値が正の値であるとき(又は負の値であるとき)、参加者は空気調和装置の設定温度を下げる行動(又は設定温度を上げる行動)を選択することができる。 In one aspect, participants can refer to an indicator that indicates the atmosphere of a space and select an action to appropriately control the space. For example, when the atmosphere of a space is active (or inactive), participants can select an action to lower (or raise) the temperature setting of the air conditioning unit. Also, for example, when the correction value for thermal sensation is a positive value (or a negative value), participants can select an action to lower (or raise) the temperature setting of the air conditioning unit.

他の側面では、場の雰囲気に応じて適切に空間を自動的に制御することができる。例えば、場の雰囲気が活発になると(又は不活発になると)、空気調和装置の設定温度を自動的に下げる(又は設定温度を自動的に上げる)制御を行うことができる。また、例えば、温冷感に関する補正値が正の値になると(又は負の値になると)、空気調和装置の設定温度を自動的に下げる(又は設定温度を自動的に上げる)制御を行うことができる。 In another aspect, the space can be automatically controlled appropriately according to the atmosphere of the place. For example, when the atmosphere of the place becomes lively (or inactive), the set temperature of the air conditioner can be automatically lowered (or automatically raised). Also, for example, when the correction value for thermal sensation becomes positive (or negative), the set temperature of the air conditioner can be automatically lowered (or automatically raised).

<全体構成>
図2は、本実施形態における空間制御システムの全体構成を示すブロック図である。図2に示されるように、本実施形態における空間制御システム1000は、推定装置10及び空間制御装置20を含む。空間制御システム1000は、複数の参加者1(1-1~1-3)が存在する空間2に設置された設備機器を制御する制御システムである。空間2には、個人状態情報を取得するセンサ3-1、及び相互作用情報を取得するセンサ3-2が設置されている。
<Overall structure>
Fig. 2 is a block diagram showing the overall configuration of a space control system according to this embodiment. As shown in Fig. 2, the space control system 1000 according to this embodiment includes an estimation device 10 and a space control device 20. The space control system 1000 is a control system that controls equipment installed in a space 2 in which multiple participants 1 (1-1 to 1-3) exist. A sensor 3-1 that acquires personal state information and a sensor 3-2 that acquires interaction information are installed in the space 2.

センサ3-1は、各参加者1の状態を測定する電子機器である。センサ3-1は、例えば、各参加者1に装着されたウェラブルデバイス、又は各参加者1を撮影するビデオカメラ等を含んでもよい。センサ3-1は、測定可能な情報の種類に応じて、複数設置されていてもよい。 Sensor 3-1 is an electronic device that measures the state of each participant 1. Sensor 3-1 may include, for example, a wearable device attached to each participant 1, or a video camera that captures images of each participant 1. Multiple sensors 3-1 may be installed depending on the type of information that can be measured.

センサ3-2は、複数の参加者1の間の相互作用に関する情報を測定する電子機器である。センサ3-2は、例えば、ビデオカメラ、マイクロフォン又はモーションセンサ等を含んでもよい。センサ3-2は、測定可能な情報の種類に応じて、複数設置されていてもよい。 The sensor 3-2 is an electronic device that measures information about interactions between multiple participants 1. The sensor 3-2 may include, for example, a video camera, a microphone, or a motion sensor. Multiple sensors 3-2 may be installed depending on the type of information that can be measured.

個人状態情報は、各参加者1の状態を示す情報である。個人状態情報の一例は、各参加者1の状態を観測することで取得可能な生体情報である。生体情報は、各参加者1の感情に関する生体情報であってもよい。感情に関する生体情報とは、感情の推定に用いることができる生体情報を意味する。 Personal state information is information that indicates the state of each participant 1. An example of personal state information is biometric information that can be obtained by observing the state of each participant 1. The biometric information may be biometric information related to the emotions of each participant 1. Biometric information related to emotions refers to biometric information that can be used to estimate emotions.

具体的には、個人状態情報は、心電に関する情報、呼吸に関する情報、皮膚電位に関する情報、顔表情に関する情報、瞳孔径に関する情報、視線に関する情報、皮膚温に関する情報のうち少なくとも1つを含む。 Specifically, the personal condition information includes at least one of information related to electrocardiogram, information related to respiration, information related to skin potential, information related to facial expression, information related to pupil diameter, information related to gaze, and information related to skin temperature.

心電に関する情報は、例えば、心拍数、心電図波形の低周波成分(LF; Low Frequency)、心電図波形の高周波成分(HF; High Frequency)、副交感神経指標(CVI; Cardiac vagal index)、交感神経指標(CSI; Cardiac Sympathetic Index)等を含む。呼吸に関する情報は、例えば、呼吸頻度、呼吸深さ等を含む。顔表情に関する情報は、例えば、画像に基づく表情認識における所定の感情(例えば、ハッピー)の割合等を含む。視線に関する情報は、例えば、視線位置が顔、身体、背景等のどこにあるかを示すラベルを含む。視線位置は、例えば、アイトラッキング技術により取得することができる。 Electrocardiographic information includes, for example, heart rate, low frequency (LF) components of the electrocardiogram waveform, high frequency (HF) components of the electrocardiogram waveform, cardiac vagal index (CVI), and cardiac sympathetic index (CSI). Respiration information includes, for example, breathing frequency and breathing depth. Facial expression information includes, for example, the proportion of a specific emotion (e.g., happy) in image-based facial expression recognition. Gaze information includes, for example, a label indicating whether the gaze position is on the face, body, background, etc. Gaze position can be acquired, for example, using eye-tracking technology.

相互作用情報は、複数の参加者1の間の相互作用を示す情報である。相互作用情報の一例は、複数の参加者1の間のコミュニケーションに関する情報である。コミュニケーションに関する情報は、複数の参加者1の間で意思疎通する行動に関する情報である。意思疎通する行動は、例えば、会話でもよいし、身体言語でもよい。 Interaction information is information that indicates interactions between multiple participants 1. An example of interaction information is information related to communication between multiple participants 1. Information related to communication is information related to communicative behavior between multiple participants 1. Communicative behavior may be, for example, conversation or body language.

具体的には、相互作用情報は、姿勢に関する情報、会話に関する情報、視線に関する情報、視線の相対位置に関する情報、心電に関する特徴量の同調度、呼吸に関する特徴量の同調度、皮膚電位の同調度、姿勢角度の同調度のうち少なくとも一つを含む。 Specifically, the interaction information includes at least one of information related to posture, information related to conversation, information related to gaze, information related to the relative position of gaze, synchronization of electrocardiogram-related features, synchronization of respiratory features, synchronization of skin potential, and synchronization of posture angle.

姿勢に関する情報は、例えば、身体の前傾角度等を含む。会話に関する情報は、例えば、発話量割合、会話順序、会話中のキーワード等を含む。視線の相対位置に関する情報は、例えば、視線位置がどの参加者に向いているかを示すラベルを含む。特徴量の同調度は、例えば、複数の参加者1の間の特徴量の同調率等を含む。同調度は、例えば、動的時間伸縮法(DTW; Dynamic Time Warping)、ユークリッド距離、コサイン類似度等を用いて計算することができる。姿勢角度の同調度は、例えば、複数の参加者1の間の姿勢の連動状態を含む。 Information about posture includes, for example, the angle of forward body lean. Information about conversation includes, for example, the proportion of speech volume, the order of conversation, and keywords used in the conversation. Information about relative gaze position includes, for example, a label indicating which participant the gaze position is directed toward. Feature synchronization includes, for example, the synchronization rate of features between multiple participants 1. Synchronization can be calculated using, for example, dynamic time warping (DTW), Euclidean distance, cosine similarity, etc. Posture angle synchronization includes, for example, the state of posture coordination between multiple participants 1.

推定装置10は、空間2に形成される場の雰囲気を示す指標、及び空間2における温冷感に関する補正値を推定するパーソナルコンピュータ、サーバ又はワークステーション等の情報処理装置である。推定装置10は、センサ3-1により取得された個人状態情報、及びセンサ3-2により取得された相互作用情報を取得し、温冷感に関する補正値を空間制御装置20に出力する。推定装置10は、場の雰囲気を示す指標又は温冷感に関する補正値を空間2に設置されたディスプレイ又はスピーカ等に出力してもよい。 The estimation device 10 is an information processing device such as a personal computer, server, or workstation that estimates an index indicating the atmosphere of the place formed in the space 2 and a correction value for the thermal sensation in the space 2. The estimation device 10 acquires personal condition information acquired by the sensor 3-1 and interaction information acquired by the sensor 3-2, and outputs a correction value for the thermal sensation to the space control device 20. The estimation device 10 may output the index indicating the atmosphere of the place or the correction value for the thermal sensation to a display, speaker, or the like installed in the space 2.

場の雰囲気を示す指標は、場における話しやすさを示す指標である。場の雰囲気は、例えば、場の雰囲気の主観申告、場の雰囲気の客観評価、グループフロー度、及び総コミュニケーション量等を含む。場の雰囲気の主観申告は、アンケート手法を用いてあらかじめ実験的に取得した場の雰囲気に関する指標である。場の雰囲気の客観評価は、場の雰囲気の第三者評価、又は発話量等の客観データに基づいて場の雰囲気を評価した結果である。 The indicator of the atmosphere of the place is an indicator of how easy it is to talk in the place. The atmosphere of the place includes, for example, subjective reports of the atmosphere of the place, objective evaluations of the atmosphere of the place, the degree of group flow, and the total amount of communication. The subjective reports of the atmosphere of the place are indicators related to the atmosphere of the place obtained experimentally in advance using a questionnaire method. The objective evaluations of the atmosphere of the place are the results of evaluating the atmosphere of the place based on third-party evaluations of the atmosphere or objective data such as the amount of talk.

アンケート手法は、例えば、リッカート尺度、ビジュアル・アナログ・スケール(VAS; Visual Analogue Scale)、ヌーメリック・レイティング・スケール(Numeric Rating Scale)、フェイススケール、セマンティック・ディファレンシャル法(Semantic Differential Method)等である。 Survey methods include, for example, Likert scales, visual analogue scales (VAS), numeric rating scales, face scales, and semantic differential methods.

リッカート尺度は、アンケートにより所定数の段階で評価値を与える手法である。例えば、参加者又は参加者以外の第三者が、場を撮影した動画を再生しながら、所定の時間間隔で評価値を入力することで、話しやすさの評価値を計算することができる。話しやすさの評価値は、例えば、「話しにくい」を1とし、「話しやすい」を5とする5段階の評価値である。 The Likert scale is a method of assigning evaluation values using a predetermined number of stages in a questionnaire. For example, participants or a third party other than participants can calculate the ease of conversation rating by playing back a video of the situation and inputting evaluation values at predetermined time intervals. The ease of conversation rating is, for example, on a 5-point scale, with 1 being "difficult to talk to" and 5 being "easy to talk to."

グループフロー度は、心理学におけるフロー理論に基づく指標である。グループフロー度は、グループがフロー状態に近いほど高い値を示す。フロー状態は、課題に対して高い集中力を発揮している状態である。 Group flow level is an indicator based on flow theory in psychology. The closer a group is to the flow state, the higher the group flow level will be. The flow state is a state in which people are highly focused on a task.

温冷感に関する補正値は、例えば、温熱指標補正値である。温熱指標補正値は、温熱指標を補正するための値である。温熱指標は、例えば、予測平均温冷感申告(PMV; Predicted Mean Vote)、標準新有効温度(SET*; Standard New Effective Temperature)等を含む。温熱指標は、温度、湿度、放射、気流、活動量、着衣量からなる温熱環境6要素に基づいて算出される。 The correction value for thermal sensation is, for example, a thermal index correction value. The thermal index correction value is a value for correcting the thermal index. Thermal indices include, for example, the predicted mean thermal vote (PMV) and the standard new effective temperature (SET*). The thermal index is calculated based on six elements of the thermal environment: temperature, humidity, radiation, airflow, activity level, and amount of clothing.

温熱指標補正値は、場の雰囲気を考慮したときの温熱指標と場の雰囲気を考慮しないときの温熱指標との差分を示す値である。例えば、温熱指標補正値が+1である場合、場の雰囲気を考慮したときの温熱指標は場の雰囲気を考慮しないときの温熱指標より1単位大きくなることを意味する。 The thermal index correction value is a value that indicates the difference between the thermal index when the atmosphere of the place is taken into account and the thermal index when the atmosphere of the place is not taken into account. For example, if the thermal index correction value is +1, it means that the thermal index when the atmosphere of the place is taken into account is one unit larger than the thermal index when the atmosphere of the place is not taken into account.

なお、推定装置10は、各参加者1の属性に関する参加者情報を取得してもよい。参加者情報は、例えば、会議のシーンを示す情報、年齢、性別、体格、参加者の位置関係等のうち少なくとも一つを含む。 The estimation device 10 may also acquire participant information related to the attributes of each participant 1. The participant information may include, for example, at least one of information indicating the meeting scene, age, gender, physique, and the relative positions of the participants.

推定装置10は、学習済みの雰囲気推定モデル11及び学習済みの温熱指標推定モデル12を備える。推定装置10は、空間2からのフィードバック情報を取得し、雰囲気推定モデル11及び温熱指標推定モデル12を更新してもよい。 The estimation device 10 includes a trained atmosphere estimation model 11 and a trained thermal index estimation model 12. The estimation device 10 may acquire feedback information from the space 2 and update the atmosphere estimation model 11 and the thermal index estimation model 12.

雰囲気推定モデル11は、場の雰囲気を評価した評価値を正解データとして、個人状態情報及び相互作用情報に基づいて場の雰囲気を示す指標を推定するモデルである。雰囲気推定モデル11は、さらに参加者情報に基づいて場の雰囲気を示す指標を推定してもよい。 The atmosphere estimation model 11 is a model that estimates an index indicating the atmosphere of a place based on personal state information and interaction information, using the evaluation value that evaluates the atmosphere of the place as correct answer data. The atmosphere estimation model 11 may further estimate an index indicating the atmosphere of the place based on participant information.

温熱指標推定モデル12は、場の雰囲気を示す指標に基づいて温冷感に関する補正値を推定するモデルである。温熱指標推定モデル12は、さらに参加者情報に基づいて温冷感に関する補正値を推定してもよい。 The thermal index estimation model 12 is a model that estimates a correction value for thermal sensation based on an index indicating the atmosphere of the venue. The thermal index estimation model 12 may further estimate a correction value for thermal sensation based on participant information.

雰囲気推定モデル11及び温熱指標推定モデル12は、例えば、機械学習に基づくモデルでもよいし、ルールベースに基づくモデルでもよい。機械学習は、例えば、教師あり機械学習でもよい。機械学習に基づくモデルは、例えば、狭義の機械学習に基づく分類器又は深層学習に基づく分類器等を含む。狭義の機械学習とは、深層学習を除く機械学習を意味している。 The atmosphere estimation model 11 and the thermal index estimation model 12 may be, for example, models based on machine learning or rule-based models. Machine learning may be, for example, supervised machine learning. Models based on machine learning include, for example, classifiers based on narrow machine learning or deep learning. Narrow machine learning refers to machine learning excluding deep learning.

狭義の機械学習に基づく分類器は、一例として、サポートベクターマシン、ランダムフォレスト等が挙げられる。深層学習に基づく分類器は、一例として、畳み込みニューラルネットワーク(CNN; Convolutional Neural Network)、長期短期記憶(LSTM; Long Short Term Memory)等が挙げられる。ルールベースに基づくモデルは、統計学的分析手法、数式モデル、マップ、テーブル、パターン等を含む。 Examples of classifiers based on machine learning in the narrow sense include support vector machines and random forests. Examples of classifiers based on deep learning include convolutional neural networks (CNNs) and long short-term memories (LSTMs). Rule-based models include statistical analysis methods, mathematical models, maps, tables, patterns, etc.

フィードバック情報は、空間2で制御が行われた後に、参加者1又は参加者1以外の第三者が場の雰囲気を評価した評価値、又は参加者1が場の温冷感を評価した評価値を含む。場の雰囲気を評価した評価値は、参加者1により入力された場の雰囲気の主観申告、又は第三者により入力された場の雰囲気の客観評価を含む。場の温冷感を評価した評価値は、参加者1により入力された温冷感の主観申告を含む。フィードバック情報は、空間2で制御が行われた後に、センサ3-2で観測されたコミュニケーション量を含んでもよい。 The feedback information includes an evaluation value of the atmosphere of the place by participant 1 or a third party other than participant 1, or an evaluation value of the thermal sensation of the place by participant 1 after control is performed in space 2. The evaluation value of the atmosphere of the place includes a subjective assessment of the atmosphere of the place input by participant 1, or an objective assessment of the atmosphere of the place input by a third party. The evaluation value of the thermal sensation of the place includes a subjective assessment of the thermal sensation input by participant 1. The feedback information may also include the amount of communication observed by sensor 3-2 after control is performed in space 2.

フィードバック情報に含まれる場の雰囲気を評価した評価値及びコミュニケーション量は、雰囲気推定モデル11の更新に用いられる。フィードバック情報に含まれる温冷感を評価した評価値は、温熱指標推定モデル12の更新に用いられる。 The evaluation value of the atmosphere of the place and the amount of communication contained in the feedback information are used to update the atmosphere estimation model 11. The evaluation value of the thermal sensation contained in the feedback information is used to update the thermal index estimation model 12.

空間制御装置20は、推定装置10により出力された温冷感に関する補正値に基づいて、空間2を制御する設備機器である。空間制御装置20は、空気調和(室温又は湿度等)、気流制御、照明制御、香り制御、音響制御又は映像制御等の機能のうち少なくとも1つを有する。空間制御装置20は、制御対象ごとに複数の設備機器を含んでもよい。空間制御装置20は、参加者1の操作に従って空間2を制御してもよい。 The space control device 20 is a facility device that controls the space 2 based on the thermal sensation correction value output by the estimation device 10. The space control device 20 has at least one of the following functions: air conditioning (room temperature or humidity, etc.), airflow control, lighting control, fragrance control, sound control, or video control. The space control device 20 may include multiple facility devices for each control target. The space control device 20 may control the space 2 in accordance with the operation of the participant 1.

なお、図2に示した空間制御システム1000の全体構成は一例であって、用途や目的に応じて様々なシステム構成例があり得る。例えば、推定装置10及び空間制御装置20の1つ以上が、空間制御システム1000に複数台含まれていてもよい。例えば、推定装置10は、複数台のコンピュータにより実現してもよいし、クラウドコンピューティングのサービスとして実現してもよい。また、例えば、推定装置10が備えるべき機能を、空間制御装置20が備える制御部に実装することで、1台の空間制御装置20からなる空間制御システム1000を構成してもよい。図2に示す推定装置10、空間制御装置20のような装置の区分は一例である。 Note that the overall configuration of the space control system 1000 shown in Figure 2 is one example, and various system configuration examples are possible depending on the application and purpose. For example, the space control system 1000 may include multiple estimation devices 10 and one or more space control devices 20. For example, the estimation device 10 may be implemented by multiple computers, or may be implemented as a cloud computing service. Furthermore, for example, the space control system 1000 may be configured with a single space control device 20 by implementing the functions that the estimation device 10 should have in a control unit provided in the space control device 20. The classification of devices such as the estimation device 10 and space control device 20 shown in Figure 2 is one example.

<ハードウェア構成>
図3は、本実施形態における推定装置のハードウェア構成の一例を示すブロック図である。図3に示されているように、推定装置10は、プロセッサ101、メモリ102、補助記憶装置103、操作装置104、表示装置105、通信装置106、ドライブ装置107を有する。推定装置10の各ハードウェアは、バス108を介して相互に接続されている。
<Hardware configuration>
Fig. 3 is a block diagram showing an example of the hardware configuration of the estimation device 10 according to this embodiment. As shown in Fig. 3, the estimation device 10 includes a processor 101, a memory 102, an auxiliary storage device 103, an operation device 104, a display device 105, a communication device 106, and a drive device 107. The hardware components of the estimation device 10 are connected to each other via a bus 108.

プロセッサ101は、CPU(Central Processing Unit)等の各種演算デバイスを有する。プロセッサ101は、補助記憶装置103にインストールされている各種プログラムをメモリ102上に読み出して実行する。 The processor 101 has various computing devices such as a CPU (Central Processing Unit). The processor 101 reads various programs installed in the auxiliary storage device 103 into the memory 102 and executes them.

メモリ102は、ROM(Read Only Memory)、RAM(Random Access Memory)等の主記憶デバイスを有する。プロセッサ101とメモリ102とは、いわゆるコンピュータ(以下、「制御部」ともいう)を形成し、プロセッサ101が、メモリ102上に読み出した各種プログラムを実行することで、当該コンピュータは各種機能を実現する。 Memory 102 includes a primary storage device such as ROM (Read Only Memory) and RAM (Random Access Memory). The processor 101 and memory 102 form a so-called computer (hereinafter also referred to as the "controller"), and the processor 101 executes various programs loaded onto memory 102, causing the computer to realize various functions.

補助記憶装置103(以下、「記憶部」ともいう)は、各種プログラムや、各種プログラムがプロセッサ101によって実行される際に用いられる各種データを格納する。 The auxiliary storage device 103 (hereinafter also referred to as the "storage unit") stores various programs and various data used when the various programs are executed by the processor 101.

操作装置104は、推定装置10のユーザが各種操作を行うための操作デバイスである。表示装置105は、推定装置10により実行される各種処理の処理結果を表示する表示デバイスである。 The operation device 104 is an operation device that allows a user of the estimation device 10 to perform various operations. The display device 105 is a display device that displays the results of various processes executed by the estimation device 10.

通信装置106は、不図示のネットワークを介して外部装置と通信を行うための通信デバイスである。 The communication device 106 is a communication device for communicating with external devices via a network (not shown).

ドライブ装置107は、記憶媒体109をセットするためのデバイスである。ここでいう記憶媒体109には、CD-ROM、フレキシブルディスク、光磁気ディスク等のように情報を光学的、電気的あるいは磁気的に記憶する媒体が含まれる。また、記憶媒体109には、ROM、フラッシュメモリ等のように情報を電気的に記憶する半導体メモリ等が含まれていてもよい。 The drive device 107 is a device for loading the storage medium 109. The storage medium 109 referred to here includes media that store information optically, electrically, or magnetically, such as CD-ROMs, flexible disks, and magneto-optical disks. The storage medium 109 may also include semiconductor memory that stores information electrically, such as ROM and flash memory.

なお、補助記憶装置103にインストールされる各種プログラムは、例えば、配布された記憶媒体109がドライブ装置107にセットされ、記憶媒体109に記憶された各種プログラムがドライブ装置107により読み出されることでインストールされる。あるいは、補助記憶装置103にインストールされる各種プログラムは、通信装置106を介してネットワークからダウンロードされることで、インストールされてもよい。 The various programs installed in the auxiliary storage device 103 are installed, for example, by inserting the distributed storage medium 109 into the drive device 107 and reading the various programs stored in the storage medium 109 via the drive device 107. Alternatively, the various programs installed in the auxiliary storage device 103 may be installed by downloading them from a network via the communication device 106.

<空間制御方法の流れ>
図4は、本実施形態における空間制御システム1000が実行する空間制御方法の流れの一例を示すフローチャートである。
<Flow of spatial control method>
FIG. 4 is a flowchart showing an example of the flow of a space control method executed by the space control system 1000 according to this embodiment.

ステップS1において、推定装置10の制御部は、雰囲気推定モデル11を生成する。具体的には、制御部は、まず、雰囲気推定モデル11を生成するための学習データを生成する。次に、制御部は、学習データに基づいて、雰囲気推定モデル11を生成する。そして、制御部は、雰囲気推定モデル11を記憶部に記憶する。 In step S1, the control unit of the estimation device 10 generates an atmosphere estimation model 11. Specifically, the control unit first generates training data for generating the atmosphere estimation model 11. Next, the control unit generates the atmosphere estimation model 11 based on the training data. Then, the control unit stores the atmosphere estimation model 11 in the memory unit.

図5は、学習データの一例を示す図である。図5に示されるように、本実施形態における学習データは、データ項目として、個人状態情報、相互作用情報、参加者情報及び正解データを有するデータセットである。 Figure 5 is a diagram showing an example of training data. As shown in Figure 5, the training data in this embodiment is a dataset that includes personal state information, interaction information, participant information, and correct answer data as data items.

個人状態情報は、例えば、心電に関する情報、呼吸に関する情報、皮膚電位に関する情報、顔表情に関する情報、瞳孔径に関する情報、視線に関する情報、皮膚温に関する情報等のうち少なくとも1つを含む。 Personal condition information includes, for example, at least one of information related to electrocardiogram, information related to respiration, information related to skin potential, information related to facial expression, information related to pupil diameter, information related to gaze, and information related to skin temperature.

相互作用情報は、例えば、姿勢に関する情報、会話に関する情報、視線に関する情報、視線の相対位置に関する情報、心電に関する特徴量の同調度、呼吸に関する特徴量の同調度、皮膚電位の同調度、姿勢角度の同調度等のうち少なくとも一つを含む。 Interaction information includes, for example, at least one of information related to posture, information related to conversation, information related to gaze, information related to the relative position of gaze, synchronization of electrocardiogram-related features, synchronization of respiratory features, synchronization of skin potential, synchronization of posture angle, etc.

参加者情報は、例えば、会議のシーンを示す情報、年齢、性別、体格、参加者の位置関係等のうち少なくとも一つを含む。なお、参加者情報は、学習データに含まれなくてもよい。 Participant information includes, for example, at least one of information indicating the scene of the meeting, age, gender, physique, and relative positions of participants. Note that participant information does not necessarily have to be included in the training data.

正解データは、場の雰囲気を評価した評価値である。場の雰囲気を評価した評価値は、例えば、場の雰囲気の主観申告、場の雰囲気の客観評価等のうち少なくとも一つを含む。 The correct answer data is an evaluation value that evaluates the atmosphere of the place. The evaluation value that evaluates the atmosphere of the place includes, for example, at least one of a subjective report of the atmosphere of the place, an objective evaluation of the atmosphere of the place, etc.

雰囲気推定モデル11がサポートベクターマシンである場合、例えば、以下のようにして雰囲気推定モデル11を生成することができる。まず、実験により学習データを収集する。実験では、例えば、4人1組で20分間のアイスブレイク試験を行い、各参加者の生体情報及び話しやすさの主観申告を取得する。 When the mood estimation model 11 is a support vector machine, the mood estimation model 11 can be generated, for example, as follows. First, learning data is collected through an experiment. In the experiment, for example, a 20-minute icebreaker test is conducted in groups of four people, and biometric information and subjective assessments of how easy it is to talk to each participant are obtained.

次に、取得した生体情報及び主観申告を2分間隔で平均する。続いて、アイスブレイク時の録画を再生し、各参加者が2分間隔で話しやすさを5段階で評価する。そして、生体情報及び主観申告を説明変数とし、話しやすさの評価値を目的変数として、教師あり機械学習アルゴリズムに従って、雰囲気推定モデル11のモデルパラメータを学習する。 Next, the acquired biometric information and subjective feedback are averaged at two-minute intervals. Subsequently, the recording of the icebreaker is played back, and each participant evaluates the ease of speaking on a five-point scale at two-minute intervals. Then, using the biometric information and subjective feedback as explanatory variables and the evaluation value of ease of speaking as the objective variable, the model parameters of the atmosphere estimation model 11 are trained according to a supervised machine learning algorithm.

図6は、サポートベクターマシンの学習データの一例を示す図である。図6に示されるように、学習データは、データ項目として、被験者を示す識別情報、心拍数、呼吸数、姿勢、視線、話しやすさ等を含むデータセットである。心拍数、呼吸数、姿勢、視線等は説明変数に相当し、話しやすさは目的変数に相当する。図6に示す学習データの各項目は、2分間隔で平均した値である。 Figure 6 shows an example of training data for a support vector machine. As shown in Figure 6, the training data is a dataset that includes data items such as identification information for the subject, heart rate, respiratory rate, posture, gaze, and ease of speaking. Heart rate, respiratory rate, posture, gaze, etc. correspond to explanatory variables, and ease of speaking corresponds to the objective variable. Each item of the training data shown in Figure 6 is an average value over a two-minute interval.

雰囲気推定モデル11が畳み込みニューラルネットワークである場合、例えば、以下のようにして雰囲気推定モデル11を生成することができる。まず、実験により学習データを収集する。実験では、例えば、4人1組で20分間のアイスブレイク試験を行い、各参加者の生体情報及び話しやすさの主観申告を取得する。 When the mood estimation model 11 is a convolutional neural network, for example, the mood estimation model 11 can be generated as follows. First, learning data is collected through an experiment. In the experiment, for example, a 20-minute icebreaker test is conducted in groups of four people, and biometric information and subjective responses on how easy it is to talk to each participant are obtained.

次に、2分間の時系列画像データを参加者ごとにサンプリングする。また、各サンプルに対応する生体情報及び主観申告に基づいて、参加者ごとに特徴データを生成する。特徴データは、特徴軸と時間軸とをもつ二次元データである。続いて、アイスブレイク時の録画を再生し、各参加者が2分間隔で話しやすさを5段階で評価する。そして、参加者ごとの特徴データを入力とし、話しやすさの推定値を出力する畳み込みニューラルネットワークのモデルパラメータを学習する。 Next, two minutes of time-series image data is sampled for each participant. Feature data is generated for each participant based on the biometric information and subjective assessment corresponding to each sample. The feature data is two-dimensional data with a feature axis and a time axis. Next, the recording of the icebreaker is played back, and each participant rates the ease of speaking on a five-point scale at two-minute intervals. The feature data for each participant is then used as input to train the model parameters of a convolutional neural network that outputs an estimated ease of speaking value.

なお、畳み込みニューラルネットワークに入力する特徴データは、2人以上の参加者の全組み合わせである。2人又は3人の参加者の組み合わせを入力する場合、他の参加者に対応する特徴データは、0に設定すればよい。 The feature data input to the convolutional neural network is all combinations of two or more participants. When inputting combinations of two or three participants, the feature data corresponding to the other participants can be set to 0.

図7は、畳み込みニューラルネットワークの学習データの一例を示す図である。図7に示されるように、学習データは、特徴データ及び正解データを含むデータセットである。特徴データは参加者ごとの二次元データであり、特徴軸と時間軸とを有する。特徴軸は各説明変数に対応する。時間軸は各サンプルに対応する。説明変数は、心拍数、呼吸数、皮膚電位の等張成分(Tonic成分)、皮膚電位の相動的成分(Phasic成分)、姿勢、視線先、視線先の相対位置、瞳孔、顔表情を含む。話しやすさは、2分間隔で平均した値である。 Figure 7 is a diagram showing an example of training data for a convolutional neural network. As shown in Figure 7, the training data is a dataset including feature data and ground truth data. The feature data is two-dimensional data for each participant, and has a feature axis and a time axis. The feature axis corresponds to each explanatory variable. The time axis corresponds to each sample. The explanatory variables include heart rate, respiratory rate, tonic component of skin potential, phasic component of skin potential, posture, gaze direction, relative position of gaze direction, pupil, and facial expression. Ease of speaking is a value averaged over a two-minute interval.

ステップS2において、推定装置10の制御部は、温熱指標推定モデル12を生成する。具体的には、制御部は、まず、温熱指標推定モデル12を生成するための学習データを生成する。次に、制御部は、学習データに基づいて、温熱指標推定モデル12を生成する。そして、制御部は、温熱指標推定モデル12を記憶部に記憶する。 In step S2, the control unit of the estimation device 10 generates a thermal index estimation model 12. Specifically, the control unit first generates training data for generating the thermal index estimation model 12. Next, the control unit generates the thermal index estimation model 12 based on the training data. The control unit then stores the thermal index estimation model 12 in the memory unit.

温熱指標推定モデル12は、例えば、以下のようにして生成することができる。まず、実験により学習データを収集する。実験では、例えば、4人1組で20分間のアイスブレイク試験を行い、各参加者の生体情報及び主観申告を取得する。主観申告は、温冷感及び話しやすさを対象とする。温冷感の主観申告は、例えば、「暑い」~「寒い」を回答するVASでもよい。話しやすさの主観申告は、「話しやすい」~「話しにくい」を5段階で評価してもよい。 The thermal index estimation model 12 can be generated, for example, as follows. First, learning data is collected through an experiment. In the experiment, for example, a 20-minute ice-breaking test is conducted in groups of four people, and biometric information and subjective reports are obtained from each participant. The subjective reports cover thermal sensation and ease of conversation. The subjective report of thermal sensation may be, for example, a VAS in which participants respond with a range from "hot" to "cold." The subjective report of ease of conversation may be rated on a five-point scale from "easy to talk to" to "difficult to talk to."

次に、4人1組のグループにおける話しやすさの平均値及び温冷感の平均値について、相関分析を行う。そして、話しやすさの推定値を入力とし、温熱指標補正値を出力する温熱指標推定モデル12を生成する。 Next, a correlation analysis is performed on the average ease of conversation and the average thermal sensation for each group of four people. Then, a thermal index estimation model 12 is generated, which takes the estimated ease of conversation value as input and outputs a corrected thermal index value.

図8は、場の雰囲気と温冷感との関係の一例を示す図である。図8に示されるように、アイスブレイク試験の前後で、場全体(4人の平均)の話しやすさが上昇した。また、アイスブレイク試験の前後で、場全体の温冷感が上昇した。図8に示した例によれば、場の話しやすさが上昇すると、場の温冷感が上昇する関係があることがわかる。 Figure 8 shows an example of the relationship between the atmosphere of a space and warmth. As shown in Figure 8, the ease of talking in the space as a whole (average of four people) increased before and after the ice-breaking test. The warmth of the space as a whole also increased before and after the ice-breaking test. The example shown in Figure 8 shows that there is a relationship between an increase in the ease of talking in a space and an increase in the warmth of the space.

ステップS3において、推定装置10の制御部は、センサ3-1から観測データを取得する。次に、制御部は、センサ3-1の観測データに基づいて、各参加者1に関する個人状態情報を生成する。 In step S3, the control unit of the estimation device 10 acquires observation data from sensor 3-1. Next, the control unit generates personal state information for each participant 1 based on the observation data from sensor 3-1.

ステップS4において、推定装置10の制御部は、センサ3-2から観測データを取得する。次に、制御部は、センサ3-2の観測データに基づいて、複数の参加者1の間の相互作用情報を生成する。 In step S4, the control unit of the estimation device 10 acquires observation data from the sensor 3-2. Next, the control unit generates interaction information between multiple participants 1 based on the observation data from the sensor 3-2.

ステップS5において、推定装置10の制御部は、ステップS3で取得した個人状態情報及びステップS4で取得した相互作用情報に基づいて、場の雰囲気を推定する。具体的には、制御部は、まず、記憶部から雰囲気推定モデル11を読み出す。次に、制御部は、個人状態情報及び相互作用情報を雰囲気推定モデル11に入力する。雰囲気推定モデル11は、入力された個人状態情報及び相互作用情報に基づいて、場の雰囲気を示す指標を推定し、その推定値を出力する。制御部は、雰囲気推定モデル11から出力された場の雰囲気を示す指標を取得する。 In step S5, the control unit of the estimation device 10 estimates the atmosphere of the place based on the personal state information acquired in step S3 and the interaction information acquired in step S4. Specifically, the control unit first reads the atmosphere estimation model 11 from the memory unit. Next, the control unit inputs the personal state information and interaction information to the atmosphere estimation model 11. The atmosphere estimation model 11 estimates an index indicating the atmosphere of the place based on the input personal state information and interaction information, and outputs the estimated value. The control unit acquires the index indicating the atmosphere of the place output from the atmosphere estimation model 11.

推定装置10の制御部は、場の雰囲気を示す指標を空間2に出力してもよい。例えば、制御部は、場の雰囲気を示す指標を、空間2に設置されたディスプレイ等に表示してもよい。場の雰囲気を示す指標を表示する態様は、どのようなものでもよいが、例えば、場の雰囲気を示す指標を100分率で示した数値を表示してもよい。このとき、場の雰囲気を示す指標に応じて数字の色、フォント、太さ等を変化させてもよい。 The control unit of the estimation device 10 may output an index indicating the atmosphere of the place to space 2. For example, the control unit may display the index indicating the atmosphere of the place on a display or the like installed in space 2. The indicator indicating the atmosphere of the place may be displayed in any manner, but for example, a numerical value indicating the index indicating the atmosphere of the place as a percentage may be displayed. In this case, the color, font, thickness, etc. of the number may be changed depending on the indicator indicating the atmosphere of the place.

また、例えば、一端を「話しにくい」とし、他端を「話しやすい」とするインジケータで、場の雰囲気を示す指標を表示してもよい。このインジケータは、例えば、「話しにくい」方の端から「話しやすい」方の端へ伸びるバーを表示し、その先端が場の雰囲気を示す指標を示してもよい。この場合、バーの色又は形状を場の雰囲気を示す指標に応じて変化させてもよい。 Also, for example, an indicator showing the atmosphere of the place may be displayed, with one end indicating "difficult to talk" and the other end indicating "easy to talk." This indicator may be, for example, a bar extending from the "difficult to talk" end to the "easy to talk" end, with the tip of the bar indicating the indicator of the atmosphere of the place. In this case, the color or shape of the bar may be changed according to the indicator showing the atmosphere of the place.

ステップS6において、推定装置10の制御部は、ステップS5で取得した場の雰囲気を示す指標に基づいて、温熱指標補正値を推定する。具体的には、制御部は、まず、記憶部から温熱指標推定モデル12を読み出す。次に、制御部は、場の雰囲気を示す指標を温熱指標推定モデル12に入力する。温熱指標推定モデル12は、入力された場の雰囲気を示す指標に基づいて、温熱指標補正値を推定し、その推定値を出力する。制御部は、温熱指標推定モデル12から出力された温熱指標補正値を取得する。 In step S6, the control unit of the estimation device 10 estimates a thermal index correction value based on the index indicating the atmosphere of the place acquired in step S5. Specifically, the control unit first reads out the thermal index estimation model 12 from the memory unit. Next, the control unit inputs the index indicating the atmosphere of the place into the thermal index estimation model 12. The thermal index estimation model 12 estimates a thermal index correction value based on the input index indicating the atmosphere of the place and outputs the estimated value. The control unit acquires the thermal index correction value output from the thermal index estimation model 12.

ステップS7において、推定装置10の制御部は、ステップS6で取得した温熱指標補正値に基づいて、空間2を制御するための制御信号を生成する。次に、制御部は、制御信号を空間制御装置20に送信する。空間制御装置20は、推定装置10から制御信号を受信する。そして、空間制御装置20は、制御信号に従って空間2を制御する。 In step S7, the control unit of the estimation device 10 generates a control signal for controlling space 2 based on the thermal index correction value acquired in step S6. Next, the control unit transmits the control signal to the space control device 20. The space control device 20 receives the control signal from the estimation device 10. Then, the space control device 20 controls space 2 in accordance with the control signal.

制御信号の内容は、空間制御装置20の機能により異なる。例えば、空間制御装置20が温熱指標補正値に基づいて空気調和を行う機能を有する場合、推定装置10の制御部は、温熱指標補正値を含む制御信号を空間制御装置20に送信する。制御信号に含める温熱指標補正値は、ステップS6で取得した温熱指標補正値である。 The content of the control signal varies depending on the function of the space control device 20. For example, if the space control device 20 has the function of performing air conditioning based on a thermal index correction value, the control unit of the estimation device 10 sends a control signal including the thermal index correction value to the space control device 20. The thermal index correction value included in the control signal is the thermal index correction value obtained in step S6.

また、例えば、空間制御装置20が温熱指標に基づいて空気調和を行う機能を有する場合、推定装置10の制御部は、温熱指標を含む制御信号を空間制御装置20に送信する。制御信号に含める温熱指標は、場の雰囲気を考慮せずに温熱環境6要素から算出した温熱指標を、ステップS6で取得した温熱指標補正値に基づいて補正した値である。 Furthermore, for example, if the space control device 20 has the function of performing air conditioning based on a thermal index, the control unit of the estimation device 10 transmits a control signal including a thermal index to the space control device 20. The thermal index included in the control signal is a value obtained by correcting the thermal index calculated from the six thermal environment elements without considering the atmosphere of the location based on the thermal index correction value obtained in step S6.

また、例えば、空間制御装置20が目標温度に基づいて空気調和を行う機能を有する場合、推定装置10の制御部は、目標温度を含む制御信号を空間制御装置20に送信する。制御信号に含める目標温度は、ステップS6で取得した温熱指標補正値を所定の規則に従って変換した値である。温熱指標補正値と目標温度の対応は予め設定し記憶部等に記憶しておけばよい。例えば、温熱指標補正値が+1である場合、目標温度を1℃下げる等の規則を定めておけばよい。 Furthermore, for example, if the space control device 20 has the function of performing air conditioning based on a target temperature, the control unit of the estimation device 10 sends a control signal including the target temperature to the space control device 20. The target temperature included in the control signal is a value obtained by converting the thermal index correction value acquired in step S6 according to a predetermined rule. The correspondence between the thermal index correction value and the target temperature can be set in advance and stored in a memory unit, etc. For example, if the thermal index correction value is +1, a rule can be established such that the target temperature is lowered by 1°C.

ステップS8において、推定装置10の制御部は、フィードバック情報を取得する。フィードバック情報は、場の雰囲気を評価した評価値又は場の温冷感を評価した評価値の少なくとも一方を含んでいればよい。その後、制御部は、ステップS1に処理を戻す。 In step S8, the control unit of the estimation device 10 acquires feedback information. The feedback information may include at least one of an evaluation value that evaluates the atmosphere of the place or an evaluation value that evaluates the thermal sensation of the place. The control unit then returns to step S1.

2回目以降のステップS1では、推定装置10の制御部は、直前のステップS8で取得されたフィードバック情報に基づいて、雰囲気推定モデル11を更新する。この場合、フィードバック情報には、場の雰囲気を評価した評価値が含まれている必要がある。 In step S1 from the second time onwards, the control unit of the estimation device 10 updates the atmosphere estimation model 11 based on the feedback information acquired in the immediately preceding step S8. In this case, the feedback information must include an evaluation value that evaluates the atmosphere of the place.

また、2回目以降のステップS2では、推定装置10の制御部は、直前のステップS8で取得されたフィードバック情報に基づいて、温熱指標推定モデル12を更新する。この場合、フィードバック情報には、場の温冷感を評価した評価値が含まれている必要がある。 Furthermore, in step S2 from the second time onwards, the control unit of the estimation device 10 updates the thermal index estimation model 12 based on the feedback information acquired in the immediately preceding step S8. In this case, the feedback information must include an evaluation value that evaluates the thermal sensation of the space.

<まとめ>
以上、本開示の各実施形態によれば、場が形成される空間を制御するための情報を出力することができる。本実施形態における推定装置10は、参加者個人の状態に関する情報、参加者同士の相互作用に関する情報、及び場の雰囲気を評価した評価値を含むデータセットに基づいて生成された雰囲気推定モデルを記憶部に記憶し、雰囲気推定モデルは、状態に関する情報及び相互作用に関する情報に基づいて、場の雰囲気に関する情報を出力する。参加者は、場の雰囲気に関する情報を考慮して、場が形成される空間の環境等を制御することができる。したがって、本実施形態によれば、場が形成される空間を制御するための情報を出力することができる。
<Summary>
As described above, according to each embodiment of the present disclosure, it is possible to output information for controlling a space in which a scene is formed. The estimation device 10 in this embodiment stores, in a storage unit, an atmosphere estimation model generated based on a dataset including information on the state of each participant, information on interactions between participants, and an evaluation value that evaluates the atmosphere of the scene, and the atmosphere estimation model outputs information on the atmosphere of the scene based on the information on the state and the information on the interactions. Participants can control the environment of the space in which a scene is formed by taking into account the information on the atmosphere of the scene. Therefore, according to this embodiment, it is possible to output information for controlling the space in which a scene is formed.

本実施形態における推定装置10は、参加者個人の状態に関する情報及び参加者同士の相互作用に関する情報に基づいて場の雰囲気を示す指標を推定し、場の雰囲気を示す指標に基づいて空間における温冷感に関する補正値を出力する。例えば、推定装置10は、温熱指標補正値を含む制御信号を空間制御装置20に送信し、空間制御装置20は制御信号に従って空間の環境等を制御する。したがって、本実施形態によれば、場が形成される空間を制御するための情報を出力することができる。 In this embodiment, the estimation device 10 estimates an index indicating the atmosphere of a place based on information about the state of each participant and information about the interactions between the participants, and outputs a correction value for the thermal sensation in the space based on the index indicating the atmosphere of the place. For example, the estimation device 10 transmits a control signal including the thermal index correction value to the space control device 20, and the space control device 20 controls the environment of the space in accordance with the control signal. Therefore, according to this embodiment, it is possible to output information for controlling the space in which a place is formed.

本実施形態における推定装置10は、参加者個人の状態に関する情報及び参加者同士の相互作用に関する情報に基づいて場の雰囲気を示す指標を推定し、場の雰囲気を示す指標に基づいて場が形成される空間を制御する。例えば、推定装置10は、空間を制御するための制御信号を空間制御装置20に送信する。したがって、本実施形態によれば、場が形成される空間を制御するための情報を出力することができる。 In this embodiment, the estimation device 10 estimates an index indicating the atmosphere of the scene based on information about the state of each participant and information about the interactions between the participants, and controls the space in which the scene is formed based on the index indicating the atmosphere of the scene. For example, the estimation device 10 transmits a control signal for controlling the space to the space control device 20. Therefore, according to this embodiment, it is possible to output information for controlling the space in which the scene is formed.

本実施形態における推定装置10は、参加者個人の状態に関する情報及び参加者同士の相互作用に関する情報に基づいて場の雰囲気を示す指標を推定し、場の雰囲気を示す指標に基づいて空間における温冷感に関する補正値を推定し、温冷感に関する補正値に基づいて場が形成される空間を制御する。例えば、推定装置10は、空間を制御するための制御信号を空間制御装置20に送信する。したがって、本実施形態によれば、場が形成される空間を制御するための情報を出力することができる。 In this embodiment, the estimation device 10 estimates an index indicating the atmosphere of a place based on information about the state of each participant and information about the interactions between the participants, estimates a correction value for the thermal sensation in the space based on the index indicating the atmosphere of the place, and controls the space in which the place is formed based on the correction value for the thermal sensation. For example, the estimation device 10 transmits a control signal for controlling the space to the space control device 20. Therefore, according to this embodiment, it is possible to output information for controlling the space in which the place is formed.

本実施形態における推定装置10は、場の雰囲気を示す指標又は場が形成される空間における温冷感に関する補正値を表示してもよい。場の雰囲気を示す指標又は温冷感に関する補正値を参照した参加者は、場の雰囲気又は温冷感に応じた行動を取ることができる。例えば、参加者は、空調の設定温度の変更、飲食、窓の開閉、運動の開始又は終了等を行うことができる。したがって、本実施形態によれば、参加者に対して空間を制御するための行動変容を促すことができる。 In this embodiment, the estimation device 10 may display an index indicating the atmosphere of the place or a correction value for thermal sensation in the space where the place is formed. Participants who refer to the index indicating the atmosphere of the place or the correction value for thermal sensation can take actions according to the atmosphere or thermal sensation of the place. For example, participants can change the air conditioning temperature setting, eat or drink, open or close windows, start or stop exercising, etc. Therefore, according to this embodiment, participants can be encouraged to change their behavior in order to control the space.

[補足]
上記で説明した実施形態の各機能は、一又は複数の処理回路によって実現することが可能である。ここで、本明細書における「処理回路」とは、電子回路により実装されるCPU(Central Processing Unit)又はGPU(Graphics Processing Unit)のようにソフトウェアによって各機能を実行するようプログラミングされたプロセッサや、上記で説明した各機能を実行するよう設計されたASIC(Application Specific Integrated Circuit)、DSP(Digital Signal Processor)、FPGA(Field Programmable Gate Array)や従来の回路モジュール等の機器を含むものとする。
[supplement]
Each function of the above-described embodiments can be realized by one or more processing circuits. Here, the term "processing circuit" in this specification includes a processor programmed to execute each function by software, such as a central processing unit (CPU) or a graphics processing unit (GPU) implemented by an electronic circuit, as well as devices such as an application specific integrated circuit (ASIC), a digital signal processor (DSP), a field programmable gate array (FPGA), and conventional circuit modules designed to execute each of the above-described functions.

以上、実施形態を説明したが、特許請求の範囲の趣旨及び範囲から逸脱することなく、形態や詳細の多様な変更が可能なことが理解されるであろう。 Although the embodiments have been described above, it will be understood that various changes in form and details are possible without departing from the spirit and scope of the claims.

1 参加者
2 空間
3 センサ
10 推定装置
11 雰囲気推定モデル
12 温熱指標推定モデル
20 空間制御装置
1000 空間制御システム
REFERENCE SIGNS LIST 1 Participant 2 Space 3 Sensor 10 Estimation device 11 Atmosphere estimation model 12 Thermal index estimation model 20 Space control device 1000 Space control system

Claims (16)

複数の参加者により形成される場の雰囲気に関する情報を出力する制御部を有する情報処理装置であって、
前記制御部は、
前記参加者個人の状態に関する情報、前記参加者同士の相互作用に関する情報、及び前記参加者の属性に関する情報を、学習済みの雰囲気推定モデルに入力することで、前記場の雰囲気を示す指標を推定し、
前記場の雰囲気を示す指標に基づいて前記場が形成される空間を制御し、
前記雰囲気推定モデルは、前記状態に関する情報前記相互作用に関する情報、及び前記参加者の属性に関する情報を入力とし、前記場の雰囲気を評価した評価値を正解データとして、前記場の雰囲気を示す指標の推定値を出力し、
前記参加者の属性に関する情報は、会議のシーンを示す情報、又は前記参加者の位置関係の少なくとも1つを含む、
情報処理装置。
An information processing device having a control unit that outputs information about an atmosphere of a place formed by a plurality of participants,
The control unit
inputting information about the states of the individual participants, information about interactions between the participants, and information about attributes of the participants into a trained atmosphere estimation model to estimate an index indicating the atmosphere of the place;
Controlling the space in which the scene is formed based on an index indicating the atmosphere of the scene;
the atmosphere estimation model receives information about the state , information about the interaction , and information about attributes of the participants as input, and outputs an estimate of an index indicating the atmosphere of the event using an evaluation value that evaluates the atmosphere of the event as correct answer data;
The information about the attributes of the participants includes at least one of information indicating a scene of the conference or a positional relationship of the participants.
Information processing device.
複数の参加者により形成される場の雰囲気に関する情報を出力する制御部を有する情報処理装置であって、
前記制御部は、
前記参加者個人の状態に関する情報及び前記参加者同士の相互作用に関する情報を、学習済みの雰囲気推定モデルに入力することで、前記場の雰囲気を示す指標を推定し、
前記場の雰囲気を示す指標及び前記参加者の属性に関する情報を、学習済みの温熱指標推定モデルに入力することで、前記場が形成される空間における温冷感に関する補正値を推定し、
前記温冷感に関する補正値に基づいて前記空間を制御し、
前記雰囲気推定モデルは、前記状態に関する情報及び前記相互作用に関する情報を入力とし、前記場の雰囲気を評価した評価値を正解データとして、前記場の雰囲気を示す指標の推定値を出力し、
前記温熱指標推定モデルは、前記場の雰囲気を示す指標及び前記参加者の属性に関する情報を入力として、前記温冷感に関する補正値の推定値を出力し、
前記参加者の属性に関する情報は、会議のシーンを示す情報、又は前記参加者の位置関係の少なくとも1つを含む、
情報処理装置。
An information processing device having a control unit that outputs information about an atmosphere of a place formed by a plurality of participants,
The control unit
inputting information about the states of the individual participants and information about interactions between the participants into a trained atmosphere estimation model to estimate an index indicating the atmosphere of the place;
The index indicating the atmosphere of the place and information on the attributes of the participants are input into a trained thermal index estimation model to estimate a correction value for the thermal sensation in the space where the place is formed;
controlling the space based on the correction value related to the thermal sensation;
the atmosphere estimation model receives information about the state and information about the interaction as input, and outputs an estimate of an index indicating the atmosphere of the place using an evaluation value that evaluates the atmosphere of the place as correct answer data;
the thermal index estimation model receives as input the index indicating the atmosphere of the venue and information on the attributes of the participants, and outputs an estimate of the correction value related to the thermal sensation;
The information about the attributes of the participants includes at least one of information indicating a scene of the conference or a positional relationship of the participants.
Information processing device.
前記状態に関する情報は、前記参加者の生体情報である、
請求項1又は2に記載の情報処理装置。
the information about the status is biometric information of the participant;
3. The information processing device according to claim 1 or 2 .
前記生体情報は、前記参加者の感情に関する生体情報である、
請求項に記載の情報処理装置。
the biometric information is biometric information related to the emotion of the participant;
The information processing device according to claim 3 .
前記相互作用に関する情報は、前記参加者の間のコミュニケーションに関する情報である、
請求項1又は2に記載の情報処理装置。
the information about the interaction is information about communication between the participants;
3. The information processing device according to claim 1 or 2 .
前記コミュニケーションに関する情報は、前記参加者の間で意思疎通する行動に関する情報である、
請求項に記載の情報処理装置。
The information about the communication is information about the behavior of communicating between the participants.
The information processing device according to claim 5 .
前記場の雰囲気を評価した評価値は、前記場の雰囲気の主観申告又は客観評価である、
請求項1又は2に記載の情報処理装置。
The evaluation value of the atmosphere of the place is a subjective report or an objective evaluation of the atmosphere of the place.
3. The information processing device according to claim 1 or 2 .
前記場の雰囲気の主観申告は、アンケート手法を用いてあらかじめ実験的に取得した前記場の雰囲気に関する指標である、
請求項に記載の情報処理装置。
The subjective report of the atmosphere of the place is an index regarding the atmosphere of the place experimentally obtained in advance using a questionnaire method.
The information processing device according to claim 7 .
前記制御部は、
前記参加者から前記場の雰囲気に関するフィードバック情報を取得し、
前記フィードバック情報に基づいて前記雰囲気推定モデルを更新する、
請求項1又は2に記載の情報処理装置。
The control unit
Obtaining feedback information from the participants regarding the atmosphere of the event;
updating the atmosphere estimation model based on the feedback information;
3. The information processing device according to claim 1 or 2 .
前記フィードバック情報は、前記場の雰囲気を評価した評価値を含む、
請求項に記載の情報処理装置。
The feedback information includes an evaluation value that evaluates the atmosphere of the place.
The information processing device according to claim 9 .
前記制御部は、
前記参加者から前記場の温冷感に関するフィードバック情報を取得し、
前記フィードバック情報に基づいて前記温熱指標推定モデルを更新する、
請求項に記載の情報処理装置。
The control unit
Obtaining feedback information from the participants regarding the thermal sensation of the space;
updating the thermal index estimation model based on the feedback information;
The information processing device according to claim 2 .
前記フィードバック情報は、前記場の温冷感を評価した評価値を含む、
請求項11に記載の情報処理装置。
The feedback information includes an evaluation value that evaluates the thermal sensation of the space.
The information processing device according to claim 11 .
複数の参加者により形成される場の雰囲気に関する情報を出力する情報処理装置が有する制御部が、
前記参加者個人の状態に関する情報、前記参加者同士の相互作用に関する情報、及び前記参加者の属性に関する情報を、学習済みの雰囲気推定モデルに入力することで、前記場の雰囲気を示す指標を推定し、
前記場の雰囲気を示す指標に基づいて前記場が形成される空間を制御し、
前記雰囲気推定モデルは、前記状態に関する情報前記相互作用に関する情報、及び前記参加者の属性に関する情報を入力とし、前記場の雰囲気を評価した評価値を正解データとして、前記場の雰囲気を示す指標の推定値を出力し、
前記参加者の属性に関する情報は、会議のシーンを示す情報、又は前記参加者の位置関係の少なくとも1つを含む、
情報処理方法。
A control unit included in an information processing device that outputs information about an atmosphere of a place formed by a plurality of participants,
inputting information about the states of the individual participants, information about interactions between the participants, and information about attributes of the participants into a trained atmosphere estimation model to estimate an index indicating the atmosphere of the place;
Controlling the space in which the scene is formed based on an index indicating the atmosphere of the scene;
the atmosphere estimation model receives information about the state , information about the interaction , and information about attributes of the participants as input, and outputs an estimate of an index indicating the atmosphere of the event using an evaluation value that evaluates the atmosphere of the event as correct answer data;
The information about the attributes of the participants includes at least one of information indicating a scene of the conference or a positional relationship of the participants.
Information processing methods.
複数の参加者により形成される場の雰囲気に関する情報を出力する情報処理装置が有する制御部が、
前記参加者個人の状態に関する情報及び前記参加者同士の相互作用に関する情報を、学習済みの雰囲気推定モデルに入力することで、前記場の雰囲気を示す指標を推定し、
前記場の雰囲気を示す指標及び前記参加者の属性に関する情報を、学習済みの温熱指標推定モデルに入力することで、前記場が形成される空間における温冷感に関する補正値を推定し、
前記温冷感に関する補正値に基づいて前記空間を制御し、
前記雰囲気推定モデルは、前記状態に関する情報及び前記相互作用に関する情報を入力とし、前記場の雰囲気を評価した評価値を正解データとして、前記場の雰囲気を示す指標の推定値を出力し、
前記温熱指標推定モデルは、前記場の雰囲気を示す指標及び前記参加者の属性に関する情報を入力として、前記温冷感に関する補正値の推定値を出力し、
前記参加者の属性に関する情報は、会議のシーンを示す情報、又は前記参加者の位置関係の少なくとも1つを含む、
情報処理方法。
A control unit included in an information processing device that outputs information about an atmosphere of a place formed by a plurality of participants,
inputting information about the states of the individual participants and information about interactions between the participants into a trained atmosphere estimation model to estimate an index indicating the atmosphere of the place;
The index indicating the atmosphere of the place and information on the attributes of the participants are input into a trained thermal index estimation model to estimate a correction value for the thermal sensation in the space where the place is formed;
controlling the space based on the correction value related to the thermal sensation;
the atmosphere estimation model receives information about the state and information about the interaction as input, and outputs an estimate of an index indicating the atmosphere of the place using an evaluation value that evaluates the atmosphere of the place as correct answer data;
the thermal index estimation model receives as input the index indicating the atmosphere of the venue and information on the attributes of the participants, and outputs an estimate of the correction value related to the thermal sensation;
The information about the attributes of the participants includes at least one of information indicating a scene of the conference or a positional relationship of the participants.
Information processing methods.
複数の参加者により形成される場の雰囲気に関する情報を出力する情報処理装置が有する制御部に、
前記参加者個人の状態に関する情報、前記参加者同士の相互作用に関する情報、及び前記参加者の属性に関する情報を、学習済みの雰囲気推定モデルに入力することで、前記場の雰囲気を示す指標を推定させ、
前記場の雰囲気を示す指標に基づいて前記場が形成される空間を制御させ、
前記雰囲気推定モデルは、前記状態に関する情報前記相互作用に関する情報、及び前記参加者の属性に関する情報を入力とし、前記場の雰囲気を評価した評価値を正解データとして、前記場の雰囲気を示す指標の推定値を出力し、
前記参加者の属性に関する情報は、会議のシーンを示す情報、又は前記参加者の位置関係の少なくとも1つを含む、
プログラム。
A control unit included in an information processing device that outputs information about the atmosphere of a place created by a plurality of participants,
inputting information about the states of the individual participants, information about the interactions between the participants, and information about the attributes of the participants into a trained atmosphere estimation model to estimate an index indicating the atmosphere of the place;
controlling a space in which the scene is formed based on an index indicating the atmosphere of the scene;
the atmosphere estimation model receives information about the state , information about the interaction , and information about attributes of the participants as input, and outputs an estimate of an index indicating the atmosphere of the event using an evaluation value that evaluates the atmosphere of the event as correct answer data;
The information about the attributes of the participants includes at least one of information indicating a scene of the conference or a positional relationship of the participants.
program.
複数の参加者により形成される場の雰囲気に関する情報を出力する情報処理装置が有する制御部に、
前記参加者個人の状態に関する情報及び前記参加者同士の相互作用に関する情報を、学習済みの雰囲気推定モデルに入力することで、前記場の雰囲気を示す指標を推定させ、
前記場の雰囲気を示す指標及び前記参加者の属性に関する情報を、学習済みの温熱指標推定モデルに入力することで、前記場が形成される空間における温冷感に関する補正値を推定させ、
前記温冷感に関する補正値に基づいて前記空間を制御させ、
前記雰囲気推定モデルは、前記状態に関する情報及び前記相互作用に関する情報を入力とし、前記場の雰囲気を評価した評価値を正解データとして、前記場の雰囲気を示す指標の推定値を出力し、
前記温熱指標推定モデルは、前記場の雰囲気を示す指標及び前記参加者の属性に関する情報を入力として、前記温冷感に関する補正値の推定値を出力し、
前記参加者の属性に関する情報は、会議のシーンを示す情報、又は前記参加者の位置関係の少なくとも1つを含む、
プログラム。
A control unit included in an information processing device that outputs information about the atmosphere of a place created by a plurality of participants,
inputting information about the state of each participant and information about the interaction between the participants into a trained atmosphere estimation model to estimate an index indicating the atmosphere of the place;
The index indicating the atmosphere of the place and information about the attributes of the participants are input into a trained thermal index estimation model to estimate a correction value for the thermal sensation in the space where the place is formed;
controlling the space based on the correction value related to the thermal sensation;
the atmosphere estimation model receives information about the state and information about the interaction as input, and outputs an estimate of an index indicating the atmosphere of the place using an evaluation value that evaluates the atmosphere of the place as correct answer data;
the thermal index estimation model receives as input the index indicating the atmosphere of the venue and information on the attributes of the participants, and outputs an estimate of the correction value related to the thermal sensation;
The information about the attributes of the participants includes at least one of information indicating a scene of the conference or a positional relationship of the participants.
program.
JP2023170806A 2023-09-29 2023-09-29 Information processing device, information processing method, and program Active JP7748624B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2023170806A JP7748624B2 (en) 2023-09-29 2023-09-29 Information processing device, information processing method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023170806A JP7748624B2 (en) 2023-09-29 2023-09-29 Information processing device, information processing method, and program

Publications (2)

Publication Number Publication Date
JP2025060218A JP2025060218A (en) 2025-04-10
JP7748624B2 true JP7748624B2 (en) 2025-10-03

Family

ID=95289007

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023170806A Active JP7748624B2 (en) 2023-09-29 2023-09-29 Information processing device, information processing method, and program

Country Status (1)

Country Link
JP (1) JP7748624B2 (en)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020048043A (en) 2018-09-18 2020-03-26 株式会社東芝 Device control apparatus, device control method, and program
CN113531806A (en) 2021-06-28 2021-10-22 青岛海尔空调器有限总公司 Method and device for controlling air conditioner and air conditioner
WO2022044994A1 (en) 2020-08-31 2022-03-03 テイ・エス テック株式会社 Door trim and vehicle
CN116538636A (en) 2023-04-21 2023-08-04 青岛海尔空调器有限总公司 Air conditioner control method, computer readable storage medium and air conditioner

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020048043A (en) 2018-09-18 2020-03-26 株式会社東芝 Device control apparatus, device control method, and program
WO2022044994A1 (en) 2020-08-31 2022-03-03 テイ・エス テック株式会社 Door trim and vehicle
CN113531806A (en) 2021-06-28 2021-10-22 青岛海尔空调器有限总公司 Method and device for controlling air conditioner and air conditioner
CN116538636A (en) 2023-04-21 2023-08-04 青岛海尔空调器有限总公司 Air conditioner control method, computer readable storage medium and air conditioner

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
村田 正幸,アンビエント情報社会の実現に向けた取組み,電子情報通信学会誌,2010年03月01日,Vol.93 No.3,pp.233-238

Also Published As

Publication number Publication date
JP2025060218A (en) 2025-04-10

Similar Documents

Publication Publication Date Title
Ficocelli et al. Promoting interactions between humans and robots using robotic emotional behavior
Al Osman et al. Multimodal affect recognition: Current approaches and challenges
Le et al. Live speech driven head-and-eye motion generators
CN109475294A (en) Mobile and wearable video capture and feedback platform for the treatment of mental disorders
TWI829944B (en) Avatar facial expression generating system and method of avatar facial expression generation
CN110464367B (en) Psychological anomaly detection method and system based on multi-channel cooperation
US11830292B2 (en) System and method of image processing based emotion recognition
JP7306152B2 (en) Emotion estimation device, emotion estimation method, program, information presentation device, information presentation method, and emotion estimation system
Biancardi et al. A computational model for managing impressions of an embodied conversational agent in real-time
CN118866335A (en) A method and system for identifying depression based on face video
JP2022032796A (en) Mental disease determination system, mental disease determination method, and mental disease determination program
Lei et al. Emotional expressivity is a reliable signal of surprise
KR102610267B1 (en) Method for analyzing status of specific user corresponding to specific avatar by referring to interactions between the specific avatar and other avatars in the metaverse world and providing service to the specific user and device using the same
US20250006342A1 (en) Mental health intervention using a virtual environment
Berry et al. The dynamic mask: Facial correlates of character portrayal in professional actors
JP7748624B2 (en) Information processing device, information processing method, and program
Tivatansakul et al. The design, implementation and evaluation of a relaxation service with facial emotion detection
JP7724446B2 (en) Information processing method, information processing system, and program
CN109697413B (en) Personality analysis method, system and storage medium based on head gesture
Shahab et al. Using electroencephalograms to interpret and monitor the emotions
Tu et al. The effect of two different types of human-computer interactions on user's emotion in virtual counseling environment
KR102610262B1 (en) Method for providing counseling service to specific avatar of the specific real user in the metaverse world and device using the same
KR102610273B1 (en) Method for providing contents capable of allowing specific avatar of specific user to interact with a triggering avatar in the metaverse world and device using the same
KR102957299B1 (en) Pain expression animation production method and system for patient avatars for virtual content for nursing education
Manjunatha et al. Quality of Life Estimation Using a Convolutional Neural Network Technique

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240430

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250624

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250805

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250812

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250904

R150 Certificate of patent or registration of utility model

Ref document number: 7748624

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150