JP7485038B2 - Speech generation device, speech generation method, and speech generation program - Google Patents
Speech generation device, speech generation method, and speech generation program Download PDFInfo
- Publication number
- JP7485038B2 JP7485038B2 JP2022531317A JP2022531317A JP7485038B2 JP 7485038 B2 JP7485038 B2 JP 7485038B2 JP 2022531317 A JP2022531317 A JP 2022531317A JP 2022531317 A JP2022531317 A JP 2022531317A JP 7485038 B2 JP7485038 B2 JP 7485038B2
- Authority
- JP
- Japan
- Prior art keywords
- voice
- user
- unit
- level
- familiarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61M—DEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
- A61M21/00—Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L13/00—Speech synthesis; Text to speech systems
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L13/00—Speech synthesis; Text to speech systems
- G10L13/08—Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- Acoustics & Sound (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Biomedical Technology (AREA)
- Anesthesiology (AREA)
- Psychology (AREA)
- Heart & Thoracic Surgery (AREA)
- Hematology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
- Traffic Control Systems (AREA)
Description
本実施形態は、音声生成装置、音声生成方法及び音声生成プログラムに関する。 This embodiment relates to a voice generation device, a voice generation method, and a voice generation program.
人が眠気を全く感じずに日中を過ごすことは難しい。これは、人の脳機能がウルトラディアンリズムという短い周期での覚醒度の変動リズムを有しているためである。非特許文献1及び2では、睡眠は覚醒とは対極にある状態であると説明されている。そして、睡眠から興奮に至る覚醒の程度を表す指標が覚醒水準である。また、非特許文献2では、「眠気」は、中程度の覚醒水準よりも覚醒水準が低くなっている状態であると定義されている。在宅勤務といった遠隔環境での業務、遠隔授業等で、眠気を感じたとしても、なるべく短時間で覚醒水準を上昇させることが求められている。It is difficult for a person to spend the day without feeling sleepy at all. This is because the human brain functions in a rhythm of fluctuations in alertness with short periods known as ultradian rhythms.
実施形態は、短時間でユーザの覚醒を促すための音声生成装置、音声生成方法及び音声生成プログラムを提供する。 The embodiments provide a voice generation device, a voice generation method, and a voice generation program for waking up a user in a short period of time.
実施形態に係る音声生成装置は、ユーザの睡眠から興奮に至るまでの覚醒の程度を表す第1の覚醒度を取得する取得部と、第1の覚醒度に基づき、ユーザが覚醒している状態であるか否かを判定する判定部と、ユーザが覚醒している状態でないとき、ユーザの覚醒を促す音声を複数の音声候補の中から選択する選択部と、選択された音声に基づき、ユーザに対して提示するための呼びかけ音声を生成する生成部とを具備し、前記複数の音声候補は、それぞれ、前記ユーザが対応する音声候補になじんでいる度合を表すなじみ度に関連づけられており、前記選択部は、前記なじみ度に応じて前記ユーザの覚醒を促す音声を選択する。 The voice generation device of the embodiment includes an acquisition unit that acquires a first level of alertness that represents the user's degree of alertness from sleep to excitement, a judgment unit that determines whether the user is in an alert state based on the first level of alertness, a selection unit that selects a voice that encourages the user to wake up from a plurality of voice candidates when the user is not in an alert state, and a generation unit that generates a voice call to present to the user based on the selected voice , wherein each of the plurality of voice candidates is associated with a familiarity level that represents the degree to which the user is familiar with the corresponding voice candidate, and the selection unit selects the voice that encourages the user to wake up in accordance with the familiarity level .
実施形態によれば、短時間でユーザの覚醒を促すための音声生成装置、音声生成方法及び音声生成プログラムが提供される。According to an embodiment, a voice generation device, a voice generation method, and a voice generation program are provided to wake up a user in a short period of time.
以下、図面を参照して実施形態を説明する。図1は、実施形態に係る音声生成装置の一例のハードウェア構成を示す図である。実施形態に係る音声生成装置1は、ユーザが眠気を有している状態等の覚醒の状態にないときに、ユーザの覚醒を促す呼びかけ音声を発する。Hereinafter, an embodiment will be described with reference to the drawings. FIG. 1 is a diagram showing a hardware configuration of an example of a voice generation device according to an embodiment. The
実施形態では、「覚醒度」に基づいてユーザが覚醒の状態にあるか否かが判定される。実施形態における覚醒度は、覚醒水準に対応した覚醒の程度を示す指標である。覚醒水準は、大脳の活動レベルに対応し、睡眠から興奮に至るまでの覚醒の程度を表している。覚醒水準は、眼球運動、瞬目活動、皮膚電気活動、刺激への反応時間等から計測される。実施形態における覚醒度は、これらの覚醒水準を計測するための、眼球運動、瞬目活動、皮膚電気活動、刺激への反応時間の何れか又はそれらの組み合わせで算出される。覚醒度は、例えば睡眠状態から興奮状態に向かうに従って大きくなる値である。覚醒度は、連続的な数値でもよいし、Level 1, Level 2,…といった離散値であってもよい。また、眼球運動、瞬目活動、皮膚電気活動、刺激への反応時間の各値の組み合わせによって覚醒度が算出される場合において、それらの組み合わせ方は、特に限定されない。例えばこれらの値を単純に合算する、重みづけ加算する等が組み合わせ方として用いられ得る。In the embodiment, whether or not the user is in an awakened state is determined based on the "awakening level". The awakening level in the embodiment is an index indicating the degree of awakening corresponding to the awakening level. The awakening level corresponds to the activity level of the cerebrum and represents the degree of awakening from sleep to excitement. The awakening level is measured from eye movement, blinking activity, electrodermal activity, reaction time to a stimulus, and the like. The awakening level in the embodiment is calculated from any one or a combination of eye movement, blinking activity, electrodermal activity, and reaction time to a stimulus for measuring these awakening levels. The awakening level is, for example, a value that increases as the state moves from a sleep state to an excited state. The awakening level may be a continuous numerical value or may be a discrete value such as
音声生成装置1は、プロセッサ2と、ROM3と、RAM4と、ストレージ5と、マイクロホン(マイク)6と、スピーカ7と、カメラ8と、入力装置9と、ディスプレイ10と、通信モジュール11とを有する。音声生成装置1は、例えばパーソナルコンピュータ(PC)、スマートフォン、タブレット端末といった各種の端末である。これに限らず、音声生成装置1は、ユーザによって利用される各種の装置に搭載され得る。なお、音声生成装置1は、図1で示したすべての構成を有している必要はない。例えば、マイク6、スピーカ7、カメラ8、ディスプレイ10は、音声生成装置1と別体の装置であってもよい。The
プロセッサ2は、CPU等の音声生成装置1の全体的な動作を制御する制御回路である。プロセッサ2は、CPUである必要はなく、ASIC、FPGA、GPU等であってもよい。プロセッサ2は、単一のCPU等で構成されている必要はなく、複数のCPU等で構成されていてもよい。
ROM3は、フラッシュメモリ等の不揮発性のメモリである。ROM3には、例えば音声生成装置1の起動プログラムが記憶されている。RAM4は、SDRAM等の揮発性のメモリである。RAM4は、音声生成装置1における各種処理のための作業用のメモリとして使用され得る。
ストレージ5は、フラッシュメモリ、ハードディスクドライブ(HDD)、ソリッドステートドライブ(SSD)といったストレージである。ストレージ5には、音声生成装置1で利用される各種のプログラムが記憶される。ストレージ5には、なじみ度データベース(DB)、ユーザログデータベース(DB)52と、音声合成パラメータデータベース(DB)53と、呼びかけ文データベース(DB)54と、能動的行動データベース(DB)55とが記憶されてもよい。これらのデータベースについては後で詳しく説明する。
マイク6は、入力された音声を電気信号である音声信号に変換するデバイスである。マイク6で得られた音声信号は、例えばRAM4又はストレージ5に記憶され得る。例えば、呼びかけ音声を合成するための音声合成パラメータは、マイク6を介して入力された音声より取得され得る。The
スピーカ7は、入力された音声信号に基づいて音声を出力するデバイスである。 Speaker 7 is a device that outputs sound based on the input audio signal.
カメラ8は、ユーザを撮像し、ユーザの画像を取得する。カメラ8で得られたユーザの画像は、例えばRAM4又はストレージ5に記憶され得る。ユーザの画像は、例えば、覚醒度の取得のため又は呼びかけ音声に対するユーザの反応を取得するために用いられる。The
入力装置9は、ボタン、スイッチ、キーボード、マウスといった機械式の入力装置、タッチセンサを用いたソフトウェア式の入力装置である。入力装置9は、ユーザからの各種の入力を受け付ける。そして、入力装置9は、ユーザの入力に応じた信号をプロセッサ2に出力する。The
ディスプレイ10は、例えば液晶ディスプレイ、有機ELディスプレイといったディスプレイである。ディスプレイ10は、各種の画像を表示する。The
通信モジュール11は、音声生成装置1が通信を実施するための装置である。通信モジュール11は、例えば音声生成装置1の外部に設けられたサーバと通信する。通信モジュール11による通信の方式は特に限定されない。通信モジュール11は、無線で通信を実施してもよいし、有線で通信を実施してもよい。The communication module 11 is a device for the
次に、なじみ度データベース(DB)51、ユーザログデータベース(DB)52、音声合成パラメータデータベース(DB)53、呼びかけ文データベース(DB)54、能動的行動データベース(DB)55について説明する。 Next, we will explain the familiarity database (DB) 51, user log database (DB) 52, voice synthesis parameter database (DB) 53, call-out sentence database (DB) 54, and active behavior database (DB) 55.
図2は、なじみ度DB51の一例の構成を示す図である。なじみ度DB51は、ユーザの「なじみ度」を記録したデータベースである。なじみ度DB51は、例えばユーザIDと、音声ラベルと、なじみ対象と、なじみ度と、反応あり数と、提示回数と、覚醒度変化平均値とを関連付けて記録している。 Figure 2 is a diagram showing an example of the configuration of the familiarity DB51. The familiarity DB51 is a database that records the "familiarity" of the user. The familiarity DB51 records, for example, a user ID, a voice label, a familiarity target, a familiarity, the number of responses, the number of presentations, and the average arousal change value in association with each other.
「ユーザID」は、音声生成装置1のユーザ毎に付けられたIDである。ユーザIDには、ユーザ名等のユーザの属性情報が対応付けられていてよい。
"User ID" is an ID assigned to each user of the
「音声ラベル」は、呼びかけ音声の候補のそれぞれに一意に付けられたラベルである。音声ラベルには、任意のラベルが用いられ得る。例えば、音声ラベルに、なじみ対象の名前が用いられてもよい。 A "voice label" is a label that is uniquely assigned to each candidate call voice. Any label may be used as the voice label. For example, the familiar name of the target may be used as the voice label.
「なじみ対象」は、ユーザが日頃会話する人又はユーザがよく耳にする音声を発生する対象である。なじみ対象は、必ずしも人でなくてもよい。 A "familiar target" is a person with whom the user regularly converses or a target that emits a voice that the user frequently hears. A familiar target does not necessarily have to be a person.
「なじみ度」は、対応するなじみ対象の音声に対するユーザのなじみの度合いである。なじみ度は、SNS等によるなじみ対象とのコミュニケーション頻度、なじみ対象との日常の会話頻度、なじみ対象から日常的に耳にする頻度等から算出され得る。例えば、SNS等によるなじみ対象とのコミュニケーション頻度、なじみ対象との日常の会話頻度、なじみ対象から日常的に耳にする頻度が多いほど、なじみ度の値は大きくなる。ここで、なじみ度は、ユーザによる自己申告によって取得されてもよい。 "Familiarity" is the degree of familiarity of the user with the voice of the corresponding familiar target. Familiarity can be calculated from the frequency of communication with the familiar target via SNS etc., the frequency of daily conversation with the familiar target, the frequency of hearing the familiar target on a daily basis, etc. For example, the higher the frequency of communication with the familiar target via SNS etc., the frequency of daily conversation with the familiar target, and the frequency of hearing the familiar target on a daily basis, the higher the familiarity value. Here, familiarity may be obtained by self-reporting by the user.
「反応あり数」は、対応する音声ラベルに基づいて生成された呼びかけ音声に対してユーザが反応した回数である。提示回数は、対応する音声ラベルに基づいて生成された呼びかけ音声をユーザに対して提示した回数である。反応あり数を提示回数で割ることにより、反応確率が算出され得る。反応確率は、対応する音声ラベルに基づいて生成される呼びかけ音声に対してユーザが反応する確率である。 The "number of responses" is the number of times the user responded to the call voice generated based on the corresponding voice label. The number of presentations is the number of times the call voice generated based on the corresponding voice label was presented to the user. The response probability can be calculated by dividing the number of responses by the number of presentations. The response probability is the probability that the user will respond to the call voice generated based on the corresponding voice label.
「覚醒度変化平均値」は、対応する音声ラベルに基づいて生成された呼びかけ音声に対するユーザの覚醒度変化量の平均値である。覚醒度変化量については後で説明する。 "Average change in alertness" is the average change in the user's alertness in response to the call voice generated based on the corresponding voice label. The change in alertness will be explained later.
図3は、ユーザログDB52の一例の構成を示す図である。ユーザログDB52は、ユーザによる音声生成装置1の利用に係るログを記録したデータベースである。ユーザログDB52は、例えばログ発生日時と、ユーザIDと、音声ラベルと、なじみ対象と、反応有無と、覚醒度と、新覚醒度と、覚醒度変化量とを関連付けて記録している。ユーザIDと、音声ラベルと、なじみ対象は、なじみ度DB51と同じものである。
Figure 3 is a diagram showing an example of the configuration of user log DB52. User log DB52 is a database that records logs related to the user's use of the
「ログ発生日時」は、ユーザによる音声生成装置1の利用があった日時である。ログ発生日時は、例えばユーザに対する呼びかけ音声の提示がされる毎に記録される。
The "log generation date and time" is the date and time when the user used the
「反応有無」は、ユーザに対して呼びかけ音声が提示された後のユーザの反応の有無の情報である。ユーザの反応があったときには、「あり」が記録される。ユーザの反応がなかったときには、「なし」が記録される。 "Response or no response" is information about whether or not the user responded after the voice prompt was presented to the user. If the user responded, "Yes" is recorded. If the user did not respond, "No" is recorded.
「覚醒度」は、音声生成装置1による呼びかけ音声の提示前に取得された覚醒度である。
"Level of alertness" is the level of alertness obtained before the
「新覚醒度」は、ユーザの反応があった後で新たに取得された覚醒度である。新覚醒度は、ユーザの反応がなかったときには記録されない。 "New alertness" is the new alertness obtained after the user reacts. New alertness is not recorded when there is no user reaction.
「覚醒度変化量」は、ユーザの反応の前後での覚醒度の変化を表す量である。例えば、覚醒度変化量は、例えば新覚醒度と覚醒度との差から得られる。覚醒度変化量は、新覚醒度と覚醒度との比等であってもよい。覚醒度変化量は、ユーザの反応がなかったときには記録されない。 "Change in alertness" is an amount that represents the change in alertness before and after the user's reaction. For example, the change in alertness can be obtained from the difference between the new alertness and the alertness. The change in alertness may also be the ratio between the new alertness and the alertness, etc. The change in alertness is not recorded when there is no reaction from the user.
音声合成パラメータDB53は、音声合成パラメータを記録したデータベースである。音声合成パラメータは、ユーザのなじみ対象の音声を合成するために用いられるデータである。例えば、音声合成パラメータは、事前にマイク6を介して収音された音声のデータから抽出される特徴量のデータであってよい。あるいは、他のシステムによって取得又は定義された音声合成パラメータを事前に記録しておいてもよい。ここで、音声合成パラメータは、音声ラベルと対応付けられている。
The voice synthesis parameter DB53 is a database that records voice synthesis parameters. The voice synthesis parameters are data used to synthesize a voice that is familiar to the user. For example, the voice synthesis parameters may be feature data extracted from voice data previously collected via the
図4は、呼びかけ文DB54の一例の構成を示す図である。呼びかけ文DB54は、ユーザの覚醒を促すための各種の呼びかけ文のテンプレートデータを記録したデータベースである。呼びかけ文は特に限定されない。ただし、呼びかけ文は、ユーザの名前を用いた呼びかけを含んでいることが望ましい。これは、後で説明するカクテルパーティ効果を高めるためである。
Figure 4 is a diagram showing an example of the configuration of the
図5は、能動的行動DB55の一例の構成を示す図である。能動的行動DB55は、ユーザに提示可能な能動的行動の情報をリスト形式で記録したデータベースである。例えば、能動的行動DB55は、IDと、行動内容と、所要時間と、制約事項とを対応付けて記録している。
Figure 5 is a diagram showing an example of the configuration of
「ID」は、能動的行動のそれぞれに付けられたIDである。ここで、能動的行動は、ユーザの覚醒を促すために、ユーザに能動的に行わせる行動のことである。 "ID" is an ID assigned to each active behavior. Here, an active behavior is an action that the user is made to actively perform in order to encourage the user to wake up.
「行動内容」は、能動的行動の具体的な内容である。行動内容は、例えばテキストデータとして記録されてよい。 "Behavior content" is the specific content of the active behavior. The behavior content may be recorded, for example, as text data.
「所要時間」は、対応する能動的行動を行うために必要な時間である。ここで、図5では、所要時間は秒単位で記録されるとしている。所要時間は、必ずしも秒単位で記録される必要はない。 "Time required" is the time required to perform the corresponding active behavior. Here, in Figure 5, the time required is recorded in seconds. The time required does not necessarily have to be recorded in seconds.
「制約事項」は、対応する能動的行動を行うために必要な条件である。例えば、図5に示す「スペース要」は、対応する能動的行動を行うのに、若干のスペースが必要であることを意味している。制約事項は、例えばテキストデータとして記録されていてもよいし、予め登録されている複数の制約事項の中から選択されてもよい。 A "constraint" is a condition necessary to perform the corresponding active action. For example, "Space Required" in Figure 5 means that some space is required to perform the corresponding active action. The constraint may be recorded as text data, for example, or may be selected from a number of constraints that are registered in advance.
ここで、なじみ度DB51、ユーザログDB52、音声合成パラメータDB53、呼びかけ文DB54、能動的行動DB55は、必ずしもストレージ5に記憶されている必要はない。例えば、なじみ度DB51、ユーザログDB52、音声合成パラメータDB53、呼びかけ文DB54、能動的行動DB55は、音声生成装置1とは別体のサーバに記憶されていてもよい。この場合、音声生成装置1は、通信モジュール11を用いてサーバにアクセスし、必要な情報を取得する。Here, the
図6は、音声生成装置1の機能ブロック図である。図6に示すように、音声生成装置1は、取得部21と、判定部22と、選択部23と、生成部24と、提示部25とを有している。取得部21と、判定部22と、選択部23と、生成部24と、提示部25の動作は、例えばストレージ5に記憶されているプログラムをプロセッサ2が実行することによって実現される。判定部22と、選択部23と、生成部24と、提示部25とは、プロセッサ2とは別のハードウェアによって実現されてもよい。
Figure 6 is a functional block diagram of the
取得部21は、ユーザの覚醒度を取得する。また、取得部21は、呼びかけ音声に対するユーザの反応を取得する。前述したように、覚醒度は、眼球運動、瞬目活動、皮膚電気活動、刺激への反応時間の何れか又はそれらの組み合わせで算出される。ここで、覚醒度を算出するための、眼球運動、瞬目活動、刺激への反応時間は、例えばカメラ8で取得されるユーザの画像から測定され得る。また、刺激への反応時間は、マイク6で取得される音声信号から測定されてもよい。また、皮膚電気活動は、例えばユーザの腕に装着されるセンサによって測定され得る。また、ユーザの反応は、呼びかけ音声の提示後に音のする方向をユーザが見たか否かを例えばカメラ8で取得される画像から測定することによって取得され得る。取得部21は、音声生成装置1の外部で算出された覚醒度又はユーザの反応を通信によって取得するように構成されていてもよい。The
判定部22は、取得部21で取得された覚醒度に基づき、ユーザが覚醒している状態であるか否かを判定する。そして、判定部22は、ユーザが覚醒している状態であると判定したときに、選択部23の受信部231に対して音声ラベルの選択依頼を送信する。ここで、判定部22は、覚醒度を予め定められた閾値と比較することで判定を実施する。閾値は、ユーザが覚醒している状態であるかどうかを判定するための覚醒度の閾値であり、例えばストレージ5に記憶される。また、判定部22は、取得部21で取得されたユーザの反応の情報に基づき、ユーザの反応の有無を判定する。The determination unit 22 determines whether or not the user is awake based on the alertness level acquired by the
選択部23は、ユーザが覚醒している状態でないと判定されたときに、ユーザの覚醒を促すための候補となる音声の音声ラベルを選択する。選択部23は、受信部231と、音声ラベル選択部232と、送信部233とを有している。The
受信部231は、判定部22から音声ラベルの選択依頼を受信する。
The receiving
音声ラベル選択部232は、なじみ度DB51を参照して音声ラベルを選択する。人は、自分になじみがある声や単語を耳にすると、急に聞こえるようになったと感じるという特性を有する。このような特性は、カクテルパーティ効果と呼ばれている。例えば、ユーザにとってなじみがある声がしたり、自分の名前を呼ばれたりしたときに、ハッとするという体験は多くの人がしたことがある。これもカクテルパーティ効果によるものである。実施形態ではカクテルパーティ効果を利用してユーザにとってなじみのある声で呼びかけることにより、ユーザの覚醒度の上昇を促す。音声ラベル選択部232は、よりユーザが知覚しやすい、即ちよりなじみのある音声をなじみ度に基づいて選択する。The voice
送信部233は、音声ラベル選択部232で選択された音声ラベルの情報を生成部24に送信する。
The
生成部24は、送信部233から受け取った音声ラベルに基づき、ユーザの覚醒を促すための呼びかけ音声を生成する。生成部24は、送信部233から受け取った音声ラベルと対応した音声合成パラメータを音声合成パラメータDB53から取得する。そして、生成部24は、呼びかけ文DB54に記録されている呼びかけ文のデータと音声合成パラメータとに基づき、呼びかけ音声を生成する。The
提示部25は、生成部24で生成された呼びかけ音声をユーザに提示する。例えば、提示部25は、生成部24で生成された呼びかけ音声を、スピーカ7を利用して再生する。The
次に、音声生成装置1の動作について説明する。図7は、音声生成装置1による音声提示処理を示すフローチャートである。図7の処理は、定期的に行われてよい。Next, the operation of the
ステップS1において、取得部21は、ユーザの覚醒度を取得する。取得部21は、取得した覚醒度を判定部22に出力する。また、取得部21は、取得した覚醒度を呼びかけ音声の提示後のユーザからの反応の取得のタイミングまで保持しておく。In step S1, the
ステップS2において、判定部22は、取得部21で取得された覚醒度が閾値以下であるか否かを判定する。ステップS2において、覚醒度が閾値を超えていると判定されたとき、すなわちユーザが覚醒の状態にあるときには、図7の処理は終了する。ステップS2において、覚醒度が閾値以下であると判定されたとき、すなわちユーザが眠気を有しているといった覚醒の状態にないときには、処理はステップS3に移行する。In step S2, the determination unit 22 determines whether the level of alertness acquired by the
ステップS3において、判定部22は、選択部23に対して音声ラベルの選択依頼を送信する。音声ラベルの選択依頼が受信部231で受信されると、音声ラベル選択部232は、ユーザログDB52を参照して、ユーザによる音声生成装置1の利用回数が0回であるか否かを判定する。利用回数は、例えばユーザログDB52に記録されているログ発生日時の数から算出され得る。ステップS3において、ユーザによる音声生成装置1の利用回数が0回であると判定されたときには、処理はステップS4に移行する。ステップS3において、ユーザによる音声生成装置1の利用回数が0回でないと判定されたときには、処理はステップS6に移行する。In step S3, the determination unit 22 transmits a voice label selection request to the
ステップS4において、音声ラベル選択部232は、候補となるすべての音声ラベルに対応したなじみ度Ciをなじみ度DB51から取得する。ここで、Ciは、音声ラベルLi(i=1,2,…)のなじみ度である。
In step S4, the voice
ステップS5において、音声ラベル選択部232は、取得したなじみ度の中の、最大のなじみ度に対応した音声ラベルを選択する。つまり、音声ラベル選択部232は、以下の条件式(1)に従って音声ラベルを選択する。その後、処理はステップS8に移行する。
maxCi 式(1)
In step S5, the voice
maxC i Equation (1)
ステップS6において、音声ラベル選択部232は、候補となるすべての音声ラベルに対応したなじみ度Ci、反応確率Ri、覚醒度変化平均値Aiをなじみ度DB51から取得する。ここで、Ciは、音声ラベルLiのなじみ度である。Riは、音声ラベルLiの反応確率である。Aiは、音声ラベルLiの覚醒度変化平均値である。利用回数が0回でないときには、反応確率及び覚醒度変化平均値が取得される。したがって、利用回数が0回でないときには、これらの反応確率及び覚醒度変化平均値も利用して音声ラベルの選択が行われる。
In step S6, the voice
ステップS7において、音声ラベル選択部232は、取得したなじみ度、反応確率、覚醒度変化平均値の中で、これらの重みづけ加算値が最大となるなじみ度、反応確率、覚醒度変化平均値の組み合わせに対応した音声ラベルを選択する。つまり、音声ラベル選択部232は、以下の条件式(2)に従って音声ラベルを選択する。その後、処理はステップS8に移行する。
max(wcCi+wrRi+waAi) 式(2)
ここで、式(2)のwc、wr、waは、それぞれ、Ci、Ri、Aiの重みである。これらのwc、wr、waは、予め規定されていてよい。また、wc、wr、waは、適宜に変更されてもよい。例えば、利用回数が少ないうちは、wc、wr、waは等しい値に設定され、その後、なじみ度、反応確率、覚醒度変化平均値の何れかを重視したほうがよければ、それに応じて重みが変更されてよい。
In step S7, the voice
max( wcCi + wrRi + waAi ) Equation (2)
Here, wc , wr , and wa in formula (2) are weights of C i , R i , and A i , respectively. These wc , wr , and wa may be predefined. Also, wc , wr , and wa may be changed as appropriate. For example, while the number of times of use is small, wc , wr , and wa are set to the same value, and thereafter, if it is better to emphasize any one of familiarity, response probability, and average value of change in arousal level, the weight may be changed accordingly.
ステップS8において、送信部233は、音声ラベル選択部232で選択された音声ラベルを示す情報を、生成部24に送信する。生成部24は、音声合成パラメータDB53から、受信した音声ラベルに対応した音声合成パラメータを取得する。そして、生成部24は、呼びかけ文DB54からランダムに選択した呼びかけ文のデータと音声合成パラメータとに基づき、呼びかけ音声を生成する。呼びかけ音声の生成は、音声合成パラメータを用いた音声合成処理によって行われ得る。その後、処理はステップS9に移行する。In step S8, the
ステップS9において、提示部25は、生成部24において生成された呼びかけ音声を、スピーカ7を利用してユーザに提示する。
In step S9, the
ステップS10において、取得部21は、ユーザの反応を取得する。そして、取得部21は、ユーザの反応の情報を判定部22に出力する。In step S10, the
ステップS11において、判定部22は、ユーザの反応があったか否かを判定する。ステップS11において、ユーザの反応がなかったと判定されたときには、処理はステップS12に移行する。ステップS11において、ユーザの反応があったと判定されたときには、処理はステップS13に移行する。In step S11, the judgment unit 22 judges whether or not there has been a reaction from the user. If it is determined in step S11 that there has been no reaction from the user, the process proceeds to step S12. If it is determined in step S11 that there has been a reaction from the user, the process proceeds to step S13.
ステップS12において、判定部22は、選択部23に対してユーザの反応がなかった旨の情報を送信する。ユーザの反応がなかった旨の情報が受信部231で受信されると、音声ラベル選択部232は、次の候補の音声ラベルを選択する。音声ラベル選択部232は、式(1)に基づいて音声ラベルを選択したときには、次に大きな値のなじみ度Ciに対応した音声ラベルを選択する。また、音声ラベル選択部232は、式(2)に基づいて音声ラベルを選択したときには、次に大きな重みづけ加算値に対応した音声ラベルを選択する。また、判定部22は、取得部21に対してユーザの反応がなかった旨の情報を送信する。これを受けて、取得部21は、反応なしの情報をログ発生日時、音声ラベル、なじみ対象、なじみ度と対応付けてユーザログDB52に登録する。その後、処理はステップS8に戻る。この場合、再度の呼びかけ音声の提示が行われる。なお、ステップS12において、すべての候補の音声ラベルが選択されたときには、図7の処理が終了されてもよい。
In step S12, the determination unit 22 transmits information to the
ステップS13において、判定部22は、取得部21に対して新覚醒度の取得を要求する。これを受けて、取得部21は、新覚醒度を取得する。新覚醒度の取得は、覚醒度の取得と同様に行われてよい。In step S13, the determination unit 22 requests the
ステップS14において、取得部21は、覚醒度変化量diff(新覚醒度,覚醒度)を算出する。前述したように、覚醒度変化量は、例えば新覚醒度と覚醒度の差から算出され得る。In step S14, the
ステップS15において、取得部21は、なじみ度DB51から覚醒度変化平均値を取得する。そして、取得部21は、新たに算出した覚醒度変化量と先に取得した覚醒度変化平均値とを用いて覚醒度変化平均値を更新する。また、取得部21は、反応ありの情報、覚醒度、新覚醒度、覚醒度変化量をログ発生日時、音声ラベル、なじみ対象、なじみ度と対応付けてユーザログDB52に登録する。In step S15, the
ステップS16において、判定部22は、取得部21から新覚醒度を取得する。そして、判定部22は、新覚醒度が閾値以下であるか否かを判定する。ステップS16における閾値は、ステップS2における閾値と同じであってもよいし、異なっていてもよい。ステップS16において、新覚醒度が閾値以下でないと判定されたときには、図7の処理は終了する。ステップS16において、新覚醒度が閾値以下であると判定されたとき、処理はステップS17に移行する。なお、ステップS16の判定とステップS17の処理はステップS15の処理と並行して行われてもよい。In step S16, the judgment unit 22 acquires the new awakening level from the
ステップS17において、判定部22は、生成部24に対して能動的行動提示処理を要求する。これを受けて、生成部24は、能動的行動提示処理を実施する。能動的行動提示処理の後、図7の処理は終了する。In step S17, the determination unit 22 requests the
図8は、能動的行動提示処理のフローチャートである。ステップS21において、生成部24は、能動的行動DB55を参照して、ユーザが利用可能な能動的行動のリストを取得する。なお、現在のユーザの状態が制約事項と合致していない能動的行動についてのリストは取得する必要はない。例えば、能動的行動に必要なスペースを確保できないときには、制約事項としてスペースを要する能動的行動の情報は取得されなくてよい。
Figure 8 is a flowchart of the active behavior presentation process. In step S21, the
ステップS22において、生成部24は、選択関数を算出する。選択関数は、能動的行動を選択するための関数である。以下、選択関数の算出の仕方の例を説明する。In step S22, the
生成部24は、取得した能動的行動のリストに含まれる所要時間とユーザログDB52に記録されている覚醒度とから、所要時間max、所要時間min、覚醒度max、覚醒度minを取得する。ここで、所要時間max、所要時間minは、それぞれ、取得した能動的行動の所要時間のうちの最大値、最小値である。また、覚醒度max、覚醒度minは、それぞれ、取得した覚醒度のうちの最大値、最小値である。ここで、取得される覚醒度は、対応するユーザの覚醒度だけであってもよい。または、すべてのユーザの覚醒度が人一般の覚醒度として取得されてもよい。
The
所要時間max、所要時間min、覚醒度max、覚醒度minの取得後、生成部24は、(覚醒度max,所要時間min)と(覚醒度min,所要時間max)の2点を通る一次関数y=f(x)を選択関数として算出する。図9は、覚醒度をx、所要時間をyとした選択関数を表すグラフである。
After acquiring the required time max , the required time min , the awakening level max , and the awakening level min , the
ここで、図8の説明に戻る。ステップS23において、生成部24は、選択関数に基づき、新覚醒度に合致した能動的行動を抽出する。例えば、生成部24は、現在の新覚醒度を選択関数に対する入力として現在のユーザの覚醒に要する所要時間を求める。そして、生成部24は、取得した能動的行動のリストから、現在のユーザの覚醒に要する所要時間に最も近い能動的行動を抽出する。Now, we return to the explanation of FIG. 8. In step S23, the
ステップS25において、生成部24は、能動的行動を提案する呼びかけ音声を生成する。呼びかけ音声の生成は、音声合成パラメータを用いた音声合成処理によって行われ得る。この時に用いられる音声合成パラメータは、直前のステップS8における呼びかけ音声の合成に用いられた音声合成パラメータであってよい。直前の音声合成に用いられた音声合成パラメータは、ユーザの反応があった呼びかけ音声の生成に用いられた音声合成パラメータである。したがって、直前のステップS8における呼びかけ音声の合成に用いられた音声合成パラメータが用いられることにより、能動的行動を提案する呼びかけ音声に対するユーザの反応も期待される。In step S25, the
ステップS26において、提示部25は、生成部24において生成された呼びかけ音声を、スピーカ7を利用してユーザに提示する。その後、図8の処理は図7の処理に戻る。なお、能動的行動を提案する呼びかけ音声をユーザに対して提示する際に、例えばその能動的行動を表す画像をディスプレイ10に表示させてもよい。In step S26, the
以上説明したように実施形態によれば、ユーザが覚醒していない状態であると判定されたときには、ユーザにとってなじみのある音声を用いてユーザに対する呼びかけが行われる。このため、ユーザが眠気を有している状態等であっても、カクテルパーティ効果によってユーザが呼びかけ音声を聞くことが期待される。したがって、短時間での覚醒度の向上が見込まれる。As described above, according to the embodiment, when it is determined that the user is not awake, the user is called out to using a voice familiar to the user. Therefore, even if the user is in a drowsy state, it is expected that the user will hear the voice call due to the cocktail party effect. Therefore, it is expected that the user's level of wakefulness will improve in a short period of time.
また、実施形態によれば、ユーザによる2回目以降の音声生成装置の利用時には、なじみ度に加えて、ユーザの反応と、覚醒度変化量とを考慮してユーザによってなじみのある音声の選択が行われる。したがって、2回目以降の音声生成装置の利用時には1回目よりも短時間での覚醒度の向上が見込まれる。 According to the embodiment, when the user uses the voice generating device for the second or subsequent time, a voice that is familiar to the user is selected in consideration of the user's reaction and the amount of change in arousal level in addition to the familiarity. Therefore, when the voice generating device is used for the second or subsequent time, an improvement in arousal level is expected in a shorter time than the first time.
さらに、実施形態によれば、呼びかけの後でもユーザが覚醒していないと判定されたときには、所要時間が多少必要でも覚醒度が向上できると見込まれる能動的行動を提案するための呼びかけがユーザに対してなされる。これにより、ユーザは行動の機会を得ることができ、結果として短時間での覚醒度の向上が見込まれる。さらに、能動的行動を提案するための呼びかけ音声もユーザにとってなじみのある音声で行われることにより、カクテルパーティ効果によってユーザに呼びかけ音声を聞かせることができる効果も得られる。 Furthermore, according to the embodiment, when it is determined that the user is not awake even after the call, a call is made to the user to suggest active behavior that is expected to improve the user's alertness even if it takes some time. This gives the user an opportunity to take action, and as a result, the user's alertness is expected to improve in a short period of time. Furthermore, the voice of the call to suggest active behavior is made in a voice that is familiar to the user, which has the effect of making the user hear the voice of the call due to the cocktail party effect.
[変形例]
実施形態の変形例を説明する。実施形態では、呼びかけ音声に用いられる呼びかけ文は、呼びかけ文DB54に記録されているテンプレートの中からランダムに選択される。このテンプレートは、適宜に変更され得る。例えば、ユーザの日常会話等を収集しておくことにより、日常会話等で頻出する、ユーザの注意をひきやすい単語が含められるようなテンプレートの変更がされてもよい。
[Modification]
A modified example of the embodiment will be described. In the embodiment, the call sentence used in the call voice is randomly selected from templates recorded in the
また、実施形態では、音声ラベル選択部232は、取得したなじみ度の中の、最大のなじみ度に対応した音声ラベル又は取得したなじみ度、反応確率、覚醒度変化平均値の中で、これらの重みづけ加算値が最大となるなじみ度、反応確率、覚醒度変化平均値の組み合わせに対応した音声ラベルを選択する。これに限らず、音声ラベル選択部232は、取得したなじみ度の中の、大きさの上位の複数のなじみ度に対応した複数の音声ラベル又は取得したなじみ度、反応確率、覚醒度変化平均値の中で、これらの重みづけ加算値の大きさの上位の複数のなじみ度、反応確率、覚醒度変化平均値の組み合わせに対応した複数の音声ラベルを呼びかけ音声の候補の音声ラベルとして抽出してもよい。そして、音声ラベル選択部232は、抽出した候補の音声ラベルのうちの1つをランダムサンプリングによって選択してもよい。これにより、同じ音声ラベルの呼びかけ音声が頻繁に提示されることによる、ユーザの慣れや飽きが抑制される。これにより、長期に音声生成装置1が利用される場合であっても、呼びかけ音声に対するユーザの反応が期待され易くなり、結果としてユーザの覚醒度の上昇が見込まれる。In addition, in the embodiment, the voice
また、実施形態において呼びかけ音声が生成されるときに、覚醒度に応じた音量等の変更が併せて行われてもよい。 In addition, in an embodiment, when a voice prompt is generated, changes to the volume, etc. may also be made according to the level of alertness.
また、実施形態では、能動的行動は、覚醒度と所要時間との関係によって抽出されるとしている。これに対し、所要時間に代えて、又は所要時間とともに能動的行動に対するユーザの興味の程度、体への刺激の強さ等が能動的行動の抽出に用いられてもよい。In addition, in the embodiment, active behavior is extracted based on the relationship between the level of arousal and the time required. However, instead of or in addition to the time required, the level of interest of the user in the active behavior, the strength of the physical stimulation, etc. may be used to extract active behavior.
また、上述した実施形態による各処理は、コンピュータであるプロセッサに実行させることができるプログラムとして記憶させておくこともできる。この他、磁気ディスク、光ディスク、半導体メモリ等の外部記憶装置の記憶媒体に格納して配布することができる。そして、プロセッサは、この外部記憶装置の記憶媒体に記憶されたプログラムを読み込み、この読み込んだプログラムによって動作が制御されることにより、上述した処理を実行することができる。 In addition, each process according to the above-described embodiment can be stored as a program that can be executed by a processor, which is a computer. Alternatively, the program can be stored in a storage medium of an external storage device, such as a magnetic disk, optical disk, or semiconductor memory, and distributed. The processor can then read the program stored in the storage medium of the external storage device, and have its operation controlled by the read program, thereby executing the above-described process.
なお、本発明は、上記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は適宜組み合わせて実施してもよく、その場合組み合わせた効果が得られる。更に、上記実施形態には種々の発明が含まれており、開示される複数の構成要件から選択された組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、課題が解決でき、効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。 Note that the present invention is not limited to the above-described embodiments, and can be modified in various ways in the implementation stage without departing from the gist of the invention. The embodiments may also be implemented in appropriate combination, in which case the combined effects can be obtained. Furthermore, the above-described embodiments include various inventions, and various inventions can be extracted by combinations selected from the multiple constituent elements disclosed. For example, if the problem can be solved and an effect can be obtained even if some constituent elements are deleted from all the constituent elements shown in the embodiments, the configuration from which these constituent elements are deleted can be extracted as an invention.
1…音声生成装置
2…プロセッサ
3…ROM
4…RAM
5…ストレージ
6…マイクロホン(マイク)
7…スピーカ
8…カメラ
9…入力装置
10…ディスプレイ
11…通信モジュール
21…取得部
22…判定部
23…選択部
24…生成部
25…提示部
51…なじみ度データベース(DB)
52…ユーザログデータベース(DB)
53…音声合成パラメータデータベース(DB)
54…呼びかけ文データベース(DB)
55…能動的行動データベース(DB)
231…受信部
232…音声ラベル選択部
233…送信部
1...
4...RAM
5...
7: Speaker 8: Camera 9: Input device 10: Display 11: Communication module 21: Acquisition unit 22: Determination unit 23: Selection unit 24: Generation unit 25: Presentation unit 51: Familiarity database (DB)
52...User log database (DB)
53...Speech synthesis parameter database (DB)
54...Call sentence database (DB)
55... Active behavior database (DB)
231: Receiving section 232: Voice label selecting section 233: Transmitting section
Claims (7)
前記第1の覚醒度に基づき、前記ユーザが覚醒している状態であるか否かを判定する判定部と、
前記ユーザが覚醒している状態でないとき、前記ユーザの覚醒を促す音声を複数の音声候補の中から選択する選択部と、
選択された音声に基づき、前記ユーザに対して提示するための第1の呼びかけ音声を生成する生成部と、
を具備し、
前記複数の音声候補は、それぞれ、前記ユーザが対応する音声候補になじんでいる度合を表すなじみ度に関連づけられており、
前記選択部は、前記なじみ度に応じて前記ユーザの覚醒を促す音声を選択する
音声生成装置。 An acquisition unit that acquires a first awakening level that represents a degree of awakening of a user from sleep to excitement;
A determination unit that determines whether the user is in an awake state based on the first wakefulness level;
A selection unit that selects a voice that prompts the user to wake up from among a plurality of voice candidates when the user is not in an awake state;
a generator that generates a first call voice to be presented to the user based on the selected voice;
Equipped with
Each of the plurality of voice candidates is associated with a familiarity level representing a degree of familiarity with the corresponding voice candidate by the user; and
The selection unit selects a sound that prompts the user to wake up in accordance with the familiarity degree.
A voice generating device.
前記選択部は、前記反応と前記変化量とにさらに応じて前記ユーザの覚醒を促す音声を選択する請求項1に記載の音声生成装置。 Each of the plurality of voice candidates is further associated with a reaction of the user to the presented first call voice and a change amount representing a change in an alertness of the user in response to the presented first call voice,
The voice generating device according to claim 1 , wherein the selection unit selects a voice that encourages the user to wake up, further depending on the reaction and the amount of change.
前記判定部は、前記第2の覚醒度に基づき、前記ユーザが覚醒している状態であるか否かを再度判定し、
前記生成部は、前記ユーザが覚醒している状態でないとき、前記ユーザの覚醒を促すための能動的行動を前記ユーザに促すための第2の呼びかけ音声を生成する、
請求項1又は2に記載の音声生成装置。 The acquisition unit acquires a second awakening level after the user responds to the presented first call voice,
The determination unit determines again whether or not the user is in an awake state based on the second wakefulness level,
The generation unit generates, when the user is not in an awake state, a second call voice for encouraging the user to take an active action to encourage the user to wake up.
3. A voice generating device according to claim 1 or 2 .
判定部により、前記第1の覚醒度に基づき、前記ユーザが覚醒している状態であるか否かを判定することと、
選択部により、前記ユーザが覚醒している状態でないとき、前記ユーザの覚醒を促す音声を複数の音声候補の中から選択することと、
生成部により、選択された音声に基づき、前記ユーザに対して提示するための第1の呼びかけ音声を生成することと、
を具備し、
前記複数の音声候補は、それぞれ、前記ユーザが対応する音声候補になじんでいる度合を表すなじみ度に関連づけられており、
前記選択部により、前記なじみ度に応じて前記ユーザの覚醒を促す音声を選択する
音声生成方法。 acquiring, by an acquisition unit, a first awakening level representing a degree of awakening of the user ranging from sleep to excitement;
determining, by a determination unit, whether or not the user is in an awake state based on the first wakefulness level;
selecting, by a selection unit, a voice that prompts the user to wake up from among a plurality of voice candidates when the user is not in an awakened state;
generating, by a generating unit, a first call voice to be presented to the user based on the selected voice;
Equipped with
Each of the plurality of voice candidates is associated with a familiarity level representing a degree of familiarity with the corresponding voice candidate by the user; and
The selection unit selects a sound that prompts the user to wake up according to the familiarity.
A method for generating audio.
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/JP2020/024818 WO2021260844A1 (en) | 2020-06-24 | 2020-06-24 | Voice generation device, voice generation method, and voice generation program |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2021260844A1 JPWO2021260844A1 (en) | 2021-12-30 |
| JP7485038B2 true JP7485038B2 (en) | 2024-05-16 |
Family
ID=79282107
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022531317A Active JP7485038B2 (en) | 2020-06-24 | 2020-06-24 | Speech generation device, speech generation method, and speech generation program |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP7485038B2 (en) |
| WO (1) | WO2021260844A1 (en) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008170210A (en) | 2007-01-10 | 2008-07-24 | Pioneer Electronic Corp | Navigation device, its method, its program, and recording medium |
| JP2016192127A (en) | 2015-03-31 | 2016-11-10 | パイオニア株式会社 | Music information update device |
| JP2019124977A (en) | 2018-01-11 | 2019-07-25 | トヨタ自動車株式会社 | On-board voice output device, voice output control method, and voice output control program |
-
2020
- 2020-06-24 WO PCT/JP2020/024818 patent/WO2021260844A1/en not_active Ceased
- 2020-06-24 JP JP2022531317A patent/JP7485038B2/en active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008170210A (en) | 2007-01-10 | 2008-07-24 | Pioneer Electronic Corp | Navigation device, its method, its program, and recording medium |
| JP2016192127A (en) | 2015-03-31 | 2016-11-10 | パイオニア株式会社 | Music information update device |
| JP2019124977A (en) | 2018-01-11 | 2019-07-25 | トヨタ自動車株式会社 | On-board voice output device, voice output control method, and voice output control program |
Non-Patent Citations (1)
| Title |
|---|
| 大見拓寛,"安全な自動車運転を支援するビジョン技術と交通システム 運転者の居眠り状態評価の画像センサ",画像ラボ,2015年02月10日,Vol.26, No,2,pp.64-69 |
Also Published As
| Publication number | Publication date |
|---|---|
| JPWO2021260844A1 (en) | 2021-12-30 |
| WO2021260844A1 (en) | 2021-12-30 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US11120477B2 (en) | System and method for personalized preference optimization | |
| CN102986201B (en) | User interfaces | |
| US20180343219A1 (en) | Conversation agent | |
| US20210106290A1 (en) | Systems and methods for the determination of arousal states, calibrated communication signals and monitoring arousal states | |
| WO2017033697A1 (en) | Lifestyle management assistance device and lifestyle management assistance method | |
| CN115298743A (en) | User behavior recommendation for improved sleep | |
| JP6508938B2 (en) | INFORMATION PROCESSING DEVICE, ACTION SUPPORT METHOD, AND PROGRAM | |
| JP7344423B1 (en) | Healthcare system and methods | |
| KR102141804B1 (en) | Method for providing insomnia mediation service and apparatus therefor | |
| WO2022190686A1 (en) | Content recommendation system, content recommendation method, content library, method for generating content library, and target input user interface | |
| US12578795B2 (en) | Systems and methods for obtaining and using electroencephalography signals to perform an action | |
| US9811992B1 (en) | Caregiver monitoring system | |
| US20190150820A1 (en) | System and method for predicting lucidity level | |
| JP7485038B2 (en) | Speech generation device, speech generation method, and speech generation program | |
| CN107533583A (en) | Moral damage monitoring system | |
| CN113168596A (en) | Behavior recommendation method and device, storage medium and electronic equipment | |
| JP6990672B2 (en) | Support system for care recipients and support methods for care recipients | |
| WO2022009504A1 (en) | Information search device | |
| JP7416244B2 (en) | Voice generation device, voice generation method, and voice generation program | |
| JP7300929B2 (en) | Cognitive function promotion support system, learning system, estimation system, and cognitive function promotion support method | |
| JP7416245B2 (en) | Learning devices, learning methods and learning programs | |
| JP7423555B2 (en) | Information processing equipment and programs | |
| JP7263848B2 (en) | CONDITION IMPROVEMENT DEVICE, CONDITION IMPROVEMENT SYSTEM, AND CONDITION IMPROVEMENT METHOD | |
| WO2018172410A1 (en) | Method and apparatus for sending a message to a subject | |
| JP7534745B1 (en) | Seizure prediction program, storage medium, seizure prediction device, and seizure prediction method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221031 |
|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20230104 |
|
| RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20230208 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231205 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240119 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240402 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240415 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7485038 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |