Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7485038B2 - Speech generation device, speech generation method, and speech generation program - Google Patents
[go: Go Back, main page]

JP7485038B2 - Speech generation device, speech generation method, and speech generation program - Google Patents

Speech generation device, speech generation method, and speech generation program Download PDF

Info

Publication number
JP7485038B2
JP7485038B2 JP2022531317A JP2022531317A JP7485038B2 JP 7485038 B2 JP7485038 B2 JP 7485038B2 JP 2022531317 A JP2022531317 A JP 2022531317A JP 2022531317 A JP2022531317 A JP 2022531317A JP 7485038 B2 JP7485038 B2 JP 7485038B2
Authority
JP
Japan
Prior art keywords
voice
user
unit
level
familiarity
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022531317A
Other languages
Japanese (ja)
Other versions
JPWO2021260844A1 (en
Inventor
妙 佐藤
昭宏 千葉
真奈 笹川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
NTT Inc USA
Original Assignee
Nippon Telegraph and Telephone Corp
NTT Inc USA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp, NTT Inc USA filed Critical Nippon Telegraph and Telephone Corp
Publication of JPWO2021260844A1 publication Critical patent/JPWO2021260844A1/ja
Application granted granted Critical
Publication of JP7485038B2 publication Critical patent/JP7485038B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61MDEVICES FOR INTRODUCING MEDIA INTO, OR ONTO, THE BODY; DEVICES FOR TRANSDUCING BODY MEDIA OR FOR TAKING MEDIA FROM THE BODY; DEVICES FOR PRODUCING OR ENDING SLEEP OR STUPOR
    • A61M21/00Other devices or methods to cause a change in the state of consciousness; Devices for producing or ending sleep by mechanical, optical, or acoustical means, e.g. for hypnosis
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00Speech synthesis; Text to speech systems
    • G10L13/08Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Biomedical Technology (AREA)
  • Anesthesiology (AREA)
  • Psychology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Hematology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
  • Traffic Control Systems (AREA)

Description

本実施形態は、音声生成装置、音声生成方法及び音声生成プログラムに関する。 This embodiment relates to a voice generation device, a voice generation method, and a voice generation program.

人が眠気を全く感じずに日中を過ごすことは難しい。これは、人の脳機能がウルトラディアンリズムという短い周期での覚醒度の変動リズムを有しているためである。非特許文献1及び2では、睡眠は覚醒とは対極にある状態であると説明されている。そして、睡眠から興奮に至る覚醒の程度を表す指標が覚醒水準である。また、非特許文献2では、「眠気」は、中程度の覚醒水準よりも覚醒水準が低くなっている状態であると定義されている。在宅勤務といった遠隔環境での業務、遠隔授業等で、眠気を感じたとしても、なるべく短時間で覚醒水準を上昇させることが求められている。It is difficult for a person to spend the day without feeling sleepy at all. This is because the human brain functions in a rhythm of fluctuations in alertness with short periods known as ultradian rhythms. Non-Patent Documents 1 and 2 explain that sleep is a state that is the polar opposite of alertness. The alertness level is an index that indicates the degree of alertness that goes from sleep to excitement. Non-Patent Document 2 defines "drowsiness" as a state in which the alertness level is lower than a moderate alertness level. When working in a remote environment such as working from home or attending remote classes, even if one feels sleepy, it is necessary to increase the alertness level as quickly as possible.

吉尾 雅春,“覚醒水準”, 理学療法ジャーナル, 37巻12号Masaharu Yoshio, “Level of Arousal”, Journal of Physical Therapy, Vol. 37, No. 12 北島 洋樹ら,“自動車運転時の眠気の予測手法についての研究:第1報, 眠気表情の評定法と眠気変動の予測に有効な指標について”,日本機械学会論文集 C編,1997年63巻613号p. 3059-3066Hiroki Kitajima et al., "Study on prediction method of drowsiness while driving: 1st report, Evaluation method of drowsiness facial expression and effective index for predicting drowsiness fluctuation", Transactions of the Japan Society of Mechanical Engineers, Series C, Vol. 63, No. 613, 1997, pp. 3059-3066 石田龍也ら,“温度センサを用いた話者特定によるカクテルパーティ効果支援システムの提案とフィジビリティ検証実験”, 第33回ファジィシステムシンポジウム講演論文集,p.373-376Tatsuya Ishida et al., “Proposal of a Cocktail Party Effect Support System by Speaker Identification Using Temperature Sensors and Its Feasibility Verification Experiments”, Proceedings of the 33rd Fuzzy Systems Symposium, p.373-376 久米拓弥ら,“車載装置を利用した漫然状態の検出および解消手法の開発”, 自動車技術会論文集, 45巻3号p. 567-572Takuya Kume et al., "Development of a method to detect and eliminate distracted driving using in-vehicle devices," Transactions of the Society of Automotive Engineers of Japan, Vol. 45, No. 3, pp. 567-572

実施形態は、短時間でユーザの覚醒を促すための音声生成装置、音声生成方法及び音声生成プログラムを提供する。 The embodiments provide a voice generation device, a voice generation method, and a voice generation program for waking up a user in a short period of time.

実施形態に係る音声生成装置は、ユーザの睡眠から興奮に至るまでの覚醒の程度を表す第1の覚醒度を取得する取得部と、第1の覚醒度に基づき、ユーザが覚醒している状態であるか否かを判定する判定部と、ユーザが覚醒している状態でないとき、ユーザの覚醒を促す音声を複数の音声候補の中から選択する選択部と、選択された音声に基づき、ユーザに対して提示するための呼びかけ音声を生成する生成部とを具備し、前記複数の音声候補は、それぞれ、前記ユーザが対応する音声候補になじんでいる度合を表すなじみ度に関連づけられており、前記選択部は、前記なじみ度に応じて前記ユーザの覚醒を促す音声を選択する。 The voice generation device of the embodiment includes an acquisition unit that acquires a first level of alertness that represents the user's degree of alertness from sleep to excitement, a judgment unit that determines whether the user is in an alert state based on the first level of alertness, a selection unit that selects a voice that encourages the user to wake up from a plurality of voice candidates when the user is not in an alert state, and a generation unit that generates a voice call to present to the user based on the selected voice , wherein each of the plurality of voice candidates is associated with a familiarity level that represents the degree to which the user is familiar with the corresponding voice candidate, and the selection unit selects the voice that encourages the user to wake up in accordance with the familiarity level .

実施形態によれば、短時間でユーザの覚醒を促すための音声生成装置、音声生成方法及び音声生成プログラムが提供される。According to an embodiment, a voice generation device, a voice generation method, and a voice generation program are provided to wake up a user in a short period of time.

図1は、実施形態に係る音声生成装置の一例のハードウェア構成を示す図である。FIG. 1 is a diagram illustrating an example of a hardware configuration of a sound generating device according to an embodiment. 図2は、なじみ度DBの一例の構成を示す図である。FIG. 2 is a diagram illustrating an example of the configuration of the familiarity DB. 図3は、ユーザログDBの一例の構成を示す図である。FIG. 3 is a diagram illustrating an example of the configuration of the user log DB. 図4は、呼びかけ文DBの一例の構成を示す図である。FIG. 4 is a diagram showing an example of the configuration of the call-out DB. 図5は、能動的行動DBの一例の構成を示す図である。FIG. 5 is a diagram illustrating an example of the configuration of the active behavior DB. 図6は、音声生成装置の機能ブロック図である。FIG. 6 is a functional block diagram of the voice generating device. 図7は、音声生成装置による音声提示処理を示すフローチャートである。FIG. 7 is a flowchart showing a voice presentation process performed by the voice generating device. 図8は、能動的行動提示処理のフローチャートである。FIG. 8 is a flowchart of the active behavior presentation process. 図9は、覚醒度をx、所要時間をyとした選択関数を表すグラフである。FIG. 9 is a graph showing a selection function in which the awakening level is x and the required time is y.

以下、図面を参照して実施形態を説明する。図1は、実施形態に係る音声生成装置の一例のハードウェア構成を示す図である。実施形態に係る音声生成装置1は、ユーザが眠気を有している状態等の覚醒の状態にないときに、ユーザの覚醒を促す呼びかけ音声を発する。Hereinafter, an embodiment will be described with reference to the drawings. FIG. 1 is a diagram showing a hardware configuration of an example of a voice generation device according to an embodiment. The voice generation device 1 according to the embodiment emits a voice prompt to wake up a user when the user is not in an alert state, such as when the user is feeling drowsy.

実施形態では、「覚醒度」に基づいてユーザが覚醒の状態にあるか否かが判定される。実施形態における覚醒度は、覚醒水準に対応した覚醒の程度を示す指標である。覚醒水準は、大脳の活動レベルに対応し、睡眠から興奮に至るまでの覚醒の程度を表している。覚醒水準は、眼球運動、瞬目活動、皮膚電気活動、刺激への反応時間等から計測される。実施形態における覚醒度は、これらの覚醒水準を計測するための、眼球運動、瞬目活動、皮膚電気活動、刺激への反応時間の何れか又はそれらの組み合わせで算出される。覚醒度は、例えば睡眠状態から興奮状態に向かうに従って大きくなる値である。覚醒度は、連続的な数値でもよいし、Level 1, Level 2,…といった離散値であってもよい。また、眼球運動、瞬目活動、皮膚電気活動、刺激への反応時間の各値の組み合わせによって覚醒度が算出される場合において、それらの組み合わせ方は、特に限定されない。例えばこれらの値を単純に合算する、重みづけ加算する等が組み合わせ方として用いられ得る。In the embodiment, whether or not the user is in an awakened state is determined based on the "awakening level". The awakening level in the embodiment is an index indicating the degree of awakening corresponding to the awakening level. The awakening level corresponds to the activity level of the cerebrum and represents the degree of awakening from sleep to excitement. The awakening level is measured from eye movement, blinking activity, electrodermal activity, reaction time to a stimulus, and the like. The awakening level in the embodiment is calculated from any one or a combination of eye movement, blinking activity, electrodermal activity, and reaction time to a stimulus for measuring these awakening levels. The awakening level is, for example, a value that increases as the state moves from a sleep state to an excited state. The awakening level may be a continuous numerical value or may be a discrete value such as Level 1, Level 2, .... In addition, when the awakening level is calculated by combining the values of eye movement, blinking activity, electrodermal activity, and reaction time to a stimulus, the method of combining them is not particularly limited. For example, the combination method may be a simple summation of these values, a weighted addition, or the like.

音声生成装置1は、プロセッサ2と、ROM3と、RAM4と、ストレージ5と、マイクロホン(マイク)6と、スピーカ7と、カメラ8と、入力装置9と、ディスプレイ10と、通信モジュール11とを有する。音声生成装置1は、例えばパーソナルコンピュータ(PC)、スマートフォン、タブレット端末といった各種の端末である。これに限らず、音声生成装置1は、ユーザによって利用される各種の装置に搭載され得る。なお、音声生成装置1は、図1で示したすべての構成を有している必要はない。例えば、マイク6、スピーカ7、カメラ8、ディスプレイ10は、音声生成装置1と別体の装置であってもよい。The voice generating device 1 has a processor 2, a ROM 3, a RAM 4, a storage 5, a microphone (mic) 6, a speaker 7, a camera 8, an input device 9, a display 10, and a communication module 11. The voice generating device 1 is, for example, a personal computer (PC), a smartphone, a tablet terminal, or any other terminal. The voice generating device 1 may be mounted on any device used by a user. The voice generating device 1 does not need to have all of the configurations shown in FIG. 1. For example, the microphone 6, the speaker 7, the camera 8, and the display 10 may be separate devices from the voice generating device 1.

プロセッサ2は、CPU等の音声生成装置1の全体的な動作を制御する制御回路である。プロセッサ2は、CPUである必要はなく、ASIC、FPGA、GPU等であってもよい。プロセッサ2は、単一のCPU等で構成されている必要はなく、複数のCPU等で構成されていてもよい。Processor 2 is a control circuit that controls the overall operation of the voice generating device 1, such as a CPU. Processor 2 does not have to be a CPU, but may be an ASIC, FPGA, GPU, etc. Processor 2 does not have to be composed of a single CPU, but may be composed of multiple CPUs, etc.

ROM3は、フラッシュメモリ等の不揮発性のメモリである。ROM3には、例えば音声生成装置1の起動プログラムが記憶されている。RAM4は、SDRAM等の揮発性のメモリである。RAM4は、音声生成装置1における各種処理のための作業用のメモリとして使用され得る。 ROM 3 is a non-volatile memory such as a flash memory. For example, a startup program for the voice generating device 1 is stored in ROM 3. RAM 4 is a volatile memory such as an SDRAM. RAM 4 can be used as a working memory for various processes in the voice generating device 1.

ストレージ5は、フラッシュメモリ、ハードディスクドライブ(HDD)、ソリッドステートドライブ(SSD)といったストレージである。ストレージ5には、音声生成装置1で利用される各種のプログラムが記憶される。ストレージ5には、なじみ度データベース(DB)、ユーザログデータベース(DB)52と、音声合成パラメータデータベース(DB)53と、呼びかけ文データベース(DB)54と、能動的行動データベース(DB)55とが記憶されてもよい。これらのデータベースについては後で詳しく説明する。 Storage 5 is a storage such as a flash memory, a hard disk drive (HDD), or a solid state drive (SSD). Various programs used by the voice generating device 1 are stored in storage 5. Storage 5 may also store a familiarity database (DB), a user log database (DB) 52, a voice synthesis parameter database (DB) 53, a call-out sentence database (DB) 54, and an active behavior database (DB) 55. These databases will be described in detail later.

マイク6は、入力された音声を電気信号である音声信号に変換するデバイスである。マイク6で得られた音声信号は、例えばRAM4又はストレージ5に記憶され得る。例えば、呼びかけ音声を合成するための音声合成パラメータは、マイク6を介して入力された音声より取得され得る。The microphone 6 is a device that converts input voice into a voice signal, which is an electrical signal. The voice signal obtained by the microphone 6 can be stored, for example, in the RAM 4 or the storage 5. For example, voice synthesis parameters for synthesizing a voice call can be obtained from the voice input via the microphone 6.

スピーカ7は、入力された音声信号に基づいて音声を出力するデバイスである。 Speaker 7 is a device that outputs sound based on the input audio signal.

カメラ8は、ユーザを撮像し、ユーザの画像を取得する。カメラ8で得られたユーザの画像は、例えばRAM4又はストレージ5に記憶され得る。ユーザの画像は、例えば、覚醒度の取得のため又は呼びかけ音声に対するユーザの反応を取得するために用いられる。The camera 8 captures an image of the user and acquires an image of the user. The image of the user acquired by the camera 8 may be stored, for example, in the RAM 4 or the storage 5. The image of the user is used, for example, to acquire the user's level of alertness or to acquire the user's response to a voice call.

入力装置9は、ボタン、スイッチ、キーボード、マウスといった機械式の入力装置、タッチセンサを用いたソフトウェア式の入力装置である。入力装置9は、ユーザからの各種の入力を受け付ける。そして、入力装置9は、ユーザの入力に応じた信号をプロセッサ2に出力する。The input device 9 is a mechanical input device such as a button, switch, keyboard, or mouse, or a software input device using a touch sensor. The input device 9 accepts various inputs from the user. The input device 9 then outputs a signal to the processor 2 in response to the user's input.

ディスプレイ10は、例えば液晶ディスプレイ、有機ELディスプレイといったディスプレイである。ディスプレイ10は、各種の画像を表示する。The display 10 is, for example, a liquid crystal display or an organic electroluminescence display. The display 10 displays various images.

通信モジュール11は、音声生成装置1が通信を実施するための装置である。通信モジュール11は、例えば音声生成装置1の外部に設けられたサーバと通信する。通信モジュール11による通信の方式は特に限定されない。通信モジュール11は、無線で通信を実施してもよいし、有線で通信を実施してもよい。The communication module 11 is a device for the voice generating device 1 to carry out communication. The communication module 11 communicates, for example, with a server provided outside the voice generating device 1. The method of communication by the communication module 11 is not particularly limited. The communication module 11 may carry out communication wirelessly or wired.

次に、なじみ度データベース(DB)51、ユーザログデータベース(DB)52、音声合成パラメータデータベース(DB)53、呼びかけ文データベース(DB)54、能動的行動データベース(DB)55について説明する。 Next, we will explain the familiarity database (DB) 51, user log database (DB) 52, voice synthesis parameter database (DB) 53, call-out sentence database (DB) 54, and active behavior database (DB) 55.

図2は、なじみ度DB51の一例の構成を示す図である。なじみ度DB51は、ユーザの「なじみ度」を記録したデータベースである。なじみ度DB51は、例えばユーザIDと、音声ラベルと、なじみ対象と、なじみ度と、反応あり数と、提示回数と、覚醒度変化平均値とを関連付けて記録している。 Figure 2 is a diagram showing an example of the configuration of the familiarity DB51. The familiarity DB51 is a database that records the "familiarity" of the user. The familiarity DB51 records, for example, a user ID, a voice label, a familiarity target, a familiarity, the number of responses, the number of presentations, and the average arousal change value in association with each other.

「ユーザID」は、音声生成装置1のユーザ毎に付けられたIDである。ユーザIDには、ユーザ名等のユーザの属性情報が対応付けられていてよい。 "User ID" is an ID assigned to each user of the voice generating device 1. The user ID may be associated with user attribute information such as a user name.

「音声ラベル」は、呼びかけ音声の候補のそれぞれに一意に付けられたラベルである。音声ラベルには、任意のラベルが用いられ得る。例えば、音声ラベルに、なじみ対象の名前が用いられてもよい。 A "voice label" is a label that is uniquely assigned to each candidate call voice. Any label may be used as the voice label. For example, the familiar name of the target may be used as the voice label.

「なじみ対象」は、ユーザが日頃会話する人又はユーザがよく耳にする音声を発生する対象である。なじみ対象は、必ずしも人でなくてもよい。 A "familiar target" is a person with whom the user regularly converses or a target that emits a voice that the user frequently hears. A familiar target does not necessarily have to be a person.

「なじみ度」は、対応するなじみ対象の音声に対するユーザのなじみの度合いである。なじみ度は、SNS等によるなじみ対象とのコミュニケーション頻度、なじみ対象との日常の会話頻度、なじみ対象から日常的に耳にする頻度等から算出され得る。例えば、SNS等によるなじみ対象とのコミュニケーション頻度、なじみ対象との日常の会話頻度、なじみ対象から日常的に耳にする頻度が多いほど、なじみ度の値は大きくなる。ここで、なじみ度は、ユーザによる自己申告によって取得されてもよい。 "Familiarity" is the degree of familiarity of the user with the voice of the corresponding familiar target. Familiarity can be calculated from the frequency of communication with the familiar target via SNS etc., the frequency of daily conversation with the familiar target, the frequency of hearing the familiar target on a daily basis, etc. For example, the higher the frequency of communication with the familiar target via SNS etc., the frequency of daily conversation with the familiar target, and the frequency of hearing the familiar target on a daily basis, the higher the familiarity value. Here, familiarity may be obtained by self-reporting by the user.

「反応あり数」は、対応する音声ラベルに基づいて生成された呼びかけ音声に対してユーザが反応した回数である。提示回数は、対応する音声ラベルに基づいて生成された呼びかけ音声をユーザに対して提示した回数である。反応あり数を提示回数で割ることにより、反応確率が算出され得る。反応確率は、対応する音声ラベルに基づいて生成される呼びかけ音声に対してユーザが反応する確率である。 The "number of responses" is the number of times the user responded to the call voice generated based on the corresponding voice label. The number of presentations is the number of times the call voice generated based on the corresponding voice label was presented to the user. The response probability can be calculated by dividing the number of responses by the number of presentations. The response probability is the probability that the user will respond to the call voice generated based on the corresponding voice label.

「覚醒度変化平均値」は、対応する音声ラベルに基づいて生成された呼びかけ音声に対するユーザの覚醒度変化量の平均値である。覚醒度変化量については後で説明する。 "Average change in alertness" is the average change in the user's alertness in response to the call voice generated based on the corresponding voice label. The change in alertness will be explained later.

図3は、ユーザログDB52の一例の構成を示す図である。ユーザログDB52は、ユーザによる音声生成装置1の利用に係るログを記録したデータベースである。ユーザログDB52は、例えばログ発生日時と、ユーザIDと、音声ラベルと、なじみ対象と、反応有無と、覚醒度と、新覚醒度と、覚醒度変化量とを関連付けて記録している。ユーザIDと、音声ラベルと、なじみ対象は、なじみ度DB51と同じものである。 Figure 3 is a diagram showing an example of the configuration of user log DB52. User log DB52 is a database that records logs related to the user's use of the voice generating device 1. User log DB52 records, for example, the date and time the log was generated, a user ID, a voice label, a familiarity target, whether or not there was a reaction, a level of alertness, a new level of alertness, and an amount of change in alertness, all in association with each other. The user ID, voice label, and familiarity target are the same as those in familiarity DB51.

「ログ発生日時」は、ユーザによる音声生成装置1の利用があった日時である。ログ発生日時は、例えばユーザに対する呼びかけ音声の提示がされる毎に記録される。 The "log generation date and time" is the date and time when the user used the voice generating device 1. The log generation date and time is recorded, for example, each time a voice call is presented to the user.

「反応有無」は、ユーザに対して呼びかけ音声が提示された後のユーザの反応の有無の情報である。ユーザの反応があったときには、「あり」が記録される。ユーザの反応がなかったときには、「なし」が記録される。 "Response or no response" is information about whether or not the user responded after the voice prompt was presented to the user. If the user responded, "Yes" is recorded. If the user did not respond, "No" is recorded.

「覚醒度」は、音声生成装置1による呼びかけ音声の提示前に取得された覚醒度である。 "Level of alertness" is the level of alertness obtained before the voice generating device 1 presents the voice call.

「新覚醒度」は、ユーザの反応があった後で新たに取得された覚醒度である。新覚醒度は、ユーザの反応がなかったときには記録されない。 "New alertness" is the new alertness obtained after the user reacts. New alertness is not recorded when there is no user reaction.

「覚醒度変化量」は、ユーザの反応の前後での覚醒度の変化を表す量である。例えば、覚醒度変化量は、例えば新覚醒度と覚醒度との差から得られる。覚醒度変化量は、新覚醒度と覚醒度との比等であってもよい。覚醒度変化量は、ユーザの反応がなかったときには記録されない。 "Change in alertness" is an amount that represents the change in alertness before and after the user's reaction. For example, the change in alertness can be obtained from the difference between the new alertness and the alertness. The change in alertness may also be the ratio between the new alertness and the alertness, etc. The change in alertness is not recorded when there is no reaction from the user.

音声合成パラメータDB53は、音声合成パラメータを記録したデータベースである。音声合成パラメータは、ユーザのなじみ対象の音声を合成するために用いられるデータである。例えば、音声合成パラメータは、事前にマイク6を介して収音された音声のデータから抽出される特徴量のデータであってよい。あるいは、他のシステムによって取得又は定義された音声合成パラメータを事前に記録しておいてもよい。ここで、音声合成パラメータは、音声ラベルと対応付けられている。 The voice synthesis parameter DB53 is a database that records voice synthesis parameters. The voice synthesis parameters are data used to synthesize a voice that is familiar to the user. For example, the voice synthesis parameters may be feature data extracted from voice data previously collected via the microphone 6. Alternatively, voice synthesis parameters acquired or defined by another system may be recorded in advance. Here, the voice synthesis parameters are associated with voice labels.

図4は、呼びかけ文DB54の一例の構成を示す図である。呼びかけ文DB54は、ユーザの覚醒を促すための各種の呼びかけ文のテンプレートデータを記録したデータベースである。呼びかけ文は特に限定されない。ただし、呼びかけ文は、ユーザの名前を用いた呼びかけを含んでいることが望ましい。これは、後で説明するカクテルパーティ効果を高めるためである。 Figure 4 is a diagram showing an example of the configuration of the call DB 54. The call DB 54 is a database that records template data of various call statements for waking up the user. There are no particular limitations on the call statements. However, it is desirable for the call statements to include a call using the user's name. This is to enhance the cocktail party effect, which will be explained later.

図5は、能動的行動DB55の一例の構成を示す図である。能動的行動DB55は、ユーザに提示可能な能動的行動の情報をリスト形式で記録したデータベースである。例えば、能動的行動DB55は、IDと、行動内容と、所要時間と、制約事項とを対応付けて記録している。 Figure 5 is a diagram showing an example of the configuration of active behavior DB 55. Active behavior DB 55 is a database that records information on active behaviors that can be presented to a user in list format. For example, active behavior DB 55 records an ID, an action content, a required time, and constraints in association with each other.

「ID」は、能動的行動のそれぞれに付けられたIDである。ここで、能動的行動は、ユーザの覚醒を促すために、ユーザに能動的に行わせる行動のことである。 "ID" is an ID assigned to each active behavior. Here, an active behavior is an action that the user is made to actively perform in order to encourage the user to wake up.

「行動内容」は、能動的行動の具体的な内容である。行動内容は、例えばテキストデータとして記録されてよい。 "Behavior content" is the specific content of the active behavior. The behavior content may be recorded, for example, as text data.

「所要時間」は、対応する能動的行動を行うために必要な時間である。ここで、図5では、所要時間は秒単位で記録されるとしている。所要時間は、必ずしも秒単位で記録される必要はない。 "Time required" is the time required to perform the corresponding active behavior. Here, in Figure 5, the time required is recorded in seconds. The time required does not necessarily have to be recorded in seconds.

「制約事項」は、対応する能動的行動を行うために必要な条件である。例えば、図5に示す「スペース要」は、対応する能動的行動を行うのに、若干のスペースが必要であることを意味している。制約事項は、例えばテキストデータとして記録されていてもよいし、予め登録されている複数の制約事項の中から選択されてもよい。 A "constraint" is a condition necessary to perform the corresponding active action. For example, "Space Required" in Figure 5 means that some space is required to perform the corresponding active action. The constraint may be recorded as text data, for example, or may be selected from a number of constraints that are registered in advance.

ここで、なじみ度DB51、ユーザログDB52、音声合成パラメータDB53、呼びかけ文DB54、能動的行動DB55は、必ずしもストレージ5に記憶されている必要はない。例えば、なじみ度DB51、ユーザログDB52、音声合成パラメータDB53、呼びかけ文DB54、能動的行動DB55は、音声生成装置1とは別体のサーバに記憶されていてもよい。この場合、音声生成装置1は、通信モジュール11を用いてサーバにアクセスし、必要な情報を取得する。Here, the familiarity DB 51, the user log DB 52, the voice synthesis parameter DB 53, the call out sentence DB 54, and the active behavior DB 55 do not necessarily have to be stored in the storage 5. For example, the familiarity DB 51, the user log DB 52, the voice synthesis parameter DB 53, the call out sentence DB 54, and the active behavior DB 55 may be stored in a server separate from the voice generation device 1. In this case, the voice generation device 1 accesses the server using the communication module 11 and acquires the necessary information.

図6は、音声生成装置1の機能ブロック図である。図6に示すように、音声生成装置1は、取得部21と、判定部22と、選択部23と、生成部24と、提示部25とを有している。取得部21と、判定部22と、選択部23と、生成部24と、提示部25の動作は、例えばストレージ5に記憶されているプログラムをプロセッサ2が実行することによって実現される。判定部22と、選択部23と、生成部24と、提示部25とは、プロセッサ2とは別のハードウェアによって実現されてもよい。 Figure 6 is a functional block diagram of the voice generation device 1. As shown in Figure 6, the voice generation device 1 has an acquisition unit 21, a determination unit 22, a selection unit 23, a generation unit 24, and a presentation unit 25. The operations of the acquisition unit 21, the determination unit 22, the selection unit 23, the generation unit 24, and the presentation unit 25 are realized, for example, by the processor 2 executing a program stored in the storage 5. The determination unit 22, the selection unit 23, the generation unit 24, and the presentation unit 25 may be realized by hardware separate from the processor 2.

取得部21は、ユーザの覚醒度を取得する。また、取得部21は、呼びかけ音声に対するユーザの反応を取得する。前述したように、覚醒度は、眼球運動、瞬目活動、皮膚電気活動、刺激への反応時間の何れか又はそれらの組み合わせで算出される。ここで、覚醒度を算出するための、眼球運動、瞬目活動、刺激への反応時間は、例えばカメラ8で取得されるユーザの画像から測定され得る。また、刺激への反応時間は、マイク6で取得される音声信号から測定されてもよい。また、皮膚電気活動は、例えばユーザの腕に装着されるセンサによって測定され得る。また、ユーザの反応は、呼びかけ音声の提示後に音のする方向をユーザが見たか否かを例えばカメラ8で取得される画像から測定することによって取得され得る。取得部21は、音声生成装置1の外部で算出された覚醒度又はユーザの反応を通信によって取得するように構成されていてもよい。The acquisition unit 21 acquires the user's level of alertness. The acquisition unit 21 also acquires the user's reaction to the voice call. As described above, the level of alertness is calculated from any one of eye movement, blink activity, skin electrodermal activity, and reaction time to a stimulus, or a combination thereof. Here, the eye movement, blink activity, and reaction time to a stimulus for calculating the level of alertness can be measured, for example, from an image of the user acquired by the camera 8. The reaction time to a stimulus may also be measured from an audio signal acquired by the microphone 6. The skin electrodermal activity can be measured, for example, by a sensor attached to the user's arm. The user's reaction can also be acquired by measuring, for example, from an image acquired by the camera 8, whether the user looked in the direction of the sound after the voice call is presented. The acquisition unit 21 may be configured to acquire the level of alertness or the user's reaction calculated outside the voice generating device 1 through communication.

判定部22は、取得部21で取得された覚醒度に基づき、ユーザが覚醒している状態であるか否かを判定する。そして、判定部22は、ユーザが覚醒している状態であると判定したときに、選択部23の受信部231に対して音声ラベルの選択依頼を送信する。ここで、判定部22は、覚醒度を予め定められた閾値と比較することで判定を実施する。閾値は、ユーザが覚醒している状態であるかどうかを判定するための覚醒度の閾値であり、例えばストレージ5に記憶される。また、判定部22は、取得部21で取得されたユーザの反応の情報に基づき、ユーザの反応の有無を判定する。The determination unit 22 determines whether or not the user is awake based on the alertness level acquired by the acquisition unit 21. When the determination unit 22 determines that the user is awake, it transmits a request to select a voice label to the receiving unit 231 of the selection unit 23. Here, the determination unit 22 makes the determination by comparing the alertness level with a predetermined threshold. The threshold is an alertness threshold for determining whether or not the user is awake, and is stored in the storage 5, for example. The determination unit 22 also determines whether or not the user has responded based on the information on the user's response acquired by the acquisition unit 21.

選択部23は、ユーザが覚醒している状態でないと判定されたときに、ユーザの覚醒を促すための候補となる音声の音声ラベルを選択する。選択部23は、受信部231と、音声ラベル選択部232と、送信部233とを有している。The selection unit 23 selects a voice label of a candidate voice for encouraging the user to wake up when it is determined that the user is not in an awake state. The selection unit 23 has a receiving unit 231, a voice label selecting unit 232, and a transmitting unit 233.

受信部231は、判定部22から音声ラベルの選択依頼を受信する。 The receiving unit 231 receives a request to select an audio label from the judgment unit 22.

音声ラベル選択部232は、なじみ度DB51を参照して音声ラベルを選択する。人は、自分になじみがある声や単語を耳にすると、急に聞こえるようになったと感じるという特性を有する。このような特性は、カクテルパーティ効果と呼ばれている。例えば、ユーザにとってなじみがある声がしたり、自分の名前を呼ばれたりしたときに、ハッとするという体験は多くの人がしたことがある。これもカクテルパーティ効果によるものである。実施形態ではカクテルパーティ効果を利用してユーザにとってなじみのある声で呼びかけることにより、ユーザの覚醒度の上昇を促す。音声ラベル選択部232は、よりユーザが知覚しやすい、即ちよりなじみのある音声をなじみ度に基づいて選択する。The voice label selection unit 232 selects a voice label by referring to the familiarity DB 51. People have the characteristic that when they hear a familiar voice or words, they suddenly feel that they can hear it. This characteristic is called the cocktail party effect. For example, many users have experienced being startled when they hear a familiar voice or when their name is called. This is also due to the cocktail party effect. In the embodiment, the cocktail party effect is utilized to call the user in a familiar voice, thereby promoting an increase in the user's level of alertness. The voice label selection unit 232 selects a voice that is easier for the user to perceive, i.e., a more familiar voice, based on the familiarity.

送信部233は、音声ラベル選択部232で選択された音声ラベルの情報を生成部24に送信する。 The transmission unit 233 transmits information about the voice label selected by the voice label selection unit 232 to the generation unit 24.

生成部24は、送信部233から受け取った音声ラベルに基づき、ユーザの覚醒を促すための呼びかけ音声を生成する。生成部24は、送信部233から受け取った音声ラベルと対応した音声合成パラメータを音声合成パラメータDB53から取得する。そして、生成部24は、呼びかけ文DB54に記録されている呼びかけ文のデータと音声合成パラメータとに基づき、呼びかけ音声を生成する。The generation unit 24 generates a voice call to wake up the user based on the voice label received from the transmission unit 233. The generation unit 24 acquires voice synthesis parameters corresponding to the voice label received from the transmission unit 233 from the voice synthesis parameter DB 53. The generation unit 24 then generates a voice call based on the data of the call sentence recorded in the call sentence DB 54 and the voice synthesis parameters.

提示部25は、生成部24で生成された呼びかけ音声をユーザに提示する。例えば、提示部25は、生成部24で生成された呼びかけ音声を、スピーカ7を利用して再生する。The presentation unit 25 presents to the user the voice prompt generated by the generation unit 24. For example, the presentation unit 25 plays the voice prompt generated by the generation unit 24 using the speaker 7.

次に、音声生成装置1の動作について説明する。図7は、音声生成装置1による音声提示処理を示すフローチャートである。図7の処理は、定期的に行われてよい。Next, the operation of the voice generating device 1 will be described. Figure 7 is a flowchart showing the voice presentation process by the voice generating device 1. The process in Figure 7 may be performed periodically.

ステップS1において、取得部21は、ユーザの覚醒度を取得する。取得部21は、取得した覚醒度を判定部22に出力する。また、取得部21は、取得した覚醒度を呼びかけ音声の提示後のユーザからの反応の取得のタイミングまで保持しておく。In step S1, the acquisition unit 21 acquires the user's level of alertness. The acquisition unit 21 outputs the acquired level of alertness to the determination unit 22. The acquisition unit 21 also retains the acquired level of alertness until the timing of acquiring a response from the user after the presentation of the voice call.

ステップS2において、判定部22は、取得部21で取得された覚醒度が閾値以下であるか否かを判定する。ステップS2において、覚醒度が閾値を超えていると判定されたとき、すなわちユーザが覚醒の状態にあるときには、図7の処理は終了する。ステップS2において、覚醒度が閾値以下であると判定されたとき、すなわちユーザが眠気を有しているといった覚醒の状態にないときには、処理はステップS3に移行する。In step S2, the determination unit 22 determines whether the level of alertness acquired by the acquisition unit 21 is equal to or lower than a threshold value. When it is determined in step S2 that the level of alertness exceeds the threshold value, i.e., the user is in an alert state, the processing in FIG. 7 ends. When it is determined in step S2 that the level of alertness is equal to or lower than the threshold value, i.e., the user is not in an alert state such as feeling drowsy, the processing proceeds to step S3.

ステップS3において、判定部22は、選択部23に対して音声ラベルの選択依頼を送信する。音声ラベルの選択依頼が受信部231で受信されると、音声ラベル選択部232は、ユーザログDB52を参照して、ユーザによる音声生成装置1の利用回数が0回であるか否かを判定する。利用回数は、例えばユーザログDB52に記録されているログ発生日時の数から算出され得る。ステップS3において、ユーザによる音声生成装置1の利用回数が0回であると判定されたときには、処理はステップS4に移行する。ステップS3において、ユーザによる音声生成装置1の利用回数が0回でないと判定されたときには、処理はステップS6に移行する。In step S3, the determination unit 22 transmits a voice label selection request to the selection unit 23. When the voice label selection request is received by the receiving unit 231, the voice label selection unit 232 refers to the user log DB 52 and determines whether the number of times the user has used the voice generation device 1 is 0. The number of uses can be calculated, for example, from the number of log occurrence dates and times recorded in the user log DB 52. When it is determined in step S3 that the number of times the user has used the voice generation device 1 is 0, the process proceeds to step S4. When it is determined in step S3 that the number of times the user has used the voice generation device 1 is not 0, the process proceeds to step S6.

ステップS4において、音声ラベル選択部232は、候補となるすべての音声ラベルに対応したなじみ度Cをなじみ度DB51から取得する。ここで、Cは、音声ラベルLi(i=1,2,…)のなじみ度である。 In step S4, the voice label selection unit 232 acquires the familiarity C i corresponding to all candidate voice labels from the familiarity DB 51. Here, C i is the familiarity of the voice label Li (i=1, 2, . . . ).

ステップS5において、音声ラベル選択部232は、取得したなじみ度の中の、最大のなじみ度に対応した音声ラベルを選択する。つまり、音声ラベル選択部232は、以下の条件式(1)に従って音声ラベルを選択する。その後、処理はステップS8に移行する。
maxC 式(1)
In step S5, the voice label selection unit 232 selects a voice label corresponding to the maximum familiarity among the obtained familiarities. That is, the voice label selection unit 232 selects a voice label according to the following conditional expression (1). After that, the process proceeds to step S8.
maxC i Equation (1)

ステップS6において、音声ラベル選択部232は、候補となるすべての音声ラベルに対応したなじみ度C、反応確率R、覚醒度変化平均値Aをなじみ度DB51から取得する。ここで、Cは、音声ラベルLiのなじみ度である。Rは、音声ラベルLiの反応確率である。Aは、音声ラベルLiの覚醒度変化平均値である。利用回数が0回でないときには、反応確率及び覚醒度変化平均値が取得される。したがって、利用回数が0回でないときには、これらの反応確率及び覚醒度変化平均値も利用して音声ラベルの選択が行われる。 In step S6, the voice label selection unit 232 obtains the familiarity C i , response probability R i , and average awakening change A i corresponding to all candidate voice labels from the familiarity DB 51. Here, C i is the familiarity of voice label Li. R i is the response probability of voice label Li. A i is the average awakening change value of voice label Li. When the number of uses is not 0, the response probability and the average awakening change value are obtained. Therefore, when the number of uses is not 0, these response probabilities and the average awakening change value are also used to select a voice label.

ステップS7において、音声ラベル選択部232は、取得したなじみ度、反応確率、覚醒度変化平均値の中で、これらの重みづけ加算値が最大となるなじみ度、反応確率、覚醒度変化平均値の組み合わせに対応した音声ラベルを選択する。つまり、音声ラベル選択部232は、以下の条件式(2)に従って音声ラベルを選択する。その後、処理はステップS8に移行する。
max(w+w+w) 式(2)
ここで、式(2)のw、w、wは、それぞれ、C、R、Aの重みである。これらのw、w、wは、予め規定されていてよい。また、w、w、wは、適宜に変更されてもよい。例えば、利用回数が少ないうちは、w、w、wは等しい値に設定され、その後、なじみ度、反応確率、覚醒度変化平均値の何れかを重視したほうがよければ、それに応じて重みが変更されてよい。
In step S7, the voice label selection unit 232 selects a voice label corresponding to the combination of familiarity, response probability, and average arousal change value that maximizes the weighted sum of the obtained familiarity, response probability, and average arousal change value. That is, the voice label selection unit 232 selects a voice label according to the following conditional formula (2). After that, the process proceeds to step S8.
max( wcCi + wrRi + waAi ) Equation (2)
Here, wc , wr , and wa in formula (2) are weights of C i , R i , and A i , respectively. These wc , wr , and wa may be predefined. Also, wc , wr , and wa may be changed as appropriate. For example, while the number of times of use is small, wc , wr , and wa are set to the same value, and thereafter, if it is better to emphasize any one of familiarity, response probability, and average value of change in arousal level, the weight may be changed accordingly.

ステップS8において、送信部233は、音声ラベル選択部232で選択された音声ラベルを示す情報を、生成部24に送信する。生成部24は、音声合成パラメータDB53から、受信した音声ラベルに対応した音声合成パラメータを取得する。そして、生成部24は、呼びかけ文DB54からランダムに選択した呼びかけ文のデータと音声合成パラメータとに基づき、呼びかけ音声を生成する。呼びかけ音声の生成は、音声合成パラメータを用いた音声合成処理によって行われ得る。その後、処理はステップS9に移行する。In step S8, the transmission unit 233 transmits information indicating the voice label selected by the voice label selection unit 232 to the generation unit 24. The generation unit 24 acquires voice synthesis parameters corresponding to the received voice label from the voice synthesis parameter DB 53. The generation unit 24 then generates a call voice based on the data of a call sentence randomly selected from the call sentence DB 54 and the voice synthesis parameters. The call voice can be generated by a voice synthesis process using the voice synthesis parameters. The process then proceeds to step S9.

ステップS9において、提示部25は、生成部24において生成された呼びかけ音声を、スピーカ7を利用してユーザに提示する。 In step S9, the presentation unit 25 presents the call voice generated by the generation unit 24 to the user using the speaker 7.

ステップS10において、取得部21は、ユーザの反応を取得する。そして、取得部21は、ユーザの反応の情報を判定部22に出力する。In step S10, the acquisition unit 21 acquires the user's reaction. Then, the acquisition unit 21 outputs information on the user's reaction to the determination unit 22.

ステップS11において、判定部22は、ユーザの反応があったか否かを判定する。ステップS11において、ユーザの反応がなかったと判定されたときには、処理はステップS12に移行する。ステップS11において、ユーザの反応があったと判定されたときには、処理はステップS13に移行する。In step S11, the judgment unit 22 judges whether or not there has been a reaction from the user. If it is determined in step S11 that there has been no reaction from the user, the process proceeds to step S12. If it is determined in step S11 that there has been a reaction from the user, the process proceeds to step S13.

ステップS12において、判定部22は、選択部23に対してユーザの反応がなかった旨の情報を送信する。ユーザの反応がなかった旨の情報が受信部231で受信されると、音声ラベル選択部232は、次の候補の音声ラベルを選択する。音声ラベル選択部232は、式(1)に基づいて音声ラベルを選択したときには、次に大きな値のなじみ度Cに対応した音声ラベルを選択する。また、音声ラベル選択部232は、式(2)に基づいて音声ラベルを選択したときには、次に大きな重みづけ加算値に対応した音声ラベルを選択する。また、判定部22は、取得部21に対してユーザの反応がなかった旨の情報を送信する。これを受けて、取得部21は、反応なしの情報をログ発生日時、音声ラベル、なじみ対象、なじみ度と対応付けてユーザログDB52に登録する。その後、処理はステップS8に戻る。この場合、再度の呼びかけ音声の提示が行われる。なお、ステップS12において、すべての候補の音声ラベルが選択されたときには、図7の処理が終了されてもよい。 In step S12, the determination unit 22 transmits information to the selection unit 23 that the user has not responded. When the receiving unit 231 receives the information that the user has not responded, the voice label selection unit 232 selects the next candidate voice label. When the voice label selection unit 232 selects a voice label based on the formula (1), the voice label selection unit 232 selects a voice label corresponding to the next largest familiarity C i . When the voice label selection unit 232 selects a voice label based on the formula (2), the voice label selection unit 232 selects a voice label corresponding to the next largest weighted sum value. In addition, the determination unit 22 transmits information to the acquisition unit 21 that the user has not responded. In response to this, the acquisition unit 21 registers the information on the no-response in the user log DB 52 in association with the log generation date and time, the voice label, the familiarity target, and the familiarity. After that, the process returns to step S8. In this case, the call voice is presented again. Note that, when all the candidate voice labels have been selected in step S12, the process of FIG. 7 may be terminated.

ステップS13において、判定部22は、取得部21に対して新覚醒度の取得を要求する。これを受けて、取得部21は、新覚醒度を取得する。新覚醒度の取得は、覚醒度の取得と同様に行われてよい。In step S13, the determination unit 22 requests the acquisition unit 21 to acquire the new awakening level. In response to this, the acquisition unit 21 acquires the new awakening level. The acquisition of the new awakening level may be performed in the same manner as the acquisition of the awakening level.

ステップS14において、取得部21は、覚醒度変化量diff(新覚醒度,覚醒度)を算出する。前述したように、覚醒度変化量は、例えば新覚醒度と覚醒度の差から算出され得る。In step S14, the acquisition unit 21 calculates the amount of change in alertness diff(new alertness, alertness). As described above, the amount of change in alertness can be calculated, for example, from the difference between the new alertness and the alertness.

ステップS15において、取得部21は、なじみ度DB51から覚醒度変化平均値を取得する。そして、取得部21は、新たに算出した覚醒度変化量と先に取得した覚醒度変化平均値とを用いて覚醒度変化平均値を更新する。また、取得部21は、反応ありの情報、覚醒度、新覚醒度、覚醒度変化量をログ発生日時、音声ラベル、なじみ対象、なじみ度と対応付けてユーザログDB52に登録する。In step S15, the acquisition unit 21 acquires the average awakening change value from the familiarity DB 51. The acquisition unit 21 then updates the average awakening change value using the newly calculated amount of awakening change and the previously acquired average awakening change value. The acquisition unit 21 also registers in the user log DB 52 information on the presence of a response, the awakening level, the new awakening level, and the amount of awakening change in association with the log generation date and time, the voice label, the familiarity target, and the familiarity level.

ステップS16において、判定部22は、取得部21から新覚醒度を取得する。そして、判定部22は、新覚醒度が閾値以下であるか否かを判定する。ステップS16における閾値は、ステップS2における閾値と同じであってもよいし、異なっていてもよい。ステップS16において、新覚醒度が閾値以下でないと判定されたときには、図7の処理は終了する。ステップS16において、新覚醒度が閾値以下であると判定されたとき、処理はステップS17に移行する。なお、ステップS16の判定とステップS17の処理はステップS15の処理と並行して行われてもよい。In step S16, the judgment unit 22 acquires the new awakening level from the acquisition unit 21. The judgment unit 22 then judges whether or not the new awakening level is equal to or lower than a threshold value. The threshold value in step S16 may be the same as or different from the threshold value in step S2. When it is judged in step S16 that the new awakening level is not equal to or lower than the threshold value, the processing in FIG. 7 ends. When it is judged in step S16 that the new awakening level is equal to or lower than the threshold value, the processing proceeds to step S17. Note that the judgment in step S16 and the processing in step S17 may be performed in parallel with the processing in step S15.

ステップS17において、判定部22は、生成部24に対して能動的行動提示処理を要求する。これを受けて、生成部24は、能動的行動提示処理を実施する。能動的行動提示処理の後、図7の処理は終了する。In step S17, the determination unit 22 requests the generation unit 24 to perform active behavior presentation processing. In response to this, the generation unit 24 performs the active behavior presentation processing. After the active behavior presentation processing, the processing in FIG. 7 ends.

図8は、能動的行動提示処理のフローチャートである。ステップS21において、生成部24は、能動的行動DB55を参照して、ユーザが利用可能な能動的行動のリストを取得する。なお、現在のユーザの状態が制約事項と合致していない能動的行動についてのリストは取得する必要はない。例えば、能動的行動に必要なスペースを確保できないときには、制約事項としてスペースを要する能動的行動の情報は取得されなくてよい。 Figure 8 is a flowchart of the active behavior presentation process. In step S21, the generation unit 24 refers to the active behavior DB 55 to obtain a list of active behaviors available to the user. Note that it is not necessary to obtain a list of active behaviors for which the current user state does not match the constraints. For example, when the space required for an active behavior cannot be secured, information on active behaviors that require space as a constraint does not need to be obtained.

ステップS22において、生成部24は、選択関数を算出する。選択関数は、能動的行動を選択するための関数である。以下、選択関数の算出の仕方の例を説明する。In step S22, the generation unit 24 calculates a selection function. The selection function is a function for selecting an active behavior. Below, an example of how to calculate the selection function is described.

生成部24は、取得した能動的行動のリストに含まれる所要時間とユーザログDB52に記録されている覚醒度とから、所要時間max、所要時間min、覚醒度max、覚醒度minを取得する。ここで、所要時間max、所要時間minは、それぞれ、取得した能動的行動の所要時間のうちの最大値、最小値である。また、覚醒度max、覚醒度minは、それぞれ、取得した覚醒度のうちの最大値、最小値である。ここで、取得される覚醒度は、対応するユーザの覚醒度だけであってもよい。または、すべてのユーザの覚醒度が人一般の覚醒度として取得されてもよい。 The generation unit 24 acquires the required time max, the required time min, the alertness max, and the alertness min from the required time included in the list of acquired active behaviors and the alertness recorded in the user log DB 52. Here, the required time max and the required time min are the maximum and minimum values of the required time of the acquired active behaviors, respectively. Also, the alertness max and the alertness min are the maximum and minimum values of the acquired alertness, respectively. Here, the alertness acquired may be only the alertness of the corresponding user. Alternatively, the alertness of all users may be acquired as the alertness of humans in general.

所要時間max、所要時間min、覚醒度max、覚醒度minの取得後、生成部24は、(覚醒度max,所要時間min)と(覚醒度min,所要時間max)の2点を通る一次関数y=f(x)を選択関数として算出する。図9は、覚醒度をx、所要時間をyとした選択関数を表すグラフである。 After acquiring the required time max , the required time min , the awakening level max , and the awakening level min , the generation unit 24 calculates a linear function y=f(x) that passes through the two points (awakening level max , required time min ) and (awakening level min , required time max ) as a selection function. Fig. 9 is a graph showing the selection function with the awakening level as x and the required time as y.

ここで、図8の説明に戻る。ステップS23において、生成部24は、選択関数に基づき、新覚醒度に合致した能動的行動を抽出する。例えば、生成部24は、現在の新覚醒度を選択関数に対する入力として現在のユーザの覚醒に要する所要時間を求める。そして、生成部24は、取得した能動的行動のリストから、現在のユーザの覚醒に要する所要時間に最も近い能動的行動を抽出する。Now, we return to the explanation of FIG. 8. In step S23, the generation unit 24 extracts an active behavior that matches the new awakening level based on the selection function. For example, the generation unit 24 obtains the time required for the current user to awaken using the current new awakening level as an input to the selection function. Then, the generation unit 24 extracts an active behavior that is closest to the time required for the current user to awaken from the acquired list of active behaviors.

ステップS25において、生成部24は、能動的行動を提案する呼びかけ音声を生成する。呼びかけ音声の生成は、音声合成パラメータを用いた音声合成処理によって行われ得る。この時に用いられる音声合成パラメータは、直前のステップS8における呼びかけ音声の合成に用いられた音声合成パラメータであってよい。直前の音声合成に用いられた音声合成パラメータは、ユーザの反応があった呼びかけ音声の生成に用いられた音声合成パラメータである。したがって、直前のステップS8における呼びかけ音声の合成に用いられた音声合成パラメータが用いられることにより、能動的行動を提案する呼びかけ音声に対するユーザの反応も期待される。In step S25, the generation unit 24 generates a voice call suggesting active behavior. The generation of the voice call may be performed by a voice synthesis process using voice synthesis parameters. The voice synthesis parameters used at this time may be the voice synthesis parameters used to synthesize the voice call in the immediately preceding step S8. The voice synthesis parameters used in the immediately preceding voice synthesis are the voice synthesis parameters used to generate the voice call to which the user responded. Therefore, by using the voice synthesis parameters used to synthesize the voice call in the immediately preceding step S8, the user's response to the voice call suggesting active behavior is also expected.

ステップS26において、提示部25は、生成部24において生成された呼びかけ音声を、スピーカ7を利用してユーザに提示する。その後、図8の処理は図7の処理に戻る。なお、能動的行動を提案する呼びかけ音声をユーザに対して提示する際に、例えばその能動的行動を表す画像をディスプレイ10に表示させてもよい。In step S26, the presentation unit 25 presents the voice call generated by the generation unit 24 to the user using the speaker 7. After that, the process of Fig. 8 returns to the process of Fig. 7. When presenting the voice call suggesting an active behavior to the user, for example, an image representing the active behavior may be displayed on the display 10.

以上説明したように実施形態によれば、ユーザが覚醒していない状態であると判定されたときには、ユーザにとってなじみのある音声を用いてユーザに対する呼びかけが行われる。このため、ユーザが眠気を有している状態等であっても、カクテルパーティ効果によってユーザが呼びかけ音声を聞くことが期待される。したがって、短時間での覚醒度の向上が見込まれる。As described above, according to the embodiment, when it is determined that the user is not awake, the user is called out to using a voice familiar to the user. Therefore, even if the user is in a drowsy state, it is expected that the user will hear the voice call due to the cocktail party effect. Therefore, it is expected that the user's level of wakefulness will improve in a short period of time.

また、実施形態によれば、ユーザによる2回目以降の音声生成装置の利用時には、なじみ度に加えて、ユーザの反応と、覚醒度変化量とを考慮してユーザによってなじみのある音声の選択が行われる。したがって、2回目以降の音声生成装置の利用時には1回目よりも短時間での覚醒度の向上が見込まれる。 According to the embodiment, when the user uses the voice generating device for the second or subsequent time, a voice that is familiar to the user is selected in consideration of the user's reaction and the amount of change in arousal level in addition to the familiarity. Therefore, when the voice generating device is used for the second or subsequent time, an improvement in arousal level is expected in a shorter time than the first time.

さらに、実施形態によれば、呼びかけの後でもユーザが覚醒していないと判定されたときには、所要時間が多少必要でも覚醒度が向上できると見込まれる能動的行動を提案するための呼びかけがユーザに対してなされる。これにより、ユーザは行動の機会を得ることができ、結果として短時間での覚醒度の向上が見込まれる。さらに、能動的行動を提案するための呼びかけ音声もユーザにとってなじみのある音声で行われることにより、カクテルパーティ効果によってユーザに呼びかけ音声を聞かせることができる効果も得られる。 Furthermore, according to the embodiment, when it is determined that the user is not awake even after the call, a call is made to the user to suggest active behavior that is expected to improve the user's alertness even if it takes some time. This gives the user an opportunity to take action, and as a result, the user's alertness is expected to improve in a short period of time. Furthermore, the voice of the call to suggest active behavior is made in a voice that is familiar to the user, which has the effect of making the user hear the voice of the call due to the cocktail party effect.

[変形例]
実施形態の変形例を説明する。実施形態では、呼びかけ音声に用いられる呼びかけ文は、呼びかけ文DB54に記録されているテンプレートの中からランダムに選択される。このテンプレートは、適宜に変更され得る。例えば、ユーザの日常会話等を収集しておくことにより、日常会話等で頻出する、ユーザの注意をひきやすい単語が含められるようなテンプレートの変更がされてもよい。
[Modification]
A modified example of the embodiment will be described. In the embodiment, the call sentence used in the call voice is randomly selected from templates recorded in the call sentence DB 54. This template can be changed as appropriate. For example, by collecting daily conversations of users, the template can be changed to include words that are likely to attract the user's attention and that appear frequently in daily conversations.

また、実施形態では、音声ラベル選択部232は、取得したなじみ度の中の、最大のなじみ度に対応した音声ラベル又は取得したなじみ度、反応確率、覚醒度変化平均値の中で、これらの重みづけ加算値が最大となるなじみ度、反応確率、覚醒度変化平均値の組み合わせに対応した音声ラベルを選択する。これに限らず、音声ラベル選択部232は、取得したなじみ度の中の、大きさの上位の複数のなじみ度に対応した複数の音声ラベル又は取得したなじみ度、反応確率、覚醒度変化平均値の中で、これらの重みづけ加算値の大きさの上位の複数のなじみ度、反応確率、覚醒度変化平均値の組み合わせに対応した複数の音声ラベルを呼びかけ音声の候補の音声ラベルとして抽出してもよい。そして、音声ラベル選択部232は、抽出した候補の音声ラベルのうちの1つをランダムサンプリングによって選択してもよい。これにより、同じ音声ラベルの呼びかけ音声が頻繁に提示されることによる、ユーザの慣れや飽きが抑制される。これにより、長期に音声生成装置1が利用される場合であっても、呼びかけ音声に対するユーザの反応が期待され易くなり、結果としてユーザの覚醒度の上昇が見込まれる。In addition, in the embodiment, the voice label selection unit 232 selects a voice label corresponding to the maximum familiarity among the acquired familiarities, or a voice label corresponding to a combination of familiarity, response probability, and average awakening change value that maximizes the weighted sum of these familiarity, response probability, and average awakening change value among the acquired familiarities. Not limited to this, the voice label selection unit 232 may extract, as candidate voice labels for the call voice, a plurality of voice labels corresponding to a plurality of familiarities with the highest magnitude among the acquired familiarities, or a plurality of voice labels corresponding to a combination of a plurality of familiarities, response probability, and average awakening change value with the highest magnitude of these weighted sums among the acquired familiarities, response probability, and average awakening change value. Then, the voice label selection unit 232 may select one of the extracted candidate voice labels by random sampling. This suppresses the user's familiarity and boredom due to the frequent presentation of the call voice with the same voice label. This makes it easier to expect a user's reaction to the call voice even when the voice generation device 1 is used for a long period of time, and as a result, an increase in the user's awakening level is expected.

また、実施形態において呼びかけ音声が生成されるときに、覚醒度に応じた音量等の変更が併せて行われてもよい。 In addition, in an embodiment, when a voice prompt is generated, changes to the volume, etc. may also be made according to the level of alertness.

また、実施形態では、能動的行動は、覚醒度と所要時間との関係によって抽出されるとしている。これに対し、所要時間に代えて、又は所要時間とともに能動的行動に対するユーザの興味の程度、体への刺激の強さ等が能動的行動の抽出に用いられてもよい。In addition, in the embodiment, active behavior is extracted based on the relationship between the level of arousal and the time required. However, instead of or in addition to the time required, the level of interest of the user in the active behavior, the strength of the physical stimulation, etc. may be used to extract active behavior.

また、上述した実施形態による各処理は、コンピュータであるプロセッサに実行させることができるプログラムとして記憶させておくこともできる。この他、磁気ディスク、光ディスク、半導体メモリ等の外部記憶装置の記憶媒体に格納して配布することができる。そして、プロセッサは、この外部記憶装置の記憶媒体に記憶されたプログラムを読み込み、この読み込んだプログラムによって動作が制御されることにより、上述した処理を実行することができる。 In addition, each process according to the above-described embodiment can be stored as a program that can be executed by a processor, which is a computer. Alternatively, the program can be stored in a storage medium of an external storage device, such as a magnetic disk, optical disk, or semiconductor memory, and distributed. The processor can then read the program stored in the storage medium of the external storage device, and have its operation controlled by the read program, thereby executing the above-described process.

なお、本発明は、上記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は適宜組み合わせて実施してもよく、その場合組み合わせた効果が得られる。更に、上記実施形態には種々の発明が含まれており、開示される複数の構成要件から選択された組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、課題が解決でき、効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。 Note that the present invention is not limited to the above-described embodiments, and can be modified in various ways in the implementation stage without departing from the gist of the invention. The embodiments may also be implemented in appropriate combination, in which case the combined effects can be obtained. Furthermore, the above-described embodiments include various inventions, and various inventions can be extracted by combinations selected from the multiple constituent elements disclosed. For example, if the problem can be solved and an effect can be obtained even if some constituent elements are deleted from all the constituent elements shown in the embodiments, the configuration from which these constituent elements are deleted can be extracted as an invention.

1…音声生成装置
2…プロセッサ
3…ROM
4…RAM
5…ストレージ
6…マイクロホン(マイク)
7…スピーカ
8…カメラ
9…入力装置
10…ディスプレイ
11…通信モジュール
21…取得部
22…判定部
23…選択部
24…生成部
25…提示部
51…なじみ度データベース(DB)
52…ユーザログデータベース(DB)
53…音声合成パラメータデータベース(DB)
54…呼びかけ文データベース(DB)
55…能動的行動データベース(DB)
231…受信部
232…音声ラベル選択部
233…送信部
1... Sound generating device 2... Processor 3... ROM
4...RAM
5...Storage 6...Microphone (Mic)
7: Speaker 8: Camera 9: Input device 10: Display 11: Communication module 21: Acquisition unit 22: Determination unit 23: Selection unit 24: Generation unit 25: Presentation unit 51: Familiarity database (DB)
52...User log database (DB)
53...Speech synthesis parameter database (DB)
54...Call sentence database (DB)
55... Active behavior database (DB)
231: Receiving section 232: Voice label selecting section 233: Transmitting section

Claims (7)

ユーザの睡眠から興奮に至るまでの覚醒の程度を表す第1の覚醒度を取得する取得部と、
前記第1の覚醒度に基づき、前記ユーザが覚醒している状態であるか否かを判定する判定部と、
前記ユーザが覚醒している状態でないとき、前記ユーザの覚醒を促す音声を複数の音声候補の中から選択する選択部と、
選択された音声に基づき、前記ユーザに対して提示するための第1の呼びかけ音声を生成する生成部と、
を具備し、
前記複数の音声候補は、それぞれ、前記ユーザが対応する音声候補になじんでいる度合を表すなじみ度に関連づけられており、
前記選択部は、前記なじみ度に応じて前記ユーザの覚醒を促す音声を選択する
音声生成装置。
An acquisition unit that acquires a first awakening level that represents a degree of awakening of a user from sleep to excitement;
A determination unit that determines whether the user is in an awake state based on the first wakefulness level;
A selection unit that selects a voice that prompts the user to wake up from among a plurality of voice candidates when the user is not in an awake state;
a generator that generates a first call voice to be presented to the user based on the selected voice;
Equipped with
Each of the plurality of voice candidates is associated with a familiarity level representing a degree of familiarity with the corresponding voice candidate by the user; and
The selection unit selects a sound that prompts the user to wake up in accordance with the familiarity degree.
A voice generating device.
前記複数の音声候補は、それぞれ、提示された第1の呼びかけ音声に対する前記ユーザの反応と、提示された第1の呼びかけ音声に対する前記ユーザの覚醒度の変化を表す変化量とにさらに関連づけられており、
前記選択部は、前記反応と前記変化量とにさらに応じて前記ユーザの覚醒を促す音声を選択する請求項1に記載の音声生成装置。
Each of the plurality of voice candidates is further associated with a reaction of the user to the presented first call voice and a change amount representing a change in an alertness of the user in response to the presented first call voice,
The voice generating device according to claim 1 , wherein the selection unit selects a voice that encourages the user to wake up, further depending on the reaction and the amount of change.
前記取得部は、提示された第1の呼びかけ音声に対して前記ユーザの反応があった後の第2の覚醒度を取得し、
前記判定部は、前記第2の覚醒度に基づき、前記ユーザが覚醒している状態であるか否かを再度判定し、
前記生成部は、前記ユーザが覚醒している状態でないとき、前記ユーザの覚醒を促すための能動的行動を前記ユーザに促すための第2の呼びかけ音声を生成する、
請求項1又は2に記載の音声生成装置。
The acquisition unit acquires a second awakening level after the user responds to the presented first call voice,
The determination unit determines again whether or not the user is in an awake state based on the second wakefulness level,
The generation unit generates, when the user is not in an awake state, a second call voice for encouraging the user to take an active action to encourage the user to wake up.
3. A voice generating device according to claim 1 or 2 .
前記生成部は、前記選択部で選択された音声に基づき、前記第2の呼びかけ音声を生成する請求項3に記載の音声生成装置。 The voice generating device according to claim 3 , wherein the generating unit generates the second call voice based on the voice selected by the selecting unit. 前記第1の覚醒度は、前記ユーザの眼球運動、前記ユーザの瞬目活動、前記ユーザの皮膚電気活動、前記ユーザの刺激への反応時間の何れか又はそれらの組み合わせで算出される請求項1乃至4の何れか1項に記載の音声生成装置。 The voice generation device according to any one of claims 1 to 4, wherein the first level of alertness is calculated based on any one or a combination of the user's eye movement, the user's blink activity, the user's electrical skin activity, and the user's reaction time to a stimulus. 取得部により、ユーザの睡眠から興奮に至るまでの覚醒の程度を表す第1の覚醒度を取得することと、
判定部により、前記第1の覚醒度に基づき、前記ユーザが覚醒している状態であるか否かを判定することと、
選択部により、前記ユーザが覚醒している状態でないとき、前記ユーザの覚醒を促す音声を複数の音声候補の中から選択することと、
生成部により、選択された音声に基づき、前記ユーザに対して提示するための第1の呼びかけ音声を生成することと、
を具備し、
前記複数の音声候補は、それぞれ、前記ユーザが対応する音声候補になじんでいる度合を表すなじみ度に関連づけられており、
前記選択部により、前記なじみ度に応じて前記ユーザの覚醒を促す音声を選択する
音声生成方法。
acquiring, by an acquisition unit, a first awakening level representing a degree of awakening of the user ranging from sleep to excitement;
determining, by a determination unit, whether or not the user is in an awake state based on the first wakefulness level;
selecting, by a selection unit, a voice that prompts the user to wake up from among a plurality of voice candidates when the user is not in an awakened state;
generating, by a generating unit, a first call voice to be presented to the user based on the selected voice;
Equipped with
Each of the plurality of voice candidates is associated with a familiarity level representing a degree of familiarity with the corresponding voice candidate by the user; and
The selection unit selects a sound that prompts the user to wake up according to the familiarity.
A method for generating audio.
プロセッサを、請求項1乃至5の何れか1項に記載の音声生成装置の前記取得部と、前記判定部と、前記選択部と、前記生成部として機能させるための音声生成プログラム。 A voice generation program for causing a processor to function as the acquisition unit, the determination unit, the selection unit, and the generation unit of the voice generation device according to claim 1 .
JP2022531317A 2020-06-24 2020-06-24 Speech generation device, speech generation method, and speech generation program Active JP7485038B2 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/024818 WO2021260844A1 (en) 2020-06-24 2020-06-24 Voice generation device, voice generation method, and voice generation program

Publications (2)

Publication Number Publication Date
JPWO2021260844A1 JPWO2021260844A1 (en) 2021-12-30
JP7485038B2 true JP7485038B2 (en) 2024-05-16

Family

ID=79282107

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022531317A Active JP7485038B2 (en) 2020-06-24 2020-06-24 Speech generation device, speech generation method, and speech generation program

Country Status (2)

Country Link
JP (1) JP7485038B2 (en)
WO (1) WO2021260844A1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008170210A (en) 2007-01-10 2008-07-24 Pioneer Electronic Corp Navigation device, its method, its program, and recording medium
JP2016192127A (en) 2015-03-31 2016-11-10 パイオニア株式会社 Music information update device
JP2019124977A (en) 2018-01-11 2019-07-25 トヨタ自動車株式会社 On-board voice output device, voice output control method, and voice output control program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008170210A (en) 2007-01-10 2008-07-24 Pioneer Electronic Corp Navigation device, its method, its program, and recording medium
JP2016192127A (en) 2015-03-31 2016-11-10 パイオニア株式会社 Music information update device
JP2019124977A (en) 2018-01-11 2019-07-25 トヨタ自動車株式会社 On-board voice output device, voice output control method, and voice output control program

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
大見拓寛,"安全な自動車運転を支援するビジョン技術と交通システム 運転者の居眠り状態評価の画像センサ",画像ラボ,2015年02月10日,Vol.26, No,2,pp.64-69

Also Published As

Publication number Publication date
JPWO2021260844A1 (en) 2021-12-30
WO2021260844A1 (en) 2021-12-30

Similar Documents

Publication Publication Date Title
US11120477B2 (en) System and method for personalized preference optimization
CN102986201B (en) User interfaces
US20180343219A1 (en) Conversation agent
US20210106290A1 (en) Systems and methods for the determination of arousal states, calibrated communication signals and monitoring arousal states
WO2017033697A1 (en) Lifestyle management assistance device and lifestyle management assistance method
CN115298743A (en) User behavior recommendation for improved sleep
JP6508938B2 (en) INFORMATION PROCESSING DEVICE, ACTION SUPPORT METHOD, AND PROGRAM
JP7344423B1 (en) Healthcare system and methods
KR102141804B1 (en) Method for providing insomnia mediation service and apparatus therefor
WO2022190686A1 (en) Content recommendation system, content recommendation method, content library, method for generating content library, and target input user interface
US12578795B2 (en) Systems and methods for obtaining and using electroencephalography signals to perform an action
US9811992B1 (en) Caregiver monitoring system
US20190150820A1 (en) System and method for predicting lucidity level
JP7485038B2 (en) Speech generation device, speech generation method, and speech generation program
CN107533583A (en) Moral damage monitoring system
CN113168596A (en) Behavior recommendation method and device, storage medium and electronic equipment
JP6990672B2 (en) Support system for care recipients and support methods for care recipients
WO2022009504A1 (en) Information search device
JP7416244B2 (en) Voice generation device, voice generation method, and voice generation program
JP7300929B2 (en) Cognitive function promotion support system, learning system, estimation system, and cognitive function promotion support method
JP7416245B2 (en) Learning devices, learning methods and learning programs
JP7423555B2 (en) Information processing equipment and programs
JP7263848B2 (en) CONDITION IMPROVEMENT DEVICE, CONDITION IMPROVEMENT SYSTEM, AND CONDITION IMPROVEMENT METHOD
WO2018172410A1 (en) Method and apparatus for sending a message to a subject
JP7534745B1 (en) Seizure prediction program, storage medium, seizure prediction device, and seizure prediction method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221031

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20230104

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20230208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240119

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240402

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240415

R150 Certificate of patent or registration of utility model

Ref document number: 7485038

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350