JP7635792B2 - COMMUNICATION SYSTEM, VEHICLE, COMMUNICATION METHOD, COMPUTER PROGRAM, AND SERVER - Google Patents
COMMUNICATION SYSTEM, VEHICLE, COMMUNICATION METHOD, COMPUTER PROGRAM, AND SERVER Download PDFInfo
- Publication number
- JP7635792B2 JP7635792B2 JP2023032965A JP2023032965A JP7635792B2 JP 7635792 B2 JP7635792 B2 JP 7635792B2 JP 2023032965 A JP2023032965 A JP 2023032965A JP 2023032965 A JP2023032965 A JP 2023032965A JP 7635792 B2 JP7635792 B2 JP 7635792B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- driver
- vehicle
- unit
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
本発明は、コミュニケーションシステム、車両、コミュニケーション方法、コンピュータプログラム、端末装置およびサーバーに関する。 The present invention relates to a communication system, a vehicle, a communication method, a computer program, a terminal device, and a server.
従来、車両ドライバーが運転中に外部とコミュニケーションをとるための方法が提案されている。例えば、特許文献1には、音声のみの出力によるスピーカーか、音声と画像の出力によるスクリーンを選択しドライバーに情報を提供したり、マイクロホンによって車外の発信者とのリアルタイム双方向通信を実現したりするサーバーが提案されている。 Conventionally, methods have been proposed for vehicle drivers to communicate with the outside world while driving. For example, Patent Document 1 proposes a server that provides information to the driver by selecting a speaker that outputs only audio or a screen that outputs audio and images, and that realizes real-time two-way communication with a caller outside the vehicle using a microphone.
しかしながら、例えば長時間の運転や深夜の休憩時間等、特定の個人との通話が難しい時間帯であった場合など、ドライバーがコミュニケーション相手を得る事が出来ない可能性があった。その場合、ドライバーは運転中の時間を楽しむことが出来ない。 However, there is a possibility that the driver may not be able to find someone to communicate with during times when it is difficult to talk to specific individuals, such as during long drives or during late-night breaks. In such cases, the driver cannot enjoy his or her time while driving.
例えば、ドライバーが不特定多数とコミュニケーションの機会を得る事ができれば、特定個人と通話ができない場合にも運転を楽しむことができる。また、コミュニケーションの参加者には、あたかもドライバーと一緒にドライブを楽しんでいるかのような機会を提供することができる。 For example, if a driver has the opportunity to communicate with an unspecified number of people, he or she can enjoy driving even when they cannot talk to specific individuals. In addition, communication participants can be provided with the opportunity to feel as if they are enjoying a drive with the driver.
本発明は上記事情を鑑みて成されたものであって、ドライバーと不特定多数との間にコミュニケーション機会を供給可能なコミュニケーションシステム、車両、コミュニケーション方法、コンピュータプログラム、端末装置およびサーバーを提供することを目的とする。 The present invention has been made in consideration of the above circumstances, and aims to provide a communication system, vehicle, communication method, computer program, terminal device, and server that can provide communication opportunities between the driver and an unspecified number of people.
本発明の第1態様によるコミュニケーションシステムは、車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報とを取得する第1取得部と、前記ドライバー情報を用いて検出された前記ドライバーの顔情報と前記車両情報とを、出力する演算部と、前記ドライバーの第1音声情報を取得する第2取得部と、前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備え、前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、前記第1生成部は、前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する。
本発明の第2態様による車両は、車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報とを検出するセンサと、第1態様によるコミュニケーションシステムと、を備える。
A communication system according to a first aspect of the present invention includes a first acquisition unit that acquires driver information related to the behavior of a driver of a vehicle and vehicle information related to the vehicle, a calculation unit that outputs face information of the driver and the vehicle information detected using the driver information, a second acquisition unit that acquires first voice information of the driver, a first generation unit that generates information of a driver model that operates based on the face information and the vehicle information, a second generation unit that generates vehicle video information corresponding to the environment in which the vehicle is traveling based on the vehicle information, and a communication unit that supplies the information of the driver model, the vehicle video information and the first voice information to an external platform, and supplies second voice information acquired from the external platform to the driver , wherein the vehicle information includes operation information of the vehicle by the driver, and the first generation unit creates movement information of the driver model using the operation information and supplies it to the external platform .
A vehicle according to a second aspect of the invention comprises a sensor for detecting driver information relating to the behaviour of a driver of the vehicle and vehicle information relating to said vehicle, and a communication system according to the first aspect.
本発明の第3態様によるコミュニケーション方法は、車両のドライバーの挙動に関するドライバー情報を用いて検出された前記ドライバーの顔情報を生成し、前記顔情報および前記車両に関する車両情報に基づいて動作するドライバーモデルの情報を生成し、前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成し、前記ドライバーモデルの情報、前記車両映像情報、および、前記ドライバーの第1音声情報を外部プラットフォームに供給し、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する方法であって、前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する。
A communication method according to a third aspect of the present invention includes generating facial information of a detected driver of a vehicle using driver information regarding the behavior of the driver, generating information of a driver model that operates based on the facial information and vehicle information regarding the vehicle, generating vehicle image information corresponding to the environment in which the vehicle is traveling based on the vehicle information, supplying the information of the driver model, the vehicle image information, and first audio information of the driver to an external platform, and supplying second audio information obtained from the external platform to the driver, wherein the vehicle information includes operation information of the vehicle by the driver, and creating movement information of the driver model using the operation information and supplying it to the external platform .
本発明の第5態様によるコンピュータプログラムは、コンピュータに、第3態様によるコミュニケーション方法を実行させるプログラムである。
本発明の第7態様によるサーバーは、車両のドライバーの第1音声情報、前記ドライバーの顔情報および前記車両に関する車両情報を取得する取得部と、前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備え、前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、前記第1生成部は、前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する。
A computer program according to a fifth aspect of the present invention is a program for causing a computer to execute the communication method according to the third aspect.
A server according to a seventh aspect of the present invention comprises an acquisition unit that acquires first voice information of a driver of a vehicle, facial information of the driver, and vehicle information related to the vehicle, a first generation unit that generates information of a driver model that operates based on the facial information and the vehicle information, a second generation unit that generates vehicle video information corresponding to the environment in which the vehicle is traveling based on the vehicle information, and a communication unit that supplies the information of the driver model, the vehicle video information, and the first voice information to an external platform, and supplies second voice information acquired from the external platform to the driver, wherein the vehicle information includes operation information of the vehicle by the driver, and the first generation unit creates movement information of the driver model using the operation information and supplies it to the external platform.
本発明によれば、ドライバーと不特定多数との間にコミュニケーション機会を供給可能なコミュニケーションシステム、車両、コミュニケーション方法、コンピュータプログラム、端末装置およびサーバーを提供できる。 The present invention provides a communication system, vehicle, communication method, computer program, terminal device, and server that can provide communication opportunities between a driver and an unspecified number of people.
以下に、一実施形態のコミュニケーションシステムについて、図面を参照して詳細に説明する。
図1は、一実施形態のコミュニケーションシステムの一構成例を概略的に示すブロック図である。
本実施形態のコミュニケーションシステムは、コントローラ100と、サーバー200とを備えている。
A communication system according to an embodiment will be described in detail below with reference to the drawings.
FIG. 1 is a block diagram illustrating an example of a configuration of a communication system according to an embodiment.
The communication system of this embodiment includes a controller 100 and a server 200 .
コントローラ100は、例えば少なくとも一つのプロセッサと、プロセッサにより実行されるプログラムが記録されたメモリと、を備えた端末装置であって、ソフトウエアにより又はソフトウエアとハードウエアとの組み合わせにより以下に説明する種々の機能を実現することができる。 The controller 100 is, for example, a terminal device equipped with at least one processor and a memory in which a program executed by the processor is recorded, and can realize various functions described below by software or a combination of software and hardware.
メモリは、例えば、主記憶部と、補助記憶部とを備えている。
主記憶部は、例えば、ROM(read-only memory)、RAM(random-access memory)を含み得る。ROMは、専らデータの読み出しに用いられる不揮発性メモリであり、プロセッサが各種の処理を行う上で使用するデータ及び各種の設定値などを記憶することができる。また、RAMは、プロセッサが各種の処理を行う上で一時的にデータを記憶しておく、いわゆるワークエリアとして利用され得る。
The memory includes, for example, a main storage unit and an auxiliary storage unit.
The main memory unit may include, for example, a read-only memory (ROM) and a random-access memory (RAM). The ROM is a non-volatile memory used exclusively for reading data, and can store data and various setting values used by the processor when performing various processes. The RAM can be used as a so-called work area for temporarily storing data when the processor performs various processes.
補助記憶部は、プロセッサを中枢とするコンピュータの非一時的なコンピュータ可読記憶媒体である。補助記憶部は、例えば、EEPROM(登録商標)(electric erasable programmable read-only memory)、HDD(hard disk drive)又はSSD(solid state drive)などである。
補助記憶部は、プロセッサが各種の処理を行う上で使用するデータ、プロセッサでの処理によって生成されたデータ又は各種の設定値などを保存することができる。
The secondary storage unit is a non-transitory computer-readable storage medium of a processor-based computer, such as an electric erasable programmable read-only memory (EEPROM), a hard disk drive (HDD), or a solid state drive (SSD).
The auxiliary memory unit can store data used by the processor when performing various processes, data generated by the processor through processing, or various setting values.
コントローラ100は、ネットワークを介して、車両VCLに搭載されたカメラCMRや位置測定器SSなどの種々のセンサ(若しくは種々のセンサの情報を取得するECU(electronic control unit))と通信可能である。
コントローラ100は、第1取得部101と、演算部102とを備える。
第1取得部101は、種々のセンサから車両VCLに関する情報(車両情報)および車両VCLのドライバーDVRの挙動に関する情報(ドライバー情報)を取得することができる。なお、コントローラ100は車両VCLに搭載されていてもよく、車両VCLに取り付け可能に構成されてもよい。また、コントローラ100は、ネットワークを介して外部のサーバー200と通信可能である。
The controller 100 is capable of communicating with various sensors (or ECUs (electronic control units) that obtain information from the various sensors) such as a camera CMR and a position measuring device SS mounted on the vehicle VCL via a network.
The controller 100 includes a first acquisition unit 101 and a calculation unit 102 .
The first acquisition unit 101 can acquire information about the vehicle VCL (vehicle information) and information about the behavior of the driver DVR of the vehicle VCL (driver information) from various sensors. The controller 100 may be mounted on the vehicle VCL or may be configured to be attachable to the vehicle VCL. The controller 100 can also communicate with an external server 200 via a network.
車両情報は、例えば、アクセル開度、ブレーキ踏力およびステアリング角度など、ドライバーDVRによる操作情報と、位置測定器SSにより測定された車両VCLの位置情報と、車両VCLの通信に用いられる情報(例えばCAN情報など)を含む。位置測定器SSにより測定される車両VCLの位置情報は、例えばGPS(global positioning system)を利用して測定される位置情報であって、車両VCLの位置座標および時刻を含む。 The vehicle information includes operation information from the driver DVR, such as the accelerator opening, brake pressure, and steering angle, position information of the vehicle VCL measured by the position measuring device SS, and information used for communication of the vehicle VCL (e.g., CAN information, etc.). The position information of the vehicle VCL measured by the position measuring device SS is position information measured using, for example, a GPS (global positioning system), and includes the position coordinates and time of the vehicle VCL.
ドライバー情報は、カメラCMRにより撮影されたドライバーDVRを含む映像(カメラ情報)を含む。カメラCMRは、車両VCLの車内の少なくとも1か所において、ドライバーDVRの顔を含む映像を撮影可能な位置に設置されている。複数のカメラCMRが車両VCLの複数の箇所に設置されていてもよく、ドライバーDVRの挙動に関する情報はドライバーDVRの表情や動作を様々なアングルで撮影した複数の映像を含んでいてもよい。
演算部102は、ドライバー情報を用いてドライバーの顔情報を検出し、ドライバー情報に対応する顔情報と、車両情報とを、ネットワークを介してサーバー200へ出力する。
The driver information includes an image (camera information) including the driver DVR captured by the camera CMR. The camera CMR is installed in at least one location inside the vehicle VCL, in a position where it can capture an image including the face of the driver DVR. Multiple cameras CMR may be installed in multiple locations in the vehicle VCL, and the information on the behavior of the driver DVR may include multiple images captured from various angles of the facial expressions and actions of the driver DVR.
The calculation unit 102 detects face information of the driver using the driver information, and outputs the face information corresponding to the driver information and the vehicle information to the server 200 via the network.
サーバー200は、少なくとも一つのプロセッサと、プロセッサにより実行されるプログラムが記録されたメモリと、を備え、ソフトウエアにより又はソフトウエアとハードウエアとの組み合わせにより以下に説明する種々の機能を実現することができる。 The server 200 has at least one processor and a memory in which a program executed by the processor is recorded, and can realize various functions described below by software or a combination of software and hardware.
サーバー200は、ネットワークを介して、例えばドライバーDVRに装着されたマイク及びスピーカーと、コントローラ100と、プラットフォーム300とのそれぞれと通信可能である。 The server 200 can communicate with, for example, a microphone and speaker attached to the driver DVR, the controller 100, and the platform 300 via the network.
ドライバーDVRのマイクは、例えば、ドライバーDVRにより使用される携帯端末1(スマートフォンやタブレット端末など)に搭載されたマイクや、ドライバーDVRが装着したヘッドセットのマイクや、車両に搭載されたマイクである。ドライバーDVRのスピーカーは、例えば、ドライバーDVRに装着されたヘッドセットのスピーカー、車両に搭載されたスピーカー、ドライバーDVRにより使用される携帯端末1に搭載されたスピーカーである。ドライバーDVRが装着したヘッドセットのマイクやスピーカーは、携帯端末1と例えば近距離無線通信により通信可能に構成されていてもよく、携帯端末1の通信機能を介してサーバー200と音声情報を送受信することができる。
本実施形態においては、ドライバーDVRのマイク及びスピーカーは、ドライバーDVRにより使用される携帯端末1に搭載されているとする。ドライバーDVRのマイク及びスピーカーは、携帯端末1の通信機能を介して、サーバー200と音声情報を送受信することが可能であるとする。
The microphone of the driver DVR is, for example, a microphone mounted on the mobile terminal 1 (such as a smartphone or tablet terminal) used by the driver DVR, a microphone of a headset worn by the driver DVR, or a microphone mounted on the vehicle. The speaker of the driver DVR is, for example, a speaker of a headset worn by the driver DVR, a speaker mounted on the vehicle, or a speaker mounted on the mobile terminal 1 used by the driver DVR. The microphone and speaker of the headset worn by the driver DVR may be configured to be able to communicate with the mobile terminal 1 by, for example, short-range wireless communication, and can transmit and receive audio information to and from the server 200 via the communication function of the mobile terminal 1.
In this embodiment, the microphone and speaker of the driver DVR are mounted on the mobile terminal 1 used by the driver DVR. The microphone and speaker of the driver DVR are capable of transmitting and receiving audio information to and from the server 200 via the communication function of the mobile terminal 1.
サーバー200は、第2取得部201と、第1生成部202と、第2生成部203と、通信部204とを備える。
第2取得部201は、ドライバーDVRの第1音声情報と、コントローラ100から出力されたドライバー顔情報および車両情報と、を取得する。
第1生成部202は、顔情報および車両情報に基づくドライバーモデルの表情および動作情報を生成する。例えば、サーバー200は、ドライバーDVRの顔情報に含まれる顔のパーツ(目、鼻、口、眉)の位置や形状などから、ドライバーモデルの表情情報を生成することができる。ドライバーモデルの表情情報は、例えば喜怒哀楽や、驚き、迷い、焦り、疲労などのドライバーDVRの感情や状態を示す情報であってもよく、具体的に顔のパーツの大きさや位置や動きを示す情報であってもよい。
The server 200 includes a second acquisition unit 201 , a first generation unit 202 , a second generation unit 203 , and a communication unit 204 .
The second acquisition unit 201 acquires the first voice information of the driver DVR, and the driver face information and vehicle information output from the controller 100 .
The first generating unit 202 generates facial expression and motion information of the driver model based on the face information and the vehicle information. For example, the server 200 can generate facial expression information of the driver model from the positions and shapes of the facial features (eyes, nose, mouth, eyebrows) included in the face information of the driver DVR. The facial expression information of the driver model may be information indicating the emotions and states of the driver DVR, such as joy, anger, sadness, happiness, surprise, hesitation, impatience, fatigue, etc., or may be information specifically indicating the size, position, and motion of the facial features.
また、第1生成部202は、顔情報および操作情報に基づいて、ドライバーモデルの手足の動き、ドライバーモデルの顔の向き、頭部の位置などの動作情報を生成することができる。ドライバーモデルの動作情報は、例えばドライバーモデルの代表的な関節の位置座標や角度を含んでいてもよい。サーバー200は、例えばアクセル開度やブレーキ踏力の情報から、ドライバーモデルの足首や膝の関節の位置座標や角度を生成してもよい。また、サーバー200は、例えばステアリング角度の情報から、ドライバーモデルがハンドルを握る手の位置、ハンドルの回転方向、ハンドルの回転に伴うドライバーモデルの手首や肘の関節の位置座標や角度を生成してもよい。また、サーバー200は、ドライバーDVRの顔情報に含まれる顔のパーツ(目、鼻、口、眉)の位置や形状などから、ドライバーモデルの首の回転角度、傾き角度、頭部の位置座標などを生成してもよい。 The first generating unit 202 can generate motion information such as the movement of the driver model's limbs, the direction of the driver model's face, and the position of the head, based on the face information and the operation information. The motion information of the driver model may include, for example, the position coordinates and angles of representative joints of the driver model. The server 200 may generate the position coordinates and angles of the ankle and knee joints of the driver model from, for example, information on the accelerator opening and the brake pedal force. The server 200 may also generate the position of the driver model's hands gripping the steering wheel, the rotation direction of the steering wheel, and the position coordinates and angles of the driver model's wrist and elbow joints associated with the rotation of the steering wheel from, for example, information on the steering angle. The server 200 may also generate the rotation angle, tilt angle, and head position coordinates of the driver model's neck from the positions and shapes of the facial parts (eyes, nose, mouth, eyebrows) included in the face information of the driver DVR.
第2生成部203は、車両情報に含まれる位置情報に基いて車両VCLの走行する環境を判断し、走行環境に対応する車両映像情報を生成する。第2生成部203により生成される車両映像情報は、車両VCLが実際に走行している位置の環境を再現する映像情報であってもよく、車両VCLが走行している位置の特徴を再現する映像情報であってもよい。後者の場合、第2生成部203は、例えば車両VCLが走行している場所の特徴(街中、山中、海辺、高速道路、住宅街、トンネルなど)や、位置情報に含まれる時刻における環境の特徴(夜景や時刻に対応した明るさなど)や、近くにあるオブジェクト(交差点、踏切、高層ビル、タワー、寺社、公園、橋、陸橋、河川、海、森林、テーマパークなど)の特徴を再現するように車両映像情報を生成してもよい。 The second generating unit 203 determines the environment in which the vehicle VCL is traveling based on the position information included in the vehicle information, and generates vehicle image information corresponding to the traveling environment. The vehicle image information generated by the second generating unit 203 may be image information that reproduces the environment of the location where the vehicle VCL is actually traveling, or may be image information that reproduces the characteristics of the location where the vehicle VCL is traveling. In the latter case, the second generating unit 203 may generate vehicle image information to reproduce, for example, the characteristics of the location where the vehicle VCL is traveling (city, mountain, seaside, highway, residential area, tunnel, etc.), the characteristics of the environment at the time included in the position information (night view, brightness corresponding to the time, etc.), and the characteristics of nearby objects (intersections, railroad crossings, high-rise buildings, towers, temples and shrines, parks, bridges, overpasses, rivers, seas, forests, theme parks, etc.).
車両映像情報は必ずしも車両VCLの実際の走行環境を再現するものでなくともよい。車両映像情報は、例えば実際に車両VCLが走行する場所に存在する歩行者や対向車などを削除した映像であってもよく、実際には存在しない歩行者や対向車などのオブジェクトを含む映像であってもよく、実在しない環境の映像であってもよい。この場合には、車両VCLは、車両VCLの周囲や車窓から見える景色を撮影するカメラCMR2を有しており、カメラCMR2により撮影された映像(車外環境情報)に基づいて車両映像情報が生成されてもよい。なお、カメラCMR2は必須の構成ではなく、車両映像情報が実際の走行環境を再現するものでない場合にはカメラCMR2は省略されても構わない。 The vehicle video information does not necessarily have to reproduce the actual driving environment of the vehicle VCL. For example, the vehicle video information may be video from which pedestrians and oncoming vehicles that are actually present in the area where the vehicle VCL is driving have been removed, or may be video that includes objects such as pedestrians and oncoming vehicles that do not actually exist, or may be video of a non-existent environment. In this case, the vehicle VCL has a camera CMR2 that captures the surroundings of the vehicle VCL and the scenery seen from the vehicle window, and the vehicle video information may be generated based on the video captured by the camera CMR2 (external vehicle environment information). Note that the camera CMR2 is not a required component, and if the vehicle video information does not reproduce the actual driving environment, the camera CMR2 may be omitted.
いずれの場合にも、第2生成部203は、車両VCLの位置情報に基づく車両VCLの位置、進行方向、走行速度および時刻のうち少なくともいずれかに応じて、車両VCLのドライバーDVRの前後左右の各々の窓から視認される環境に対応する車両映像情報を生成する。
なお、サーバー200は、車両映像情報を生成するための映像データやオブジェクトデータが蓄積されたデータベースを含んでいてもよく、サーバー200の外部のデータベースから映像データやオブジェクトデータを取得してもよい。
In either case, the second generation unit 203 generates vehicle video information corresponding to the environment viewed from each of the front, rear, left and right windows of the driver DVR of the vehicle VCL, based on at least one of the position, direction of travel, driving speed and time of the vehicle VCL based on the position information of the vehicle VCL.
The server 200 may include a database in which image data and object data for generating vehicle image information are stored, or the server 200 may acquire image data and object data from a database external to the server 200 .
通信部204は、ドライバーモデルの情報、車両映像情報および第1音声情報を関連付けてプラットフォーム300に供給するとともに、プラットフォーム300から取得した第2音声情報をドライバーDVRに装着されたスピーカー(若しくは車両VCLに搭載されたスピーカー)に供給する。なお、第2音声情報は、外部サービスを介してサーバー200から車載スピーカーに供給されてもよい。 The communication unit 204 associates the driver model information, the vehicle image information, and the first audio information and supplies them to the platform 300, and also supplies the second audio information acquired from the platform 300 to a speaker attached to the driver DVR (or a speaker mounted on the vehicle VCL). The second audio information may be supplied from the server 200 to the in-vehicle speaker via an external service.
なお、コントローラ100およびサーバー200は、出発地から到着地までの走行毎に識別子(走行ID)を設定し、走行IDを用いて、ドライバーモデルの情報、車両映像情報および第1音声情報を関連付けてもよい。この場合、プラットフォーム300から供給される第2音声信号にも走行IDが付され、サーバー200は走行IDにより第2音声信号を供給すべきドライバーDVRを認識することができる。
また、本実施形態のコミュニケーションシステムにおいて、上記サーバー200の少なくとも一部の機能はコントローラ100により実現されてもよく、コントローラ100とサーバー200とが一体に構成され、車両VCLに搭載されてもよい。
The controller 100 and the server 200 may set an identifier (travel ID) for each trip from the departure point to the destination, and may use the travel ID to associate the driver model information, the vehicle image information, and the first audio information. In this case, the travel ID is also assigned to the second audio signal supplied from the platform 300, and the server 200 can recognize the driver DVR to which the second audio signal should be supplied by the travel ID.
In addition, in the communication system of this embodiment, at least a part of the functions of the server 200 may be realized by the controller 100, or the controller 100 and the server 200 may be configured as an integrated unit and mounted on the vehicle VCL.
プラットフォーム300は、サーバー200により生成された情報を用いて、例えば映像やドライバーモデルや音声を組み合わせた仮想空間情報を一又は複数のユーザ端末に供給するとともに、当該ユーザ端末からの音声情報をサーバー200に供給するサービスを提供するシステムである。 The platform 300 is a system that uses information generated by the server 200 to provide virtual space information, for example combining video, driver models, and audio, to one or more user terminals, and also provides a service of supplying audio information from the user terminals to the server 200.
プラットフォーム300はサーバー200と通信可能である。具体例としては、OSC(Open Sound Control)により、サーバー(送信側)200とプラットフォーム(受信側)300とで通信を行い、サーバー200により生成された情報をプラットフォーム300に供給することができる。 The platform 300 can communicate with the server 200. As a specific example, the server (sending side) 200 and the platform (receiving side) 300 can communicate with each other using OSC (Open Sound Control), and information generated by the server 200 can be supplied to the platform 300.
プラットフォーム300は、ドライバーモデルの表情情報を用いて、ドライバーモデルの顔のパーツ(目、鼻、口、眉など)の位置や形状を調整し、ドライバーモデルの表情を生成する。プラットフォーム300は、例えばドライバーDVRの感情や状態に対応する顔のパーツの位置や形状の情報を予め有していてもよく、ドライバーモデルの表情情報がドライバーDVRの感情や状態を示す場合には、設定されたようにドライバーモデルの顔のパーツの位置や形状を調整する。 The platform 300 uses the facial expression information of the driver model to adjust the position and shape of the facial features (eyes, nose, mouth, eyebrows, etc.) of the driver model to generate the facial expression of the driver model. The platform 300 may have in advance information on the position and shape of the facial features corresponding to the emotion or state of the driver DVR, for example, and when the facial expression information of the driver model indicates the emotion or state of the driver DVR, the platform 300 adjusts the position and shape of the facial features of the driver model as set.
また、プラットフォーム300は、ドライバーモデルの動作の情報を用いて、ドライバーモデルの四肢や頭部や体幹部の関節の位置や角度を調整し、ドライバーモデルの動きを生成する。ドライバーDVRに対応するモデルは、ドライバーDVRの実際の姿を仮想現実空間において再現する3次元モデルであってもよく、ドライバーDVRと異なる人物やロボットなどの仮想の運転手の姿を仮想現実空間において再現する3次元モデルであってもよい。 The platform 300 also uses information on the driver model's movements to adjust the positions and angles of the joints of the driver model's limbs, head, and trunk, and generate the driver model's movements. The model corresponding to the driver DVR may be a three-dimensional model that reproduces the actual appearance of the driver DVR in a virtual reality space, or may be a three-dimensional model that reproduces the appearance of a virtual driver, such as a person or robot different from the driver DVR, in a virtual reality space.
プラットフォーム300は、車両映像情報を用いて、車両VCLおよび車両VCLの窓越しに視認される環境を仮想現実空間において生成する。
プラットフォーム300は、ドライバーモデルの動作および表情と、第1音声情報と、車両VCLが走行する環境映像とが同期するように仮想空間情報を生成して、プラットフォーム300に接続したユーザ端末400に供給する。
また、プラットフォーム300は、仮想空間情報を提供したユーザ端末400から音声情報(第2音声情報)を取得すると、対応する走行IDを付してサーバー200へ送信する。
The platform 300 uses the vehicle image information to generate the vehicle VCL and the environment viewed through the windows of the vehicle VCL in a virtual reality space.
The platform 300 generates virtual space information so that the driver model's movements and facial expressions, the first voice information, and the environmental image in which the vehicle VCL is traveling are synchronized, and supplies the generated virtual space information to a user terminal 400 connected to the platform 300.
In addition, when the platform 300 acquires voice information (second voice information) from the user terminal 400 to which the virtual space information has been provided, the platform 300 transmits the second voice information to the server 200 together with the corresponding running ID.
ユーザ端末400によりユーザに提示される仮想空間は、例えば車両VCLの車内(助手席など)からドライバーDVRを見るように視点が設定されていてもよく、ユーザ端末400の操作により車両VCL内の任意の視点位置および方向を移動可能であってもよい。後者の場合、プラットフォーム300は、ユーザ端末400から取得した操作情報に基づいて、ユーザ端末400に供給する仮想空間内視点位置および方向を移動させる。 The virtual space presented to the user by the user terminal 400 may have a viewpoint set so that the driver DVR is viewed from inside the vehicle VCL (e.g., the passenger seat), for example, or the viewpoint position and direction within the vehicle VCL may be movable by operating the user terminal 400. In the latter case, the platform 300 moves the viewpoint position and direction within the virtual space supplied to the user terminal 400 based on operation information acquired from the user terminal 400.
図2は、一実施形態のコミュニケーションシステムの動作の一例について説明するための図である。なお、図2では、サーバー200は車両VCLの位置情報を用いて車両映像情報を生成しており、カメラCMR2により撮影された車外環境情報を使用しない例を示している。
最初に、コントローラ100と、サーバー200と、ドライバーDVRのマイクおよびスピーカーが搭載された携帯端末1との間で初期設定を行う。例えば、マイクおよびスピーカーは、車載又は車両VCL内部でドライバーの近傍に設置されていてもよい。初期設定では、コントローラ100で取得される情報と、携帯端末1のマイクから供給される音声情報と、携帯端末1のスピーカーへ供給する音声情報との対応付けが可能であるように、コントローラ100とサーバー200と携帯端末1とで扱う情報に必要な識別子(走行ID)が設定される。
2 is a diagram for explaining an example of the operation of the communication system according to the embodiment. In FIG. 2, the server 200 generates vehicle image information using the position information of the vehicle VCL, and does not use the vehicle exterior environment information captured by the camera CMR2.
First, an initial setting is performed between the controller 100, the server 200, and the mobile terminal 1 equipped with the microphone and speaker of the driver DVR. For example, the microphone and speaker may be installed in the vehicle or inside the vehicle VCL near the driver. In the initial setting, an identifier (driving ID) required for information handled by the controller 100, the server 200, and the mobile terminal 1 is set so that the information acquired by the controller 100, the audio information supplied from the microphone of the mobile terminal 1, and the audio information supplied to the speaker of the mobile terminal 1 can be associated with each other.
例えば、サーバー200は、コントローラ100から供給される車両VCLの位置情報と、マイクやスピーカーが搭載された機器(例えば携帯端末1)の位置情報とに基づいて、車両VCLとマイクとスピーカーとが共通のドライバーDVRにより使用されるものであるか否かを判断する。そして、サーバー200は、判断の結果に基づいて、コントローラ100で取得される情報と、携帯端末1のマイクから供給される音声情報と、携帯端末1のスピーカーへ供給する音声情報とを対応付けることができる。 For example, the server 200 determines whether the vehicle VCL, microphone, and speaker are used by a common driver DVR based on the position information of the vehicle VCL supplied from the controller 100 and the position information of the device (e.g., the mobile terminal 1) equipped with the microphone and speaker. Then, based on the result of the determination, the server 200 can associate the information acquired by the controller 100, the audio information supplied from the microphone of the mobile terminal 1, and the audio information to be supplied to the speaker of the mobile terminal 1.
初期設定が完了した後、コントローラ100は、車両VCLから取得した車両情報と、ドライバーDVRの挙動に関するドライバー情報と、を取得し、ドライバー情報を用いたフェイストラッキングによりドライバーDVRの顔情報を生成する(ブロックST1)。具体的には、コントローラ100は、カメラ情報(ドライバー情報)をフェイストラッキング情報(顔情報)に変換する。コントローラ100は、ドライバー情報に対応する顔情報と、車両情報とを、ネットワークを介してサーバー200へ出力する。なお、コントローラ100がドライバー情報に代えて(若しくはドライバー情報に加えて)フェイストラッキング情報を取得できる場合には、フェイストラッキング情報(顔情報)を検出する動作は省略することができる。 After the initial settings are completed, the controller 100 acquires vehicle information acquired from the vehicle VCL and driver information related to the behavior of the driver DVR, and generates face information of the driver DVR by face tracking using the driver information (block ST1). Specifically, the controller 100 converts the camera information (driver information) into face tracking information (face information). The controller 100 outputs the face information corresponding to the driver information and the vehicle information to the server 200 via the network. Note that if the controller 100 can acquire face tracking information instead of (or in addition to) the driver information, the operation of detecting the face tracking information (face information) can be omitted.
サーバー200は、コントローラ100から車両情報および顔情報を取得し、ドライバーDVRに装着されたマイクから第1音声情報を取得する。サーバー200は、コントローラ100から取得した車両情報および顔情報と、マイクから取得した第1音声情報とを共通の識別情報により対応付ける(ブロックST2)。 The server 200 acquires the vehicle information and face information from the controller 100, and acquires the first audio information from a microphone attached to the driver DVR. The server 200 associates the vehicle information and face information acquired from the controller 100 with the first audio information acquired from the microphone using common identification information (block ST2).
サーバー200は、車両情報および顔情報をドライバーモデルの動きに変換し(ブロックST3)、ドライバーモデルの動きと顔情報とに基づいて動作するドライバーモデルの情報(プラットフォーム300へのドライバーモデルの動きと、プラットフォーム300へのドライバーモデルの表情との情報を含む)を生成する。また、サーバー200は、車両情報に含まれる位置情報から車両の走行位置の風景を判別し、車両VCLの走行する環境に対応する車両映像情報(仮想空間における車窓の投影映像)を作成する(ブロックST4)。
サーバー200は、ドライバーモデルの情報、車両映像情報および第1音声情報を、共通の識別情報により関連付けて、プラットフォーム300に供給する。
The server 200 converts the vehicle information and the face information into a movement of the driver model (block ST3), and generates information of the driver model that operates based on the movement and face information of the driver model (including information on the movement of the driver model toward the platform 300 and the facial expression of the driver model toward the platform 300). The server 200 also determines the scenery of the vehicle's traveling position from the position information included in the vehicle information, and creates vehicle image information (projected image of the vehicle window in the virtual space) that corresponds to the environment in which the vehicle VCL is traveling (block ST4).
The server 200 associates the driver model information, the vehicle image information, and the first audio information with each other using common identification information, and supplies the information to the platform 300.
プラットフォーム300は、サーバー200から供給されたドライバーモデルの情報、車両映像情報および第1音声情報を、識別情報により対応付けて、ドライバーモデルの動作および表情と、第1音声情報と、車両VCLが走行する環境映像とが同期するように3次元の仮想空間情報および音声情報を生成して、プラットフォーム300に接続したユーザ端末に供給する。なお、プラットフォーム300に接続したユーザ端末400の数は、複数でもあり得るし、ゼロでもあり得る。 The platform 300 associates the driver model information, vehicle image information, and first audio information supplied from the server 200 with each other using identification information, generates three-dimensional virtual space information and audio information so that the driver model's movements and facial expressions, the first audio information, and the environmental image in which the vehicle VCL is traveling are synchronized, and supplies the information to a user terminal connected to the platform 300. Note that the number of user terminals 400 connected to the platform 300 may be multiple or zero.
ユーザ端末400は、コンピュータなどの電子デバイス、例えば、PC(Personal Computer)、モバイル端末(例えば、タブレット、スマートフォン、ラップトップ、フィーチャーフォン、ポータブルゲーム機、など)、HMD(Head Mounted Display)、ゲーム機、テレビ受像機(インターネットテレビを含む)、などであり得るが、これらに限られない。ユーザ端末400は、供給された仮想空間情報により生成される仮想現実空間映像を視認可能な態様でユーザに提供する。 The user terminal 400 may be an electronic device such as a computer, for example, a PC (Personal Computer), a mobile terminal (for example, a tablet, a smartphone, a laptop, a feature phone, a portable game console, etc.), an HMD (Head Mounted Display), a game console, a television set (including Internet television), etc., but is not limited to these. The user terminal 400 provides the user with a virtual reality space image generated from the supplied virtual space information in a viewable manner.
ユーザ端末400は、ユーザによるボタン操作やユーザの頭部の動きなどにより、仮想現実空間におけるユーザの視点位置および向きを移動させるよう操作可能である。また、ユーザ端末400はマイクを含み、ユーザが話した音声を含む音声情報(第2音声情報)を取得して、識別子を付してプラットフォーム300へ送信する。 The user terminal 400 can be operated to move the user's viewpoint position and orientation in the virtual reality space by the user operating buttons or moving the user's head. The user terminal 400 also includes a microphone and acquires audio information (second audio information) including the user's voice, assigns an identifier to it, and transmits it to the platform 300.
プラットフォーム300は、ユーザ端末400から取得した第2音声情報をサーバー200へ送信する。サーバー200は、取得した第2音声情報の識別子に基づいて、対応する走行のドライバーDVRの携帯端末1の情報と第2音声情報とを関連付けて(ブロックST2)、携帯端末1を介して第2音声情報をドライバーDVRに提供する。
なお、プラットフォーム300が、ユーザ端末400から取得した第2音声情報の識別子を確認し、対応する走行のドライバーDVRに対して第2音声情報を提供してもよい。サーバー200若しくはプラットフォーム300は、外部のサービスを経由して車両VCLの車載スピーカーへ第2音声情報を供給してもよく、例えばドライバーDVRに装着された(若しくは車両VCL内部でドライバーの近傍に設置された)スピーカーに第2音声情報を供給してもよい。
The platform 300 transmits the second voice information acquired from the user terminal 400 to the server 200. The server 200 associates the second voice information with information of the mobile terminal 1 of the driver DVR of the corresponding trip based on the identifier of the acquired second voice information (block ST2), and provides the second voice information to the driver DVR via the mobile terminal 1.
In addition, the platform 300 may check the identifier of the second audio information acquired from the user terminal 400, and provide the second audio information to the driver DVR of the corresponding trip. The server 200 or the platform 300 may supply the second audio information to an in-vehicle speaker of the vehicle VCL via an external service, for example, to a speaker attached to the driver DVR (or installed in the vicinity of the driver inside the vehicle VCL).
以上のように、本実施形態のコミュニケーションシステムおよびコミュニケーション方法によれば、ドライバーは不特定多数とコミュニケーションの機会を得る事ができる。また、コミュニケーション参加者(ユーザ)は実際に車両に乗ることなく、また人数の制約を受けずにドライバーの操作状態や走行している場所の情報を得る事ができる。
その結果、本実施形態のコミュニケーションシステムおよびコミュニケーション方法によれば、ドライバーは一人で運転しているときであっても、例えば多数の人の話声を聴いたり話したりすることで孤独感を低減し、システムを介したコミュニケーションにより楽しく運転することができる。また、コミュニケーション参加者(プラットフォーム300のユーザ)に対して、あたかも観光バスに乗車して車窓を楽しんだり、ドライバーと一緒にドライブを楽しんだりしているかのような体験を提供することができる。
As described above, the communication system and method of the present embodiment allow the driver to have the opportunity to communicate with an unspecified number of people. Also, communication participants (users) can obtain information about the driver's operating status and the location where the vehicle is traveling without actually getting into the vehicle and without being limited by the number of participants.
As a result, according to the communication system and communication method of the present embodiment, even when a driver is driving alone, the driver can reduce a sense of loneliness by, for example, listening to and talking with many people, and can enjoy driving through communication via the system. Also, the communication participants (users of the platform 300) can be provided with an experience as if they were riding on a tourist bus, enjoying the view from the window, or enjoying a drive together with the driver.
すなわち、本実施形態によれば、ドライバーと不特定多数との間にコミュニケーション機会を供給可能なコミュニケーションシステム、コミュニケーション方法およびコンピュータプログラムを提供できる。 In other words, this embodiment provides a communication system, a communication method, and a computer program that can provide communication opportunities between a driver and an unspecified number of people.
(変形例)
図3は、一実施形態のコミュニケーションシステムの他の構成例を概略的に示すブロック図である。
この例では、コントローラ100が車載のマイク等を介して第1音声情報を取得するとともに取得した第1音声情報をサーバー200へ出力する。また、通信部204は、プラットフォーム300から出力された第2音声情報をコントローラ100へ供給し、コントローラ100が車載スピーカーにより第2音声情報をドライバーDVRに供給している。この例によれば、上述の実施形態と同様の効果が得られるとともに、ドライバーDVRは例えばラジオや音楽を聴くように車載スピーカーから流れる音声を楽しむことができる。また、音声情報がコントローラ100とサーバー200との間で送受信されるため、コントローラ100とサーバー200とによる初期設定が行われればよく、携帯端末1における初期設定をする必要がなくなる。
すなわち、図3に示す変形例によれば、上述の実施形態と同様にドライバーと不特定多数との間にコミュニケーション機会を供給可能なコミュニケーションシステム、コミュニケーション方法およびコンピュータプログラムを提供できる。
(Modification)
FIG. 3 is a block diagram illustrating an example of another configuration of the communication system according to the embodiment.
In this example, the controller 100 acquires first audio information via an in-vehicle microphone or the like and outputs the acquired first audio information to the server 200. The communication unit 204 also supplies second audio information output from the platform 300 to the controller 100, and the controller 100 supplies the second audio information to the driver DVR via the in-vehicle speaker. According to this example, the same effects as those of the above-mentioned embodiment can be obtained, and the driver DVR can enjoy the audio coming from the in-vehicle speaker, for example, as if listening to the radio or music. Furthermore, since audio information is transmitted and received between the controller 100 and the server 200, it is only necessary to perform initial settings by the controller 100 and the server 200, and there is no need to perform initial settings in the mobile terminal 1.
That is, according to the modified example shown in FIG. 3, it is possible to provide a communication system, a communication method, and a computer program capable of providing communication opportunities between a driver and an unspecified number of people, similar to the above-described embodiment.
なお、上述の実施形態では、プラットフォーム300からユーザに対して3次元の仮想現実空間情報を提供するものであったが、これに限定されるものではなく、仮想現実空間の2次元の映像をユーザ端末に供給してもよい。その場合であっても、上述の実施形態と同様の効果を得ることができる。
また、例えばドライバーDVRが、運転中のBGMとして多数の人が会話している音声を聴く場合には、サーバー200およびプラットフォーム300に対する第1音声情報の供給は省略しても構わない。
In the above embodiment, the platform 300 provides the user with three-dimensional virtual reality space information, but the present invention is not limited to this, and a two-dimensional image of the virtual reality space may be provided to the user terminal. Even in this case, the same effects as those of the above embodiment can be obtained.
Also, for example, if the driver DVR listens to the sound of many people conversing as background music while driving, the supply of the first audio information to the server 200 and the platform 300 may be omitted.
また、プラットフォーム300において、各走行に対してアクセスできるユーザ数が制限されてもよく、特定のユーザにのみアクセスが許可されてもよい。また、多数のユーザがプラットフォーム300にアクセスしているときには、サーバー200からドライバーDVRに第2音声情報を供給するときに、それぞれのユーザの音声のボリュームを調整してもよい。
また、ドライバーDVRが車両VCLを駐車場に停車させているとき等、ドライバーDVRが運転をしていないときには、ユーザの映像やアバターが車両VCLに搭載されたディスプレイに表示されてもよい。例えば、コントローラ100は、車両が停車中であるときにサーバー200に対してユーザの映像を要求する信号を送信し、サーバー200がプラットフォーム300からユーザの映像情報やアバター情報を取得してコントローラ100に供給してもよい。
Furthermore, the number of users who can access the platform 300 for each trip may be limited, and access may be permitted only to specific users. When multiple users are accessing the platform 300, the volume of the voice of each user may be adjusted when the second voice information is supplied from the server 200 to the driver DVR.
In addition, when the driver DVR is not driving, such as when the driver DVR has parked the vehicle VCL in a parking lot, the user's video and avatar may be displayed on a display mounted on the vehicle VCL. For example, when the vehicle is parked, the controller 100 may transmit a signal requesting the user's video to the server 200, and the server 200 may obtain the user's video information and avatar information from the platform 300 and supply them to the controller 100.
なお、本発明は、上記実施形態に限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で種々に変形することが可能である。また、各実施形態は適宜組み合わせて実施してもよく、その場合組み合わせた効果が得られる。更に、上記実施形態には種々の発明が含まれており、開示される複数の構成要件から選択された組み合わせにより種々の発明が抽出され得る。例えば、実施形態に示される全構成要件からいくつかの構成要件が削除されても、課題が解決でき、効果が得られる場合には、この構成要件が削除された構成が発明として抽出され得る。
[付記1]
車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報とを取得する第1取得部と、
前記ドライバーの挙動に対応する前記ドライバーの顔情報と、前記車両情報とを、出力する演算部と、
前記ドライバーの第1音声情報を取得する第2取得部と、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、
前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備えたコミュニケーションシステム。
[付記2]
前記ドライバー情報は、前記ドライバーの顔を含むドライバー映像を備え、
前記演算部は、前記ドライバー映像を用いたフェイストラッキングにより前記ドライバーの顔のパーツの位置および大きさに関する表情情報を含む前記顔情報を出力し、
前記第1生成部は、前記表情情報と前記ドライバーモデルの識別情報とを関連付けた情報を含む前記ドライバーモデルの情報を出力する、付記1記載のコミュニケーションシステム。
[付記3]
前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、
前記第1生成部は、前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する、付記1記載のコミュニケーションシステム。
[付記4]
前記第1取得部および前記演算部を含むコントローラと、
前記第2取得部、前記第1生成部、前記第2生成部および前記通信部を備えたサーバーと、を備えた付記1記載のコミュニケーションシステム。
[付記5]
前記第1取得部、前記演算部および前記第2取得部を含むコントローラと、
前記第1生成部、前記第2生成部および前記通信部を備えたサーバーと、を備えた付記1記載のコミュニケーションシステム。
[付記6]
付記1記載のコミュニケーションシステムと、
前記ドライバー情報および前記車両情報を検出するセンサと、を備えた車両。
[付記7]
車両のドライバーの挙動に関するドライバー情報および前記車両に関する車両情報を取得し、
前記ドライバー情報に対応する前記ドライバーの顔情報を生成し、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成し、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成し、
前記ドライバーモデルの情報、前記車両映像情報、および、前記ドライバーの第1音声情報を外部プラットフォームに供給し、
前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する、コミュニケーション方法。
[付記8]
車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報と、前記ドライバーの第1音声情報とに基づいて、前記車両内における前記ドライバーの動作および表情を再現するドライバーモデルおよび前記車両の走行する環境を、仮想空間において構成するための情報を外部プラットフォームへ出力し、
前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する、コミュニケーション方法。
[付記9]
コンピュータに、付記7又は付記8に記載のコミュニケーション方法を実行させるコンピュータプログラム。
[付記10]
車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報とを取得する取得部と、
前記ドライバー情報に対応する前記ドライバーの顔情報と、前記車両情報とを出力する演算部と、を有する端末装置。
[付記11]
車両のドライバーの第1音声情報、前記ドライバーの顔情報および前記車両に関する車両情報を取得する取得部と、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、
前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備えたサーバー。
The present invention is not limited to the above-mentioned embodiment, and can be modified in various ways without departing from the gist of the present invention. The embodiments may be combined as appropriate, and in that case, the combined effect can be obtained. Furthermore, the above-mentioned embodiment includes various inventions, and various inventions can be extracted by combinations selected from the multiple components disclosed. For example, if the problem can be solved and the effect can be obtained even if some components are deleted from all the components shown in the embodiment, the configuration from which the components are deleted can be extracted as an invention.
[Appendix 1]
A first acquisition unit that acquires driver information related to a behavior of a driver of a vehicle and vehicle information related to the vehicle;
A calculation unit that outputs face information of the driver corresponding to the behavior of the driver and the vehicle information;
A second acquisition unit that acquires first voice information of the driver;
A first generation unit that generates information of a driver model that operates based on the face information and the vehicle information;
a second generating unit that generates vehicle image information corresponding to an environment in which the vehicle is traveling based on the vehicle information;
A communication system comprising: a communication unit that supplies the driver model information, the vehicle image information, and the first audio information to an external platform, and supplies second audio information obtained from the external platform to the driver.
[Appendix 2]
The driver information includes a driver image including a face of the driver,
the computing unit outputs the face information including facial expression information related to positions and sizes of the driver's facial features by face tracking using the driver video;
The communication system according to claim 1, wherein the first generation unit outputs information about the driver model including information associating the facial expression information with identification information of the driver model.
[Appendix 3]
The vehicle information includes operation information of the vehicle by the driver,
The communication system according to claim 1, wherein the first generation unit creates motion information of the driver model using the operation information and supplies the motion information to the external platform.
[Appendix 4]
A controller including the first acquisition unit and the calculation unit;
2. The communication system according to claim 1, further comprising: a server including the second acquisition unit, the first generation unit, the second generation unit, and the communication unit.
[Appendix 5]
a controller including the first acquisition unit, the calculation unit, and the second acquisition unit;
2. The communication system according to claim 1, further comprising: a server having the first generation unit, the second generation unit, and the communication unit.
[Appendix 6]
A communication system according to claim 1;
and a sensor for detecting the driver information and the vehicle information.
[Appendix 7]
obtaining driver information relating to the behavior of a driver of a vehicle and vehicle information relating to said vehicle;
generating face information of the driver corresponding to the driver information;
generating information of a driver model that operates based on the face information and the vehicle information;
generating vehicle image information corresponding to an environment in which the vehicle is traveling based on the vehicle information;
Providing the driver model information, the vehicle image information, and the first voice information of the driver to an external platform;
and providing second audio information obtained from the external platform to the driver.
[Appendix 8]
outputting, to an external platform, information for configuring, in a virtual space, a driver model that reproduces the actions and facial expressions of the driver in the vehicle and an environment in which the vehicle travels, based on driver information related to a behavior of a driver of a vehicle, vehicle information related to the vehicle, and first voice information of the driver;
and providing second audio information obtained from the external platform to the driver.
[Appendix 9]
A computer program causing a computer to execute the communication method according to claim 7 or 8.
[Appendix 10]
An acquisition unit that acquires driver information related to a behavior of a driver of a vehicle and vehicle information related to the vehicle;
A terminal device having a calculation unit that outputs face information of the driver corresponding to the driver information and the vehicle information.
[Appendix 11]
an acquisition unit that acquires first voice information of a driver of a vehicle, face information of the driver, and vehicle information related to the vehicle;
A first generation unit that generates information of a driver model that operates based on the face information and the vehicle information;
a second generating unit that generates vehicle image information corresponding to an environment in which the vehicle is traveling based on the vehicle information;
A server comprising: a communication unit that supplies the driver model information, the vehicle image information, and the first audio information to an external platform, and supplies second audio information obtained from the external platform to the driver.
100…コントローラ
101…第1取得部
102…演算部
200…サーバー
201…第2取得部
202…第1生成部
203…第2生成部
204…通信部
300…プラットフォーム
DVR…ドライバー
VCL…車両
CMR…カメラ
SS…位置測定器
REFERENCE SIGNS LIST 100: Controller 101: First acquisition unit 102: Calculation unit 200: Server 201: Second acquisition unit 202: First generation unit 203: Second generation unit 204: Communication unit 300: Platform DVR: Driver VCL: Vehicle CMR: Camera SS: Position measuring device
Claims (9)
前記ドライバーの挙動に対応する前記ドライバーの顔情報と、前記車両情報とを、出力する演算部と、
前記ドライバーの第1音声情報を取得する第2取得部と、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、
前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備え、
前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、
前記第1生成部は、前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する、コミュニケーションシステム。 A first acquisition unit that acquires driver information related to a behavior of a driver of a vehicle and vehicle information related to the vehicle;
A calculation unit that outputs face information of the driver corresponding to the behavior of the driver and the vehicle information;
A second acquisition unit that acquires first voice information of the driver;
A first generation unit that generates information of a driver model that operates based on the face information and the vehicle information;
a second generating unit that generates vehicle image information corresponding to an environment in which the vehicle is traveling based on the vehicle information;
a communication unit that supplies the driver model information, the vehicle image information, and the first voice information to an external platform, and supplies second voice information acquired from the external platform to the driver;
The vehicle information includes operation information of the vehicle by the driver,
The first generation unit creates motion information of the driver model using the operation information and supplies the motion information to the external platform.
前記演算部は、前記ドライバー映像を用いたフェイストラッキングにより前記ドライバーの顔のパーツの位置および大きさに関する表情情報を含む前記顔情報を出力し、
前記第1生成部は、前記表情情報と前記ドライバーモデルの識別情報とを関連付けた情報を含む前記ドライバーモデルの情報を出力する、請求項1記載のコミュニケーションシステム。 The driver information includes a driver image including a face of the driver,
the computing unit outputs the face information including facial expression information related to positions and sizes of the driver's facial features by face tracking using the driver video;
The communication system according to claim 1 , wherein the first generator outputs the information on the driver model including information associating the facial expression information with identification information of the driver model.
前記第2取得部、前記第1生成部、前記第2生成部および前記通信部を備えたサーバーと、を備えた請求項1記載のコミュニケーションシステム。 A controller including the first acquisition unit and the calculation unit;
The communication system according to claim 1 , further comprising: a server including the second acquisition unit, the first generation unit, the second generation unit, and the communication unit.
前記第1生成部、前記第2生成部および前記通信部を備えたサーバーと、を備えた請求項1記載のコミュニケーションシステム。 a controller including the first acquisition unit, the calculation unit, and the second acquisition unit;
The communication system according to claim 1 , further comprising: a server including the first generation unit, the second generation unit, and the communication unit.
前記ドライバー情報および前記車両情報を検出するセンサと、を備えた車両。 A communication system according to claim 1;
and a sensor for detecting the driver information and the vehicle information.
前記ドライバー情報に対応する前記ドライバーの顔情報を生成し、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成し、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成し、
前記ドライバーモデルの情報、前記車両映像情報、および、前記ドライバーの第1音声情報を外部プラットフォームに供給し、
前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する方法であって、
前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、
前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する、コミュニケーション方法。 obtaining driver information relating to the behavior of a driver of a vehicle and vehicle information relating to said vehicle;
generating face information of the driver corresponding to the driver information;
generating information of a driver model that operates based on the face information and the vehicle information;
generating vehicle image information corresponding to an environment in which the vehicle is traveling based on the vehicle information;
Providing the driver model information, the vehicle image information, and the first voice information of the driver to an external platform;
A method for providing second audio information obtained from the external platform to the driver, comprising:
The vehicle information includes operation information of the vehicle by the driver,
a communication method in which movement information of the driver model is created using the operation information and supplied to the external platform.
前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する方法であって、
前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、
前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する、コミュニケーション方法。 outputting, to an external platform, information for configuring, in a virtual space, a driver model that reproduces the actions and facial expressions of the driver in the vehicle and an environment in which the vehicle travels, based on driver information related to a behavior of a driver of a vehicle, vehicle information related to the vehicle, and first voice information of the driver;
A method for providing second audio information obtained from the external platform to the driver, comprising:
The vehicle information includes operation information of the vehicle by the driver,
a communication method in which movement information of the driver model is created using the operation information and supplied to the external platform.
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、
前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備え、
前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、
前記第1生成部は、前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する、サーバー。
an acquisition unit that acquires first voice information of a driver of a vehicle, face information of the driver, and vehicle information related to the vehicle;
A first generation unit that generates information of a driver model that operates based on the face information and the vehicle information;
a second generating unit that generates vehicle image information corresponding to an environment in which the vehicle is traveling based on the vehicle information;
a communication unit that supplies the driver model information, the vehicle image information, and the first voice information to an external platform, and supplies second voice information acquired from the external platform to the driver;
The vehicle information includes operation information of the vehicle by the driver,
The first generation unit creates motion information of the driver model using the operation information and provides the motion information to the external platform.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023032965A JP7635792B2 (en) | 2023-03-03 | 2023-03-03 | COMMUNICATION SYSTEM, VEHICLE, COMMUNICATION METHOD, COMPUTER PROGRAM, AND SERVER |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023032965A JP7635792B2 (en) | 2023-03-03 | 2023-03-03 | COMMUNICATION SYSTEM, VEHICLE, COMMUNICATION METHOD, COMPUTER PROGRAM, AND SERVER |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2024124957A JP2024124957A (en) | 2024-09-13 |
| JP7635792B2 true JP7635792B2 (en) | 2025-02-26 |
Family
ID=92677754
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023032965A Active JP7635792B2 (en) | 2023-03-03 | 2023-03-03 | COMMUNICATION SYSTEM, VEHICLE, COMMUNICATION METHOD, COMPUTER PROGRAM, AND SERVER |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7635792B2 (en) |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150360697A1 (en) | 2014-06-13 | 2015-12-17 | Hyundai Mobis Co., Ltd | System and method for managing dangerous driving index for vehicle |
| JP2019000171A (en) | 2017-06-12 | 2019-01-10 | 株式会社バンダイナムコエンターテインメント | Simulation system and program |
| US20200012277A1 (en) | 2016-03-22 | 2020-01-09 | Tusimple, Inc. | Method and apparatus for vehicle control |
| US20200120371A1 (en) | 2018-10-10 | 2020-04-16 | Rovi Guides, Inc. | Systems and methods for providing ar/vr content based on vehicle conditions |
| US10953850B1 (en) | 2018-04-05 | 2021-03-23 | Ambarella International Lp | Seatbelt detection using computer vision |
| JP2021093577A (en) | 2019-12-06 | 2021-06-17 | トヨタ自動車株式会社 | Image processing device, display system, program, and image processing method |
| JP2021524626A (en) | 2018-05-18 | 2021-09-13 | ヴァレオ、コンフォート、アンド、ドライビング、アシスタンスValeo Comfort And Driving Assistance | Shared environment for vehicle passengers and remote users |
| JP2022129400A (en) | 2021-02-25 | 2022-09-06 | 株式会社Subaru | Driving support device |
| JP2022175096A (en) | 2021-05-12 | 2022-11-25 | 株式会社デンソー | Information presentation apparatus |
-
2023
- 2023-03-03 JP JP2023032965A patent/JP7635792B2/en active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150360697A1 (en) | 2014-06-13 | 2015-12-17 | Hyundai Mobis Co., Ltd | System and method for managing dangerous driving index for vehicle |
| US20200012277A1 (en) | 2016-03-22 | 2020-01-09 | Tusimple, Inc. | Method and apparatus for vehicle control |
| JP2019000171A (en) | 2017-06-12 | 2019-01-10 | 株式会社バンダイナムコエンターテインメント | Simulation system and program |
| US10953850B1 (en) | 2018-04-05 | 2021-03-23 | Ambarella International Lp | Seatbelt detection using computer vision |
| JP2021524626A (en) | 2018-05-18 | 2021-09-13 | ヴァレオ、コンフォート、アンド、ドライビング、アシスタンスValeo Comfort And Driving Assistance | Shared environment for vehicle passengers and remote users |
| US20200120371A1 (en) | 2018-10-10 | 2020-04-16 | Rovi Guides, Inc. | Systems and methods for providing ar/vr content based on vehicle conditions |
| JP2021093577A (en) | 2019-12-06 | 2021-06-17 | トヨタ自動車株式会社 | Image processing device, display system, program, and image processing method |
| JP2022129400A (en) | 2021-02-25 | 2022-09-06 | 株式会社Subaru | Driving support device |
| JP2022175096A (en) | 2021-05-12 | 2022-11-25 | 株式会社デンソー | Information presentation apparatus |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2024124957A (en) | 2024-09-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7143443B2 (en) | Shared environment for vehicle occupants and remote users | |
| CN106415671B (en) | Method and system for presenting digital information related to real objects | |
| US11151775B2 (en) | Image processing apparatus, display system, computer readable recoring medium, and image processing method | |
| US20160260252A1 (en) | System and method for virtual tour experience | |
| JP2005212709A (en) | Vehicle driving supporting system | |
| JP2024177425A (en) | Information processing device, information processing system, and information processing method | |
| JP2024161224A (en) | Information Processing System | |
| CN113085884B (en) | Moving object control device, moving object control method, and storage medium | |
| JP7635792B2 (en) | COMMUNICATION SYSTEM, VEHICLE, COMMUNICATION METHOD, COMPUTER PROGRAM, AND SERVER | |
| CN117750005A (en) | Information management device, information management method, and storage medium | |
| JP2023084966A (en) | Information recording support method, information recording support device, information recording support program, and information recording support system | |
| CN113467616A (en) | Augmented reality processing method and related device, vehicle and storage medium | |
| CN114090812A (en) | Editing apparatus, editing method, and storage medium | |
| CN114830616A (en) | Driver assistance system, crowdsourcing module, method and computer program | |
| JP7718244B2 (en) | Display control method and display control device | |
| US12450916B2 (en) | Information process system | |
| JP7539445B2 (en) | Information management device, information management method, and program | |
| JP7809034B2 (en) | Information Processing Systems | |
| JP2026061405A (en) | Information management device, display control method, and program | |
| JP2025502860A (en) | Facial activity detection for virtual reality systems and methods |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230317 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240507 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240708 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241008 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241121 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250114 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250127 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7635792 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |