JP7635792B2 - コミュニケーションシステム、車両、コミュニケーション方法、コンピュータプログラムおよびサーバー - Google Patents
コミュニケーションシステム、車両、コミュニケーション方法、コンピュータプログラムおよびサーバー Download PDFInfo
- Publication number
- JP7635792B2 JP7635792B2 JP2023032965A JP2023032965A JP7635792B2 JP 7635792 B2 JP7635792 B2 JP 7635792B2 JP 2023032965 A JP2023032965 A JP 2023032965A JP 2023032965 A JP2023032965 A JP 2023032965A JP 7635792 B2 JP7635792 B2 JP 7635792B2
- Authority
- JP
- Japan
- Prior art keywords
- information
- driver
- vehicle
- unit
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
本発明の第2態様による車両は、車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報とを検出するセンサと、第1態様によるコミュニケーションシステムと、を備える。
本発明の第7態様によるサーバーは、車両のドライバーの第1音声情報、前記ドライバーの顔情報および前記車両に関する車両情報を取得する取得部と、前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備え、前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、前記第1生成部は、前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する。
図1は、一実施形態のコミュニケーションシステムの一構成例を概略的に示すブロック図である。
本実施形態のコミュニケーションシステムは、コントローラ100と、サーバー200とを備えている。
主記憶部は、例えば、ROM(read-only memory)、RAM(random-access memory)を含み得る。ROMは、専らデータの読み出しに用いられる不揮発性メモリであり、プロセッサが各種の処理を行う上で使用するデータ及び各種の設定値などを記憶することができる。また、RAMは、プロセッサが各種の処理を行う上で一時的にデータを記憶しておく、いわゆるワークエリアとして利用され得る。
補助記憶部は、プロセッサが各種の処理を行う上で使用するデータ、プロセッサでの処理によって生成されたデータ又は各種の設定値などを保存することができる。
コントローラ100は、第1取得部101と、演算部102とを備える。
第1取得部101は、種々のセンサから車両VCLに関する情報(車両情報)および車両VCLのドライバーDVRの挙動に関する情報(ドライバー情報)を取得することができる。なお、コントローラ100は車両VCLに搭載されていてもよく、車両VCLに取り付け可能に構成されてもよい。また、コントローラ100は、ネットワークを介して外部のサーバー200と通信可能である。
演算部102は、ドライバー情報を用いてドライバーの顔情報を検出し、ドライバー情報に対応する顔情報と、車両情報とを、ネットワークを介してサーバー200へ出力する。
本実施形態においては、ドライバーDVRのマイク及びスピーカーは、ドライバーDVRにより使用される携帯端末1に搭載されているとする。ドライバーDVRのマイク及びスピーカーは、携帯端末1の通信機能を介して、サーバー200と音声情報を送受信することが可能であるとする。
第2取得部201は、ドライバーDVRの第1音声情報と、コントローラ100から出力されたドライバー顔情報および車両情報と、を取得する。
第1生成部202は、顔情報および車両情報に基づくドライバーモデルの表情および動作情報を生成する。例えば、サーバー200は、ドライバーDVRの顔情報に含まれる顔のパーツ(目、鼻、口、眉)の位置や形状などから、ドライバーモデルの表情情報を生成することができる。ドライバーモデルの表情情報は、例えば喜怒哀楽や、驚き、迷い、焦り、疲労などのドライバーDVRの感情や状態を示す情報であってもよく、具体的に顔のパーツの大きさや位置や動きを示す情報であってもよい。
なお、サーバー200は、車両映像情報を生成するための映像データやオブジェクトデータが蓄積されたデータベースを含んでいてもよく、サーバー200の外部のデータベースから映像データやオブジェクトデータを取得してもよい。
また、本実施形態のコミュニケーションシステムにおいて、上記サーバー200の少なくとも一部の機能はコントローラ100により実現されてもよく、コントローラ100とサーバー200とが一体に構成され、車両VCLに搭載されてもよい。
プラットフォーム300は、ドライバーモデルの動作および表情と、第1音声情報と、車両VCLが走行する環境映像とが同期するように仮想空間情報を生成して、プラットフォーム300に接続したユーザ端末400に供給する。
また、プラットフォーム300は、仮想空間情報を提供したユーザ端末400から音声情報(第2音声情報)を取得すると、対応する走行IDを付してサーバー200へ送信する。
最初に、コントローラ100と、サーバー200と、ドライバーDVRのマイクおよびスピーカーが搭載された携帯端末1との間で初期設定を行う。例えば、マイクおよびスピーカーは、車載又は車両VCL内部でドライバーの近傍に設置されていてもよい。初期設定では、コントローラ100で取得される情報と、携帯端末1のマイクから供給される音声情報と、携帯端末1のスピーカーへ供給する音声情報との対応付けが可能であるように、コントローラ100とサーバー200と携帯端末1とで扱う情報に必要な識別子(走行ID)が設定される。
サーバー200は、ドライバーモデルの情報、車両映像情報および第1音声情報を、共通の識別情報により関連付けて、プラットフォーム300に供給する。
なお、プラットフォーム300が、ユーザ端末400から取得した第2音声情報の識別子を確認し、対応する走行のドライバーDVRに対して第2音声情報を提供してもよい。サーバー200若しくはプラットフォーム300は、外部のサービスを経由して車両VCLの車載スピーカーへ第2音声情報を供給してもよく、例えばドライバーDVRに装着された(若しくは車両VCL内部でドライバーの近傍に設置された)スピーカーに第2音声情報を供給してもよい。
その結果、本実施形態のコミュニケーションシステムおよびコミュニケーション方法によれば、ドライバーは一人で運転しているときであっても、例えば多数の人の話声を聴いたり話したりすることで孤独感を低減し、システムを介したコミュニケーションにより楽しく運転することができる。また、コミュニケーション参加者(プラットフォーム300のユーザ)に対して、あたかも観光バスに乗車して車窓を楽しんだり、ドライバーと一緒にドライブを楽しんだりしているかのような体験を提供することができる。
図3は、一実施形態のコミュニケーションシステムの他の構成例を概略的に示すブロック図である。
この例では、コントローラ100が車載のマイク等を介して第1音声情報を取得するとともに取得した第1音声情報をサーバー200へ出力する。また、通信部204は、プラットフォーム300から出力された第2音声情報をコントローラ100へ供給し、コントローラ100が車載スピーカーにより第2音声情報をドライバーDVRに供給している。この例によれば、上述の実施形態と同様の効果が得られるとともに、ドライバーDVRは例えばラジオや音楽を聴くように車載スピーカーから流れる音声を楽しむことができる。また、音声情報がコントローラ100とサーバー200との間で送受信されるため、コントローラ100とサーバー200とによる初期設定が行われればよく、携帯端末1における初期設定をする必要がなくなる。
すなわち、図3に示す変形例によれば、上述の実施形態と同様にドライバーと不特定多数との間にコミュニケーション機会を供給可能なコミュニケーションシステム、コミュニケーション方法およびコンピュータプログラムを提供できる。
また、例えばドライバーDVRが、運転中のBGMとして多数の人が会話している音声を聴く場合には、サーバー200およびプラットフォーム300に対する第1音声情報の供給は省略しても構わない。
また、ドライバーDVRが車両VCLを駐車場に停車させているとき等、ドライバーDVRが運転をしていないときには、ユーザの映像やアバターが車両VCLに搭載されたディスプレイに表示されてもよい。例えば、コントローラ100は、車両が停車中であるときにサーバー200に対してユーザの映像を要求する信号を送信し、サーバー200がプラットフォーム300からユーザの映像情報やアバター情報を取得してコントローラ100に供給してもよい。
[付記1]
車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報とを取得する第1取得部と、
前記ドライバーの挙動に対応する前記ドライバーの顔情報と、前記車両情報とを、出力する演算部と、
前記ドライバーの第1音声情報を取得する第2取得部と、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、
前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備えたコミュニケーションシステム。
[付記2]
前記ドライバー情報は、前記ドライバーの顔を含むドライバー映像を備え、
前記演算部は、前記ドライバー映像を用いたフェイストラッキングにより前記ドライバーの顔のパーツの位置および大きさに関する表情情報を含む前記顔情報を出力し、
前記第1生成部は、前記表情情報と前記ドライバーモデルの識別情報とを関連付けた情報を含む前記ドライバーモデルの情報を出力する、付記1記載のコミュニケーションシステム。
[付記3]
前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、
前記第1生成部は、前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する、付記1記載のコミュニケーションシステム。
[付記4]
前記第1取得部および前記演算部を含むコントローラと、
前記第2取得部、前記第1生成部、前記第2生成部および前記通信部を備えたサーバーと、を備えた付記1記載のコミュニケーションシステム。
[付記5]
前記第1取得部、前記演算部および前記第2取得部を含むコントローラと、
前記第1生成部、前記第2生成部および前記通信部を備えたサーバーと、を備えた付記1記載のコミュニケーションシステム。
[付記6]
付記1記載のコミュニケーションシステムと、
前記ドライバー情報および前記車両情報を検出するセンサと、を備えた車両。
[付記7]
車両のドライバーの挙動に関するドライバー情報および前記車両に関する車両情報を取得し、
前記ドライバー情報に対応する前記ドライバーの顔情報を生成し、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成し、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成し、
前記ドライバーモデルの情報、前記車両映像情報、および、前記ドライバーの第1音声情報を外部プラットフォームに供給し、
前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する、コミュニケーション方法。
[付記8]
車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報と、前記ドライバーの第1音声情報とに基づいて、前記車両内における前記ドライバーの動作および表情を再現するドライバーモデルおよび前記車両の走行する環境を、仮想空間において構成するための情報を外部プラットフォームへ出力し、
前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する、コミュニケーション方法。
[付記9]
コンピュータに、付記7又は付記8に記載のコミュニケーション方法を実行させるコンピュータプログラム。
[付記10]
車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報とを取得する取得部と、
前記ドライバー情報に対応する前記ドライバーの顔情報と、前記車両情報とを出力する演算部と、を有する端末装置。
[付記11]
車両のドライバーの第1音声情報、前記ドライバーの顔情報および前記車両に関する車両情報を取得する取得部と、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、
前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備えたサーバー。
101…第1取得部
102…演算部
200…サーバー
201…第2取得部
202…第1生成部
203…第2生成部
204…通信部
300…プラットフォーム
DVR…ドライバー
VCL…車両
CMR…カメラ
SS…位置測定器
Claims (9)
- 車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報とを取得する第1取得部と、
前記ドライバーの挙動に対応する前記ドライバーの顔情報と、前記車両情報とを、出力する演算部と、
前記ドライバーの第1音声情報を取得する第2取得部と、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、
前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備え、
前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、
前記第1生成部は、前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する、コミュニケーションシステム。 - 前記ドライバー情報は、前記ドライバーの顔を含むドライバー映像を備え、
前記演算部は、前記ドライバー映像を用いたフェイストラッキングにより前記ドライバーの顔のパーツの位置および大きさに関する表情情報を含む前記顔情報を出力し、
前記第1生成部は、前記表情情報と前記ドライバーモデルの識別情報とを関連付けた情報を含む前記ドライバーモデルの情報を出力する、請求項1記載のコミュニケーションシステム。 - 前記第1取得部および前記演算部を含むコントローラと、
前記第2取得部、前記第1生成部、前記第2生成部および前記通信部を備えたサーバーと、を備えた請求項1記載のコミュニケーションシステム。 - 前記第1取得部、前記演算部および前記第2取得部を含むコントローラと、
前記第1生成部、前記第2生成部および前記通信部を備えたサーバーと、を備えた請求項1記載のコミュニケーションシステム。 - 請求項1記載のコミュニケーションシステムと、
前記ドライバー情報および前記車両情報を検出するセンサと、を備えた車両。 - 車両のドライバーの挙動に関するドライバー情報および前記車両に関する車両情報を取得し、
前記ドライバー情報に対応する前記ドライバーの顔情報を生成し、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成し、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成し、
前記ドライバーモデルの情報、前記車両映像情報、および、前記ドライバーの第1音声情報を外部プラットフォームに供給し、
前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する方法であって、
前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、
前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する、コミュニケーション方法。 - 車両のドライバーの挙動に関するドライバー情報と、前記車両に関する車両情報と、前記ドライバーの第1音声情報とに基づいて、前記車両内における前記ドライバーの動作および表情を再現するドライバーモデルおよび前記車両の走行する環境を、仮想空間において構成するための情報を外部プラットフォームへ出力し、
前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する方法であって、
前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、
前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する、コミュニケーション方法。 - コンピュータに、請求項6又は請求項7に記載のコミュニケーション方法を実行させるコンピュータプログラム。
- 車両のドライバーの第1音声情報、前記ドライバーの顔情報および前記車両に関する車両情報を取得する取得部と、
前記顔情報および前記車両情報に基づいて動作するドライバーモデルの情報を生成する第1生成部と、
前記車両情報に基づく前記車両の走行する環境に対応する車両映像情報を生成する第2生成部と、
前記ドライバーモデルの情報、前記車両映像情報および前記第1音声情報を外部プラットフォームに供給するとともに、前記外部プラットフォームから取得した第2音声情報を前記ドライバーに供給する通信部と、を備え、
前記車両情報は、前記ドライバーによる前記車両の操作情報を含み、
前記第1生成部は、前記操作情報を用いて前記ドライバーモデルの動き情報を作成して前記外部プラットフォームに供給する、サーバー。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023032965A JP7635792B2 (ja) | 2023-03-03 | 2023-03-03 | コミュニケーションシステム、車両、コミュニケーション方法、コンピュータプログラムおよびサーバー |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2023032965A JP7635792B2 (ja) | 2023-03-03 | 2023-03-03 | コミュニケーションシステム、車両、コミュニケーション方法、コンピュータプログラムおよびサーバー |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2024124957A JP2024124957A (ja) | 2024-09-13 |
| JP7635792B2 true JP7635792B2 (ja) | 2025-02-26 |
Family
ID=92677754
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2023032965A Active JP7635792B2 (ja) | 2023-03-03 | 2023-03-03 | コミュニケーションシステム、車両、コミュニケーション方法、コンピュータプログラムおよびサーバー |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7635792B2 (ja) |
Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150360697A1 (en) | 2014-06-13 | 2015-12-17 | Hyundai Mobis Co., Ltd | System and method for managing dangerous driving index for vehicle |
| JP2019000171A (ja) | 2017-06-12 | 2019-01-10 | 株式会社バンダイナムコエンターテインメント | シミュレーションシステム及びプログラム |
| US20200012277A1 (en) | 2016-03-22 | 2020-01-09 | Tusimple, Inc. | Method and apparatus for vehicle control |
| US20200120371A1 (en) | 2018-10-10 | 2020-04-16 | Rovi Guides, Inc. | Systems and methods for providing ar/vr content based on vehicle conditions |
| US10953850B1 (en) | 2018-04-05 | 2021-03-23 | Ambarella International Lp | Seatbelt detection using computer vision |
| JP2021093577A (ja) | 2019-12-06 | 2021-06-17 | トヨタ自動車株式会社 | 画像処理装置、表示システム、プログラムおよび画像処理方法 |
| JP2021524626A (ja) | 2018-05-18 | 2021-09-13 | ヴァレオ、コンフォート、アンド、ドライビング、アシスタンスValeo Comfort And Driving Assistance | 車両の搭乗者及び遠隔ユーザのための共有環境 |
| JP2022129400A (ja) | 2021-02-25 | 2022-09-06 | 株式会社Subaru | 運転支援装置 |
| JP2022175096A (ja) | 2021-05-12 | 2022-11-25 | 株式会社デンソー | 情報提示装置 |
-
2023
- 2023-03-03 JP JP2023032965A patent/JP7635792B2/ja active Active
Patent Citations (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150360697A1 (en) | 2014-06-13 | 2015-12-17 | Hyundai Mobis Co., Ltd | System and method for managing dangerous driving index for vehicle |
| US20200012277A1 (en) | 2016-03-22 | 2020-01-09 | Tusimple, Inc. | Method and apparatus for vehicle control |
| JP2019000171A (ja) | 2017-06-12 | 2019-01-10 | 株式会社バンダイナムコエンターテインメント | シミュレーションシステム及びプログラム |
| US10953850B1 (en) | 2018-04-05 | 2021-03-23 | Ambarella International Lp | Seatbelt detection using computer vision |
| JP2021524626A (ja) | 2018-05-18 | 2021-09-13 | ヴァレオ、コンフォート、アンド、ドライビング、アシスタンスValeo Comfort And Driving Assistance | 車両の搭乗者及び遠隔ユーザのための共有環境 |
| US20200120371A1 (en) | 2018-10-10 | 2020-04-16 | Rovi Guides, Inc. | Systems and methods for providing ar/vr content based on vehicle conditions |
| JP2021093577A (ja) | 2019-12-06 | 2021-06-17 | トヨタ自動車株式会社 | 画像処理装置、表示システム、プログラムおよび画像処理方法 |
| JP2022129400A (ja) | 2021-02-25 | 2022-09-06 | 株式会社Subaru | 運転支援装置 |
| JP2022175096A (ja) | 2021-05-12 | 2022-11-25 | 株式会社デンソー | 情報提示装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2024124957A (ja) | 2024-09-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7143443B2 (ja) | 車両の搭乗者及び遠隔ユーザのための共有環境 | |
| CN106415671B (zh) | 用于呈现与真实对象相关的数字信息的方法和系统 | |
| US11151775B2 (en) | Image processing apparatus, display system, computer readable recoring medium, and image processing method | |
| US20160260252A1 (en) | System and method for virtual tour experience | |
| JP2005212709A (ja) | 車両運転支援システム | |
| JP2024177425A (ja) | 情報処理装置、情報処理システム、および情報処理方法 | |
| JP2024161224A (ja) | 情報処理システム | |
| CN113085884B (zh) | 移动体控制装置、移动体控制方法及存储介质 | |
| JP7635792B2 (ja) | コミュニケーションシステム、車両、コミュニケーション方法、コンピュータプログラムおよびサーバー | |
| CN117750005A (zh) | 信息管理装置、信息管理方法及存储介质 | |
| JP2023084966A (ja) | 情報記録支援方法、情報記録支援装置、情報記録支援プログラム、及び、情報記録支援システム | |
| CN113467616A (zh) | 增强现实处理方法和相关装置、车辆、存储介质 | |
| CN114090812A (zh) | 编辑装置、编辑方法及存储介质 | |
| CN114830616A (zh) | 驾驶员辅助系统、众包模块、方法和计算机程序 | |
| JP7718244B2 (ja) | 表示制御方法及び表示制御装置 | |
| US12450916B2 (en) | Information process system | |
| JP7539445B2 (ja) | 情報管理装置、情報管理方法、及びプログラム | |
| JP7809034B2 (ja) | 情報処理システム | |
| JP2026061405A (ja) | 情報管理装置、表示制御方法、およびプログラム | |
| JP2025502860A (ja) | 仮想現実システム及び方法のための顔活動検出法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230317 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240507 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240708 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241008 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241121 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250114 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250127 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7635792 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |