JP7692192B2 - Driving simulator and method for controlling driving simulator - Google Patents
Driving simulator and method for controlling driving simulator Download PDFInfo
- Publication number
- JP7692192B2 JP7692192B2 JP2021068394A JP2021068394A JP7692192B2 JP 7692192 B2 JP7692192 B2 JP 7692192B2 JP 2021068394 A JP2021068394 A JP 2021068394A JP 2021068394 A JP2021068394 A JP 2021068394A JP 7692192 B2 JP7692192 B2 JP 7692192B2
- Authority
- JP
- Japan
- Prior art keywords
- student
- gaze point
- image
- display device
- gaze
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
Description
特許法第30条第2項適用 令和2年11月7日 出願人が模擬運転装置、及び模擬運転装置の制御方法に関する情報をウェブサイト(https://www.jsise.org/society/committee/2020/4th/TR-035-04-005.pdf)にて公開
特許法第30条第2項適用 令和2年11月14日 出願人が模擬運転装置、及び模擬運転装置の制御方法に関する情報を教育システム情報学会(JSiSE)2020年度第4回研究会にて公開
特許法第30条第2項適用 令和3年3月14日 出願人が模擬運転装置、及び模擬運転装置の制御方法に関する情報をウェブサイト(https://www.jsise.org/society/committee/2020/6th/TR-035-06-C-1-1.pdf)にて公開
特許法第30条第2項適用 令和3年3月21日 出願人が模擬運転装置、及び模擬運転装置の制御方法に関する情報を教育システム情報学会(JSiSE)2020年度第6回研究会にて公開
本発明は、模擬運転装置、及び模擬運転装置の制御方法に関する。 The present invention relates to a driving simulator and a control method for the driving simulator.
近年、二輪車、自動車、及び鉄道車両等の車両の運転講習用に、模擬運転装置が広く利用されている。例えば、特許文献1には、被験者がブレーキ操作に習熟したと判定した場合に、モード切り替え部が操作習熟モードから本試験モードへ切り替えるよう構成された車両運転シミュレータ装置が記載されている。また、特許文献2には、時間的に切迫した課題の講習用のドライビングシミュレータが記載されている。
In recent years, driving simulation devices have been widely used for driving lessons for vehicles such as motorcycles, automobiles, and railroad cars. For example,
運転は、認知・判断・操作のプロセスを繰り返して行われる。しかし、操作のプロセスは、特許文献1、2に記載の装置を利用して確認することができるが、認知・判断のプロセスは、既存の模擬運転装置を利用しても確認することができない。このため、受講者が自身の運転における認知・判断のプロセスの課題点を正確に把握することができず、認知・判断のプロセスが重要となる安全確認の講習を効果的に行うことができないという課題があった。
Driving involves repeated processes of cognition, judgment, and operation. However, while the operation process can be checked using the devices described in
本発明は、運転における認知・判断を含めた安全確認の講習を効果的に行うことができる模擬運転装置を提供することを目的とする。 The present invention aims to provide a driving simulation device that can effectively conduct training on safety checks, including cognition and judgment while driving.
本発明に係る実施形態の模擬運転装置は、制御装置、表示装置、及び視線検知装置を備え、車両の運転を模擬する模擬運転装置であって、制御装置は、表示装置に表示させる模擬画像を生成して表示装置に出力する画像生成部と、視線検知装置により検知された模擬講習の受講者の視線の方向に基づいて、模擬画像上における受講者の注視点の位置を取得する注視点取得部と、模擬画像上における注視点の動きの教師データを記憶した記憶部と、模擬画像上における受講者の注視点の動きと教師データの注視点の動きとの類似度に基づいて、受講者の運転の安全確認の度合いを評価する評価部と、模擬講習中の受講者による操作装置の操作を表す操作信号を操作装置から取得する操作取得部と、を有し、画像生成部は、操作信号に応じて、表示装置に表示させる模擬画像を生成して表示装置に出力し、評価部は、受講者が操作装置に対して所定の操作を行ったときの受講者の注視点の動きと教師データの注視点の動きとの類似度を、受講者の運転の安全確認の度合いとして計算する。 A driving simulation device according to an embodiment of the present invention is a driving simulation device that includes a control device, a display device, and a gaze detection device, and that simulates driving a vehicle. The control device includes an image generation unit that generates a simulated image to be displayed on the display device and outputs it to the display device, a gaze point acquisition unit that acquires the position of the gaze point of the student on the simulated image based on the direction of the student's gaze in the mock course detected by the gaze detection device, a memory unit that stores teacher data on the movement of the gaze point on the mock image, an evaluation unit that evaluates the student's degree of driving safety confirmation based on the similarity between the movement of the gaze point of the student on the mock image and the movement of the gaze point in the teacher data, and an operation acquisition unit that acquires from the operation device an operation signal representing the operation of the operation device by the student during the mock course. The image generation unit generates a simulated image to be displayed on the display device in response to the operation signal, and outputs it to the display device. The evaluation unit calculates the similarity between the movement of the student's gaze point and the movement of the gaze point in the teacher data when the student performs a specified operation on the operation device as the student's degree of driving safety confirmation .
本発明に係る実施形態の模擬運転装置の制御方法は、表示装置に表示させる模擬画像を生成して表示装置に出力し、視線検知装置により検知された模擬講習の受講者の視線の方向に基づいて、模擬画像上における受講者の注視点の位置を取得し、模擬画像上における受講者の注視点の動きと教師データの注視点の動きとの類似度に基づいて、受講者の運転の安全確認の度合いを評価する。 A control method for a driving simulation device according to an embodiment of the present invention generates a simulated image to be displayed on a display device, outputs the simulated image to the display device, acquires the position of the trainee's gaze point on the simulated image based on the direction of the trainee's gaze in the simulated training detected by a gaze detection device, and evaluates the trainee's degree of safety awareness of driving based on the similarity between the movement of the trainee's gaze point on the simulated image and the movement of the gaze point in the teacher data.
本発明によれば、運転における認知・判断を含めた安全確認の講習を効果的に行うことができる模擬運転装置が提供される。 The present invention provides a driving simulation device that can effectively conduct training on safety checks, including cognition and judgment while driving.
本発明の模擬運転装置は、車両を模擬的に運転する模擬講習の受講者の模擬画像上における注視点の動きと教師データの注視点の動きとの類似度に基づいて、受講者の運転の安全確認の度合いを評価する。これにより、受講者の運転における認知・判断のプロセスが、模擬画像上における受講者の注視点の動きに基づいて評価されるため、受講者は、運転における認知・判断を含めた安全確認の課題点を正確に把握することができる。 The driving simulation device of the present invention evaluates the degree of safety confirmation of a trainee's driving based on the similarity between the movement of the trainee's gaze point on a simulated image in a simulated training course in which the trainee drives a vehicle and the movement of the gaze point in the teacher data. As a result, the trainee's cognition and judgment process in driving is evaluated based on the movement of the trainee's gaze point on a simulated image, allowing the trainee to accurately grasp issues with safety confirmation, including cognition and judgment, in driving.
以下、好適な実施形態について図面を用いて説明する。なお、本発明は以下の実施形態に限定されるものではなく、その要旨を逸脱しない範囲において適宜変更可能である。また、各図において同一、又は相当する機能を有するものは、同一符号を付し、その説明を省略又は簡潔にすることもある。 The following describes preferred embodiments with reference to the drawings. Note that the present invention is not limited to the following embodiments, and can be modified as appropriate without departing from the spirit of the invention. In addition, in each drawing, parts having the same or equivalent functions are given the same reference numerals, and their description may be omitted or simplified.
図1は、模擬運転装置1の構成の一例を示す図である。模擬運転装置1は、制御装置2、ハンドル31、減速操作手段32、加速操作手段33、表示装置4、及び視線検知装置5を備える。模擬運転装置1は、更にスピーカ等を備えてもよい。なお、図1には、自動車の講習用の模擬運転装置1の構成の一例を示したが、模擬運転装置1は、二輪車及び鉄道車両等の講習用であってもよい。
Figure 1 is a diagram showing an example of the configuration of a
制御装置2は、有線又は無線により、ハンドル31、減速操作手段32、加速操作手段33、表示装置4、及び視線検知装置5と通信可能に接続され、模擬運転装置1の全体を制御する。また、制御装置2は、模擬講習シナリオに基づいて、受講者の車両が他車両6a、6b、歩行者7a、7b、自転車8等と共に移動する仮想空間をシミュレートするための演算装置としても機能する。
The
ハンドル31、減速操作手段32、及び加速操作手段33は、模擬講習の受講者が車両を模擬的に運転するために操作され、受講者によって操作されたことを示す操作信号を制御装置2に出力する。模擬運転装置1が自動車の講習用である場合、ハンドル31、減速操作手段32、及び加速操作手段33は、それぞれステアリングホイール、ブレーキペダル、及びアクセルペダルである。模擬運転装置1が鉄道車両の講習用である場合には、ハンドル31は省略される。
The
表示装置4は、受講者の前方に配置され、模擬講習の受講者が仮想空間上の車両から見ることになる仮想空間上の景観を模擬画像41として表示する。この模擬画像41は、制御装置2により生成されて表示装置4に出力される。例えば、図1に示す模擬画像41には、受講者が車両の前方に見る仮想空間上の道路上の景観が表示され、模擬画像41の右上には、受講者が仮想空間上のバックミラー42を介して車両の後方に見る景観が表示されている。模擬講習の受講者は、模擬画像41上に表示された他車両6a、6b、歩行者7a、7b、自転車8等の注意物体に車両が衝突しないように、ハンドル31、減速操作手段32、及び加速操作手段33を操作しながら、車両を模擬的に運転する。模擬画像41上には、受講者が注意すべき他車両6b、歩行者7a、7b、自転車8等が、図形9により又は色を変えて強調して表示されてもよい。図形9は、例えば円形の枠形状とされ、色は、例えば赤色とされる。これにより、受講者の注視点が適切に注意物体に誘導されるため、運転の安全確認の講習が効果的に行われる。
The
視線検知装置5は、例えば、図1に示すように受講者の前方に配置された表示装置4上に設置され、受講者の視線の方向を検知して制御装置2に出力する。視線検知装置5として、例えば、可視光又は赤外線カメラを有し、可視光又は赤外線カメラで撮影した受講者の眼の画像内における瞳の位置に基づいて受講者の視線の方向を検知するものが用いられる。
The
図2は、制御装置2及び操作装置3のハードウェア構成の一例を示す図である。制御装置2は、内部バス20を介して相互に通信可能に接続された記憶部21、制御部22、外部通信I/F23、及び映像出力I/F24を有する。また、操作装置3は、ハンドル31、減速操作手段32、及び加速操作手段33を有する。
Figure 2 is a diagram showing an example of the hardware configuration of the
記憶部21は、RAM(Random Access Memory)等の揮発性メモリと、HDD(Hard Disk Drive)又はフラッシュメモリ(登録商標)等の不揮発性メモリを有する。また、記憶部21は、制御部22により実行されるコンピュータプログラムと、コンピュータプログラムにより処理されるデータ等を記憶する。
The
制御部22は、一以上のプロセッサ及び周辺回路を有し、記憶部21に記憶されたコンピュータプログラムを実行して模擬運転装置1の各部を制御する。制御部22は、FPGA(Field Programmable Gate Array)、又はASIC(Application Specific Integrated Circuit)等の集積回路により構成されてもよい。
The
外部通信I/F23は、制御部22を、通信線30を介して操作装置3及び視線検知装置5と接続するための通信I/F回路を有し、制御部22が操作装置3及び視線検知装置5と通信することを可能とする。外部通信I/F23は、操作装置3又は視線検知装置5から出力される信号を受信して制御部22に送信し、制御部22から出力される信号を受信して操作装置3又は視線検知装置5に送信する。
The external communication I/
映像出力I/F24は、制御部22を、通信線40を介して表示装置4と接続するための通信I/F回路を有し、制御部22が表示装置4と通信することを可能とする。映像出力I/F24は、表示装置4から出力される信号を受信して制御部22に送信し、制御部22から出力される信号を受信して表示装置4に送信する。
The video output I/F 24 has a communication I/F circuit for connecting the
図3は、模擬運転装置1の記憶部21及び制御部22の機能ブロック図である。記憶部21は、画像生成プログラム211、操作取得プログラム212、評価プログラム213、及び注視点取得プログラム214を、ソフトウェアモジュール又はファームウェア等として記憶する。制御部22は、記憶部21に記憶された各コンピュータプログラムを読み出して実行することにより、画像生成部221、操作取得部222、評価部223、及び注視点取得部224として機能する。
Figure 3 is a functional block diagram of the
また、記憶部21は、後述する教師データ215等を、不揮発性メモリに記憶してもよい。
The
図4は、模擬運転装置1の制御方法の一例を示すフローチャートである。このフローチャートは、模擬講習の受講者が、模擬画像41上に表示される注意物体に車両が衝突しないように、操作装置3を操作して車両を模擬的に運転している間、及びその後に、制御装置2において制御部22により実行される。
Figure 4 is a flowchart showing an example of a control method for the driving
ステップS1において、画像生成部221は、表示装置4に表示させる模擬画像41を生成して表示装置4に出力する。また、操作取得部222は、模擬講習の受講者が操作装置3を操作したことを示す操作信号を操作装置3から取得し、記憶部21に操作データとして記憶する。
In step S1, the
ステップS2において、注視点取得部224は、視線検知装置5により検知される受講者の視線の方向を示す信号を視線検知装置5から取得し、取得した信号に基づいて模擬画像41上における受講者の注視点の位置を計算し、記憶部21に注視点データとして記憶する。ここで、視線とは、視線検知装置5により検知される受講者の視線の方向を意味し、注視点とは、注視点取得部224により受講者の視線の方向に基づいて計算される、受講者が注視している模擬画像41上の視点の位置座標を意味する。
In step S2, the gaze
画像生成部221、操作取得部222、及び注視点取得部224は、模擬講習シナリオが終了するまでステップS1~S2を繰り返す(ステップS3でNo)。
The
模擬講習シナリオが終了すると(ステップS3でYes)、評価部223は、ステップS4において、模擬画像41上における受講者の注視点の動きと教師データの注視点の動きとの類似度を計算する。ここで、教師データは、例えば、予め模範運転者に模擬講習シナリオを受講させて取得した視線の動きを、教師データ215として記憶部21に記憶したものが用いられる。
When the mock training scenario is completed (Yes in step S3), the
図5は、受講者の注視点の動き10と教師データの注視点の動き11の一例を示す図である。図5(a)には、模擬講習シナリオにおいて、受講者の運転する車両が交差点に近づいたときに注視点取得部224により取得された受講者の注視点の動き10と、記憶部21に記憶された教師データの注視点の動き11が、模擬画像41上に重ねて図示されている。また、図5(b)には、受講者の注視点の動き10の時刻tiにおける位置座標pi、qiと、教師データの注視点の動き11の時刻tiにおける位置座標ri、siが図示されている。また、図5(c)には、図5(b)に示した受講者の注視点の動き10と教師データの注視点の動き11から時間情報を除いた、受講者の注視点の軌跡12と教師データの注視点の軌跡13が図示されている。
Figure 5 is a diagram showing an example of the
模擬講習の受講者は、車両が交差点に近づくと、時刻t0において減速操作手段32を操作して車両を減速させる。このとき、受講者の注視点の動き10は、路上停車中の他車両6a、他車両6aの死角に隠れた歩行者7a、対向車線を移動する他車両6b、横断歩道を渡ろうとする歩行者7bの上を順に移動し、他車両6aに戻っている。
When the vehicle approaches an intersection, the participant in the simulation course operates the deceleration operating means 32 at time t0 to decelerate the vehicle. At this time, the
他方、模範運転者が同じ模擬講習シナリオを受講した教師データの注視点の動き11は、受講者の注視点の動き10に加えて、バックミラー42に映った後方から近づく自転車8の上を更に移動している。このように、受講者の注視点の動き10と教師データの注視点の動き11とを比較することによって、受講者が、バックミラー42に映った後方から近づく自転車8に対する安全確認を見落としていることを知ることができる。
On the other hand, the
そこで、評価部223は、例えば、受講者が操作装置3に対して所定の操作を行ったときの受講者の注視点の動き10と教師データの注視点の動き11との類似度を計算する。所定の操作は、例えば、減速操作手段32の操作とされる。この場合、評価部223は、図5(b)に示した受講者の注視点の動き10と教師データの注視点の動き11との類似度を、例えば、下式(1)で計算することができる。
類似度 = 1/Σ{(pi-ri)2+(qi-si)2} (1)
Therefore, the
Similarity = 1/Σ{(pi-ri) 2 + (qi-si) 2 } (1)
ここで、Σは、時刻t0から時刻t4までの各時刻tiについての和を表す。時刻tiは、受講者が減速操作手段32を操作した時刻t0が基準時刻となるように規格化されており、時刻t4は、時刻t0から一定期間が経過した時刻であり、一定期間は、例えば2秒とされる。 Here, Σ represents the sum for each time ti from time t0 to time t4. Time ti is normalized so that time t0, when the student operates the deceleration operation means 32, is the reference time, and time t4 is the time when a certain period of time has passed since time t0, and the certain period of time is, for example, 2 seconds.
或いは、評価部223は、受講者が所定の操作を行った時間を含む一定期間内における受講者の注視点の軌跡12と教師データの注視点の軌跡13との空間的類似度を計算してもよい。この場合、評価部223は、図5(c)に示した受講者の注視点の軌跡12と教師データの注視点の軌跡13の類似度を、例えば、文献(内藤 弘望, 松浦 健二, 柏原 昭博, 齊藤 玲, 戸井 健夫, 栗田 弦太 : 視線誘導を導入した自動車運転時の気づき支援環境, 教育システム情報学会2020年度第4回研究会, Vol.35, No.4, 21-26, 2020年11月)に記載のDTW(Dynamic Time Warping)距離の逆数として計算することができる。これにより、受講者が、模擬画像41上の注意物体を確認した順序に関わらず、注意物体を確認したか否かを知ることができる。
Alternatively, the
類似度を計算するタイミングとなる所定の操作は、減速操作手段32の操作に限定されず、より複雑な操作であってもよい。例えば、所定の操作は、受講者が操作装置3を、減速操作手段32、ハンドル31、加速操作手段33の順に操作したことであってもよい。この場合、類似度を計算する上述の一定期間は、例えば、受講者が減速操作手段32を操作してから加速操作手段33を操作するまでの期間としてもよい。
The predetermined operation that is the timing for calculating the similarity is not limited to the operation of the deceleration operation means 32, but may be a more complicated operation. For example, the predetermined operation may be the trainee operating the
ステップS5において、評価部223は、ステップS4において計算した類似度に基づいて、受講者の運転の安全確認の度合いを評価する。例えば、評価部223は、複数のシーンにおいて計算した類似度の平均値を、受講者の運転の安全確認の評価値とすることができる。これにより、模擬画像上における受講者の注視点の動きが、運転における操作のプロセスと関連付けられて、受講者の運転の安全確認の度合いが評価されるため、受講者の運転における認知・判断・操作のプロセスを総合的に評価することが可能となる。
In step S5, the
ステップS6において、画像生成部221は、模擬講習中に取得して記憶部21に記憶した受講者の操作データに応じて模擬講習の再生画像43を生成し、模擬講習中に取得して記憶部21に記憶した受講者の注視点データを、再生画像43上に重ねて表示装置4に再生させる。
In step S6, the
図6は、表示装置4に再生された再生画像43の一例を示す図である。図6に示す再生画像43上には、受講者の注視点の動き10と教師データの注視点の動き11が重ねて再生され、受講者は、プレイバック再生される再生画像43を見て、自身の運転における安全確認の課題点を把握することができる。なお、図5(a)では、説明の便宜上、受講者の注視点の動き10と教師データの注視点の動き11を模擬画像41上に重ねて図示したが、これらは模擬講習中においては模擬画像41上に重ねて表示されないことに注意されたい。
Figure 6 is a diagram showing an example of a
画像生成部221は、再生画像43上に表示される注意物体のうち、受講者の注視点が重なっていないが、教師データの注視点が重なっているものを、模擬画像上に図形9により又は色を変えて強調して表示させてもよい。図形9は、例えば円形の枠形状とされ、色は、例えば赤色とされる。これにより、受講者は、運転の安全確認において、例えば図6に示されるバックミラー42に映った後方から近づく自転車8を見落としたことを、図形9等により知ることができるため、自身の運転における安全確認の課題点を把握しやすくなる。
The
画像生成部221は、評価部223により計算された受講者の運転の安全確認の評価値を、表示装置4に出力して表示させてもよい。
The
以上のように、模擬運転装置は、制御装置、表示装置、及び視線検知装置を備え、車両の運転を模擬する模擬運転装置であって、制御装置は、表示装置に表示させる模擬画像を生成して表示装置に出力する画像生成部と、視線検知装置により検知された模擬講習の受講者の視線の方向に基づいて、模擬画像上における受講者の注視点の位置を取得する注視点取得部と、模擬画像上における注視点の動きの教師データを記憶した記憶部と、模擬画像上における受講者の注視点の動きと教師データの注視点の動きとの類似度に基づいて、受講者の運転の安全確認の度合いを評価する評価部と、模擬講習中の受講者による操作装置の操作を表す操作信号を操作装置から取得する操作取得部と、を有し、画像生成部は、操作信号に応じて、表示装置に表示させる模擬画像を生成して表示装置に出力し、評価部は、受講者が操作装置に対して所定の操作を行ったときの受講者の注視点の動きと教師データの注視点の動きとの類似度を、受講者の運転の安全確認の度合いとして計算する。これにより、運転における認知・判断を含めた安全確認の講習を効果的に行うことができる模擬運転装置が提供される。 As described above, the driving simulation device is a driving simulation device that includes a control device, a display device, and a gaze detection device, and simulates driving of a vehicle. The control device has an image generation unit that generates a simulated image to be displayed on the display device and outputs it to the display device, a gaze point acquisition unit that acquires the position of the gaze point of the student on the simulated image based on the direction of the student's gaze in the mock course detected by the gaze detection device, a memory unit that stores teacher data on the movement of the gaze point on the mock image, an evaluation unit that evaluates the student's degree of safety confirmation of driving based on the similarity between the movement of the gaze point of the student on the mock image and the movement of the gaze point in the teacher data, and an operation acquisition unit that acquires from the operation device an operation signal representing the operation of the operation device by the student during the mock course , and the image generation unit generates a simulated image to be displayed on the display device in response to the operation signal and outputs it to the display device, and the evaluation unit calculates the similarity between the movement of the student's gaze point and the movement of the gaze point in the teacher data when the student performs a specified operation on the operation device as the student's degree of safety confirmation of driving . This provides a driving simulation device that can effectively conduct training on safety checks, including cognition and judgment while driving.
上述の実施形態は、いずれも本発明を実施するにあたっての具体化の例を示したものに過ぎず、これらによって本発明の技術的範囲が限定的に解釈されてはならないものである。すなわち、本発明はその技術思想、又はその主要な特徴から逸脱することなく、様々な形で実施することができる。 The above-described embodiments are merely examples of how the present invention can be implemented, and the technical scope of the present invention should not be interpreted in a limiting manner based on these. In other words, the present invention can be implemented in various forms without departing from its technical concept or main features.
1 模擬運転装置
2 制御装置
3 操作装置
4 表示装置
5 視線検知装置
6a 他車両
6b 他車両
7a 歩行者
7b 歩行者
8 自転車
9 図形
31 ハンドル
32 減速操作手段
33 加速操作手段
41 模擬画像
42 バックミラー
43 再生画像
211 画像生成プログラム
212 操作取得プログラム
213 評価プログラム
214 注視点取得プログラム
221 画像生成部
222 操作取得部
223 評価部
224 注視点取得部
REFERENCE SIGNS
Claims (8)
前記制御装置は、
前記表示装置に表示させる模擬画像を生成して前記表示装置に出力する画像生成部と、
前記視線検知装置により検知された模擬講習の受講者の視線の方向に基づいて、前記模擬画像上における前記受講者の注視点の位置を取得する注視点取得部と、
前記模擬画像上における注視点の動きの教師データを記憶した記憶部と、
前記模擬画像上における前記受講者の注視点の動きと前記教師データの注視点の動きとの類似度に基づいて、前記受講者の運転の安全確認の度合いを評価する評価部と、
模擬講習中の前記受講者による操作装置の操作を表す操作信号を前記操作装置から取得する操作取得部と、
を有し、
前記画像生成部は、前記操作信号に応じて、前記表示装置に表示させる模擬画像を生成して前記表示装置に出力し、
前記評価部は、前記受講者が前記操作装置に対して所定の操作を行ったときの前記受講者の注視点の動きと前記教師データの注視点の動きとの前記類似度を、前記受講者の運転の安全確認の度合いとして計算する、模擬運転装置。 A driving simulator that includes a control device, a display device, and a gaze detection device and that simulates driving a vehicle,
The control device includes:
an image generating unit that generates a simulated image to be displayed on the display device and outputs the simulated image to the display device;
a gaze point acquisition unit that acquires a position of a gaze point of the student on the simulated image based on a gaze direction of the student in the simulated training detected by the gaze detection device;
A storage unit that stores teacher data on the movement of the gaze point on the simulated image;
an evaluation unit that evaluates a degree of the student's driving safety confirmation based on a similarity between a movement of the gaze point of the student on the simulation image and a movement of the gaze point of the teacher data;
an operation acquisition unit that acquires an operation signal representing an operation of the operation device by the trainee during the mock training from the operation device;
having
the image generation unit generates a simulated image to be displayed on the display device in response to the operation signal, and outputs the simulated image to the display device;
The evaluation unit calculates the similarity between the movement of the gaze point of the student when the student performs a specified operation on the operating device and the movement of the gaze point of the teacher data as a degree of the student's confirmation of safety in driving.
前記制御装置は、
前記表示装置に表示させる模擬画像を生成して前記表示装置に出力する画像生成部と、
前記視線検知装置により検知された模擬講習の受講者の視線の方向に基づいて、前記模擬画像上における前記受講者の注視点の位置を取得する注視点取得部と、
前記模擬画像上における注視点の動きの教師データを記憶した記憶部と、
前記模擬画像上における前記受講者の注視点の動きと前記教師データの注視点の動きとの類似度に基づいて、前記受講者の運転の安全確認の度合いを評価する評価部と、
模擬講習中の前記受講者による操作装置の操作を表す操作信号を前記操作装置から取得する操作取得部と、
を有し、
前記画像生成部は、前記操作信号に応じて、前記表示装置に表示させる模擬画像を生成して前記表示装置に出力し、
前記評価部は、前記受講者が前記操作装置に対して所定の操作を行った時間を含む一定期間内における前記受講者の注視点の軌跡と前記教師データの注視点の軌跡との空間的類似度を、前記受講者の運転の安全確認の度合いとして計算する、模擬運転装置。 A driving simulator that includes a control device, a display device, and a gaze detection device and that simulates driving a vehicle,
The control device includes:
an image generating unit that generates a simulated image to be displayed on the display device and outputs the simulated image to the display device;
a gaze point acquisition unit that acquires a position of a gaze point of the student on the simulated image based on a gaze direction of the student in the simulated training detected by the gaze detection device;
A storage unit that stores teacher data on the movement of the gaze point on the simulated image;
an evaluation unit that evaluates a degree of the student's driving safety confirmation based on a similarity between a movement of the gaze point of the student on the simulation image and a movement of the gaze point of the teacher data;
an operation acquisition unit that acquires an operation signal representing an operation of the operation device by the trainee during the mock training from the operation device;
having
the image generation unit generates a simulated image to be displayed on the display device in response to the operation signal, and outputs the simulated image to the display device;
The evaluation unit calculates the spatial similarity between the trajectory of the gaze point of the student and the trajectory of the gaze point of the teacher data within a certain period of time including the time when the student performed a specified operation on the operating device as a degree of the student's confirmation of safe driving.
前記制御装置は、
前記表示装置に表示させる模擬画像を生成して前記表示装置に出力する画像生成部と、
前記視線検知装置により検知された模擬講習の受講者の視線の方向に基づいて、前記模擬画像上における前記受講者の注視点の位置を取得する注視点取得部と、
前記模擬画像上における注視点の動きの教師データを記憶した記憶部と、
前記模擬画像上における前記受講者の注視点の動きと前記教師データの注視点の動きとの類似度に基づいて、前記受講者の運転の安全確認の度合いを評価する評価部と、
模擬講習中の前記受講者による操作装置の操作を表す操作信号を前記操作装置から取得する操作取得部と、
を有し、
前記画像生成部は、前記操作信号に応じて、前記表示装置に表示させる模擬画像を生成して前記表示装置に出力し、
前記受講者が前記模擬講習を終了した後において、
前記画像生成部は、前記操作取得部が取得して前記記憶部に記憶した前記操作信号に応じて前記模擬講習の再生画像を生成し、前記注視点取得部が取得して前記記憶部に記憶した前記受講者の注視点の動きを前記再生画像に重ねて、前記模擬画像として前記表示装置に表示させ、前記受講者の注視点が重なっておらず、かつ、前記教師データの注視点が重なっている注意物体を、前記再生画像上に図形により又は色を変えて強調して表示させる、模擬運転装置。 A driving simulator that includes a control device, a display device, and a gaze detection device and that simulates driving a vehicle,
The control device includes:
an image generating unit that generates a simulated image to be displayed on the display device and outputs the simulated image to the display device;
a gaze point acquisition unit that acquires a position of a gaze point of the student on the simulated image based on a gaze direction of the student in the simulated training detected by the gaze detection device;
A storage unit that stores teacher data on the movement of the gaze point on the simulated image;
an evaluation unit that evaluates a degree of the student's driving safety confirmation based on a similarity between a movement of the gaze point of the student on the simulation image and a movement of the gaze point of the teacher data;
an operation acquisition unit that acquires an operation signal representing an operation of the operation device by the trainee during the mock training from the operation device;
having
the image generation unit generates a simulated image to be displayed on the display device in response to the operation signal, and outputs the simulated image to the display device;
After the participant has completed the mock training,
The image generation unit generates a playback image of the mock lesson in response to the operation signal acquired by the operation acquisition unit and stored in the memory unit, overlays the movement of the gaze point of the participant acquired by the gaze point acquisition unit and stored in the memory unit onto the playback image and displays it on the display device as the mock image, and highlights objects to be noted that are not overlapped by the gaze point of the participant but are overlapped by the gaze point of the teacher data on the playback image using a graphic or a different color, in a simulated driving device.
前記所定の操作は、前記受講者が、前記減速操作手段を操作したことを含む、
請求項1又は2に記載の模擬運転装置。 The operating device includes a deceleration operating means,
The predetermined operation includes the student operating the deceleration operation means.
3. A driving simulation device according to claim 1 or 2 .
前記所定の操作は、前記受講者が、前記減速操作手段、前記ハンドル、前記加速操作手段の順に操作したことを含む、
請求項1又は2に記載の模擬運転装置。 The operating device includes a handle, a deceleration operating means, and an acceleration operating means,
The predetermined operation includes the trainee operating the deceleration operation means, the steering wheel, and the acceleration operation means in this order.
3. A driving simulation device according to claim 1 or 2 .
前記制御装置が、
前記表示装置に表示させる模擬画像を生成して前記表示装置に出力し、
前記視線検知装置により検知された模擬講習の受講者の視線の方向に基づいて、前記模擬画像上における前記受講者の注視点の位置を取得し、
前記模擬画像上における前記受講者の注視点の動きと教師データの注視点の動きとの類似度に基づいて、前記受講者の運転の安全確認の度合いを評価し、
模擬講習中の前記受講者による操作装置の操作を表す操作信号を前記操作装置から取得し、
前記操作信号に応じて、前記表示装置に表示させる模擬画像を生成して前記表示装置に出力され、
前記受講者が前記操作装置に対して所定の操作を行ったときの前記受講者の注視点の動きと前記教師データの注視点の動きとの前記類似度が、前記受講者の運転の安全確認の度合いとして計算される、
模擬運転装置の制御方法。 A control method for a driving simulator that includes a control device, a display device, and a gaze detection device and that simulates driving a vehicle, comprising:
The control device,
generating a simulated image to be displayed on the display device and outputting the simulated image to the display device;
Based on the direction of gaze of the student in the mock training detected by the gaze detection device, a position of the gaze point of the student on the mock training image is acquired;
evaluating a degree of driving safety confirmation of the student based on a similarity between a movement of a gaze point of the student on the simulated image and a movement of a gaze point of the teacher data;
acquiring, from the operating device, an operation signal representing an operation of the operating device by the trainee during the mock training;
a simulated image to be displayed on the display device is generated in response to the operation signal, and the simulated image is output to the display device;
The similarity between the movement of the gaze point of the student when the student performs a predetermined operation on the operation device and the movement of the gaze point of the teacher data is calculated as a degree of driving safety confirmation of the student.
A method for controlling a driving simulator.
前記制御装置が、
前記表示装置に表示させる模擬画像を生成して前記表示装置に出力し、
前記視線検知装置により検知された模擬講習の受講者の視線の方向に基づいて、前記模擬画像上における前記受講者の注視点の位置を取得し、
前記模擬画像上における前記受講者の注視点の動きと教師データの注視点の動きとの類似度に基づいて、前記受講者の運転の安全確認の度合いを評価し、
模擬講習中の前記受講者による操作装置の操作を表す操作信号を前記操作装置から取得し、
前記操作信号に応じて、前記表示装置に表示させる模擬画像を生成して前記表示装置に出力され、
前記受講者が前記操作装置に対して所定の操作を行った時間を含む一定期間内における前記受講者の注視点の軌跡と前記教師データの注視点の軌跡との空間的類似度が、前記受講者の運転の安全確認の度合いとして計算される、
模擬運転装置の制御方法。 A control method for a driving simulator that includes a control device, a display device, and a gaze detection device and that simulates driving a vehicle, comprising:
The control device,
generating a simulated image to be displayed on the display device and outputting the simulated image to the display device;
Based on the direction of gaze of the student in the mock training detected by the gaze detection device, a position of the gaze point of the student on the mock training image is acquired;
evaluating a degree of driving safety confirmation of the student based on a similarity between a movement of a gaze point of the student on the simulated image and a movement of a gaze point of the teacher data;
acquiring, from the operating device, an operation signal representing an operation of the operating device by the trainee during the mock training;
a simulated image to be displayed on the display device is generated in response to the operation signal, and the simulated image is output to the display device;
A spatial similarity between a trajectory of a gaze point of the student and a trajectory of a gaze point of the teacher data within a certain period including a time when the student performed a predetermined operation on the operation device is calculated as a degree of driving safety confirmation of the student.
A method for controlling a driving simulator.
前記制御装置が、
前記表示装置に表示させる模擬画像を生成して前記表示装置に出力し、
前記視線検知装置により検知された模擬講習の受講者の視線の方向に基づいて、前記模擬画像上における前記受講者の注視点の位置を取得しかつ記憶部に記憶し、
前記模擬画像上における前記受講者の注視点の動きと、前記模擬画像上における注視点の動きの教師データを記憶した前記記憶部から読み出された教師データの注視点の動きとの類似度に基づいて、前記受講者の運転の安全確認の度合いを評価し、
模擬講習中の前記受講者による操作装置の操作を表す操作信号を前記操作装置から取得しかつ前記記憶部に記憶され、
前記操作信号に応じて、前記表示装置に表示させる模擬画像を生成して前記表示装置に出力され、
前記受講者が前記模擬講習を終了した後において、
前記記憶部に記憶された前記操作信号に応じて前記模擬講習の再生画像が生成され、前記記憶部に記憶された前記受講者の注視点の動きを前記再生画像に重ねて、前記模擬画像として前記表示装置に表示され、前記受講者の注視点が重なっておらず、かつ、前記教師データの注視点が重なっている注意物体が、前記再生画像上に図形により又は色を変えて強調して表示される、
模擬運転装置の制御方法。 A control method for a driving simulator that includes a control device, a display device, and a gaze detection device and that simulates driving a vehicle, comprising:
The control device,
generating a simulated image to be displayed on the display device and outputting the simulated image to the display device;
Based on the direction of the gaze of the student in the mock training detected by the line of sight detection device, the position of the gaze point of the student on the mock training image is acquired and stored in a storage unit;
Evaluating a degree of the trainee's driving safety confirmation based on a similarity between a movement of the gaze point of the trainee on the simulated image and a movement of the gaze point of the teacher data read from the storage unit storing teacher data of the movement of the gaze point on the simulated image;
An operation signal representing an operation of an operating device by the trainee during the mock training is acquired from the operating device and stored in the storage unit;
a simulated image to be displayed on the display device is generated in response to the operation signal, and the simulated image is output to the display device;
After the participant has completed the mock training,
A replay image of the mock training is generated in response to the operation signal stored in the storage unit, and the movement of the gaze point of the student stored in the storage unit is superimposed on the replay image and displayed on the display device as the mock image, and a note object that is not overlapped by the gaze point of the student and is overlapped by the gaze point of the teacher data is highlighted by a graphic or a changed color on the replay image.
A method for controlling a driving simulator.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021068394A JP7692192B2 (en) | 2021-04-14 | 2021-04-14 | Driving simulator and method for controlling driving simulator |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2021068394A JP7692192B2 (en) | 2021-04-14 | 2021-04-14 | Driving simulator and method for controlling driving simulator |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022163458A JP2022163458A (en) | 2022-10-26 |
| JP7692192B2 true JP7692192B2 (en) | 2025-06-13 |
Family
ID=83742289
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2021068394A Active JP7692192B2 (en) | 2021-04-14 | 2021-04-14 | Driving simulator and method for controlling driving simulator |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7692192B2 (en) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP7671516B2 (en) | 2023-02-06 | 2025-05-02 | デジタルデザインスタジオ株式会社 | Driving skill information acquisition system and data management system |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005208478A (en) | 2004-01-26 | 2005-08-04 | Ota Hiroo | Simulated driving device |
| JP2011059269A (en) | 2009-09-08 | 2011-03-24 | Shinshu Univ | Automobile driving cognitive action evaluation device |
| JP2013003594A (en) | 2011-06-10 | 2013-01-07 | Daihatsu Motor Co Ltd | Mobile terminal device and driving evaluation system |
| JP2015045826A (en) | 2013-08-29 | 2015-03-12 | スズキ株式会社 | Electric wheelchair driver education device |
| JP2021051301A (en) | 2019-09-17 | 2021-04-01 | 公益財団法人鉄道総合技術研究所 | Conductor simulation training system |
-
2021
- 2021-04-14 JP JP2021068394A patent/JP7692192B2/en active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005208478A (en) | 2004-01-26 | 2005-08-04 | Ota Hiroo | Simulated driving device |
| JP2011059269A (en) | 2009-09-08 | 2011-03-24 | Shinshu Univ | Automobile driving cognitive action evaluation device |
| JP2013003594A (en) | 2011-06-10 | 2013-01-07 | Daihatsu Motor Co Ltd | Mobile terminal device and driving evaluation system |
| JP2015045826A (en) | 2013-08-29 | 2015-03-12 | スズキ株式会社 | Electric wheelchair driver education device |
| JP2021051301A (en) | 2019-09-17 | 2021-04-01 | 公益財団法人鉄道総合技術研究所 | Conductor simulation training system |
Non-Patent Citations (1)
| Title |
|---|
| 東京海上グループ、VR交通安全システムを開発 体験講習会を実施,MoguraVR [online],2019年09月18日,https://www.moguravr.com/tokiorisk-vr/,[2022年2月9日検索] |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022163458A (en) | 2022-10-26 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10810900B2 (en) | Online method for training vehicle drivers and determining hazard detection proficiency | |
| US10614726B2 (en) | Behaviorally-based crash avoidance system | |
| CN105741643B (en) | Automatic implementation method, device and system for training driving technology | |
| JP7687609B2 (en) | Driving simulator and method for controlling driving simulator | |
| US11436935B2 (en) | System, method and apparatus for driver training system with stress management | |
| JP5076592B2 (en) | Driver risk acquisition device | |
| JP2009042435A (en) | Safe driving education device and program | |
| US20240320132A1 (en) | Test environment for urban human-machine interaction | |
| JP2003288003A (en) | Driving training result evaluation system and method | |
| CN104504957A (en) | Car frame training system based on force feedback | |
| CN110580836A (en) | MR-based driving emergency response training device and training method | |
| CN111445764A (en) | An intelligent driving school system and working method for driver road test training | |
| JP7692192B2 (en) | Driving simulator and method for controlling driving simulator | |
| JP5090891B2 (en) | Safe driving teaching system | |
| JP7006034B2 (en) | Driving simulator device, driving simulation method, and its program | |
| JP2012155285A (en) | Drive hazard predictive learning support system | |
| CN119169904B (en) | Processing method, system, device and storage medium for driving technology assessment learning | |
| JP7064424B2 (en) | Driving training system | |
| CN104103207A (en) | Training experience system for using automobile light safely in civilized mode | |
| TWI632471B (en) | Method and system for evaluating driving risk | |
| WO2024209665A1 (en) | Driving training control device and recording medium | |
| RU127984U1 (en) | INSTALLATION FOR EVALUATING THE TIME OF THE REACTION OF A VEHICLE DRIVER TO DANGEROUS SITUATIONS | |
| Mangalore et al. | Can Virtual Reality Headsets be Used to Measure Accurately Drivers’ Anticipatory Behaviors? | |
| TWM552127U (en) | System for evaluating driving risk | |
| Fitzpatrick et al. | Risk Awareness and Perception Training using VR Headsets: The Validation of VR Headsets to Measure Hazard Anticipation Behaviors |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20210514 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240405 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20250124 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250128 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250317 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20250408 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20250422 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250513 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250523 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7692192 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |