JP6970377B2 - In-vehicle user interface device - Google Patents
In-vehicle user interface device Download PDFInfo
- Publication number
- JP6970377B2 JP6970377B2 JP2017232089A JP2017232089A JP6970377B2 JP 6970377 B2 JP6970377 B2 JP 6970377B2 JP 2017232089 A JP2017232089 A JP 2017232089A JP 2017232089 A JP2017232089 A JP 2017232089A JP 6970377 B2 JP6970377 B2 JP 6970377B2
- Authority
- JP
- Japan
- Prior art keywords
- stereoscopic image
- display device
- vehicle
- shared
- content
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Controls And Circuits For Display Device (AREA)
- User Interface Of Digital Computer (AREA)
Description
本発明は、様々なコンテンツを立体映像として空間に表示し、その立体映像の周囲におけるユーザーの手の動きに応じて立体映像を変化させる車載ユーザーインターフェース装置に関する。 The present invention relates to an in-vehicle user interface device that displays various contents as a stereoscopic image in a space and changes the stereoscopic image according to the movement of a user's hand around the stereoscopic image.
従来、液晶パネルなどの表示装置を用いた車載表示装置が知られている(例えば、特許文献1参照)。このような車載表示装置は、空調装置など車両に備わる各種装置に関する情報を表示するだけではなく、車両周辺の施設に関する情報なども表示することができる。 Conventionally, an in-vehicle display device using a display device such as a liquid crystal panel is known (see, for example, Patent Document 1). Such an in-vehicle display device can not only display information about various devices provided in the vehicle such as an air conditioner, but also display information about facilities around the vehicle.
このように車両のユーザーに提示する情報は多種多様となっているため、ユーザーに分かりやすく表示するための様々な工夫がなされている。例えば、複数の情報を三次元的に画面に表示し、ユーザーの操作に基づいて表示位置などを変化させている。 Since the information presented to the user of the vehicle is diverse in this way, various measures have been taken to display it in an easy-to-understand manner for the user. For example, a plurality of pieces of information are displayed three-dimensionally on the screen, and the display position and the like are changed based on the user's operation.
しかしながら、表示装置の表示範囲は、多数の情報を表示するには限界があり、ユーザーにとって見難いものとなってしまう。また、ユーザーの操作によって情報を見やすい位置に表示させるとしても、そのために必要な操作が複数ステップを踏む必要があるなど、煩雑になってしまう。さらに、表示装置は、車両に1台ではなく、複数台搭載されることもある。複数台の表示装置に各種の情報を単に羅列したのでは、ユーザーにとって、必要な情報の所在が分かりにくく、また、所望する情報を得るための操作も分かりにくい。 However, the display range of the display device has a limit for displaying a large amount of information, which makes it difficult for the user to see. Further, even if the information is displayed in an easy-to-see position by the user's operation, the operation required for that purpose needs to take a plurality of steps, which is complicated. Further, a plurality of display devices may be mounted on the vehicle instead of one. If various types of information are simply listed on multiple display devices, it is difficult for the user to understand the location of the necessary information, and it is also difficult for the user to understand the operation for obtaining the desired information.
本発明は、このような事情に鑑みてなされたものであり、車両のユーザーにとって使い勝手がよく、直観的にコンテンツを得ることができる複数の表示装置を備える車載ユーザーインターフェース装置を提供することを目的とする。 The present invention has been made in view of such circumstances, and an object of the present invention is to provide an in-vehicle user interface device including a plurality of display devices that are easy to use for a vehicle user and can intuitively obtain contents. And.
上記課題を解決する本発明の第1の態様は、所定のコンテンツを記憶した記憶装置と、車室の座席に着席した全てのユーザーから視認できるように複数の前記コンテンツを立体画像として表示する共有表示装置と、車室の座席に着席した各ユーザーからのみ視認できるように複数の前記コンテンツを立体画像として表示する個別表示装置と、ユーザーの手の動作を検出する動作検出手段と、前記立体画像を選択する動作、及び前記立体画像を移動させる動作を検出したとき、選択された前記立体画像を前記動作に追随させて移動させる表示制御部と、を備え、前記表示制御部は、前記共有表示装置及び前記個別表示装置を用いる共有モード、前記個別表示装置を用いる個別モードの何れかに切り替えて前記コンテンツを立体画像として表示させることを特徴とする車載ユーザーインターフェース装置にある。 A first aspect of the present invention that solves the above problems is a storage device that stores predetermined contents and a shared display of a plurality of the contents as a stereoscopic image so that all users seated in the passenger compartment can see the contents. A display device, an individual display device that displays a plurality of the contents as a stereoscopic image so that only each user seated in the passenger compartment can see the content, an motion detection means for detecting the motion of the user's hand, and the stereoscopic image. The display control unit includes a display control unit that moves the selected stereoscopic image according to the operation when the operation of selecting the image and the operation of moving the stereoscopic image are detected, and the display control unit performs the shared display. It is an in-vehicle user interface device characterized by switching between a shared mode using the device and the individual display device and an individual mode using the individual display device to display the content as a stereoscopic image.
第1の態様では、ユーザーの手の動作を検出し、この動作に追随するようにコンテンツを立体画像として共通表示装置及び個別表示装置に表示することができる。これらの共通表示装置及び個別表示装置に立体画像を表示する表示態様としては、個別モードと共有モードがあり、ユーザー数や利用目的に応じて切替えられる。これにより、ユーザーは、利用目的に応じて直観的な操作で所望する情報を容易に得ることができる。 In the first aspect, the movement of the user's hand can be detected, and the content can be displayed as a stereoscopic image on the common display device and the individual display device so as to follow this movement. As a display mode for displaying a stereoscopic image on these common display devices and individual display devices, there are an individual mode and a shared mode, which are switched according to the number of users and the purpose of use. As a result, the user can easily obtain desired information by an intuitive operation according to the purpose of use.
本発明の第2の態様は、第1の態様に記載の車載ユーザーインターフェース装置であって、前記表示制御部は、前記共有モードにおいて、前記個別表示装置に表示された前記立体画像を前記個別表示装置の表示領域の外へ移動させる手の動作を検出したとき、前記個別表示装置から前記立体画像を非表示にすると共に前記共有表示装置に表示させることを特徴とする車載ユーザーインターフェース装置にある。 The second aspect of the present invention is the in-vehicle user interface device according to the first aspect, and the display control unit displays the stereoscopic image displayed on the individual display device in the shared mode. The in-vehicle user interface device is characterized in that when the movement of a hand moving out of the display area of the device is detected, the stereoscopic image is hidden from the individual display device and displayed on the shared display device.
第2の態様では、直観的な操作によって、ある乗員から他の乗員へコンテンツを共有することができる。 In the second aspect, content can be shared from one occupant to another by an intuitive operation.
本発明の第3の態様は、第1又は第2の態様に記載の車載ユーザーインターフェース装置において、前記表示制御部は、前記共有モードにおいて、前記共有表示装置に表示された前記立体画像を前記個別表示装置側へ移動させる手の動作を検出したとき、前記共有表示装置から前記立体画像を非表示にすると共に前記個別表示装置に表示させることを特徴とする車載ユーザーインターフェース装置にある。 A third aspect of the present invention is the in-vehicle user interface device according to the first or second aspect, wherein the display control unit displays the stereoscopic image displayed on the shared display device in the shared mode. The in-vehicle user interface device is characterized in that when the movement of a hand moving to the display device side is detected, the stereoscopic image is hidden from the shared display device and displayed on the individual display device.
第3の態様では、直観的な操作によって、自らの手元に立体画像を移動し、詳細を閲覧することができる。 In the third aspect, the stereoscopic image can be moved to one's own hand and the details can be viewed by an intuitive operation.
本発明の第4の態様は、第1から第3の何れか一つの態様に記載の車載ユーザーインターフェース装置において、前記表示制御部は、前記共有モードにおいて、前記個別表示装置に表示された前記立体画像に対する手の動作を検出したとき、前記立体画像に関連する他の立体画像を前記共有表示装置に表示することを特徴とする車載ユーザーインターフェース装置にある。 A fourth aspect of the present invention is the in-vehicle user interface device according to any one of the first to third aspects, wherein the display control unit is the stereoscopic display displayed on the individual display device in the shared mode. It is an in-vehicle user interface device characterized by displaying another stereoscopic image related to the stereoscopic image on the shared display device when the movement of a hand with respect to the image is detected.
第4の態様では、一人のユーザーがコンテンツに対する操作を他の乗員に邪魔されず、混乱なく行うことができ、他のユーザーはその結果として得られたコンテンツを共有表示装置で閲覧することができる。 In the fourth aspect, one user can operate the content without being disturbed by other occupants and can perform the operation without confusion, and the other user can view the resulting content on the shared display device. ..
本発明の第5の態様は、第1から第4の何れか一つの態様に記載の車載ユーザーインターフェース装置において、前記記憶装置は、車両と通信可能なサーバー装置に設けられ、前記コンテンツは、前記コンテンツを分類する分類情報が付与され、前記表示制御部は、車両のユーザーにより指定された分類情報が付与された前記コンテンツを前記サーバー装置から取得し、前記個別モードでは前記個別表示装置に前記コンテンツを表示し、前記共有モードでは前記共有表示装置に前記コンテンツを表示することを特徴とする車載ユーザーインターフェース装置にある。 A fifth aspect of the present invention is the in-vehicle user interface device according to any one of the first to fourth aspects, wherein the storage device is provided in a server device capable of communicating with a vehicle, and the content is described. Classification information for classifying the content is given, and the display control unit acquires the content to which the classification information specified by the user of the vehicle is given from the server device, and in the individual mode, the content is given to the individual display device. In the shared mode, the vehicle-mounted user interface device is characterized in that the content is displayed on the shared display device.
第5の態様では、他の車両に乗車している同好のユーザーとの間でコンテンツを交換することができる。 In the fifth aspect, content can be exchanged with like-minded users in other vehicles.
本発明の第6の態様は、第1から第5の何れか一つの態様に記載の車載ユーザーインターフェース装置において、前記記憶装置は、車両と通信可能なサーバー装置に設けられ、前記コンテンツは、ユーザーの属性からなるユーザー情報を含み、前記表示制御部は、車両のユーザー以外のユーザーの属性が、車両のユーザーの属性と一致するユーザー情報を前記サーバー装置から取得し、前記個別モードでは前記個別表示装置に前記ユーザー情報を表示し、前記共有モードでは前記共有表示装置に前記ユーザー情報を表示することを特徴とする車載ユーザーインターフェース装置にある。 A sixth aspect of the present invention is the in-vehicle user interface device according to any one of the first to fifth aspects, wherein the storage device is provided in a server device capable of communicating with a vehicle, and the content is a user. The display control unit acquires user information from the server device whose attributes of users other than the user of the vehicle match the attributes of the user of the vehicle, including the user information consisting of the attributes of the above, and in the individual mode, the individual display The vehicle-mounted user interface device is characterized in that the user information is displayed on the device and the user information is displayed on the shared display device in the shared mode.
第6の態様では、他の車両に乗車し、ユーザーの属性、例えば趣味や生活パターンなどが近い他のユーザーとコンテンツを交換したり、面識を得ることができる。 In the sixth aspect, it is possible to get on another vehicle and exchange contents or get acquaintance with other users who have similar user attributes such as hobbies and lifestyle patterns.
本発明によれば、車両のユーザーにとって使い勝手がよく、直観的にコンテンツを得ることができる複数の表示装置を備える車載ユーザーインターフェース装置が提供される。 INDUSTRIAL APPLICABILITY According to the present invention, there is provided an in-vehicle user interface device including a plurality of display devices that are easy to use for a vehicle user and can intuitively obtain content.
以下、本発明を実施するための形態について説明する。なお、実施形態の説明は例示であり、本発明は以下の説明に限定されない。 Hereinafter, embodiments for carrying out the present invention will be described. The description of the embodiment is an example, and the present invention is not limited to the following description.
〈実施形態1〉
図1は車載ユーザーインターフェース装置の概略平面図であり、図2は共通表示装置及びモーションセンサーを示す斜視図であり、図3は個別表示装置及びモーションセンサーを示す斜視図及び平面図であり、図4は共通表示装置及び個別表示装置を示す斜視図である。る。車両1の前後方向をX方向とし、車幅方向をY方向とし、高さ方向をZ方向とする。以後の図においても同様である。
<
1 is a schematic plan view of an in-vehicle user interface device, FIG. 2 is a perspective view showing a common display device and a motion sensor, and FIG. 3 is a perspective view and a plan view showing an individual display device and a motion sensor. 4 is a perspective view showing a common display device and an individual display device. NS. The front-rear direction of the
図1に示すように、車両1の車室4には、前席(運転席及び助手席)を構成する2つの前席シート2(2A,2B)と、後席を構成する2つの後席シート3(3A,3B)とが配置されている。
As shown in FIG. 1, in the
前席シート2は、鉛直軸(Z軸)回りで回動自在に設けられている。つまり前席シート2は、車両前方を向く前向き位置と、車両後方を向いて後席シート3と対面する後ろ向き位置と、の間で回動自在に設けられている。 The front seat 2 is rotatably provided around a vertical axis (Z axis). That is, the front seat 2 is rotatably provided between a front-facing position facing the front of the vehicle and a rear-facing position facing the rear of the vehicle and facing the rear seat 3.
また、前席シート2及び後席シート3は、いわゆる電動シートであり、電動モータ等によりシートを車両1の前後方向でスライド移動するスライド装置(図示せず)を備えている。さらに、前席シート2は、電動モータ等によりシートを回動させる回動装置(図示せず)を備えている。スライド装置及び回動装置の構成は、特に限定されず、既存の構成を採用すればよい。このため、スライド装置及び回動装置についての詳細な説明は省略する。
Further, the front seat 2 and the rear seat 3 are so-called electric seats, and are provided with a slide device (not shown) that slides and moves the seat in the front-rear direction of the
前席シート2に着座するユーザー(以下、乗員)は、所定のスイッチを操作することによりスライド装置及び回動装置を適宜作動させ、前席シート2を所望の配置とすることができる。また後席シート3に着座する乗員は、所定のスイッチを操作することにより、スライド装置を適宜作動させ、後席シート3を車両の前後方向で所望の位置にスライド移動させることができる。 A user seated on the front seat 2 (hereinafter referred to as an occupant) can appropriately operate the slide device and the rotating device by operating a predetermined switch, and the front seat 2 can be arranged in a desired manner. Further, the occupant seated on the rear seat 3 can appropriately operate the slide device and slide the rear seat 3 to a desired position in the front-rear direction of the vehicle by operating a predetermined switch.
車両1は、ドライバーが不要な完全自動運転が可能なものとする。このため、助手席側の前席シート2Bだけでなく、運転席側の前席シート2Aも回動装置により前向き位置と対面位置との間で回動するように構成されている。
The
車室4には、共有表示装置30、個別表示装置40、及びモーションセンサー50を備える車載ユーザーインターフェース装置10が搭載されている。
The
図2及び図4に示すように、共有表示装置30は、立体画像を空間に表示する装置である。このような共有表示装置30としては、立体画像を空間に表示させる公知の装置を採用することができる。
As shown in FIGS. 2 and 4, the shared
例えば、霧を散布してこれをスクリーンとし、そのスクリーンに映像を投影することで画像を空中に表示する表示装置を用いることができる。 For example, a display device that displays an image in the air by spraying fog to make it a screen and projecting an image on the screen can be used.
他にも、レンズや凹面鏡を用いて、空中に立体映像を結像する表示装置を用いることができる。また、二次元の映像を表示可能なディスプレイと、当該ディスプレイの前に微小レンズを並べたレンズアレイを配置し、レンズアレイにより空中に結像させる表示装置を用いることができる。また、二次元の映像を表示可能なディスプレイと、微小なミラーに入射する光を一つの光線とみなし、多くのミラーによりそれらの光線を制御して結像作用を実現する透過型ミラーアレイ結像素子とを用いた表示装置を用いることができる。さらには、スクリーンの回転等に基づく走査により三次元的に光点を配置できる体積型三次元ディスプレイを用いることができる。
何れの方式の表示装置にしても、空中に表示させた立体画像は、全周囲からの観察が可能である。
In addition, a display device that forms a stereoscopic image in the air using a lens or a concave mirror can be used. Further, it is possible to use a display capable of displaying a two-dimensional image and a display device in which a lens array in which minute lenses are arranged in front of the display is arranged and an image is formed in the air by the lens array. In addition, a display capable of displaying a two-dimensional image and a transmissive mirror array imaging element that regards the light incident on a minute mirror as one ray and controls those rays with many mirrors to realize the imaging action. A display device using a child can be used. Furthermore, a volumetric three-dimensional display capable of arranging light spots three-dimensionally by scanning based on the rotation of the screen or the like can be used.
Regardless of the type of display device, the stereoscopic image displayed in the air can be observed from all around.
このような共有表示装置30は、車室4のほぼ中央において、前席シート2及び後席シート3に囲まれるように配置されている。そして、共有表示装置30は上方の空間に立体画像を表示するように配置されている。共有表示装置30が立体画像を表示することが可能な領域を共有表示領域31と称する。また、共有表示領域31には、(X,Y、Z)の三次元座標が定義されており、三次元座標を指定して立体画像を表示することが可能となっている。
Such a shared
本実施形態では、車室4の各座席間(前席シート2及び後席シート3の間)に、直方体状の領域が共有表示領域31となっている。したがって、前席シート2及び後席シート3の何れの座席に着席しても、共有表示領域31に表示された立体画像を見ることができる。
In the present embodiment, a rectangular parallelepiped area is a shared
図3及び図4に示すように、個別表示装置40は、車室4の各座席に着席した各乗員からのみ視認できるように立体画像を空間に表示する装置である。個別表示装置40は、共有表示装置30の周囲に配置され、座席ごとに複数台設けられている。本実施形態では、各シートに対応して個別表示装置40A〜個別表示装置40Dの4台が設けられている。なお、これらを区別しない時は、個別表示装置40と称する。
As shown in FIGS. 3 and 4, the
具体的には、個別表示装置40は、二次元の映像を表示可能な液晶ディスプレイ42と、微小なミラーに入射する光を一つの光線とみなし、多くのミラーによりそれらの光線を制御して結像作用を実現する透過型ミラーアレイ結像素子を有する結像板43とを備えている。液晶ディスプレイ42に表示された画像は、結像板43により空間中に立体画像として表示(結像)される。
Specifically, the
結像板43により表示される立体画像が表示される空間を個別表示領域41と称する。個別表示領域41が各座席と各個別表示装置40との間の空間に位置するように、結像板43が配置されている。各個別表示装置40により表示された立体画像は、各個別表示装置40に対応した座席の乗員にのみ視認できるようになっており、それ以外の乗員からは視認できないようになっている。本発明でいう、乗員からのみ視認できるとは、その他の乗員からは、立体画像そのものが見えない態様や、文字や図形として立体画像を認識できない態様をいう。
The space in which the stereoscopic image displayed by the
本実施形態では、例えば、個別表示装置40Aは、前席シート2Aの乗員に向けて立体画像を表示する。前席シート2B、後席シート3A及び後席シート3Bの乗員が個別表示装置40Aにより表示された立体画像を見ようとしても、個別表示装置40Aの結像板43によって遮られ、視認できないか、または文字や図形などがはっきりと認識できず不鮮明に視認される。
In the present embodiment, for example, the
図4に示すように、各座席の乗員(前席シートの乗員は図示を省略している)は、共有表示装置30により表示された立体画像I1を視認できる。一方、後席シート3Aの乗員用に向けて表示された立体画像I2は、その乗員のみが視認でき、前席シート2A、2B(図示せず)や後席シート3Bの乗員は視認できない。後席シート3Bの乗員用に向けて表示された立体画像I3や前席シート2A、前席シート2Bの乗員用に向けて表示された立体画像についても同様である。
As shown in FIG. 4, the occupants of each seat (the occupants of the front seats are not shown) can visually recognize the stereoscopic image I1 displayed by the shared
モーションセンサー50は、乗員の手の動作を検出するための装置であり、具体的には、赤外線を発光し、その赤外線が検出対象物で反射した反射光を撮像して画像を形成する装置である。モーションセンサー50が乗員の手を検出することが可能な領域を検出領域と称する。本実施形態のモーションセンサー50は、共有表示領域31を含む第1の検出領域51、及び個別表示領域41を含む第2の検出領域52を検出領域とする。モーションセンサー50は、これらの第1の検出領域51及び第2の検出領域52を画像として撮像する。なお、モーションセンサー50は、一台で第1の検出領域51及び第2の検出領域52を撮像する必要はなく、複数台で第1の検出領域51及び第2の検出領域52を撮像してもよい。
The
図5は、車載ユーザーインターフェース装置10のブロック図である。同図に示すように、車載ユーザーインターフェース装置10は、記憶装置11、制御装置20及びマイク60を備えている。
FIG. 5 is a block diagram of the vehicle-mounted
記憶装置11は、所定のコンテンツを記憶している。コンテンツとは、車両1に関する様々な情報である。例えば、車載機器の名称、車載機器に関連した設定項目、車両1の周辺や車両1が走行しようとする経路上にある施設に関する情報などである。
The
車載機器としては、ナビゲーションシステム、ラジオ、オーディオ機器、空調装置などである。車載機器に関連した設定項目としては、ナビゲーションシステムの場合は経路や目的地が挙げられる。同様に、ラジオの場合は音量やラジオ局であり、空調装置の場合は運転モード(暖房、冷房、送風など)、温度、風量であり、オーディオ機器であれば音量や再生、停止、早送りなどである。 In-vehicle devices include navigation systems, radios, audio devices, and air conditioners. In the case of a navigation system, the setting items related to the in-vehicle device include a route and a destination. Similarly, in the case of a radio, it is the volume or radio station, in the case of an air conditioner, it is the operation mode (heating, cooling, ventilation, etc.), temperature, air volume, and in the case of audio equipment, it is the volume, play, stop, fast forward, etc. be.
このように記憶装置11には、車載機器に関する様々な情報や、周辺施設などに関するコンテンツが記憶されている。
As described above, the
なお、コンテンツは、車両1に搭載された記憶装置11に記憶されたものに限らない。コンテンツは、遠隔の記憶装置に記憶されていてもよい。この場合、コンテンツを記憶した記憶装置を備えるサーバー装置を設け、車載ユーザーインターフェース装置10とサーバ装置との間で無線により通信可能とする。そして、車両1から無線通信を介してキーワードがサーバー装置に送信されたとき、サーバー装置がキーワードに対応するコンテンツを記憶装置から検索し、車両1に送信する。このようにして、車両1は遠隔の記憶装置11からコンテンツを得るようにしてもよい。
The content is not limited to that stored in the
制御装置20は、ECU(Electronic Control Unit)であり、CPU、制御プログラムなどを格納・記憶するROM、制御プログラムの作動領域としてのRAM、各種データを書き換え可能に保持するEEPROM、周辺回路等とのインターフェースをとるインターフェース部などを含んで構成される。制御装置20は、車両1の各部とインターフェース部を介して接続され、それら各部との間で情報の授受をおこない、各部の制御を行う。
The
また、制御装置20は、検出部21、音声認識部22、及び表示制御部23を備えている。これらの各部は、制御装置20のCPUが制御プログラムを実行することによって実現されている。
Further, the
検出部21は、モーションセンサー50から取得した画像を解析し、乗員の手の位置、及び動作を検出する。手の位置は、例えば、共有表示領域31の原点を基準とした三次元座標である。なお、モーションセンサー50及び検出部21は、請求項に記載する動作検出手段に該当する。
The
画像の解析に基づく手の位置及び動作の検出は公知技術であるので、詳細な説明は省略するが、検出部21は、次のような手の動作を検出することができる。
Since the detection of the position and movement of the hand based on the analysis of the image is a known technique, detailed description thereof will be omitted, but the
例えば、検出部21は、握った状態の手、開いた状態の手、又は指さした状態の手など手の形状を検出することができる。また、水平にした状態の手、又は垂直にした状態の手など手の向きを検出することができる。その他にも、モーションセンサー50からの距離や位置も検出できるようになっている。そして、検出部21は、このような手の状態の変化から手の動作を検出する。例えば、手の動作として、フリック動作、スライド動作、ポイント動作、ピンチ動作を判定する。
For example, the
フリック動作は、手首を中心として指先を左右又は上下に振る動きである。
スライド動作は、手全体を上下方向、左右方向に移動させる動きである。
ポイント動作は、指の一部、例えば人差し指を伸ばし、他の指を曲げた状態で手を上下方向又は左右方向に移動させる動きである。
ピンチ動作は、指を二本伸ばした状態で、その二本の指先が接近又は離隔する動きである。二本の指先が近接するピンチ動作をピンチイン動作、二本の指先が離隔するピンチ動作をピンチアウト動作とも称する。
The flick motion is a motion of swinging the fingertip left and right or up and down around the wrist.
The sliding motion is a motion of moving the entire hand in the vertical direction and the horizontal direction.
The point movement is a movement in which a part of a finger, for example, the index finger, is extended and the other finger is bent to move the hand in the vertical direction or the horizontal direction.
The pinch movement is a movement in which two fingertips approach or separate from each other with two fingers extended. A pinch-in operation in which two fingertips are close to each other is also called a pinch-in operation, and a pinch-out operation in which two fingertips are separated from each other is also called a pinch-out operation.
音声認識部22は、マイク60から取得した音声を解析し、乗員が発した音声の単語等の認識を行う。さらに、音声認識部22は、マイク60から取得した音声を解析し、その音声の発信源の位置、つまり、乗員の位置を検出する。このような音声認識及び乗員の位置の検出は、公知の音声解析技術により行うことができる。なお、マイク60及び音声認識部22は、請求項に記載する乗員位置検出手段に該当する。
The
表示制御部23は、コンテンツを立体画像として共有表示装置30や個別表示装置40に表示させる制御を行う。表示制御部23は、記憶装置11からコンテンツを読み出し、共有表示装置30及び個別表示装置40で表示可能なデータ形式にして、共有表示装置30及び個別表示装置40に当該コンテンツを表示させる。
The
図6は、コンテンツを表した立体画像の例を示す図である。図6(a)は立体画像Aを一方側から見た斜視図、図6(b)は立体画像Aを反対側から見た斜視図(図6(a)の立体画像AをZ軸周りに180度回転させた図)であり、図6(c)は立体画像Bの斜視図である。立体画像Aは不透明(反対側が透けて見えない)な立方体状の立体画像であり、立体画像Bは、半透明(反対側が透けて見える)な球体状の立体画像である。 FIG. 6 is a diagram showing an example of a stereoscopic image showing the content. FIG. 6A is a perspective view of the stereoscopic image A viewed from one side, and FIG. 6B is a perspective view of the stereoscopic image A viewed from the opposite side (the stereoscopic image A of FIG. 6A is taken around the Z axis. FIG. 6 (c) is a perspective view of the stereoscopic image B. The stereoscopic image A is an opaque (the opposite side cannot be seen through) cubic stereoscopic image, and the stereoscopic image B is a translucent (the opposite side can be seen through) spherical stereoscopic image.
これらの立体画像A、立体画像Bには、コンテンツが表示されている。例えば、図6(a)に示すように、立体画像Aの一方側の各面には、「○○ランド」という施設に関する新着情報や、当該施設の周辺地図が表示されている。また、図6(b)に示すように、立体画像Bの反対側の各面には、当該施設の周辺天気や、当該施設のSHOP情報(商品情報)が表示されている。 Content is displayed in these stereoscopic images A and B. For example, as shown in FIG. 6A, new information about a facility called “○○ Land” and a map around the facility are displayed on each side of the stereoscopic image A. Further, as shown in FIG. 6B, the surrounding weather of the facility and the SHOP information (product information) of the facility are displayed on each surface on the opposite side of the stereoscopic image B.
図6(c)に示すように、立体画像Bの球面に沿って、「○○ランド」という施設に関する新着情報(文字の一部が裏面側に回り込み、正面側から透けて見える)が表示されている。 As shown in FIG. 6 (c), new information about the facility "○○ Land" (a part of the characters wraps around to the back side and can be seen through from the front side) is displayed along the spherical surface of the stereoscopic image B. ing.
上述したように、立体画像A、立体画像Bには、コンテンツが表示されていたが、コンテンツを呼び出すための別のコンテンツ(サムネール画像など)が表示されていてもよい。例えば、詳細は後述するが、乗員が立体画像Aの「地図」と表示された面に触れたとき、「○○ランド」の地図が表示された別の立体画像を共有表示装置30に表示させてもよい。
As described above, the content is displayed in the stereoscopic image A and the stereoscopic image B, but another content (thumbnail image or the like) for calling the content may be displayed. For example, although the details will be described later, when the occupant touches the surface of the stereoscopic image A displayed as "map", another stereoscopic image on which the map of "○○ land" is displayed is displayed on the shared
さらに、立体画像は、車載機器を操作するためのコンテンツを表してもよい。例えば、そのようなコンテンツとして、空調装置の温度調整をするための上向き・下向きの矢印や、プラス・マイナスの記号などを立体画像として表示してもよい。後述するように、そのような立体画像が乗員により上方へ移動させられたとき、空調の温度を上げるように制御する。こういった制御のためのユーザーインターフェースとして立体画像が用いられてもよい。 Further, the stereoscopic image may represent contents for operating the in-vehicle device. For example, as such contents, upward / downward arrows for adjusting the temperature of the air conditioner, plus / minus symbols, and the like may be displayed as a stereoscopic image. As will be described later, when such a stereoscopic image is moved upward by the occupant, the temperature of the air conditioner is controlled to be raised. A stereoscopic image may be used as a user interface for such control.
図6に例示した立体画像を表示する位置や、向き、動きについて説明する。ここでは、共有表示装置30について説明するが、個別表示装置40についても同様である。
表示制御部23は、記憶装置11からコンテンツを読み出し、共有表示装置30に表示させる。例えば、表示制御部23は、複数のコンテンツを立体画像A〜Gとして共有表示装置30に表示させる。
The position, orientation, and movement of displaying the stereoscopic image illustrated in FIG. 6 will be described. Here, the shared
The
表示制御部23は、まず、表示するコンテンツを決定する。例えば、予め定めされたコンテンツを記憶装置11から読み出す。または、表示制御部23は、マイク60及び音声認識部22により認識した乗員の音声をキーワードとして、そのキーワードに関連するコンテンツを記憶装置11から検索する。
The
例えば、表示制御部23は、予め定められたコンテンツとして、記憶装置11から、ナビゲーションシステム、ラジオ、テレビ、オーディオ機器、空調装置、速度や燃料の残量などの車両情報、車両の周辺施設に関するコンテンツを読み取る。
For example, the
図7は、共通表示装置により表示されるコンテンツの立体画像の斜視図である。
図7(a)に示すように、表示制御部23は、記憶装置11から読み取ったコンテンツを個々の立体画像A〜Gとして表示させる。例えば、立体画像Aの各面には、ナビゲーションシステムに関するコンテンツ、例えば、ある面には現在位置や目的地、他の面には周辺地図を表示するなどである。その他の立体画像B〜Gについても、各面に様々なコンテンツを表示させる。
FIG. 7 is a perspective view of a stereoscopic image of the content displayed by the common display device.
As shown in FIG. 7A, the
また、表示制御部23は、共有表示領域31に、個々の立体画像A〜Gが重ならないように座標を決定し、その座標に立体画像A〜Gを表示させる。これらの立体画像A〜Gは、常に一定の位置に表示してもよいし、乗員の動作に基づいて表示する位置を変えてもよい。
Further, the
例えば、表示制御部23は、複数の立体画像A〜Gを、一つのリング32上に所定間隔を空けて均等に配置させ、共有表示領域31に表示させる。
For example, the
また、立体画像A〜Gが乗員の視線L上に重ならないようにすることが好ましい。このような視線Lとしては、前席シート2、後席シート3、平均的な乗員の目の位置、共有表示領域31の位置に基づいて定めることができる。
Further, it is preferable that the stereoscopic images A to G do not overlap with the line of sight L of the occupant. Such a line of sight L can be determined based on the front seat 2, the rear seat 3, the average occupant's eye position, and the position of the shared
乗員の視線Lを三次元空間において仮想的に形成し、その視線L上には2つ以上の立体画像が配置されないように、各立体画像の三次元座標を計算する。本実施形態では、乗員は4名であるので、4本の視線Lを仮想的に形成し、各視線Lには2つ以上の立体画像が配置されないように、各立体画像の三次元座標を計算する。
これにより、乗員にとって、立体画像同士が重ならないので、複数の立体画像の視認性が向上する。
The line of sight L of the occupant is virtually formed in the three-dimensional space, and the three-dimensional coordinates of each three-dimensional image are calculated so that two or more stereoscopic images are not arranged on the line of sight L. In the present embodiment, since there are four occupants, four lines of sight L are virtually formed, and the three-dimensional coordinates of each three-dimensional image are set so that two or more stereoscopic images are not arranged in each line of sight L. calculate.
As a result, for the occupant, the stereoscopic images do not overlap each other, so that the visibility of the plurality of stereoscopic images is improved.
また、共有表示領域31に表示された立体画像A〜Gは、回転してもよい。例えば、表示制御部23は、各立体画像A〜GをZ軸周りに回転させる。これにより、乗員は、着席した状態で立体画像A〜Gの各側面を視認することができる。さらに、立体画像A〜Gは、リング32の円周に沿って移動してもよい。各立体画像A〜Gが時間の経過と共に乗員の近へ移動してくるようになるので、立体画像の視認性が向上する。もちろん、立体画像の回転や移動の態様は上述したものに限られない。
Further, the stereoscopic images A to G displayed in the shared
さらに、表示制御部23は、複数の立体画像のうち、乗員の動作により選択された立体画像を、乗員の動作に追随させて共有表示装置30に表示させる。
Further, the
表示制御部23は、検出部21より得られた乗員の手の座標から一定範囲内に、立体画像があるかを判定する。手の座標から一定範囲内に立体画像があると判定された場合、その立体画像が乗員により選択されたとする。図7(a)の例では、立体画像Aが乗員に選択されたと判定される。他にも、立体画像から一定の範囲内でポイント動作を検出した場合に立体画像が選択されたと判定してもよい。
The
なお、立体画像が選択された状態において、特定の動作(例えば、一定速度以上で手が立体画像Aから離れるような動作)を検出したとき、立体画像の選択が解除されたと判定する。 In the state where the stereoscopic image is selected, when a specific motion (for example, an motion in which the hand moves away from the stereoscopic image A at a certain speed or higher) is detected, it is determined that the stereoscopic image is deselected.
乗員の動作に追随させて立体画像を表示させるとは、上述したフリック動作、スライド動作、ポイント動作、ピンチ動作に対応して立体画像の座標位置、大きさ、向きを変更したり、立体画像に表示する内容を変更することをいう。 Displaying a stereoscopic image following the movement of the occupant means changing the coordinate position, size, or orientation of the stereoscopic image in response to the above-mentioned flicking motion, sliding motion, point motion, and pinch motion, or displaying the stereoscopic image. It means to change the displayed contents.
例えば、図7(a)のように手が立体画像Aをつまんだ状態からピンチアウト動作を検出したときは、図7(b)に示すように、立体画像Aを拡大表示する。このようにピンチアウト動作という対象物を拡大するような動作に対応して、立体画像Aが拡大される。これにより、「立体画像Aを拡大して見たい」という要求を、直観的な動作で実現することができる。 For example, when the pinch-out operation is detected from the state where the hand pinches the stereoscopic image A as shown in FIG. 7A, the stereoscopic image A is enlarged and displayed as shown in FIG. 7B. In this way, the stereoscopic image A is enlarged in response to the pinch-out operation, which is an operation for enlarging the object. As a result, the request "I want to magnify the stereoscopic image A" can be realized by an intuitive operation.
他にも、特に図示しないが、各動作に対応した立体画像の表示を行うことができる。
例えば、手が立体画像をつまんだ状態からピンチイン動作を検出したときは、立体画像を縮小表示する。このようにピンチイン動作という対象物を縮小するような動作に対応して、立体画像が縮小される。これにより、「立体画像を縮小して、他の立体画像を見やすくしたい」という要求を、直観的な動作で実現することができる。
In addition, although not particularly shown, it is possible to display a stereoscopic image corresponding to each operation.
For example, when the pinch-in operation is detected from the state where the hand pinches the stereoscopic image, the stereoscopic image is reduced and displayed. In this way, the stereoscopic image is reduced in response to the pinch-in operation, which is an operation of reducing the object. As a result, the request "to reduce the stereoscopic image to make it easier to see other stereoscopic images" can be realized by an intuitive operation.
また、手が立体画像を選択した状態からスライド動作やフリック動作を検出したときは、立体画像をその手の位置にあわせて移動させる。このようにスライド動作という対象物を移動させるような動作に対応して、立体画像が移動される。これにより、「立体画像を移動したい」という要求を、直観的な動作で実現することができる。 When a slide motion or a flick motion is detected from the state where the hand selects the stereoscopic image, the stereoscopic image is moved according to the position of the hand. In this way, the stereoscopic image is moved in response to the slide motion, which is an motion of moving an object. As a result, the request of "want to move the stereoscopic image" can be realized by an intuitive operation.
さらに、手が立体画像に対するポイント動作を検出したときは、その立体画像に関連するコンテンツを検索し、そのコンテンツを別の立体画像として表示させてもよい。例えば、図6(a)に示した立体画像Aの「新着情報」を表示した側面に対してポイント動作が検出されたら、その新着情報の詳細に関するコンテンツを、別の立体画像として表示するようにしてもよい。これにより「立体画像に表示されたコンテンツの詳細を知りたい」という要求を、直観的な動作で実現することができる。 Further, when the hand detects a point motion with respect to the stereoscopic image, the content related to the stereoscopic image may be searched and the content may be displayed as another stereoscopic image. For example, when a point operation is detected on the side of the stereoscopic image A showing "new information" shown in FIG. 6A, the content related to the details of the new arrival information is displayed as another stereoscopic image. You may. As a result, the request "I want to know the details of the content displayed on the stereoscopic image" can be realized by intuitive operation.
このような乗員の手の動作に追随させて立体画像を表示する際には、コンテンツに応じて、所定の処理を実行してもよい。 When displaying a stereoscopic image following the movement of the occupant's hand, a predetermined process may be executed according to the content.
図8は、車載装置を設定するための立体画像を示す平面図である。
図8(a)には、例えば、空調装置の温度設定に関するコンテンツが立体画像Hとして共有表示領域31に表示されている。上方向へのフリック動作が検出されたときには、表示制御部23は、立体画像Hを上方へ移動させると共に、空調装置に温度を例えば1℃上げさせる制御を行う。同様に、下方向へのフリック動作が検出されたときには、表示制御部23は、立体画像Hを下方へ移動させると共に、空調装置に温度を例えば1℃下げさせる制御を行う。表示制御部23は、温度の設定後に、立体画像Hをもとの位置に戻す。このようにして、「空調の温度を上げる又は下げる」という要求を、直観的な動作で実現することができる。
FIG. 8 is a plan view showing a stereoscopic image for setting an in-vehicle device.
In FIG. 8A, for example, the content related to the temperature setting of the air conditioner is displayed as the stereoscopic image H in the shared
また図8(b)には、例えば、ラジオの選局設定に関するコンテンツが立体画像Iとして共有表示領域31に表示されている。左方向へのフリック動作が検出されたときには、表示制御部23は、立体画像Iを左方向へ移動させると共に、現在選局されている放送局よりも低い周波数を用いる放送局に変更する。同様に、右方向へのフリック動作が検出されたときには、表示制御部23は、立体画像Iを右方向へ移動させると共に、現在選局されている放送局よりも高い周波数を用いる放送局に変更する。このようにして、「ラジオの選局を行う」という要求を、直観的な動作で実現することができる。
Further, in FIG. 8B, for example, the content related to the radio channel selection setting is displayed as the stereoscopic image I in the shared
他にも、立体画像を、カーナビゲーションシステムの操作、空調装置の風量、空調装置の運転モード(暖房、冷房、送風など)の切り替え、テレビの音量・選局、オーディオ機器の音量・再生・停止・早送りをするためのユーザーインターフェースとし、立体画像に対して特定の動作が検出されたときに、各装置を制御するようにしてもよい。 In addition, for stereoscopic images, operation of car navigation system, air volume of air conditioner, switching of operation mode of air conditioner (heating, cooling, ventilation, etc.), volume / selection of TV, volume / playback / stop of audio equipment -The user interface for fast-forwarding may be used to control each device when a specific operation is detected for a stereoscopic image.
上述したように、立体画像を表示する共有表示装置30及び個別表示装置40は乗員に対してコンテンツを表示する出力装置として機能し、モーションセンサー50及び検出部21は、コンテンツに対する操作を入力する入力装置として機能する。
As described above, the shared
以上のように、共有表示装置30及び個別表示装置40のそれぞれに立体画像を表示する態様について説明した。さらに、本発明の車載ユーザーインターフェース装置10は、共有表示装置30及び個別表示装置40に立体画像を表示する態様として、個別モードと共有モードとを有する。
As described above, the mode of displaying the stereoscopic image on each of the shared
複数のモードの切替は、表示制御部23が自動的に行う。例えば、車室内の乗員の人数によって切替える。具体的には、表示制御部23は、乗員が一人であれば個別モードにし、複数人であれば共有モードに切替える。
The
また、複数のモードの切替は、乗員が手動により行うようにしてもよい。例えば、共有表示装置30又は個別表示装置40に複数のモードを選択させるメニューを立体画像として表示させ、乗員の手の動作により各モードを選択させてもよい。もちろん、インストラメンタルパネルなどに設けたボタンによって複数のモードを切り替えるようにしてもよい。
Further, the switching between the plurality of modes may be manually performed by the occupant. For example, a menu for selecting a plurality of modes may be displayed as a stereoscopic image on the shared
個別モードは、各乗員向けに立体画像を表示する表示態様である。具体的には、乗員のプライバシーを要するコンテンツについては、その乗員用の個別表示装置40のみに表示し、他の乗員用の個別表示装置40には視認できないようにする。特定の乗員のみにコンテンツを表示する手段としては、上述したように、各乗員のみに視認できるように立体画像を表示する個別表示装置40を適用することができる。表示制御部23は、プライバシーを要するコンテンツを表示する場合には、自動的に個別モードに切替え、当該コンテンツを個別表示装置40にのみ表示する。
The individual mode is a display mode for displaying a stereoscopic image for each occupant. Specifically, the content that requires the privacy of the occupant is displayed only on the
プライバシーを要するコンテンツとしては、例えば、通話アプリケーションで扱う情報(通話相手、通話内容(文字情報))や、ブラウザを介して検索エンジンにアクセスした際に用いた検索キーワード、ウェブページの閲覧履歴などである。 Content that requires privacy includes, for example, information handled by the calling application (calling party, call content (text information)), search keywords used when accessing a search engine via a browser, browsing history of web pages, and the like. be.
このようなプライバシーを要するか否かは、予め、コンテンツごとに設定され、または乗員によって設定されて記憶装置11に記憶されている。表示制御部23は、乗員に指定されたコンテンツを記憶装置11から読み込む際に、当該コンテンツにプライバシーの設定がされているならば、当該コンテンツを共有表示装置30には表示させず、その乗員用の個別表示装置40に表示させる。
Whether or not such privacy is required is set in advance for each content or set by the occupant and stored in the
図9は、車載ユーザーインターフェース装置の側面図である。同図には、前席シート2A及び後席シート3Bの乗員と、個別表示装置40A及び個別表示装置40Dと、共有表示装置30を示している。
FIG. 9 is a side view of the in-vehicle user interface device. The figure shows the occupants of the
例えば、後席シート3Bの乗員向けのプライバシーを要する立体画像B(個別表示装置40Dにより表示された立体画像B)は、前席シート2Aの乗員からは視認できない、または視認しにくい。前席シート2Aの乗員から視認できるのは、その乗員向けの個別表示装置40Aにより表示された立体画像Aである。このため、後席シート3Bの乗員のプライバシーに関するコンテンツを立体画像Bとして個別表示装置40Dに表示しても、当該乗員のプライバシーを保護することができる。もちろん、他のシートの乗員についても同様である。
For example, the stereoscopic image B (three-dimensional image B displayed by the
次に、共有モードについて説明する。共有モードは、共有表示装置30及び個別表示装置40の双方に立体画像を表示させる態様である。具体的には、共有モードとして多人数モード、パイオニアモードがある。
Next, the shared mode will be described. The shared mode is an embodiment in which both the shared
図10及び図11を用いて多人数モードについて説明する。図10は車載ユーザーインターフェース装置の側面図であり、図11は共有表示装置及び個別表示装置により表示される立体画像の表示態様を示す図である。 A multiplayer mode will be described with reference to FIGS. 10 and 11. FIG. 10 is a side view of an in-vehicle user interface device, and FIG. 11 is a diagram showing a display mode of a stereoscopic image displayed by a shared display device and an individual display device.
多人数モードは、立体画像を乗員の手の動作に基づいて、共有表示装置30及び個別表示装置40にコンテンツを表示する表示態様である。表示制御部23は、車室に複数の乗員が搭乗しており、複数の乗員が並列的に各種のコンテンツを表示したり、コンテンツに対して操作する場合には、多人数モードに切替える。
The multi-person mode is a display mode in which the content is displayed on the shared
図10及び図11(a)に示すように、表示制御部23は、個別表示装置40Dに表示された立体画像Bを個別表示装置40Dの個別表示領域41の外へ移動させる手の動作を検出したとき、個別表示装置40Dから立体画像Bを非表示にすると共に共有表示装置30(共有表示領域31)に表示させる。
As shown in FIGS. 10 and 11A, the
ここでは、立体画像Bを個別表示領域41の外縁まで上方へ移動させる手の動作を検出したとき、立体画像Bを個別表示領域41において非表示とし、共有表示領域31に表示させている。つまり、後席シート3Bの乗員は、個別表示装置40Dに表示された立体画像Bに対して、手で選択して上方へ移動させるような動作をとると、立体画像Bを共有表示装置30に移動させることができる。なお、立体画像Bは、上方へ移動させる場合に限定されず、個別表示領域41の特定の領域(例えば、角の部分など)へ移動させる手の動作を検出したときに、個別表示領域41の立体画像Bを非表示とし、共有表示領域31に表示するようにしてもよい。
Here, when the motion of the hand that moves the stereoscopic image B upward to the outer edge of the
次に、多人数モードにおいて、共有表示装置30から個別表示装置40へ移動させるような表示態様について説明する。
Next, a display mode for moving from the shared
図10及び図11(b)に示すように、表示制御部23は、共有表示装置30に表示された立体画像Bを個別表示装置40側へ移動させる手の動作を検出したとき、共有表示装置30から立体画像Bを非表示にすると共に個別表示装置40Aに表示させる。
As shown in FIGS. 10 and 11B, when the
ここでは、立体画像Bを共有表示領域31の外縁まで水平方向(前席シート2Aの乗員用の個別表示装置40A側へ向かう方向)へ移動させる手の動作を検出したとき、立体画像Bを共有表示領域31において非表示とし、個別表示領域41に表示させている。つまり、前席シート2Aの乗員は、共有表示装置30に表示された立体画像Bに対して、手で選択して手前へ移動させるような動作をとると、立体画像Bを個別表示装置40Aに移動させることができる。なお、立体画像Bは、手前へ移動させる場合に限定されず、共有表示領域31の特定の領域(例えば、角の部分など)へ移動させる手の動作を検出したときに、共有表示領域31の立体画像Bを非表示とし、個別表示領域41に表示するようにしてもよい。
Here, when the motion of the hand moving the stereoscopic image B to the outer edge of the shared
以上に説明した多人数モードでは、乗員が個別表示装置40に表示された立体画像を、共有表示装置30へ移動させ、他の乗員がそれを閲覧することができる。このような多人数モードによれば、各乗員は、自己の個別表示装置40に表示された立体画像を、他の乗員に見せて共有することができる。さらに、多人数モードによれば、各乗員は、共有表示装置30に表示された立体画像を、自己の個別表示装置40に移動させて閲覧することができる。このようにして、多人数モードでは、コンテンツを立体画像として乗員間で直観的な操作でやりとりすることができ、コンテンツの共有を容易に行うことができる。
In the multi-person mode described above, the occupant can move the stereoscopic image displayed on the
次に、図12を用いてパイオニアモードについて説明する。図12は共有表示装置及び個別表示装置により表示される立体画像の表示態様を示す図である。 Next, the pioneer mode will be described with reference to FIG. FIG. 12 is a diagram showing a display mode of a stereoscopic image displayed by a shared display device and an individual display device.
パイオニアモードは、一人の乗員のみが個別表示装置40の操作を可能であり、他の乗員は、共有表示装置30の立体画像を見たり、移動させるなどの操作が可能な表示態様である。表示制御部23は、車室に複数の乗員が搭乗しており、一人の乗員が主体的にコンテンツを表示させ、またコンテンツに対する操作を行う場合には、パイオニアモードに切替える。ここでは、後席シート3Bの乗員が個別表示装置40Dを操作可能である場合について説明する。
The pioneer mode is a display mode in which only one occupant can operate the
表示制御部23は、パイオニアモードにおいては、個別表示装置40の立体画像に対する手の動作を検出したとき、その立体画像に関連する他の立体画像を共有表示装置に表示する。ここでは、カーナビゲーションシステムに関するコンテンツである検索画面を立体画像Aとして表示し、その立体画像Aに関連する検索結果画面を立体画像Bとして表示する。
In the pioneer mode, when the
パイオニアモードにおいては、一台の個別表示装置40Dに表示された立体画像Aに対して手の動作を検出する。そして、この立体画像Aに対する手の動作に基づいて所定の処理を行う。例えば、「出発地」の部分に手が触れた動作を検出したとき、後席シート3Bの乗員に、出発地の入力を促す立体画像を表示したり、音声をスピーカー(図示せず)から出力する。
In the pioneer mode, the movement of the hand is detected for the stereoscopic image A displayed on one
例えば、制御装置20は、マイク60により集音された乗員の音声を公知の音声認識技術を用いて認識し、認識した音声を出発地として取得する。他に、立体画像として仮想的なキーボードを表示し、そのキーボードに対して手が触れる動作を検出して、文字入力を行うようにしてもよい。このような文字入力は、立体画像である点を除けば、従来の平面的なディスプレイを用いたグラフィカルユーザーインターフェース(GUI)による文字入力と同様である。もちろん、キーボードに限らず、複数の出発地を並べて立体画像として表示し、何れかを選択することで出発地を選択するようにしてもよい。
For example, the
制御装置20は「目的地」についても「出発地」と同様に取得する。このようにして取得した目的地(ここでは「自宅」)や出発地(ここでは「○○ランド」)を、表示制御部23は立体画像Aとして個別表示装置40Dに表示する。
後席シート3Bの乗員は、「出発地」「目的地」の入力を終えた後、立体画像Aとして表示された「検索」ボタンを手で触れる動作を行う。表示制御部23は立体画像Aのうち「検索」ボタンを触れた手の動作を検出すると、カーナビゲーションシステム(図示せず)に、経路検索を行わせる。
The
After inputting the "starting point" and "destination", the occupant of the
表示制御部23は、カーナビゲーションシステムによる検索結果を立体画像Bとして共有表示装置30に表示する。ここでは、地図と、出発地(○にS)から目的地(○にG)までの経路とが立体画像Bとして表示されている。地図のような平面的な立体画像Bは、全ての乗員に見えるようにZ軸を中心に回転させてもよい。
The
以上に説明したパイオニアモードでは、操作を要するコンテンツについては、一台の個別表示装置40Dに立体画像として表示する。そして、一台の個別表示装置40Dに表示された立体画像に対する手の動作のみを検出する。つまり、立体画像に対する操作については、特定の乗員のみが行える。一方、立体画像Aに関連する立体画像Bは、全ての乗員が視認できる共有表示装置30に表示される。
In the pioneer mode described above, the content requiring operation is displayed as a stereoscopic image on one
このようなパイオニアモードによれば、カーナビゲーションシステムの操作は、個別表示装置40において一人の乗員が行うので、混乱なく経路の検索を行うことができ、さらに、全員が検索結果を共有することができる。
According to such a pioneer mode, since the operation of the car navigation system is performed by one occupant in the
もちろん、パイオニアモードは、カーナビゲーションシステムに限られず、任意の車載装置の操作にも適用できる。例えば、車両の空調装置に関する設定を個別表示装置40に表示した立体画像の操作で行い、その確認画面を共有表示装置30に表示してもよい。
Of course, the pioneer mode is not limited to the car navigation system, but can be applied to the operation of any in-vehicle device. For example, the setting related to the air conditioner of the vehicle may be performed by operating the stereoscopic image displayed on the
さらには、個別表示装置40においてコンテンツの検索(収集)を行い、その結果を共有表示装置30に表示するようなパイオニアモードであってもよい。例えば、表示制御部23は、コンテンツの検索を行うアプリケーション(例えばブラウザ)の検索インターフェースを、立体画像として個別表示装置40に表示する。表示制御部23は、その立体画像に対する乗員の手の動作を検出したとき、アプリケーションにコンテンツの検索、収集を実行させる。表示制御部23は、収集したコンテンツを例えば旅行プランとしてまとめるとともに、共有表示装置30に立体画像として表示する。
Further, there may be a pioneer mode in which the
このようなパイオニアモードによれば、一人の乗員は、個別表示装置40を用いて他の乗員に干渉されずに、コンテンツの収集(例えば、旅行プランの作成)を行うことができ、そのコンテンツ(旅行プラン等)を共有表示装置30により全員と共有することができる。
According to such a pioneer mode, one occupant can collect content (for example, create a travel plan) without being interfered by other occupants by using the
上述したように、立体画像の表示態様として個別モードと共有モード(多人数モード及びパイオニアモード)について説明したが、その他の表示態様の一例としてサークルモードとコネクティッドモードについて説明する。 As described above, the individual mode and the shared mode (multi-person mode and pioneer mode) have been described as display modes of the stereoscopic image, but the circle mode and the connected mode will be described as examples of other display modes.
図13は、サークルモードを説明するための車載ユーザーインターフェース装置、及び立体画像の概略図である。サークルとは、現実社会において同じ趣味や嗜好を持つ者の集まりである。サークルモードは、乗員が参加しているサークルに関するコンテンツを表示するモードである。表示制御部23は、乗員がサークルモードを選択した場合に、サークルモードに切替える。
FIG. 13 is a schematic diagram of an in-vehicle user interface device for explaining the circle mode and a stereoscopic image. A circle is a group of people who have the same hobbies and tastes in the real world. The circle mode is a mode for displaying contents related to the circle in which the occupant participates. When the occupant selects the circle mode, the
ここでは、例として自動車に関するサークル(名称を「自動車サークル」とする)に属する二者が異なる車両1A、車両1Bに乗車しているとする。これらの車両1A、車両1Bにはそれぞれ車載ユーザーインターフェース装置10が搭載されている。
Here, as an example, it is assumed that two persons belonging to a circle related to automobiles (named as "automobile circle") are on
サーバー装置70には、自動車サークルに属する者(以下、メンバー)の属性に関する情報、例えば、氏名やニックネーム、そのメンバーを識別するためのID(識別コード)やパスワード、そのメンバーが属するサークルを特定する情報(サークル名「自動車サークル」)等が記憶されている。
The
様々なサークルに関するコンテンツは、車載ユーザーインターフェース装置10と無線通信が可能なサーバー装置70に記憶されている。サークルに関するコンテンツには、そのサークル名が付与されている。このようにコンテンツに付与されたサークル名は、コンテンツを分類する分類情報に該当する。
Contents related to various circles are stored in the
サーバー装置70に記憶されたコンテンツを追加したり、取得するなど、コンテンツにアクセスするためには、サーバー装置70はメンバーを認証する。このような個人の認証については公知の認証技術が適用できるので詳細は省略する。
In order to access the content such as adding or acquiring the content stored in the
サーバー装置70によりメンバーが認証されると、そのメンバーは、所属するサークルに関する情報を取得したり、追加することができる。
When a member is authenticated by the
ここでは、車両1A及び車両1Bの乗員が自動車サークルのメンバーであると認証されたとする。認証後、表示制御部23は、認証された乗員が属する自動車サークルに関するコンテンツをサーバー装置70から取得する。サーバー装置70においては、自動車サークルという分類情報が付与されたコンテンツを検索し、表示制御部23に送信することになる。
Here, it is assumed that the occupants of
表示制御部23は、個別モードにおいては、個別表示装置40に自動車サークルに関するコンテンツを立体画像として表示し、共有モードにおいては共有表示装置30に前記コンテンツを表示する。例えば、図13に示すように、車両1Aにおいては共有モード(多人数モードやパイオニアモード)であり、この場合、表示制御部23は、共有表示装置30に「自動車サークル」に関するコンテンツを立体画像Aとして表示する。
The
また、表示制御部23は、車両の乗員から自動車サークルに対するコンテンツの追加機能を有している。特に図示しないが、表示制御部23は、共有表示装置30に、乗員が自動車サークルに対するコンテンツを追加するためのボタンを表示する。表示制御部23は、そのボタンを選択する手の動作を検出したときは、乗員に音声入力を促す立体画像を共有表示装置30に表示する。そして、乗員の音声を認識し、その認識結果を文字にして自動車サークルに関するコンテンツを作成する。次に表示制御部23は、当該コンテンツをサーバー装置70に送信する。
Further, the
ここでは、車両1Aの乗員(メンバー)は「○月△日イベントします」と発声したとする。この結果、自動車サークルに関するイベント情報として「○月△日イベントします」というコンテンツがサーバー装置70の記憶装置11に記憶される。
Here, it is assumed that the occupant (member) of
一方、車両1Bにおける車載ユーザーインターフェース装置10は、上述したように自動車サークルに関するコンテンツをサーバー装置70から取得する。車両1Bにおいては、個別モードであるとする。この場合、表示制御部23は、コンテンツを個別表示装置40に立体画像Bとして表示する。
On the other hand, the vehicle-mounted
このように、サークルモードによれば、同じ自動車サークルに属するメンバーの間でコンテンツを生成し、共有することができる。もちろん、サークルモードは自動車に関するサークルに限らず任意のサークルについて適用可能である。また、サークルに限らず、分類情報が付与されていれば、同じ分類情報を持つコンテンツを車載ユーザーインターフェース装置10同士の間で共有することができる。
In this way, according to the circle mode, contents can be generated and shared among members belonging to the same automobile circle. Of course, the circle mode can be applied not only to circles related to automobiles but also to any circle. Further, not limited to the circle, if the classification information is given, the contents having the same classification information can be shared between the in-vehicle
図14は、コネクティッドモードを説明するための車載ユーザーインターフェース装置に表示された立体画像の概略図である。 FIG. 14 is a schematic view of a stereoscopic image displayed on an in-vehicle user interface device for explaining the connected mode.
コネクティッドモードとは、趣味や生活パターンが近いメンバー同士の自動マッチング機能を提供するようなコンテンツを表示する表示態様である。ここでは、自動マッチング機能が提供される者をメンバーと呼ぶ。表示制御部23は、メンバー(乗員)がコネクティッドモードを選択した場合に、コネクティッドモードに切替える。
The connected mode is a display mode for displaying contents that provide an automatic matching function between members having similar hobbies and lifestyle patterns. Here, a person to whom the automatic matching function is provided is called a member. When the member (occupant) selects the connected mode, the
特に図示しないが、コネクティッドモードにおいても、サークルモードと同様に、車両はサーバー装置70と無線通信が可能であり、コンテンツはサーバー装置70の記憶装置11に記憶されているとする。
Although not particularly shown, it is assumed that even in the connected mode, the vehicle can wirelessly communicate with the
サーバー装置70には、メンバーの属性からなるユーザー情報がコンテンツとして記憶されている。ユーザー情報は、例えば、メンバーの趣味や生活パターンを表す情報である。このようなユーザー情報は、予め、メンバー自らが作成し、サーバー装置70に送信したものである。具体的なユーザー情報の作成については、車載ユーザーインターフェース装置10の共有表示装置30や個別表示装置40を用いて、メンバーにユーザー情報を入力させ、そのユーザー情報をサーバー装置70に送信するようにする。他にもスマートフォンやパーソナルコンピュータ等を用いて、メンバーがユーザー情報を作成してサーバー装置70に送信するようにしてもよい。
User information consisting of member attributes is stored as content in the
次に、表示制御部23は、車両の乗員がコネクティッドモードのメンバーであるかを認証する。認証についてはサークルモードと同様に行う。車両の乗員がメンバーとして認証されると、サーバー装置70では、他のメンバーに関するユーザー情報を記憶装置11から検索する。他のメンバーとは、認証したメンバー以外のメンバーである。他のメンバーの属性が、車両に搭乗したメンバーの属性と一致又は近似するようなユーザー情報を記憶装置11から検索する。例えば、サーバー装置70は、属性として趣味が一致又は近似するメンバーに関するユーザー情報を検索する。属性が近似するか否かは、予めサーバー装置70側で設定されている。
Next, the
表示制御部23は、車両に搭乗している乗員と趣味などが一致又は近似するユーザー情報をサーバー装置70から取得する。そして、表示制御部23は、個別モードにおいては、個別表示装置40に趣味が同じメンバーに関するユーザー情報を立体画像として表示し、共有モードにおいては共有表示装置30にユーザー情報を表示する。例えば、図14に示すように、個別モードにおいては、表示制御部23は、個別表示装置40に車両のメンバーと趣味が近いメンバーに関するユーザー情報を立体画像Aとして表示する。
The
このように、コネクティッドモードによれば、車載ユーザーインターフェース装置10を使用するメンバー同士のうち、例えば、同じ趣味を持つ他のメンバーに関するユーザー情報が車載ユーザーインターフェース装置10に立体画像として表示される。このようにコネクティッドモードを用いることで、同じ趣味や生活パターンをもつメンバー同士が自動でマッチング(紹介)されるので、友人、知り合いを増やしたり、今までにない感動と新たな体験を、車載ユーザーインターフェース装置10を搭載した車両の乗員に与えることができる。
As described above, according to the connected mode, user information regarding, for example, other members having the same hobby among the members who use the vehicle-mounted
以上に説明したように、車載ユーザーインターフェース装置10は、乗員の手の動作を検出し、この動作に追随するようにコンテンツを立体画像として共有表示装置30及び個別表示装置40に表示することができる。これらの共有表示装置30及び個別表示装置40に立体画像を表示する表示態様としては、個別モードと共有モードがあり、乗員数や利用目的に応じて切替えられる。これにより、乗員は、利用目的に応じて直観的な操作で所望する情報を容易に得ることができる。
As described above, the in-vehicle
また、車載ユーザーインターフェース装置10は、多人数モードにおいて、個別表示装置40に表示した立体画像を、手の動作によって共有表示装置30へ移動させることができる。これにより、直観的な操作によって、ある乗員から他の乗員へコンテンツを共有することができる。
Further, the in-vehicle
また、車載ユーザーインターフェース装置10は、多人数モードにおいて、共有表示装置30に表示した立体画像を、手の動作によって個別表示装置40へ移動させることができる。これにより、直観的な操作によって、自らの手元に立体画像を移動し、詳細を閲覧することができる。
Further, the in-vehicle
また、車載ユーザーインターフェース装置10は、パイオニアモードにおいて、一人の乗員がコンテンツに対する操作を他の乗員に邪魔されず、混乱なく行うことができ、他の乗員はその結果として得られたコンテンツを共有することができる。
Further, in the in-vehicle
また、車載ユーザーインターフェース装置10は、サークルモードにおいて、他の車両に乗車している同好のメンバーとの間でコンテンツを交換することができる。
Further, the in-vehicle
また、車載ユーザーインターフェース装置10は、コネクティッドモードにおいて、他の車両に乗車し、趣味や生活パターンなどが近いメンバーとコンテンツを交換したり、面識を得ることができる。
In addition, the in-vehicle
なお、本発明の実施形態について説明したが、勿論、本発明は、上述の実施形態に限定されるものではなく、本発明の趣旨から逸脱しない範囲内で、構成の付加、省略、置換、およびその他の変更が可能である。 Although the embodiments of the present invention have been described, of course, the present invention is not limited to the above-described embodiments, and the addition, omission, substitution, and configuration of the configuration are added, omitted, and substituted within the range not deviating from the gist of the present invention. Other changes are possible.
1…車両、4…車室、10…車載ユーザーインターフェース装置、11…記憶装置、20…制御装置、21…検出部、22…音声認識部、23…表示制御部、30…共有表示装置、40…個別表示装置、50…モーションセンサー、51…第1の検出領域、52…第2の検出領域、70…サーバー装置
1 ... Vehicle, 4 ... Vehicle room, 10 ... In-vehicle user interface device, 11 ... Storage device, 20 ... Control device, 21 ... Detection unit, 22 ... Voice recognition unit, 23 ... Display control unit, 30 ... Shared display device, 40 ... Individual display device, 50 ... Motion sensor, 51 ... First detection area, 52 ... Second detection area, 70 ... Server device
Claims (6)
車室の座席に着席した全てのユーザーから視認できるように複数の前記コンテンツを立体画像として表示する共有表示装置と、
車室の座席に着席した各ユーザーからのみ視認できるように複数の前記コンテンツを立体画像として表示する個別表示装置と、
ユーザーの手の動作を検出する動作検出手段と、
前記立体画像を選択する動作、及び前記立体画像を移動させる動作を検出したとき、選択された前記立体画像を前記動作に追随させて移動させる表示制御部と、を備え、
前記表示制御部は、前記共有表示装置及び前記個別表示装置を用いる共有モード、前記個別表示装置を用いる個別モードの何れかに切り替えて前記コンテンツを立体画像として表示させる
ことを特徴とする車載ユーザーインターフェース装置。 A storage device that stores predetermined content and
A shared display device that displays a plurality of the contents as a stereoscopic image so that all users seated in the passenger compartment can see the contents.
An individual display device that displays a plurality of the contents as a stereoscopic image so that only each user seated in the passenger compartment can see the contents.
Motion detection means to detect the motion of the user's hand,
It is provided with a display control unit that moves the selected stereoscopic image according to the motion when the motion of selecting the stereoscopic image and the motion of moving the stereoscopic image are detected.
The display control unit is an in-vehicle user interface characterized by switching between a shared mode using the shared display device and the individual display device and an individual mode using the individual display device to display the content as a stereoscopic image. Device.
前記表示制御部は、前記共有モードにおいて、
前記個別表示装置に表示された前記立体画像を前記個別表示装置の表示領域の外へ移動させる手の動作を検出したとき、前記個別表示装置から前記立体画像を非表示にすると共に前記共有表示装置に表示させる
ことを特徴とする車載ユーザーインターフェース装置。 The in-vehicle user interface device according to claim 1.
The display control unit is in the shared mode.
When the movement of the hand that moves the stereoscopic image displayed on the individual display device to the outside of the display area of the individual display device is detected, the stereoscopic image is hidden from the individual display device and the shared display device is displayed. An in-vehicle user interface device characterized by displaying on.
前記表示制御部は、前記共有モードにおいて、
前記共有表示装置に表示された前記立体画像を前記個別表示装置側へ移動させる手の動作を検出したとき、前記共有表示装置から前記立体画像を非表示にすると共に前記個別表示装置に表示させる
ことを特徴とする車載ユーザーインターフェース装置。 In the vehicle-mounted user interface device according to claim 1 or 2.
The display control unit is in the shared mode.
When the movement of the hand moving the stereoscopic image displayed on the shared display device to the individual display device side is detected, the stereoscopic image is hidden from the shared display device and displayed on the individual display device. In-vehicle user interface device featuring.
前記表示制御部は、前記共有モードにおいて、
前記個別表示装置に表示された前記立体画像に対する手の動作を検出したとき、前記立体画像に関連する他の立体画像を前記共有表示装置に表示する
ことを特徴とする車載ユーザーインターフェース装置。 The vehicle-mounted user interface device according to any one of claims 1 to 3.
The display control unit is in the shared mode.
An in-vehicle user interface device, characterized in that when a hand movement with respect to the stereoscopic image displayed on the individual display device is detected, another stereoscopic image related to the stereoscopic image is displayed on the shared display device.
前記記憶装置は、車両と通信可能なサーバー装置に設けられ、
前記コンテンツは、前記コンテンツを分類する分類情報が付与され、
前記表示制御部は、車両のユーザーにより指定された分類情報が付与された前記コンテンツを前記サーバー装置から取得し、前記個別モードでは前記個別表示装置に前記コンテンツを表示し、前記共有モードでは前記共有表示装置に前記コンテンツを表示する
ことを特徴とする車載ユーザーインターフェース装置。 The vehicle-mounted user interface device according to any one of claims 1 to 4.
The storage device is provided in a server device capable of communicating with the vehicle.
The content is given classification information for classifying the content.
The display control unit acquires the content to which the classification information specified by the user of the vehicle is added from the server device, displays the content on the individual display device in the individual mode, and shares the content in the shared mode. An in-vehicle user interface device characterized by displaying the content on a display device.
前記記憶装置は、車両と通信可能なサーバー装置に設けられ、
前記コンテンツは、ユーザーの属性からなるユーザー情報を含み、
前記表示制御部は、車両のユーザー以外のユーザーの属性が、車両のユーザーの属性と一致するユーザー情報を前記サーバー装置から取得し、前記個別モードでは前記個別表示装置に前記ユーザー情報を表示し、前記共有モードでは前記共有表示装置に前記ユーザー情報を表示する
ことを特徴とする車載ユーザーインターフェース装置。
The vehicle-mounted user interface device according to any one of claims 1 to 5.
The storage device is provided in a server device capable of communicating with the vehicle.
The content includes user information consisting of user attributes.
The display control unit acquires user information from the server device whose attributes of users other than the user of the vehicle match the attributes of the user of the vehicle, and displays the user information on the individual display device in the individual mode. An in-vehicle user interface device characterized in that the user information is displayed on the shared display device in the shared mode.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017232089A JP6970377B2 (en) | 2017-12-01 | 2017-12-01 | In-vehicle user interface device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017232089A JP6970377B2 (en) | 2017-12-01 | 2017-12-01 | In-vehicle user interface device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2019101755A JP2019101755A (en) | 2019-06-24 |
| JP6970377B2 true JP6970377B2 (en) | 2021-11-24 |
Family
ID=66976964
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017232089A Active JP6970377B2 (en) | 2017-12-01 | 2017-12-01 | In-vehicle user interface device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6970377B2 (en) |
Families Citing this family (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2021026093A (en) * | 2019-08-02 | 2021-02-22 | 本田技研工業株式会社 | Video display apparatus |
| JP7360915B2 (en) * | 2019-12-02 | 2023-10-13 | 日産自動車株式会社 | Information output device and information output method |
| JP7360916B2 (en) * | 2019-12-02 | 2023-10-13 | 日産自動車株式会社 | Information output device and information output method |
| JP2023002989A (en) * | 2021-06-23 | 2023-01-11 | マクセル株式会社 | Aerial floating video display system |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8094189B2 (en) * | 2007-01-30 | 2012-01-10 | Toyota Jidosha Kabushiki Kaisha | Operating device |
| JP4356763B2 (en) * | 2007-01-30 | 2009-11-04 | トヨタ自動車株式会社 | Operating device |
| JP5584603B2 (en) * | 2010-12-06 | 2014-09-03 | 富士通テン株式会社 | Information providing system and information providing apparatus |
-
2017
- 2017-12-01 JP JP2017232089A patent/JP6970377B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2019101755A (en) | 2019-06-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10932124B2 (en) | Mobile terminal | |
| US11366513B2 (en) | Systems and methods for user indication recognition | |
| US10495878B2 (en) | Mobile terminal and controlling method thereof | |
| CN104691449B (en) | Vehicle control apparatus and method thereof | |
| KR101730315B1 (en) | Electronic device and method for image sharing | |
| US9387824B2 (en) | Interactive vehicle window display system with user identification and image recording | |
| US9800717B2 (en) | Mobile terminal and method for controlling the same | |
| KR102686009B1 (en) | Terminal device, vehicle having the same and method for controlling the same | |
| JP6970377B2 (en) | In-vehicle user interface device | |
| US8660735B2 (en) | Method of providing information to a vehicle | |
| US9909892B2 (en) | Terminal and method for controlling the same | |
| CN107303793B (en) | Air conditioner control method and device, control equipment and operating system | |
| JP2016503741A (en) | Input device for automobile | |
| KR102017802B1 (en) | Mobile terminal and method for controlling the same | |
| US10782776B2 (en) | Vehicle display configuration system and method | |
| CN111231860B (en) | Operation module, operation method, operation system, and storage medium for vehicle | |
| JP2019144756A (en) | Vehicle remote operation device, vehicle remote operation system and vehicle remote operation method | |
| US12147595B2 (en) | Information processing system | |
| US20250217026A1 (en) | Techniques for providing input mechanisms | |
| CN117377584A (en) | User interface for a vehicle, the vehicle, and method for operating the user interface for the vehicle | |
| US20180300095A1 (en) | Display Device and Operating Device | |
| KR20160103676A (en) | Vehicle, and controlling method for vehicle | |
| JP2023152707A (en) | Information presentation method, information presentation system, and program | |
| CN111469663A (en) | Control systems for vehicles | |
| JP2020144552A (en) | Information providing device and information providing method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201127 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210915 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210929 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211012 |
|
| R151 | Written notification of patent or utility model registration |
Ref document number: 6970377 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |