Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP3425416B2 - Apparatus and method for displaying stereoscopic image - Google Patents
[go: Go Back, main page]

JP3425416B2 - Apparatus and method for displaying stereoscopic image - Google Patents

Apparatus and method for displaying stereoscopic image

Info

Publication number
JP3425416B2
JP3425416B2 JP2000266656A JP2000266656A JP3425416B2 JP 3425416 B2 JP3425416 B2 JP 3425416B2 JP 2000266656 A JP2000266656 A JP 2000266656A JP 2000266656 A JP2000266656 A JP 2000266656A JP 3425416 B2 JP3425416 B2 JP 3425416B2
Authority
JP
Japan
Prior art keywords
image
viewer
display device
displaying
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2000266656A
Other languages
Japanese (ja)
Other versions
JP2002077946A (en
Inventor
英紀 掛谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to JP2000266656A priority Critical patent/JP3425416B2/en
Priority to US09/772,965 priority patent/US6788274B2/en
Publication of JP2002077946A publication Critical patent/JP2002077946A/en
Application granted granted Critical
Publication of JP3425416B2 publication Critical patent/JP3425416B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、立体眼鏡装置の着
用を必要としない立体画像を表示する装置および方法に
関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an apparatus and method for displaying a stereoscopic image that does not require wearing of stereoscopic eyewear.

【0002】[0002]

【従来の技術】図2は、立体眼鏡装置30を用いた既に
知られている立体ディスプレイの模式図である。この装
置の場合、左眼用の画像と、右目用の画像を交互に表示
し、しかもその表示画像は、表示画面11に密着した偏
光フィルタ10によってお互いに直交する、偏光面を持
っている。その画像の映像鑑賞者3は、偏光選択性を持
った眼鏡をかけて観察することによって、左右の眼には
それぞれ独立した画像を見ることができる。この特性を
用いて、視差のある画像を提示することにより、立体映
像を表示するものである。この表示装置で、遠方の景色
を表示する場合は、映像鑑賞者の目の焦点位置は表示画
面上にあるが、手元の景色を表示する場合にも、映像鑑
賞者の目の焦点位置は表示画面上にあることになり、映
像鑑賞者の視差と焦点との間に矛盾が生じることにな
る。図2の矢印40は、最も近くにある画像を表示する
時の視差に対応する距離を示し、矢印41は、視差に対
応する像の位置と眼の焦点の対応する位置の差をしめし
ており、この差が大きさが、映像鑑賞者3の視差と焦点
との間に生じる矛盾である。
2. Description of the Related Art FIG. 2 is a schematic view of a known stereoscopic display using a stereoscopic eyeglass device 30. In the case of this device, an image for the left eye and an image for the right eye are alternately displayed, and the displayed image has polarization planes orthogonal to each other by the polarization filter 10 that is in close contact with the display screen 11. The image viewer 3 of the image can see independent images for the left and right eyes by observing with glasses having polarization selectivity. By using this characteristic, a stereoscopic video is displayed by presenting an image with parallax. When displaying a distant view on this display device, the focus position of the eyes of the image viewer is on the display screen, but even when displaying the view at hand, the focus position of the eyes of the image viewer is displayed. Since it is on the screen, there is a contradiction between the parallax and the focus of the image viewer. The arrow 40 in FIG. 2 indicates the distance corresponding to the parallax when the nearest image is displayed, and the arrow 41 indicates the difference between the position of the image corresponding to the parallax and the corresponding position of the eye focus. The magnitude of this difference is a contradiction between the parallax and the focus of the image viewer 3.

【0003】また、図3に示す結像系を用いた立体ディ
スプレイの場合は、上記の図2の構成に加えて、映像鑑
賞者と表示画面の間にレンズ系6を設けて、レンズ系6
と映像鑑賞者3との間に、表示画面の実像を実像面14
に作るものである。この構成では、映像鑑賞者の視差と
焦点との間に矛盾がまだ残っているが、図2の構成の立
体ディスプレイに比べて、その矛盾は、緩和されてい
る。この緩和は、図3に示す様に、実像の位置が、立体
画像の提示領域の中にあるためである。
In the case of a stereoscopic display using the image forming system shown in FIG. 3, a lens system 6 is provided between the image viewer and the display screen in addition to the structure shown in FIG.
Between the image viewer 3 and the image viewer 3
It is made in. In this configuration, the contradiction between the parallax and the focus of the image viewer still remains, but the contradiction is alleviated as compared with the stereoscopic display having the configuration in FIG. This relaxation is because the position of the real image is in the presentation area of the stereoscopic image as shown in FIG.

【0004】また、立体眼鏡装置の着用を必要としない
立体ディスプレイには、立体から発生する光そのものを
再現するものと、両眼に別々の画像を提示する仕組みを
組み込むものとがある。前者にはホログラムや、ボリュ
ームディスプレイなどがあるが、これらの方法は膨大な
量の画像データを処理する機構、及びそれを表示する複
雑なデバイスが必要となる等の問題を有する。そのため
高解像度の画像表示、動画のリアルタイム表示等の応用
は現時点では困難である。一方、後者には、レンチキュ
ラレンズ、イメージスプリッタ、あるいは選択的発光を
行うバックライト等を利用する方法がある。
There are two types of three-dimensional displays that do not require the wearing of three-dimensional eyeglass devices, one that reproduces the light itself generated from a three-dimensional body and one that incorporates a mechanism for presenting separate images to both eyes. The former includes holograms and volume displays, but these methods have a problem that a mechanism for processing an enormous amount of image data and a complicated device for displaying the image data are required. Therefore, application of high-resolution image display, real-time display of moving images, etc. is difficult at present. On the other hand, in the latter, there is a method of using a lenticular lens, an image splitter, or a backlight that selectively emits light.

【0005】両眼視差画像を提示する立体ディスプレイ
の場合、立体画像とインタラクティブに作業するには、
任意視点について視覚情報の座標系と物理情報の座標系
が一致する必要がある。これは、映像鑑賞者の眼の三次
元位置を計測し、その視点にあわせた映像を提示するこ
とによって実現される。しかしながら、この方法では、
映像鑑賞者の眼の焦点が映像表示装置の画面に合うた
め、映像表示装置より大きく手前に飛び出した地点に立
体像を近くさせるのが難しいという問題がある。これ
は、眼から近い距離の物体の知覚においては、眼の焦点
情報が視差同様重要な情報として考慮されるという生理
学的特質によるものである。この生理学的特質のため、
視差の大きすぎる画像を使って映像鑑賞者の手元に画像
を表示しようとしても、極度の眼精疲労や酔い、さらに
は立体像としての知覚が不可能になる等の結果がもたら
される。また、映像鑑賞者が自らの体の一部を使って直
接インタラクティブに作業するアプリケーションにおい
ては、立体像はこの近距離の範囲に提示する必要がある
と同時に、映像表示装置は映像鑑賞者の運動に対して物
理的障害にならないように配置する必要もあるため、映
像表示装置自体を近づけることによる解決も図ることが
できない。このように、従来の両眼視差を利用する立体
ディスプレイでは、この様なアプリケーションへの応用
が充分達成できなかった。
In the case of a stereoscopic display that presents binocular parallax images, in order to work interactively with the stereoscopic images,
The coordinate system of visual information and the coordinate system of physical information must match for an arbitrary viewpoint. This is realized by measuring the three-dimensional position of the viewer's eyes and presenting the image according to the viewpoint. However, with this method,
Since the eyes of the image viewer are focused on the screen of the image display device, there is a problem in that it is difficult to bring the stereoscopic image closer to a point that is larger than the image display device and protrudes toward you. This is due to the physiological characteristic that the eye focus information is considered as important information as parallax in the perception of an object at a short distance from the eye. Because of this physiological characteristic,
Even if an image is displayed in the hand of the viewer of the image using an image with too large parallax, it results in extreme eye strain, motion sickness, and impossibility of being perceived as a stereoscopic image. Further, in an application in which the viewer of the image works directly and interactively using a part of his / her body, it is necessary to present the stereoscopic image within this short range, and at the same time, the image display device is used for the motion of the viewer. However, since it is also necessary to arrange them so as not to become a physical obstacle, it is not possible to solve the problem by bringing the video display device itself close. As described above, the conventional stereoscopic display utilizing binocular parallax cannot be sufficiently applied to such an application.

【0006】本発明は、映像表示装置と映像鑑賞者の間
には、画像分離装置と結像系とを配置したものである。
これと類似の配置を持つ従来例として、特開平8−30
7907号公報で開示された投写型立体画像表示装置が
ある。ここで、開示された構成は、左眼用および右眼用
画像光を相互間で偏光角を異ならせて拡散板上に投写
し、該拡散板上にそれぞれ左眼用および右眼用画像を表
示する画像表示手段と、該画像表示手段に表示された前
記左眼用および右眼用画像に基づくそれぞれの画像光が
2次元平面上の相互に重複しないそれぞれの領域を透過
するようにそれぞれの光路を選択する光路選択手段と、
前記それぞれの領域を透過する以前もしくは透過した後
の前記左眼用および右眼用画像光の偏光角を同一偏光角
にする偏光角変位手段と、それぞれ前記光路選択手段お
よび前記偏光角変位手段により前記それぞれの領域を透
過しかつ偏光角が同一にされた前記左眼用および右眼用
画像光を、それぞれ左眼および右眼の位置に集光させる
集光系と、前記左眼および右眼の位置を検出する半顔検
出手段と、該半顔検出手段による検出結果に基づいて前
記光路選択手段の前記左眼用および右眼用画像光がそれ
ぞれ透過する領域を制御する透過領域制御手段とを具え
ていることを特徴としている。この投写型立体画像表示
装置は立体眼鏡装置を使わずに両眼に異なる画像を提示
することのみを目的としており、光を分離するための顔
の右半分と左半分を同定する装置を有するものの、両眼
の三次元位置の測定システムを有していない。
According to the present invention, an image separating device and an image forming system are arranged between the image display device and the image viewer.
As a conventional example having an arrangement similar to this, JP-A-8-30
There is a projection type stereoscopic image display device disclosed in Japanese Patent Publication No. 7907. Here, the disclosed configuration projects the image light for the left eye and the image light for the right eye on the diffuser plate with different polarization angles, and images on the left eye and the right eye are projected on the diffuser plate, respectively. Image display means for displaying, and respective image lights based on the left-eye and right-eye images displayed on the image display means are transmitted so as to pass through respective areas on the two-dimensional plane that do not overlap each other. An optical path selecting means for selecting an optical path,
A polarization angle displacement means for making the polarization angles of the left-eye and right-eye image lights before or after passing through the respective regions the same, and by the optical path selection means and the polarization angle displacement means, respectively. A condensing system that condenses the left-eye and right-eye image lights that are transmitted through the respective regions and have the same polarization angle to the positions of the left eye and the right eye, respectively, and the left eye and the right eye. A half-face detecting means for detecting the position of, and a transmissive area control means for controlling the areas through which the left-eye and right-eye image light of the optical path selecting means respectively pass based on the detection result by the half-face detecting means. It is characterized by having. This projection type stereoscopic image display device is intended only to present different images to both eyes without using stereoscopic eyeglass devices, and has a device for identifying the right half and the left half of the face for separating light. , Does not have a system for measuring the three-dimensional position of both eyes.

【0007】そのため、視点位置に応じて画像を変える
仕組みも備えておらず、立体像の三次元的位置を正確に
把握できないため、映像鑑賞者が立体映像とインタラク
ティブに作業する用途には使えない。更に、この光学系
では映像表示面の実像面が映像鑑賞者とレンズの間に生
成されており、その実像面が観測点の三次元的位置によ
って変形するという問題が生じるが、両眼の三次元位置
の同定が不可能であり、この問題についても対策を講じ
ることができない。そのため、通常の三次元ディスプレ
イとしての利用においても、視点位置による画像の更新
を行わない三次元ディスプレイ一般における違和感に加
え、実像面が変形することにより見ている画面自体が変
形することによる違和感も相乗されることになる。
Therefore, it does not have a mechanism for changing the image according to the viewpoint position, and cannot accurately grasp the three-dimensional position of a stereoscopic image, so that it cannot be used for the purpose of interactively working with a stereoscopic image by a video viewer. . Furthermore, in this optical system, the real image plane of the image display surface is generated between the image viewer and the lens, and there is a problem that the real image plane is deformed by the three-dimensional position of the observation point. The original position cannot be identified, and no countermeasure can be taken for this problem. Therefore, even when used as a normal 3D display, in addition to the discomfort in general 3D displays that do not update the image according to the viewpoint position, there is also discomfort due to the deformation of the screen itself due to the deformation of the real image plane. Will be synergistic.

【0008】しかし、本発明では、集光系と映像鑑賞者
との間に実像を結び、映像表示装置に表示する映像は、
映像鑑賞者の両眼の位置情報により修正を受ける点にお
いて異なっており、上記した発明とは異なるものであ
る。
However, in the present invention, the image displayed on the image display device by forming a real image between the condensing system and the image viewer is
It is different from the above-mentioned invention in that it is corrected by the position information of both eyes of the image viewer.

【0009】[0009]

【発明が解決しようとする課題】従来の立体眼鏡装置の
着用を必要としない立体画像を表示する方法および装置
では、立体から発生する光そのものを再現するものでは
膨大な量の画像データを処理する機構、及びそれを表示
する複雑なデバイスが必要となる等の問題を有し、ま
た、両眼に別々の画像を提示する仕組みを組み込むもの
では、画面よりも大きく手前に飛び出した地点に立体像
を知覚させることは難しい。
In a conventional method and apparatus for displaying a stereoscopic image which does not require the wearing of stereoscopic eyeglass devices, a huge amount of image data is processed in the case of reproducing the light itself generated from a stereoscopic body. It has problems such as the need for a mechanism and a complicated device for displaying it, and in the case of incorporating a mechanism for presenting separate images to both eyes, a stereoscopic image appears at a point that is larger than the screen and is in front of you. Is difficult to perceive.

【0010】この発明は上記の問題点を鑑み、映像鑑賞
者が眼鏡装置を装着することなく、装置の大型化を避け
ながら、手元に立体像を知覚できる立体画像を表示する
装置および方法を、提供することを目的とする。
In view of the above problems, the present invention provides an apparatus and method for displaying a stereoscopic image that allows a viewer to perceive a stereoscopic image at hand while avoiding an increase in size of the apparatus without wearing an eyeglass device. The purpose is to provide.

【0011】[0011]

【課題を解決するための手段】上記目的を達成するため
に、請求項1に記載の立体画像を表示する装置は、第1
の画像と第2の画像とを表示する単数あるいは複数の画
像面からなる映像表示装置と、集光系と、第1の画像と
第2の画像とを分離する画像分離装置と、結像系と、映
像鑑賞者の眼球の位置情報を取得できる位置検出手段
と、を備え、該映像表示装置より発せられた光情報が映
像鑑賞者に達する光路において、該映像表示装置、該集
光系、該画像分離装置、該結像系、の順で配置され、該
映像表示装置の画素の実像が、該結像系と該映像鑑賞者
との間に結ばれる構成と、映像鑑賞者の左右両眼球の位
置情報により該画像表示装置の表示内容を変える構成
と、を備えることを特徴としている。
In order to achieve the above object, a device for displaying a stereoscopic image according to claim 1 is a first device.
Image display device including a single image plane or a plurality of image planes for displaying the first image and the second image, a condensing system, an image separating device for separating the first image and the second image, and an image forming system. And a position detection unit capable of acquiring position information of the eyeball of the image viewer, and in the optical path where the light information emitted from the image display device reaches the image viewer, the image display device, the light collecting system, The image separation device and the imaging system are arranged in this order, and the real image of the pixel of the video display device is formed between the imaging system and the video viewer, and both the left and right sides of the video viewer. And a configuration for changing display contents of the image display device according to eye position information.

【0012】また、請求項2に記載の立体画像を表示す
る装置は、ひとつの映像表示装置で立体画像を表示でき
る様にするために、第1の表示周期を持つ第1の画像を
表示する画面と、第1の表示周期と等しい第2の表示周
期をもつ第2の画像を表示する画面を含み、第1の画像
と第2の画像とを予め決められた周期で表示する単数あ
るいは複数の画面を持った映像表示装置と、集光系と、
第1の画像と第2画像とを分離する画像分離装置と、結
像系と、映像鑑賞者の眼球の位置情報を取得できる位置
検出手段と、を備え、該映像表示装置より発せられた光
情報が映像鑑賞者に達する光路において、該映像表示装
置、該集光系、該画像分離装置、該結像系、の順で配置
され、該映像表示装置の画素の実像が、該結像系と該映
像鑑賞者との間に結ばれる構成と、映像鑑賞者の左右両
眼球の位置情報により該画像表示装置の表示内容を変え
る構成と、を備えることを特徴としている。
Further, the apparatus for displaying a stereoscopic image according to claim 2 displays the first image having the first display cycle so that the stereoscopic image can be displayed by one video display apparatus. A single screen or a plurality of screens including a screen and a screen displaying a second image having a second display cycle equal to the first display cycle, and displaying the first image and the second image at a predetermined cycle. An image display device with a screen of
The light emitted from the image display device is provided with an image separation device for separating the first image and the second image, an imaging system, and position detection means capable of acquiring position information of the eyeball of the image viewer. The image display device, the condensing system, the image separating device, and the image forming system are arranged in this order in the optical path where information reaches the image viewer, and the real image of the pixel of the image displaying device is the image forming system. And a configuration connected between the image viewer and the viewer, and a configuration in which the display content of the image display device is changed according to the position information of the left and right eyes of the viewer.

【0013】また、請求項3に記載の立体画像を表示す
る装置は、鑑賞者が動いても立体画像を鑑賞することが
できる様にするために、上記した請求項1あるいは2に
記載の発明の構成に加えて、画像分離装置は、映像鑑賞
者の眼球の位置の移動に連動して、光路を選択する構成
を有することを特徴としている。
Further, the device for displaying a stereoscopic image according to claim 3 is the invention according to claim 1 or 2 described above so that the stereoscopic image can be viewed even if the viewer moves. In addition to the above configuration, the image separation device is characterized in that it has a configuration for selecting an optical path in conjunction with the movement of the position of the eyeball of the video viewer.

【0014】また、請求項4に記載の発明は、立体画像
を表示する方法であって、第1の画像と第2の画像とを
表示する単数あるいは複数の画像面からなる映像表示装
置と、集光系と、第1の画像と第2の画像とを分離する
画像分離装置と、結像系と、映像鑑賞者の眼球の位置情
報を取得できる位置検出手段と、を備え、該映像表示装
置より発せられた光情報が映像鑑賞者に達する光路にお
いて、該映像表示装置、該集光系、該画像分離装置、該
結像系、の順で配置され、該映像表示装置の画素の実像
が、該結像系と該映像鑑賞者との間に結ばれる構成と、
映像鑑賞者の左右両眼球の位置情報により該画像表示装
置の表示内容を変える構成と、を備えることを特徴とす
る立体画像を表示する装置において、該映像観賞者の右
眼に提示される該映像表示装置上の画像は、提示される
三次元映像上の画素の集合Xに含まれるそれぞれの画素x
∈Xについて、xと右眼の三次元位置erとを結ぶ線分x‐
rを含む光路が該映像表示装置の表示面と交差する点
に予め対応づけられた点に、画素xに対応する輝度値で
描画され、該映像観賞者の左眼に提示される該映像表示
装置上の画像は、提示される三次元映像上の点の集合X
に含まれるそれぞれの画素x∈Xについて、xと左眼の三
次元位置elとを結ぶ線分x‐elを含む光路が該映像表
示装置の表示面と交差する点に予め対応づけられた点
に、画素xに対応する輝度値で描画されることを特徴と
している。
According to a fourth aspect of the present invention, there is provided a method for displaying a stereoscopic image, comprising a video display device having a single image plane or a plurality of image planes for displaying the first image and the second image. The image display includes a condensing system, an image separation device that separates the first image and the second image, an image forming system, and position detection means that can acquire the position information of the eyeball of the image viewer. The optical image emitted from the device is arranged in the order of the image display device, the condensing system, the image separation device, and the image forming system in the optical path where the image information reaches the image viewer, and a real image of a pixel of the image display device. Is connected between the imaging system and the viewer of the image,
In a device for displaying a stereoscopic image, characterized in that the display content of the image display device is changed according to the position information of the left and right eyes of the image viewer, the device presented to the right eye of the image viewer. The image on the video display device is composed of each pixel x included in the set X of pixels on the presented three-dimensional video.
For εX, a line segment x- that connects x and the three-dimensional position e r of the right eye
The image presented to the left eye of the image viewer by being drawn at a point corresponding to a point where an optical path including e r crosses the display surface of the image display device in advance with a luminance value corresponding to the pixel x. The image on the display is a set X of points on the presented 3D image.
For each pixel x ∈ X included in, the optical path including the line segment x-e l connecting x and the three-dimensional position e 1 of the left eye is associated with the point intersecting the display surface of the image display device in advance. It is characterized in that the pixel is drawn at a brightness value corresponding to the pixel x.

【0015】[0015]

【発明の実施の形態】まず、本発明の概要を図3〜図7
を用いて説明する。図3に示す装置は、視差を持つ2種
類の画像を表示する映像表示装置12、その二種類の画
像を選択的に透過する画像分離装置9、更に結像系の光
学装置6を順に配置し、それに映像鑑賞者3の左眼と右
眼の位置を検出する装置2を組み合わせる構成をとり、
映像鑑賞者3の左眼と右眼の位置の移動に合せて映像表
示装置12の表示画像を変化せしめ、また、画像の選択
的透過装置を制御し、映像鑑賞者3の左右両眼に視差を
含む異なる画像を提示するとともに、結像系を利用して
映像鑑賞者の手元の実像面14に実像を生成することに
よって、映像鑑賞者3の手元に奥行きを持つ立体画像を
提示するものである。
DESCRIPTION OF THE PREFERRED EMBODIMENTS First, the outline of the present invention will be described with reference to FIGS.
Will be explained. The apparatus shown in FIG. 3 includes a video display device 12 that displays two types of images having parallax, an image separation device 9 that selectively transmits the two types of images, and an optical device 6 of an image forming system arranged in that order. , And a configuration in which the device 2 for detecting the positions of the left and right eyes of the image viewer 3 is combined,
The display image of the video display device 12 is changed according to the movement of the positions of the left and right eyes of the video viewer 3, and the selective transmission device of the image is controlled so that the left and right eyes of the video viewer 3 have parallax. In addition to presenting different images including the image, a three-dimensional image having a depth is presented to the image viewer 3 by generating a real image on the real image plane 14 at the image viewer's hand by using an image forming system. is there.

【0016】図3に示した立体ディスプレイの欠点とし
ては、映像映像鑑賞者の可動範囲を大きく取るために
は、表示画面11のサイズをそれに応じて大きくとる必
要があることである。
A drawback of the stereoscopic display shown in FIG. 3 is that the size of the display screen 11 needs to be increased correspondingly in order to increase the movable range of the image viewer.

【0017】そこで、本発明では、図4に示す様に、左
目用8と右目用7の画像選択部9と映像表示装置12の
間に、集光系17を入れて、映像表示装置12の必要な
サイズの大型化を抑制するものである。ここで、映像表
示装置上の画像提示は、図5に示す様に、提示する三次
元像の任意の点が、該三次元像上の点と映像鑑賞者の左
あるいは右の眼球とを結んだ線分を含む光路が映像表示
装置の表示面と交わる点に概略描画されるように映像配
信および制御用計算機により制御するものである。
Therefore, in the present invention, as shown in FIG. 4, a light-collecting system 17 is inserted between the image selecting section 9 for the left eye 8 and the right eye 7 and the image display device 12, and the image display device 12 is provided. This is to prevent the required size from increasing. Here, in the image presentation on the video display device, as shown in FIG. 5, an arbitrary point of the presented three-dimensional image connects the point on the three-dimensional image and the left or right eyeball of the video viewer. It is controlled by the video distribution and control computer so that the optical path including the sagittal segment is roughly drawn at a point intersecting the display surface of the video display device.

【0018】以下に、本発明の実施形態を、図1を用い
て説明する。図1は、可搬型の立体画像を表示する装置
の側面の断面図(a)と正面図(b)を示している。図
1に示す装置の構成は、第1の画像と第2の画像を交互
に表示する表示装置10から生じた光は、偏光スクリー
ン11と、この表示装置10の映像を反射する第1の反
射板と15、第1の集光系17としてのフレネルレンズ
と、映像鑑賞者3の位置に合わせてその位置を調整可能
なXYテーブルに設置された画像分離装置9と、第2の反
射板16と、第1の結像系6としての一対のフレネルレ
ンズとを通じて映像鑑賞者3に提示される。
An embodiment of the present invention will be described below with reference to FIG. FIG. 1 shows a sectional view (a) and a front view (b) of a side surface of a device for displaying a portable stereoscopic image. In the configuration of the device shown in FIG. 1, the light generated from the display device 10 that alternately displays the first image and the second image is generated by the polarizing screen 11 and the first reflection that reflects the image on the display device 10. The plate 15, the Fresnel lens as the first condensing system 17, the image separation device 9 installed on the XY table whose position can be adjusted according to the position of the image viewer 3, and the second reflector 16 And a pair of Fresnel lenses as the first image forming system 6 are presented to the image viewer 3.

【0019】図1における表示装置10は、CRTディス
プレイで、サイズは、縦:横=3:4の方形で対角は約
50cmである。この映像表示装置10では、二種類の
画像を提示する。二種類の画像は、偏光スクリーンによ
り右眼様と左目用途に分離される。例えば、第1の画像
には縦の、第2の画像には横の偏光を用いる。左眼用と
右眼用との画像を交互に同一の表示装置で表示し、それ
ぞれ60Hzずつ都合120Hzで表示される画像とし
て映像表示装置12が表示することによって二種類の画
像を提示するものである。偏光スクリーン10は、映像
表示装置12の画像に同期して動作する。また、第1の
反射板15は、光路を変えるためのもので、装置全体の
サイズを小さくするためのものであるり、この反射板を
用いない構成も可能であるが、この場合、CRTディス
プレイを使用する時は容積サイズが約2割大きくなる。
また、集光系17は、実効的に映像表示面を拡大し、こ
れを用いることにより、映像鑑賞者の位置に関する自由
度を改善するためのものである。この集光系17として
は、縦×横=55cm×65cm,焦点距離=80cmのフ
レネルレンズを用いている。画像分離装置9は、2種類
の変更特性の一方のみを透過する偏光フィルタと、もう
一方のみを透過する偏光フィルタからなる。映像表示装
置と映像鑑賞者を結ぶ光路が集約される場所に設置さ
れ、映像鑑賞者の視点の位置によってその位置を制御す
る必要がある。そのために、頭の位置、姿勢を測定する
ことで視点の位置をトラッキングし、その視点に対応す
る場所に画像分離装置9を追従させる。この追従機構
は、サーボモータを使用した方法で、XYレコーダなど
に使われる良く知られた方法である。これにより、映像
鑑賞者の両眼に常に別々の画像を投影することができ
る。この画像分離装置は2〜5層の複数画素を有する液
晶シャッタ装置に置き換える事が可能であり、その場合
は、物理的駆動の必要がない。さらに、第2の反射板1
6は、光路を変えるためのもので、装置全体のサイズを
小さくするためのものである。また、結像系6は、映像
鑑賞者の前方に実像を提示するためのもので、縦×横=
55cm×65cm,焦点距離=80cmの2枚のフレネル
レンズの平面側を向かい合わせに用いたものである。こ
こで、フレネルレンズに限定する理由は特になく、通常
の球面レンズや非球面レンズも用いることができる。結
像系6と映像鑑賞者3との間隔は可変であり80〜14
0cmである。
The display device 10 in FIG. 1 is a CRT display, and the size is a rectangle of length: width = 3: 4, and the diagonal is about 50 cm. The video display device 10 presents two types of images. The two types of images are separated by a polarizing screen into right eye-like and left eye applications. For example, vertical polarization is used for the first image and horizontal polarization for the second image. An image for the left eye and an image for the right eye are alternately displayed on the same display device, and two types of images are presented by the video display device 12 displaying as images displayed at 120 Hz for each 60 Hz. is there. The polarizing screen 10 operates in synchronization with the image on the video display device 12. Further, the first reflection plate 15 is for changing the optical path and is for reducing the size of the entire apparatus, and a configuration without this reflection plate is also possible. In this case, the CRT display is used. When using, the volume size is about 20% larger.
The light condensing system 17 is for effectively enlarging the image display surface and using it to improve the degree of freedom regarding the position of the image viewer. As the condensing system 17, a Fresnel lens having a length × width = 55 cm × 65 cm and a focal length = 80 cm is used. The image separation device 9 includes a polarization filter that transmits only one of the two types of change characteristics and a polarization filter that transmits only the other. It is installed in a place where the optical paths connecting the image display device and the image viewer are aggregated, and it is necessary to control the position according to the position of the viewpoint of the image viewer. For that purpose, the position of the viewpoint is tracked by measuring the position and posture of the head, and the image separation device 9 is caused to follow the position corresponding to the viewpoint. This tracking mechanism is a well-known method used in an XY recorder or the like, which uses a servo motor. With this, it is possible to always project different images to both eyes of the image viewer. This image separation device can be replaced with a liquid crystal shutter device having a plurality of pixels of 2 to 5 layers, and in that case, physical driving is not necessary. Further, the second reflector 1
Reference numeral 6 is for changing the optical path, and is for reducing the size of the entire apparatus. Further, the image forming system 6 is for presenting a real image in front of the viewer of the image, and the length × width =
Two Fresnel lenses having a size of 55 cm × 65 cm and a focal length of 80 cm are used so that their flat sides face each other. Here, there is no particular reason to limit to a Fresnel lens, and an ordinary spherical lens or aspherical lens can also be used. The distance between the image forming system 6 and the image viewer 3 is variable and is 80 to 14
It is 0 cm.

【0020】また、映像鑑賞者3の視点の位置を測定す
る方法は、傾斜磁場と磁気センサ2を組み合わせた良く
知られた方法である。この測定法では、位置情報と方位
情報が得られるので、実質的に両眼の位置情報を得るこ
とになる。
The method of measuring the position of the viewpoint of the image viewer 3 is a well-known method in which the gradient magnetic field and the magnetic sensor 2 are combined. With this measuring method, since position information and orientation information are obtained, position information of both eyes is substantially obtained.

【0021】表示装置12に表示される画像は、映像観
賞者3の両眼の位置情報を元に、三次元空間を各眼の位
置から観測した時に得られる画像が実像面に表示される
ように計算して作成された画像である。この計算は、具
体的に次のように実行することができる。まず、映像観
賞者3の右眼に提示する表示装置12上の画像は、提示
する三次元映像上の画素の集合Xに含まれる全ての画素x
∈Xについて、xと右眼の三次元位置erとを結ぶ線分x‐
rを含む光路が表示装置の表示面11と概略交差する
点に、画素xに対応する輝度値で描画を行う。映像観賞
者3の左眼に提示する表示装置12上の画像は、提示す
る三次元映像上の点の集合Xに含まれる全ての画素x∈X
について,xと左眼の三次元位値elとを結ぶ線分x‐el
を含む光路が表示装置の表示面11と概略交差する点
に、画素xに対応する輝度値で描画を行う。ここで、光
路の計算は、レンズの曲率と屈折率をもとに三角関数を
使って求めるという既に良く知られた方法で行うことが
できる。
The image displayed on the display device 12 is such that the image obtained when the three-dimensional space is observed from the position of each eye is displayed on the real image plane based on the position information of both eyes of the image viewer 3. It is an image created by calculation. Specifically, this calculation can be performed as follows. First, the image on the display device 12 to be presented to the right eye of the image viewer 3 is all the pixels x included in the set X of pixels on the presented three-dimensional image.
For εX, a line segment x- that connects x and the three-dimensional position e r of the right eye
Drawing is performed with a luminance value corresponding to the pixel x at a point where the optical path including e r substantially intersects the display surface 11 of the display device. The image on the display device 12 presented to the left eye of the video viewer 3 includes all pixels x∈X included in the set X of points on the presented 3D video.
For x, the line segment x-e l that connects x and the three-dimensional position e l of the left eye
Drawing is performed with a luminance value corresponding to the pixel x at a point where the optical path including the line substantially intersects the display surface 11 of the display device. Here, the calculation of the optical path can be performed by a well-known method of obtaining it by using a trigonometric function based on the curvature and the refractive index of the lens.

【0022】上記の計算を具体例で示すと図5の様にな
る。例えば、三次元空間上の3点α、β、γを描画する
場合、線分、α‐er、β‐er、γ‐erを含む光路が
表示装置の表示面11と交差する点ar、br、crに点
α、β、γに対応する輝度値で右眼用の画像の描画を行
い、α‐er、β‐er、γ‐erを含む光路が表示装置
の表示面11と交差する点ar、br、crに点α、β、
γに対応する輝度値で右眼用の画像の描画を行う。
A concrete example of the above calculation is shown in FIG. For example, three points on the three-dimensional space alpha, beta, when drawing a gamma, segment, α-e r, β- e r, a point which intersects the display surface 11 of the optical path is a display device including a gamma-e r a r, b r, the point in c r α, β, performs drawing of the image for the right eye luminance value corresponding to the γ, α-e r, β -e r, the optical path view containing gamma-e r point intersects the display surface 11 of the device a r, b r, the point in c r α, β,
An image for the right eye is drawn with a brightness value corresponding to γ.

【0023】三次元空間上の点xの座標ベクトルxか
ら、その点xと眼の位置e(座標ベクトルe=(er
l))を結ぶ線分を含む光路が表示装置12と交わる点
yの座標yを求める写像y=f(x、e)は一般に非線型
であるため、この写像を実時間で実行することは困難で
あったが、光学系のパラメータを適切に選択すると、写
像fは線型写像と正射影の組み合わせで近似することが
可能であり、その場合は、現在市販されている計算機
で、実時間の描画が容易に実現できる。
From the coordinate vector x of the point x in the three-dimensional space, the point x and the eye position e (coordinate vector e = (e r ,
Since the mapping y = f (x, e) for obtaining the coordinate y of the point y at which the optical path including the line segment connecting (e l )) intersects with the display device 12 is generally nonlinear, this mapping should be executed in real time. However, if the parameters of the optical system are properly selected, the mapping f can be approximated by a combination of linear mapping and orthographic projection. Can be easily drawn.

【0024】[0024]

【発明の効果】この発明は上記した構成からなるので、
以下に説明するような効果を奏することができる。
Since the present invention has the above-mentioned structure,
The effects described below can be achieved.

【0025】請求項1に記載の発明では、立体画像を表
示する装置を小型にまとめることができて、持ち運びに
便利になった。
In the invention described in claim 1, the device for displaying a stereoscopic image can be integrated into a small size, which is convenient for carrying.

【0026】請求項2に記載の発明では、映像表示装置
が1つで済むようになったので、立体画像を表示する装
置を軽量にすることができた。
According to the second aspect of the invention, since only one video display device is required, the device for displaying a stereoscopic image can be made lightweight.

【0027】さらに、請求項3に記載の発明では、請求
項1あるいは2に記載の発明による効果に加え、映像鑑
賞者が動いても、立体画像を鑑賞することができるよう
になった。
Further, according to the invention described in claim 3, in addition to the effect according to the invention described in claim 1 or 2, the stereoscopic image can be viewed even when the video viewer moves.

【0028】さらに、請求項4記載の発明では、請求項
1あるいは2に記載の発明による効果に加え、映像鑑賞
者が動いても、映像が歪むことが無くなった。
Further, in the invention described in claim 4, in addition to the effect of the invention described in claim 1 or 2, the image is not distorted even when the image viewer moves.

【図面の簡単な説明】[Brief description of drawings]

【図1】第1の実施形態の構成を示す模式図である。FIG. 1 is a schematic diagram showing a configuration of a first embodiment.

【図2】立体眼鏡装置を用いる立体ディスプレイの模式
図である。
FIG. 2 is a schematic diagram of a stereoscopic display using a stereoscopic spectacle device.

【図3】結像系を用いた立体ディスプレイの構成を示す
模式図である。
FIG. 3 is a schematic diagram showing a configuration of a stereoscopic display using an imaging system.

【図4】本発明の立体画像を表示する装置構成を示す模
式図である。
FIG. 4 is a schematic diagram showing a device configuration for displaying a stereoscopic image according to the present invention.

【図5】映像表示装置上の画像提示方法を示す模式図で
ある。
FIG. 5 is a schematic diagram showing an image presentation method on a video display device.

【符号の説明】[Explanation of symbols]

1 映像配信及び制御用計算機 2 磁気センサ 3 映像鑑賞者 4 右眼 5 左眼 6 結像系 7 左用画像分離装置 8 右眼用画像分離装置 9 画像分離装置 10 偏光フィルタ 11 画像表示面 12 映像表示装置 13 制御用配線系 14 実像面 15、16 反射板 17 集光系 30 立体眼鏡装置 40 最も近くにある画像を表示する時の視差に対応す
る距離 41 視差に対応する像の位置と眼の焦点の対応する位
置の差
1 Video Distribution and Control Computer 2 Magnetic Sensor 3 Video Viewer 4 Right Eye 5 Left Eye 6 Imaging System 7 Left Image Separator 8 Right Eye Image Separator 9 Image Separator 10 Polarizing Filter 11 Image Display Surface 12 Image Display Device 13 Control wiring system 14 Real image planes 15 and 16 Reflector 17 Condensing system 30 Stereoscopic spectacle device 40 Distance 41 corresponding to the parallax when displaying the closest image 41 Position of the image corresponding to the parallax and eye focus Corresponding position difference of

フロントページの続き (56)参考文献 特開 平8−307907(JP,A) 特開2000−105351(JP,A) 特開 平8−76057(JP,A) 特開2001−218231(JP,A) (58)調査した分野(Int.Cl.7,DB名) H04N 13/00 G02B 27/22 Continuation of the front page (56) Reference JP-A-8-307907 (JP, A) JP-A-2000-105351 (JP, A) JP-A-8-76057 (JP, A) JP-A-2001-218231 (JP, A) ) (58) Fields surveyed (Int.Cl. 7 , DB name) H04N 13/00 G02B 27/22

Claims (4)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】 第1の画像と第2の画像とを表示する単
数あるいは複数の画像面からなる映像表示装置と、集光
系と、第1の画像と第2の画像とを分離する画像分離装
置と、結像系と、映像鑑賞者の眼球の位置情報を取得で
きる位置検出手段と、を備え、該映像表示装置より発せ
られた光情報が映像鑑賞者に達する光路において、該映
像表示装置、該集光系、該画像分離装置、該結像系、の
順で配置され、該映像表示装置の画素の実像が、該結像
系と該映像鑑賞者との間に結ばれる構成と、映像鑑賞者
の左右両眼球の位置情報により該画像表示装置の表示内
容を変える構成と、を備えることを特徴とする立体画像
を表示する装置。
1. A video display device comprising a single image plane or a plurality of image planes for displaying a first image and a second image, a condensing system, and an image for separating the first image and the second image. A separation device, an imaging system, and position detection means capable of acquiring position information of the eyeballs of the image viewer, and the image display in the optical path where the optical information emitted from the image display device reaches the image viewer. A device, the condensing system, the image separation device, and the image forming system, which are arranged in this order, and a real image of a pixel of the image display device is formed between the image forming system and the image viewer. A device for displaying a stereoscopic image, characterized in that the display content of the image display device is changed according to the position information of the left and right eyes of the image viewer.
【請求項2】 第1の表示周期を持つ第1の画像を表示
する画面と、第1の表示周期と等しい第2の表示周期を
もつ第2の画像を表示する画面を含み、第1の画像と第
2の画像とを予め決められた周期で表示する単数あるい
は複数の画面を持った映像表示装置と、集光系と、第1
の画像と第2画像とを分離する画像分離装置と、結像系
と、映像鑑賞者の眼球の位置情報を取得できる位置検出
手段と、を備え、該映像表示装置より発せられた光情報
が映像鑑賞者に達する光路において、該映像表示装置、
該集光系、該画像分離装置、該結像系、の順で配置さ
れ、該映像表示装置の画素の実像が、該結像系と該映像
鑑賞者との間に結ばれる構成と、映像鑑賞者の左右両眼
球の位置情報により該画像表示装置の表示内容を変える
構成と、を備えることを特徴とする立体画像を表示する
装置。
2. A screen including a screen for displaying a first image having a first display cycle and a screen for displaying a second image having a second display cycle equal to the first display cycle. A video display device having a single screen or a plurality of screens for displaying an image and a second image at a predetermined cycle; a condensing system;
Image separation device for separating the second image and the second image, an image forming system, and position detection means capable of acquiring position information of the eyeball of the image viewer, and the optical information emitted from the image display device is In the optical path reaching the image viewer, the image display device,
A configuration in which the condensing system, the image separation device, and the image forming system are arranged in this order, and a real image of a pixel of the image display device is formed between the image forming system and the image viewer. A device for displaying a stereoscopic image, characterized in that the display content of the image display device is changed according to the position information of the left and right eyes of the viewer.
【請求項3】 請求項1あるいは2に記載の立体画像を
表示する装置において、画像分離装置は、映像鑑賞者の
眼球の位置の移動に連動して、光路を選択する構成を有
することを特徴とする立体画像を表示する装置。
3. The apparatus for displaying a stereoscopic image according to claim 1 or 2, wherein the image separation apparatus has a configuration for selecting an optical path in conjunction with movement of the position of the eyeball of the video viewer. A device for displaying stereoscopic images.
【請求項4】 第1の画像と第2の画像とを表示する単
数あるいは複数の画像面からなる映像表示装置と、集光
系と、第1の画像と第2の画像とを分離する画像分離装
置と、結像系と、映像鑑賞者の眼球の位置情報を取得で
きる位置検出手段と、を備え、該映像表示装置より発せ
られた光情報が映像鑑賞者に達する光路において、該映
像表示装置、該集光系、該画像分離装置、該結像系、の
順で配置され、該映像表示装置の画素の実像が、該結像
系と該映像鑑賞者との間に結ばれる構成と、映像鑑賞者
の左右両眼球の位置情報により該画像表示装置の表示内
容を変える構成と、を備えることを特徴とする立体画像
を表示する装置において、 該映像観賞者の右眼に提示される該映像表示装置上の画
像は、提示される三次元映像上の画素の集合Xに含まれ
るそれぞれの画素x∈Xについて、xと右眼の三次元位置
rとを結ぶ線分x‐erを含む光路が該映像表示装置の
表示面と交差する点に予め対応づけられた点に、画素x
に対応する輝度値で描画され、該映像観賞者の左眼に提
示される該映像表示装置上の画像は、提示される三次元
映像上の点の集合Xに含まれるそれぞれの画素x∈Xにつ
いて、xと左眼の三次元位置elとを結ぶ線分x‐elを含
む光路が該映像表示装置の表示面と交差する点に予め対
応づけられた点に、画素xに対応する輝度値で描画され
ることを特徴とする立体画像を表示する方法。
4. An image display device comprising a single image plane or a plurality of image planes for displaying the first image and the second image, a condensing system, and an image for separating the first image and the second image. A separation device, an imaging system, and position detection means capable of acquiring position information of the eyeballs of the image viewer, and the image display in the optical path where the optical information emitted from the image display device reaches the image viewer. A device, the condensing system, the image separation device, and the image forming system, which are arranged in this order, and a real image of a pixel of the image display device is formed between the image forming system and the image viewer. A configuration for changing the display content of the image display device according to the position information of the left and right eyes of the image viewer, which is presented to the right eye of the image viewer in a device for displaying a stereoscopic image. The image on the video display is a set X of pixels on the presented 3D video. Murrell For each pixel X∈X, was previously correlated to the point where the optical path including the line x-e r connecting the three-dimensional position e r x and the right eye intersects the display surface of the video display device At the pixel x
The image on the video display device, which is drawn with the brightness value corresponding to, and is presented to the left eye of the video viewer, is the pixel x ∈ X included in the set X of points on the presented three-dimensional video image. for, in that optical path including a line segment x-e l connecting the three-dimensional position e l x and the left eye is associated in advance to a point which intersects the display surface of the video display device, corresponding to the pixel x A method for displaying a stereoscopic image characterized by being drawn with a luminance value.
JP2000266656A 2000-01-31 2000-09-04 Apparatus and method for displaying stereoscopic image Expired - Lifetime JP3425416B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2000266656A JP3425416B2 (en) 2000-09-04 2000-09-04 Apparatus and method for displaying stereoscopic image
US09/772,965 US6788274B2 (en) 2000-01-31 2001-01-31 Apparatus and method for displaying stereoscopic images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000266656A JP3425416B2 (en) 2000-09-04 2000-09-04 Apparatus and method for displaying stereoscopic image

Publications (2)

Publication Number Publication Date
JP2002077946A JP2002077946A (en) 2002-03-15
JP3425416B2 true JP3425416B2 (en) 2003-07-14

Family

ID=18753704

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000266656A Expired - Lifetime JP3425416B2 (en) 2000-01-31 2000-09-04 Apparatus and method for displaying stereoscopic image

Country Status (1)

Country Link
JP (1) JP3425416B2 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000105351A (en) 1998-07-30 2000-04-11 Communication Research Laboratory Mpt Method and device for displaying 3-dimensional image in simulated space
JP2001218231A (en) 2000-01-31 2001-08-10 Communications Research Laboratory Mphpt Device and method for displaying stereoscopic image

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000105351A (en) 1998-07-30 2000-04-11 Communication Research Laboratory Mpt Method and device for displaying 3-dimensional image in simulated space
JP2001218231A (en) 2000-01-31 2001-08-10 Communications Research Laboratory Mphpt Device and method for displaying stereoscopic image

Also Published As

Publication number Publication date
JP2002077946A (en) 2002-03-15

Similar Documents

Publication Publication Date Title
TWI508519B (en) An image processing apparatus, a program, an image processing method, a recording method, and a recording medium
JP5515301B2 (en) Image processing apparatus, program, image processing method, recording method, and recording medium
JP3387624B2 (en) 3D display device
JP3802630B2 (en) Stereoscopic image generating apparatus and stereoscopic image generating method
US6788274B2 (en) Apparatus and method for displaying stereoscopic images
JPH09105885A (en) Head-mounted 3D image display device
JP4546505B2 (en) Spatial image projection apparatus and method
KR20140067575A (en) Method for displaying three-dimensional image and three-dimensional image display apparatus performing the same
CN113272710A (en) Extending field of view by color separation
JPH09322197A (en) Stereoscopic vision display device
JPH1013861A (en) Three-dimensional image display method and display device thereof
JP5396877B2 (en) Image processing apparatus, program, image processing method, and recording method
JPH09101482A (en) Stereoscopic image display method and image display device using the same
JP3425402B2 (en) Apparatus and method for displaying stereoscopic image
JPH08327948A (en) Stereoscopic image display method and stereoscopic image display device
JP6915368B2 (en) Multifocal visual output method, multifocal visual output device
KR20120093693A (en) Stereoscopic 3d display device and method of driving the same
JP2002303821A (en) Stereoscopic display device and screen control method in stereoscopic display device
JPH08223609A (en) Three-dimensional display method and display device for enabling focus control
JP3425416B2 (en) Apparatus and method for displaying stereoscopic image
JP3825414B2 (en) 3D display device
JPH11119154A (en) Virtual screen type stereoscopic display
JP4268415B2 (en) Stereoscopic method and head-mounted display device
JP2004279743A (en) 3D display
KR101093929B1 (en) Method and system for displaying 3D image using depth map

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
R150 Certificate of patent or registration of utility model

Ref document number: 3425416

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term