Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP3486578B2 - Image drawing method, image drawing apparatus, and storage medium - Google Patents
[go: Go Back, main page]

JP3486578B2 - Image drawing method, image drawing apparatus, and storage medium - Google Patents

Image drawing method, image drawing apparatus, and storage medium

Info

Publication number
JP3486578B2
JP3486578B2 JP24929399A JP24929399A JP3486578B2 JP 3486578 B2 JP3486578 B2 JP 3486578B2 JP 24929399 A JP24929399 A JP 24929399A JP 24929399 A JP24929399 A JP 24929399A JP 3486578 B2 JP3486578 B2 JP 3486578B2
Authority
JP
Japan
Prior art keywords
data
spatial data
image
viewpoint position
space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP24929399A
Other languages
Japanese (ja)
Other versions
JP2001078232A (en
Inventor
幸雄 坂川
昭宏 片山
大輔 小竹
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP24929399A priority Critical patent/JP3486578B2/en
Priority to DE60033249T priority patent/DE60033249D1/en
Priority to EP00118747A priority patent/EP1081650B1/en
Priority to AT00118747T priority patent/ATE353460T1/en
Priority to US09/653,271 priority patent/US6774898B1/en
Publication of JP2001078232A publication Critical patent/JP2001078232A/en
Application granted granted Critical
Publication of JP3486578B2 publication Critical patent/JP3486578B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Processing Or Creating Images (AREA)
  • Information Transfer Between Computers (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明は、例えば光線空間理
論データのような大量の画像データをダウンロードして
ユーザに提示する仮想画像の描画方法、描画装置に関す
る。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a virtual image drawing method and a drawing apparatus for downloading a large amount of image data such as ray space theoretical data and presenting it to a user.

【0002】[0002]

【従来の技術】仮想空間を、3次元幾何形状を基に記述
するのではなく、実写画像を基に記述表現する手法が数
多く提案されている。これらはImage Based Rendering
(以下、IBRと略す)と呼ばれており、実写画像を基に
するが故に、3次元幾何形状を基にする手法からは得ら
れない写実性の高い仮想空間を表現できる点に特徴があ
る。
2. Description of the Related Art Many techniques have been proposed for describing and describing a virtual space based on a photographed image, rather than based on a three-dimensional geometric shape. These are Image Based Rendering
It is called (hereinafter abbreviated as IBR), and is characterized in that it can represent a highly realistic virtual space that cannot be obtained from a method based on a three-dimensional geometric shape because it is based on a real image. .

【0003】IBRの一手法である光線空間理論に基づい
た仮想空間の記述に関する試みが提案されている。例え
ば、電子情報通信学会論文誌「CGモデルと光線空間デー
タとの融合による仮想環境の実現」(D-11, Vol. J80-D-
11 No. 11, pp3048-3057, 1997年11月)、または、「3
次元統合画像通信を目指したホログラムと光線空間の相
互変換」(3D Image Conference)などを参照。
An attempt to describe a virtual space based on the ray space theory, which is one of the IBR methods, has been proposed. For example, IEICE Transactions "Realization of Virtual Environment by Fusion of CG Model and Ray Space Data" (D-11, Vol. J80-D-
11 No. 11, pp3048-3057, November 1997), or "3
See Mutual conversion between hologram and ray space for three-dimensional integrated image communication (3D Image Conference).

【0004】光線空間理論について説明する。The ray space theory will be described.

【0005】第1図に示すように実空間に座標系O-X-Y-
Zを設置する。Z軸に垂直な基準面P(Z=z)を通過する
光線を、光線がPを横切る位置(x,y)と、光線の方
向を示す変数θ、φで表すことにする。すなわち、1本
の光線は(x, y, z,θ,φ)の5つの変数により一意に定
められる。この光線の光強度を表す関数をfと定義する
と、この空間中の光線群データはf(x, y, z,θ,φ)で表
現することが出来る。この5次元の空間を「光線空間」
と呼ぶ。より一般的には,時間変動分tを入れる場合も
あるがここでは省略する.
As shown in FIG. 1, the coordinate system OXY-
Install Z. A ray passing through a reference plane P (Z = z) perpendicular to the Z axis is represented by a position (x, y) where the ray crosses P and variables θ and φ indicating the direction of the ray. That is, one ray is uniquely determined by the five variables (x, y, z, θ, φ). If the function expressing the light intensity of this ray is defined as f, the ray group data in this space can be expressed by f (x, y, z, θ, φ). This five-dimensional space is called "ray space"
Call. More generally, the time variation t may be included, but it is omitted here.

【0006】ここで、基準面Pをz=0に設定し、光線の
垂直方向の視差情報、すなわちφ方向の自由度を省略す
ると、光線の自由度を(x,θ)の2次元に縮退させること
ができる。このx-θ2次元空間は、光線空間の部分空間
となる。そして、実空間中の点(X,Z)を通る光線
(第2図)は、u = tanθとおくと、x−u空間上で
は、第3図に示すように、
Here, if the reference plane P is set to z = 0 and the parallax information in the vertical direction of the light beam, that is, the degree of freedom in the φ direction is omitted, the degree of freedom of the light beam is reduced to two dimensions (x, θ). Can be made. This x-θ two-dimensional space is a subspace of the ray space. Then, if a ray (Fig. 2) passing through a point (X, Z) in the real space is set as u = tan θ, in x-u space, as shown in Fig. 3,

【0007】[数1]X = x + u・Z[Equation 1] X = x + u · Z

【0008】という直線上に写像される。カメラによる
撮影とは、カメラのレンズ焦点を通過する光線を撮像面
で受光し、その明るさや色を画像化する操作に相当す
る。言い換えると、焦点位置という実空間中の1点を通
る光線群を画像として画素数分獲得していることにな
る。ここでは、φ方向の自由度を省略し、X−Z平面内
のみでの光線の振舞いを考えているので、画像中のY軸
との直交面と交わる線分上の画素のみを考えることにな
る。このように、画像の撮影によって1点を通る光線を
集めることができ、1回の撮影でx−u空間の1本の線
分上のデータを獲得することができる。
Is mapped on the straight line. Shooting with a camera corresponds to an operation of receiving a light beam that passes through the lens focal point of the camera on an imaging surface and imaging its brightness and color. In other words, a group of light rays passing through one point in the real space, which is the focus position, is acquired as an image for the number of pixels. Here, since the degree of freedom in the φ direction is omitted and the behavior of light rays is considered only in the XZ plane, only pixels on a line segment that intersects the plane orthogonal to the Y axis in the image are considered. Become. In this way, light rays passing through one point can be collected by photographing an image, and data on one line segment in the x-u space can be acquired by one photographing.

【0009】この撮影を視点位置(本明細書では、特に
断らない限りは、視点位置は、視点の位置と視線方向の
双方を含むものとする)を変え多数行うと、多数の点を
通る光線群を獲得することができる。第4図のようにN
台のカメラを用いて実空間を撮影すると、n番目(n=
1,2,...,N)のカメラCnの焦点位置(Xn, Zn)に
対応して、第5図のごとく、
If this photographing is performed many times by changing the viewpoint position (in this specification, unless otherwise specified, the viewpoint position includes both the viewpoint position and the line-of-sight direction), a ray group passing through a large number of points is obtained. Can be earned. N as shown in FIG.
When the real space is photographed using two cameras, the nth (n =
1, 2, ..., N) corresponding to the focal positions (X n , Z n ) of the cameras C n , as shown in FIG.

【0010】[数2]x + Znu = Xn の直線上のデータを入力することができる。このよう
に、十分に多数の視点からの撮影を行うことによって、
x−u空間を密にデータで埋めていくことができる。
[Equation 2] x + Znu = Xn You can enter the data on the straight line. like this
In addition, by shooting from a sufficient number of viewpoints,
The xu space can be densely filled with data.

【0011】逆に、x−u空間のデータ(第6図)か
ら、新しい任意の視点位置からの観察画像を生成するこ
とができる(第7図)。この図に示すように、目の形で
表した新しい視点位置E(X,Z)からの観察画像は、
x−u空間上の数式1の直線上のデータをx−u空間か
ら読み出すことによって生成できる。
Conversely, an observation image from a new arbitrary viewpoint position can be generated from the data in the xu space (FIG. 6) (FIG. 7). As shown in this figure, the observation image from the new viewpoint position E (X, Z) expressed in the form of eyes is
It can be generated by reading the data on the straight line of Expression 1 on the xu space from the xu space.

【0012】[0012]

【発明が解決しようとする問題点】上記の光線空間デー
タの如き実写画像データは、通常、1単位毎(例えば、
物体毎)に、圧縮されて外部記憶装置などに記憶されて
いる。従って、このような空間データを仮想空間に描画
するためには、主記憶装置にダウンロードし、復号化
し、主記憶装置上で描画する必要がある。一方、ユーザ
にとっては、仮想空間に描画されるべき全ての仮想物体
の仮想画像が表示されて初めてその仮想空間の把握が可
能になる。従って、描画すべき物体が複数存在する場合
には、ユーザは、それら物体の空間データが全て、ダウ
ンロードされ、復号化され、描画された後でなければ、
それらの仮想物体を把握できないことになる。即ち、こ
のような仮想空間を例えばウオークスルー体験する場合
には、レスポンスの悪い描画装置となってしまう。
The photographed image data such as the above-mentioned ray space data is normally used for each unit (for example,
Each object is compressed and stored in an external storage device or the like. Therefore, in order to draw such spatial data in the virtual space, it is necessary to download it to the main memory, decrypt it, and draw it on the main memory. On the other hand, the user cannot grasp the virtual space until the virtual images of all virtual objects to be drawn in the virtual space are displayed. Therefore, when there are a plurality of objects to be drawn, the user is required to download, decode, and draw all the spatial data of those objects.
You will not be able to grasp those virtual objects. That is, when a walkthrough experience is made in such a virtual space, the drawing device has a poor response.

【0013】これが、光線空間データのような空間デー
タを取り扱うに際しての従来技術に関わる第1の問題点
である。
This is the first problem associated with the prior art in handling spatial data such as ray space data.

【0014】従来技術に関わる第2の問題は、光線空間
データなどの実写画像データが大量のデータを含むこと
に起因する。かかるデータは通常データベースの形で、
画像処理装置から離れたところに格納するのが普通であ
るが、そのために、画像処理装置が、仮想空間に仮想画
像を展開するためには、前提として、大量の空間データ
を画像処理装置にダウンロードしておかなくてはならな
い。実写画像データは、その膨大さ故に、通信速度が昨
今向上したとはいえ、空間データを要求してから、その
空間データを画像処理装置内で描画することができるよ
うになるまでのターンアラウンド時間の長さは看過でき
ないほどである。従って、発明者たちは、このような仮
想空間をユーザに提示するシステムにおいて、実写画像
データを利用できるようになるまでの待ち時間に、ユー
ザを退屈させないことの必要性を認識するに到った。即
ち、この待ち時間の間は、任意視点位置からのシーンを
得ることはできないものの、ダウンロード時間の短いビ
ルボード画像(一枚の画像)を代用させるのである。
The second problem related to the prior art is that real shot image data such as ray space data contains a large amount of data. Such data is usually in the form of a database,
It is usually stored away from the image processing apparatus. Therefore, in order for the image processing apparatus to develop the virtual image in the virtual space, it is necessary to download a large amount of spatial data to the image processing apparatus. I have to keep it. Although the communication speed of real-image data has improved recently due to its huge size, the turnaround time from when spatial data is requested until it can be drawn in the image processing device. The length of the is so unnoticed. Therefore, the inventors have come to recognize the necessity of not boring the user in the waiting time until the real image data can be used in the system for presenting such virtual space to the user. . That is, during this waiting time, a scene from an arbitrary viewpoint position cannot be obtained, but a billboard image (one image) with a short download time is substituted.

【0015】従来技術に関わる第3の問題は、光線空間
データなどの実写画像データを用いて、仮想空間内を自
由に巡ることのできるウオークスルーシステムを提供す
る場合において、システムのメモリ容量に制限がある場
合に発生する。即ち、上述の第1の問題に対処するため
に、仮想空間を複数のサブ空間(例えば、仮想美術館で
あれば、各展示室が1つのサブ空間を構成する)に分割
する手法を提案することができる。
A third problem related to the prior art is that, in the case of providing a walkthrough system capable of freely traveling in a virtual space by using real image data such as ray space data, the memory capacity of the system is limited. Occurs when there is. That is, in order to deal with the first problem described above, it is proposed to divide the virtual space into a plurality of sub-spaces (for example, in a virtual museum, each exhibition room constitutes one sub-space). You can

【0016】即ち、ユーザが、ある展示室に近づこうと
することが検知される場合には、その展示室だけの空間
データを先読みしておくことにより、描画処理に先立つ
転送処理に要する時間を短縮する。またさらに、ユーザ
がその展示室(サブ空間Aとすると)を出ようとすると
きは、次のサブ空間(例えば展示室B)のための空間デ
ータを、それまで展示室Aの空間データを記憶していた
記憶領域に上書きして記憶させる必要がある。こうする
ことにより、比較的に少ないメモリ容量であっても、リ
アルタイムに近い速度で次々に展示室のサブ仮想空間を
再現することができる。
That is, when it is detected that the user is approaching a certain exhibition room, the time required for the transfer process prior to the drawing process is shortened by pre-reading the spatial data of only the exhibition room. To do. Furthermore, when the user tries to leave the exhibition room (sub-space A), the spatial data for the next sub-space (for example, exhibition room B) is stored, and the spatial data of exhibition room A is stored until then. It is necessary to overwrite the existing storage area and store it. By doing so, even if the memory capacity is relatively small, it is possible to reproduce the sub virtual space of the exhibition room one after another at a speed close to real time.

【0017】ところで、この先読みは、ユーザの視点位
置が目的のサブ空間に近づいたことをもって判断する。
しかしながら、ユーザの視点位置の移動は、マウスなど
を用いるために、高精度の経路誘導を行うというもので
はなく、そのために、誤った経路にユーザを招きかねな
い。即ち、先読み開始領域にないユーザの視点位置を、
誤って、その先読み開始領域にあると検出した場合に
は、システムは、先読みを開始してしまう。特に、ユー
ザの視点位置を先読み開始ゾーンの近傍において移動さ
せた場合には、この誤動作は起こりやすい。例えば、第
8図に示すように、視点位置が、展示室空間から先読み
開始ゾーンに入り、更に再び、展示室空間に戻るといっ
た操作が行われた場合において、上記の誤った先読み動
作が行われると、展示室空間のための大容量の空間デー
タはパージ(消去)されてしまい、再び、展示室空間に
「戻った」(視点位置が誤検出されたための起こった事
態であるので、ユーザにとっては、戻るという意識はな
い)には、システム側は、この展示室空間のデータを再
度転送する必要がある。これは時間の面でかなりの無駄
な操作となる。
By the way, this pre-reading is judged when the viewpoint position of the user approaches the target sub-space.
However, moving the viewpoint position of the user does not mean that the mouse or the like is used to guide the route with high accuracy, and therefore the user may be invited to the wrong route. That is, the viewpoint position of the user who is not in the prefetch start area is
If the system mistakenly detects that it is in the prefetch start area, the system starts prefetch. In particular, when the user's viewpoint position is moved near the prefetch start zone, this malfunction is likely to occur. For example, as shown in FIG. 8, when an operation such that the viewpoint position enters the pre-reading start zone from the exhibition room space and then returns to the exhibition room space again, the erroneous pre-reading operation is performed. Then, the large volume of space data for the exhibition space was purged (erased), and "returned" to the exhibition space again (this is a situation that occurred because the viewpoint position was erroneously detected. , There is no consciousness of returning), the system side needs to transfer the data of this exhibition space again. This is a wasteful operation in terms of time.

【0018】本発明は上述の第2の問題点に向けられて
いる。
The present invention is directed to the second problem mentioned above.

【0019】本発明の目的は、一方が外部メモリに、他
方が内部メモリに記憶されている少なくとも2つの空間
データを用いて、外部メモリの空間データを描画するこ
とを原則とし、適宜、内部メモリに記憶されている空間
データを描画することの可能な画像描画方法および装置
を提案する。
The object of the present invention is, in principle, to draw the spatial data of the external memory by using at least two spatial data stored in the external memory and the other in the internal memory. An image drawing method and apparatus capable of drawing the spatial data stored in the memory are proposed.

【0020】[0020]

【課題を解決するための手段】この目的を達成するため
の、請求項1に記載の、仮想空間に任意の視点位置での
仮想画像を描画する描画方法は、第1の視点位置におけ
る、第1の空間データであって、第1のデータ形式を有
し、ビルボード画像を構成するのに最適な空間データで
ある第1の空間データを内部メモリに記憶し、前記第1
の視点位置における、第2の形式の第2の空間データを
前記内部メモリとは異なる外部メモリに記憶し、任意の
視点位置での仮想画像を生成するために、前記外部メモ
リから、前記第2の空間データをダウンロードし、前記
任意の視点位置での仮想画像を、ダウンロードが完了し
ない間は前記内部メモリ内の第1の空間データに基づい
て描画し、ダウンロードの完了後は前記内部メモリにダ
ウンロードされた前記第2の空間データに基づいて描画
することを特徴とする。
In order to achieve this object, a drawing method for drawing a virtual image at an arbitrary viewpoint position in a virtual space according to claim 1 is a method for drawing a virtual image at a first viewpoint position . 1 spatial data that has the first data format
And with the best spatial data to compose the billboard image
Storing certain first spatial data in an internal memory,
The second spatial data of the second format at the viewpoint position is stored in an external memory different from the internal memory, and the second memory is used to generate a virtual image at an arbitrary viewpoint position from the external memory. Space data is downloaded, a virtual image at the arbitrary viewpoint position is drawn based on the first space data in the internal memory while the download is not completed, and then downloaded to the internal memory after the download is completed. Drawing is performed based on the generated second space data.

【0021】ダウンロードが必要な第2の空間データ
は、膨大な空間データあり、内部メモリに常駐させるこ
との困難であることが予想される。このような第2の空
間データがダウンロードされない間は、内部メモリにあ
る第1の空間データを元にして仮想画像を描画すること
により、ユーザに画像が表示されない違和感を解消する
と共に、高価な内部メモリを効率的に利用できるように
なる。
The second spatial data that needs to be downloaded is a huge amount of spatial data, and it is expected that it will be difficult to make it resident in the internal memory. While such second spatial data is not downloaded, a virtual image is drawn based on the first spatial data in the internal memory, thereby eliminating the discomfort that the image is not displayed to the user and increasing the cost of the expensive internal image. The memory can be used efficiently.

【0022】[0022]

【0023】 また、請求項に記載のように、第1の
空間データは、容量は少ないが精細度や解像度において
劣るVRML空間データであり、第2の空間データは、大容
量ではあるが精細度や解像度において優れる光線空間理
論データである。
Further, as described in claim 2 , the first spatial data is VRML spatial data having a small capacity but inferior in definition and resolution, and the second spatial data is a large capacity but fine. It is ray space theoretical data that is excellent in degree and resolution.

【0024】 本発明の好適な一態様拠れば、この描
画方法は、前記仮想空間においてユーザに仮想ウオーク
スルー環境を提供する。
According to a preferred aspect of the present invention, this rendering method provides a user with a virtual walkthrough environment in the virtual space.

【0025】 第1の空間データも比較的容量が大き
い。このような第1の空間データも外部メモリに記憶す
ることが望ましい。そこで、本発明の好適な一態様
れば、前記第1の空間データは前記外部メモリに記憶さ
れ、前記第2の空間データのダウンロードの前に、前記
第1の空間データの前記内部メモリへのダウンロードを
終了させるように構成する。
The first spatial data also has a relatively large capacity. It is desirable to store such first spatial data in the external memory as well. Therefore, according to a preferred aspect of the present invention, the first spatial data is stored in the external memory, and the first spatial data is stored before the second spatial data is downloaded. It is configured to terminate the download of the above into the internal memory.

【0026】例えばウオークスルー提供環境では、仮想
空間は複数のサブ空間から構成される。即ち、第2の空
間データは複数単位の空間データから構成される。
For example, in the walkthrough providing environment, the virtual space is composed of a plurality of subspaces. That is, the second spatial data is composed of plural units of spatial data.

【0027】 そこで、本発明の好適な一態様によれ
ば、異なる複数の視点位置から前もって撮像された複数
の画像の空間データを第2の空間データとして前記外部
メモリに記憶し、移動されるユーザの視点位置を検出
し、移動後の視点位置における画像の描画処理と、前記
第2の空間データのダウンロード処理とを並列処理で行
う。本明細書では、こ方法は、第1実施形態の第1実
施例によって実現されている。
Therefore, according to a preferred aspect of the present invention, spatial data of a plurality of images captured in advance from different viewpoint positions are stored in the external memory as second spatial data, and the user is moved. The viewpoint drawing position is detected, and the image drawing process at the moved viewpoint position and the download process of the second spatial data are performed in parallel. In this specification, the method of this is achieved first examples of the first embodiment.

【0028】 本発明の他の好適な一態様によれば、
なる複数の視点位置から前もって撮像された複数の画像
の空間データを第2の空間データとして前記外部メモリ
に記憶し、移動されるユーザの視点位置を検出し、移動
後の視点位置に対応する空間データを前記外部メモリか
らダウンロードし、ダウンロードが完了しない間は前記
内部メモリ内の第1の空間データに基づいて描画し、ダ
ウンロードの完了後は前記内部メモリにダウンロードさ
れた前記移動後の視点位置に対応する第2の空間データ
に基づいて描画する。本明細書では、こ方法は、第1
実施形態の第2実施例によって実現されている。
According to another preferred aspect of the present invention, spatial data of a plurality of images previously captured from different viewpoint positions are stored in the external memory as second spatial data, and the user is moved. Detecting the viewpoint position of, the spatial data corresponding to the moved viewpoint position is downloaded from the external memory, and while the download is not completed, drawing is performed based on the first spatial data in the internal memory, and the download is completed. After that, drawing is performed based on the second space data corresponding to the viewpoint position after the movement downloaded to the internal memory. In the present specification, this method is, first
This is realized by the second example of the embodiment.

【0029】 本発明の好適な一態様拠れば、前記内
部メモリは、少なくとも、前記第1の空間データと第2
の空間データを格納する容量を有する。
According to a preferred aspect of the present invention, the internal memory is at least the first spatial data and the second spatial data.
It has the capacity to store the spatial data of.

【0030】 尚、本発明の上記目的は、仮想空間に任
意の視点位置での仮想画像を描画する描画装置であっ
て、第1の視点位置における第1の空間データであっ
て、第1のデータ形式を有し、ビルボード画像を構成す
るのに最適な空間データである第1の空間データを記憶
する内部メモリと、前記第1の視点位置における第2の
形式の第2の空間データを記憶するための、前記内部メ
モリとは異なる外部メモリと、任意の視点位置での仮想
画像を生成するために、前記外部メモリから、前記第2
の空間データを前記内部メモリにダウンロードするダウ
ンロード手段と、前記任意の視点位置での仮想画像を、
ダウンロードが完了しない間は前記内部メモリ内の第1
の空間データに基づいて描画し、ダウンロードの完了後
は前記内部メモリにダウンロードされた前記第2の空間
データに基づいて描画する描画手段とを具備することを
特徴とする画像描画装置によっても達成される
It should be noted that the above object of the present invention is not limited to the virtual space.
It is a drawing device that draws a virtual image at the desired viewpoint position.
Is the first spatial data at the first viewpoint position.
Has a first data format and composes a billboard image
Stores the first spatial data, which is the optimal spatial data for
Internal memory and a second memory at the first viewpoint position.
The internal memory for storing the second spatial data in the form of
External memory different from Mori and virtual at any viewpoint position
The second memory from the external memory to generate an image;
Download the spatial data of the above into the internal memory
Download means and the virtual image at the arbitrary viewpoint position,
While the download is not completed, the first in the internal memory
Drawing based on the spatial data of
Is the second space downloaded to the internal memory
To have a drawing means for drawing based on the data
It is also achieved by a characteristic image drawing device .

【0031】 更に、上記目的は、仮想空間に任意の視
点位置での仮想画像を描画する描画装置であって、第1
の視点位置におけるVRML形式の第1の空間データを
記憶する内部メモリと、前記第1の視点位置における光
線空間理論データ形式の第2の空間データを記憶するた
めの、前記内部メモリとは異なる外部メモリと、任意の
視点位置での仮想画像を生成するために、前記外部メモ
リから、前記第2の空間データを前記内部メモリにダウ
ンロードするダウンロード手段と、前記任意の視点位置
での仮想画像を、ダウンロードが完了しない間は前記内
部メモリ内の第1の空間データに基づいて描画し、ダウ
ンロードの完了後は前記内部メモリにダウンロードされ
た前記第2の空間データに基づいて描画する描画手段と
を具備することを特徴とする画像描画装置によっても達
成される。
Further, the above-mentioned object is to realize an arbitrary view in the virtual space.
A drawing apparatus for drawing a virtual image at a point position, comprising:
VRML first spatial data at the viewpoint position of
Internal memory for storing and light at the first viewpoint position
To store the second spatial data in line space theory data format
External memory different from the internal memory, and any
In order to generate a virtual image at the viewpoint position, the external memo is used.
Download the second spatial data to the internal memory.
Download means to download and the arbitrary viewpoint position
The virtual image in
Drawing based on the first spatial data in the partial memory
After the download is completed, it will be downloaded to the internal memory.
Drawing means for drawing based on the second spatial data
Also achieved by an image drawing device characterized by having
Is made.

【0032】[0032]

【発明の実施の形態】以下、添付図面を参照しながら、
本発明を、仮想空間内のウオークスルー体験に適用した
実施形態に関わる画像描画装置及び画像描画方法を詳細
に説明する。これらの実施形態は、メモリに十分な余裕
があり、全ての光線空間理論により表現されたデータ(r
ay space data、以下、RSDと簡略化する場合がある)を
記憶するだけの主記憶を有するウオークスルーシステム
(第1実施形態)と、内部に小型の主記憶装置を有し、
全部の空間データを記憶する容量がないために、記憶領
域の確保→記憶領域の解放を繰り返す実施形態(第2実
施形態)とを説明する。
DETAILED DESCRIPTION OF THE INVENTION Referring to the accompanying drawings,
An image drawing apparatus and an image drawing method according to an embodiment in which the present invention is applied to a walkthrough experience in a virtual space will be described in detail. These embodiments have ample memory space and data (r
ay space data (hereinafter, sometimes abbreviated as RSD), a walk-through system (first embodiment) having a main memory only for storing, and a small main memory device inside,
An embodiment (second embodiment) will be described in which the storage area is secured → the storage area is repeatedly released because there is no capacity to store all the spatial data.

【0033】第9図は、実施形態の画像処理システムの
構成を示す。第9図に示したハード構成は通常のワーク
ステーションの構成である。即ち、ハード構成自身は通
常のワークステーションと異なるところはない。
FIG. 9 shows the configuration of the image processing system of the embodiment. The hardware configuration shown in FIG. 9 is that of a normal workstation. That is, the hardware configuration itself is no different from that of an ordinary workstation.

【0034】このシステムは、ユーザに仮想空間をCR
T23上に提示するものである。ユーザはマウス28を
操作してその仮想空間を自由にウオークスルーしたり、
仮想空間中の物体を操作(移動や回転あるいは拡大な
ど)することができる。即ち、仮想空間内の物体は実写
画像に基づいて光線空間データに変換されてディスク2
5に前もって格納されているが、ウオークスルーするに
つれて視点位置が移動すると、移動した視点位置で観測
できる画像を第7図にて説明したように生成し、幾何モ
デルベースの従来のCGデータをレンダリングして生成し
た画像に合成してCRT23上に表示する。
This system allows the user to CR the virtual space.
It is presented on T23. The user operates the mouse 28 to freely walk through the virtual space,
It is possible to operate (move, rotate, magnify, etc.) an object in the virtual space. That is, the object in the virtual space is converted into the ray space data based on the photographed image, and
Although stored in advance in Fig. 5, when the viewpoint position moves as it walks through, an image that can be observed at the moved viewpoint position is generated as described in Fig. 7, and the conventional CG data based on the geometric model is rendered. The image thus generated is combined and displayed on the CRT 23.

【0035】RSDデータベース29は、大容量のメモリ
を有し、全空間の光線空間データを記憶している。ま
た、ビルボード画像データベース31は、複数枚のビル
ボード画像を記憶する。ここで、ビルボード画像データ
とは、例えば、ある視点位置から観測した物体の画像デ
ータであり,データ量は光線空間データに比べて極めて
少ない.
The RSD database 29 has a large capacity memory and stores the ray space data of the entire space. The billboard image database 31 also stores a plurality of billboard images. Here, the billboard image data is, for example, image data of an object observed from a certain viewpoint position, and the amount of data is extremely smaller than that of ray space data.

【0036】前述したように、光線空間データのデータ
ベース29からの転送が間に合わないときには、代わり
に、このビルボード画像がユーザに提供される。
As mentioned above, if the transfer of ray space data from the database 29 is not in time, this billboard image is provided to the user instead.

【0037】32は、ジョイスティックであり、ユーザ
の視点位置の移動を指示する。
Reference numeral 32 denotes a joystick, which instructs the user to move the viewpoint position.

【0038】第10図は、第1実施形態及び第2実施形
態によって形成される仮想空間を示す。この仮想空間は
各々がサブ仮想空間である、
FIG. 10 shows a virtual space formed by the first and second embodiments. Each of this virtual space is a sub virtual space,

【0039】ゾーンA、ゾーンB、ゾーンC、ゾーン
D、ゾーンE
Zone A, Zone B, Zone C, Zone D, Zone E

【0040】の5つゾーンを有する。第10図では、説
明の便宜上、ゾーンA、ゾーンBのみを詳細に示す。各
ゾーン(サブ仮想空間)の境界は一点鎖線でユーザに映
示される。ユーザの視点位置の移動経路(ウオークスル
ー路)を細い実線で示す。1つのゾーンには、仮想上の
展示室を表す矩形の「壁」を太い実線で示した。各展示
室には、夫々、4つの出入り口が設けられ、ここから、
ユーザは各展示室に仮想的に出入りすることができる。
It has five zones: In FIG. 10, for convenience of explanation, only zone A and zone B are shown in detail. The boundary of each zone (sub virtual space) is shown to the user by a chain line. The moving path (walk-through path) of the user's viewpoint position is indicated by a thin solid line. In one zone, a rectangular "wall" representing a virtual exhibition room is indicated by a thick solid line. Each exhibition room has four entrances and exits. From here,
The user can virtually enter and exit each exhibition room.

【0041】〈第1実施形態〉第11図は、第1実施形
態に関わる画像処理装置の構成を示す。この第1実施形
態の特徴は、光線空間データの準備が間に合わないとき
には、例えば仮想空間中で光線空間データオブジェクト
が配置される位置にビルボードを設置し,それに画像
(ビルボード画像)を貼り付けてユーザに提示することに
より、データベース29からの光線空間データの転送遅
れ(ダウンロード遅れ)による違和感を防止するもので
ある。ビルボード画像は光線空間データに比して圧倒的
にデータ容量が少なく、そのために転送時間が光線空間
データの転送に比して少ないからである。
<First Embodiment> FIG. 11 shows the arrangement of an image processing apparatus according to the first embodiment. The feature of the first embodiment is that when the preparation of the ray space data is not in time, for example, a billboard is installed at a position where the ray space data object is arranged in the virtual space, and an image is displayed on the billboard.
By pasting (billboard image) and presenting it to the user, a sense of discomfort due to a transfer delay (download delay) of the ray space data from the database 29 is prevented. This is because the billboard image has an overwhelmingly smaller data capacity than the ray space data, and therefore the transfer time is shorter than that of the ray space data transfer.

【0042】第11図において、光線空間データやビル
ボード画像データは外部のデータベース29,31に記
憶される。これらのデータベースは、通信インタフェー
ス(例えばイーサネット)などを介して主記憶27内の
所定の領域(27A,27B)に保存される。主記憶内
に記憶された光線空間データやビルボード画像データ
は、描画部40がCPU20の制御の下に仮想空間上に
描画する。
In FIG. 11, ray space data and billboard image data are stored in external databases 29 and 31. These databases are stored in predetermined areas (27A, 27B) in the main memory 27 via a communication interface (eg Ethernet). The drawing unit 40 draws the ray space data and the billboard image data stored in the main memory in the virtual space under the control of the CPU 20.

【0043】第1実施形態では、CPU20が、RSデー
タDB(データベース)29から光線空間データをメモリ
領域27Aに、ビルボード画像データをメモリ領域27
Bに保存する。メモリ上に保存できたか否かは、各ゾー
ン毎に、第12図のようなテーブルによって管理され
る。
In the first embodiment, the CPU 20 stores the ray space data from the RS data DB (database) 29 in the memory area 27A and the billboard image data in the memory area 27.
Save to B. Whether or not the data can be stored in the memory is managed for each zone by using a table as shown in FIG.

【0044】第1実施形態は、光線空間データの主記憶
メモリ27への転送を、3つの転送順序に従って行うも
ので、その3つの例を第1実施例と第2実施例と第3実
施例として説明する。
In the first embodiment, the light space data is transferred to the main storage memory 27 according to the three transfer orders. The three examples are the first embodiment, the second embodiment and the third embodiment. As described below.

【0045】第13図は第1実施例に係る制御手順のフ
ローチャートである。この第1実施例は、全てのビルボ
ード画像データを、ステップS10〜ステップS14
で、データベース31から主記憶27Bにダウンロード
して格納し、その画像データを復号化した後に、仮想空
間におけるウオークスルー体験を可能とするものであ
る。そして、この第1実施例の特徴は、ウオークスルー
体験を与えるためのユーザへの仮想画像の提示(ステッ
プS16〜ステップS24)と、光線空間データの主記
憶27Aへの転送(ステップS30〜ステップS38)
とを並列(但し、直列に行ってもよい)に行うものであ
る。
FIG. 13 is a flowchart of the control procedure according to the first embodiment. In the first embodiment, all billboard image data are processed in steps S10 to S14.
Then, after downloading and storing from the database 31 to the main memory 27B and decoding the image data, the walkthrough experience in the virtual space is enabled. The feature of the first embodiment is that the virtual image is presented to the user to give a walk-through experience (steps S16 to S24) and the light space data is transferred to the main memory 27A (steps S30 to S38). )
And are performed in parallel (however, they may be performed in series).

【0046】即ち、ステップS10〜ステップS14で
のビルボード画像の転送処理(復号化処理も含む)が終
了すると、第12図のテーブルにおいて、ビルボード画
像データは全てのゾーンについて、「存在する」とマー
クされるであろう。
That is, when the billboard image transfer processing (including the decoding processing) in steps S10 to S14 is completed, the billboard image data "exists" for all zones in the table of FIG. Will be marked.

【0047】ステップS14が終了すると、ウオークス
ルーが可能になる。即ち、ユーザがジョイスティックな
どで指定した視点位置はステップS18で検知され、ス
テップS20では、その視点位置に近い、光線空間デー
タが選択される。
When step S14 is completed, walkthrough becomes possible. That is, the viewpoint position designated by the user with the joystick or the like is detected in step S18, and in step S20, ray space data close to the viewpoint position is selected.

【0048】ここで、視点位置に近い光線空間データと
は、現在の視点位置の3次元空間上の位置に対して、所
定の距離以内にある仮想物体(サブ仮想空間を含む)の
空間データを言う。距離のみを問題とし、ユーザの視線
方向は問わない。どの方向にある物体でも、ユーザが近
づく可能性のある物体だからである。距離は、第1実施
例の例では、展示室の大きさとの関係で前もって決定し
ておけばよい。
Here, the ray space data close to the viewpoint position is the space data of the virtual object (including the sub virtual space) within a predetermined distance with respect to the position of the current viewpoint position in the three-dimensional space. To tell. Only the distance matters, and the user's line of sight does not matter. This is because an object in any direction can be approached by the user. In the example of the first embodiment, the distance may be determined in advance in relation to the size of the exhibition room.

【0049】その視点位置に対応する光線空間データが
まだメモリ27上に存在しないときには、ビルボード画
像データが代用される。即ち、ビルボードと光線空間画
像とでは後者が優先される。なぜなら、光線空間データ
は、特定の視点位置からの画像データを基にして任意の
視点位置からの仮想画像を高精細に生成することができ
るからである。従って、光線空間データが主記憶27上
に存在するのであれば、ステップS22で現在の視点位
置に合わせて仮想画像が生成されて、ステップS24で
CRT上に提示される。
When the ray space data corresponding to the viewpoint position does not yet exist in the memory 27, the billboard image data is substituted. That is, the latter is prioritized in the billboard and the ray space image. This is because the ray space data can generate a high-definition virtual image from an arbitrary viewpoint position based on image data from a specific viewpoint position. Therefore, if the ray space data exists in the main memory 27, a virtual image is generated according to the current viewpoint position in step S22 and presented on the CRT in step S24.

【0050】ウオークスルーによる仮想空間の描画・提
示に並行して、ステップS30〜ステップS38では光
線空間データの転送が行われる。即ち、ステップS30
では、光線空間データの1空間単位のデータ転送が行わ
れる。ここで、1空間単位の空間データとは、例えば、
第10図などの、1つのゾーン等に関連する空間データ
群をいう。1単位毎のデータ転送が終了すると、ステッ
プS34では、光線空間データから画像生成を行い、ス
テップS36では、当該光線空間データが主記憶上に存
在するとマークし、ステップS38では、次の1空間の
光線空間データをDB29に送るように要求する。
In parallel with the drawing and presentation of the virtual space by walk-through, the light space data is transferred in steps S30 to S38. That is, step S30
Then, the data transfer of the light space data is performed in units of one space. Here, the spatial data of one spatial unit is, for example,
It refers to a group of spatial data related to one zone or the like, such as FIG. When the data transfer for each unit is completed, an image is generated from the ray space data in step S34, it is marked in step S36 that the ray space data exists in the main memory, and in step S38, the next space Request to send ray space data to DB29.

【0051】尚、ステップS36では、光線空間データ
が存在するとのマークのみを行い、対応するビルボード
画像は消去されないようにしていたが、メモリの有効利
用の観点から、光線空間データがある限りは使用されな
いビルボード画像データは主記憶27から除去してもよ
い。
In step S36, only the presence of ray space data is marked, and the corresponding billboard image is not erased. However, from the viewpoint of effective use of memory, as long as ray space data is available, The unused billboard image data may be removed from the main memory 27.

【0052】このように、第1実施形態の第1実施例で
は、ビルボード画像を先にダウンロードして、仮想空間
におけるウオークスルー体験を可能としておき、その後
に、仮想空間での仮想画像の描画と、光線空間データの
データベースからの転送とを並列に行うようにし、リア
ルタイムでの視点位置における光線空間データが主記憶
装置上に存在しない場合には、ビルボード画像データに
よる仮想画像の描画を行い、必要とする光線空間データ
が主記憶装置上に存在する場合にはその光線空間データ
による仮想画像の描画を行うようにする。この結果、最
低限でもビルボード画像によるウオークスルー体験を、
早期に可能にする。
As described above, in the first example of the first embodiment, the billboard image is first downloaded to enable a walkthrough experience in the virtual space, and then the virtual image is drawn in the virtual space. And the ray space data transfer from the database are performed in parallel, and if the ray space data at the viewpoint position in real time does not exist in the main storage device, a virtual image is drawn using the billboard image data. If the required ray space data exists in the main storage device, a virtual image is drawn using the ray space data. As a result, at least a walkthrough experience with billboard images,
Enable early.

【0053】第14図に、第2実施例の制御手順を示
す。前記第1実施例が、前もって決められた順序で光線
空間データをDB29から主記憶27Aに転送するもので
あったが、この第2実施例は、ユーザの現在の視点位置
に近い空間の光線空間データをデータベース29から選
択的に転送するものである。ユーザの視点位置に近いデ
ータほど、その描画が要求されるはずであるからであ
る。
FIG. 14 shows the control procedure of the second embodiment. In the first embodiment, the light space data is transferred from the DB 29 to the main memory 27A in a predetermined order, but in the second embodiment, the light space of the space close to the current viewpoint position of the user. The data is selectively transferred from the database 29. This is because the closer the data is to the viewpoint position of the user, the more the drawing should be requested.

【0054】第13図の制御手順と第14図の制御手順
とは、後者がステップS26とステップS28とを有す
る点で異なるに過ぎない。即ち、ステップS26で、ユ
ーザの現在の視点位置を取得し、ステップS28では、
その位置に近い1空間分の光線空間データを転送する。
他の工程は第1実施例と同じである。
The control procedure of FIG. 13 and the control procedure of FIG. 14 are different only in that the latter has steps S26 and S28. That is, in step S26, the current viewpoint position of the user is acquired, and in step S28,
The light space data for one space close to the position is transferred.
The other steps are the same as in the first embodiment.

【0055】また,この例ではユーザの視点位置に近い
空間の光線空間データを選択して読みこむようにした
が,1個の空間内でも視点位置にもっとも近い物体の光
線空間データから読みこむようにすることも可能であ
る.
Further, in this example, the ray space data of the space close to the user's viewpoint position is selected and read, but the ray space data of the object closest to the viewpoint position is also read in one space. It is also possible.

【0056】上記第2実施例では、光線空間データの復
号化は、その光線空間データのデータベースからの転送
の直後に併せて行われていた。即ち、1空間単位の光線
空間データは、転送と併せて復号化されて、主記憶上に
格納された。処理に時間のかかるものは、仮想画像の描
画を除けば、圧縮された光線空間データの転送と、その
圧縮データの復号化である。そこで、第3実施例は、光
線空間データの主記憶へのダウンロードをビルボード画
像のダウンロードと同時に行い、光線空間データは符号
化されたまま、主記憶上におく。リアルタイム上の任意
の視点位置における描画に必要な光線空間データの復号
化は、その要求の発生した時点で行うというものであ
る。
In the second embodiment, the decoding of the ray space data was also performed immediately after the transfer of the ray space data from the database. That is, the ray space data of one space unit is decrypted along with the transfer and stored in the main memory. What takes time to process is the transfer of compressed ray space data and the decoding of the compressed data, except for the drawing of virtual images. Therefore, in the third embodiment, the ray space data is downloaded to the main memory at the same time as the billboard image is downloaded, and the ray space data is kept in the main memory as it is encoded. Decoding of the ray space data necessary for drawing at an arbitrary viewpoint position in real time is performed when the request is made.

【0057】第35図は、第3実施例の制御手順を示す
フローチャートである。この第35図のフローチャート
と、第2実施例のフローチャート(第14図)とを比較
して、同じステップ番号は同じ処理を示すものとする
と、第2実施例のステップS12は第3実施例ではステ
ップS13に、第2実施例のステップS20は第3実施
例ではステップS21に、第2実施例のステップS28
は第3実施例ではステップS29に、夫々変更されてい
る。即ち、ステップS13では、全空間単位での、ビル
ボード画像データのダウンロードと復号化とを行い、同
ステップにて、併せて、全空間単位での光線空間データ
のダウンロードとを行っている。そして、復号化は、ス
テップS29において、現在のユーザ視点位置に最も近
い空間の光線空間データのみが行われ、そのデータはス
テップS34で仮想画像生成に用いられ、ステップS3
6→ステップS38を介してステップS16→…→ステ
ップS24において表示される。
FIG. 35 is a flow chart showing the control procedure of the third embodiment. If the flowchart of FIG. 35 and the flowchart of the second embodiment (FIG. 14) are compared and the same step numbers indicate the same processing, step S12 of the second embodiment is the same as that of the third embodiment. Step S13, step S20 of the second embodiment, step S21 of the third embodiment, step S28 of the second embodiment.
Is changed to step S29 in the third embodiment. That is, in step S13, the billboard image data is downloaded and decoded in all space units, and in the same step, the ray space data is also downloaded in all space units. Then, in step S29, only the ray space data of the space closest to the current user viewpoint position is decoded, and the data is used for virtual image generation in step S34.
6 → step S38 to step S16 → ... → step S24.

【0058】かくして、この第3実施例に拠れば、符号
化された光線空間データのダウンロードを待たねばなら
ないと言う短所はあるものの、ビルボード画像による仮
想空間でのウオークスルー体験を早期に味わうことがで
きると言う第1,第2実施例による効果と同じ効果を得
ることができる。また、光線空間データの復号化は、現
在の視点位置に近いもののみが行われるので、リアルタ
イムでの視点位置での仮想空間をレスポンスよく体験す
ることができるという効果も得られる。また、たとえ、
復号化が間に合わなくとも、最低限、ビルボード画像で
の提示が成されるので、リアルタイム性が確保される。
Thus, according to the third embodiment, although there is a disadvantage that the encoded ray space data has to be downloaded, it is possible to enjoy the walk-through experience in the virtual space by the billboard image at an early stage. It is possible to obtain the same effect as that obtained by the first and second embodiments. In addition, since the light space data is decoded only at the position close to the current viewpoint position, there is an effect that the virtual space at the viewpoint position in real time can be experienced with good response. Also, even if
Even if the decoding is not in time, at least the billboard image is presented, so that the real-time property is ensured.

【0059】上記第3実施例では,あらかじめ符号化さ
れた光線空間データをメインメモリに読みこみ終わるま
でウォークスルーができないように記しているが,ビル
ボード画像を読みこみ終えたら,ウォークスルーと符号
化された光線空間データの読みこみを並行して行っても
よい.
In the third embodiment described above, it is described that the walkthrough cannot be performed until the pre-encoded ray space data is read into the main memory. You may read the digitized ray space data in parallel.

【0060】〈第1実施形態の効果〉以上説明した第1
実施形態によると、
<Effects of First Embodiment> The first embodiment described above
According to an embodiment,

【0061】I: 先にビルボード画像データを主記憶
に存在させることにより、光線空間がDBに存在しない場
合でも、少なくとも一部の画像をユーザに提示すること
により、違和感をなくすことができる。ビルボード画像
であっても、ユーザは、その画像により当該仮想空間の
特性などを想定することができるので、不要であるとユ
ーザ自身が判断できれば次の空間に進むことができる。 II: 光線空間データの転送は種々の形態で可能であ
る。第1実施例の手法によれば、光線空間データの転送
は、仮想画像の提示と並行して、予め決められた順序で
行うために、ウオークスルーと光線空間データの同時処
理が可能となっている。 III: 第1実施例の手法は、必ずしも、ユーザが現時
点で欲する光線空間空間のデータを提供するものではな
い。しかし、第2実施例の手法は、ユーザが現に欲しい
空間内の画像データによる仮想画像の提示となる。 IV: 第3実施例に拠れば、仮想空間におけるウオーク
スルー体験を早期に行いたいという課題と、リアルタイ
ム性に優れたウオークスルー体験とを両立することがで
きる。
I: By making the billboard image data exist in the main memory first, even if the ray space does not exist in the DB, by presenting at least a part of the image to the user, the sense of discomfort can be eliminated. Even for a billboard image, the user can assume the characteristics of the virtual space by the image, so that the user can proceed to the next space if he / she can determine that it is unnecessary. II: The transfer of ray space data can take various forms. According to the method of the first embodiment, since the light space data is transferred in a predetermined order in parallel with the presentation of the virtual image, the walkthrough and the light space data can be simultaneously processed. There is. III: The method of the first embodiment does not always provide the data in the ray space which the user wants at the present moment. However, the method of the second embodiment presents a virtual image with image data in the space that the user actually wants. IV: According to the third embodiment, it is possible to achieve both the problem of wanting to have a walk-through experience in a virtual space at an early stage and the walk-through experience having excellent real-time properties.

【0062】〈第2実施形態〉第1実施形態は主記憶容
量が膨大である場合に有効であった。しかし、光線空間
データはその容量が膨大であり、多くの場合、システム
メモリ(主記憶)にゆとりが無くなる。第2実施形態
は、少ないメモリ容量でも、光線空間データによる仮想
空間の描画を可能にするものである。即ち、第2実施形
態のシステムは、ユーザが欲する部分仮想空間を察知
し、その部分(サブ)仮想空間のデータを、当該サブ空
間に入る前に、先読みで入手しておくものである。この
第2実施形態では、メモリ容量が限られているために、
一度入った1つのサブ空間から他のサブ空間に出ると、
前の空間の光線空間データは消去される。一方、推定に
よる先読みは、推定した空間の同定を誤ると、折角、メ
モリに確保した光線空間データを誤って消去してしま
い、かえって非効率の原因となる。この点について、こ
の第2実施形態は特別な工夫(後述)をしている。
<Second Embodiment> The first embodiment was effective when the main storage capacity was enormous. However, the ray space data has a huge capacity, and in many cases, the system memory (main memory) has no room. The second embodiment makes it possible to draw a virtual space using ray space data even with a small memory capacity. That is, the system of the second embodiment detects the partial virtual space desired by the user, and obtains the data of the partial (sub) virtual space by prefetching before entering the subspace. In the second embodiment, since the memory capacity is limited,
Once you enter one subspace and exit to another subspace,
The ray space data of the previous space is erased. On the other hand, the pre-reading by estimation causes the inefficiency on the contrary if the estimated space is erroneously identified, the ray space data secured in the memory is erroneously erased. In this regard, the second embodiment has a special device (described later).

【0063】第15図は、第2実施形態に係る画像処理
装置のハード構成を示す。第1実施形態と異なるところ
は、主記憶27が低容量化されたために、光線空間デー
タを記憶するためのメモリ領域が、2単位分の容量(バ
ンクB1とバンクB2と呼ぶ)に分割されていることで
ある。
FIG. 15 shows the hardware configuration of the image processing apparatus according to the second embodiment. The difference from the first embodiment is that the capacity of the main memory 27 is reduced, so that the memory area for storing the light space data is divided into two units of capacity (called bank B1 and bank B2). It is that you are.

【0064】この第2実施形態に特徴的なことは、仮想
空間の各ゾーンに対しては、前もて、種々の情報が埋め
込まれている。即ち、仮想空間は、平面方向で、
A characteristic of the second embodiment is that various information is embedded in advance in each zone of the virtual space. That is, the virtual space is a plane direction,

【0065】中間ゾーン、Intermediate zone,

【0066】遷移ゾーン、Transition zone,

【0067】表示対象ゾーンDisplay target zone

【0068】という3種類のゾーンに分割されている。
表示対象ゾーンは、光線空間データによる仮想画像の表
示を第1の目的に設定された仮想ゾーンであり、第16
図の例でも分かるように、主目的である展示室の大きさ
に合わせて設定されている。第16図の例では、ゾーン
AとゾーンBとは共に「表示対象ゾーン」である。ユー
ザは、この表示対象ゾーンの内側を自由に移動できるも
のであり、本システムは、ユーザの移動された視点位置
に合わせた仮想画像を生成し表示する。表示対象ゾーン
の外側には、この表示対象ゾーンと他の表示対象ゾーン
への移動経路を表す「遷移ゾーン」と「中間ゾーン」と
が設けられている。「遷移ゾーン」は、現時点で滞在し
ている表示対象ゾーンの周辺部に略同一の幅で形成され
た帯状のゾーンである。また、中間ゾーンは、複数の表
示対象ゾーン間に亘って形成された、「通路」としての
移動領域である。
It is divided into three types of zones.
The display target zone is a virtual zone set for the first purpose of displaying a virtual image based on ray space data.
As can be seen from the example in the figure, the size is set according to the size of the exhibition room, which is the main purpose. In the example of FIG. 16, both zone A and zone B are “display target zones”. The user can freely move inside the display target zone, and the present system generates and displays a virtual image that matches the user's moved viewpoint position. Outside the display target zone, a "transition zone" and an "intermediate zone" are provided, which represent a movement route to the display target zone and other display target zones. The “transition zone” is a band-shaped zone formed with a substantially same width in the peripheral portion of the display target zone that is currently staying. Further, the intermediate zone is a moving area formed as a "passage" formed between the plurality of display target zones.

【0069】第16図の例では、遷移ゾーンとして、表
示対象ゾーンAの外側には、TAC、T AB、TAD、TAEが設け
られ、表示対象ゾーンの外側には、TBC、TBA、TBDが設
けられている。例えば、遷移ゾーンTACは表示対象ゾー
ンAと表示対象ゾーンCとの間での遷移を制御するため
の情報が埋め込まれている。当然ことながら、遷移は2
方向で存在する。即ち、表示対象ゾーンへ進入する遷移
と、表示対象ゾーンから進出する(外に出る)遷移であ
る。
In the example of FIG. 16, the transition zone is a table.
Outside the target zone A, TAC, T AB, TAD, TAEIs provided
Outside the display target zone, TBC, TBA, TBDSet up
It has been burned. For example, transition zone TACIs the display target
To control the transition between display area A and display target zone C
Information is embedded. Naturally, the transition is 2
Exists in the direction. That is, the transition to enter the display target zone
And a transition to move out of the display target zone
It

【0070】各ゾーンは、第17図に示す如く、そのゾ
ーンの属性を示す属性値を有する。またさらに、属性値
に加えて、そのゾーンが表示対象ゾーン(属性値=0)
である場合において、当該ゾーン自身で描画表示のため
に必要とする画像を示す「必要画像ID」(以下、RQD-ID
と略す)フィールドを有する。
Each zone has an attribute value indicating the attribute of that zone, as shown in FIG. Furthermore, in addition to the attribute value, that zone is the display target zone (attribute value = 0)
, The “necessary image ID” (hereinafter, RQD-ID) indicating an image required for drawing display in the zone itself.
Abbreviated) field.

【0071】遷移ゾーンは前述したように2つの表示対
象ゾーン間での遷移を取り扱う。このために、遷移ゾー
ン内にユーザの視点位置があるときは、その視点位置の
変化の方向は2つの方向のいずれかを有する。当該遷移
ゾーンが、内側の表示対象ゾーンから他の表示対象ゾー
ンに遷移する場合を示すために、その外側にある表示対
象ゾーンの画像を要求する(即ち、その外側にある表示
対象ゾーンへ移動することを予想しての先読みの要求)
ことを示すべく、「外側要求画像データID」(以下、EX
T-DMND-IDと略す)フィールドには、その移動しようと
する表示対象ゾーンでの光線空間データのIDを記憶す
る。また、当該遷移ゾーンが、他の外側の表示対象ゾー
ンから内側の表示対象ゾーンに遷移する場合を示すため
に、その内側の表示対象ゾーンの画像を要求する(即
ち、その内側の表示対象ゾーンへ移動することを予想し
ての先読みの要求)ことを示すべく、「内側要求画像デ
ータID」(以下、INT-DMND-IDと略す)フィールドに
は、その移動しようとする表示対象ゾーンでの光線空間
データのIDを記憶する。ここで、「ID」とは、第1実施
形態と同じように、1単位の光線空間データの集合を指
定する識別子である。
The transition zone handles the transition between the two display target zones as described above. For this reason, when the viewpoint position of the user is in the transition zone, the direction of change of the viewpoint position has one of two directions. In order to show the case where the transition zone transitions from the inner display target zone to another display target zone, the image of the display target zone outside the transition target zone is requested (that is, the display target zone outside is moved). Request of pre-reading in anticipation of that)
"Outside requested image data ID" (hereinafter referred to as EX
In the T-DMND-ID field, the ID of the ray space data in the display target zone to be moved is stored. Also, in order to show the case where the transition zone concerned transitions from the other outer display target zone to the inner display target zone, an image of the inner display target zone is requested (that is, to the inner display target zone). In order to indicate that the pre-reading request is expected to move), the “inside requested image data ID” (hereinafter abbreviated as INT-DMND-ID) field has a light beam in the display target zone to be moved. Stores the spatial data ID. Here, the “ID” is an identifier that designates a set of ray space data of one unit, as in the first embodiment.

【0072】具体的には、第16図の例で、遷移ゾーン
TACは、表示対象ゾーンAと表示対象ゾーンCの間に存
在するから、この遷移ゾーンTACは、内側の表示対象ゾ
ーンAに進入する目的で、この遷移ゾーンTACに進入し
てきた場合と、外側の表示対象ゾーンCに進出すること
を目的として、この遷移ゾーンTACに進入してきた場合
とがあり、前者の場合には、INT-DMND-IDとして光線空
間画像データAを先読みで要求し、後者の場合には、EX
T-DMND-IDとして光線空間画像データCを先読みで要求す
る。
Specifically, in the example of FIG. 16, the transition zone
Since the T AC exists between the display target zone A and the display target zone C, this transition zone T AC may enter the transition target zone T AC for the purpose of entering the inner display target zone A. , There is a case where the transition zone T AC has been entered for the purpose of advancing to the outside display target zone C. In the former case, the ray space image data A is requested in advance as INT-DMND-ID. And in the latter case, EX
The light space image data C is requested as a T-DMND-ID by prefetching.

【0073】遷移ゾーンの外側には、第16図の例で、
Xとして示された「中間ゾーン」が設けられている。中
間ゾーンは、表示対象ゾーンから表示対象ゾーンに移動
するに際して先読みを行わずに移動することを可能とす
る。
Outside the transition zone, in the example of FIG.
An "intermediate zone" designated as X is provided. The intermediate zone can be moved without prefetching when moving from the display target zone to the display target zone.

【0074】遷移ゾーンの最大の目的は、メモリ27を
小容量化したことに伴って必要とされる、光線空間デー
タの先読みを実現することである。また、メモリを小容
量化すると、不要となった光線空間データを記憶するバ
ッファを、より早く解放(「先解放」)しなくてはなら
ないが、中間ゾーンの目的は、誤って先解放した場合
に、再度、消失した光線空間データをDB29からダウン
ロードするという無用な手間の発生を未然に防止するも
のである。即ち、後述するように、ジョイスティックな
どの操作を誤ったがために、表示対象ゾーンから進出す
ると誤判断されたような場合でも、この第2実施形態で
は、直ちにバッファ(メモリバンクにおける記憶領域)
を解放しないで、他方の空いているメモリバンクに、EX
T-DMND-IDに示された光線空間データを格納するように
する。このようにすると、第8図の例で、再度、表示対
象ゾーンに戻ってきても、その表示対象ゾーンの光線空
間データはメモリバンクに保存されているので、ダウン
ロードを行う必要が無くなる。
The maximum purpose of the transition zone is to realize the look-ahead of the ray space data, which is required as the capacity of the memory 27 is reduced. In addition, if the memory is made smaller, the buffer that stores unnecessary ray space data must be released earlier (“first release”), but the purpose of the intermediate zone is to release the first release by mistake. In addition, the unnecessary trouble of downloading the lost ray space data from the DB 29 again is prevented. That is, as will be described later, even if the joystick or the like is erroneously operated and it is therefore erroneously determined to move out of the display target zone, in the second embodiment, the buffer (storage area in the memory bank) is immediately output.
To the other free memory bank without releasing
It stores the ray space data indicated by T-DMND-ID. By doing so, even when returning to the display target zone again in the example of FIG. 8, it is not necessary to download because the ray space data of the display target zone is stored in the memory bank.

【0075】第18図に、表示対象ゾーンAの周囲の各
種ゾーンに埋め込まれたゾーン属性情報の例を図示す
る。
FIG. 18 shows an example of zone attribute information embedded in various zones around the display target zone A.

【0076】第19図により、ユーザの視点位置が中間
ゾーン→遷移ゾーン→表示対象ゾーンに移動して行く過
程での、第2実施形態の特徴的な制御について説明す
る。この例の遷移ゾーンに埋め込まれた画像IDは、中間
ゾーンから遷移ゾーンに移ってきたときに先読み開始の
対象とする空間データのID(=INT-DMND-ID)はAであり、
表示対象ゾーンから遷移ゾーンに移行してきたときの先
読み開始対象とする空間データのID(=EXT-DMND-ID)はB
である。即ち、中間ゾーンから遷移ゾーンに移行してき
たときは、ゾーン属性情報中のINT-DMND-IDを読み出
し、続く表示対象ゾーンでの空間データがAであること
を知って、その空間データの、DB29から(例えば)バ
ンクB1へのダウンロードを開始する。空間データAは、
表示対象ゾーンAの全体の光線空間データを含むもので
あるから、先読みは表示対象ゾーンAに実際に到達した
時点で直ちに光線空間を使用することが可能となるの
で、効果的である。次ぎに、遷移ゾーンから表示対象ゾ
ーンに移動してきたときは、この表示対象ゾーンのRQD-
IDがAであることから、上述のダウンロードにより空間
データAが主記憶27のメモリ領域内(例えば、バンク
B1)に格納されていることを確認する。ダウンロードが
終了していない場合には、この表示対象ゾーン内で待つ
ことになろう。
With reference to FIG. 19, the characteristic control of the second embodiment in the process in which the viewpoint position of the user moves from the intermediate zone to the transition zone to the display target zone will be described. The image ID embedded in the transition zone in this example is A, where the ID (= INT-DMND-ID) of the spatial data targeted for prefetching when moving from the intermediate zone to the transition zone is A,
The ID (= EXT-DMND-ID) of the spatial data that is the prefetch start target when moving from the display target zone to the transition zone is B
Is. That is, when the transition is made from the intermediate zone to the transition zone, the INT-DMND-ID in the zone attribute information is read, and knowing that the spatial data in the subsequent display target zone is A, DB29 of the spatial data Start downloading from (for example) to bank B 1 . Spatial data A is
Since it includes the entire ray space data of the display target zone A, pre-reading is effective because the ray space can be used immediately when the display target zone A is actually reached. Next, when moving from the transition zone to the display target zone, the RQD-
Since the ID is A, the space data A is stored in the memory area of the main memory 27 (for example, in the bank by downloading as described above).
B 1 ) Confirm that it is stored in. If the download is not completed, you will wait in this display target zone.

【0077】第20図により、ユーザの視点位置が表示
対象ゾーン→遷移ゾーン→中間ゾーンに移動して行く、
即ち、別の表示対象ゾーンに移動する過程での、第2実
施形態の特徴的な制御について説明する。
According to FIG. 20, the viewpoint position of the user moves from the display target zone to the transition zone to the intermediate zone,
That is, the characteristic control of the second embodiment in the process of moving to another display target zone will be described.

【0078】表示対象ゾーンから遷移ゾーンに移行して
きたときは、ゾーン属性情報中のEXT-DMND-IDを読み出
し、それまで滞在していた表示対象ゾーンAに隣り合う
表示対象ゾーンの空間データがBであることを知る。そ
こで、その空間データの、DB29からのダウンロードを
開始する。ここで、空間データAはバンクB1に既に記憶
されているので、空間データBのダウンロード先はバン
クB2とする。即ち、バンクB1内の空間データAはそのま
ま保存する。
When the transition is made from the display target zone to the transition zone, the EXT-DMND-ID in the zone attribute information is read out, and the spatial data of the display target zone adjacent to the display target zone A that has been staying until then is B. Know that. Then, the download of the spatial data from the DB 29 is started. Here, since the spatial data A is already stored in the bank B 1 , the download destination of the spatial data B is the bank B 2 . That is, the spatial data A in the bank B 1 is saved as it is.

【0079】この第2実施形態では同じ遷移ゾーンにと
どまる間は、その遷移ゾーンの下位の表示対象ゾーンの
ための空間データを保持しておく。この保持により、ユ
ーザが再度表示対象ゾーンに戻ったときでも、バンクB1
内の空間データAをそのまま使うことができるので、光
線空間データAの再ダウンロードが防止される。また、
次の表示対象ゾーンのための光線空間データBの先読み
込みは既に開始されているので、表示対象ゾーンBに到
着したときはその光線空間Bを直ちに描画できることが
期待される。
In the second embodiment, while remaining in the same transition zone, the spatial data for the display target zone below the transition zone is held. With this hold, even if the user returns to the display target zone again, bank B 1
Since the spatial data A inside can be used as it is, the re-download of the ray space data A is prevented. Also,
Since the pre-reading of the ray space data B for the next display target zone has already started, it is expected that the ray space B can be immediately drawn when the display target zone B is reached.

【0080】この第2実施形態では、遷移ゾーンにとど
まったまま、前の表示対象ゾーンの光線空間データを保
持できるのは、所定時間の遷移ゾーンでの留まりに制限
されている。この時間は、1単位の光線空間の容量、ユ
ーザの好み、仮想空間の大きさに応じて可変とされ、若
しくは前もって設定されているべきであるが、説明の便
宜上、この第2実施形態では、例えば5秒に設定されて
いる。即ち、第21図の例では、表示対象ゾーンAから
遷移ゾーンに移行した後に、表示対象ゾーンに戻り、再
度遷移ゾーンに移行し、また、表示対象ゾーンに戻り、
さらに遷移ゾーンに移行するという動作を行っている
が、この動作では、遷移ゾーンにとどまっていた各々の
時間は全て5秒未満であったがために、光線空間データ
Aは保持されていたものである。
In the second embodiment, the ray space data of the previous display target zone can be held while remaining in the transition zone, and is limited to staying in the transition zone for a predetermined time. This time should be variable or preset according to the capacity of the light space of 1 unit, the user's preference, the size of the virtual space, but for convenience of explanation, in this second embodiment, For example, it is set to 5 seconds. That is, in the example of FIG. 21, after moving from the display target zone A to the transition zone, it returns to the display target zone, shifts to the transition zone again, and returns to the display target zone,
Further, although the operation of moving to the transition zone is performed, in this operation, the ray space data A is held because all the time spent in the transition zone was less than 5 seconds. is there.

【0081】一方、第22図の例では、遷移ゾーンに5
秒間とどまっていたので、遷移ゾーンに滞在しているに
も関わらず、バンクB1のデータAはパージ(無効)さ
れ、そのバッファは解放されたことになる。
On the other hand, in the example of FIG. 22, 5 is set in the transition zone.
Since it stayed for a second, the data A in the bank B 1 was purged (invalid) and its buffer was released even though it stayed in the transition zone.

【0082】第21図に示したような、ユーザの視点位
置が遷移ゾーンにとどまる間は、マウス若しくはジョイ
スティックの操作によって、ユーザが表示対象ゾーンの
内部ではあるが、その周辺部を移動する操作を行った場
合には、誤って遷移ゾーンに進入してしまい、ユーザに
とっては誤認識となってしまうことがあるからである。
但し、5秒以上、遷移ゾーンにとどまるということは、
ユーザが下の表示対象ゾーンを離れる意図を有している
ものと推認できるために、バッファに保存していたその
ゾーンの光線空間データを破棄してもよいのである。
As shown in FIG. 21, while the viewpoint position of the user remains in the transition zone, the user can operate the mouse or the joystick to move the peripheral portion of the display target zone, though it is inside the display target zone. This is because if it is done, the user may erroneously enter the transition zone, resulting in erroneous recognition for the user.
However, staying in the transition zone for more than 5 seconds means
Since it is presumed that the user intends to leave the display target zone below, the ray space data of the zone stored in the buffer may be discarded.

【0083】次に、フローチャートなどを参照しながら
第2実施形態の制御手順について説明する。尚、第23
図乃至第26図は、この制御手順に用いられる各種レジ
スタを説明するものであり、実際の制御手順は第27図
以降に示される。
Next, the control procedure of the second embodiment will be described with reference to the flow chart and the like. The 23rd
FIGS. 26 to 26 explain various registers used in this control procedure, and the actual control procedure is shown in FIG. 27 and subsequent figures.

【0084】第27図は第2実施形態の制御手順のメイ
ンルーチンを示す。
FIG. 27 shows the main routine of the control procedure of the second embodiment.

【0085】即ち、ステップS100でビルボード画像
をビルボード画像DB31からダウンロードする。第2実
施形態では、展示室のような表示対象ゾーンでは、光線
空間データに基づいた仮想画像を表示するのが原則であ
るが、前述したように、主記憶の光線空間格納用のバン
ク容量が少ないので、表示対象ゾーンに近づく毎に光線
空間データを先読みするようにしている。このために、
場合によっては、ユーザが表示対象ゾーンに進入した時
点で光線空間データが揃っていない場合がある。ビルボ
ード画像は、かかる場合に、代替画像として表示され
る。
That is, in step S100, the billboard image is downloaded from the billboard image DB 31. In the second embodiment, in principle, a virtual image based on ray space data is displayed in a display target zone such as an exhibition room. However, as described above, the bank capacity for storing ray space in the main memory is Since the number is small, the light space data is preread each time the display target zone is approached. For this,
In some cases, the ray space data may not be complete when the user enters the display target zone. The billboard image is displayed as an alternative image in such cases.

【0086】ステップS100でビルボード画像の全て
がメモリ27のバンクB領域にダウンロードされたな
らば、ステップS102以下で、ユーザにウオークスル
ーが許される。
If all of the billboard images are downloaded to the bank B 3 area of the memory 27 in step S100, the user is allowed to walk through in step S102 and subsequent steps.

【0087】ステップS102では、ユーザがジョイス
ティックなどを操作して、仮想視点位置を移動したか否
かを判定する。視点位置の移動があった場合には、ステ
ップS104で、その移動がゾーンを超えた移動である
かを判定する。ゾーンを跨った移動でない場合には、ス
テップS116に進み、その視点位置における、仮想画
像を生成して表示する。この場合には、光線空間データ
が存在しない場合には、ビルボード画像を表示し、光線
空間データが存在する場合には、その光線空間データを
仮想画像に変換して表示する。第28図は、視点位置に
対応させて、光線空間データによる仮想画像が表示され
る場合と、ビルボード画像が表示される場合とを示す。
尚、ビルボード画像は、前述の第1実施形態とこの第2
実施形態とでは、VRML(Virtual Reality Modeling Lang
uage)で記述されている。ビルボード画像を表示するこ
との利点は、ユーザが仮想空間をウオークスルーする場
合には、目的のサブ空間を所謂ブラウジングすることが
多く、かかるブラウジングの場合には、光線空間データ
による高精細な画像よりも、ビルボード画像で十分に目
的が達成されるからである。
In step S102, it is determined whether the user has operated the joystick or the like to move the virtual viewpoint position. If the viewpoint position has moved, it is determined in step S104 whether the movement is beyond the zone. If the movement is not across the zones, the process proceeds to step S116 to generate and display a virtual image at the viewpoint position. In this case, when the ray space data does not exist, the billboard image is displayed, and when the ray space data exists, the ray space data is converted into a virtual image and displayed. FIG. 28 shows a case where a virtual image based on ray space data is displayed and a case where a billboard image is displayed in correspondence with the viewpoint position.
The billboard image is the same as the first embodiment and the second embodiment.
In the embodiment, VRML (Virtual Reality Modeling Lang) is used.
uage). The advantage of displaying the billboard image is that when the user walks through the virtual space, so-called browsing is often performed on the target subspace, and in the case of such browsing, a high-definition image based on the ray space data is displayed. Rather, the billboard image is sufficient to achieve the purpose.

【0088】ユーザの視点位置移動により、ゾーンが変
更された場合には、ステップS104に進み、ステップ
S106では、レジスタCR-Z(第21図参照)に記憶さ
れていた表示対象ゾーンの属性値を、レジスタPR-Zに待
避する。ステップS108では、当該ゾーンのゾーン属
性情報(第17図)を読み出し、その属性値をレジスタ
CR-Zに保持する。ステップS112では、レジスタPR-Z
の前ゾーンの属性値と、レジスタCR-Z内の現ゾーンの属
性値とを比較することにより、ゾーン変化を検出する。
ここで、ゾーン変化は、属性値の変化として認識でき、
第2実施形態では、
If the zone is changed by the user's viewpoint position movement, the process proceeds to step S104, and in step S106, the attribute value of the display target zone stored in the register CR-Z (see FIG. 21) is set. , Save to register PR-Z. In step S108, the zone attribute information (FIG. 17) of the zone is read and the attribute value is registered.
Hold on CR-Z. In step S112, the register PR-Z
The zone change is detected by comparing the attribute value of the previous zone of the above with the attribute value of the current zone in the register CR-Z.
Here, the zone change can be recognized as a change in the attribute value,
In the second embodiment,

【0089】2→1(中間ゾーン→遷移ゾーン)、2 → 1 (intermediate zone → transition zone),

【0090】1→0(遷移ゾーン→表示対象ゾーン)1 → 0 (transition zone → display target zone)

【0091】0→1(表示対象ゾーン→遷移ゾーン)0 → 1 (display target zone → transition zone)

【0092】1→2(遷移ゾーン→中間ゾーン)1 → 2 (transition zone → intermediate zone)

【0093】の4通りの変化があり得る。そこで、ステ
ップS114で、これらの変化に応じた処理を行う。
There are four possible changes. Therefore, in step S114, processing according to these changes is performed.

【0094】〈中間ゾーン→遷移ゾーン〉中間ゾーンか
ら遷移ゾーンに移動してきた場合とは、ユーザがこの遷
移ゾーンからさらに表示対象ゾーンに移動することが予
想される場合が多い。一方、第2実施形態では、後述す
るように、ユーザの体験希望の対象である表示対象ゾー
ンの光線空間データは、その前の表示対象ゾーンに続く
遷移ゾーンへの遷移(第31図の0→1移動)において
先読みしている筈である。そこで、ステップS200で
は、この遷移ゾーンの属性情報であるINT-DMND-IDを有
する光線空間データが、メモリバンクB1またはB2の、ど
ちら側に格納されているかを確認する。この確認は、レ
ジスタFB1,FB2のうちで、値1(バンク内データは有
効)を有するものを選択し、その値が1であるバンクBX
に対応するレジスタIDBXの値により、どのメモリバンク
に光線空間データが記憶されているかを調べることがで
きる。光線空間が既にバンク中にダウンロードされてい
るならば、第29図の制御手順からRETURNして、メイン
ルーチンに戻る。
<Intermediate Zone → Transition Zone> When moving from the intermediate zone to the transition zone, it is often expected that the user will move from the transition zone to the display target zone. On the other hand, in the second embodiment, as will be described later, the ray space data of the display target zone, which is the target of the user's experience request, transits to the transition zone following the previous display target zone (0 → 0 in FIG. 31). It should be prefetched in (1 move). Therefore, in step S200, it is confirmed which side of the memory bank B 1 or B 2 the ray space data having the INT-DMND-ID which is the attribute information of this transition zone is stored. This confirmation is performed by selecting one of the registers F B1 and F B2 which has the value 1 (the data in the bank is valid), and the bank B X whose value is 1.
The value of the register ID BX corresponding to can be used to check in which memory bank the ray space data is stored. If the ray space has already been downloaded into the bank, the control procedure of FIG. 29 is RETURNed to return to the main routine.

【0095】光線空間データがダウンロードされていな
い場合には、ステップS202で、現在、ダウンロード
している最中かを判定する。この判定は、通信インタフ
ェース24(第15図)の状態を管理するレジスタCOM
の値(第26図参照)を調べることにより為される。CO
M=1であれば、現在、光線空間データがどちらかのバン
クにダウンロードされている最中であると判断して、メ
インルーチンにRETURNする。ステップS202では、ダ
ウンロードの終了を待つことはしない。この遷移ゾーン
から次の表示対象ゾーンに移動するまでの間にダウンロ
ードが終了しているかもしれないからである。尚、この
ダウンロードの最中であるか否かの確認は、フラグFB1
またはFB2の値が3であるか否かを判断することによっ
て確認すると、さらによい。
If the ray space data has not been downloaded, it is determined in step S202 whether or not it is currently being downloaded. This judgment is made by the register COM that manages the state of the communication interface 24 (FIG. 15).
This is done by examining the value of (see FIG. 26). CO
If M = 1, it is determined that the ray space data is being downloaded to either bank at present, and the routine is returned to the main routine. In step S202, the end of download is not waited for. This is because the download may have been completed before moving from this transition zone to the next display target zone. To check whether this download is in progress, check the flag F B1.
It is even better to confirm by judging whether or not the value of F B2 is 3.

【0096】ダウンロードされていない場合には、ステ
ップS204以下で、データベースDB29からダウンロ
ード(先読み)を行う。即ち、ステップS204では、
空のメモリバンクを探す。空のメモリバンクは、レジス
タFBの値 (第23図)が0であるメモリバンクである。
このようなバンクが見つかったならば、そのバンク番号
をワークレジスタWK(=0または1)に格納する。ステッ
プS206で、そのバンクBWKのフラグFWKの値を、ダウ
ンロード中であることを示す値3にセットする。そし
て、ステップS208で、光線空間DB29に対してダウ
ンロードのための転送要求を出す。そして、通信インタ
フェース24のレジスタの値を、ダウンロードであるこ
とを示すように、COM=1とする。
If it has not been downloaded, the data is downloaded (prefetched) from the database DB 29 in step S204 and thereafter. That is, in step S204,
Find an empty memory bank. An empty memory bank is a memory bank in which the value of register F B (FIG. 23) is 0.
When such a bank is found, the bank number is stored in the work register WK (= 0 or 1). In step S206, the value of the flag F WK of the bank B WK is set to the value 3 indicating that downloading is in progress. Then, in step S208, a transfer request for download is issued to the ray space DB 29. Then, the value of the register of the communication interface 24 is set to COM = 1 so as to indicate the download.

【0097】かくして、中間ゾーンから遷移ゾーンに進
入してきたときは、これから更に進入するであろう表示
対象ゾーンの光線空間データの格納状態を確認し、格納
されていない場合には、ダウンロードを行って光線空間
データの先読みを開始する。
Thus, when the transition zone is entered from the intermediate zone, the storage state of the ray space data of the display target zone which will be further entered is confirmed, and if it is not stored, the download is performed. Start pre-reading of ray space data.

【0098】尚、ステップS200でNOと判断(その
必要な光線空間データがメモリバンク内に存在していな
い)された場合には、そのデータがダウンロード中か否
かをステップS202で判断し、その判断結果に拘わら
ず、第29図の制御手順から、第27図のステップS1
16にRETURNしていたが、ステップS116では、その
移動した視点位置における空間データにより仮想画像を
描画しているので、光線空間データが存在すれば、光線
空間データによる描画が、ダウンロードが終了していな
い場合には、ビルボード画像による代替表示が行われる
ことになる。
If NO is determined in step S200 (the required ray space data does not exist in the memory bank), it is determined in step S202 whether the data is being downloaded, and Regardless of the judgment result, from the control procedure of FIG. 29 to step S1 of FIG.
However, in step S116, since the virtual image is drawn with the spatial data at the moved viewpoint position, if the ray space data exists, the drawing with the ray space data has finished downloading. If not, the billboard image will be displayed as an alternative.

【0099】〈遷移ゾーン→表示対象ゾーン〉遷移ゾー
ンから表示対象ゾーンに移行してきた場合の制御手順を
第30図に示す。遷移ゾーン→表示対象ゾーンという移
動は、中間ゾーン→遷移ゾーン→表示対象ゾーンという
通常の移動の他に、第21図に示したような、表示対象
ゾーン→遷移ゾーンに移動し、その遷移ゾーンから表示
対象ゾーンに戻るような場合も含む。いずれにしても、
既にメモリバンクに必要な空間データが存在するか、或
いは、そのメモリバンク中にダウンロードされつつある
かの、いずれかでなくてはならない。ステップS250
での判断がNOであった場合には、制御は誤りがあった
のであるから、終了する。この判断は、当該表示対象ゾ
ーンの属性情報(第17図)の必要画像ID(RQD-ID)に対
応する値を参照して、第24図のテーブルをサーチする
ことにより、なされる。即ち、表示対象ゾーンAに進入
した場合には、BA=1であれば、光線空間データAはバ
ンクB1に、BA=2であれば、光線空間データAはバンク
B2に格納されている。
<Transition zone → Display target zone> FIG. 30 shows a control procedure when the transition zone is changed to the display target zone. In addition to the normal movement of transition zone → transition zone → display zone, transition zone → transition zone moves to display zone → transition zone, as shown in FIG. 21, from the transition zone. This includes cases such as returning to the display target zone. In any case,
Either the required spatial data already exists in the memory bank or it is being downloaded into that memory bank. Step S250
If the determination is NO, the control has an error, and the process ends. This determination is made by referring to the value corresponding to the required image ID (RQD-ID) in the attribute information (FIG. 17) of the display target zone and searching the table in FIG. That is, when entering the display target zone A, if B A = 1 then the ray space data A is in the bank B 1 , and if B A = 2 then the ray space data A is in the bank.
Stored in B 2 .

【0100】一方、ステップS250でYES、即ち、
メモリバンク中に必要な光線空間データが既に、存在す
るか、或いは、そのデータをダウンロード中である場合
には、ステップS252でタイマTMRの値がゼロである
か否かを調べる。即ち、表示対象ゾーン→遷移ゾーンへ
の移動では、前述したように、5秒間タイマTMRを起動
しているので、再び、表示対象ゾーンに戻った場合に
は、このタイマTMRをリセットする必要がある。そこ
で、ステップS252で、5秒間の監視タイマTMRが起
動されているかを調べ、起動されていれば、ステップS
254でリセットする。
On the other hand, YES in step S250, that is,
If the necessary ray space data already exists in the memory bank, or if the data is being downloaded, it is checked in step S252 whether the value of the timer TMR is zero. That is, since the timer TMR is activated for 5 seconds as described above when moving from the display target zone to the transition zone, it is necessary to reset the timer TMR when returning to the display target zone again. . Therefore, in step S252, it is checked whether or not the monitoring timer TMR for 5 seconds is activated, and if it is activated, step S252
Reset at 254.

【0101】ステップS256,ステップS258で
は、一旦「グレイ」とマークされた光線空間データを
「有効」データであると復活させるものである。ステッ
プS256,ステップS258の処理に関しては、第3
1図のステップS290以下の説明で関連して行う。
At steps S256 and S258, the ray space data once marked "gray" is restored as "valid" data. Regarding the processing in steps S256 and S258,
This will be performed in connection with the description of step S290 and subsequent steps in FIG.

【0102】かくして、表示対象ゾーンではユーザは光
線空間データに基づいた仮想空間を体験することができ
る。
Thus, in the display target zone, the user can experience the virtual space based on the ray space data.

【0103】〈ダウンロードの終了〉ダウンロードの終
了は、オペレーティングシステムにより、本制御手順に
割り込みがかけられる。この割り込みが検知されると、
第34図の制御手順が起動される。
<End of Download> The end of download is interrupted by this operating procedure by the operating system. When this interrupt is detected,
The control procedure of FIG. 34 is started.

【0104】第34図のステップS400で、通信イン
タフェース24の状態をアイドル状態(COM=0)に設
定する。ステップS402では、当該ダウンロードによ
りデータ格納が行われていたメモリバンクを調べる。即
ち、FB=3であるバンクを探し、そのバンク番号をワーク
レジスタWKに待避する。ステップS404では、当該バ
ンクのレジスタFWKの値を、データ有効であることを示
すために、“1”にセットする。更に、ステップS40
6では、バンクBWKに格納されているデータの識別を行
うために、IDWKの値を光線空間データの識別子(A, B, C
…)に設定する。更にステップS408では、空間デー
タの記憶先を示すレジスタB(第24図)に、ダウンロ
ードされた光線空間データの識別子を示す値をセットす
る。
In step S400 of FIG. 34, the state of the communication interface 24 is set to the idle state (COM = 0). In step S402, the memory bank in which the data is stored by the download is checked. That is, a bank with F B = 3 is searched for and the bank number is saved in the work register WK. In step S404, the value of the register F WK of the bank is set to "1" to indicate that the data is valid. Further, step S40
In No. 6, in order to identify the data stored in the bank B WK , the value of ID WK is set to the ray space data identifier (A, B, C).
...). Further, in step S408, a value indicating the identifier of the downloaded ray space data is set in the register B (FIG. 24) indicating the storage destination of the space data.

【0105】かくして、レジスタFB1、FB2、IDB1、I
DB2、BA…などにより、光線空間データが有効に格納さ
れているバンクの所在を任意にチェックすることが可能
になった。
Thus, the registers F B1 , F B2 , ID B1 , I
By using D B2 , B A, etc., it becomes possible to arbitrarily check the location of the bank in which the ray space data is effectively stored.

【0106】〈表示対象ゾーン→遷移ゾーン〉表示対象
ゾーンから遷移ゾーンに移動した場合の制御手順を第3
1図に示す。
<Display target zone → Transition zone> Third control procedure when moving from the display target zone to the transition zone
Shown in Figure 1.

【0107】即ち、ステップS280では、タイマTMR
を起動する。タイマTMRのタイムアウト(TMRの値が所定
値に達する)するか否かは、第33図の制御手順で監視
される。
That is, in step S280, the timer TMR
To start. Whether or not the timer TMR times out (the value of TMR reaches a predetermined value) is monitored by the control procedure of FIG.

【0108】ステップS282以下では、次の表示対象
ゾーン(隣の表示対象ゾーン)のための光線空間データ
のダウンロードの準備を行う。即ち、ステップS282
で、空のメモリバンクを探すために、レジスタFBの値が
0であるバンクを探し、そのバンク番号をワークレジス
タWKに格納する。ステップS284で、このメモリバン
クBWKをダウンロード中とマーク(FWK=3)する。そし
て、ステップS282でダウンロードの開始をインタフ
ェース24に指令する。ステップS288では、インタ
フェース24の状態をダウンロード中とマーク(COM=
3)する。
In step S282 and thereafter, preparations for downloading the ray space data for the next display target zone (adjacent display target zone) are made. That is, step S282
Then, in order to search for an empty memory bank, a bank in which the value of the register F B is 0 is searched, and the bank number is stored in the work register WK. In step S284, this memory bank B WK is marked as being downloaded (F WK = 3). Then, in step S282, the interface 24 is instructed to start downloading. In step S288, the state of the interface 24 is marked as downloading (COM =
3) Do.

【0109】更にステップS290以下で、前の表示対
象ゾーン(それまでユーザが滞在していた表示対象ゾー
ン)で描画目的で使用されていた光線空間データを「グ
レイ」とマークする。前述したように、表示対象ゾーン
から遷移ゾーンに移動してきたときは、他の表示対象ゾ
ーンに移動する可能性が高いので、それまでの表示対象
ゾーンで使用してきた光線空間データは不要となる可能
性が高い。しかしながら、この第2実施形態では、ジョ
イスティックの誤操作を考慮して、その光線空間データ
を保持するようにしていることは、第21図、第22図
で説明した通りである。メモリバンク内に保持される光
線空間データは、消去される可能性もあるので、本実施
形態では、「グレイ」状態にあると呼ぶ。尚、「グレ
イ」状態にある光線空間データの消去は、1→2移動の
制御手順である第32図のステップS302で行う。
Further, in step S290 and subsequent steps, the ray space data used for the drawing purpose in the previous display target zone (the display target zone in which the user was staying until then) is marked as "gray". As mentioned above, when moving from the display target zone to the transition zone, it is likely to move to another display target zone, so the ray space data used in the previous display target zone may be unnecessary. It is highly likely. However, in this second embodiment, the ray space data is held in consideration of the erroneous operation of the joystick, as described with reference to FIGS. 21 and 22. The ray space data held in the memory bank may be erased and is therefore referred to in this embodiment as being in the "grey" state. The light-space data in the "gray" state is erased in step S302 of FIG. 32, which is a control procedure of 1 → 2 movement.

【0110】ステップS290では、当該遷移ゾーンの
INT-DMND-IDの値から、前の表示対象ゾーンに用いられ
ていた光線空間データの識別子を知り、この値をワーク
レジスタWKに格納し、ステップS292では、画像の記
憶先を保持するレジスタB(第24図)を参照して、当
該光線空間データが記憶されていたメモリバンクの番号
を知り、その値をワークレジスタWKに格納する。そし
て、ステップS294では、このメモリバンクの状態を
「グレイ」とマークするために、FWK=2とする。
In step S290, the transition zone
From the value of INT-DMND-ID, the identifier of the ray space data used for the previous display target zone is known, and this value is stored in the work register WK. In step S292, the register B that holds the storage destination of the image is stored. With reference to FIG. 24, the number of the memory bank in which the ray space data is stored is known, and the value is stored in the work register WK. Then, in step S294, F WK = 2 is set in order to mark the state of this memory bank as “gray”.

【0111】かくして、第31図の制御手順では、次の
表示対象ゾーンのための光線空間データが先読み開始さ
れると共に、それまで使用していた光線空間データを
「グレイ」状態とすることにより、何時でも復活可能と
した。
Thus, in the control procedure of FIG. 31, by pre-reading the light space data for the next display target zone, and setting the light space data used until then into the "grey" state, It was possible to revive at any time.

【0112】もし、ユーザが、再度,元の表示対象ゾー
ンに戻るような操作を行ったとすると、その操作は、遷
移ゾーン→表示対象ゾーンへの移行と検知されて、第3
0図のステップS256によって処理される。即ち、ス
テップS256で、グレイ状態にあるバンクがサーチさ
れて、ステップS258では、その状態値を、FB=1と
する。
If the user again performs an operation to return to the original display target zone, the operation is detected as a transition from the transition zone to the display target zone, and the third zone is displayed.
0 is processed by step S256. That is, the bank in the gray state is searched for in step S256, and the state value is set to F B = 1 in step S258.

【0113】尚、ステップS286で、開始したダウン
ロードにより、次の表示対象ゾーンのための光線空間デ
ータがやがてバンク上で有効(FB=1)とマークされるよ
うになる、即ち、有効な画像データが2つのメモリバン
ク(B1とB2)の双方に格納された状態が発生する
が、この第2実施形態では、画像描画は、第24図のレ
ジスタBの値に従って行うために、2つの有効光線空間
データを混同することはない。
[0113] In step S286, the download has started, so that the light space data for the next display target zone is marked valid (F B = 1) on the bank in due course, i.e., effective image A state occurs in which the data is stored in both of the two memory banks (B1 and B2), but in the second embodiment, since the image drawing is performed according to the value of the register B in FIG. Do not confuse ray space data.

【0114】〈遷移ゾーン→中間ゾーン〉遷移ゾーンか
ら中間ゾーンへと移動してきた場合には、第32図の制
御手順が実行される。
<Transition Zone → Intermediate Zone> When moving from the transition zone to the intermediate zone, the control procedure of FIG. 32 is executed.

【0115】即ち、ステップS300では、グレイ状態
になっている光線空間データをパージするために、当該
光線空間データを格納しているバンクを探す。即ち、ス
テップS300では、FB=2であるバンクを調べ、そのバ
ンク番号をワークレジスタWKに格納し、更に、そのバン
クのレジスタFWKの状態値をデータ無効であることを示
す0とする。更に、ステップS304では、対応するレ
ジスタIDB(第23図)とレジスタB(第24図)の値
を、上記データの無効化が反映されるように設定し直
す。
That is, in step S300, in order to purge the ray space data in the gray state, the bank storing the ray space data is searched. That is, in step S300, the bank with F B = 2 is checked, the bank number is stored in the work register WK, and the state value of the register F WK of that bank is set to 0 indicating that the data is invalid. Further, in step S304, the corresponding register ID B (FIG. 23) and register B (FIG. 24) values are reset so that the invalidation of the data is reflected.

【0116】〈タイムアウトの発生〉5秒タイマTMRが
タイムアウトした場合の制御手順を第33図に従って説
明する。このタイマTMRは、ユーザ視点位置が遷移ゾー
ン内にある場合にのみ有効である。
<Time-out Occurrence> The control procedure when the 5-second timer TMR times out will be described with reference to FIG. This timer TMR is effective only when the user viewpoint position is within the transition zone.

【0117】ステップS500では、タイマTMRをリセ
ットする。ステップS502では、「グレイ」状態とさ
れている光線空間データを記憶するバンクを探し、その
バンク番号をワークレジスタWKに記憶する。ステップS
504では、その番号のバンクの状態レジスタFWKの値
を0(データ無効)にセットする。ステップS506で
は、関連するレジスタIDB(第23図)とレジスタB(第
24図)の値を、上記データの無効化が反映されるよう
に設定し直す。
In step S500, the timer TMR is reset. In step S502, a bank that stores the ray space data in the "gray" state is searched for, and the bank number is stored in the work register WK. Step S
At 504, the value of the status register F WK of the bank of that number is set to 0 (data invalid). In step S506, the associated register ID B (FIG. 23) and register B (FIG. 24) values are reset to reflect the invalidation of the data.

【0118】かくして、遷移ゾーンに所定時間以上とど
まっていた場合には、ユーザが元の表示対象ゾーンを離
れる意向がハッキリしていると推定して、グレイ状態に
ある光線空間データを無効化する。即ち、ユーザに替わ
ってバッファの解放が自動的に行われる。
Thus, if the user stays in the transition zone for a predetermined time or more, it is presumed that the user has a clear intention to leave the original display target zone, and the ray space data in the gray state is invalidated. That is, the buffer is automatically released on behalf of the user.

【0119】第2実施形態は種々に変形可能である。The second embodiment can be variously modified.

【0120】I: 例えば、第2実施形態では、1つの
表示対象ゾーンを囲むゾーンには、二重のゾーン、即
ち、遷移ゾーンと中間ゾーンの2つのみを設けていた
が、その数は2つに限定されない。例えば、上層の遷移
ゾーンと下層の遷移ゾーンを2つ設けることを提案す
る。即ち、上記第2実施形態では、光線空間データの先
読みは、次の表示対象ゾーンに進む場合(表示対象ゾー
ン→遷移ゾーンという移動)に行われていた。但し、中
間ゾーンから表示対象ゾーンに進む場合にも先読みは成
されていたが、これは表示対象ゾーンの次の層の遷移ゾ
ーンで開始される先読みであるために、遷移ゾーンから
すぐに表示対象ゾーンに移行することとなり、実効性に
乏しい。そこで、上記のように、2層の遷移ゾーンを設
け、上層の遷移ゾーンでは、当該表示対象ゾーンに進入
するときの先読みを行い、下層の遷移ゾーンでは、当該
表示対象ゾーンから他の表示対象ゾーンへ進むときの先
読みを行うようにする。この場合は、中間ゾーンは不要
となる。 II: 上記第2実施形態では、例えば、表示対象ゾーン
(A)→AからBへの遷移ゾーン→中間ゾーン→Cの遷移ゾ
ーン→表示対象ゾーンCと移動した場合には、AからBへ
の遷移ゾーンにおいて、表示対象ゾーンBのための光線
空間データの先読みは行われるけれども、結局、表示対
象ゾーンCに移動したのであるから、先の先読みは効率
的な先読みとはならない。かかる場合に備えて、中間ゾ
ーンも全て、表示対象ゾーンに対応させて細分化するこ
とにより、上記先読みの非効率かを防止することができ
る。
I: For example, in the second embodiment, a zone surrounding one display target zone is provided with only two double zones, that is, a transition zone and an intermediate zone, but the number is two. Not limited to one. For example, it is proposed to provide two upper transition zones and two lower transition zones. That is, in the second embodiment, the look-ahead of the ray space data is performed when the process proceeds to the next display target zone (display target zone → transition zone). However, the read-ahead was also performed when going from the intermediate zone to the display target zone, but since this is the read-ahead that starts in the transition zone of the layer next to the display target zone, the display target is immediately displayed from the transition zone. It will be moved to the zone, and its effectiveness is poor. Therefore, as described above, a transition zone of two layers is provided, in the transition zone of the upper layer, pre-reading when entering the display target zone is performed, and in the transition zone of the lower layer, the display target zone is changed to another display target zone. Try to look ahead when proceeding to. In this case, the intermediate zone becomes unnecessary. II: In the second embodiment, for example, the display target zone
(A) → Transition zone from A to B → Intermediate zone → Transition zone from C → Display target zone C, in the transition zone from A to B, ray space data for display target zone B Although the pre-reading is performed, the pre-reading does not become an efficient pre-reading because it is moved to the display target zone C in the end. In preparation for such a case, it is possible to prevent the prefetching inefficiency by subdividing all the intermediate zones in correspondence with the display target zones.

【0121】III: 上記実施形態では、光線空間デー
タを例にして説明したが、本発明はこれに限定されず、
データ転送にある程度の時間を要する空間データ、即
ち、リアルタイム処理に足かせとなるようなデータ転送
時間を必要とするあらゆる空間データに対しても、適用
可能である。従って、本発明は、主記憶とDBとの間が、
通信回線によって接続されているシステムにのみ適用さ
れるものではなく、そのアプリケーションのリアルタイ
ム性に対する要求度によって、本発明の処理が必要とな
るか否かを判断すべきである。従って、場合によって
は、本発明は、主記憶とデータベースDBとが並列バスに
よって接続されているようなシステムにも適用可能であ
る。
III: In the above embodiment, the light space data is described as an example, but the present invention is not limited to this.
The present invention is also applicable to spatial data that requires a certain amount of time for data transfer, that is, any spatial data that requires a data transfer time that hinders real-time processing. Therefore, according to the present invention, between the main memory and the DB,
It is not applied only to the system connected by the communication line, and whether or not the process of the present invention is necessary should be judged according to the degree of real-time requirement of the application. Therefore, in some cases, the present invention can be applied to a system in which the main memory and the database DB are connected by a parallel bus.

【0122】IV: 上記第2実施形態では、グレイ領域
とされた光線空間データは遷移ゾーンに所定時間留まっ
ていた場合には消去するようになっていたが、更に、ユ
ーザが、所定のキーボード操作(或いは、例えば第36
図に示されたような所定のアイコンに対する操作)によ
って、その消去動作が開始されるように変形してもよ
い。 V: この第2実施形態では、光線空間データはデータ
ベース29では符号化されており、そのデータベースか
らダウンロードされてくる都度に復号化されていた。し
かしながら、第1実施形態の第3実施例に関連して説明
したように、符号化空間データの復号化処理が時間を要
する反面、符号化されている空間データはメモリ容量を
大きく占有しない。即ち、システムに装備されている主
記憶のメモリ容量によっては、符号化されている光線空
間データの全てを格納する余裕が生まれる可能性があ
る。そこで、主記憶27に余裕がある場合には、第2実
施形態に対して上記第3実施例と同じような変形例を施
し、即ち、光線空間データの全てをメモリ27にダウン
ロードしておき、リアルタイムに移動してきたユーザ視
点位置における光線空間データのみを復号化するような
変形例を提案する。この変形例では、第2実施形態に対
して、復号化処理専用のプロセッサ或いはタスクを別途
に設け、更に、第2実施形態のダウンロード動作が、復
号化処理に相当するように変形例する。即ち、ダウンロ
ード中か否かのフラグ(COM)は、復号化処理中か否かの
フラグに変更し、バンク内のデータは有効か否かのフラ
グ(第23図のFB)は復号化されているか否かを示すフ
ラグとする。そして、全ての表示対象ゾーンの光線空間
データは、ステップS100(第27図)において、ビ
ルボード画像データと共にダウンロードされるように変
形例する。その上で、新たな表示対象ゾーンにはいると
きの光線空間データのデータベースからの先読みは、符
号化データを復号化させる処理を先行化させる動作に変
更する。
IV: In the second embodiment, the light space data in the gray area is erased when it stays in the transition zone for a predetermined time. However, the user further performs a predetermined keyboard operation. (Or, for example, the 36th
The erase operation may be started by an operation on a predetermined icon as shown in the figure). V: In the second embodiment, the ray space data is encoded in the database 29 and is decoded each time it is downloaded from the database. However, as described with reference to the third example of the first embodiment, while the decoding process of the encoded spatial data requires time, the encoded spatial data does not occupy a large memory capacity. That is, depending on the memory capacity of the main memory installed in the system, there is a possibility that there will be room for storing all the encoded ray space data. Therefore, when the main memory 27 has room, a modification similar to the third embodiment is applied to the second embodiment, that is, all the ray space data is downloaded to the memory 27. We propose a modification that decodes only the ray space data at the user viewpoint position that has moved in real time. In this modification, a processor or task dedicated to the decryption process is separately provided from the second embodiment, and further, the download operation of the second embodiment is modified so as to correspond to the decryption process. That is, whether or not downloading of flags (COM) is changed to whether flag or during the decoding process, the data in the bank is effective whether the flag (F B of FIG. 23) is decoded Is set as a flag indicating whether or not Then, the modification is made so that the light space data of all the display target zones are downloaded together with the billboard image data in step S100 (FIG. 27). Then, the pre-reading from the database of the light space data when entering the new display target zone is changed to the operation of preceding the process of decoding the encoded data.

【0123】このような変形例により、第2実施形態に
対して、リアルタイム処理が更に改善される。
With such a modification, the real-time processing is further improved as compared with the second embodiment.

【0124】[0124]

【発明の効果】以上説明したように本発明によれば、空
間データを、その空間データの容量を考慮して、少なく
とも一方は外部メモリに分けて記憶し、必要に応じてダ
ウンロードする。但し、ダウンロードの最中には、内部
メモリに存在する方の空間データに基づいて仮想画像を
描画することにより、ユーザに仮想空間を体験させるこ
とができる。即ち、メモリ容量の適正化と仮想画像の常
時提示とを両立させることができる。
As described above, according to the present invention, at least one of the spatial data is stored in the external memory in consideration of the capacity of the spatial data, and is downloaded as needed. However, during downloading, the user can experience the virtual space by drawing a virtual image based on the spatial data of the one existing in the internal memory. That is, it is possible to make both the optimization of the memory capacity and the constant presentation of the virtual image compatible .

【図面の簡単な説明】[Brief description of drawings]

【図1】 光線空間データを生成する原理を説明する
図。
FIG. 1 is a diagram illustrating a principle of generating ray space data.

【図2】 実空間でのデータを説明する図。FIG. 2 is a diagram illustrating data in a real space.

【図3】 図2の空間が光線空間データによって表され
たときの図。
FIG. 3 is a diagram when the space of FIG. 2 is represented by ray space data.

【図4】 カメラが複数ある時の実空間データを生成す
る原理を説明する図。
FIG. 4 is a diagram illustrating a principle of generating real space data when there are a plurality of cameras.

【図5】 カメラが複数ある時の光線空間データを生成
する原理を説明する図。
FIG. 5 is a diagram for explaining the principle of generating ray space data when there are a plurality of cameras.

【図6】 カメラが複数ある時の光線空間データから、
任意の視点位置における光線空間データ(x+Zu=X)を生成
する原理を説明する図。
[FIG. 6] From ray space data when there are multiple cameras,
The figure explaining the principle which produces | generates ray space data (x + Zu = X) in arbitrary viewpoint positions.

【図7】 図6の任意視点からの実空間を再構成する原
理を説明する図。
FIG. 7 is a diagram illustrating the principle of reconstructing the real space from the arbitrary viewpoint of FIG.

【図8】 発明者が提案しようとするウオークスルー環
境下で発生し得る不都合を説明する図。
FIG. 8 is a diagram for explaining an inconvenience that may occur in a walkthrough environment proposed by the inventor.

【図9】 第1実施形態と第2実施形態に関わる仮想空
間提示装置(仮想画像描画装置)の構成を説明する図。
FIG. 9 is a diagram illustrating a configuration of a virtual space presentation device (virtual image drawing device) according to the first embodiment and the second embodiment.

【図10】 第1実施形態と第2実施形態における仮想
空間の構成を説明する図。
FIG. 10 is a diagram illustrating a configuration of a virtual space in the first embodiment and the second embodiment.

【図11】 第1実施形態の装置における主要部分の構
成を説明する図。
FIG. 11 is a diagram illustrating a configuration of a main part of the device according to the first embodiment.

【図12】 第1実施形態のシステムにおいて、光線空
間データとビルボード画像データとのダウンロード状態
を管理するテーブルの構成を説明する図。
FIG. 12 is a diagram illustrating a configuration of a table that manages a download state of ray space data and billboard image data in the system of the first embodiment.

【図13】 第1実施形態の第1実施例の制御手順を示
すフローチャート。
FIG. 13 is a flowchart showing a control procedure of a first example of the first embodiment.

【図14】 第1実施形態の第2実施例の制御手順を示
すフローチャート。
FIG. 14 is a flowchart showing a control procedure of a second example of the first embodiment.

【図15】 本発明の第2実施形態の構成を説明するブ
ロック図。
FIG. 15 is a block diagram illustrating a configuration of a second embodiment of the present invention.

【図16】 第2実施形態において用いられる仮想空間
の一構成例を説明する図。
FIG. 16 is a diagram illustrating a configuration example of a virtual space used in the second embodiment.

【図17】 第2実施形態において、仮想空間内の各ゾ
ーンに与えられた属性情報を示す図。
FIG. 17 is a diagram showing attribute information given to each zone in the virtual space in the second embodiment.

【図18】 図17の属性に従って、図16のゾーンA
に与えられた属性値を説明する図。
18 Zone A of FIG. 16 according to the attributes of FIG.
The figure explaining the attribute value given to.

【図19】 第2実施形態において、ユーザの視点位置
が、中間ゾーンから遷移ゾーン、更に表示対象ゾーンへ
と移動する過程で行われる主な制御動作を概略的に説明
する図。
FIG. 19 is a diagram schematically illustrating a main control operation performed in a process in which the user's viewpoint position moves from the intermediate zone to the transition zone to the display target zone in the second embodiment.

【図20】 第2実施形態において、ユーザの視点位置
が、表示対象ゾーンから遷移ゾーン、更に、中間ゾーン
へと移動する過程で行われる主な制御動作を概略的に説
明する図。
FIG. 20 is a diagram schematically illustrating a main control operation performed in a process in which a user's viewpoint position moves from a display target zone to a transition zone and further to an intermediate zone in the second embodiment.

【図21】 第2実施形態において、ユーザの視点位置
が表示対象ゾーンと遷移ゾーンの間を往復する場合の制
御動作を概略的に説明する図。
FIG. 21 is a diagram schematically illustrating a control operation when the user's viewpoint position reciprocates between the display target zone and the transition zone in the second embodiment.

【図22】 第2実施形態において、ユーザの視点位置
が遷移ゾーンに留まる場合の制御動作を概略的に説明す
る図。
FIG. 22 is a diagram schematically illustrating a control operation when the viewpoint position of the user stays in the transition zone in the second embodiment.

【図23】 第2実施形態の制御手順で用いられる各種
レジスタ、特に、メモリバンクの状態を管理するレジス
タと、バンク内に記憶された画像の識別を記憶するレジ
スタとを説明する図。
FIG. 23 is a diagram illustrating various registers used in the control procedure of the second embodiment, in particular, a register that manages the state of the memory bank and a register that stores the identification of the image stored in the bank.

【図24】 第2実施形態の制御手順で用いられる各種
レジスタ、特に、各表示対象ゾーンで描画されるべき光
線空間データと、そのデータの格納先との関係を管理す
るレジスタを説明する図。
FIG. 24 is a diagram illustrating various registers used in the control procedure of the second embodiment, particularly registers that manage the relationship between the ray space data to be drawn in each display target zone and the storage destination of the data.

【図25】 第2実施形態の制御手順で用いられる各種
レジスタ、特に、ユーザが直前にいた表示対象ゾーンの
識別を記憶するレジスタPR-Zと、現在の表示対象ゾーン
の識別を記憶するレジスタCR-Zとを説明する図。
[FIG. 25] Various registers used in the control procedure of the second embodiment, in particular, a register PR-Z that stores the identification of the display target zone that the user was immediately before and a register CR that stores the identification of the current display target zone. The figure explaining -Z.

【図26】 第2実施形態の制御手順で用いられるレジ
スタCOMとタイマTMRとを説明する図。
FIG. 26 is a diagram illustrating a register COM and a timer TMR used in the control procedure of the second embodiment.

【図27】 第2実施形態の制御手順のメインルーチン
に係るフローチャート。
FIG. 27 is a flowchart relating to the main routine of the control procedure of the second embodiment.

【図28】 第2実施形態(第1実施形態でも同様)に
おいて、光線空間データによる仮想画像とビルボード画
像データによる仮想画像との関係を説明する図。
FIG. 28 is a diagram illustrating a relationship between a virtual image based on ray space data and a virtual image based on billboard image data in the second embodiment (similarly to the first embodiment).

【図29】 第2実施形態の制御手順の一部を説明する
フローチャート。
FIG. 29 is a flowchart illustrating a part of the control procedure of the second embodiment.

【図30】 第2実施形態の制御手順の一部を説明する
フローチャート。
FIG. 30 is a flowchart illustrating a part of the control procedure of the second embodiment.

【図31】 第2実施形態の制御手順の一部を説明する
フローチャート。
FIG. 31 is a flowchart illustrating a part of the control procedure of the second embodiment.

【図32】 第2実施形態の制御手順の一部を説明する
フローチャート。
FIG. 32 is a flowchart illustrating a part of the control procedure of the second embodiment.

【図33】 第2実施形態の制御手順の一部を説明する
フローチャート。
FIG. 33 is a flowchart illustrating a part of the control procedure of the second embodiment.

【図34】 第2実施形態の制御手順の一部を説明する
フローチャート。
FIG. 34 is a flowchart illustrating a part of the control procedure of the second embodiment.

【図35】 第1実施形態の第3実施例の制御手順の一
部を説明するフローチャート。
FIG. 35 is a flowchart illustrating a part of a control procedure of a third example of the first embodiment.

【図36】 第2実施形態の変形例に関わるアイコンの
形状を説明する図。
FIG. 36 is a view for explaining the shape of an icon according to a modification of the second embodiment.

───────────────────────────────────────────────────── フロントページの続き (72)発明者 小竹 大輔 横浜市西区花咲町6丁目145番地 横浜 花咲ビル 株式会社エム・アール・シス テム研究所内 (56)参考文献 特開 平10−222699(JP,A) (58)調査した分野(Int.Cl.7,DB名) G06T 15/00 - 17/50 G06F 13/00 ─────────────────────────────────────────────────── ─── Continuation of the front page (72) Daisuke Kotake, 6-145, Hanasaki-cho, Nishi-ku, Yokohama, Yokohama, Hanasaki Building, M Systems Co., Ltd. (56) Reference Japanese Patent Laid-Open No. 10-222699 (JP, A) (58) Fields investigated (Int.Cl. 7 , DB name) G06T 15/00-17/50 G06F 13/00

Claims (10)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】 仮想空間に任意の視点位置での仮想画像
を描画する描画方法であって、 第1の視点位置における、第1の空間データであって、
第1のデータ形式を有し、ビルボード画像を構成するの
に最適な空間データである第1の空間データを内部メモ
リに記憶し、 前記第1の視点位置における、第2の形式の第2の空間
データを前記内部メモリとは異なる外部メモリに記憶
し、 任意の視点位置での仮想画像を生成するために、前記外
部メモリから、前記第2の空間データをダウンロード
し、 前記任意の視点位置での仮想画像を、ダウンロードが完
了しない間は前記内部メモリ内の第1の空間データに基
づいて描画し、ダウンロードの完了後は前記内部メモリ
にダウンロードされた前記第2の空間データに基づいて
描画することを特徴とする画像描画方法。
1. A drawing method for drawing a virtual image at an arbitrary viewpoint position in a virtual space , comprising: first space data at a first viewpoint position ,
Has a first data format and comprises a billboard image
The first spatial data that is the optimal spatial data for is stored in the internal memory, the second spatial data in the second format at the first viewpoint position is stored in an external memory different from the internal memory, In order to generate a virtual image at an arbitrary viewpoint position, the second spatial data is downloaded from the external memory, and the virtual image at the arbitrary viewpoint position is stored in the internal memory while the download is not completed. The image drawing method is characterized in that the drawing is performed based on the first spatial data, and after the download is completed, the drawing is performed based on the second spatial data downloaded to the internal memory.
【請求項2】 仮想空間に任意の視点位置での仮想画像
を描画する描画方法であって、 第1の視点位置における、VRML形式の第1の空間デ
ータを内部メモリに記憶し、 前記第1の視点位置における、光線空間理論データであ
る第2の空間データを前記内部メモリとは異なる外部メ
モリに記憶し、 任意の視点位置での仮想画像を生成するために、前記外
部メモリから、前記第2の空間データをダウンロード
し、 前記任意の視点位置での仮想画像を、ダウンロードが完
了しない間は前記内部メモリ内の第1の空間データに基
づいて描画し、ダウンロードの完了後は前記内部メモリ
にダウンロードされた前記第2の空間データに基づいて
描画することを特徴とする画像描画方法。
2. A virtual image at an arbitrary viewpoint position in a virtual space
Is a rendering method for rendering the first space position in VRML format at the first viewpoint position.
Data in the internal memory, and is the light space theoretical data at the first viewpoint position.
The second spatial data that is different from the internal memory that is different from the internal memory.
In order to store in memory and generate a virtual image at any viewpoint position,
Download the second spatial data from the partial memory
And, a virtual image at the arbitrary viewpoint position, the download complete
If not, the first spatial data in the internal memory is used.
Draw based on the above, and after the download is complete, the internal memory
Based on the second spatial data downloaded to
An image drawing method characterized by drawing.
【請求項3】 前記仮想空間においてユーザに仮想ウオ
ークスルー環境を提供することを特徴とする請求項1
は請求項2に記載の画像描画方法。
3. A process according to claim 1, characterized in that it provides a virtual walk-through environment to the user in the virtual space also
Is the image drawing method according to claim 2 .
【請求項4】 前記第1の空間データは前記外部メモリ
に記憶され、前記第2の空間データのダウンロードの前
に、前記第1の空間データの前記内部メモリへのダウン
ロードを終了させることを特徴とする請求項1乃至請求
項3のいずれかに記載の画像描画方法。
4. The first spatial data is stored in the external memory, and the downloading of the first spatial data to the internal memory is terminated before the downloading of the second spatial data. Claim 1 to claim
Item 4. The image drawing method according to any one of Items 3 .
【請求項5】 異なる複数の視点位置から前もって撮像
された複数の画像の空間データを第2の空間データとし
て前記外部メモリに記憶し、 移動されるユーザの視点位置を検出し、 移動後の視点位置における画像の描画処理と、前記第2
の空間データのダウンロード処理とを並列処理で行うこ
とを特徴とする請求項1乃至請求項4のいずれかに記載
の画像描画方法。
5. The external data is stored in the external memory as spatial data of a plurality of images captured in advance from a plurality of different viewpoint positions, the viewpoint position of the user to be moved is detected, and the viewpoint after the movement is performed. Image drawing processing at the position, and the second
The image drawing method according to any one of claims 1 to 4 , wherein the download processing of the spatial data is performed in parallel.
【請求項6】 異なる複数の視点位置から前もって撮像
された複数の画像の空間データを第2の空間データとし
て前記外部メモリに記憶し、 移動されるユーザの視点位置を検出し、 移動後の視点位置に対応する空間データを前記外部メモ
リからダウンロードし、 ダウンロードが完了しない間は前記内部メモリ内の第1
の空間データに基づいて描画し、ダウンロードの完了後
は前記内部メモリにダウンロードされた前記移動後の視
点位置に対応する第2の空間データに基づいて描画する
ことを特徴とする請求項1乃至請求項5のいずれかに記
載の画像描画方法。
6. Spatial data of a plurality of images previously captured from different viewpoint positions are stored in the external memory as second spatial data, the viewpoint position of the user to be moved is detected, and the viewpoint after the move is performed. The spatial data corresponding to the position is downloaded from the external memory, and the first data in the internal memory is downloaded while the download is not completed.
The drawing on the basis of space data, after the download is complete the claims 1 to, characterized in that the drawing on the basis of the second space data corresponding to the viewpoint position after the movement has been downloaded into the internal memory Item 6. The image drawing method according to any one of Items 5 .
【請求項7】 前記内部メモリは、少なくとも、前記第
1の空間データと第2の空間データを格納する容量を有
することを特徴とする請求項1乃至請求項6のいずれか
に記載の画像描画方法。
Wherein said internal memory, at least, image drawing according to any one of claims 1 to 6, characterized in that it has a capacity to store the first spatial data and second spatial data Method.
【請求項8】 仮想空間に任意の視点位置での仮想画像
を描画する描画装置であって、 第1の視点位置における第1の空間データであって、第
1のデータ形式を有し、ビルボード画像を構成するのに
最適な空間データである第1の空間データを記憶する内
部メモリ と、 前記第1の視点位置における第2の形式の第2の空間デ
ータを記憶するための、前記内部メモリとは異なる外部
メモリと、 任意の視点位置での仮想画像を生成するために、前記外
部メモリから、前記第2の空間データを前記内部メモリ
にダウンロードするダウンロード手段と、 前記任意の視点位置での仮想画像を、ダウンロードが完
了しない間は前記内部メモリ内の第1の空間データに基
づいて描画し、ダウンロードの完了後は前記内部メモリ
にダウンロードされた前記第2の空間データに基づいて
描画する描画手段とを具備することを特徴とする画像描
画装置。
8. A drawing device for drawing a virtual image at an arbitrary viewpoint position in a virtual space, comprising: first space data at a first viewpoint position ,
It has a data format of 1 and is used to compose a billboard image.
An internal memory for storing first spatial data that is optimum spatial data, and an external memory for storing the second spatial data of the second format at the first viewpoint position, which is different from the internal memory Downloading means for downloading the second spatial data from the external memory to the internal memory to generate a virtual image at an arbitrary viewpoint position, and downloading a virtual image at the arbitrary viewpoint position. Drawing means for drawing on the basis of the first space data in the internal memory while not completing, and drawing on the basis of the second space data downloaded to the internal memory after the completion of download. An image drawing device characterized by.
【請求項9】 仮想空間に任意の視点位置での仮想画像
を描画する描画装置であって、 第1の視点位置におけるVRML形式の第1の空間デー
タを記憶する内部メモリと、 前記第1の視点位置における光線空間理論データ形式の
第2の空間データを記憶するための、前記内部メモリと
は異なる外部メモリと、 任意の視点位置での仮想画像を生成するために、前記外
部メモリから、前記第2の空間データを前記内部メモリ
にダウンロードするダウンロード手段と、 前記任意の視点位置での仮想画像を、ダウンロードが完
了しない間は前記内部メモリ内の第1の空間データに基
づいて描画し、ダウンロードの完了後は前記内部メモリ
にダウンロードされた前記第2の空間データに基づいて
描画する描画手段とを具備することを特徴とする画像描
画装置。
9. A virtual image at an arbitrary viewpoint position in a virtual space
And a first spatial data of VRML format at a first viewpoint position.
And an internal memory for storing data and a light space theoretical data format at the first viewpoint position.
The internal memory for storing second spatial data;
In order to generate virtual images at different viewpoints with different external memories,
The second spatial data from the partial memory to the internal memory
And the virtual image at the arbitrary viewpoint position are completely downloaded.
If not, the first spatial data in the internal memory is used.
Draw based on the above, and after the download is complete, the internal memory
Based on the second spatial data downloaded to
Image drawing characterized by comprising drawing means for drawing
Painting equipment.
【請求項10】 請求項1乃至請求項7のいずれかに記
載の画像描画方法をコンピュータ装置に実現させるコン
ピュータプログラムを記録したコンピュータ装置読み取
り可能な記録媒体。
10. The method according to any one of claims 1 to 7.
A computer system that realizes the image drawing method described above.
Computer device recording computer program
Recordable media.
JP24929399A 1999-09-02 1999-09-02 Image drawing method, image drawing apparatus, and storage medium Expired - Fee Related JP3486578B2 (en)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP24929399A JP3486578B2 (en) 1999-09-02 1999-09-02 Image drawing method, image drawing apparatus, and storage medium
DE60033249T DE60033249D1 (en) 1999-09-02 2000-08-30 Progressive display of target objects
EP00118747A EP1081650B1 (en) 1999-09-02 2000-08-30 Progressive Display of Target Objects
AT00118747T ATE353460T1 (en) 1999-09-02 2000-08-30 PROGRESSIVE DISPLAY OF TARGET OBJECTS
US09/653,271 US6774898B1 (en) 1999-09-02 2000-08-31 Image storage method, image rendering method, image storage apparatus, image processing apparatus, image download method, and computer and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP24929399A JP3486578B2 (en) 1999-09-02 1999-09-02 Image drawing method, image drawing apparatus, and storage medium

Publications (2)

Publication Number Publication Date
JP2001078232A JP2001078232A (en) 2001-03-23
JP3486578B2 true JP3486578B2 (en) 2004-01-13

Family

ID=17190828

Family Applications (1)

Application Number Title Priority Date Filing Date
JP24929399A Expired - Fee Related JP3486578B2 (en) 1999-09-02 1999-09-02 Image drawing method, image drawing apparatus, and storage medium

Country Status (1)

Country Link
JP (1) JP3486578B2 (en)

Also Published As

Publication number Publication date
JP2001078232A (en) 2001-03-23

Similar Documents

Publication Publication Date Title
RU2509341C2 (en) Image processing device and image processing method
US6774898B1 (en) Image storage method, image rendering method, image storage apparatus, image processing apparatus, image download method, and computer and storage medium
JP5899232B2 (en) Navigation with guidance through geographically located panoramas
JP4956375B2 (en) Image processing apparatus and image processing method
US8488040B2 (en) Mobile and server-side computational photography
AU2011331972B2 (en) Rendering and navigating photographic panoramas with depth information in a geographic information system
US8654151B2 (en) Apparatus and method for providing augmented reality using synthesized environment map
US20170257576A1 (en) Communication terminal, image management apparatus, image processing system, method for controlling display, and computer program product
US20140248950A1 (en) System and method of interaction for mobile devices
US20120127170A1 (en) Path Planning For Street Level Navigation In A Three-Dimensional Environment, And Applications Thereof
JP5234476B2 (en) Method, system and computer readable recording medium for performing image matching on panoramic images using a graph structure
JPH11122638A (en) Image processor, image processing method, and computer-readable information recording medium recorded with image processing program
KR20210076615A (en) Method and appratus for providong video infromation
CN102792266A (en) Method, system, and computer-readable recording medium for providing information on an object using a viewing frustum
JP3486579B2 (en) Space drawing method, virtual space drawing apparatus, and storage medium
JP3486578B2 (en) Image drawing method, image drawing apparatus, and storage medium
JP3486577B2 (en) Space drawing method, virtual space drawing apparatus, and storage medium
JP3433278B2 (en) Three-dimensional image display method and three-dimensional image display device used therefor
US6825837B1 (en) Space rendering method, virtual space rendering apparatus, cache device, and storage medium
JP4220793B2 (en) On-site guidance device, program, and on-site guidance method
JP3387900B2 (en) Image processing method and apparatus
KR102805512B1 (en) Method and apparatus for providing three dimensional digital twin contents in which two dimensional image associated with a specific location is disposed on a corresponding location in the three dimensional digital twin contents
JP3523847B2 (en) Moving object association system
Bourque et al. On-line construction of iconic maps
JP3392088B2 (en) Image storage method, image drawing method, image storage device, image processing device, image download method, computer, and storage medium

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20031006

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071024

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081024

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091024

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091024

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101024

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101024

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111024

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111024

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121024

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131024

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees