JP4909137B2 - Volume data processing apparatus and method - Google Patents
Volume data processing apparatus and method Download PDFInfo
- Publication number
- JP4909137B2 JP4909137B2 JP2007067454A JP2007067454A JP4909137B2 JP 4909137 B2 JP4909137 B2 JP 4909137B2 JP 2007067454 A JP2007067454 A JP 2007067454A JP 2007067454 A JP2007067454 A JP 2007067454A JP 4909137 B2 JP4909137 B2 JP 4909137B2
- Authority
- JP
- Japan
- Prior art keywords
- voxel
- volume data
- processing
- boundary
- data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Ultra Sonic Daignosis Equipment (AREA)
Description
本発明は、ボリュームデータ処理に関し、特に超音波の送受波によって得られたボリュームデータに基づいて三次元超音波画像を形成する処理に関する。 The present invention relates to volume data processing, and more particularly, to processing for forming a three-dimensional ultrasonic image based on volume data obtained by transmission and reception of ultrasonic waves.
生体内の三次元領域に対して超音波の送受波を行うことにより三次元超音波データ集合としてのボリュームデータを取得できる。ボリュームデータに対するレンダリング処理によって三次元超音波画像を形成することができる(例えば特許文献1にはボリュームレンダリング法の一手法が開示されている)。ボリュームレンダリング法では、レイ(視線)に沿ってオパシティを利用したボクセル演算が逐次的に実行される。ここで、オパシティは不透明度である。不透明度とは反対の値である透明度をボクセル演算に利用することもでき、それも実質的に見て不透明度の利用に他ならない。 Volume data as a three-dimensional ultrasonic data set can be acquired by transmitting and receiving ultrasonic waves to and from a three-dimensional region in the living body. A three-dimensional ultrasonic image can be formed by rendering processing for volume data (for example, Patent Document 1 discloses a technique for volume rendering). In the volume rendering method, voxel operations using opacity are sequentially executed along the ray (line of sight). Here, opacity is opacity. Transparency, which is the opposite of opacity, can also be used for voxel operations, which is essentially the use of opacity.
ボリュームレンダリング法を利用することにより、心臓などの臓器や胎児などを立体的に観察することが可能になる。例えば、臓器などを観察する場合において、ボリュームデータ内で臓器の境界を検出して臓器に相当するボクセルを識別し、実質的に臓器に相当するボクセルのみを対象としてボクセル演算を実行する手法が知られている。 By using the volume rendering method, it becomes possible to stereoscopically observe organs such as the heart and fetuses. For example, in the case of observing an organ or the like, a technique is known in which the boundary between organs is detected in volume data, voxels corresponding to the organ are identified, and voxel computation is performed only on voxels that substantially correspond to the organ. It has been.
ボリュームレンダリング法を利用すると、臓器の内部構造を画像に反映させることができるという利点がある。その反面、臓器の内部構造が反映されてしまうことにより、臓器の表面形状などが分かり難くなる場合もある。 Using the volume rendering method has an advantage that the internal structure of the organ can be reflected in the image. On the other hand, since the internal structure of the organ is reflected, the surface shape of the organ may be difficult to understand.
ちなみに、特許文献2には、CT画像に対する画像処理技術が記載されており、抽出した臓器について、ディプス・シェーディングにより得た陰影と実際のCT値を融合して、臓器を明確に区別できる画像を形成する技術が記載されている。 Incidentally, Patent Document 2 describes an image processing technique for a CT image, and for an extracted organ, an image that can clearly distinguish an organ by fusing a shadow obtained by depth shading and an actual CT value. The forming technique is described.
このような背景において、本願発明者らは、臓器(あるいはその内部)などの対象部位の輪郭や表面の形状が分かり易く表現される三次元画像の形成処理について研究開発を重ねてきた。 Against such a background, the inventors of the present application have conducted research and development on a process for forming a three-dimensional image in which the contour of a target part such as an organ (or the inside thereof) and the shape of the surface are easily expressed.
本発明は、その研究開発の過程において成されたものであり、その目的は、対象部位の輪郭や表面が明瞭で立体感のある三次元画像を形成することにある。 The present invention has been made in the course of research and development, and an object thereof is to form a three-dimensional image with a clear outline and surface of a target part and a three-dimensional effect.
上記目的を達成するために、本発明の好適な態様であるボリュームデータ処理装置は、生体内の三次元領域に対して超音波を送受波することにより得られたボリュームデータを処理するボリュームデータ処理装置において、ボリュームデータ内の対象部位の内部に均一化処理を施す内部処理手段と、ボリュームデータ内の対象部位と他部位との境界にグラデーション処理を施す境界処理手段と、均一化処理およびグラデーション処理が施されたボリュームデータに対して、仮想的に設定された複数のレイの各々に沿ってボリュームレンダリング処理を施すことにより、対象部位を立体的に表現した三次元画像の画像データを形成する画像形成手段と、を有することを特徴とする。 In order to achieve the above object, a volume data processing apparatus according to a preferred aspect of the present invention is a volume data processing that processes volume data obtained by transmitting and receiving ultrasonic waves to and from a three-dimensional region in a living body. In the apparatus, internal processing means for performing homogenization processing on the inside of the target part in the volume data, boundary processing means for performing gradation processing on the boundary between the target part and other part in the volume data, and homogenization processing and gradation processing An image that forms image data of a three-dimensional image that three-dimensionally represents a target portion by performing volume rendering processing along each of a plurality of virtually set rays for the volume data subjected to Forming means.
上記態様において、対象部位は生体内の部分であり、臓器や胎児などはもちろん、臓器の内部(空洞部分)なども含まれる。つまり、心臓の内部である心腔なども対象部位に含まれる。上記態様によれば、対象部位の内部に均一化処理が施されるため、対象部位の内部構造などが三次元画像上に強く反映されてしまうことがない。また、対象部位と他部位との境界にグラデーション処理が施されるため、三次元画像内における対象部位の立体感などが強調される。 In the above aspect, the target site is a part in the living body, and includes not only an organ or a fetus but also the inside (cavity part) of the organ. In other words, the heart chamber inside the heart is also included in the target region. According to the above aspect, since the homogenization process is performed inside the target part, the internal structure of the target part is not strongly reflected on the three-dimensional image. In addition, since gradation processing is performed on the boundary between the target part and the other part, the stereoscopic effect of the target part in the three-dimensional image is emphasized.
望ましい態様において、前記内部処理手段は、前記均一化処理として、ボリュームデータを構成する複数のボクセルデータのうち、対象部位の内部に相当する複数の内部ボクセルデータを実質的に一様なボクセル値とする処理を実行することを特徴とする。望ましい態様において、前記境界処理手段は、前記グラデーション処理として、ボリュームデータを構成する複数のボクセルデータのうち、対象部位と他部位との境界に相当する複数の境界ボクセルデータのボクセル値を対象部位の外側に向かって段階的に変化させる処理を実行することを特徴とする。 In a desirable mode, the internal processing means, as the equalization processing, among the plurality of voxel data constituting the volume data, a plurality of internal voxel data corresponding to the inside of the target portion is converted into a substantially uniform voxel value. The process which performs is performed. In a preferred aspect, the boundary processing means uses the voxel values of the plurality of boundary voxel data corresponding to the boundary between the target part and the other part among the plurality of voxel data constituting the volume data as the gradation process. It is characterized in that processing that changes stepwise toward the outside is executed.
望ましい態様において、前記境界処理手段は、注目ボクセルデータの近傍に存在する複数のボクセルデータの中に対象部位に相当するボクセルデータと他部位に相当するボクセルデータが共に含まれる場合に当該注目ボクセルデータを前記境界ボクセルデータであると判定することを特徴とする。望ましい態様において、前記境界処理手段は、前記境界ボクセルデータであると判定された注目ボクセルデータとその周囲に存在する複数のボクセルデータに基づいて、当該注目ボクセルデータの前記グラデーション処理後のボクセル値を決定することを特徴とする。 In a preferred aspect, the boundary processing unit is configured to receive the target voxel data when a plurality of voxel data existing in the vicinity of the target voxel data includes both voxel data corresponding to the target part and voxel data corresponding to another part. Is determined to be the boundary voxel data. In a preferred aspect, the boundary processing means calculates the voxel value after the gradation processing of the target voxel data based on the target voxel data determined to be the boundary voxel data and a plurality of voxel data existing around the target voxel data. It is characterized by determining.
また上記目的を達成するために、本発明の好適な態様であるボリュームデータ処理方法は、生体内の三次元領域に対して超音波を送受波することにより得られたボリュームデータを処理するボリュームデータ処理方法において、ボリュームデータ内の対象部位の内部に均一化処理を施す内部処理工程と、ボリュームデータ内の対象部位と他部位との境界にグラデーション処理を施す境界処理工程と、均一化処理およびグラデーション処理が施されたボリュームデータに対して、仮想的に設定された複数のレイの各々に沿ってボリュームレンダリング処理を施すことにより、対象部位を立体的に表現した三次元画像の画像データを形成する画像形成工程と、を含むことを特徴とする。 In order to achieve the above object, a volume data processing method according to a preferred aspect of the present invention is a volume data processing volume data obtained by transmitting and receiving ultrasonic waves to a three-dimensional region in a living body. In the processing method, an internal processing step for applying homogenization processing to the inside of the target portion in the volume data, a boundary processing step for applying gradation processing to the boundary between the target portion and other portion in the volume data, and the homogenization processing and gradation The volume data subjected to the processing is subjected to volume rendering processing along each of a plurality of virtually set rays, thereby forming image data of a three-dimensional image that three-dimensionally represents the target portion. And an image forming step.
上記態様のボリュームデータ処理方法は、例えば超音波診断装置やコンピュータが実行する。コンピュータが実行する場合には、例えば、上記ボリュームデータ処理方法の各工程をコンピュータに実行させるためのプログラムが利用される。そして、例えば、コンピュータが当該プログラムを読み取ることによりコンピュータが上記ボリュームデータ処理方法を実行する。 The volume data processing method of the above aspect is executed by, for example, an ultrasonic diagnostic apparatus or a computer. When executed by a computer, for example, a program for causing the computer to execute each step of the volume data processing method is used. For example, when the computer reads the program, the computer executes the volume data processing method.
本発明により、対象部位の輪郭や表面が明瞭で立体感のある三次元画像を形成することが可能になる。 According to the present invention, it is possible to form a three-dimensional image with a clear three-dimensional effect with a clear outline and surface of a target part.
以下、本発明の好適な実施形態を図面に基づいて説明する。 DESCRIPTION OF EXEMPLARY EMBODIMENTS Hereinafter, preferred embodiments of the invention will be described with reference to the drawings.
図1には、本発明に係る好適な実施形態が示されており、図1は、本発明に係るボリュームデータ処理の機能を備えた超音波診断装置の全体構成を示すブロック図である。 FIG. 1 shows a preferred embodiment according to the present invention, and FIG. 1 is a block diagram showing the entire configuration of an ultrasonic diagnostic apparatus having a volume data processing function according to the present invention.
3Dプローブ20は、本実施形態において2Dアレイ振動子を有している。2Dアレイ振動子は二次元配列された複数の振動素子によって構成されるものである。2Dアレイ振動子によって超音波ビームが形成され、その超音波ビームは二次元走査される。これによって生体内に三次元空間(三次元エコーデータ取込空間)が形成される。ここでは当該空間はr座標、θ座標及びφ座標によって定義される空間である。三次元空間の形状としては様々なものを上げることができ、例えば立方体形状、角錐形状等をあげることができる。3Dプローブ20に2Dアレイ振動子を設ける代わりに、1Dアレイ振動子とそれを機械的に走査する機構とを設けるようにしてもよい。 The 3D probe 20 has a 2D array transducer in this embodiment. The 2D array transducer is constituted by a plurality of vibration elements arranged two-dimensionally. An ultrasonic beam is formed by the 2D array transducer, and the ultrasonic beam is two-dimensionally scanned. As a result, a three-dimensional space (three-dimensional echo data capturing space) is formed in the living body. Here, the space is a space defined by r coordinate, θ coordinate, and φ coordinate. Various shapes can be raised as the shape of the three-dimensional space, such as a cubic shape and a pyramid shape. Instead of providing the 2D array transducer in the 3D probe 20, a 1D array transducer and a mechanism for mechanically scanning the 1D array transducer may be provided.
送受信部22は送信ビームフォーマー及び受信ビームフォーマーとして機能する。送受信部22は送信時において複数の送信信号を2Dアレイ振動子に供給する。これによって送信ビームが形成される。生体内からの反射波は複数の振動素子にて受波され、これによって2Dアレイ振動子から複数の受信信号が送受信部22に出力される。送受信部22では複数の受信信号に対する整相加算処理を行って、これにより電子的に受信ビームを形成、整相加算後の受信信号を出力する。 The transmission / reception unit 22 functions as a transmission beam former and a reception beam former. The transmission / reception unit 22 supplies a plurality of transmission signals to the 2D array transducer during transmission. As a result, a transmission beam is formed. Reflected waves from within the living body are received by a plurality of vibration elements, whereby a plurality of received signals are output from the 2D array transducer to the transmitting / receiving unit 22. The transmission / reception unit 22 performs phasing addition processing on a plurality of reception signals, thereby forming a reception beam electronically and outputting the reception signal after phasing addition.
その受信信号すなわちビームデータは座標変換部24に出力されている。この座標変換部24はデータ再構成によって三次元データ空間を構成するモジュールであり、例えばrθφ座標系をxyz座標系に変換する処理を実行する。必要に応じて、座標変換部24には3Dメモリが設けられる。ちなみに、座標変換を行うことなく、振動子側を固定視点としてビームデータに沿ってリアルタイムにボクセル演算を実行させることも可能である。 The received signal, that is, beam data is output to the coordinate conversion unit 24. The coordinate conversion unit 24 is a module that configures a three-dimensional data space by data reconstruction, and executes, for example, processing for converting an rθφ coordinate system to an xyz coordinate system. If necessary, the coordinate conversion unit 24 is provided with a 3D memory. Incidentally, it is also possible to execute the voxel calculation in real time along the beam data with the transducer side as a fixed viewpoint without performing coordinate conversion.
断層画像形成部28は、三次元空間に対して設定された任意の断面あるいは所定の断面について断層画像を形成するモジュールである。その場合においては座標変換部24から出力されるデータが利用されている。断層画像を表す画像データは表示処理部30を介して表示部32に送られ、表示部32においては必要に応じて断層画像が表示されることになる。断層画像に相当する断面の位置は三次元空間内においてユーザーにより可変設定することが可能であり、そのような操作は後に説明する操作パネル36への入力によって行われる。 The tomographic image forming unit 28 is a module that forms a tomographic image of an arbitrary cross section set for a three-dimensional space or a predetermined cross section. In that case, data output from the coordinate conversion unit 24 is used. The image data representing the tomographic image is sent to the display unit 32 via the display processing unit 30, and the tomographic image is displayed on the display unit 32 as necessary. The position of the cross section corresponding to the tomographic image can be variably set by the user in the three-dimensional space, and such an operation is performed by input to the operation panel 36 described later.
3D画像形成部26は、座標変換後のボリュームデータに基づいてそのボリュームデータに対してボリュームレンダリング処理を適用し、その結果として三次元画像を形成するモジュールである。形成された三次元画像の画像データは表示処理部30を介して表示部32に送られ、表示部32には三次元画像が表示される。3D画像形成部26は、具体的には、ユーザーにより設定された視点から伸びる複数のレイを設定し、その一方において、ユーザーにより設定された関心領域内において各レイに沿ってボクセル演算を順次実行する。 The 3D image forming unit 26 is a module that applies volume rendering processing to the volume data based on the volume data after coordinate conversion, and forms a three-dimensional image as a result. The image data of the formed three-dimensional image is sent to the display unit 32 via the display processing unit 30, and the three-dimensional image is displayed on the display unit 32. Specifically, the 3D image forming unit 26 sets a plurality of rays extending from the viewpoint set by the user, and sequentially executes voxel calculation along each ray in the region of interest set by the user. To do.
3D画像形成部26における画像処理機能は、内部処理部262、境界処理部264、ボクセル演算部266に分けて説明することができる。内部処理部262はボリュームデータ内の対象部位の内部に均一化処理を施し、境界処理部264はボリュームデータ内の対象部位と他部位との境界にグラデーション処理を施す。そして、ボクセル演算部266は、均一化処理およびグラデーション処理が施されたボリュームデータに対してボリュームレンダリング処理を施すことにより、対象部位を立体的に表現した三次元画像の画像データを形成する。 The image processing function in the 3D image forming unit 26 can be described by being divided into an internal processing unit 262, a boundary processing unit 264, and a voxel computing unit 266. The internal processing unit 262 performs equalization processing on the inside of the target part in the volume data, and the boundary processing unit 264 performs gradation processing on the boundary between the target part and other part in the volume data. Then, the voxel computing unit 266 performs volume rendering processing on the volume data that has been subjected to equalization processing and gradation processing, thereby forming image data of a three-dimensional image that three-dimensionally represents the target portion.
ちなみに、3D画像形成部26は、CPU上で実行されるプログラムの機能として実現可能であり、また後述する制御部34もCPU上で実行される制御プログラムの機能として実現することが可能である。 Incidentally, the 3D image forming unit 26 can be realized as a function of a program executed on the CPU, and a control unit 34 described later can also be realized as a function of a control program executed on the CPU.
制御部34は、図1に示される各構成(各部)の動作制御を行っており、その制御部34には操作パネル36が接続されている。操作パネル36はキーボードやトラックボールを含んでおり、ユーザーは操作パネル36を利用して断層画像を形成する断面の位置の設定、関心領域の設定、オパシティカーブ(オパシティ決定関数)の選択等を行える。 The control unit 34 controls the operation of each component (each unit) shown in FIG. 1, and an operation panel 36 is connected to the control unit 34. The operation panel 36 includes a keyboard and a trackball, and the user can use the operation panel 36 to set a position of a cross section for forming a tomographic image, set a region of interest, select an opacity curve (opacity determination function), and the like. .
図2は、図1の超音波診断装置の動作を説明するためのフローチャートであり、特に3D画像形成部26の動作が示されている。図2に示される処理は各レイごとに実行されるものである。 FIG. 2 is a flowchart for explaining the operation of the ultrasonic diagnostic apparatus in FIG. 1, and particularly shows the operation of the 3D image forming unit 26. The processing shown in FIG. 2 is executed for each ray.
S101では、演算対象となるレイ上に存在する注目ボクセルが対象部位の内部に存在するか否かが判断される。対象部位は生体内の部分であり、臓器や胎児などはもちろん、臓器の内部なども含まれる。本実施形態では、心臓の内部である心腔を対象部位として説明する。 In S101, it is determined whether or not the target voxel existing on the ray to be calculated exists inside the target part. The target part is a part in the living body, and includes not only an organ or a fetus but also the inside of the organ. In the present embodiment, a heart cavity inside the heart will be described as a target site.
図3は、心腔12を含むボリュームデータ10を説明するための図である。図3において、ボリュームデータ10は、三次元的に格子状に並べられた複数のボクセル18によって埋め尽くされている。一般的に心腔12は、それを取り囲む心筋14などに比べてエコーレベル(ボクセル18のボクセル値あるいはエコー値)が小さい。このため、ボリュームデータ10内の各ボクセル18に対して二値化処理などを施すことにより、心腔12に対応したボクセル18を抽出することができる。例えば、心筋14に相当するレベルよりも小さく、且つ、心腔12に相当するレベルよりも大きい閾値を設定することで、閾値に基づいて心筋14と心腔12を大別することができる。 FIG. 3 is a diagram for explaining the volume data 10 including the heart chamber 12. In FIG. 3, the volume data 10 is filled with a plurality of voxels 18 arranged in a three-dimensional lattice pattern. In general, the heart chamber 12 has a lower echo level (voxel value or echo value of the voxel 18) than the surrounding myocardium 14 or the like. Therefore, the voxel 18 corresponding to the heart chamber 12 can be extracted by performing binarization processing or the like on each voxel 18 in the volume data 10. For example, by setting a threshold value smaller than the level corresponding to the myocardium 14 and larger than the level corresponding to the heart chamber 12, the myocardium 14 and the heart chamber 12 can be roughly classified based on the threshold value.
なお、単純な二値化処理のみではなく、例えば、3×3の9個のボクセル18からなるウィンドウを設け、ウィンドウを構成する各ボクセル18を二値化処理によって閾値以上のボクセル18と閾値未満のボクセル18とに分別し、ウィンドウ内の9個のボクセル18の分別結果に基づいて、ウィンドウの中心に位置する注目ボクセルが心筋に相当するか心腔に相当するかを判断してもよい。 In addition to simple binarization processing, for example, a window composed of nine 3 × 3 voxels 18 is provided, and each voxel 18 constituting the window is binarized to a voxel 18 that is equal to or greater than a threshold and less than the threshold. Based on the result of the classification of the nine voxels 18 in the window, it may be determined whether the target voxel positioned at the center of the window corresponds to the myocardium or the heart chamber.
図2に戻り、注目ボクセルが対象部位の内部、つまり心腔(図3の符号12)であると判定されると、S102において、内部処理部(図1の符号262)は、その注目ボクセルのエコー値(ボクセル値)を所定値に設定する。この場合において、所定値は例えば127である。また、注目ボクセルが対象部位の内部ではない、つまり心筋(図3の符号14)であると判定されると、S105において、その注目ボクセルのエコー値(ボクセル値)が0(ゼロ)に設定される。 Returning to FIG. 2, when it is determined that the target voxel is inside the target region, that is, the heart chamber (reference numeral 12 in FIG. 3), in S102, the internal processing unit (reference numeral 262 in FIG. 1) The echo value (voxel value) is set to a predetermined value. In this case, the predetermined value is 127, for example. If it is determined that the target voxel is not inside the target region, that is, the myocardium (reference numeral 14 in FIG. 3), the echo value (voxel value) of the target voxel is set to 0 (zero) in S105. The
こうして、内部処理部によって均一化処理が施されると、S103において、境界処理部(図1の符号264)は、注目ボクセルが心腔と心筋の境界近傍か否かを判断する。さらに、境界処理部は、S104において、境界近傍と判断されたボクセルに対して濃淡処理を実行する。 Thus, when the equalization processing is performed by the internal processing unit, in S103, the boundary processing unit (reference numeral 264 in FIG. 1) determines whether or not the target voxel is near the boundary between the heart chamber and the myocardium. Further, the boundary processing unit executes the light / dark process for the voxels determined to be near the boundary in S104.
図4は、境界処理部による境界近傍の認識処理を説明するための図である。図4は、ボリュームデータ(図3の符号10)内の注目ボクセルの近傍を抽出したものであり、図4において、注目ボクセルは座標(x,y,z)に存在する。境界処理部は、注目ボクセルの近傍に存在する複数のボクセルの中に、心腔に相当するボクセルと心筋に相当するボクセルが共に含まれる場合に、その注目ボクセルを境界近傍であると判定する。 FIG. 4 is a diagram for explaining recognition processing in the vicinity of the boundary by the boundary processing unit. FIG. 4 shows the vicinity of the target voxel in the volume data (reference numeral 10 in FIG. 3). In FIG. 4, the target voxel exists at the coordinates (x, y, z). The boundary processing unit determines that the target voxel is in the vicinity of the boundary when both the voxel corresponding to the heart chamber and the voxel corresponding to the myocardium are included in the plurality of voxels existing in the vicinity of the target voxel.
境界処理部は、例えば、注目ボクセル(x,y,z)の近傍に存在する4点のボクセル、つまり、座標(x−1,y−1,z−1),(x+2,y−1,z+2),(x+2,y+2,z−1),(x−1,y+2,z+2)に存在する4点のボクセルを参照する。そして、4点全てが心筋に相当する場合に注目ボクセルを心筋であると判定し、4点のうちの1点から3点が心腔に相当する場合に注目ボクセルを境界近傍であると判定し、4点全てが心腔に相当する場合に注目ボクセルを心腔であると判定する。 The boundary processing unit is, for example, four voxels existing in the vicinity of the target voxel (x, y, z), that is, coordinates (x-1, y-1, z-1), (x + 2, y-1, Reference is made to four voxels existing in (z + 2), (x + 2, y + 2, z-1), (x-1, y + 2, z + 2). When all four points correspond to the myocardium, the target voxel is determined to be the myocardium, and when one to three of the four points correspond to the heart chamber, the target voxel is determined to be near the boundary. If all four points correspond to the heart chamber, the target voxel is determined to be the heart chamber.
図5および図6は、境界処理部による濃淡処理を説明するための図である。図5および図6は、各々、図4と同様に、ボリュームデータ(図3の符号10)内の注目ボクセルの近傍を抽出したものである。境界処理部は、境界近傍であると判定された注目ボクセルとその周囲に存在する複数のボクセルに基づいて、その注目ボクセルの濃淡処理(グラデーション処理)後のボクセル値を決定する。 5 and 6 are diagrams for explaining the density processing by the boundary processing unit. FIG. 5 and FIG. 6 respectively show the vicinity of the target voxel in the volume data (reference numeral 10 in FIG. 3) as in FIG. The boundary processing unit determines a voxel value after gradation processing (gradation processing) of the target voxel based on the target voxel determined to be near the boundary and a plurality of voxels existing around the target voxel.
境界処理部は、まず、図5に示すように、座標(x,y,z)に存在する注目ボクセルと、その周囲の座標(x+1,y−1,z−1)〜(x−1,y+1,z+1)の8点のボクセルとからなる合計9点のボクセルを利用する。利用される各点のボクセルは、内部処理部(図1の符号262)によって、心腔に相当するボクセルである場合にエコー値が127に設定されており、心筋に相当するボクセルである場合にエコー値が0(ゼロ)に設定されている。この状態で、境界処理部は、9点のボクセルに関するエコー値の平均値を算出し、算出された平均値を注目ボクセルのエコー値とする平均化処理を実行する。 First, as shown in FIG. 5, the boundary processing unit, the target voxel existing at the coordinates (x, y, z) and the surrounding coordinates (x + 1, y−1, z−1) to (x−1, A total of 9 voxels comprising 8 voxels of y + 1, z + 1) are used. When the voxel at each point used is a voxel corresponding to the heart chamber by the internal processing unit (reference numeral 262 in FIG. 1), the echo value is set to 127, and the voxel corresponding to the myocardium is used. The echo value is set to 0 (zero). In this state, the boundary processing unit calculates an average value of the echo values related to the nine voxels, and executes an averaging process using the calculated average value as the echo value of the target voxel.
さらに、境界処理部は、座標(x,y,z)に存在する注目ボクセルに加えて、図6に示す他の7つの座標に存在するボクセルの各々について、図5を利用して説明した注目ボクセルの場合と同様な平均化処理を実行する。こうして、図6に示す8つの座標(x,y,z),(x+1,y,z),(x+1,y,z+1),・・・に存在する合計8点のボクセルのエコー値(平均化処理後のエコー値)が算出される。そして、境界処理部は、これら8点のボクセルのエコー値に基づいて補間処理を実行して、座標(x,y,z)に存在する注目ボクセルのエコー値(濃淡処理後のエコー値)を決定する。例えば、図6に示す8点のボクセルのエコー値(平均化処理後のエコー値)の平均値を算出して、8点のボクセルに関する平均値を注目ボクセルのエコー値(濃淡処理後のエコー値)とする。 Further, the boundary processing unit uses the attention described with reference to FIG. 5 for each of the voxels existing at the other seven coordinates shown in FIG. 6 in addition to the attention voxel existing at the coordinates (x, y, z). The same averaging process as in the case of voxels is performed. Thus, a total of eight voxel echo values (averaged) existing in the eight coordinates (x, y, z), (x + 1, y, z), (x + 1, y, z + 1),. Echo value after processing) is calculated. Then, the boundary processing unit executes an interpolation process based on the echo values of these eight voxels, and obtains the echo value of the target voxel existing at the coordinates (x, y, z) (echo value after the density process). decide. For example, the average value of the eight voxels shown in FIG. 6 (the echo value after the averaging process) is calculated, and the average value for the eight voxels is calculated as the echo value of the target voxel (the echo value after the density process). ).
上述した図6における境界処理部の濃淡処理では、注目ボクセルの周囲にある8点のボクセルのエコー値に基づいて補間処理を実行する注目ボクセルに濃淡処理を施しているが、濃淡処理の対象を注目ボクセルの代わりにレイ上のサンプル点としてもよい。 In the shading processing of the boundary processing unit in FIG. 6 described above, the shading processing is performed on the target voxel that performs the interpolation processing based on the echo values of the eight voxels around the target voxel. Sample points on the ray may be used instead of the target voxel.
ボリュームレンダリング処理では、一般的にレイは任意の方向に設定できることを前提としており、必ずしもレイ上に設定されたサンプル点の座標と、ボクセルの座標とが一致するとは限らない。このため、サンプル点のエコー値は、サンプル点の周囲のボクセルのエコー値に基づく補間処理によって設定される。 In the volume rendering process, it is generally assumed that the ray can be set in an arbitrary direction, and the coordinates of the sample points set on the ray do not always match the coordinates of the voxel. For this reason, the echo value of the sample point is set by an interpolation process based on the echo values of voxels around the sample point.
サンプル点への濃淡処理の具体的手法であるが、図4に示された境界近傍の認識処理において、注目ボクセルが境界近傍に位置するか否かが判定されるが、この際に注目ボクセルとサンプル点の座標を調べることによって、サンプル点が境界近傍の注目ボクセルとその近傍に存在する複数のボクセルの中に含まれるか否か、すなわち境界近傍のサンプル点であるか否かが判断される。 This is a specific method of shading processing on sample points. In the recognition processing near the boundary shown in FIG. 4, it is determined whether or not the target voxel is positioned in the vicinity of the boundary. By examining the coordinates of the sample point, it is determined whether the sample point is included in the target voxel near the boundary and a plurality of voxels existing in the vicinity, that is, whether the sample point is a sample point near the boundary. .
次に図5に示される第1の濃淡処理によって、境界近傍の注目ボクセルについてその近傍に存在する8点のボクセルを利用した平均化処理を実行した後、第2の濃淡処理として、境界近傍のサンプル点に対し、周囲にある8点のボクセルのエコー値に基づいて補間処理(平均化処理)を実行し、このサンプル点のエコー値を決定する。上記補間処理においては、サンプル点と各ボクセルとの距離に応じ、各ボクセルのエコー値に重み付けを施した平均化処理が行われる。 Next, after performing the averaging process using the eight voxels existing in the vicinity of the target voxel in the vicinity by the first gradation process shown in FIG. 5, as the second gradation process, Interpolation processing (averaging processing) is performed on the sample points based on the echo values of the eight neighboring voxels, and the echo values at the sample points are determined. In the interpolation process, an averaging process is performed in which the echo value of each voxel is weighted according to the distance between the sample point and each voxel.
この手法によれば、レイの方向に基づいて濃淡処理を実行できるため、信頼性の高い対象部位の三次元画像を得ることができる。 According to this method, since the shading process can be executed based on the ray direction, a highly reliable three-dimensional image of the target part can be obtained.
図5および図6を利用して説明した濃淡処理は、図2のフローチャートが繰り返し実行されることにより、各レイ上においてレイに沿って注目ボクセルを進めながら実行される。その結果、境界近傍と判定された複数のボクセルのエコー値が、心腔の外側に向かって段階的に変化するように濃淡処理が施される。なお、図5および図6を利用して説明した濃淡処理に換えて、例えば、心腔の表面からの距離に応じてエコー値を決定するテーブルを予め設定しておき、そのテーブルを利用して、心腔の外側に向かってボクセルのエコー値が段階的に変化するように濃淡処理を施してもよい。 The shading process described with reference to FIGS. 5 and 6 is performed while the attention voxel is advanced along the ray on each ray by repeatedly executing the flowchart of FIG. 2. As a result, shading processing is performed so that the echo values of a plurality of voxels determined to be near the boundary change stepwise toward the outside of the heart chamber. In place of the shading process described with reference to FIGS. 5 and 6, for example, a table for determining an echo value according to the distance from the surface of the heart chamber is set in advance, and the table is used. The shading process may be performed so that the echo value of the voxel changes stepwise toward the outside of the heart chamber.
図2に戻り、S103において、境界近傍の認識処理(図4参照)により、注目ボクセルが境界近傍であると判断されると、S104において、その注目ボクセルに対して濃淡処理(図5および図6参照)が実行される。一方、S103において、注目ボクセルが境界近傍ではないと判断された場合には濃淡処理が実行されない。濃淡処理が実行されない場合には、注目ボクセルが心腔であればエコー値が127のままであり、注目ボクセルが心筋であればエコー値が0のまま維持される。 Returning to FIG. 2, if it is determined in S103 that the target voxel is in the vicinity of the boundary by the boundary vicinity recognition process (see FIG. 4), in S104, the density process (FIGS. Is executed. On the other hand, if it is determined in S103 that the target voxel is not near the boundary, the shading process is not executed. When the density process is not executed, the echo value remains 127 if the target voxel is the heart chamber, and the echo value remains 0 if the target voxel is the myocardium.
次に、S106およびS107において、ボクセル演算部(図1の符号266)は、ボクセル演算を実行する。ボクセル演算にあたっては各ボクセルごとにオパシティ(不透明度)が決定されるが、その場合においてはエコー値に基づいて各ボクセルごとにオパシティが決定される。例えば、予め用意されているオパシティテーブルを参照することにより、注目ボクセルのエコー値に応じたオパシティが決定される。 Next, in S106 and S107, the voxel calculation unit (reference numeral 266 in FIG. 1) executes the voxel calculation. In the voxel calculation, the opacity (opacity) is determined for each voxel. In this case, the opacity is determined for each voxel based on the echo value. For example, the opacity corresponding to the echo value of the target voxel is determined by referring to an opacity table prepared in advance.
S106では、注目ボクセルに対応したオパシティに対して、1から前回のオパシティ積算値を引いた値を乗算することにより、オパシティ積算値が算出される。そして、S107においては、注目ボクセルに対応したオパシティとエコー値を利用して、図示されるような演算を実行することにより輝度積算値が求められる。なお、図2のS106およびS107に示される各演算式はあくまでも例示に過ぎず、これらの式以外の式を用いてボクセル演算が実行されてもよい。 In S106, the opacity integrated value is calculated by multiplying the opacity corresponding to the target voxel by the value obtained by subtracting the previous opacity integrated value from 1. In S107, the luminance integrated value is obtained by executing the calculation as shown in the drawing using the opacity and echo value corresponding to the target voxel. Note that the arithmetic expressions shown in S106 and S107 in FIG. 2 are merely examples, and voxel arithmetic may be executed using expressions other than these expressions.
S108では最後のステップに到達したか否かが判断され、到達していない場合には、S109においてレイに沿って注目ボクセルが1ステップだけ進められて、S101からの各工程が繰り返される。到達している場合にはこの処理が終了する。処理の終了時点での輝度積算値が画素値に相当し、それが当該レイに対応付けられた画素にマッピングされる。図2に示す各レイに関する処理を全てのレイについて実行することにより、各レイについて求められた画素値が仮想的なスクリーン上にマッピングされ、そのスクリーン上に三次元画像が形成される。 In S108, it is determined whether or not the final step has been reached. If the final step has not been reached, the target voxel is advanced by one step along the ray in S109, and each step from S101 is repeated. If it has been reached, this process ends. The integrated luminance value at the end of the process corresponds to a pixel value, which is mapped to a pixel associated with the ray. By executing the processing for each ray shown in FIG. 2 for all the rays, the pixel values obtained for each ray are mapped on a virtual screen, and a three-dimensional image is formed on the screen.
図7は、本実施形態による画像例と比較画像例を示す図である。図7の(A)は、比較画像例であり、本実施形態による均一化処理とグラデーション処理を施していない場合の画像例である。図7(A)において、符号50Aで示される画像が心腔を映し出した三次元画像である。また、その心腔に関する直交3断面が符号52A,54A,56Aで示される画像である。 FIG. 7 is a diagram illustrating an image example and a comparative image example according to the present embodiment. FIG. 7A is an example of a comparative image, which is an example of an image when the equalization processing and gradation processing according to the present embodiment are not performed. In FIG. 7A, the image indicated by reference numeral 50A is a three-dimensional image that reflects the heart chamber. Further, three orthogonal cross sections regarding the heart cavity are images indicated by reference numerals 52A, 54A, and 56A.
一方、図7(B)は、本実施形態の画像例であり、本実施形態による均一化処理とグラデーション処理を施した場合の画像例である。図7(B)において、符号50Bで示される画像が心腔を映し出した三次元画像である。また、その心腔に関する直交3断面が符号52B,54B,56Bで示される画像である。三次元画像50Bは3D画像形成部(図1の符号26)によって形成され、直交3断面52B,54B,56Bは断層画像形成部28によって形成される。 On the other hand, FIG. 7B is an image example of the present embodiment, and is an image example when the equalization processing and gradation processing according to the present embodiment are performed. In FIG. 7B, the image indicated by reference numeral 50B is a three-dimensional image that reflects the heart chamber. Further, three orthogonal cross sections regarding the heart cavity are images indicated by reference numerals 52B, 54B, and 56B. The three-dimensional image 50B is formed by the 3D image forming unit (reference numeral 26 in FIG. 1), and the orthogonal three cross sections 52B, 54B, and 56B are formed by the tomographic image forming unit 28.
図7(A)の三次元画像50A内に映し出される心腔の画像には、その表面に心腔の内部構造が反映されてしまい、心腔の表面形状(境界の形状)が分かり難い。これに対し、図7(B)の三次元画像50B内に映し出される心腔の画像には、均一化処理が施されるため、心腔の内部構造などが画像上に強く反映されていない。また、心腔と心筋の境界に濃淡処理(グラデーション処理)が施されるため、三次元画像内における心腔の立体感などが強調されている。このように、本実施形態によれば、対象部位の輪郭や表面が明瞭で立体感のある三次元画像を形成することが可能になる。 The internal structure of the heart chamber is reflected on the surface of the image of the heart chamber displayed in the three-dimensional image 50A in FIG. 7A, and the surface shape (boundary shape) of the heart chamber is difficult to understand. On the other hand, since the image of the heart chamber displayed in the three-dimensional image 50B in FIG. 7B is subjected to a homogenization process, the internal structure of the heart chamber is not strongly reflected on the image. In addition, since gradation processing (gradation processing) is performed on the boundary between the heart chamber and the myocardium, the three-dimensional feeling of the heart chamber in the three-dimensional image is emphasized. Thus, according to the present embodiment, it is possible to form a three-dimensional image having a clear three-dimensional effect with a clear outline and surface of the target part.
以上、本発明の好適な実施形態を説明したが、上述した実施形態は、あらゆる点で単なる例示にすぎず、本発明の範囲を限定するものではない。本発明は、その本質を逸脱しない範囲で各種の変形形態を包含する。 As mentioned above, although preferred embodiment of this invention was described, embodiment mentioned above is only a mere illustration in all the points, and does not limit the scope of the present invention. The present invention includes various modifications without departing from the essence thereof.
20 3Dプローブ、22 送受信部、26 3D画像形成部、262 内部処理部、264 境界処理部、266 ボクセル演算部。 20 3D probe, 22 transmitting / receiving unit, 26 3D image forming unit, 262 internal processing unit, 264 boundary processing unit, 266 voxel computing unit.
Claims (6)
ボリュームデータ内の対象部位の内部に均一化処理を施す内部処理手段と、
ボリュームデータ内の対象部位と他部位との境界にグラデーション処理を施す境界処理手段と、
均一化処理およびグラデーション処理が施されたボリュームデータに対して、仮想的に設定された複数のレイの各々に沿ってボリュームレンダリング処理を施すことにより、対象部位を立体的に表現した三次元画像の画像データを形成する画像形成手段と、
を有する、
ことを特徴とするボリュームデータ処理装置。 In a volume data processing apparatus that processes volume data obtained by transmitting and receiving ultrasonic waves to and from a three-dimensional region in a living body,
Internal processing means for performing equalization processing on the inside of the target portion in the volume data;
Boundary processing means for performing gradation processing on the boundary between the target part and other part in the volume data;
A volume rendering process is performed along each of a plurality of virtually set rays for the volume data that has been subjected to the homogenization process and the gradation process, thereby generating a three-dimensional image representing the target part in a three-dimensional manner. Image forming means for forming image data;
Having
A volume data processing apparatus.
前記内部処理手段は、前記均一化処理として、ボリュームデータを構成する複数のボクセルデータのうち、対象部位の内部に相当する複数の内部ボクセルデータを実質的に一様なボクセル値とする処理を実行する、
ことを特徴とするボリュームデータ処理装置。 The volume data processing device according to claim 1,
The internal processing means executes, as the equalization process, a process of making a plurality of internal voxel data corresponding to the inside of the target part out of a plurality of voxel data constituting volume data substantially uniform voxel values. To
A volume data processing apparatus.
前記境界処理手段は、前記グラデーション処理として、ボリュームデータを構成する複数のボクセルデータのうち、対象部位と他部位との境界に相当する複数の境界ボクセルデータのボクセル値を対象部位の外側に向かって段階的に変化させる処理を実行する、
ことを特徴とするボリュームデータ処理装置。 The volume data processing device according to claim 1,
The boundary processing means, as the gradation process, sets the voxel values of a plurality of boundary voxel data corresponding to the boundary between the target part and the other part among the plurality of voxel data constituting the volume data toward the outside of the target part. Execute a process that changes in stages,
A volume data processing apparatus.
前記境界処理手段は、注目ボクセルデータの近傍に存在する複数のボクセルデータの中に対象部位に相当するボクセルデータと他部位に相当するボクセルデータが共に含まれる場合に当該注目ボクセルデータを前記境界ボクセルデータであると判定する、
ことを特徴とするボリュームデータ処理装置。 In the volume data processing device according to claim 3,
The boundary processing means, when the voxel data corresponding to the target part and the voxel data corresponding to another part are included in the plurality of voxel data existing in the vicinity of the target voxel data, It is determined to be data,
A volume data processing apparatus.
前記境界処理手段は、前記境界ボクセルデータであると判定された注目ボクセルデータとその周囲に存在する複数のボクセルデータに基づいて、当該注目ボクセルデータの前記グラデーション処理後のボクセル値を決定する、
ことを特徴とするボリュームデータ処理装置。 The volume data processing device according to claim 4,
The boundary processing means determines the voxel value after the gradation processing of the target voxel data based on the target voxel data determined to be the boundary voxel data and a plurality of voxel data existing therearound.
A volume data processing apparatus.
ボリュームデータ内の対象部位の内部に均一化処理を施す内部処理工程と、
ボリュームデータ内の対象部位と他部位との境界にグラデーション処理を施す境界処理工程と、
均一化処理およびグラデーション処理が施されたボリュームデータに対して、仮想的に設定された複数のレイの各々に沿ってボリュームレンダリング処理を施すことにより、対象部位を立体的に表現した三次元画像の画像データを形成する画像形成工程と、
を含む、
ことを特徴とするボリュームデータ処理方法。 In a volume data processing method for processing volume data obtained by transmitting and receiving ultrasonic waves to a three-dimensional region in a living body,
An internal processing step for performing a homogenization process on the inside of the target part in the volume data;
A boundary processing step for performing gradation processing on the boundary between the target part and the other part in the volume data;
A volume rendering process is performed along each of a plurality of virtually set rays for the volume data that has been subjected to the homogenization process and the gradation process, thereby generating a three-dimensional image representing the target part in a three-dimensional manner. An image forming process for forming image data;
including,
And a volume data processing method.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007067454A JP4909137B2 (en) | 2007-03-15 | 2007-03-15 | Volume data processing apparatus and method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007067454A JP4909137B2 (en) | 2007-03-15 | 2007-03-15 | Volume data processing apparatus and method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2008220862A JP2008220862A (en) | 2008-09-25 |
| JP4909137B2 true JP4909137B2 (en) | 2012-04-04 |
Family
ID=39840130
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2007067454A Active JP4909137B2 (en) | 2007-03-15 | 2007-03-15 | Volume data processing apparatus and method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP4909137B2 (en) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5996268B2 (en) * | 2012-05-23 | 2016-09-21 | 東芝メディカルシステムズ株式会社 | Ultrasonic diagnostic apparatus, image processing apparatus, and program |
| JP7144184B2 (en) * | 2018-05-09 | 2022-09-29 | キヤノンメディカルシステムズ株式会社 | Ultrasound diagnostic device, image processing device and image processing program |
| CN117958949B (en) * | 2024-03-28 | 2024-05-28 | 天津市鹰泰利安康医疗科技有限责任公司 | Atrial fibrillation radio frequency ablation simulation method and system |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2825358B2 (en) * | 1991-03-07 | 1998-11-18 | アロカ 株式会社 | Ultrasonic 3D image display |
| JPH0620065A (en) * | 1992-07-06 | 1994-01-28 | Hitachi Medical Corp | Picture diagnosing device |
| JP2883584B2 (en) * | 1995-07-17 | 1999-04-19 | アロカ株式会社 | Ultrasonic image processing apparatus and method |
| JP4050169B2 (en) * | 2003-03-11 | 2008-02-20 | アロカ株式会社 | Ultrasonic diagnostic equipment |
| JP2005143733A (en) * | 2003-11-13 | 2005-06-09 | Toshiba Corp | Ultrasonic diagnostic apparatus, three-dimensional image data display apparatus, and three-dimensional image data display method |
| JP4299189B2 (en) * | 2004-05-27 | 2009-07-22 | アロカ株式会社 | Ultrasonic diagnostic apparatus and image processing method |
| US7339585B2 (en) * | 2004-07-19 | 2008-03-04 | Pie Medical Imaging B.V. | Method and apparatus for visualization of biological structures with use of 3D position information from segmentation results |
-
2007
- 2007-03-15 JP JP2007067454A patent/JP4909137B2/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2008220862A (en) | 2008-09-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4299189B2 (en) | Ultrasonic diagnostic apparatus and image processing method | |
| JP5632680B2 (en) | Ultrasonic image processing device | |
| CN104812312B (en) | Diagnostic ultrasound equipment and ultrasound wave 3-D view creation method | |
| EP2012140B1 (en) | Ultrasound diagnosis apparatus | |
| CN104797196B (en) | Diagnostic ultrasound equipment and ultrasonic two-dimensional tomographic image generation method | |
| JP5525930B2 (en) | Ultrasound diagnostic device for generating and displaying 3D ultrasound images | |
| JPH10277030A (en) | Ultrasonic diagnostic system | |
| CN110537936B (en) | Blood flow image processing device and method, and computer-readable storage medium | |
| JP2004159997A (en) | Ultrasonic diagnostic apparatus | |
| CN103118600B (en) | Ultrasound diagnostic equipment and ultrasound image display method | |
| JP4909137B2 (en) | Volume data processing apparatus and method | |
| JP2018153561A (en) | Ultrasonic image processing device | |
| KR20140137037A (en) | ultrasonic image processing apparatus and method | |
| JP4864554B2 (en) | Ultrasonic diagnostic apparatus, medical image processing apparatus, and medical image processing program | |
| JP4644145B2 (en) | Ultrasonic diagnostic equipment | |
| JP5827831B2 (en) | Ultrasonic image processing device | |
| JP4768495B2 (en) | Ultrasonic diagnostic equipment | |
| CN102958446A (en) | Ultrasonic diagnostic device and medical image processing device | |
| JP4763502B2 (en) | Ultrasonic diagnostic equipment | |
| JP6793075B2 (en) | Ultrasonic image processing equipment | |
| JP5406484B2 (en) | Ultrasonic data processor | |
| JP2018187131A (en) | Ultrasonic image processing device | |
| JP4705064B2 (en) | Volume data processing apparatus and program | |
| JP4705064B6 (en) | Volume data processing apparatus and program | |
| JP2017093842A (en) | Ultrasonic volume data processor |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100311 |
|
| TRDD | Decision of grant or rejection written | ||
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20111228 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120110 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120113 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150120 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4909137 Country of ref document: JP |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |