Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP4120872B2 - Image enlarging / reducing apparatus, method, and program - Google Patents
[go: Go Back, main page]

JP4120872B2 - Image enlarging / reducing apparatus, method, and program - Google Patents

Image enlarging / reducing apparatus, method, and program Download PDF

Info

Publication number
JP4120872B2
JP4120872B2 JP2003293488A JP2003293488A JP4120872B2 JP 4120872 B2 JP4120872 B2 JP 4120872B2 JP 2003293488 A JP2003293488 A JP 2003293488A JP 2003293488 A JP2003293488 A JP 2003293488A JP 4120872 B2 JP4120872 B2 JP 4120872B2
Authority
JP
Japan
Prior art keywords
pixel
pixels
image
edge
pixel value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003293488A
Other languages
Japanese (ja)
Other versions
JP2005063198A (en
Inventor
優子 阿部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2003293488A priority Critical patent/JP4120872B2/en
Priority to US10/917,505 priority patent/US7764839B2/en
Publication of JP2005063198A publication Critical patent/JP2005063198A/en
Application granted granted Critical
Publication of JP4120872B2 publication Critical patent/JP4120872B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/403Edge-driven scaling; Edge-based scaling

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Facsimile Image Signal Circuits (AREA)

Description

本発明は、例えば画像データにより表される画像を拡大縮小する画像拡大縮小装置および方法並びに画像拡大縮小方法をコンピュータに実行させるためのプログラムに関するものである。   The present invention relates to an image enlarging / reducing apparatus and method for enlarging / reducing an image represented by image data, for example, and a program for causing a computer to execute an image enlarging / reducing method.

従来より、写真フイルムに記録された画像を光電的に読み取ることにより得られた画像データあるいはデジタルカメラやカメラ付き携帯電話等の撮像装置により被写体を撮像することにより得られた画像データを、それを再生するモニタのサイズに適合するように拡大縮小することが行われている。とくにカメラ付き携帯電話により被写体を撮像することにより得られた画像データを電子メールとして送信する際に、送信先の携帯電話が有する液晶モニタのサイズに応じて画像データを拡大縮小するサービスも提供されている。   Conventionally, image data obtained by photoelectrically reading an image recorded on a photographic film or image data obtained by imaging a subject with an imaging device such as a digital camera or a camera-equipped mobile phone is used as the image data. Enlargement and reduction are performed to fit the size of the monitor to be reproduced. In particular, when sending image data obtained by taking an image of a subject with a camera-equipped mobile phone as an e-mail, a service is also provided that scales the image data according to the size of the liquid crystal monitor of the destination mobile phone. ing.

このような画像データの拡大縮小は、画像データにより表される画像を構成する画素の間に拡大率に応じて新たな画素を補間することにより行われる。このように新たな画素を補間する方法としては、線形補間法、最近傍法、バイリニア法およびバイキュービック法等の各種方法が知られている。   Such enlargement / reduction of the image data is performed by interpolating new pixels according to the enlargement ratio between the pixels constituting the image represented by the image data. As methods for interpolating new pixels in this manner, various methods such as a linear interpolation method, a nearest neighbor method, a bilinear method, and a bicubic method are known.

しかしながら、単一の方法のみを用いて画像データを拡大縮小した場合、画像に含まれるエッジ部分にボケやシャギーが発生するという問題がある。このため、画像に含まれるエッジ成分を検出し、エッジ部分と非エッジ部分とで異なる処理により補間演算を行う方法が提案されている(特許文献1参照)。
特開2002−319020号公報
However, when the image data is enlarged / reduced using only a single method, there is a problem that blur or shaggy occurs in an edge portion included in the image. For this reason, a method has been proposed in which an edge component included in an image is detected and an interpolation operation is performed by different processing between the edge portion and the non-edge portion (see Patent Document 1).
JP 2002-312020 A

ところで、上記特許文献1に記載された方法においては、エッジ部分と非エッジ部分とで異なる処理により補間演算を行っているが、演算方法は上述した既知の方法であるため、やはりエッジ部分がぼけてしまうという問題がある。例えば、直列に隣接する4つの画素G1〜G4のプロファイル形状が図13(a)に示すものである場合、画素G2と画素G3との間に急峻なエッジが存在する。また、図13(b)に示す場合においても画素G2と画素G3との間にエッジが存在する。ここで、例えば線形補間法を用いて画素G2,G3間における補間画素の画素値を求める場合、図13(a),(b)に示すように、補間画素近傍の画素G2,G3を結ぶ直線上の値が補間画素の画素値となる。このため、画素G2,G3間にエッジが存在するにも拘わらず、エッジ付近の画素値の変化が滑らかなものとなってしまい、その結果、拡大縮小された画像上のエッジ部分がぼけてしまう。   By the way, in the method described in Patent Document 1, the interpolation calculation is performed by different processing for the edge portion and the non-edge portion. However, since the calculation method is the known method described above, the edge portion is still blurred. There is a problem that it ends up. For example, when the profile shape of four pixels G1 to G4 adjacent in series is as shown in FIG. 13A, a steep edge exists between the pixel G2 and the pixel G3. Also in the case shown in FIG. 13B, an edge exists between the pixel G2 and the pixel G3. Here, for example, when the pixel value of the interpolation pixel between the pixels G2 and G3 is obtained using the linear interpolation method, as shown in FIGS. 13A and 13B, a straight line connecting the pixels G2 and G3 in the vicinity of the interpolation pixel. The upper value is the pixel value of the interpolated pixel. For this reason, although the edge exists between the pixels G2 and G3, the change in the pixel value near the edge becomes smooth, and as a result, the edge portion on the enlarged / reduced image is blurred. .

また、上述した線形補間法、最近傍法、バイリニア法およびバイキュービック法等の各種方法は、新たな画素の近傍において2次元状に分布する画素の画素値を用いて新たな画素の画素値を算出しているため、演算に長時間を要するものとなっている。   In addition, various methods such as the linear interpolation method, nearest neighbor method, bilinear method, and bicubic method described above use the pixel values of the pixels that are two-dimensionally distributed in the vicinity of the new pixel to change the pixel value of the new pixel. Since it is calculated, the calculation takes a long time.

本発明は上記事情に鑑みなされたものであり、エッジ部分がぼけないように高速に画像を拡大縮小することを目的とする。   The present invention has been made in view of the above circumstances, and an object thereof is to enlarge and reduce an image at high speed so as not to blur an edge portion.

本発明による画像拡大縮小装置は、画像を拡大縮小する画像拡大縮小装置において、
画像上の直列に隣接する4つの画素に含まれる互いに隣接する2つの画素からなる3つの画素ペアに対してそれぞれ差分フィルタによるフィルタリング処理を施して前記3つの画素ペアの画素値のそれぞれについての3つの1次差分を得、該3つの1次差分における隣接する2つの1次差分ペアに対してそれぞれ前記差分フィルタによるフィルタリング処理を施して2つの2次差分を得るフィルタリング手段と、
前記3つの1次差分および前記2つの2次差分の正負の関係に基づいて、前記直列に隣接する4つの画素の中央の2つの画素の間にエッジが存在するか否かを検出する検出手段と、
前記中央の2つの画素の間にエッジが存在する場合、該画素間に所定の境界を設定する境界設定手段と、
前記中央の2つの画素の間に補間される新たな画素の位置が前記所定の境界のいずれの側にあるかを判定する判定手段と、
前記新たな画素の位置が前記所定の境界の一方の側にある場合には、前記画像上の前記一方の側に存在する少なくとも1つの画素の画素値による補間演算を行って、前記新たな画素の画素値を算出し、前記新たな画素の位置が前記所定の境界の他方の側にある場合には、前記画像上の前記他方の側に存在する少なくとも1つの画素の画素値による補間演算を行って、前記新たな画素の画素値を算出し、前記中央の2つの画素の間にエッジが存在しない場合、所定の補間演算により前記新たな画素の画素値を算出する補間演算手段と、
前記フィルタリング処理、前記エッジが存在するか否かの検出、前記エッジが存在する場合の前記所定の境界の設定、前記判定および前記新たな画素の画素値の算出、並びに前記エッジが存在しない場合の前記新たな画素の画素値の算出を、前記画像上の一方向について行うことにより、該一方向について拡大縮小された画像を得、この後、前記フィルタリング処理、前記エッジが存在するか否かの検出、前記エッジが存在する場合の前記所定の境界の設定、前記判定および前記新たな画素の画素値の算出、並びに前記エッジが存在しない場合の前記新たな画素の画素値の算出を、前記画像上の他方向について行うことにより、該他方向についても拡大縮小された画像を得るよう、前記フィルタリング手段、前記検出手段、前記境界設定手段、前記判定手段および前記補間演算手段を制御する制御手段とを備えたことを特徴とするものである。
An image scaling device according to the present invention is an image scaling device for scaling an image.
3 for each of the pixel values of the three pixel pairs by filtering each of the three pixel pairs including two adjacent pixels included in the four pixels adjacent in series on the image with a differential filter. Filtering means for obtaining two primary differences by obtaining two primary differences and performing filtering processing by the differential filter on two adjacent primary difference pairs in the three primary differences, respectively;
Detection means for detecting whether or not an edge exists between two central pixels of the four pixels adjacent in series based on a positive / negative relationship between the three primary differences and the two secondary differences When,
A boundary setting means for setting a predetermined boundary between the pixels when an edge exists between the two central pixels;
Determining means for determining on which side of the predetermined boundary a position of a new pixel interpolated between the two central pixels;
When the position of the new pixel is on one side of the predetermined boundary, an interpolation operation is performed using a pixel value of at least one pixel existing on the one side of the image, and the new pixel When the position of the new pixel is on the other side of the predetermined boundary, an interpolation operation is performed using the pixel value of at least one pixel existing on the other side of the image. Performing interpolation calculation means for calculating a pixel value of the new pixel and calculating a pixel value of the new pixel by a predetermined interpolation calculation when there is no edge between the two central pixels;
The filtering process, the detection of whether the edge exists, the setting of the predetermined boundary when the edge exists, the determination and the calculation of the pixel value of the new pixel, and the case where the edge does not exist By calculating the pixel value of the new pixel in one direction on the image, an image that is enlarged or reduced in the one direction is obtained, and then the filtering process, whether the edge exists or not is obtained. Detection, setting of the predetermined boundary when the edge exists, determination and calculation of the pixel value of the new pixel, and calculation of the pixel value of the new pixel when the edge does not exist, The filtering means, the detecting means, and the boundary setting means so as to obtain an image that is also enlarged and reduced in the other direction by performing in the other direction above. Is characterized in that a control means for controlling said determining means and said interpolation calculation means.

「差分フィルタ」とは、隣接する2つの画素の単純な差分を求めるフィルタのみならず、重み付け差分を求めることが可能なフィルタをも含む。具体的には、タップ数が偶数のフィルタ、例えばフィルタ値が(−1,1)の2タップのフィルタを用いることができる。   The “difference filter” includes not only a filter for obtaining a simple difference between two adjacent pixels but also a filter capable of obtaining a weighted difference. Specifically, a filter with an even number of taps, for example, a 2-tap filter with a filter value of (−1, 1) can be used.

「所定の境界」としては中央の2つの画素間の距離を二等分する線を用いることができる。   As the “predetermined boundary”, a line that bisects the distance between the two central pixels can be used.

また、中央の2つの画素の間にエッジが存在しない場合の所定の補間演算としては、線形補間法、最近傍法、バイリニア法およびバイキュービック法等の公知の各種方法を用いることができるが、とくに補間演算を1次元方向にのみ適用することが好ましい。   In addition, as the predetermined interpolation calculation when no edge exists between the two central pixels, various known methods such as a linear interpolation method, a nearest neighbor method, a bilinear method, and a bicubic method can be used. In particular, it is preferable to apply the interpolation calculation only in the one-dimensional direction.

なお、本発明による画像拡大縮小装置においては、前記フィルタリング手段を、前記直列に隣接する4つの画素の中央の2つの画素に対して前記差分フィルタによるフィルタリング処理を施して前記中央の2つの画素の画素値の差分をさらに得る手段とし、
前記検出手段を、前記中央の2つの画素の画素値の差分の絶対値が所定のしきい値以上であるか否かの判定結果にも基づいて、前記直列に隣接する4つの画素の中央の2つの画素の間にエッジが存在するか否かを検出する手段としてもよい。
In the image enlargement / reduction apparatus according to the present invention, the filtering means performs filtering processing by the difference filter on the center two pixels of the four pixels adjacent in series to obtain the center two pixels. As a means for further obtaining the difference between pixel values,
Based on the determination result of whether or not the absolute value of the difference between the pixel values of the two central pixels is greater than or equal to a predetermined threshold value, the detection means detects the center of the four pixels adjacent in series. It may be a means for detecting whether or not an edge exists between two pixels.

本発明による画像拡大縮小方法は、画像を拡大縮小する画像拡大縮小方法において、
画像上の直列に隣接する4つの画素に含まれる互いに隣接する2つの画素からなる3つの画素ペアに対してそれぞれ差分フィルタによるフィルタリング処理を施して前記3つの画素ペアの画素値のそれぞれについての3つの1次差分を得、該3つの1次差分における隣接する2つの1次差分ペアに対してそれぞれ前記差分フィルタによるフィルタリング処理を施して2つの2次差分を得、
前記3つの1次差分および前記2つの2次差分の正負の関係に基づいて、前記直列に隣接する4つの画素の中央の2つの画素の間にエッジが存在するか否かを検出し、
前記中央の2つの画素の間にエッジが存在する場合、該画素間に所定の境界を設定し、
前記中央の2つの画素の間に補間される新たな画素の位置が前記所定の境界のいずれの側にあるかを判定し、
前記新たな画素の位置が前記所定の境界の一方の側にある場合には、前記画像上の前記一方の側に存在する少なくとも1つの画素の画素値による補間演算を行って、前記新たな画素の画素値を算出し、前記新たな画素の位置が前記所定の境界の他方の側にある場合には、前記画像上の前記他方の側に存在する少なくとも1つの画素の画素値による補間演算を行って、前記新たな画素の画素値を算出し、前記中央の2つの画素の間にエッジが存在しない場合、所定の補間演算により前記新たな画素の画素値を算出し、
前記フィルタリング処理、前記エッジが存在するか否かの検出、前記エッジが存在する場合の前記所定の境界の設定、前記判定および前記新たな画素の画素値の算出、並びに前記エッジが存在しない場合の前記新たな画素の画素値の算出を、前記画像上の一方向について行うことにより、該一方向について拡大縮小された画像を得、この後、前記フィルタリング処理、前記エッジが存在するか否かの検出、前記エッジが存在する場合の前記所定の境界の設定、前記判定および前記新たな画素の画素値の算出、並びに前記エッジが存在しない場合の前記新たな画素の画素値の算出を、前記画像上の他方向について行うことにより、該他方向についても拡大縮小された画像を得ることを特徴とするものである。
An image scaling method according to the present invention is an image scaling method for scaling an image.
3 for each of the pixel values of the three pixel pairs by filtering each of the three pixel pairs including two adjacent pixels included in the four pixels adjacent in series on the image with a differential filter. Two primary differences are obtained by filtering each of the two adjacent primary difference pairs in the three primary differences with the filtering by the difference filter,
Based on the positive / negative relationship between the three primary differences and the two secondary differences, it is detected whether there is an edge between the two central pixels of the four pixels adjacent in series,
When an edge exists between the two central pixels, a predetermined boundary is set between the pixels,
Determining which side of the predetermined boundary is the position of the new pixel interpolated between the central two pixels;
When the position of the new pixel is on one side of the predetermined boundary, an interpolation operation is performed using a pixel value of at least one pixel existing on the one side of the image, and the new pixel When the position of the new pixel is on the other side of the predetermined boundary, an interpolation operation is performed using the pixel value of at least one pixel existing on the other side of the image. To calculate a pixel value of the new pixel, and when no edge exists between the two central pixels, calculate a pixel value of the new pixel by a predetermined interpolation operation,
The filtering process, the detection of whether the edge exists, the setting of the predetermined boundary when the edge exists, the determination and the calculation of the pixel value of the new pixel, and the case where the edge does not exist By calculating the pixel value of the new pixel in one direction on the image, an image that is enlarged or reduced in the one direction is obtained, and then the filtering process, whether the edge exists or not is obtained. Detection, setting of the predetermined boundary when the edge exists, determination and calculation of the pixel value of the new pixel, and calculation of the pixel value of the new pixel when the edge does not exist, By performing in the other direction above, an image that is also enlarged and reduced in the other direction is obtained.

なお、本発明による画像拡大縮小方法をコンピュータに実行させるためのプログラムとして提供してもよい。   The image enlargement / reduction method according to the present invention may be provided as a program for causing a computer to execute the method.

本発明によれば、画像上の一方向について、画像上の直列に隣接する4つの画素に含まれる互いに隣接する2つの画素からなる3つの画素ペアに対してそれぞれ差分フィルタによるフィルタリング処理が施されて3つの画素ペアの画素値のそれぞれについての3つの1次差分が得られる。さらに、3つの1次差分における隣接する2つの1次差分ペアに対してそれぞれ差分フィルタによるフィルタリング処理が施されて2つの2次差分が得られる。ここで、3つの1次差分および2つの2次差分の正負の値に応じて、直列に隣接する4つの画素の画素値のプロファイルを分類でき、3つの1次差分および2つの2次差分の正負の関係を見れば、直列に隣接する4つの画素のうちの中央の2つの画素の間にエッジが存在するか否かを判定できる。したがって、3つの1次差分および2つの2次差分の正負の関係に基づいて、直列に隣接する4つの画素の中央の2つの画素の間にエッジが存在するか否かを検出することにより、画像の画素上ではなく、画素の間にエッジが存在するか否かを検出することができる。   According to the present invention, in one direction on the image, a filtering process using a difference filter is performed on each of three pixel pairs including two adjacent pixels included in four pixels adjacent in series on the image. Thus, three primary differences are obtained for each of the pixel values of the three pixel pairs. Further, filtering processing using a difference filter is performed on two adjacent primary difference pairs in the three primary differences to obtain two secondary differences. Here, the profile of the pixel values of four pixels adjacent in series can be classified according to the positive and negative values of the three primary differences and the two secondary differences, and the three primary differences and the two secondary differences can be classified. If a positive / negative relationship is seen, it can be determined whether or not an edge exists between two central pixels of four pixels adjacent in series. Therefore, based on the positive / negative relationship between the three primary differences and the two secondary differences, by detecting whether there is an edge between the two central pixels of the four pixels adjacent in series, It is possible to detect whether there is an edge between pixels, not on the pixels of the image.

そして中央の2つの画素の間にエッジが存在する場合には、各画素の間に所定の境界が設定され、新たな画素の位置が所定の境界のいずれの側にあるかが判定される。そして、新たな画素の位置が所定の境界の一方の側にある場合には、画像上の一方の側に存在する少なくとも1つの画素の画素値による補間演算が行われて新たな画素の画素値が算出される。一方、新たな画素の位置が所定の境界の他方の側にある場合には、画像上の他方の側に存在する少なくとも1つの画素の画素値による補間演算が行われて新たな画素の画素値が算出される。このため、新たな画素の画素値は、新たな画素の両隣の画素の画素値には影響されず、片方の側の画素の画素値のみを反映させたものとなる。したがって、上記図13(a),(b)に示すように、新たな画素の画素値の両隣の画素の画素値を用いて新たな画素の画素値を算出する場合と比較して、エッジのボケが少なくなるように新たな画素の画素値を算出することができる。なお、中央の2つの画素の間にエッジが存在しない場合には、所定の補間演算により新たな画素の画素値が算出される。   When an edge exists between the two central pixels, a predetermined boundary is set between the pixels, and it is determined which side of the predetermined boundary the new pixel is located. When the position of the new pixel is on one side of the predetermined boundary, an interpolation operation is performed using the pixel value of at least one pixel existing on one side of the image, and the pixel value of the new pixel Is calculated. On the other hand, when the position of the new pixel is on the other side of the predetermined boundary, the pixel value of the new pixel is obtained by performing an interpolation operation using the pixel value of at least one pixel existing on the other side of the image. Is calculated. For this reason, the pixel value of the new pixel is not affected by the pixel values of the pixels adjacent to the new pixel, and reflects only the pixel value of the pixel on one side. Therefore, as shown in FIGS. 13A and 13B, compared to the case where the pixel value of the new pixel is calculated using the pixel values of the pixels adjacent to the pixel value of the new pixel, The pixel value of a new pixel can be calculated so as to reduce blur. If there is no edge between the two central pixels, the pixel value of a new pixel is calculated by a predetermined interpolation calculation.

そして、画像の一方向について新たな画素の画素値を算出して一方向に拡大縮小された画像を得た後、他方向についても同様に新たな画素の画素値が算出されて、一方向および他方向の双方に拡大縮小された画像が得られる。   Then, after calculating a pixel value of a new pixel in one direction of the image to obtain an image enlarged or reduced in one direction, a pixel value of a new pixel is calculated in the other direction in the same way, An image scaled in both directions is obtained.

このように、本実施形態においては、エッジが存在するか否かを検出する際に、差分を算出しているのみであるため、簡易な演算により高速にエッジが存在するか否かを検出することができる。また、エッジのボケが少なくなるように新たな画素の画素値を算出しているため、エッジのボケの少ない拡大縮小された画像を得ることができる。   As described above, in this embodiment, since only the difference is calculated when detecting whether or not an edge exists, it is detected whether or not the edge exists at high speed by a simple calculation. be able to. In addition, since the pixel value of a new pixel is calculated so as to reduce edge blurring, an enlarged / reduced image with little edge blurring can be obtained.

また、エッジが存在すると判定された場合において、中央の2つの画素の画素値の差分の絶対値が小さい場合にはそこにエッジが存在する確度は小さいが、差分の絶対値が大きい場合は、そこに真のエッジが存在すると見なすことができる。したがって、中央の2つの画素の画素値の差分の絶対値が所定のしきい値以上であるか否かの判定結果にも基づいて、直列に隣接する4つの画素の中央の2つの画素の間にエッジが存在するか否かを検出することにより、画像の画素上ではなく、画素の間にエッジが存在するか否かを確実に検出することができる。   Also, when it is determined that an edge exists, if the absolute value of the difference between the pixel values of the two central pixels is small, the probability that the edge exists there is small, but if the absolute value of the difference is large, It can be assumed that there is a true edge there. Accordingly, based on the determination result of whether or not the absolute value of the difference between the pixel values of the two central pixels is equal to or greater than a predetermined threshold value, the distance between the two central pixels of the four pixels adjacent in series is determined. By detecting whether or not there is an edge, it is possible to reliably detect whether or not there is an edge between pixels, not on the pixels of the image.

また、画像の画素の間にエッジが存在する場合には、画像を一方向に拡大縮小、すなわち新たな画素の画素値を算出した後に他方向に拡大縮小、すなわち新たな画素の画素値を算出しているため、2次元状に一度の演算により新たな画素の画素値を算出する場合と比較して、新たな画素の画素値を高速に算出することができる。   If there is an edge between the pixels of the image, the image is scaled in one direction, that is, the pixel value of the new pixel is calculated, and then the pixel value of the new pixel is calculated. Therefore, the pixel value of a new pixel can be calculated at a higher speed than the case where the pixel value of a new pixel is calculated by a single calculation in two dimensions.

以下、本発明の実施形態について説明する。図1は本発明の実施形態による画像拡大縮小装置の構成を示す概略ブロック図である。図1に示すように、本発明の実施形態による画像拡大縮小装置は、画像データS0および画像データS0の拡大率Kの入力を受け付ける入力部1、エッジ判定部2、補間画素の画素値を算出する補間演算部3、並びに入力部1、エッジ判定部2および補間演算部3の動作を制御する制御部4を備える。   Hereinafter, embodiments of the present invention will be described. FIG. 1 is a schematic block diagram showing the configuration of an image enlargement / reduction apparatus according to an embodiment of the present invention. As shown in FIG. 1, the image enlargement / reduction apparatus according to the embodiment of the present invention calculates the pixel values of the input unit 1, the edge determination unit 2, and the interpolated pixels that accept input of the image data S0 and the enlargement factor K of the image data S0. And a control unit 4 that controls the operation of the input unit 1, the edge determination unit 2, and the interpolation calculation unit 3.

ここで、画像データS0により表される画像(以下画像についても同様に参照符号S0を用いる)は、図2に示すように2次元状に画素が並んで構成されてなるものであり、本実施形態においては、図2に示すようにx方向およびy方向を定めるものとする。   Here, the image represented by the image data S0 (hereinafter, the reference symbol S0 is also used for the image) is composed of two-dimensionally arranged pixels as shown in FIG. In the embodiment, the x direction and the y direction are defined as shown in FIG.

エッジ判定部2は、フィルタリング部2Aおよび判定部2Bを備える。   The edge determination unit 2 includes a filtering unit 2A and a determination unit 2B.

フィルタリング部2Aは、以下のようにしてフィルタリング処理を行う。図3はフィルタリング部2Aにおいて行われるフィルタリング処理を説明するための図である。フィルタリング部2Aは、画像S0のx方向およびy方向のそれぞれについて一列毎に、補間画素Pが間に位置する隣接する2つの画素G2,G3およびこの2つの画素G2,G3のそれぞれに隣接する2つの画素G1,G4からなる直列に隣接する4つの画素G1〜G4について、互いに隣接する2つの画素からなる3つの画素ペアG1,G2、画素ペアG2,G3および画素ペアG3,G4に対して差分フィルタによるフィルタリング処理を施して、画素ペアG1,G2、画素ペアG2,G3および画素ペアG3,G4の画素値の差分を1次差分d1,d2,d3として算出する。   The filtering unit 2A performs the filtering process as follows. FIG. 3 is a diagram for explaining the filtering process performed in the filtering unit 2A. The filtering unit 2A is adjacent to each of two adjacent pixels G2 and G3 between which the interpolation pixel P is located and each of the two pixels G2 and G3 for each column in the x direction and the y direction of the image S0. Differences between three pixel pairs G1 and G4, two pixel pairs G1 and G2, two pixel pairs G2 and G3, and two pixel pairs G3 and G4, which are adjacent to each other in the four pixels G1 to G4 that are adjacent to each other and that are composed of two pixels G1 and G4. Filtering processing by a filter is performed, and the differences between the pixel values of the pixel pairs G1, G2, the pixel pairs G2, G3, and the pixel pairs G3, G4 are calculated as primary differences d1, d2, d3.

図4は差分フィルタの例を示す図である。図4に示すように、本実施形態において使用される差分フィルタは、フィルタ値が(−1,1)の2タップのフィルタである。なお、差分フィルタはこれに限定されるものではなく、2つの画素値の重み付け差分を求めるフィルタ値を有するものや、2タップ以上の偶数タップ数を有するものを用いてもよい。   FIG. 4 is a diagram illustrating an example of the difference filter. As shown in FIG. 4, the differential filter used in the present embodiment is a 2-tap filter having a filter value of (−1, 1). Note that the difference filter is not limited to this, and a filter having a filter value for obtaining a weighted difference between two pixel values or a filter having an even number of taps of two or more taps may be used.

続いて、フィルタリング部2Aは、3つの1次差分d1,d2,d3における隣接する2つの1次差分ペアd1,d2および1次差分ペアd2,d3に対して、同様に差分フィルタによるフィルタリング処理を施して、1次差分ペアd1,d2およびd2,d3の差分を2次差分d4,d5として算出する。   Subsequently, the filtering unit 2A similarly performs filtering processing using a difference filter on two adjacent primary difference pairs d1, d2 and primary difference pairs d2, d3 in the three primary differences d1, d2, d3. The difference between the primary difference pairs d1, d2 and d2, d3 is calculated as secondary differences d4, d5.

さらに、フィルタリング部2Aは、直列に隣接する4つの画素G1〜G4の中央の2つの画素G2,G3に対してフィルタリング処理を行い、画素G2,G3の画素値の差分d0(=d2)を算出する。なお、上記1次差分d2をそのまま差分d0として用いてもよい。   Further, the filtering unit 2A performs a filtering process on the central two pixels G2 and G3 of the four pixels G1 to G4 adjacent in series, and calculates a difference d0 (= d2) between the pixel values of the pixels G2 and G3. To do. The primary difference d2 may be used as the difference d0 as it is.

判定部2Bは、1次差分d1,d2,d3および2次差分d4,d5の正負の関係に基づいて、隣接する2つの画素G2,G3の間にエッジが存在するか否かを判定する(第1の判定)。   The determination unit 2B determines whether or not an edge exists between two adjacent pixels G2 and G3 based on the positive / negative relationship between the primary differences d1, d2, and d3 and the secondary differences d4 and d5 ( First determination).

図5から図7は、直列に隣接する4つの画素の1次差分d1,d2,d3および2次差分d4,d5の正負と、直列に隣接する4つの画素のプロファイル形状との関係を示す表である。直列に隣接する4つの画素の1次差分d1,d2,d3および2次差分d4,d5の正負は全18種類の組み合わせがある。隣接する2つの画素G2,G3の間にエッジが存在する組み合わせは、図5に示すエッジ1およびエッジ2の2通りある。エッジ1は(d1,d2,d3,d4,d5)=(+,+,+,+,−)となる右上がりエッジおよび(d1,d2,d3,d4,d5)=(−,−,−,−,+)となる左上がりエッジの2種類がある。エッジ2は(d1,d2,d3,d4,d5)=(+,+,+,+,+)となる下に凸の右上がりエッジ、(d1,d2,d3,d4,d5)=(+,+,+,−,−)となる上に凸の右上がりエッジ、(d1,d2,d3,d4,d5)=(−,−,−,+,+)となる下に凸の左上がりエッジ、(d1,d2,d3,d4,d5)=(−,−,−,−,−)となる上に凸の左上がりエッジの4種類がある。   FIGS. 5 to 7 are tables showing the relationship between the positive / negative of the primary differences d1, d2, d3 and the secondary differences d4, d5 of the four pixels adjacent in series and the profile shape of the four pixels adjacent in series. It is. There are a total of 18 combinations of positive and negative of the primary differences d1, d2, d3 and the secondary differences d4, d5 of four pixels adjacent in series. There are two combinations of edge 1 and edge 2 shown in FIG. 5 in which an edge exists between two adjacent pixels G2 and G3. Edge 1 is a right rising edge such that (d1, d2, d3, d4, d5) = (+, +, +, +, −) and (d1, d2, d3, d4, d5) = (−, −, − ,-, +). Edge 2 is a downwardly convex right rising edge such that (d1, d2, d3, d4, d5) = (+, +, +, +, +), (d1, d2, d3, d4, d5) = (+ , +, +,-,-) Upward convex right rising edge, (d1, d2, d3, d4, d5) = (-,-,-, +, +) downward convex left rising There are four types of edges, that is, upwardly convex left rising edges where (d1, d2, d3, d4, d5) = (−, −, −, −, −).

判定部2Bは、図5から図7に示す表を記憶しており、直列に隣接する4つの画素の1次差分d1,d2,d3および2次差分d4,d5の正負の関係が、図5に示すエッジ1およびエッジ2の関係となる場合に、隣接する2つの画素G2,G3の間にエッジが存在すると判定する。また、直列に隣接する4つの画素の1次差分d1,d2,d3および2次差分d4,d5の正負の関係が、図6および図7に示す山、谷およびその他の関係となる場合に、隣接する2つの画素G2,G3の間にエッジが存在しないと判定する。   The determination unit 2B stores the tables shown in FIGS. 5 to 7, and the positive / negative relationship between the primary differences d1, d2, d3 and the secondary differences d4, d5 of four pixels adjacent in series is shown in FIG. When the relationship between the edge 1 and the edge 2 shown in FIG. 2 is established, it is determined that an edge exists between two adjacent pixels G2 and G3. Further, when the positive / negative relationship of the primary differences d1, d2, d3 and the secondary differences d4, d5 of the four pixels adjacent in series is the peak, valley, and other relationships shown in FIGS. It is determined that no edge exists between two adjacent pixels G2 and G3.

さらに判定部2Bは、第1の判定によりエッジが存在すると判定された場合に、画素G2,G3の画素値の差分d0の絶対値が所定のしきい値Th1以上であるか否かを判定し(第2の判定)、第2の判定が肯定されると、そこに真にエッジが存在すると判定する。一方、第2の判定が否定されるとそこにはエッジは存在しないものと判定する。このように第2の判定を行うのは、第1の判定においてエッジが存在すると判定されても、例えば図8に示すように、画素G2,G3の画素値の差が非常にわずかでノイズと見なせるような場合に、そこがエッジであるとして補間演算部3が後述するようにエッジ部分に適した補間演算を行い、かえってノイズが強調されてしまうことを防止するためである。このようにして判定がなされると、エッジ判定部2は、判定結果を補間演算部3に出力する。   Further, when it is determined by the first determination that an edge is present, the determination unit 2B determines whether or not the absolute value of the difference d0 between the pixel values of the pixels G2 and G3 is equal to or greater than a predetermined threshold value Th1. (Second determination) When the second determination is affirmed, it is determined that an edge really exists. On the other hand, if the second determination is negative, it is determined that there is no edge there. In this way, the second determination is performed even if it is determined that there is an edge in the first determination, for example, as shown in FIG. This is to prevent the noise from being emphasized when the interpolation calculation unit 3 performs an interpolation calculation suitable for the edge portion as will be described later, assuming that the edge is an edge. When the determination is made in this way, the edge determination unit 2 outputs the determination result to the interpolation calculation unit 3.

補間演算部3は、境界設定部3A、判定部3Bおよび演算部3Cを備え、エッジ判定部2の判定結果に基づいて、補間画素Pが間に位置する2つの隣接する画素の間がエッジであると判定された場合とエッジでないと判定された場合とで、演算部3Cがそれぞれ異なる演算により補間画素Pの画素値を算出する。具体的には、エッジでないと判定された場合は、演算部3Cはバイキュービック法を用いて補間画素Pの画素値を算出する。   The interpolation calculation unit 3 includes a boundary setting unit 3A, a determination unit 3B, and a calculation unit 3C. Based on the determination result of the edge determination unit 2, an edge between two adjacent pixels between which the interpolation pixel P is located is an edge. The calculation unit 3C calculates the pixel value of the interpolation pixel P by different calculations depending on whether it is determined to be present or not determined to be an edge. Specifically, when it is determined that the edge is not an edge, the calculation unit 3C calculates the pixel value of the interpolation pixel P using the bicubic method.

ここで、バイキュービック法は3次補間の一手法であり、補間画素Pの近傍の16画素を用いて補間画素Pの画素値を求める方法である。以下、バイキュービック法について説明する。   Here, the bicubic method is a method of cubic interpolation, and is a method of obtaining the pixel value of the interpolation pixel P using 16 pixels in the vicinity of the interpolation pixel P. Hereinafter, the bicubic method will be described.

図9はバイキュービック法を説明するための図である。図9に示すように点Pを補間画素Pの位置とした場合、図9中黒丸で示される画素は第1次近傍、白丸で示される画素は第2次近傍と称される。第1次近傍および第2次近傍のそれぞれについて、下記の式(1)に示すようにx方向およびy方向それぞれに独立に距離dx,dy(式(1)においては単にdと示す)に対して重みWx,Wyを求め、最終的にその画素に対する重みW=WxWyを得る。

Figure 0004120872
FIG. 9 is a diagram for explaining the bicubic method. As shown in FIG. 9, when the point P is set as the position of the interpolated pixel P, a pixel indicated by a black circle in FIG. 9 is referred to as a primary neighborhood, and a pixel indicated by a white circle is referred to as a secondary neighborhood. For each of the first-order neighborhood and the second-order neighborhood, as shown in the following equation (1), the distances dx and dy (simply indicated as d in the equation (1)) independently in the x direction and the y direction, respectively. The weights Wx and Wy are obtained, and finally the weight W = WxWy for the pixel is obtained.
Figure 0004120872

例えば、図9における(−1,−1)の画素(第2次近傍)に対して、重みWx,Wy,Wを求めると、

Figure 0004120872
For example, when the weights Wx, Wy, and W are calculated for the pixel (second order neighborhood) of (−1, −1) in FIG.
Figure 0004120872

となる。 It becomes.

そして、W(i,j)を画素(i,j)の重み、f(i,j)を画素(i,j)の画素値とすると、補間画素Pの画素値f′(P)は、

Figure 0004120872
When W (i, j) is the weight of the pixel (i, j) and f (i, j) is the pixel value of the pixel (i, j), the pixel value f ′ (P) of the interpolation pixel P is
Figure 0004120872

により算出することができる。 Can be calculated.

なお、本実施形態においては、バイキュービック法をx方向またはy方向の1次元方向にのみ適用して、補間画素Pの画素値を算出するものとする。   In the present embodiment, the pixel value of the interpolation pixel P is calculated by applying the bicubic method only in the one-dimensional direction of the x direction or the y direction.

一方、エッジであると判定された部分については、以下のようにして補間画素Pの画素値を求める。図10は、エッジであると判定された部分についての画素値のプロファイルを示す図である。なお、図10において、水平方向が画素が並ぶ方向であり、垂直方向が画素値の大きさを示す方向である。2つの隣接する画素G2,G3の間にエッジが存在すると判定された場合、その2つの画素にさらにそれぞれ隣接する2つの画素G1,G4を加えた直列に隣接する4つの画素G1〜G4の画素値のプロファイルは図10(a)または図10(b)に示すものとなる。   On the other hand, for the portion determined to be an edge, the pixel value of the interpolation pixel P is obtained as follows. FIG. 10 is a diagram illustrating a profile of pixel values for a portion determined to be an edge. In FIG. 10, the horizontal direction is the direction in which the pixels are arranged, and the vertical direction is the direction that indicates the magnitude of the pixel value. When it is determined that an edge exists between two adjacent pixels G2 and G3, two pixels G1 to G4 adjacent in series obtained by adding two adjacent pixels G1 and G4 to the two pixels, respectively. The value profile is as shown in FIG. 10 (a) or FIG. 10 (b).

プロファイルが図10(a)に示すステップエッジ形状をなす場合、境界設定部3Aが画素が並ぶ方向において画素G2,G3間の距離を二等分する中線M(一点鎖線参照)を境界として設定する。そして判定部3Bが補間画素Pが中線Mの右側に存在するか左側に存在するかを判定し、中線Mの右側に補間画素(P1とする)が存在する場合には、演算部3Cが画素G3,G4を結ぶ直線の延長線上の値を補間画素P1の画素値として算出する。また、中線Mの左側に補間画素(P2とする)が存在する場合には、演算部3Cが画素G1,G2を結ぶ直線の延長線上の値を補間画素P2の画素値として算出する。   When the profile has the step edge shape shown in FIG. 10A, the boundary setting unit 3A sets the middle line M (see the alternate long and short dash line) that bisects the distance between the pixels G2 and G3 in the pixel arrangement direction as a boundary. To do. Then, the determination unit 3B determines whether the interpolation pixel P exists on the right side or the left side of the middle line M, and when the interpolation pixel (referred to as P1) exists on the right side of the middle line M, the calculation unit 3C Calculates the value on the extension of the straight line connecting the pixels G3 and G4 as the pixel value of the interpolation pixel P1. When an interpolation pixel (P2) is present on the left side of the middle line M, the calculation unit 3C calculates a value on an extension line of a straight line connecting the pixels G1 and G2 as the pixel value of the interpolation pixel P2.

プロファイルが図10(b)に示すエッジ形状をなす場合、境界設定部3Aが画素G1,G2を結ぶ直線の延長線と、画素G3,G4を結ぶ直線の延長線との交点Cを境界として設定する。そして、判定部3Bが補間画素Pが交点Cの右側に存在するか左側に存在するかを判定し、交点Cの右側に補間画素P1が存在する場合には、演算部3Cが画素G3,G4を結ぶ直線の延長線上の値を補間画素P1の画素値として算出する。また、交点Cの左側に補間画素P2が存在する場合には、演算部3Cが画素G1,G2を結ぶ直線の延長線上の値を補間画素P2の画素値として算出する。   When the profile has the edge shape shown in FIG. 10B, the boundary setting unit 3A sets an intersection C between a straight line extending from the pixels G1 and G2 and a straight line extending from the pixels G3 and G4 as a boundary. To do. Then, the determination unit 3B determines whether the interpolation pixel P exists on the right side or the left side of the intersection C. If the interpolation pixel P1 exists on the right side of the intersection C, the calculation unit 3C determines that the pixels G3, G4 Is calculated as the pixel value of the interpolation pixel P1. When the interpolation pixel P2 exists on the left side of the intersection C, the calculation unit 3C calculates the value on the extension line of the straight line connecting the pixels G1 and G2 as the pixel value of the interpolation pixel P2.

なお、ここでは2つの画素の画素値のみを用いて補間画素Pの画素値を算出しているが、3以上の画素の画素値を用いてもよい。この場合、画素を直線で結ぶことが困難な場合がある。このため、スプライン曲線等の任意の関数により規定される曲線により画素を結び、その曲線の延長線上の値を補間画素Pの値とすればよい。   Here, the pixel value of the interpolation pixel P is calculated using only the pixel values of two pixels, but the pixel values of three or more pixels may be used. In this case, it may be difficult to connect the pixels with a straight line. For this reason, the pixels may be connected by a curve defined by an arbitrary function such as a spline curve, and the value on the extension line of the curve may be the value of the interpolation pixel P.

ここで、以降の説明において、エッジであると判定された場合の演算を第1の補間演算、エッジでないと判定された場合の演算を第2の補間演算と称する。   Here, in the following description, the calculation when it is determined to be an edge is referred to as a first interpolation calculation, and the calculation when it is determined not to be an edge is referred to as a second interpolation calculation.

次いで、本実施形態において行われる処理について説明する。図11は本実施形態において行われる処理を示すフローチャートである。なお、本実施形態においては、補間画素Pは、画像S0の画素の間に存在するものとする。まず、入力部1が拡大する画像データS0および画像データS0の拡大率Kの入力を受け付ける(ステップS1)。そして、画素を補間する方向をまずx方向に設定する(ステップS2)。次いで、拡大率Kに応じた最初の補間画素P(例えば拡大された画像データS1により表される画像(以下画像についても同様に参照符号S1を用いる)上左上に位置する画素)について、エッジ判定部2のフィルタリング部2Aがその補間画素Pが間に位置する直列に隣接する4つの画素G1〜G4から1次差分d1,d2,d3および2次差分d4,d5を算出する(ステップS3)。また、フィルタリング部2Aは画素G2,G3に対して差分フィルタによるフィルタリング処理を施して差分d0を算出する(ステップS4)。   Next, processing performed in the present embodiment will be described. FIG. 11 is a flowchart showing processing performed in the present embodiment. In the present embodiment, it is assumed that the interpolation pixel P exists between the pixels of the image S0. First, the input unit 1 accepts input of the image data S0 to be enlarged and the enlargement factor K of the image data S0 (step S1). The direction for interpolating the pixels is first set in the x direction (step S2). Next, edge determination is performed on the first interpolation pixel P (for example, the pixel located at the upper left of the image represented by the enlarged image data S1 (hereinafter, the reference symbol S1 is also used for the image)) corresponding to the enlargement factor K. The filtering unit 2A of the unit 2 calculates the primary differences d1, d2, d3 and the secondary differences d4, d5 from the four pixels G1 to G4 adjacent in series with the interpolation pixel P positioned therebetween (step S3). Further, the filtering unit 2A calculates a difference d0 by performing a filtering process using a difference filter on the pixels G2 and G3 (step S4).

そして、判定部2Bが1次差分d1,d2,d3および2次差分d4,d5の正負の関係に基づいて、補間画素Pが間に位置する隣接する2つの画素G2,G3の間にエッジが存在するか否かを判定する(第1の判定、ステップS5)。ステップS5が肯定されると、判定部2Bが差分d0の絶対値がしきい値Th1以上であるか否かを判定する(第2の判定、ステップS6)。   Then, based on the positive / negative relationship between the primary differences d1, d2, d3 and the secondary differences d4, d5, the determination unit 2B has an edge between two adjacent pixels G2, G3 between which the interpolation pixel P is located. It is determined whether or not it exists (first determination, step S5). If step S5 is affirmed, the determination unit 2B determines whether or not the absolute value of the difference d0 is greater than or equal to the threshold value Th1 (second determination, step S6).

ステップS6が肯定されると、直列に隣接する4つの画素G1〜G4の中央の2つの画素G2,G3間にエッジが存在するものとして、補間演算部3は上記第1の補間演算により補間画素Pの画素値を算出する(ステップS7)。一方、ステップS5およびステップS6が否定されると、中央の2つの画素G2,G3間にエッジが存在しないものとして、補間演算部3は上記第2の補間演算により補間画素Pの画素値を算出する(ステップS8)。   If step S6 is affirmed, it is assumed that an edge exists between the two central pixels G2 and G3 of the four pixels G1 to G4 adjacent in series, and the interpolation calculation unit 3 performs the interpolation pixel by the first interpolation calculation. A pixel value of P is calculated (step S7). On the other hand, if step S5 and step S6 are negative, the interpolation calculation unit 3 calculates the pixel value of the interpolation pixel P by the second interpolation calculation, assuming that no edge exists between the two central pixels G2 and G3. (Step S8).

図12は第1の補間演算のフローチャートである。まず、補間演算部3の境界設定部3Aが中央の2つの画素G2,G3間に中線Mまたは交点Cを境界として設定する(ステップS21)。そして、判定部3Bが補間画素Pが境界のいずれの側にあるかを判定し(ステップS22)、演算部3Cが補間画素Pが存在する側の画素のみを用いて補間演算を行って補間画素Pの画素値を算出する(ステップS23)。   FIG. 12 is a flowchart of the first interpolation calculation. First, the boundary setting unit 3A of the interpolation calculation unit 3 sets the middle line M or the intersection C between the two central pixels G2 and G3 as a boundary (step S21). Then, the determination unit 3B determines which side of the boundary the interpolation pixel P is on (step S22), and the calculation unit 3C performs an interpolation calculation using only the pixel on the side where the interpolation pixel P exists, thereby interpolating the pixel. A pixel value of P is calculated (step S23).

図11に戻り、次いで制御部4が全ての補間画素Pについて画素値を算出したか否かを判定し(ステップS9)、ステップS9が否定されると、画素値を算出する補間画素Pを次の補間画素Pに設定し(ステップS10)、ステップS3に戻る。   Returning to FIG. 11, next, the control unit 4 determines whether or not the pixel values have been calculated for all the interpolation pixels P (step S9). If step S9 is negative, the interpolation pixel P for calculating the pixel value is set to the next. Is set to the interpolation pixel P (step S10), and the process returns to step S3.

ステップS9が肯定されると、y方向についても全ての補間画素Pについて画素値を算出したか否かを判定する(ステップS11)。ステップS11が否定されると、補間方向をy方向に設定し(ステップS12)、ステップS3に戻る。ステップS11が肯定されると、補間画素Pからなる拡大された画像データS1を出力し(ステップS13)、処理を終了する。   If step S9 is affirmed, it is determined whether or not pixel values have been calculated for all interpolation pixels P in the y direction (step S11). If step S11 is negative, the interpolation direction is set to the y direction (step S12), and the process returns to step S3. When step S11 is affirmed, the enlarged image data S1 including the interpolation pixel P is output (step S13), and the process is terminated.

このように本実施形態においては、エッジが存在するか否かを検出する際に、上述したように差分d0、1次差分d1,d2,d3および2次差分d4,d5を算出しているのみであるため、簡易な演算により高速にエッジが存在するか否かを検出することができる。   As described above, in this embodiment, when detecting whether or not an edge is present, only the difference d0, the primary differences d1, d2, and d3 and the secondary differences d4 and d5 are calculated as described above. Therefore, it is possible to detect whether or not an edge exists at high speed by a simple calculation.

また、画像S0の画素の間にエッジが存在する場合には、図10(a),(b)に示すように境界のいずれの側に補間画素Pが存在するかを判定し、補間画素Pが存在する側の画素のみを用いて補間画素Pの画素値を算出するようにしたため、補間画素Pの画素値は、補間画素Pの両隣の画素G2,G3の画素値には影響されず、片方の側の画素値のみを反映させたものとなる。したがって、上記図13(a),(b)に示すように、補間画素Pの両隣の画素G2,G3の画素値を用いて補間画素Pの画素値を算出する場合と比較して、エッジのボケが少なくなるように補間画素Pの画素値を算出することができ、これによりエッジのボケの少ない拡大縮小された画像S1を得ることができる。   If there is an edge between the pixels of the image S0, it is determined on which side of the boundary the interpolation pixel P exists as shown in FIGS. 10 (a) and 10 (b), and the interpolation pixel P Since the pixel value of the interpolation pixel P is calculated using only the pixels on the side where the pixel exists, the pixel value of the interpolation pixel P is not affected by the pixel values of the pixels G2 and G3 adjacent to the interpolation pixel P. Only the pixel value on one side is reflected. Therefore, as shown in FIGS. 13A and 13B, the edge value of the interpolation pixel P is calculated as compared with the case of calculating the pixel value of the interpolation pixel P using the pixel values of the pixels G2 and G3 adjacent to the interpolation pixel P. The pixel value of the interpolated pixel P can be calculated so as to reduce the blur, thereby obtaining an enlarged / reduced image S1 with a reduced edge blur.

また、画像S0の画素の間にエッジが存在する場合には、画像S0を一方向に拡大縮小、すなわち補間画素Pの画素値を算出した後に他方向に拡大縮小、すなわち補間画素Pの画素値を算出しているため、2次元状に一度の演算により補間画素Pの画素値を算出する場合と比較して、補間画素Pの画素値を高速に算出することができる。   When an edge exists between the pixels of the image S0, the image S0 is enlarged / reduced in one direction, that is, the pixel value of the interpolation pixel P is calculated and then enlarged / reduced in the other direction, that is, the pixel value of the interpolation pixel P. Therefore, the pixel value of the interpolation pixel P can be calculated at a higher speed than the case where the pixel value of the interpolation pixel P is calculated by one-time calculation in two dimensions.

なお、上記実施形態においては、隣接する画素G1〜G4に図4に示す差分フィルタによるフィルタリング処理を行って1次差分d1,d2,d3および2次差分d4,d5を算出し、1次差分d1,d2,d3および2次差分d4,d5の正負の関係および差分d0の絶対値がしきい値Th1以上であるか否かの判定結果に基づいて、画素G2,G3間にエッジが存在するか否かを判定しているが、1次差分d1,d2,d3および2次差分d4,d5の正負の関係にのみ基づいて画素G2,G3間にエッジが存在するか否かを判定してもよい。   In the above embodiment, the primary differences d1, d2, d3 and the secondary differences d4, d5 are calculated by performing the filtering process using the difference filter shown in FIG. 4 on the adjacent pixels G1 to G4, and the primary difference d1. , D2, d3 and the secondary difference d4, d5, and whether or not an edge exists between the pixels G2 and G3 based on the determination result of whether or not the absolute value of the difference d0 is greater than or equal to the threshold Th1 Even if it is determined whether or not an edge exists between the pixels G2 and G3 based only on the positive / negative relationship of the primary differences d1, d2, d3 and the secondary differences d4, d5. Good.

また、上記実施形態においては、エッジでないと判定された場合、バイキュービック法を用いて補間画素P近傍の16画素の画素値(1次元方向では4画素)から補間画素Pの画素値を算出しているが、補間画素P近傍の9画素(1次元方向では3画素)あるいは4画素(1次元方向では2画素)の画素値から補間画素Pの画素値を算出してもよい。また、x方向またはy方向の1次元の補間演算により補間画素Pの画素値を算出しているが、エッジが存在しないと判定された場合においてのみ、2次元の補間演算により補間画素Pの画素値を算出してもよい。さらに、バイキュービック法のみならず、線形補間法、最近傍法およびバイリニア法等を用いて補間画素Pの画素値を算出してもよい。   In the above embodiment, when it is determined that the edge is not an edge, the pixel value of the interpolation pixel P is calculated from the pixel values of 16 pixels near the interpolation pixel P (4 pixels in the one-dimensional direction) using the bicubic method. However, the pixel value of the interpolation pixel P may be calculated from the pixel values of nine pixels (three pixels in the one-dimensional direction) or four pixels (two pixels in the one-dimensional direction) near the interpolation pixel P. In addition, the pixel value of the interpolation pixel P is calculated by one-dimensional interpolation calculation in the x direction or the y direction, but the pixel of the interpolation pixel P is calculated by two-dimensional interpolation calculation only when it is determined that no edge exists. A value may be calculated. Furthermore, the pixel value of the interpolation pixel P may be calculated using not only the bicubic method but also a linear interpolation method, a nearest neighbor method, a bilinear method, or the like.

本発明の実施形態による画像拡大縮小装置の構成を示す概略ブロック図1 is a schematic block diagram showing the configuration of an image enlargement / reduction device according to an embodiment of the present invention. 画像データにより表される画像の画素配列を示す図The figure which shows the pixel arrangement | sequence of the image represented by image data フィルタリング部において行われるフィルタリング処理を説明するための図The figure for demonstrating the filtering process performed in a filtering part 差分フィルタの例を示す図The figure which shows the example of difference filter 1次差分d1,d2,d3および2次差分d4,d5の正負と、直列に隣接する4つの画素のプロファイル形状との関係を示す表(その1)Table showing the relationship between the positive and negative of primary differences d1, d2, d3 and secondary differences d4, d5 and the profile shapes of four pixels adjacent in series (part 1) 1次差分d1,d2,d3および2次差分d4,d5の正負と、直列に隣接する4つの画素のプロファイル形状との関係を示す表(その2)Table showing the relationship between the positive and negative of primary differences d1, d2, d3 and secondary differences d4, d5 and the profile shapes of four pixels adjacent in series (part 2) 1次差分d1,d2,d3および2次差分d4,d5の正負と、直列に隣接する4つの画素のプロファイル形状との関係を示す表(その3)Table showing the relationship between the positive and negative of primary differences d1, d2, d3 and secondary differences d4, d5 and the profile shapes of four pixels adjacent in series (part 3) 隣接する2つの画素の画素値の差が非常にわずかであるのにエッジと判定されるプロファイル形状の例を示す図The figure which shows the example of the profile shape determined as an edge, although the difference of the pixel value of two adjacent pixels is very slight バイキュービック法を説明するための図Illustration for explaining the bicubic method エッジであると判定された部分についての補間画素の画素値の算出を説明するための図The figure for demonstrating calculation of the pixel value of the interpolation pixel about the part determined to be an edge 本実施形態において行われる処理を示すフローチャートA flowchart showing processing performed in the present embodiment 第1の補間演算のフローチャートFirst interpolation calculation flowchart 従来の補間演算を説明するための図Diagram for explaining conventional interpolation calculation

符号の説明Explanation of symbols

1 入力部
2 エッジ判定部
2A フィルタリング部
2B 判定部
3 補間演算部
3A 境界設定部
3B 判定部
3C 演算部
4 制御部
DESCRIPTION OF SYMBOLS 1 Input part 2 Edge determination part 2A Filtering part 2B Determination part 3 Interpolation operation part 3A Boundary setting part 3B Determination part 3C Operation part 4 Control part

Claims (4)

画像を拡大縮小する画像拡大縮小装置において、
画像上の直列に隣接する4つの画素に含まれる互いに隣接する2つの画素からなる3つの画素ペアに対してそれぞれ差分フィルタによるフィルタリング処理を施して前記3つの画素ペアの画素値のそれぞれについての3つの1次差分を得、該3つの1次差分における隣接する2つの1次差分ペアに対してそれぞれ前記差分フィルタによるフィルタリング処理を施して2つの2次差分を得るフィルタリング手段と、
前記3つの1次差分および前記2つの2次差分の正負の関係に基づいて、前記直列に隣接する4つの画素の中央の2つの画素の間にエッジが存在するか否かを検出する検出手段と、
前記中央の2つの画素の間にエッジが存在する場合、該画素間に所定の境界を設定する境界設定手段と、
前記中央の2つの画素の間に補間される新たな画素の位置が前記所定の境界のいずれの側にあるかを判定する判定手段と、
前記新たな画素の位置が前記所定の境界の一方の側にある場合には、前記画像上の前記一方の側に存在する少なくとも1つの画素の画素値による補間演算を行って、前記新たな画素の画素値を算出し、前記新たな画素の位置が前記所定の境界の他方の側にある場合には、前記画像上の前記他方の側に存在する少なくとも1つの画素の画素値による補間演算を行って、前記新たな画素の画素値を算出し、前記中央の2つの画素の間にエッジが存在しない場合、所定の補間演算により前記新たな画素の画素値を算出する補間演算手段と、
前記フィルタリング処理、前記エッジが存在するか否かの検出、前記エッジが存在する場合の前記所定の境界の設定、前記判定および前記新たな画素の画素値の算出、並びに前記エッジが存在しない場合の前記新たな画素の画素値の算出を、前記画像上の一方向について行うことにより、該一方向について拡大縮小された画像を得、この後、前記フィルタリング処理、前記エッジが存在するか否かの検出、前記エッジが存在する場合の前記所定の境界の設定、前記判定および前記新たな画素の画素値の算出、並びに前記エッジが存在しない場合の前記新たな画素の画素値の算出を、前記画像上の他方向について行うことにより、該他方向についても拡大縮小された画像を得るよう、前記フィルタリング手段、前記検出手段、前記境界設定手段、前記判定手段および前記補間演算手段を制御する制御手段とを備えたことを特徴とする画像拡大縮小装置。
In an image enlargement / reduction device that enlarges / reduces an image,
3 for each of the pixel values of the three pixel pairs by filtering each of the three pixel pairs including two adjacent pixels included in the four pixels adjacent in series on the image with a differential filter. Filtering means for obtaining two primary differences by obtaining two primary differences and performing filtering processing by the differential filter on two adjacent primary difference pairs in the three primary differences, respectively;
Detection means for detecting whether or not an edge exists between two central pixels of the four pixels adjacent in series based on a positive / negative relationship between the three primary differences and the two secondary differences When,
A boundary setting means for setting a predetermined boundary between the pixels when an edge exists between the two central pixels;
Determining means for determining on which side of the predetermined boundary a position of a new pixel interpolated between the two central pixels;
When the position of the new pixel is on one side of the predetermined boundary, an interpolation operation is performed using a pixel value of at least one pixel existing on the one side of the image, and the new pixel When the position of the new pixel is on the other side of the predetermined boundary, an interpolation operation is performed using the pixel value of at least one pixel existing on the other side of the image. Performing interpolation calculation means for calculating a pixel value of the new pixel and calculating a pixel value of the new pixel by a predetermined interpolation calculation when there is no edge between the two central pixels;
The filtering process, the detection of whether the edge exists, the setting of the predetermined boundary when the edge exists, the determination and the calculation of the pixel value of the new pixel, and the case where the edge does not exist By calculating the pixel value of the new pixel in one direction on the image, an image that is enlarged or reduced in the one direction is obtained, and then the filtering process, whether the edge exists or not is obtained. Detection, setting of the predetermined boundary when the edge exists, determination and calculation of the pixel value of the new pixel, and calculation of the pixel value of the new pixel when the edge does not exist, The filtering means, the detecting means, and the boundary setting means so as to obtain an image that is also enlarged and reduced in the other direction by performing in the other direction above. Image scaling device characterized by a control means for controlling said determining means and said interpolation calculation means.
前記フィルタリング手段は、前記直列に隣接する4つの画素の中央の2つの画素に対して前記差分フィルタによるフィルタリング処理を施して前記中央の2つの画素の画素値の差分をさらに得る手段であり、
前記検出手段は、前記中央の2つの画素の画素値の差分の絶対値が所定のしきい値以上であるか否かの判定結果にも基づいて、前記直列に隣接する4つの画素の中央の2つの画素の間にエッジが存在するか否かを検出する手段であることを特徴とする請求項1記載の画像拡大縮小装置。
The filtering means is means for further obtaining a difference between pixel values of the central two pixels by performing filtering processing by the differential filter on two central pixels of the four pixels adjacent in series.
The detection means is based on a determination result of whether or not an absolute value of a difference between pixel values of the two central pixels is equal to or greater than a predetermined threshold value, and the center of the four pixels adjacent in series is determined. 2. The image enlarging / reducing apparatus according to claim 1, wherein the image enlarging / reducing apparatus is means for detecting whether or not an edge exists between two pixels.
画像を拡大縮小する画像拡大縮小方法において、
画像上の直列に隣接する4つの画素に含まれる互いに隣接する2つの画素からなる3つの画素ペアに対してそれぞれ差分フィルタによるフィルタリング処理を施して前記3つの画素ペアの画素値のそれぞれについての3つの1次差分を得、該3つの1次差分における隣接する2つの1次差分ペアに対してそれぞれ前記差分フィルタによるフィルタリング処理を施して2つの2次差分を得、
前記3つの1次差分および前記2つの2次差分の正負の関係に基づいて、前記直列に隣接する4つの画素の中央の2つの画素の間にエッジが存在するか否かを検出し、
前記中央の2つの画素の間にエッジが存在する場合、該画素間に所定の境界を設定し、
前記中央の2つの画素の間に補間される新たな画素の位置が前記所定の境界のいずれの側にあるかを判定し、
前記新たな画素の位置が前記所定の境界の一方の側にある場合には、前記画像上の前記一方の側に存在する少なくとも1つの画素の画素値による補間演算を行って、前記新たな画素の画素値を算出し、前記新たな画素の位置が前記所定の境界の他方の側にある場合には、前記画像上の前記他方の側に存在する少なくとも1つの画素の画素値による補間演算を行って、前記新たな画素の画素値を算出し、前記中央の2つの画素の間にエッジが存在しない場合、所定の補間演算により前記新たな画素の画素値を算出し、
前記フィルタリング処理、前記エッジが存在するか否かの検出、前記エッジが存在する場合の前記所定の境界の設定、前記判定および前記新たな画素の画素値の算出、並びに前記エッジが存在しない場合の前記新たな画素の画素値の算出を、前記画像上の一方向について行うことにより、該一方向について拡大縮小された画像を得、この後、前記フィルタリング処理、前記エッジが存在するか否かの検出、前記エッジが存在する場合の前記所定の境界の設定、前記判定および前記新たな画素の画素値の算出、並びに前記エッジが存在しない場合の前記新たな画素の画素値の算出を、前記画像上の他方向について行うことにより、該他方向についても拡大縮小された画像を得ることを特徴とする画像拡大縮小方法。
In an image scaling method for scaling an image,
3 for each of the pixel values of the three pixel pairs by filtering each of the three pixel pairs including two adjacent pixels included in the four pixels adjacent in series on the image with a differential filter. Two primary differences are obtained by filtering each of the two adjacent primary difference pairs in the three primary differences with the filtering by the difference filter,
Based on the positive / negative relationship between the three primary differences and the two secondary differences, it is detected whether there is an edge between the two central pixels of the four pixels adjacent in series,
When an edge exists between the two central pixels, a predetermined boundary is set between the pixels,
Determining which side of the predetermined boundary is the position of the new pixel interpolated between the central two pixels;
When the position of the new pixel is on one side of the predetermined boundary, an interpolation operation is performed using a pixel value of at least one pixel existing on the one side of the image, and the new pixel When the position of the new pixel is on the other side of the predetermined boundary, an interpolation operation is performed using the pixel value of at least one pixel existing on the other side of the image. To calculate a pixel value of the new pixel, and when no edge exists between the two central pixels, calculate a pixel value of the new pixel by a predetermined interpolation operation,
The filtering process, the detection of whether the edge exists, the setting of the predetermined boundary when the edge exists, the determination and the calculation of the pixel value of the new pixel, and the case where the edge does not exist By calculating the pixel value of the new pixel in one direction on the image, an image that is enlarged or reduced in the one direction is obtained, and then the filtering process, whether the edge exists or not is obtained. Detection, setting of the predetermined boundary when the edge exists, determination and calculation of the pixel value of the new pixel, and calculation of the pixel value of the new pixel when the edge does not exist, An image enlarging / reducing method, characterized in that an image enlarged / reduced in the other direction is obtained by performing in the other direction above.
画像を拡大縮小する画像拡大縮小方法をコンピュータに実行させるためのプログラムにおいて、
画像上の直列に隣接する4つの画素に含まれる互いに隣接する2つの画素からなる3つの画素ペアに対してそれぞれ差分フィルタによるフィルタリング処理を施して前記3つの画素ペアの画素値のそれぞれについての3つの1次差分を得、該3つの1次差分における隣接する2つの1次差分ペアに対してそれぞれ前記差分フィルタによるフィルタリング処理を施して2つの2次差分を得る手順と、
前記3つの1次差分および前記2つの2次差分の正負の関係に基づいて、前記直列に隣接する4つの画素の中央の2つの画素の間にエッジが存在するか否かを検出する手順と、
前記中央の2つの画素の間にエッジが存在する場合、該画素間に所定の境界を設定する手順と、
前記中央の2つの画素の間に補間される新たな画素の位置が前記所定の境界のいずれの側にあるかを判定する手順と、
前記新たな画素の位置が前記所定の境界の一方の側にある場合には、前記画像上の前記一方の側に存在する少なくとも1つの画素の画素値による補間演算を行って、前記新たな画素の画素値を算出し、前記新たな画素の位置が前記所定の境界の他方の側にある場合には、前記画像上の前記他方の側に存在する少なくとも1つの画素の画素値による補間演算を行って、前記新たな画素の画素値を算出し、前記中央の2つの画素の間にエッジが存在しない場合、所定の補間演算により前記新たな画素の画素値を算出する手順と、
前記フィルタリング処理、前記エッジが存在するか否かの検出、前記エッジが存在する場合の前記所定の境界の設定、前記判定および前記新たな画素の画素値の算出、並びに前記エッジが存在しない場合の前記新たな画素の画素値の算出を、前記画像上の一方向について行うことにより、該一方向について拡大縮小された画像を得、この後、前記フィルタリング処理、前記エッジが存在するか否かの検出、前記エッジが存在する場合の前記所定の境界の設定、前記判定および前記新たな画素の画素値の算出、並びに前記エッジが存在しない場合の前記新たな画素の画素値の算出を、前記画像上の他方向について行うことにより、該他方向についても拡大縮小された画像を得る手順とを有することを特徴とするプログラム。
In a program for causing a computer to execute an image scaling method for scaling an image,
3 for each of the pixel values of the three pixel pairs by filtering each of the three pixel pairs including two adjacent pixels included in the four pixels adjacent in series on the image with a differential filter. A procedure of obtaining two primary differences by obtaining two primary differences and applying filtering processing by the differential filter to two adjacent primary difference pairs in the three primary differences, respectively.
A procedure for detecting whether or not an edge exists between two central pixels of the four pixels adjacent in series based on a positive / negative relationship between the three primary differences and the two secondary differences; ,
A step of setting a predetermined boundary between the pixels when an edge exists between the two central pixels;
A procedure for determining on which side of the predetermined boundary a position of a new pixel to be interpolated between the central two pixels;
When the position of the new pixel is on one side of the predetermined boundary, an interpolation operation is performed using a pixel value of at least one pixel existing on the one side of the image, and the new pixel When the position of the new pixel is on the other side of the predetermined boundary, an interpolation operation is performed using the pixel value of at least one pixel existing on the other side of the image. To calculate the pixel value of the new pixel, and when no edge exists between the two central pixels, a procedure for calculating the pixel value of the new pixel by a predetermined interpolation operation;
The filtering process, the detection of whether the edge exists, the setting of the predetermined boundary when the edge exists, the determination and the calculation of the pixel value of the new pixel, and the case where the edge does not exist By calculating the pixel value of the new pixel in one direction on the image, an image that is enlarged or reduced in the one direction is obtained, and then the filtering process, whether the edge exists or not is obtained. Detection, setting of the predetermined boundary when the edge exists, determination and calculation of the pixel value of the new pixel, and calculation of the pixel value of the new pixel when the edge does not exist, And a procedure for obtaining an image that is also enlarged and reduced in the other direction by performing in the other direction.
JP2003293488A 2003-08-14 2003-08-14 Image enlarging / reducing apparatus, method, and program Expired - Fee Related JP4120872B2 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003293488A JP4120872B2 (en) 2003-08-14 2003-08-14 Image enlarging / reducing apparatus, method, and program
US10/917,505 US7764839B2 (en) 2003-08-14 2004-08-13 Edge detecting apparatus and method, and image size enlarging and reducing apparatus and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003293488A JP4120872B2 (en) 2003-08-14 2003-08-14 Image enlarging / reducing apparatus, method, and program

Publications (2)

Publication Number Publication Date
JP2005063198A JP2005063198A (en) 2005-03-10
JP4120872B2 true JP4120872B2 (en) 2008-07-16

Family

ID=34370421

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003293488A Expired - Fee Related JP4120872B2 (en) 2003-08-14 2003-08-14 Image enlarging / reducing apparatus, method, and program

Country Status (1)

Country Link
JP (1) JP4120872B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116193151B (en) * 2023-03-02 2024-12-03 广州方硅信息技术有限公司 Virtual gift special effect playing method and device, equipment and medium thereof

Also Published As

Publication number Publication date
JP2005063198A (en) 2005-03-10

Similar Documents

Publication Publication Date Title
CN103049914B (en) High-resolution depth map generation method and system based on boundary
CN1319375C (en) Image zooming method based on edge detection
US7764839B2 (en) Edge detecting apparatus and method, and image size enlarging and reducing apparatus and method
US8693783B2 (en) Processing method for image interpolation
JP5644461B2 (en) Image processing apparatus and program
JP4388110B2 (en) Image processing apparatus, method, and program
JPH06291988A (en) Digital video data interpolation method and circuit
JP2009100407A (en) Image processing apparatus and method
JP6838918B2 (en) Image data processing device and method
JP2005217532A (en) Resolution conversion method and resolution conversion apparatus
JP4120872B2 (en) Image enlarging / reducing apparatus, method, and program
JP2005063197A (en) Image interpolation device and method, and program
JP4156469B2 (en) Edge detection apparatus and method, profile determination apparatus and method, and program
CN109978766B (en) Image amplifying method and image amplifying device
JP4629123B2 (en) Edge detection method, apparatus, and program
JP2005141498A (en) Method, device, and program for edge detection
JP4414195B2 (en) Image interpolation method, apparatus and program
JP4716255B2 (en) Image processing apparatus, image processing method, and program thereof
JP4133746B2 (en) Interpolated pixel value calculation method, apparatus, and program
JP4500707B2 (en) Image data processing device
WO2016035568A1 (en) Signal processing device and signal processing method, solid-state imaging element, imaging device, electronic instrument, and program
US20050036711A1 (en) Image interpolation apparatus and method, and edge detecting apparatus and method
JP4628406B2 (en) Image processing apparatus, method, and program
JP2010141863A (en) Image processing method, apparatus and program
JP4133742B2 (en) Interpolated pixel value calculation method, apparatus, and program

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060303

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061206

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080122

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080415

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080416

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110509

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110509

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120509

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130509

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140509

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees