Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP3230371B2 - Character recognition device and character recognition method - Google Patents
[go: Go Back, main page]

JP3230371B2 - Character recognition device and character recognition method - Google Patents

Character recognition device and character recognition method

Info

Publication number
JP3230371B2
JP3230371B2 JP13946494A JP13946494A JP3230371B2 JP 3230371 B2 JP3230371 B2 JP 3230371B2 JP 13946494 A JP13946494 A JP 13946494A JP 13946494 A JP13946494 A JP 13946494A JP 3230371 B2 JP3230371 B2 JP 3230371B2
Authority
JP
Japan
Prior art keywords
character
rotation angle
steel material
image
projection histogram
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP13946494A
Other languages
Japanese (ja)
Other versions
JPH07325885A (en
Inventor
修 谷口
斎之郎 竹内
猛 熊谷
悟 山口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Steel Corp
Original Assignee
Nippon Steel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Steel Corp filed Critical Nippon Steel Corp
Priority to JP13946494A priority Critical patent/JP3230371B2/en
Publication of JPH07325885A publication Critical patent/JPH07325885A/en
Application granted granted Critical
Publication of JP3230371B2 publication Critical patent/JP3230371B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Character Input (AREA)
  • Image Analysis (AREA)

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【産業上の利用分野】本発明は、たとえばビレット、ブ
ルーム等の圧延鋼材の端面に刻印された数字やアルファ
ベット、記号等の文字を認識する文字認識装置に関する
ものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a character recognition device for recognizing characters such as numerals, alphabets and symbols imprinted on an end face of a rolled steel material such as a billet or bloom.

【0002】[0002]

【従来の技術】文字認識装置は、たとえば四角柱状の鋼
材の端面に刻印された文字を認識する場合等に使用され
る。かかる場合、従来の文字認識装置では、まず、照明
手段で鋼材の端面を照明して、CCDカメラにより、こ
の端面に刻印された文字を撮像し、濃淡画像を得る。そ
して、文字と背景とのコントラストの差を大きくする処
理を施し、その後、文字と背景とを分離するしきい値を
用いて、濃淡画像を二値画像に変換する。次に、二値画
像に含まれるノイズをフィルターを用いて除去した後、
その二値画像から抽出された文字の特徴量を対応する基
準特徴量と比較することにより、鋼材に刻印された文字
を識別している。
2. Description of the Related Art A character recognition device is used, for example, when recognizing a character engraved on an end face of a square pillar-shaped steel material. In such a case, in the conventional character recognition device, first, the end face of the steel material is illuminated by the illuminating means, and a character engraved on the end face is imaged by the CCD camera to obtain a grayscale image. Then, a process of increasing the contrast difference between the character and the background is performed, and thereafter, the grayscale image is converted into a binary image using a threshold value for separating the character and the background. Next, after removing the noise contained in the binary image using a filter,
By comparing the feature amount of the character extracted from the binary image with the corresponding reference feature amount, the character engraved on the steel material is identified.

【0003】[0003]

【発明が解決しようとする課題】ところで、鋼材は搬送
手段により撮像位置に送られるが、このとき、鋼材が回
転してしまい、文字が横向きになったり、逆向きになっ
たりして正しい方向を向かないことがある。従来の装置
では、かかる回転を検出する機構を備えておらず、たと
えば、図7に示すように、鋼材が180°回転した場合
には、逆向きの文字を正しい向きの文字であるとして認
識処理を行うため、文字を認識できないという問題があ
った。特に、数字が刻印された場合であって、数字がす
べて「8」と「6」である場合には、鋼材が180°回
転すると、認識処理により数字は「8」と「9」である
と誤認識され、その結果が正常なものであるとして出力
されるので問題となっていた。
By the way, the steel material is sent to the imaging position by the conveying means. At this time, the steel material is rotated, and the characters are turned sideways or reversed, so that the correct direction is obtained. May not be suitable. The conventional device does not include a mechanism for detecting such rotation. For example, as shown in FIG. 7, when the steel material is rotated by 180 °, the character in the opposite direction is recognized as the character in the correct direction. , There is a problem that characters cannot be recognized. In particular, when the numbers are engraved, and all the numbers are “8” and “6”, when the steel material is rotated by 180 °, the numbers are “8” and “9” by the recognition process. This is problematic because the recognition is incorrect and the result is output as being normal.

【0004】本発明は上記事情に基づいてなされたもの
であり、被検査物が回転した場合でも文字を正確に識別
することができる文字認識装置を提供することを目的と
するものである。
The present invention has been made based on the above circumstances, and an object of the present invention is to provide a character recognition device capable of accurately identifying a character even when a test object rotates.

【0005】[0005]

【課題を解決するための手段】上記の目的を達成するた
めの請求項1記載の発明に係る文字認識装置は、四角
状の面の隣合う二辺に偏って配列された文字を含む前記
面を撮像して得られた画像に基づいてx方向及びy方向
についての射影ヒストグラムを求め、二つの射影ヒスト
グラムが最大となる位置により前記文字配列の偏りを検
し、前記文字配列の偏り方に基づいて前記文字の回転
角度を検出する回転角度検出手段と、前記画像に基づい
て前記文字の切り出しを行う文字切り出し手段と、前記
文字切り出し手段により切り出された前記文字を、前記
回転角度を考慮して識別する文字認識手段と、を備える
ことを特徴とするものである。
Character recognition apparatus according to the invention of claim 1, wherein for achieving the above object, according resolve means for a] is arranged disproportionately on two sides adjacent the square-shaped <br/> like surface The above including characters
X and y directions based on the image obtained by imaging the surface
Find the projection histogram for
The bias of the character arrangement is detected based on the position where the gram is maximum.
And out, a rotation angle detecting means for detecting a rotational angle of the character based on the bias side of the character array, and character segmentation means cuts out the character on the basis of the image, cut out by the character cut-out means And a character recognizing means for identifying the character in consideration of the rotation angle.

【0006】[0006]

【0007】請求項記載の発明に係る文字認識装置
は、請求項記載の発明において、前記回転角度検出手
段は、前記最大となる位置と、前記最大となる位置の周
辺における前記射影ヒストグラムの分布状況とにより前
記文字配列の偏りを検出することを特徴とするものであ
る。
According to a second aspect of the present invention, in the character recognition apparatus according to the first aspect , the rotation angle detecting means is configured to determine the maximum position and the projection histogram in the vicinity of the maximum position. The bias of the character arrangement is detected based on the distribution status.

【0008】[0008]

【0009】[0009]

【0010】[0010]

【作用】請求項1記載の発明は前記の構成によって、
角形状の面の隣合う二辺に偏って配列された文字を含む
前記面を撮像して得られた画像に基づいて文字配列の偏
りを検出する回転角度検出手段を設けたことにより、そ
の文字配列の偏り方に基づいて文字の回転角度を検出す
ることができる。このため、回転角度から文字の向きを
知ることができるので、たとえ文字が回転している場合
でも、文字識別手段において、回転角度を考慮して、文
字を正確に識別することができる。
[Action] The invention of claim 1, wherein depending on the configuration of the, four
Includes characters that are skewed on two adjacent sides of a square face
By providing the rotation angle detecting means for detecting the deviation of the character arrangement based on the image obtained by imaging the surface, the rotation angle of the character can be detected based on the deviation of the character arrangement. For this reason, since the direction of the character can be known from the rotation angle, even if the character is rotating, the character can be accurately identified in the character identification means in consideration of the rotation angle.

【0011】また、回転角度検出手段では、x方向及び
y方向についての射影ヒストグラムを求め、二つの射影
ヒストグラムが最大となる位置に基づいて文字配列の偏
りを検出することにより、文字配列の偏りを容易に求め
ることができる。
[0011] In the rotation angle detection means, obtains the projection histogram of the x-direction and y-direction, by detecting the deviation of the character array on the basis of the position where the two projection histogram is maximum, the deviation of the character array It can be easily obtained.

【0012】請求項記載の発明は前記の構成によっ
て、回転角度検出手段では、射影ヒストグラムが最大と
なる位置と、その最大となる位置の周辺における射影ヒ
ストグラムの分布状況とに基づいて文字配列の偏りを検
出することにより、たとえ文字が四角形状の面の隣合う
二辺に偏って配列されていない場合でも、文字の回転角
度を検出することができる。
According to a second aspect of the present invention, the rotation angle detecting means has a character arrangement based on the position where the projection histogram is maximum and the distribution state of the projection histogram around the position where the projection histogram is maximum. By detecting the deviation, the rotation angle of the character can be detected even if the characters are not arranged on two adjacent sides of the rectangular surface.

【0013】[0013]

【0014】[0014]

【0015】[0015]

【実施例】以下に本発明の第一実施例について図面を参
照して説明する。図1は本発明の第一実施例である文字
認識装置の概略構成図、図2は鋼材の端面に刻印される
文字の配列方法を説明するための図、図3は図2に示す
文字の配列方法において、鋼材の回転角度をどのように
判定するかを説明するための図、図4は図1の文字認識
装置の回転角度検出部における射影ヒストグラムの例を
示す図、図5はその回転角度検出部において、鋼材の回
転角度の検出手法を説明するための図である。
DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS A first embodiment of the present invention will be described below with reference to the drawings. FIG. 1 is a schematic configuration diagram of a character recognition device according to a first embodiment of the present invention, FIG. 2 is a diagram for explaining a method of arranging characters engraved on an end face of a steel material, and FIG. FIG. 4 is a diagram for explaining how to determine the rotation angle of the steel material in the arrangement method, FIG. 4 is a diagram showing an example of a projection histogram in the rotation angle detection unit of the character recognition device in FIG. 1, and FIG. FIG. 5 is a diagram for explaining a method of detecting a rotation angle of a steel material in an angle detection unit.

【0016】第一実施例では、被検査物としてビレット
やブルーム等の四角柱状の圧延鋼材を用い、かかる被検
査物の端面に刻印された数字等の文字を識別する場合に
ついて考える。また、これらの文字は、端面の四辺のう
ち、隣合う二辺に偏って刻印されている。たとえば、文
字を略直角三角形状又は略L字状の領域内に配列するこ
とにし、この領域の直角部分の両隣りの二辺が被検査物
の端面の隣合う二辺に沿って位置するように文字を配置
する。ここで、かかる領域の直角部分の両隣りの二辺
は、被検査物の端面の隣合う二辺から二文字分の距離以
内のところに配置するようにする。図2(a)に示す例
では、数字を略三角形状の領域に配列し、第一列を7
字、第二列を3字、第三列を1字、第四列を1字として
いる。そして、この領域の直角部分の両隣りの二辺が被
検査物の端面の隣合う二辺に隣接するようにしている。
また、図2(b)では、アルファベットを、図2(a)
と同様に、配列しているが、被検査物が180°回転し
た例を示している。尚、以下では、図2(a)に示すよ
うに、文字を左上に偏らせて配列し、この状態で文字が
正しい向きとなるように刻印する場合を考える。そし
て、被検査物がこのままの状態で回転していない場合
を、被検査物の正常状態と呼ぶことにする。
In the first embodiment, a case is considered in which a square pillar-shaped rolled steel material such as a billet or bloom is used as an object to be inspected, and a character such as a number stamped on an end face of the object to be inspected is identified. These characters are engraved on two adjacent sides out of the four sides of the end face. For example, characters are arranged in a substantially right-angled triangular or substantially L-shaped region, and two sides on both sides of a right-angled portion of this region are located along two adjacent sides on the end face of the inspection object. To place the character. Here, the two sides on both sides of the right angle portion of the area are arranged within a distance of two characters from the two adjacent sides on the end face of the inspection object. In the example shown in FIG. 2A, numbers are arranged in a substantially triangular area, and the first column is
Letters, the second row is three letters, the third row is one letter, and the fourth row is one letter. Then, two sides on both sides of a right angle portion of this region are adjacent to two adjacent sides on the end face of the inspection object.
Also, in FIG. 2B, the alphabet is represented by FIG.
In this example, the inspection object is rotated by 180 °. In the following, as shown in FIG. 2A, a case is considered in which characters are arranged so as to be deviated to the upper left, and in this state, the characters are stamped so as to be in the correct direction. Then, a case where the object to be inspected does not rotate in this state is referred to as a normal state of the object to be inspected.

【0017】このように文字を配列しておくと、被検査
物を撮像して得られた画像を画像処理する際に、文字配
列の偏りを検出し、その文字配列の偏り方に基づいて、
被検査物の回転角度を知ることができる。すなわち、図
3(a)に示すように、文字配列が左上に偏っている場
合には、被検査物は回転していないと判定され、図3
(b)に示すように、右上に偏っている場合には、90
°回転していると判定され、図3(c)に示すように、
右下に偏っている場合には、180°回転していると判
定される。そして、図3(d)に示すように、左下に偏
っている場合には、270°回転していると判定され
る。
By arranging the characters in this way, when performing image processing on an image obtained by imaging the object to be inspected, the bias of the character array is detected, and based on the bias of the character array,
The rotation angle of the inspection object can be known. That is, as shown in FIG. 3A, when the character arrangement is shifted to the upper left, it is determined that the inspection object is not rotating, and
As shown in (b), when it is biased to the upper right, 90
° is determined to be rotating, and as shown in FIG.
If it is deviated to the lower right, it is determined that it has rotated 180 °. Then, as shown in FIG. 3 (d), when it is deviated to the lower left, it is determined that it has rotated 270 °.

【0018】第一実施例の文字認識装置は、図1に示す
ように、照明手段12と、撮像手段としてのCCDカメ
ラ14と、A/D変換部16と、画像メモリ18と、二
値化処理部22と、二値画像処理部24と、文字領域切
り出し部26と、回転角度検出部28と、文字切り出し
部30と、特徴抽出部42と、文字認識手段としての画
像認識処理部44と、画像処理用メモリ46と、表示装
置48とを備えるものである。
As shown in FIG. 1, the character recognition apparatus according to the first embodiment includes an illumination unit 12, a CCD camera 14 as an imaging unit, an A / D conversion unit 16, an image memory 18, A processing unit 22, a binary image processing unit 24, a character area cutout unit 26, a rotation angle detection unit 28, a character cutout unit 30, a feature extraction unit 42, and an image recognition processing unit 44 as a character recognition unit. , An image processing memory 46, and a display device 48.

【0019】照明手段12は、鋼材2を照射する光源で
ある。鋼材2は搬送手段4により搬送され、照明手段1
2の照明下で鋼材2の端面2aが撮像される。CCDカ
メラ14は、撮像レンズにより撮像素子上に鋼材2の端
面2aについての光学像を二次元の画像として結像さ
せ、撮像素子上に光電変換を行って光学像に対応した電
荷を一次元の電気信号として出力する。撮像素子から得
られた一次元の電気信号は、画像信号としてA/D変換
部16に出力される。A/D変換部16は、CCDカメ
ラ14から出力された画像信号をディジタル信号に変換
して出力するものである。画像メモリ18は、A/D変
換部16から出力された画像信号(濃淡画像信号)を一
時記憶する。ここで、文字が形成されていない背景領域
は、照明手段12からの光がそのまま反射して輝度が向
上するので、明るくなり、一方、文字領域は、刻印され
て窪んでいるため光が乱反射して輝度が低くなるので、
暗くなる。したがって、背景領域の濃度レベルは高く、
文字領域の濃度レベルは低くなる。
The illumination means 12 is a light source for irradiating the steel material 2. The steel material 2 is transported by the transport means 4 and the illumination means 1
Under the illumination 2, the end face 2 a of the steel material 2 is imaged. The CCD camera 14 forms an optical image of the end face 2a of the steel material 2 as a two-dimensional image on the imaging device by the imaging lens, performs photoelectric conversion on the imaging device, and converts a charge corresponding to the optical image into a one-dimensional image. Output as an electric signal. The one-dimensional electric signal obtained from the image sensor is output to the A / D converter 16 as an image signal. The A / D converter 16 converts an image signal output from the CCD camera 14 into a digital signal and outputs the digital signal. The image memory 18 temporarily stores the image signal (shade image signal) output from the A / D converter 16. Here, the background area where no characters are formed becomes brighter because the light from the illumination means 12 is reflected as it is and the brightness is improved, while the character area is engraved and depressed so that the light is irregularly reflected. The brightness will be lower,
Get dark. Therefore, the density level of the background area is high,
The density level of the character area decreases.

【0020】二値化処理部22は、所定のしきい値に基
づいて濃淡画像を二値画像に変換するものである。ここ
では、濃度レベルがしきい値以下である画素(文字領
域)に「1」の値を、濃度レベルがしきい値より大きい
画素(背景領域)に「0」を付与する。二値画像処理部
24は、ローパスフィルター等を用いて、二値画像に含
まれる高周波のノイズを除去したり、文字や鋼材2の境
界を強調する処理を行う。文字領域切り出し部26は、
鋼材2の境界の位置を検出し、かかる境界で囲まれる領
域を、文字が含まれる文字領域として特定する。
The binarization processing section 22 converts a grayscale image into a binary image based on a predetermined threshold value. Here, a value of “1” is assigned to a pixel (character area) whose density level is equal to or lower than the threshold, and “0” is assigned to a pixel (background area) whose density level is higher than the threshold. The binary image processing unit 24 uses a low-pass filter or the like to remove high-frequency noise included in the binary image, or to perform a process of emphasizing the boundary between the character and the steel material 2. The character area cutout unit 26
The position of the boundary of the steel material 2 is detected, and an area surrounded by the boundary is specified as a character area including a character.

【0021】回転角度検出部28は、文字配列の偏りを
検出することにより、鋼材2の回転角度を求めるもので
ある。文字切り出し部30は、鋼材2の回転角度を考慮
し、二値画像について各文字の位置を特定するものであ
り、文字列切り出し部32と、文字行切り出し部34と
を有する。文字列切り出し部32では、文字の各列の切
り出しを行い、文字行切り出し部34では、文字の各行
の切り出しを行う。
The rotation angle detector 28 determines the rotation angle of the steel material 2 by detecting the deviation of the character arrangement. The character cutout unit 30 specifies the position of each character in the binary image in consideration of the rotation angle of the steel material 2, and has a character string cutout unit 32 and a character line cutout unit 34. The character string cutout unit 32 cuts out each column of the character, and the character line cutout unit 34 cuts out each line of the character.

【0022】特徴抽出部42は、文字切り出し部30に
より切り出された各文字について、特徴量を抽出するも
のである。画像処理用メモリ46は、予め刻印されるこ
とが分かっている各文字についての所定の基準となる特
徴量を記憶する。画像認識処理部44は、回転角度検出
部28で得られた回転角度から文字の向きを考慮し、特
徴抽出部42から抽出された特徴量を画像処理用メモリ
46に記憶された基準特徴量と比較することより、文字
を識別するものである。また、表示装置48は、文字の
識別結果を出力するものである。
The feature extracting unit 42 extracts a feature amount of each character cut out by the character cutting unit 30. The image processing memory 46 stores a feature amount serving as a predetermined reference for each character that is known to be engraved in advance. The image recognition processing unit 44 considers the direction of the character based on the rotation angle obtained by the rotation angle detection unit 28, and stores the feature amount extracted from the feature extraction unit 42 with the reference feature amount stored in the image processing memory 46. Characters are identified by comparison. The display device 48 outputs a result of character identification.

【0023】次に、第一実施例の文字認識装置の動作に
ついて説明する。まず、鋼材2がCCDカメラ14に近
づくと、CCDカメラ14は、照明手段12による照明
下で鋼材2を撮像する。CCDカメラ14から出力され
た画像信号は、A/D変換部16でディジタルの画像信
号に変換された後、画像メモリ18に取り込まれる。
Next, the operation of the character recognition device of the first embodiment will be described. First, when the steel material 2 approaches the CCD camera 14, the CCD camera 14 captures an image of the steel material 2 under illumination by the illumination unit 12. The image signal output from the CCD camera 14 is converted into a digital image signal by the A / D converter 16 and then taken into the image memory 18.

【0024】画像メモリ18に記憶された画像信号は、
二値化処理部22で、所定のしきい値に基づいて二値画
像に変換される。そして、かかる二値画像は二値画像処
理部24に送られ、ローパスフィルター等にかけて二値
画像に含まれる高周波のノイズを除去したり、文字や鋼
材2の境界を強調する処理が行われる。その後、文字領
域切り出し部26で、文字領域が特定される。
The image signal stored in the image memory 18 is
The binarization processing unit 22 converts the image into a binary image based on a predetermined threshold. Then, the binary image is sent to the binary image processing unit 24, and subjected to a low-pass filter or the like to remove high-frequency noise included in the binary image, or to perform a process of emphasizing a boundary between the character and the steel material 2. After that, the character area cutout unit 26 specifies the character area.

【0025】次に、回転角度検出部28において、鋼材
2の回転角度を検出する。まず、図4に示すように、文
字領域切り出し部26により特定された文字領域におい
て、各x座標の値に対して「1」の値を持つ画素の数を
集計したx方向の射影ヒストグラムと、各y座標の値に
対して「1」の値を持つ画素の数を集計したy方向の射
影ヒストグラムとを求める。そして、x方向の射影ヒス
トグラムから画素数が最大となる点x0 を求め、y方向
に射影した射影ヒストグラムから画素数が最大となる点
0 を求める。こうして得られた画素数が最大となるピ
ーク位置(x0,y0 )は、文字配列の偏りを表すもの
とみなされる。
Next, the rotation angle detector 28 detects the rotation angle of the steel material 2. First, as shown in FIG. 4, in the character region specified by the character region cutout unit 26, an x-direction projection histogram in which the number of pixels having a value of “1” for each x-coordinate value is calculated, A projection histogram in the y-direction, in which the number of pixels having a value of “1” for each y-coordinate value, is calculated. Then, a point x 0 at which the number of pixels is maximum is obtained from the projection histogram in the x direction, and a point y 0 at which the number of pixels is maximum is obtained from the projection histogram projected in the y direction. The peak position (x 0 , y 0 ) at which the number of pixels thus obtained is the maximum is regarded as representing a bias in the character arrangement.

【0026】次に、図5に示すように、このピーク位置
(x0 ,y0 )から文字領域の四つの境界線までの距離
1 ,L2 ,L3 ,L4 を求める。ここで、L1 はピー
ク位置と左側の境界線b1 との距離、L2 はピーク位置
と右側の境界線b2 との距離、L3 はピーク位置と上側
の境界線b3 との距離、L4 はピーク位置と下側の境界
線b4 との距離である。そして、ピーク位置(x0 ,y
0 )が、文字領域中の左上、右上、右下、左下のいずれ
にあるかを調べることにより、鋼材2の回転角度を求め
る。すなわち、L1 <L2 、L3 <L4 であるならば、
ピーク位置は文字領域の左上にあることがわかり、鋼材
2は正常状態である(0°回転)と判定される。L1
2 、L3 <L4 であるならば、ピーク位置は文字領域
の右上にあることがわかり、鋼材2は90°回転してい
ると判定される。L1 >L2 、L3 >L4 であるなら
ば、ピーク位置は文字領域の右下にあることがわかり、
鋼材2は180°回転していると判定される。また、L
1 <L2 、L3 >L4 であるならば、ピーク位置は文字
領域の左下にあることがわかり、鋼材2は270°回転
していると判定される。
Next, as shown in FIG. 5, distances L 1 , L 2 , L 3 , and L 4 from the peak position (x 0 , y 0 ) to the four boundaries of the character area are obtained. Here, the distance between the L 1 distance between the boundary line b 1 of the peak position and left, L 2 is the distance between the boundary line b 2 of the peak position and the right, L 3 is the peak position and the upper boundary line b 3 , L 4 is the distance between the boundary line b 4 of the peak position and the lower side. Then, the peak position (x 0 , y
0 ) is located in the upper left, upper right, lower right, or lower left of the character area to determine the rotation angle of the steel material 2. That is, if L 1 <L 2 and L 3 <L 4 ,
It can be seen that the peak position is at the upper left of the character area, and it is determined that the steel material 2 is in a normal state (0 ° rotation). L 1 >
If L 2 , L 3 <L 4, it is known that the peak position is at the upper right of the character area, and it is determined that the steel material 2 is rotated by 90 °. If L 1 > L 2 and L 3 > L 4 , it can be seen that the peak position is at the lower right of the character area,
It is determined that the steel material 2 is rotated by 180 °. Also, L
1 if a <L 2, L 3> L 4, notice that the peak position in the lower left of the character region, steel 2 is determined to be rotating 270 °.

【0027】こうして、回転角度検出部28で鋼材2の
回転角度を検出した後、文字列切り出し部32及び文字
行切り出し部34では、文字の切り出しを行う。次に、
鋼材2の回転角度から文字の向きを考慮しつつ、特徴抽
出部42で各文字毎に特徴量を抽出し、その後、画像認
識処理部44において、その特徴量を、画像処理用メモ
リ46に記憶された対応する基準特徴量と比較すること
により文字の識別を行う。かかる文字の識別結果は表示
装置48に出力される。
After the rotation angle of the steel material 2 is detected by the rotation angle detection unit 28, the character string extraction unit 32 and the character line extraction unit 34 extract characters. next,
The feature amount is extracted for each character by the feature extraction unit 42 while considering the direction of the character from the rotation angle of the steel material 2, and then the feature amount is stored in the image processing memory 46 by the image recognition processing unit 44. Characters are identified by comparison with the corresponding reference feature amounts. The result of character identification is output to the display device 48.

【0028】第一実施例の文字認識装置では、鋼材の端
面の四辺のうち、隣合う二辺に偏って刻印された文字を
識別する際に、その文字配列の偏りを検出する回転角度
検出部を設けたことにより、その文字配列の偏り方に基
づいて鋼材の回転角度を検出することができる。このた
め、回転角度から文字の向きを知ることができるので、
たとえ鋼材が回転している場合でも、文字を正確に識別
することができる。
In the character recognition device of the first embodiment, when identifying a character engraved on two adjacent sides of the four sides of the end face of the steel material, a rotation angle detecting unit for detecting the deviation of the character arrangement. Is provided, the rotation angle of the steel material can be detected based on how the character arrangement is biased. For this reason, since the direction of the character can be known from the rotation angle,
Even if the steel material is rotating, the characters can be accurately identified.

【0029】次に、本発明の第二実施例である文字認識
装置について説明する。図6は本発明の第二実施例であ
る文字認識装置において、鋼材の回転角度の検出手法を
説明するための図である。第二実施例でも、第一実施例
と同様に、被検査物としてビレットやブルーム等の四角
柱状の圧延鋼材を用い、かかる被検査物の端面に刻印さ
れた数字等の文字を識別する場合について考える。
Next, a character recognition device according to a second embodiment of the present invention will be described. FIG. 6 is a diagram for explaining a method of detecting a rotation angle of a steel material in the character recognition device according to the second embodiment of the present invention. In the second embodiment, similarly to the first embodiment, a square pillar-shaped rolled steel material such as a billet or a bloom is used as an object to be inspected, and characters such as numbers imprinted on an end face of the object to be inspected are identified. Think.

【0030】また、これらの文字は、鋼材の端面の四辺
のうち、隣合う二辺に偏った位置に刻印するようにして
いるが、かかる位置に刻印されない場合がある。第二実
施例の文字認識装置は、かかる場合にも、鋼材の回転角
度を検出できるようにしたものである。この文字認識装
置は、第一実施例のものと同じ構成であり、回転角度検
出部において、鋼材の回転角度を検出する手法が異な
る。このため、第二実施例において、回転角度検出部以
外の各部の機能・動作についてはその詳細な説明を省略
する。
In addition, these characters are stamped at positions biased to two adjacent sides of the four sides of the end face of the steel material, but there are cases where such characters are not stamped at such positions. The character recognition device according to the second embodiment can detect the rotation angle of the steel material even in such a case. This character recognition device has the same configuration as that of the first embodiment, and differs in a method of detecting a rotation angle of a steel material in a rotation angle detection unit. For this reason, in the second embodiment, detailed descriptions of the functions and operations of each unit other than the rotation angle detection unit are omitted.

【0031】次に、第二実施例の回転角度検出部の動作
について説明する。まず、第一実施例と同様に、文字領
域において、各x座標の値に対して「1」の値を持つ画
素の数を集計したx方向の射影ヒストグラムと、各y座
標の値に対して「1」の値を持つ画素の数を集計したy
方向の射影ヒストグラムとを求める。そして、x方向の
射影ヒストグラムから画素数が最大となる点x0 を求
め、y方向に射影した射影ヒストグラムから画素数が最
大となる点y0 を求める。こうして得られた画素数が最
大となるピーク位置(x0 ,y0 )から文字領域の四つ
の境界線b1 ,b2 ,b3 ,b4 までの距離L1
2 ,L3 ,L4 を求める。
Next, the operation of the rotation angle detector of the second embodiment will be described. First, similarly to the first embodiment, in the character area, an x-direction projection histogram in which the number of pixels having a value of “1” for each x-coordinate value is calculated, Y that totals the number of pixels having a value of “1”
A projection histogram of the direction is obtained. Then, a point x 0 at which the number of pixels is maximum is obtained from the projection histogram in the x direction, and a point y 0 at which the number of pixels is maximum is obtained from the projection histogram projected in the y direction. Peak position (x 0, y 0) four boundary b 1 from the character area, b 2, b 3, a distance L 1 to b 4 in which the number of pixels thus obtained is maximum,
L 2 , L 3 and L 4 are obtained.

【0032】また、図6に示すように、ピーク位置(x
0 ,y0 )から左右方向及び上下方向に規定サイズの幅
dの範囲における射影ヒストグラムの平均値H1
2 ,H3 ,H4 を求める。ここで、H1 はピーク位置
から−x方向に規定サイズの幅dの範囲におけるx方向
の射影ヒストグラムの平均値、H2 はピーク位置から+
x方向に規定サイズの幅dの範囲におけるx方向の射影
ヒストグラムの平均値、H3 はピーク位置から+y方向
に規定サイズの幅dの範囲におけるy方向の射影ヒスト
グラムの平均値、H4 はピーク位置から−y方向に規定
サイズの幅dの領域におけるy方向の射影ヒストグラム
の平均値である。また、規定サイズの幅dとしては文字
間隔の二倍を取っている。これらの平均値H1 ,H2
3 ,H4 は、ピーク位置の周辺における射影ヒストグ
ラムの分布状況を表す。
As shown in FIG. 6, the peak position (x
0 , y 0 ), the average value H 1 ,
H 2 , H 3 and H 4 are obtained. Here, H 1 is the average value of the projection histogram in the x direction in the range of the width d of the specified size in the −x direction from the peak position, and H 2 is +
the average value of the projection histogram of the x direction in the range of the width d of the prescribed size in the x direction, H 3 is the average value of the projection histogram of the y-direction in the range of the width d of the prescribed size in the + y direction from the peak position, H 4 peak It is the average value of the projection histogram in the y direction in the region of the specified size d in the −y direction from the position. The width d of the specified size is twice as large as the character interval. These average values H 1 , H 2 ,
H 3 and H 4 represent the distribution status of the projection histogram around the peak position.

【0033】次に、文字配列が鋼材の隣合う二辺に偏っ
ているかどうかを調べる。このために、距離L1
2 ,L3 ,L4 と規定サイズの幅dとの大小関係を調
べる。このとき、次の四つの場合が考えられる。 case (1) L1 orL2 <d、L3 orL4 <d case (2) L1 orL2 <d、L3 and L4 >d case (3) L1 and L2 >d、L3 orL4 <d case (4) L1 and L2 >d、L3 and L4 >d case (1)であれば、文字配列は鋼材の端面の隣合う二辺
の左上、右上、右下、左下のいずれかに偏っていると判
定される。また、case (2)〜 (4)のいずれかであれば、
文字配列は隣合う二辺に偏っていないと判定される。特
に、case (2)は、文字配列が上下にずれている場合であ
り、case (3)は、文字配列が左右にずれている場合であ
る。そして、case (4)は、文字配列が中央にずれている
場合である。
Next, it is checked whether or not the character arrangement is biased to two adjacent sides of the steel material. To this end, the distances L 1 ,
The magnitude relationship between L 2 , L 3 , L 4 and the width d of the specified size is examined. At this time, the following four cases can be considered. case (1) L 1 or L 2 <d, L 3 or L 4 <d case (2) L 1 or L 2 <d, L 3 and L 4 > d case (3) L 1 and L 2 > d, L 3 or L 4 <d case (4) If L 1 and L 2 > d, L 3 and L 4 > d case (1), the character arrangement is the upper left, upper right, lower right, and lower left of two adjacent sides of the end face of the steel material Is determined to be biased toward any one of. If any of cases (2) to (4),
It is determined that the character array is not biased to two adjacent sides. In particular, case (2) is a case where the character array is vertically shifted, and case (3) is a case where the character array is horizontally shifted. In case (4), the character array is shifted to the center.

【0034】文字配列が鋼材の隣合う二辺に偏っている
case (1)の場合には、上記第一実施例と同様に、L1
2 、L3 とL4 の大小関係を調べることにより、鋼材
の回転角度を検出する。
The character arrangement is biased on two adjacent sides of the steel material
In the case of Case (1), similarly to the first embodiment, by examining the magnitude relation between L 1 and L 2, L 3 and L 4, it detects the rotation angle of the steel material.

【0035】また、文字配列が鋼材の隣合う二辺に偏っ
ていないcase (2)〜 (4)のいずれかである場合には、二
つの組(L1 ,L2 )、(L3 ,L4 )のうち、両方と
も規定サイズの幅dより大きいと判断された組について
は、その組と同じ添字を持つ射影ヒストグラムの平均値
i (i=1,2,3,4)の大小関係を調べる。一
方、二つの組(L1 ,L2 )、(L3 ,L4 )のうち、
いずれかが規定サイズの幅dより小さいと判定された組
については、その組のLi (i=1,2,3,4)の大
小関係を調べる。そして、これらの大小関係から、第一
実施例のLi (i=1,2,3,4)に対するものと同
様の判定基準に基づいて、鋼材の回転角度を検出する。
When the character arrangement is one of the cases (2) to (4) not biased to two adjacent sides of the steel material, the two sets (L 1 , L 2 ), (L 3 , L 4 ), for a pair determined to be larger than the width d of the specified size, the magnitude of the average value H i (i = 1, 2, 3, 4) of the projection histogram having the same subscript as the pair. Examine the relationship. On the other hand, of the two sets (L 1 , L 2 ) and (L 3 , L 4 ),
For any pair determined to be smaller than the width d of the specified size, the magnitude relationship of L i (i = 1, 2, 3, 4) of the pair is examined. Then, these magnitude relation, based on the same criteria as for the L i (i = 1,2,3,4) of the first embodiment, it detects the rotation angle of the steel material.

【0036】たとえば、図6に示す例の場合には、L1
<d、L3 and L4 >dであるので、case (2)に対応
し、文字配列が下にずれていると判定される。次に、L
1 とL2 、H3 とH4 の大小関係を調べるが、この例の
場合には、L1 <L2 、H3 <H4 となる。L1 <L2
であることから、文字配列が左に偏っていることがわか
り、また、H3 <H4 であることから、文字はピーク位
置から下側近傍に多く分布していることがわかる。した
がって、図6の場合には、鋼材は正常状態である(回転
していない)と判定される。
[0036] For example, in the example shown in FIG. 6, L 1
Since <d, L 3 and L 4 > d, it is determined that the character array is shifted downward corresponding to case (2). Next, L
The magnitude relation between 1 and L 2 and between H 3 and H 4 is examined. In this case, L 1 <L 2 and H 3 <H 4 . L 1 <L 2
, It can be seen that the character arrangement is deviated to the left, and since H 3 <H 4 , it can be seen that the characters are distributed more near the lower side from the peak position. Therefore, in the case of FIG. 6, it is determined that the steel material is in a normal state (not rotating).

【0037】第二実施例の文字認識装置では、x方向及
びy方向の射影ヒストグラムが最大となる位置(ピーク
位置)と、ピーク位置の周辺における射影ヒストグラム
の分布状況とに基づいて、鋼材の回転角度を検出するこ
とにより、文字が鋼材の端面の左上、右上、右下、左下
のいずれにも偏っていない場合でも、鋼材の回転角度を
検出することができる。
In the character recognition device of the second embodiment, the rotation of the steel material is determined based on the position (peak position) at which the projection histogram in the x direction and the y direction is maximum, and the distribution of the projection histogram around the peak position. By detecting the angle, the rotation angle of the steel material can be detected even if the character is not biased to any of the upper left, upper right, lower right, and lower left of the end face of the steel material.

【0038】尚、本発明は上記の各実施例に限定される
ものではなく、その要旨の範囲内において種々の変形が
可能である。たとえば、上記の第一及び第二実施例で
は、二値画像に基づいてx方向及びy方向の射影ヒスト
グラムを求めることにより、ピーク位置を得る場合につ
いて説明したが、濃淡画像に基づいてx方向及びy方向
の射影ヒストグラムを求め、これからピーク位置を得る
ようにしてもよい。
The present invention is not limited to the above embodiments, and various modifications can be made within the scope of the invention. For example, in the first and second embodiments, the case where the peak position is obtained by calculating the projection histogram in the x direction and the y direction based on the binary image has been described. A projection histogram in the y direction may be obtained, and the peak position may be obtained from this.

【0039】また、上記の第一及び第二実施例では、被
検査物として四角柱状の圧延鋼材を用い、かかる被検査
物の端面に刻印された文字を識別する場合について説明
したが、たとえば、被検査物として牛乳パック等を用
い、その底面に刻印されている文字を識別する場合や、
四角柱状の被検査物の端面に貼られたラベルに印刷され
た文字を識別する場合にも本発明は適用可能である。
In the first and second embodiments described above, a case where a square pillar-shaped rolled steel material is used as an object to be inspected and characters engraved on an end face of the object to be inspected have been described. When a milk pack or the like is used as the object to be inspected, and the characters engraved on the bottom surface are identified,
The present invention is also applicable to a case where a character printed on a label attached to an end face of a square pillar-shaped test object is identified.

【0040】更に、上記の第一及び第二実施例では、被
検査物として四角柱状のものを用いた場合について説明
したが、本発明は、被検査物として断面が多角形状であ
る柱状体を用いた場合でも適用可能である。ただし、こ
の場合、ピーク位置を求めるのに射影ヒストグラムを利
用するときには、多角形状の面の所定の辺に沿った方向
についての射影ヒストグラムを求める必要がある。
Further, in the first and second embodiments described above, the case where a square pillar is used as the object to be inspected has been described. However, in the present invention, a columnar body having a polygonal cross section is used as the object to be inspected. It is applicable even when used. However, in this case, when a projection histogram is used to determine a peak position, it is necessary to determine a projection histogram for a direction along a predetermined side of a polygonal surface.

【0041】[0041]

【発明の効果】以上説明したように請求項1記載の発明
によれば、四角形状の面の隣合う二辺に偏って配列され
た文字を含む前記面を撮像して得られた画像に基づいて
文字配列の偏りを検出する回転角度検出手段を設けたこ
とにより、その文字配列の偏り方に基づいて文字の回転
角度を検出することができるので、たとえ文字が回転し
ている場合でも、文字識別手段において、回転角度を考
慮して文字を正確に識別することができる文字認識装置
を提供することができる。
As described above, according to the first aspect of the present invention, based on an image obtained by capturing an image of a surface including characters arranged on two adjacent sides of a quadrangular surface. The rotation angle of the character array can be detected based on how the character array is biased, so that even if the character is rotated, It is possible to provide a character recognizing device capable of accurately identifying characters in consideration of a rotation angle in the identification means.

【0042】また、回転角度検出手段では、x方向及び
y方向についての射影ヒストグラムを求め、二つの射影
ヒストグラムが最大となる位置に基づいて文字配列の偏
りを検出することにより、文字配列の偏りを容易に求め
ることができる。
[0042] In the rotation angle detection means, obtains the projection histogram of the x-direction and y-direction, by detecting the deviation of the character array on the basis of the position where the two projection histogram is maximum, the deviation of the character array It can be easily obtained.

【0043】請求項記載の発明によれば、回転角度検
出手段では、射影ヒストグラムが最大となる位置と、そ
の最大となる位置の周辺における射影ヒストグラムの分
布状況とに基づいて文字配列の偏りを検出することによ
り、たとえ文字が四角形状の面の隣合う二辺に偏って配
列されていない場合でも、文字の回転角度を検出するこ
とができる文字認識装置を提供することができる。
According to the second aspect of the present invention, the rotation angle detecting means determines the bias of the character arrangement based on the position where the projection histogram is maximum and the distribution state of the projection histogram around the position where the projection histogram is maximum. By performing the detection, it is possible to provide a character recognition device capable of detecting the rotation angle of a character even when the characters are not arranged on two sides adjacent to each other in a rectangular shape.

【0044】[0044]

【0045】[0045]

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の第一実施例である文字認識装置の概略
構成図である。
FIG. 1 is a schematic configuration diagram of a character recognition device according to a first embodiment of the present invention.

【図2】鋼材の端面に刻印される文字の配列方法を説明
するための図である。
FIG. 2 is a view for explaining a method of arranging characters engraved on an end face of a steel material.

【図3】図2に示す文字の配列方法において、鋼材の回
転角度をどのように判定するかを説明するための図であ
る。
FIG. 3 is a diagram for explaining how to determine a rotation angle of a steel material in the character arrangement method shown in FIG. 2;

【図4】第一実施例の文字認識装置の回転角度検出部に
おける射影ヒストグラムの例を示す図である。
FIG. 4 is a diagram illustrating an example of a projection histogram in a rotation angle detection unit of the character recognition device according to the first embodiment.

【図5】その回転角度検出部において、鋼材の回転角度
の検出手法を説明するための図である。
FIG. 5 is a diagram for explaining a method of detecting a rotation angle of a steel material in the rotation angle detection unit.

【図6】本発明の第二実施例である文字認識装置におい
て、鋼材の回転角度の検出手法を説明するための図であ
る。
FIG. 6 is a diagram for explaining a method of detecting a rotation angle of a steel material in the character recognition device according to the second embodiment of the present invention.

【図7】鋼材が回転していない正常状態と、180°回
転した状態とを説明するための図である。
FIG. 7 is a diagram for explaining a normal state in which the steel material is not rotating and a state in which the steel material is rotated by 180 °.

【符号の説明】[Explanation of symbols]

12 照明手段 14 CCDカメラ 16 A/D変換部 18 画像メモリ 22 二値化処理部 24 二値画像処理部 26 文字領域切り出し部 28 回転角度検出手段 30 文字切り出し部 32 文字列切り出し部 34 文字行切り出し部 42 特徴抽出部 44 画像認識部 46 画像処理用メモリ 48 表示装置 DESCRIPTION OF SYMBOLS 12 Illumination means 14 CCD camera 16 A / D conversion part 18 Image memory 22 Binary processing part 24 Binary image processing part 26 Character area extraction part 28 Rotation angle detection means 30 Character extraction part 32 Character string extraction part 34 Character line extraction Unit 42 feature extraction unit 44 image recognition unit 46 image processing memory 48 display device

───────────────────────────────────────────────────── フロントページの続き (72)発明者 山口 悟 東京都千代田区大手町2丁目6番3号 新日本製鐵株式会社内 (56)参考文献 特開 平2−247788(JP,A) 特開 平2−79184(JP,A) (58)調査した分野(Int.Cl.7,DB名) G06K 9/20 G06T 1/00 ──────────────────────────────────────────────────続 き Continuation of the front page (72) Inventor Satoru Yamaguchi 2-6-3 Otemachi, Chiyoda-ku, Tokyo Nippon Steel Corporation (56) References JP-A-2-247788 (JP, A) Kaihei 2-79184 (JP, A) (58) Field surveyed (Int. Cl. 7 , DB name) G06K 9/20 G06T 1/00

Claims (2)

(57)【特許請求の範囲】(57) [Claims] 【請求項1】 四角形状の面の隣合う二辺に偏って配列
された文字を含む前記面を撮像して得られた画像に基づ
いてx方向及びy方向についての射影ヒストグラムを求
め、二つの射影ヒストグラムが最大となる位置により前
記文字配列の偏りを検出し、前記文字配列の偏り方に基
づいて前記文字の回転角度を検出する回転角度検出手段
と、 前記画像に基づいて前記文字の切り出しを行う文字切り
出し手段と、 前記文字切り出し手段により切り出された前記文字を、
前記回転角度を考慮して識別する文字認識手段と、 を備えることを特徴とする文字認識装置。
1. A seek projection histogram of the x-direction and y-direction based on the surface containing the character sequence biased toward two sides adjacent the surface of the square shape image obtained by imaging
To the position where the two projection histograms are maximized.
A rotation angle detection unit that detects a bias of the writing character array and detects a rotation angle of the character based on the bias of the character array, a character cutout unit that cuts out the character based on the image, and the character The character cut out by the cutting means,
A character recognition device comprising: a character recognition unit that performs identification in consideration of the rotation angle.
【請求項2】 前記回転角度検出手段は、前記最大とな
る位置と、前記最大となる位置の周辺における前記射影
ヒストグラムの分布状況とにより前記文字配列の偏りを
検出することを特徴とする請求項記載の文字認識装
置。
2. The method according to claim 1, wherein the rotation angle detecting means detects the bias of the character arrangement based on the maximum position and a distribution state of the projection histogram around the maximum position. 2. The character recognition device according to 1 .
JP13946494A 1994-05-30 1994-05-30 Character recognition device and character recognition method Expired - Lifetime JP3230371B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP13946494A JP3230371B2 (en) 1994-05-30 1994-05-30 Character recognition device and character recognition method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP13946494A JP3230371B2 (en) 1994-05-30 1994-05-30 Character recognition device and character recognition method

Publications (2)

Publication Number Publication Date
JPH07325885A JPH07325885A (en) 1995-12-12
JP3230371B2 true JP3230371B2 (en) 2001-11-19

Family

ID=15245848

Family Applications (1)

Application Number Title Priority Date Filing Date
JP13946494A Expired - Lifetime JP3230371B2 (en) 1994-05-30 1994-05-30 Character recognition device and character recognition method

Country Status (1)

Country Link
JP (1) JP3230371B2 (en)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
MY119088A (en) * 1996-11-26 2005-03-31 Sony Corp Information input method, information input sheet, and information input apparatus

Also Published As

Publication number Publication date
JPH07325885A (en) 1995-12-12

Similar Documents

Publication Publication Date Title
US7636483B2 (en) Code type determining method and code boundary detecting method
US8559748B2 (en) Edge detection
JP3124296B2 (en) How to detect the position and direction of the fiducial mark
US7949187B2 (en) Character string recognition method and device
JP5174513B2 (en) Paper sheet stain detection apparatus and stain detection method
US9251430B2 (en) Apparatus, method, and program for character recognition using minimum intensity curve of image data
JP2002133426A (en) Ruled line extraction device for extracting ruled lines from multi-valued images
JPH07120389B2 (en) Optical character reader
JPH02306386A (en) Character recognizing device
JP5011508B2 (en) Character string recognition method and character string recognition apparatus
EP0505729A2 (en) Image binarization system
JP3230371B2 (en) Character recognition device and character recognition method
JP3268552B2 (en) Area extraction method, destination area extraction method, destination area extraction apparatus, and image processing apparatus
Kleber et al. Robust skew estimation of handwritten and printed documents based on grayvalue images
JP2000357287A (en) License plate recognition method and recognition device
JPH07280746A (en) Metal plate surface flaw extraction device
JPH07325882A (en) Character recognition device and character recognition method
JP2000187706A (en) Paper sheet reader
JP2963807B2 (en) Postal code frame detector
JP3715473B2 (en) Address reader
JP2590099B2 (en) Character reading method
JP2573665B2 (en) Optical character reader
JP3756660B2 (en) Image recognition method, apparatus and recording medium
JP2004234485A (en) License plate automatic recognition device
JP4168863B2 (en) Crack detection device

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20010814

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070914

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080914

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090914

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100914

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100914

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110914

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120914

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120914

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130914

Year of fee payment: 12

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130914

Year of fee payment: 12

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130914

Year of fee payment: 12

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130914

Year of fee payment: 12

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term