JP6098975B2 - Marker, object identification device, and object identification method - Google Patents
Marker, object identification device, and object identification method Download PDFInfo
- Publication number
- JP6098975B2 JP6098975B2 JP2013042855A JP2013042855A JP6098975B2 JP 6098975 B2 JP6098975 B2 JP 6098975B2 JP 2013042855 A JP2013042855 A JP 2013042855A JP 2013042855 A JP2013042855 A JP 2013042855A JP 6098975 B2 JP6098975 B2 JP 6098975B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- polarized light
- polarization
- marker
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Studio Devices (AREA)
Description
本発明は、複数の対象物を互いに区別して認識するために対象物に設けられるマーカに関する。また、本発明は、複数の対象物にそれぞれ設けられた複数のマーカに基づいて複数の対象物を互いに識別するための対象物識別装置および方法に関する。 The present invention relates to a marker provided on an object in order to distinguish and recognize a plurality of objects. The present invention also relates to an object identification device and method for identifying a plurality of objects from each other based on a plurality of markers provided on the plurality of objects, respectively.
マーカを用いた対象物の認識方法が、例えば、下記の特許文献1、2に記載されている。
A method for recognizing an object using a marker is described in
特許文献1では、次のように対象物を認識している。マーカは、特定のパターンで輝度が変化する発光ダイオードである。このマーカが取り付けられた対象物を含む範囲を撮像する。これにより得た動画から、発光ダイオードの発光パターンで輝度が変化する画素を特定する。特定した画素に基づいて、対象物の位置や方向を検出する。
In
特許文献2では、次のように対象物を認識している。マーカは、直線や四角形や円弧などの幾何学的模様である。このマーカが取り付けられた対象物を含む範囲を撮像する。これにより得た画像において、マーカの幾何学的模様の位置を認識する。この位置に基づいて、対象物の位置や方向を検出することができる。 In Patent Document 2, an object is recognized as follows. The marker is a geometric pattern such as a straight line, a quadrangle, or an arc. A range including the object to which the marker is attached is imaged. In the obtained image, the position of the geometric pattern of the marker is recognized. Based on this position, the position and direction of the object can be detected.
特許文献1の場合には、他の強い光(例えば太陽光)に照らされている発光ダイオードを撮像すると、発光ダイオードの光が検出できなくなる可能性がある。この場合には、発光ダイオードの光に基づいて、対象物の位置や方向を検出できなくなる。
In the case of
したがって、マーカに当たる光の強度に影響されずに、マーカを認識できるようにすることが望まれる。 Therefore, it is desired that the marker can be recognized without being affected by the intensity of light hitting the marker.
特許文献2の場合には、幾何学的模様を認識するには、幾何学的模様の縦または横の寸法が、画像において、十数の画素以上になる必要がある。
しかし、幾何学的模様を、100m以上の距離から、60度以上の視野で撮像した場合には、100万画素程度のカメラを用いても、0.5m程度の幾何学的模様では、画像において、幾何学的模様の縦または横の寸法が、5画素程度以下になってしまう。その結果、幾何学的模様を認識できなくなる。従って、幾何学的模様に基づいて、対象物の位置や方向を検出できなくなる。
In the case of Patent Document 2, in order to recognize a geometric pattern, the vertical or horizontal dimension of the geometric pattern needs to be more than a dozen pixels in the image.
However, when a geometric pattern is imaged from a distance of 100 m or more with a field of view of 60 degrees or more, even if a camera with about 1 million pixels is used, a geometric pattern of about 0.5 m is used in the image. The vertical or horizontal dimension of the geometric pattern is about 5 pixels or less. As a result, the geometric pattern cannot be recognized. Therefore, the position and direction of the object cannot be detected based on the geometric pattern.
したがって、画像内においてマーカの寸法が小さくても、マーカを認識できるようにすることが望まれる。 Therefore, it is desirable to be able to recognize the marker even if the size of the marker in the image is small.
さらに、複数の対象物にそれぞれ設けられた複数のマーカを、互いに区別して認識できるようにすることが望まれる。 Furthermore, it is desired that a plurality of markers provided respectively on a plurality of objects can be distinguished from each other and recognized.
そこで、本発明の目的は、マーカを含む領域を撮像して得た画像データからマーカを認識する場合に、マーカに強い光(例えば太陽光)が直接当たった場合であってもマーカを認識でき、画像データ内においてマーカの寸法が小さくてもマーカを認識でき、複数の対象物にそれぞれ設けられた複数のマーカを互いに区別して認識できるようにすることにある。 Therefore, an object of the present invention is to recognize a marker even when strong light (for example, sunlight) is directly applied to the marker when the marker is recognized from image data obtained by imaging an area including the marker. An object of the present invention is to make it possible to recognize a marker even if the size of the marker in the image data is small, and to distinguish and recognize a plurality of markers respectively provided on a plurality of objects.
上述の目的を達成するため、本発明によると、対象物の表面に設けられるマーカであって、
複数の偏光生成領域を有し、
複数の偏光生成領域の各々は、第1または第2の偏光生成領域であり、
第1の偏光生成領域は、無偏光が入射してきた場合に該無偏光から第1の直線偏光の反射光を生成し、
第2の偏光生成領域は、無偏光が入射してきた場合に該無偏光から第2の直線偏光の反射光を生成し、第2の直線偏光の偏光方向は、第1の直線偏光の偏光方向と直交する、ことを特徴とするマーカが提供される。
In order to achieve the above object, according to the present invention, a marker provided on the surface of an object,
Having a plurality of polarization generating regions;
Each of the plurality of polarization generation regions is a first or second polarization generation region,
The first polarized light generation region generates reflected light of the first linearly polarized light from the unpolarized light when the unpolarized light is incident.
The second polarized light generation region generates reflected light of the second linearly polarized light from the unpolarized light when the unpolarized light is incident, and the polarization direction of the second linearly polarized light is the polarization direction of the first linearly polarized light. A marker characterized by being orthogonal to is provided.
また、上述の目的を達成するため、本発明によると、複数の対象物にそれぞれ設けられた複数のマーカに基づいて、これらの対象物を互いに識別するための対象物識別装置であって、
前記マーカは、無偏光が入射してきた場合に該無偏光から第1の直線偏光の反射光を生成する第1の偏光生成領域と、無偏光が入射してきた場合に該無偏光から第2の直線偏光の反射光を生成する第2の偏光生成領域との少なくとも一方を有し、
マーカを含む撮像範囲を撮像するための撮像装置と、
撮像装置により得た前記撮像範囲の画像データに基づいて、前記撮像範囲内のマーカを、他のマーカから識別する画像処理装置と、を備え、
撮像装置は、光学部と、第1撮像部と、第2撮像部とを有し、
第1の直線偏光の偏光方向が第2の直線偏光の偏光方向と直交する場合に、光学部は、前記撮像範囲から進行してきた光のうち、第1の直線偏光を選択的に第1撮像部に入射させ、第2の直線偏光を選択的に第2撮像部に入射させ、
第1撮像部は、該第1撮像部への入射光に基づいて、前記撮像範囲の第1画像データを生成し、
第2撮像部は、該第2撮像部への入射光に基づいて、前記撮像範囲の第2画像データを生成し、
画像処理装置は、
(A)第1画像データの各画素について、該画素の輝度を値Aとし、前記撮像範囲において該画素と同じ位置に相当する第2画像データの画素の輝度を値Bとし、値Aと値Bを独立変数とした関数の値f(A,B)を求め、
(B)第1および第2の偏光生成領域が互いに異なる種類の偏光生成領域であるとして、各画素の前記値f(A,B)に基づいて、第1画像データまたは第2画像データ内に含まれている偏光生成領域の種類、または、第1画像データまたは第2画像データ内に含まれている複数の偏光生成領域の配列パターンを特定し、
(C)特定した種類または配列パターンに基づいて、第1画像データまたは第2画像データ内のマーカを他のマーカから識別する、ことを特徴とする対象物識別装置が提供される。
Moreover, in order to achieve the above-mentioned object, according to the present invention, an object identification device for identifying these objects from each other based on a plurality of markers respectively provided on the plurality of objects,
The marker includes a first polarization generation region that generates a first linearly polarized reflected light from the non-polarized light when non-polarized light is incident, and a second polarization-to-second region when the non-polarized light is incident. Having at least one of a second polarized light generating region for generating linearly polarized reflected light;
An imaging device for imaging an imaging range including a marker;
An image processing device for identifying a marker in the imaging range from other markers based on image data of the imaging range obtained by an imaging device;
The imaging device includes an optical unit, a first imaging unit, and a second imaging unit,
When the polarization direction of the first linearly polarized light is orthogonal to the polarization direction of the second linearly polarized light, the optical unit selectively performs first imaging of the first linearly polarized light out of the light traveling from the imaging range. The second linearly polarized light is selectively incident on the second imaging unit,
The first imaging unit generates first image data in the imaging range based on the incident light to the first imaging unit,
The second imaging unit generates second image data of the imaging range based on incident light to the second imaging unit,
The image processing device
(A) For each pixel of the first image data, the luminance of the pixel is a value A, and the luminance of the pixel of the second image data corresponding to the same position as the pixel in the imaging range is a value B. Find the value f (A, B) of the function with B as the independent variable,
(B) Assuming that the first and second polarization generation regions are different types of polarization generation regions, based on the value f (A, B) of each pixel, the first image data or the second image data Specify the type of polarization generation region included, or the arrangement pattern of a plurality of polarization generation regions included in the first image data or the second image data,
(C) Provided is an object identification device that identifies a marker in the first image data or the second image data from another marker based on the specified type or arrangement pattern.
好ましくは、前記値f(A,B)は、A/B、または、A/(A+B)、または、(A−B)/(A+B)である。 Preferably, the value f (A, B) is A / B or A / (A + B) or (A−B) / (A + B).
本発明の好ましい実施形態によると、画像処理装置は、前記(B)において、
(B1)第1画像データまたは第2画像データの各画素について、前記値f(A,B)に補正値Kを乗じた値f(A,B)×K、または、前記値f(A,B)が、第1しきい値よりも大きいかどうかを判断し、当該判断が肯定である場合には、当該画素が、第1の偏光生成領域に相当すると判断し、
(B2)第1画像データまたは第2画像データの各画素について、前記値f(A,B)に補正値Kを乗じた値f(A,B)×K、または、前記値f(A,B)が、第1しきい値よりも小さい値の第2しきい値よりも小さいかどうかを判断し、当該判断が肯定である場合には、当該画素が、第2の偏光生成領域に相当すると判断し、
(B3)前記(B1)および(B2)の判断に基づいて、第1画像データまたは第2画像データ内に含まれている偏光生成領域の種類、または、第1画像データまたは第2画像データ内に含まれている複数の偏光生成領域の配列パターンを特定する。
According to a preferred embodiment of the present invention, the image processing apparatus in (B),
(B1) For each pixel of the first image data or the second image data, the value f (A, B) × K obtained by multiplying the value f (A, B) by the correction value K, or the value f (A, B B) determines whether or not it is greater than the first threshold, and if the determination is affirmative, determines that the pixel corresponds to the first polarization generation region;
(B2) For each pixel of the first image data or the second image data, the value f (A, B) × K obtained by multiplying the value f (A, B) by the correction value K, or the value f (A, B It is determined whether or not B) is smaller than a second threshold value that is smaller than the first threshold value. If the determination is affirmative, the pixel corresponds to the second polarization generation region. Judging
(B3) Based on the determination of (B1) and (B2), the type of polarization generation region included in the first image data or the second image data, or the first image data or the second image data The arrangement pattern of the plurality of polarization generation regions included in the is specified.
上述の目的を達成するため、本発明によると、複数の対象物にそれぞれ設けられた複数のマーカに基づいて、これらの対象物を互いに識別するための対象物識別方法であって、
前記マーカは、無偏光が入射してきた場合に該無偏光から第1の直線偏光の反射光を生成する第1の偏光生成領域と、無偏光が入射してきた場合に該無偏光から第2の直線偏光の反射光を生成する第2の偏光生成領域との少なくとも一方を有するものであり、
マーカを含む撮像範囲を撮像するための撮像装置と、撮像装置により得た前記撮像範囲の画像データに基づいて前記撮像範囲内のマーカを他のマーカから識別する画像処理装置と、を用意し、撮像装置は、光学部と、第1撮像部と、第2撮像部とを有し、
第1の直線偏光の偏光方向が第2の直線偏光の偏光方向と直交する場合に、光学部により、前記撮像範囲から進行してきた光のうち、第1の直線偏光を選択的に第1撮像部に入射させ、第2の直線偏光を選択的に第2撮像部に入射させ、
第1撮像部により、該第1撮像部への入射光に基づいて、前記撮像範囲の第1画像データを生成し、第2撮像部により、該第2撮像部への入射光に基づいて、前記撮像範囲の第2画像データを生成し、
画像処理装置により、
(A)第1画像データの各画素について、該画素の輝度を値Aとし、前記撮像範囲において該画素と同じ位置に相当する第2画像データの画素の輝度を値Bとし、値Aと値Bを独立変数とした関数の値f(A,B)を求め、
(B)第1および第2の偏光生成領域が互いに異なる種類の偏光生成領域であるとして、各画素の前記値f(A,B)に基づいて、第1画像データまたは第2画像データ内に含まれている偏光生成領域の種類、または、第1画像データまたは第2画像データ内に含まれている複数の偏光生成領域の配列パターンを特定し、
(C)特定した種類または配列パターンに基づいて、第1画像データまたは第2画像データ内のマーカを他のマーカから識別する、ことを特徴とする対象物識別方法が提供される。
In order to achieve the above-mentioned object, according to the present invention, there is an object identification method for identifying these objects from each other based on a plurality of markers respectively provided on the plurality of objects,
The marker includes a first polarization generation region that generates a first linearly polarized reflected light from the non-polarized light when non-polarized light is incident, and a second polarization-to-second region when the non-polarized light is incident. Having at least one of a second polarization generation region that generates reflected light of linearly polarized light,
An imaging device for imaging an imaging range including a marker, and an image processing device that identifies a marker in the imaging range from other markers based on image data of the imaging range obtained by the imaging device, The imaging device includes an optical unit, a first imaging unit, and a second imaging unit,
When the polarization direction of the first linearly polarized light is orthogonal to the polarization direction of the second linearly polarized light, the optical unit selectively selects the first linearly polarized light out of the light traveling from the imaging range as a first image. The second linearly polarized light is selectively incident on the second imaging unit,
The first imaging unit generates first image data of the imaging range based on the incident light on the first imaging unit, and the second imaging unit generates the first image data on the second imaging unit based on the incident light on the second imaging unit. Generating second image data of the imaging range;
By image processing device
(A) For each pixel of the first image data, the luminance of the pixel is a value A, and the luminance of the pixel of the second image data corresponding to the same position as the pixel in the imaging range is a value B. Find the value f (A, B) of the function with B as the independent variable,
(B) Assuming that the first and second polarization generation regions are different types of polarization generation regions, based on the value f (A, B) of each pixel, the first image data or the second image data Specify the type of polarization generation region included, or the arrangement pattern of a plurality of polarization generation regions included in the first image data or the second image data,
(C) Provided is an object identification method characterized by identifying a marker in the first image data or the second image data from another marker based on the specified type or arrangement pattern.
上述した本発明のマーカは、無偏光が入射してきた場合に該無偏光から第1の直線偏光の反射光を生成する第1の偏光生成領域と、無偏光が入射してきた場合に該無偏光から第2の直線偏光の反射光を生成する第2の偏光生成領域との少なくとも一方を有する。したがって、マーカにおける偏光生成領域の種類、または、マーカにおける複数の偏光生成領域の配列パターンを特定することにより、複数のマーカを互いに識別して認識できる。 The marker of the present invention described above includes the first polarized light generating region that generates the first linearly polarized reflected light from the non-polarized light when the non-polarized light is incident, and the non-polarized light when the non-polarized light is incident. To at least one of a second polarization generation region that generates reflected light of the second linearly polarized light. Therefore, by specifying the type of polarization generation region in the marker or the arrangement pattern of the plurality of polarization generation regions in the marker, the plurality of markers can be identified and recognized from each other.
このようなマーカの識別は、次のように、上述した本発明の対象物識別装置または対象物識別方法によりなされる。
撮像範囲からの光のうち、第1の直線偏光を選択的に第1撮像部に入射させ、第2の直線偏光を選択的に第2撮像部に入射させることにより、第1撮像部が、第1画像データを生成し、第2撮像部が、第2画像データを生成する。その後、下記(A)〜(C)の処理を行う。
(A)第1画像データの各画素について、該画素の輝度を値Aとし、前記領域において該画素と同じ位置に相当する第2画像データの画素の輝度を値Bとし、値Aと値Bを独立変数とした関数の値f(A,B)を求める。
(B)第1および第2の偏光生成領域が互いに異なる種類の偏光生成領域であるとして、各画素の前記値f(A,B)に基づいて、第1画像データまたは第2画像データ内に含まれている偏光生成領域の種類、または、第1画像データまたは第2画像データ内に含まれている複数の偏光生成領域の配列パターンを特定する。
(C)特定した種類または配列パターンに基づいて、第1画像データまたは第2画像データ内のマーカを他のマーカから識別する。
このようにして、マーカを他のマーカから識別できる。
Such marker identification is performed by the above-described object identification device or object identification method of the present invention as described below.
Of the light from the imaging range, the first linearly polarized light is selectively incident on the first imaging unit, and the second linearly polarized light is selectively incident on the second imaging unit. First image data is generated, and the second imaging unit generates second image data. Thereafter, the following processes (A) to (C) are performed.
(A) For each pixel of the first image data, the luminance of the pixel is a value A, the luminance of the pixel of the second image data corresponding to the same position as the pixel in the region is a value B, and the values A and B The value f (A, B) of the function is obtained using as an independent variable.
(B) Assuming that the first and second polarization generation regions are different types of polarization generation regions, based on the value f (A, B) of each pixel, the first image data or the second image data The type of the polarization generation region included or the arrangement pattern of the plurality of polarization generation regions included in the first image data or the second image data is specified.
(C) Based on the specified type or arrangement pattern, the markers in the first image data or the second image data are identified from other markers.
In this way, the marker can be identified from other markers.
また、この識別は、光の偏光方向を区別することにより行われるので、この識別は、マーカに当たる光の強度に影響されにくいようにできる。例えば、太陽光がマーカに直接当たる場合でも、マーカを識別することが可能となる。 Further, since this identification is performed by distinguishing the polarization direction of light, this identification can be made less susceptible to the intensity of light hitting the marker. For example, even when sunlight directly hits the marker, the marker can be identified.
さらに、第1または第2の偏光生成領域に相当する画素が1つだけ存在する場合であっても、当該画素が、第1または第2の偏光生成領域に相当することを特定できる。したがって、第1画像データまたは第2画像データ内におけるマーカの寸法が小さくても、第1画像データまたは第2画像データ内に含まれている偏光生成領域の種類、または、複数の偏光生成領域の配列パターンを特定して、マーカを識別できる。 Furthermore, even when there is only one pixel corresponding to the first or second polarization generation region, it can be specified that the pixel corresponds to the first or second polarization generation region. Therefore, even if the marker size in the first image data or the second image data is small, the type of the polarization generation region included in the first image data or the second image data, or the plurality of polarization generation regions Markers can be identified by specifying an array pattern.
本発明の好ましい実施形態を図面に基づいて説明する。なお、各図において共通する部分には同一の符号を付し、重複した説明を省略する。 A preferred embodiment of the present invention will be described with reference to the drawings. In addition, the same code | symbol is attached | subjected to the common part in each figure, and the overlapping description is abbreviate | omitted.
<目次>
1.マーカ
2.対象物識別装置
3.対象物識別方法
4.変更例
<Contents>
1. Marker 2. 2.
1.マーカ
1.1.マーカの構成
図1は、本発明の実施形態によるマーカ1の構成を示す。マーカ1は、対象物3の表面に設けられる。図1(A)は、マーカ1が設けられた対象物3の斜視図であり、図1(B)は、図1(A)のB−B線断面図である。
1. Marker 1.1. Marker Configuration FIG. 1 shows the configuration of a
マーカ1は、無偏光(例えば、太陽からの光)が入射してきた場合に該無偏光から第1の直線偏光の反射光を生成する第1の偏光生成領域1aと、無偏光が入射してきた場合に該無偏光から第2の直線偏光の反射光を生成する第2の偏光生成領域1bとの少なくともいずれかを有する。第1の直線偏光の偏光方向は、第2の直線偏光の偏光方向と直交する。なお、無偏光とは、偏光していない光を意味し、言い換えると、光の電場ベクトルまたは磁場ベクトルの振動方向が一様に分布している光を意味する。
In the
第1および第2の偏光生成領域1a,1bの各々は、外側の偏光部7と、内側の反射部9とを有する。なお、図1(B)は、第1の偏光生成領域1aの断面図であるが、第2の偏光生成領域1bは、偏光部7(後述の基準方向)の向き以外は、第1の偏光生成領域1aと同じ構成を有する。
Each of the first and second polarized
偏光部7は、この偏光部7に固定された基準方向に振動する直線偏光を通すが、基準方向と直交する方向に振動する直線偏光を通さない。このような偏光部7は、例えば偏光フィルタであってよい。図1(A)において、第1の偏光生成領域1aの偏光部7に固定された基準方向(例えば水平方向)は、第2の偏光生成領域1bの偏光部7に固定された基準方向(例えば鉛直方向)と直交する。
The
反射部9は、偏光部7の内側に位置する。したがって、マーカ1の各偏光生成領域1a,1bへの入射光は、偏光部7を通過した後に、反射部9に入射する。反射部9は、この入射光を反射する。反射部9に反射された光が、偏光部7を通過可能な偏光成分を有するように、反射部9が形成されていればよい。反射部9は、好ましくは、光の反射率が高いように形成され(例えば、80%以上の光の反射率を有し)、例えば、白色、または白色に近い色の反射面を有する。なお、反射部9は、入射光を乱反射してよい。
The
上述したマーカ1の構成で、以下の作用が得られる。
マーカ1の各偏光生成領域1a,1bへの入射光は、次のように、マーカ1で反射されることにより、基準方向の偏光となる。ここで、第1の偏光生成領域1aの場合を説明するが、第2の偏光生成領域1bの場合も同じである。偏光生成領域1aへの入射光のうち、基準方向の直線偏光成分が偏光部7を通過し、基準方向と直交する方向の直線偏光成分は、偏光部7を通過しない。偏光部7を通過した基準方向の直線偏光成分は、その後、反射部9で反射され、再び、偏光部7に入射する。反射部9側から再び偏光部7を通過した光は、偏光部7により、基準方向の直線偏光になっている。このように、マーカ1における第1の偏光生成領域1aへの入射光は、マーカ1により反射された基準方向の直線偏光(第1の直線偏光)となる。同様に、マーカ1における第2の偏光生成領域1bへの入射光は、マーカ1により反射された基準方向の直線偏光(第2の直線偏光)となる。
With the configuration of the
Incident light to the
なお、マーカ1は、その表面(例えば、偏光部7の表面)に反射防止膜を有していてもよい。反射防止膜は、マーカ1の表面で入射光が反射することを防止することにより、マーカ1内の偏光部7へ至る入射光の割合を増やす。
また、反射部9は、対象物3に取り付けられるもの(例えばフィルム)であってもよいし、対象物3に予め設けられているもの(例えば対象物3の表面)であってもよい。この場合、マーカ1(偏光部7)が、対象物3の反射部9に取り付けられる。
The
Moreover, the
また、反射部9は、マーカ1における複数の偏光生成領域(図1(A)では、第1および第2の偏光生成領域1a,1b)に共有されてもよい。すなわち、マーカ1は、複数の偏光生成領域にわたって延びている単一の反射部9を有していてもよい。
In addition, the
1.2.マーカと対象物との関係
上述した構成を有する複数のマーカ1を、それぞれ、複数の対象物3に設ける。これらのマーカ1は、同じ数の偏光生成領域を有している。各マーカ1が有する偏光生成領域の数は、図1の例、および、図1に対応する後述の図2の例では、2つである。代わりに、各マーカ1が有する偏光生成領域1a,1bの数は、1つであってもよいし、3つ以上であってもよい。好ましくは、同じ寸法または形状の1つまたは複数の偏光生成領域が、各マーカ1に設けられている。より好ましくは、同じ寸法と形状の1つまたは複数の偏光生成領域が、各マーカ1に設けられている。
1.2. Relationship between Marker and Object A plurality of
各マーカ1が、複数(図1の例では2つ)の偏光生成領域1a,1bを有する場合には、各マーカ1において、これらの複数の偏光生成領域1a,1bは、予め定めた配列基準(例えば、予め定めた形状または規則)に従って(例えば、同じ直線上に一定の間隔をおいて)配列される。図1の例、および図1に対応する後述の図2の例では、各マーカ1において、2つの偏光生成領域が、円柱形状部5の外周に、円柱形状部5の軸方向に間隔をおいて配置されている。なお、円柱形状部5は、対象物3の全体であってもよいし、対象物3の一部であってもよいし、対象物3に設けられたものであってもよい。
When each
複数のマーカ1は、これらにそれぞれ設けられた偏光生成領域の配列パターンの違いにより互いに識別可能になる。例えば、図2の例では、当該配列パターンの異なる複数のマーカ1は、上下(図2の上下)にそれぞれ第1の偏光生成領域1aと第2の偏光生成領域1bが配列されたマーカ1と、上下にそれぞれ第1の偏光生成領域1aと第1の偏光生成領域1aが配列されたマーカ1と、上下にそれぞれ第2の偏光生成領域1bと第1の偏光生成領域1aが配列されたマーカ1と、上下にそれぞれ第2の偏光生成領域1bと第2の偏光生成領域1bが配列されたマーカ1とからなる。このような配列パターンの違いによるマーカ1の識別は、後述する対象物識別装置10と対象識別方法によりなされる。
The plurality of
このような複数のマーカ1が、それぞれ、複数の対象物3に設けられた状態で、複数のマーカ1の間で、かつ、各マーカ1において、各第1の偏光生成領域1aの基準方向は同じ方向を向き、各第2の偏光生成領域1bの基準方向は同じ方向を向き、各第1の偏光生成領域1aの基準方向と各第2の偏光生成領域1aの基準方向とは互いに直交する。なお、水平面に対する対象物3の向きが、変化し得る場合には、各対象物3は、水平面に対して同じ向きにある(例えば水平方向を向いている)と仮定する。例えば、対象物3がロボットや車両などの移動体であり、移動体の姿勢(向き)が水平面に対して変化することにより、水平面に対する対象物3(移動体)の向きが、変化し得る。一方、対象物3の姿勢(向き)は、水平面に対して固定されたものであってもよい。
With such a plurality of
複数の対象物3には、例えば、以下のものがある。
(1)各対象物3は、ロボットや車両などの移動体である。この場合、後述する本発明の実施形態による対象物識別装置10または対象物識別方法により、複数の移動体を互いに識別できる。
(2)各対象物3は、ロボットや車両などの移動体が自己位置を認識するための指標である。この場合、既知の複数箇所にある複数の対象物3に、それぞれマーカ1を設けておき、移動体に設けた対象物識別装置10により、当該マーカ1を識別し、適宜の手段により、識別したマーカ1の位置と当該移動体との位置関係を認識し、認識した位置関係を用いて、当該移動体の位置を取得する。
(3)複数の対象物3は、それぞれ、搬送ライン(例えばベルトコンベア)により搬送されてくる複数種類の物体である。この場合、後述する本発明の実施形態による対象物識別装置10または対象物識別方法により、物体に設けられたマーカ1を識別し、ロボットハンドが、当該物品を把持して当該識別の結果に応じた位置へ移動させる。
Examples of the plurality of
(1) Each
(2) Each
(3) Each of the plurality of
2.対象物識別装置
図2は、本発明の実施形態による対象物識別装置10の構成を示す。対象物識別装置10は、複数の対象物3にそれぞれ設けられた上述の複数のマーカ1に基づいて、これらの対象物3を互いに識別することができる。
2. Object Identification Device FIG. 2 shows a configuration of the
対象物識別装置10は、撮像装置11と画像処理装置13を備える。
The
2.1.撮像装置
撮像装置11は、複数のマーカ1のうち少なくとも1つのマーカ1を含む撮像範囲を撮像する。撮像装置11は、光学部15と,第1撮像部17と、第2撮像部19とを有する。以下において、第1の偏光生成領域1aの基準方向に偏光した直線偏光を第1の直線偏光といい、第2の偏光生成領域1bの基準方向に偏光した直線偏光を第2の直線偏光という。
2.1. Imaging Device The
光学部15は、前記撮像範囲から進行してきた光のうち、第1の直線偏光を選択的に第1撮像部17に入射させ、第2の直線偏光を選択的に第2撮像部19に入射させる。ここで、「第1の直線偏光を選択的に第1撮像部17に入射させ」とは、第1の直線偏光を第1撮像部17へ(好ましくは、強度を低下させることなく)入射させる一方で、他の直線偏光成分の光が第1撮像部17へ入射することを阻止(好ましくは完全に阻止)し、または、第1撮像部17へ入射する他の直線偏光成分の光の強度を、第1撮像部17へ入射する第1の直線偏光の強度に対して減らすことを意味する。同様に、「第2の直線偏光を選択的に第2撮像部19に入射させ」とは、第2の直線偏光を第2撮像部19へ(好ましくは、強度を低下させることなく)入射させる一方で、他の直線偏光成分の光が第2撮像部19へ入射することを阻止(好ましくは完全に阻止)し、または、第2撮像部19へ入射する他の直線偏光成分の光の強度を、第2撮像部19へ入射する第2の直線偏光の強度に対して減らすことを意味する。
The
光学部15は、偏光ビームスプリッタ15aと、第1レンズ15bと、第2レンズ15cとを有する。
The
偏光ビームスプリッタ15aは、入射光のうち、第1の直線偏光を、第1撮像部17側へ選択的に反射し、第2の直線偏光を、第2撮像部19側へ選択的に透過させる。好ましくは、偏光ビームスプリッタ15aは、ハーフミラーである。偏光ビームスプリッタ15aで反射した直線偏光の偏光方向は、偏光ビームスプリッタ15aを透過した直線偏光の偏光方向と直交する。
The
第1レンズ15bには、偏光ビームスプリッタ15aにより反射された第1の直線偏光が入射する。第1レンズ15bは、撮像範囲からの第1の直線偏光を第1撮像部17の撮像面17aに結像させるためのものである。第2レンズ15cには、偏光ビームスプリッタ15aを透過した第2の直線偏光が入射する。第2レンズ15cは、撮像範囲からの第2の直線偏光を第2撮像部19の撮像面19aに結像させるためのものである。
The first linearly polarized light reflected by the
第1撮像部17は、撮像範囲を撮像して第1画像データを生成し、第2撮像部19は、撮像範囲を撮像して第2画像データを生成する。
The
第1撮像部17は、撮像範囲からの光を偏光ビームスプリッタ15aを介して受ける撮像面17aを有する。この撮像面17aには、多数のCCD受光素子が2次元状に配列されている。第1撮像部17は、受けた光に応じた第1画像データ(この例では、2次元画像データ)を生成する。第2撮像部19は、撮像範囲からの光を偏光ビームスプリッタ15aを介して受ける撮像面19aを有する。この撮像面19aには、多数のCCD受光素子が2次元状に配列されている。第2撮像部19は、受けた光に応じた第2画像データ(この例では、2次元画像データ)を生成する。
The
光学部15は、図2の例のように、第3レンズ15dを有していてよい。第3レンズ15dは、光学部15の光路において、偏光ビームスプリッタ15aよりも上流側に位置する。第3レンズ15dは、撮像範囲からの入射光を、平行光に近づける(例えば平行光にする)。
The
偏光ビームスプリッタ15aと、第1撮像部17と、第2撮像部19とは、撮像装置11の支持体21に取り付けられていてよい。これにより、偏光ビームスプリッタ15aと、第1撮像部17と、第2撮像部19とは、向きが互いに固定されている。
The
上述した撮像装置11の構成で、以下の作用が得られる。
マーカ1における第1の偏光生成領域1aからの反射光が光学部15に入射する場合には、次のようになる。第1の偏光生成領域1aからの反射光である第1の直線偏光は、偏光ビームスプリッタ15aにより、第1撮像部17に向けて反射される。これにより、第1の偏光生成領域1aからの第1の直線偏光は、第1撮像部17に入射する。一方、偏光ビームスプリッタ15aは、第1の偏光生成領域1aからの第1の直線偏光が、自身を透過するのを阻止する。これにより、第1の偏光生成領域1aからの第1の直線偏光は、第2撮像部19に入射しない。
マーカ1における第2の偏光生成領域1bからの反射光が光学部15に入射する場合には、次のようになる。第2の偏光生成領域1bからの反射光である第2の直線偏光は、第2撮像部19側に向けて、偏光ビームスプリッタ15aを透過する。これにより、第2の偏光生成領域1bからの第2の直線偏光は、第2撮像部19に入射する。一方、偏光ビームスプリッタ15aは、第2の偏光生成領域1bからの第2の直線偏光を、反射しない。これにより、第2の偏光生成領域1bからの第2の直線偏光は、第2撮像部19に入射しない。
このように、第1撮像部17へ入射する光は、直線偏光成分に関して第1の直線偏光が最も多くなり(理想的には、第1の直線偏光のみになり)、第2撮像部19へ入射する光は、直線偏光成分に関して第2の直線偏光が最も多くなる(理想的には、第2の直線偏光のみになる)。
With the configuration of the
When the reflected light from the first polarized
When the reflected light from the second polarized
Thus, the light incident on the
このような作用が得られるように、撮像装置11の支持体21の向きは、対象物3に設けられたマーカ1に設けられた反射部9の基準方向に対して設定される。水平面に対する対象物3の向きが一定である場合には、当該マーカ1における第1の偏光生成領域1aの当該基準方向に対して、撮像装置11の支持体21の向きが設定される。
The orientation of the
2.2.画像処理装置
画像処理装置13は、画像処理部13aと記憶部13bとを有する。
2.2. Image Processing Device The
画像処理部13aは、第2画像データの各画素に対する、撮像範囲において該画素と同じ位置となる第1画像データの画素の輝度比率を求める。すなわち、第1画像データの各画素について、該画素の輝度(明るさ)を値Aとし、撮像範囲において該画素と同じ位置に相当する第2画像データの画素の輝度を値Bとして、画像処理装置13は、値Aと値Bを独立変数とした関数の値f(A,B)を求める。画像処理部13aは、値f(A,B)に基づいて、第1画像データまたは第2画像データ(以下、第1画像データまたは第2画像データを単に画像データともいう)におけるマーカ1の位置を特定するとともに、当該マーカ1を他のマーカ1から識別する。本実施形態では、値f(A,B)は、値Bに対する値Aの比率A/Bである。
The
記憶部13bは、画像処理部13aによるマーカ1の識別に用いるために予め作成されたマーカ識別用データを記憶する。マーカ識別用データについては後述する。
The
マーカ1の識別は、以下のように行われる。
The
画像処理部13aは、画像データの各画素に関する比率A/Bにより、当該画素が、第1または第2の偏光生成領域1a,1bに相当するかを、次のように判断する。
第1の偏光生成領域1aに相当する画素については、上述した光学部15の作用により、上述の比率A/Bは、他の画素と比べて大幅に大きくなる。したがって、画像処理部13aは、各画素の比率A/Bが、予め設定した第1しきい値よりも大きいかどうかを判断する。画素の比率A/Bが、第1しきい値よりも大きい場合には、画像処理部13aは、当該画素が第1の偏光生成領域1aに相当すると判断する。一方、画素の比率A/Bが、第1しきい値よりも大きくない場合には、画像処理部13aは、当該画素が第1の偏光生成領域1aに相当しないと判断する。
第2の偏光生成領域1bに相当する画素については、上述した光学部15の作用により、上述の比率A/Bは、他の画素と比べて大幅に小さくなる。したがって、画像処理部13aは、各画素の比率A/Bが、第2しきい値よりも小さいかどうかを判断する。画素の比率A/Bが、第2しきい値よりも小さい場合には、画像処理部13aは、当該画素が第2の偏光生成領域1bに相当すると判断する。一方、画素の比率A/Bが、第2しきい値よりも小さくない場合には、画像処理部13aは、当該画素が第2の偏光生成領域1bに相当しないと判断する。なお、第2しきい値は、第1しきい値よりも小さく、例えば、第1しきい値の逆数であってよい。一例では、第1しきい値は2であり、第2しきい値は1/2である。
第1および第2の偏光生成領域1a,1bのいずれにも相当しない画素については、上述した光学部15の作用により、上述の比率A/Bは、大きすぎず、かつ、小さすぎない値(1、または1に近い値)になる。したがって、画像処理部13aは、各画素の比率A/Bが、第1しきい値以下であって、第2しきい値以上であるかどうかを判断する。画素の比率A/Bが、第1しきい値以下であって、第2しきい値以上である場合には、画像処理部13aは、当該画素が第1および第2の偏光生成領域1bのいずれにも相当しないと判断する。
The
For the pixel corresponding to the first
For the pixel corresponding to the second
For pixels that do not correspond to any of the first and second
画像処理部13aは、各画素について、当該画素が第1または第2の偏光生成領域1bに相当するかどうかを判断したら、各画素に関する当該判断に基づいて、画像データ内のマーカ1の位置を特定するとともに、当該マーカ1を他のマーカ1から識別する。この時、画像処理部13aは、画像データにおける当該マーカ1の位置を示す位置データと、当該マーカ1を他方のマーカ1から区別するための識別データとを出力する。ここで、好ましくは、画像処理部13aは、位置データと識別データとを互いに関連づけた状態で、位置データと識別データを出力する。
When the
各マーカ1が、n個(ここでは、nは2以上の整数である)の偏光生成領域を有する場合には、マーカ1における偏光生成領域の可能な配列パターンは、2n通りある。例えば、各マーカ1が、2個の偏光生成領域を有する場合には、マーカ1における偏光生成領域の可能な配列パターンは、図2の例のように、22通りある。したがって、前記配列パターンが互いに異なる2n個のマーカ1を、それぞれ、2n個の対象物3に設けることにより、対象物識別装置10は、当該2n個のマーカ1を互いに識別できる。すなわち、対象物識別装置10は、画像データ(すなわち、画像データによる画像)において、配列基準に従って配列されているn個の偏光生成領域の各々が、第1または第2の偏光生成領域1a,1bであるかを判断することにより、配列パターンを特定し、特定した配列パターンを有するマーカ1を、他のマーカ1から識別する。
When each
記憶部13bに記憶されているマーカ識別用データは、マーカ1における偏光生成領域1a,1bの可能な配列パターンをそれぞれ示す複数の配列パターン識別情報と、これらの配列パターン識別情報にそれぞれ対応しマーカ1を識別するための複数の前記識別データとを互いに対応づけたデータである。
The marker identification data stored in the
なお、画像処理部13aは、画像データ内に存在するn個の偏光生成領域を、次のように互いに識別してよい。例えば、ここでは、各マーカ1のn個の偏光生成領域は、予め定めた方向に隙間なく配列され、この配列方向において同じ幅を有する。画像処理部13aは、画像データにおいて、第1の偏光生成領域1aに相当する画素と第2の偏光生成領域1bに相当する画素とからなる領域を特定する。次いで、画像処理部13aは、特定した領域を、前記配列方向において、予め分かっている偏光生成領域の数nの区域に等分割する。画像処理部13aは、等分割されたn個の区域を、それぞれ、n個の偏光生成領域として互いに識別する。
Note that the
3.対象物識別方法
次に、図3を参照して、本発明の実施形態による対象物識別方法を説明する。この対象物識別方法は、上述した対象物識別装置10を用いて行われる。
3. Object Identification Method Next, an object identification method according to an embodiment of the present invention will be described with reference to FIG. This object identification method is performed using the
この方法の開始時点で、互いに識別可能な複数のマーカ1が、それぞれ、複数の対象物3に設けられている。複数の対象物3は、互いに異なる位置にある。
At the start of this method, a plurality of
ステップS1において、撮像装置11は、マーカ1を含む撮像範囲を撮像して上述の第1画像データと第2画像データを生成する。なお、図3の例では、複数のマーカ1のうち、1つのマーカ1が撮像範囲内に位置すると仮定する。また、図3の例では、互いに識別可能な各マーカ1は、複数の偏光生成領域を有すると仮定する。
In step S1, the
ステップS2において、第1画像データまたは第2画像データ(以下、処理対象の画像データともいう)内の画素を1つ選択する。すなわち、画像処理部13aは、処理対象の画像データにおける各画素に対して、後述のステップS3〜ステップS6を行うために、ステップS2において、処理対象の画像データを構成する多数の画素のうち、ステップS3〜ステップS6を行っていない画素を、処理対象の画素として1つ選択する。後述の説明と図3では、処理対象の画像データを構成する多数の画素に対して、1つずつ順にステップS3〜ステップS6を行っているが、本発明は、これに限定されない。例えば、処理対象の画像データの構成する多数の画素に対して同時にステップS3〜ステップS6を行ってもよい。
In step S2, one pixel in the first image data or the second image data (hereinafter also referred to as image data to be processed) is selected. That is, the
ステップS3において、画像処理部13aは、処理対象の画素について、上述の比率A/Bが第1しきい値より大きいかどうかを判断する。この判断が肯定である場合には、ステップS4へ進み、この判断が否定である場合には、ステップS5へ進む。
In step S3, the
ステップS4において、画像処理部13aは、処理対象の画素が第1の偏光生成領域1aに相当すると判断する。次いで、ステップS7へ進む。
In step S4, the
ステップS5において、画像処理部13aは、処理対象の画素について、上述の比率A/Bが第2しきい値より小さいかどうかを判断する。この判断が肯定である場合には、ステップS6へ進み、この判断が否定である場合には、ステップS7へ進む。
In step S5, the
ステップS6において、画像処理部13aは、処理対象の画素が第2の偏光生成領域1bに相当すると判断する。次いで、ステップS7へ進む。
In step S6, the
ステップS7において、画像処理部13aは、処理対象の画像データを構成する画素のすべてに対してステップS3〜ステップS6を行ったかどうかを判断する。すなわち、画像処理部13aは、処理対象の画像データを構成する画素のすべてについて、当該画素が、撮像範囲において、第1の偏光生成領域1aと、第2の偏光生成領域1bと、それ以外の部分とのいずれに相当するかを判断したかどうかを判断する。この判断が肯定である場合には、ステップS8へ進み、この判断が否定である場合には、ステップS2へ戻る。
In step S7, the
画像処理部13aは、処理対象の画像データを構成する画素のすべてに対してステップS3〜ステップS6を行うことにより、画像処理部13aは、処理対象の画像データにおける、第1の偏光生成領域1aに相当する画素の分布と、第2の偏光生成領域1bに相当する画素の分布との一方または両方を得る。
The
ステップS8において、画像処理部13aは、各画素の前記比率に基づいて、処理対象の画像データにおける偏光生成領域1a,1bの配列パターンを特定する。すなわち、画像処理部13aは、第1の偏光生成領域1aに相当する画素の前記分布と、第2の偏光生成領域1bに相当する画素の前記分布との一方または両方に基づいて、処理対象の画像データにおける、マーカ1の複数の偏光生成領域の配列パターンを特定する。各マーカ1が、2つの偏光生成領域を有する場合には、マーカ1における2つの偏光生成領域が、例えば、図2に示す4つのマーカ1のいずれの配列パターンになっているかを特定する。
In step S8, the
ステップS9において、画像処理部13aは、ステップS8で特定した配列パターンと、記憶部13bに記憶されたマーカ識別用データとに基づいて、処理対象の画像データにおけるマーカ1を他方のマーカ1から区別するための識別データを出力する。さらに、好ましくは、ステップS9では、画像処理部13aは、処理対象の画像データにおける、マーカ1の位置を示す位置データを、識別データと関連づけた状態で出力する。
In step S9, the
4.変更例
本発明は上述した実施の形態に限定されず、本発明の要旨を逸脱しない範囲で種々変更を加え得ることは勿論である。例えば、以下の変更例1〜7のいずれかを単独で採用してもよいし、変更例1〜7を任意に組み合わせて採用してもよい。この場合、以下で述べない点は、上述と同じである。
4). Modifications The present invention is not limited to the above-described embodiments, and various modifications can be made without departing from the scope of the present invention. For example, any one of the following modification examples 1 to 7 may be employed alone, or modification examples 1 to 7 may be arbitrarily combined and employed. In this case, the points not described below are the same as described above.
4.1.変更例1
各マーカ1が、1つの偏光生成領域を有していてもよい。この場合には、互いに識別可能なマーカ1として、第1の偏光生成領域1aを有するマーカ1と、第2の偏光生成領域1bを有するマーカ1とがある。したがって、これらの2つのマーカ1を、それぞれ2つの対象物3に設けて、上述の図3に示す対象物識別方法が行われる。
4.1. Modification example 1
Each
図3の対象物識別方法において、上述のステップS8では、画像処理部13aは、第1および第2の偏光生成領域1a,1bが互いに異なる種類の偏光生成領域であるとして、各画素の前記比率に基づいて、処理対象の画像データ内に含まれている偏光生成領域の種類を特定する。ステップS9では、画像処理部13aは、ステップS8で特定した種類に基づいて、処理対象の画像データ内のマーカを他のマーカから識別する。すなわち、ステップS9では、画像処理部13aは、処理対象の画像データにおいて、ステップS4またはステップS6で、処理対象の画素が、第1または第2の偏光生成領域1a,1bに相当すると判断されたことに基づいて、処理対象の画像データが、第1および第2の偏光生成領域1a,1bのいずれを含むかを示すデータを、マーカ1の識別データとして出力する。
なお、第1または第2の偏光生成領域1a,1bに相当すると判断される画素が1つあれば、ステップS9を実行できる。ステップS4またはステップS6で、第1または第2の偏光生成領域1a,1bに相当すると判断される画素が、互いに隣接しており、かつ、設定数以上ある場合に、ステップS9において、マーカ1の識別データを出力するようにしてもよい。
In the object identification method of FIG. 3, in step S8 described above, the
If there is one pixel determined to correspond to the first or second
4.2.変更例2
図4(A)は、対象物識別装置10の別の構成例を示す。図4(A)の例では、撮像装置11の光学部15において、偏光ビームスプリッタ15aの代わりに、偏光特性を有しないビームスプリッタ15aを設けている。この場合、光学部15は、さらに、第1偏光フィルタ15eと、第2偏光フィルタ15fとを有する。
4.2. Modification example 2
FIG. 4A shows another configuration example of the
ビームスプリッタ15aは、入射光を、その偏光特性を変化させることなく、反射光と透過光に分割する。この反射光は、第1偏光フィルタ15eに入射し、この透過光は、第2偏光フィルタ15fに入射する。好ましくは、ビームスプリッタ15aは、ハーフミラーである。
第1偏光フィルタ15eは、入射光のうち、第1の直線偏光を選択的に(好ましくは、第1の直線偏光のみを)透過させる。したがって、ビームスプリッタ15aからの反射光は、第1偏光フィルタ15eを透過すると、第1の直線偏光(好ましくは、完全な第1の直線偏光)になる。
第2偏光フィルタ15fは、入射光のうち、第2の直線偏光を選択的に(好ましくは、第2の直線偏光のみを)透過させる。したがって、ビームスプリッタ15aからの透過光は、第2偏光フィルタ15fを透過すると、第2の直線偏光(好ましくは、完全な第2の直線偏光)になる。
The
The first
The second
なお、第1偏光フィルタ15eと、第2偏光フィルタ15fと、第1撮像部17と、第2撮像部19とは、互いに向きが固定されるように支持体21に取り付けられる。第1偏光フィルタ15eを透過した直線偏光の偏光方向は、第2偏光フィルタ15fを透過した直線偏光の偏光方向と直交する。
The first
また、光学部15の光路において、図4(A)と違って、第1偏光フィルタ15eを第1レンズ15bの下流に設けてもよく、第2偏光フィルタ15fを第2レンズ15cの下流に設けてもよい。
Further, in the optical path of the
4.3.変更例3
図4(B)は、対象物識別装置10の別の構成例を示す。図4(B)の例では、上述の偏光ビームスプリッタ15aが省略され、光学部15は、第1レンズ15bと、第1偏光フィルタ15eと、第2レンズ15cと、第2偏光フィルタ15fと、を有する。
撮像範囲からの光が、第1偏光フィルタ15eを透過して第1撮像部17に入射する。同様に、同じ撮像範囲からの光が、第2偏光フィルタ15fを透過して第2撮像部19に入射する。第1偏光フィルタ15eは、入射光のうち、第1の直線偏光を選択的に(好ましくは、第1の直線偏光のみを)透過させる。したがって、撮像範囲からの光は、第1偏光フィルタ15eを透過すると、第1の直線偏光(好ましくは、完全な第1の直線偏光)になる。第2偏光フィルタ15fは、入射光のうち、第2の直線偏光を選択的に(好ましくは、第2の直線偏光のみを)透過させる。したがって、撮像範囲からの光は、第2偏光フィルタ15fを透過すると、第2の直線偏光(好ましくは、完全な第2の直線偏光)になる。
4.3. Modification example 3
FIG. 4B shows another configuration example of the
Light from the imaging range passes through the first
なお、第1偏光フィルタ15eと、第2偏光フィルタ15fと、第1撮像部17と、第2撮像部19とは、互いに向きが固定されるように支持体21に取り付けられる。第1偏光フィルタ15eを透過した直線偏光の偏光方向は、第2偏光フィルタ15fを透過した直線偏光の偏光方向と直交する。
The first
第1撮像部17と第2撮像部19が、それぞれ、同じ撮像範囲、または、ほぼ同じ撮像範囲の第1画像データと第2画像データを形成するように、撮像装置11が構成されている。なお、第1画像データと第2画像データとの間に撮像範囲のずれがある場合には、画像処理部13aは、第1撮像部17により生成される第1画像データと、第2撮像部19により生成される第2画像データとの間の撮像範囲のずれを、適宜の手段を用いて補正して、第1画像データの各画素を、撮像範囲において該画素と同じ位置に相当する第2画像データの画素に対応付ける。
The
4.4.変更例4
画像処理部13aは、上述の値f(A,B)に補正値Kを乗じることにより、補正後の値f(A,B)×Kを求めてもよい。補正値Kは次のように求める。均一な無偏光が、光学部15を介して第1撮像部17と第2撮像部19に入射した場合に、当該均一な無偏光の部分に相当する画素について、補正後の値f(A,B)×Kが設定値になるように、補正値Kを予め求めておく。f(A,B)がA/Bである場合には、この設定値は、例えば、1である。
4.4. Modification example 4
The
ステップS3において、画像処理部13aは、処理対象の画素について、補正後の値f(A,B)×Kが第1しきい値より大きいかどうかを判断する。この判断が肯定である場合には、ステップS4へ進み、この判断が否定である場合には、ステップS5へ進む。
In step S <b> 3, the
ステップS5において、画像処理部13aは、処理対象の画素について、補正後の値f(A,B)×Kが第2しきい値より小さいかどうかを判断する。この判断が肯定である場合には、ステップS6へ進み、この判断が否定である場合には、ステップS7へ進む。
In step S5, the
4.5.変更例5
対象物識別装置10は、複数組の撮像装置11と画像処理装置13を備えていてもよい。この場合、上述の実施形態において、複数組の間で、撮像装置11の偏光ビームスプリッタ15aによる反射光の偏光方向が、互いに設定角度だけずれるように、複数組の撮像装置11と画像処理装置13が配置される。ただし、好ましくは、複数組の間で、撮像装置11は、同じ撮像範囲を撮像するように配置される。
4.5. Modification Example 5
The
これにより、次の不都合が生じても、マーカ1を認識できる。
ある組の撮像装置11の偏光ビームスプリッタ15aによる反射光の偏光方向が、マーカ1における第1の偏光生成領域1aの基準方向から大きくずれているとする。このずれが原因で、画像処理部13aが、当該マーカ1における第1の偏光生成領域1aに相当する画素を認識できない場合がある。すなわち、ステップS3の判断が肯定となる画素が見つからない場合がある。
このような不都合が生じても、他の組の撮像装置11の偏光ビームスプリッタ15aによる反射光の偏光方向が、マーカ1における第1の偏光生成領域1aの基準方向に一致し、または、この基準方向に近い方向であるとする。この場合には、画像処理部13aは、当該マーカ1における第1の偏光生成領域1aに相当する画素を認識できる。すなわち、ステップS3の判断が肯定となる画素が見つかる。
Thereby, even if the following inconvenience arises, the
It is assumed that the polarization direction of the reflected light by the
Even if such inconvenience occurs, the polarization direction of the reflected light from the
同様に、上述の変更例2または変更例3において、複数組の間で、撮像装置11における第1偏光フィルタ15eの透過光の偏光方向が、互いに設定角度だけずれるように、複数組の撮像装置11と画像処理装置13が配置されてもよい。ただし、好ましくは、複数組の間で、撮像装置11は、同じ撮像範囲を撮像するように配置される。
Similarly, in Modification 2 or
4.6.変更例6
上述の実施形態、変更例2、または変更例3において、支持体21は、撮像装置11による撮像方向を向く軸回りに回転可能であってもよい。
4.6. Modification Example 6
In the above-described embodiment, the second modification example, or the third modification example, the
これにより、次の不都合が生じても、マーカ1を認識できる。
上述の実施形態において、撮像装置11における偏光ビームスプリッタ15aによる反射光または偏光ビームスプリッタ15aの透過光の偏光方向が、マーカ1における第1の偏光生成領域1aまたは第2の偏光生成領域1bの基準方向から大きくずれているとする。このずれが原因で、画像処理部13aが、当該マーカ1における第1の偏光生成領域1aまたは第2の偏光生成領域1bに相当する画素を認識できない場合がある。すなわち、ステップS3の判断またはステップS5の判断が肯定となる画素が見つからない場合がある。
このような不都合が生じた場合には、例えば、上述のステップS7の判断が肯定になったにもかかわらず、すべての処理対象の画素について、ステップS3とステップS5のいずれの判断も否定であった場合には、適宜の手段(例えば駆動装置)により、支持体21を上述の軸回りに設定角度(例えば、10度以上45度以下の角度)だけ回転させる。これにより、撮像装置11における偏光ビームスプリッタ15aによる反射光または偏光ビームスプリッタ15aの透過光の偏光方向が、マーカ1における第1の偏光生成領域1aまたは第2の偏光生成領域1bの基準方向一致し、または、この基準方向に近い方向にするようになる。この状態で、図3に示す対象物識別方法を再び行う。
Thereby, even if the following inconvenience arises, the
In the above-described embodiment, the polarization direction of the reflected light from the
When such inconvenience occurs, for example, all the determinations in step S3 and step S5 are negative for all the pixels to be processed even though the determination in step S7 is affirmative. In such a case, the
同様に、上述の変更例2または3において、第1偏光フィルタ15eまたは第2偏光フィルタ15fによる偏光方向が、マーカ1における第1の偏光生成領域1aまたは第2の偏光生成領域1bの基準方向から大きくずれているとする。このずれが原因で、画像処理部13aが、当該マーカ1における第1の偏光生成領域1aまたは第2の偏光生成領域1bに相当する画素を認識できない場合がある。すなわち、ステップS3の判断またはステップS5の判断が肯定となる画素が見つからない場合がある。
このような不都合が生じた場合には、例えば、上述のステップS7の判断が肯定になったにもかかわらず、すべての処理対象の画素について、ステップS3とステップS5のいずれの判断も否定であった場合には、適宜の手段(例えば駆動装置)により、支持体21を上述の軸回りに設定角度(例えば、10度以上45度以下の角度)だけ回転させる。これにより、第1偏光フィルタ15eまたは第2偏光フィルタ15fによる偏光方向が、マーカ1における第1の偏光生成領域1aまたは第2の偏光生成領域1bの基準方向一致し、または、この基準方向に近い方向にするようになる。この状態で、図3に示す対象物識別方法を再び行う。
Similarly, in the above-described
When such inconvenience occurs, for example, all the determinations in step S3 and step S5 are negative for all the pixels to be processed even though the determination in step S7 is affirmative. In such a case, the
4.7.変更例7
上述では、値Aと値Bを独立変数とした関数の値f(A,B)は、比率A/Bであったが、適宜に定められてよい。すなわち、第1の偏光生成領域1aに相当する画素と、第2の偏光生成領域1bに相当する画素を特定できさえすれば、値f(A,B)は、比率A/Bに限定されず、他のものであってもよい。この場合、第1の偏光生成領域1aに相当する画素と、第2の偏光生成領域1bに相当する画素を特定できるように、上述した第1しきい値および第2しきい値は、f(A,B)に合わせて定められる。
例えば、値f(A,B)は、A/(A+B)であってもよいし、(A−B)/(A+B)であってもよいし、他のものであってもよい。なお、f(A,B)がA/(A+B)や(A−B)/(A+B)などである場合には、ゼロ、または、ゼロに近い分母で、分子を割る計算が避けられる。
4.7. Modification example 7
In the above description, the value f (A, B) of the function having the value A and the value B as independent variables is the ratio A / B, but may be determined as appropriate. That is, the value f (A, B) is not limited to the ratio A / B as long as the pixel corresponding to the first
For example, the value f (A, B) may be A / (A + B), (A−B) / (A + B), or some other value. When f (A, B) is A / (A + B), (A−B) / (A + B), or the like, calculation that divides the numerator with zero or a denominator close to zero can be avoided.
なお、この変更例7を採用する場合、上述において、比率A/Bは、値f(A,B)に読み替えられてよい。 In the case of adopting the modified example 7, in the above description, the ratio A / B may be read as the value f (A, B).
1 マーカ、1a 第1の偏光生成領域、1b 第2の偏光生成領域、3 対象物、5 円柱形状部、7 偏光部、9 反射部、10 対象物識別装置、11 撮像装置、13 画像処理装置、13a 画像処理部、13b 記憶部、15 光学部、15a ビームスプリッタ、15b 第1レンズ、15c 第2レンズ、15d 第3レンズ、15e 第1偏光フィルタ,15f 第2偏光フィルタ,17 第1撮像部、17a 撮像面、19 第2撮像部、19a 撮像面、21 支持体
DESCRIPTION OF
Claims (5)
前記マーカは、無偏光が入射してきた場合に該無偏光から第1の直線偏光の反射光を生成する第1の偏光生成領域と、無偏光が入射してきた場合に該無偏光から第2の直線偏光の反射光を生成する第2の偏光生成領域との少なくとも一方を有し、
マーカを含む撮像範囲を撮像するための撮像装置と、
撮像装置により得た前記撮像範囲の画像データに基づいて、前記撮像範囲内のマーカを、他のマーカから識別する画像処理装置と、を備え、
撮像装置は、光学部と、第1撮像部と、第2撮像部とを有し、
第1の直線偏光の偏光方向が第2の直線偏光の偏光方向と直交する場合に、光学部は、前記撮像範囲から進行してきた光のうち、第1の直線偏光を選択的に第1撮像部に入射させ、第2の直線偏光を選択的に第2撮像部に入射させ、
第1撮像部は、該第1撮像部への入射光に基づいて、前記撮像範囲の第1画像データを生成し、
第2撮像部は、該第2撮像部への入射光に基づいて、前記撮像範囲の第2画像データを生成し、
画像処理装置は、
(A)第1画像データの各画素について、該画素の輝度を値Aとし、前記撮像範囲において該画素と同じ位置に相当する第2画像データの画素の輝度を値Bとし、値Aと値Bを独立変数とした関数の値f(A,B)を求め、
(B)第1および第2の偏光生成領域が互いに異なる種類の偏光生成領域であるとして、各画素の前記値f(A,B)に基づいて、第1画像データまたは第2画像データ内に含まれている偏光生成領域の種類、または、第1画像データまたは第2画像データ内に含まれている複数の偏光生成領域の配列パターンを特定し、
(C)特定した種類または配列パターンに基づいて、第1画像データまたは第2画像データ内のマーカを他のマーカから識別する、ことを特徴とする対象物識別装置。 An object identification device for identifying these objects from each other based on a plurality of markers respectively provided on the plurality of objects,
The marker includes a first polarization generation region that generates a first linearly polarized reflected light from the non-polarized light when non-polarized light is incident, and a second polarization-to-second region when the non-polarized light is incident. Having at least one of a second polarized light generating region for generating linearly polarized reflected light;
An imaging device for imaging an imaging range including a marker;
An image processing device for identifying a marker in the imaging range from other markers based on image data of the imaging range obtained by an imaging device;
The imaging device includes an optical unit, a first imaging unit, and a second imaging unit,
When the polarization direction of the first linearly polarized light is orthogonal to the polarization direction of the second linearly polarized light, the optical unit selectively performs first imaging of the first linearly polarized light out of the light traveling from the imaging range. The second linearly polarized light is selectively incident on the second imaging unit,
The first imaging unit generates first image data in the imaging range based on the incident light to the first imaging unit,
The second imaging unit generates second image data of the imaging range based on incident light to the second imaging unit,
The image processing device
(A) For each pixel of the first image data, the luminance of the pixel is a value A, and the luminance of the pixel of the second image data corresponding to the same position as the pixel in the imaging range is a value B. Find the value f (A, B) of the function with B as the independent variable,
(B) Assuming that the first and second polarization generation regions are different types of polarization generation regions, based on the value f (A, B) of each pixel, the first image data or the second image data Specify the type of polarization generation region included, or the arrangement pattern of a plurality of polarization generation regions included in the first image data or the second image data,
(C) An object identification device that identifies a marker in the first image data or the second image data from another marker based on the specified type or arrangement pattern.
(B1)第1画像データまたは第2画像データの各画素について、前記値f(A,B)に補正値Kを乗じた値f(A,B)×K、または、前記値f(A,B)が、第1しきい値よりも大きいかどうかを判断し、当該判断が肯定である場合には、当該画素が、第1の偏光生成領域に相当すると判断し、
(B2)第1画像データまたは第2画像データの各画素について、前記値f(A,B)に補正値Kを乗じた値f(A,B)×K、または、前記値f(A,B)が、第1しきい値よりも小さい値の第2しきい値よりも小さいかどうかを判断し、当該判断が肯定である場合には、当該画素が、第2の偏光生成領域に相当すると判断し、
(B3)前記(B1)および(B2)の判断に基づいて、第1画像データまたは第2画像データ内に含まれている偏光生成領域の種類、または、第1画像データまたは第2画像データ内に含まれている複数の偏光生成領域の配列パターンを特定する、ことを特徴とする請求項1または2に記載の対象物識別装置。 In the image processing apparatus (B),
(B1) For each pixel of the first image data or the second image data, the value f (A, B) × K obtained by multiplying the value f (A, B) by the correction value K, or the value f (A, B B) determines whether or not it is greater than the first threshold, and if the determination is affirmative, determines that the pixel corresponds to the first polarization generation region;
(B2) For each pixel of the first image data or the second image data, the value f (A, B) × K obtained by multiplying the value f (A, B) by the correction value K, or the value f (A, B It is determined whether or not B) is smaller than a second threshold value that is smaller than the first threshold value. If the determination is affirmative, the pixel corresponds to the second polarization generation region. Judging
(B3) Based on the determination of (B1) and (B2), the type of polarization generation region included in the first image data or the second image data, or the first image data or the second image data The object identification device according to claim 1, wherein an array pattern of a plurality of polarization generation regions included in the object is specified.
前記マーカは、無偏光が入射してきた場合に該無偏光から第1の直線偏光の反射光を生成する第1の偏光生成領域と、無偏光が入射してきた場合に該無偏光から第2の直線偏光の反射光を生成する第2の偏光生成領域との少なくとも一方を有するものであり、
マーカを含む撮像範囲を撮像するための撮像装置と、撮像装置により得た前記撮像範囲の画像データに基づいて前記撮像範囲内のマーカを他のマーカから識別する画像処理装置と、を用意し、撮像装置は、光学部と、第1撮像部と、第2撮像部とを有し、
第1の直線偏光の偏光方向が第2の直線偏光の偏光方向と直交する場合に、光学部により、前記撮像範囲から進行してきた光のうち、第1の直線偏光を選択的に第1撮像部に入射させ、第2の直線偏光を選択的に第2撮像部に入射させ、
第1撮像部により、該第1撮像部への入射光に基づいて、前記撮像範囲の第1画像データを生成し、第2撮像部により、該第2撮像部への入射光に基づいて、前記撮像範囲の第2画像データを生成し、
画像処理装置により、
(A)第1画像データの各画素について、該画素の輝度を値Aとし、前記撮像範囲において該画素と同じ位置に相当する第2画像データの画素の輝度を値Bとし、値Aと値Bを独立変数とした関数の値f(A,B)を求め、
(B)第1および第2の偏光生成領域が互いに異なる種類の偏光生成領域であるとして、各画素の前記値f(A,B)に基づいて、第1画像データまたは第2画像データ内に含まれている偏光生成領域の種類、または、第1画像データまたは第2画像データ内に含まれている複数の偏光生成領域の配列パターンを特定し、
(C)特定した種類または配列パターンに基づいて、第1画像データまたは第2画像データ内のマーカを他のマーカから識別する、ことを特徴とする対象物識別方法。 An object identification method for identifying these objects from each other based on a plurality of markers respectively provided on the plurality of objects,
The marker includes a first polarization generation region that generates a first linearly polarized reflected light from the non-polarized light when non-polarized light is incident, and a second polarization-to-second region when the non-polarized light is incident. Having at least one of a second polarization generation region that generates reflected light of linearly polarized light,
An imaging device for imaging an imaging range including a marker, and an image processing device that identifies a marker in the imaging range from other markers based on image data of the imaging range obtained by the imaging device, The imaging device includes an optical unit, a first imaging unit, and a second imaging unit,
When the polarization direction of the first linearly polarized light is orthogonal to the polarization direction of the second linearly polarized light, the optical unit selectively selects the first linearly polarized light out of the light traveling from the imaging range as a first image. The second linearly polarized light is selectively incident on the second imaging unit,
The first imaging unit generates first image data of the imaging range based on the incident light on the first imaging unit, and the second imaging unit generates the first image data on the second imaging unit based on the incident light on the second imaging unit. Generating second image data of the imaging range;
By image processing device
(A) For each pixel of the first image data, the luminance of the pixel is a value A, and the luminance of the pixel of the second image data corresponding to the same position as the pixel in the imaging range is a value B. Find the value f (A, B) of the function with B as the independent variable,
(B) Assuming that the first and second polarization generation regions are different types of polarization generation regions, based on the value f (A, B) of each pixel, the first image data or the second image data Specify the type of polarization generation region included, or the arrangement pattern of a plurality of polarization generation regions included in the first image data or the second image data,
(C) A target identifying method, wherein a marker in the first image data or the second image data is identified from another marker based on the specified type or arrangement pattern.
予め定めた配列基準に従って配列された複数の偏光生成領域を有し、
複数の偏光生成領域の各々は、第1または第2の偏光生成領域であり、
第1の偏光生成領域は、無偏光が入射してきた場合に該無偏光から第1の直線偏光の反射光を生成し、
第2の偏光生成領域は、無偏光が入射してきた場合に該無偏光から第2の直線偏光の反射光を生成し、第2の直線偏光の偏光方向は、第1の直線偏光の偏光方向と直交する、ことを特徴とするマーカ。 A marker provided on a surface of the object to distinguish a plurality of objects from each other ;
Having a plurality of polarization generating regions arranged in accordance with a predetermined arrangement standard ;
Each of the plurality of polarization generation regions is a first or second polarization generation region,
The first polarized light generation region generates reflected light of the first linearly polarized light from the unpolarized light when the unpolarized light is incident.
The second polarized light generation region generates reflected light of the second linearly polarized light from the unpolarized light when the unpolarized light is incident, and the polarization direction of the second linearly polarized light is the polarization direction of the first linearly polarized light. A marker characterized by being orthogonal.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2013042855A JP6098975B2 (en) | 2013-03-05 | 2013-03-05 | Marker, object identification device, and object identification method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2013042855A JP6098975B2 (en) | 2013-03-05 | 2013-03-05 | Marker, object identification device, and object identification method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2014171168A JP2014171168A (en) | 2014-09-18 |
| JP6098975B2 true JP6098975B2 (en) | 2017-03-22 |
Family
ID=51693236
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2013042855A Active JP6098975B2 (en) | 2013-03-05 | 2013-03-05 | Marker, object identification device, and object identification method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6098975B2 (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11354880B2 (en) | 2017-10-27 | 2022-06-07 | 3M Innovative Properties Company | Optical sensor systems |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000230805A (en) * | 1999-02-09 | 2000-08-22 | Toyota Motor Corp | Traveling lane detecting device and method |
| JP2005140547A (en) * | 2003-11-04 | 2005-06-02 | 3D Media Co Ltd | 3-dimensional measuring method, 3-dimensional measuring device and computer program |
-
2013
- 2013-03-05 JP JP2013042855A patent/JP6098975B2/en active Active
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11354880B2 (en) | 2017-10-27 | 2022-06-07 | 3M Innovative Properties Company | Optical sensor systems |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2014171168A (en) | 2014-09-18 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US12590799B2 (en) | Systems and methods for estimating depth from projected texture using camera arrays | |
| US10041787B2 (en) | Object detection device | |
| US11102459B2 (en) | 3D machine-vision system | |
| EP3268932B1 (en) | Active sensing spatial resolution improvement through multiple receivers and code reuse | |
| EP3013047A1 (en) | Multiple pixel pitch for super resolution | |
| JP6195288B2 (en) | Marker, object identification device, and object identification method | |
| CN113748313A (en) | Three-dimensional measurement system and three-dimensional measurement method | |
| JP6642223B2 (en) | Transparent plate surface inspection device, transparent plate surface inspection method, and glass plate manufacturing method | |
| US20130215251A1 (en) | Imaging apparatus, imaging control program, and imaging method | |
| US9948926B2 (en) | Method and apparatus for calibrating multiple cameras using mirrors | |
| US10192311B2 (en) | Methods and apparatus for codeword boundary detection for generating depth maps | |
| JP6098975B2 (en) | Marker, object identification device, and object identification method | |
| JP2026027309A (en) | Machine vision system and method with multi-aperture optical system assembly | |
| JP2010026992A (en) | Coin identification method and coin identification device | |
| JP2010152881A (en) | Barcode scanner and barcode scanning method | |
| KR102156998B1 (en) | A method for detecting motion in a video sequence | |
| CN110836647B (en) | 3D scanning system | |
| US10091404B2 (en) | Illumination apparatus, imaging system, and illumination method | |
| KR102593885B1 (en) | Illumination system with side-emitting illumination, targeting, and confirmation | |
| JP2016156750A (en) | Parallax image generation system, picking system, parallax image generation method, and program | |
| JP2019066186A (en) | Imaging apparatus and method for calculating distance of imaging apparatus | |
| KR20150018977A (en) | Three-dimensional surface measuring apparatus and method thereof | |
| JP2008058204A (en) | Position measuring system | |
| CN115115714A (en) | Optical inspection method, optical inspection apparatus, and non-transitory computer-readable storage medium storing optical inspection program | |
| JP6130796B2 (en) | Object detection sensor and object detection method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20160223 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20161104 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20161108 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20170110 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20170208 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20170210 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6098975 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |