JP7621789B2 - Inspection device, inspection lighting device, inspection method, and article manufacturing method - Google Patents
Inspection device, inspection lighting device, inspection method, and article manufacturing method Download PDFInfo
- Publication number
- JP7621789B2 JP7621789B2 JP2020212220A JP2020212220A JP7621789B2 JP 7621789 B2 JP7621789 B2 JP 7621789B2 JP 2020212220 A JP2020212220 A JP 2020212220A JP 2020212220 A JP2020212220 A JP 2020212220A JP 7621789 B2 JP7621789 B2 JP 7621789B2
- Authority
- JP
- Japan
- Prior art keywords
- evaluation surface
- image
- inspection
- reflected
- reflection image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Description
本発明は、物体に光を照明し、対象物の表面特性や傷や欠陥等を検出する検査装置等に関する。 The present invention relates to an inspection device that illuminates an object with light and detects the surface characteristics, scratches, defects, etc. of the object.
従来から物体の外観を評価することは重要な命題であり、近年、自動車やその他工業製品の仕上がり検査においては自動化がすすめられている。中でも複雑な凹凸を持つ面を持つ部品を検査する技術においては、照明とカメラを用いて自動で検査する以下のような技術が開示されている。 Evaluating the appearance of an object has long been an important task, and in recent years, automation has been promoted in the inspection of the finish of automobiles and other industrial products. In particular, the following technology has been disclosed for inspecting parts with surfaces with complex irregularities, which uses lighting and cameras to automatically inspect the parts.
例えば特許文献1には、歯車の上方に設置した一様な照明で歯面を照明し、被検査体の歯車を回転させながら1/nピッチ毎に歯面の撮像と画像処理を行うことが記載されている。それによって、歯車の上面や側面に視認しにくい欠陥があっても見逃さずに欠陥を検出できる検査装置が開示されている。
For example,
また、特許技術文献2には、曲がり部を有する被検査体をラインパターン照明で照明し、曲がり部に応じて照明部を移動し、様々な凹凸を持つ対象物面に適切に照明を当てることにより、曲がり部を持つ被検査体の欠陥検査を行う技術が開示されている。
Furthermore,
しかしながら、上記の特許文献1、2に記載された方法でも、奥まった部分などを有する複雑な形状の物体の検査は困難であった。
本発明の目的は、複雑な形状の対象物の検査を精度良く行うことができる検査装置を提供する事にある。
However, even with the methods described in the
An object of the present invention is to provide an inspection apparatus capable of inspecting objects with complex shapes with high accuracy.
本発明の1つの側面の検査装置は、
対象物の評価面に照射されたパターン光の明部と暗部の空間的位相をずらしながら、前記評価面からの前記パターン光の反射像を撮像部で撮像することによって異なる位相の複数の画像を取得し、前記複数の画像を用いて前記対象物の前記評価面の検査をする検査装置において、
前記評価面でのみ反射された反射光に基づく1回反射画像と、前記対象物を構成する面の内前記評価面とは異なる所定の面で反射され、かつ、前記評価面で反射された反射光に基づく複数回反射画像と、を用いて前記評価面を評価し、
前記パターン光の空間的位相をずらすことにより、前記1回反射画像と前記複数回反射画像との境界部を検出する制御部を有することを特徴とする。
An inspection apparatus according to one aspect of the present invention comprises:
1. An inspection device for inspecting an evaluation surface of an object by acquiring a plurality of images of different phases by imaging an image of a reflected image of the pattern light from the evaluation surface with an imaging unit while shifting the spatial phase of a bright portion and a dark portion of the pattern light irradiated onto the evaluation surface, and using the plurality of images,
evaluating the evaluation surface using a single reflection image based on reflected light reflected only on the evaluation surface and a multiple reflection image based on reflected light reflected by a predetermined surface that is different from the evaluation surface among surfaces constituting the object and is also reflected on the evaluation surface;
The imaging device further comprises a control unit that detects a boundary between the single reflection image and the multiple reflection image by shifting the spatial phase of the pattern light.
本発明によれば、複雑な形状の対象物の検査を精度良く行うことができる検査装置を実現できる。 The present invention makes it possible to realize an inspection device that can inspect objects with complex shapes with high accuracy.
以下、添付図面を参照して、本発明の好適な実施の形態について実施例を用いて説明する。なお、各図において、同一の部材ないし要素については同一の参照番号を付し、重複する説明は省略ないし簡略化する。 Below, preferred embodiments of the present invention will be described using examples with reference to the attached drawings. Note that in each drawing, the same members or elements are given the same reference numbers, and duplicate descriptions will be omitted or simplified.
図1は本発明に係る実施例1の検査装置を示す図である。
ラインパターン照明部1は例えば高拡散の配光特性を持ち明部と暗部からなる面照明部で、ラインパターン照明部1の明部と暗部のパターンが対象物4に投影される。
FIG. 1 is a diagram showing an inspection device according to a first embodiment of the present invention.
The line
評価対象としての対象物4は金属加工部品や、樹脂成型品、など単純な平面でない、複雑な形状を有し、例えばNC加工機で加工されたギア形状をした対象物である。また、欠陥検査を行う評価面は対象物4上の評価面41であり、対象物4は評価面41とは別に光を反射する反射面(所定の面)42を有する。
The
対象物4の評価面41と反射面42は例えば円筒面状の曲面として構成され、曲がった溝形状を有する。
本実施例の検査装置はラインパターン照明部1から対象物4の評価面41に直接照射された照明光の反射光を2次元画像が取得可能な撮像部としてのカメラで直接撮像することによって第1の画像を得るように構成している。
The
The inspection device of this embodiment is configured to obtain a first image by directly capturing the reflected light of illumination light directly irradiated from the line
また、ラインパターン照明部1からの光を、一旦反射面42を用いて反射し、その反射光で評価面41を照射し、評価面41からの反射光を、カメラ2で撮像することによって第2の画像を得るように構成している。カメラ2で撮像した2次元の第1の画像と第2の画像は制御部3を経由してPC等の画像処理部5に取り込まれる。
The light from the line
なお、ラインパターン照明部1から対象物4の評価面41に直接照射された照明光を一旦反射面42で反射してからカメラ2で撮像することによって第2の画像を取得しても良い。本実施例では、対象物を構成する面の内、評価面とは異なる反射面(所定の面)42を用いることによって、評価面から、前記第1の画像とは異なる第2の画像をカメラで得るようにした点に特徴がある。
The second image may be obtained by first reflecting the illumination light directly irradiated from the line
画像処理部5は各種画像処理を行い、欠陥を判定するための様々な数値処理を行い、欠陥の有無や合否を判定する。表示部6は取り込んだ画像や、画像処理部5で数値処理した結果や、それを使用して判定した欠陥の合否結果等を表示することができる。
カメラ2は例えばCCDやCMOSなどの、2次元画像が取得可能な2次元エリアセンサー(撮像センサー)とレンズの組み合わせで構成され、評価面41及び反射面42の画像を取得できるものとする。
The
The
なお、カメラ2は複数のラインセンサを2次元的に配置することによって構成しても良い。画像処理部5ではカメラ2で取得した画像を処理し、評価面41にある傷や欠陥の大きさや深さ、見た目の目立ち具合などを数値化し合否判定等をすることができる。
The
図2は実施例1のラインパターン照明部のラインパターンを示す図である。
図2において、ラインパターン照明部1はラインパターンの明部と暗部の周期と向きを任意に平面上に配置できる面照明部として構成されている。
即ち、例えば2次元状に多数配置されたLED光源の上に拡散板を配置することによってほぼ均一な明るさの面照明光源を構成している。さらにその上(前面)に、白黒液晶パネルのように透過率が微小領域毎に変調可能な透過型空間変調素子を配置した構成となっている。なお、2次元的に多数配置されたLEDはそれぞれの輝度が独立して調整可能となっている。
FIG. 2 is a diagram showing a line pattern of the line pattern illumination unit of the first embodiment.
In FIG. 2, the line
That is, for example, a surface illumination light source with almost uniform brightness is constructed by placing a diffusion plate on a large number of LED light sources arranged in a two-dimensional manner.Furthermore, a transmission type spatial modulation element whose transmittance can be modulated for each minute area like a black and white liquid crystal panel is placed on top of that (on the front side).The brightness of each of the large number of LEDs arranged in a two-dimensional manner can be adjusted independently.
ラインパターン照明部1のラインパターンのピッチ、明るさ、コントラスト、ラインの方向の少なくとも1つは白黒液晶パネル等の透過型空間変調素子の調整部によって任意に調整できるように構成されている。ここでは周期p1で透過部(明部)1Aと非透過部(暗部)1Bが交互に配列された照明領域11と、周期p2で明部1Cと暗部1Dが交互に配列された照明領域12とを持つように構成されている。なお、ラインパターン照明部1の明部は検査時間を短縮するために最大輝度3000cd/m2以上とする。
At least one of the pitch, brightness, contrast, and line direction of the line pattern of the line
次に、図3は評価面41を1回反射で観察する場合の模式図であり、図3を用いて評価面41等の特徴を説明する。
図3(A)のように、評価面41のラインパターン照明部1に近い評価面41Bで1回反射されたラインパターンを撮像できる位置にカメラ2を配置した場合、評価面41の内の、カメラ2に近い評価面41Aには、ラインパターン照明が当たらない。また、反射面42を介してラインパターンがカメラに入射することもない。
Next, FIG. 3 is a schematic diagram of an
3A , when the
図3(B)には、評価面41のカメラに近い側の評価面41Aで1回反射したラインパターン光を撮像できる位置にカメラ2を配置した構成を示している。この構成の場合には、評価面41のラインパターン照明部1に近い側の評価面41Bで反射したラインパターン光はカメラ2で撮像できない。
Figure 3 (B) shows a configuration in which
このような評価面41を評価するために、本実施例では、図4のように対象物の面の内、評価面41以外の面である反射面42で反射した光(多重反射した光)を使用して、評価面41を評価できるようにカメラ2と、ラインパターン照明部1を配置する。
なお、図4は実施例1の照明部やカメラを上方からみた図である。
In order to evaluate such an
FIG. 4 is a diagram showing the lighting unit and the camera of the first embodiment as viewed from above.
即ち、評価面41の内、ラインパターン照明部1に近い評価面41Bについては、評価面41Bで1回反射された領域11のラインパターンを撮像する。また、評価面41の内、カメラに近い評価面41Aについては、評価面41と反射面42により2回反射された領域12のラインパターンを撮像する。
That is, for
このように、評価面41Aと評価面41Bに対してラインパターンの異なる領域12,11が映り込むように配置し、それぞれで1回反射または2回反射された光をカメラ2で撮像できる構成となっている。なお、領域11と領域12は同じパターンとしてもよいが、本実施例のように構成することで、それぞれの反射光を撮像した画像においてそれぞれのパターンのピッチをある程度合わせることができるので欠陥検出処理が容易となる。
In this way,
このような構成によって、評価面41のほぼ全面にラインパターン照明部1の領域11と領域12の何れかの反射像を映り込ませることができ、それぞれのラインパターンの反射光を撮像することができるので評価面41の広い面積の欠陥検出ができる。
With this configuration, the reflected image of either
カメラ2はレンズの焦点位置と絞りを調整することによって、評価面41の全面に焦点が合い、評価面41の全面を明瞭に観察できるようにする。
本実施例においては、評価面の長さ(図4の上下方向の長さ)が例えば20mm、図4における入射角αを例えば85°とすると、評価面41の全面に焦点を合わせるためには、焦点深度は20mm×sin(85°)=19.9mmであることが望ましい。
The
In this embodiment, if the length of the evaluation surface (the length in the vertical direction in Figure 4) is, for example, 20 mm and the incident angle α in Figure 4 is, for example, 85°, in order to focus on the
一方、評価面上の幅1mmの欠陥を判別するためにはカメラ方向から欠陥を見ると、1mm×cos(85°)=0.087mmとなり、光学系のボケの許容量はそれより小さいことが好ましい。つまり、カメラのレンズの焦点方向に19.9mmにわたって50μm程度のボケしか許容せず、マクロ撮影的に欠陥の観察をする用途においては、レンズの絞りを相当数絞る必要が発生する。 On the other hand, to distinguish a 1 mm wide defect on the evaluation surface, when the defect is viewed from the camera direction, it is 1 mm x cos(85°) = 0.087 mm, and it is preferable that the blur tolerance of the optical system is smaller than that. In other words, only a blur of about 50 μm over 19.9 mm in the focal direction of the camera lens is permitted, and in applications where defects are observed in a macro-photography manner, it becomes necessary to narrow the lens aperture considerably.
このことから、検査時間と撮像時間の両立するためにラインパターン照明部1の明部の、照明輝度を例えば3000cd/m2以上とすることが望ましい。なお、判定すべき傷の最小許容サイズに応じて、ボケの許容量は変化するので、絞り値もそれに応じて変化させる。
さらに、カメラの撮影レンズの光軸に対して垂直な面と撮像センサー面を相対的に傾斜させることによって焦点面を光軸に対して垂直な面から傾けて焦点深度を深くするシャインプルーフ構成にしても良い。
For this reason, in order to achieve a balance between the inspection time and the imaging time, it is desirable to set the illumination luminance of the bright part of the line
Furthermore, a Scheimpflug configuration may be used in which the focal plane is tilted from a plane perpendicular to the optical axis of the camera's photographing lens and the image sensor plane are inclined relatively to deepen the focal depth.
それによって、レンズの絞りを開くことができ、ラインパターン照明部1の照明輝度を下げたり、撮像時間を短くしたりしても、撮像センサーに到達する光を確保できる。従って、ラインパターン照明部1の消費電力や発熱等を抑制したり、検査速度を速めたりすることができる。
This allows the lens aperture to be opened, ensuring that light reaches the imaging sensor even if the illumination brightness of the line
また、カメラ2は焦点が合っている位置においては傷、欠陥に対する感度が高く、焦点がぼけてくると検出感度や精度が落ちてくる。即ち、欠陥検出感度を所望の感度以上とし、検出精度を確保するために、焦点位置から所定の焦点深度内(検出可能深度)に収めることが効果的である。
In addition,
一方、上述したようにカメラ2の撮像レンズと撮像センサーを例えばシャインプルーフ構成にし、評価面41を焦点深度内にし、反射面42を焦点深度外にすることで、反射面42の傷や欠陥に対する検出感度を落とすことができる。これにより、評価面41の傷や欠陥だけを感度高く検出することも可能になる。上記は欠陥検査の品質を上げる点で効果的である。
On the other hand, as described above, by configuring the imaging lens and imaging sensor of
図5は対象物40の評価面41を撮像したときの画像の例を示す図である。
カメラ2により得られる画像は図5のようになる。即ち、評価面41での1回反射による明暗ピッチP2の照明像が映り込んだ評価面41Bの画像(第1の画像)が得られる。また、反射面42と評価面41で2回反射した明暗ピッチP1の照明像が映り込んだ評価面41Aの画像(第2の画像)が評価面41上に並んで映り込む。それぞれの領域に映り込んだ明暗のピッチやコントラストは主に反射面42の曲率や、表面性状等によって変化する。このラインパターンの条件の違いを調整する方法については後述する。
FIG. 5 is a diagram showing an example of an image obtained when an
The image obtained by the
次に、傷や欠陥を検出する方法について述べる。評価面41Aと評価面41BにはそれぞれピッチP1とP2の明暗を持つラインパターン照明部1の像が映り込んでいるが、ここでは、P1とP2が同一の場合について説明する。即ち、評価領域ごとに照明パターンを変えたりせず、P=P1=P2であるとする。
Next, we will explain how to detect scratches and defects. Images of the line
また、ラインパターン照明部1は、図1に示す駆動機構7によってラインパターン照明部1の透過部1A、非透過部1Bのライン(長手方向)と直交する方向(図中のX方向、ピッチp1、p2の周期方向)にラインパターン照明部1を移動可能となっている。なお、駆動機構7は制御部3と接続されている。
The line
制御部3は、例えばコンピュータとしてのCPUやコンピュータプログラムを記憶したメモリなどを有する基板によって構成されており、ラインパターン照明部1、カメラ2、駆動機構7を同期して制御する。制御部3は駆動機構7を制御して、ラインパターン照明部1をΔXi(i=1,2,・・・N)だけ移動させ、N枚の画像(N>=3)をカメラ2に撮影させる。
The
ここで、ΔXiは分かっていればよいので、任意の大きさに設定することができる。ただし、このような構成に限定されるものではなく、例えば、手動にて駆動機構7を操作して対象物4を移動させた後、マニュアルトリガーでカメラ2にて対象物4を撮影してもよい。
Here, ΔXi only needs to be known, so it can be set to any size. However, it is not limited to this configuration, and for example, after manually operating the drive mechanism 7 to move the
本実施例の検査装置は得られた画像を処理する画像処理部5と表示部6を含む。画像処理部5と表示部6はそれぞれPCやLCDディスプレイなどが好適だが、画像処理部5は汎用的なPCであっても画像処理専用マシンであってもよい。カメラ2で撮像された画像は制御部を介して画像処理部5に転送される。
The inspection device of this embodiment includes an
図6は実施例1における検査装置用いた、対象物表面の欠陥検査のフローチャートである。制御部3がメモリに記憶されたコンピュータプログラムを読込み、実行することによって検査装置の各部の動作を図6のフローチャートに示されるように制御する。
駆動機構7によりラインパターン照明部1を移動させて、ラインパターン照明部1と対象物4の相対的な位置を基準位置に対してΔX1だけ移動させる(ステップS11)。
6 is a flowchart of a defect inspection of an object surface using the inspection device in Example 1. The
The line
次にこの位置でラインパターン照明部1を発光させて、1番目の画像I1(x,y)を撮影する(ステップS12)。なお、xとyは画像上の画素の位置を表す。ここで、ΔX1がゼロのときに、1番目の画像が前記基準位置の画像となるようにしてもよい。
次に、ステップS13でi=N(NはN>=3の所定値)か判別する。そして、Noの場合はステップS11に戻るとともにiを1カウントアップし、駆動機構7によりラインパターン照明部1を移動させ、ラインパターン照明部1と対象物4の相対的な位置を基準位置に対してΔX2だけ変化させる(ステップS11)。
Next, the line
Next, in step S13, it is determined whether i=N (N is a predetermined value N>=3). If the result is No, the process returns to step S11, i is counted up by 1, the line
次に、この位置でラインパターン照明部1を再び発光させ、2番目の画像I2(x,y)を撮影する(ステップS12)。これをN回繰り返して、合計N枚の画像を撮影する。なお、ΔX1、ΔX2・・・ΔXNはそれぞれ互いに異なる値とする。ステップS13でiがNになったらステップS14に進む。
Next, the line
つぎに、ラインパターン照明部1と対象物4の相対位置がΔXiだけ変化した時、位相が4πΔXi/Pラジアンでシフトする周波数成分の強度変化に関する情報を用いて、N枚の画像から、第1の合成画像を生成する(ステップS14)。合成画像の一例は、位相が4πΔX1/Pラジアンでシフトする周波数成分(対象物が平面の場合には、画像上に発生する、周期P/2の縞状パターンに対応する周波数成分)の振幅画像である。ラインパターン照明部1と対象物4の相対的な位置をP/N幅のステップでシフトさせた場合、ΔXi(i=1,2,・・・N)は以下の式1で表される。
Next, a first composite image is generated from the N images using information on the intensity change of the frequency component whose phase shifts by 4πΔXi/P radians when the relative position between the line
ΔXi=(P/N)×(i―1) (式1)
この式1はΔX1がゼロである場合も含むもので、1番目の画像が前記基準位置から変化したものである場合は次の式2のようになる。
ΔXi=(P/N)×i (式2)
この時、振幅画像A(x,y)は、以下の数1により算出できる。
ΔXi=(P/N)×(i-1) (Formula 1)
This
ΔXi=(P/N)×i (Formula 2)
At this time, the amplitude image A(x, y) can be calculated by the
ラインパターン照明部1の位置を移動すると、評価面41上に反射したラインパターン照明部1の発光点に相当する明るい点やラインパターン照明部1の暗部に相当する暗い点も移動する。従って、カメラの画素上の1点では、強度の明暗が変化し、明暗の差に相当する振幅が発生する。また、合成画像の別の例は、位相が4πΔXi/Pラジアンでシフトする周波数成分の位相画像である。位相画像θ(x,y)は、以下の数2により算出できる。
一般に位相は‐π~πの値で算出されるため、それ以上に位相が変化する場合は、位相画像では非連続な位相の飛びが発生する。このため、必要に応じて位相接続(位相アンラップ)が必要となる。
When the position of the line
Generally, the phase is calculated from values between -π and π, so if the phase changes beyond this, discontinuous phase jumps will occur in the phase image. For this reason, phase unwrapping is required as necessary.
位相接続(位相アンラップ)には、種々のアルゴリズムが提案されているが、画像ノイズが大きい場合には、誤差が生じうる。位相接続を回避するための手段として、位相の微分に相当する位相差を算出してもよい。位相差Δθx(x,y)およびΔθy(x,y)は以下の数3により算出できる。
Although various algorithms have been proposed for phase unwrapping (phase unwrapping), errors may occur when image noise is large. As a means for avoiding phase unwrapping, a phase difference equivalent to the differential of the phase may be calculated. The phase differences Δθx(x,y) and Δθy(x,y) can be calculated by the following
このように本実施例では、ラインパターン等のパターン光を対象物の評価面に照射し、パターン光の明部と暗部の空間的位相をずらしながら、評価面からのパターン光の反射像をカメラで撮像する。それによって異なる位相の複数の画像を取得し、前記複数の画像を用いて前記対象物の前記評価面の検査を行う。また、このとき対象物を構成する面の内、前記評価面とは異なる所定の面(反射面42)ので反射され、かつ、前記評価面で反射された反射光を、前記撮像部が撮像することによって前記画像を取得している。それによって前記評価面の検査(例えば欠陥検出のための検査)を行っている。 In this embodiment, a pattern light such as a line pattern is irradiated onto the evaluation surface of the object, and the reflected image of the pattern light from the evaluation surface is captured by a camera while shifting the spatial phase of the light and dark areas of the pattern light. This obtains multiple images with different phases, and the evaluation surface of the object is inspected using these multiple images. At this time, the image is obtained by the imaging unit capturing the reflected light that is reflected by a specific surface (reflective surface 42) that is different from the evaluation surface among the surfaces that make up the object, and is also reflected by the evaluation surface. This allows inspection of the evaluation surface (e.g., inspection for defect detection).
前述したように映り込み画像中の評価面41Aと評価面41Bに映り込む明暗の明るさと、コントラストは反射面42の曲率や反射性状、反射率によって影響される。
欠陥検出においては、評価面41Aと評価面41Bに映り込む縞の明るさやコントラストを所定の範囲内に収める事が、安定した欠陥検出をする上では重要になってくる。
As described above, the brightness and contrast of the light and dark reflected on the evaluation surfaces 41A and 41B in the reflected image are affected by the curvature, reflective properties, and reflectance of the reflecting
In defect detection, it is important to keep the brightness and contrast of the stripes reflected on the evaluation surfaces 41A and 41B within a predetermined range in order to perform stable defect detection.
それぞれ評価面41の評価面41Aと評価面41Bに映り込んでいるラインパターンの領域11と、領域12のピッチの比率を、制御部3を用いて調整することにより、P1とP2が同じになるようにp1とp2の比率を調整することが可能である。また、ラインパターン照明の領域11と領域12の明暗コントラストや明るさを変えることにより、評価面41に映り込む縞のピッチと明るさや向きも含めて調整することも可能である。
By adjusting the pitch ratio of the
この様に評価面41の全面において、映り込む縞のピッチやコントラストや向きを、制御部3を用いて調整する事により、評価面41の全面において、欠陥に対する検出感度やS/N比を最適化できる。従って、適切な検査パラメータで検査することが可能となり検査品質の向上につながる。なお、評価面41Aの画像(第1の画像)と評価面41Bの画像(第2の画像)の明るさを、制御部3を用いてゲイン調整することによって調整するようにしても良い。
In this way, by adjusting the pitch, contrast, and orientation of the reflected stripes over the entire surface of
また、図5に示す反射回数の異なる画像(第1の画像と第2の画像)の境界部50は、反射面42のエッジ部からの反射光の画像に対応しており、エッジ部には面取りや曲率の高い面が存在する為、ラインパターンの明瞭な反射像は得られない。また、反射光量の低下や映り込む縞のピッチが不適切であるなど、検査において精度や感度を悪化させることが多い。よって、本実施例では、あらかじめ設定、あるいは自動で検出した境界部50や、境界部50を含む周辺領域を検査対象外とすることで傷の誤検出を防ぐようにしている。
In addition, the
境界部50については以下のようにして自動で判定することも可能である。
ラインパターン照明部1の移動方向に対して、41Aと41Bに映り込んだラインパターン照明部1の移動方向は反射回数の差により逆方向になる。つまり、前記位相画像での縞の移動方向についての微分値を見れば、反射回数の境界部50の部分では正負が反転することになる。
It is also possible to automatically determine the
Due to the difference in the number of reflections, the movement direction of the line
よって制御部3によって、上記の微分値の変化に基づきこの反転部分を境界部50と判定することで、複数の異なる反射回数の画像の中に存在する境界部50(及びその周辺部)を自動的に検査対象外とすることが可能である。このように、前記第1の画像と前記第2の画像における前記ラインパターンの位相変化に基づき前記第1の画像と前記第2の画像の境界部を検出するようにしても良い。
Therefore, the
上記実施例では透過率が微小領域毎に調整可能な透過型空間変調素子(例えば白黒液晶パネル)における各部の輝度を変更することにより明暗のピッチや方向が変えられるにしている。しかし、ピッチや明度、コントラストの異なるラインパターン照明を複数用意して、それぞれの領域に映り込む明暗のピッチや明度、コントラストを調整してもよい。 In the above embodiment, the pitch and direction of light and dark can be changed by changing the brightness of each part of a transmissive spatial modulation element (e.g., a black-and-white liquid crystal panel) whose transmittance can be adjusted for each minute region. However, it is also possible to prepare multiple line pattern lights with different pitches, brightness, and contrast, and adjust the pitch, brightness, and contrast of the light and dark reflected in each region.
或いは、明暗ピッチや明部の輝度が全面同じで固定のラインパターン照明を使用して、反射回数にかかわらず、どの領域においても同じ明度とピッチのラインパターンが映り込むように構成しても良い。その場合でも、評価面41内で画像の明るさや、欠陥の検出感度が変化しても欠陥検出できるレベルの画像が得られるのであればそれでも構わない。
Alternatively, a fixed line pattern illumination with the same light-dark pitch and brightness of the bright areas can be used, so that a line pattern of the same brightness and pitch is reflected in every area regardless of the number of reflections. Even in this case, it is acceptable as long as an image of a level that allows defect detection is obtained even if the image brightness or defect detection sensitivity changes within the
なお、前述のように透過型空間変調素子(例えば白黒液晶パネル)を用いたラインパターン状の照明の場合には、照明光が偏光を持つので、評価面41、反射面42に対するP偏光方向ではない方向にラインパターン照明の偏光方向を合わせる。それによって、カメラ2において、評価面41に映り込むラインパターン照明の像を、より高いコントラストで撮像することが出来る。
As described above, in the case of line pattern illumination using a transmissive spatial modulation element (e.g., a black and white liquid crystal panel), the illumination light has polarization, so the polarization direction of the line pattern illumination is aligned in a direction other than the P polarization direction relative to the
以上、画像におけるピッチP1、P2が同一の場合について説明したが、P1とP2が異なる場合にも、それぞれの評価領域(41A,41B)について前述の考えを適用し、それぞれの評価領域について評価すればよい。また、駆動機構7を2つに分割し、それぞれの評価領域に映り込む照明の領域11、12をそれぞれ別の駆動機構で互いに異なる速度で駆動し、得られる画像について同じ条件で検査できるようにしてもよい。1つの駆動機構7を使う場合には、P1とP2それぞれで条件を満たすよう撮像ピッチをそれぞれ設定してもよい。
The above describes the case where pitches P1 and P2 in the images are the same, but even if P1 and P2 are different, the above-mentioned idea can be applied to each evaluation area (41A, 41B) and each evaluation area can be evaluated. In addition, the driving mechanism 7 can be divided into two, and the
例えば、撮影毎の駆動機構7による移動距離を5mm、撮像回数7回で欠陥検査をすることを想定すると、p1=35mm、p2=17.5mmのように照明の明暗のピッチを設定する。それによって、それぞれの領域で取得した7枚の画像に異なる位相のラインパターンが映り込むので適切に評価することが出来る。片方の領域では一部の撮像画像を使用しない手法をとってもよい。 For example, assuming that defect inspection is performed with the driving mechanism 7 moving a distance of 5 mm for each image capture and seven images taken, the pitch of the light and dark of the lighting is set as p1 = 35 mm and p2 = 17.5 mm. This allows line patterns of different phases to be captured in the seven images captured in each area, enabling appropriate evaluation. A method may be used in which some captured images are not used in one area.
本実施例では、評価面41での1回反射によるラインパターン照明の像と、評価面41と反射面42の反射の2回反射のラインパターン照明の像の双方を用いて欠陥検査をする構成であった。しかし、これに限ることなく、評価をしたい対象領域に合わせ、複数反射による照明像が映り込む領域だけを評価してもよいし、さらに反射回数が3回以上の像を含んだ領域を用いて評価してもよい。
In this embodiment, defect inspection is performed using both the image of line pattern illumination reflected once on the
図7は本発明に係る実施例2の検査装置の構成を示す図である。また、図8は実施例2のカメラ21とカメラ22で評価面41を撮像した場合の画像の例を示す図である。本実施例では対象物40を撮像する撮像部を、互いに異なる角度で評価面41を撮像する複数のカメラ(カメラ21、カメラ22)で構成している。
Fig. 7 is a diagram showing the configuration of an inspection device according to a second embodiment of the present invention. Also, Fig. 8 is a diagram showing an example of an image when the
この様に別なアングルから評価面41を撮像すると、カメラ21で撮像して得られた画像(図8(A)参照)と、カメラ22で撮像して得られた画像(図8(B)参照)では評価面41Aと、評価面41Bの境界部の位置が異なる。
具体的にはカメラ21で撮像した画像(図8(A)参照)中では境界部50A、カメラ22で撮像した画像(図8(B)参照)中では境界部50Bのように、評価面41上を境界部(境界線)が移動する。
When the
Specifically, the boundary (boundary line) moves on the
実施例1で述べたように境界部(境界線)での傷欠陥検出精度は著しく低下するか、あるいは検出できない。よって、画像(図8(A)参照)における境界部50Aを含む周辺領域は画像(図8(B)参照)の評価面41Bの画像で検査し、画像(図8(B)参照)における境界部50Bを含む領域は画像(図8(A)参照)の評価面41Aの画像を用いて検査する。これによって、評価面41全面の傷、欠陥検出をもれなく全面において精度良く行うことが可能となる。即ち、複数のカメラの内の1つのカメラから得られる前記第1の画像と前記第2の画像の境界部に対応する位置の前記評価面に対して、前記複数のカメラの内の他の1つのカメラから得られる画像を用いて検査を行うように構成している。
As described in the first embodiment, the accuracy of detecting flaws and defects at the boundary (border line) is significantly reduced or cannot be detected. Therefore, the surrounding area including the
図9は本発明に係る実施例3の検査装置の構成を示す図である。本実施例では使用する照明は透過型ラインパターン照明部101とし、対象物4は評価面として凹形状の43を持ち、透過型ラインパターン照明部101の直下に配置される。カメラ2は透過型ラインパターン照明部101の上方に配置され透過型ラインパターン照明を介し、下方の対象物面の凹部43の反射光を撮像する。凹部43の内面の評価部は1回反射、複数反射する部分が混在し、反射の方向も様々である。
Figure 9 is a diagram showing the configuration of an inspection device according to a third embodiment of the present invention. In this embodiment, the illumination used is a transmissive line
図10は実施例3の凹部43を照明する光束を示す図である。
図10に示されるように、透過型ラインパターン照明部101上の点101aからの光は凹部43上の点43dに照射されたのち点43aで反射されて光束CCとしてカメラ2で撮像される。
透過型ラインパターン照明部101上の点101bからの光は凹部43上の点43eに照射されたのち点43bで反射されて光束DDとしてカメラ2で撮像される。
FIG. 10 is a diagram showing a light beam illuminating the
As shown in FIG. 10, light from a
Light from
透過型ラインパターン照明部101上の点101cからの光は点43cに照射されたのち点43cで反射され光束EEとしてカメラ2で撮像される。
この様に、凹部43の各点は透過型ラインパターン照明部101の各点から照明された光が、凹部43内の各点で1回反射あるいは2回反射した後カメラで撮像される。
Light from
In this way, the light irradiated from each point of the transmission type line
本実施例では透過型パターン照明部としての透過型ラインパターン照明部101が凹部43の上方を広く覆うように構成されているので、凹部43を、凹部43の内面を1回あるいは2回反射した光を用いて、照明と撮像を1度で行うことができる。このように、ラインパターンを評価面に照射するための透過型ラインパターン照明部を有し、カメラが、透過型ラインパターン照明部により照明された評価面からの反射像を、透過型ラインパターン照明部を介して撮像するようにしても良い。
In this embodiment, the transmissive line
以上のように、本発明の実施例の検査装置は、ラインパターンを対象物の評価面に照射し、前記ラインパターンの明部と暗部の空間的位相をずらしながら、前記評価面からの前記ラインパターンの反射像をカメラで撮像する。それによって異なる位相の複数の第1の画像を取得し、前記複数の第1の画像を用いて前記対象物の前記評価面の検査をする。
また、前記対象物を構成する面の内、前記評価面とは異なる所定の面の反射を用いることによって前記評価面から、前記複数の第1の画像とは異なる複数の第2の画像を前記カメラで取得するように構成したことを特徴とする。
As described above, the inspection device according to the embodiment of the present invention projects a line pattern onto an evaluation surface of an object, and captures a reflected image of the line pattern from the evaluation surface with a camera while shifting the spatial phase of the light and dark areas of the line pattern, thereby acquiring a plurality of first images with different phases, and inspecting the evaluation surface of the object using the plurality of first images.
The present invention is also characterized in that the camera is configured to acquire a plurality of second images, different from the plurality of first images, from the evaluation surface by using the reflection of a predetermined surface, different from the evaluation surface, among the surfaces that constitute the object.
このように構成したので、溝形状や凹形状等の正反射方向に照明とカメラを設置できない評価面を有する対象物に対してもラインパターンを照明して反射像を得ることが出来る。また、対象物の従来よりも広い表面の反射特性や形状特性や、欠陥等を精度良く検出することが出来る
また、前記対象物の評価面以外の前記の所定の面を焦点深度外に配置する事で、評価面の特性データや傷や欠陥等に関する画像や情報だけを取得することが出来る。
With this configuration, it is possible to obtain a reflected image by illuminating a line pattern even for an object having an evaluation surface that cannot be equipped with a light and a camera in the regular reflection direction, such as a grooved or concave surface. Also, it is possible to accurately detect the reflection characteristics, shape characteristics, and defects of a wider surface of the object than before. Moreover, by locating the above-mentioned specified surface other than the evaluation surface of the object outside the focal depth, it is possible to obtain only the characteristic data of the evaluation surface and images and information related to scratches, defects, etc.
また、前記第1の画像と前記第2の画像の明るさやラインパターンの画像のピッチ等を合わせるように例えばラインパターン照明部のパターンを調整する制御部を有する。従って、撮像した画像の情報や、事前に知りうる装置構成や対象物形状の情報を元に反射回数毎にラインパターンの領域を分離できる。また、それぞれの領域に対して、明るさの補正や、ラインピッチ等の条件を設定することで反射回数が異なる照明像が混在する評価画像についても評価面の表面全体に対して同様の検査条件で欠陥を検査することが出来る。 The system also has a control unit that adjusts, for example, the pattern of the line pattern illumination unit so as to match the brightness of the first image and the second image, the pitch of the line pattern image, etc. Therefore, it is possible to separate the line pattern areas for each number of reflections based on the information of the captured image and the information of the device configuration and the object shape that can be known in advance. In addition, by setting conditions such as brightness correction and line pitch for each area, it is possible to inspect the entire surface of the evaluation surface for defects under the same inspection conditions even for evaluation images that contain a mixture of illumination images with different numbers of reflections.
また、所望の領域毎に輝度を自在に変えることが出来る検査用照明を使用して、ラインパターン照明の明暗ピッチやラインパターンの輝度や方向や位相の少なくとも1つを領域毎に変えるように構成している。従って、前記複数反射回数の照明像が混在する評価面を類似した検査条件で容易に評価する事も出来る。 In addition, by using an inspection illumination that can freely change the brightness for each desired area, at least one of the brightness, direction, and phase of the line pattern illumination or the light and dark pitch of the line pattern illumination is changed for each area. Therefore, it is possible to easily evaluate an evaluation surface that contains a mixture of illumination images with multiple reflections under similar inspection conditions.
さらに、それぞれ2ライン以上の明部と暗部を交互に配置したラインパターンを照明面として形成可能なラインパターン照明装置を用いている。そして、前記ラインパターンのピッチと輝度と方向と位相の少なくとも1つを、照明面の複数の領域毎に、それぞれで変更可能としている。更に、前記輝度が3000cd/m2以上としているので、ラインパターンを用いて複雑な形状の対象物を検査する検査装置に用いた場合に検査効率を向上できる。 Furthermore, a line pattern lighting device is used that can form a line pattern, each of which has two or more lines of light and dark areas arranged alternately, as an illumination surface. At least one of the pitch, luminance, direction, and phase of the line pattern can be changed for each of a plurality of regions of the illumination surface. Furthermore, since the luminance is 3000 cd/m2 or more , the inspection efficiency can be improved when the line pattern is used in an inspection device that inspects objects with complex shapes.
なお、本実施例にかかる検査装置を製造システムに適用することによって、各種の複雑な形状の部品を精度良く検査することができ、所定の基準を満たした物品を製造する製造システムの信頼性や生産性を向上させることができる。
即ち、例えば製造システムにおいて、実施例の検査装置を用いた検査工程を設けることによって複雑な形状の部品等の欠陥や表面形状や表面の粗さ等の表面特性等を精度良く検査することができる。従って、複雑な形状の部品に対して上記の検査工程を実施することによって、その結果、従来よりも欠陥の少ない良品の部品を選別することができ、選別処理の効率を向上することができる。
Furthermore, by applying the inspection device of this embodiment to a manufacturing system, it is possible to inspect various parts with complex shapes with high precision, thereby improving the reliability and productivity of the manufacturing system that manufactures articles that meet specified standards.
That is, for example, in a manufacturing system, an inspection process using the inspection device of the embodiment can be provided to accurately inspect parts with complex shapes for defects and surface characteristics such as surface shape and surface roughness. Therefore, by carrying out the above-mentioned inspection process on parts with complex shapes, it becomes possible to select non-defective parts with fewer defects than before, and the efficiency of the selection process can be improved.
そして選別処理によって選別された良品の部品を用いて、例えば組み立て処理することにより、最終的に、精度の良い機械等の物品を製造することができる。また、実施例の検査装置により計測された計測データや得られた画像をディスプレイなどの表示部に表示することによって生産プロセス等の処理工程全体の欠陥要因を把握することができ、歩留まりを高め、生産効率を図ることもできる。即ち、本実施例の検査装置を用いることで物品の製造精度や製造効率を高めることができる。 Then, by using the non-defective parts selected by the sorting process, for example by performing an assembly process, it is possible to finally manufacture an article such as a machine with high precision. In addition, by displaying the measurement data and the images obtained by the inspection device of the embodiment on a display unit such as a monitor, it is possible to grasp the cause of defects in the entire processing steps of the production process, etc., thereby increasing the yield and improving production efficiency. In other words, by using the inspection device of this embodiment, it is possible to increase the manufacturing precision and efficiency of articles.
以上、本発明をその好適な実施例に基づいて詳述してきたが、本発明は上記実施例に限定されるものではなく、本発明の主旨に基づき種々の変形が可能であり、それらを本発明の範囲から除外するものではない。
なお、本実施例における制御の一部または全部を上述した実施例の機能を実現するコンピュータプログラムをネットワーク又は各種記憶媒体を介して検査装置に供給するようにしてもよい。そしてその検査装置におけるコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行するようにしてもよい。その場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することとなる。
The present invention has been described in detail above based on its preferred embodiments, but the present invention is not limited to the above embodiments, and various modifications are possible based on the gist of the present invention, and these modifications are not excluded from the scope of the present invention.
A computer program for implementing all or part of the control in this embodiment may be supplied to the inspection device via a network or various storage media. Then, a computer (or a CPU, MPU, etc.) in the inspection device may read and execute the program. In this case, the program and the storage medium storing the program constitute the present invention.
1 ラインパターン照明部
2 カメラ
3 制御部
4 対象物
5 画像処理部
6 表示部
7 駆動機構
41 評価面
42 反射面
AA,BB 照明光束
Claims (14)
前記評価面でのみ反射された反射光に基づく1回反射画像と、前記対象物を構成する面の内前記評価面とは異なる所定の面で反射され、かつ、前記評価面で反射された反射光に基づく複数回反射画像と、を用いて前記評価面を評価し、
前記パターン光の空間的位相をずらすことにより、前記1回反射画像と前記複数回反射画像との境界部を検出する制御部を有することを特徴とする検査装置。 1. An inspection device for inspecting an evaluation surface of an object by acquiring a plurality of images of different phases by imaging an image of a reflected image of the pattern light from the evaluation surface with an imaging unit while shifting the spatial phase of a bright portion and a dark portion of the pattern light irradiated onto the evaluation surface, and using the plurality of images,
evaluating the evaluation surface using a single reflection image based on reflected light reflected only on the evaluation surface and a multiple reflection image based on reflected light reflected by a predetermined surface that is different from the evaluation surface among surfaces constituting the object and is also reflected on the evaluation surface;
An inspection device comprising: a control unit that detects a boundary between the single reflection image and the multiple reflection image by shifting the spatial phase of the pattern light.
前記評価面でのみ反射された反射光に基づく1回反射画像と、前記対象物を構成する面の内前記評価面とは異なる所定の面で反射され、かつ、前記評価面で反射された反射光に基づく複数回反射画像と、を用いて前記評価面を評価し、
前記パターン光の空間的位相をずらすことにより、前記1回反射画像と前記複数回反射画像との境界部を検出する工程を有することを特徴とする検査方法。 1. An inspection method for inspecting an evaluation surface of an object, comprising: acquiring a plurality of images of different phases by capturing an image of a reflected image of a pattern of light irradiated onto the evaluation surface of the object while shifting a spatial phase between a bright portion and a dark portion of the pattern of light irradiated onto the evaluation surface of the object; and inspecting the evaluation surface of the object using the plurality of images,
evaluating the evaluation surface using a single reflection image based on reflected light reflected only on the evaluation surface and a multiple reflection image based on reflected light reflected by a predetermined surface that is different from the evaluation surface among surfaces constituting the object and is also reflected on the evaluation surface;
An inspection method comprising the step of detecting a boundary between the single reflection image and the multiple reflection image by shifting a spatial phase of the pattern light.
前記検査工程における前記検査の結果に基づいて前記対象物を処理することにより物品を製造する工程と、を有することを特徴とする物品の製造方法。
An inspection step of inspecting the object using the inspection device according to any one of claims 1 to 12;
and manufacturing the article by processing the object based on the results of the inspection in the inspection step.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020212220A JP7621789B2 (en) | 2020-12-22 | 2020-12-22 | Inspection device, inspection lighting device, inspection method, and article manufacturing method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020212220A JP7621789B2 (en) | 2020-12-22 | 2020-12-22 | Inspection device, inspection lighting device, inspection method, and article manufacturing method |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2022098685A JP2022098685A (en) | 2022-07-04 |
| JP7621789B2 true JP7621789B2 (en) | 2025-01-27 |
Family
ID=82261852
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2020212220A Active JP7621789B2 (en) | 2020-12-22 | 2020-12-22 | Inspection device, inspection lighting device, inspection method, and article manufacturing method |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP7621789B2 (en) |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008241483A (en) | 2007-03-27 | 2008-10-09 | Matsushita Electric Works Ltd | Three-dimensional measurement method and three-dimensional shape measuring apparatus using the same |
| JP2010096568A (en) | 2008-10-15 | 2010-04-30 | Fujifilm Corp | Distance measurement apparatus, distance measurement method and program |
| WO2019167150A1 (en) | 2018-02-27 | 2019-09-06 | 株式会社ニコン | Image analysis device, analysis device, shape measurement device, image analysis method, measurement condition determination method, shape measurement method, and program |
| JP2020159967A (en) | 2019-03-27 | 2020-10-01 | 株式会社キーエンス | Image processing device |
-
2020
- 2020-12-22 JP JP2020212220A patent/JP7621789B2/en active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008241483A (en) | 2007-03-27 | 2008-10-09 | Matsushita Electric Works Ltd | Three-dimensional measurement method and three-dimensional shape measuring apparatus using the same |
| JP2010096568A (en) | 2008-10-15 | 2010-04-30 | Fujifilm Corp | Distance measurement apparatus, distance measurement method and program |
| WO2019167150A1 (en) | 2018-02-27 | 2019-09-06 | 株式会社ニコン | Image analysis device, analysis device, shape measurement device, image analysis method, measurement condition determination method, shape measurement method, and program |
| JP2020159967A (en) | 2019-03-27 | 2020-10-01 | 株式会社キーエンス | Image processing device |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2022098685A (en) | 2022-07-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US7382457B2 (en) | Illumination system for material inspection | |
| CN115398213B (en) | Methods and apparatus for optically inspecting surfaces | |
| JP2012078144A (en) | Surface defect inspection device for transparent body sheet-like material | |
| JP2000018932A (en) | Defect inspection method and inspection device for test object | |
| CN110261387B (en) | Optical systems, lighting modules and automated optical inspection systems | |
| JP2019082452A (en) | Image generation method, image generation device, and defect determination method using the same | |
| JP2018025439A (en) | Appearance inspection method and appearance inspection apparatus | |
| JP6584454B2 (en) | Image processing apparatus and method | |
| JP2021189044A (en) | Surface inspection equipment and surface inspection method | |
| JP2019002928A (en) | Image acquisition apparatus and method | |
| JP7443162B2 (en) | Inspection equipment and inspection method | |
| JP7621789B2 (en) | Inspection device, inspection lighting device, inspection method, and article manufacturing method | |
| JP3078784B2 (en) | Defect inspection equipment | |
| JP7648456B2 (en) | Optical lens inspection device and optical lens inspection method | |
| JP2020094877A (en) | Optical evaluation device, optical evaluation method, test object conveyance method | |
| JP4162319B2 (en) | Defect inspection equipment | |
| JP7392582B2 (en) | Inspection system and method | |
| JP2021196189A (en) | Inspection device and inspection method | |
| JP2000028535A (en) | Defect inspection equipment | |
| JP2024035690A (en) | Measuring devices, measuring methods, and article manufacturing methods | |
| RU2812804C1 (en) | Method and testing device for optical surface testing | |
| JP2022103787A (en) | Defect detectors, defect inspection methods, computer programs, and article manufacturing methods | |
| CN112683921B (en) | Image scanning method and system for metal surface | |
| JP2009222629A (en) | Device for inspecting edge of object to be inspected | |
| JP2023160096A (en) | Surface defect detection device and surface defect detection method |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20231214 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240716 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240717 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240917 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20241001 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20241202 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20241217 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250115 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7621789 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |