Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7408488B2 - Coke oven photography equipment, coke oven inspection equipment, and image processing equipment - Google Patents
[go: Go Back, main page]

JP7408488B2 - Coke oven photography equipment, coke oven inspection equipment, and image processing equipment - Google Patents

Coke oven photography equipment, coke oven inspection equipment, and image processing equipment Download PDF

Info

Publication number
JP7408488B2
JP7408488B2 JP2020094835A JP2020094835A JP7408488B2 JP 7408488 B2 JP7408488 B2 JP 7408488B2 JP 2020094835 A JP2020094835 A JP 2020094835A JP 2020094835 A JP2020094835 A JP 2020094835A JP 7408488 B2 JP7408488 B2 JP 7408488B2
Authority
JP
Japan
Prior art keywords
image
images
furnace
wall surface
coke oven
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020094835A
Other languages
Japanese (ja)
Other versions
JP2021187957A (en
Inventor
基文 福井
シン ワン
誠 高橋
義和 諏訪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sumitomo Heavy Industries Process Equipment Co Ltd
Original Assignee
Sumitomo Heavy Industries Process Equipment Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sumitomo Heavy Industries Process Equipment Co Ltd filed Critical Sumitomo Heavy Industries Process Equipment Co Ltd
Priority to JP2020094835A priority Critical patent/JP7408488B2/en
Publication of JP2021187957A publication Critical patent/JP2021187957A/en
Application granted granted Critical
Publication of JP7408488B2 publication Critical patent/JP7408488B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Furnace Housings, Linings, Walls, And Ceilings (AREA)
  • Waste-Gas Treatment And Other Accessory Devices For Furnaces (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、コークス炉撮影装置、コークス炉検査装置、画像処理装置および産業設備の撮影装置に関する。 The present invention relates to a coke oven photographing device, a coke oven inspection device, an image processing device, and a photographing device for industrial equipment.

従来、コークス炉の炭化室の炉壁損傷検査をするために、検査員がコークス炉内を直接目視することに代えて、熱対策を施したカメラを炉内に挿入して炉壁を撮影し、その画像を検査員に観察させることが提案されている。コークス炉への入口は狭く、炉内は奥行き方向にかなり細長いため、一度の撮影ではふつう、炉壁のごく一部しかカメラに写らない。そこで、カメラを奥行き方向に移動させながら逐次撮影し、それらの画像をつなぎ合わせることによって、炉壁全体画像が取得される。 Traditionally, in order to inspect for damage to the walls of the carbonization chamber of a coke oven, instead of inspecting the inside of the coke oven directly, inspectors inserted a camera equipped with heat protection into the oven and photographed the oven wall. , it has been proposed to have the inspector observe the image. The entrance to a coke oven is narrow, and the interior of the oven is quite long and narrow, so the camera usually only captures a small portion of the oven wall at a time. Therefore, by sequentially taking pictures while moving the camera in the depth direction and stitching these images together, an entire furnace wall image is obtained.

特開2011-126988号公報JP2011-126988A

本発明者らは、上記のコークス炉壁観察方法について検討したところ、以下の課題を認識するに至った。コークス炉内の環境は撮影に過酷であり、たとえば、コークス炉の運転中にはコークスから飛散した多量の粉塵が炉内で舞うことがある。視界が悪くなるので、炉壁を鮮明に撮影するには支障が生じうる。また、炉内はたとえば1000℃以上の高温に加熱される。高温による炉壁の発光の色や強さは温度に応じて変わるので、炉壁の見え方は、コークス炉の運転中に起こりうる炉内温度の変動や炉壁上の温度分布による炉壁各部の温度の差違によって影響されうる。これは、高解像度のカメラを使うことによって緩和されうるが、その場合、撮影システムは、高価で大掛かりなものとなりがちである。こうした事情により、実際のところ、損傷検査をするうえで炉壁の良好な画像を撮影することは、必ずしも容易でない。 The present inventors studied the above coke oven wall observation method and came to recognize the following problems. The environment inside a coke oven is harsh for photographing; for example, when a coke oven is in operation, a large amount of dust from the coke may fly around inside the oven. Because visibility is poor, it may be difficult to take clear photographs of the furnace wall. Further, the inside of the furnace is heated to a high temperature of, for example, 1000° C. or higher. The color and intensity of light emitted from the furnace wall due to high temperatures changes depending on the temperature, so the appearance of the furnace wall depends on the fluctuations in temperature inside the furnace that occur during coke oven operation and the temperature distribution on the furnace wall. can be affected by temperature differences. This can be alleviated by using high-resolution cameras, but then the imaging systems tend to be expensive and bulky. Due to these circumstances, in reality, it is not always easy to take good images of the furnace wall for damage inspection.

なお、コークス炉内の撮影だけでなく、他の産業設備の被検査面の撮影においても、撮影中に撮影条件や被検査面の状態が変化する場合には、検査のためにより良好な画像を得られるようにすることが望まれる。 In addition to photographing the inside of a coke oven, when photographing the surface to be inspected of other industrial equipment, if the photographing conditions or the state of the surface to be inspected change during the photographing process, it is necessary to obtain better images for inspection. It is desirable to make this possible.

本発明のある態様の例示的な目的のひとつは、コークス炉またはその他の産業設備における損傷検査に適する被検査面の画像を生成することにある。 One exemplary objective of certain aspects of the present invention is to generate images of inspected surfaces suitable for damage inspection in coke ovens or other industrial equipment.

本発明のある態様によると、コークス炉撮影装置は、コークス炉内を移動しながら炉壁面を斜視像として撮影するカメラと、カメラから逐次出力される一連の炉内画像にもとづいて炉壁面の少なくとも一部分を含む炉壁面画像を生成する画像処理部と、を備える。画像処理部は、一連の炉内画像および生成された炉壁面画像のうち少なくとも二画像それぞれから炉壁面上の同じ注目部位を切り出し、切り出された部分画像にもとづいて注目部位の検査画像を生成する。 According to an aspect of the present invention, the coke oven photographing device includes a camera that photographs the oven wall surface as a perspective image while moving inside the coke oven, and a camera that captures at least one of the oven wall surfaces based on a series of oven interior images sequentially output from the camera. and an image processing unit that generates a furnace wall surface image including a portion of the furnace wall surface. The image processing unit cuts out the same region of interest on the furnace wall from at least two images of the series of furnace interior images and the generated furnace wall surface images, and generates an inspection image of the region of interest based on the cut out partial images. .

本発明のある態様によると、コークス炉検査装置は、上述の態様に係るコークス炉撮影装置と、検査画像を入力として、画像認識により炉壁面の損傷に関する情報を出力する演算処理装置と、を備える。 According to an aspect of the present invention, a coke oven inspection device includes the coke oven photographing device according to the above aspect, and a processing device that receives an inspection image as input and outputs information regarding damage to the oven wall surface through image recognition. .

本発明のある態様によると、画像処理装置は、カメラをコークス炉内で移動させながら炉壁面を斜視像としてカメラで逐次撮影された一連の炉内画像を受け、一連の炉内画像にもとづいて炉壁面の少なくとも一部分を含む炉壁面画像を生成する画像処理部を備える。画像処理部は、一連の炉内画像および生成された炉壁面画像のうち少なくとも二画像それぞれから炉壁面上の同じ注目部位を切り出し、切り出された部分画像にもとづいて注目部位の検査画像を生成する。 According to an aspect of the present invention, the image processing device receives a series of furnace interior images sequentially taken as perspective images of the furnace wall surface while moving the camera within the coke oven, and based on the series of furnace interior images. The apparatus includes an image processing unit that generates a furnace wall surface image including at least a portion of the furnace wall surface. The image processing unit cuts out the same region of interest on the furnace wall from at least two images of the series of furnace interior images and the generated furnace wall surface images, and generates an inspection image of the region of interest based on the cut out partial images. .

本発明のある態様によると、産業設備の撮影装置は、産業設備の内部または周囲を移動しながら産業設備の被検査面を斜視像として撮影するカメラと、カメラから逐次出力される一連のカメラ画像にもとづいて被検査面の少なくとも一部分を含む被検査面画像を生成する画像処理部と、を備える。画像処理部は、一連のカメラ画像および生成された被検査面画像のうち少なくとも二画像それぞれから被検査面上の同じ注目部位を切り出し、切り出された部分画像にもとづいて注目部位の検査画像を生成する。 According to an aspect of the present invention, an imaging device for industrial equipment includes a camera that takes a perspective image of a surface to be inspected of the industrial equipment while moving inside or around the industrial equipment, and a series of camera images sequentially output from the camera. an image processing unit that generates an image of the surface to be inspected including at least a portion of the surface to be inspected based on the image processing unit. The image processing unit cuts out the same region of interest on the surface to be inspected from each of at least two of the series of camera images and the generated image of the surface to be inspected, and generates an inspection image of the region of interest based on the cut out partial images. do.

なお、以上の構成要素の任意の組み合わせや本発明の構成要素や表現を、方法、装置、システムなどの間で相互に置換したものもまた、本発明の態様として有効である。 Note that arbitrary combinations of the above-mentioned constituent elements and mutual substitution of constituent elements and expressions of the present invention among methods, devices, systems, etc. are also effective as aspects of the present invention.

本発明によれば、コークス炉またはその他の産業設備における損傷検査に適する被検査面の画像を生成することができる。 According to the present invention, it is possible to generate an image of a surface to be inspected suitable for damage inspection in a coke oven or other industrial equipment.

実施の形態に係る炉内観察装置を模式的に示す側面図である。FIG. 1 is a side view schematically showing an in-furnace observation device according to an embodiment. 図1に示される観察装置から見たときのコークス炉の内部を模式的に示す図である。2 is a diagram schematically showing the inside of a coke oven as seen from the observation device shown in FIG. 1. FIG. 実施の形態に係るコークス炉撮影装置のブロック図である。FIG. 1 is a block diagram of a coke oven photographing device according to an embodiment. 図4(a)および図4(b)は、炉内画像の例を示す図である。FIGS. 4(a) and 4(b) are diagrams showing examples of in-furnace images. 炉壁面の正面視画像の例を示す図である。FIG. 3 is a diagram showing an example of a front view image of a furnace wall surface. 実施の形態に係るコークス炉撮影装置のブロック図である。FIG. 1 is a block diagram of a coke oven photographing device according to an embodiment. 図7(a)および図7(b)は、画像部分領域選択部の例示的な構成を示す図である。FIGS. 7A and 7B are diagrams showing exemplary configurations of the image partial region selection section. 図8(a)、図8(b)は、ディスプレイに表示されるユーザインターフェイス画面の例を示す図である。FIGS. 8A and 8B are diagrams showing examples of user interface screens displayed on the display.

以下、図面を参照しながら、本発明を実施するための形態について詳細に説明する。説明および図面において同一または同等の構成要素、部材、処理には同一の符号を付し、重複する説明は適宜省略する。図示される各部の縮尺や形状は、説明を容易にするために便宜的に設定されており、特に言及がない限り限定的に解釈されるものではない。実施の形態は例示であり、本発明の範囲を何ら限定するものではない。実施の形態に記述されるすべての特徴やその組み合わせは、必ずしも発明の本質的なものであるとは限らない。 DESCRIPTION OF EMBODIMENTS Hereinafter, embodiments for carrying out the present invention will be described in detail with reference to the drawings. In the description and drawings, the same or equivalent components, members, and processes are denoted by the same reference numerals, and overlapping explanations will be omitted as appropriate. The scales and shapes of the parts shown in the figures are set for convenience to facilitate explanation, and should not be interpreted in a limited manner unless otherwise stated. The embodiments are illustrative and do not limit the scope of the present invention. All features and combinations thereof described in the embodiments are not necessarily essential to the invention.

図1は、実施の形態に係る炉内観察装置を模式的に示す側面図である。図1に示される炉内観察装置は、コークス炉の炭化室(以下、単にコークス炉ともいう)の内部を観察するために使用される。また、図2は、図1に示される観察装置から見たときのコークス炉の内部を模式的に示す図である。 FIG. 1 is a side view schematically showing an in-furnace observation device according to an embodiment. The furnace interior observation device shown in FIG. 1 is used to observe the inside of a coke oven carbonization chamber (hereinafter also simply referred to as a coke oven). Moreover, FIG. 2 is a diagram schematically showing the inside of the coke oven when viewed from the observation device shown in FIG. 1.

コークス炉10は、一対のレンガ造りの炉壁11が互いに対向して設けられた狭窄な炉である。炉壁11は、コークス炉10の一方側の炉入口12から反対側の炉出口13へと、奥行き方向にたとえば十数メートルに及ぶ。炉壁11の間隔は、たとえば数十センチメートルである。コークス炉10の底15から天井14への高さは、たとえば数メートルである。 The coke oven 10 is a narrow oven with a pair of brick oven walls 11 facing each other. The oven wall 11 extends, for example, more than ten meters in the depth direction from the oven inlet 12 on one side of the coke oven 10 to the oven outlet 13 on the opposite side. The interval between the furnace walls 11 is, for example, several tens of centimeters. The height from the bottom 15 of the coke oven 10 to the ceiling 14 is, for example, several meters.

コークス炉10内を反復的に往復移動する押出装置20が設けられている。往路において、押出装置20は、コークス炉10内に炉入口12から挿入され、コークス炉10内で製造されたコークスCを炉出口13へと押し出す。復路において、押出装置20は、コークス炉10内を炉出口13から炉入口12へと戻る。押出装置20は、押板21とビーム22を備え、ビーム22が押板21を図示しない駆動装置に接続し、この駆動装置の動作により押板21がコークス炉10の炉入口12から炉出口13まで移動自在となっている。押板21がコークス炉10の断面と同形状をしているため、押板21の移動によりコークスCを押し出すことができる。 An extrusion device 20 is provided that repeatedly moves back and forth within the coke oven 10. On the outward journey, the extrusion device 20 is inserted into the coke oven 10 from the oven inlet 12 and pushes out the coke C produced in the coke oven 10 to the oven outlet 13. On the return trip, the extrusion device 20 returns inside the coke oven 10 from the oven outlet 13 to the oven inlet 12. The extrusion device 20 includes a push plate 21 and a beam 22. The beam 22 connects the push plate 21 to a drive device (not shown), and the drive device moves the push plate 21 from the oven inlet 12 to the oven outlet 13 of the coke oven 10. It is possible to move freely up to Since the push plate 21 has the same shape as the cross section of the coke oven 10, the coke C can be pushed out by moving the push plate 21.

カメラ30は、押出装置20とともにコークス炉10内を奥行き方向に移動しながら連続的に炉壁11を撮影する。カメラ30は、スチルカメラであってもよいし、ビデオカメラであってもよい。カメラ30は、押板21の背面または押板21の後方に設置された支持台に取り付けられている。カメラ30は、押板21やコークスCに視界を阻まれないように、押出装置20によるコークスCの押出方向と逆方向(図1の右方向)を向くように取り付けられている。カメラ30は、奥行き方向を正面として設置されており、左右両側の炉壁11を撮影することができる。炉壁11は斜視像として撮影される。コークス炉10内の高温環境(たとえば1000℃以上)からカメラ30を保護するために、カメラ30には、たとえば耐熱ハウジングまたは冷却ボックスに収納するといった熱対策が施されている。 The camera 30 continuously photographs the oven wall 11 while moving in the depth direction inside the coke oven 10 together with the extrusion device 20. Camera 30 may be a still camera or a video camera. The camera 30 is attached to a support stand installed on the back of the push plate 21 or behind the push plate 21. The camera 30 is mounted so as to face in a direction opposite to the direction in which the coke C is extruded by the extrusion device 20 (to the right in FIG. 1) so that the view is not obstructed by the push plate 21 or the coke C. The camera 30 is installed with the depth direction as the front, and can photograph the furnace walls 11 on both the left and right sides. The furnace wall 11 is photographed as a perspective image. In order to protect the camera 30 from the high-temperature environment (for example, 1000° C. or higher) inside the coke oven 10, the camera 30 is provided with heat countermeasures such as being housed in a heat-resistant housing or a cooling box, for example.

図3は、実施の形態に係るコークス炉撮影装置100のブロック図である。コークス炉撮影装置100は、カメラ30に加えて、画像処理部110を備える。また、演算処理装置210は、コークス炉撮影装置100とともにコークス炉検査装置200を構成する。画像処理部110、演算処理装置210は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)、マイコンなどのプロセッサ(ハードウェア)と、プロセッサ(ハードウェア)が実行するソフトウェアプログラムの組み合わせで実装することができる。 FIG. 3 is a block diagram of the coke oven photographing apparatus 100 according to the embodiment. The coke oven photographing device 100 includes an image processing section 110 in addition to the camera 30. Further, the arithmetic processing device 210 constitutes a coke oven inspection device 200 together with the coke oven photographing device 100. The image processing unit 110 and the arithmetic processing unit 210 are implemented by a combination of a processor (hardware) such as a CPU (Central Processing Unit), a GPU (Graphics Processing Unit), or a microcomputer, and a software program executed by the processor (hardware). be able to.

カメラ30は、逐次撮影された一連の炉内画像を画像処理部110に出力するように構成される。たとえば、カメラ30は、コークス炉内を移動しながら撮影するとき通信ケーブルで画像処理部110と接続され、炉内画像を画像処理部110に撮影中にリアルタイムに出力してもよい。あるいは、カメラ30は、内蔵されるメモリに炉内画像を蓄積し、撮影後にコークス炉外で炉内画像を画像処理部110に出力してもよい。この場合、撮影中にカメラ30に通信ケーブルは接続されなくてもよい。 The camera 30 is configured to output a series of sequentially captured in-furnace images to the image processing unit 110. For example, the camera 30 may be connected to the image processing unit 110 via a communication cable when taking pictures while moving inside the coke oven, and may output images of the inside of the oven to the image processing unit 110 in real time while taking pictures. Alternatively, the camera 30 may store the in-furnace image in a built-in memory, and output the in-furnace image to the image processing unit 110 outside the coke oven after capturing the image. In this case, the communication cable does not need to be connected to the camera 30 during shooting.

コークス炉撮影装置100は、カメラ30が一連の炉内画像それぞれを撮影した位置を示すカメラ位置情報を生成するように構成される。たとえば、カメラ30の撮影中にコークス炉内での奥行き方向のカメラ位置を測定するカメラ位置センサが設けられてもよい。カメラ位置センサとして、たとえば、コークス炉内での奥行き方向の押出装置の位置を測定するために押出装置に設置されているエンコーダが利用されてもよい。カメラ位置情報はカメラ位置センサから画像処理部110に入力され、個々の炉内画像とその撮影位置が画像処理部110によって対応付けられてもよい。 The coke oven photographing device 100 is configured to generate camera position information indicating the position at which the camera 30 has photographed each of a series of inside images. For example, a camera position sensor may be provided that measures the camera position in the depth direction within the coke oven while the camera 30 is taking pictures. As the camera position sensor, for example, an encoder installed in the extrusion device to measure the position of the extrusion device in the depth direction within the coke oven may be used. Camera position information may be input to the image processing unit 110 from the camera position sensor, and the image processing unit 110 may associate each in-furnace image with its photographing position.

画像処理部110がアクセス可能な画像データベースとして機能する画像データ記憶装置が画像処理部110の内部または外部に設けられてもよく、カメラ30から逐次出力される一連の炉内画像は、画像データベースに蓄積されてもよい。画像データベースに蓄積された炉内画像は、画像処理部110によって、たとえばリアルタイムに、または所望のタイミングで(オフラインで)、処理されてもよい。画像データベースには、カメラ30で撮影した炉内画像のほかに、画像処理部110から出力される炉壁面の正面視画像またはその他の画像も蓄積されてもよい。 An image data storage device that functions as an image database that can be accessed by the image processing section 110 may be provided inside or outside the image processing section 110, and a series of in-furnace images sequentially output from the camera 30 are stored in the image database. May be accumulated. The in-furnace images accumulated in the image database may be processed by the image processing unit 110, for example, in real time or at a desired timing (off-line). In addition to the in-furnace images captured by the camera 30, the image database may also store front-view images of the furnace wall output from the image processing unit 110 or other images.

画像処理部110は、カメラ30から逐次出力される一連の炉内画像にもとづいて炉壁面の少なくとも一部分を含む炉壁面画像を生成する。画像処理部110は、炉壁面画像として、炉壁面の少なくとも一部分の正面視画像を生成してもよい。炉壁面の正面視画像は、斜視像である炉内画像を視点変換処理により正面視の画像に変換し、得られた正面視の画像をつなぎ合わせることによって生成される。炉壁面の正面視画像を生成するこうした処理は、既存の手法を適宜用いることができ、ここでは詳述しない。 The image processing unit 110 generates a furnace wall surface image including at least a portion of the furnace wall surface based on a series of furnace interior images sequentially outputted from the camera 30. The image processing unit 110 may generate a front view image of at least a portion of the furnace wall surface as the furnace wall surface image. The front-view image of the furnace wall surface is generated by converting the furnace interior image, which is a perspective image, into a front-view image through viewpoint conversion processing, and joining the obtained front-view images. Such processing for generating a front-view image of the furnace wall surface can be performed using existing methods as appropriate, and will not be described in detail here.

なお、炉壁面画像は、正面視画像には限られない。炉壁面画像は斜視像であってもよく、画像処理部110は、カメラ30から逐次出力される一連の炉内画像から一枚または複数枚の炉内画像を選択し出力してもよい。選択された炉内画像は上述の炉壁面画像とみなされうる。 Note that the furnace wall surface image is not limited to a front-view image. The furnace wall surface image may be a perspective image, and the image processing unit 110 may select and output one or more furnace interior images from a series of furnace interior images sequentially output from the camera 30. The selected furnace interior image can be regarded as the above-mentioned furnace wall surface image.

図4(a)および図4(b)は、炉内画像の例を示す。図5は、炉壁面の正面視画像の例を示す。図4(a)に示される炉内画像32aは、図1に示される押出装置20の往復移動での往路において撮影され、図4(b)に示される炉内画像32bは、同じ往復移動での復路において炉内画像32aと同じ炉内位置で撮影されている。図5に示される正面視画像34は、炉内画像32a、32bを含む一連の炉内画像にもとづいて生成されている。 FIGS. 4(a) and 4(b) show examples of in-furnace images. FIG. 5 shows an example of a front view image of the furnace wall surface. The in-furnace image 32a shown in FIG. 4(a) is taken on the outward path of the reciprocating movement of the extrusion device 20 shown in FIG. 1, and the in-furnace image 32b shown in FIG. 4(b) is taken during the same reciprocating movement. On the return trip, the photograph is taken at the same in-furnace position as the in-furnace image 32a. The front view image 34 shown in FIG. 5 is generated based on a series of in-furnace images including in-furnace images 32a and 32b.

画像処理部110は、一連の炉内画像のうち少なくとも二画像それぞれから炉壁面上の同じ注目部位36を切り出す。注目部位36は、ユーザーの選択にもとづいてもよい。たとえば、ユーザーは、一連の炉内画像のうち一の炉内画像(たとえば炉内画像32a、32bのうち一方の炉内画像)について、関心のある部位を注目部位36として選択する。そうした注目部位36の選択は、コークス炉撮影装置100に設けられたユーザーインターフェイスを通じて、画像処理部110に入力されてもよい。画像処理部110は、他の1つ又は複数の炉内画像(たとえば炉内画像32a、32bのうち他方の炉内画像)について、同じ注目部位36をカメラ位置情報にもとづいて特定してもよい。こうして、画像処理部110は、一連の炉内画像のうち少なくとも二画像(たとえば炉内画像32a、32b)のそれぞれから、同じ注目部位36を含む部分画像を切り出す(図3(a)、図3(b)において矩形で示される)。なお、注目部位36の選択と部分画像の切り出しは、斜視像である炉内画像で行うことには限定されず、炉内画像にもとづいて生成された炉壁面の正面視画像で行われてもよい。 The image processing unit 110 cuts out the same target region 36 on the furnace wall surface from each of at least two images out of the series of furnace interior images. The region of interest 36 may be based on a user's selection. For example, the user selects a region of interest as the region of interest 36 in one of the series of furnace images (for example, one of the furnace images 32a and 32b). Such selection of the region of interest 36 may be input to the image processing unit 110 through a user interface provided in the coke oven imaging device 100. The image processing unit 110 may identify the same target region 36 for one or more other in-furnace images (for example, the other in-furnace image among the in-furnace images 32a and 32b) based on the camera position information. . In this way, the image processing unit 110 cuts out a partial image including the same region of interest 36 from each of at least two images (for example, the in-furnace images 32a and 32b) of the series of in-furnace images (FIGS. 3A and 3 (indicated by a rectangle in (b)). Note that the selection of the region of interest 36 and the cutting out of partial images are not limited to being performed using a perspective image of the furnace interior image, but may also be performed using a front view image of the furnace wall surface that is generated based on the furnace interior image. good.

画像処理部110は、切り出された部分画像にもとづいて注目部位36の検査画像を生成する。部分画像が炉内画像から切り出された場合、注目部位36の検査画像は、炉内画像と同様に、斜視像でありうる。画像処理部110は、斜視像である検査画像を正面視画像に変換してもよい。また、部分画像が正面視画像から切り出された場合、注目部位36の検査画像は、正面視画像となる。 The image processing unit 110 generates an inspection image of the region of interest 36 based on the cut out partial image. When the partial image is cut out from the in-furnace image, the inspection image of the region of interest 36 may be a perspective image like the in-furnace image. The image processing unit 110 may convert the inspection image, which is a perspective image, into a front view image. Further, when the partial image is cut out from the front view image, the inspection image of the region of interest 36 becomes the front view image.

画像処理部110によって生成された注目部位36の検査画像は、たとえばディスプレイに表示する等、目視検査用の画像としてユーザーに提示されてもよい。あるいは、画像処理部110によって生成された注目部位36の検査画像は、図3に示されるように、演算処理装置210に入力されてもよい。 The inspection image of the region of interest 36 generated by the image processing unit 110 may be presented to the user as an image for visual inspection, for example by displaying it on a display. Alternatively, the inspection image of the region of interest 36 generated by the image processing unit 110 may be input to the arithmetic processing device 210, as shown in FIG.

演算処理装置210は、検査画像(たとえば正面視画像34)を入力として、画像認識により炉壁面の損傷に関する情報を出力する。たとえば、演算処理装置210は、入力される検査画像に基づいて、炉壁面のたとえば亀裂、欠け、穴、カーボン付着などあらかじめ選択された損傷領域の種類を特定することができるように、深層学習などの機械学習により構成される。あるいは、適用可能であれば、演算処理装置210はそれぞれ、炉壁面の様々な部位および様々な損傷についてあらかじめ準備された多数のサンプル画像データと入力される検査画像とのパターンマッチングに基づいてもよい。 The arithmetic processing unit 210 inputs the inspection image (for example, the front-view image 34) and outputs information regarding damage to the furnace wall surface through image recognition. For example, the processing unit 210 uses deep learning to identify the type of damage area selected in advance, such as cracks, chips, holes, and carbon deposits on the furnace wall surface based on the input inspection image. It is constructed using machine learning. Alternatively, if applicable, the processing unit 210 may be based on pattern matching between the input inspection image and a large number of sample image data prepared in advance for different parts of the furnace wall surface and different damages, respectively. .

したがって、コークス炉検査装置200は、入力される検査画像にもとづいて、炉壁面の損傷領域を、例えば領域分割、物体検出など、画像認識により検出し、損傷領域の位置をユーザーに提示する。コークス炉検査装置200は、損傷領域の位置だけでなく、たとえば亀裂、欠け、穴、カーボン付着など損傷領域の種類を画像認識により検出し、損傷領域の種類をユーザーに提示してもよい。コークス炉検査装置200は、損傷領域とともに、または損傷領域に代えて、炉壁面の健全領域(すなわち損傷のない領域)をユーザーに提示してもよい。 Therefore, the coke oven inspection apparatus 200 detects a damaged area on the oven wall surface by image recognition, such as area division or object detection, based on the input inspection image, and presents the position of the damaged area to the user. The coke oven inspection device 200 may detect not only the position of the damaged area but also the type of the damaged area, such as cracks, chips, holes, carbon deposits, etc., by image recognition, and present the type of the damaged area to the user. The coke oven inspection device 200 may present to the user a healthy area (i.e., an area without damage) on the oven wall surface together with or in place of the damaged area.

実施の形態に係るコークス炉撮影装置100によれば、画像処理部110は、カメラ30から逐次出力される一連の炉内画像のうち少なくとも二画像それぞれから炉壁面上の同じ注目部位36を切り出し、その注目部位36を含む複数の部分画像を取得する。画像処理部110は、切り出された複数の部分画像にもとづいて注目部位36の検査画像を生成する。このようにすれば、同じ注目部位36を異なるタイミングで撮影した複数の部分画像を用意することができる。たとえ複数の部分画像のうちいずれかが粉塵や炉内温度の影響により観察しにくい画像であったとしても、他のいずれかの部分画像は、そうした影響の少ない画像でありうる。同じ注目部位36の複数の部分画像を用いることにより、一枚だけの画像にもとづく場合に比べて、炉壁面の観察に適する検査画像が得られる可能性が高まるものと期待される。これにより、より正確な損傷検査を行うことができる。 According to the coke oven photographing device 100 according to the embodiment, the image processing unit 110 cuts out the same target region 36 on the oven wall surface from at least two images from each of the series of oven interior images sequentially output from the camera 30, A plurality of partial images including the region of interest 36 are acquired. The image processing unit 110 generates an inspection image of the region of interest 36 based on the plurality of cut out partial images. In this way, a plurality of partial images of the same region of interest 36 taken at different timings can be prepared. Even if any one of the plurality of partial images is difficult to observe due to the effects of dust or furnace temperature, any other partial image may be an image that is less affected by such effects. By using a plurality of partial images of the same region of interest 36, it is expected that the possibility of obtaining an inspection image suitable for observing the furnace wall surface will be increased compared to the case based on only one image. This allows for more accurate damage inspection.

一連の炉内画像のうち少なくとも二画像は、押出装置の往復移動での復路において撮影された炉内画像または当該炉内画像にもとづいて生成された正面視画像を含んでもよい。往路においては押出装置がコークスを押し出すので、コークス炉内に粉塵が多く発生しがちである。それに対して、復路ではコークス炉内からコークスが既に排出されているので、粉塵は往路に比べて少なくなり、カメラ30は、より鮮明な炉内画像を撮影しうる。したがって、復路で撮影された炉内画像にもとづくことにより、炉壁面の観察に適する部分画像(注目部位36)を選択することができる。 At least two of the series of in-furnace images may include an in-furnace image taken on a return trip during reciprocating movement of the extrusion device, or a front-view image generated based on the in-furnace image. On the outward journey, the extrusion device pushes out the coke, which tends to generate a lot of dust inside the coke oven. On the other hand, on the return trip, since the coke has already been discharged from inside the coke oven, there is less dust than on the outward trip, and the camera 30 can take a clearer image of the inside of the oven. Therefore, it is possible to select a partial image (part of interest 36) suitable for observation of the furnace wall surface based on the in-furnace image taken on the return trip.

同じ注目部位36の複数の部分画像を切り出す少なくとも二画像は、ほかにも考えられる。たとえば、少なくとも二画像は、コークス炉内でのカメラの一回の往復移動での往路と復路において同じ炉内位置で撮影された炉内画像のペアを含んでもよい。少なくとも二画像は、コークス炉内でのカメラの一回の往復移動での往路または復路のいずれかにおいて異なる時点に撮影された複数の炉内画像を含んでもよい。少なくとも二画像は、コークス炉内でのカメラの複数回の往復移動にわたって同じ炉内位置で撮影された複数の炉内画像を含んでもよい。少なくとも二画像は、生成された正面視画像を含んでもよい。少なくとも二画像は、コークス炉内でのカメラの一回または複数回の往復移動における一連の炉内画像にもとづいて生成された異なる2枚の正面視画像(たとえば、往路と復路それぞれから得られる正面視画像)を含んでもよい。このようにしても、炉壁面の観察に適する検査画像が得られる可能性が高まるものと期待される。 At least two images that cut out a plurality of partial images of the same region of interest 36 are also conceivable. For example, the at least two images may include a pair of in-oven images taken at the same in-oven location on the outbound and return trips of one round trip of the camera within the coke oven. The at least two images may include a plurality of in-oven images taken at different times during either the outward or return trip of a single round trip of the camera within the coke oven. The at least two images may include a plurality of in-oven images taken at the same in-oven location over multiple reciprocating movements of the camera within the coke oven. The at least two images may include the generated front-view images. The at least two images are two different front-view images generated based on a series of inside-oven images during one or more reciprocating movements of the camera within the coke oven (e.g., front-view images obtained from each outbound and return trip). visual images). Even in this case, it is expected that the possibility of obtaining an inspection image suitable for observing the furnace wall surface will increase.

また、同じ注目部位36の複数の部分画像を切り出す少なくとも二画像は、機械学習の観点からは、異なる性質の画像を混在させないことが好ましい。そこで、少なくとも二画像は、いずれも炉内画像であってもよい。あるいは、少なくとも二画像は、いずれも正面視画像であってもよい。 Further, from the viewpoint of machine learning, it is preferable that at least two images obtained by cutting out a plurality of partial images of the same region of interest 36 do not include images with different properties. Therefore, at least two images may both be in-furnace images. Alternatively, at least two images may both be front-view images.

図6は、実施の形態に係るコークス炉撮影装置100のブロック図である。図6を参照して、コークス炉撮影装置100の具体的な構成の例を説明する。コークス炉撮影装置100は、入力画像撮影部111、画像部分領域取得部112、画像部分領域選択部113、画像鮮明化処理部114、画像認識処理部115、出力画像表示部116を備える。 FIG. 6 is a block diagram of a coke oven photographing apparatus 100 according to an embodiment. An example of a specific configuration of the coke oven photographing apparatus 100 will be described with reference to FIG. 6. The coke oven photographing device 100 includes an input image photographing section 111, an image partial region acquisition section 112, an image partial region selection section 113, an image sharpening processing section 114, an image recognition processing section 115, and an output image display section 116.

入力画像撮影部111は、画像の取得手段であり、図3のカメラ30に対応する。入力画像撮影部111は、カメラと、カメラを移動させる手段、カメラの位置あるいは移動距離を取得する手段、カメラの姿勢を制御する手段などを含みうる。入力画像撮影部111が撮影した画像は、位置情報とともに、画像部分領域取得部112に入力される。 The input image photographing unit 111 is an image acquisition means and corresponds to the camera 30 in FIG. 3 . The input image capturing unit 111 may include a camera, means for moving the camera, means for acquiring the position or movement distance of the camera, means for controlling the attitude of the camera, and the like. The image photographed by the input image photographing section 111 is input to the image partial area acquisition section 112 together with position information.

画像部分領域取得部112、画像部分領域選択部113は、図3に示される画像処理部110に対応づけることができる。画像鮮明化処理部114、画像認識処理部115は、図3に示される演算処理装置210に対応づけることができる。 The image partial area acquisition unit 112 and the image partial area selection unit 113 can be associated with the image processing unit 110 shown in FIG. The image sharpening processing section 114 and the image recognition processing section 115 can be associated with the arithmetic processing device 210 shown in FIG.

画像部分領域取得部112は、入力画像撮影部111から入力される画像群から、炉壁面上の同じ注目部位を含む複数の部分画像を抽出する。入力される画像群は、カメラから逐次出力される一連の炉内画像、およびこの一連の炉内画像にもとづいて生成された炉壁面画像、たとえば正面視画像を含みうる。 The image partial area acquisition unit 112 extracts a plurality of partial images including the same region of interest on the furnace wall surface from the image group input from the input image capturing unit 111. The input image group may include a series of in-furnace images sequentially output from the camera, and a furnace wall image generated based on the series of in-furnace images, such as a front-view image.

画像部分領域選択部113は、画像部分領域取得部112によって抽出された複数の部分画像から炉壁面の損傷検査に有効な部分画像を選択し、選択された有効な部分画像から注目部位の検査画像を生成する。あるいは、画像部分領域選択部113は、画像部分領域取得部112によって抽出された複数の部分画像から炉壁面の損傷検査に有効である有効画像を合成し、有効画像から注目部位の検査画像を生成する。 The image partial area selection unit 113 selects partial images effective for damage inspection of the furnace wall surface from the plurality of partial images extracted by the image partial area acquisition unit 112, and selects an inspection image of the region of interest from the selected effective partial images. generate. Alternatively, the image partial area selection unit 113 synthesizes effective images that are effective for damage inspection of the furnace wall surface from the plurality of partial images extracted by the image partial area acquisition unit 112, and generates an inspection image of the region of interest from the effective images. do.

図7(a)および図7(b)は、画像部分領域選択部113の例示的な構成を示す。図7(a)に示されるように、画像部分領域選択部113は、入力される炉内画像またはその部分画像が炉壁面の損傷検査に有効であるか否かを推定する機械学習された識別器117を備える。画像部分領域選択部113は、切り出された部分画像40を識別器117に逐次入力し、識別器117からの出力42にもとづいて炉壁面の損傷検査に有効な部分画像を選択し、選択された有効な部分画像から注目部位の検査画像を生成する。 FIGS. 7A and 7B show exemplary configurations of the image partial area selection unit 113. As shown in FIG. 7(a), the image partial region selection unit 113 performs machine learning identification to estimate whether the input furnace interior image or its partial image is effective for damage inspection of the furnace wall surface. A container 117 is provided. The image partial area selection unit 113 sequentially inputs the cut out partial images 40 to the discriminator 117, selects partial images effective for damage inspection of the furnace wall surface based on the output 42 from the discriminator 117, and selects the selected partial images. An inspection image of the region of interest is generated from the valid partial images.

識別器117の出力42は、入力される部分画像40が損傷検査に有効であるか否かを二値的に示してもよい(たとえば、出力42は、部分画像40が損傷検査に有効である場合、値1をとり、有効でない場合、値0をとってもよい)。あるいは、識別器117の出力42は、入力される部分画像40が損傷検査に有効である確率を示してもよい。画像部分領域選択部113は、複数の部分画像40それぞれについて出力42を取得し、損傷検査に有効である確率が最大となる部分画像40を損傷検査に有効な部分画像として選択してもよい。あるいは、出力42があるしきい値を超える部分画像40を損傷検査に有効な部分画像として選択してもよい。 The output 42 of the discriminator 117 may indicate in a binary manner whether or not the input partial image 40 is effective for damage inspection (for example, the output 42 may indicate whether the input partial image 40 is effective for damage inspection). If it is not valid, it may take the value 1; if it is not valid, it may take the value 0). Alternatively, the output 42 of the discriminator 117 may indicate the probability that the input partial image 40 is valid for damage inspection. The image partial region selection unit 113 may acquire the output 42 for each of the plurality of partial images 40, and select the partial image 40 with the highest probability of being effective for damage inspection as the partial image effective for damage inspection. Alternatively, a partial image 40 whose output 42 exceeds a certain threshold may be selected as a partial image effective for damage inspection.

識別器117は、畳み込みニューラルネットワーク(CNN)で構成されてもよい。識別器117の学習には、教師データとして入力画像群と各入力画像についての人手による有効/無効の評価結果のペアが使用されてもよい。なお、識別器117は、たとえばサポートベクターマシンなど非深層学習の方式で構築されてもよい。 The classifier 117 may be configured with a convolutional neural network (CNN). For learning of the classifier 117, pairs of input image groups and manual evaluation results of validity/invalidity for each input image may be used as training data. Note that the classifier 117 may be constructed using a non-deep learning method such as a support vector machine.

図7(b)に示されるように、画像部分領域選択部113は、入力される炉内画像群またはその部分画像群から炉壁面の損傷検査に有効である有効画像を合成する機械学習された画像生成器118を備える。画像部分領域選択部113は、切り出された部分画像40を画像生成器118に入力し、有効画像44を合成し、有効画像44から注目部位の検査画像を生成する。 As shown in FIG. 7(b), the image partial area selection unit 113 performs machine learning to synthesize an effective image that is effective for damage inspection of the furnace wall surface from the input furnace interior image group or its partial image group. An image generator 118 is provided. The image partial area selection unit 113 inputs the cut out partial image 40 to the image generator 118, synthesizes the valid image 44, and generates an inspection image of the region of interest from the valid image 44.

画像生成器118は、畳み込みニューラルネットワーク(CNN)で構成されてもよい。画像生成器118は、既定の枚数の画像群から1枚の画像を合成するように構成されてもよい。画像生成器118の学習には、教師データとして既定の枚数の入力画像群とそれら入力画像のうち人手により有効と評価される正解画像のペアが使用されてもよい。 Image generator 118 may be configured with a convolutional neural network (CNN). Image generator 118 may be configured to synthesize an image from a predetermined number of images. For the learning of the image generator 118, a pair of a predetermined number of input images and a correct image manually evaluated as effective among the input images may be used as training data.

再び図6を参照すると、画像鮮明化処理部114は、画像部分領域選択部113から入力される画像に、例えば、超解像処理、デノイジング(denoising)処理、デブルアリング(deblurring)処理のうち少なくとも1つを含む画像鮮明化処理を施す。超解像処理は、画像を劣化させることなく(または画像の劣化を抑えつつ)決められたサイズに拡大する。デノイジング処理は、カメラノイズやsalt-and-pepperノイズなど、入力画像に含まれるノイズを除去または低減する。デブルアリング処理は、焦点ぼけや移動物体のぼけなどを補正する。 Referring again to FIG. 6, the image sharpening processing unit 114 applies at least one of super-resolution processing, denoising processing, and deblurring processing to the image input from the image partial region selection unit 113. Performs image sharpening processing including: Super-resolution processing enlarges an image to a predetermined size without deteriorating it (or while suppressing image deterioration). The denoising process removes or reduces noise in the input image, such as camera noise and salt-and-pepper noise. The deblurring process corrects defocus, blur of moving objects, and the like.

こうした画像鮮明化処理は、種々の手法で実装されうる。たとえば超解像処理については、単純な補間法、事例ベースの手法、または、機械学習により得られる超解像モデルを採用できる。こうした超解像モデルは、たとえば、「R. Timofte, V.D. Smet, and L.V.Gool. A+: Adjusted Anchored Neighborhood Regression for Fast Super-Resolution. ACCV, 2014.」、「C. Dong, C.C. Loy, K. He, and X. Tang. Image Super-Resolution Using Deep Convolutional Networks. TPAMI, 2016.」に開示される。また、デノイジング/デブルアリング処理については、たとえばガウシアンフィルタによる平滑化処理、機械学習による方法などが考えられ、これらは、「K. Dabov, A. Foi, V. Katkovnik, and K. Egiazarian. Image Denoising by Sparse 3-D Transform-Domain Collaborative Filtering. TIP, 2007.」、「M. Hradis, J. Kotera, P. Zemcik, and F. Sroubek, Convolutional Neural Networks for Direct Text Deblurring. BMVC, 2015.」に例示される。 Such image sharpening processing can be implemented in a variety of ways. For example, for super-resolution processing, a simple interpolation method, an example-based method, or a super-resolution model obtained by machine learning can be employed. These super-resolution models are, for example, "R. Timofte, V.D. Smet, and L.V.Gool. A+: Adjusted Anchored Neighborhood Regression for Fast Super-Resolution. ACCV, 2014.", "C. Dong, C.C. Loy, K. He , and X. Tang. Image Super-Resolution Using Deep Convolutional Networks. TPAMI, 2016.” Regarding denoising/debulus processing, for example, smoothing processing using a Gaussian filter and methods using machine learning can be considered. BMVC, 2015. Ru.

なお、画像鮮明化処理部114は、オプションであり、省略されてもよい。画像部分領域選択部113からの出力画像は、画像認識処理部115に入力されてもよい。 Note that the image sharpening processing unit 114 is an option and may be omitted. The output image from the image partial region selection section 113 may be input to the image recognition processing section 115.

画像認識処理部115は、画像鮮明化処理部114(または画像部分領域選択部113)から入力される画像に、例えば領域分割、物体検出などの画像認識にもとづく損傷検出を行い、その結果を出力する。画像認識処理部115は、畳み込みニューラルネットワーク(CNN)で構成されてもよく、損傷検出処理は、たとえば、「J. Shotton, J. Winn, C. Rother, and A. Criminisi, TextonBoost: Joint Appearance, Shape and Context Modeling for Multi-Class Object Recognition and Segmentation. ECCV, 2006.」、「J. Long, E. Shelhamer, and T. Darrell, Fully Convolutional Networks for Semantic Segmentation. CVPR, 2015.」に開示される手法が採用されてもよい。 The image recognition processing unit 115 performs damage detection on the image input from the image sharpening processing unit 114 (or image partial area selection unit 113) based on image recognition, such as area division and object detection, and outputs the results. do. The image recognition processing unit 115 may be configured with a convolutional neural network (CNN), and the damage detection processing may be performed using, for example, "J. Shotton, J. Winn, C. Rother, and A. Criminisi, TextonBoost: Joint Appearance," Shape and Context Modeling for Multi-Class Object Recognition and Segmentation. ECCV, 2006.” and “J. Long, E. Shelhamer, and T. Darrell, Fully Convolutional Networks for Semantic Segmentation. CVPR, 2015.” may be adopted.

出力画像表示部116は、画像認識処理部115によって得られた損傷検査結果を出力する。出力画像表示部116は、ディスプレイを備え、検査結果をユーザに視覚的に提示してもよい。出力画像表示部116は、検査結果を示すデータを、記憶媒体に保存してもよい。 The output image display section 116 outputs the damage inspection results obtained by the image recognition processing section 115. The output image display unit 116 may include a display and visually present the test results to the user. The output image display unit 116 may store data indicating the test results in a storage medium.

図8(a)、図8(b)は、ディスプレイ122に表示されるユーザインターフェイス画面の例を示す。図8(a)に示されるように、参照画像(たとえば、上述の炉内画像、炉壁面画像、正面視画像、検査画像のいずれでもよい)300と、損傷領域204を示す検査結果画像302が並べて表示されてもよい。図8(b)に示されるように、損傷領域204と参照画像が重ね合わされた検査結果画像302が表示されてもよい。損傷領域204などユーザーが選択した領域を拡大表示するための拡大枠304が検査画像302とともにディスプレイ122に表示されてもよい。そのほかに、ユーザーが画面上で発見した対象領域(損傷領域)を選択する機能や、対象領域の位置、サイズ、種類などの対象領域情報を表示する機能が備わっていてもよい。 FIGS. 8A and 8B show examples of user interface screens displayed on the display 122. As shown in FIG. 8(a), a reference image 300 (for example, any of the above-mentioned furnace interior image, furnace wall surface image, front-view image, or inspection image) and an inspection result image 302 showing the damaged area 204 are They may be displayed side by side. As shown in FIG. 8(b), an inspection result image 302 in which the damaged area 204 and the reference image are superimposed may be displayed. An enlargement frame 304 for enlarging an area selected by the user, such as the damaged area 204, may be displayed on the display 122 together with the inspection image 302. In addition, the user may have a function to select a target area (damage area) found on the screen, and a function to display target area information such as the position, size, and type of the target area.

以上、本発明を実施例にもとづいて説明した。本発明は上記実施形態に限定されず、種々の設計変更が可能であり、様々な変形例が可能であること、またそうした変形例も本発明の範囲にあることは、当業者に理解されるところである。ある実施の形態に関連して説明した種々の特徴は、他の実施の形態にも適用可能である。組合せによって生じる新たな実施の形態は、組み合わされる実施の形態それぞれの効果をあわせもつ。 The present invention has been described above based on examples. It will be understood by those skilled in the art that the present invention is not limited to the above embodiments, and that various design changes and modifications are possible, and that such modifications also fall within the scope of the present invention. By the way. Various features described in connection with one embodiment are also applicable to other embodiments. A new embodiment resulting from a combination has the effects of each of the combined embodiments.

上述の実施の形態では、撮影装置および検査装置がコークス炉に適用される場合を例として説明しているが、本発明はこれに限定されず、産業機械やプラント、社会インフラなど様々な産業設備に適用されてもよい。ある実施の形態においては、産業設備の撮影装置は、産業設備の内部または周囲を移動しながら産業設備の被検査面を斜視像として撮影するカメラと、カメラから逐次出力される一連のカメラ画像にもとづいて被検査面の少なくとも一部分の被検査面画像を生成する画像処理部と、を備えてもよい。被検査面は、産業設備の内壁面または外壁面であってもよい。産業設備の外壁面を撮影するために、カメラは、たとえばドローンなどの飛行体に搭載されてもよい。画像処理部は、一連のカメラ画像および生成された被検査面画像のうち少なくとも二画像それぞれから被検査面上の同じ注目部位を切り出し、切り出された部分画像にもとづいて注目部位の検査画像を生成してもよい。また、産業設備の検査装置は、上述の撮影装置と、検査画像を入力として、画像認識により被検査面の損傷に関する情報を出力する演算処理装置と、を備えてもよい。 In the above-described embodiment, the case where the photographing device and the inspection device are applied to a coke oven is described as an example, but the present invention is not limited to this, and can be applied to various industrial equipment such as industrial machinery, plants, and social infrastructure. may be applied to. In one embodiment, an industrial equipment imaging device includes a camera that captures a perspective image of a surface to be inspected of the industrial equipment while moving within or around the industrial equipment, and a series of camera images sequentially output from the camera. An image processing unit that generates an image of the surface to be inspected of at least a portion of the surface to be inspected may be provided. The surface to be inspected may be an inner wall surface or an outer wall surface of industrial equipment. The camera may be mounted on a flying vehicle such as a drone to take pictures of the exterior wall surface of industrial equipment. The image processing unit cuts out the same region of interest on the surface to be inspected from each of at least two of the series of camera images and the generated image of the surface to be inspected, and generates an inspection image of the region of interest based on the cut out partial images. You may. Further, an inspection device for industrial equipment may include the above-described photographing device and a processing device that receives an inspection image as input and outputs information regarding damage to the surface to be inspected through image recognition.

実施の形態にもとづき、具体的な語句を用いて本発明を説明したが、実施の形態は、本発明の原理、応用の一側面を示しているにすぎず、実施の形態には、請求の範囲に規定された本発明の思想を逸脱しない範囲において、多くの変形例や配置の変更が認められる。 Although the present invention has been described using specific words based on the embodiments, the embodiments merely illustrate one aspect of the principles and applications of the present invention, and the embodiments do not include the claims. Many modifications and changes in arrangement are possible without departing from the spirit of the invention as defined in scope.

30 カメラ、 32a,32b 炉内画像、 34 正面視画像、 36 注目部位、 40 部分画像、 42 出力、 44 有効画像、 100 コークス炉撮影装置、 110 画像処理部、 117 識別器、 118 画像生成器、 200 コークス炉検査装置、 210 演算処理装置。 30 camera, 32a, 32b furnace image, 34 front view image, 36 region of interest, 40 partial image, 42 output, 44 effective image, 100 coke oven photographing device, 110 image processing unit, 117 discriminator, 118 image generator, 200 Coke oven inspection equipment, 210 Arithmetic processing unit.

Claims (9)

コークス炉内を移動しながら炉壁面を斜視像として撮影するカメラと、
前記カメラから逐次出力される一連の炉内画像にもとづいて前記炉壁面の少なくとも一部分を含む炉壁面画像を生成する画像処理部と、を備え、
前記画像処理部は、前記一連の炉内画像および生成された炉壁面画像のうち異なるタイミングで撮影された少なくとも二画像それぞれから前記炉壁面上の同じ注目部位を切り出し、切り出された部分画像にもとづいて前記注目部位の検査画像を生成し、
前記画像処理部は、入力される炉内画像またはその部分画像が前記炉壁面の損傷検査に有効であるか否かを推定する機械学習された識別器を備え、
前記画像処理部は、前記切り出された部分画像を前記識別器に逐次入力し、前記識別器からの出力にもとづいて前記炉壁面の損傷検査に有効な部分画像を選択し、選択された有効な部分画像から前記注目部位の検査画像を生成することを特徴とするコークス炉撮影装置。
A camera that takes perspective images of the oven wall while moving inside the coke oven;
an image processing unit that generates a furnace wall surface image including at least a portion of the furnace wall surface based on a series of furnace interior images sequentially output from the camera;
The image processing unit cuts out the same region of interest on the furnace wall surface from at least two images taken at different timings from among the series of furnace interior images and the generated furnace wall surface images, and based on the cut out partial images. generate an inspection image of the region of interest ,
The image processing unit includes a machine learning discriminator that estimates whether the input furnace interior image or a partial image thereof is effective for damage inspection of the furnace wall surface,
The image processing unit sequentially inputs the cut out partial images to the discriminator, selects a partial image effective for damage inspection of the furnace wall surface based on the output from the discriminator, and selects a partial image effective for damage inspection of the furnace wall surface. A coke oven photographing device characterized in that an inspection image of the region of interest is generated from a partial image .
コークス炉内を移動しながら炉壁面を斜視像として撮影するカメラと、
前記カメラから逐次出力される一連の炉内画像にもとづいて前記炉壁面の少なくとも一部分を含む炉壁面画像を生成する画像処理部と、を備え、
前記画像処理部は、前記一連の炉内画像および生成された炉壁面画像のうち異なるタイミングで撮影された少なくとも二画像それぞれから前記炉壁面上の同じ注目部位を切り出し、切り出された部分画像にもとづいて前記注目部位の検査画像を生成し、
前記画像処理部は、入力される炉内画像群またはその部分画像群から前記炉壁面の損傷検査に有効である有効画像を合成する機械学習された画像生成器を備え、
前記画像処理部は、前記切り出された部分画像を前記画像生成器に入力し、前記有効画像を合成し、前記有効画像から前記注目部位の検査画像を生成することを特徴とするコークス炉撮影装置。
A camera that takes perspective images of the oven wall while moving inside the coke oven;
an image processing unit that generates a furnace wall surface image including at least a portion of the furnace wall surface based on a series of furnace interior images sequentially output from the camera;
The image processing unit cuts out the same region of interest on the furnace wall surface from at least two images taken at different timings from among the series of furnace interior images and the generated furnace wall surface images, and based on the cut out partial images. generate an inspection image of the region of interest,
The image processing unit includes a machine learning image generator that synthesizes an effective image that is effective for damage inspection of the furnace wall surface from an input group of in-furnace images or a group of partial images thereof,
The coke oven is characterized in that the image processing unit inputs the cut out partial images to the image generator, synthesizes the effective images, and generates an inspection image of the region of interest from the effective images. Photography equipment.
前記カメラは、前記コークス炉内を反復的に往復移動する押出装置に搭載され、
前記少なくとも二画像は、前記押出装置の往復移動での復路において撮影された炉内画像または当該炉内画像にもとづいて生成された炉壁面画像を含むことを特徴とする請求項1または2に記載のコークス炉撮影装置。
The camera is mounted on an extrusion device that repeatedly moves back and forth within the coke oven,
3. The at least two images include an in-furnace image taken during a return trip during reciprocating movement of the extrusion device, or an in-furnace image generated based on the in-furnace image. coke oven photographic equipment.
前記少なくとも二画像は、
前記コークス炉内での前記カメラの一回の往復移動での往路と復路において同じ炉内位置で撮影された炉内画像のペア、
前記コークス炉内での前記カメラの一回の往復移動での往路または復路のいずれかにおいて異なる時点に撮影された複数の炉内画像、および、
前記コークス炉内での前記カメラの複数回の往復移動にわたって同じ炉内位置で撮影された複数の炉内画像、のうち少なくとも1つを含むことを特徴とする請求項1から3のいずれかに記載のコークス炉撮影装置。
The at least two images are
a pair of in-furnace images taken at the same in-furnace position on the outbound and return trips during one reciprocating movement of the camera in the coke oven;
a plurality of furnace interior images taken at different times during either the outward or return trip of one reciprocating movement of the camera within the coke oven, and
4. Any one of claims 1 to 3, comprising at least one of a plurality of furnace interior images taken at the same furnace position over a plurality of reciprocating movements of the camera within the coke oven. The coke oven photographing device described.
前記画像処理部は、前記炉壁面画像として、前記炉壁面の少なくとも一部分の正面視画像を生成し、
前記少なくとも二画像は、前記正面視画像を含むことを特徴とする請求項1からのいずれかに記載のコークス炉撮影装置。
The image processing unit generates a front view image of at least a portion of the furnace wall surface as the furnace wall surface image,
The coke oven photographing apparatus according to any one of claims 1 to 4 , wherein the at least two images include the front view image.
前記少なくとも二画像は、前記コークス炉内での前記カメラの一回または複数回の往復移動における前記一連の炉内画像にもとづいて生成された異なる2枚の正面視画像を含むことを特徴とする請求項に記載のコークス炉撮影装置。 The at least two images include two different front-view images generated based on the series of oven interior images during one or more reciprocating movements of the camera within the coke oven. A coke oven photographing device according to claim 5 . 請求項1からのいずれかに記載のコークス炉撮影装置と、
前記検査画像を入力として、画像認識により前記炉壁面の損傷に関する情報を出力する演算処理装置と、を備えることを特徴とするコークス炉検査装置。
A coke oven photographing device according to any one of claims 1 to 6 ,
A coke oven inspection device comprising: an arithmetic processing unit that receives the inspection image as input and outputs information regarding damage to the oven wall surface through image recognition.
カメラをコークス炉内で移動させながら炉壁面を斜視像として前記カメラで逐次撮影された一連の炉内画像を受け、前記一連の炉内画像にもとづいて前記炉壁面の少なくとも一部分を含む炉壁面画像を生成する画像処理部を備え、
前記画像処理部は、前記一連の炉内画像および生成された炉壁面画像のうち異なるタイミングで撮影された少なくとも二画像それぞれから前記炉壁面上の同じ注目部位を切り出し、切り出された部分画像にもとづいて前記注目部位の検査画像を生成し、
前記画像処理部は、入力される炉内画像またはその部分画像が前記炉壁面の損傷検査に有効であるか否かを推定する機械学習された識別器を備え、
前記画像処理部は、前記切り出された部分画像を前記識別器に逐次入力し、前記識別器からの出力にもとづいて前記炉壁面の損傷検査に有効な部分画像を選択し、選択された有効な部分画像から前記注目部位の検査画像を生成することを特徴とする画像処理装置。
Receive a series of furnace interior images taken sequentially by the camera as perspective images of the furnace wall surface while moving the camera within the coke oven, and based on the series of furnace interior images, a furnace wall surface image including at least a portion of the furnace wall surface. Equipped with an image processing unit that generates
The image processing unit cuts out the same region of interest on the furnace wall surface from at least two images taken at different timings from among the series of furnace interior images and the generated furnace wall surface images, and based on the cut out partial images. generate an inspection image of the region of interest ,
The image processing unit includes a machine learning discriminator that estimates whether the input furnace interior image or a partial image thereof is effective for damage inspection of the furnace wall surface,
The image processing unit sequentially inputs the cut out partial images to the discriminator, selects a partial image effective for damage inspection of the furnace wall surface based on the output from the discriminator, and selects a partial image effective for damage inspection of the furnace wall surface. An image processing device that generates an inspection image of the region of interest from a partial image .
カメラをコークス炉内で移動させながら炉壁面を斜視像として前記カメラで逐次撮影された一連の炉内画像を受け、前記一連の炉内画像にもとづいて前記炉壁面の少なくとも一部分を含む炉壁面画像を生成する画像処理部を備え、Receive a series of furnace interior images taken sequentially by the camera as perspective images of the furnace wall surface while moving the camera within the coke oven, and based on the series of furnace interior images, a furnace wall surface image including at least a portion of the furnace wall surface. Equipped with an image processing unit that generates
前記画像処理部は、前記一連の炉内画像および生成された炉壁面画像のうち異なるタイミングで撮影された少なくとも二画像それぞれから前記炉壁面上の同じ注目部位を切り出し、切り出された部分画像にもとづいて前記注目部位の検査画像を生成し、The image processing unit cuts out the same region of interest on the furnace wall surface from at least two images taken at different timings from among the series of furnace interior images and the generated furnace wall surface images, and based on the cut out partial images. generate an inspection image of the region of interest,
前記画像処理部は、入力される炉内画像群またはその部分画像群から前記炉壁面の損傷検査に有効である有効画像を合成する機械学習された画像生成器を備え、The image processing unit includes a machine learning image generator that synthesizes an effective image that is effective for damage inspection of the furnace wall surface from an input group of in-furnace images or a group of partial images thereof,
前記画像処理部は、前記切り出された部分画像を前記画像生成器に入力し、前記有効画像を合成し、前記有効画像から前記注目部位の検査画像を生成することを特徴とする画像処理装置。The image processing device is characterized in that the image processing unit inputs the cut out partial images to the image generator, synthesizes the effective images, and generates an inspection image of the region of interest from the effective images.
JP2020094835A 2020-05-29 2020-05-29 Coke oven photography equipment, coke oven inspection equipment, and image processing equipment Active JP7408488B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2020094835A JP7408488B2 (en) 2020-05-29 2020-05-29 Coke oven photography equipment, coke oven inspection equipment, and image processing equipment

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020094835A JP7408488B2 (en) 2020-05-29 2020-05-29 Coke oven photography equipment, coke oven inspection equipment, and image processing equipment

Publications (2)

Publication Number Publication Date
JP2021187957A JP2021187957A (en) 2021-12-13
JP7408488B2 true JP7408488B2 (en) 2024-01-05

Family

ID=78850180

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020094835A Active JP7408488B2 (en) 2020-05-29 2020-05-29 Coke oven photography equipment, coke oven inspection equipment, and image processing equipment

Country Status (1)

Country Link
JP (1) JP7408488B2 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114854435B (en) * 2022-06-10 2023-05-30 山西深蓝海拓智能机电设备有限公司 Method and device for checking whether furnace door is accurately aligned in coking operation process
CN117050760B (en) * 2023-10-13 2023-12-15 山西中科冶金建设有限公司 Intelligent coal charging and coke discharging system

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009057491A (en) 2007-08-31 2009-03-19 Kansai Coke & Chem Co Ltd Coke oven wall diagnosis method
JP2011126989A (en) 2009-12-17 2011-06-30 Sumitomo Heavy Industries Process Equipment Co Ltd Method and apparatus for observing coke oven wall
JP2012111896A (en) 2010-11-26 2012-06-14 Kansai Coke & Chem Co Ltd Method for monitoring interior of coke oven, method for managing oven wall and monitoring system
JP2020003430A (en) 2018-06-29 2020-01-09 大和ハウス工業株式会社 Device and method for diagnosing degradation of external packaging material

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2664494B2 (en) * 1989-09-18 1997-10-15 川崎製鉄株式会社 Method and apparatus for observing inner wall of coke oven carbonization chamber
JPH07298248A (en) * 1994-04-27 1995-11-10 Kawasaki Steel Corp Dust monitoring method
JP3924064B2 (en) * 1998-03-16 2007-06-06 新日本製鐵株式会社 Coke oven furnace diagnosis method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009057491A (en) 2007-08-31 2009-03-19 Kansai Coke & Chem Co Ltd Coke oven wall diagnosis method
JP2011126989A (en) 2009-12-17 2011-06-30 Sumitomo Heavy Industries Process Equipment Co Ltd Method and apparatus for observing coke oven wall
JP2012111896A (en) 2010-11-26 2012-06-14 Kansai Coke & Chem Co Ltd Method for monitoring interior of coke oven, method for managing oven wall and monitoring system
JP2020003430A (en) 2018-06-29 2020-01-09 大和ハウス工業株式会社 Device and method for diagnosing degradation of external packaging material

Also Published As

Publication number Publication date
JP2021187957A (en) 2021-12-13

Similar Documents

Publication Publication Date Title
CN110352346B (en) Method and apparatus for inspecting assets
US8405742B2 (en) Processing images having different focus
TWI393980B (en) The method of calculating the depth of field and its method and the method of calculating the blurred state of the image
JP2020126590A (en) Information processing apparatus, information processing method, and program
CN111047568A (en) Steam leakage defect detection and identification method and system
Ouyang et al. Visualization and image enhancement for multistatic underwater laser line scan system using image-based rendering
CN105190229B (en) Three-dimensional shape measuring device, three-dimensional shape measuring method and three-dimensional shape measuring program
CN113474619B (en) Using a mobile scanner to generate textured models
KR102256583B1 (en) System for Measuring Position of Subject
JP7408488B2 (en) Coke oven photography equipment, coke oven inspection equipment, and image processing equipment
JP7427615B2 (en) Information processing device, information processing method and program
JP6749498B2 (en) Imaging target tracking device and imaging target tracking method
JPWO2011118066A1 (en) Imaging apparatus and control method thereof
JPH09178566A (en) Thermal image display method and display device
ES2891748T3 (en) Indexing method and system
JP2015524946A (en) Method and measuring apparatus for forming a super-resolution image with improved image resolution
JP6409769B2 (en) 3D shape measuring apparatus, 3D shape measuring method, and 3D shape measuring program
JP6411188B2 (en) Stereo matching device, stereo matching program, and stereo matching method
KR20200009667A (en) Apparatus and Method for Synthesizing Image
JP2002117403A (en) Image processor and image processing method
JP7308913B2 (en) Hyperspectral high-speed camera video generation method using adversarial generative network algorithm
KR102096576B1 (en) Method and Apparatus for Synthesizing Image
Son et al. High-quality as-is 3D thermal modeling in MEP systems using a deep convolutional network
KR20200016508A (en) Method and Apparatus for Synthesizing Image
JP2014164525A (en) Method, device and program for estimating number of object

Legal Events

Date Code Title Description
A625 Written request for application examination (by other person)

Free format text: JAPANESE INTERMEDIATE CODE: A625

Effective date: 20230315

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231031

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20231031

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231220

R150 Certificate of patent or registration of utility model

Ref document number: 7408488

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150