Deprecated: The each() function is deprecated. This message will be suppressed on further calls in /home/zhenxiangba/zhenxiangba.com/public_html/phproxy-improved-master/index.php on line 456
JP7372017B2 - Steel component learning device, steel component estimation device, steel type determination device, steel component learning method, steel component estimation method, steel type determination method, and program - Google Patents
[go: Go Back, main page]

JP7372017B2 - Steel component learning device, steel component estimation device, steel type determination device, steel component learning method, steel component estimation method, steel type determination method, and program - Google Patents

Steel component learning device, steel component estimation device, steel type determination device, steel component learning method, steel component estimation method, steel type determination method, and program Download PDF

Info

Publication number
JP7372017B2
JP7372017B2 JP2019119679A JP2019119679A JP7372017B2 JP 7372017 B2 JP7372017 B2 JP 7372017B2 JP 2019119679 A JP2019119679 A JP 2019119679A JP 2019119679 A JP2019119679 A JP 2019119679A JP 7372017 B2 JP7372017 B2 JP 7372017B2
Authority
JP
Japan
Prior art keywords
steel
steel material
image data
carbon content
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019119679A
Other languages
Japanese (ja)
Other versions
JP2020009435A (en
Inventor
圭太 尾崎
陽 岡本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kobe Steel Ltd
Original Assignee
Kobe Steel Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kobe Steel Ltd filed Critical Kobe Steel Ltd
Publication of JP2020009435A publication Critical patent/JP2020009435A/en
Application granted granted Critical
Publication of JP7372017B2 publication Critical patent/JP7372017B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating And Analyzing Materials By Characteristic Methods (AREA)
  • Image Analysis (AREA)

Description

本発明は、鋼材成分学習装置、鋼材成分推定装置、鋼種判定装置、鋼材成分学習方法、鋼材成分推定方法、鋼種判定方法、及びプログラムに関する。 The present invention relates to a steel component learning device, a steel component estimating device, a steel type determining device, a steel component learning method, a steel component estimating method, a steel type determining method, and a program.

特許文献1には、火花画像に対して画素毎の二値化処理を行い、テンプレートマッチングにより火花の短直線数及び破裂数を算出し、「破裂密度」(=破裂数/短直線数)という評価基準により鋼材中の炭素量を判定する技術が開示されている。 Patent Document 1 describes that a spark image is binarized for each pixel, the number of short lines and the number of bursts of sparks are calculated by template matching, and the result is called "burst density" (=number of bursts/number of short lines). A technique for determining the amount of carbon in steel materials based on evaluation criteria has been disclosed.

特許文献2には、火花画像を画像処理して破裂画像に変換してから、破裂画像に含まれる特徴量を抽出して分析することで鋼材中の所定の元素の含有量を検査する技術が開示されている。 Patent Document 2 discloses a technology that processes a spark image to convert it into a rupture image, and then extracts and analyzes the feature amounts included in the rupture image to inspect the content of a predetermined element in a steel material. Disclosed.

特開2016-99126号公報JP2016-99126A 特開平9-145599号公報Japanese Patent Application Publication No. 9-145599

しかしながら、特許文献1に用いられるテンプレートマッチングは、撮影環境の照度変化や振動などの外乱ノイズに弱く、炭素量の判定精度が十分でないおそれがある。 However, the template matching used in Patent Document 1 is susceptible to disturbance noise such as changes in illuminance in the photographing environment and vibrations, and the accuracy of determining the amount of carbon may not be sufficient.

また、特許文献2に開示される技術では、火花画像に対して予め破裂に対応する特徴を抽出できるように画像変換を行う必要があるため、破裂画像には特徴の現れない合金成分を見落としてしまうおそれがある。 In addition, with the technology disclosed in Patent Document 2, it is necessary to perform image conversion on the spark image in advance so that features corresponding to rupture can be extracted, so alloy components that do not have characteristics in the rupture image may be overlooked. There is a risk of it getting lost.

本発明は、上記課題に鑑みてなされたものであり、その主な目的は、鋼材成分の推定精度を向上させることが可能な鋼材成分学習装置、鋼材成分推定装置、鋼種判定装置、鋼材成分学習方法、鋼材成分推定方法、鋼種判定方法、及びプログラムを提供することにある。 The present invention has been made in view of the above problems, and its main purpose is to provide a steel component learning device, a steel component estimation device, a steel type determination device, and a steel component learning device that can improve the estimation accuracy of steel components. The object of the present invention is to provide a method, a steel material composition estimation method, a steel type determination method, and a program.

上記課題を解決するため、本発明の一の態様の鋼材成分学習装置は、鋼材を研削したときに発生する火花の画像データ及び前記鋼材の成分情報を取得する取得手段と、前記画像データを入力データとし、前記成分情報を教師データとして、画像データから鋼材の成分を推定するための学習済みモデルを機械学習により構築する学習手段と、を備える。 In order to solve the above-mentioned problems, a steel material composition learning device according to one aspect of the present invention includes an acquisition means for acquiring image data of sparks generated when a steel material is ground and composition information of the steel material, and inputting the image data. and a learning means for constructing a trained model for estimating the components of steel from image data by machine learning, using the component information as training data.

また、本発明の他の態様の鋼材成分推定装置は、鋼材を研削したときに発生する火花の画像データを取得する取得手段と、画像データを入力データとし、鋼材の成分情報を教師データとして機械学習により予め構築された学習済みモデルを用い、前記画像データから前記鋼材の成分を推定する推論手段と、を備える。 Further, a steel component estimating device according to another aspect of the present invention includes an acquisition unit that acquires image data of sparks generated when a steel material is ground, and a machine that uses the image data as input data and the component information of the steel material as training data. and an inference means for estimating the components of the steel material from the image data using a learned model built in advance through learning.

また、本発明の他の態様の鋼種判定装置は、鋼材の鋼種情報又は成分情報の入力を受け付ける入力受付部と、前記入力受付部に入力された情報と、上記鋼材成分推定装置により推定された鋼材の成分とに基づいて、鋼種を判定する鋼種判定部と、を備える。 Further, a steel type determination device according to another aspect of the present invention includes an input receiving unit that receives input of steel type information or component information of a steel material, and information inputted to the input receiving portion and estimated by the steel material component estimating device. and a steel type determining section that determines the steel type based on the components of the steel material.

また、本発明の他の態様の鋼材成分学習方法は、鋼材を研削したときに発生する火花の画像データ及び前記鋼材の成分情報を取得し、前記画像データを入力データとし、前記成分情報を教師データとして、画像データから鋼材の成分を推定するための学習済みモデルを機械学習により構築する。 Further, a steel component learning method according to another aspect of the present invention acquires image data of sparks generated when a steel material is ground and component information of the steel material, uses the image data as input data, and uses the component information as a teacher. As data, a trained model for estimating the composition of steel material from image data is constructed using machine learning.

また、本発明の他の態様の鋼材成分推定方法は、鋼材を研削したときに発生する火花の画像データを取得し、画像データを入力データとし、鋼材の成分情報を教師データとして機械学習により予め構築された学習済みモデルを用い、前記画像データから前記鋼材の成分を推定する。 In addition, a steel component estimation method according to another aspect of the present invention acquires image data of sparks generated when a steel material is ground, uses the image data as input data, and uses composition information of the steel material as training data to perform pre-preparation by machine learning. The components of the steel material are estimated from the image data using the constructed learned model.

また、本発明の他の態様の鋼種判定方法は、鋼材の鋼種情報又は成分情報の入力を受け付け、入力された情報と、上記鋼材成分推定方法により推定された鋼材の成分とに基づいて、鋼種を判定する。 Further, a steel type determination method according to another aspect of the present invention accepts input of steel type information or component information of a steel material, and determines the steel type based on the input information and the steel component estimated by the above-mentioned steel material component estimation method. Determine.

また、本発明の他の態様のプログラムは、鋼材を研削したときに発生する火花の画像データ及び前記鋼材の成分情報を取得する取得手段、及び、前記画像データを入力データとし、前記成分情報を教師データとして、画像データから鋼材の成分を推定するための学習済みモデルを機械学習により構築する学習手段、としてコンピュータを機能させる。 Further, a program according to another aspect of the present invention includes an acquisition unit that acquires image data of sparks generated when a steel material is ground and component information of the steel material; The computer functions as a learning means that uses machine learning to construct a trained model for estimating the composition of steel from image data as training data.

また、本発明の他の態様のプログラムは、鋼材を研削したときに発生する火花の画像データを取得する取得手段、及び、画像データを入力データとし、鋼材の成分情報を教師データとして機械学習により予め構築された学習済みモデルを用い、前記画像データから前記鋼材の成分を推定する推論手段、としてコンピュータを機能させる。 Further, a program according to another aspect of the present invention includes an acquisition means for acquiring image data of sparks generated when a steel material is ground, and a machine learning method using the image data as input data and composition information of the steel material as training data. A computer is made to function as an inference means for estimating the composition of the steel material from the image data using a learned model built in advance.

また、本発明の他の態様のプログラムは、鋼材の鋼種情報又は成分情報の入力を受け付ける入力受付部、及び、前記入力受付部に入力された情報と、上記プログラムにより機能する推論手段により推定された鋼材の成分とに基づいて、鋼種を判定する鋼種判定部、としてコンピュータを機能させる。 Further, a program according to another aspect of the present invention includes an input receiving section that receives input of steel type information or composition information of steel materials, and an inference means that functions based on the information input to the input receiving section and the above program. The computer functions as a steel type determination section that determines the steel type based on the steel composition.

本発明によれば、鋼材成分の推定精度を向上させることが可能となる。 According to the present invention, it is possible to improve the estimation accuracy of steel material components.

鋼材成分学習推定装置の構成例を示すブロック図である。FIG. 2 is a block diagram showing a configuration example of a steel material component learning estimation device. 火花画像の例を示す図である。FIG. 3 is a diagram showing an example of a spark image. 火花画像と成分情報との対応例を示す図である。FIG. 3 is a diagram showing an example of correspondence between spark images and component information. 学習フェーズの手順例を示すフロー図である。FIG. 3 is a flow diagram showing an example of a procedure of a learning phase. 学習済みモデルの構築例を説明するための図である。FIG. 3 is a diagram for explaining an example of building a trained model. 推論フェーズの手順例を示すフロー図である。FIG. 3 is a flow diagram showing an example of a procedure of an inference phase. 鋼種と成分情報との対応例を示す図である。FIG. 3 is a diagram showing an example of correspondence between steel types and component information. カメラの配置例を示す図である。It is a figure showing an example of arrangement of cameras. 学習済みモデルの構築例を説明するための図である。FIG. 3 is a diagram for explaining an example of building a learned model. 学習済みモデルの構築例を説明するための図である。FIG. 3 is a diagram for explaining an example of building a learned model. 3次元畳み込みフィルタを説明するための図である。FIG. 3 is a diagram for explaining a three-dimensional convolution filter. マスク画像の例を示す図である。FIG. 3 is a diagram showing an example of a mask image. 鋼材成分学習推定装置の構成例を示すブロック図である。FIG. 2 is a block diagram showing a configuration example of a steel material component learning estimation device. 火花画像と鋼種との対応例を示す図である。FIG. 3 is a diagram showing an example of correspondence between spark images and steel types. 推論フェーズの手順例を示すフロー図である。FIG. 3 is a flow diagram showing an example of a procedure of an inference phase. 合金元素の判定手法の例を説明するための図である。FIG. 3 is a diagram for explaining an example of a method for determining alloying elements. 合金元素の判定手法の例を説明するための図である。FIG. 3 is a diagram for explaining an example of a method for determining alloying elements. 合金元素の判定手法の例を説明するための図である。FIG. 3 is a diagram for explaining an example of a method for determining alloying elements.

以下、本発明の好ましい実施の形態を、図面を参照しながら説明する。なお、以下に示す各実施の形態は、本発明の技術的思想を具体化するための方法及び装置を例示するものであって、本発明の技術的思想は下記のものに限定されるわけではない。本発明の技術的思想は、特許請求の範囲に記載された技術的範囲内において種々の変更を加えることができる。 Hereinafter, preferred embodiments of the present invention will be described with reference to the drawings. It should be noted that each embodiment shown below exemplifies a method and apparatus for embodying the technical idea of the present invention, and the technical idea of the present invention is not limited to the following. do not have. The technical idea of the present invention can be modified in various ways within the technical scope described in the claims.

図1は、鋼材成分学習推定装置1の構成例を示すブロック図である。鋼材成分学習推定装置1は、鋼材成分学習装置の一態様であり、鋼材成分推定装置の一態様でもあり、鋼種判定装置の一態様でもある。 FIG. 1 is a block diagram showing a configuration example of a steel component learning estimation device 1. As shown in FIG. The steel component learning estimation device 1 is one embodiment of a steel component learning device, one embodiment of a steel component estimation device, and one embodiment of a steel type determination device.

鋼材成分学習推定装置1は、CPU、RAM、ROM、不揮発性メモリ及び入出力インターフェース等を含む制御部10を備えるコンピュータである。制御部10は、取得部11、学習部13、推論部15及び鋼種判定部17を含んでいる。これらの機能部は、制御部10のCPUがROM又は不揮発性メモリからRAMにロードされたプログラムに従って情報処理を実行することによって実現される。 The steel component learning estimation device 1 is a computer including a control unit 10 including a CPU, RAM, ROM, nonvolatile memory, input/output interface, and the like. The control section 10 includes an acquisition section 11 , a learning section 13 , an inference section 15 , and a steel type determination section 17 . These functional units are realized by the CPU of the control unit 10 executing information processing according to a program loaded into the RAM from the ROM or nonvolatile memory.

プログラムは、例えば光ディスク又はメモリカード等の情報記憶媒体を介して供給されてもよいし、例えばインターネット等の通信ネットワークを介して供給されてもよい。 The program may be supplied, for example, via an information storage medium such as an optical disc or a memory card, or may be supplied, for example, via a communication network such as the Internet.

制御部10は、データベース2にアクセス可能である。データベース2は、鋼材成分学習推定装置1の内部に設けられてもよいし、外部に設けられてもよい。 The control unit 10 can access the database 2. The database 2 may be provided inside the steel component learning estimation device 1 or may be provided outside.

カメラ3は、鋼材SをグラインダGで研削したときに発生する火花を撮影して画像データを生成し、制御部10に出力する。カメラ3は、鋼材Sを上方から見下ろし、かつ火花を見送る方向を向くように配置され、火花全体が写るように焦点距離や被写界深度が調整される。鋼材Sを研削して火花を発生させる方法は、例えば火花試験(JIS G 0566)に定められた方法に準ずる。 The camera 3 photographs sparks generated when the steel material S is ground by the grinder G, generates image data, and outputs the image data to the control unit 10. The camera 3 is arranged so as to look down on the steel material S from above and face the direction of seeing the sparks, and its focal length and depth of field are adjusted so that the entire sparks are captured. The method for generating sparks by grinding the steel material S is based on, for example, the method specified in the spark test (JIS G 0566).

カメラ3により生成された画像データは、後述する学習部13による学習フェーズと推論部15による推論フェーズとで入力データとして利用される。以下、火花を撮影することにより生成される画像データを「火花画像」という。 The image data generated by the camera 3 is used as input data in a learning phase by a learning section 13 and an inference phase by an inference section 15, which will be described later. Hereinafter, image data generated by photographing sparks will be referred to as a "spark image."

図2は、火花画像4の例を示す図である。鋼材Sを研削したときに発生する火花は、根本部、中途部、先端部における流線や破裂などの特徴(例えば形状、量、色など)が鋼材Sの成分に応じて変化する。例えば鋼材中の炭素の量が多くなると、火花は早く破裂し、流線の数が多くなる。 FIG. 2 is a diagram showing an example of the spark image 4. As shown in FIG. The characteristics (for example, shape, amount, color, etc.) of the sparks generated when the steel material S is ground, such as streamlines and ruptures at the base, middle, and tip, change depending on the components of the steel material S. For example, the higher the amount of carbon in the steel, the faster the spark will explode and the more streamlines there will be.

カメラ3から制御部10に出力された火花画像4は、データベース2に保存される。また、図3に示すような火花画像4の識別情報と鋼材Sの成分情報とを対応付けたテーブルも、データベース2に保存される。鋼材Sの成分情報は、例えば鋼材Sに含まれる炭素量又は合金元素で表される。鋼材Sの成分情報は、後述する学習部13による学習フェーズで教師データとして利用される。 The spark image 4 output from the camera 3 to the control unit 10 is stored in the database 2. Further, a table as shown in FIG. 3 in which the identification information of the spark image 4 is associated with the component information of the steel material S is also stored in the database 2. The component information of the steel material S is represented by, for example, the amount of carbon or alloy element contained in the steel material S. The component information of the steel material S is used as teacher data in a learning phase by the learning section 13, which will be described later.

火花画像4は、画素サイズが大きいと学習に時間が掛かるため、情報が欠落しない程度(例えば、縦300×横100画素程度)に縮小することが好ましい。また、火花画像4は、鋼材SをグラインダGに押し当てる強さや位置などの研削条件、温度や湿度などの環境条件などの条件を変えて多数用意することが好ましい。また、後述するように火花画像4に部分的にマスクを設定したマスク画像を加えてもよい。 If the pixel size of the spark image 4 is large, it will take time to learn, so it is preferable to reduce the size to an extent that no information is lost (for example, about 300 pixels vertically by 100 pixels horizontally). Further, it is preferable to prepare a large number of spark images 4 by changing grinding conditions such as the strength and position of pressing the steel material S against the grinder G, and environmental conditions such as temperature and humidity. Further, as will be described later, a mask image in which a partial mask is set may be added to the spark image 4.

[学習フェーズ]
図4は、学習フェーズの手順例を示すフロー図である。制御部10は、同図に示す情報処理をプログラムに従って実行することにより、取得部11及び学習部13として機能する。
[Learning phase]
FIG. 4 is a flow diagram showing an example of the procedure of the learning phase. The control unit 10 functions as an acquisition unit 11 and a learning unit 13 by executing the information processing shown in the figure according to a program.

まず、制御部10は、火花画像4及び鋼材Sの成分情報を取得する(S11、取得部11としての処理)。学習フェーズでは、火花画像4とそれに対応付けられた鋼材Sの成分情報とがデータベース2から読み出される。 First, the control unit 10 acquires the spark image 4 and the component information of the steel material S (S11, processing as the acquisition unit 11). In the learning phase, the spark image 4 and the component information of the steel material S associated therewith are read from the database 2.

次に、制御部10は、複数用意された火花画像4及び成分情報の組から一部を機械学習用のトレーニングデータとして抽出し(S12)、抽出したトレーニングデータを用いて機械学習を実行する(S13)。機械学習は、火花画像4を入力データとし、成分情報を教師データとして行われる。これにより、火花画像4から鋼材Sの成分を推定するための学習済みモデルが構築される。 Next, the control unit 10 extracts a portion of the plurality of prepared spark images 4 and component information sets as training data for machine learning (S12), and executes machine learning using the extracted training data (S12). S13). Machine learning is performed using the spark image 4 as input data and the component information as teacher data. As a result, a learned model for estimating the components of the steel material S from the spark image 4 is constructed.

次に、制御部10は、複数用意された火花画像4及び成分情報の組からトレーニングデータとは別の一部をテストデータとして抽出し(S14)、抽出したテストデータを用いて学習済みモデルを評価する(S15)。その後、制御部10は、評価が所定以上であった学習済みモデルをデータベース2に保存し(S16)、学習フェーズを終了する。 Next, the control unit 10 extracts a part other than the training data from the plurality of prepared spark images 4 and component information sets as test data (S14), and uses the extracted test data to create a learned model. Evaluate (S15). After that, the control unit 10 stores the trained models whose evaluation is equal to or higher than a predetermined value in the database 2 (S16), and ends the learning phase.

図5は、学習済みモデルの構築例を説明するための図である。学習済みモデルは、畳み込みニューラルネットワークであり、畳み込みフィルタ、プーリング層、全結合層、及び出力層を含んでいる。特には、ニューロンを多段に組み合わせたディープニューラルネットワークが好適である。火花画像4が、例えば縦300×横100画素のカラー画像である場合、入力は90000要素となる。 FIG. 5 is a diagram for explaining an example of building a trained model. The trained model is a convolutional neural network and includes a convolution filter, a pooling layer, a fully connected layer, and an output layer. In particular, a deep neural network in which neurons are combined in multiple stages is suitable. If the spark image 4 is a color image of, for example, 300 pixels in the vertical direction and 100 pixels in the horizontal direction, the input will be 90,000 elements.

鋼材Sの炭素量を推定する場合には、畳み込みニューラルネットワークの出力層は1要素となる。すなわち、畳み込みニューラルネットワークを鋼材Sの炭素量の回帰に用いる。例えば、炭素鋼の一種であるSC鋼は、炭素量が0.1~0.6%程度のものがよく生産されるので、炭素量が0.1~0.6%の間の様々なSC鋼の火花画像4を用意し、学習させることで、火花画像4から炭素量を推定する学習済みモデルが構築される。 When estimating the carbon content of the steel material S, the output layer of the convolutional neural network becomes one element. That is, a convolutional neural network is used for regression of the carbon content of the steel material S. For example, SC steel, which is a type of carbon steel, is often produced with a carbon content of about 0.1 to 0.6%, so various SC steels with a carbon content of 0.1 to 0.6% are produced. By preparing a spark image 4 of steel and performing learning, a trained model for estimating the amount of carbon from the spark image 4 is constructed.

鋼材Sに含まれる合金元素(N種類)を推定する場合には、畳み込みニューラルネットワークの出力層はN要素となる。すなわち、畳み込みニューラルネットワークを鋼材Sに含まれる合金元素の分類に用いる。例えば、合金元素を含む鋼材であるモリブデン鋼やクロム鋼の火花画像4を用意し、学習させることで、火花画像4から鋼材中に含まれるモリブデンやクロムといった合金元素を推定する学習モデル済みモデルが構築される。 When estimating the alloying elements (N types) contained in the steel material S, the output layer of the convolutional neural network becomes N elements. That is, a convolutional neural network is used to classify alloy elements contained in the steel material S. For example, by preparing a spark image 4 of molybdenum steel or chromium steel, which are steel materials containing alloying elements, and training it, a trained model that estimates alloying elements such as molybdenum and chromium contained in the steel material from the spark image 4 can be created. Constructed.

鋼材Sの炭素量の回帰を行う畳み込みニューラルネットワークと、鋼材Sの合金元素の分類を行う畳み込みニューラルネットワークとを個別に構築してもよいし、鋼材Sの炭素量の回帰と鋼材Sの合金元素の分類とを同時に行う畳み込みニューラルネットワークを構築してもよい。 A convolutional neural network that regresses the carbon content of steel material S and a convolutional neural network that classifies the alloying elements of steel material S may be constructed separately, or a convolutional neural network that performs regression of the carbon content of steel material S and a convolutional neural network that performs classification of alloying elements of steel material S may be constructed separately. A convolutional neural network may be constructed that simultaneously performs classification.

なお、図5に示す畳み込みニューラルネットワークはあくまでも一例であり、層構造はこれに限られず、畳み込み層、プーリング層、及び全結合層はそれぞれ複数あってもよい。また、サポートベクタマシン、決定木等のニューラルネットワーク以外の機械学習を用いてもよい。 Note that the convolutional neural network shown in FIG. 5 is just an example, and the layer structure is not limited to this, and there may be a plurality of convolution layers, pooling layers, and fully connected layers. Furthermore, machine learning other than neural networks such as support vector machines and decision trees may be used.

[推論フェーズ]
図6は、推論フェーズの手順例を示すフロー図である。制御部10は、同図に示す情報処理をプログラムに従って実行することにより、取得部11、推論部15及び鋼種判定部17として機能する。
[Inference phase]
FIG. 6 is a flow diagram illustrating an example of the procedure of the inference phase. The control unit 10 functions as an acquisition unit 11, an inference unit 15, and a steel type determination unit 17 by executing the information processing shown in the figure according to a program.

まず、制御部10は、火花画像4を取得する(S21、取得部11としての処理)。推論フェーズでは、取得部11がカメラ3から取得した火花画像4が推論部15に直接的に入力される。これに限らず、火花画像4は、データベース2に一旦保存され、データベース2から読み出されてもよい。 First, the control unit 10 acquires the spark image 4 (S21, processing as the acquisition unit 11). In the inference phase, the spark image 4 acquired by the acquisition unit 11 from the camera 3 is directly input to the inference unit 15. The present invention is not limited to this, and the spark image 4 may be temporarily stored in the database 2 and then read from the database 2.

次に、制御部10は、取得された火花画像4を入力データとし、学習フェーズで作成された学習済みモデルを用いて、鋼材Sの成分を推定する(S22、推論部15としての処理)。 Next, the control unit 10 uses the acquired spark image 4 as input data and estimates the components of the steel material S using the learned model created in the learning phase (S22, processing as the inference unit 15).

次に、制御部10は、推定された鋼材Sの成分に基づいて鋼材Sの鋼種を判定する(S23、鋼種判定部17としての処理)。鋼種の判定は、例えば数秒の推定結果を平均した上で行われる。データベース2には、図7に示すような鋼種と成分情報とを対応付けたテーブルが保存されており、制御部10は、推定された鋼材Sの成分に対応する鋼種をテーブルから読み出す。 Next, the control unit 10 determines the steel type of the steel material S based on the estimated components of the steel material S (S23, processing as the steel type determination unit 17). The steel type is determined by averaging the estimation results over several seconds, for example. The database 2 stores a table as shown in FIG. 7 in which steel types and component information are associated with each other, and the control unit 10 reads out the steel type corresponding to the estimated composition of the steel material S from the table.

例えば、炭素鋼の一種であるSC鋼の検査をする場合においては、火花画像4から鋼材Sの炭素量を推定することで、例えばS10C、S35C等の鋼種を判定することができる。例えば、制御部10は、JIS等の鋼種規格の上位の規格情報(例えばSC鋼)の入力を受け付けて(入力受付部としての処理)、その下位に属する鋼種(例えばS10C、S35C等)を判定してもよい。 For example, when inspecting SC steel, which is a type of carbon steel, by estimating the carbon content of the steel material S from the spark image 4, it is possible to determine the steel type, such as S10C or S35C. For example, the control unit 10 receives input of upper standard information (for example, SC steel) of steel type standards such as JIS (processing as an input reception unit), and determines the steel types that belong to the lower level (for example, S10C, S35C, etc.). You may.

また、鋼材の含有金属を検査する場合においては、火花画像4から鋼材Sに含まれる合金元素を推定することで、例えばモリブデン鋼、クロム鋼などの鋼種を判定することができる。例えば、制御部10は、合金元素を含む鋼材である旨の情報を成分情報として受け付けて、合金元素の推定結果から、例えばモリブデン鋼、クロム鋼などの鋼種を判定してもよい。 Furthermore, when inspecting the metals contained in the steel material, by estimating the alloy elements contained in the steel material S from the spark image 4, the type of steel, such as molybdenum steel or chromium steel, can be determined, for example. For example, the control unit 10 may receive information indicating that the steel material contains an alloying element as component information, and determine the type of steel, such as molybdenum steel or chromium steel, based on the estimation result of the alloying element.

また、炭素量の推定と合金元素の推定とを組み合わせることで、未知の鋼材Sであっても鋼種を判定することができる。 Furthermore, by combining the estimation of carbon content and the estimation of alloying elements, the steel type can be determined even if the steel material S is unknown.

以上に説明した実施形態によれば、機械学習により作成された学習済みモデルを用いて火花画像4から鋼材Sの成分を推定することで、推定精度を向上させることが可能となる。また、試験毎に取得される火花画像4及び成分情報を利用して機械学習を重ねることで、推定精度を益々向上させることが可能となる。 According to the embodiment described above, the estimation accuracy can be improved by estimating the components of the steel material S from the spark image 4 using a learned model created by machine learning. Further, by repeating machine learning using the spark image 4 and component information acquired for each test, it is possible to further improve the estimation accuracy.

また、実施形態によれば、特許文献1や特許文献2に開示された画像処理や画像変換などを行わなくても、火花画像4から鋼材Sの成分を推定することが可能となる。 Further, according to the embodiment, it is possible to estimate the components of the steel material S from the spark image 4 without performing the image processing, image conversion, etc. disclosed in Patent Document 1 and Patent Document 2.

また、これまで検査員の熟練度に依存していた官能検査を、実施形態の高精度で定量的な成分推定に置き換えることが可能となる。また、実施形態によれば、研削条件や環境条件が変わっても成分推定を高精度に維持することが可能となる。 Furthermore, it becomes possible to replace the sensory tests that have hitherto been dependent on the skill level of the inspector with the highly accurate and quantitative component estimation of the embodiment. Further, according to the embodiment, it is possible to maintain component estimation with high accuracy even if the grinding conditions and environmental conditions change.

また、実施形態によれば、短時間での異材混入検査や鋼種判定が求められる工場ラインにおいて、迅速な検査・判定が可能となる。また、実施形態によれば、蛍光X線分析では難しい鋼材の炭素量の判定が容易に実現する。 Further, according to the embodiment, rapid inspection and determination can be performed on a factory line where inspection for foreign material contamination and steel type determination are required in a short time. Further, according to the embodiment, it is possible to easily determine the carbon content of steel materials, which is difficult to do with fluorescent X-ray analysis.

[複数カメラ]
図8及び図9は、複数のカメラ3,31,32を用いた変形例を示す図である。本変形例では、複数のカメラ3,31,32により火花を互いに異なる複数の方向から撮影して得られる複数の火花画像4,41,42を、畳み込みニューラルネットワークの入力データとする。
[Multiple cameras]
8 and 9 are diagrams showing a modification using a plurality of cameras 3, 31, 32. In this modification, a plurality of spark images 4, 41, 42 obtained by photographing sparks from a plurality of different directions using a plurality of cameras 3, 31, 32 are input data to a convolutional neural network.

特に、鋼材Sを研削したときに発生する火花は根本部、中央部、先端部において特徴を持つことから、火花の全体を撮影して得られる火花画像4に加えて、火花の根元部、中途部又は先端部を撮影して得られる1以上の部分画像41,42を用いることで、成分推定の更なる精度向上を図ることが可能となる。 In particular, since the sparks generated when grinding the steel material S have characteristics at the root, center, and tip, in addition to the spark image 4 obtained by photographing the entire spark, By using one or more partial images 41 and 42 obtained by photographing the tip or the tip, it is possible to further improve the accuracy of component estimation.

図示の例では、カメラ3により火花の全体を撮影して得られる火花画像4に加えて、カメラ31により火花の中途部を撮影して得られる部分画像41と、カメラ32により火花の先端部を撮影して得られる部分画像42とが用いられる。部分画像41,42では、着目部分が火花画像4よりも拡大されている。 In the illustrated example, in addition to a spark image 4 obtained by photographing the entire spark with the camera 3, a partial image 41 obtained by photographing the middle part of the spark with the camera 31, and a partial image 41 obtained by photographing the middle part of the spark with the camera 32. A partial image 42 obtained by photographing is used. In the partial images 41 and 42, the portion of interest is enlarged more than in the spark image 4.

なお、これに限らず、火花画像4を省略して、火花の根元部、中途部又は先端部を撮影して得られる2以上の部分画像41,42を用いてもよい。 Note that the present invention is not limited to this, and the spark image 4 may be omitted and two or more partial images 41 and 42 obtained by photographing the root, middle, or tip of the spark may be used.

[時系列画像]
図10は、時系列の複数の火花画像4を用いた変形例を示す図である。本変形例では、カメラ3により火花を撮影して得られる時系列の複数の火花画像4を、畳み込みニューラルネットワークの入力データとする。時系列の複数の火花画像4は、例えば動画データに含まれる複数の静止画像であってもよいし、所定の時間間隔で撮影して個別に生成された複数の静止画像であってもよい。
[Time series images]
FIG. 10 is a diagram showing a modification using a plurality of time-series spark images 4. In this modification, a plurality of time-series spark images 4 obtained by photographing sparks with the camera 3 are input data to the convolutional neural network. The plurality of time-series spark images 4 may be, for example, a plurality of still images included in video data, or may be a plurality of still images individually generated by capturing at predetermined time intervals.

火花の状態は時間的に変化するため、時系列の複数の火花画像4を入力データとすることにより、1枚の火花画像4のみを入力データとする場合よりも、時間的に変化する火花の特徴が認識しやすくなり、成分推定の更なる精度向上を図ることが可能となる。 Since the state of sparks changes over time, by using a plurality of time-series spark images 4 as input data, the state of sparks that changes over time is better than when using only one spark image 4 as input data. Features become easier to recognize, making it possible to further improve the accuracy of component estimation.

特に、図11に示すような、火花画像4の垂直軸と水平軸の2次元に加えて、時系列の複数の火花画像4の時間軸を第3の次元とする3次元畳み込みフィルタを用いることにより、時間的に変化する火花の特徴がより認識しやすくなり、成分推定の更なる精度向上を図ることが可能となる。 In particular, as shown in FIG. 11, in addition to the two-dimensional vertical and horizontal axes of the spark image 4, a three-dimensional convolution filter may be used that has the time axis of the plurality of time-series spark images 4 as the third dimension. This makes it easier to recognize the characteristics of sparks that change over time, making it possible to further improve the accuracy of component estimation.

[マスク画像]
図12は、マスク画像4a~4cを用いた変形例を示す図である。本変形例では、火花画像4に部分的にマスクを設定したマスク画像4a~4cを、畳み込みニューラルネットワークの入力データに用いる火花画像4の1つとしてもよい。
[Mask image]
FIG. 12 is a diagram showing a modified example using mask images 4a to 4c. In this modification, mask images 4a to 4c, which are partially masked spark images 4, may be used as one of the spark images 4 used as input data for the convolutional neural network.

火花画像4にランダムにマスクを設定することにより、畳み込みニューラルネットワークの注目箇所を分散させることができるので、成分推定の更なる精度向上かつ汎化性能向上を図ることが可能となる。 By randomly setting a mask on the spark image 4, the points of interest of the convolutional neural network can be distributed, so that it is possible to further improve the precision of component estimation and the generalization performance.

特に、鋼材Sを研削したときに発生する火花は根本部、中央部、先端部において特徴を持つことから、火花の根元部にマスクを設定したマスク画像4a、火花の中途部にマスクを設定したマスク画像4b、又は火花の先端部にマスクを設定したマスク画像4cを作成することで、畳み込みニューラルネットワークの注目箇所を根本部、中央部及び先端部に分散させ易くなる。 In particular, since the sparks generated when grinding the steel material S have characteristics at the root, center, and tip, mask image 4a has a mask set at the base of the spark, and a mask is set at the middle part of the spark. By creating the mask image 4b or the mask image 4c in which a mask is set at the tip of the spark, it becomes easier to distribute the points of interest of the convolutional neural network to the root, center, and tip.

マスク画像4a,4b又は4cのみを作成してもよいし、ランダムにマスクを設定したマスク画像を作成する際に、マスク画像4a,4b又は4cの割合を他よりも多くしてもよい。 Only the mask images 4a, 4b, or 4c may be created, or when creating a mask image with randomly set masks, the ratio of the mask images 4a, 4b, or 4c may be greater than the others.

以上、本発明の実施形態について説明したが、本発明は上記実施形態に限定されるものではなく、種々の変形実施が当業者にとって可能であるのはもちろんである。 Although the embodiments of the present invention have been described above, the present invention is not limited to the above embodiments, and it goes without saying that various modifications can be made by those skilled in the art.

上記実施形態では、鋼材成分学習推定装置1が学習フェーズに係る構成と推論フェーズに係る構成との両方を含んでいたが、これに限らず、学習フェーズに係る構成と推論フェーズに係る構成とを別個の装置で実現してもよい。 In the above embodiment, the steel material component learning estimation device 1 includes both the configuration related to the learning phase and the configuration related to the inference phase, but is not limited to this. It may also be realized by a separate device.

また、上記実施形態では、火花画像4から鋼材Sの成分を推定する学習済みモデルを用い、推定された鋼材Sの成分から鋼種を判定していたが、これに限らず、火花画像4から鋼種を直接的に推定する学習済みモデルを構築してもよい。 Further, in the above embodiment, the learned model that estimates the components of the steel material S from the spark image 4 is used to determine the steel type from the estimated components of the steel material S, but the invention is not limited to this. You may also construct a trained model that directly estimates .

[他の実施形態]
以下、他の実施形態について説明する。上記実施形態と重複する構成及び手順については、同番号を付すことで詳細な説明を省略することがある。
[Other embodiments]
Other embodiments will be described below. For configurations and procedures that overlap with those of the above embodiment, detailed explanations may be omitted by assigning the same numbers.

図13は、他の実施形態に係る鋼材成分学習推定装置1Bの構成例を示すブロック図である。制御部10は、取得部11、学習部13、推論部15、鋼種判定部17、予備推論部18、及びモデル選択部19を含んでいる。 FIG. 13 is a block diagram showing a configuration example of a steel component learning estimation device 1B according to another embodiment. The control unit 10 includes an acquisition unit 11 , a learning unit 13 , an inference unit 15 , a steel type determination unit 17 , a preliminary inference unit 18 , and a model selection unit 19 .

鋼材(鋼種)は、炭素量に応じて複数の鋼材グループにグループ分けすることができる。例えば、炭素量が0.3%以下の低炭素量グループ、炭素量が0.3%以上0.7%以下の中炭素量グループ、及び炭素量が0.7%以上の高炭素量グループにグループ分けすることができる。 Steel materials (steel types) can be grouped into a plurality of steel material groups according to carbon content. For example, a low carbon content group with a carbon content of 0.3% or less, a medium carbon content group with a carbon content of 0.3% or more and 0.7% or less, and a high carbon content group with a carbon content of 0.7% or more. Can be grouped.

このようにグループ分けされた複数の鋼材グループのそれぞれには、種々の鋼種が含まれる。例えば、低炭素量グループ、中炭素量グループ、及び高炭素量グループのそれぞれには、炭素鋼に加えて、硫黄、モリブデン、クロム、又はニッケル等の鋼種が含まれる。 Each of the plurality of steel material groups grouped in this way includes various steel types. For example, each of the low carbon content group, medium carbon content group, and high carbon content group includes steel types such as sulfur, molybdenum, chromium, or nickel in addition to carbon steel.

図13に示すように、本実施形態では、制御部10B(学習部13)は、学習フェーズにおいて、各鋼材グループ用の学習済みモデル(低炭素量グループ用学習済みモデル、中炭素量グループ用学習済みモデル、及び高炭素量グループ用学習済みモデル)を構築する。 As shown in FIG. 13, in the present embodiment, the control unit 10B (learning unit 13) uses a learned model for each steel material group (a trained model for the low carbon content group, a trained model for the medium carbon content group, and a trained model for the medium carbon content group) in the learning phase. and a trained model for the high carbon content group).

低炭素量グループ用学習済みモデルは、低炭素量グループに属する鋼材に基づいて構築され、低炭素量グループに属する鋼材の合金元素を判定するために適用される。中炭素量グループ用学習済みモデル及び高炭素量グループ用学習済みモデルについても同様である。 The trained model for the low carbon content group is constructed based on the steel materials belonging to the low carbon content group, and is applied to determine the alloying elements of the steel materials belonging to the low carbon content group. The same applies to the trained model for the medium carbon content group and the trained model for the high carbon content group.

また、制御部10B(学習部13)は、学習フェーズにおいて、炭素量推定用学習済みモデルも構築する。この炭素量推定用学習済みモデルは、上述したような鋼材の炭素量を推定するための学習済みモデルであり、詳細な説明を省略する。 In addition, the control unit 10B (learning unit 13) also constructs a learned model for carbon amount estimation in the learning phase. This trained model for carbon content estimation is a trained model for estimating the carbon content of steel materials as described above, and detailed description thereof will be omitted.

図14に示すように、火花画像と鋼種(又は合金元素)とを対応付けたテーブルは、鋼材グループ毎に用意される。学習フェーズにおいて、火花画像は入力データとして利用され、合金元素は教師データとして利用される。なお、鋼種を教師データとしてもよい。 As shown in FIG. 14, a table that associates spark images with steel types (or alloy elements) is prepared for each steel material group. In the learning phase, the spark images are used as input data and the alloy elements are used as training data. Note that the steel type may be used as training data.

図示の例では、低炭素量グループに属する鋼材に係る火花画像と、当該鋼材に含まれる合金元素を表す鋼種との対応例を示している。すなわち、低炭素量グループのテーブルに含まれる火花画像は、低炭素量グループに属する鋼材を研削したときに発生する火花を撮影することにより生成された画像データである。 The illustrated example shows a correspondence example between a spark image related to a steel material belonging to a low carbon content group and a steel type representing an alloy element contained in the steel material. That is, the spark image included in the low carbon content group table is image data generated by photographing sparks generated when steel material belonging to the low carbon content group is ground.

制御部10B(学習部13)は、このように鋼材グループ毎に用意された火花画像及び鋼種(又は合金元素)を含むデータセットを用い、上記図4に示した学習フェーズの処理を鋼材グループ毎に実行することで、各鋼材グループ用の学習済みモデルを構築する。 The control unit 10B (learning unit 13) uses the data set including the spark image and steel type (or alloy element) prepared for each steel material group in this way to perform the processing of the learning phase shown in FIG. 4 for each steel material group. Build a trained model for each steel group by running

図15は、推論フェーズの手順例を示すフロー図である。制御部10Bは、同図に示す情報処理をプログラムに従って実行することにより、取得部11、推論部15、鋼種判定部17、予備推論部18、及びモデル選択部19として機能する。 FIG. 15 is a flow diagram illustrating an example of the procedure of the inference phase. The control unit 10B functions as an acquisition unit 11, an inference unit 15, a steel type determination unit 17, a preliminary inference unit 18, and a model selection unit 19 by executing the information processing shown in the figure according to a program.

制御部10Bは、火花画像を取得すると(S21、取得部11としての処理)、炭素量推定用学習済みモデルを用いて、取得した火花画像から鋼材の炭素量を推定する(S25、予備推論部18としての処理)。 When the control unit 10B acquires the spark image (S21, processing as the acquisition unit 11), the control unit 10B estimates the carbon content of the steel material from the acquired spark image using the trained model for carbon content estimation (S25, preliminary inference unit 18).

次に、制御部10Bは、推定された鋼材の炭素量に基づいて、複数の鋼材グループ用の学習済みモデルから1の鋼材グループ用の学習済みモデルを選択する(S26、モデル選択部19としての処理)。 Next, the control unit 10B selects a learned model for one steel group from the learned models for a plurality of steel groups based on the estimated carbon content of the steel material (S26, as the model selection unit 19). process).

具体的には、制御部10Bは、推定された鋼材の炭素量が、低炭素量グループ(炭素量範囲:0.3%以下)、中炭素量グループ(炭素量範囲:0.3%以上0.7%以下)、及び高炭素量グループ(炭素量範囲:0.7%以上)の何れに該当するかを判定するとともに、低炭素量グループ用学習済みモデル、中炭素量グループ用学習済みモデル、及び高炭素量グループ用学習済みモデルから、該当するグループ用の学習済みモデルを選択する。 Specifically, the control unit 10B controls whether the estimated carbon content of the steel material is in a low carbon content group (carbon content range: 0.3% or less), a medium carbon content group (carbon content range: 0.3% or more, 0. .7% or less) and high carbon content group (carbon content range: 0.7% or more), as well as a trained model for the low carbon content group and a trained model for the medium carbon content group. , and the trained model for the high carbon content group.

次に、制御部10Bは、選択された鋼材グループ用の学習済みモデルを用いて、上記S21で取得した火花画像から鋼材に含まれる合金元素を推定する(S27、推論部15としての処理)。 Next, the control unit 10B uses the learned model for the selected steel group to estimate the alloy element contained in the steel from the spark image acquired in S21 (S27, processing as the inference unit 15).

例えば、制御部10Bは、低炭素量グループ用学習済みモデルが選択された場合には、低炭素量グループ用学習済みモデルを用い、火花画像から鋼材に含まれる合金元素を推定する。中炭素量グループ用学習済みモデル及び高炭素量グループ用学習済みモデルについても同様である。 For example, when the learned model for the low carbon content group is selected, the control unit 10B uses the learned model for the low carbon content group to estimate the alloy element contained in the steel material from the spark image. The same applies to the trained model for the medium carbon content group and the trained model for the high carbon content group.

次に、制御部10Bは、推定された合金元素に基づいて、鋼材の鋼種を判定する(S23、鋼種判定部17としての処理)。以上により、推論フェーズが終了する。 Next, the control unit 10B determines the steel type of the steel material based on the estimated alloying element (S23, processing as the steel type determining unit 17). With the above, the inference phase ends.

以上に説明した実施形態によれば、鋼材の炭素量に応じた鋼材グループ用の学習済みモデルを用いて鋼材に含まれる合金元素を推定するので、合金元素の推定精度の向上を図ることが可能となる。 According to the embodiment described above, alloy elements contained in steel materials are estimated using trained models for steel material groups according to the carbon content of steel materials, so it is possible to improve the estimation accuracy of alloy elements. becomes.

また、炭素量推定用学習済みモデルにより鋼材の炭素量を推定し、その推定結果に基づいて鋼材グループ用の学習済みモデルを選択することで、鋼材の炭素量が不明であっても、鋼材の炭素量を推定し、さらに鋼材に含まれる合金元素を推定することが可能となる。 In addition, by estimating the carbon content of steel materials using a trained model for carbon content estimation and selecting a trained model for a steel material group based on the estimation results, even if the carbon content of steel materials is unknown, the carbon content of steel materials can be estimated. It becomes possible to estimate the carbon content and further estimate the alloying elements contained in the steel material.

なお、これに限らず、鋼材グループ用の学習済みモデルをユーザの操作に応じて選択してもよい。 Note that the present invention is not limited to this, and a trained model for a steel material group may be selected according to a user's operation.

[合金元素判定]
以下に説明するように、鋼材に含まれる合金元素は、時系列の複数の火花画像のそれぞれから学習済みモデルによって推定される複数の推定結果に基づいて判定されてもよい。
[Alloy element determination]
As described below, the alloying element contained in the steel material may be determined based on a plurality of estimation results estimated by a learned model from each of a plurality of time-series spark images.

火花の状態は時間に応じて変化するため、合金元素を判別しうる特徴が常時出現している訳ではない。例えばSCM鋼(モリブデン)では火花の先端部に特徴が出現するが、常時出現するわけではないため、1枚の火花画像だけでは特徴を捉えられず、単なるSC鋼と判定されてしまうことがある。 Because the state of the spark changes over time, characteristics that allow identification of the alloying element do not always appear. For example, with SCM steel (molybdenum), features appear at the tip of the spark, but they do not always appear, so the features may not be captured with just a single spark image, and it may be determined that it is just SC steel. .

図16は、SCR鋼(クロム)の火花画像30枚の推定結果例を示す図である。これによると、クロムとの推定結果が最も多いものの、炭素鋼との推定結果がその半分弱ほどあり、さらにはモリブデン、ニッケル、及び硫黄との推定結果も僅かながら見られる。 FIG. 16 is a diagram showing an example of estimation results for 30 spark images of SCR steel (chromium). According to this, although most of the results are estimated to be chromium, about half of them are estimated to be carbon steel, and there are also a few estimated results to be molybdenum, nickel, and sulfur.

そこで、本変形例では、時系列の複数の火花画像のそれぞれから学習済みモデルにより推定される複数の推定結果に基づいて、多数決的に合金元素を判定する。これにより、時間的に変化する火花の特徴を捉え、合金元素の判定精度の向上を図ることが可能となる。 Therefore, in this modification, alloy elements are determined by majority vote based on a plurality of estimation results estimated by a trained model from each of a plurality of time-series spark images. This makes it possible to capture characteristics of sparks that change over time and improve the accuracy of determining alloy elements.

具体的には、時系列の複数の火花画像を学習済みモデルに順次入力し、これにより順次推定される合金元素(推定結果)をカウントしていき、最も早く判定閾値に到達した合金元素を採用する。 Specifically, multiple time-series spark images are sequentially input into a trained model, which sequentially counts the estimated alloying elements (estimation results), and the alloying element that reaches the determination threshold earliest is adopted. do.

図17は、SNCM鋼(ニッケル)の推定結果例を示す図である。図18は、SCR鋼(クロム)の推定結果例を示す図である。横軸は火花画像の撮影時間(学習済みモデルへの入力枚数に対応)を表し、縦軸は累積判定枚数を表す。 FIG. 17 is a diagram showing an example of estimation results for SNCM steel (nickel). FIG. 18 is a diagram showing an example of estimation results for SCR steel (chromium). The horizontal axis represents the shooting time of spark images (corresponding to the number of images input to the trained model), and the vertical axis represents the cumulative number of images to be determined.

これによると、図17ではニッケルが最も早く判定閾値に到達しており、図18ではクロムが最も早く判定閾値に到達している。図示の例では、判定閾値は30枚である。1~2秒程度の撮影で判定可能な判定閾値を設定することが好ましい。 According to this, in FIG. 17, nickel reaches the determination threshold earliest, and in FIG. 18, chromium reaches the determination threshold earliest. In the illustrated example, the determination threshold is 30 sheets. It is preferable to set a determination threshold that can be determined by taking an image for about 1 to 2 seconds.

これに限らず、所定期間に撮影される複数の火花画像のそれぞれから学習済みモデルにより推定された合金元素(推定結果)のうち、最も多い合金元素を採用してもよい。 However, the present invention is not limited to this, and the alloy element that is the most common among the alloy elements (estimation results) estimated by the learned model from each of a plurality of spark images taken in a predetermined period may be adopted.

その他、k近傍法やSVM(サポートベクターマシーン)といった機械学習手法を用いて合金元素を判定してもよい。 In addition, alloy elements may be determined using machine learning methods such as the k-nearest neighbor method and SVM (support vector machine).

以上に説明した変形例によれば、時系列の複数の火花画像により、時間的に変化する火花の特徴を捉えて、合金元素の判定精度の向上を図ることが可能となる。さらに、合金元素の含有量が少ない鋼材や類似する火花特徴を持つ鋼種の判定精度の向上も図ることが可能となる。 According to the modification described above, it is possible to improve the accuracy of determining alloy elements by capturing characteristics of sparks that change over time using a plurality of time-series spark images. Furthermore, it is possible to improve the accuracy of determining steel materials with a low content of alloying elements and steel types with similar spark characteristics.

1 鋼材成分学習推定装置(鋼材成分学習装置、鋼材成分推定装置)、2 データベース、10 制御部、11 取得部、13 学習部、15 推論部、17 鋼種判定部、3,31,32 カメラ、4 火花画像、41,42 部分画像、4a~4c マスク画像

1 Steel component learning estimation device (steel component learning device, steel component estimation device), 2 Database, 10 Control unit, 11 Acquisition unit, 13 Learning unit, 15 Inference unit, 17 Steel type determination unit, 3, 31, 32 Camera, 4 Spark image, 41, 42 partial image, 4a-4c mask image

Claims (7)

鋼材を研削したときに発生する火花の画像データを取得する取得手段と、
画像データを入力データとし、鋼材の成分情報を教師データとして機械学習により予め構築された学習済みモデルを用い、前記画像データから前記鋼材の成分を推定する推論手段と、
を備え、
炭素量に応じてグループ分けされた複数の鋼材グループのそれぞれについて、鋼材に含まれる合金元素を教師データとして構築された複数の前記学習済みモデルから、1の鋼材グループ用の学習済みモデルを選択する選択手段をさらに備え、
前記推論手段は、前記選択された1の鋼材グループ用の学習済みモデルを用い、前記取得手段により取得された画像データから鋼材に含まれる合金元素を推定し、
画像データを入力データとし、鋼材の炭素量を教師データとして機械学習により予め構築された炭素量推定用学習済みモデルを用い、前記取得手段により取得された画像データから前記鋼材の炭素量を推定する予備推論手段をさらに備え、
前記選択手段は、前記予備推論手段により推定された鋼材の炭素量に基づいて、前記1の鋼材グループ用の学習済みモデルを選択し、
前記火花を撮影して得られる時系列の複数の画像データのそれぞれから前記学習済みモデルにより推定される複数の推定結果に基づいて、前記鋼材に含まれる合金元素を判定する判定手段をさらに備える、
鋼材成分推定装置。
an acquisition means for acquiring image data of sparks generated when grinding a steel material;
an inference means for estimating the components of the steel material from the image data using a trained model built in advance by machine learning using image data as input data and component information of the steel material as teacher data;
Equipped with
For each of a plurality of steel material groups grouped according to carbon content, a trained model for one steel material group is selected from the plurality of trained models constructed using alloy elements contained in the steel material as training data. further equipped with selection means,
The inference means estimates an alloy element contained in the steel material from the image data acquired by the acquisition means using the learned model for the selected one steel group,
The carbon content of the steel material is estimated from the image data acquired by the acquisition means using the image data as input data and the carbon content of the steel material as training data using a trained model for carbon content estimation built in advance by machine learning. further comprising a preliminary inference means;
The selection means selects the learned model for the first steel group based on the carbon content of the steel estimated by the preliminary inference means ,
Further comprising a determining means for determining an alloy element contained in the steel material based on a plurality of estimation results estimated by the learned model from each of a plurality of time-series image data obtained by photographing the sparks,
Steel component estimation device.
鋼材の鋼種情報又は成分情報の入力を受け付ける入力受付部と、
前記入力受付部に入力された情報と、請求項に記載の鋼材成分推定装置により推定された鋼材の成分とに基づいて、鋼種を判定する鋼種判定部と、
を備える、鋼種判定装置。
an input reception unit that receives input of steel type information or composition information of steel materials;
a steel type determining unit that determines the steel type based on the information input to the input receiving unit and the steel component estimated by the steel component estimating device according to claim 1 ;
A steel type determination device.
前記鋼種情報は、鋼種規格の上位の規格情報であり、
前記鋼種判定部は、前記上位の規格情報の下位に属する鋼種を判定する、
請求項に記載の鋼種判定装置。
The steel type information is upper standard information of the steel type standard,
The steel type determination unit determines a steel type belonging to a lower level of the upper standard information.
The steel type determination device according to claim 2 .
鋼材を研削したときに発生する火花の画像データを取得し、
画像データを入力データとし、鋼材の成分情報を教師データとして機械学習により予め構築された学習済みモデルを用い、前記画像データから前記鋼材の成分を推定する、
鋼材成分推定方法であって、
さらに、炭素量に応じてグループ分けされた複数の鋼材グループのそれぞれについて、鋼材に含まれる合金元素を教師データとして構築された複数の前記学習済みモデルから、1の鋼材グループ用の学習済みモデルを選択し、
前記鋼材の成分の推定では、前記選択された1の鋼材グループ用の学習済みモデルを用い、前記取得された画像データから鋼材に含まれる合金元素を推定し、
さらに、画像データを入力データとし、鋼材の炭素量を教師データとして機械学習により予め構築された炭素量推定用学習済みモデルを用い、前記取得された画像データから前記鋼材の炭素量を推定し、
前記学習済みモデルの選択では、前記推定された鋼材の炭素量に基づいて、前記1の鋼材グループ用の学習済みモデルを選択し、
さらに、前記火花を撮影して得られる時系列の複数の画像データのそれぞれから前記学習済みモデルにより推定される複数の推定結果に基づいて、前記鋼材に含まれる合金元素を判定する、
鋼材成分推定方法。
Obtain image data of sparks generated when grinding steel materials,
Estimating the components of the steel material from the image data using a trained model built in advance by machine learning with the image data as input data and the component information of the steel material as teacher data;
A method for estimating steel material components,
Furthermore, for each of a plurality of steel groups divided according to carbon content, a trained model for one steel group is selected from the plurality of trained models constructed using alloy elements contained in the steel as training data. choose,
In estimating the components of the steel material, using the learned model for the selected one steel material group, estimating alloy elements contained in the steel material from the acquired image data,
Furthermore, estimating the carbon content of the steel material from the acquired image data using the image data as input data and a trained model for carbon content estimation built in advance by machine learning using the carbon content of the steel material as teaching data,
In the selection of the learned model, the learned model for the first steel group is selected based on the estimated carbon content of the steel material ,
Further, determining an alloy element contained in the steel material based on a plurality of estimation results estimated by the learned model from each of a plurality of time-series image data obtained by photographing the sparks,
Steel composition estimation method.
鋼材の鋼種情報又は成分情報の入力を受け付け、
入力された情報と、請求項に記載の鋼材成分推定方法により推定された鋼材の成分とに基づいて、鋼種を判定する、
鋼種判定方法。
Accepts input of steel type information or composition information of steel materials,
Determining the steel type based on the input information and the steel composition estimated by the steel composition estimation method according to claim 4 .
Steel type determination method.
鋼材を研削したときに発生する火花の画像データを取得する取得手段、及び、
画像データを入力データとし、鋼材の成分情報を教師データとして機械学習により予め構築された学習済みモデルを用い、前記画像データから前記鋼材の成分を推定する推論手段、
としてコンピュータを機能させ、
炭素量に応じてグループ分けされた複数の鋼材グループのそれぞれについて、鋼材に含まれる合金元素を教師データとして構築された複数の前記学習済みモデルから、1の鋼材グループ用の学習済みモデルを選択する選択手段としてコンピュータをさらに機能させ、
前記推論手段は、前記選択された1の鋼材グループ用の学習済みモデルを用い、前記取得手段により取得された画像データから鋼材に含まれる合金元素を推定し、
画像データを入力データとし、鋼材の炭素量を教師データとして機械学習により予め構築された炭素量推定用学習済みモデルを用い、前記取得手段により取得された画像データから前記鋼材の炭素量を推定する予備推論手段としてコンピュータをさらに機能させ、
前記選択手段は、前記予備推論手段により推定された鋼材の炭素量に基づいて、前記1の鋼材グループ用の学習済みモデルを選択し、
前記火花を撮影して得られる時系列の複数の画像データのそれぞれから前記学習済みモデルにより推定される複数の推定結果に基づいて、前記鋼材に含まれる合金元素を判定する判定手段としてコンピュータをさらに機能させる、
プログラム。
Acquisition means for acquiring image data of sparks generated when grinding a steel material, and
Inference means for estimating the composition of the steel material from the image data using a trained model built in advance by machine learning using image data as input data and composition information of the steel material as teacher data;
make the computer function as
For each of a plurality of steel material groups grouped according to carbon content, a trained model for one steel material group is selected from the plurality of trained models constructed using alloy elements contained in the steel material as training data. Making the computer more functional as a means of selection,
The inference means estimates an alloy element contained in the steel material from the image data acquired by the acquisition means using the learned model for the selected one steel group,
The carbon content of the steel material is estimated from the image data acquired by the acquisition means using the image data as input data and the carbon content of the steel material as training data using a trained model for carbon content estimation built in advance by machine learning. make the computer further function as a means of preliminary inference;
The selection means selects the trained model for the first steel group based on the carbon content of the steel estimated by the preliminary inference means ,
further comprising a computer as a determination means for determining an alloy element contained in the steel material based on a plurality of estimation results estimated by the learned model from each of a plurality of time-series image data obtained by photographing the sparks; make it work,
program.
鋼材の鋼種情報又は成分情報の入力を受け付ける入力受付部、及び、
前記入力受付部に入力された情報と、請求項に記載のプログラムにより機能する推論手段により推定された鋼材の成分とに基づいて、鋼種を判定する鋼種判定部、
としてコンピュータを機能させるためのプログラム。

an input reception unit that receives input of steel type information or composition information of steel materials, and
a steel type determining unit that determines the steel type based on the information input to the input receiving unit and the composition of the steel material estimated by the inference means functioning according to the program according to claim 6 ;
A program that allows a computer to function as a computer.

JP2019119679A 2018-07-03 2019-06-27 Steel component learning device, steel component estimation device, steel type determination device, steel component learning method, steel component estimation method, steel type determination method, and program Active JP7372017B2 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018126532 2018-07-03
JP2018126532 2018-07-03

Publications (2)

Publication Number Publication Date
JP2020009435A JP2020009435A (en) 2020-01-16
JP7372017B2 true JP7372017B2 (en) 2023-10-31

Family

ID=69151914

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019119679A Active JP7372017B2 (en) 2018-07-03 2019-06-27 Steel component learning device, steel component estimation device, steel type determination device, steel component learning method, steel component estimation method, steel type determination method, and program

Country Status (1)

Country Link
JP (1) JP7372017B2 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20240127417A1 (en) * 2019-10-18 2024-04-18 Hitachi High-Tech Corporation Inspection System and Non-Transitory Computer-Readable Medium
CN111259850B (en) * 2020-01-23 2022-12-16 同济大学 A Pedestrian Re-ID Method Fused with Random Batch Masking and Multi-scale Representation Learning
JP6894032B1 (en) * 2020-04-14 2021-06-23 株式会社 ゼンショーホールディングス Heating state identification device, heating control device, heating control method, heating state identification system, and heating control system
JP7479961B2 (en) * 2020-06-25 2024-05-09 株式会社Screenホールディングス IMAGE PROCESSING APPARATUS, VISUAL INSPECTION APPARATUS, IMAGE PROCESSING METHOD, AND PROGRAM
JP7501173B2 (en) * 2020-07-08 2024-06-18 株式会社ジェイテクト METHOD FOR MANUFACTURING LEARNING MODEL USED IN QUALITY ASSESSMENT, LEARNING SYSTEM, QUALITY ASSESSMENT SYSTEM, AND QUALITY ASSESSMENT METHOD
JP7633495B2 (en) * 2021-03-08 2025-02-20 日本製鉄株式会社 Analysis device, analysis method, and program
CN113239784B (en) * 2021-05-11 2022-09-30 广西科学院 Pedestrian re-identification system and method based on space sequence feature learning
CN117538381B (en) * 2023-11-16 2024-10-11 肇庆市大正铝业有限公司 An intelligent system for detecting the composition of recycled aluminum alloy ingots

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015210651A (en) 2014-04-25 2015-11-24 サントリーシステムテクノロジー株式会社 Merchandise identification system
JP2016099126A (en) 2014-11-18 2016-05-30 学校法人東京理科大学 Steel component identification device and program thereof
JP2016206909A (en) 2015-04-21 2016-12-08 キヤノン株式会社 Information processing apparatus and information processing method
JP2018018153A (en) 2016-07-25 2018-02-01 オリンパス株式会社 Steel type discriminating apparatus and steel type discriminating method

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015210651A (en) 2014-04-25 2015-11-24 サントリーシステムテクノロジー株式会社 Merchandise identification system
JP2016099126A (en) 2014-11-18 2016-05-30 学校法人東京理科大学 Steel component identification device and program thereof
JP2016206909A (en) 2015-04-21 2016-12-08 キヤノン株式会社 Information processing apparatus and information processing method
JP2018018153A (en) 2016-07-25 2018-02-01 オリンパス株式会社 Steel type discriminating apparatus and steel type discriminating method

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
Kaiming He, Georgia Gkioxari, Piotr Doll´ar, Ross Girshick,Mask R-CNN,2017 IEEE International Conference on Computer Vision (ICCV),米国,IEEE,2017年10月22日,p.2980-p.2988,https://ieeexplore.ieee.org/stamp/stamp.jsp?tp=&arnumber=8237584
中野 智文 他,3D Convolutional Neural Networkを用いた飲用動作からの満足感推定,電子情報通信学会技術研究報告,Vol.117 No.109,日本,一般社団法人電子情報通信学会,2017年06月16日,p.33-p.38
進藤 智則,映像から人の動作認識するディープラーニング手法 3次元CNNをFacebook社やNTTコムなどが実装,NIKKEI Robotics,第5号,日本,日経BP社,2015年11月10日,p.6-p.8
鉄鋼材料検査通則及び試験方法,JISハンドブック▲1▼鉄鋼I(用語・検査・試験) ,第1版,日本,板倉 省吾 財団法人日本規格協会,2003年01月31日,p.508-p.523

Also Published As

Publication number Publication date
JP2020009435A (en) 2020-01-16

Similar Documents

Publication Publication Date Title
JP7372017B2 (en) Steel component learning device, steel component estimation device, steel type determination device, steel component learning method, steel component estimation method, steel type determination method, and program
US11715190B2 (en) Inspection system, image discrimination system, discrimination system, discriminator generation system, and learning data generation device
JP6693938B2 (en) Appearance inspection device
CN112101138B (en) Bridge inhaul cable surface defect real-time identification system and method based on deep learning
CN109781733A (en) Flaw detection apparatus, defect detecting method and computer readable storage medium
JP2019087181A (en) Device and method for image inspection
CN110647875A (en) Method for segmenting and identifying model structure of blood cells and blood cell identification method
CN119048497B (en) PCB defect detection method, system, equipment and storage medium
CN111914665A (en) Face shielding detection method, device, equipment and storage medium
CN119048496B (en) PCB defect detection method, system, equipment and storage medium
CN113361520B (en) Transmission line equipment defect detection method based on sample offset network
CN108802041A (en) A kind of method that the small sample set of screen detection is quickly remodeled
CN114140463A (en) Welding defect identification method, device, equipment and storage medium
CN115082416A (en) Lens flaw detection method, device, equipment and storage medium
CN115423755A (en) Wafer micromachining structure defect detection method and device, equipment and medium thereof
CN116385717A (en) Foliar disease identification method, device, electronic equipment, storage medium and product
CN114723952B (en) A model construction method and system for identifying dark stripe noise in high-speed TDI CCD camera images
CN113936159B (en) A method and system for detecting silkworm cocoons based on a control network
JP7070308B2 (en) Estimator generator, inspection device, estimator generator method, and estimator generator
CN110111332A (en) Collagent casing for sausages defects detection model, detection method and system based on depth convolutional neural networks
CN114596244A (en) Infrared image recognition method and system based on vision processing and multi-feature fusion
Ruengrote et al. Design of deep learning techniques for PCBs defect detecting system based on YOLOv10
CN113034359A (en) Intelligent diagnosis method and device for generator set stator and rotor defects, computer equipment and storage medium
CN115461186B (en) Methods and apparatus for revealing the influence of cutting parameters on the cutting edge.
CN115937555A (en) An Industrial Defect Detection Algorithm Based on Standardized Flow Model

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211026

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221021

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221108

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230105

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230509

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230706

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231018

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231018

R150 Certificate of patent or registration of utility model

Ref document number: 7372017

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150